CN111030861B - 一种边缘计算分布式模型训练方法、终端和网络侧设备 - Google Patents

Abstract

本发明实施例提供一种边缘计算分布式模型训练方法、终端和网络侧设备，其中，该方法包括：云端节点确定基础模型和云端模型系数的初始值，并将基础模型和初始值下发至N个边缘节点；基于基础模型和初始值所述N个边缘节点分别利用本地数据进行模型训练，以得到本地模型系数，并将本地模型系数上报至云端节点；云端节点基于接收到的本地模型系数更新云端模型系数，并将更新后的云端模型系数下发至N个边缘节点；在更新后的云端模型系数符合第一目标边缘节点的需求时，确定第一目标边缘节点的本地模型系数的值为更新后的模型系数。本发明实施例可以减少边缘计算分布式模型训练过程中的交互数据量，从而减少资源消耗。

Description

一种边缘计算分布式模型训练方法、终端和网络侧设备

技术领域

本发明涉及物联网技术领域，尤其涉及一种边缘计算分布式模型训练方法、终端和网络侧设备。

背景技术

随着物联网和人工智能技术的发展，基于物联网领域基于人工智能的边缘计算应用也越来越多，随着终端和边缘平台技术的进步，终端和边缘平台会利用本地数据对云端下发的基础模型进行再训练。

人工智能(Artificial Intelligence，AI)模型的训练需要基于海量的样本数据。云端基础模型的产生，需要利用收集来自各种渠道的海量样本数据。但是在一些人工智能的边缘计算场景中，数据往往有保密性的要求，另外训练数据从边缘节点传到云端会产生大量的网络流量。基于上述因素，造成各边缘节点的模型训练过程存在交互数据量大的缺点。

发明内容

本发明实施例提供一种边缘计算分布式模型训练方法、终端和网络侧设备，以解决相关技术中的边缘分布模型训练存在的交互数据量大的问题。

为解决以上技术问题，本发明采用如下技术方案：

第一方面，本发明实施例提供了一种边缘计算分布式模型训练方法，应用于边缘分布场景，所述边缘分布场景包括一个云端节点和N个边缘节点，所述N为大于1的整数，所述方法包括：

所述云端节点确定基础模型和云端模型系数的初始值，并将所述基础模型和所述初始值下发至所述N个边缘节点；

基于所述基础模型和所述初始值，所述N个边缘节点分别利用本地数据进行模型训练，以得到本地模型系数，并将所述本地模型系数上报至所述云端节点；

所述云端节点基于接收到的本地模型系数更新所述云端模型系数，并将更新后的云端模型系数下发至所述N个边缘节点；

在所述更新后的云端模型系数符合第一目标边缘节点的需求时，根据所述更新后的云端模型系数确定所述第一目标边缘节点的本地模型系数的值，其中，所述N个边缘节点包括所述第一目标边缘节点。

第二方面，本发明实施例还提供了一种边缘计算分布式模型训练系统，包括：存储器、第一处理器及存储在所述存储器上并可在所述第一处理器上运行的第一计算机程序，所述第一计算机程序被所述第一处理器执行时实现本发明实施例第一方面提供的所述边缘计算分布式模型训练方法的步骤。

第三方面，本发明实施例还提供了一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有第二计算机程序，所述第二计算机程序被第二处理器执行时实现本发明实施例第一方面提供的所述边缘计算分布式模型训练方法的步骤。

在本发明实施例应用于包括一个云端节点和N个边缘节点的边缘分布场景，所述N为大于1的整数，边缘计算分布式模型训练方法包括：所述云端节点确定基础模型和云端模型系数的初始值，并将所述基础模型和所述初始值下发至所述N个边缘节点；基于所述基础模型和所述初始值，所述N个边缘节点分别利用本地数据进行模型训练，以得到本地模型系数，并将所述本地模型系数上报至所述云端节点；所述云端节点基于接收到的本地模型系数更新所述云端模型系数，并将更新后的云端模型系数下发至所述N个边缘节点；在所述更新后的云端模型系数符合第一目标边缘节点的需求时，根据所述更新后的云端模型系数确定所述第一目标边缘节点的本地模型系数的值，其中，所述N个边缘节点包括所述第一目标边缘节点。这样，云端节点确定基础模型和云端模型系数的初始值后，无需从边缘节点获取数据样本，而是通过在各个边缘节点中利用本地数据对边缘分布模型的模型系数进行训练，以更新各个边缘节点的本地模型系数，并通过云端节点对多个边缘节点训练得到的本地模型系数进行综合处理，以更新所述云端模型系数，直至更新后的云端模型系数符合边缘节点的需求时，根据所述更新后的云端模型系数确定该边缘节点的本地模型系数的值，这样，云端节点无需从各个边缘节点中获取大量的样本数据，从而减少了边缘计算分布式模型训练过程中的交互数据量，达到减少资源消耗的效果。

附图说明

图1是本发明实施例提供的一种边缘计算分布式模型训练方法的流程图；

图2是本发明实施例提供的一种边缘计算分布式模型训练方法中云端节点与边缘节点之间的数据交互过程的示意图；

图3是本发明实施例提供的第一种边缘计算分布式模型训练系统的结构图。

具体实施方式

为使本发明要解决的技术问题、技术方案和优点更加清楚，下面将结合附图及具体实施例进行详细描述。

本发明实施例可以应用于物联网边缘分布场景中训练边缘计算分布式模型，其中，该物联网边缘分布场景中通过训练得到边缘计算分布模型，以根据该模型执行各项边缘计算，例如：物联网终端侧和边缘平台利用人工智能(Artificial Intelligence，AI)模型进行机器故障诊断、人脸识别等，其中，物联网边缘分布场景包括一个云端节点和多个边缘节点，在具体实施中，边缘节点可以是物联网终端设备，例如：手机终端、网关等，除此之外，边缘节点还可以是边缘平台等，在此不作具体限定。

在相关技术中，主要是通过云端节点下发或者产品开发时将AI模型放到边缘节点中，这样边缘节点可以自己将收集的数据输入到AI模型进行推断，并将处理结果上传到云端节点，但是为了使边缘计算模型与边缘节点中的数据与配置更加匹配，往往需要利用边缘节点中的数据样本对云端下发的基础模型进行再训练。

本发明实施例提供的边缘计算分布式模型训练方法可以满足在各个节点之间数据隔离的情况下，实现分布式的共同模型训练。且在模型训练过程中，各节点之间无需传递样本数据，且每个边缘节点分别训练各自的本地模型系数，使得本发明实施例提供的边缘计算分布式模型训练方法具有交互数据量小、支持异步训练以及保护边缘节点数据隐私性的优点。

请参见图1，图1是本发明实施例提供的一种边缘计算分布式模型训练方法的流程图，所述边缘计算分布式模型训练方法应用于边缘分布场景，所述边缘分布场景包括一个云端节点和N个边缘节点，所述N为大于1的整数，如图1所示，该方法包括以下步骤：

步骤101、所述云端节点确定基础模型和云端模型系数的初始值，并将所述基础模型和所述初始值下发至所述N个边缘节点。

其中，上述云端节点确定基础模型可以理解为：云端节点确定基础模型训练信息，例如：模型结构、输入信息、输出信息以及目标函数。在具体实施中，云端节点可以根据所述边缘分布计算模型的需求和数据特征等确定基础模型训练信息，或者还可以根据预设的数据样本训练得到上述基础模型训练信息，在此不作具体限定。

另外，上述云端模型系数的初始值也可以理解为在云端节点中确定出的所述基础模型中各参数的初始值。在后续边缘节点的训练过程中，所述基础模型的模型系数将根据训练结果发生改变以与边缘节点中的样本数据相匹配。

步骤102、基于所述基础模型和所述初始值，所述N个边缘节点分别利用本地数据进行模型训练，以得到本地模型系数，并将所述本地模型系数上报至所述云端节点。

其中，所述本地模型系数可以理解为：边缘节点利用本地数据对云端节点下发的模型系数(即所述云端模型系数的初始值)进行训练后得出的模型系数，该模型训练过程中，模型系数的初始值为云端节点下发的模型系数，并利用本地数据进行迭代计算以更新所述模型系数。在训练过程中，所述N个边缘节点分别仅根据各自存储或者采集到的样本数据对所述基础模型及其模型系数进行训练，而不进行云端节点与边缘节点或者边缘节点之间的样本数据交互，从而使得出训练结果为本地模型系数，且所述N个边缘节点可以分别将各自的训练结果上报至云端节点。

作为一种可选的实施方式，所述基于所述基础模型和所述初始值，所述N个边缘节点分别利用本地数据进行模型训练，以得到本地模型系数，并将所述本地模型系数上报至所述云端节点的步骤，包括：

基于所述初始值，所述N个边缘节点中的每个边缘节点分别利用本地数据对所述基础模型进行模型训练，以将本地模型系数的值由所述初始值变更为第一模型系数值，并向所述云端节点上报迭代信息，其中，所述迭代信息包括所述第一模型系数值、当前系数代和当前系数代的样本数据量；

所述云端节点基于接收到的本地模型系数更新所述云端模型系数，并将更新后的云端模型系数下发至所述N个边缘节点的步骤，包括：

所述云端节点根据所述迭代信息，更新当前系数代，并将更新后的当前系数代对应的云端模型系数的值变更为第二模型系数值，以及将所述更新后的当前系数代和所述第二模型系数值下发至所述N个边缘节点；

在所述云端节点基于接收到的本地模型系数更新所述云端模型系数，并将更新后的云端模型系数下发至所述N个边缘节点之后，所述方法还包括：

所述N个边缘节点中的每个边缘节点分别根据所述更新后的当前系数代和所述第二模型系数值，将本地模型系数由所述第一模型系数值变更为第三模型系数值。

在具体实施中，当前系数代的初始值为1，在后续模型训练过程中，云端节点每向边缘节点下发一次更新后的云端模型系数，则更新一次当前系数代，即在当前系数代的基础上加1，作为更新后的当前系数代。实施过程中，云端节点可以以二元信息组(Y_NOW_new，Q)的方式，将更新后的云端模型系数Y_NOW_new和当前系数代Q一同下发至边缘节点。另外，边缘节点也可以以三元信息组(Y_now_i，k，M_i)的方式，将更新后的本地模型系数Y_now_i，迭代所基于的系数代k和当前系数代迭代的样本数据量M_i一同上报至云端节点。

这样，可以根据当前系数代，使云端节点和边缘节点区分各迭代次序中的数据，避免混淆。另外，鉴于边缘节点在上报本地模型系数之后，还可以继续利用本地数据中的其他样本数据进行样本训练，以多次更新并上报本地模型系数，这样，在边缘节点在同一次迭代次序中多次上报本地模型系数的情况下，可以根据当前系数代将在最靠近当前时间上报的本地模型系数替代之前上报的属于同一迭代次序的本地模型系数。

进一步的，所述当前系数代的样本数据量根据所述当前系数代的迭代次数和所述边缘节点预设的每次迭代批次中包含的样本数量确定。

具体的，可以通过计算公式：当前系数代的样本数据量＝当前系数代的迭代次数×每次迭代批次中包含的样本数量，确定当前系数代的样本数据量。这样，可以通过计算公式简便的计算得到当前系数代的样本数据量。

进一步的，所述云端节点根据所述迭代信息，更新当前系数代，并将更新后的当前系数代对应的模型系数的值变更为第二模型系数值，包括：

获取与当前系数代匹配的迭代信息；

并根据所述与当前系数代匹配的迭代信息，确定

的值Y1，以及确定

的值M1，其中，所述i为第i个边缘节点，所述n为当前系数代中执行模型训练的边缘节点的总数，所述M_i为第i个边缘节点的样本数据量，所述Y_now_i为第i个边缘节点的本地模型系数；

在所述M1大于或者等于阈值的情况下，更新当前系数代，并基于更新后的当前系数代和计算公式Y_NOW_new＝beta×(Y1/M1)+(1-beta)×Y_NOW_old，将更新后的当前系数代对应的模型系数的值Y_NOW_old变更为第二模型系数值Y_NOW_new，其中，所述beta为更新步长，更新后的当前系数代＝更新前的当前系数代+1。

在具体实施中，鉴于训练得出符合需求的本地模型系数的边缘节点可以退出模型训练过程，则所述n的取值可以是小于N的整数。

另外，若M1小于所述阈值，则表示该模型训练过程中的数据量较少，将影响模型训练结果的准确性或者使模型训练不能够实施，在具体实施中，若所述M1小于所述阈值，则云端节点继续等待边缘节点上报迭代信息，直至所述M1大于或者等于阈值则按照上述实施方式更新后的当前系数代对应的模型系数的值Y_NOW_old变更为第二模型系数值Y_NOW_new。

本实施方式中，确保该模型训练过程中的数据量符合阈值，以提升模型训练过程的准确度。

进一步的，所述N个边缘节点中的每个边缘节点分别根据所述更新后的当前系数代和所述第二模型系数值，将本地模型系数由所述第一模型系数值变更为第三模型系数值的步骤，包括：

所述N个边缘节点中的每个边缘节点分别根据所述更新后的当前系数代和所述Y_NOW_new，采用计算公式：

alpha_i×Y_now_i+(1-alpha_i)×Y_NOW_new确定第i个边缘节点取第三模型系数值的本地模型系数，并将所述本地模型系数变更为所述第三模型系数值；

其中，所述alpha为预设本地数据偏好，所述Y_now_i为第i个边缘节点取第一模型系数值的本地模型系数。

在具体实施中，所述alpha的值可以取0至1之间的任一数值，且当本地数据较少或其他边缘节点数据统计差异不大时，建议所述alpha取值为0。当本地数据量很大且具有一定统计差异性时，所述alpha可取较大的数，但建议不超过0.5。

本实施方式中，可以在所述更新后的当前系数代和所述Y_NOW_new的基础上，结合本地数据的偏好对本地模型系数进行相应调整，以使得出的本地模型系数与本地数据量更加匹配，进而提升本地边缘计算模型的准确度。

步骤103、所述云端节点基于接收到的本地模型系数更新所述云端模型系数，并将更新后的云端模型系数下发至所述N个边缘节点。

本步骤中，云端节点接收到的本地模型系数进行统一处理，以据此变更云端模型系数的值，并下发至各边缘节点，使同一边缘计算场景中各边缘节点的模型系数根据该变更后的云端模型系数确定，从而具有一致性。

需要说明的是，在具体实施中，并不约束各个边缘节点上报本地模型系数的时间，例如：若边缘分布场景中包括10个边缘节点，某次再训练基础模型的迭代过程中，可以出现8个边缘节点先训练完成，从而上报其对应的8个本地模型系数，则云端节点可以仅根据该8个本地模型系数更新云端模型系数。这样，各边缘节点可以自由地选择参与训练和交互或者退出模型训练，而不需要一直在线与其他节点配合，使个边缘节点的工作不受云端节点的控制，提升了模型训练过程中边缘节点的灵活性。

作为一种可选的实施方式，在步骤102与步骤103之间，所述方法还包括：

第二目标边缘节点进行第M次模型训练，并向所述云端节点上报所述第M次模型训练的迭代信息，其中，所述M为大于1的整数，所述N个边缘节点包括所述第二目标边缘节点；

所述云端节点将所述第二目标边缘节点上报的迭代信息更新为所述第M次模型训练的迭代信息。

本实施方式中，在第二目标边缘节点进行第一次模型训练，并向所述云端节点上报模型训练结果之后，该第二目标边缘节点还可以继续进行训练，例如：第二目标边缘节点存储有10000个本地数据，每次模型训练过程仅采用其中100个作为样本数据，则该第二目标边缘节点可以在后续模型训练过程中，采用其他本地数据进行训练，并在每次得出模型训练结果时，将其上报至云端节点，这样，越靠近当前时间得出的模型训练结果执行的迭代次数最多，从而将该模型训练结果替代之前的模型训练结果可以提升模型训练的准确度。

当然，在模型训练过程中，边缘节点还可以进行数据采集，并利用采集的数据进行模型训练，在此不作具体限定。

步骤104、在所述更新后的云端模型系数符合第一目标边缘节点的需求时，根据所述更新后的云端模型系数确定所述第一目标边缘节点的本地模型系数的值，其中，所述N个边缘节点包括所述第一目标边缘节点。

在具体实施中，第一目标边缘节点可以根据该边缘节点配置的数据偏好等基于所述更新后的云端模型系数确定本地模型系数的值。

需要说明的是，在本步骤之后，若更新后的云端模型系数不符合所述N个边缘节点中至少部分边缘节点的需求时，可以迭代执行上述步骤102至104，且重复过程中，参与模型训练过程的边缘节点分别利用本地数据，且基于更新后的云端模型系数进行模型训练，直至所述N个边缘节点全部确定出符合其需求的模型系数时，终止迭代过程。

作为一种可选的实施方式，所述在所述更新后的云端模型系数符合第一目标边缘节点的需求时，根据所述更新后的云端模型系数确定所述第一目标边缘节点的本地模型系数的值的步骤，包括：

在所述本地模型系数的值符合第一目标边缘节点的需求的情况下，所述第一目标边缘节点退出模型训练，并根据所述更新后的云端模型系数确定所述第一目标边缘节点的本地模型系数的值。

在具体实施中，上述本地模型系数的值符合第一目标边缘节点的需求可以表示为：第一目标边缘节点在本地数据测试集上，验证更新后的本地模型系数的模型性能，在其性能(例如：计算速度、准确性等)满足要求时，该边缘节点退出模型训练过程。

另外，未退出模型训练过程的其他边缘节点将继续利用本地数据，基于基础模型结构和Y_NOW_new进行训练，并更新模型系数代，直至无边缘节点参与模型训练过程。

本实施方式中，将以得出符合需求的本地模型的边缘节点退出模型训练过程，以减小参与后续模型训练过程的边缘节点的数量，从而减小模型训练过程的复杂程度。

对于云端节点来说，每次更新迭代计算中，边缘节点产生的本地模型系数：

Y_now_i＝Y_NOW_old+sum(beta_ij×Sub(G_ij))，其中，G_ij为第i个边缘节点当前系数代中第j次迭代的样本批次，Sub(G_ij)为G_ij进行样本训练迭代时产生的子梯度，beta_ij为前进步长。

云端节点更新系数代时，更新系数代后的模型系数Y_NOW_new与前一系数代的Y_NOW_old的差值为：

Y_NOW_new-Y_NOW_old

＝beta×(SUM(M_i×Y_now_i/M1)-Y_NOW_old)

＝beta×SUM(M_i/M1×sum(beta_ij×Sub(G_ij))

由于各边缘节点样本均具有一致的任务目标，E(SUM(beta_i×M_i/M1×Sub(G_i)))仍然为该任务目标问题的子梯度。，其中，E(x)为期望函数。

这样，相比Y_NOW_old，Y_NOW_new前进方向的期望一直在子梯度方向上，所以最终能实现模型训练任务的收敛，从而验证了本发明实施例提供的边缘计算分布式模型训练方法是可行的。

为便于理解上述边缘计算分布式模型训练方法，下面以云端节点与边缘节点之间的数据交互过程为例进行具体说明：

请参阅图2，是本发明实施例提供的一种边缘计算分布式模型训练方法中云端节点与边缘节点之间的数据交互过程的示意图，在缘计算分布式模型训练中，云端节点与边缘节点之间的数据交互包括以下步骤：

步骤一、云端节点向边缘节点发送模型训练信息和模型初始系数；

步骤二、边缘节点进行本地模型训练，并将更新的模型系数和对应基础模型系数代发送至云端节点；

步骤三、云端节点根据边缘节点上报的更新后的模型系数和对应基础模型系数代，计算新模型系数，并将所述新模型系数和对应的新系数代发送至边缘节点；

步骤四、边缘节点对接收到的新模型系数进行本地模型验证，若不满足本地需求则重复本地模型训练过程，即重复步骤二至步骤四，直至训练出的模型系数满足本地需求。

在本发明实施例应用于包括一个云端节点和N个边缘节点的边缘分布场景，所述N为大于1的整数，边缘计算分布式模型训练方法包括：所述云端节点确定基础模型和云端模型系数的初始值，并将所述基础模型和所述初始值下发至所述N个边缘节点；基于所述基础模型和所述初始值，所述N个边缘节点分别利用本地数据进行模型训练，以得到本地模型系数，并将所述本地模型系数上报至所述云端节点；所述云端节点基于接收到的本地模型系数更新所述云端模型系数，并将更新后的云端模型系数下发至所述N个边缘节点；在所述更新后的云端模型系数符合第一目标边缘节点的需求时，根据所述更新后的云端模型系数确定所述第一目标边缘节点的本地模型系数的值，其中，所述N个边缘节点包括所述第一目标边缘节点。这样，云端节点确定基础模型和云端模型系数的初始值后，无需从边缘节点获取数据样本，而是通过在各个边缘节点中利用本地数据对边缘分布模型的模型系数进行训练，以更新各个边缘节点的本地模型系数，并通过云端节点对多个边缘节点训练得到的本地模型系数进行综合处理，以更新所述云端模型系数，直至更新后的云端模型系数符合边缘节点的需求时，根据所述更新后的云端模型系数确定该边缘节点的本地模型系数的值，这样，云端节点无需从各个边缘节点中获取大量的样本数据，从而减少了边缘计算分布式模型训练过程中的交互数据量，达到减少资源消耗的效果。

请参阅图3，是本发明实施例提供的一种边缘计算分布式模型训练系统的结构图。如图3所示，边缘计算分布式模型训练系统300包括：存储器301、第一处理器302及存储在存储器301上并可在第一处理器302上运行的第一计算机程序。

需要说明的是，本实施例中上述边缘计算分布式模型训练系统可以执行本发明实施例提供边缘计算分布式模型训练方法中的各个过程，以及达到相同的有益效果，此处不再赘述。

本发明实施例还提供一种计算机可读存储介质，其上存储有第二计算机程序，其特征在于，该程序被第二处理器执行时实现本发明实施例提供的终端侧的边缘计算分布式模型训练方法中的步骤，或者该程序被第二处理器执行时实现本发明实施例提供的边缘计算分布式模型训练方法中的步骤。

在本申请所提供的几个实施例中，应该理解到，所揭露方法和装置，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，装置或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。

另外，在本发明各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理包括，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用硬件加软件功能单元的形式实现。

上述以软件功能单元的形式实现的集成的单元，可以存储在一个计算机可读取存储介质中。上述软件功能单元存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本发明各个实施例所述边缘计算分布式模型训练方法的部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(Read-Only Memory，ROM)、随机存取存储器(Random Access Memory，RAM)、磁碟或者光盘等各种可以存储程序代码的介质。

以上所述是本发明的优选实施方式，应当指出，对于本技术领域的普通技术人员来说，在不脱离本发明所述原理的前提下，还可以作出若干改进和润饰，这些改进和润饰也应视为本发明的保护范围。

Claims (9)

1.一种边缘计算分布式模型训练方法，应用于边缘分布场景，所述边缘分布场景包括一个云端节点和N个边缘节点，所述N为大于1的整数，其特征在于，所述方法包括：

所述云端节点确定基础模型和云端模型系数的初始值，并将所述基础模型和所述初始值下发至所述N个边缘节点；

基于所述基础模型和所述初始值，所述N个边缘节点分别利用本地数据进行模型训练，以得到本地模型系数，并将所述本地模型系数上报至所述云端节点；

所述云端节点基于接收到的本地模型系数更新所述云端模型系数，并将更新后的云端模型系数下发至所述N个边缘节点；

在所述更新后的云端模型系数符合第一目标边缘节点的需求时，根据所述更新后的云端模型系数确定所述第一目标边缘节点的本地模型系数的值，其中，所述N个边缘节点包括所述第一目标边缘节点。

2.根据权利要求1所述的方法，其特征在于，所述基于所述基础模型和所述初始值，所述N个边缘节点分别利用本地数据进行模型训练，以得到本地模型系数，并将所述本地模型系数上报至所述云端节点的步骤，包括：

基于所述初始值，所述N个边缘节点中的每个边缘节点分别利用本地数据对所述基础模型进行模型训练，以将本地模型系数的值由所述初始值变更为第一模型系数值，并向所述云端节点上报迭代信息，其中，所述迭代信息包括所述第一模型系数值、当前系数代和当前系数代的样本数据量；

所述云端节点基于接收到的本地模型系数更新所述云端模型系数，并将更新后的云端模型系数下发至所述N个边缘节点的步骤，包括：

所述云端节点根据所述迭代信息，更新当前系数代，并将更新后的当前系数代对应的云端模型系数的值变更为第二模型系数值，以及将所述更新后的当前系数代和所述第二模型系数值下发至所述N个边缘节点；

在所述云端节点基于接收到的本地模型系数更新所述云端模型系数，并将更新后的云端模型系数下发至所述N个边缘节点之后，所述方法还包括：

所述N个边缘节点中的每个边缘节点分别根据所述更新后的当前系数代和所述第二模型系数值，将本地模型系数由所述第一模型系数值变更为第三模型系数值。

3.根据权利要求1所述的方法，其特征在于，所述在所述更新后的云端模型系数符合第一目标边缘节点的需求时，根据所述更新后的云端模型系数确定所述第一目标边缘节点的本地模型系数的值的步骤，包括：

在所述本地模型系数的值符合第一目标边缘节点的需求的情况下，所述第一目标边缘节点退出模型训练，并根据所述更新后的云端模型系数确定所述第一目标边缘节点的本地模型系数的值。

4.根据权利要求2所述的方法，其特征在于，所述当前系数代的样本数据量根据所述当前系数代的迭代次数和所述边缘节点预设的每次迭代批次中包含的样本数量确定。

5.根据权利要求2所述的方法，其特征在于，在所述基于所述初始值，所述N个边缘节点中的每个边缘节点分别利用本地数据对所述基础模型进行模型训练，以将本地模型系数的值由所述初始值变更为第一模型系数值，并向所述云端节点上报迭代信息之后，且在所述云端节点根据所述迭代信息，更新当前系数代，并将更新后的当前系数代对应的云端模型系数的值变更为第二模型系数值，以及将所述更新后的当前系数代和所述第二模型系数值下发至所述N个边缘节点之前，所述方法还包括：

第二目标边缘节点进行第M次模型训练，并向所述云端节点上报所述第M次模型训练的迭代信息，其中，所述M为大于1的整数，所述N个边缘节点包括所述第二目标边缘节点；

所述云端节点将所述第二目标边缘节点上报的迭代信息更新为所述第M次模型训练的迭代信息。

6.根据权利要求2所述的方法，其特征在于，所述云端节点根据所述迭代信息，更新当前系数代，并将更新后的当前系数代对应的模型系数的值变更为第二模型系数值，包括：

获取与当前系数代匹配的迭代信息；

并根据所述与当前系数代匹配的迭代信息，确定

的值Y1，以及确定

的值M1，其中，所述i为第i个边缘节点，所述n为当前系数代中执行模型训练的边缘节点的总数，所述M_i为第i个边缘节点的样本数据量，所述Y_now_i为第i个边缘节点的本地模型系数；

在所述M1大于或者等于阈值的情况下，更新当前系数代，并基于更新后的当前系数代和计算公式Y_NOW_new＝beta×(Y1/M1)+(1-beta)×Y_NOW_old，将更新后的当前系数代对应的模型系数的值Y_NOW_old变更为第二模型系数值Y_NOW_new，其中，所述beta为更新步长，更新后的当前系数代＝更新前的当前系数代+1。

7.根据权利要求6所述的方法，其特征在于，所述N个边缘节点中的每个边缘节点分别根据所述更新后的当前系数代和所述第二模型系数值，将本地模型系数由所述第一模型系数值变更为第三模型系数值的步骤，包括：

所述N个边缘节点中的每个边缘节点分别根据所述更新后的当前系数代和所述Y_NOW_new，采用计算公式：

alpha_i×Y_now_i+(1-alpha_i)×Y_NOW_new确定第i个边缘节点取第三模型系数值的本地模型系数，并将所述本地模型系数变更为所述第三模型系数值；

其中，所述alpha为预设本地数据偏好，所述Y_now_i为第i个边缘节点取第一模型系数值的本地模型系数。

8.一种边缘计算分布式模型训练系统，其特征在于，包括：存储器、第一处理器及存储在所述存储器上并可在所述第一处理器上运行的第一计算机程序，所述第一计算机程序被所述第一处理器执行时实现如权利要求1至7中任一项所述的边缘计算分布式模型训练方法的步骤。

9.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有第二计算机程序，所述第二计算机程序被第二处理器执行时实现如权利要求1至7中任一项所述的边缘计算分布式模型训练方法的步骤。

Images