CN114301935B - 一种基于声誉的物联网边云协同联邦学习节点选择方法 - Google Patents
一种基于声誉的物联网边云协同联邦学习节点选择方法 Download PDFInfo
- Publication number
- CN114301935B CN114301935B CN202111510623.XA CN202111510623A CN114301935B CN 114301935 B CN114301935 B CN 114301935B CN 202111510623 A CN202111510623 A CN 202111510623A CN 114301935 B CN114301935 B CN 114301935B
- Authority
- CN
- China
- Prior art keywords
- reputation
- interaction
- node
- edge
- server
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000010187 selection method Methods 0.000 title claims abstract description 9
- 238000012549 training Methods 0.000 claims abstract description 47
- 238000000034 method Methods 0.000 claims abstract description 22
- 238000013077 scoring method Methods 0.000 claims abstract description 4
- 230000003993 interaction Effects 0.000 claims description 131
- 230000006399 behavior Effects 0.000 claims description 17
- 238000004364 calculation method Methods 0.000 claims description 14
- 230000006870 function Effects 0.000 claims description 14
- 230000002776 aggregation Effects 0.000 claims description 13
- 238000004220 aggregation Methods 0.000 claims description 13
- 230000005540 biological transmission Effects 0.000 claims description 13
- 238000012216 screening Methods 0.000 claims description 13
- 230000000694 effects Effects 0.000 claims description 12
- 230000008569 process Effects 0.000 claims description 12
- 238000012360 testing method Methods 0.000 claims description 12
- 238000004422 calculation algorithm Methods 0.000 claims description 10
- 238000005457 optimization Methods 0.000 claims description 9
- 239000013598 vector Substances 0.000 claims description 6
- 238000012545 processing Methods 0.000 claims description 4
- 230000004931 aggregating effect Effects 0.000 claims description 3
- 238000011156 evaluation Methods 0.000 claims description 3
- 238000005304 joining Methods 0.000 claims description 3
- 238000012544 monitoring process Methods 0.000 description 8
- 238000004891 communication Methods 0.000 description 5
- 238000007781 pre-processing Methods 0.000 description 5
- 230000008901 benefit Effects 0.000 description 2
- 239000002131 composite material Substances 0.000 description 2
- 230000001934 delay Effects 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 238000009826 distribution Methods 0.000 description 2
- 230000004075 alteration Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000007123 defense Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 238000005562 fading Methods 0.000 description 1
- 230000004927 fusion Effects 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000008520 organization Effects 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 231100000572 poisoning Toxicity 0.000 description 1
- 230000000607 poisoning effect Effects 0.000 description 1
- 238000001303 quality assessment method Methods 0.000 description 1
- 238000003908 quality control method Methods 0.000 description 1
- 238000013441 quality evaluation Methods 0.000 description 1
- 238000013468 resource allocation Methods 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 230000003595 spectral effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Classifications
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Computer And Data Communications (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明属于大数据技术领域，一种基于声誉的物联网边云协同联邦学习节点选择方法；该方法包括：构建基于声誉的物联网边云协同FL体系架构；根据构建的基于声誉的物联网边云协同FL体系架构，根据构建的基于声誉的物联网边云协同FL体系架构采用基于多权重主观逻辑模型的声誉评分方法对节点进行选取，得到最优的节点；本发明利用多权重主观逻辑模型来计算每个参与节点的声誉值，提高了联邦学习的准确率和训练速度，且具有良好的适用性和健壮性。
Description
技术领域
本发明属于大数据技术领域，一种基于声誉的物联网边云协同联邦学习节点选择方法。
背景技术
生态环境监测网络作为物联网的扩展用途，将众多检测设备、分析部门和工作人员互连。在环境监测中诸多决策通常需要大量数据来支持。然而，数据分布趋向于本地化，单个用户、机构或者监测站点通常拥有较小规模或较低质量的数据，仅使用这些数据进行训练容易导致模型过拟合，所以需要将参与方数据汇聚到一起来训练模型，各个监测站点直接传输数据容易造成数据隐私泄露的问题，各站点若不将自己的数据直接共享给其他站点，则会形成数据孤岛问题。同时传统的机器学习算法(包括训练和推理)通常部署在云数据中心,为了训练更准确的人工智能模型，边缘设备需要将所采集的海量原始数据通过移动网络发送至云端，这会给网络带来巨大的带宽压力。为解决这一问题，基于联邦学习(Federated Learning,FL)的分布式模型训练框架应运而生。通过分享模型参数或梯度的方式，联邦学习参与方可在保持数据本地私有的情况下协作训练一个高性能的共同模型。
在基于FL的分布式训练结构下，边缘侧终端设备利用自身采集的数据在本地执行训练任务，然后将训练好的本地模型上传至云服务器进行模型聚合。相比直接上传原始训练数据，该架构选择上传训练之后的模型参数，能有效降低数据传输成本，同时保护用户隐私。尽管有上述巨大的好处，联邦学习仍然面临着严峻的挑战。如：终端设备上数据集大小往往是不同的，数据也可能不满足独立同分布特性，这使得本地模型的训练质量存在差异。同时，边缘侧终端设备并不是完全可信的，存在一些恶意节点篡改训练数据，发送恶意更新，导致当前协作学习失败。此外，终端设备多样异构的计算资源和传输时间对FL的训练效率和准确性也具有较大的影响。
由于能提供有效的隐私保护和高效的模型训练方式，FL得到了越来越多的关注。Shi等人提出了一种带宽分配和设备调度的联合优化模型，并通过解耦为两个子问题来提高FL效率，但该方法仅根据训练时间来选择设备，而忽略了设备的本地训练质量。Ren等人设计了一个新的概率调度框架来调度多个边缘设备参与FL模型聚合，该框架能有效提高模型训练的准确率，但是对设备异质的计算能力和训练时间考虑不足，可能会导致较大的延迟。Chen等人构建了一个无线资源分配和节点选择的联合优化问题，并提出了一种依概率选择节点的方法。Wu等人设计了一个多层FL协议，依概率引入区域松弛因子后完成节点选择。但上述方案依赖概率进行节点选择，忽略了节点本身计算、通信能力等方面的差异。
中央服务器没有及时和动态的监控方法，很难实时监测各参与节点的行为，无法检测到恶意或不可靠的节点并及时将其从联邦学习系统中移除；另外由于缺乏时间累积的指标来评估节点的历史性能以及恶意和不可靠参与节点的同步信息，恶意或不可靠的工作人员可能会再次被选为新的联邦学习任务的工作人员。因此开发准确且高效的方案合理地选择设备集合参与模型聚合，以提高FL效率和准确率成为一个亟待解决的问题。
发明内容
为解决以上现有技术存在的问题，本发明提出了一种基于声誉的物联网边云协同联邦学习节点选择方法，该方法包括：构建基于声誉的物联网边云协同FL体系架构；根据构建的基于声誉的物联网边云协同FL体系架构，根据构建的基于声誉的物联网边云协同FL体系架构采用基于多权重主观逻辑模型的声誉评分方法对节点进行选取，得到最优的节点；对节点进行选取包括：
S1：服务器节点发布联邦学习任务；边缘节点获取联邦学习任务后将包含身份信息和数据资源信息的加入联邦学习请求发送给服务器节点；
S2：服务器节点验证边缘节点的身份和数据资源信息，若边缘节点合法，则将该边缘节点作为执行联邦学习任务的边缘节点；若不合法，则该边缘节点请求失败；
S3：服务器节点采用基于多权重主观逻辑的声誉计算模型计算候选边缘节点的声誉值，根据计算出的声誉值选出执行联邦学习任务的边缘节点；
S4：服务器节点将全局模型的参数发送给选出执行联邦学习任务的边缘节点，边缘节点接收全局模型参数后采用SGD优化算法对边缘节点的本地模型进行训练更新，并将训练更新后的的本地模型参数发送给服务器；
S5：服务器节点根据训练更新后的的本地模型参数对该边缘节点进行评估，生成声誉意见，对声誉意见进行保存更新；服务器节点对经过评估可靠的边缘节点的本地模型参数进行聚合，生成一个新的全局模型，重复进行上述步骤，直至生成的全局模型参数达到预定义的收敛条件为止。
优选的，构建的基于声誉的物联网边云协同FL体系架构包括终端设备、微基站、宏基站和移动边缘计算服务器；其中将移动边缘计算服务作为服务器节点，终端设备、微基站和宏基站作为边缘节点。
优选的，采用基于多权重主观逻辑的声誉计算模型计算候选边缘节点的声誉值包括：服务器节点从其他服务器节点获取该候选边缘节点的声誉意见，该声誉意见为推荐声誉意见；服务器节点获取候选边缘节点的历史交互记录，采用多权重主观逻辑模型对历史交互记录进行处理，得到本地声誉意见；根据本地声誉意见和推荐声誉意见计算候选边缘节点的声誉。
进一步的，候选边缘节点的历史交互记录包括：交互效果、交互时延、交互频率以及交互新鲜度。
进一步的，采用多权重主观逻辑模型对历史交互记录进行处理包括：
S1：构建基于主观逻辑的声誉计算模型，在连续时间间隔{t1,…ty,…,tY}内，采用三元向量组表示服务器节点i对边缘节点j在时间段ty内的声誉评价，即：其中/>和/>分别表示中央服务器“相信”、“不相信”和“不确定”边缘节点模型更新质量可靠的程度，并满足以下约束条件：且/>根据三元向量组构建声誉计算模型；
S2：交互效果，包括积极交互行为和消极交互行为，若候选边缘节点为积极交互行为节点，则候选边缘节点声誉值高，若候选边缘节点为消极交互行为节点，则候选边缘节点的声誉值低；将积极交互和消极交互的权值分别表示为k和η，k≤η且η+k＝1；根据积极交互和消极交互的权值构建交互效果的主观逻辑模型；
S3：交互时延，在时间段ty内获取交互次数，并设置交互时延权重，根据交互次数和交互时延权重构建交互时延的主观逻辑模型；
S4：交互频率，获取服务器节点与边缘节点交互的次数，根据获取的交互次数计算服务器在一个时间窗口内与其他边缘节点交互的平均次数；计算服务器节点与边缘节点交互的次数与服务器在一个时间窗口内与其他边缘节点交互的平均次数的比率，该比率为交互频率；根据交互频率构建交互频率的主观逻辑模型；
S5：交互新鲜度，定义时间衰减函数，根据时间衰减函数计算交互事件的新鲜程度，即θ(ty)＝θy＝zY-y，其中z为关于事件新鲜度的衰减参数，满足z∈(0,1)；y表示事件新鲜度的淡出程度，满足y∈[1,Y]，根据交互事件的新鲜程度计算服务器节点i对边缘节点j的声誉值。
进一步的，根据本地声誉意见和推荐声誉意见计算候选边缘节点的声誉的公式为：
其中，表示服务器节点对候选边缘节点的声誉值，/>表示服务器对边缘节点的信任度，γ表示不确定性对声誉的影响程度，/>表示服务器对边缘节点的不确定度。
优选的，根据计算出的声誉值选出执行联邦学习任务的边缘节点的过程包括：设置筛选条件，将计算出的边缘节点声誉值与设置的筛选条件进行对比，若满足筛选条件，则将该边缘节点作为执行联邦学习任务的边缘节点，否则取消该边缘节点；筛选条件为：
其中，表示服务器节点对候选边缘节点的声誉值，Rthreshold表示声誉阈值，Ti表示候选边缘节点的时延，Tthreshold表示时延阈值。
优选的，边缘节点采用SGD优化算法对全局模型进行训练更新的过程包括：
步骤1：中央服务器从预定义的范围中初始化全局模型参数；
步骤2：将全局模型参数下发给选定的边缘节点，边缘节点接收到全局模型参数后采用随机梯度下降算法使用自己的本地数据对当前全局模型进行更新训练，通过最小化FL任务的损失函数对当前全局模型的参数进行优化；
步骤3：边缘节点将优化更新后的本地模型参数上传到服务器；
步骤4：当上传的本地模型参数达到一定数量或者迭代次数N后，服务器节点对得到的本地模型参数执行全局模型聚合，得到新的全局模型；
步骤5：服务器节点将新的全局模型发送给选定的边缘节点，以便进行下一次模型迭代，直到满足工作任务的要求，达到预定义的收敛条件。
进一步的，对全局模型的权值进行聚合的表达式为：
其中，ωg表示当上传的本地模型达到一定数量或者迭代次数N后，宏基站处的MEC服务器将对得到的本地模型执行全局模型聚合，最终的权值聚合参数，ωg表示当前要训练的全局模型的权值参数，Zi表示与任务i相关的MEC服务器集合，Di表示与任务i相关的终端设备集合，|Hz,d|表示被MEC服务器z覆盖的终端设备d的数据集大小，ω′z,d表示终端设备d待上传的本地模型参数，ωz,d表示终端设备d当前要训练的本地模型的权值参数，d表示终端设备，|Hi|表示与FL任务i相关的总数据集大小。
优选的，预定义的收敛条件为：
其中，Ai表示测试准确率，i∈I表示联邦学习任务。
本发明的有益效果：
本发明考虑异构结点的训练质量和效率，筛选恶意节点，在提升联邦学习模型准确率的同时，优化训练时延；首先，根据联邦学习中模型分布式训练的特点，构建基于声誉的物联网边云协同FL体系架构，实现恶意节点的筛查和异构设备节点的选择；其次，引入声誉作为衡量设备节点的可靠性和可信度的指标，根据历史交互记录，利用多权重主观逻辑模型来计算每个参与节点的声誉值，提高了联邦学习的准确率和训练速度，且具有良好的适用性和健壮性。
附图说明
图1为本发明的基于声誉的物联网边云协同联邦学习系统框架图；
图2为本发明的候选节点的声誉值变化图；
图3为本发明的基于不同声誉方案的声誉阈值对联邦学习准确性的影响直方图；
图4为本发明的基于不同声誉方案自私节点比例变化时发现自私节点的收敛时间直方图。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
一种基于声誉的物联网边云协同联邦学习节点选择方法，该方法包括：构建基于声誉的物联网边云协同FL体系架构；根据构建的基于声誉的物联网边云协同FL体系架构；根据构建的基于声誉的物联网边云协同FL体系架构采用基于多权重主观逻辑模型的声誉评分方法对节点进行选取，得到最优的节点；对节点进行选取包括：
S1：服务器节点发布联邦学习任务；边缘节点获取联邦学习任务后将包含身份信息和数据资源信息的加入联邦学习请求发送给服务器节点；
S2：服务器节点验证边缘节点的身份和数据资源信息，若边缘节点合法，则将该边缘节点作为执行联邦学习任务的边缘节点；若不合法，则该边缘节点请求失败；
S3：服务器节点采用基于多权重主观逻辑的声誉计算模型计算候选边缘节点的声誉值，根据计算出的声誉值选出执行联邦学习任务的边缘节点；
S4：服务器节点将全局模型的参数发送给选出执行联邦学习任务的边缘节点，边缘节点接收全局模型参数后采用SGD优化算法对边缘节点的本地模型进行训练更新，并将训练更新后的的本地模型参数发送给服务器；
S5：服务器节点根据训练更新后的的本地模型参数对该边缘节点进行评估，生成声誉意见，对声誉意见进行保存更新；服务器节点对经过评估可靠的边缘节点的本地模型参数进行聚合，生成一个新的全局模型，重复进行上述步骤，直至生成的全局模型参数达到预定义的收敛条件为止。
预定义的收敛条件为：
其中，Ai表示测试准确率，i∈I表示联邦学习任务。
面向生态环境检测的物联网边云协同FL体系包括生态环境监测统一数据平台、数据预处理服务处(端设备或边缘节点)、业务应用、采集及感知终端等多个部分，并基于云网融合、物联网等技术连接各监测节点。其中，数据预处理服务处是部署在距离生产设备较近且以数据中心为核心的轻量级分布式开放平台，存储所在检测站点最完整的信息，集成异构数据，打破信息孤岛，为生态环境检测各项业务应用及业务间的协同提供支撑。同时统一数据平台在数据源头开展数据质量治理，为生态环境监测提供稳定可靠的高质量数据，为关键业务应用提供支撑。具体处理过程为：终端设备感知并获取原始数据，将数据传递至数据预处理服务处(端设备或边缘节点)，数据预处理服务根据数据类型及其处理要求开展预处理操作，并生成符合目标的高质量数据，进一步传递至边缘节点或云数据中心，供后续上层数据处理平台(统一数据平台)使用。面向生态环境监测边云协同FL体系架构图如图1所示。
如图1所示，构建的基于声誉的物联网边云协同FL体系架构包括终端设备、微基站、宏基站和移动边缘计算服务器；其中将移动边缘计算服务作为服务器节点，终端设备、微基站和宏基站作为边缘节点。具体的，网络由终端设备、微基站、宏基站和对应的移动边缘计算(MEC,Mobile Edge Computing)服务器组成。宏基站内的MEC服务器具有强大的计算和通信资源。令Z表示微基站内MEC服务器集合，每一个MEC服务器z∈Z具有一定的计算能力，并通过与其相连的基站来覆盖数个终端设备。终端设备的集合用D表示，令Hz,d＝{xz,d,yz,d}表示被MEC服务器z覆盖的终端d的数据集。针对路径选择、图像识别等学习任务i∈I，其目的是从终端设备的数据集合Hz,d＝{xz,d,yz,d}中学习与任务相关的模型O。本文定义FL任务i为其中Zi和Di分别表示与任务i相关的MEC服务器和终端设备的集合，Ci为该FL模型计算数据集中一组数据所需的CPU周期数，/>为该FL的初始模型。
采用基于多权重主观逻辑的声誉计算模型计算候选边缘节点的声誉值包括：服务器节点从其他服务器节点获取该候选边缘节点的声誉意见，该声誉意见为推荐声誉意见；服务器节点获取候选边缘节点的历史交互记录，采用多权重主观逻辑模型对历史交互记录进行处理，得到本地声誉意见；根据本地声誉意见和推荐声誉意见计算候选边缘节点的声誉。
基于主观逻辑的声誉计算模型包括：在连续时间间隔{t1,…ty,…,tY}内，服务器节点i对边缘节点j在时间段ty(例如60分钟)内的声誉评价可以用一个三元向量组表示：其中/>和/>分别表示中央服务器“相信”、“不相信”和“不确定”边缘节点模型更新质量可靠的程度，并满足以下约束条件：且/>可得到如下主观逻辑模型：
其中，表示在ty时间内积极(消极)交互数量的多少。如果服务器节点认为边缘节点提供的本地模型更新是有用的、可信的或可靠的，则服务器节点将自己和边缘节点之间的迭代训练视为“积极”的交互事件，可以使用第三节所提出的质量评估方案进行验证，反之亦然；/>表示数据包传输成功的概率，即通信质量，影响声誉意见的不确定性。根据声誉意见向量/> 在时间段ty中，服务器节点i对边缘节点j的直接声誉值表示为：
其中γ∈[0,1]代表了不确定性对声誉的影响程度。
候选边缘节点的历史交互记录包括：交互效果、交互时延、交互频率以及交互新鲜度。
交互效果：包括积极交互行为和消极交互行为，若候选边缘节点为积极交互行为节点，则候选边缘节点声誉值高，若候选边缘节点为消极交互行为节点，则候选边缘节点的声誉值低。具体的，过本地模型更新的质量评价，交互事件分为积极交互行为和消极交互行为两种互动结果，积极交互增加了工作候选者的声誉，反之亦然。为了抑制消极互动事件的发生，消极互动在声誉计算中的权重高于积极互动。将积极交互和消极交互的权值分别表示为k和η。k≤η且η+k＝1；交互效果的主观逻辑模型：
其中，表示数据包传输成功的概率，k表示积极交互的权重参数，/>表示在ty时间内积极交互数量的多少，η表示消极交互的权重参数，/>表示在ty时间内消极交互数量的多少。
交互时延：联邦学习通常遵循一个同步设置，在培训期间有固定的可用数据，中央服务器在指定的时间间隔内接收到来自所有本地客户端的更新后进行聚合。然而由于网络的限制，移动设备可能经常离线或通信带宽不足，或是因为本地设备计算能力差、训练速度慢等原因，导致边缘节点不能在预定的时间范围内将模型更新上传至中央服务器产生“滞后效应”，这种情况会对边缘节点的声誉带来负面的影响，因此在指定时间延时内按时提交更新的边缘设备具有更好的声誉。交互时延的主观逻辑模型为：
其中，表示在ty时间内按时交互次数的多少，λ、μ为各自所占权重。
交互频率：交互频率表示服务器节点和边缘节点之间的熟悉程度，基于服务器节点与边缘节点交互的次数与服务器在一个时间窗口内与其他边缘节点交互的平均次数的比率来表示，更高的互动频率会为服务器节点带来更多关于边缘节点的先验知识，从而为边缘节点带来更充分的直接声誉意见。交互频率的主观逻辑模型为：
其中，Si表示在指定时间间隔内节点i所有的交互记录，表示在一个时间窗口服务器i内与其他边缘节点交互的平均次数，Ni→j表示在一个时间窗口内服务器i与边缘节点j交互的次数，/>表示在ty时间内积极交互数量的多少，/>表示在ty时间内消极交互数量的多少。
交互新鲜度：边缘节点的可信度随着时间的变化而变化，在服务器节点和边缘节点的交互过程中，边缘节点并不总是可信的或可靠的。最近的交互事件具有更大的新鲜度，在计算声誉的过程中应比过去的交互事件占有更大的权重。为了反映时间对声誉的影响程度，定义时间衰减函数来说明交互事件的新鲜程度：θ(ty)＝θy＝zY-y,其中z为关于事件新鲜度的衰减参数，满足z∈(0,1)。y表示事件新鲜度的淡出程度，满足y∈[1,Y]。因此在一个时间窗口中，服务器节点i对边缘节点j的声誉值为：
其中，表示在时间间隔ty内，中央服务器i相信边缘节点j模型更新质量可靠的程度，ty表示某一时间间隔，Y表示事件新鲜度淡出的最大程度，θy表示交互事件的新鲜程度，/>表示在时间间隔ty内，中央服务器i不相信边缘节点j模型更新质量可靠的程度，表示在时间间隔ty内，中央服务器i不确定边缘节点j模型更新质量是否可靠的程度，Ri→j表示本地声誉意见(即：服务器节点i对边缘节点j的直接声誉意见)。
对于服务器节点，来自其他服务器节点的本地声誉意见被视为推荐意见：在计算一个工作候选人的综合声誉值时，服务器节点不仅会考虑自己本地的声誉意见，还会考虑整体的推荐意见。服务器节点对边缘节点的综合声誉可以表示为包含最终信任度、最终不信任度和最终不确定度三个要素的最终声誉意见向量，即/>
最终的声誉为vi对于vj为：
其中，表示最终信任度，bi→j表示直接信任度，/>表示推荐不确定度，表示推荐信任度，ui→j表示直接不确定度，/>表示最终不信任度，di→j表示直接不信任度，/>表示推荐不信任度，/>表示最终不确定度，γ表示不确定度对声誉意见的影响程度。
通过以上步骤的声誉计算，服务器节点可以选择精度高、数据可靠的高声誉工作候选人作为联邦学习任务的边缘节点。这些高声誉的员工将诚实地进行本地训练，并在联邦学习任务中保持良好的行为，从而为系统做出更大的贡献。因此基于声誉的联邦学习边缘节点的选择方案可以防止有意或者无意的数据提供者上传不可靠的本地模型更新，从而保证边缘计算中联邦学习的可靠性。
根据计算出的声誉值选出执行联邦学习任务的边缘节点的过程包括：设置筛选条件，将计算出的边缘节点声誉值与设置的筛选条件进行对比，若满足筛选条件，则将该边缘节点作为执行联邦学习任务的边缘节点，否则取消该边缘节点；筛选条件为：
其中，表示服务器节点对候选边缘节点的声誉值，Rthreshold表示声誉阈值，Ti表示候选边缘节点的时延，Tthreshold表示时延阈值。
具体的，设备结点的选择受诸多因素影响。首先，终端设备差异化的计算和通信能力直接影响本地训练和数据传输时延。其次，终端设备上携带的数据集大小不同，数据也可能被恶意篡改，这使得本地模型的训练质量存在差异。因此，本文构建了面向节点选择的准确率最优问题模型。
准确率：对于一个FL任务i∈I,其训练质量定义为聚合后的全局模型在测试数据集上的测试准确率，本文使用测试数据集的损失函数之和表示测试准确率，即：
Ai＝Li(xtest,ytest；ωg)
其中，Ai表示测试准确率，Li表示损失函数，(xtestytest)表示测试数据集，ωg表示聚合后的全局模型参数。
时延：FL每一次模型聚合的总时延包括数据在终端设备上的训练时延和在链路上的传输时延。FL任务i的参数数据在终端设备与微基站、微基站与宏基站间传输速率可分别表示为：
其中，Bd和Bz分别表示设备与微基站、微基站与宏基站之间的可用带宽，Gd和Gz表示信道增益，pd和pz表示设备和微基站的发射功率，N0表示噪声功率谱密度。
设备将本地参数上传至模型汇聚器的总传输时间为：
其中，|ω′z,d|表示终端设备d待上传的本地模型参数大小。终端设备的计算时延可以表示为：
其中，|Hz,d|Ci表示完成终端d上的FL任务i所需的CPU周期数目。cz,d表示终端设备执行FL任务时的CPU频率。FL每一学习回合的总时延由时延最大的终端设备决定，因此，总时延定义为：
面向节点选择的准确率最优化问题模型可以表示为：
s.t.Ti≤Treq,i∈I
对于一个FL任务i∈I,节点选择问题可以概括为每次迭代时选择节点集Di∈D，使得本次训练的准确率最优，即总损失函数最小，同时将训练和传输时延控制在一定范围内，所以在训练过程中必须选择具有高精度和可靠的本地训练数据的边缘节点。
边缘节点采用SGD优化算法对全局模型进行训练更新的过程包括：本文提出的多权重主观逻辑(Multi-weight Subjective Logic,MSL)方案中的积极、消极、最近和过去的交互作用的权重参数和时间尺度如表1：
表1：仿真实验参数设置
| 参数 | 设置 |
| 边缘节点数量 | N＝30 |
| 交互效果的权重参数 | k＝0.4,η＝0.6 |
| 交互时延的权重参数 | λ＝0.3,μ＝0.7 |
| 模型参数成功传输概率 | qi,j＝[0.8,1] |
| 一次联邦学习任务最大训练时间 | Tmax＝500 |
| 不确定性的影响系数 | γ＝0.5 |
| 事件新鲜度衰减因子 | z＝0.8 |
数据包的不成功传输概率为0％～40％，所有边缘节点的初始声誉为0.5。我们将所提出的MSL方案与的传统主观逻辑(TSL)方案和信任值聚合(ATV)方案进行了比较。在ATV方案中，声誉值是通过聚合来自任务发布者的不同权重的信任值偏移量来计算的，信任值偏移量是由积极交互事件和消极交互事件之间的差值占事件总数的比值决定的。
本地训练：对于一个FL任务i∈I，定义该任务相关的总数据集为：
其中，Hz,d表示MEC服务器z覆盖的终端d的数据集。
终端设备d在执行FL任务i的本地训练时的损失函数定义为它在样本数据集Hz,d上的预测值与实际值之差，因此FL任务i在所有数据集合上的损失函数可以定义为：
其中，表示设备d在进行FL任务i训练时的损失函数，(xz,d，yz,d)表示样本数据集，ωz,d表示设备d训练的模型参数。
上式中ω表示当前要训练的模型的权值，|Hi|表示该任务数据集大小。FL的目的是通过最小化任务的损失函数Li(ω)来优化全局模型参数，表示为：
ω＝argminLi(ω)
FL的参数更新方法为随机梯度下降(SGD,Stochastic Gradient Descent)，即每次随机选择数据集中的一条数据{xz,d,yz,d}进行更新。这种方法大大降低了计算量，但由于其随机性使得本地模型需要足够的本地训练量以保证模型质量。模型参数的更新表示为：
其中η为参数更新时的学习率，n∈N表示训练的迭代次数。
模型聚合：当上传的本地模型达到一定数量或者迭代次数N后，宏基站处的MEC服务器将对得到的本地模型执行全局模型聚合，具体的权值聚合表示为：
其中|Hz,d|表示终端设备d参与FL任务的数据集大小。可以看出，具备更大数据集的终端设备得到更大的权重。
如图2所示，为了说明恶意边缘节点的声誉变化，设置某一边缘节点在前6个联邦任务中表现良好，以增加其声誉值。然后，该边缘节点以0.8的概率为服务器节点对本地模型进行中毒或不可靠数据的培训。如图2所示，在MSL、TSL和ATV方案中，当边缘节点发生恶意行为时，其声誉值开始下降，但在没有声誉防御的方案中仍然呈线性增长。由于考虑了交互效应、频率和时间线等因素的影响，MSL方案的声誉值在短时间内比ATV和TSL方案的信誉值下降幅更大。此外，由于ATV方案在计算声誉值偏移时只关注交互效应，经过12次迭代后，ATV方案的声誉下降速度比MSL方案快。
如图3所示，如果一个边缘节点的综合声誉值低于给定的声誉阈值，该边缘节点将被视为一个恶意边缘节点。图3说明了信誉阈值越高联邦学习的准确率越高。虽然在较低的声誉阈值下，MSL方案的精确度低于ATV方案，但当声誉值高于0.35时，MSL方案的性能与ATV方案相同。原因是，ATV方案对当前的负面事件很敏感，但它忽略了那些无意犯错的可靠边缘节点的积极交互历史，这会导致声誉计算的不准确性。当信誉阈值高于0.45时，TSL、MSL和ATV三个方案的性能相同，这是因为在高攻击强度的情况下，恶意边缘节点更容易被检测到，从而被移除。
如图4所示，当恶意边缘节点的比例低于50％时，收敛时间随恶意边缘节点比例的增加而增加。这是因为随着恶意边缘节点的增加而增加，系统对边缘节点的可信任信息越少，需要花费更多的时间收集证据来发现恶意边缘节点。也可以看出本文方案较对比算法节省了约6％的交互时间，这是因为本文综合考虑了经验、熟悉度和时效性等多个因素，可以更快收集节点的可信信息来判断节点的行为。综上所述，MSL方案可以实现更准确、公平高效的声誉计算，从而在联邦学习中实现更可靠的边缘节点选择。
以上所举实施例，对本发明的目的、技术方案和优点进行了进一步的详细说明，所应理解的是，以上所举实施例仅为本发明的优选实施方式而已，并不用以限制本发明，凡在本发明的精神和原则之内对本发明所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。
Claims (3)
1.一种基于声誉的物联网边云协同联邦学习节点选择方法，其特征在于，包括：构建基于声誉的物联网边云协同FL体系架构；根据构建的基于声誉的物联网边云协同FL体系架构采用基于多权重主观逻辑模型的声誉评分方法对节点进行选取，得到最优的节点；对节点进行选取包括：
S1：服务器节点发布联邦学习任务；边缘节点获取联邦学习任务后将包含身份信息和数据资源信息的加入联邦学习请求发送给服务器节点；
S2：服务器节点验证边缘节点的身份和数据资源信息，若边缘节点合法，则将该边缘节点作为执行联邦学习任务的边缘节点；若不合法，则该边缘节点请求失败；
S3：服务器节点采用基于多权重主观逻辑的声誉计算模型计算候选边缘节点的声誉值，根据计算出的声誉值选出执行联邦学习任务的边缘节点；具体过程包括：服务器节点从其他服务器节点获取该候选边缘节点的声誉意见，该声誉意见为推荐声誉意见；服务器节点获取候选边缘节点的历史交互记录，采用多权重主观逻辑模型对历史交互记录进行处理，得到本地声誉意见；根据本地声誉意见和推荐声誉意见计算候选边缘节点的声誉；其中，候选边缘节点的历史交互记录包括：交互效果、交互时延、交互频率以及交互新鲜度；
采用多权重主观逻辑模型对历史交互记录进行处理包括：
步骤1：构建基于主观逻辑的声誉计算模型，在连续时间间隔{t1,...ty,...,tY+内，采用三元向量组表示服务器节点i对边缘节点j在时间段ty内的声誉评价，即：其中/>和/>分别表示中央服务器“相信”、“不相信”和“不确定”边缘节点模型更新质量可靠的程度，并满足以下约束条件：且/>根据三元向量组构建声誉计算模型；
步骤2：交互效果，包括积极交互行为和消极交互行为，若候选边缘节点为积极交互行为节点，则候选边缘节点声誉值高，若候选边缘节点为消极交互行为节点，则候选边缘节点的声誉值低；将积极交互和消极交互的权值分别表示为k和η，k≤η且η+k＝1；根据积极交互和消极交互的权值构建交互效果的主观逻辑模型；
步骤3：交互时延，在时间段ty内获取交互次数，并设置交互时延权重，根据交互次数和交互时延权重构建交互时延的主观逻辑模型；交互时延的主观逻辑模型为：
其中，表示在ty时间内按时交互次数的多少，λ、μ为各自所占权重；
步骤4：交互频率，获取服务器节点与边缘节点交互的次数，根据获取的交互次数计算服务器在一个时间窗口内与其他边缘节点交互的平均次数；计算服务器节点与边缘节点交互的次数与服务器在一个时间窗口内与其他边缘节点交互的平均次数的比率，该比率为交互频率；根据交互频率构建交互频率的主观逻辑模型；交互频率的主观逻辑模型为：
其中，表示数据包传输成功的概率，k表示积极交互的权重参数，/>表示在ty时间内积极交互数量的多少，η表示消极交互的权重参数，/>表示在ty时间内消极交互数量的多少；
步骤5：交互新鲜度，定义时间衰减函数，根据时间衰减函数计算交互事件的新鲜程度，即θ(ty)＝θy＝zY-y，其中z为关于事件新鲜度的衰减参数，满足z∈(0,1)；y表示事件新鲜度的淡出程度，满足y∈[1,Y]，根据交互事件的新鲜程度计算服务器节点i对边缘节点j的声誉值；
计算候选边缘节点的声誉的公式为：
其中，表示服务器节点对候选边缘节点的声誉值，/>表示服务器对边缘节点的信任度，γ表示不确定性对声誉的影响程度，/>表示服务器对边缘节点的不确定度；
根据计算出的声誉值选出执行联邦学习任务的边缘节点的过程包括：设置筛选条件，将计算出的边缘节点声誉值与设置的筛选条件进行对比，若满足筛选条件，则将该边缘节点作为执行联邦学习任务的边缘节点，否则取消该边缘节点；筛选条件为：
其中，表示服务器节点对候选边缘节点的声誉值，Rthreshold表示声誉阈值，Ti表示候选边缘节点的时延，Tthreshold表示时延阈值；
S4：服务器节点将全局模型的参数发送给选出执行联邦学习任务的边缘节点，边缘节点接收全局模型参数后采用SGD优化算法对当前全局模型进行训练更新，并将训练更新后的的本地模型参数发送给服务器；
采用SGD优化算法对全局模型进行训练更新的过程包括：
步骤1：中央服务器从预定义的范围中初始化全局模型参数；
步骤2：将全局模型参数下发给选定的边缘节点，边缘节点接收到全局模型参数后采用随机梯度下降算法使用自己的本地数据对当前全局模型进行更新训练，通过最小化FL任务的损失函数对当前全局模型的参数进行优化；
步骤3：边缘节点将优化更新后的本地模型参数上传到服务器；
步骤4：当上传的本地模型参数达到一定数量或者迭代次数N后，服务器节点对得到的本地模型参数执行全局模型聚合，得到新的全局模型；对全局模型的权值进行聚合的表达式为：
其中，ω′g表示最终的权值聚合参数，ωg表示当前要训练的全局模型的权值参数，Zi表示与任务i相关的MEC服务器集合，Di表示与任务i相关的终端设备集合，|Hz,d|表示被MEC服务器z覆盖的终端设备d的数据集大小，ω′z,d表示终端设备d待上传的本地模型参数，ωz,d表示终端设备d当前要训练的本地模型的权值参数，d表示终端设备，|Hi|表示与FL任务i相关的总数据集大小；
步骤5：服务器节点将新的全局模型发送给选定的边缘节点，以便进行下一次模型迭代，直到生成的全局模型参数达到预定义的收敛条件；
S5：服务器节点根据训练更新后的的本地模型参数对该边缘节点进行评估，生成声誉意见，对声誉意见进行保存更新；服务器节点对经过评估可靠的边缘节点的本地模型参数进行聚合，生成一个新的全局模型，重复进行上述步骤，直至生成的全局模型参数达到预定义的收敛条件为止。
2.根据权利要求1所述的一种基于声誉的物联网边云协同联邦学习节点选择方法，其特征在于，构建的基于声誉的物联网边云协同FL体系架构包括终端设备、微基站、宏基站和移动边缘计算服务器；其中将移动边缘计算服务作为服务器节点，终端设备、微基站和宏基站作为边缘节点。
3.根据权利要求1所述的一种基于声誉的物联网边云协同联邦学习节点选择方法，其特征在于，预定义的收敛条件为：
其中，Ai表示测试准确率，i∈I表示联邦学习任务。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111510623.XA CN114301935B (zh) | 2021-12-10 | 2021-12-10 | 一种基于声誉的物联网边云协同联邦学习节点选择方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202111510623.XA CN114301935B (zh) | 2021-12-10 | 2021-12-10 | 一种基于声誉的物联网边云协同联邦学习节点选择方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN114301935A CN114301935A (zh) | 2022-04-08 |
| CN114301935B true CN114301935B (zh) | 2023-11-17 |
Family
ID=80967438
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202111510623.XA Active CN114301935B (zh) | 2021-12-10 | 2021-12-10 | 一种基于声誉的物联网边云协同联邦学习节点选择方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN114301935B (zh) |
Families Citing this family (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN114866599B (zh) * | 2022-04-29 | 2024-03-29 | 济南中科泛在智能计算研究院 | 基于最优联邦方选择的联邦学习方法、设备及系统 |
| CN115600219B (zh) * | 2022-12-15 | 2023-03-14 | 湖南工商大学 | 候选任务工作者声誉值的确定方法 |
| CN115842823B (zh) * | 2023-02-20 | 2023-04-28 | 广州机智云物联网科技有限公司 | 一种基于云原生的云边协同管理方法 |
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112153650A (zh) * | 2020-08-31 | 2020-12-29 | 西北农林科技大学 | 一种无线网络中基于终端信誉的可靠联邦学习方法及系统 |
| CN112348204A (zh) * | 2020-11-05 | 2021-02-09 | 大连理工大学 | 一种基于联邦学习和区块链技术的边缘计算框架下海洋物联网数据安全共享方法 |
Family Cites Families (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113688855B (zh) * | 2020-05-19 | 2023-07-28 | 华为技术有限公司 | 数据处理方法、联邦学习的训练方法及相关装置、设备 |
-
2021
- 2021-12-10 CN CN202111510623.XA patent/CN114301935B/zh active Active
Patent Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112153650A (zh) * | 2020-08-31 | 2020-12-29 | 西北农林科技大学 | 一种无线网络中基于终端信誉的可靠联邦学习方法及系统 |
| CN112348204A (zh) * | 2020-11-05 | 2021-02-09 | 大连理工大学 | 一种基于联邦学习和区块链技术的边缘计算框架下海洋物联网数据安全共享方法 |
Non-Patent Citations (3)
| Title |
|---|
| A Novel Reputation-aware Client Selection Scheme for Federated Learning within Mobile Environments;Yuwei Wang;《IEEEXplore》;全文 * |
| RepTrust:P2P环境下基于声誉的信任模型;杨超;刘念祖;;计算机科学(第03期);全文 * |
| 网络信任研究进展;刘建生;游真旭;乐光学;王结太;刘建华;;计算机科学(第11期);全文 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN114301935A (zh) | 2022-04-08 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN114301935B (zh) | 一种基于声誉的物联网边云协同联邦学习节点选择方法 | |
| Kang et al. | Incentive mechanism for reliable federated learning: A joint optimization approach to combining reputation and contract theory | |
| Huang et al. | An intelligent collaboration trust interconnections system for mobile information control in ubiquitous 5G networks | |
| Kang et al. | Reliable federated learning for mobile networks | |
| Liu et al. | An incentive mechanism for privacy-preserving crowdsensing via deep reinforcement learning | |
| Fiandrino et al. | Sociability-driven framework for data acquisition in mobile crowdsensing over fog computing platforms for smart cities | |
| Guo et al. | TFL-DT: A trust evaluation scheme for federated learning in digital twin for mobile networks | |
| Drainakis et al. | Federated vs. centralized machine learning under privacy-elastic users: A comparative analysis | |
| Asheralieva et al. | Reputation-based coalition formation for secure self-organized and scalable sharding in IoT blockchains with mobile-edge computing | |
| Hamrouni et al. | A spatial mobile crowdsourcing framework for event reporting | |
| CN114357455B (zh) | 一种基于多维属性信任评估的信任方法 | |
| Pu et al. | Crowd foraging: A QoS-oriented self-organized mobile crowdsourcing framework over opportunistic networks | |
| CN114827198B (zh) | 一种应用于车联网的多层中心异步联邦学习方法 | |
| CN114491623B (zh) | 一种基于区块链的异步联邦学习方法及系统 | |
| CN101404591B (zh) | 一种自适应的动态信任权重评估方法 | |
| Ouyang et al. | A verifiable trust evaluation mechanism for ultra-reliable applications in 5G and beyond networks | |
| CN116471286A (zh) | 基于区块链及联邦学习的物联网数据共享方法 | |
| Alswailim et al. | A reputation system to evaluate participants for participatory sensing | |
| Yuan et al. | CESense: Cost-effective urban environment sensing in vehicular sensor networks | |
| CN115580891B (zh) | 基于联邦学习的流量预测模型训练方法、预测方法和装置 | |
| Fantacci et al. | A d2d-aided federated learning scheme with incentive mechanism in 6G networks | |
| Gao et al. | DTRF: A dynamic-trust-based recruitment framework for Mobile Crowd Sensing system | |
| CN109041065B (zh) | 一种面向两跳多副本自组网的节点信任管理方法 | |
| Zhao et al. | SDN-based cross-domain cooperative method for trusted nodes recommendation in Mobile crowd sensing | |
| Yan et al. | Service caching for meteorological emergency decision-making in cloud-edge computing |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| TA01 | Transfer of patent application right | ||
| TA01 | Transfer of patent application right |
Effective date of registration: 20230706 Address after: 710000 No. B49, Xinda Zhongchuang space, 26th Street, block C, No. 2 Trading Plaza, South China City, international port district, Xi'an, Shaanxi Province Applicant after: Xi'an Huaqi Zhongxin Technology Development Co.,Ltd. Address before: 400065 Chongwen Road, Nanshan Street, Nanan District, Chongqing Applicant before: CHONGQING University OF POSTS AND TELECOMMUNICATIONS |
|
| TA01 | Transfer of patent application right | ||
| TA01 | Transfer of patent application right |
Effective date of registration: 20231019 Address after: Room 408-9, Block C, Science and Technology Innovation Park, No. 12 (Park), Chuangye New Street, Daqing Hi tech Zone, Heilongjiang Province, 163000 Applicant after: Daqing Kaidexin Information Technology Co.,Ltd. Address before: 710000 No. B49, Xinda Zhongchuang space, 26th Street, block C, No. 2 Trading Plaza, South China City, international port district, Xi'an, Shaanxi Province Applicant before: Xi'an Huaqi Zhongxin Technology Development Co.,Ltd. |
|
| GR01 | Patent grant | ||
| GR01 | Patent grant |