CN113873534A - 一种雾计算中区块链协助的联邦学习主动内容缓存方法 - Google Patents

一种雾计算中区块链协助的联邦学习主动内容缓存方法 Download PDF

Info

Publication number
CN113873534A
CN113873534A CN202111204040.4A CN202111204040A CN113873534A CN 113873534 A CN113873534 A CN 113873534A CN 202111204040 A CN202111204040 A CN 202111204040A CN 113873534 A CN113873534 A CN 113873534A
Authority
CN
China
Prior art keywords
block chain
model
internet
things
federal learning
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202111204040.4A
Other languages
English (en)
Other versions
CN113873534B (zh
Inventor
崔太平
彭贻
林展骞
谢志杰
周梓翔
雷一达
文梓怡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Dianlian Technology Co ltd
Original Assignee
Chongqing University of Post and Telecommunications
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Chongqing University of Post and Telecommunications filed Critical Chongqing University of Post and Telecommunications
Priority to CN202111204040.4A priority Critical patent/CN113873534B/zh
Publication of CN113873534A publication Critical patent/CN113873534A/zh
Application granted granted Critical
Publication of CN113873534B publication Critical patent/CN113873534B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W16/00Network planning, e.g. coverage or traffic planning tools; Network deployment, e.g. resource partitioning or cells structures
    • H04W16/22Traffic simulation tools or models
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • G06N20/20Ensemble learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W28/00Network traffic management; Network resource management
    • H04W28/02Traffic management, e.g. flow control or congestion control
    • H04W28/10Flow control between communication endpoints
    • H04W28/14Flow control between communication endpoints using intermediate storage

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • Artificial Intelligence (AREA)
  • Mathematical Physics (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • General Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Biomedical Technology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Medical Informatics (AREA)
  • Information Transfer Between Computers (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

本发明涉及一种雾计算中区块链协助的联邦学习主动内容缓存方法,属于移动通信技术领域。先,考虑到实际网络中用户设备的资源约束,提出了一种基于用户选择的联邦学习方案,以有效提高联邦学习的训练过程,减少模型训练的时间。其次,本发明使用了上下文感知的对抗性自动编码器C‑AAE来预测高度动态的内容流行度。最后,为了保证联邦学习中模型更新参数上传的安全性,引入区块链技术,设计了四种面向去中心化实体的智能合约,用于记录和验证交易。该发明可以有效提高缓存命中率。

Description

一种雾计算中区块链协助的联邦学习主动内容缓存方法
技术领域
本发明属于移动通信技术领域,涉及一种雾计算中区块链协助的联邦学习主动内容缓存 方法。
背景技术
内容缓存技术被认为是一种很有前途的解决方法,它通过将流行度高的内容提前存储在 边缘设备中,减轻回程链路拥塞以及用户请求内容时延,提高用户满意度。由于边缘节点存 储资源有限,须将最有可能被用户请求的内容放在本地缓存中。传统的缓存机制如基于先进 先出(First-In-First-Out,FIFO)、最近最少使用(Least Recently Used,LRU)和最不常用(Least Frequently Used,LFU)等通过静态规则更新缓存内容。然而,它们并不适用于预测动态变化的 流行内容。
目前,许多研究利用机器学习方法通过观察用户的历史内容需求来学习内容流行度。由 于传统集中式机器学习方法都需要在一个中央单元收集本地用户的私有信息,这可能会引起 用户的隐私担忧。本地用户难以信任与其相关联的服务器,不愿上传自己的私有数据。为了 提供一个可行的解决方案,研究人员提出了一种基于联邦学习的智能雾无线接入网(Fog Radio Access Network,F-RAN)范例。由于有足够的雾计算资源,F-RANs范式为实现网络边缘智能 化提供了极大的便利。与集中式学习的训练过程不同,联邦学习的训练将内容分散到大量的 设备上,而不必集中训练数据。通过雾服务器和用户之间的交互来训练学习模型,直到模型 收敛到特定的精度水平。虽然在联邦学习过程中,用户不需要公开自己的私有数据,但当一 些用户计算资源有限时,则需要更长的模型更新时间;在较差的无线信道条件下,则需要更 长的模型上传时间。终端设备在通信和计算资源方面的异构性使得整个训练过程变得低效。 此外,由于当前的物联网体系架构中通信安全性较差,存在数据可靠性问题,如数据丢失、 插入恶意数据等。这样的现象同样会造成上传的模型更新参数不准确,进一步影响训练结果。
近年来,区块链由于其去中心化、匿名性等特点受到越来越多的关注。区块链通过在不 可信的实体之间维护分布式账本,可以在不可信环境中提供安全的解决方案。基于以上结果, 考虑到终端设备的资源的异构性以及数据传输的安全性。
发明内容
有鉴于此,本发明的目的在于提供一种雾计算中区块链协助的联邦学习主动内容缓存方 法。
为达到上述目的,本发明提供如下技术方案:
一种雾计算中区块链协助的联邦学习主动内容缓存方法,该方法包括以下步骤:
S1:一种基于区块链的联邦学习主动边缘缓存架构;
S2:基于用户选择的FL方案;
S3:基于上下文感知的对抗性自动编码器的内容流行度预测算法;
S4:联合区块链技术保护数据安全性方案。
进一步,在步骤S1中,建立基于区块链的联邦学习主动边缘缓存模型。该发明结合了物 联网设备、雾计算、远程云和区块链技术。在该系统模型中,提出了一种区块链协助的基于 联邦学习的主动边缘缓存方案,可以有效保护用户隐私和提高内容缓存命中率。
进一步,在步骤S2中,为了解决终端设备的资源异构性,提出了一种基于用户选择的联 邦学习主动边缘缓存算法。基于用户选择的FL方案具体包括以下几个步骤:
1)用户选择:相对于传统FL框架随机选择参与模型训练的客户端,本发明提出了以下 两步客户端选择方案。首先,新的资源请求步骤要求随机客户端将自己的资源信息(例如无 线信道状态、计算能力以及与当前训练任务相关的数据资源大小)通知雾服务器。然后,雾 服务器在之后的客户端选择步骤中引用该信息,以估计模型分发、更新以及上传步骤所需的 时间,并确定参与模型训练的客户端。在客户端选择步骤中的目标是允许服务器在指定的期 限内聚合尽可能多的客户端更新,即在每一轮中使用更大比例的客户端可以节省全局模型训 练所需的时间,以实现理想的性能。
2)模型下载:基于步骤1的结果,一组物联网用户S被选择用于参与第r轮的联邦学习 训练过程。接下来所选用户从雾服务器下载初始的全局模型参数wr,并基于本地数据训练该 模型。
3)FL模型训练:存储在所选用户设备中的数据集为H={H1,H2,H3,…,Hs},其中Hs表示第s个用户的本地数据集,数据大小为fs=|Hs|,f为所选用户设备中整个数据集的大小。与经典的FL算法一样,目标是最小化损失函数l(w):
Figure BDA0003306209330000021
其中lj(w)为数据集H中第j个数据在模型参数w训练下的预测损失,Ls(w)表示用户s 的本地损失函数。最小化本地损失函数Ls(w)的加权平均等价于优化FL训练中的损失函数 l(w)。
4)模型更新上传:将本地训练完的模型更新参数
Figure BDA0003306209330000031
上传至雾服务器以便于全局模型的 更新。在该发明中,为了保证数据传输的安全性,物联网用户首先将经过验证后的本地模型 更新参数上传至区块链,然后雾服务器从区块链上获取用于全局模型更新的参数。
5)权重聚合:物联网用户上传本地模型更新参数之后,雾节点通过计算所有接收到的本 地模型
Figure BDA0003306209330000032
的加权总和,生成新的全局模型wr+1。生成的新的全局模型将用于下一轮模型训 练,r表示FL中的通信轮数。本发明采用加权平均算法对模型进行聚合,参数聚合的权值取 决于本地训练数据的数量:
Figure BDA0003306209330000033
其中α为学习速率。
进一步,在步骤S3中,C-AAE通过将AE转换成生成模型,将GAN添加到AE架构 中。该方法以对抗损失训练AE,使隐空间分布适应任意先验。GANs构建了两个神经网络, 即生成网络G和判别网络D。G使用一个随机数向量作为输入,并在输出处生成输入。D用 于区分从G生成的样本和从输入数据提取的样本。GAN在G与D之间的对抗性可以表示为:
Figure RE-GDA0003342477780000034
重构阶段和正则化阶段是C-AAE训练过程中的两个阶段。在重构阶段,AE用来更新编 码器。首先,z由生成网络q(z|x)生成,然后,z被输入到解码器,输出
Figure BDA0003306209330000035
由z重构,在x和
Figure BDA0003306209330000036
之间计算重构误差。在正则化阶段,首先由对抗网络更新判别网络D,以区分真实的先验 样本和生成的样本。其次,为了欺骗判别网络D,更新生成网络G。
进一步,在步骤S4中,物联网用户基于本地数据集进行模型训练,模型训练结束后,用 户将调用接口合约将更新的梯度参数上传到区块链。接口合约将首先调用身份合约来验证边 缘节点以及物联网用户的身份,然后将参数作为交易上传到分布式账本,交易将随机和定期 地进行验证。如果一项交易被验证成功,它将被视为有效,否则,它将被视为无效。通过调 用信任合约,上传虚假梯度的物联网用户将受到惩罚。
本发明的有益效果在于:本文提出了一种区块链协助的FL主动内容缓存方法。首先, 考虑到实际网络中用户设备的资源约束,提出了一种基于用户选择的FL方案,以有效提高 FL的训练过程,减少模型训练的时间。其次,使用上下文感知的对抗性自动编码器(Contextual-aware Adversarial Autoencoders,C-AAE)来预测高度动态的内容流行度。该模型通 过将自动编码器(AutoEnocoder,AE)转化为生成模型,将对抗网络添加到AE架构中,有助于 从用户的历史请求和上下文信息中学习深度潜表征,获取用户与内容之间的隐式关系,提高 预测精度。最后,基于区块链技术设计四种面向去中心化实体的智能合约,用于记录和验证 交易,以确保数据的安全性。
本发明的其他优点、目标和特征在某种程度上将在随后的说明书中进行阐述,并且在某 种程度上,基于对下文的考察研究对本领域技术人员而言将是显而易见的,或者可以从本发 明的实践中得到教导。本发明的目标和其他优点可以通过下面的说明书来实现和获得。
附图说明
为了使本发明的目的、技术方案和优点更加清楚,下面将结合附图对本发明作优选的详 细描述,其中:
图1为边缘缓存架构图;
图2为基于区块链协助的联邦学习主动内容缓存模型图;
图3为基于用户选择的FL训练流程图。
具体实施方式
以下通过特定的具体实例说明本发明的实施方式,本领域技术人员可由本说明书所揭露 的内容轻易地了解本发明的其他优点与功效。本发明还可以通过另外不同的具体实施方式加 以实施或应用,本说明书中的各项细节也可以基于不同观点与应用,在没有背离本发明的精 神下进行各种修饰或改变。需要说明的是,以下实施例中所提供的图示仅以示意方式说明本 发明的基本构想,在不冲突的情况下,以下实施例及实施例中的特征可以相互组合。
其中,附图仅用于示例性说明,表示的仅是示意图,而非实物图,不能理解为对本发明 的限制;为了更好地说明本发明的实施例,附图某些部件会有省略、放大或缩小,并不代表 实际产品的尺寸;对本领域技术人员来说,附图中某些公知结构及其说明可能省略是可以理 解的。
本发明实施例的附图中相同或相似的标号对应相同或相似的部件;在本发明的描述中, 需要理解的是,若有术语“上”、“下”、“左”、“右”、“前”、“后”等指示的方位 或位置关系为基于附图所示的方位或位置关系,仅是为了便于描述本发明和简化描述,而不 是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此附图 中描述位置关系的用语仅用于示例性说明,不能理解为对本发明的限制,对于本领域的普通 技术人员而言,可以根据具体情况理解上述术语的具体含义。
图1描述了一个物联网主动边缘缓存架构。该架构主要包括云计算中心、雾服务器、物 联网设备。将配备雾服务器的边缘节点视为无线缓存实体,它具有到云计算中心的可靠回程 链接。物联网设备和边缘节点之间通过无线链路进行通信。由于每个雾节点的存储容量有限, 因此需要建立一个模型来选择缓存的内容。假设每个边缘节点最多可以存储F个内容,当物 联网用户在边缘节点的覆盖范围内时,它们将从该节点请求内容。如果请求的内容缓存在雾 节点,内容将直接从边缘节点传输到物联网设备,从而可以有效提高内容交付速率和用户体 验。否则,物联网用户必须从云计算中心获取请求的内容。在该系统模型中,每个边缘节点 涵盖多个物联网设备,一段时间后,边缘节点将连接到云计算中心以更新缓存的内容和模型。 为了提高缓存命中率和保护数据隐私,该系统结合联邦学习进行设计。
图2描述了基于区块链协助的联邦学习主动内容缓存模型。区块链作为分布式账本,将 模型和训练参数记录为一笔交易。分散的实体将向区块链提交数据,并定期进行核查,以确 保系统的安全。边缘节点维护一个全局模型,该模型被发送到连接的物联网设备进行训练。 边缘节点将接收终端设备上传的更新梯度,并将这些梯度聚合起来,以更新全局模型。最后, 根据每个用户的推荐列表,服务器选择前F位最受欢迎的内容缓存至边缘节点。
交易的数据结构由物联网用户提交的本地训练模型梯度的哈希值、涉及联邦学习过程的 物联网设备和边缘节点的身份以及签名组成。此外,还包括事务的时间戳。
本发明为去中心化实体设计了四种智能合约,用于记录和验证交易:
1.身份合约(Identity Contract):负责管理每个实体,包括分布式物联网用户和边缘节点;
2.接口合约(Submission Contract):为物联网用户提供向区块链提交梯度参数的接口;
3.验证合约(Verification Contract):负责选择共识节点和交易验证;
4.信任合约(Credit Contract):负责网络参与者的奖惩。
物联网用户基于本地数据集进行模型训练,模型训练结束后,用户将调用接口合约将更 新的梯度参数上传到区块链。接口合约将首先调用身份合约来验证边缘节点以及物联网用户 的身份,然后将参数作为交易上传到分布式账本。系统将定期调用验证合约,负责交易的验 证过程。在验证合约中,我们采用的是委托权益证明共识机制。主要思想是通过投票选出若 干个代理人节点,由这些代理人节点负责打包区块并进行区块的验证。如果一项交易被验证 成功,它将被视为有效,否则,它将被视为无效。通过调用信任合约,上传虚假梯度的物联 网用户将受到惩罚。
图3描述了基于用户选择的FL训练流程。在传统的FL框架中,FL协议迭代地要求随机客户端从服务器下载可训练模型,并使用自己的本地数据更新模型,然后将更新后的模型 上传到服务器,同时要求服务器聚合多个客户端更新以进一步改进模型。虽然该协议中的客 户端不公开自己的私有数据,但当某些客户端计算资源有限或无线信道条件较差时,整个训 练过程会变得效率低下,从而导致缓存性能的下降。为了解决这个问题,本发明提出了一种 新的FL协议,即基于用户选择的FL方案,它能有效地与具有异构资源的客户端协同工作。 基于用户选择的FL方案具体包括以下几个步骤:
1)用户选择
相对于传统FL框架随机选择参与模型训练的客户端,本发明提出了以下两步客户端选 择方案。首先,新的资源请求步骤要求随机客户端将自己的资源信息(例如无线信道状态、 计算能力以及与当前训练任务相关的数据资源大小)通知雾服务器。然后,雾服务器在之后 的客户端选择步骤中引用该信息,以估计模型分发、更新以及上传步骤所需的时间,并确定 参与模型训练的客户端。在模型分发步骤中,用于训练的全局模型以广播的方式从边缘节点 分发到选定的客户端,因为它可以有效地将相同的内容(即全局模型)传输到客户端。在模 型更新和上传步骤中,被选择的客户端并行更新模型,然后将更新参数上传到服务器以进行 模型聚合,直到模型收敛到一定的精度。
在客户端的选择过程中,网络中的客户端数量为K,表示为
Figure BDA0003306209330000061
是在 资源请求步骤中随机选择的客户端数量,即
Figure BDA0003306209330000062
C∈(0,1]表示每轮训练中随机客 户端接收到资源请求的比例。
Figure BDA0003306209330000063
表示在客户端选择步骤中所选客户的指 标序列,其中ki∈K′,|S|≤|K′|。在更新和上传步骤中,客户端按S的顺序上传本地模型更新 参数。在联邦学习过程中,每一轮训练的截止时延为Tround,Tfinal为全局模型训练的最终截止 时延,Tcs和Tagg分别为客户端选择和模型聚合步骤所需的时间,Ts d表示模型分发所需的时间, 它取决于被选择的客户端S,
Figure BDA0003306209330000064
Figure BDA0003306209330000065
分别表示第k个客户端更新和上传模型所花费的时间。 这些客户端相关参数可以根据资源请求步骤中通知的资源信息确定。
因此,在客户端选择方案中,为了接受尽可能多的客户端更新,可以通过最大限度地选 择客户端数量来实现,即maxS|S|。该发明定义了从本地模型训练开始直到第ki个客户端完 成模型更新和上传过程的估计运行时间,表示如下:
Figure BDA0003306209330000066
Figure BDA0003306209330000071
Figure BDA0003306209330000072
由于客户端按顺序上传本地模型更新,Ti UL是总的模型更新上传的时间。相反,当前面的客户 端在上传更新参数时,其他用户可以进行模型更新,因此,如果单个用户的模型更新时间
Figure BDA0003306209330000073
在之前的运行时间Θj-1之内,则总的模型更新时间Ti UD不会增加。因此,客户端选择步骤可 以表述为关于S的最大化问题:
maxS|S|
s.t.Tround≥Tcs+Ts d|S|+Tagg (7)
为了解决上述带有背包约束的最大化问题,提出了一种基于贪婪算法的启发式算法,如 表1所示。通过迭代地将花费模型上传和更新时间最少的客户端添加到S,直到运行时间t达 到截止时延Tround
表1基于用户选择的联邦学习方案
Figure BDA0003306209330000074
2)模型下载
基于步骤1的结果,一组物联网用户S被选择用于参与第r轮的联邦学习训练过程。下 一步是,所选用户从雾服务器下载初始的全局模型参数wr,并基于本地数据训练该模型,如 图3,步骤(2)所示。
3)FL模型训练
在提出的FL方案中,第三步是利用物联网用户的本地数据训练模型,如图3,步骤(3) 所示。网络中存储在所选用户设备中的数据集为H={H1,H2,H3,…,Hs},其中Hs表示第s个 用户的本地数据集,数据大小为fs=|Hs|,f为所选用户设备中整个数据集的大小。与经典的 FL算法一样,目标是最小化损失函数l(w):
Figure BDA0003306209330000081
其中lj(w)为数据集H中第j个数据在模型参数w训练下的预测损失,Ls(w)表示用户s的本 地损失函数。最小化本地损失函数Ls(w)的加权平均等价于优化FL训练中的损失函数l(w)。
4)模型更新上传
如图3,步骤(4)所示,第四步是将本地训练完的模型更新参数
Figure BDA0003306209330000082
上传至雾服务器以便于 全局模型的更新。在本发明中,为了保证数据传输的安全性,物联网用户首先将经过验证后 的本地模型更新参数上传至区块链,然后雾服务器从区块链上获取用于全局模型更新地参数。 与计算成本相比,通信成本在FL中占主导地位,为了降低通信成本,节省上传时间,由于 上行速度比下载速度慢,模型可以在上传到雾服务器之前进行压缩。
5)权重聚合
物联网用户上传本地模型更新参数之后,第五步是通过计算所有接收到的本地模型
Figure BDA0003306209330000083
的 加权总和,生成新的全局模型wr+1,如图3,步骤(5)所示。生成的新的全局模型将用于下一轮 模型训练,r表示FL中的通信轮数。本发明采用加权平均算法对模型进行聚合,参数聚合的 权值取决于本地训练数据的数量:
Figure BDA0003306209330000084
其中α为学习速率。在训练得到共享的全局模型之后,每个雾服务器预测它的流行内容,然 后发送一个列表给远端云服务器,远端云服务器存储所有缓存内容的列表,以备将来替换使 用。
C-AAE模型架构顶层是一个AE,它能够学习一个隐编码z,以一种无监督的学习方式 将其输入X映射到输出
Figure BDA0003306209330000085
底层是一个对抗网络,它主要用于区分样本是由指定分布的用户 生成的还是来自AE的隐编码z。用户内容请求矩阵X用作输入数据,是物联网用户的内容 检索历史,由样本变量x组成,其中
Figure BDA0003306209330000086
m和c分别为连接的用户数和内容数。此外,未来将请求哪些内容可能取决于物联网用户的上下文信息。在本方案中,使用了物联网用户 的上下文信息
Figure BDA0003306209330000091
以用于预测上下文相关的内容流行度,
Figure BDA0003306209330000092
附加在X中。C-AAE模型的输出是
Figure BDA0003306209330000093
即填充预测值的重构输入。C-AAE通过将AE转换成生成模型,将GAN添加到AE 架构中。该方法以对抗损失训练AE,使隐空间分布适应任意先验。GANs构建了两个神经网 络,即生成网络G和判别网络D。G使用一个随机数向量作为输入,并在输出处生成输入。 D用于区分从G生成的样本和从输入数据提取的样本。GAN在G与D之间的对抗性可以表 示为:
Figure RE-GDA0003342477780000094
重构阶段和正则化阶段是C-AAE训练过程中的两个阶段。在重构阶段,AE用来更新编 码器,编码器是最小化输入x的重构误差。首先,z由生成网络q(z|x)生成,然后,z被输入到解码器,输出
Figure BDA0003306209330000095
由z重构,在x和
Figure BDA0003306209330000096
之间计算重构误差。在正则化阶段,首先由对抗网络更新判别网络D,以区分真实的先验样本和生成的样本。然后,为了欺骗判别网络D,更新 生成网络G,隐码是判别网络必须考虑的,它以真实的先验分布p(z)的形式分布。这个生成 网络也是AE的解码器。
输出由对抗网络附加在编码器中,遵循p(z)分布,z可以由判别网络得到,z′由P(z)绘 制。采用反向传播的方法对判别网络的权值进行调整,同时,对生成网络的参数进行了更新, 这个过程是重复的。当训练过程结束时,生成模型由解码器AE定义,p(z)映射到数据分布 pd(x)。因此,C-AAE的正则化可以通过q(z)与p(z)的匹配来实现,其中q(z)是聚合后的 后验,p(z)是任意的先验,q(z)可以由下式得到:
Figure BDA0003306209330000097
其中,p(x)为模型分布,判别网络的损失函数为:
Figure BDA0003306209330000098
其中,b为块大小(minibatch size),本发明使用的对抗生成网络为:
Figure BDA0003306209330000099
在上述模型的设计中,输入矩阵是二进制用户内容请求矩阵X,1和0分别表示用户感 兴趣的内容和不感兴趣的内容。该发明将用户的历史请求内容标记为感兴趣的内容。事实上, 不感兴趣的内容很难识别,因为未知的内容和不感兴趣的内容混杂在未请求的内容中,将所 有未请求的内容标记为不感兴趣的内容是一种偏见预测。因此,该发明通过随机抽样机制标 记未知的内容对应的缺失条目,随机抽样的概率与客户对内容的偏好有关。使用提出的 C-AAE模型来预测这些缺失的值,C-AAE从输入矩阵X中学习隐编码Z,然后,X可以从Z 中恢复以生成
Figure BDA0003306209330000101
X的行和列都不完整,
Figure BDA0003306209330000102
为预测的缺失项矩阵。通过对预测的内容进行 排序,输出中得分最高的内容将被选择为雾服务器中的缓存内容。本发明算法的复杂度取决 于C-AAE模型的复杂度,其复杂度为O(h),h为C-AAE模型中隐含层的大小。表2中列出了完整的算法概述。
表2区块链协助的联邦学习主动内容缓存方案
Figure BDA0003306209330000103
最后说明的是,以上实施例仅用以说明本发明的技术方案而非限制,尽管参照较佳实施 例对本发明进行了详细说明,本领域的普通技术人员应当理解,可以对本发明的技术方案进 行修改或者等同替换,而不脱离本技术方案的宗旨和范围,其均应涵盖在本发明的权利要求 范围当中。

Claims (7)

1.一种雾计算中区块链协助的联邦学习主动内容缓存方法,其特征在于:该方法包括以下步骤:
S1:建立区块链协助的联邦学习主动边缘缓存架构;
S2:基于用户选择的联邦学习FL;
S3:进行基于上下文感知的对抗性自动编码器的内容流行度预测算法;
S4:进行联合区块链技术提高数据安全性方案。
2.根据权利要求1所述的一种雾计算中区块链协助的联邦学习主动内容缓存方法,其特征在于:在所述S1中,建立一个主动边缘缓存架构;该架构包括云计算中心、雾服务器和物联网用户;将配备雾服务器的边缘节点视为无线缓存实体,具有到云计算中心的可靠回程链接;物联网设备和雾节点之间通过无线链路进行通信;假设每个边缘节点最多可以存储F个内容,当物联网用户在边缘节点的覆盖范围内时,将从该边缘节点请求内容;如果请求的内容缓存在边缘节点,内容将直接从边缘节点传输到物联网设备,提高内容交付速率和用户体验;否则,物联网用户必须从云计算中心获取请求的内容;每个雾节点涵盖多个物联网设备,一段时间后,边缘节点将连接到云计算中心以更新缓存的内容和模型。
3.根据权利要求2所述的一种雾计算中区块链协助的联邦学习主动内容缓存方法,其特征在于:在所述S2中,基于用户选择的FL方案,与具有异构资源的客户端协同工作;允许服务器聚合尽可能多的客户端更新,并加速FL模型中的性能改进。
4.根据权利要求3所述的一种雾计算中区块链协助的联邦学习主动内容缓存方法,其特征在于:在所述S3中,边缘节点中的多个物联网用户协作训练一个共享的全局模型;首先,边缘节点向连接的物联网用户广播初始的全局训练模型;接着,每个物联网用户利用本地数据计算一个更新的模型,然后将计算更新后的梯度参数上传到边缘节点;最后,边缘节点聚合来自物联网用户的更新并建立更新后的全局模型;重复上述步骤,直到获得一个满意的全局模型;将预测的所有内容的流行度进行排名,并选择流行度排名前F位的内容作为边缘节点中的缓存内容,同时,边缘节点的缓存内容列表存储在云计算中心。
5.根据权利要求4所述的一种雾计算中区块链协助的联邦学习主动内容缓存方法,其特征在于:在所述S4中,FL框架中训练的模型是上下文感知的对抗性自动编码器C-AAE模型,它用于内容流行度的预测,以实现主动边缘缓存;对抗式自编码器AAE是一种概率自编码器AE,结合生成式对抗网络GANs和变分自编码器VAE;对抗式自编码器AAE的顶层是一个AE,能够学习一个隐编码z,以一种无监督的学习方式将其输入X映射到输出
Figure FDA0003306209320000011
对抗式自编码器AAE的底层是一个对抗网络,用于区分样本是由指定分布的用户生成的还是来自AE的隐编码z;使用物联网用户的上下文信息
Figure FDA0003306209320000021
附加在X中,以用于预测上下文相关的内容流行度,提高预测精度。
6.根据权利要求5所述的一种雾计算中区块链协助的联邦学习主动内容缓存方法,其特征在于:在所述S4中,结合区块链技术以保证数据的安全性;将物联网设备计算出的结果通过智能合约验证后附加到区块链,再由边缘节点从区块链上获取;使用区块链技术,在多个边缘节点上构建分布式控件,区块链通过挖掘和复制大量的节点来保护数据的准确性、一致性和有效性。
7.根据权利要求6所述的一种雾计算中区块链协助的联邦学习主动内容缓存方法,其特征在于:在所述S4中,使用区块链技术作为分布式账本,去中心化实体产生的交易将被记录和验证;交易被写入区块链后将不会被更改;为去中心化实体设计四种智能合约,用于记录和验证交易:
(1)身份合约:负责管理每个实体,包括分布式物联网用户和边缘节点;
(2)接口合约:为物联网用户提供向区块链提交梯度参数的接口;
(3)验证合约:负责选择共识节点和交易验证;
(4)信任合约:负责网络参与者的奖惩。
CN202111204040.4A 2021-10-15 2021-10-15 一种雾计算中区块链协助的联邦学习主动内容缓存方法 Active CN113873534B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111204040.4A CN113873534B (zh) 2021-10-15 2021-10-15 一种雾计算中区块链协助的联邦学习主动内容缓存方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111204040.4A CN113873534B (zh) 2021-10-15 2021-10-15 一种雾计算中区块链协助的联邦学习主动内容缓存方法

Publications (2)

Publication Number Publication Date
CN113873534A true CN113873534A (zh) 2021-12-31
CN113873534B CN113873534B (zh) 2024-02-06

Family

ID=78999786

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111204040.4A Active CN113873534B (zh) 2021-10-15 2021-10-15 一种雾计算中区块链协助的联邦学习主动内容缓存方法

Country Status (1)

Country Link
CN (1) CN113873534B (zh)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114338045A (zh) * 2022-01-14 2022-04-12 中国人民解放军战略支援部队信息工程大学 基于区块链和联邦学习的情报数据可验证性安全共享方法及系统
CN115378961A (zh) * 2022-08-16 2022-11-22 重庆邮电大学 一种基于区块链的分层联邦学习方法
CN116915781A (zh) * 2023-09-14 2023-10-20 南京邮电大学 一种基于区块链的边缘协作缓存系统及方法
CN116957049A (zh) * 2023-09-20 2023-10-27 南京邮电大学 基于对抗自编码器的无监督内部威胁检测方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3486816A1 (en) * 2017-11-16 2019-05-22 Institut Pasteur Method, device, and computer program for generating protein sequences with autoregressive neural networks
US20200193292A1 (en) * 2018-12-04 2020-06-18 Jinan University Auditable privacy protection deep learning platform construction method based on block chain incentive mechanism
CN111491331A (zh) * 2020-04-14 2020-08-04 重庆邮电大学 一种雾计算网络中基于迁移学习的网络感知自适应缓存方法
CN111935784A (zh) * 2020-08-12 2020-11-13 重庆邮电大学 一种雾计算网络中基于联邦学习的内容缓存方法
CN113379066A (zh) * 2021-06-10 2021-09-10 重庆邮电大学 一种基于雾计算的联邦学习方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3486816A1 (en) * 2017-11-16 2019-05-22 Institut Pasteur Method, device, and computer program for generating protein sequences with autoregressive neural networks
US20200193292A1 (en) * 2018-12-04 2020-06-18 Jinan University Auditable privacy protection deep learning platform construction method based on block chain incentive mechanism
CN111491331A (zh) * 2020-04-14 2020-08-04 重庆邮电大学 一种雾计算网络中基于迁移学习的网络感知自适应缓存方法
CN111935784A (zh) * 2020-08-12 2020-11-13 重庆邮电大学 一种雾计算网络中基于联邦学习的内容缓存方法
CN113379066A (zh) * 2021-06-10 2021-09-10 重庆邮电大学 一种基于雾计算的联邦学习方法

Non-Patent Citations (5)

* Cited by examiner, † Cited by third party
Title
FAN JIANG: "Caching Strategy Based on Content Popularity Prediction Using Federated Learning for F-RAN", 2021 IEEE/CIC INTERNATIONAL CONFERENCE ON COMMUNICATIONS IN CHINA (ICCC WORKSHOPS) *
YU-JEN KU: "5G Radio Access Network Design with the Fog Paradigm: Confluence of Communications and Computing", IEEE COMMUNICATIONS MAGAZINE *
张依琳: "联邦学习在边缘计算场景中应用研究进展", 小型微型计算机系统 *
王亚?;: "面向数据共享交换的联邦学习技术发展综述", 无人系统技术 *
董业;侯炜;陈小军;曾帅;: "基于秘密分享和梯度选择的高效安全联邦学习", 计算机研究与发展 *

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114338045A (zh) * 2022-01-14 2022-04-12 中国人民解放军战略支援部队信息工程大学 基于区块链和联邦学习的情报数据可验证性安全共享方法及系统
CN114338045B (zh) * 2022-01-14 2023-06-23 中国人民解放军战略支援部队信息工程大学 基于区块链和联邦学习的情报数据安全共享方法及系统
CN115378961A (zh) * 2022-08-16 2022-11-22 重庆邮电大学 一种基于区块链的分层联邦学习方法
CN116915781A (zh) * 2023-09-14 2023-10-20 南京邮电大学 一种基于区块链的边缘协作缓存系统及方法
CN116915781B (zh) * 2023-09-14 2023-12-12 南京邮电大学 一种基于区块链的边缘协作缓存系统及方法
CN116957049A (zh) * 2023-09-20 2023-10-27 南京邮电大学 基于对抗自编码器的无监督内部威胁检测方法
CN116957049B (zh) * 2023-09-20 2023-12-15 南京邮电大学 基于对抗自编码器的无监督内部威胁检测方法

Also Published As

Publication number Publication date
CN113873534B (zh) 2024-02-06

Similar Documents

Publication Publication Date Title
CN113873534A (zh) 一种雾计算中区块链协助的联邦学习主动内容缓存方法
Lu et al. Differentially private asynchronous federated learning for mobile edge computing in urban informatics
Qian et al. Reinforcement learning-based optimal computing and caching in mobile edge network
CN111865826B (zh) 一种基于联邦学习的主动内容缓存方法
CN113055489B (zh) 基于q学习的星地融合网络资源分配策略的实现方法
Yu et al. Proactive content caching for internet-of-vehicles based on peer-to-peer federated learning
Dai et al. Edge intelligence for adaptive multimedia streaming in heterogeneous internet of vehicles
CN108848395B (zh) 基于果蝇优化算法的边缘协作缓存布置方法
CN115297170A (zh) 一种基于异步联邦和深度强化学习的协作边缘缓存方法
Lee et al. Adaptive deadline determination for mobile device selection in federated learning
CN113411826B (zh) 一种基于注意力机制强化学习的边缘网络设备缓存方法
Jin et al. Cost-effective data placement in edge storage systems with erasure code
CN115714814B (zh) 一种基于多智能体强化学习的边缘缓存替换方法
Wang et al. Joint design of device to device caching strategy and incentive scheme in mobile edge networks
CN112637822A (zh) 一种基于区块链的蜂窝网络安全交易平台
Wan et al. Deep Reinforcement Learning‐Based Collaborative Video Caching and Transcoding in Clustered and Intelligent Edge B5G Networks
CN115766722A (zh) 一种基于信息中心网络的算力网络任务调度方法及装置
CN113992770B (zh) 雾无线接入网中基于策略的联邦强化学习的协作缓存方法
CN114760308A (zh) 边缘计算卸载方法及装置
CN115129888A (zh) 一种基于网络边缘知识图谱的主动内容缓存方法
CN113114762B (zh) 一种数据缓存方法及系统
CN112052198B (zh) 能耗监测平台下基于节点介数流行度的哈希路由协同缓存方法
Li et al. Video caching and scheduling with edge cooperation
CN111901394B (zh) 一种联合考虑用户偏好及活跃程度的移动边缘缓存的方法及系统
CN115134418B (zh) 一种多接入边缘计算的协同存储方法、系统及电子设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right

Effective date of registration: 20230828

Address after: Room 801, 85 Kefeng Road, Huangpu District, Guangzhou City, Guangdong Province

Applicant after: Yami Technology (Guangzhou) Co.,Ltd.

Address before: 400065 Chongqing Nan'an District huangjuezhen pass Chongwen Road No. 2

Applicant before: CHONGQING University OF POSTS AND TELECOMMUNICATIONS

TA01 Transfer of patent application right
TA01 Transfer of patent application right

Effective date of registration: 20240102

Address after: 301, 304, Building 2, COFCO Chuangxin R&D Center, 69 Xingdong Community, Xin'an Street, Bao'an District, Shenzhen, Guangdong 518000

Applicant after: SHENZHEN DIANLIAN TECHNOLOGY Co.,Ltd.

Address before: Room 801, 85 Kefeng Road, Huangpu District, Guangzhou City, Guangdong Province

Applicant before: Yami Technology (Guangzhou) Co.,Ltd.

TA01 Transfer of patent application right
GR01 Patent grant
GR01 Patent grant