CN115424079A - 基于联邦边缘学习的图像分类方法以及相关设备 - Google Patents

基于联邦边缘学习的图像分类方法以及相关设备 Download PDF

Info

Publication number
CN115424079A
CN115424079A CN202211213699.0A CN202211213699A CN115424079A CN 115424079 A CN115424079 A CN 115424079A CN 202211213699 A CN202211213699 A CN 202211213699A CN 115424079 A CN115424079 A CN 115424079A
Authority
CN
China
Prior art keywords
edge
transmission power
model
image classification
learning
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202211213699.0A
Other languages
English (en)
Other versions
CN115424079B (zh
Inventor
朱光旭
曹晓雯
李晓阳
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Research Institute of Big Data SRIBD
Original Assignee
Shenzhen Research Institute of Big Data SRIBD
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Research Institute of Big Data SRIBD filed Critical Shenzhen Research Institute of Big Data SRIBD
Priority to CN202211213699.0A priority Critical patent/CN115424079B/zh
Publication of CN115424079A publication Critical patent/CN115424079A/zh
Application granted granted Critical
Publication of CN115424079B publication Critical patent/CN115424079B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/60Protecting data
    • G06F21/62Protecting access to data via a platform, e.g. using keys or access control rules
    • G06F21/6218Protecting access to data via a platform, e.g. using keys or access control rules to a system of files or objects, e.g. local or distributed file system or database
    • G06F21/6245Protecting personal data, e.g. for financial or medical purposes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04KSECRET COMMUNICATION; JAMMING OF COMMUNICATION
    • H04K1/00Secret communication
    • H04K1/02Secret communication by adding a second signal to make the desired signal unintelligible

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Computation (AREA)
  • Databases & Information Systems (AREA)
  • Computing Systems (AREA)
  • Artificial Intelligence (AREA)
  • General Engineering & Computer Science (AREA)
  • Bioethics (AREA)
  • Multimedia (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Computer Hardware Design (AREA)
  • Computer Security & Cryptography (AREA)
  • Signal Processing (AREA)
  • Data Mining & Analysis (AREA)
  • Mathematical Physics (AREA)
  • Image Analysis (AREA)

Abstract

本申请涉及计算机技术领域,提供了一种基于联邦边缘学习的图像分类方法以及相关设备,该方法应用于联邦边缘学习系统,所述联邦边缘学习系统包括边缘服务器以及多个边缘设备,多个所述边缘设备与所述边缘服务器通过无线信道通信连接,通过多个边缘设备分别经过无线信道同时向边缘服务器发送第一传输信号,第一传输信号携带有以第一传输功率发送的本地模型参数和以第二传输功率注入的第一随机噪声,本申请实施例通过无线信道的叠加特性对所有边缘设备上传的模型参数进行汇总平均,提高图像分类方法中模型学习的收敛速度,同时注入噪声,加强隐私保护。

Description

基于联邦边缘学习的图像分类方法以及相关设备
技术领域
本申请涉及计算机技术领域,尤其涉及一种基于联邦边缘学习的图像分类方法以及相关设备。
背景技术
在无线网络边缘融入人工智能,进行实时的分布式智能训练,是实现通信网络全面智能化升级的一个关键技术挑战。联邦学习凭借用户隐私和数据安全方面具有独特的优势,也获得了非常广泛的关注。在联邦学习中,各个边缘设备在边缘服务器的协调下,利用本地数据联合训练共享的机器学习模型。
对于计算机视觉领域中的图像分类技术,其在实际应用中对数据隐私的保护需求使得原始数据无法共享,多个数据源之间形成“数据孤岛”。基于联邦边缘学习的图像分类因此被提出,通过联邦学习方式训练分类模型,使得每个联邦学习的参与者能够从其他参与者的图像数据中获益,同时能够确保每个参与者的图像数据不离开本地,在保证了各方数据隐私的前提下成功解决了数据孤岛的问题。
然而,基于传统联邦边缘学习的图像分类方法,当存在过多边缘设备或需要较多迭代训练时,则存在通信开销大、模型训练效率慢等问题,另一方面,边缘设备上传的模型参数仍然存在有用信息,边缘服务器(或环境中的窃听者)可以从接收信息中恶意推断出边缘设备的私有信息。
发明内容
本申请实施例的主要目的在于提出一种基于联邦边缘学习的图像分类方法以及相关设备,通过无线信道的叠加特性对所有边缘设备上传的模型参数进行汇总平均,提高图像分类方法中模型学习的收敛速度,同时注入噪声,加强隐私保护。
为实现上述目的,本申请实施例的第一方面提出了一种基于联邦边缘学习的图像分类方法,所述方法应用于联邦边缘学习系统,所述联邦边缘学习系统包括边缘服务器以及多个边缘设备,多个所述边缘设备与所述边缘服务器通过无线信道通信连接,所述方法包括:
通过多个所述边缘设备分别获取本地图像样本数据,并对所述本地图像样本数据进行随机采样得到批量图像样本数据;
通过多个所述边缘设备分别基于所述批量图像样本数据对所述图像分类模型的模型参数进行更新,直至满足预设条件,将更新后的模型参数作为本轮迭代训练的本地模型参数;
通过多个所述边缘设备分别经过所述无线信道同时向所述边缘服务器发送第一传输信号,所述第一传输信号携带有以第一传输功率发送的所述本地模型参数和以第二传输功率注入的第一随机噪声;
通过所述边缘服务器接收由多个所述边缘设备同时发送的第一传输信号聚合而成的第一接收信号,并根据所述第一接收信号确定下一轮迭代训练的全局模型参数;
通过多个所述边缘设备分别接收所述边缘服务器广播发送的所述全局模型参数,并根据所述全局模型参数对所述图像分类模型的模型参数进行更新处理,得到目标图像分类模型;
通过多个所述边缘设备分别获取待分类图像,将所述待分类图像输入所述目标图像分类模型,以通过所述目标图像分类模型得到所述待分类图像的分类结果。
根据本申请一些实施例提供的基于联邦边缘学习的图像分类方法,所述第一传输信号通过以下公式确定:
Figure BDA0003875959210000021
其中,所述Sk,t表示第k个所述边缘设备在第t轮迭代训练时向所述边缘服务器的第一传输信号,所述
Figure BDA0003875959210000022
表示第k个所述边缘设备在第t轮迭代训练时获得的本地模型参数,所述nk,t表示第k个所述边缘设备在第t轮迭代训练使用的第一随机噪声,所述pk,t表示用于发送本地模型参数
Figure BDA0003875959210000023
的第一传输功率,所述
Figure BDA0003875959210000024
表示用于注入第一随机噪声nk,t的第二传输功率;
所述第一接收信号通过以下公式确定:
Figure BDA0003875959210000025
其中,所述yt表示第t轮迭代训练的全局模型参数,所述hk,t表示第k个所述边缘设备与所述边缘服务器在第t轮迭代训练时的复数信道系数,所述zt为第二随机噪声,服从
Figure BDA0003875959210000026
Figure BDA0003875959210000027
为所述第二随机噪声的噪声功率,I为单位矩阵;
所述根据所述第一接收信号确定下一轮迭代训练的全局模型参数,所述方法还包括:
根据所述第一接收信号、所述边缘设备的数量以及预设的降噪因子,确定下一轮迭代训练的全局模型参数。
根据本申请一些实施例提供的基于联邦边缘学习的图像分类方法,所述方法还包括:
通过所述边缘设备以及所述边缘服务器分别获取预设的传输功率优化模型以及约束条件,所述约束条件包括所述边缘设备的最大发送功率约束以及平均发送功率约束;
在所述根据所述第一接收信号、所述边缘设备的数量以及预设的降噪因子,确定下一轮迭代训练的全局模型参数之前,所述方法还包括:
对所述传输功率优化模型进行求解处理,得到在所述约束条件下所述传输功率优化模型取得最优解时的降噪因子;
在所述通过多个所述边缘设备分别经过所述无线信道同时向所述边缘服务器发送第一传输信号之前,所述方法还包括:
对所述传输功率优化模型进行求解处理,分别得到在所述约束条件下所述传输功率优化模型取得最优解时用于发送所述本地模型参数的第一传输功率以及第一随机噪声的第二传输功率;
所述传输功率优化模型通过以下公式确定:
Figure BDA0003875959210000028
其中,
Figure BDA0003875959210000029
Figure BDA00038759592100000210
Figure BDA00038759592100000211
Figure BDA0003875959210000031
Ct=1-(Ω-1)μγt
所述T表示迭代训练总次数,所述K表示参与联邦学习的边缘设备总数,所述ηt表示第t次迭代训练的降噪因子,所述
Figure BDA0003875959210000036
表示第k个所述边缘设备在第t次迭代训练时使用的第一随机噪声的噪声功率,所述L表示smoothness系数,所述γt-1为第t-1次迭代训练时的学习率,所述Ω表示所述边缘设备的本地迭代训练次数,所述表示预设的模型上界,所述μ为PL系数;
所述最大发送功率约束为:
Figure BDA0003875959210000032
所述平均发送功率约束为:
Figure BDA0003875959210000033
其中,所述
Figure BDA0003875959210000034
表示第k个所述边缘设备对应的最大发送功率,所述
Figure BDA0003875959210000035
表示第k个所述边缘设备对应的平均发送功率,所述T表示迭代训练的总次数,所述q表示所述边缘设备向所述边缘服务器传输数据时使用的符号数量。
根据本申请一些实施例提供的基于联邦边缘学习的图像分类方法,所述对所述传输功率优化模型进行求解处理,得到在所述约束条件下所述传输功率优化模型取得最优解时的降噪因子,包括:
获取上一轮迭代训练中的第一传输功率以及第二传输功率;
基于上一轮迭代训练中的第一传输功率以及第二传输功率,对所述传输功率优化模型进行求解处理,得到在所述约束条件下所述传输功率优化模型取得最优解时本轮迭代训练中的降噪因子;
所述对所述传输功率优化模型进行求解处理,得到在所述约束条件下所述传输功率优化模型取得最优解时用于发送所述本地模型参数的第一传输功率以及第一随机噪声的第二传输功率,包括:
获取上一轮迭代训练中的第二传输功率以及本轮迭代训练中的降噪因子;
基于上一轮迭代训练中的第二传输功率以及本轮迭代训练中的降噪因子,对所述传输功率优化模型进行求解处理,得到在所述约束条件下所述传输功率优化模型取得最优解时本轮迭代训练中用于发送所述本地模型参数的第一传输功率;
基于本轮迭代训练中的第一传输功率以及降噪因子,对所述传输功率优化模型进行求解处理,得到在所述约束条件下所述传输功率优化模型取得最优解时本轮迭代训练中用于发送第一随机噪声的第二传输功率。
根据本申请一些实施例提供的基于联邦边缘学习的图像分类方法,在所述对所述传输功率优化模型进行求解处理之前,所述方法还包括:
获取预设的隐私水平约束,所述隐私水平约束由所述边缘设备向所述边缘服务器传输数据的过程中有效噪声的标准偏差以及注入所述第一随机噪声的敏感度上界确定;
所述对所述传输功率优化模型进行求解处理,包括:
基于所述隐私水平约束对所述传输功率优化模型进行求解处理。
根据本申请一些实施例提供的基于联邦边缘学习的图像分类方法,所述有效噪声的标准偏差为:
Figure BDA0003875959210000041
根据本申请一些实施例提供的基于联邦边缘学习的图像分类方法,所述隐私水平约束为:
Figure BDA0003875959210000042
其中,
Figure BDA0003875959210000043
C-1(·)为
Figure BDA0003875959210000044
的逆函数。
为实现上述目的,本申请实施例的第二方面提出了一种联邦边缘学习系统,所述系统包括:
所述联邦边缘学习系统包括边缘服务器以及多个边缘设备,多个所述边缘设备与所述边缘服务器通过无线信道通信连接;其中,
所述边缘设备包括:
样本获取模块,用于获取本地图像样本数据,并对所述本地图像样本数据进行随机采样得到批量图像样本数据;
模型训练模块,用于基于所述批量图像样本数据对所述图像分类模型的模型参数进行更新,直至满足预设条件,将更新后的模型参数作为本轮迭代训练的本地模型参数;
参数上传模块,用于经过所述无线信道同时向所述边缘服务器发送第一传输信号,所述第一传输信号携带有以第一传输功率发送的所述本地模型参数和以第二传输功率注入的第一随机噪声;
接收和更新模型,用于接收所述边缘服务器广播发送的所述全局模型参数,并根据所述全局模型参数对所述图像分类模型的模型参数进行更新处理,得到目标图像分类模型;
图像分类模块,用于获取待分类图像,将所述待分类图像输入所述目标图像分类模型,以通过所述目标图像分类模型得到所述待分类图像的分类结果;
所述边缘服务器包括:
接收和处理模块,用于接收由多个所述边缘设备同时发送的第一传输信号聚合而成的第一接收信号,并根据所述第一接收信号确定下一轮迭代训练的全局模型参数。
为实现上述目的,本申请实施例的第三方面提出了一种电子设备,所述电子设备包括存储器、处理器、存储在所述存储器上并可在所述处理器上运行的计算机程序,所述计算机程序被所述处理器执行时实现上述第一方面所述的方法。
为实现上述目的,本申请实施例的第四方面提出了一种存储介质,所述存储介质为计算机可读存储介质,用于计算机可读存储,所述存储介质存储有一个或者多个计算机程序,所述一个或者多个计算机程序可被一个或者多个处理器执行,以实现上述第一方面所述的方法。
本申请提出一种基于联邦边缘学习的图像分类方法以及相关设备,该方法应用于联邦边缘学习系统,该联邦边缘学习系统包括边缘服务器以及多个边缘设备,多个边缘设备与边缘服务器通过无线信道通信连接,该方法通过多个边缘设备分别获取本地图像样本数据,并对本地图像样本数据进行随机采样得到批量图像样本数据,通过多个边缘设备分别基于批量图像样本数据对图像分类模型的模型参数进行更新,直至满足预设条件,将更新后的模型参数作为本轮迭代训练的本地模型参数,通过多个边缘设备分别经过无线信道同时向边缘服务器发送第一传输信号,第一传输信号携带有以第一传输功率发送的本地模型参数和以第二传输功率注入的第一随机噪声,通过边缘服务器接收由多个边缘设备同时发送的第一传输信号聚合而成的第一接收信号,并根据第一接收信号确定下一轮迭代训练的全局模型参数,通过多个边缘设备分别接收边缘服务器广播发送的全局模型参数,并根据全局模型参数对图像分类模型的模型参数进行更新处理,得到目标图像分类模型,通过多个边缘设备分别获取待分类图像,将待分类图像输入目标图像分类模型,以通过目标图像分类模型得到待分类图像的分类结果。本申请实施例通过无线信道的叠加特性对所有边缘设备上传的模型参数进行汇总平均,提高图像分类方法中模型学习的收敛速度,同时注入噪声,加强隐私保护。
附图说明
图1是本申请实施例提供的一种基于联邦边缘学习的图像分类方法的流程示意图;
图2是本申请另一实施例提供的一种基于联邦边缘学习的图像分类方法的流程示意图;
图3是本申请另一实施例提供的一种基于联邦边缘学习的图像分类方法的流程示意图;
图4是本申请实施例提供的一种联邦边缘学习系统的结构示意图;
图5是本申请另一实施例提供的一种联邦边缘学习系统的结构示意图;
图6是本申请实施例提供的一种电子设备的结构示意图。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处所描述的具体实施例仅用以解释本申请,并不用于限定本申请。
应了解,在本申请实施例的描述中,如果有描述到“第一”、“第二”等只是用于区分技术特征为目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量或者隐含指明所指示的技术特征的先后关系。“至少一个”是指一个或者多个,“多个”是指两个或两个以上。“和/或”,描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示单独存在A、同时存在A和B、单独存在B的情况。其中A,B可以是单数或者复数。字符“/”一般表示前后关联对象是一种“或”的关系。“以下至少一项”及其类似表达,是指的这些项中的任意组,包括单项或复数项的任意组。例如,a、b和c中的至少一项可以表示:a,b,c,a和b,a和c,b和c,或者,a和b和c,其中a,b,c可以是单个,也可以是多个。
在无线网络边缘融入人工智能,进行实时的分布式智能训练,是实现通信网络全面智能化升级的一个关键技术挑战。联邦学习凭借用户隐私和数据安全方面具有独特的优势,也获得了非常广泛的关注。在联邦学习中,各个边缘设备在边缘服务器的协调下,利用本地数据联合训练共享的机器学习模型。
对于计算机视觉领域中的图像分类技术,其在实际应用中对数据隐私的保护需求使得原始数据无法共享,多个数据源之间形成“数据孤岛”。基于联邦边缘学习的图像分类因此被提出,通过联邦学习方式训练分类模型,使得每个联邦学习的参与者能够从其他参与者的图像数据中获益,同时能够确保每个参与者的图像数据不离开本地,在保证了各方数据隐私的前提下成功解决了数据孤岛的问题。
然而,基于传统联邦边缘学习的图像分类方法,当存在过多边缘设备或需要较多迭代训练时,则存在通信开销大、模型训练效率慢等问题,另一方面,边缘设备上传的模型参数仍然存在有用信息,边缘服务器(或环境中的窃听者)可以从接收信息中恶意推断出边缘设备的私有信息。
基于此,本申请实施例提出一种基于联邦边缘学习的图像分类方法以及相关设备,通过无线信道的叠加特性对所有边缘设备上传的模型参数进行汇总平均,提高图像分类方法中模型学习的收敛速度,同时注入噪声,加强隐私保护。
本申请实施例提供的一种基于联邦边缘学习的图像分类方法以及相关设备,具体通过如下实施例进行说明,首先描述本申请实施例中的基于联邦边缘学习的图像分类方法。
本申请实施例提供了一种基于联邦边缘学习的图像分类方法,请参见图4,图4示出了本申请实施例提供的联邦边缘学习系统的结构示意图,如图4所示,所述方法应用于联邦边缘学习系统,所述联邦边缘学习系统包括边缘服务器以及多个边缘设备,多个所述边缘设备与所述边缘服务器通过无线信道通信连接。
请参见图1,图1示出了本申请实施例提供的一种基于联邦边缘学习的图像分类方法的流程示意图,如图1所示,该基于联邦边缘学习的图像分类方法,包括:
步骤S110,通过多个所述边缘设备分别获取本地图像样本数据,并对所述本地图像样本数据进行随机采样得到批量图像样本数据;
步骤S120,通过多个所述边缘设备分别基于所述批量图像样本数据对所述图像分类模型的模型参数进行更新,直至满足预设条件,将更新后的模型参数作为本轮迭代训练的本地模型参数;
步骤S130,通过多个所述边缘设备分别经过所述无线信道同时向所述边缘服务器发送第一传输信号,所述第一传输信号携带有以第一传输功率发送的所述本地模型参数和以第二传输功率注入的第一随机噪声;
步骤S140,通过所述边缘服务器接收由多个所述边缘设备同时发送的第一传输信号聚合而成的第一接收信号,并根据所述第一接收信号确定下一轮迭代训练的全局模型参数;
步骤S150,通过多个所述边缘设备分别接收所述边缘服务器广播发送的所述全局模型参数,并根据所述全局模型参数对所述图像分类模型的模型参数进行更新处理,得到目标图像分类模型;
步骤S160,通过多个所述边缘设备分别获取待分类图像,将所述待分类图像输入所述目标图像分类模型,以通过所述目标图像分类模型得到所述待分类图像的分类结果。
可以理解的是,本申请实施例提供的图像分类方法中,通过联邦边缘学习系统,利用无线信道的叠加特性对所有边缘设备上传的模型参数进行汇总平均,一方面,可以避免传统联邦学习中边缘服务器由于需要汇总处理多个边缘设备上传的模型参数,当存在较多边缘设备或者需要较多迭代训练时,存在的无线通信资源开销过多、模型训练效率较低的问题;另一方面,终端设备将模型参数发送到空中,边缘服务器接收到的是模型参数的叠加信号,无法从中推断出某一个具体边缘设备的信息,从而避免边缘设备的隐私信息被恶意推测。此外,边缘设备在第一传输信号以第二传输功率注入第一随机噪声,进一步加强了隐私保护。
在一些实施例中,所述第一传输信号通过以下公式确定:
Figure BDA0003875959210000071
其中,所述Sk,t表示第k个所述边缘设备在第t轮迭代训练时向所述边缘服务器的第一传输信号,所述
Figure BDA0003875959210000072
表示第k个所述边缘设备在第t轮迭代训练时获得的本地模型参数,所述nk,t表示第k个所述边缘设备在第t轮迭代训练使用的第一随机噪声,所述pk,t表示用于发送本地模型参数
Figure BDA0003875959210000073
的第一传输功率,所述
Figure BDA0003875959210000074
表示用于注入第一随机噪声nk,t的第二传输功率;
所述第一接收信号通过以下公式确定:
Figure BDA0003875959210000075
其中,所述yt表示第t轮迭代训练的全局模型参数,所述hk,t表示第k个所述边缘设备与所述边缘服务器在第t轮迭代训练时的复数信道系数,所述zt为第二随机噪声,服从
Figure BDA0003875959210000076
Figure BDA0003875959210000077
为所述第二随机噪声的噪声功率,I为单位矩阵。
所述根据所述第一接收信号确定下一轮迭代训练的全局模型参数,所述方法还包括:
根据所述第一接收信号、所述边缘设备的数量以及预设的降噪因子,确定下一轮迭代训练的全局模型参数。
在一个具体实施例中,所述全局模型参数通过以下公式确定:
Figure BDA0003875959210000078
其中,所述
Figure BDA0003875959210000079
为第t次迭代训练的降噪因子,所述K为边缘设备的总数量。
在一些实施例中,所述方法还包括:
通过所述边缘设备以及所述边缘服务器分别获取预设的传输功率优化模型以及约束条件,所述约束条件包括所述边缘设备的最大发送功率约束以及平均发送功率约束;
在所述根据所述第一接收信号、所述边缘设备的数量以及预设的降噪因子,确定下一轮迭代训练的全局模型参数之前,所述方法还包括:
对所述传输功率优化模型进行求解处理,得到在所述约束条件下所述传输功率优化模型取得最优解时的降噪因子;
在所述通过多个所述边缘设备分别经过所述无线信道同时向所述边缘服务器发送第一传输信号之前,所述方法还包括:
对所述传输功率优化模型进行求解处理,分别得到在所述约束条件下所述传输功率优化模型取得最优解时用于发送所述本地模型参数的第一传输功率以及第一随机噪声的第二传输功率;
所述传输功率优化模型通过以下公式确定:
Figure BDA00038759592100000710
其中,
Figure BDA00038759592100000711
Figure BDA00038759592100000712
Figure BDA00038759592100000713
Figure BDA0003875959210000081
Ct=1-(Ω-1)μγt
所述T表示迭代训练总次数,所述K表示参与联邦学习的边缘设备总数,所述ηt表示第t次迭代训练的降噪因子,所述
Figure BDA0003875959210000082
表示第k个所述边缘设备在第t次迭代训练时使用的第一随机噪声的噪声功率,所述L表示smoothness系数,所述γt-1为第t-1次迭代训练时的学习率,所述Ω表示所述边缘设备的本地迭代训练次数,所述表示预设的模型上界,所述μ为PL系数;
所述最大发送功率约束为:
Figure BDA0003875959210000083
所述平均发送功率约束为:
Figure BDA0003875959210000084
其中,所述
Figure BDA0003875959210000085
表示第k个所述边缘设备对应的最大发送功率,所述
Figure BDA0003875959210000086
表示第k个所述边缘设备对应的平均发送功率,所述T表示迭代训练的总次数,所述q表示所述边缘设备向所述边缘服务器传输数据时使用的符号数量。
可以理解的是,由于信道衰落和噪声的破坏,模型聚合过程中不可避免地遇到随机扰动,此时,较大的扰动将降低模型的准确性,但提高了隐私性。本申请实施例提供的基于联邦边缘学习的图像分类方法中,通过获取预设的传输功率优化模型,在边缘设备和边缘服务器之间的迭代训练中,对边缘设备向边缘服务器发送本地模型参数的第一传输功率和注入第一随机噪声的第二传输功率进行迭代优化,直到传输功率优化模型中目标函数趋于最小值或达到规定的迭代次数,实现联邦边缘学习中传输功率控制,能够更好地权衡模型聚合过程中的隐私性和准确性。
具体的,假设在边缘服务器的协调下,边缘设备通过无线更新,聚合协作训练共享的机器学习模型,同时信道在每个时间块内保持不变,且所有边缘设备能准确地得到所有的信道状态信息和与计算相关的信息,以便完成功率控制。考虑一个频率非选择性块衰落(Frequency non-selective block fading)信道模型,其中无线信道在每次外部迭代训练中保持不变,但在不同的迭代中可能发生改变。此外,假设每个边缘设备都完全知道各自的信道状态信息,从而可以补偿无线信道引入的相位偏移,并假设边缘服务器知道全局信道状态信息,以方便实现功率控制。
在上述情况下,结合全局模型参数
Figure BDA0003875959210000087
Figure BDA0003875959210000088
其中K为边缘设备的总数量,
Figure BDA0003875959210000089
为第K个边缘设备在t+1次迭代训练的本地模型参数,确定由于空中计算导致的通信聚合误差:
Figure BDA00038759592100000810
根据引入的通信误差,建议最优间隙的函数表示时,对于每次外部迭代训练t,全部模型参数为Vt+1,对应的最优间隙为F(vt+1)-F*,其中F(·)为全局损失函数,F*为全局损失函数的最优解,之后设置一个衰减学习率,得到下述关于最优间隙和通信聚合误差之间的关系:
Figure BDA00038759592100000811
其中,
Figure BDA0003875959210000091
与模型梯度方差和值相关,即
Figure BDA0003875959210000092
表示梯度上界,E(·)表示取期望。
最后基于边缘设备的最大功率约束和平均功率约束,最小化最优间隙,以提高基于联邦边缘学习的图像分类方法中图像分类模型的收敛速度,因此将该问题建模为:
Figure BDA0003875959210000093
在一些实施例中,请参见图2,图2示出了本申请另一实施例提供的一种基于联邦边缘学习的图像分类方法的流程示意图,如图2所示,所述对所述传输功率优化模型进行求解处理,得到在所述约束条件下所述传输功率优化模型取得最优解时的降噪因子,包括:
步骤S210,获取上一轮迭代训练中的第一传输功率以及第二传输功率;
步骤S220,基于上一轮迭代训练中的第一传输功率以及第二传输功率,对所述传输功率优化模型进行求解处理,得到在所述约束条件下所述传输功率优化模型取得最优解时本轮迭代训练中的降噪因子;
请参见图3,图3示出了本申请另一实施例提供的一种基于联邦边缘学习的图像分类方法的流程示意图,如图3所示,所述对所述传输功率优化模型进行求解处理,得到在所述约束条件下所述传输功率优化模型取得最优解时用于发送所述本地模型参数的第一传输功率以及第一随机噪声的第二传输功率,包括:
步骤S310,获取上一轮迭代训练中的第二传输功率以及本轮迭代训练中的降噪因子;
步骤S320,基于上一轮迭代训练中的第二传输功率以及本轮迭代训练中的降噪因子,对所述传输功率优化模型进行求解处理,得到在所述约束条件下所述传输功率优化模型取得最优解时本轮迭代训练中用于发送所述本地模型参数的第一传输功率;
步骤S330,基于本轮迭代训练中的第一传输功率以及降噪因子,对所述传输功率优化模型进行求解处理,得到在所述约束条件下所述传输功率优化模型取得最优解时本轮迭代训练中用于发送第一随机噪声的第二传输功率。
具体的,在迭代训练中对传输功率的优化过程中:
在第一轮迭代训练,对于边缘设备则基于预设的第一传输功率和第二传输功率进行模型参数上传,对于边缘服务器,则基于该第一传输功率和第二传输功率,优化降噪因子。利用变量替换
Figure BDA0003875959210000094
将原优化问题转换了凸优化问题,通过检测一阶导数,得到降噪因子的最优解:
Figure BDA0003875959210000095
Figure BDA0003875959210000096
在后续的迭代训练中,边缘设备则是通过获取上一轮迭代训练中的第二传输功率以及本轮迭代训练中的降噪因子,优化第一传输功率,将优化问题简化为:
Figure BDA0003875959210000097
通过变量替换,将原优化问题转化为凸优化问题,利用拉格朗日对偶方法,求得第一传输功率的最优解:
Figure BDA0003875959210000101
其中,
Figure BDA0003875959210000102
Figure BDA0003875959210000103
分别隐私水平约束和平均传输功率约束的最优对偶变量。
之后,边缘设备基于本轮迭代训练中求得的第一传输功率以及降噪因子,优化用于注入人为噪声的第二传输功率,将原优化问题简化为:
Figure BDA0003875959210000104
求解得到:
Figure BDA0003875959210000105
Figure BDA0003875959210000106
其中,
Figure BDA0003875959210000107
Figure BDA0003875959210000108
分别隐私水平约束和最大传输功率约束的最优对偶变量。
也就是说,在第一轮迭代训练中初始化传输功率值,之后每一轮迭代训练的优化过程都是根据优化得到的最优解带入到原优化问题,求得其他最优解。三个问题都求解完则表示这一轮迭代结束,进行下一轮,直到目标函数趋于最小值或达到规定的迭代次数。
在一些实施例中,在所述对所述传输功率优化模型进行求解处理之前,所述方法还包括:
获取预设的隐私水平约束,所述隐私水平约束由所述边缘设备向所述边缘服务器传输数据的过程中有效噪声的标准偏差以及注入所述第一随机噪声的敏感度上界确定;
所述对所述传输功率优化模型进行求解处理,包括:
基于所述隐私水平约束对所述传输功率优化模型进行求解处理。
应能理解的是,根据边缘服务器接收到的第一接收信号,确定有效噪声为信道噪声和注入噪声之和,从而确定有效噪声的标准偏差(standard deviation)。
在一些实施例中,所述有效噪声的标准偏差为:
Figure BDA0003875959210000109
进一步的,隐私水平(ε,δ)取决于在没有噪声的影响下所公开的数据特性对输入数据集的敏感度。具体而言,该敏感度即为在最坏情况下,单个数据可以改变所公开数据特性的程度。因此,基于第一接收信号以及三角不等式,可以确定敏感度上界为
Figure BDA00038759592100001010
最后根据该标准偏差和敏感度上界确定传输功率控制的隐私水平约束。
在一些实施例中,所述隐私水平约束为:
Figure BDA00038759592100001011
其中,
Figure BDA0003875959210000111
C-1(·)为
Figure BDA0003875959210000112
的逆函数;εk表示隐私损失,δ表示注入噪声。
本申请提出一种基于联邦边缘学习的图像分类方法,方法应用于联邦边缘学习系统,该联邦边缘学习系统包括边缘服务器以及多个边缘设备,多个边缘设备与边缘服务器通过无线信道通信连接,该方法通过多个边缘设备分别获取本地图像样本数据,并对本地图像样本数据进行随机采样得到批量图像样本数据,通过多个边缘设备分别基于批量图像样本数据对图像分类模型的模型参数进行更新,直至满足预设条件,将更新后的模型参数作为本轮迭代训练的本地模型参数,通过多个边缘设备分别经过无线信道同时向边缘服务器发送第一传输信号,第一传输信号携带有以第一传输功率发送的本地模型参数和以第二传输功率注入的第一随机噪声,通过边缘服务器接收由多个边缘设备同时发送的第一传输信号聚合而成的第一接收信号,并根据第一接收信号确定下一轮迭代训练的全局模型参数,通过多个边缘设备分别接收边缘服务器广播发送的全局模型参数,并根据全局模型参数对图像分类模型的模型参数进行更新处理,得到目标图像分类模型,通过多个边缘设备分别获取待分类图像,将待分类图像输入目标图像分类模型,以通过目标图像分类模型得到待分类图像的分类结果。本申请实施例通过无线信道的叠加特性对所有边缘设备上传的模型参数进行汇总平均,提高图像分类方法中模型学习的收敛速度,同时注入噪声,加强隐私保护。
请参见图5,本申请实施例还提供了一种联邦边缘学习系统100,所述联邦边缘学习系统100包括边缘服务器以及多个边缘设备,多个边缘设备与所述边缘服务器通过无线信道通信连接;其中,
所述边缘设备110包括:
样本获取模块111,用于获取本地图像样本数据,并对所述本地图像样本数据进行随机采样得到批量图像样本数据;
模型训练模块112,用于基于所述批量图像样本数据对所述图像分类模型的模型参数进行更新,直至满足预设条件,将更新后的模型参数作为本轮迭代训练的本地模型参数;
参数上传模块113,用于经过所述无线信道同时向所述边缘服务器发送第一传输信号,所述第一传输信号携带有以第一传输功率发送的所述本地模型参数和以第二传输功率注入的第一随机噪声;
接收和更新模型114,用于接收所述边缘服务器广播发送的所述全局模型参数,并根据所述全局模型参数对所述图像分类模型的模型参数进行更新处理,得到目标图像分类模型;
图像分类模块115,用于获取待分类图像,将所述待分类图像输入所述目标图像分类模型,以通过所述目标图像分类模型得到所述待分类图像的分类结果;
所述边缘服务器120包括:
接收和处理模块121,用于接收所述边缘服务器广播发送的所述全局模型参数,并根据所述全局模型参数对所述图像分类模型的模型参数进行更新处理,得到目标图像分类模型。
本申请提出一种联邦边缘学习系统,该联邦边缘学习系统包括边缘服务器以及多个边缘设备,多个边缘设备与边缘服务器通过无线信道通信连接,通过多个边缘设备分别获取本地图像样本数据,并对本地图像样本数据进行随机采样得到批量图像样本数据,通过多个边缘设备分别基于批量图像样本数据对图像分类模型的模型参数进行更新,直至满足预设条件,将更新后的模型参数作为本轮迭代训练的本地模型参数,通过多个边缘设备分别经过无线信道同时向边缘服务器发送第一传输信号,第一传输信号携带有以第一传输功率发送的本地模型参数和以第二传输功率注入的第一随机噪声,通过边缘服务器接收由多个边缘设备同时发送的第一传输信号聚合而成的第一接收信号,并根据第一接收信号确定下一轮迭代训练的全局模型参数,通过多个边缘设备分别接收边缘服务器广播发送的全局模型参数,并根据全局模型参数对图像分类模型的模型参数进行更新处理,得到目标图像分类模型,通过多个边缘设备分别获取待分类图像,将待分类图像输入目标图像分类模型,以通过目标图像分类模型得到待分类图像的分类结果。本申请实施例通过无线信道的叠加特性对所有边缘设备上传的模型参数进行汇总平均,提高图像分类方法中模型学习的收敛速度,同时注入噪声,加强隐私保护。
需要说明的是,上述装置的模块之间的信息交互、执行过程等内容,由于与本申请方法实施例基于同一构思,其具体功能及带来的技术效果,具体可参见方法实施例部分,此处不再赘述。
请参见图6,图6示出本申请实施例提供的一种电子设备的硬件结构,电子设备包括:
处理器210,可以采用通用的CPU(Central Processing Unit,中央处理器)、微处理器、应用专用集合成电路(Application Specific Integrated Circuit,ASIC)、或者一个或多个集合成电路等方式实现,用于执行相关计算机程序,以实现本申请实施例所提供的技术方案;
存储器220,可以采用只读存储器(Read Only Memory,ROM)、静态存储设备、动态存储设备或者随机存取存储器(Random Access Memory,RAM)等形式实现。存储器220可以存储操作系统和其他应用程序,在通过软件或者固件来实现本说明书实施例所提供的技术方案时,相关的程序代码保存在存储器220中,并由处理器210来调用执行本申请实施例的种基于联邦边缘学习的图像分类方法;
输入/输出接口230,用于实现信息输入及输出;
通信接口240,用于实现本设备与其他设备的通信交互,可以通过有线方式(例如USB、网线等)实现通信,也可以通过无线方式(例如移动网络、WIFI、蓝牙等)实现通信;和总线250,在设备的每个组件(例如处理器210、存储器220、输入/输出接口230和通信接口240)之间传输信息;
其中处理器210、存储器220、输入/输出接口230和通信接口240通过总线250实现彼此之间在设备内部的通信连接。
本申请实施例还提供了一种存储介质,存储介质为计算机可读存储介质,用于计算机可读存储,存储介质存储有一个或者多个计算机程序,一个或者多个计算机程序可被一个或者多个处理器执行,以实现上述种基于联邦边缘学习的图像分类方法。
存储器作为一种计算机可读存储介质,可用于存储软件程序以及计算机可执行程序。此外,存储器可以包括高速随机存取存储器,还可以包括非暂态存储器,例如至少一个磁盘存储器件、闪存器件、或其他非暂态固态存储器件。在一些实施方式中,存储器可选包括相对于处理器远程设置的存储器,这些远程存储器可以通过网络连接至该处理器。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
本申请实施例描述的实施例是为了更加清楚的说明本申请实施例的技术方案,并不构成对于本申请实施例提供的技术方案的限定,本领域技术人员可知,随着技术的演变和新应用场景的出现,本申请实施例提供的技术方案对于类似的技术问题,同样适用。
以上所描述的装置实施例仅仅是示意性的,其中作为分离部件说明的单元可以是或者也可以不是物理上分开的,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
本领域普通技术人员可以理解,上文中所公开方法中的全部或某些步骤、系统、设备中的功能模块/单元可以被实施为软件、固件、硬件及其适当的组合。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述或记载的部分,可以参见其它实施例的相关描述。
本申请的说明书及上述附图中的术语“第一”、“第二”、“第三”、“第四”等(如果存在)是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本申请的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
应当理解,在本申请中,“至少一个(项)”是指一个或者多个,“多个”是指两个或两个以上。“和/或”,用于描述关联对象的关联关系,表示可以存在三种关系,例如,“A和/或B”可以表示:只存在A,只存在B以及同时存在A和B三种情况,其中A,B可以是单数或者复数。字符“/”一般表示前后关联对象是一种“或”的关系。“以下至少一项(个)”或其类似表达,是指这些项中的任意组合,包括单项(个)或复数项(个)的任意组合。例如,a,b或c中的至少一项(个),可以表示:a,b,c,“a和b”,“a和c”,“b和c”,或“a和b和c”,其中a,b,c可以是单个,也可以是多个。
在本申请所提供的几个实施例中,应该理解到,所揭露的装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,上述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集合成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
上述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请每个实施例中的各功能单元可以集合成在一个处理单元中,也可以是每个单元单独物理存在,也可以两个或两个以上单元集合成在一个单元中。上述集合成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
集合成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括多指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请每个实施例的方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(Read-Only Memory,简称ROM)、随机存取存储器(Random Access Memory,简称RAM)、磁碟或者光盘等各种可以存储程序的介质。
以上参照附图说明了本申请实施例的优选实施例,并非因此局限本申请实施例的权利范围。本领域技术人员不脱离本申请实施例的范围和实质内所作的任何修改、等同替换和改进,均应在本申请实施例的权利范围之内。

Claims (10)

1.一种基于联邦边缘学习的图像分类方法,其特征在于,所述方法应用于联邦边缘学习系统,所述联邦边缘学习系统包括边缘服务器以及多个边缘设备,多个所述边缘设备与所述边缘服务器通过无线信道通信连接,所述方法包括:
通过多个所述边缘设备分别获取本地图像样本数据,并对所述本地图像样本数据进行随机采样得到批量图像样本数据;
通过多个所述边缘设备分别基于所述批量图像样本数据对所述图像分类模型的模型参数进行更新,直至满足预设条件,将更新后的模型参数作为本轮迭代训练的本地模型参数;
通过多个所述边缘设备分别经过所述无线信道同时向所述边缘服务器发送第一传输信号,所述第一传输信号携带有以第一传输功率发送的所述本地模型参数和以第二传输功率注入的第一随机噪声;
通过所述边缘服务器接收由多个所述边缘设备同时发送的第一传输信号聚合而成的第一接收信号,并根据所述第一接收信号确定下一轮迭代训练的全局模型参数;
通过多个所述边缘设备分别接收所述边缘服务器广播发送的所述全局模型参数,并根据所述全局模型参数对所述图像分类模型的模型参数进行更新处理,得到目标图像分类模型;
通过多个所述边缘设备分别获取待分类图像,将所述待分类图像输入所述目标图像分类模型,以通过所述目标图像分类模型得到所述待分类图像的分类结果。
2.根据权利要求1所述的基于联邦边缘学习的图像分类方法,其特征在于,所述第一传输信号通过以下公式确定:
Figure FDA0003875959200000011
其中,所述Sk,t表示第k个所述边缘设备在第t轮迭代训练时向所述边缘服务器的第一传输信号,所述
Figure FDA0003875959200000012
表示第k个所述边缘设备在第t轮迭代训练时获得的本地模型参数,所述nk,t表示第k个所述边缘设备在第t轮迭代训练使用的第一随机噪声,所述pk,t表示用于发送本地模型参数
Figure FDA0003875959200000013
的第一传输功率,所述
Figure FDA0003875959200000014
表示用于注入第一随机噪声nk,t的第二传输功率;
所述第一接收信号通过以下公式确定:
Figure FDA0003875959200000015
其中,所述yt表示第t轮迭代训练的全局模型参数,所述hk,t表示第k个所述边缘设备与所述边缘服务器在第t轮迭代训练时的复数信道系数,所述zt为第二随机噪声,服从
Figure FDA0003875959200000016
Figure FDA0003875959200000017
为所述第二随机噪声的噪声功率,I为单位矩阵;
所述根据所述第一接收信号确定下一轮迭代训练的全局模型参数,所述方法还包括:
根据所述第一接收信号、所述边缘设备的数量以及预设的降噪因子,确定下一轮迭代训练的全局模型参数。
3.根据权利要求2所述的基于联邦边缘学习的图像分类方法,其特征在于,所述方法还包括:
通过所述边缘设备以及所述边缘服务器分别获取预设的传输功率优化模型以及约束条件,所述约束条件包括所述边缘设备的最大发送功率约束以及平均发送功率约束;
在所述根据所述第一接收信号、所述边缘设备的数量以及预设的降噪因子,确定下一轮迭代训练的全局模型参数之前,所述方法还包括:
对所述传输功率优化模型进行求解处理,得到在所述约束条件下所述传输功率优化模型取得最优解时的降噪因子;
在所述通过多个所述边缘设备分别经过所述无线信道同时向所述边缘服务器发送第一传输信号之前,所述方法还包括:
对所述传输功率优化模型进行求解处理,分别得到在所述约束条件下所述传输功率优化模型取得最优解时用于发送所述本地模型参数的第一传输功率以及第一随机噪声的第二传输功率;
所述传输功率优化模型通过以下公式确定:
Figure FDA0003875959200000021
其中,
Figure FDA0003875959200000022
Figure FDA0003875959200000023
Figure FDA0003875959200000024
Figure FDA0003875959200000025
Ct=1-(Ω-1)μγt
所述T表示迭代训练总次数,所述K表示参与联邦学习的边缘设备总数,所述ηt表示第t次迭代训练的降噪因子,所述
Figure FDA0003875959200000026
表示第k个所述边缘设备在第t次迭代训练时使用的第一随机噪声的噪声功率,所述L表示smoothness系数,所述γt-1为第t-1次迭代训练时的学习率,所述Ω表示所述边缘设备的本地迭代训练次数,所述表示预设的模型上界,所述μ为PL系数;
所述最大发送功率约束为:
Figure FDA0003875959200000027
所述平均发送功率约束为:
Figure FDA0003875959200000028
其中,所述
Figure FDA0003875959200000029
表示第k个所述边缘设备对应的最大发送功率,所述
Figure FDA00038759592000000210
表示第k个所述边缘设备对应的平均发送功率,所述T表示迭代训练的总次数,所述q表示所述边缘设备向所述边缘服务器传输数据时使用的符号数量。
4.根据权利要求3所述的基于联邦边缘学习的图像分类方法,其特征在于,所述对所述传输功率优化模型进行求解处理,得到在所述约束条件下所述传输功率优化模型取得最优解时的降噪因子,包括:
获取上一轮迭代训练中的第一传输功率以及第二传输功率;
基于上一轮迭代训练中的第一传输功率以及第二传输功率,对所述传输功率优化模型进行求解处理,得到在所述约束条件下所述传输功率优化模型取得最优解时本轮迭代训练中的降噪因子;
所述对所述传输功率优化模型进行求解处理,得到在所述约束条件下所述传输功率优化模型取得最优解时用于发送所述本地模型参数的第一传输功率以及第一随机噪声的第二传输功率,包括:
获取上一轮迭代训练中的第二传输功率以及本轮迭代训练中的降噪因子;
基于上一轮迭代训练中的第二传输功率以及本轮迭代训练中的降噪因子,对所述传输功率优化模型进行求解处理,得到在所述约束条件下所述传输功率优化模型取得最优解时本轮迭代训练中用于发送所述本地模型参数的第一传输功率;
基于本轮迭代训练中的第一传输功率以及降噪因子,对所述传输功率优化模型进行求解处理,得到在所述约束条件下所述传输功率优化模型取得最优解时本轮迭代训练中用于发送第一随机噪声的第二传输功率。
5.根据权利要求4所述的基于联邦边缘学习的图像分类方法,其特征在于,在所述对所述传输功率优化模型进行求解处理之前,所述方法还包括:
获取预设的隐私水平约束,所述隐私水平约束由所述边缘设备向所述边缘服务器传输数据的过程中有效噪声的标准偏差以及注入所述第一随机噪声的敏感度上界确定;
所述对所述传输功率优化模型进行求解处理,包括:
基于所述隐私水平约束对所述传输功率优化模型进行求解处理。
6.根据权利要求5所述的基于联邦边缘学习的图像分类方法,其特征在于,所述有效噪声的标准偏差为:
Figure FDA0003875959200000031
7.根据权利要求6所述的基于联邦边缘学习的图像分类方法,其特征在于,所述隐私水平约束为:
Figure FDA0003875959200000032
其中,
Figure FDA0003875959200000033
C-1(·)为
Figure FDA0003875959200000034
的逆函数。
8.一种联邦边缘学习系统,其特征在于,所述联邦边缘学习系统包括边缘服务器以及多个边缘设备,多个所述边缘设备与所述边缘服务器通过无线信道通信连接;其中,
所述边缘设备包括:
样本获取模块,用于获取本地图像样本数据,并对所述本地图像样本数据进行随机采样得到批量图像样本数据;
模型训练模块,用于基于所述批量图像样本数据对所述图像分类模型的模型参数进行更新,直至满足预设条件,将更新后的模型参数作为本轮迭代训练的本地模型参数;
参数上传模块,用于经过所述无线信道同时向所述边缘服务器发送第一传输信号,所述第一传输信号携带有以第一传输功率发送的所述本地模型参数和以第二传输功率注入的第一随机噪声;
接收和更新模型,用于接收所述边缘服务器广播发送的所述全局模型参数,并根据所述全局模型参数对所述图像分类模型的模型参数进行更新处理,得到目标图像分类模型;
图像分类模块,用于获取待分类图像,将所述待分类图像输入所述目标图像分类模型,以通过所述目标图像分类模型得到所述待分类图像的分类结果;
所述边缘服务器包括:
接收和处理模块,用于接收由多个所述边缘设备同时发送的第一传输信号聚合而成的第一接收信号,并根据所述第一接收信号确定下一轮迭代训练的全局模型参数。
9.一种电子设备,其特征在于,包括:
至少一个处理器;以及,
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行如权利要求1至7中任一项所述的基于联邦边缘学习的图像分类方法。
10.一种计算机可读存储介质,存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至7中任一项所述的基于联邦边缘学习的图像分类方法。
CN202211213699.0A 2022-09-30 2022-09-30 基于联邦边缘学习的图像分类方法以及相关设备 Active CN115424079B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202211213699.0A CN115424079B (zh) 2022-09-30 2022-09-30 基于联邦边缘学习的图像分类方法以及相关设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202211213699.0A CN115424079B (zh) 2022-09-30 2022-09-30 基于联邦边缘学习的图像分类方法以及相关设备

Publications (2)

Publication Number Publication Date
CN115424079A true CN115424079A (zh) 2022-12-02
CN115424079B CN115424079B (zh) 2023-11-24

Family

ID=84205899

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202211213699.0A Active CN115424079B (zh) 2022-09-30 2022-09-30 基于联邦边缘学习的图像分类方法以及相关设备

Country Status (1)

Country Link
CN (1) CN115424079B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115830709A (zh) * 2022-11-23 2023-03-21 深圳市大数据研究院 基于联邦边缘学习的动作识别方法、服务器及电子设备

Citations (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111611610A (zh) * 2020-04-12 2020-09-01 西安电子科技大学 联邦学习信息处理方法、系统、存储介质、程序、终端
CN111866869A (zh) * 2020-07-07 2020-10-30 兰州交通大学 面向边缘计算的联邦学习室内定位隐私保护方法
CN112733901A (zh) * 2020-12-30 2021-04-30 杭州趣链科技有限公司 基于联邦学习和区块链的结构化动作分类方法与装置
US11017322B1 (en) * 2021-01-28 2021-05-25 Alipay Labs (singapore) Pte. Ltd. Method and system for federated learning
CN113139662A (zh) * 2021-04-23 2021-07-20 深圳市大数据研究院 联邦学习的全局及局部梯度处理方法、装置、设备和介质
CN113298268A (zh) * 2021-06-11 2021-08-24 浙江工业大学 一种基于对抗噪声注入的垂直联邦学习方法和装置
CN113312847A (zh) * 2021-06-07 2021-08-27 北京大学 一种基于云-边-端边缘计算系统的隐私保护方法及系统
CN113361694A (zh) * 2021-06-30 2021-09-07 哈尔滨工业大学 一种应用差分隐私保护的分层联邦学习方法及系统
CN113870994A (zh) * 2021-09-07 2021-12-31 桂林理工大学 一种基于边缘计算和联邦学习的智慧医疗系统
WO2022047764A1 (en) * 2020-09-07 2022-03-10 Qualcomm Incorporated Pre-equalization and power control for over-the-air model aggregation in federated learning
US20220114448A1 (en) * 2020-10-08 2022-04-14 The University Of Hong Kong Method and device for transmitting ofdm signal, and method and device for receiving ofdm signal
CN114422354A (zh) * 2021-12-16 2022-04-29 上海科技大学 基于区块链的安全边缘联邦学习系统的设计方法及其优化算法
CN114612715A (zh) * 2022-03-08 2022-06-10 西安电子科技大学 基于本地差分隐私的边缘联邦图像分类方法
CN115099420A (zh) * 2022-08-26 2022-09-23 香港中文大学(深圳) 一种面向无线联邦学习的模型聚合权重动态分配方法

Patent Citations (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111611610A (zh) * 2020-04-12 2020-09-01 西安电子科技大学 联邦学习信息处理方法、系统、存储介质、程序、终端
CN111866869A (zh) * 2020-07-07 2020-10-30 兰州交通大学 面向边缘计算的联邦学习室内定位隐私保护方法
WO2022047764A1 (en) * 2020-09-07 2022-03-10 Qualcomm Incorporated Pre-equalization and power control for over-the-air model aggregation in federated learning
US20220114448A1 (en) * 2020-10-08 2022-04-14 The University Of Hong Kong Method and device for transmitting ofdm signal, and method and device for receiving ofdm signal
CN112733901A (zh) * 2020-12-30 2021-04-30 杭州趣链科技有限公司 基于联邦学习和区块链的结构化动作分类方法与装置
US11017322B1 (en) * 2021-01-28 2021-05-25 Alipay Labs (singapore) Pte. Ltd. Method and system for federated learning
CN113139662A (zh) * 2021-04-23 2021-07-20 深圳市大数据研究院 联邦学习的全局及局部梯度处理方法、装置、设备和介质
CN113312847A (zh) * 2021-06-07 2021-08-27 北京大学 一种基于云-边-端边缘计算系统的隐私保护方法及系统
CN113298268A (zh) * 2021-06-11 2021-08-24 浙江工业大学 一种基于对抗噪声注入的垂直联邦学习方法和装置
CN113361694A (zh) * 2021-06-30 2021-09-07 哈尔滨工业大学 一种应用差分隐私保护的分层联邦学习方法及系统
CN113870994A (zh) * 2021-09-07 2021-12-31 桂林理工大学 一种基于边缘计算和联邦学习的智慧医疗系统
CN114422354A (zh) * 2021-12-16 2022-04-29 上海科技大学 基于区块链的安全边缘联邦学习系统的设计方法及其优化算法
CN114612715A (zh) * 2022-03-08 2022-06-10 西安电子科技大学 基于本地差分隐私的边缘联邦图像分类方法
CN115099420A (zh) * 2022-08-26 2022-09-23 香港中文大学(深圳) 一种面向无线联邦学习的模型聚合权重动态分配方法

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
DONGDONG YE: "Federated Learning in Vehicular Edge Computing: A Selective Model Aggregation Approach", 《IEEE ACCESS》 *
PEIXI LIU: "Training time minimization for federated edge learning with optimized gradient quantization and bandwidth allocation", 《FRONT INFORM TECHNOL ELECTRON ENG》 *
PEIXI LIU: "Vertical Federated Edge Learning With Distributed Integrated Sensing and Communication", 《IEEE ACCESS》 *
樊敏: "基于可穿戴设备的心电图自适应分类算法研究", 《计算机科学》 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115830709A (zh) * 2022-11-23 2023-03-21 深圳市大数据研究院 基于联邦边缘学习的动作识别方法、服务器及电子设备

Also Published As

Publication number Publication date
CN115424079B (zh) 2023-11-24

Similar Documents

Publication Publication Date Title
CN110378488B (zh) 客户端变化的联邦训练方法、装置、训练终端及存储介质
CN109990790B (zh) 一种无人机路径规划方法及装置
CN115424079A (zh) 基于联邦边缘学习的图像分类方法以及相关设备
CN110971457B (zh) 一种基于elm的时间同步方法
CN112613627A (zh) 车辆维修信息推送方法、装置、系统、设备及存储介质
CN115830709A (zh) 基于联邦边缘学习的动作识别方法、服务器及电子设备
CN113890795B (zh) 大规模mimo信道估计模型的构建方法、装置及介质
CN111614526B (zh) 一种hinoc链路快速维护方法、装置、存储介质及终端
CN116745782A (zh) 具有使用异构标签分布的新标签的分布式机器学习
CN111194048B (zh) 一种基于em的1比特参数估计方法
CN112087435A (zh) 分层上下文认知决策方法、装置、电子设备及存储介质
CN115333903B (zh) 同步头检测方法、同步方法、装置、接收机及通信系统
CN114148107B (zh) 构件喷码方法、装置和电子设备
CN115510472A (zh) 一种面向云边聚合系统的多重差分隐私保护方法及系统
CN110602103B (zh) 电子锁协议转换优化方法及电子锁协议转换优化器
TWI599255B (zh) 導頻的配置方法及裝置
CN114330744A (zh) 图像处理模型的训练方法和装置、存储介质及电子设备
Chen et al. Fast-Adapting Environment-Agnostic Device-Free Indoor Localization via Federated Meta-Learning
CN112506063A (zh) 数据分析方法、系统、电子设备和存储介质
CN113139563A (zh) 一种图像分类模型的优化方法及装置
CN110958190A (zh) 一种基于边缘计算网关的工业物联网数据实时上传方法
CN117811846B (zh) 基于分布式系统的网络安全检测方法、系统、设备及介质
CN115329032B (zh) 基于联邦字典学习数据传输方法、装置、设备及存储介质
CN118678373A (zh) 物联网系统的模型更新方法及相关设备
CN117062065A (zh) 一种信道处理方法、装置、设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant