CN111901829A - 基于压缩感知和量化编码的无线联邦学习方法 - Google Patents

基于压缩感知和量化编码的无线联邦学习方法 Download PDF

Info

Publication number
CN111901829A
CN111901829A CN202010661373.9A CN202010661373A CN111901829A CN 111901829 A CN111901829 A CN 111901829A CN 202010661373 A CN202010661373 A CN 202010661373A CN 111901829 A CN111901829 A CN 111901829A
Authority
CN
China
Prior art keywords
wireless
training
learning method
federal learning
model
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202010661373.9A
Other languages
English (en)
Other versions
CN111901829B (zh
Inventor
叶佳勇
谭国平
周思源
王家瑞
章振宇
任勇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Zhongrui Intelligent Transportation Technology Co ltd
Jiangsu Institute Of Intelligent Transportation And Intelligent Driving
Original Assignee
Zhongrui Intelligent Transportation Technology Co ltd
Jiangsu Institute Of Intelligent Transportation And Intelligent Driving
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Zhongrui Intelligent Transportation Technology Co ltd, Jiangsu Institute Of Intelligent Transportation And Intelligent Driving filed Critical Zhongrui Intelligent Transportation Technology Co ltd
Priority to CN202010661373.9A priority Critical patent/CN111901829B/zh
Publication of CN111901829A publication Critical patent/CN111901829A/zh
Application granted granted Critical
Publication of CN111901829B publication Critical patent/CN111901829B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04W—WIRELESS COMMUNICATION NETWORKS
    • H04W28/00—Network traffic management; Network resource management
    • H04W28/02—Traffic management, e.g. flow control or congestion control
    • H04W28/06—Optimizing the usage of the radio link, e.g. header compression, information sizing, discarding information
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L1/00—Arrangements for detecting or preventing errors in the information received
    • H04L1/004—Arrangements for detecting or preventing errors in the information received by using forward error control
    • H04L1/0056—Systems characterized by the type of code used
    • H04L1/0057—Block codes

Landscapes

  • Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Computation (AREA)
  • Medical Informatics (AREA)
  • Data Mining & Analysis (AREA)
  • Physics & Mathematics (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Artificial Intelligence (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Abstract

本发明涉及一种基于压缩感知和量化编码的无线联邦学习方法，包括：本地提供数据进行训练；读取训练后的模型数据；按比例增加上一轮记录稀疏化误差；对模型稀疏化；记录本轮稀疏化误差；压缩编码；量化编码；传输；量化解码；信号重构；服务器更新模型；将新的全局模型下发给用户端进行一轮新的训练。本发明通过手动稀疏化的方式，引入压缩感知和量化编码，减少模型数据的信息量，使之成为更容易传输的类型，在信源处减少了传输数据的信息量，减少了对发射功率、信道带宽的要求，降低了模型训练的成本，一定程度上提高了模型更新的效率，加快了最终模型完成的速度。

Description

基于压缩感知和量化编码的无线联邦学习方法
技术领域：
本发明涉及手机无线通信技术领域，尤其涉及一种基于压缩感知和量化编码的无线联邦学习方法。
背景技术：
2006年，深度学习神经网络被提出后，技术的发展使硬件的计算能力有了巨大的进步，伴随着大数据的出现，人工智能取得了突飞猛进的发展。近年，随着深度学习神经网络的迅速发展，数据集的大小满足不了机器学习的需求，而数据集的数量受到限制一个主要原因是数据集中的一些信息包含了个人隐私，导致用户不愿意共享这些数据。因此，联邦学习框架被提以解决这类问题，与传统机器学习要求把大量数据聚集在服务器的方式不同，这种方式将模型的训练放在用户端，不要求聚集用户端的数据，在用户端处训练完成后将模型梯度或模型参数传至总服务器进行汇总，得到新的模型。这种方式由于可以保护用户端的数据安全，所以可以获得更多的数据资源来进行模型的训练，但同时面临着无线传输所带来的数据损失对模型训练所造成的影响，现在仍需要一种可靠的方式来传输数据模型，以确保模型训练的有效性。
发明内容：
针对上述问题，本发明在压缩感知中对信号重构采用了stOMP算法，下面介绍stOMP算法的核心步骤：
以下流程中：rt表示残差，t表示迭代次数，Λt表示t次迭代的索引列序号集合，aj表示矩阵A的第j列，At表示按索引Λt选出的矩阵A的列集合，
Figure BDA0002578695030000011
表示空集。初始化r0＝y，
Figure BDA0002578695030000012
t＝1。
输入M×N的且有标准差
Figure BDA0002578695030000013
的传感矩阵A，M×1的采样结果y，迭代次数S与门限参数ts，其中默认S＝10，ts＝2.5；
循环以下步骤S次；
通过残差计算门限值Th：
Figure BDA0002578695030000021
其中norm(·)表示取最大的奇异值；
计算传感矩阵中每一个原子aj与残差rt-1的相关度，并将相关度绝对值大于选择门限的原子集合记为Jt，与之对应的原子索引集合记为λt(列序号集合)。其中计算相关度与记录原子合集的公式如下：
uj＝|<aj，rt-1＞|，Jt＝{u||uj|＞Th}，j＝1，2，…，N
更新索引集Λt，并更新原子集合At。这两个集合都需要与上一轮得到的集合取并集，保证在集合中没有重复元素。公式如下：
Λt＝Λt-1∪λt，At＝At-1∪Jt
求y＝AtXt的最小二乘解：
Figure BDA0002578695030000022
更新残差
Figure BDA0002578695030000023
更新参数t＝t+1；
重构所得
Figure BDA0002578695030000024
在Λt处有非零项，其值分别为最后一次迭代所得
Figure BDA0002578695030000025
在模型的训练中，模型的规模往往很大，最简单的模型其容量都可以轻易达到十万级，我们如果需要将整个模型中的数据全都通过无线传输的方式传至总服务端，是很困难的。原因有以下三点：1、在保证通信质量的前提下，发送大量的数据需要足够大的功率，以及足够大的带宽，而可以提供大量数据的往往是基数巨大的移动用户，这其中使用手机等便携式移动设备的用户占了相当大的比例，这种小型的便携设备的发射功率，不足以发送数量巨大的信息；2、从模型更新效率着想，伴随着数据集的扩大，模型也需要进行足够次数的迭代、更新才能成型，这说明，即使用户端可以将模型数据安全准确的上传，而不能保证通信的及时性，也会给整体模型的训练带来影响；3、由于模型上传多采用无线传输，我们不得不考虑信道带宽问题，传输所需带宽越小，其传输成本越小，同时数据的准确性、安全性也会得到提高。
针对以上问题，我们在模型传输为数字信号传输的前提下，提出了一种解决方案，即在信源处针对信源编码进行优化。
本发明提供一种基于压缩感知和量化编码的无线联邦学习方法，包括如下步骤：
1.中心服务器将全局模型下发至各个用户端，各个用户端提供数据在本地进行学习训练，对模型进行更新。
2.每个参与训练的设备读取更新过后的模型数据，并表示为一维列向量的形式。(令Gm(ωt)表示在第t次训练时终端m经过训练后更新的模型数据)
3.按比例增加上一轮所记录下的稀疏化误差。(令
Figure BDA0002578695030000031
表示在第t次训练时终端m在按比例加上前一轮稀疏化误差后的模型数据。令μ表示加上前一轮稀疏化误差时所要乘上的比例)
Figure BDA0002578695030000032
4.选取稀疏度k，对
Figure BDA0002578695030000033
进行人为的稀疏化，即取幅值中前k大的数据作为需要更新的梯度，其余的表示为0。(令
Figure BDA0002578695030000034
表示为第t次训练时终端m对
Figure BDA0002578695030000035
经过稀疏化操作后所对应的模型数据)
Figure BDA0002578695030000036
5.将上一次稀疏化操作表示为0的部分记录为稀疏化误差，并保留在本地。(令Dm(t)表示为第t次训练时终端m所保留下来的稀疏化误差，并定义Dm(0)＝0，(m＝1，2，…，M)。)
Figure BDA0002578695030000037
6.使用高斯随机测量矩阵作为传感矩阵A压缩稀疏梯度矩阵
Figure BDA0002578695030000038
(令ym(ωt)表示为第t次训练时终端m对
Figure BDA0002578695030000039
进行压缩编码所得到的编码。)
Figure BDA0002578695030000041
7.选取合适的量化编码位数，对所得ym(ωt)进行量化编码，得到y′m(ωt)。(令y′m(ωt)表示为第t次训练时终端m对y′m(ωt)进行量化编码所得到的编码。)
8.将y′m(ωt)传输给中心服务器。(假设通过理想信道)
9.中心服务器对收到的y′m(ωt)进行量化解码得到y′m(ωt)。(令
Figure BDA0002578695030000042
表示为第t次训练时终端m对y′m(ωt)进行量化解码后得到的数据。)
10.通过共享的传感矩阵A，使用stOMP算法对得信号
Figure BDA0002578695030000043
进行重构得到G′m(ωt)。(令G′m(ωt)表示为第t次训练时终端m利用stOMP算法对
Figure BDA0002578695030000044
进行信号重构后得到的数据。)
11.得到所有用户端的G′m(ωt)之后根据此做取平均更新全局模型。
12.将新的全局模型下发给用户端进行一轮新的训练。
本发明具有如下优点：本发明通过手动稀疏化的方式，引入压缩感知和量化编码，减少模型数据的信息量，使之成为更容易传输的类型，在信源处减少了传输数据的信息量，减少了对发射功率、信道带宽的要求，降低了模型训练的成本，一定程度上提高了模型更新的效率，加快了最终模型完成的速度。
附图说明：
图1为本发明的基于压缩感知和量化编码的无线联邦学习方法的流程图；
图2为本发明的基于压缩感知和量化编码的无线联邦学习中心服务器与终端的关系示意图。
具体实施方式
下面结合附图对本发明的较佳实施例进行详细阐述，以使本发明的优点和特征能更易被本领域人员理解，从而对本发明的保护范围做出更为清楚明确的界定。
如图1所示，本发明的基于压缩感知和量化编码的无线联邦学习方法包括如下步骤：
(1)中心服务器将全局模型下发至各个用户端，各个用户端提供数据在本地进行学习训练，对模型进行更新(本地提供数据进行训练)；
(2)每个参与训练的设备读取更新过后的模型数据，并表示为一维列向量的形式(读取训练后的模型数据)；
(3)按比例增加上一轮所记录下的稀疏化误差(按比例增加上一轮记录稀疏化误差)；
(4)选取稀疏度，进行人为的稀疏化(对模型稀疏化)；
(5)将上一次稀疏化操作表示为0的部分记录为稀疏化误差，并保留在本地(记录本轮稀疏化误差)；
(6)使用高斯随机测量矩阵作为传感矩阵A压缩稀疏梯度矩阵(压缩编码)；
(7)选取合适的量化编码位数，进行量化编码(量化编码)；
(8)将量化编码所得到的编码传输给中心服务器(传输)；
(9)中心服务器对收到的量化编码所得到的编码进行量化解码得到解码数据(量化编码)；
(10)通过共享的传感矩阵A，使用stOMP算法对解码数据进行重构得到重构数据(信号重构)；
(11)得到所有用户端的重构数据之后，根据此重构数据取平均更新全局模型(服务器更新模型)；
(12)将新的全局模型下发给用户端进行一轮新的训练。
如图2所示，本发明的基于压缩感知和量化编码的无线联邦学习方法中，中心服务器与各终端的关系包括如下几种情况：
(1)中心服务器取得全局模型，并同时下发给各终端(在一轮训练中可以有选择性的舍去一些终端防止过拟合)；
(2)在本轮训练中获得下发全局模型的终端在本地训练出本地模型，并通过压缩感知与量化编码方式传回给中心服务器；
(3)中心服务器对获得的模型进行解码和信号重构，用简单的取平均方法更新全局模型，结束本轮训练；
(4)开始新的一轮训练。
最后应说明的是：以上实施例，仅为本发明的具体实施方式，用以说明本发明的技术方案，而非对其限制，本发明的保护范围并不局限于此，尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，其依然可以对前述实施例所记载的技术方案进行修改或可轻易想到变化，或者对其中部分技术特征进行等同替换；而这些修改、变化或者替换，并不使相应技术方案的本质脱离本发明实施例技术方案的精神和范围，都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应以权利要求的保护范围为准。

Claims (9)

1.一种基于压缩感知和量化编码的无线联邦学习方法，其特征在于，包括如下步骤：
(1)中心服务器将全局模型下发至各个用户端，各个用户端提供数据在本地进行学习训练，对模型进行更新；
(2)每个参与训练的设备读取更新过后的模型数据，并表示为一维列向量的形式；
(3)按比例增加上一轮所记录下的稀疏化误差；
(4)选取稀疏度，进行人为的稀疏化；
(5)将上一次稀疏化操作表示为0的部分记录为稀疏化误差，并保留在本地；
(6)使用高斯随机测量矩阵作为传感矩阵A压缩稀疏梯度矩阵；
(7)选取合适的量化编码位数，进行量化编码；
(8)将量化编码所得到的编码传输给中心服务器；
(9)中心服务器对收到的量化编码所得到的编码进行量化解码得到解码数据；
(10)通过共享的传感矩阵A，使用stOMP算法对解码数据进行重构得到重构数据；
(11)得到所有用户端的重构数据之后，根据此重构数据取平均更新全局模型；
(12)将新的全局模型下发给用户端进行一轮新的训练。
2.根据权利要求1所述的基于压缩感知和量化编码的无线联邦学习方法，其特征在于：步骤(2)中，令
Figure FDA0002578695020000011
表示在第t次训练时终端m经过训练后更新的模型数据。
3.根据权利要求2所述的基于压缩感知和量化编码的无线联邦学习方法，其特征在于：步骤(3)中，令
Figure FDA0002578695020000021
表示在第t次训练时终端m在按比例加上前一轮稀疏化误差后的模型数据，令μ表示加上前一轮稀疏化误差时所要乘上的比例，
Figure FDA0002578695020000022
4.根据权利要求3所述的基于压缩感知和量化编码的无线联邦学习方法，其特征在于：步骤(4)中，另稀疏度表示k，令
Figure FDA0002578695020000023
表示为第t次训练时终端m对
Figure FDA0002578695020000024
经过稀疏化操作后所对应的模型数据，
Figure FDA0002578695020000025
5.根据权利要求4所述的基于压缩感知和量化编码的无线联邦学习方法，其特征在于：步骤(5)中，令Dm(t)表示为第t次训练时终端m所保留下来的稀疏化误差，并定义Dm(0)＝0,(m＝1,2,…,M)，
Figure FDA0002578695020000026
6.根据权利要求5所述的基于压缩感知和量化编码的无线联邦学习方法，其特征在于：步骤(6)中，令ym(ωt)表示为第t次训练时终端m对
Figure FDA0002578695020000027
进行压缩编码所得到的编码，
Figure FDA0002578695020000028
7.根据权利要求6所述的基于压缩感知和量化编码的无线联邦学习方法，其特征在于：步骤(7)中，令y′m(ωt)表示为第t次训练时终端m对y′m(ωt)进行量化编码所得到的编码。
8.根据权利要求7所述的基于压缩感知和量化编码的无线联邦学习方法，其特征在于：步骤(9)中，令
Figure FDA0002578695020000029
表示为第t次训练时终端m对y′m(ωt)进行量化解码后得到的数据。
9.根据权利要求8所述的基于压缩感知和量化编码的无线联邦学习方法，其特征在于：步骤(10)中，令G′m(ωt)表示为第t次训练时终端m利用stOMP算法对
Figure FDA0002578695020000031
进行信号重构后得到的数据。
CN202010661373.9A 2020-07-10 2020-07-10 基于压缩感知和量化编码的无线联邦学习方法 Active CN111901829B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010661373.9A CN111901829B (zh) 2020-07-10 2020-07-10 基于压缩感知和量化编码的无线联邦学习方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010661373.9A CN111901829B (zh) 2020-07-10 2020-07-10 基于压缩感知和量化编码的无线联邦学习方法

Publications (2)

Publication Number Publication Date
CN111901829A true CN111901829A (zh) 2020-11-06
CN111901829B CN111901829B (zh) 2022-05-10

Family

ID=73192515

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010661373.9A Active CN111901829B (zh) 2020-07-10 2020-07-10 基于压缩感知和量化编码的无线联邦学习方法

Country Status (1)

Country Link
CN (1) CN111901829B (zh)

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112364913A (zh) * 2020-11-09 2021-02-12 重庆大学 一种基于核心数据集的联邦学习通信量优化方法及系统
CN112904724A (zh) * 2021-01-19 2021-06-04 中国人民大学 基于误差自适应编解码迭代学习控制信息传输系统和方法
CN113139663A (zh) * 2021-04-23 2021-07-20 深圳市大数据研究院 联邦边缘学习配置信息获取方法、装置、设备及介质
CN113222179A (zh) * 2021-03-18 2021-08-06 北京邮电大学 一种基于模型稀疏化与权重量化的联邦学习模型压缩方法
CN113258935A (zh) * 2021-05-25 2021-08-13 山东大学 一种联邦学习中基于模型权值分布的通信压缩方法
CN113360514A (zh) * 2021-07-02 2021-09-07 支付宝(杭州)信息技术有限公司 联合更新模型的方法、装置及系统
CN114301573A (zh) * 2021-11-24 2022-04-08 超讯通信股份有限公司 联邦学习模型参数传输方法及系统
CN114710415A (zh) * 2022-05-23 2022-07-05 北京理工大学 一种冗余编码的无源消息可靠传输与处理系统
CN114841370A (zh) * 2022-04-29 2022-08-02 杭州锘崴信息科技有限公司 联邦学习模型的处理方法、装置、电子设备和存储介质
CN114867059A (zh) * 2022-05-11 2022-08-05 重庆科技学院 一种基于压缩感知的无线数据安全聚合方法
US11468370B1 (en) 2022-03-07 2022-10-11 Shandong University Communication compression method based on model weight distribution in federated learning
CN116128070A (zh) * 2023-01-10 2023-05-16 上海科技大学 基于无线空中计算和多比特量化压缩感知的联邦学习方法
CN116341689A (zh) * 2023-03-22 2023-06-27 深圳大学 机器学习模型的训练方法、装置、电子设备及存储介质
WO2023179675A1 (zh) * 2022-03-25 2023-09-28 华为技术有限公司 信息处理方法和通信装置

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103825621A (zh) * 2014-02-20 2014-05-28 重庆大学 一种有效的“0，1”稀疏信号的压缩感知重构方法
CN106656874A (zh) * 2017-01-10 2017-05-10 河海大学 一种基于压缩感知的移动ofdm系统信道估计方法
US20190227980A1 (en) * 2018-01-22 2019-07-25 Google Llc Training User-Level Differentially Private Machine-Learned Models
US20200074244A1 (en) * 2018-08-29 2020-03-05 Université De Genève Signal sampling with joint training of learnable priors for sampling operator and decoder
CN110909865A (zh) * 2019-11-18 2020-03-24 福州大学 边缘计算中基于分层张量分解的联邦学习方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103825621A (zh) * 2014-02-20 2014-05-28 重庆大学 一种有效的“0，1”稀疏信号的压缩感知重构方法
CN106656874A (zh) * 2017-01-10 2017-05-10 河海大学 一种基于压缩感知的移动ofdm系统信道估计方法
US20190227980A1 (en) * 2018-01-22 2019-07-25 Google Llc Training User-Level Differentially Private Machine-Learned Models
US20200074244A1 (en) * 2018-08-29 2020-03-05 Université De Genève Signal sampling with joint training of learnable priors for sampling operator and decoder
CN110909865A (zh) * 2019-11-18 2020-03-24 福州大学 边缘计算中基于分层张量分解的联邦学习方法

Cited By (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112364913A (zh) * 2020-11-09 2021-02-12 重庆大学 一种基于核心数据集的联邦学习通信量优化方法及系统
CN112904724B (zh) * 2021-01-19 2023-04-07 中国人民大学 基于误差自适应编解码迭代学习控制信息传输系统和方法
CN112904724A (zh) * 2021-01-19 2021-06-04 中国人民大学 基于误差自适应编解码迭代学习控制信息传输系统和方法
CN113222179A (zh) * 2021-03-18 2021-08-06 北京邮电大学 一种基于模型稀疏化与权重量化的联邦学习模型压缩方法
CN113139663A (zh) * 2021-04-23 2021-07-20 深圳市大数据研究院 联邦边缘学习配置信息获取方法、装置、设备及介质
CN113258935A (zh) * 2021-05-25 2021-08-13 山东大学 一种联邦学习中基于模型权值分布的通信压缩方法
CN113258935B (zh) * 2021-05-25 2022-03-04 山东大学 一种联邦学习中基于模型权值分布的通信压缩方法
CN113360514A (zh) * 2021-07-02 2021-09-07 支付宝(杭州)信息技术有限公司 联合更新模型的方法、装置及系统
CN113360514B (zh) * 2021-07-02 2022-05-17 支付宝(杭州)信息技术有限公司 联合更新模型的方法、装置及系统
CN114301573B (zh) * 2021-11-24 2023-05-23 超讯通信股份有限公司 联邦学习模型参数传输方法及系统
CN114301573A (zh) * 2021-11-24 2022-04-08 超讯通信股份有限公司 联邦学习模型参数传输方法及系统
US11468370B1 (en) 2022-03-07 2022-10-11 Shandong University Communication compression method based on model weight distribution in federated learning
WO2023179675A1 (zh) * 2022-03-25 2023-09-28 华为技术有限公司 信息处理方法和通信装置
CN114841370B (zh) * 2022-04-29 2022-12-09 杭州锘崴信息科技有限公司 联邦学习模型的处理方法、装置、电子设备和存储介质
CN114841370A (zh) * 2022-04-29 2022-08-02 杭州锘崴信息科技有限公司 联邦学习模型的处理方法、装置、电子设备和存储介质
CN114867059A (zh) * 2022-05-11 2022-08-05 重庆科技学院 一种基于压缩感知的无线数据安全聚合方法
CN114710415B (zh) * 2022-05-23 2022-08-12 北京理工大学 一种冗余编码的无源消息可靠传输与处理系统
CN114710415A (zh) * 2022-05-23 2022-07-05 北京理工大学 一种冗余编码的无源消息可靠传输与处理系统
CN116128070A (zh) * 2023-01-10 2023-05-16 上海科技大学 基于无线空中计算和多比特量化压缩感知的联邦学习方法
CN116128070B (zh) * 2023-01-10 2023-09-19 上海科技大学 基于无线空中计算和多比特量化压缩感知的联邦学习方法
CN116341689A (zh) * 2023-03-22 2023-06-27 深圳大学 机器学习模型的训练方法、装置、电子设备及存储介质
CN116341689B (zh) * 2023-03-22 2024-02-06 深圳大学 机器学习模型的训练方法、装置、电子设备及存储介质

Also Published As

Publication number Publication date
CN111901829B (zh) 2022-05-10

Similar Documents

Publication Publication Date Title
CN111901829B (zh) 基于压缩感知和量化编码的无线联邦学习方法
Weng et al. Semantic communication systems for speech transmission
Tong et al. Federated learning for audio semantic communication
Lee et al. Deep learning-constructed joint transmission-recognition for Internet of Things
CN107832837B (zh) 一种基于压缩感知原理的卷积神经网络压缩方法及解压缩方法
EP3602415B1 (en) Stop code tolerant image compression neural networks
CN113473149A (zh) 用于无线图像传输的语义信道联合编码方法及装置
CN105103192B (zh) 用于顶点误差校正的方法和装置
CN114448563B (zh) 语义编码传输方法及电子设备
CN116361256B (zh) 基于日志解析的数据同步方法及系统
Xu et al. A novel image compression technology based on vector quantisation and linear regression prediction
US11990148B2 (en) Compressing audio waveforms using neural networks and vector quantizers
CN115426075A (zh) 语义通信的编码传输方法及相关设备
Jankowski et al. AirNet: Neural network transmission over the air
CN109672885B (zh) 一种用于矿井智能监控的视频图像编解码方法
Kipnis et al. Gaussian approximation of quantization error for estimation from compressed data
CN105354867A (zh) 自适应冗余字典压缩感知的高光谱图像压缩算法研究
CN116776014B (zh) 多源轨迹数据表示方法及装置
CN116128070B (zh) 基于无线空中计算和多比特量化压缩感知的联邦学习方法
Dong et al. Innovative semantic communication system
CN112052916B (zh) 基于神经网络的数据处理方法、装置以及可读存储介质
CN113554719A (zh) 一种图像编码方法、解码方法、存储介质及终端设备
CN109003614A (zh) 一种语音传输方法、语音传输系统及终端
CN116305223B (zh) 一种自助瓶装水标贴数据实时制作的方法及系统
Yu et al. Editable-DeepSC: Cross-Modal Editable Semantic Communication Systems

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant