CN117121516A - 应用于移动通信系统的联邦学习方法、装置、终端及介质 - Google Patents

应用于移动通信系统的联邦学习方法、装置、终端及介质 Download PDF

Info

Publication number
CN117121516A
CN117121516A CN202180096835.XA CN202180096835A CN117121516A CN 117121516 A CN117121516 A CN 117121516A CN 202180096835 A CN202180096835 A CN 202180096835A CN 117121516 A CN117121516 A CN 117121516A
Authority
CN
China
Prior art keywords
node
network element
model
learning request
message
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202180096835.XA
Other languages
English (en)
Inventor
许阳
陈景然
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Guangdong Oppo Mobile Telecommunications Corp Ltd
Original Assignee
Guangdong Oppo Mobile Telecommunications Corp Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Guangdong Oppo Mobile Telecommunications Corp Ltd filed Critical Guangdong Oppo Mobile Telecommunications Corp Ltd
Publication of CN117121516A publication Critical patent/CN117121516A/zh
Pending legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L9/00Cryptographic mechanisms or cryptographic arrangements for secret or secure communications; Network security protocols
    • H04L9/008Cryptographic mechanisms or cryptographic arrangements for secret or secure communications; Network security protocols involving homomorphic encryption
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W48/00Access restriction; Network selection; Access point selection
    • H04W48/02Access restriction performed under specific conditions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/098Distributed learning, e.g. federated learning
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/14Network analysis or design
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/16Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks using machine learning or artificial intelligence
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04WWIRELESS COMMUNICATION NETWORKS
    • H04W12/00Security arrangements; Authentication; Protecting privacy or anonymity
    • H04W12/02Protecting privacy or anonymity, e.g. protecting personally identifiable information [PII]

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Mathematical Physics (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Computer Security & Cryptography (AREA)
  • Signal Processing (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • General Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Biomedical Technology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Medical Informatics (AREA)
  • Mobile Radio Communication Systems (AREA)

Abstract

本申请公开了一种应用于移动通信系统的联邦学习方法、装置、终端及介质,涉及移动通信领域。所述方法包括:第一节点通过所述移动通信系统中的消息向第二节点发送联邦学习请求,所述第二节点是所述移动通信系统中具有本地数据的节点,所述第二节点本地部署有联邦模型中的一个子模型;所述第一节点通过所述移动通信系统中的消息接收所述第二节点的计算结果,所述计算结果是所述第二节点采用所述子模型对所述本地数据计算得到的;其中,所述第一节点是终端、接入网网元、核心网网元和应用功能实体中的至少一类,所述第二节点是所述终端、所述接入网网元、所述核心网网元和所述应用功能实体中的至少一类,所述第一节点和所述第二节点的类型不同。

Description

应用于移动通信系统的联邦学习方法、装置、终端及介质 技术领域
本申请涉及移动通信领域,特别涉及一种应用于移动通信系统的联邦学习方法、装置、终端及介质。
背景技术
移动通信系统包括:用户设备(User Equipment,UE)、无线接入网(Radio Access Network,RAN)、核心网(Core Network,CN)和应用功能(Application Function,AF)等四个域。移动通信系统中的数据分析通常需要不同域的数据收集,但每个域都可能被隔离,或者每个域不愿意向其它域报告有关私有实现相关的数据。
此时,如何进行数据分析且保护各个域的数据隐私是亟待解决的技术问题。
发明内容
本申请实施例提供了一种应用于移动通信系统的联邦学习方法、装置、终端及介质,可以提高辅助信息的准确性。所述技术方案如下。
根据本申请的一个方面,提供了一种应用于移动通信系统的联邦学习方法,所述方法包括:
第一节点通过所述移动通信系统中的消息向第二节点发送联邦学习请求,所述第二节点是所述移动通信系统中具有本地数据的节点,所述第二节点本地部署有联邦模型中的一个子模型;
所述第一节点通过所述移动通信系统中的消息接收所述第二节点的计算结果,所述计算结果是所述第二节点采用所述子模型对所述本地数据计算得到的;
其中,所述第一节点是终端、接入网网元、核心网网元和应用服务器中的至少一类,所述第二节点是所述终端、所述接入网网元、所述核心网网元和所述应用服务器中的至少一类,所述第一节点和所述第二节点的类型不同。
根据本申请的另一方面,提供了一种应用于移动通信系统中的联邦学习方法,所述方法包括:
第二节点通过所述移动通信系统中的消息接收第一节点发送的联邦学习请求,所述第二节点是所述移动通信系统中具有本地数据的节点,所述第二节点本地部署有联邦模型中的一个子模型;
所述第二节点通过所述移动通信系统中的消息向所述第一节点发送计算结果,所述计算结果是所述第二节点采用所述子模型对所述本地数据计算得到的;
其中,所述第一节点是终端、接入网网元、核心网网元和应用服务器中的至少一类,所述第二节点是所述终端、所述接入网网元、所述核心网网元和所述应用服务器中的至少一类,所述第一节点和所述第二节点的类型不同。
根据本申请的另一方面,提供了一种应用于移动通信系统中的联邦学习方法,所述方法包括:
汇聚节点接收所述移动通信系统中的至少两个第二节点的计算结果,所述第二节点是所述移动通信系统中具有本地数据的节点,所述第二节点本地部署有联邦模型中的一个子模型,所述计算结果是使用所述第二节点内的所述子模型对所述第二节点的所述本地数据计算得到的;
所述汇聚节点向所述移动通信系统中的第一节点发送汇聚计算结果,所述汇聚计算结果是将所述至少两个第二节点的计算结果汇聚得到的。
根据本申请的一个方面,提供了一种应用于移动通信系统中的联邦学习装置,所述装置包括:
第一发送模块,用于通过所述移动通信系统中的消息向第二节点发送联邦学习请求,所述第二节点是所述移动通信系统中具有本地数据的节点,所述第二节点本地部署有联邦模型中的一个子模型;
第一接收模块,用于通过所述移动通信系统中的消息接收所述第二节点的计算结果,所述计算结果是所述第二节点采用所述子模型对所述本地数据计算得到的;
其中,所述装置应用于终端、接入网网元、核心网网元和应用服务器中的至少一类,所述第二节点是所述终端、所述接入网网元、所述核心网网元和所述应用服务器中的至少一类,所述装置应用的网元和所述第二节点的类型不同。
根据本申请的一个方面,提供了一种应用于移动通信系统中的联邦学习装置,所述装置包括:
第二接收模块,用于通过所述移动通信系统中的消息接收第一节点发送的联邦学习请求,所述第二节点是所述移动通信系统中具有本地数据的节点,所述第二节点本地部署有联邦模型中的一个子模型;
第二发送模块,用于通过所述移动通信系统中的消息向所述第一节点发送计算结果,所述计算结果是所述第二节点采用所述子模型对所述本地数据计算得到的;
其中,所述第一节点是终端、接入网网元、核心网网元和应用服务器中的至少一类,所述装置应用于 所述终端、所述接入网网元、所述核心网网元和所述应用服务器中的至少一类,所述第一节点和所述装置应用的网元的类型不同。
根据本申请的一个方面,提供了一种应用于移动通信系统中的联邦学习装置,所述装置包括:
第三接收模块,用于接收所述移动通信系统中的至少两个第二节点的计算结果,所述第二节点是所述移动通信系统中具有本地数据的节点,所述第二节点本地部署有联邦模型中的一个子模型,所述计算结果是使用所述第二节点内的所述子模型对所述第二节点的所述本地数据计算得到的;
第三发送模块,用于向所述移动通信系统中的第一节点发送汇聚计算结果,所述汇聚计算结果是将所述至少两个第二节点的计算结果汇聚得到的。
根据本申请的一个方面,提供了一种终端或网元设备,所述终端或网元设备包括:处理器;与所述处理器相连的收发器;用于存储所述处理器的可执行指令的存储器;其中,所述处理器被配置为加载并执行所述可执行指令以实现如上述方面所述的应用于移动通信系统的联邦学习方法。
根据本申请的一个方面,提供了一种计算机可读存储介质,所述计算机可读存储介质中存储有可执行指令,所述可执行指令由处理器加载并执行以实现如上述方面所述的应用于移动通信系统的联邦学习方法。
根据本申请的一个方面,提供了一种计算机程序产品或计算机程序,该计算机程序产品或计算机程序包括计算机指令,该计算机指令存储在计算机可读存储介质中,计算机设备的处理器从计算机可读存储介质读取该计算机指令,处理器执行该计算机指令,使得该计算机设备执行上述方面所述的应用于移动通信系统的联邦学习方法。
根据本申请的一个方面,提供了一种芯片,所述芯片包括可编程逻辑电路或程序,所述芯片用于实现如上述方面所述的应用于移动通信系统的联邦学习方法。
本申请实施例提供的技术方案至少包括如下有益效果:
通过在移动通信系统中的不同节点之间采用移动通信系统中的消息发送联邦学习请求以及计算结果,使得位于不同域的节点之间在保证数据隐私性的前提下,通过所述移动通信系统中的消息融合不同域中的使用联邦模型来进行数据分析,从而提升移动通信系统的数据分析能力。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请一个示例性实施例提供的纵向联邦学习的示意图;
图2是本申请一个示例性实施例提供的移动通信系统的示意图;
图3是本申请一个示例性实施例提供的移动通信系统的示意图;
图4是本申请一个示例性实施例提供的应用于移动通信系统的联邦学习方法的流程图;
图5是本申请一个示例性实施例提供的以核心网网元为第一节点的联邦学习方法的流程图;
图6是本申请一个示例性实施例提供的以核心网网元为第一节点的示意图;
图7是本申请一个示例性实施例提供的以核心网网元为第一节点的联邦学习方法的流程图;
图8是本申请一个示例性实施例提供的以AS为第一节点的联邦学习方法的流程图;
图9是本申请一个示例性实施例提供的以AS为第一节点的示意图;
图10是本申请一个示例性实施例提供的以AS为第一节点的联邦学习方法的流程图;
图11是本申请一个示例性实施例提供的以UE为第一节点的联邦学习方法的流程图;
图12是本申请一个示例性实施例提供的以UE为第一节点的示意图;
图13是本申请一个示例性实施例提供的以UE为第一节点的联邦学习方法的流程图;
图14是本申请一个示例性实施例提供的以接入网网元为第一节点的联邦学习方法的流程图;
图15是本申请一个示例性实施例提供的应用于移动通信系统的联邦学习方法的流程图;
图16是本申请一个示例性实施例提供的应用于移动通信系统的联邦学习装置的结构框图;
图17是本申请一个示例性实施例提供的应用于移动通信系统的联邦学习装置的结构框图;
图18是本申请一个示例性实施例提供的应用于移动通信系统的联邦学习装置的结构框图;
图19是本申请一个示例性实施例提供的通信系统的结构示意图。
具体实施方式
为使本申请的目的、技术方案和优点更加清楚,下面将结合附图对本申请实施方式作进一步地详细描述。
首先对本申请实施例涉及的若干个名词进行简介:
联邦学习:在保证数据不出域的情况下,联合多个参与方的数据源来训练机器学习模型,以及提供模型推理服务。联邦学习在保护用户隐私和数据安全的同时,又可以充分利用多个参与方的数据源来提升机 器学习模型的性能。联邦学习使得跨部门、跨公司、甚至跨行业的数据合作成为可能,同时又能满足数据保护法律和法规的要求。
联邦学习可以分为三类:横向联邦学习(Horizontal Federated Learning),纵向联邦学习(Vertical Federated Learning),联邦迁移学习(Federated Transfer Learning)。
纵向联邦学习:是用于参与者的训练样本标识(ID)的重叠较多,而数据特征的重叠较少的情况下的联邦学习。例如,同一地区的银行和电商分别拥有同一客户A的不同特征数据,比如银行拥有客户A的金融数据,电商拥有客户A的购物数据。“纵向”二字来源于数据的“纵向划分(vertical partitioning)”。如图1所示,联合多个参与者A和B中具有交集的用户样本的不同特征数据进行联邦学习,即各个参与者的训练样本是纵向划分的。
同态加密:是基于数学难题的计算复杂性理论的密码学技术。对经过同态加密的数据进行处理得到一个输出,将这一输出进行解密,其结果与用同一方法处理未加密的原始数据得到的输出结果是一样的。
图2示出了本申请一个示例性实施例提供的通信系统的架构示意图。如图2所示,该系统架构100可以包括:UE、RAN、CN和数据网络(DataNetwork,DN)构成。其中,UE、RAN、CN是构成架构的主要成分,逻辑上它们可以分为用户面和控制面两部分,控制面负责移动网络的管理,用户面负责业务数据的传输。在图2中,NG2参考点位于RAN控制面和CN控制面之间,NG3参考点位于RAN用户面和CN用户面之间,NG6参考点位于CN用户面和数据网络之间。
UE:是移动用户与网络交互的入口,能够提供基本的计算能力、存储能力,向用户显示业务窗口,接受用户操作输入。UE会采用下一代空口技术,与RAN建立信号连接、数据连接,从而传输控制信号和业务数据到移动网络。
RAN:类似于传统网络里面的基站,部署在靠近UE的位置,为小区覆盖范围的授权用户提供入网功能,并能够根据用户的级别,业务的需求等使用不同质量的传输隧道传输用户数据。RAN能够管理自身的资源,合理利用,按需为UE提供接入服务,把控制信号和用户数据在UE和核心网之间转发。
CN:负责维护移动网络的签约数据,管理移动网络的网元,为UE提供会话管理、移动性管理、策略管理、安全认证等功能。在UE附着的时候,为UE提供入网认证;在UE有业务请求时,为UE分配网络资源;在UE移动的时候,为UE更新网络资源;在UE空闲的时候,为UE提供快恢复机制;在UE去附着的时候,为UE释放网络资源;在UE有业务数据时,为UE提供数据路由功能,如转发上行数据到DN;或者从DN接收UE下行数据,转发到RAN,从而发送给UE。
DN:是为用户提供业务服务的数据网络,一般客户端位于UE,服务端位于数据网络。数据网络可以是私有网络,如局域网,也可以是不受运营商管控的外部网络,如Internet,还可以是运营商共同部署的专有网络,如为了配置网际互联协议(Internet Protocol,IP)多媒体网络子系统(IP Multimedia Core Network Subsystem,IMS)服务。
图3是在图2的基础上确定的详细架构,其中核心网用户面包括用户面功能(User Plane Function,UPF);核心网控制面包括认证服务器功能(Authentication Server Function,AUSF)、接入和移动管理(Access and Mobility Management Function,AMF)、会话管理功能(Session Management Function,SMF)、网络切片选择功能(Network Slice Selection Function,NSSF)、网络开放功能(Network Exposure Function,NEF)、网络仓储功能(NF Repository Function,NRF)、统一数据管理(Unified Data Management,UDM)、策略控制功能(Policy Control Function,PCF)、AF。这些功能实体的功能如下:
UPF:根据SMF的路由规则执行用户数据包转发;
AUSF:执行UE的安全认证;
AMF:UE接入和移动性管理;
SMF:UE会话管理;
NSSF:为UE选择网络切片;
NEF:以应用程序接口(Application Programming Interface,API)接口的方式向第三方开放网络功能;
NRF:为其他网元提供网络功能实体信息的存储功能和选择功能;
UDM:用户签约上下文管理;
PCF:用户策略管理;
AF:用户应用管理。
在图3所示架构中,N1接口为UE与AMF之间的参考点;N2接口为RAN和AMF的参考点,用于非接入层(Non-Access-Stratum,NAS)消息的发送等;N3接口为RAN和UPF之间的参考点,用于传输用户面的数据等;N4接口为SMF和UPF之间的参考点,用于传输例如N3连接的隧道标识信息、数据缓存指示信息,以及下行数据通知消息等信息;N6接口为UPF和DN之间的参考点,用于传输用户面的数据等。NG接口:无线接入网和5G核心网之间的接口。
需要说明的是,图2和图3中的各个网元之间的接口名称只是一个示例,具体实现中接口的名称可能为其他的名称,本申请实施例对此不作具体限定。图2和图3中包括的各个网元(比如SMF、AF、UPF等)的名称也仅是一个示例,对网元本身的功能不构成限定。在5GS以及未来其它的网络中,上述各个网元也可以是其他的名称,本申请实施例对此不作具体限定。例如,在6G网络中,上述各个网元中的部分或全部可以沿用5G中的术语,也可能采用其他名称,等等,在此进行统一说明,以下不再赘述。此外,应理解,上述各个网元之间的所传输的消息(或信令)的名称也仅仅是一个示例,对消息本身的功能不构成任何限定。
图4示出了本申请一个示例性实施例提供的应用于移动通信系统的联邦学习方法的流程图。该方法包括:
步骤410:第一节点通过移动通信系统中的消息向第二节点发送联邦学习请求;
第一节点(也称主节点或标签节点)是具有样本标签的节点,或者,第一节点是计算结果的使用者。
第二节点(也称参与节点或计算节点)是移动通信系统中具有本地数据的节点,第二节点本地部署有联邦模型中的一个子模型。示例性的,第二节点为n个,联邦模型包括n个子模型,第二节点与子模型一一对应。示例性的,第二节点为n个,第一节点为1个,联邦模型包括n+1个子模型,n个第二节点与n个子模型一一对应,第一节点与1个子模型对应。
可选地,第一节点通过NAS消息向第二节点发送联邦学习请求。比如,NAS消息包括用户配置更新(UEConfigurationUpdate)消息。可选地,第一节点通过用户面消息向第二节点发送联邦学习请求。
在第二节点为至少两个的情况下,第一节点分别向至少两个第二节点发送联邦学习请求。
在一个示例中,联邦学习请求携带有子模型的模型信息。由于不同的第二节点中的子模型相同或不同,针对第i个第二节点,第一节点向第i个第二节点发送的第i个联邦学习请求中,携带有第i个第二节点中的子模型的信息。可选地,子模型的模型信息包括:模型类型、模型中的参数类型和个数、模型中的神经网络层的类型和层数、模型中的神经网络核的类型和参数、模型中的神经网络层的拓扑结果、模型的初始化参数中的至少一种。i为不大于n的整数。
在一个示例中,联邦学习请求携带有子模型的模型信息。由于不同的第二节点中的子模型相同或不同,针对第i个第二节点,第一节点向第i个第二节点发送的第i个联邦学习请求中,携带有第i个第二节点中的子模型的信息。可选地,子模型的模型信息包括:模型类型、模型中的参数类型和个数、模型中的神经网络层的类型和层数、模型中的神经网络核的类型和参数、模型中的神经网络层的拓扑结果、模型的初始化参数中的至少一种。
在一个示例中,联邦学习请求携带有本地数据的需求信息。由于不同的第二节点中的本地数据的类型不同,针对第i个第二节点,第一节点向第i个第二节点发送的第i个联邦学习请求中,携带有第i个第二节点中的本地数据的需求信息。可选地,本地数据的需求信息包括:本地数据的数据类型、本地数据的数据格式、本地数据的有效范围中的至少一种。有效范围根据时间、位置、信号源等维度进行划分。
步骤420:第二节点通过移动通信系统中的消息接收第一节点发送的联邦学习请求;
可选地,第二节点通过NAS消息接收第一节点发送的联邦学习请求。或者,第二节点通过用户面消息接收第一节点发送的联邦学习请求。
在联邦模型的训练阶段中,第二节点从联邦学习请求中获取子模型的模型参数。在联邦模型的训练阶段和/或推理阶段中,第二节点从联邦学习请求中获取本地数据的需求信息。
第二节点根据联邦学习请求进行联邦学习。
在联邦模型的训练阶段,第二节点根据子模型的模型参数构建子模型,使用子模型对需求信息指示的本地数据进行计算,得到计算结果;在联邦模型的推理阶段,使用训练完毕的子模型对需求信息指示的本地数据进行计算,得到计算结果。
步骤430:第二节点通过移动通信系统中的消息向第一节点发送计算结果;
步骤440:第一节点通过移动通信系统中的消息接收第二节点的计算结果。
综上所述,本实施例提供的方法,通过在移动通信系统中的不同节点之间采用移动通信系统中的消息发送联邦学习请求以及计算结果,使得位于不同域的节点之间在保证数据隐私性的前提下,通过所述移动通信系统中的消息融合不同域中的使用联邦模型来进行数据分析,从而提升移动通信系统的数据分析能力。
示例性的,第一节点是终端、接入网网元、核心网网元和AS中的至少一类,第二节点是终端、接入网网元、核心网网元和AS中的至少一类,所述第一节点和所述第二节点的类型不同。
针对第一节点包括核心网网元的情况:
图5示出了本申请一个示例性实施例提供的应用于移动通信系统的联邦学习方法的流程图。该方法包括:
联邦模型的训练阶段:
步骤510:核心网网元通过移动通信系统中的消息分别向终端、接入网网元和AS中的至少一种,发送联邦学习请求;
在第二节点包括终端的情况下,核心网网元通过NAS消息或用户面消息向终端发送第一联邦学习请求,第一联邦学习请求携带有终端侧的子模型的模型信息,和/或,终端侧的本地数据的需求信息。
在第二节点包括接入网网元的情况下,核心网网元通过NG2消息或NG3消息向接入网网元发送第二联邦学习请求,第二联邦学习请求携带有接入网网元侧的子模型的模型信息,和/或,接入网网元侧的本地数据的需求信息。
在第二节点包括AS的情况下,核心网网元通过第一API接口或用户面连接向AS发送第三联邦学习请求,第三联邦学习请求携带有AS侧的子模型的模型信息,和/或,AS侧的本地数据的需求信息。可选地,第一API接口包括AS向核心网网元提供的API,和/或,核心网网元向AS提供的API。
本实施例中,以第二节点同时包括终端、接入网网元和AS来举例说明。
步骤520:终端/接入网网元/AS通过移动通信系统中的消息接收核心网网元发送的联邦学习请求;
终端通过NAS消息或用户面消息接收核心网网元发送的第一联邦学习请求,第一联邦学习请求携带有终端侧的子模型的模型信息,和/或,终端侧的本地数据的需求信息。
接入网网元通过NG2消息或NG3消息接收核心网网元发送的第二联邦学习请求,第二联邦学习请求携带有接入网网元侧的子模型的模型信息,和/或,接入网网元侧的本地数据的需求信息。
AS通过经过第一API接口或用户面连接接收核心网网元发送的第三联邦学习请求,第三联邦学习请求携带有AS侧的子模型的模型信息,和/或,AS侧的本地数据的需求信息。
示例性的,在联邦模型的训练阶段中,终端/接入网网元/AS从联邦学习请求中获取子模型的模型参数,和/或,本地数据的需求信息。终端/接入网网元/AS根据联邦学习请求进行联邦学习。终端/接入网网元/AS根据子模型的模型参数构建子模型,使用子模型对需求信息指示的本地数据进行计算,得到计算结果。
步骤530:终端/接入网网元/AS通过移动通信系统中的消息向核心网网元发送计算结果;
终端通过NAS消息或用户面消息向核心网网元发送第一计算结果,第一计算结果是使用终端侧的子模型对终端侧的本地数据计算得到的。
接入网网元通过NG2消息或NG3消息向核心网网元发送第二计算结果,第二计算结果是使用接入网网元侧的子模型对接入网网元侧的本地数据计算得到的。
AS通过第一API接口或用户面连接向核心网网元发送第三计算结果,第三计算结果是使用AS侧的子模型对AS侧的本地数据计算得到的。
示例性的,在联邦模型的训练阶段中,终端/接入网网元/AS从联邦学习请求中获取子模型的模型参数,和/或,本地数据的需求信息。终端/接入网网元/AS根据联邦学习请求进行联邦学习。终端/接入网网元/AS根据子模型的模型参数构建子模型,使用子模型对需求信息指示的本地数据进行计算,得到计算结果。
步骤540:核心网网元通过移动通信系统中的消息接收终端/接入网网元/AS发送的计算结果;
核心网网元通过NAS消息或用户面消息接收终端发送的第一计算结果,第一计算结果是使用终端侧的子模型对终端侧的本地数据计算得到的。
核心网网元通过NG2消息或NG3消息接收接入网网元发送的第二计算结果,第二计算结果是使用接入网网元侧的子模型对接入网网元侧的本地数据计算得到的。
核心网网元通过第一API接口或用户面连接接收AS发送的第三计算结果,第三计算结果是使用AS侧的子模型对AS侧的本地数据计算得到的。
步骤550:核心网网元通过移动通信系统中的消息向终端、接入网网元和AS中的至少一种,发送误差损失;
核心网网元包括样本标签,样本标签来自核心网网元自身存储的数据,或者,样本标签是核心网网元从另一核心网网元中获取到的。
核心网网元通过NAS消息或用户面消息向终端发送第一误差损失,第一误差损失是第一计算结果相对于样本标签的误差损失。
核心网网元通过NG2消息或NG3消息向接入网网元发送第二误差损失,第二误差损失是第二计算结果相对于样本标签的误差损失。
核心网网元通过第一API接口或用户面连接向AS发送第三误差损失,第三误差损失是第三结算结果相对于样本标签的误差损失。
步骤560:终端/接入网网元/AS根据误差损失更新本地部署的子模型的模型参数;
终端根据第一误差损失更新本地部署的子模型的模型参数,第一误差损失是第一计算结果相对于样本标签的误差损失。
接入网网元根据第二误差损失更新本地部署的子模型的模型参数,第二误差损失是第二计算结果相对 于样本标签的误差损失。
AS根据第三误差损失更新本地部署的子模型的模型参数,第三误差损失是第三计算结果相对于样本标签的误差损失。
可选地,第一节点也拥有自身的本地数据,第一节点在本地部署有联邦模型中的一个子模型。第一节点使用第一节点的子模型对第一节点的本地数据进行计算,得到本地计算结果;第一节点计算本地计算结果相对于样本标签的本地误差损失;第一节点使用本地误差损失更新第一节点内的子模型的模型参数。即核心网网元使用核心网网元的本地数据训练核心网网元的子模型,得到本地计算结果;核心网网元计算本地计算结果相对于样本标签的本地误差损失;核心网网元使用本地误差损失更新核心网网元内的子模型的模型参数。
经过一次或多次更新迭代过程,
联邦模型的推理阶段:
步骤570:终端/接入网网元/AS通过移动通信系统中的消息向核心网网元发送计算结果;
在联邦模型训练完毕后,第二节点自行执行预测过程,或者,第二节点在接收到第一网元发送的联邦学习请求后,执行预测过程。
在第二节点包括终端的情况下,终端通过NAS消息或用户面消息向核心网网元发送第一计算结果,第一计算结果是使用终端侧的子模型对终端侧的本地数据计算得到的。
在第二节点包括接入网网元的情况下,接入网网元通过NG2消息或NG3消息向核心网网元发送第二计算结果,第二计算结果是使用接入网网元侧的子模型对接入网网元侧的本地数据计算得到的。
在第二节点包括AS的情况下,AS通过第一API接口或用户面连接向核心网网元发送第三计算结果,第三计算结果是使用AS侧的子模型对AS侧的本地数据计算得到的。
步骤580:核心网网元通过移动通信系统中的消息接收终端/接入网网元/AS发送的计算结果。
核心网网元将接收到的计算结果进行汇总,从而得到联邦模型的最终计算结果,根据最终计算结果进行后续运算。可选地,联邦模型包括与QoS信息有关的模型。
综上所述,本实施例提供的方法,通过在移动通信系统中的不同节点之间采用移动通信系统中的消息发送联邦学习请求以及计算结果,使得位于不同域的节点之间在保证数据隐私性的前提下,通过所述移动通信系统中的消息融合不同域中的使用联邦模型来进行数据分析,从而提升移动通信系统的数据分析能力。
示例性的如图6所示,以核心网网元为网络数据分析功能(Network Data Analytics Function,NWDAF)为例,UE、NWDAF和AS之间需要执行纵向联邦学习。其中,NWDAF是标签拥有者。UE拥有第一样本数据,AS拥有第二样本数据,NWDAF拥有第三样本数据。
示例性的,NWDAF拥有的样本标签包括:传输时延,各个网元拥有与传输时延对应的不同影响参数。如下表一所示(同一UE可以拥有多组不同的样本数据):
表一
UE AS NWDAF Tag(标签)
样本数据1 速度100km/h、电量50% 正在使用应用a GBR=40mbps 传输时延=50ms
样本数据2 速度200km/h、电量70% 正在使用应用b GBR=50mbps 传输时延=20ms
样本数据3 速度300km/h、电量20% 正在使用应用c GBR=30mbps 传输时延=30ms
…… …… …… …… ……
样本数据n 速度150km/h、电量20% 正在使用应用b GBR=20mbps 传输时延=20ms
注1:保证比特速率(Guaranteed Bit Rate,GBR)和传输时延是核心网侧的数据。NWDAF可以从其它核心网网元收集到该数据用于训练。
假设联邦模型y=a1x1+a2x2+a3x3+a4x4,y是计算结果,x1和x2是UE的速度和电量值,x3是UE正在使用的应用,x4是核心网为UE分配的GBR值。而标签yt是用于与联邦模型计算出来的y计算误差损失。
出于数据保密要求,UE和AS的样本数据不能发送给NWDAF(NWDAF只能获得核心网的数据)。对于每一组样本数据,UE在本地计算a1x1+a2x2,AS在本地计算a3x3,然后将各自的计算结果发送给NWDAF,NWDAF能够汇总得到计算结果y=a1x1+a2x2+a3x3+a4x4的值,将该计算结果与标签yt比较计算出误差损失,NWDAF再将该误差损失返回给各个节点用于计算各个子模型中的权重a的梯度作为误差损失,从而调整权重a。以此,使用一组或多组样本数据都按此方法进行计算,不断计算梯度调整权重a,从而得到最终的联邦模型y=a1x1+a2x2+a3x3+a4x4。
如图7所示,该方法包括:
步骤1:NWDAF向UE和AS分别发送子模型的模型信息和本地数据的需求信息;
NWDAF作为标签的拥有者,向UE和AS分别发送联邦学习请求。联邦学习请求中包含子模型的模型信息和本地数据的需求信息。
示例性的,子模型的模型信息包括:当前节点要计算的模型,可以是简单的线性关系模型,也可以是较为复杂的多层神经网络模型,比如深度网络模型(Deep Neural Networks,DNN)。
示例性的,本地数据的需求信息(也称输入参数信息)包括:当前节点需要输入的参数,比如对于发送给UE的a1x1+a2x2模型,x1和x2就是两个输入参数,分别对应UE侧能采集到的速度和电量值。
NWDAF可以通过NAS消息向终端发送第一联邦学习请求,NAS消息可以是UE配置更新(UEConfigurationUpdate),或者通过用户面消息向终端发送第一联邦学习请求。
步骤2:UE和AS向NWDAF发送计算结果;
UE和AS分别根据各自的模型和输入参数计算得到计算结果(a1x1+a2x2和a3x3),发送给NWDAF。
步骤3:NWDAF向UE和AS分别发送误差损失;
NWDAF根据自身的本地数据和本地部署的子模型计算出本地计算结果a4x4,将三个计算结果得到的结果相加,得到y=a1x1+a2x2+a3x3+a4x4,使用y和yt之间的比对做误差损失的计算,然后将误差损失发送给UE和AS。
步骤4:UE根据误差损失计算UE侧的模型参数的梯度,然后更新权重a1和a2;NWDAF根据误差损失计算NWDAF侧的模型参数的梯度,然后更新权重a3;AS根据误差损失计算AS侧的模型参数的梯度,然后更新权重a4。
各个节点再自己计算出梯度,然后更新各自的权重a的值。这样就完成了一次迭代计算。经过多次迭代计算,得到训练后的子模型。
针对第一节点包括AS的情况:
图8示出了本申请一个示例性实施例提供的应用于移动通信系统的联邦学习方法的流程图。该方法包括:
联邦模型的训练阶段:
步骤610:AS通过移动通信系统中的消息分别向终端、接入网网元和核心网网元中的至少一种,发送联邦学习请求;
在第二节点包括终端的情况下,AS通过用户面的应用层连接向终端发送第一联邦学习请求,第一联邦学习请求携带有终端侧的子模型的模型信息,和/或,终端侧的本地数据的需求信息。示例性的,用户面的应用层连接包括:超文本传输协议(HyperText Transfer Protocol,HTTP)。
在第二节点包括接入网网元的情况下,AS通过第二API接口向接入网网元发送第二联邦学习请求,第二联邦学习请求携带有接入网网元侧的子模型的模型信息,和/或,接入网网元侧的本地数据的需求信息。可选地,第二API接口包括AS向接入网网元提供的API,和/或,接入网网元向AS提供的API。
在第二节点包括核心网网元的情况下,AS通过第一API接口或用户面连接向核心网网元发送第四联邦学习请求,第四联邦学习请求携带有核心网网元侧的子模型的模型信息,和/或,核心网网元侧的本地数据的需求信息。
步骤620:终端/接入网网元/核心网网元通过移动通信系统中的消息接收AS发送的联邦学习请求;
终端通过用户面的应用层连接接收来自AS的第一联邦学习请求,第一联邦学习请求携带有终端侧的子模型的模型信息,和/或,终端侧的本地数据的需求信息。
接入网网元通过第二API接口接收来自AS的第二联邦学习请求,第二联邦学习请求携带有接入网网元侧的子模型的模型信息,和/或,接入网网元侧的本地数据的需求信息。
核心网网元通过第一API接口或用户面连接接收来自AS的第四联邦学习请求,第四联邦学习请求携带有核心网网元侧的子模型的模型信息,和/或,核心网网元侧的本地数据的需求信息。
示例性的,在联邦模型的训练阶段中,终端/接入网网元/核心网网元从联邦学习请求中获取子模型的模型参数,和/或,本地数据的需求信息。终端/接入网网元/核心网网元根据联邦学习请求进行联邦学习。终端/接入网网元/核心网网元根据子模型的模型参数构建子模型,使用子模型对需求信息指示的本地数据进行计算,得到计算结果。
步骤630:终端/接入网网元/核心网网元通过移动通信系统中的消息向AS发送计算结果;
终端通过用户面的应用层连接向AS发送第一计算结果,第一计算结果是使用终端侧的子模型对终端侧的本地数据计算得到的。
接入网网元通过第二API接口向AS发送第二计算结果,第二计算结果是使用接入网网元侧的子模型对接入网网元侧的本地数据计算得到的。
核心网网元通过第一API接口或用户面连接向AS发送第四计算结果,第四计算结果是使用核心网网元侧的子模型对核心网网元侧的本地数据计算得到的。
示例性的,在联邦模型的训练阶段中,终端/接入网网元/核心网网元从联邦学习请求中获取子模型的模型参数,和/或,本地数据的需求信息。终端/接入网网元/核心网网元根据联邦学习请求进行联邦学习。终端/接入网网元/核心网网元根据子模型的模型参数构建子模型,使用子模型对需求信息指示的本地数据进行计算,得到计算结果。
步骤640:AS通过移动通信系统中的消息接收终端/接入网网元/核心网网元发送的计算结果;
AS通过用户面的应用层连接接收终端发送的第一计算结果,第一计算结果是使用终端侧的子模型对终端侧的本地数据计算得到的。
AS通过第二API接口接收接入网网元发送的第二计算结果,第二计算结果是使用接入网网元侧的子模型对接入网网元侧的本地数据计算得到的。
AS通过第一API接口或用户面连接接收核心网网元发送的第四计算结果,第四计算结果是使用核心网网元侧的子模型对核心网网元侧的本地数据计算得到的。
步骤650:AS通过移动通信系统中的消息分别向终端、接入网网元和核心网网元中的至少一种,发送误差损失;
AS是样本标签的拥有者。
AS通过用户面的应用层连接向终端发送第一误差损失,第一误差损失是第一计算结果相对于样本标签的误差损失。
AS通过第二API接口向接入网网元发送第二误差损失,第二误差损失是第二计算结果相对于样本标签的误差损失。
AS通过第一API接口或用户面连接向核心网网元发送第四误差损失,第四误差损失是第四结算结果相对于样本标签的误差损失。
步骤660:终端/接入网网元/核心网网元根据误差损失更新本地部署的子模型的模型参数;
终端根据第一误差损失更新本地部署的子模型的模型参数,第一误差损失是第一计算结果相对于样本标签的误差损失。
接入网网元根据第二误差损失更新本地部署的子模型的模型参数,第二误差损失是第二计算结果相对于样本标签的误差损失。
核心网网元根据第四误差损失更新本地部署的子模型的模型参数,第四误差损失是第四计算结果相对于样本标签的误差损失。
可选地,第一节点也拥有自身的本地数据,第一节点在本地部署有联邦模型中的一个子模型。第一节点使用第一节点的子模型对第一节点的本地数据进行计算,得到本地计算结果;第一节点计算本地计算结果相对于样本标签的本地误差损失;第一节点使用本地误差损失更新第一节点内的子模型的模型参数。即AS使用AS的本地数据训练AS的子模型,得到本地计算结果;AS计算本地计算结果相对于样本标签的本地误差损失;AS使用本地误差损失更新AS内的子模型的模型参数。
经过一次或多次更新迭代过程,
联邦模型的推理阶段:
步骤670:终端/接入网网元/核心网网元通过移动通信系统中的消息向AS发送计算结果;
在联邦模型训练完毕后,第二节点自行执行预测过程,或者,第二节点在接收到第一网元发送的联邦学习请求后,执行预测过程。
在第二节点包括终端的情况下,终端通过用户面的应用层连接向AS发送第一计算结果,第一计算结果是使用终端侧的子模型对终端侧的本地数据计算得到的。
在第二节点包括接入网网元的情况下,接入网网元通过第二API接口向AS发送第二计算结果,第二计算结果是使用接入网网元侧的子模型对接入网网元侧的本地数据计算得到的。
在第二节点包括核心网网元的情况下,核心网网元通过第一API接口或用户面连接向AS发送第四计算结果,第四计算结果是使用核心网网元侧的子模型对核心网网元侧的本地数据计算得到的。
步骤680:AS通过移动通信系统中的消息接收终端/接入网网元/核心网网元发送的计算结果。
AS将接收到的计算结果进行汇总,从而得到联邦模型的最终计算结果,根据最终计算结果进行后续运算。可选地,联邦模型包括与应用程序有关的模型。
综上所述,本实施例提供的方法,通过在移动通信系统中的不同节点之间采用移动通信系统中的消息发送联邦学习请求以及计算结果,使得位于不同域的节点之间在保证数据隐私性的前提下,通过所述移动通信系统中的消息融合不同域中的使用联邦模型来进行数据分析,从而提升移动通信系统的数据分析能力。
示例性的如图9所示,UE、NWDAF和AS之间需要执行纵向联邦学习。其中,AS是标签拥有者。 多个UE拥有第一样本数据,AS拥有第二样本数据,NWDAF拥有第三样本数据。
示例性的,AS拥有的样本标签是应用层所特有的标签,例如用户的业务体验打分。各个节点拥有与传输时延对应的不同影响参数。如下表二所示(不同UE可以拥有不同的样本数据):
表二
假设联邦模型y=a1x1+a2x2+a3x3+a4x4,y是计算结果,x1和x2是UE的速度和电量值,x3是AS正在使用的视频压缩码率,x4是核心网为UE分配的GBR值。而标签yt是用于与联邦模型计算出来的y计算误差损失。
出于数据保密要求,UE和NWDAF的样本数据不能发送给AF(AF只能获得核心网的数据)。对于每一组样本数据,UE在本地计算a1x1+a2x2,NWDAF在本地计算a4x4,然后将各自的计算结果发送给AF,AF能够汇总得到计算结果y=a1x1+a2x2+a3x3+a4x4的值,将该计算结果与标签yt比较计算出误差损失,AF再将该误差损失返回给各个节点用于计算各个子模型中的权重a的梯度作为误差损失,从而调整权重a。以此,使用一组或多组样本数据都按此方法进行计算,不断计算梯度调整权重a,从而得到最终的联邦模型y=a1x1+a2x2+a3x3+a4x4。
示例性的如图10所示,该方法包括:
步骤1:AF向UE和NWDAF分别发送子模型的模型信息和本地数据的需求信息;
AF作为标签的拥有者,向UE和NWDAF分别发送联邦学习请求。联邦学习请求中包含子模型的模型信息和本地数据的需求信息。
示例性的,子模型的模型信息包括:当前节点要计算的模型,可以是简单的线性关系模型,也可以是较为复杂的多层神经网络模型,比如深度网络模型(Deep Neural Networks,DNN)。
示例性的,本地数据的需求信息(也称输入参数信息)包括:当前节点需要输入的参数,比如对于发送给UE的a1x1+a2x2模型,x1和x2就是两个输入参数,分别对应UE侧能采集到的速度和电量值。
AF可以通过用户面的应用层连接向终端发送第一联邦学习请求,用户面的应用层连接可以是HTTP连接。
步骤2:UE和NWDAF向AF发送计算结果;
UE和NWDAF分别根据各自的模型和输入参数计算得到计算结果(a1x1+a2x2和a4x4),发送给AF。
步骤3:AF向UE和NWDAF分别发送误差损失;
AF根据自身的本地数据和本地部署的子模型计算出本地计算结果a3x3,将三个计算结果得到的结果相加,得到y=a1x1+a2x2+a3x3+a4x4,使用y和yt之间的比对做误差损失的计算,然后将误差损失发送给UE和NWDAF。
步骤4:UE根据误差损失计算UE侧的模型参数的梯度,然后更新权重a1和a2;AF根据误差损失计算AF侧的模型参数的梯度,然后更新权重a3;NWDAF根据误差损失计算NWDAF侧的模型参数的梯度,然后更新权重a4。
各个节点再自己计算出梯度,然后更新各自的权重a的值。这样就完成了一次迭代计算。经过多次迭代计算,得到训练后的子模型。
针对第一节点包括UE的情况:
图11示出了本申请一个示例性实施例提供的应用于移动通信系统的联邦学习方法的流程图。该方法包括:
联邦模型的训练阶段:
步骤710:UE通过移动通信系统中的消息分别向AS、接入网网元和核心网网元中的至少一种,发送联邦学习请求;
在第二节点包括AS的情况下,UE通过用户面的应用层连接向AS发送第三联邦学习请求,第三联邦学习请求携带有AS侧的子模型的模型信息,和/或,AS侧的本地数据的需求信息。
在第二节点包括接入网网元的情况下,UE通过信令无线承载(SignalingRadioBearer,SRB)或数据无线承载(DataRadioBearer,DRB)向接入网网元发送第二联邦学习请求,第二联邦学习请求携带有接入网网元侧的子模型的模型信息,和/或,接入网网元侧的本地数据的需求信息。
在第二节点包括核心网网元的情况下,UE通过NAS消息或用户面消息向核心网网元发送第四联邦学习请求,第四联邦学习请求携带有核心网网元侧的子模型的模型信息,和/或,核心网网元侧的本地数据的需求信息。
步骤720:AS/接入网网元/核心网网元通过移动通信系统中的消息接收UE发送的联邦学习请求;
AS通过用户面的应用层连接接收来自UE的第三联邦学习请求,第三联邦学习请求携带有AS侧的子模型的模型信息,和/或,AS侧的本地数据的需求信息。
接入网网元通过SRB或DRB接收来自UE的第二联邦学习请求,第二联邦学习请求携带有接入网网元侧的子模型的模型信息,和/或,接入网网元侧的本地数据的需求信息。
核心网网元通过NAS消息或用户面消息接收来自UE的第四联邦学习请求,第四联邦学习请求携带有核心网网元侧的子模型的模型信息,和/或,核心网网元侧的本地数据的需求信息。
示例性的,在联邦模型的训练阶段中,AS/接入网网元/核心网网元从联邦学习请求中获取子模型的模型参数,和/或,本地数据的需求信息。AS/接入网网元/核心网网元根据联邦学习请求进行联邦学习。AS/接入网网元/核心网网元根据子模型的模型参数构建子模型,使用子模型对需求信息指示的本地数据进行计算,得到计算结果。
步骤730:AS/接入网网元/核心网网元通过移动通信系统中的消息向UE发送计算结果;
AS通过用户面的应用层连接向UE发送第三计算结果,第三计算结果是使用AS侧的子模型对AS侧的本地数据计算得到的。
接入网网元通过SRB或DRB向UE发送第二计算结果,第二计算结果是使用接入网网元侧的子模型对接入网网元侧的本地数据计算得到的。
核心网网元通过经过NAS消息或用户面消息向UE发送第四计算结果,第四计算结果是使用核心网网元侧的子模型对核心网网元侧的本地数据计算得到的。
示例性的,在联邦模型的训练阶段中,AS/接入网网元/核心网网元从联邦学习请求中获取子模型的模型参数,和/或,本地数据的需求信息。AS/接入网网元/核心网网元根据联邦学习请求进行联邦学习。AS/接入网网元/核心网网元根据子模型的模型参数构建子模型,使用子模型对需求信息指示的本地数据进行计算,得到计算结果。
步骤740:UE通过移动通信系统中的消息接收AS/接入网网元/核心网网元发送的计算结果;
UE通过用户面的应用层连接接收AS发送的第三计算结果,第三计算结果是使用AS侧的子模型对AS侧的本地数据计算得到的。
UE通过SRB或DRB接收接入网网元发送的第二计算结果,第二计算结果是使用接入网网元侧的子模型对接入网网元侧的本地数据计算得到的。
UE通过NAS消息或用户面消息接收核心网网元发送的第四计算结果,第四计算结果是使用核心网网元侧的子模型对核心网网元侧的本地数据计算得到的。
步骤750:UE通过移动通信系统中的消息分别向AS、接入网网元和核心网网元中的至少一种,发送误差损失;
UE是样本标签的拥有者。
UE通过用户面的应用层连接向AS发送第三误差损失,第三误差损失是第三计算结果相对于样本标签的误差损失。
UE通过SRB或DRB向接入网网元发送第二误差损失,第二误差损失是第二计算结果相对于样本标签的误差损失。
UE通过NAS消息或用户面消息向核心网网元发送第四误差损失,第四误差损失是第四结算结果相对于样本标签的误差损失。
步骤760:AS/接入网网元/核心网网元根据误差损失更新本地部署的子模型的模型参数;
AS根据第三误差损失更新本地部署的子模型的模型参数,第三误差损失是第三计算结果相对于样本标签的误差损失。
接入网网元根据第二误差损失更新本地部署的子模型的模型参数,第二误差损失是第二计算结果相对于样本标签的误差损失。
核心网网元根据第四误差损失更新本地部署的子模型的模型参数,第四误差损失是第四结算结果相对于样本标签的误差损失。
可选地,第三节点也拥有自身的本地数据,第三节点在本地部署有联邦模型中的一个子模型。第三节点使用第三节点的本地数据训练第三节点的子模型,得到本地计算结果;第三节点计算本地计算结果相对于样本标签的本地误差损失;第三节点使用本地误差损失更新第三节点内的子模型的模型参数。即UE使用UE的本地数据训练UE的子模型,得到本地计算结果;UE计算本地计算结果相对于样本标签的本地误差损失;UE使用本地误差损失更新UE内的子模型的模型参数。
经过一次或多次更新迭代过程,
联邦模型的推理阶段:
步骤770:AS/接入网网元/核心网网元通过移动通信系统中的消息向UE发送计算结果;
在联邦模型训练完毕后,第二节点自行执行预测过程,或者,第二节点在接收到第三网元发送的联邦学习请求后,执行预测过程。
在第二节点包括AS的情况下,AS通过用户面的应用层连接向UE发送第三计算结果,第三计算结果是使用AS侧的子模型对AS侧的本地数据计算得到的。
在第二节点包括接入网网元的情况下,接入网网元通过SRB或DRB向UE发送第二计算结果,第二计算结果是使用接入网网元侧的子模型对接入网网元侧的本地数据计算得到的。
在第二节点包括核心网网元的情况下,核心网网元通过NAS消息或用户面消息向UE发送第四计算结果,第四计算结果是使用核心网网元侧的子模型对核心网网元侧的本地数据计算得到的。
步骤780:UE通过移动通信系统中的消息接收AS/接入网网元/核心网网元发送的计算结果。
UE将接收到的计算结果进行汇总,从而得到联邦模型的最终计算结果,根据最终计算结果进行后续运算。可选地,联邦模型包括与应用程序有关的模型。
综上所述,本实施例提供的方法,通过在移动通信系统中的不同节点之间采用移动通信系统中的消息发送联邦学习请求以及计算结果,使得位于不同域的节点之间在保证数据隐私性的前提下,通过所述移动通信系统中的消息融合不同域中的使用联邦模型来进行数据分析,从而提升移动通信系统的数据分析能力。
示例性的如图12所示,基站、UE和AS之间需要执行纵向联邦学习。其中,UE是标签拥有者。UE拥有样本标签和第一样本数据,AS拥有第二样本数据,基站拥有第四样本数据。
示例性的,UE拥有的样本标签为UE特有的标签,例如:为某一业务提供的算力(可以使用每秒计算的浮点数数量来描述),各个网元拥有与传输时延对应的不同影响参数。如下表三所示:
表三
假设联邦模型y=a1x1+a2x2+a3x3+a5x5,y是计算结果,x1和x2是UE的速度和电量值,x3是AS的用户体验值,x5是基站侧的分组时延预算(Packet Delay Budget,PDB)。而标签yt是用于与联邦模型计算出来的y计算误差损失。
出于数据保密要求,基站和AS的样本数据不能发送给UE(UE只能获得核心网的数据)。对于每一组样本数据,基站在本地计算a1x1+a2x2,AS在本地计算a3x3,然后将各自的计算结果发送给UE,UE能够汇总得到计算结果y=a1x1+a2x2+a3x3+a5x5的值,将该计算结果与标签yt比较计算出误差损失,UE 再将该误差损失返回给各个节点用于计算各个子模型中的权重a的梯度作为误差损失,从而调整权重a。以此,使用一组或多组样本数据都按此方法进行计算,不断计算梯度调整权重a,从而得到最终的联邦模型y=a1x1+a2x2+a3x3+a5x5。
如图13所示,该方法包括:
步骤1:UE向基站和AS分别发送子模型的模型信息和本地数据的需求信息;
UE作为标签的拥有者,向基站和AS分别发送联邦学习请求。联邦学习请求中包含子模型的模型信息和本地数据的需求信息。
示例性的,子模型的模型信息包括:当前节点要计算的模型,可以是简单的线性关系模型,也可以是较为复杂的多层神经网络模型,比如深度网络模型(Deep Neural Networks,DNN)。
示例性的,本地数据的需求信息(也称输入参数信息)包括:当前节点需要输入的参数,比如对于发送给基站的a5x5模型,x5就是输入参数。
步骤2:基站和AS向UE发送计算结果;
基站和AS分别根据各自的模型和输入参数计算得到计算结果(a1x1+a2x2和a3x3),发送给UE。
步骤3:UE向基站和AS分别发送误差损失;
UE根据自身的本地数据和本地部署的子模型计算出本地计算结果a5x5,将三个计算结果得到的结果相加,得到y=a1x1+a2x2+a3x3+a5x5,使用y和yt之间的比对做误差损失的计算,然后将误差损失发送给基站和AS。
步骤4:UE根据误差损失计算UE侧的模型参数的梯度,然后更新权重a1和a2;AS根据误差损失计算AS侧的模型参数的梯度,然后更新权重a3;基站根据误差损失计算基站侧的模型参数的梯度,然后更新权重a5。
各个节点再自己计算出梯度,然后更新各自的权重a的值。这样就完成了一次迭代计算。经过多次迭代计算,得到训练后的子模型。
针对第一节点包括接入网网元的情况:
图14示出了本申请一个示例性实施例提供的应用于移动通信系统的联邦学习方法的流程图。该方法包括:
联邦模型的训练阶段:
步骤810:接入网网元通过移动通信系统中的消息分别向AS、UE和核心网网元中的至少一种,发送联邦学习请求;
在第二节点包括AS的情况下,接入网网元通过第一API接口向AS发送第三联邦学习请求,第三联邦学习请求携带有AS侧的子模型的模型信息,和/或,AS侧的本地数据的需求信息。
在第二节点包括UE的情况下,接入网网元通过信令无线承载(SignalingRadioBearer,SRB)或数据无线承载(DataRadioBearer,DRB)向UE发送第一联邦学习请求,第一联邦学习请求携带有UE侧的子模型的模型信息,和/或,UE侧的本地数据的需求信息。
在第二节点包括核心网网元的情况下,接入网网元通过第一API接口或用户面连接向核心网网元发送第四联邦学习请求,第四联邦学习请求携带有核心网网元侧的子模型的模型信息,和/或,核心网网元侧的本地数据的需求信息。
步骤820:AS/UE/核心网网元通过移动通信系统中的消息接收接入网网元发送的联邦学习请求;
AS通过第一API接口接收来自接入网网元的第三联邦学习请求,第三联邦学习请求携带有AS侧的子模型的模型信息,和/或,AS侧的本地数据的需求信息。
UE通过SRB或DRB接收来自接入网网元的第一联邦学习请求,第一联邦学习请求携带有UE侧的子模型的模型信息,和/或,UE侧的本地数据的需求信息。
核心网网元通过第一API接口或用户面连接接收来自接入网网元的第四联邦学习请求,第四联邦学习请求携带有核心网网元侧的子模型的模型信息,和/或,核心网网元侧的本地数据的需求信息。
示例性的,在联邦模型的训练阶段中,AS/UE/核心网网元从联邦学习请求中获取子模型的模型参数,和/或,本地数据的需求信息。AS/UE/核心网网元根据联邦学习请求进行联邦学习。AS/UE/核心网网元根据子模型的模型参数构建子模型,使用子模型对需求信息指示的本地数据进行计算,得到计算结果。
步骤830:AS/UE/核心网网元通过移动通信系统中的消息向接入网网元发送计算结果;
AS通过第一API接口向接入网网元发送第三计算结果,第三计算结果是使用AS侧的子模型对AS侧的本地数据计算得到的。
UE通过SRB或DRB向接入网网元发送第一计算结果,第一计算结果是使用UE侧的子模型对UE侧的本地数据计算得到的。
核心网网元通过经过第一API接口或用户面连接向接入网网元发送第四计算结果,第四计算结果是使 用核心网网元侧的子模型对核心网网元侧的本地数据计算得到的。
示例性的,在联邦模型的训练阶段中,AS/UE/核心网网元从联邦学习请求中获取子模型的模型参数,和/或,本地数据的需求信息。AS/UE/核心网网元根据联邦学习请求进行联邦学习。AS/UE/核心网网元根据子模型的模型参数构建子模型,使用子模型对需求信息指示的本地数据进行计算,得到计算结果。
步骤840:接入网网元通过移动通信系统中的消息接收AS/UE/核心网网元发送的计算结果;
接入网网元通过第一API接口接收AS发送的第三计算结果,第三计算结果是使用AS侧的子模型对AS侧的本地数据计算得到的。
接入网网元通过SRB或DRB接收UE发送的第一计算结果,第一计算结果是使用UE侧的子模型对UE侧的本地数据计算得到的。
接入网网元通过第一API接口或用户面连接接收核心网网元发送的第四计算结果,第四计算结果是使用核心网网元侧的子模型对核心网网元侧的本地数据计算得到的。
步骤850:接入网网元通过移动通信系统中的消息分别向AS、UE和核心网网元中的至少一种,发送误差损失;
接入网网元是样本标签的拥有者。
接入网网元通过第一API接口向AS发送第三误差损失,第三误差损失是第三计算结果相对于样本标签的误差损失。
接入网网元通过SRB或DRB向UE发送第一误差损失,第一误差损失是第一计算结果相对于样本标签的误差损失。
接入网网元通过第一API接口或用户面连接向核心网网元发送第四误差损失,第四误差损失是第四结算结果相对于样本标签的误差损失。
步骤860:AS/UE/核心网网元根据误差损失更新本地部署的子模型的模型参数;
AS根据第三误差损失更新本地部署的子模型的模型参数,第三误差损失是第三计算结果相对于样本标签的误差损失。
UE根据第一误差损失更新本地部署的子模型的模型参数,第一误差损失是第一计算结果相对于样本标签的误差损失。
核心网网元根据第四误差损失更新本地部署的子模型的模型参数,第四误差损失是第四结算结果相对于样本标签的误差损失。
可选地,第三节点也拥有自身的本地数据,第三节点在本地部署有联邦模型中的一个子模型。第三节点使用第三节点的本地数据训练第三节点的子模型,得到本地计算结果;第三节点计算本地计算结果相对于样本标签的本地误差损失;第三节点使用本地误差损失更新第三节点内的子模型的模型参数。即接入网网元使用接入网网元的本地数据训练接入网网元的子模型,得到本地计算结果;接入网网元计算本地计算结果相对于样本标签的本地误差损失;接入网网元使用本地误差损失更新接入网网元内的子模型的模型参数。
经过一次或多次更新迭代过程,
联邦模型的推理阶段:
步骤870:AS/UE/核心网网元通过移动通信系统中的消息向接入网网元发送计算结果;
在联邦模型训练完毕后,第二节点自行执行预测过程,或者,第二节点在接收到第三网元发送的联邦学习请求后,执行预测过程。
在第二节点包括AS的情况下,AS通过第一API接口向接入网网元发送第三计算结果,第三计算结果是使用AS侧的子模型对AS侧的本地数据计算得到的。
在第二节点包括UE的情况下,UE通过SRB或DRB向接入网网元发送第一计算结果,第一计算结果是使用UE侧的子模型对UE侧的本地数据计算得到的。
在第二节点包括核心网网元的情况下,核心网网元通过第一API接口或用户面连接向接入网网元发送第四计算结果,第四计算结果是使用核心网网元侧的子模型对核心网网元侧的本地数据计算得到的。
步骤880:接入网网元通过移动通信系统中的消息接收AS/UE/核心网网元发送的计算结果。
接入网网元将接收到的计算结果进行汇总,从而得到联邦模型的最终计算结果,根据最终计算结果进行后续运算。可选地,联邦模型包括与应用程序有关的模型。
综上所述,本实施例提供的方法,通过在移动通信系统中的不同节点之间采用移动通信系统中的消息发送联邦学习请求以及计算结果,使得位于不同域的节点之间在保证数据隐私性的前提下,通过所述移动通信系统中的消息融合不同域中的使用联邦模型来进行数据分析,从而提升移动通信系统的数据分析能力。
在联邦模型的推理阶段,为了保护各个第二节点的数据隐私,还可以引入汇聚节点对各个第二节点的计算结果进行汇聚后,再提交给第一节点。
图15示出了本申请的另一示例性实施例提供的应用于移动通信系统中的联邦学习方法的流程图。该方法包括:
步骤920:第二节点向汇聚节点发送计算结果,第二节点是移动通信系统中具有本地数据的节点,第二节点本地部署有联邦模型中的一个子模型,计算结果是使用第二节点内的子模型对第二节点的本地数据计算得到的;
步骤940:汇聚节点接收移动通信系统中的至少两个第二节点的计算结果;
步骤960:汇聚节点向移动通信系统中的第一节点发送汇聚计算结果,汇聚计算结果是将至少两个第二节点的计算结果汇聚得到的;
第一节点接收汇聚节点发送的汇聚计算结果。
步骤980:第一节点根据汇聚计算结果计算推理结果。
汇聚节点是终端、接入网网元、核心网网元和应用服务器中的至少一类;第一节点是终端、接入网网元、核心网网元和应用服务器中的至少一类;第二节点是终端、接入网网元、核心网网元和应用服务器中的至少一类;其中,第一节点和第二节点的类型不相同。
示例性的,汇聚节点与第一节点的类型相同或不同均可,汇聚节点与第二节点的类型相同或不同均可。示例性的,不同节点之间通过移动通信系统中的消息来通信,具体的消息类型可以参考上述各个实施例中所述。
综上所述,本实施例提供的方法,通过汇聚节点先将计算结果进行汇聚,得到汇聚计算结果传递给第一节点,由于第一节点无法获知汇聚计算结果来自哪些节点,因此保证了各个第二节点的本地数据的隐私性和安全性,避免第二节点的本地数据泄露至第一节点的风险。
图16示出了本申请一个示例性实施例提供的应用于移动通信系统中的联邦学习装置的框图。所述装置包括:
第一发送模块1020,用于通过所述移动通信系统中的消息向第二节点发送联邦学习请求,所述第二节点是所述移动通信系统中具有本地数据的节点,所述第二节点本地部署有联邦模型中的一个子模型;
第一接收模块1040,用于通过所述移动通信系统中的消息接收所述第二节点的计算结果,所述计算结果是所述第二节点采用所述子模型对所述本地数据计算得到的;
其中,所述装置应用于终端、接入网网元、核心网网元和应用服务器中的至少一类,所述第二节点是所述终端、所述接入网网元、所述核心网网元和所述应用服务器中的至少一类,所述装置应用的网元和所述第二节点的类型不同。
在本实施例的一个可选设计中,所述联邦学习请求携带有所述子模型的模型信息。
在本实施例的一个可选设计中,所述联邦学习请求携带有所述本地数据的需求信息。
在本实施例的一个可选设计中,所述装置应用于核心网网元;
所述第一发送模块1020,用于执行如下步骤中的至少一个:
通过非接入层消息或用户面消息向所述终端发送第一联邦学习请求;
通过NG2消息或NG3消息向所述接入网网元发送第二联邦学习请求;
通过第一应用程序编程接口API或用户面连接向所述应用服务器发送第三联邦学习请求。
在本实施例的一个可选设计中,所述联邦模型包括与QoS信息有关的模型。
在本实施例的一个可选设计中,所述装置应用于应用服务器;
所述第一发送模块1020,用于执行如下步骤中的至少一个:
通过第一应用程序编程接口API或用户面连接向所述核心网网元发送第四联邦学习请求;
通过第二API向所述接入网网元发送第二联邦学习请求;
通过用户面的应用层连接向所述终端发送第一联邦学习请求。
在本实施例的一个可选设计中,所述联邦模型包括与应用程序有关的模型。
在本实施例的一个可选设计中,所述装置应用于所述终端;
所述第一发送模块1020,用于执行如下步骤中的至少一个:
通过非接入层消息或用户面消息向所述核心网网元发送第四联邦学习请求;
通过信令无线承载或数据无线承载向所述接入网网元发送第二联邦学习请求;
通过用户面的应用层连接向所述应用服务器发送第三联邦学习请求。
在本实施例的一个可选设计中,所述联邦模型包括与终端性能有关的模型。
在本实施例的一个可选设计中,所述装置应用于所述接入网网元;
所述第一发送模块1020,用于执行如下步骤中的至少一个:
通过信令无线承载或数据无线承载向所述终端发送第一联邦学习请求;
通过NG2消息或NG3消息向所述核心网网元发送第四联邦学习请求;
通过第二应用程序编程接口API向所述应用服务器发送第三联邦学习请求。
在本实施例的一个可选设计中,所述联邦模型包括与空口性能有关的模型。
在本实施例的一个可选设计中,所述装置具有样本标签;
所述第一发送模块1020,用于向所述第二节点发送误差损失,所述误差损失是所述计算结果相对于所述样本标签的损失,所述误差损失用于更新所述第二节点内的所述子模型的模型参数。
在本实施例的一个可选设计中,所述装置内部署有所述联邦模型中的一个子模型,所述装置还包括:
第一训练模块1060,用于使用所述装置内的所述子模型对所述装置内的本地数据进行计算,得到本地计算结果;计算所述本地计算结果相对于所述样本标签的本地误差损失;使用所述本地误差损失更新所述装置内的所述子模型的模型参数。
图17示出了本申请一个示例性实施例提供的应用于移动通信系统中的联邦学习装置的框图。
第二接收模块1120,用于通过所述移动通信系统中的消息接收第一节点发送的联邦学习请求,所述第二节点是所述移动通信系统中具有本地数据的节点,所述第二节点本地部署有联邦模型中的一个子模型;
第二发送模块1140,用于通过所述移动通信系统中的消息向所述第一节点发送计算结果,所述计算结果是所述第二节点采用所述子模型对所述本地数据计算得到的;
其中,所述第一节点是终端、接入网网元、核心网网元和应用服务器中的至少一类,所述装置应用于所述终端、所述接入网网元、所述核心网网元和所述应用服务器中的至少一类,所述第一节点和所述装置应用的网元的类型不同。
在本实施例的一个可选设计中,所述联邦学习请求携带有所述子模型的模型信息。
在本实施例的一个可选设计中,所述联邦学习请求携带有所述本地数据的需求信息。
在本实施例的一个可选设计中,所述装置应用于所述终端;
所述第二接收模块1120,用于通过非接入层消息或用户面消息接收来自所述核心网网元的第一联邦学习请求;
或所述第二接收模块1120,用于通过信令无线承载或数据无线承载接收来自所述接入网网元的第一联邦学习请求;
或所述第二接收模块1120,用于通过用户面的应用层连接接收来自所述应用服务器的第一联邦学习请求。
在本实施例的一个可选设计中,所述装置应用于所述接入网网元;
所述第二接收模块1120,用于通过信令无线承载或数据无线承载接收来自所述终端的第二联邦学习请求;
或所述第二接收模块1120,用于通过NG2消息或NG3消息接收来自所述核心网网元的第二联邦学习请求;
或所述第二接收模块1120,用于通过第二应用程序编程接口API接收来自所述应用服务器的第二联邦学习请求。
在本实施例的一个可选设计中,所述装置应用于所述应用服务器;
所述第二接收模块1120,用于通过第一应用程序编程接口API或用户面连接接收来自所述核心网网元的第三联邦学习请求;
或所述第二接收模块1120,用于通过第二API接收来自所述接入网网元的第三联邦学习请求;
或所述第二接收模块1120,用于通过用户面的应用层连接接收来自所述终端的第三联邦学习请求。
在本实施例的一个可选设计中,所述装置应用于所述核心网网元;
所述第二接收模块1120,用于通过非接入层消息或用户面消息接收来自所述终端的第四联邦学习请求;
或所述第二接收模块1120,用于通过NG2消息或NG3消息接收来自所述接入网网元发送第四联邦学习请求;
或所述第二接收模块1120,用于通过第一应用程序编程接口API或用户面连接接收来自所述应用服务器第四联邦学习请求。
在本实施例的一个可选设计中,所述第一节点是所述移动通信系统中具有样本标签的节点;
所述装置还包括:
所述第二接收模块1120,还用于接收来自所述第一节点的误差损失,所述误差损失是所述计算结果相对于所述样本标签的损失;
第二训练模块1160,用于使用所述误差损失更新所述第二节点内的所述子模型的模型参数。
图18示出了本申请一个示例性实施例提供的应用于移动通信系统中的联邦学习装置的框图。所述装置包括:
第三接收模块1220,用于接收所述移动通信系统中的至少两个第二节点的计算结果,所述第二节点是 所述移动通信系统中具有本地数据的节点,所述第二节点本地部署有联邦模型中的一个子模型,所述计算结果是使用所述第二节点内的所述子模型对所述第二节点的所述本地数据计算得到的;
第三发送模块1240,用于向所述移动通信系统中的第一节点发送汇聚计算结果,所述汇聚计算结果是将所述至少两个第二节点的计算结果汇聚得到的。
在本实施例的一个可选设计中,所述第一节点是所述终端、所述接入网网元、所述核心网网元和所述应用服务器中的至少一类;所述第二节点是所述终端、所述接入网网元、所述核心网网元和所述应用服务器中的至少一类;
其中,所述第一节点和所述第二节点的类型不相同。
图19示出了本申请一个示例性实施例提供的通信设备(终端或接入网网元或核心网网元或AS)的结构示意图,该通信设备包括:处理器101、接收器102、发射器103、存储器104和总线105。
处理器101包括一个或者一个以上处理核心,处理器101通过运行软件程序以及模块,从而执行各种功能应用以及信息处理。
接收器102和发射器103可以实现为一个通信组件,该通信组件可以是一块通信芯片。
存储器104通过总线105与处理器101相连。
存储器104可用于存储至少一个指令,处理器101用于执行该至少一个指令,以实现上述方法实施例中的各个步骤。其中,发射器103用于执行与发送有关的步骤;接收器104用于执行与接收有关的步骤;处理器101用于执行除发送和接收之外的步骤。
此外,存储器104可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,易失性或非易失性存储设备包括但不限于:磁盘或光盘,电可擦除可编程只读存储器(Electrically-Erasable Programmable Read Only Memory,EEPROM),可擦除可编程只读存储器(Erasable Programmable Read Only Memory,EPROM),静态随时存取存储器(Static Random Access Memory,SRAM),只读存储器(Read-Only Memory,ROM),磁存储器,快闪存储器,可编程只读存储器(Programmable Read-Only Memory,PROM)。
在示例性实施例中,还提供了一种计算机可读存储介质,所述计算机可读存储介质中存储有至少一条指令、至少一段程序、代码集或指令集,所述至少一条指令、所述至少一段程序、所述代码集或指令集由处理器加载并执行以实现上述各个方法实施例提供的应用于移动通信系统的联邦学习方法。
在示例性实施例中,还提供了一种计算机程序产品或计算机程序,该计算机程序产品或计算机程序包括计算机指令,该计算机指令存储在计算机可读存储介质中,通信设备的处理器从计算机可读存储介质读取该计算机指令,处理器执行该计算机指令,使得该通信设备执行上述方面所述的应用于移动通信系统的联邦学习方法。
本领域普通技术人员可以理解实现上述实施例的全部或部分步骤可以通过硬件来完成,也可以通过程序来指令相关的硬件完成,所述的程序可以存储于一种计算机可读存储介质中,上述提到的存储介质可以是只读存储器,磁盘或光盘等。
以上所述仅为本申请的可选实施例,并不用以限制本申请,凡在本申请的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本申请的保护范围之内。

Claims (49)

  1. 一种应用于移动通信系统中的联邦学习方法,其特征在于,所述方法包括:
    第一节点通过所述移动通信系统中的消息向第二节点发送联邦学习请求,所述第二节点是所述移动通信系统中具有本地数据的节点,所述第二节点本地部署有联邦模型中的一个子模型;
    所述第一节点通过所述移动通信系统中的消息接收所述第二节点的计算结果,所述计算结果是所述第二节点采用所述子模型对所述本地数据计算得到的;
    其中,所述第一节点是终端、接入网网元、核心网网元和应用服务器中的至少一类,所述第二节点是所述终端、所述接入网网元、所述核心网网元和所述应用服务器中的至少一类,所述第一节点和所述第二节点的类型不同。
  2. 根据权利要求1所述的方法,其特征在于,所述联邦学习请求携带有所述子模型的模型信息。
  3. 根据权利要求1所述的方法,其特征在于,所述联邦学习请求携带有所述本地数据的需求信息。
  4. 根据权利要求1至3任一所述的方法,其特征在于,所述第一节点包括核心网网元;
    所述第一节点通过所述移动通信系统中的消息向第二节点发送联邦学习请求,包括如下步骤中的至少一个:
    所述核心网网元通过非接入层消息或用户面消息向所述终端发送第一联邦学习请求;
    所述核心网网元通过NG2消息或NG3消息向所述接入网网元发送第二联邦学习请求;
    所述核心网网元通过第一应用程序编程接口API或用户面连接向所述应用服务器发送第三联邦学习请求。
  5. 根据权利要求4所述的方法,其特征在于,所述联邦模型包括与QoS信息有关的模型。
  6. 根据权利要求1至3任一所述的方法,其特征在于,所述第一节点包括应用服务器;
    所述第一节点通过所述移动通信系统中的消息向第二节点发送联邦学习请求,包括如下步骤中的至少一个:
    所述应用服务器通过第一应用程序编程接口API或用户面连接向所述核心网网元发送第四联邦学习请求;
    所述应用服务器通过第二API向所述接入网网元发送第二联邦学习请求;
    所述应用服务器通过用户面的应用层连接向所述终端发送第一联邦学习请求。
  7. 根据权利要求6所述的方法,其特征在于,所述联邦模型包括与应用程序有关的模型。
  8. 根据权利要求1至3任一所述的方法,其特征在于,所述第一节点包括所述终端;
    所述第一节点通过所述移动通信系统中的消息向第二节点发送联邦学习请求,包括如下步骤中的至少一个:
    所述终端通过非接入层消息或用户面消息向所述核心网网元发送第四联邦学习请求;
    所述终端通过信令无线承载或数据无线承载向所述接入网网元发送第二联邦学习请求;
    所述终端通过用户面的应用层连接向所述应用服务器发送第三联邦学习请求。
  9. 根据权利要求8所述的方法,其特征在于,所述联邦模型包括与终端性能有关的模型。
  10. 根据权利要求1至3任一所述的方法,其特征在于,所述第一节点包括所述接入网网元;
    所述第一节点通过所述移动通信系统中的消息向第二节点发送联邦学习请求,包括如下步骤中的至少一个:
    所述接入网网元通过信令无线承载或数据无线承载向所述终端发送第一联邦学习请求;
    所述接入网网元通过NG2消息或NG3消息向所述核心网网元发送第四联邦学习请求;
    所述接入网网元通过第二应用程序编程接口API向所述应用服务器发送第三联邦学习请求。
  11. 根据权利要求10所述的方法,其特征在于,所述联邦模型包括与空口性能有关的模型。
  12. 根据权利要求1至3任一所述的方法,其特征在于,所述第一节点是所述移动通信系统中具有样本标签的节点,所述计算结果是使用所述第二节点的所述本地数据训练所述第二节点内的子模型得到的;
    所述方法还包括:
    所述第一节点向所述第二节点发送误差损失,所述误差损失是所述计算结果相对于所述样本标签的损失,所述误差损失用于更新所述第二节点内的所述子模型的模型参数。
  13. 根据权利要求12所述的方法,其特征在于,所述第一节点本地部署有所述联邦模型中的一个子模型,所述方法还包括:
    所述第一节点使用所述第一节点的所述子模型对所述第一节点的本地数据进行计算,得到本地计算结果;
    所述第一节点计算所述本地计算结果相对于所述样本标签的本地误差损失;
    所述第一节点使用所述本地误差损失更新所述第一节点内的所述子模型的模型参数。
  14. 一种应用于移动通信系统中的联邦学习方法,其特征在于,所述方法包括:
    第二节点通过所述移动通信系统中的消息接收第一节点发送的联邦学习请求,所述第二节点是所述移动通信系统中具有本地数据的节点,所述第二节点本地部署有联邦模型中的一个子模型;
    所述第二节点通过所述移动通信系统中的消息向所述第一节点发送计算结果,所述计算结果是所述第二节点采用所述子模型对所述本地数据计算得到的;
    其中,所述第一节点是终端、接入网网元、核心网网元和应用服务器中的至少一类,所述第二节点是所述终端、所述接入网网元、所述核心网网元和所述应用服务器中的至少一类,所述第一节点和所述第二节点的类型不同。
  15. 根据权利要求14所述的方法,其特征在于,所述联邦学习请求携带有所述子模型的模型信息。
  16. 根据权利要求14所述的方法,其特征在于,所述联邦学习请求携带有所述本地数据的需求信息。
  17. 根据权利要求14至16任一所述的方法,其特征在于,所述第二节点包括终端;
    所述第二节点通过所述移动通信系统中的消息接收第一节点发送的联邦学习请求,包括:
    所述终端通过非接入层消息或用户面消息接收来自所述核心网网元的第一联邦学习请求;
    或,所述终端通过信令无线承载或数据无线承载接收来自所述接入网网元的第一联邦学习请求;
    或,所述终端通过用户面的应用层连接接收来自所述应用服务器的第一联邦学习请求。
  18. 根据权利要求14至16任一所述的方法,其特征在于,所述第二节点包括所述接入网网元;
    所述第一节点通过所述移动通信系统中的消息向第二节点发送联邦学习请求,包括:
    所述接入网网元通过信令无线承载或数据无线承载接收来自所述终端的第二联邦学习请求;
    或,所述接入网网元通过NG2消息或NG3消息接收来自所述核心网网元的第二联邦学习请求;
    或,所述接入网网元通过第二应用程序编程接口API接收来自所述应用服务器的第二联邦学习请求。
  19. 根据权利要求14至16任一所述的方法,其特征在于,所述第二节点包括应用服务器;
    所述第二节点通过所述移动通信系统中的消息接收第一节点发送的联邦学习请求,包括:
    所述应用服务器通过第一应用程序编程接口API或用户面连接接收来自所述核心网网元的第三联邦学习请求;
    或,所述应用服务器通过第二API接收来自所述接入网网元的第三联邦学习请求;
    或,所述应用服务器通过用户面的应用层连接接收来自所述终端的第三联邦学习请求。
  20. 根据权利要求14至16任一所述的方法,其特征在于,所述第二节点包括所述核心网网元;
    所述第二节点通过所述移动通信系统中的消息接收第一节点发送的联邦学习请求,包括:
    所述核心网网元通过非接入层消息或用户面消息接收来自所述终端的第四联邦学习请求;
    或,所述核心网网元通过NG2消息或NG3消息接收来自所述接入网网元发送第四联邦学习请求;
    或,所述核心网网元通过第一应用程序编程接口API或用户面连接接收来自所述应用服务器第四联邦学习请求。
  21. 根据权利要求14至16任一所述的方法,其特征在于,所述第一节点是所述移动通信系统中具有样本标签的节点;
    所述方法还包括:
    所述第二节点接收来自所述第一节点的误差损失,所述误差损失是所述计算结果相对于所述样本标签的损失;
    所述第二节点使用所述误差损失更新所述第二节点内的所述子模型的模型参数。
  22. 一种应用于移动通信系统中的联邦学习方法,其特征在于,所述方法包括:
    汇聚节点接收所述移动通信系统中的至少两个第二节点的计算结果,所述第二节点是所述移动通信系统中具有本地数据的节点,所述第二节点本地部署有联邦模型中的一个子模型,所述计算结果是使用所述第二节点内的所述子模型对所述第二节点的所述本地数据计算得到的;
    所述汇聚节点向所述移动通信系统中的第一节点发送汇聚计算结果,所述汇聚计算结果是将所述至少两个第二节点的计算结果汇聚得到的。
  23. 根据权利要求22所述的方法,其特征在于,
    所述汇聚节点是终端、接入网网元、核心网网元和应用服务器中的至少一类;
    所述第一节点是所述终端、所述接入网网元、所述核心网网元和所述应用服务器中的至少一类;
    所述第二节点是所述终端、所述接入网网元、所述核心网网元和所述应用服务器中的至少一类;
    其中,所述第一节点和所述第二节点的类型不相同。
  24. 一种应用于移动通信系统中的联邦学习装置,其特征在于,所述装置包括:
    第一发送模块,用于通过所述移动通信系统中的消息向第二节点发送联邦学习请求,所述第二节点是 所述移动通信系统中具有本地数据的节点,所述第二节点本地部署有联邦模型中的一个子模型;
    第一接收模块,用于通过所述移动通信系统中的消息接收所述第二节点的计算结果,所述计算结果是所述第二节点采用所述子模型对所述本地数据计算得到的;
    其中,所述装置应用于终端、接入网网元、核心网网元和应用服务器中的至少一类,所述第二节点是所述终端、所述接入网网元、所述核心网网元和所述应用服务器中的至少一类,所述装置应用的网元和所述第二节点的类型不同。
  25. 根据权利要求24所述的装置,其特征在于,所述联邦学习请求携带有所述子模型的模型信息。
  26. 根据权利要求24所述的装置,其特征在于,所述联邦学习请求携带有所述本地数据的需求信息。
  27. 根据权利要求24至26任一所述的装置,其特征在于,所述装置应用于核心网网元;
    所述第一发送模块,用于执行如下步骤中的至少一个:
    通过非接入层消息或用户面消息向所述终端发送第一联邦学习请求;
    通过NG2消息或NG3消息向所述接入网网元发送第二联邦学习请求;
    通过第一应用程序编程接口API或用户面连接向所述应用服务器发送第三联邦学习请求。
  28. 根据权利要求27所述的装置,其特征在于,所述联邦模型包括与QoS信息有关的模型。
  29. 根据权利要求24至26任一所述的装置,其特征在于,所述装置应用于应用服务器;
    所述第一发送模块,用于执行如下步骤中的至少一个:
    通过第一应用程序编程接口API或用户面连接向所述核心网网元发送第四联邦学习请求;
    通过第二API向所述接入网网元发送第二联邦学习请求;
    通过用户面的应用层连接向所述终端发送第一联邦学习请求。
  30. 根据权利要求29所述的装置,其特征在于,所述联邦模型包括与应用程序有关的模型。
  31. 根据权利要求24至26任一所述的装置,其特征在于,所述装置应用于所述终端;
    所述第一发送模块,用于执行如下步骤中的至少一个:
    通过非接入层消息或用户面消息向所述核心网网元发送第四联邦学习请求;
    通过信令无线承载或数据无线承载向所述接入网网元发送第二联邦学习请求;
    通过用户面的应用层连接向所述应用服务器发送第三联邦学习请求。
  32. 根据权利要求31所述的装置,其特征在于,所述联邦模型包括与终端性能有关的模型。
  33. 根据权利要求24至26任一所述的装置,其特征在于,所述装置应用于所述接入网网元;
    所述第一发送模块,用于执行如下步骤中的至少一个:
    通过信令无线承载或数据无线承载向所述终端发送第一联邦学习请求;
    通过NG2消息或NG3消息向所述核心网网元发送第四联邦学习请求;
    通过第二应用程序编程接口API向所述应用服务器发送第三联邦学习请求。
  34. 根据权利要求33所述的装置,其特征在于,所述联邦模型包括与空口性能有关的模型。
  35. 根据权利要求24至26任一所述的装置,其特征在于,所述装置具有样本标签;
    所述第一发送模块,用于向所述第二节点发送误差损失,所述误差损失是所述计算结果相对于所述样本标签的损失,所述误差损失用于更新所述第二节点内的所述子模型的模型参数。
  36. 根据权利要求35所述的装置,其特征在于,所述装置内部署有所述联邦模型中的一个子模型,所述装置还包括:
    第一训练模块,用于使用所述装置内的所述子模型对所述装置内的本地数据进行计算,得到本地计算结果;计算所述本地计算结果相对于所述样本标签的本地误差损失;使用所述本地误差损失更新所述装置内的所述子模型的模型参数。
  37. 一种应用于移动通信系统中的联邦学习装置,其特征在于,所述装置包括:
    第二接收模块,用于通过所述移动通信系统中的消息接收第一节点发送的联邦学习请求,所述第二节点是所述移动通信系统中具有本地数据的节点,所述第二节点本地部署有联邦模型中的一个子模型;
    第二发送模块,用于通过所述移动通信系统中的消息向所述第一节点发送计算结果,所述计算结果是所述第二节点采用所述子模型对所述本地数据计算得到的;
    其中,所述第一节点是终端、接入网网元、核心网网元和应用服务器中的至少一类,所述装置应用于所述终端、所述接入网网元、所述核心网网元和所述应用服务器中的至少一类,所述第一节点和所述装置应用的网元的类型不同。
  38. 根据权利要求37所述的装置,其特征在于,所述联邦学习请求携带有所述子模型的模型信息。
  39. 根据权利要求37所述的装置,其特征在于,所述联邦学习请求携带有所述本地数据的需求信息。
  40. 根据权利要求37至39任一所述的装置,其特征在于,所述装置应用于所述终端;
    所述第二接收模块,用于通过非接入层消息或用户面消息接收来自所述核心网网元的第一联邦学习请 求;
    或所述第二接收模块,用于通过信令无线承载或数据无线承载接收来自所述接入网网元的第一联邦学习请求;
    或所述第二接收模块,用于通过用户面的应用层连接接收来自所述应用服务器的第一联邦学习请求。
  41. 根据权利要求37至39任一所述的装置,其特征在于,所述装置应用于所述接入网网元;
    所述第二接收模块,用于通过信令无线承载或数据无线承载接收来自所述终端的第二联邦学习请求;
    或所述第二接收模块,用于通过NG2消息或NG3消息接收来自所述核心网网元的第二联邦学习请求;
    或所述第二接收模块,用于通过第二应用程序编程接口API接收来自所述应用服务器的第二联邦学习请求。
  42. 根据权利要求37至39任一所述的装置,其特征在于,所述装置应用于所述应用服务器;
    所述第二接收模块,用于通过第一应用程序编程接口API或用户面连接接收来自所述核心网网元的第三联邦学习请求;
    或所述第二接收模块,用于通过第二API接收来自所述接入网网元的第三联邦学习请求;
    或所述第二接收模块,用于通过用户面的应用层连接接收来自所述终端的第三联邦学习请求。
  43. 根据权利要求37至39任一所述的装置,其特征在于,所述装置应用于所述核心网网元;
    所述第二接收模块,用于通过非接入层消息或用户面消息接收来自所述终端的第四联邦学习请求;
    或所述第二接收模块,用于通过NG2消息或NG3消息接收来自所述接入网网元发送第四联邦学习请求;
    或所述第二接收模块,用于通过第一应用程序编程接口API或用户面连接接收来自所述应用服务器第四联邦学习请求。
  44. 根据权利要求37至39任一所述的装置,其特征在于,所述第一节点是所述移动通信系统中具有样本标签的节点;
    所述装置还包括:
    所述第二接收模块,还用于接收来自所述第一节点的误差损失,所述误差损失是所述计算结果相对于所述样本标签的损失;
    第二训练模块,用于使用所述误差损失更新所述第二节点内的所述子模型的模型参数。
  45. 一种应用于移动通信系统中的联邦学习装置,其特征在于,所述装置包括:
    第三接收模块,用于接收所述移动通信系统中的至少两个第二节点的计算结果,所述第二节点是所述移动通信系统中具有本地数据的节点,所述第二节点本地部署有联邦模型中的一个子模型,所述计算结果是使用所述第二节点内的所述子模型对所述第二节点的所述本地数据计算得到的;
    第三发送模块,用于向所述移动通信系统中的第一节点发送汇聚计算结果,所述汇聚计算结果是将所述至少两个第二节点的计算结果汇聚得到的。
  46. 根据权利要求22所述的装置,其特征在于,所述第一节点是所述终端、所述接入网网元、所述核心网网元和所述应用服务器中的至少一类;所述第二节点是所述终端、所述接入网网元、所述核心网网元和所述应用服务器中的至少一类;
    其中,所述第一节点和所述第二节点的类型不相同。
  47. 一种终端,其特征在于,所述终端包括:
    处理器;
    与所述处理器相连的收发器;
    用于存储所述处理器的可执行指令的存储器;
    其中,所述处理器被配置为加载并执行所述可执行指令以实现如权利要求1至23中任一所述的方法。
  48. 一种网元设备,其特征在于,所述网元设备包括:
    处理器;
    与所述处理器相连的收发器;
    用于存储所述处理器的可执行指令的存储器;
    其中,所述处理器被配置为加载并执行所述可执行指令以实现如权利要求1至23中任一所述的方法。
  49. 一种计算机可读存储介质,其特征在于,所述可读存储介质中存储有可执行指令,所述可执行指令由处理器加载并执行以实现如权利要求1至23中任一所述的方法。
CN202180096835.XA 2021-04-22 2021-04-22 应用于移动通信系统的联邦学习方法、装置、终端及介质 Pending CN117121516A (zh)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/CN2021/089057 WO2022222110A1 (zh) 2021-04-22 2021-04-22 应用于移动通信系统的联邦学习方法、装置、终端及介质

Publications (1)

Publication Number Publication Date
CN117121516A true CN117121516A (zh) 2023-11-24

Family

ID=83723605

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202180096835.XA Pending CN117121516A (zh) 2021-04-22 2021-04-22 应用于移动通信系统的联邦学习方法、装置、终端及介质

Country Status (4)

Country Link
US (1) US20240064611A1 (zh)
EP (1) EP4329239A4 (zh)
CN (1) CN117121516A (zh)
WO (1) WO2022222110A1 (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117094421B (zh) * 2023-10-16 2023-12-15 亚信科技(中国)有限公司 非对称纵向联邦学习方法、装置、电子设备及存储介质

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3903244A1 (en) * 2018-12-28 2021-11-03 Telefonaktiebolaget LM Ericsson (publ) A wireless device, a network node and methods therein for training of a machine learning model
US11423254B2 (en) * 2019-03-28 2022-08-23 Intel Corporation Technologies for distributing iterative computations in heterogeneous computing environments
CN111310204B (zh) * 2020-02-10 2022-06-14 北京百度网讯科技有限公司 数据处理的方法及装置
CN111369042B (zh) * 2020-02-27 2021-09-24 山东大学 一种基于加权联邦学习的无线业务流量预测方法
CN111340242B (zh) * 2020-05-15 2020-08-04 支付宝(杭州)信息技术有限公司 保护隐私的模型联合训练方法及装置
CN112163675A (zh) * 2020-09-10 2021-01-01 深圳前海微众银行股份有限公司 一种模型的联合训练方法、设备及存储介质

Also Published As

Publication number Publication date
EP4329239A4 (en) 2024-06-05
EP4329239A1 (en) 2024-02-28
US20240064611A1 (en) 2024-02-22
WO2022222110A1 (zh) 2022-10-27

Similar Documents

Publication Publication Date Title
CN110263936B (zh) 横向联邦学习方法、装置、设备及计算机存储介质
Bandani et al. Multiplicative long short-term memory-based software-defined networking for handover management in 5G network
Bouzinis et al. Wireless Federated Learning (WFL) for 6G Networks⁴Part I: Research Challenges and Future Trends
Ozturk et al. Energy‐aware smart connectivity for IoT networks: enabling smart ports
Liu et al. HGL: A hybrid global-local load balancing routing scheme for the Internet of Things through satellite networks
CN109768879B (zh) 目标业务服务器的确定方法、装置及服务器
CN115913790B (zh) 基于隐私计算网络的数据传输方法、电子设备和存储介质
US20240064611A1 (en) Federated learning method and apparatus applied to mobile communication system, and terminal and medium
EP4386636A1 (en) User data processing system, method and apparatus
Wang et al. Radio resource allocation for bidirectional offloading in space-air-ground integrated vehicular network
He et al. Designated verifier proxy blind signature scheme for unmanned aerial vehicle network based on mobile edge computing
Lin Artificial intelligence in 3gpp 5g-advanced: A survey
CN111194064B (zh) 数据传输方法、装置、计算机设备和存储介质
Yi et al. Satellite constellation of MEO and IGSO network routing with dynamic grouping
Shinde et al. Joint air-ground distributed federated learning for intelligent transportation systems
US20230013718A1 (en) Uncertainty-aware federated learning methods and systems in mobile edge computing network
Nguyen et al. Optimization of resource allocation for underlay device-to-device communications in cellular networks
EP4328815A1 (en) Federated learning method, federated learning system, first device, and third device
US11233707B2 (en) Metadata-based information provenance
CN112364365A (zh) 工业数据加密方法、边缘服务器及计算机可读存储介质
Melgarejo et al. Optimizing flying base station connectivity by RAN slicing and reinforcement learning
Meenakshi et al. Design systematic wireless inventory trackers with prolonged lifetime and low energy consumption in future 6G network
Zheng et al. Game theoretic approaches to massive data processing in wireless networks
Mehta Recursive quadratic programming for constrained nonlinear optimization of session throughput in multiple‐flow network topologies
CN116114292A (zh) 一种通信方法和装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination