CN111369042A - 一种基于加权联邦学习的无线业务流量预测方法 - Google Patents

一种基于加权联邦学习的无线业务流量预测方法 Download PDF

Info

Publication number
CN111369042A
CN111369042A CN202010122093.0A CN202010122093A CN111369042A CN 111369042 A CN111369042 A CN 111369042A CN 202010122093 A CN202010122093 A CN 202010122093A CN 111369042 A CN111369042 A CN 111369042A
Authority
CN
China
Prior art keywords
model
training
data set
base station
wireless service
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202010122093.0A
Other languages
English (en)
Other versions
CN111369042B (zh
Inventor
张海霞
张传亭
袁东风
郭帅帅
周晓天
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shandong University
Original Assignee
Shandong University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shandong University filed Critical Shandong University
Priority to CN202010122093.0A priority Critical patent/CN111369042B/zh
Publication of CN111369042A publication Critical patent/CN111369042A/zh
Priority to PCT/CN2020/140916 priority patent/WO2021169577A1/zh
Application granted granted Critical
Publication of CN111369042B publication Critical patent/CN111369042B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/04—Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/40—Business processes related to the transportation industry
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/14—Network analysis or design
    • H04L41/147—Network analysis or design for predicting network behaviour
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04W—WIRELESS COMMUNICATION NETWORKS
    • H04W24/00—Supervisory, monitoring or testing arrangements
    • H04W24/06—Testing, supervising or monitoring using simulated traffic

Landscapes

  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Economics (AREA)
  • Strategic Management (AREA)
  • Human Resources & Organizations (AREA)
  • Marketing (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • General Business, Economics & Management (AREA)
  • Tourism & Hospitality (AREA)
  • Quality & Reliability (AREA)
  • Game Theory and Decision Science (AREA)
  • Operations Research (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Development Economics (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Primary Health Care (AREA)
  • Mobile Radio Communication Systems (AREA)

Abstract

本发明涉及一种基于加权联邦学习的无线业务流量预测方法，该方法包括：控制中心将多个预训练模型推送到基站侧；基站侧根据本地数据进行模型训练，并将训练后的模型传到控制中心；控制中心根据加权规则对模型融合并反馈到基站，加权规则中对本地模型给予更多的权重；基站根据得到的最终模型对未来时刻的无线业务流量进行预测。本发明提供的无线业务流量预测方法，在控制中心模型聚合策略上，利用加权聚合规则替代平均策略，能够避免由于数据异构性而带来的预测不准确现象，提高了分布式无线业务流量预测的总体预测精度。

Description

一种基于加权联邦学习的无线业务流量预测方法
技术领域
本发明涉及一种基于加权联邦学习的无线业务流量预测方法，属于通信网络和人工智能技术领域。
背景技术
传统中心式的无线业务流量预测方法需要将大规模、分散在不同节点的业务数据收集到中心节点，然后对这些数据集中处理、训练以及预测。随后，根据预测结果，核心网通过控制单元对基站做动态调整，如：增加或者减少基带处理单元个数以调整基站业务服务能力。
但是，由于数据传输的带宽有限以及数据隐私的问题，将数据传输到云中心需要占用大量的资源，造成网络拥塞；此外，随着用户对数据隐私保护的要求不断加强，特别是在通用数据保护规范(General Data Protection Regulation，GDPR)的发布之后，更是对隐私保护提出了更高的要求。将数据传输到云中心，则增加了数据不可控的可能性。这些因素促使未来的预测模型朝着分布式、本地化、轻量级的方向发展。
联邦学习就属于一种特定的分布式学习算法。本地基站基于自己的数据训练一个本地模型；然后只需要将此模型发送给云端控制中心，而并不需要发送庞大的数据本体；云端控制中心收到所有模型后，对模型进行融合，并发送给基站；基站收到全局模型后，继续对此模型训练。该过程重复一定循环后，就得到了最终的预测模型。
然而，传统联邦学习算法中，只是对模型进行平均操作，忽略了模型之间的差异性。由于基站所处的位置不同、覆盖范围内用户的移动和通信行为亦不同，这就导致了数据差异性很大，传统的简单平均并不能准确捕捉不同基站的业务流量模式，所以预测效果不准确。因此，亟需发展一个既能考虑模型相似性，又能专注于捕捉本地业务流量模式的预测模型。
发明内容
针对现有技术的不足，本发明提出一种基于加权联邦学习的无线业务流量预测方法，本发明中，控制中心将多个预训练模型推送到基站侧后，基站侧根据本地数据进行模型训练，并将训练后的模型传到控制中心；控制中心根据加权规则对模型融合并反馈到基站，加权规则中对本地模型给予更多的权重；基站学习单元根据历史数据再次对模型更新；本发明提供的方法，在控制中心模型聚合策略上，利用加权聚合规则替代平均策略，能够避免由于数据异构性而带来的预测不准确现象。
本发明的技术方案为：
一种基于加权联邦学习的无线业务流量预测方法，用于提升分布式无线业务流量预测的总体预测准确性，具体步骤如下：
(1)将N个基站依次编号为i，i＝1；2；…；N；控制中心随机生成一个初始化模型M，并复制N份模型，N份模型组成
Figure BDA0002393275360000021
随后，控制中心将需要训练的模型
Figure BDA0002393275360000022
推送到基站i的学习单元；
(2)基站i的学习单元根据接收到的需要训练的模型
Figure BDA0002393275360000023
在已有历史数据集上对模型
Figure BDA0002393275360000024
进行训练以更新参数；经过训练之后，得到新的本地模型M′i；模型的参数就是待学习的权重，比如长短记忆神经网络的参数。
(3)基站i将新的本地模型M′i发送到控制中心；
(4)控制中心对从基站得到的模型{M1′；…；M′N}，根据加权策略进行模型融合，得到更新后的全局模型
Figure BDA0002393275360000025
并将更新后的全局模型
Figure BDA0002393275360000026
推送到基站i；
(5)重复执行步骤(2)到(4)，设定循环次数，当达到设定的循环次数后，循环结束，得到最终模型；每次循环都会对参数进行更新。
(6)基站根据步骤(5)得到的最终模型对未来时刻的无线业务流量进行预测。
根据本发明优选的，所述步骤(4)中，根据加权策略进行模型融合的具体步骤为：根据式(1)进行全局模型的参数更新：
Figure BDA0002393275360000027
式(1)中，
Figure BDA0002393275360000028
表示本轮训练中控制中心经过加权融合后的全局模型；fagg(·)表示采用的加权融合策略；α表示对基站i来说，本地模型M′i所占的比重；β表示除了本地模型M′i之外的其他模型Mj′之和所占的比重；即总共有N个模型，其他模型，指的是除了下标为i的模型之外，其他N-1个模型之和所占的比重；α与β的关系满足α+β＝1；
进一步优选的，所述步骤(4)中，进行全局模型的参数更新时，α>β。当α>β时，对本地模型M′i赋予较大的权重以个性化捕捉当前基站的流量模式。
利用加权策略替代平均策略，能够避免由于数据异构性而带来的预测不准确现象，提高了分布式无线业务流量预测的总体预测精度。
根据本发明优选的，所述预测方法还包括：(7)以一定的时间周期重复步骤(2)-(6)，对模型进行周期性的全局更新训练；该设计的好处在于，由于随着数据集的不断积累以及可能的新流量模式的出现，避免了对基站i的当前全局模型
Figure BDA0002393275360000031
对未来时刻的预测能力减弱；可以根据基站侧的负载情况，选择确定周期大小，增加预测方法的准确性。
优选的，所述时间周期为一天或者三天或者一周；
优选的，每次参与更新训练的基站数量是动态变化的，如果当前参与训练的基站数量大于设定的阈值，比如百分之十，则对模型进行全局更新训练；否则，跳过此次更新，下一个周期再做更新请求。
根据本发明优选的，步骤(1)中，在控制中心将需要训练的模型
Figure BDA0002393275360000032
推送到基站学习单元之前，需要确定初始化模型的具体形式、生成训练样本数据集和测试样本数据集及数据标准化，具体步骤包括：
1-A、选择初始化模型的具体形式，所述具体形式为线性模型或者非线性模型；
1-B、将基站的历史数据集分成训练数据集和测试数据集，并在所述训练数据集和测试数据集上根据滑动窗口机制，选择滑动窗口大小p，分别生成训练样本数据集和测试样本数据集；
1-C、对于训练样本数据集，得到流量的最小值和标准差；对于测试样本数据集，根据所述流量的最小值和标准差对训练数据集和测试数据集中的数据进行标准化。
训练样本数据集的作用是用来训练模型，测试样本数据集的作用是用来对训练的模型进行准确度测试。
根据本发明优选的，步骤(2)中，在已有历史数据集上对需要训练的模型
Figure BDA0002393275360000034
进行训练以更新参数，具体步骤包括：
2-A、选定优化算法，所述算法为随机梯度下降法、小批量梯度下降法、适应性动量估计法(Adam)中任一种；
2-B、从训练数据集中，根据批处理大小选择相应的样本数量，并进行梯度计算；批处理大小指的是每次迭代训练时输入的样本数量；
2-C、模型
Figure BDA0002393275360000033
的参数根据当前样本的梯度信息进行更新；
2-D、重复执行所述步骤B和步骤C，直至满足训练结束条件；
进一步优选的，步骤2-A中，所述算法为适应性动量估计法；Adam优化算法具有收敛较快的优点；
步骤2-D中，训练结束条件需要满足以下几个条件之一：所训练的模型的参数收敛；所训练模型的更新次数大于设定阈值；训练整个模型的时长大于设定的阈值。
根据本发明优选的，在步骤(6)得到预测值后，所述预测方法还包括如下步骤：
a、步骤(6)得到的预测值做标准化的逆操作，得到预测值的真实尺度；
b、根据评价指标对预测性能进行评估；所述评价指标包括均方误差MSE和平均绝对误差MAE；
c、评估完成后，基站将新到的数据存储到历史数据集中。新到的数据指的是新接收到的无线业务流量数据。
本发明的有益效果为：
1.本发明提供的基于加权联邦学习的无线流量预测算法，在控制中心模型聚合策略上，利用加权聚合规则替代平均策略，充分考虑不同基站所处的位置不同、覆盖范围内用户的移动和通信行为的不同，考虑到了数据的差异性；同时也考虑到了模型相似性；能够避免由于数据异构性而带来的预测不准确现象，提高了分布式无线业务流量预测的总体预测精度。
2.本发明通过将无线业务流量预测建模为联邦学习问题，并提出了加权联邦学习预测算法，避免了网络拥塞，能够更好进行隐私保护，具有分布式、本地化、轻量级的优点。
3.本发明通过周期性地对模型进行更新，能够及时捕捉无线业务流量的动态变化，调整学习参数，进而具有较强的泛化能力。
附图说明
图1是基于加权联邦学习无线业务流量预测系统模型的示意图；
图2是本发明的加权联邦学习训练核心流程框图；
图3a是在不同基站数量下传统算法和本发明提供的预测方法的均方误差比较示意图；
图3b是在不同基站数量下传统算法和本发明提供的预测方法的平均绝对误差比较示意图；
图4是实施例1提供的预测值与真实值及现有技术的预测值之间的对比结果示意图。
图5是对某个基站的预测值跟真实值的误差分析示意图。
具体实施方式
下面结合实施例和说明书附图对本发明做进一步说明，但不限于此。
实施例1
一种基于加权联邦学习的无线业务流量预测方法，其系统模型如图1所示，无线业务流量模型中包括一个控制中心，N个基站。
图1中的基站表示的是未来通信网络中，基站具有三种功能：根据智能算法进行网络控制、具有较强的计算能力、具有无线网络接入能力。“智能”就是部署的机器学习模型；“计算”就是有较强的CPU和GPU计算能力、“接入”就是具有无线接入能力。这三个能力加在一起，才能实现未来网络的边缘智能。
加权联邦学习训练的核心流程如图2所示，模型包含N个基站，其中N＝5，10，15，20。每个基站包含1448个时间序列点。
预测方法的具体步骤包括：
(1)将N个基站依次编号为i，i＝1，2，…，N；控制中心随机生成一个初始化模型M，并复制N份模型，N份模型组成
Figure BDA0002393275360000051
随后，控制中心将需要训练的模型
Figure BDA0002393275360000052
推送到基站i的学习单元；
步骤(1)中，在控制中心将需要训练的模型推送到基站学习单元之前，需要确定初始化模型的具体形式、生成训练样本数据集和测试样本数据集及数据标准化，具体步骤包括：
1-A、选择初始化模型的具体形式，具体形式可以为线性模型或者非线性模型；线性模型如逻辑回归，非线性模型如深度神经网络；由于无线业务流量时空特性复杂，大大超越了现行模型的建模能力，本发明选择神经网络对无线业务流量的模式进行捕捉，本实施例中初始化模型的具体形式为长短期记忆神经网络。
1-B、将基站的历史数据集分成训练数据集和测试数据集，并在训练数据集和测试数据集上根据滑动窗口机制，选择滑动窗口大小p，分别生成训练样本数据集和测试样本数据集；
本实施例中，对于基站的历史数据，选择最后七天的数据作为测试数据集，其余数据作为训练数据集。根据滑动窗口机制，选择窗口大小p＝5，生成训练样本数据集1285条，测试样本数据集共163条；
1-C、对于训练样本数据集，得到流量的最小值和标准差；对于测试样本数据集，根据流量的最小值和标准差对训练数据集和测试数据集中的数据进行标准化。
训练样本数据集的作用是用来训练模型，测试样本数据集的作用是用来对训练的模型进行准确度测试。
(2)基站i的学习单元根据接收到的需要训练的模型
Figure BDA0002393275360000061
在已有历史数据集上对模型
Figure BDA0002393275360000062
进行训练以更新参数；经过训练之后，得到新的本地模型M′i；更新参数指的是待学习的参数，本实施例中为长短期记忆神经网络的参数。
步骤(2)中，在已有历史数据集上对需要训练的模型
Figure BDA0002393275360000063
进行训练以更新参数，具体步骤包括：
2-A、选定优化算法，算法为随机梯度下降法、小批量梯度下降法、适应性动量估计法(Adam)中任一种；本实施例中，步骤2-A中，算法为适应性动量估计法；Adam优化算法具有收敛较快的优点；
2-B、从训练数据集中，根据批处理大小选择相应的样本数量，并进行梯度计算；批处理大小指的是每次迭代训练时输入的样本数量；
2-C、模型
Figure BDA0002393275360000064
的参数根据当前样本的梯度信息进行更新；
2-D、重复执行步骤B和步骤C，直至满足训练结束条件；
步骤2-D中，训练结束条件需要满足以下几个条件之一：所训练的模型的参数收敛；所训练模型的更新次数大于设定阈值；训练整个模型的时长大于设定的阈值。
(3)基站i将新的本地模型M′i发送到控制中心；
(4)控制中心对从基站得到的模型{M1′；…；M′N}，根据加权策略进行模型融合，得到更新后的全局模型
Figure BDA0002393275360000065
并将更新后的全局模型
Figure BDA0002393275360000066
推送到基站i；
步骤(4)中，根据加权策略进行模型融合的具体步骤为：根据式(1)进行全局模型的参数更新：
Figure BDA0002393275360000067
式(1)中，
Figure BDA0002393275360000068
表示本轮训练中控制中心经过加权融合后的全局模型；fagg(·)表示采用的加权融合策略；α表示对基站i来说，本地模型M′i所占的比重；β表示除了本地模型M′i之外的其他模型M′j之和所占的比重；即总共有N个模型，其他模型，指的是除了下标为i的模型之外，其他N-1个模型之和所占的比重；α与β的关系满足α+β＝1；
本实施例中，步骤(4)中，进行全局模型的参数更新时，α>β。当α>β时，对本地模型M′i赋予较大的权重以个性化捕捉当前基站的流量模式。本实施例中取α＝0.8，β＝0.2。
利用加权策略替代平均策略，能够避免由于数据异构性而带来的预测不准确现象，提高了分布式无线业务流量预测的总体预测精度。
(5)重复执行步骤(2)到(4)，设定循环次数，当达到设定的循环次数后，循环结束，得到最终模型；每次循环都会对模型的参数进行更新。
(6)基站根据步骤(5)得到的最终模型对未来时刻的无线业务流量进行预测。
(7)以一定的时间周期重复步骤(2)-(6)，对模型进行周期性的全局更新训练；该设计的好处在于，由于随着数据集的不断积累以及可能的新流量模式的出现，避免了对基站i的当前全局模型
Figure BDA0002393275360000071
对未来时刻的预测能力减弱；可以根据基站侧的负载情况，选择确定周期大小，增加预测方法的准确性。
时间周期为一天或者三天或者一周；
每次参与更新训练的基站数量是动态变化的，如果当前参与训练的基站数量大于设定的阈值，比如百分之十，则对模型进行全局更新训练；否则，跳过此次更新，下一个周期再做更新请求。
预测方法还包括如下步骤：
a、步骤(6)得到的预测值做标准化的逆操作，得到预测值的真实尺度；
b、根据评价指标对预测性能进行评估；评价指标包括均方误差MSE和平均绝对误差MAE；
c、评估完成后，基站将新到的数据存储到历史数据集中。新到的数据指的是新接收到的无线业务流量数据。
目前传统算法就是经典的模型平均，具体步骤如下：每个基站根据自身的历史数据训练一个模型，然后将这个模型发送到云端控制中心；云端控制中心收到所有模型后，将这些模型进行简单平均，得到一个全局的模型，并将这个全局的模型发送到基站；基站根据收到的全局模型，基于自身的数据，再次对模型进行更新，并将更新后的模型发送到基站；重复上述过程，直至算法停止。然后，每个基站根据最后云端中心发送的全局模型，对未来的流量做出预测。
对本发明提供的预测方法的预测性能进行测试和评估，并与传统算法和真实流量值进行比较，具体结果如下：
如图3a和图3b所示，针对基站数量为N，N＝5；10；15；20的不同情况，随着基站数量的增加，由于参与训练的样本不断增加，不管是对均方误差还是平均绝对误差，与传统算法的预测结果相比较，本发明提供的预测方法的误差会逐步降低，加权策略能够有效提升预测性能。
由图4本发明预测值和传统算法预测值与真实值的对比可以看出，本发明预测值更接近真实值，在真实流量值相对低的时候，本发明提供的预测值比传统算法预测值准确。并且总体误差远小于传统算法的误差。因此，本发明提出的无线业务流量预测方案能够有效提升预测性能。
图5是预测误差的累积概率分布图，图中包括本发明提供的预测方法的预测误差的累积概率分布和传统算法的预测误差的累积概率分布；由图可知：本发明提供的预测方法中大约50％的预测值误差都小于0.2，而传统算法中只有大约30％的预测误差小于0.2；本发明的预测误差小于0.5的占比88％，传统算法是80％。综上可知，本发明所提供的预测方法要优于传统预测方法。

Claims (7)

1.一种基于加权联邦学习的无线业务流量预测方法，其特征在于，用于提升分布式无线业务流量预测的总体预测准确性，具体步骤如下：
(1)将N个基站依次编号为i，i＝1，2；…，N；控制中心随机生成一个初始化模型M，并复制N份模型，N份模型组成
Figure FDA0002393275350000011
随后，控制中心将需要训练的模型
Figure FDA0002393275350000012
推送到基站i的学习单元；
(2)基站i的学习单元根据接收到的需要训练的模型
Figure FDA0002393275350000013
在已有历史数据集上对模型
Figure FDA0002393275350000014
进行训练以更新参数；经过训练之后，得到新的本地模型M′i；
(3)基站i将新的本地模型M′i发送到控制中心；
(4)控制中心对从基站得到的模型{M′1，…，M′N}，根据加权策略进行模型融合，得到更新后的全局模型
Figure FDA0002393275350000015
并将更新后的全局模型
Figure FDA0002393275350000016
推送到基站i；
(5)重复执行步骤(2)到(4)，设定循环次数，当达到设定的循环次数后，循环结束，得到最终模型；
(6)基站根据步骤(5)得到的最终模型对未来时刻的无线业务流量进行预测。
2.根据权利要求1所述的一种基于加权联邦学习的无线业务流量预测方法，其特征在于，所述步骤(4)中，根据加权策略进行模型融合的具体步骤为：根据式(1)进行全局模型的参数更新：
Figure FDA0002393275350000017
式(1)中，
Figure FDA0002393275350000018
表示本轮训练中控制中心经过加权融合后的全局模型；fagg(·)表示采用的加权融合策略；α表示对基站i来说，本地模型M′i所占的比重；β表示除了本地模型M′i之外的其他模型M′j之和所占的比重；α与β的关系满足α+β＝1；
进一步优选的，所述步骤(4)中，进行全局模型的参数更新时，α>β。
3.根据权利要求1所述的一种基于加权联邦学习的无线业务流量预测方法，其特征在于，所述预测方法还包括：(7)以一定的时间周期重复步骤(2)-(6)，对模型进行周期性的全局更新训练；
优选的，所述时间周期为一天或者三天或者一周。
4.根据权利要求3所述的一种基于加权联邦学习的无线业务流量预测方法，其特征在于，每次参与更新训练的基站数量是动态变化的，如果当前参与训练的基站数量大于设定的阈值，则对模型进行全局更新训练；否则，跳过此次更新，下一个周期再做更新请求。
5.根据权利要求1所述的一种基于加权联邦学习的无线业务流量预测方法，其特征在于，步骤(1)中，在控制中心将需要训练的模型
Figure FDA0002393275350000021
推送到基站学习单元之前，需要确定初始化模型的具体形式、生成训练样本数据集和测试样本数据集及数据标准化，具体步骤包括：
1-A、选择初始化模型的具体形式，所述具体形式为线性模型或者非线性模型；
1-B、将基站的历史数据集分成训练数据集和测试数据集，并在所述训练数据集和测试数据集上根据滑动窗口机制，选择滑动窗口大小p，分别生成训练样本数据集和测试样本数据集；
1-C、对于训练样本数据集，得到流量的最小值和标准差；对于测试样本数据集，根据所述流量的最小值和标准差对训练数据集和测试数据集中的数据进行标准化。
6.根据权利要求5所述的一种基于加权联邦学习的无线业务流量预测方法，其特征在于，步骤(2)中，在已有历史数据集上对需要训练的模型
Figure FDA0002393275350000022
进行训练以更新参数，具体步骤包括：
2-A、选定优化算法，所述算法为随机梯度下降法、小批量梯度下降法、适应性动量估计法中任一种；
2-B、从训练数据集中，根据批处理大小选择相应的样本数量，并进行梯度计算；
2-C、模型
Figure FDA0002393275350000023
的参数根据当前样本的梯度信息进行更新；
2-D、重复执行所述步骤B和步骤C，直至满足训练结束条件；
进一步优选的，步骤2-A中，所述算法为适应性动量估计法；
步骤2-D中，训练结束条件需要满足以下几个条件之一：所训练的模型的参数收敛；所训练模型的更新次数大于设定阈值；训练整个模型的时长大于设定的阈值。
7.根据权利要求1-6任一项所述的一种基于加权联邦学习的无线业务流量预测方法，其特征在于，在步骤(6)得到预测值后，所述预测方法还包括如下步骤：
a、步骤(6)得到的预测值做标准化的逆操作，得到预测值的真实尺度；
b、根据评价指标对预测性能进行评估；所述评价指标包括均方误差MSE和平均绝对误差MAE；
c、评估完成后，基站将新到的数据存储到历史数据集中。
CN202010122093.0A 2020-02-27 2020-02-27 一种基于加权联邦学习的无线业务流量预测方法 Active CN111369042B (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN202010122093.0A CN111369042B (zh) 2020-02-27 2020-02-27 一种基于加权联邦学习的无线业务流量预测方法
PCT/CN2020/140916 WO2021169577A1 (zh) 2020-02-27 2020-12-29 一种基于加权联邦学习的无线业务流量预测方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010122093.0A CN111369042B (zh) 2020-02-27 2020-02-27 一种基于加权联邦学习的无线业务流量预测方法

Publications (2)

Publication Number Publication Date
CN111369042A true CN111369042A (zh) 2020-07-03
CN111369042B CN111369042B (zh) 2021-09-24

Family

ID=71206476

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010122093.0A Active CN111369042B (zh) 2020-02-27 2020-02-27 一种基于加权联邦学习的无线业务流量预测方法

Country Status (2)

Country Link
CN (1) CN111369042B (zh)
WO (1) WO2021169577A1 (zh)

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111967667A (zh) * 2020-08-17 2020-11-20 交控科技股份有限公司 一种轨道交通分布式运维方法及系统
CN112114231A (zh) * 2020-09-18 2020-12-22 广西大学 一种具有连续学习能力的cnn故障选线方法
CN112532451A (zh) * 2020-11-30 2021-03-19 安徽工业大学 基于异步通信的分层联邦学习方法、装置、终端设备及存储介质
CN112911608A (zh) * 2021-01-14 2021-06-04 浙江大学 一种面向边缘智能网络的大规模接入方法
WO2021120677A1 (zh) * 2020-07-07 2021-06-24 平安科技（深圳）有限公司 一种仓储模型训练方法、装置、计算机设备及存储介质
CN113139341A (zh) * 2021-04-23 2021-07-20 广东安恒电力科技有限公司 基于联邦集成学习的电量需求预测方法和系统
CN113255924A (zh) * 2020-11-25 2021-08-13 中兴通讯股份有限公司 联邦学习参与者选择方法、装置、设备和存储介质
WO2021169577A1 (zh) * 2020-02-27 2021-09-02 山东大学 一种基于加权联邦学习的无线业务流量预测方法
CN114066100A (zh) * 2021-12-01 2022-02-18 深圳市新威尔电子有限公司 基于联邦学习的在线式电池循环寿命预测系统及方法
WO2022051964A1 (en) * 2020-09-10 2022-03-17 Qualcomm Incorporated Reporting for information aggregation in federated learning
WO2022099512A1 (zh) * 2020-11-11 2022-05-19 北京小米移动软件有限公司 数据处理方法及装置、通信设备和存储介质
WO2022130098A1 (en) * 2020-12-15 2022-06-23 International Business Machines Corporation Federated learning for multi-label classification model for oil pump management
WO2022222110A1 (zh) * 2021-04-22 2022-10-27 Oppo广东移动通信有限公司 应用于移动通信系统的联邦学习方法、装置、终端及介质
WO2022236831A1 (zh) * 2021-05-14 2022-11-17 北京小米移动软件有限公司 一种模型学习方法、模型学习装置及存储介质
CN115860153A (zh) * 2023-03-01 2023-03-28 北京邮电大学 基于个性化分组联邦学习的无线流量预测方法及系统

Families Citing this family (31)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20230102489A1 (en) * 2021-09-07 2023-03-30 Samsung Electronics Co., Ltd. Method of load forecasting via knowledge distillation, and an apparatus for the same
CN115884195A (zh) * 2021-09-28 2023-03-31 中兴通讯股份有限公司 模型训练方法、无线资源调度方法及其装置及电子设备
CN113902473A (zh) * 2021-09-29 2022-01-07 支付宝(杭州)信息技术有限公司 业务预测系统的训练方法及装置
US11750719B2 (en) * 2021-10-06 2023-09-05 Samsung Electronics Co., Ltd. Method of performing communication load balancing with multi-teacher reinforcement learning, and an apparatus for the same
US20230114810A1 (en) * 2021-10-11 2023-04-13 Samsung Electronics Co., Ltd. Method of communication traffic prediction via continual learning with knowledge distillation, and an apparatus for the same
CN114186237A (zh) * 2021-10-26 2022-03-15 北京理工大学 一种基于真值发现的鲁棒性联邦学习模型聚合方法
CN113904948B (zh) * 2021-11-12 2023-11-03 福州大学 基于跨层的多维参数的5g网络带宽预测系统及方法
CN114302421A (zh) * 2021-11-29 2022-04-08 北京邮电大学 通信网络架构的生成方法、装置、电子设备及介质
CN113869528B (zh) * 2021-12-02 2022-03-18 中国科学院自动化研究所 共识表征提取和多样性传播的解纠缠个性化联邦学习方法
CN114219160A (zh) * 2021-12-20 2022-03-22 湖南大学 一种基于联邦学习的生产链协同调度方法
CN115115082A (zh) * 2021-12-30 2022-09-27 南通大学 一种基于联邦学习的长距离高速公路交通流量预测方法
CN114363911B (zh) * 2021-12-31 2023-10-17 哈尔滨工业大学（深圳） 一种部署分层联邦学习的无线通信系统及资源优化方法
CN114584581B (zh) * 2022-01-29 2024-01-09 华东师范大学 面向智慧城市物联网信物融合的联邦学习系统及联邦学习训练方法
CN114548426B (zh) * 2022-02-17 2023-11-24 北京百度网讯科技有限公司 异步联邦学习的方法、业务服务的预测方法、装置及系统
CN114598517A (zh) * 2022-03-02 2022-06-07 中国人民解放军军事科学院战争研究院 一种基于联邦学习的移动设备射频分布识别方法
CN114611722B (zh) * 2022-03-16 2024-05-24 中南民族大学 一种基于聚类分析的安全横向联邦学习方法
CN114758784B (zh) * 2022-03-29 2024-05-28 南京理工大学 一种基于聚类算法分配联邦学习中参与者权重的方法
CN115037669B (zh) * 2022-04-27 2023-05-02 东北大学 一种基于联邦学习的跨域数据传输方法
CN114997422B (zh) * 2022-05-06 2024-03-08 西北工业大学 一种异构通信网络的分组式联邦学习方法
CN114745253A (zh) * 2022-05-06 2022-07-12 中电信数智科技有限公司 基于Transformer和联邦学习的流量预警方法
CN115146843B (zh) * 2022-06-27 2023-08-15 北京交通大学 一种基于元学习的地铁新开车站短期客流预测方法
CN115150335B (zh) * 2022-06-30 2023-10-31 武汉烽火技术服务有限公司 一种基于深度强化学习的最优流量分割的方法和系统
CN115238583B (zh) * 2022-07-27 2024-02-13 山东理工大学 一种支持增量日志的业务流程剩余时间预测方法与系统
CN115099419B (zh) * 2022-08-26 2022-11-18 香港中文大学（深圳） 一种面向无线联邦学习的用户协同传输方法
CN116306986B (zh) * 2022-12-08 2024-01-12 哈尔滨工业大学（深圳） 一种基于动态亲和力聚合的联邦学习方法及相关设备
CN115659184B (zh) * 2022-12-14 2023-07-25 季华实验室 分布式群体性能智能优化方法、系统及电子设备
CN116346863B (zh) * 2023-05-29 2023-08-01 湘江实验室 基于联邦学习的车载网数据处理方法、装置、设备及介质
CN116610958A (zh) * 2023-06-20 2023-08-18 河海大学 面向无人机群水库水质检测的分布式模型训练方法及系统
CN116959696B (zh) * 2023-09-20 2023-12-08 武汉光盾科技有限公司 一种基于激光治疗仪的数据处理方法和装置
CN117094031B (zh) * 2023-10-16 2024-02-06 湘江实验室 工业数字孪生数据隐私保护方法及相关介质
CN117688425A (zh) * 2023-12-07 2024-03-12 重庆大学 面向Non-IID图数据的多任务图分类模型构建方法及系统

Citations (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108734220A (zh) * 2018-05-23 2018-11-02 山东师范大学 基于k线聚类和强化学习的自适应金融时间序列预测方法
CN108848520A (zh) * 2018-05-28 2018-11-20 西安交通大学 一种基于流量预测与基站状态的基站休眠方法
CN108900346A (zh) * 2018-07-06 2018-11-27 西安电子科技大学 基于lstm网络的无线网络流量预测方法
CN109325638A (zh) * 2018-11-09 2019-02-12 电子科技大学 一种基于rbf神经网络的sdn流量预测方法
CN109862585A (zh) * 2019-01-31 2019-06-07 湖北工业大学 一种基于深度时空神经网络的动态异构网络流量预测方法
CN109871702A (zh) * 2019-02-18 2019-06-11 深圳前海微众银行股份有限公司 联邦模型训练方法、系统、设备及计算机可读存储介质
CN109934177A (zh) * 2019-03-15 2019-06-25 艾特城信息科技有限公司 行人再识别方法、系统及计算机可读存储介质
US20190227980A1 (en) * 2018-01-22 2019-07-25 Google Llc Training User-Level Differentially Private Machine-Learned Models
CN110175711A (zh) * 2019-05-17 2019-08-27 北京市天元网络技术股份有限公司 一种基于联合lstm基站小区流量预测方法以及装置
CN110263921A (zh) * 2019-06-28 2019-09-20 深圳前海微众银行股份有限公司 一种联邦学习模型的训练方法及装置
CN110442457A (zh) * 2019-08-12 2019-11-12 北京大学深圳研究生院 基于联邦学习的模型训练方法、装置及服务器
CN110490738A (zh) * 2019-08-06 2019-11-22 深圳前海微众银行股份有限公司 一种混合联邦学习方法及架构
CN110490335A (zh) * 2019-08-07 2019-11-22 深圳前海微众银行股份有限公司 一种计算参与者贡献率的方法及装置
CN110572253A (zh) * 2019-09-16 2019-12-13 济南大学 一种联邦学习训练数据隐私性增强方法及系统
CN110610242A (zh) * 2019-09-02 2019-12-24 深圳前海微众银行股份有限公司 一种联邦学习中参与者权重的设置方法及装置
CN110782042A (zh) * 2019-10-29 2020-02-11 深圳前海微众银行股份有限公司 横向联邦和纵向联邦联合方法、装置、设备及介质

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103840988B (zh) * 2014-03-17 2017-03-01 湖州师范学院 一种基于rbf神经网络的网络流量测量方法
EP3449323A4 (en) * 2016-04-28 2020-04-01 Veritone Alpha, Inc. USE OF PREDICTIONS TO CONTROL TARGET SYSTEMS
CN111369042B (zh) * 2020-02-27 2021-09-24 山东大学 一种基于加权联邦学习的无线业务流量预测方法

Patent Citations (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20190227980A1 (en) * 2018-01-22 2019-07-25 Google Llc Training User-Level Differentially Private Machine-Learned Models
CN108734220A (zh) * 2018-05-23 2018-11-02 山东师范大学 基于k线聚类和强化学习的自适应金融时间序列预测方法
CN108848520A (zh) * 2018-05-28 2018-11-20 西安交通大学 一种基于流量预测与基站状态的基站休眠方法
CN108900346A (zh) * 2018-07-06 2018-11-27 西安电子科技大学 基于lstm网络的无线网络流量预测方法
CN109325638A (zh) * 2018-11-09 2019-02-12 电子科技大学 一种基于rbf神经网络的sdn流量预测方法
CN109862585A (zh) * 2019-01-31 2019-06-07 湖北工业大学 一种基于深度时空神经网络的动态异构网络流量预测方法
CN109871702A (zh) * 2019-02-18 2019-06-11 深圳前海微众银行股份有限公司 联邦模型训练方法、系统、设备及计算机可读存储介质
CN109934177A (zh) * 2019-03-15 2019-06-25 艾特城信息科技有限公司 行人再识别方法、系统及计算机可读存储介质
CN110175711A (zh) * 2019-05-17 2019-08-27 北京市天元网络技术股份有限公司 一种基于联合lstm基站小区流量预测方法以及装置
CN110263921A (zh) * 2019-06-28 2019-09-20 深圳前海微众银行股份有限公司 一种联邦学习模型的训练方法及装置
CN110490738A (zh) * 2019-08-06 2019-11-22 深圳前海微众银行股份有限公司 一种混合联邦学习方法及架构
CN110490335A (zh) * 2019-08-07 2019-11-22 深圳前海微众银行股份有限公司 一种计算参与者贡献率的方法及装置
CN110442457A (zh) * 2019-08-12 2019-11-12 北京大学深圳研究生院 基于联邦学习的模型训练方法、装置及服务器
CN110610242A (zh) * 2019-09-02 2019-12-24 深圳前海微众银行股份有限公司 一种联邦学习中参与者权重的设置方法及装置
CN110572253A (zh) * 2019-09-16 2019-12-13 济南大学 一种联邦学习训练数据隐私性增强方法及系统
CN110782042A (zh) * 2019-10-29 2020-02-11 深圳前海微众银行股份有限公司 横向联邦和纵向联邦联合方法、装置、设备及介质

Cited By (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021169577A1 (zh) * 2020-02-27 2021-09-02 山东大学 一种基于加权联邦学习的无线业务流量预测方法
WO2021120677A1 (zh) * 2020-07-07 2021-06-24 平安科技（深圳）有限公司 一种仓储模型训练方法、装置、计算机设备及存储介质
CN111967667B (zh) * 2020-08-17 2024-03-01 交控科技股份有限公司 一种轨道交通分布式运维方法及系统
CN111967667A (zh) * 2020-08-17 2020-11-20 交控科技股份有限公司 一种轨道交通分布式运维方法及系统
WO2022051964A1 (en) * 2020-09-10 2022-03-17 Qualcomm Incorporated Reporting for information aggregation in federated learning
CN112114231A (zh) * 2020-09-18 2020-12-22 广西大学 一种具有连续学习能力的cnn故障选线方法
CN112114231B (zh) * 2020-09-18 2023-10-10 广西大学 一种具有连续学习能力的cnn故障选线方法
WO2022099512A1 (zh) * 2020-11-11 2022-05-19 北京小米移动软件有限公司 数据处理方法及装置、通信设备和存储介质
CN113255924A (zh) * 2020-11-25 2021-08-13 中兴通讯股份有限公司 联邦学习参与者选择方法、装置、设备和存储介质
CN112532451B (zh) * 2020-11-30 2022-04-26 安徽工业大学 基于异步通信的分层联邦学习方法、装置、终端设备及存储介质
CN112532451A (zh) * 2020-11-30 2021-03-19 安徽工业大学 基于异步通信的分层联邦学习方法、装置、终端设备及存储介质
WO2022130098A1 (en) * 2020-12-15 2022-06-23 International Business Machines Corporation Federated learning for multi-label classification model for oil pump management
CN112911608B (zh) * 2021-01-14 2021-11-23 浙江大学 一种面向边缘智能网络的大规模接入方法
CN112911608A (zh) * 2021-01-14 2021-06-04 浙江大学 一种面向边缘智能网络的大规模接入方法
WO2022222110A1 (zh) * 2021-04-22 2022-10-27 Oppo广东移动通信有限公司 应用于移动通信系统的联邦学习方法、装置、终端及介质
CN113139341A (zh) * 2021-04-23 2021-07-20 广东安恒电力科技有限公司 基于联邦集成学习的电量需求预测方法和系统
CN113139341B (zh) * 2021-04-23 2023-02-10 广东安恒电力科技有限公司 基于联邦集成学习的电量需求预测方法和系统
WO2022236831A1 (zh) * 2021-05-14 2022-11-17 北京小米移动软件有限公司 一种模型学习方法、模型学习装置及存储介质
CN114066100A (zh) * 2021-12-01 2022-02-18 深圳市新威尔电子有限公司 基于联邦学习的在线式电池循环寿命预测系统及方法
CN115860153A (zh) * 2023-03-01 2023-03-28 北京邮电大学 基于个性化分组联邦学习的无线流量预测方法及系统
CN115860153B (zh) * 2023-03-01 2023-05-16 北京邮电大学 基于个性化分组联邦学习的无线流量预测方法及系统

Also Published As

Publication number Publication date
WO2021169577A1 (zh) 2021-09-02
CN111369042B (zh) 2021-09-24

Similar Documents

Publication Publication Date Title
CN111369042B (zh) 一种基于加权联邦学习的无线业务流量预测方法
CN110770761B (zh) 深度学习系统和方法以及使用深度学习的无线网络优化
CN109462520B (zh) 基于lstm模型的网络流量资源态势预测方法
CN111629380B (zh) 面向高并发多业务工业5g网络的动态资源分配方法
WO2020228796A1 (en) Systems and methods for wireless signal configuration by a neural network
TWI700649B (zh) 基於深度強化學習之無線通訊網路波束選擇方法
CN116523079A (zh) 一种基于强化学习联邦学习优化方法及系统
CN112637883A (zh) 电力物联网中对无线环境变化具有鲁棒性的联邦学习方法
CN114039870B (zh) 基于深度学习的蜂窝网络中视频流应用实时带宽预测方法
CN112766603A (zh) 一种交通流量预测方法、系统、计算机设备及存储介质
CN115146764A (zh) 一种预测模型的训练方法、装置、电子设备及存储介质
Sivakumar et al. Prediction of traffic load in wireless network using time series model
CN114885388A (zh) 联合rss预测的多业务类型自适应切换判决方法
Peng et al. Hmm-lstm for proactive traffic prediction in 6g wireless networks
CN115618743B (zh) 一种瞄准镜系统的状态评估方法及状态评估系统
CN111010695A (zh) 基于信道空闲时长预测的信道分配方法
CN115577797B (zh) 一种基于本地噪声感知的联邦学习优化方法及系统
CN116781139A (zh) 一种基于强化学习的流量预测卫星路径选择方法及系统
Baldvinsson et al. IL-GAN: rare sample generation via incremental learning in GANs
CN114401192B (zh) 一种多sdn控制器协同训练方法
CN113360772B (zh) 一种可解释性推荐模型训练方法与装置
CN113033653A (zh) 一种边-云协同的深度神经网络模型训练方法
CN112465055A (zh) 一种基于卷积神经网络的网络故障诊断方法
TW202224472A (zh) 基於類神經網路的波束選擇方法及管理伺服器
Camargo et al. Design of AI-based Resource Forecasting Methods for Network Slicing

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant