CN113435472A - 车载算力网络用户需求预测方法、系统、设备、介质 - Google Patents
车载算力网络用户需求预测方法、系统、设备、介质 Download PDFInfo
- Publication number
- CN113435472A CN113435472A CN202110562894.3A CN202110562894A CN113435472A CN 113435472 A CN113435472 A CN 113435472A CN 202110562894 A CN202110562894 A CN 202110562894A CN 113435472 A CN113435472 A CN 113435472A
- Authority
- CN
- China
- Prior art keywords
- vehicle
- data
- cloud
- computing power
- power network
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 64
- 238000012549 training Methods 0.000 claims abstract description 49
- 230000002776 aggregation Effects 0.000 claims abstract description 35
- 238000004220 aggregation Methods 0.000 claims abstract description 35
- 238000004891 communication Methods 0.000 claims abstract description 21
- 238000004364 calculation method Methods 0.000 claims abstract description 20
- 238000004422 calculation algorithm Methods 0.000 claims abstract description 16
- 238000004458 analytical method Methods 0.000 claims abstract description 15
- 230000007246 mechanism Effects 0.000 claims abstract description 15
- 238000013528 artificial neural network Methods 0.000 claims abstract description 13
- 230000008569 process Effects 0.000 claims description 22
- 230000004931 aggregating effect Effects 0.000 claims description 8
- 230000006870 function Effects 0.000 claims description 7
- 238000004590 computer program Methods 0.000 claims description 5
- 230000003993 interaction Effects 0.000 claims description 5
- 238000003860 storage Methods 0.000 claims description 5
- 238000005457 optimization Methods 0.000 claims description 4
- 238000012545 processing Methods 0.000 claims description 4
- 238000012804 iterative process Methods 0.000 claims description 3
- 238000006116 polymerization reaction Methods 0.000 claims description 3
- 238000013277 forecasting method Methods 0.000 claims 2
- 230000006399 behavior Effects 0.000 abstract description 4
- 238000010586 diagram Methods 0.000 description 5
- 230000008859 change Effects 0.000 description 4
- 230000007547 defect Effects 0.000 description 4
- 238000011161 development Methods 0.000 description 4
- 238000010801 machine learning Methods 0.000 description 4
- 230000008901 benefit Effects 0.000 description 3
- 238000007726 management method Methods 0.000 description 3
- 238000013508 migration Methods 0.000 description 3
- 230000005012 migration Effects 0.000 description 3
- 230000001419 dependent effect Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000010485 coping Effects 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 230000007786 learning performance Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000006855 networking Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000008092 positive effect Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2411—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on the proximity to a decision surface, e.g. support vector machines
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/60—Protecting data
- G06F21/62—Protecting access to data via a platform, e.g. using keys or access control rules
- G06F21/6218—Protecting access to data via a platform, e.g. using keys or access control rules to a system of files or objects, e.g. local or distributed file system or database
- G06F21/6245—Protecting personal data, e.g. for financial or medical purposes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Evolutionary Computation (AREA)
- Software Systems (AREA)
- Evolutionary Biology (AREA)
- Computing Systems (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Molecular Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Mathematical Physics (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioethics (AREA)
- Medical Informatics (AREA)
- Databases & Information Systems (AREA)
- Computer Hardware Design (AREA)
- Computer Security & Cryptography (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明属于智能车载算力网络技术领域，公开了一种车载算力网络用户需求预测方法、系统、设备、介质，所述车载算力网络用户需求预测方法包括：构建端‑边‑云的混合联邦架构，均衡联邦学习通信和计算间的性能；设计学习参与者动态选择机制，应对随机性的移动特征和差异化的数据质量；通过车辆历史服务应用信息的分析，在混合联邦架构上部署神经网络算法，在保障车辆隐私的前提下预测其未来时刻的服务需求。本发明考虑用户需求预测带来的数据安全隐私和车辆移动行为对车载计算的影响，实现车载计算节点提前部署服务应用，保障不同用户个性化的服务需求；通过构建端‑边‑云的混合联邦架构，本地数据训练，边缘参数聚合和云端数据聚合有效解决矛盾。
Description
技术领域
本发明属于智能车载算力网络技术领域，尤其涉及一种车载算力网络用户需求预测方法、系统、设备、介质。
背景技术
目前，车联网技术、分布式学习方法的快速发展使得车联网应用需求量及服务需求质量迅猛增长。作为数字化应用场景的重要组成部分，车联网势必迎来快速的发展期，而由此造成的几何级数据增长，无疑将对信息处理的能力提出极大的挑战。以计算密集型的自动驾驶场景为例，单台汽车每秒将会产生1G左右的数据。车辆由于自身资源的限制，显然难以有效处理；云虽然拥有丰富资源，却因为远距离部署，会产生长距离的回程链路负载和数据获取时延，无法满足车联网中日益增长的用户体验需求。
近些年边缘计算和分布式学习迅猛发展，边缘计算借助其在网络边缘处理数据的优势，在网络边缘处理大量临时数据，不再全部上传云端，这极大地减轻了网络带宽和数据中心功耗的压力，减少延迟并提高性能；而分布式学习中兴起的联邦学习解决了车辆用户的隐私问题，联邦学习在本地根据用户数据得到数据信息，只上传这些模型训练过程中产生的训练信息。
作为改变通信信息服务模式的关键创新技术，边缘计算无论在学术研究抑或是落地实践方面均取得了长足的突破，但是依然存在一些难点需要解决。邬贺铨院士提出的“十问”边缘计算中尤为追问了边缘计算部署过程当中的算力配置和调度问题。作为应对的重要举措，我国率先提出了“算力网络”的概念。算力网络基于实时的网络状况和计算资源等因素，可根据业务需求灵活地调度计算任务，实现连接和算力在网络的全局优化，从而提供极致的用户体验。
现有技术未考虑车联网中用户需求预测的准确性十分依赖于用户数据，而这对用户数据安全隐私带来极大挑战，且无法提高用户体验需求。因此，如何在保护数据隐私的情况下对不同用户多样化的服务需求精确预测以支持服务应用的灵活部署来保障任务的有效计算是亟需解决的一大问题。
迄今为止，算力网络的远景已在业界得到了广泛的认可，在标准制定、生态建设和试验验证等领域均取得了一定的进展。在计算和网络服务面向泛在化发展的当下，探索云-边-端多级计算资源和服务能力的智能管控和高效分配以满足用户多样化的服务需求是算力网络亟待攻克的技术难题。
通过上述分析，现有技术存在的问题及缺陷为：
(1)车辆由于自身资源的限制，显然难以有效处理大量数据；云虽然拥有丰富资源，却因为远距离部署，会产生长距离的回程链路负载和数据获取时延，无法满足车联网中日益增长的用户体验需求。
(2)现有技术未考虑车联网中用户需求预测的准确性十分依赖于用户数据，而这对用户数据安全隐私带来极大挑战，且无法提高用户体验需求。
(3)如何在保护数据隐私的情况下对不同用户多样化的服务需求精确预测以支持服务应用的灵活部署来保障任务的有效计算是亟需解决的一大问题。
解决以上问题及缺陷的难度为：该方法需要构建一个端-边-云的混合联邦架构，用来均衡联邦学习通信和计算之间的性能；在每次迭代过程中需要对车载网络中端侧训练参与者动态更新。
解决以上问题及缺陷的意义为：可以在保护数据隐私的情况下对不同用户多样化的服务需求精确预测，保障车载算力网络中任务的有效计算；设计学习参与者动态选择的机制，可以应对随机性的移动特征和差异化的数据质量；本发明将分布式学习方法承载于端-边-云架构上，通过本地数据训练，边缘参数聚合，云端数据聚合三层学习，实现车载算力网络中用户需求的精确预测，能够极大地提高用户体验。
发明内容
针对现有技术存在的问题，本发明提供了一种车载算力网络用户需求预测方法、系统、设备、介质，尤其涉及一种基于分布式学习方法的车载算力网络用户需求预测方法、系统、设备、介质，旨在解决移动车辆网环境中，在保护数据隐私的情况下对不同用户多样化的服务需求精确预测以支持服务应用的灵活部署来保障任务的有效计算的问题。
本发明是这样实现的，一种车载算力网络用户需求预测方法，所述车载算力网络用户需求预测方法包括以下步骤：
步骤一，构建端-边-云的混合联邦架构，旨在通过多层之间的协同，以达到均衡联邦学习通信和计算间性能的目的；
步骤二，设计学习参与者动态选择机制，在每轮学习过程中，根据车辆的移动特征的分析以及所拥有的数据质量的评估，智能选择合适的车辆作为学习的参与者，从而保证学习质量；
步骤三，通过对车辆历史服务应用信息的分析，在混合联邦架构上部署神经网络算法，基于采集的数据在保障车辆隐私的前提下预测其未来时刻的服务需求。
进一步，步骤一中，所述混合联邦架构由一个云服务器，若干边缘服务器和车辆组成。
进一步，步骤一中，所述混合联邦架构中，每个边缘服务器e覆盖Ne个车辆；单个车辆i的局部数据集合为
其中，xj表示第j个样本，yj表示相应的输出，|Di|表示样本的数目；所述学习过程包括本地数据训练，边缘参数聚合和云端数据聚合。
进一步，所述学习过程，包括：
(1)第一阶段是车载算力网络中车辆本地数据训练，通过分析影响用户需求预测的因素的相关性，提取特征因素并建立模型特征值；将需求特征进行向量化表示，作为时间序列输入LSTM进行模型训练；车辆通过训练本地数据集以最小化经验损失函数F(w)：
其中，f(xj,yj,w)表示第j个样本的损失函数；定义τ为局部迭代的步数，η为学习的速率，则模型的参数通过以下公式更新：
(2)第二阶段是车载算力网络中车辆边缘参数聚合，在本地网络端侧经过一定的迭代次数之后，车辆i将局部模型参数
上传给关联的边缘服务器e；e在收到不同车辆上传的模型参数之后进行如下聚合：
其中，Se表示车辆的集合；e把聚合之后的参数广播给车辆以便继续训练直达设定的精度。
(3)第三阶段是车载算力网络中车辆云端数据聚合，在边缘侧经过一定迭代次数之后，服务器将参数we上传至云进行如下聚合：
其中，K表示服务器的集合，随后云将参数w反馈给车辆。
进一步，所述车载算力网络用户需求预测方法，还包括：
混合联邦学习用分布式机器学习，参与各方在数据不出域的基础上共建一个公共虚拟模型，训练和交互的全过程各方的数据始终留在本地，不参与交换和合并，只交换模型参数的梯度更新。
联邦学习的一次迭代过程包括：
客户端从服务器下载全局模型wt-1；
客户端k训练本地数据得到本地模型wt，k；
各客户端上传本地模型更新到中心服务器；
服务器接收各方数据后进行加权聚合操作，得到全局模型wt；
其中，wt，k代表第k个客户端第t轮通信的本地模型更新，wt代表第t轮通信的全局模型更新。
本发明的另一目的在于提供一种应用所述的车载算力网络用户需求预测方法的车载算力网络用户需求预测系统，所述车载算力网络用户需求预测系统，包括：
本地数据训练模块，用于在端-边-云的混合联邦架构的端侧训练车辆产生的数据，分析影响用户需求预测因素的相关性，提取特征因素并建立模型特征值；
边缘参数聚合模块，用于在端-边-云的混合联邦架构的边侧聚合车辆产生的结果并继续进行训练，在端侧经过一定的迭代次数之后，车辆将局部模型参数上传给关联的边缘服务器，然后边缘服务器把聚合之后的参数广播给车辆以便继续训练直达设定的精度；
云端数据聚合模块，用于在端-边-云的混合联邦架构的云侧聚合端侧边缘服务器的数据并分发给车辆，在边侧经过一定迭代次数之后，服务器将参数上传至云进行聚合，然后云将参数反馈给端侧车辆。
本发明的另一目的在于提供一种计算机设备，所述计算机设备包括存储器和处理器，所述存储器存储有计算机程序，所述计算机程序被所述处理器执行时，使得所述处理器执行如下步骤：
首先，通过构建端-边-云的混合联邦架构，均衡联邦学习通信和计算之间的性能；然后，设计学习参与者动态选择的机制，应对随机性的移动特征和差异化的数据质量；最后，通过对车辆历史服务应用信息的分析，在混合联邦架构上部署神经网络算法，在保障车辆隐私的前提下预测其未来时刻的服务需求。
本发明的另一目的在于提供一种计算机可读存储介质，存储有计算机程序，所述计算机程序被处理器执行时，使得所述处理器执行如下步骤：
首先，通过构建端-边-云的混合联邦架构，均衡联邦学习通信和计算之间的性能；然后，设计学习参与者动态选择的机制，应对随机性的移动特征和差异化的数据质量；最后，通过对车辆历史服务应用信息的分析，在混合联邦架构上部署神经网络算法，在保障车辆隐私的前提下预测其未来时刻的服务需求。
本发明的另一目的在于提供一种信息数据处理终端，所述信息数据处理终端用于实现所述的车载算力网络用户需求预测系统。
本发明的另一目的在于提供一种智能车载算力网络的联邦混合架构，所述智能车载算力网络的联邦混合架构用于实现所述的车载算力网络用户需求预测方法。
结合上述的所有技术方案，本发明所具备的优点及积极效果为：本发明提供的车载算力网络用户需求预测方法，采用混合联邦学习方法，首先，通过构建端-边-云的混合联邦架构，以均衡联邦学习通信和计算之间的性能；然后，设计学习参与者动态选择的机制，以应对随机性的移动特征和差异化的数据质量；最后，通过对车辆历史服务应用信息的分析，在混合联邦架构上部署神经网络算法以在保障车辆隐私的前提下预测其未来时刻的服务需求。本发明同时考虑了用户需求预测带来的数据安全隐私和车辆移动行为对车载计算的影响，实现车载计算节点提前部署服务应用，保障不同用户个性化的服务需求。
为了均衡联邦学习通信和计算之间的性能，本发明通过构建端-边-云的混合联邦架构，整个架构由一个云服务器，若干边缘服务器和车辆组成；由于车载网络中车辆移动性的影响，在每次迭代过程当中需要对端侧训练参与者动态更新；混合联邦架构中运行分布式学习方法解决用户需求预测任务。
本发明提供的车载算力网络用户需求预测方法中，用户需求预测的准确性依赖于用户数据的规模和质量，但这对数据安全隐私带来了挑战，而混合联邦学习用分布式机器学习，参与各方在数据不出域的基础上共建一个公共虚拟模型，训练和交互的全过程各方的数据始终留在本地，不参与交换和合并，只交换模型参数的梯度更新，这就有效保护了用户的数据安全隐私。
在车载网络当中，车辆的高速移动会造成间歇性的连通度，引起任务上传速率的时变性，带来业务的时空迁移，改变不同地段、不同服务节点的资源需求。所以，车载算力网络中资源管理需要和车辆的移动分析有效结合起来，这就需要训练过程中参与者的动态更新。
车载环境下多样化的用户有着差异化的服务需求，由于车载网络中移动性的影响，这些需求在时间和空间尺度上往往发生变化，同时，网络的计算资源往往是泛在化，异构化的，特性各异且分散在不同的位置。本发明提供的基于分布式学习算法的用户需求预测方法，通过混合联邦学习在保护数据隐私的情况下对不同用户多样化的服务需求精确预测，同时考虑到车辆移动行为和数据质量对混合联邦学习执行的影响，构建端-边-云的混合联邦架构，以均衡联邦学习通信和计算之间的性能，为了应对随机性的移动特征和差异化的数据质量，在端-边-云的混合联邦架构中设计学习参与者动态选择机制。、
现有技术未考虑用户数据安全隐私问题。区别于传统的机器学习需要大量收集用户信息，本发明使用混合联邦学习，使用户的数据无需上传就可以参与模型的训练。现有技术未考虑车辆网中车辆的移动性。本发明引入参与者动态选择机制，在每次迭代过程中对端侧训练参与者动态更新，根据车辆与边缘服务器的连接时间，选取最长的n个车辆作为候选者，边缘服务器可以在候选者里面选择数据质量较高的用户参与训练过程。现有技术未考虑云端与本地之间时延对移动车联网的影响。为了平衡联邦学习性能要求和车载计算资源受限的矛盾，本发明通过构建端-边-云的混合联邦架构，通过本地数据训练，边缘参数聚合和云端数据聚合有效解决矛盾。
本发明在端-边-云的混合联邦架构上部署神经网络算法，摒弃传统算法在移动车联网环境下的不足，提出一种基于分布式学习方法的用户需求预测机制，结合训练参与者动态选择策略，在本地分析影响用户需求预测的因素的相关性并将局部模型参数上传到边缘服务器，在边侧经过一定次数迭代之后聚合到云端，实现了保护数据隐私的情况下对不同用户多样化的服务需求精确预测。
本发明在保护数据隐私的情况下实现了对不同用户多样化的服务需求精确预测，保障车载算力网络中任务的有效计算；设计学习参与者动态选择的机制，可以应对随机性的移动特征和差异化的数据质量；本发明将分布式学习方法承载于端-边-云架构上，通过本地数据训练，边缘参数聚合，云端数据聚合三层学习，实现车载算力网络中用户需求的精确预测，能够极大地提高用户体验。
附图说明
为了更清楚地说明本发明实施例的技术方案，下面将对本发明实施例中所需要使用的附图做简单的介绍，显而易见地，下面所描述的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下还可以根据这些附图获得其他的附图。
图1是本发明实施例提供的车载算力网络用户需求预测方法流程图。
图2-图3是本发明实施例提供的车载算力网络用户需求预测方法原理图。
图4是本发明实施例提供的车载算力网络用户需求预测系统结构框图；
图中：1、本地数据训练模块；2、边缘参数聚合模块；3、云端数据聚合模块。
图5是本发明实施例提供的基于端-边-云架构的混合联邦学习架构示意图。
图6是本发明实施例提供的联邦学习原理图。
图7是本发明实施例提供的混合联邦学习流程图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白，以下结合实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。
针对现有技术存在的问题，本发明提供了一种车载算力网络用户需求预测方法、系统、设备、介质，下面结合附图对本发明作详细的描述。
如图1所示，本发明实施例提供的车载算力网络用户需求预测方法包括以下步骤：
S101，构建端-边-云的混合联邦架构，均衡联邦学习通信和计算间的性能；
S102，设计学习参与者动态选择机制，以应对随机性的移动特征和差异化的数据质量；
S103，通过对车辆历史服务应用信息的分析，在混合联邦架构上部署神经网络算法，在保障车辆隐私的前提下预测其未来时刻的服务需求。
本发明实施例提供的车载算力网络用户需求预测方法原理图如图2-3所示。
如图4所示，本发明实施例提供的车载算力网络用户需求预测系统包括：
本地数据训练模块1，用于在端-边-云的混合联邦架构的端侧训练车辆产生的数据，分析影响用户需求预测因素的相关性，提取特征因素并建立模型特征值；
边缘参数聚合模块2，用于在端-边-云的混合联邦架构的边侧聚合车辆产生的结果并继续进行训练，在端侧经过一定的迭代次数之后，车辆将局部模型参数上传给关联的边缘服务器，然后边缘服务器把聚合之后的参数广播给车辆以便继续训练直达设定的精度；
云端数据聚合模块3，用于在端-边-云的混合联邦架构的云侧聚合端侧边缘服务器的数据并分发给车辆，在边侧经过一定迭代次数之后，服务器将参数上传至云进行聚合，然后云将参数反馈给端侧车辆。
下面结合实施例对本发明的技术方案作进一步描述。
本发明实施例提供的基于端-边-云架构的混合联邦学习方法包括：
为了均衡联邦学习通信和计算之间的性能，构建端-边-云的混合联邦架构，整个架构由一个云服务器，若干边缘服务器和车辆组成；
由于车载网络中车辆移动性的影响，车载算力网络在每次迭代过程当中需要对端侧训练参与者动态更新；
混合联邦架构中运行分布式学习方法解决用户需求预测任务。
用户需求预测的准确性依赖于用户数据的规模和质量，但这对数据安全隐私带来了挑战，而混合联邦学习用分布式机器学习，参与各方在数据不出域的基础上共建一个公共虚拟模型，训练和交互的全过程各方的数据始终留在本地，不参与交换和合并，只交换模型参数的梯度更新，这就有效保护了用户的数据安全隐私。
在车载网络当中，车辆的高速移动会造成间歇性的连通度，引起任务上传速率的时变性，带来业务的时空迁移，改变不同地段、不同服务节点的资源需求。所以，车载算力网络中资源管理需要和车辆的移动分析有效结合起来，这就需要训练过程中参与者的动态更新。
如图7所示，混合联邦学习用分布式机器学习，参与各方在数据不出域的基础上共建一个公共虚拟模型，训练和交互的全过程各方的数据始终留在本地，不参与交换和合并，只交换模型参数的梯度更新，这就有效保护了用户的数据安全隐私。
联邦学习的一次迭代过程包括：
客户端从服务器下载全局模型wt-1；
客户端k训练本地数据得到本地模型wt，k；
各客户端上传本地模型更新到中心服务器；
服务器接收各方数据后进行加权聚合操作，得到全局模型wt；
其中，wt，k代表第k个客户端第t轮通信的本地模型更新，wt代表第t轮通信的全局模型更新。
如图6所示，在本发明中，车辆的高速移动会造成间歇性的连通度，引起任务上传速率的时变性，带来业务的时空迁移，改变不同地段、不同服务节点的资源需求。所以，车载算力网络中资源管理需要和车辆的移动分析有效结合起来，这就需要训练过程中参与者的动态更新。
如图5所示，在混合联邦学习架构中，每个边缘服务器e覆盖Ne个车辆。单个车辆i的局部数据集合为
其中，xj表示第j个样本，yj表示相应的输出，|Di|表示样本的数目。本发明中将学习过程分为三部分：本地数据训练，边缘参数聚合和云端数据聚合。
第一阶段：车载算力网络中车辆本地数据训练，通过分析影响用户需求预测的因素的相关性，提取特征因素并建立模型特征值，之后，将需求特征进行向量化表示，作为时间序列输入LSTM进行模型训练。车辆通过训练本地数据集以最小化经验损失函数F(w)：
其中，f(xj,yj,w)表示第j个样本的损失函数。定义τ为局部迭代的步数，η为学习的速率，那么模型的参数可以通过以下公式更新：
第二阶段：车载算力网络中车辆边缘参数聚合，在本地网络端侧经过一定的迭代次数之后，车辆i将局部模型参数
上传给关联的边缘服务器e。e在收到不同车辆上传的模型参数之后进行如下聚合：
其中，Se表示车辆的集合。然后，e把聚合之后的参数广播给车辆以便继续训练直达设定的精度。
第三阶段：车载算力网络中车辆云端数据聚合，在边缘侧经过一定迭代次数之后，服务器将参数we上传至云进行如下聚合：
其中，K表示服务器的集合。随后，云将参数w反馈给车辆。
本发明在保护数据隐私的情况下实现了对不同用户多样化的服务需求精确预测，保障车载算力网络中任务的有效计算；设计学习参与者动态选择的机制，可以应对随机性的移动特征和差异化的数据质量；本发明将分布式学习方法承载于端-边-云架构上，通过本地数据训练，边缘参数聚合，云端数据聚合三层学习，实现车载算力网络中用户需求的精确预测，能够极大地提高用户体验。
下面结合实验对本发明的技术效果作详细的描述。
本发明为证明系统的有效性，本发明对系统进行了评估，车载算力网络用户需求预测是当前车载算力网络下的一个大发展趋势，通过对车辆历史服务应用信息的分析，在混合联邦架构上部署神经网络算法，保证用户数据在不出本地的情况下也能被神经网络算法合理利用，其次，构建端-边-云的混合联邦架构，由于车载网络带宽受限的特征，本发明在通信和计算之间做出权衡，保障了神经网络算法参数传递和计算的可行性，最后，本发明考虑到车载算力网络中节点的移动性，采用谷歌公司提出的Federated Averaging算法，能够有效保障节点随机性的移动特征。本发明同时考虑了用户需求预测带来的数据安全隐私和车辆移动行为对车载计算的影响，实现车载计算节点提前部署服务应用，能有效提高用户个性化的服务需求。
表1
从表1中可以看出，本发明所提出的端-边-云混合联邦架构在保护用户的隐私情况下，能够在控制通信开销的同时，取得最高的预测准确度。
在上述实施例中，可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用全部或部分地以计算机程序产品的形式实现，所述计算机程序产品包括一个或多个计算机指令。在计算机上加载或执行所述计算机程序指令时，全部或部分地产生按照本发明实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中，或者从一个计算机可读存储介质向另一个计算机可读存储介质传输，例如，所述计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线(DSL)或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输)。所述计算机可读取存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质，(例如，软盘、硬盘、磁带)、光介质(例如，DVD)、或者半导体介质(例如固态硬盘SolidState Disk(SSD))等。
以上所述，仅为本发明的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等，都应涵盖在本发明的保护范围之内。
Claims (10)
1.一种车载算力网络用户需求预测方法，其特征在于，所述车载算力网络用户需求预测方法包括：
构建端-边-云的混合联邦架构，均衡联邦学习通信和计算间的性能；
设计学习参与者动态选择机制，以应对随机性的移动特征和差异化的数据质量；
通过对车辆历史服务应用信息的分析，在混合联邦架构上部署神经网络算法，在保障车辆隐私的前提下预测其未来时刻的服务需求。
2.如权利要求1所述的车载算力网络用户需求预测方法，其特征在于，所述混合联邦架构由一个云服务器，若干边缘服务器和车辆组成。
3.如权利要求1所述的车载算力网络用户需求预测方法，其特征在于，所述混合联邦架构中，每个边缘服务器e覆盖Ne个车辆；单个车辆i的局部数据集合为
其中，xj表示第j个样本，yj表示相应的输出，|Di|表示样本的数目；所述学习过程包括本地数据训练，边缘参数聚合和云端数据聚合。
4.如权利要求3所述的车载算力网络用户需求预测方法，其特征在于，所述学习过程，包括：
(1)第一阶段是车载算力网络中车辆本地数据训练，通过分析影响用户需求预测的因素的相关性，提取特征因素并建立模型特征值；将需求特征进行向量化表示，作为时间序列输入LSTM进行模型训练；车辆通过训练本地数据集以最小化经验损失函数F(w)：
其中，f(xj,yj,w)表示第j个样本的损失函数；定义τ为局部迭代的步数，η为学习的速率，则模型的参数通过以下公式更新：
(2)第二阶段是车载算力网络中车辆边缘参数聚合，在本地网络端侧经过一定的迭代次数之后，车辆i将局部模型参数
上传给关联的边缘服务器e；e在收到不同车辆上传的模型参数之后进行如下聚合：
其中，Se表示车辆的集合；e把聚合之后的参数广播给车辆以便继续训练直达设定的精度；
(3)第三阶段是车载算力网络中车辆云端数据聚合，在边缘侧经过一定迭代次数之后，服务器将参数we上传至云进行如下聚合：
其中，K表示服务器的集合，随后云将参数w反馈给车辆。
5.如权利要求1所述的车载算力网络用户需求预测方法，其特征在于，所述车载算力网络用户需求预测方法，还包括：混合联邦学习用分布式机器学习，参与各方在数据不出域的基础上共建一个公共虚拟模型，训练和交互的全过程各方的数据始终留在本地，不参与交换和合并，只交换模型参数的梯度更新；
联邦学习的一次迭代过程包括：
客户端从服务器下载全局模型wt-1；
客户端k训练本地数据得到本地模型wt，k；
各客户端上传本地模型更新到中心服务器；
服务器接收各方数据后进行加权聚合操作，得到全局模型wt；
其中，wt，k代表第k个客户端第t轮通信的本地模型更新，wt代表第t轮通信的全局模型更新。
6.一种实施权利要求1～5任意一项所述的车载算力网络用户需求预测方法的车载算力网络用户需求预测系统，其特征在于，所述车载算力网络用户需求预测系统，包括：
本地数据训练模块，用于在端-边-云的混合联邦架构的端侧训练车辆产生的数据，分析影响用户需求预测因素的相关性，提取特征因素并建立模型特征值；
边缘参数聚合模块，用于在端-边-云的混合联邦架构的边侧聚合车辆产生的结果并继续进行训练，在端侧经过一定的迭代次数之后，车辆将局部模型参数上传给关联的边缘服务器，然后边缘服务器把聚合之后的参数广播给车辆以便继续训练直达设定的精度；
云端数据聚合模块，用于在端-边-云的混合联邦架构的云侧聚合端侧边缘服务器的数据并分发给车辆，在边侧经过一定迭代次数之后，服务器将参数上传至云进行聚合，然后云将参数反馈给端侧车辆。
7.一种计算机设备，其特征在于，所述计算机设备包括存储器和处理器，所述存储器存储有计算机程序，所述计算机程序被所述处理器执行时，使得所述处理器执行如下步骤：
首先，通过构建端-边-云的混合联邦架构，均衡联邦学习通信和计算之间的性能；然后，设计学习参与者动态选择的机制，应对随机性的移动特征和差异化的数据质量；最后，通过对车辆历史服务应用信息的分析，在混合联邦架构上部署神经网络算法，在保障车辆隐私的前提下预测其未来时刻的服务需求。
8.一种计算机可读存储介质，存储有计算机程序，所述计算机程序被处理器执行时，使得所述处理器执行如下步骤：
首先，通过构建端-边-云的混合联邦架构，均衡联邦学习通信和计算之间的性能；然后，设计学习参与者动态选择的机制，应对随机性的移动特征和差异化的数据质量；最后，通过对车辆历史服务应用信息的分析，在混合联邦架构上部署神经网络算法，在保障车辆隐私的前提下预测其未来时刻的服务需求。
9.一种信息数据处理终端，其特征在于，所述信息数据处理终端用于实现如权利要求6所述的车载算力网络用户需求预测系统。
10.一种智能车载算力网络的联邦混合架构，其特征在于，所述智能车载算力网络的联邦混合架构用于实现如权利要求1～5任意一项所述的车载算力网络用户需求预测方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110562894.3A CN113435472A (zh) | 2021-05-24 | 2021-05-24 | 车载算力网络用户需求预测方法、系统、设备、介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110562894.3A CN113435472A (zh) | 2021-05-24 | 2021-05-24 | 车载算力网络用户需求预测方法、系统、设备、介质 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN113435472A true CN113435472A (zh) | 2021-09-24 |
Family
ID=77802734
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202110562894.3A Pending CN113435472A (zh) | 2021-05-24 | 2021-05-24 | 车载算力网络用户需求预测方法、系统、设备、介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN113435472A (zh) |
Cited By (18)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113823011A (zh) * | 2021-09-03 | 2021-12-21 | 深圳云天励飞技术股份有限公司 | 巡逻机器人的算力分配方法及相关设备 |
| CN113971090A (zh) * | 2021-10-21 | 2022-01-25 | 中国人民解放军国防科技大学 | 分布式深度神经网络的分层联邦学习方法及装置 |
| CN114051222A (zh) * | 2021-11-08 | 2022-02-15 | 北京工业大学 | 一种车联网环境下基于联邦学习的无线资源分配和通信优化方法 |
| CN114116198A (zh) * | 2021-10-21 | 2022-03-01 | 西安电子科技大学 | 一种移动车辆的异步联邦学习方法、系统、设备及终端 |
| CN114938372A (zh) * | 2022-05-20 | 2022-08-23 | 天津大学 | 一种基于联邦学习的微网群请求动态迁移调度方法及装置 |
| CN114945044A (zh) * | 2022-07-25 | 2022-08-26 | 北京智芯微电子科技有限公司 | 基于联邦学习的数字孪生平台构建方法、装置及设备 |
| CN115022316A (zh) * | 2022-05-20 | 2022-09-06 | 阿里巴巴（中国）有限公司 | 端云协同数据处理系统、方法、设备及计算机存储介质 |
| CN115037618A (zh) * | 2022-06-06 | 2022-09-09 | 电子科技大学 | 一种基于KubeEdge的轻量级边缘智能协同联邦学习平台 |
| CN115049151A (zh) * | 2022-07-12 | 2022-09-13 | 润联软件系统(深圳)有限公司 | 导航路线推荐方法、装置、设备及存储介质 |
| CN115310121A (zh) * | 2022-07-12 | 2022-11-08 | 华中农业大学 | 车联网中基于MePC-F模型的实时强化联邦学习数据隐私安全方法 |
| CN115883392A (zh) * | 2023-02-21 | 2023-03-31 | 浪潮通信信息系统有限公司 | 算力网络的数据感知方法、装置、电子设备及存储介质 |
| CN115987694A (zh) * | 2023-03-20 | 2023-04-18 | 杭州海康威视数字技术股份有限公司 | 基于多域联邦的设备隐私保护方法、系统和装置 |
| CN116580448A (zh) * | 2023-04-11 | 2023-08-11 | 深圳市大数据研究院 | 一种行为预测方法、系统、电子设备及存储介质 |
| CN116582840A (zh) * | 2023-07-13 | 2023-08-11 | 江南大学 | 车联网通信的电平分配方法、装置、存储介质及电子设备 |
| CN117294460A (zh) * | 2022-11-28 | 2023-12-26 | 四川省公安科研中心 | 一种边缘计算下的轻量级联邦学习隐私保护方法 |
| CN117713382A (zh) * | 2024-02-04 | 2024-03-15 | 北京中电飞华通信有限公司 | 分布式电力服务提供方法及分布式电力服务系统 |
| CN117952669A (zh) * | 2024-03-27 | 2024-04-30 | 深圳威尔视觉科技有限公司 | 基于深度学习的算力需求预测方法、装置及计算机设备 |
| CN117950879A (zh) * | 2024-03-26 | 2024-04-30 | 深圳威尔视觉科技有限公司 | 自适应云服务器分布方法、装置及计算机设备 |
Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN111611610A (zh) * | 2020-04-12 | 2020-09-01 | 西安电子科技大学 | 联邦学习信息处理方法、系统、存储介质、程序、终端 |
| CN112367109A (zh) * | 2020-09-28 | 2021-02-12 | 西北工业大学 | 空地网络中由数字孪生驱动的联邦学习的激励方法 |
| CN112565331A (zh) * | 2020-11-02 | 2021-03-26 | 中山大学 | 一种基于边缘计算的端-边协同联邦学习优化方法 |
| CN112817653A (zh) * | 2021-01-22 | 2021-05-18 | 西安交通大学 | 一种基于云边端的联邦学习计算卸载计算系统及方法 |
| US20210150269A1 (en) * | 2019-11-18 | 2021-05-20 | International Business Machines Corporation | Anonymizing data for preserving privacy during use for federated machine learning |
-
2021
- 2021-05-24 CN CN202110562894.3A patent/CN113435472A/zh active Pending
Patent Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20210150269A1 (en) * | 2019-11-18 | 2021-05-20 | International Business Machines Corporation | Anonymizing data for preserving privacy during use for federated machine learning |
| CN111611610A (zh) * | 2020-04-12 | 2020-09-01 | 西安电子科技大学 | 联邦学习信息处理方法、系统、存储介质、程序、终端 |
| CN112367109A (zh) * | 2020-09-28 | 2021-02-12 | 西北工业大学 | 空地网络中由数字孪生驱动的联邦学习的激励方法 |
| CN112565331A (zh) * | 2020-11-02 | 2021-03-26 | 中山大学 | 一种基于边缘计算的端-边协同联邦学习优化方法 |
| CN112817653A (zh) * | 2021-01-22 | 2021-05-18 | 西安交通大学 | 一种基于云边端的联邦学习计算卸载计算系统及方法 |
Non-Patent Citations (3)
| Title |
|---|
| 刘江挺;何强;: "面向车联网应用的智能边缘计算技术概述", 现代信息科技, no. 12, 25 June 2020 (2020-06-25) * |
| 刘耕;赵立君;陈庆勇;唐小勇;游正鹏;: "联邦学习在5G云边协同场景中的原理和应用综述", 通讯世界, no. 07, 25 July 2020 (2020-07-25) * |
| 王亚珅;: "面向数据共享交换的联邦学习技术发展综述", 无人系统技术, no. 06, 15 November 2019 (2019-11-15) * |
Cited By (25)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113823011A (zh) * | 2021-09-03 | 2021-12-21 | 深圳云天励飞技术股份有限公司 | 巡逻机器人的算力分配方法及相关设备 |
| CN113971090A (zh) * | 2021-10-21 | 2022-01-25 | 中国人民解放军国防科技大学 | 分布式深度神经网络的分层联邦学习方法及装置 |
| CN114116198A (zh) * | 2021-10-21 | 2022-03-01 | 西安电子科技大学 | 一种移动车辆的异步联邦学习方法、系统、设备及终端 |
| CN114051222A (zh) * | 2021-11-08 | 2022-02-15 | 北京工业大学 | 一种车联网环境下基于联邦学习的无线资源分配和通信优化方法 |
| CN114938372B (zh) * | 2022-05-20 | 2023-04-18 | 天津大学 | 一种基于联邦学习的微网群请求动态迁移调度方法及装置 |
| CN114938372A (zh) * | 2022-05-20 | 2022-08-23 | 天津大学 | 一种基于联邦学习的微网群请求动态迁移调度方法及装置 |
| CN115022316A (zh) * | 2022-05-20 | 2022-09-06 | 阿里巴巴（中国）有限公司 | 端云协同数据处理系统、方法、设备及计算机存储介质 |
| CN115022316B (zh) * | 2022-05-20 | 2023-08-11 | 阿里巴巴（中国）有限公司 | 端云协同数据处理系统、方法、设备及计算机存储介质 |
| CN115037618A (zh) * | 2022-06-06 | 2022-09-09 | 电子科技大学 | 一种基于KubeEdge的轻量级边缘智能协同联邦学习平台 |
| CN115037618B (zh) * | 2022-06-06 | 2023-11-07 | 电子科技大学 | 一种基于KubeEdge的轻量级边缘智能协同联邦学习平台 |
| CN115310121A (zh) * | 2022-07-12 | 2022-11-08 | 华中农业大学 | 车联网中基于MePC-F模型的实时强化联邦学习数据隐私安全方法 |
| CN115049151A (zh) * | 2022-07-12 | 2022-09-13 | 润联软件系统(深圳)有限公司 | 导航路线推荐方法、装置、设备及存储介质 |
| CN114945044A (zh) * | 2022-07-25 | 2022-08-26 | 北京智芯微电子科技有限公司 | 基于联邦学习的数字孪生平台构建方法、装置及设备 |
| CN114945044B (zh) * | 2022-07-25 | 2022-11-08 | 北京智芯微电子科技有限公司 | 基于联邦学习的数字孪生平台构建方法、装置及设备 |
| CN117294460A (zh) * | 2022-11-28 | 2023-12-26 | 四川省公安科研中心 | 一种边缘计算下的轻量级联邦学习隐私保护方法 |
| CN115883392A (zh) * | 2023-02-21 | 2023-03-31 | 浪潮通信信息系统有限公司 | 算力网络的数据感知方法、装置、电子设备及存储介质 |
| CN115987694A (zh) * | 2023-03-20 | 2023-04-18 | 杭州海康威视数字技术股份有限公司 | 基于多域联邦的设备隐私保护方法、系统和装置 |
| CN116580448A (zh) * | 2023-04-11 | 2023-08-11 | 深圳市大数据研究院 | 一种行为预测方法、系统、电子设备及存储介质 |
| CN116580448B (zh) * | 2023-04-11 | 2024-04-16 | 深圳市大数据研究院 | 一种行为预测方法、系统、电子设备及存储介质 |
| CN116582840A (zh) * | 2023-07-13 | 2023-08-11 | 江南大学 | 车联网通信的电平分配方法、装置、存储介质及电子设备 |
| CN117713382A (zh) * | 2024-02-04 | 2024-03-15 | 北京中电飞华通信有限公司 | 分布式电力服务提供方法及分布式电力服务系统 |
| CN117713382B (zh) * | 2024-02-04 | 2024-05-07 | 北京中电飞华通信有限公司 | 分布式电力服务提供方法及分布式电力服务系统 |
| CN117950879A (zh) * | 2024-03-26 | 2024-04-30 | 深圳威尔视觉科技有限公司 | 自适应云服务器分布方法、装置及计算机设备 |
| CN117950879B (zh) * | 2024-03-26 | 2024-06-07 | 深圳威尔视觉科技有限公司 | 自适应云服务器分布方法、装置及计算机设备 |
| CN117952669A (zh) * | 2024-03-27 | 2024-04-30 | 深圳威尔视觉科技有限公司 | 基于深度学习的算力需求预测方法、装置及计算机设备 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN113435472A (zh) | 车载算力网络用户需求预测方法、系统、设备、介质 | |
| Fu et al. | Client selection in federated learning: Principles, challenges, and opportunities | |
| CN113282368B (zh) | 一种用于变电站巡视的边缘计算资源调度方法 | |
| Wu et al. | Multi-agent DRL for joint completion delay and energy consumption with queuing theory in MEC-based IIoT | |
| Zhou et al. | [Retracted] Machine Learning‐Based Offloading Strategy for Lightweight User Mobile Edge Computing Tasks | |
| Nassef et al. | A survey: Distributed Machine Learning for 5G and beyond | |
| Zhai et al. | Toward reinforcement-learning-based service deployment of 5G mobile edge computing with request-aware scheduling | |
| Wang et al. | A deep learning based energy-efficient computational offloading method in Internet of vehicles | |
| Abdulazeez et al. | Offloading mechanisms based on reinforcement learning and deep learning algorithms in the fog computing environment | |
| Thantharate et al. | ADAPTIVE6G: Adaptive resource management for network slicing architectures in current 5G and future 6G systems | |
| Wang et al. | An effective edge-intelligent service placement technology for 5G-and-beyond industrial IoT | |
| Zhang et al. | Toward intelligent network optimization in wireless networking: An auto-learning framework | |
| Wang et al. | A multitask learning-based network traffic prediction approach for SDN-enabled industrial Internet of Things | |
| Jeon et al. | A distributed NWDAF architecture for federated learning in 5G | |
| Rkhami et al. | On the use of graph neural networks for virtual network embedding | |
| Assem et al. | St-dennetfus: A new deep learning approach for network demand prediction | |
| Huang et al. | Collective reinforcement learning based resource allocation for digital twin service in 6G networks | |
| Zhang et al. | [Retracted] Network Traffic Prediction via Deep Graph‐Sequence Spatiotemporal Modeling Based on Mobile Virtual Reality Technology | |
| Wu et al. | Data transmission scheme based on node model training and time division multiple access with IoT in opportunistic social networks | |
| Chen et al. | Traffic prediction-assisted federated deep reinforcement learning for service migration in digital twins-enabled MEC networks | |
| Liu et al. | GA-DRL: Graph Neural Network-Augmented Deep Reinforcement Learning for DAG Task Scheduling over Dynamic Vehicular Clouds | |
| Baresi et al. | Open challenges in federated machine learning | |
| Chen et al. | Joint Task and Computing Resource Allocation in Distributed Edge Computing Systems via Multi-Agent Deep Reinforcement Learning | |
| Lu et al. | Predictive Computation Offloading and Resource Allocation in DT-Empowered Vehicular Networks | |
| Wang et al. | Device sampling and resource optimization for federated learning in cooperative edge networks |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |