CN116866205A - 网络服务动态优化方法、系统、电子设备及介质 - Google Patents
网络服务动态优化方法、系统、电子设备及介质 Download PDFInfo
- Publication number
- CN116866205A CN116866205A CN202310944923.1A CN202310944923A CN116866205A CN 116866205 A CN116866205 A CN 116866205A CN 202310944923 A CN202310944923 A CN 202310944923A CN 116866205 A CN116866205 A CN 116866205A
- Authority
- CN
- China
- Prior art keywords
- network
- service
- optimization
- data
- performance index
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000005457 optimization Methods 0.000 title claims abstract description 140
- 238000000034 method Methods 0.000 title claims abstract description 53
- 238000011156 evaluation Methods 0.000 claims abstract description 45
- 238000012360 testing method Methods 0.000 claims abstract description 27
- 238000012549 training Methods 0.000 claims abstract description 23
- 238000012545 processing Methods 0.000 claims abstract description 21
- 238000004364 calculation method Methods 0.000 claims description 21
- 230000015654 memory Effects 0.000 claims description 18
- 230000006870 function Effects 0.000 claims description 15
- 230000002787 reinforcement Effects 0.000 claims description 11
- 230000007246 mechanism Effects 0.000 claims description 10
- 239000000523 sample Substances 0.000 claims description 9
- 238000004590 computer program Methods 0.000 claims description 8
- 238000010276 construction Methods 0.000 claims description 7
- 238000013480 data collection Methods 0.000 claims description 3
- 238000012805 post-processing Methods 0.000 claims 1
- 239000000758 substrate Substances 0.000 claims 1
- 230000008569 process Effects 0.000 description 12
- 238000005516 engineering process Methods 0.000 description 11
- 238000004891 communication Methods 0.000 description 10
- 238000004422 calculation algorithm Methods 0.000 description 8
- 238000010586 diagram Methods 0.000 description 6
- 230000000694 effects Effects 0.000 description 4
- 238000013210 evaluation model Methods 0.000 description 4
- 230000003044 adaptive effect Effects 0.000 description 3
- 206010063385 Intellectualisation Diseases 0.000 description 2
- 230000001413 cellular effect Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 230000002708 enhancing effect Effects 0.000 description 2
- 230000004927 fusion Effects 0.000 description 2
- 210000001503 joint Anatomy 0.000 description 2
- 238000013508 migration Methods 0.000 description 2
- 230000005012 migration Effects 0.000 description 2
- 230000008447 perception Effects 0.000 description 2
- 230000011664 signaling Effects 0.000 description 2
- 238000004088 simulation Methods 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000000903 blocking effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 239000000126 substance Substances 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/50—Network service management, e.g. ensuring proper service fulfilment according to agreements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/092—Reinforcement learning
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/16—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks using machine learning or artificial intelligence
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/50—Network services
- H04L67/60—Scheduling or organising the servicing of application requests, e.g. requests for application data transmissions using the analysis and optimisation of the required network resources
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T10/00—Road transport of goods or passengers
- Y02T10/10—Internal combustion engine [ICE] based vehicles
- Y02T10/40—Engine management systems
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Software Systems (AREA)
- Artificial Intelligence (AREA)
- Theoretical Computer Science (AREA)
- Evolutionary Computation (AREA)
- Physics & Mathematics (AREA)
- Biomedical Technology (AREA)
- Data Mining & Analysis (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Databases & Information Systems (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Medical Informatics (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本公开提供一种网络服务动态优化方法、系统、电子设备及存储介质,以解决网络服务无法针对性的调度资源和调整性能指标的问题,所述方法包括:将车路协同业务网络指标标准化,以形成性能指标标准库;对应于性能指标标准库,建设包含各个业务类型的网络性能指标测试库;利用搭建的网络性能指标测试库,按照事件流及不同业务分类对网络性能评估及优化模型进行训练;由UPF网元按照性能指标标准库进行数据采集,并将采集的数据处理后输入到网络性能评估及优化模型,以输出网络服务优化策略;基于网络服务优化策略进行资源调度。本公开可以实现性能指标参数、服务资源的动态自适应调整,有效的保障车路协同业务的网络性能。
Description
技术领域
本公开涉及通信技术领域,具体涉及一种网络服务动态优化方法,一种网络服务动态优化系统,一种电子设备以及一种计算机可读存储介质。
背景技术
近年来,V2X(vehicle to X,车用无线通信技术)车路协同成为创新的热点,国内外巨头、初创企业纷纷入局,自动驾驶若要实现真正的落地,也离不开车路协同的关键支撑。然而,由于安全性、可靠性等方面的原因,相关技术和服务能力仍面临诸多挑战,未能大规模商用。其中,网络通信是车路协同的关键技术。缺乏低时延、高可靠的网络支撑,车路协同也无从谈起。车路协同在通信技术上的发展,也经历了从DSRC(Dedicated ShortRangeCommunication,专用短程通信技术)、LTE-V(long termevolution-vehicle,长期演进技术-车载通信)到5G的演进,基于强大的3GPP(3rd Generation Partnership Project,第三代合作伙伴计划)生态和连续完善的蜂窝网络覆盖,大幅降低车路协同的部署成本,目前C-V2X(Cellular-V2X,蜂窝网通信技术演进形成的车用无线通信技术)也成为了实际意义上的通信标准。
在5G-V2X技术中,基于5G网络的低时延、大带宽特性,选择5G网络作为车辆提供与外界交换信息的通道,结合MEC(Mobile Edge Computing,移动边缘计算)技术能形成完善的技术方案。而由于切片技术未在实际网络中进行大规模应用,传统应用与车路协同应用存在资源竞争的情况,网络服务无法针对性的调度资源和调整性能指标,从而无法可靠的满足车路协同业务的技术要求。
发明内容
为了至少解决现有技术中存在的网络服务无法针对性的调度资源和调整性能指标,无法满足车路协同业务的技术问题,本公开提供一种网络服务动态优化方法、网络服务动态优化系统、电子设备及计算机可读存储介质,可以实现性能指标参数、服务资源的动态自适应调整,有效的保障车路协同业务的网络性能。
第一方面,本公开提供一种网络服务动态优化方法,所述方
法包括:
将车路协同业务网络指标标准化,以形成性能指标标准库;
对应于性能指标标准库,建设包含各个业务类型的网络性能指标测试库;
利用搭建的网络性能指标测试库,按照事件流及不同业务分类对网络性能评估及优化模型进行训练;
由UPF(User Plane Function,用户面功能)网元按照性能指标标准库进行数据采集,并将采集的数据处理后输入到网络性能评估及优化模型,以输出网络服务优化策略;
基于网络服务优化策略进行资源调度。
进一步的,所述基于网络服务优化策略进行资源调度包括:
接收网络性能评估及优化模型上报的网络服务优化策略;
记录对应节点优化时间点T1,开启优化计时;
在T1+t时间周期内针对同一节点的网络服务优化策略进行合并,其中t为预设的资源调度及优化周期;
获取对应关联节点的资源使用情况,并与网络服务优化策略需求进行比较;
根据比较情况调用云资源动态调整服务API(ApplicationProgrammingInterface,应用程序编程接口)对UPF资源进行优化。
进一步的,所述性能指标标准库包括:
指标编码、指标名称、指标定义、数据来源、计算方式、关联指标和影响权重;
其中,影响权重为网络性能评估及优化模型中的关键奖励因子,通过对业务需求进行分析进行确定。
进一步的,所述建设包含各个业务类型的网络性能指标测试库包括:
对车路协同中各类业务进行实际的网络指标数据采集,形成事件流,并根据业务类型的不同进行标识;
对应于性能指标标准库对标识后的数据进行标准化处理,形成网络性能指标测试库。
进一步的,所述网络性能评估及优化模型为DRL(Deep Reinforcement Learning,深度强化学习)模型,并通过设计模型的奖励因子及相关函数,以及基于此设置模型中的相关参数,实现对网络中的链路进行切分,为不同类型的业务数据流建立相应的专用链路及转发机制,并为专用链路自适应地分配网络资源。
进一步的,所述按照性能指标标准库进行数据采集包括:
在UPF网元中增加对应数据采集探针,按照性能指标标准库中各指标的数据来源及计算方法以预设的采集频率采集各项数据并进行标签。
进一步的,所述将采集的数据处理后输入到网络性能评估及优化模型包括:
按照性能指标标准库中的计算方式对数据进行标准化处理,并对区域内各节点数据进行融合,形成全局的数据体系;
将融合后的全局的数据体系作为输入提供到网络性能评估及优化模型,以实时输出网络服务优化策略。
第二方面,本公开提供一种网络服务动态优化系统,所述系统包括:
指标标准化模块,其设置为将车路协同业务网络指标标准化,以形成性能指标标准库;
建设模块,其设置为对应于性能指标标准库,建设包含各个业务类型的网络性能指标测试库;
模型训练模块,其设置为利用搭建的网络性能指标测试库,按照事件流及不同业务分类对网络性能评估及优化模型进行训练;
数据采集模块,其设置为由UPF网元按照性能指标标准库进行数据采集,并将采集的数据处理后输入到网络性能评估及优化模型,以输出网络服务优化策略;
资源调度模块,其设置为基于网络服务优化策略进行资源调度。
第三方面,本公开提供一种电子设备,包括存储器和处理器,所述存储器中存储有计算机程序,当所述处理器运行所述存储器存储的计算机程序时,所述处理器执行如第一方面中任一所述的网络服务动态优化方法。
第四方面,本公开提供一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现上述第一方面中任一所述的网络服务动态优化方法。
有益效果:
本公开提供的网络服务动态优化方法、网络服务动态优化系统、电子设备及存储介质,针对车路协同业务中的服务要求,对UPF中数据服务、会话连接等指标进行实时采集和分析,对网络服务质量进行准确的评估,结合网络性能评估及优化模型,输出优化方案,通过核心网信令协议,实现性能指标参数、服务资源的动态自适应调整,有效的保障车路协同业务的网络性能。
附图说明
图1为本公开实施例一提供的一种网络服务动态优化方法的流程示意图;
图2为本公开实施例二提供的一种网络服务动态自适应优化架构图;
图3为本公开实施例二提供的一种云化资源调度管理示意图;
图4为本公开实施例二提供的一种网络服务动态优化方法的流程示意图;
图5为本公开实施例二提供的一种基于优化策略进行资源调度的流程示意图;
图6为本公开实施例三提供的一种网络服务动态优化系统的架构图;
图7为本公开实施例四提供的一种电子设备的架构图。
具体实施方式
为使本领域技术人员更好地理解本公开的技术方案,下面结合附图和实施例对本公开作进一步详细描述。应当理解的是,此处描述的具体实施例和附图仅仅用于解释本发明,而非对本发明的限定。
需要说明的是,本公开的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序;并且,在不冲突的情况下,本公开中的实施例及实施例中的特征可以相互任意组合。
其中,在本公开实施例中使用的术语是仅仅出于描述特定实施例的目的,而非旨在限制本公开。在本公开实施例和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式,除非上下文清楚地表示其他含义。
在后续的描述中,使用用于表示元件的诸如“模块”、“部件”或“单元”的后缀仅为了有利于本公开的说明,其本身没有特定的意义。因此,“模块”、“部件”或“单元”可以混合地使用。
5G-V2X一般采用UPF下沉,结合MEC边缘计算的方案,在实际运行中,UPF按照提前设置的规则和分配的资源,对车路协同业务的流量进行分流处理,但无法在业务过程中根据业务服务质量和需求变化进行动态自适应的调整,在各类业务流程较大的情况下,将影响车路协同类业务的服务质量,部分情况下降造成时延高、流量阻塞等问题,造成严重的安全风险。
下面以具体地实施例对本公开的技术方案以及本公开的技术方案如何解决现有技术中存在的上述技术问题进行详细说明。可以理解的,本申请实施例中,执行主体可以执行本申请实施例中的部分或全部步骤,这些步骤或操作仅是示例,本申请实施例还可以执行其它操作或者各种操作的变形。此外,各个步骤可以按照本申请实施例呈现的不同的顺序来执行,并且有可能并非要执行本申请实施例中的全部操作。并且,下面这几个具体的实施例可以相互结合,对于相同或相似的概念或过程可能在某些实施例中不再赘述。
图1为本公开实施例一提供的一种网络服务动态优化方法的流程示意图,如图1所示,所述方法包括:
步骤S101:将车路协同业务网络指标标准化,以形成性能指标标准库;
通过对车路协同业务中关键的网络性能指标进行梳理,对各项指标的数据来源、计算方式、影响权重进行定义,形成性能指标标准库。
所述性能指标包括网络时延、丢包率、上行速率、下行速率、连接密度和吞吐量等。为各个指标设定统一的标准,方便后续进行强化学习模型(即网络性能评估及优化模型)的训练,以及通过模型获取最佳的优化策略。
进一步的,所述性能指标标准库包括:
指标编码、指标名称、指标定义、数据来源、计算方式、关联指标和影响权重;
其中,影响权重为网络性能评估及优化模型中的关键奖励因子,通过对业务需求进行分析进行确定。
影响权重是网络性能评估及优化模型中的关键奖励因子,对模型的建立及后续的自学习具有重要的作用,此参数通过对业务需求进行分析进行确定,针对车路协同业务中的不同的数据需求也存在差异。
将性能指标进行指标编码,并确定统一的来源和计算方式,形成性能指标标准库,作为后续性能指标采集和处理的统一标准,各性能指标的定义如下表1所示。
表1:性能指标标准库中各性能指标定义
步骤S102:对应于性能指标标准库,建设包含各个业务类型的网络性能指标测试库;
各个业务类型包括车路协同中路侧感知数据广播、车辆感知数据上报、融合数据发布、交通管控信息发布及其他影音娱乐等业务,通过为各个业务采集数据并进行标注,形成模型的训练数据集,以对模型进行训练。
进一步的,所述建设包含各个业务类型的网络性能指标测试库包括:
对车路协同中各类业务进行实际的网络指标数据采集,形成事件流,并根据业务类型的不同进行标识;
对应于性能指标标准库对标识后的数据进行标准化处理,形成网络性能指标测试库。
按照指标标准化输出,对各类业务进行实际的网络指标数据采集,形成事件流,并根据业务类型的不同进行标识,便于根据不同业务类型的重要程度进行网络服务业务流程的模拟,支撑强化学习模型的训练。
步骤S103:利用搭建的网络性能指标测试库,按照事件流及不同业务分类对网络性能评估及优化模型进行训练;
在模型设计后,利用搭建的网络性能指标测试库,按照事件流及不同业务分类对模型进行训练、测试和验证,并在训练过程中优化函数参数,提高模型的评估能力。
进一步的,所述网络性能评估及优化模型为深度强化学习DRL模型,并通过设计模型的奖励因子及相关函数,以及基于此设置模型中的相关参数,实现对网络中的链路进行切分,为不同类型的业务数据流建立相应的专用链路及转发机制,并为专用链路自适应地分配网络资源。
基于指标标准化中各指标的定义及影响权重,设计网络性能强化学习模型DRL-VELink的奖励因子及相关函数,并基于此设置模型中相关参数,从而对网络中的链路进行切分,为不同类型的业务数据流建立相应的专用链路及转发机制,并为专用链路自适应地分配网络资源。实现带宽、计算等资源的调度智能化,减少不同类型流之间的竞争。DRL-VELink在DDPG(deep deterministic policy gradient,深度确定性策略梯度算法)算法的基础上引入裁剪双Q学习来解决算法上的价值估计过高的问题,优化训练得到的调度策略,同时引入优先级经验重放缓冲区机制和Noisy Net机制,增加算法的收敛速度和克服训练中探索能力不足的问题。
步骤S104:由UPF网元按照性能指标标准库进行数据采集,并将采集的数据处理后输入到网络性能评估及优化模型,以输出网络服务优化策略;
模型的测试评估是为UPF动态优化策略提供决策数据,最终模型将输出具体的优化方案,并符合后续资源动态调度的要求,支撑与云化资源调度管理平台的对接。
根据业务流程关系,UPF是车路协同中数据业务转发的关键节点,对可靠性、时延等均有重要的影响,因此对UPF资源的动态配置管理可有效利用资源服务车路协同业务中的重要服务。
进一步的,所述按照性能指标标准库进行数据采集包括:
在UPF网元中增加对应数据采集探针,按照性能指标标准库中各指标的数据来源及计算方法以预设的采集频率采集各项数据并进行标签。
按照性能指标标准库中各指标的数据来源及计算方法进行数据采集,在UPF网元中增加对应数据采集探针,对不同业务数据吞吐量、QoS(Quality of Service,服务质量)等进行采集和打标签,按照10Hz的频率采集各项数据并上报至性能评估模型服务中,以便模型基于实时的网络性能指标数据进行评估和优化策略输出。
进一步的,所述将采集的数据处理后输入到网络性能评估及优化模型包括:
按照性能指标标准库中的计算方式对数据进行标准化处理,并对区域内各节点数据进行融合,形成全局的数据体系;
将融合后的全局的数据体系作为输入提供到网络性能评估及优化模型,以实时输出网络服务优化策略。
基于网络性能指标采集探针上报的实时数据,并按照指标标准中的计算方式对数据进行标准化处理,然后对区域内各节点数据进行融合,形成全局的数据体系。融合后的数据作为输入提供给网络性能评估及优化模型服务,实时输出优化策略,并将相关策略通过API方式输入云化资源调度管理平台。在模型服务中,初始化模型为步骤S103中训练所得的模型,在实际线上运行过程中,将通过自学习的方式不断优化模型参数。自学习的过程中不断根据实际业务质量情况及采集的网络性能指标值,评估和设定奖励值反馈信息,输入至DRL-VELink模型的评估方案中,实现对当前优化策略效果的动态反馈,若网络性能优于优化前,则进行奖励并增强原有策略,若性能下降,则进行惩罚并重新调整优化策略,在动态过程中不断提升优化策略的准确性及可靠性,并及时将相关经验存储至缓存区,以便提升收敛速度。
步骤S105:基于网络服务优化策略进行资源调度。
基于优化策略,进行具体的资源调度,针对性的为车路协同业务提供数据服务。设定模型服务中优化策略的输出周期,即资源调度及优化的周期,避免过快造成资源启停及数据迁移给服务稳定性造成连续性的波动。
进一步的,所述基于网络服务优化策略进行资源调度包括:
接收网络性能评估及优化模型上报的网络服务优化策略;
记录对应节点优化时间点T1,开启优化计时;
在T1+t时间周期内针对同一节点的网络服务优化策略进行合并,其中t为预设的资源调度及优化周期;
获取对应关联节点的资源使用情况,并与网络服务优化策略需求进行比较;
根据比较情况调用云资源动态调整服务API对UPF资源进行优化。
输出周期t可以设置为1分钟、2分钟等,根据实际情况设置,网络性能评估及优化模型将相关策略通过API方式输入云化资源调度管理平台,在一个周期内将网络服务优化策略进行合并,进行UPF资源的优化,保障车路协同业务在5G-V2X通信标准下的时延、服务质量要求。
本公开实施例针对车路协同业务中的服务要求,对UPF中数据服务、会话连接等指标进行实时采集和分析,对网络服务质量进行准确的评估,结合强化学习算法,输出优化方案,通过核心网信令协议,实现性能指标参数、服务资源的动态自适应调整,有效的保障车路协同业务的网络性能
实施例二:
如图2至图4所示,本公开实施例二针对车路协同业务,提出一种网络服务动态优化方法,图2为网络服务动态自适应优化架构图,UPF通过RRU(Remote Radio Unit远端射频模块)/BBU(Building Baseband Unit,室内基带处理单元)和网联车辆连接,其中的数据采集探针对不同业务数据吞吐量、QoS等进行采集和打标签,按照10Hz的频率采集各项数据并上报至性能评估模型服务中。性能评估模型服务实时输出优化策略,并将相关策略通过API方式输入云化资源调度管理平台。平台基于优化策略调用云资源动态调整服务API对UPF资源进行优化如图3所示。通过VIM(Virtualized Infrastructure Manager,虚拟基础设施管理器)和PIM(Physical Infrastructure Manager,物理基础设施管理器)为UPF调用硬件资源,使UPF在业务过程中根据业务服务质量和需求变化进行动态自适应的调整分配的资源,对车路协同业务的流量进行分流处理。
网络服务动态优化方法的步骤如图4所示,包括:S10-S50。
步骤S10:车路协同业务网络指标标准化
对车路协同业务中关键的网络性能指标进行梳理,对各项指标的数据来源、计算方式、影响权重进行定义,形成性能指标标准库,如下表2:
其中,影响权重强化学习模型中的关键奖励因子,对模型的建立及后续的自学习具有重要的作用,此参数通过对业务需求进行分析进行确定,针对车路协同业务中的不同的数据需求也存在差异。
步骤S20:网络性能评估及优化模型训练
1)网络性能指标测试库建设
按照指标标准化输出,对车路协同中路侧感知数据广播、车辆感知数据上报、融合数据发布、交通管控信息发布及其他影音娱乐等业务进行实际的网络指标数据采集,形成事件流,并根据业务类型的不同进行标识,便于根据不同业务类型的重要程度进行网络服务业务流程的模拟,支撑强化学习模型的训练。
2)网络性能评估模型训练
基于指标标准化中各指标的定义及影响权重,设计网络性能强化学习模型DRL-VELink的奖励因子及相关函数,并基于此设置模型中相关参数,从而对网络中的链路进行切分,为不同类型的业务数据流建立相应的专用链路及转发机制,并为专用链路自适应地分配网络资源,实现带宽、计算等资源的调度智能化,减少不同类型流之间的竞争。DRL-VELink在DDPG算法的基础上引入裁剪双Q学习来解决算法上的价值估计过高的问题,优化训练得到的调度策略,同时引入优先级经验重放缓冲区机制和Noisy Net机制,增加算法的收敛速度和克服训练中探索能力不足的问题。
模型设计后,利用前一步搭建的网络性能指标测试库,按照事件流及不同业务分类对模型进行训练、测试和验证,并在训练过程中优化函数参数,提高模型的评估能力。
3)UPF动态优化策略输出
评估的目的是为UPF动态优化策略提供决策数据,最终模型将输出具体的优化方案,并符合后续资源动态调度的要求,支撑与云化资源调度管理平台的对接。
步骤S30:UPF网元服务指标采集
根据业务流程关系,UPF是车路协同中数据业务转发的关键节点,对可靠性、时延等均有重要的影响,因此对UPF资源的动态配置管理可有效利用资源服务车路协同业务中的重要服务。此步骤中,按照网络性能指标标准化中各指标的数据来源及计算方法进行数据采集,在UPF网元中增加对应数据采集探针,对不同业务数据吞吐量、QoS等进行采集和打标签,按照10Hz的频率采集各项数据并上报至性能评估模型服务中,以便模型基于实时的网络性能指标数据进行评估和优化策略输出。
步骤S40:UPF性能实时评估及上报
基于网络性能指标采集探针上报的实时数据,并按照指标标准中的计算方式对数据进行标准化处理,然后对区域内各节点数据进行融合,形成全局的数据体系。融合后的数据作为输入提供给网络性能评估及优化模型服务,实时输出优化策略,并将相关策略通过API方式输入云化资源调度管理平台。在模型服务中,初始化模型为步骤S20中训练所得的模型,在实际线上运行过程中,将通过自学习的方式不断优化模型参数。自学习的过程中不断根据实际业务质量情况及采集的网络性能指标值,评估和设定奖励值反馈信息,输入至DRL-VELink模型的评估方案中,实现对当前优化策略效果的动态反馈,若网络性能优于优化前,则进行奖励并增强原有策略,若性能下降,则进行惩罚并重新调整优化策略,在动态过程中不断提升优化策略的准确性及可靠性,并及时将相关经验存储至缓存区,以便提升收敛速度。
模型服务中优化策略的输出周期为1min,即资源调度及优化的周期为1min,避免过快造成资源启停及数据迁移给服务稳定性造成连续性的波动。
步骤S50:动态自适应调度
基于优化策略,进行具体的资源调度,针对性的为车路协同业务提供数据服务。具体流程如图5所示,包括:
S1:收到模型服务上报的优化策略A;
S2:记录对应节点优化时间点T1,开启优化计时;
S3:T1+1min时间周期内针对同一节点的优化策略进行合并,循环此步骤,直至1min结束;
S4:获取关联节点的资源使用情况,并与策略需求进行比较;
S5:调用云资源动态调整服务API对UPF资源进行优化。
本公开实施例中提出一种车路协同场景下的网络服务动态优化方案,设计一套完善的自适应网络服务性能优化流程,结合对UPF网络服务质量指标的实时监控、评估,有效的保障车路协同业务在5G-V2X通信标准下的时延、服务质量要求。
实施例三
图6为本公开实施例三提供的一种网络服务动态优化系统的架构图,如图6所示,所述系统包括:
指标标准化模块11,其设置为将车路协同业务网络指标标准化,以形成性能指标标准库;
建设模块12,其设置为对应于性能指标标准库,建设包含各个业务类型的网络性能指标测试库;
模型训练模块13,其设置为利用搭建的网络性能指标测试库,按照事件流及不同业务分类对网络性能评估及优化模型进行训练;
数据采集模块14,其设置为由UPF网元按照性能指标标准库进行数据采集,并将采集的数据处理后输入到网络性能评估及优化模型,以输出网络服务优化策略;
资源调度模块15,其设置为基于网络服务优化策略进行资源调度。
进一步的,所述资源调度模块15具体设置为:
接收网络性能评估及优化模型上报的网络服务优化策略;
记录对应节点优化时间点T1,开启优化计时;
在T1+t时间周期内针对同一节点的网络服务优化策略进行合并,其中t为预设的资源调度及优化周期;
获取对应关联节点的资源使用情况,并与网络服务优化策略需求进行比较;
根据比较情况调用云资源动态调整服务API对UPF资源进行优化。
进一步的,所述性能指标标准库包括:
指标编码、指标名称、指标定义、数据来源、计算方式、关联指标和影响权重;
其中,影响权重为网络性能评估及优化模型中的关键奖励因子,通过对业务需求进行分析进行确定。
进一步的,所述建设模块12具体设置为:
对车路协同中各类业务进行实际的网络指标数据采集,形成事件流,并根据业务类型的不同进行标识;
对应于性能指标标准库对标识后的数据进行标准化处理,形成网络性能指标测试库。
进一步的,
所述网络性能评估及优化模型为深度强化学习DRL模型,并通过设计模型的奖励因子及相关函数,以及基于此设置模型中的相关参数,实现对网络中的链路进行切分,为不同类型的业务数据流建立相应的专用链路及转发机制,并为专用链路自适应地分配网络资源。
进一步的,所述数据采集模块14具体设置为:
在UPF网元中增加对应数据采集探针,按照性能指标标准库中各指标的数据来源及计算方法以预设的采集频率采集各项数据并进行标签。
进一步的,所述数据采集模块14具体还设置为:
按照性能指标标准库中的计算方式对数据进行标准化处理,并对区域内各节点数据进行融合,形成全局的数据体系;
将融合后的全局的数据体系作为输入提供到网络性能评估及优化模型,以实时输出网络服务优化策略。
本公开实施例的网络服务动态优化系统用于实施方法实施例一和实施例二中的网络服务动态优化方法,所以描述的较为简单,具体可以参见前面方法实施例一和实施例二中的相关描述,此处不再赘述。
此外,如图7所示,本公开实施例四还提供一种电子设备,包括存储器100和处理器200,所述存储器100中存储有计算机程序,当所述处理器200运行所述存储器100存储的计算机程序时,所述处理器200执行上述各种可能的方法。
其中,存储器100与处理器200连接,存储器100可采用闪存或只读存储器或其他存储器,处理器200可采用中央处理器或单片机。
此外,本公开实施例还提供一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行上述各种可能的方法。
该计算机可读存储介质包括在用于存储信息(诸如计算机可读指令、数据结构、计算机程序模块或其他数据)的任何方法或技术中实施的易失性或非易失性、可移除或不可移除的介质。计算机可读存储介质包括但不限于RAM(Random Access Memory,随机存取存储器),ROM(Read-Only Memory,只读存储器),EEPROM(Electrically ErasableProgrammable read only memory,带电可擦可编程只读存储器)、闪存或其他存储器技术、CD-ROM(Compact Disc Read-Only Memory,光盘只读存储器),数字多功能盘(DVD,DigitalVideo Disc)或其他光盘存储、磁盒、磁带、磁盘存储或其他磁存储装置、或者可以用于存储期望的信息并且可以被计算机访问的任何其他的介质。
可以理解的是,以上实施方式仅仅是为了说明本公开的原理而采用的示例性实施方式,然而本公开并不局限于此。对于本领域内的普通技术人员而言,在不脱离本公开的精神和实质的情况下,可以做出各种变型和改进,这些变型和改进也视为本公开的保护范围。
Claims (10)
1.一种网络服务动态优化方法,其特征在于,所述方法包括:
将车路协同业务网络指标标准化,以形成性能指标标准库;
对应于性能指标标准库,建设包含各个业务类型的网络性能指标测试库;
利用搭建的网络性能指标测试库,按照事件流及不同业务分类对网络性能评估及优化模型进行训练;
由用户面功能UPF网元按照性能指标标准库进行数据采集,并将采集的数据处理后输入到网络性能评估及优化模型,以输出网络服务优化策略;
基于网络服务优化策略进行资源调度。
2.根据权利要求1所述的方法,其特征在于,所述基于网络服务优化策略进行资源调度包括:
接收网络性能评估及优化模型上报的网络服务优化策略;
记录对应节点优化时间点T1,开启优化计时;
在T1+t时间周期内针对同一节点的网络服务优化策略进行合并,其中t为预设的资源调度及优化周期;
获取对应关联节点的资源使用情况,并与网络服务优化策略需求进行比较;
根据比较情况调用云资源动态调整服务应用程序编程接口API对UPF资源进行优化。
3.根据权利要求1所述的方法,其特征在于,所述性能指标标准库包括:
指标编码、指标名称、指标定义、数据来源、计算方式、关联指标和影响权重;
其中,影响权重为网络性能评估及优化模型中的关键奖励因子,通过对业务需求进行分析进行确定。
4.根据权利要求1所述的方法,其特征在于,所述建设包含各个业务类型的网络性能指标测试库包括:
对车路协同中各类业务进行实际的网络指标数据采集,形成事件流,并根据业务类型的不同进行标识;
对应于性能指标标准库对标识后的数据进行标准化处理,形成网络性能指标测试库。
5.根据权利要求1所述的方法,其特征在于,
所述网络性能评估及优化模型为深度强化学习DRL模型,并通过设计模型的奖励因子及相关函数,以及基于此设置模型中的相关参数,实现对网络中的链路进行切分,为不同类型的业务数据流建立相应的专用链路及转发机制,并为专用链路自适应地分配网络资源。
6.根据权利要求3所述的方法,其特征在于,所述按照性能指标标准库进行数据采集包括:
在UPF网元中增加对应数据采集探针,按照性能指标标准库中各指标的数据来源及计算方法以预设的采集频率采集各项数据并进行标签。
7.根据权利要求3所述的方法,其特征在于,所述将采集的数据处理后输入到网络性能评估及优化模型包括:
按照性能指标标准库中的计算方式对数据进行标准化处理,并对区域内各节点数据进行融合,形成全局的数据体系;
将融合后的全局的数据体系作为输入提供到网络性能评估及优化模型,以实时输出网络服务优化策略。
8.一种网络服务动态优化系统,其特征在于,所述系统包括:
指标标准化模块,其设置为将车路协同业务网络指标标准化,以形成性能指标标准库;
建设模块,其设置为对应于性能指标标准库,建设包含各个业务类型的网络性能指标测试库;
模型训练模块,其设置为利用搭建的网络性能指标测试库,按照事件流及不同业务分类对网络性能评估及优化模型进行训练;
数据采集模块,其设置为由UPF网元按照性能指标标准库进行数据采集,并将采集的数据处理后输入到网络性能评估及优化模型,以输出网络服务优化策略;
资源调度模块,其设置为基于网络服务优化策略进行资源调度。
9.一种电子设备,其特征在于,包括存储器和处理器,所述存储器中存储有计算机程序,当所述处理器运行所述存储器存储的计算机程序时,所述处理器执行如权利要求1-6中任一项所述的网络服务动态优化方法。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如权利要求1-6中任一项所述的网络服务动态优化方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310944923.1A CN116866205A (zh) | 2023-07-28 | 2023-07-28 | 网络服务动态优化方法、系统、电子设备及介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310944923.1A CN116866205A (zh) | 2023-07-28 | 2023-07-28 | 网络服务动态优化方法、系统、电子设备及介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116866205A true CN116866205A (zh) | 2023-10-10 |
Family
ID=88230441
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310944923.1A Pending CN116866205A (zh) | 2023-07-28 | 2023-07-28 | 网络服务动态优化方法、系统、电子设备及介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116866205A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117880055A (zh) * | 2024-03-12 | 2024-04-12 | 灵长智能科技(杭州)有限公司 | 基于传输层指标的网络故障诊断方法、装置、设备及介质 |
CN117880055B (zh) * | 2024-03-12 | 2024-05-31 | 灵长智能科技(杭州)有限公司 | 基于传输层指标的网络故障诊断方法、装置、设备及介质 |
-
2023
- 2023-07-28 CN CN202310944923.1A patent/CN116866205A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117880055A (zh) * | 2024-03-12 | 2024-04-12 | 灵长智能科技(杭州)有限公司 | 基于传输层指标的网络故障诊断方法、装置、设备及介质 |
CN117880055B (zh) * | 2024-03-12 | 2024-05-31 | 灵长智能科技(杭州)有限公司 | 基于传输层指标的网络故障诊断方法、装置、设备及介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Polese et al. | ColO-RAN: Developing machine learning-based xApps for open RAN closed-loop control on programmable experimental platforms | |
CN111836291A (zh) | 一种切片资源调度方法及网元 | |
Bakri et al. | Data-driven RAN slicing mechanisms for 5G and beyond | |
Błaszczyszyn et al. | How user throughput depends on the traffic demand in large cellular networks | |
Chen et al. | Minimizing age-of-information for fog computing-supported vehicular networks with deep Q-learning | |
Xiao et al. | Driving in the fog: Latency measurement, modeling, and optimization of lte-based fog computing for smart vehicles | |
US20230291692A1 (en) | Method of processing set of stream in view of configuring time-sensitive network, and time-sensitive network system | |
Sánchez et al. | A data-driven scheduler performance model for QoE assessment in a LTE radio network planning tool | |
Guerra-Gomez et al. | Machine learning adaptive computational capacity prediction for dynamic resource management in C-RAN | |
CN113950057A (zh) | 信息处理的方法、装置、设备及计算机可读存储介质 | |
Hu et al. | A study of LTE network performance based on data analytics and statistical modeling | |
Ganjalizadeh et al. | Interplay between distributed AI workflow and URLLC | |
Donatti et al. | Survey on machine learning-enabled network slicing: covering the entire life cycle | |
CN116866205A (zh) | 网络服务动态优化方法、系统、电子设备及介质 | |
WO2020215282A1 (en) | Method and apparatus for evaluate data traffic depressed by radio issues | |
Alvarez et al. | Simulating dense small cell networks | |
Drago et al. | Artificial intelligence in vehicular wireless networks: A case study using ns-3 | |
US11805022B2 (en) | Method and device for providing network analytics information in wireless communication network | |
Muñoz et al. | A method for identifying faulty cells using a classification tree-based UE diagnosis in LTE | |
CN102958090B (zh) | 一种信道性能评估方法及装置 | |
Ren et al. | End-to-End Network SLA Quality Assurance for C-RAN: A Closed-Loop Management Method Based on Digital Twin Network | |
CN114650606A (zh) | 通信设备、媒体接入控制层架构及其实现方法 | |
Carrasco et al. | Channel-aware MAC performance of AMC-ARQ-based wireless systems | |
Du et al. | Integrated bandwidth variation pattern differentiation for HTTP adaptive streaming over 4G cellular networks | |
Feljan et al. | A simulation framework for validating cellular V2X scenarios |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |