CN115665227A - 一种普适的异构融合算网资源智慧适配网络架构及方法 - Google Patents

一种普适的异构融合算网资源智慧适配网络架构及方法 Download PDF

Info

Publication number
CN115665227A
CN115665227A CN202211689082.6A CN202211689082A CN115665227A CN 115665227 A CN115665227 A CN 115665227A CN 202211689082 A CN202211689082 A CN 202211689082A CN 115665227 A CN115665227 A CN 115665227A
Authority
CN
China
Prior art keywords
network
service
resource
heterogeneous
intelligent
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202211689082.6A
Other languages
English (en)
Other versions
CN115665227B (zh
Inventor
杨冬
程宗荣
张维庭
王洪超
高德云
张宏科
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Jiaotong University
Original Assignee
Beijing Jiaotong University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Jiaotong University filed Critical Beijing Jiaotong University
Priority to CN202211689082.6A priority Critical patent/CN115665227B/zh
Publication of CN115665227A publication Critical patent/CN115665227A/zh
Application granted granted Critical
Publication of CN115665227B publication Critical patent/CN115665227B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Mobile Radio Communication Systems (AREA)

Abstract

本发明公开一种普适的异构融合算网资源智慧适配网络构架及方法,一种普适的异构融合算网资源智慧适配网络构架包括:智慧融合服务层、智慧融合适配层和智慧融合网络层。本发明通过将智慧融合服务层提取的异构服务侧业务特征和智慧融合网络层提取的异构网络侧资源特征确定网络资源基本约束条件,再通过智慧融合适配层建立网络资源普适化网络模型,解决了异构融合网络横向和纵向不同调度场景中的资源联合分配的问题,从而得到各种网络资源的分配结果,从端到端全局优化的视角有效解决了异构融合网络中横向资源耦合、纵向调度不协调的难题,提高了网络的可扩展性和调度的性能。

Description

一种普适的异构融合算网资源智慧适配网络架构及方法
技术领域
本发明涉及算网资源与网络应用适配技术领域,具体涉及一种普适的异构融合算网资源智慧适配网络构架及方法。
背景技术
随着通信网络的发展,多形态异构网络相互连接,例如互联网(比如IPv4/IPv6)、电信网(比如3G/4G/5G)、卫星专网等,已形成异构并存、融合发展的自然趋势。表面上看,异构网络融合带来网络资源的快速增长,然而如果不能让异构网络资源高效适配应用的传输需求,网络实际传输性能将远远低于可用资源传输能力。异构网络融合传输,本质上是多个网络融合,所形成复杂系统的资源调度与协同问题。另一方面,随着网络应用的复杂化,需要的网络资源类型日益增加,算力、存储等资源也需要协同调度,适配应用的需要。
随着人工智能技术的跨越式发展,基于机器学习的智能算法有望实现网络资源智慧化调度新模式,基于人工智能技术的网络资源调度研究已在数据中心网络、时间敏感网络、LTE(Long Term Evolution,长期演进)/5G等网络开展。然而,现有基于人工智能的网络资源调度主要针对单一网络,调度算法差异性很大,难于普适广泛的应用于多种异构融合网络。
发明内容
因此,本发明要解决的技术问题在于克服现有异构融合网络在横向和纵向不同调度场景下网络、算力等资源的联合适配的网络调度算法差异性很大,难于普适广泛的应用于多种异构融合网络的缺陷,从而提供一种普适的异构融合算网资源智慧适配网络构架及方法。
第一方面,本发明实施例公开了一种普适的异构融合算网资源智慧适配网络架构,包括:智慧融合服务层、智慧融合适配层和智慧融合网络层;
所述智慧融合服务层,用于采集异构业务流,并基于所述异构业务流提取异构服务侧业务特征;
所述智慧融合网络层,用于采集异构网络资源,并基于所述异构网络资源提取异构网络侧资源特征;
所述智慧融合适配层连接所述智慧融合服务层和所述智慧融合适配层,用于获取异构服务侧业务特征和异构网络侧资源特征,并基于所述异构服务侧业务特征和所述异构网络侧资源特征确定网络资源基本约束条件,所述网络资源基本约束条件中包括网络服务对象;
所述智慧融合适配层,还用于利用预设映射策略将所述网络服务对象映射为以业务流为服务对象的决策变量,所述预设映射策略包括网络服务对象与业务流之间的对应关系;
所述智慧融合适配层,还用于根据所述以业务流为服务对象的决策变量建立目标优化函数,并基于所述目标优化函数与所述网络资源基本约束条件生成网络资源普适化网络模型;
所述智慧融合适配层,还用于利用所述网络资源普适化网络模型对异构融合算网资源进行分配,生成资源分配结果。
本发明提供的一种普适的异构融合算网资源智慧适配网络架构,通过将智慧融合服务层提取的异构服务侧业务特征和智慧融合网络层提取的异构网络侧资源特征确定网络资源基本约束条件,建立网络资源普适化网络模型,解决了异构融合网络横向和纵向不同调度场景中的资源联合分配的问题,从而得到各种网络资源的分配结果,从端到端全局优化的视角有效解决了异构融合网络中横向资源耦合、纵向调度不协调的难题,提高了网络的可扩展性和调度的性能。
可选地,所述异构服务侧业务特征,包括:
由路由资源数据、时隙资源数据、频率资源数据、功率资源数据与算力存储资源数据组成的网络基础资源数据。
可选地,所述异构服务侧业务特征,包括:
业务流基本属性、服务质量需求和用户自定义业务数据。
可选地,所述智慧融合适配层,包括:
第一融合模块,用于将所述业务流基本属性、所述服务质量需求与所述网络基础资源数据进行融合,生成网络层资源约束条件;
第二融合模块,用于将所述用户自定义业务数据与所述网络基础资源数据融合,生成服务层资源约束条件;
约束模块,用于将所述网络层资源约束条件与所述服务层资源约束条件作为所述网络资源基本约束条件。
可选地,所述智慧融合适配层,还包括:
构建模块,用于根据所述以业务流为服务对象的决策变量建立目标优化函数,并基于所述目标优化函数与所述网络资源基本约束条件构建网络资源普适化调度模型;
转换模块,用于将所述网络资源普适化调度模型转换为马尔可夫决策过程;
训练模块,用于利用所述马尔可夫决策过程对预设神经网络进行训练,生成网络资源普适化网络模型。
可选地,所述转换模块,包括:
第一构建单元,用于提取所述用户自定义业务数据中的用户自定义状态信息,并提取网络资源基本约束条件中的网络资源变量,基于所述业务流基本属性、所述用户自定义状态信息和所述网络资源变量构建状态空间;
第二构建单元,用于提取所述用户自定义业务数据中的用户自定义动作决策变量,并基于所述用户自定义动作决策变量与所述以业务流为服务对象的决策变量构建动作空间;
第一确定单元,用于基于所述目标优化函数确定奖励;
第三构建单元,用于基于所述状态空间、所述动作空间和所述奖励构建所述马尔可夫决策过程。
可选地,所述训练模块,包括:
第一生成单元,用于将所述状态空间输入所述预设神经网络中,生成当前决策变量,基于所述当前决策变量与所述状态空间确定当前状态动作价值函数;其中,所述当前决策变量属于所述动作空间;
第二生成单元,用于将所述状态空间输入至预设评判函数中,生成评判决策变量,基于所述状态空间与所述评判决策变量确定目标状态动作价值函数;其中,所述评判决策变量属于所述动作空间;
第二确定单元,用于基于所述奖励、所述当前状态动作价值函数和所述目标状态动作价值函数确定损失函数;
迭代优化单元,用于利用梯度下降法对所述损失函数进行迭代优化,直至所述损失函数最小化且收敛,生成所述网络资源普适化网络模型。
第二方面,本发明实施例还公开了一种普适的异构融合算网资源智慧适配方法,包括:
获取异构服务侧业务特征和异构网络侧资源特征;其中,所述异构服务侧业务特征由所述智慧融合服务层基于采集的异构业务流提取生成,所述异构网络侧资源特征由所述智慧融合网络层基于采集的异构网络资源提取生成;
基于所述异构服务侧业务特征和所述异构网络侧资源特征确定网络资源基本约束条件,所述网络资源基本约束条件中包括网络服务对象;
利用预设映射策略将所述网络服务对象映射为以业务流为服务对象的决策变量,所述预设映射策略包括网络服务对象与业务流之间的对应关系;
根据所述以业务流为服务对象的决策变量建立目标优化函数,并基于所述目标优化函数与所述网络资源基本约束条件生成网络资源普适化网络模型;
利用所述网络资源普适化网络模型对异构融合算网资源进行分配,生成资源分配结果。
第三方面,本发明实施例还公开了一种电子设备,包括:至少一个处理器;以及与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器执行如第一方面或第二方面所述的一种普适的异构融合算网资源智慧适配方法的步骤。
第四方面,本发明实施方式还公开了一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现如第一方面或第二方面所述的一种普适的异构融合算网资源智慧适配方法的步骤。
附图说明
为了更清楚地说明本发明具体实施方式或现有技术中的技术方案,下面将对具体实施方式或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施方式,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例中一种普适的异构融合算网资源智慧适配网络架构的一个具体示例的原理框图;
图2为本发明实施例中一种异构融合网络横向资源适配的应用场景图;
图3为本发明实施例中另一种异构融合网络纵向资源适配的应用场景图;
图4为本发明实施例中一种智慧融合适配层的原理框图;
图5为本发明实施例中一种转换模块的原理框图;
图6为本发明实施例中一种训练模块的原理框图;
图7为本发明实施例中一种普适的异构融合算网资源智慧适配方法的一个具体示例的流程图;
图8为本发明实施例中电子设备的一个具体示例图。
具体实施方式
下面将结合附图对本发明的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本申请实施例的技术方案可应用于异构融合网络横向资源适配的应用场景,如图2所示,接入侧是5G网络,其中部署有工业传感器节点,每个传感器会生成一条或多条周期性时间敏感业务流,这些业务流需要上传至算力服务器上(如图2中的S1-S6)进行数据分析,以检测工业现场设备的运行情况;由于不同的业务流在数据分析时所需要的模型大小不同,所以需要的计算周期数量也不同,且各业务流都有不同的传输和计算时延需求,算力服务器分别分布在有线确定性网和WiFi无线网中,且每个服务器CPU(central processingunit,中央处理器)的处理能力也不同;通过横向路由、时隙、频率、功率、算力存储等资源的智能化联合适配,可以更好的满足业务流在端到端调度过程中的服务质量需求,其中对异构融合网络中所包含的具体的网络类型、网络拓扑,以及网络中所包括的节点的数量不作具体限定。
在异构融合网络横向资源适配的应用场景的场景中,共有1000条待调度的业务流,业务流周期包括4ms(毫秒)和8ms,数据包大小随机分布在50B(字节)~1KB(千字节)之间,为便于网络的周期性循环调度,确定性网络的超周期设置为业务流周期的最小公倍数8ms,时隙大小为业务流周期的最大公约数4ms,链路传输时延分布在1~5ms之间,确定性传输机制采用CSQF(基于多周期的多队列循环调度机制)的循环转发队列模型。
在5G接入侧,5G频段位于3.7~3.8GHz(吉赫),频率带宽40MHz(兆赫),基于OFDM技术(Orthogonal Frequency Division Multiplexing,正交频分复用技术),子载波间隔为15KHz(千赫兹),一个传输时隙是1000us(微秒),包含有14个OFDM符号,每个工业传感器节点的发射功率均为20dBm(分贝毫瓦),该工业场景下的路径损耗可以公式化为PL1(dB)=32.4+17.3*lg(l)+20*lg(fc),其中,l是工业传感器节点与基站的距离,其为100米,AWGN(Additive White Gaussian Noise,高斯白噪声)信道的噪声方差为-104dBm;对端接入的WIFI网络使用5GHz频段,频率带宽是40MHz,传输时隙大小等于确定性网络的时隙大小4ms,基于IEEE 802.11ax标准,子载波间隔是78.125KHz,调度单元采用26-tone(26个子载波),支持多个用户在不同的调度单元上同时传输数据,算力服务器具有不同频率的cpu,其中S1和S2的CPU频率是1.5GHz,S3和S4的CPU频率是3.4GHz,S5和S6的CPU频率是4.5GHz,AP(Access Point,接入点)或WAP(Wireless AP,无线接入点)发射功率是20dBm,无线网络侧的算力服务器节点距离AP均为10米,且传播路径损耗符合室内场景,PL2(dB)=40.05+20lg(fc/2.4)+20lg(min(l,10))+(l>10)*35lg(l/10),其中,fc是频率(GHz),l是距离,噪声功率为-110dBm,在资源规划和适配过程中,求解器使用Adam(Adaptive Moment Estimation,自适应矩估计)优化器,三层全连接神经网络,共训练104轮,每轮迭代1000次,经验池大小是64,网络的学习率为10-4,折扣因子为0.99。
在异构融合网络纵向资源适配的应用场景中,如图3所示,有两个互相独立的异构融合网络(如图2中网络1和网络2),都可用于传输业务流,接入侧是5G网络,其中部署有工业传感器节点,每个传感器会生成一条或多条周期性时间敏感业务流,这些业务流可以通过多网分片传输将数据上传至算力服务器上(见图中的S1-S6)进行数据分析,以检测工业现场设备的运行情况;由于不同的业务流在数据分析时所需要的模型大小不同,所以需要的计算周期数量也不同,且各业务流都有不同的传输和计算时延需求。
与图2不同,图3在基站侧引入了车联网,车联网中的节点在每个传输时隙内随机占用频率资源,这对5G接入网中业务流的分片方式产生很大影响,合理的协同纵向网络资源,对业务流分片传输过程中的服务质量有重要作用;对异构融合网络中所包含的具体的网络类型、网络拓扑,以及网络中所包括的节点的数量不作具体限定;车联网中,在每个行驶方向上有一个车道,车道宽4m(米),车辆行驶速度是40km/h(千米/小时),基站与道路的距离约为35m,路径损耗模型服从PL3(dB)=128.1+37.6lg(l),其中l是车辆与基站的距离,噪声功率为-114dBm,与基站或车辆通信的节点发射功率为23dBm,接收端信噪比的最低阈值是5dB(数据存储单位),对于其他三种网络,相关参数与图2场景相同,不再赘述。
为了解决上述异构融合网络横向和纵向调度场景中资源的联合适配问题,本发明实施例公开了一种普适的异构融合算网资源智慧适配网络架构,如图1所示,包括:智慧融合服务层1、智慧融合适配层2和智慧融合网络层3;
上述智慧融合服务层1,用于采集异构业务流,并基于上述异构业务流提取异构服务侧业务特征;
上述智慧融合网络层3,用于采集异构网络资源,并基于上述异构网络资源提取异构网络侧资源特征;
上述智慧融合适配层2,用于获取异构服务侧业务特征和异构网络侧资源特征,并基于上述异构服务侧业务特征和上述异构网络侧资源特征确定网络资源基本约束条件,上述网络资源基本约束条件中包括网络服务对象。
具体地,上述异构服务侧业务特征,包括:由路由资源数据、时隙资源数据、频率资源数据、功率资源数据与算力存储资源数据组成的网络基础资源数据;上述异构服务侧业务特征,包括:业务流基本属性(包括数据包数量、源地址、目的地址、流周期、数据包大小、流的传输路径和业务流服务质量需求等)、服务质量需求(包括时延需求、抖动需求、可靠性需求、链路利用率需求、负载均衡度需求和吞吐量需求等)和用户自定义业务数据。
进一步地,网络资源基本约束条件包括路由约束条件、时隙约束条件、频率约束条件、功率约束条件与算力存储资源约束条件。
上述智慧融合适配层2,还用于利用预设映射策略将上述网络服务对象映射为以业务流为服务对象的决策变量,上述预设映射策略包括网络服务对象与业务流之间的对应关系。
具体地,确定不同网络资源基本约束条件相对应的网络服务对象,并建立不同网络服务对象与业务流这一对象之间的对应关系,保证调度过程中的决策变量是业务流属性与网络基础资源数据的容量大小(例如,在各网络基础资源数据中可以分配的业务流,业务流的容量占比,业务流对应的网络基础资源数据);其中,网络服务对象可以为网元设备(例如队列,用户等实体设备)或网络基础资源数据。
上述智慧融合适配层2,还用于根据上述以业务流为服务对象的决策变量建立目标优化函数,并基于上述目标优化函数与上述网络资源基本约束条件生成网络资源普适化网络模型。
具体地,根据映射后的以业务流为服务对象的决策变量,建立目标优化函数与,例如最小化端到端时延函数、最大化链路利用率函数、最均衡化负载函数、最大化调度成功率函数等;建立的目标优化函数既可以为单目标优化函数,也可以为多目标优化函数。
进一步地,根据映射后的以业务流为服务对象的决策变量和每个网络中的资源约束,建立全局的、统一的约束条件,包括路由、时隙、频率、功率、算力存储资源的约束条件,用户还可以根据实际的应用需求加入特定的约束条件。
上述智慧融合适配层2,还用于利用上述网络资源普适化网络模型对异构融合算网资源进行分配,生成资源分配结果。
具体地,智慧融合服务层1采集实时业务流,智慧融合适配层2将实时业务流网络资源普适化网络模型中,基于资源分配结果将实时业务流分配给智慧融合网络层3中。
本发明提供的一种普适的异构融合算网资源智慧适配方法,通过将智慧融合服务层提取的异构服务侧业务特征和智慧融合网络层提取的异构网络侧资源特征确定网络资源基本约束条件,建立网络资源普适化网络模型,解决了异构融合网络横向和纵向不同调度场景中的资源联合分配的问题,从而得到各种网络资源的分配结果,从端到端全局优化的视角有效解决了异构融合网络中横向资源耦合、纵向调度不协调的难题,提高了网络的可扩展性和调度的性能。
需要说明的,是本发明涉及的网络资源除路由、时隙等传统网络资源外,还包括算力、存储等资源。
作为本发明一个可选实施方式,如图4所示,上述智慧融合适配层2,包括:
第一融合模块4,用于将上述业务流基本属性、上述服务质量需求与上述网络基础资源数据进行融合,生成网络层资源约束条件。
具体地,根据网络中基础的路由资源数据,分别抽象描述每种网络中可分配的基 础资源,包括:在路由资源数据分配方面,网络应满足流量守恒定律,以
Figure 417126DEST_PATH_IMAGE001
表示以m为源节 点,注入到网络中的所有以d为目的节点的业务流速率,其满足:
Figure 255638DEST_PATH_IMAGE002
(1)
其中,
Figure 769796DEST_PATH_IMAGE003
为一个指示符号,如果第m个节点的第l条链路是输出链路,那么
Figure 961743DEST_PATH_IMAGE003
=1, 如果第m个节点的第l条链路是输入链路,那么
Figure 510536DEST_PATH_IMAGE003
=-1,如果是其他非m节点上的链路,那么
Figure 5102DEST_PATH_IMAGE003
=0;
Figure 6556DEST_PATH_IMAGE004
表示在链路l上所有目的地址为d节点的业务流的数据率,M表示网络中所有节 点数的集合,D表示所有目的节点的集合。
在无线网络中,由于在每条链路上还需要对应的子载波承载发送数据包,所以上式进一步扩展为:
Figure 2194DEST_PATH_IMAGE005
(2)
上式中,
Figure 405493DEST_PATH_IMAGE006
表示第l个链路第K个子载波上的所有到达目的节点d的数据率大 小。
其中,根据网络流量守恒定律,最终从目的节点离开网络的数据率应等于网络中 所有节点向d节点发送的数据率之和,从目的节点离开网络的数据率
Figure 821694DEST_PATH_IMAGE007
的计算公式如下:
Figure 310444DEST_PATH_IMAGE008
(3)
其中,
Figure 844193DEST_PATH_IMAGE009
在此基础上,为保障每条业务流在路由传输过程中适配多样的性能指标需求,用户可以建立多种路由约束条件,一般而言,公式可以概括为:
Figure 101999DEST_PATH_IMAGE010
(4)
其中,
Figure 203947DEST_PATH_IMAGE011
表示路由决策后业务流性能的计算公式,
Figure 179994DEST_PATH_IMAGE012
表示路由决策,I 表示用户定制的业务流属性或服务质量需求,例如时延需求、可靠性需求、链路利用率需 求、负载均衡需求等,符号
Figure 251855DEST_PATH_IMAGE013
表示性能适配。
进一步地,根据网络中基础时隙资源数据,分别抽象描述每种网络中可分配的基础资源,包括:在时隙资源分配方面,为了解决网络中的数据包冲突碰撞问题,提高业务流传输的可靠性,基本的约束条件是同一链路上相同传输时隙中传输的业务流数据量不超过该时隙的总容量,其表达式如下:
Figure 629747DEST_PATH_IMAGE014
(5)
其中,
Figure 886284DEST_PATH_IMAGE015
表示指在第l条链路上业务流在第i个时隙上的传输时长,
Figure 349627DEST_PATH_IMAGE016
表示第l 条链路上该段传输时隙内的总容量,特别的,在有线网络中第l条链路上该段传输时隙内的 总容量
Figure 225179DEST_PATH_IMAGE016
的计算公式如下所示:
Figure 457577DEST_PATH_IMAGE017
(6)
其中,
Figure 901328DEST_PATH_IMAGE018
表示链路l的总带宽,
Figure 586387DEST_PATH_IMAGE019
表示效率系数,在无线网络中,可以根据不同子载 波,进一步将第l条链路上该段传输时隙内的总容量
Figure 265630DEST_PATH_IMAGE020
的计算公式扩展成:
Figure 352535DEST_PATH_IMAGE021
(7)
上述公式表示在每个子载波上的传输数据总量都不能超过相应时隙上的容量
Figure 738427DEST_PATH_IMAGE022
,此时
Figure 910783DEST_PATH_IMAGE022
的计算公式为:
Figure 128137DEST_PATH_IMAGE023
(8)
其中,
Figure 335128DEST_PATH_IMAGE024
表示在第
Figure 120681DEST_PATH_IMAGE025
条链路上第
Figure 780333DEST_PATH_IMAGE026
个子载波的带宽大小,SINR表示信干噪比。
进一步地,根据网络中基础的频率资源数据,分别抽象描述每种网络中可分配的 基础资源,包括:在频率资源分配方面,为保障在无线链路中的数据传输,需要满足的基本 约束条件是数据在无线链路中传输的数据率不大于该无线链路的容量,具体地,链路容量 与频谱复用的时长相关;设
Figure 801378DEST_PATH_IMAGE027
为两条不同的链路复用相同子载波
Figure 597296DEST_PATH_IMAGE026
的时隙占比,
Figure 803018DEST_PATH_IMAGE028
为 链路
Figure 949966DEST_PATH_IMAGE025
独占子载波
Figure 774702DEST_PATH_IMAGE026
且不与其他链路共享频谱的时隙占比,那么该链路的容量约束的表达 式如下所示:
Figure 690706DEST_PATH_IMAGE029
(9)
其中,
Figure 552482DEST_PATH_IMAGE030
表示在第
Figure 186726DEST_PATH_IMAGE025
条链路的第
Figure 549574DEST_PATH_IMAGE026
个子载波上分配的功率,
Figure 585663DEST_PATH_IMAGE031
表示在第
Figure 369074DEST_PATH_IMAGE032
条 链路的第
Figure 490614DEST_PATH_IMAGE026
个子载波上分配的功率,
Figure 657153DEST_PATH_IMAGE033
表示链路l的链路增益,
Figure 282169DEST_PATH_IMAGE034
表示链路
Figure 751328DEST_PATH_IMAGE025
与链路
Figure 94585DEST_PATH_IMAGE032
复 用相同子载波
Figure 64815DEST_PATH_IMAGE026
的链路增益,当完全不共享频谱资源时,
Figure 809917DEST_PATH_IMAGE035
=1,
Figure 699244DEST_PATH_IMAGE036
=0,当共享频谱资源时,
Figure 529797DEST_PATH_IMAGE037
进一步地,根据网络中基础的功率资源数据,分别抽象描述每种网络中可分配的基础资源,包括:对于功率资源的分配,主要会影响能量以及信干噪比的性能指标,考虑到香农公式,往往功率分配和频率分配问题是需要联合考虑的,功率约束条件可以表示为:
Figure 38139DEST_PATH_IMAGE038
(10)
Figure 637747DEST_PATH_IMAGE039
(11)
Figure 448708DEST_PATH_IMAGE040
(12)
上式中,
Figure 766557DEST_PATH_IMAGE041
表示节点在链路l的所有子载波上的最大功率值,公式(10)表示节 点在每条链路的所有子载波上的发射功率之和不大于在该条链路上它所能分配的最大功 率值;
Figure 813011DEST_PATH_IMAGE042
表示信干噪比最低阈值,公式(11)表示分配的功率应能保证接收端的信干噪比不 低于最低阈值;
Figure 532705DEST_PATH_IMAGE043
表示每条链路所有子载波上的能量消耗之和,
Figure 262370DEST_PATH_IMAGE044
表示指在第l条链路上 业务流的传输时长,
Figure 67515DEST_PATH_IMAGE045
表示各链路的最大能量消耗值,公式(12)表示在每条链路所有子 载波上的能量消耗之和不应超过该链路的最大能量消耗值。
进一步地,根据网络中基础的算力存储资源数据,分别抽象描述每种网络中可分配的基础资源,包括:在算力存储资源分配方面,应联合考虑算网存一体化场景下的基本约束,包括:
Figure 917660DEST_PATH_IMAGE046
(13)
其中,
Figure 491860DEST_PATH_IMAGE047
表示一个比特的数据量需要占用多少个cpu循环周期,
Figure 644624DEST_PATH_IMAGE048
表示每个任务 的数据量大小,
Figure 671486DEST_PATH_IMAGE049
表示为该任务分配的计算资源的占比,
Figure 325321DEST_PATH_IMAGE050
表示cpu的计算频率(即处理一 个cpu循环所需要的时间),
Figure 754028DEST_PATH_IMAGE051
表示cpu运行的总时长,
Figure 326961DEST_PATH_IMAGE052
表示所有(业务流)任务的集合,该 约束整体表示的含义是算力服务器为每个任务在规定时长内分配的cpu频率要满足该任务 的需求,且各任务所占的算力资源之和不超过100%。
Figure 106698DEST_PATH_IMAGE053
(14)
其中,
Figure 298645DEST_PATH_IMAGE054
表示任务所需要的存储单元数量,
Figure 581859DEST_PATH_IMAGE055
表示算力服务器为该任务分配的 存储单元的比例,
Figure 342005DEST_PATH_IMAGE056
表示服务器上当前可用的存储单元总量,公式(14)表示算力服务器为 每个任务所分配的存储单元的数量要满足该任务的需求,且所有任务需要的内存占比之和 不超过100%。
Figure 343459DEST_PATH_IMAGE057
(15)
其中,
Figure 339097DEST_PATH_IMAGE058
表示最大能耗阈值,
Figure 476817DEST_PATH_IMAGE059
表示计算机芯片的效率容量系数,公式(15)表 示计算和存储过程中所需要的能耗不超过最大能耗阈值。
第二融合模块5,用于将上述用户自定义业务数据与上述网络基础资源数据融合,生成服务层资源约束条件。
具体地,利用用户自定义业务数据中的用户自定义时隙容量阈值
Figure 158596DEST_PATH_IMAGE060
生成的时隙 约束条件为:
Figure 647346DEST_PATH_IMAGE061
(16)
进一步地,利用用户自定义业务数据中的用户自定义频率带宽阈值
Figure 181096DEST_PATH_IMAGE062
生成的频 率约束条件为:
Figure 438902DEST_PATH_IMAGE063
(17)
进一步地,利用用户自定义业务数据中的用户自定义功率阈值
Figure 540850DEST_PATH_IMAGE064
、用户自定义 信噪比阈值
Figure 48055DEST_PATH_IMAGE065
和用户自定义能量阈值
Figure 588758DEST_PATH_IMAGE066
生成的功率约束条件为:
Figure 966649DEST_PATH_IMAGE067
(18)
Figure 223187DEST_PATH_IMAGE068
(19)
Figure 686529DEST_PATH_IMAGE069
(20)
进一步地,利用用户自定义业务数据中的用户自定义算力存储阈值
Figure 562082DEST_PATH_IMAGE070
Figure 794480DEST_PATH_IMAGE071
Figure 972651DEST_PATH_IMAGE072
生成算力存储约束条件:
Figure 923290DEST_PATH_IMAGE073
(21)
Figure 602533DEST_PATH_IMAGE074
(22)
Figure 689438DEST_PATH_IMAGE075
(23)
约束模块6与上述第一融合网络4和上述第二融合网络5连接,用于将上述网络层资源约束条件与上述服务层资源约束条件作为上述网络资源基本约束条件。
作为本发明一个可选实施方式,上述智慧融合适配层2,还包括:
构建模块7,用于根据上述以业务流为服务对象的决策变量建立目标优化函数,并基于上述目标优化函数与上述网络资源基本约束条件构建网络资源普适化调度模型。
转换模块8,用于将上述网络资源普适化调度模型转换为马尔可夫决策过程。
具体地,根据网络资源普适化调度模型,以业务流为调度主体,建立状态空间、动作空间与奖励,进而基于状态空间、动作空间与奖励确定马尔可夫决策过程。
训练模块9,用于利用上述马尔可夫决策过程对预设神经网络进行训练,生成网络资源普适化网络模型。
具体地,根据转换后的马尔可夫决策过程,使用神经网络黑盒模型在线决策业务流所对应的决策变量,预设神经网络的输入包括现网路由、时隙、频率、功率、算力、存储和用户自定义状态资源,输出包括业务流可用的路由路径、时隙大小、频率带宽、功率大小,以及用户自定义的业务流决策变量,且决策变量既可以是离散值,也可以是连续值,进而基于上述输入输出对预设神经网络训练学习,生成网络资源普适化网络模型。
作为本发明一个可选实施方式,如图5所示,上述转换模块8,包括:
第一构建单元10,用于提取上述用户自定义业务数据中的用户自定义状态信息,并提取网络资源基本约束条件中的网络资源变量,基于上述业务流基本属性、上述用户自定义状态信息和上述网络资源变量构建状态空间。
具体地,状态空间中应重点包含普适网络模型约束条件中的变量,以及环境中必要的网络或业务流信息,如果某约束条件是环境中先天性满足的,且状态转移过程中不会打破该约束,那么可以不作为状态进行观察,状态空间的构建过程为:对于通过路由需要满足的性能指标约束,将性能指标变量加入状态空间中;对于通过时隙资源分配而产生的时隙容量约束,将时隙变量加入到状态空间中;对于通过频率资源分配而产生的数据率约束,需要将数据率变量加入到状态空间中;对于通过功率资源分配而产生的功率大小、信干噪比和能量约束,需要将功率变量、信干噪比变量和功率能量变量加入到状态空间中;对于通过计算存储资源分配而产生的计算时间、存储空间和能量约束,需要将计算时间变量、存储空间变量和计算存储能量变量加入到状态空间中;对于每步注入到网络中的业务流,将业务流基本属性加入到状态空间中;对于用户自定义状态信息,需要将用户自定义状态信息加入到状态空间中。
第二构建单元11,用于提取上述用户自定义业务数据中的用户自定义动作决策变量,并基于上述用户自定义动作决策变量与上述以业务流为服务对象的决策变量构建动作空间。
具体地,动作空间中主要包含网络资源普适化调度模型优化目标函数中的所有待决策的变量,包括路由、时隙、频率、功率、算力、存储六个变量的决策,进而在算网存一体化场景中,一般可以将算力存储资源分配过程映射到算力路由,当作路由决策来处理,从而缩小动作空间的规模,便于求解器求解,动作空间的构建过程为:对于优化目标函数中的路由决策变量,将路由决策变量加入到动作空间中;对于优化目标函数中的时隙决策变量,将时隙决策变量加入到动作空间中;对于优化目标函数中的频率决策变量,将频率决策变量加入到动作空间中;对于优化目标函数中的功率决策变量,将功率决策变量加入到动作空间中;对于用户自定义动作决策变量,将用户自定义动作决策变量加入到动作空间中。
第一确定单元12,用于基于上述目标优化函数确定奖励。
具体地,奖励应根据优化目标来设计,为了进一步提升算法的收敛速度,采用塑型回报的方法来替代稀疏奖励,以多目标优化函数F为例,将其拆分成N个子优化目标,分别记作F 1F 2,…,F n,对于每个子目标,塑型回报都可以表示为相邻两步之间势能函数的差值,则塑型回报值的计算公式如下所示:
Figure 786313DEST_PATH_IMAGE076
(24)
其中,
Figure 20985DEST_PATH_IMAGE077
表示第
Figure 176023DEST_PATH_IMAGE078
个子优化目标在第
Figure 320697DEST_PATH_IMAGE079
步得到的塑型回报值,
Figure 902988DEST_PATH_IMAGE080
表示 第
Figure 624956DEST_PATH_IMAGE078
个子优化目标在第
Figure 583685DEST_PATH_IMAGE081
步所具有的势能,
Figure 832133DEST_PATH_IMAGE082
表示第
Figure 116483DEST_PATH_IMAGE078
个子优化目标在第
Figure 60169DEST_PATH_IMAGE079
步所具有 的势能,
Figure 822588DEST_PATH_IMAGE083
表示第
Figure 410695DEST_PATH_IMAGE078
个子目标的虹吸状态,
Figure 600368DEST_PATH_IMAGE084
Figure 296929DEST_PATH_IMAGE085
表示塑型因子,其中,
Figure 597460DEST_PATH_IMAGE086
Figure 56386DEST_PATH_IMAGE087
第三构建单元13,用于基于上述状态空间、上述动作空间和上述奖励构建上述马尔可夫决策过程。
作为本发明一个可选实施方式,如图6所示,上述训练模块9,包括:
第一生成单元14,用于将上述状态空间输入上述预设神经网络中,生成当前决策变量,基于上述当前决策变量与上述状态空间确定当前状态动作价值函数;其中,上述当前决策变量属于上述动作空间。
具体地,将状态空间中的业务流基本属性、用户自定义状态信息和网络资源变量作为预设神经网络的输入,将动作空间中的用户自定义动作决策变量与以业务流为服务对象的决策变量作为预设神经网络的输出。
第二生成单元15,用于将上述状态空间输入至预设评判函数中,生成评判决策变量,基于上述状态空间与上述评判决策变量确定目标状态动作价值函数;其中,上述评判决策变量属于上述动作空间。
具体地,联合以业务流为服务对象的资源状态和决策变量,评价当前神经网络决策的函数,即将状态空间中的业务流基本属性、用户自定义状态信息和网络资源变量作为预设评判函数的输入,将动作空间中的用户自定义动作决策变量与以业务流为服务对象的决策变量作为预设评判函数的输出。
第二确定单元16,用于基于上述奖励、上述当前状态动作价值函数和上述目标状态动作价值函数确定损失函数。
具体地,损失函数的计算公式如下所示:
Figure 416960DEST_PATH_IMAGE088
(25)
其中,
Figure 600817DEST_PATH_IMAGE089
表示样本数量,
Figure 439460DEST_PATH_IMAGE090
表示当前状态动作价值函数,
Figure 267738DEST_PATH_IMAGE091
表示评判价值,
Figure 799214DEST_PATH_IMAGE092
表示第
Figure 204787DEST_PATH_IMAGE093
个样本的状态,
Figure 112700DEST_PATH_IMAGE094
表示
Figure 44753DEST_PATH_IMAGE093
个样本的动作,评判价值
Figure 747130DEST_PATH_IMAGE091
的取值过程为:
Figure 640000DEST_PATH_IMAGE095
(26)
其中,
Figure 820445DEST_PATH_IMAGE096
表示目标状态动作价值函数,
Figure 623316DEST_PATH_IMAGE097
表示环境给予第
Figure 496594DEST_PATH_IMAGE093
个样本的奖励,
Figure 876760DEST_PATH_IMAGE098
表示折扣因子,
Figure 860897DEST_PATH_IMAGE099
Figure 266077DEST_PATH_IMAGE100
分别表示当前神经网络和评价函数的参数。
迭代优化单元17,用于利用梯度下降法对上述损失函数进行迭代优化,直至上述损失函数最小化且收敛,生成上述网络资源普适化网络模型。
具体地,在每一步,为业务流同时决策路由、时隙、频率、功率等多种资源的分配,使状态发生转移,同时得到该步的及时奖励,如果该步的业务流调度失败,则初始化状态重新开始下一轮次训练,如果全部业务流都调度成功,则额外收获一个较大的奖励值,同时初始化状态进行下一轮次的训练,每隔一定训练轮次,使用当前神经网络决策的预设评价函数对神经网络进行更新。
本发明实施例还公开了一种普适的异构融合算网资源智慧适配方法,如图7所示,包括:
S701、获取异构服务侧业务特征和异构网络侧资源特征;其中,上述异构服务侧业务特征由上述智慧融合服务层基于采集的异构业务流(如图4中的周期流、突发流、实时流、控制流等)提取生成,上述异构网络侧资源特征由上述智慧融合网络层基于采集的异构网络资源(如图4所示的4G、5G、时间敏感网络TSN、软件定义网络SDN、无线网络WiFi、确定性网络DetNet)提取生成。
具体地,上述异构服务侧业务特征,包括:由路由资源数据、时隙资源数据、频率资源数据、功率资源数据与算力存储资源数据组成的网络基础资源数据;上述异构服务侧业务特征,包括:业务流基本属性(包括数据包数量、源地址、目的地址、流周期、数据包大小、流的传输路径和业务流服务质量需求等)、服务质量需求(包括时延需求、抖动需求、可靠性需求、链路利用率需求、负载均衡度需求和吞吐量需求等)和用户自定义业务数据。
S702、基于上述异构服务侧业务特征和上述异构网络侧资源特征确定网络资源基本约束条件,上述网络资源基本约束条件中包括网络服务对象。
具体地,网络资源基本约束条件包括路由约束条件、时隙约束条件、频率约束条件、功率约束条件与算力存储资源约束条件。
S703、利用预设映射策略将上述网络服务对象映射为以业务流为服务对象的决策变量,上述预设映射策略包括网络服务对象与业务流之间的对应关系。
具体地,确定不同网络资源基本约束条件相对应的网络服务对象,并建立不同网络服务对象与业务流这一对象之间的对应关系,保证调度过程中的决策变量是业务流属性与网络基础资源数据的容量大小(例如,在各网络基础资源数据中可以分配的业务流,业务流的容量占比,业务流对应的网络基础资源数据);其中,网络服务对象可以为网元设备(例如队列,用户等实体设备)或网络基础资源数据。
S704、根据上述以业务流为服务对象的决策变量建立目标优化函数,并基于上述目标优化函数与上述网络资源基本约束条件生成网络资源普适化网络模型。
具体地,根据映射后的以业务流为服务对象的决策变量,建立目标优化函数与,例如最小化端到端时延函数、最大化链路利用率函数、最均衡化负载函数、最大化调度成功率函数等;建立的目标优化函数既可以为单目标优化函数,也可以为多目标优化函数。
进一步地,根据映射后的以业务流为服务对象的决策变量和每个网络中的资源约束,建立全局的、统一的约束条件,包括路由、时隙、频率、功率、算力存储资源的约束条件,用户还可以根据实际的应用需求加入特定的约束条件。
S705,利用上述网络资源普适化网络模型对异构融合算网资源进行分配,生成资源分配结果。
具体地,智慧融合服务层采集实时业务流,智慧融合适配层将实时业务流网络资源普适化网络模型中,基于资源分配结果将实时业务流分配给智慧融合网络层中。
本发明提供的一种普适的异构融合算网资源智慧适配方法,通过将智慧融合服务层提取的异构服务侧业务特征和智慧融合网络层提取的异构网络侧资源特征确定网络资源基本约束条件,建立网络资源普适化网络模型,解决了异构融合网络横向和纵向不同调度场景中的资源联合分配的问题,从而得到各种网络资源的分配结果,从端到端全局优化的视角有效解决了异构融合网络中横向资源耦合、纵向调度不协调的难题,提高了网络的可扩展性和调度的性能。
作为本发明一个可选实施方式,上述S702,即基于上述异构服务侧业务特征和上述异构网络侧资源特征确定网络资源基本约束条件,上述网络资源基本约束条件中包括网络服务对象,包括:
将上述业务流基本属性、上述服务质量需求与上述网络基础资源数据进行融合,生成网络层资源约束条件。
具体地,根据网络中基础的路由资源数据,分别抽象描述每种网络中可分配的基 础资源,包括:在路由资源数据分配方面,网络应满足流量守恒定律,以
Figure 310256DEST_PATH_IMAGE101
表示以
Figure 177718DEST_PATH_IMAGE102
为源 节点,注入到网络中的所有以
Figure 965545DEST_PATH_IMAGE103
为目的节点的业务流速率,其满足:
Figure 477429DEST_PATH_IMAGE104
(1)
其中,
Figure 692510DEST_PATH_IMAGE105
为一个指示符号,如果第
Figure 781689DEST_PATH_IMAGE102
个节点的第
Figure 373207DEST_PATH_IMAGE106
条链路是输出链路,那么
Figure 988865DEST_PATH_IMAGE105
= 1,如果第
Figure 374847DEST_PATH_IMAGE102
个节点的第
Figure 216901DEST_PATH_IMAGE106
条链路是输入链路,那么
Figure 346531DEST_PATH_IMAGE105
=-1,如果是其他非
Figure 567428DEST_PATH_IMAGE102
节点上的链 路,那么
Figure 389891DEST_PATH_IMAGE105
=0;
Figure 453662DEST_PATH_IMAGE107
表示在链路
Figure 121403DEST_PATH_IMAGE106
上所有目的地址为
Figure 213118DEST_PATH_IMAGE108
节点的业务流的数据率,
Figure 206482DEST_PATH_IMAGE109
表示网 络中所有节点数的集合,
Figure 491970DEST_PATH_IMAGE110
表示所有目的节点的集合。
在无线网络中,由于在每条链路上还需要对应的子载波承载发送数据包,所以上式进一步扩展为:
Figure 228982DEST_PATH_IMAGE111
(2)
上式中,
Figure 424471DEST_PATH_IMAGE112
表示第
Figure 323157DEST_PATH_IMAGE106
个链路第
Figure 361520DEST_PATH_IMAGE113
个子载波上的所有到达目的节点
Figure 636643DEST_PATH_IMAGE114
的数据率 大小。
其中,根据网络流量守恒定律,最终从目的节点离开网络的数据率应等于网络中 所有节点向
Figure 935907DEST_PATH_IMAGE114
节点发送的数据率之和,从目的节点离开网络的数据率
Figure 271073DEST_PATH_IMAGE115
的计算公式如下:
Figure 531153DEST_PATH_IMAGE116
(3)
其中,
Figure 609967DEST_PATH_IMAGE117
在此基础上,为保障每条业务流在路由传输过程中适配多样的性能指标需求,用户可以建立多种路由约束条件,一般而言,公式可以概括为:
Figure 780049DEST_PATH_IMAGE118
(4)
其中,
Figure 20537DEST_PATH_IMAGE119
表示路由决策后业务流性能的计算公式,
Figure 33493DEST_PATH_IMAGE120
表示路由决策,
Figure 650419DEST_PATH_IMAGE121
表示用户定制的业务流属性或服务质量需求,例如时延需求、可靠性需求、链路利用率需 求、负载均衡需求等,符号
Figure 422809DEST_PATH_IMAGE013
表示性能适配。
进一步地,根据网络中基础时隙资源数据,分别抽象描述每种网络中可分配的基础资源,包括:在时隙资源分配方面,为了解决网络中的数据包冲突碰撞问题,提高业务流传输的可靠性,基本的约束条件是同一链路上相同传输时隙中传输的业务流数据量不超过该时隙的总容量,其表达式如下:
Figure 834199DEST_PATH_IMAGE122
(5)
其中,
Figure 68871DEST_PATH_IMAGE123
表示指在第
Figure 489488DEST_PATH_IMAGE124
条链路上业务流在第
Figure 368583DEST_PATH_IMAGE125
个时隙上的传输时长,
Figure 216453DEST_PATH_IMAGE126
表示第
Figure 938421DEST_PATH_IMAGE124
条链路上该段传输时隙内的总容量,特别的,在有线网络中第
Figure 897150DEST_PATH_IMAGE124
条链路上该段传输时隙内 的总容量
Figure 145598DEST_PATH_IMAGE126
的计算公式如下所示:
Figure 164369DEST_PATH_IMAGE127
(6)
其中,
Figure 108054DEST_PATH_IMAGE128
表示链路
Figure 870474DEST_PATH_IMAGE124
的总带宽,
Figure 724161DEST_PATH_IMAGE129
表示效率系数,在无线网络中,可以根据不同子 载波,进一步将第
Figure 913833DEST_PATH_IMAGE124
条链路上该段传输时隙内的总容量
Figure 610394DEST_PATH_IMAGE130
的计算公式扩展成:
Figure 910925DEST_PATH_IMAGE131
(7)
上述公式表示在每个子载波上的传输数据总量都不能超过相应时隙上的容量
Figure 369851DEST_PATH_IMAGE132
,此时
Figure 730425DEST_PATH_IMAGE132
的计算公式为:
Figure 648702DEST_PATH_IMAGE133
(8)
其中,
Figure 752925DEST_PATH_IMAGE134
表示在
Figure 581203DEST_PATH_IMAGE124
条链路上第
Figure 112679DEST_PATH_IMAGE135
个子载波的带宽大小,SINR表示信干噪比。
进一步地,根据网络中基础的频率资源数据,分别抽象描述每种网络中可分配的 基础资源,包括:在频率资源分配方面,为保障在无线链路中的数据传输,需要满足的基本 约束条件是数据在无线链路中传输的数据率不大于该无线链路的容量,具体地,链路容量 与频谱复用的时长相关;设
Figure 518252DEST_PATH_IMAGE136
为两条不同的链路复用相同子载波
Figure 160586DEST_PATH_IMAGE135
的时隙占比,
Figure 92639DEST_PATH_IMAGE137
为链路
Figure 795016DEST_PATH_IMAGE124
独占子载波
Figure 687886DEST_PATH_IMAGE135
且不与其他链路共享频谱的时隙占比,那么该链路的容量约束的表达式如 下所示:
Figure 133910DEST_PATH_IMAGE138
(9)
其中,
Figure 936781DEST_PATH_IMAGE139
表示在第
Figure 810059DEST_PATH_IMAGE124
条链路的第
Figure 924646DEST_PATH_IMAGE135
个子载波上分配的功率,
Figure 174362DEST_PATH_IMAGE140
表示在第
Figure 579542DEST_PATH_IMAGE141
条链 路的第
Figure 623721DEST_PATH_IMAGE135
个子载波上分配的功率,
Figure 225604DEST_PATH_IMAGE142
表示链路
Figure 13431DEST_PATH_IMAGE124
的链路增益,
Figure 525315DEST_PATH_IMAGE143
表示链路
Figure 740396DEST_PATH_IMAGE124
与链路
Figure 95154DEST_PATH_IMAGE141
复用相 同子载波
Figure 421093DEST_PATH_IMAGE135
的链路增益,当完全不共享频谱资源时,
Figure 302330DEST_PATH_IMAGE144
=1,
Figure 688312DEST_PATH_IMAGE145
=0,当共享频谱资源时,
Figure 264787DEST_PATH_IMAGE146
进一步地,根据网络中基础的功率资源数据,分别抽象描述每种网络中可分配的基础资源,包括:对于功率资源的分配,主要会影响能量以及信干噪比的性能指标,考虑到香农公式,往往功率分配和频率分配问题是需要联合考虑的,功率约束条件可以表示为:
Figure 394417DEST_PATH_IMAGE147
(10)
Figure 880893DEST_PATH_IMAGE148
(11)
Figure 437776DEST_PATH_IMAGE149
(12)
上式中,
Figure 501547DEST_PATH_IMAGE150
表示节点在链路
Figure 434868DEST_PATH_IMAGE124
的所有子载波上的最大功率值,公式(10)表示节 点在每条链路的所有子载波上的发射功率之和不大于在该条链路上它所能分配的最大功 率值;
Figure 526583DEST_PATH_IMAGE151
表示信干噪比最低阈值,公式(11)表示分配的功率应能保证接收端的信干噪比不 低于最低阈值;
Figure 254368DEST_PATH_IMAGE152
表示每条链路所有子载波上的能量消耗之和,
Figure 805435DEST_PATH_IMAGE153
表示指在第
Figure 542447DEST_PATH_IMAGE124
条链路上 业务流的传输时长,
Figure 737936DEST_PATH_IMAGE154
表示各链路的最大能量消耗值,公式(12)表示在每条链路所有子 载波上的能量消耗之和不应超过该链路的最大能量消耗值。
进一步地,根据网络中基础的算力存储资源数据,分别抽象描述每种网络中可分配的基础资源,包括:在算力存储资源分配方面,应联合考虑算网存一体化场景下的基本约束,包括:
Figure 433360DEST_PATH_IMAGE155
(13)
其中,
Figure 409406DEST_PATH_IMAGE156
表示一个比特的数据量需要占用多少个cpu循环周期,
Figure 871480DEST_PATH_IMAGE157
表示每个任务 的数据量大小,
Figure 983792DEST_PATH_IMAGE158
表示为该任务分配的计算资源的占比,
Figure 381276DEST_PATH_IMAGE159
表示cpu的计算频率(即处理 一个cpu循环所需要的时间),
Figure 579039DEST_PATH_IMAGE160
表示cpu运行的总时长,
Figure 595536DEST_PATH_IMAGE161
表示所有(业务流)任务的集合, 该约束整体表示的含义是算力服务器为每个任务在规定时长内分配的cpu频率要满足该任 务的需求,且各任务所占的算力资源之和不超过100%。
Figure 562355DEST_PATH_IMAGE162
(14)
其中,
Figure 130740DEST_PATH_IMAGE163
表示任务所需要的存储单元数量,
Figure 815799DEST_PATH_IMAGE164
表示算力服务器为该任务分配的 存储单元的比例,
Figure 698305DEST_PATH_IMAGE165
表示服务器上当前可用的存储单元总量,公式(14)表示算力服务器为 每个任务所分配的存储单元的数量要满足该任务的需求,且所有任务需要的内存占比之和 不超过100%。
Figure 205116DEST_PATH_IMAGE166
(15)
其中,
Figure 944402DEST_PATH_IMAGE167
表示最大能耗阈值,
Figure 116757DEST_PATH_IMAGE168
表示计算机芯片的效率容量系数,公式(15)表示 计算和存储过程中所需要的能耗不超过最大能耗阈值。
将上述用户自定义业务数据与上述网络基础资源数据融合,生成服务层资源约束条件(包括时隙约束条件、频率约束条件、功率约束条件与算力存储资源约束条件)。
具体地,利用用户自定义业务数据中的用户自定义时隙容量阈值
Figure 475057DEST_PATH_IMAGE169
生成的时隙 约束条件为:
Figure 416469DEST_PATH_IMAGE170
(16)
进一步地,利用用户自定义业务数据中的用户自定义频率带宽阈值
Figure 326656DEST_PATH_IMAGE171
生成的频 率约束条件为:
Figure 986307DEST_PATH_IMAGE172
(17)
进一步地,利用用户自定义业务数据中的用户自定义功率阈值
Figure 131987DEST_PATH_IMAGE173
、用户自定义 信噪比阈值
Figure 193484DEST_PATH_IMAGE174
和用户自定义能量阈值
Figure 8993DEST_PATH_IMAGE175
生成的功率约束条件为:
Figure 155940DEST_PATH_IMAGE176
(18)
Figure 856043DEST_PATH_IMAGE177
(19)
Figure 772047DEST_PATH_IMAGE178
(20)
进一步地,利用用户自定义业务数据中的用户自定义算力存储阈值
Figure 24036DEST_PATH_IMAGE179
Figure 392701DEST_PATH_IMAGE180
Figure 381648DEST_PATH_IMAGE181
生成算力存储约束条件:
Figure 417737DEST_PATH_IMAGE182
(21)
Figure 840628DEST_PATH_IMAGE183
(22)
Figure 696588DEST_PATH_IMAGE184
(23)
将上述网络层资源约束条件与上述服务层资源约束条件作为上述网络资源基本约束条件。
作为本发明一个可选实施方式,上述S704,即根据上述以业务流为服务对象的决策变量建立目标优化函数,并基于上述目标优化函数与上述网络资源基本约束条件生成网络资源普适化网络模型,包括:
根据上述以业务流为服务对象的决策变量建立目标优化函数,并基于上述目标优化函数与上述网络资源基本约束条件构建网络资源普适化调度模型。
将上述网络资源普适化调度模型转换为马尔可夫决策过程。
具体地,根据网络资源普适化调度模型,以业务流为调度主体,建立状态空间、动作空间与奖励,进而基于状态空间、动作空间与奖励确定马尔可夫决策过程。
利用上述马尔可夫决策过程对预设神经网络进行训练,生成网络资源普适化网络模型。
具体地,根据转换后的马尔可夫决策过程,使用神经网络黑盒模型在线决策业务流所对应的决策变量,预设神经网络的输入包括现网路由、时隙、频率、功率、算力、存储和用户自定义状态资源,输出包括业务流可用的路由路径、时隙大小、频率带宽、功率大小,以及用户自定义的业务流决策变量,且决策变量既可以是离散值,也可以是连续值,进而基于上述输入输出对预设神经网络训练学习,生成网络资源普适化网络模型。
作为本发明一个可选实施方式,上述将上述网络资源普适化调度模型转换为马尔可夫决策过程,包括:
提取上述用户自定义业务数据中的用户自定义状态信息,并提取网络资源基本约束条件中的网络资源变量(包括性能指标变量、时隙变量、数据率变量、功率变量、信干噪比变量、功率能量变量、计算时间变量、存储空间变量和计算存储能量变量),基于上述业务流基本属性、上述用户自定义状态信息和上述网络资源变量构建状态空间。
具体地,状态空间中应重点包含普适网络模型约束条件中的变量,以及环境中必要的网络或业务流信息,如果某约束条件是环境中先天性满足的,且状态转移过程中不会打破该约束,那么可以不作为状态进行观察,状态空间的构建过程为:对于通过路由需要满足的性能指标约束,将性能指标变量加入状态空间中;对于通过时隙资源分配而产生的时隙容量约束,将时隙变量加入到状态空间中;对于通过频率资源分配而产生的数据率约束,需要将数据率变量加入到状态空间中;对于通过功率资源分配而产生的功率大小、信干噪比和能量约束,需要将功率变量、信干噪比变量和功率能量变量加入到状态空间中;对于通过计算存储资源分配而产生的计算时间、存储空间和能量约束,需要将计算时间变量、存储空间变量和计算存储能量变量加入到状态空间中;对于每步注入到网络中的业务流,将业务流基本属性加入到状态空间中;对于用户自定义状态信息,需要将用户自定义状态信息加入到状态空间中。
提取上述用户自定义业务数据中的用户自定义动作决策变量,并基于上述用户自定义动作决策变量与上述以业务流为服务对象的决策变量构建动作空间。
具体地,动作空间中主要包含网络资源普适化调度模型优化目标函数中的所有待决策的变量,包括路由、时隙、频率、功率、算力、存储六个变量的决策,进而在算网存一体化场景中,一般可以将算力存储资源分配过程映射到算力路由,当作路由决策来处理,从而缩小动作空间的规模,便于求解器求解,动作空间的构建过程为:对于优化目标函数中的路由决策变量,将路由决策变量加入到动作空间中;对于优化目标函数中的时隙决策变量,将时隙决策变量加入到动作空间中;对于优化目标函数中的频率决策变量,将频率决策变量加入到动作空间中;对于优化目标函数中的功率决策变量,将功率决策变量加入到动作空间中;对于用户自定义动作决策变量,将用户自定义动作决策变量加入到动作空间中。
基于上述目标优化函数确定奖励。
具体地,奖励应根据优化目标来设计,为了进一步提升算法的收敛速度,采用塑型回报的方法来替代稀疏奖励,以多目标优化函数F为例,将其拆分成N个子优化目标,分别记作F 1F 2,…,F n,对于每个子目标,塑型回报都可以表示为相邻两步之间势能函数的差值,则塑型回报值的计算公式如下所示:
Figure 738494DEST_PATH_IMAGE076
(24)
其中,
Figure 629089DEST_PATH_IMAGE185
表示第
Figure 222882DEST_PATH_IMAGE186
个子优化目标在第
Figure 566138DEST_PATH_IMAGE187
步得到的塑型回报值(即奖励),
Figure 395423DEST_PATH_IMAGE188
表示
Figure 140525DEST_PATH_IMAGE186
个子优化目标在第
Figure 905219DEST_PATH_IMAGE189
步所具有的势能,
Figure 735771DEST_PATH_IMAGE190
表示第
Figure 119479DEST_PATH_IMAGE186
个子优化目标在第
Figure 719088DEST_PATH_IMAGE187
步 所具有的势能,
Figure 654683DEST_PATH_IMAGE191
表示第
Figure 972532DEST_PATH_IMAGE186
个子目标的虹吸状态,
Figure 907733DEST_PATH_IMAGE192
Figure 361849DEST_PATH_IMAGE193
表示塑型因子,其中,
Figure 468345DEST_PATH_IMAGE194
Figure 273490DEST_PATH_IMAGE195
基于上述状态空间、上述动作空间和上述奖励构建上述马尔可夫决策过程。
作为本发明一个可选实施方式,上述利用上述马尔可夫决策过程对预设神经网络进行训练,生成网络资源普适化网络模型,包括:
将上述状态空间输入上述预设神经网络中,生成当前决策变量,基于上述当前决策变量与上述状态空间确定当前状态动作价值函数;其中,上述当前决策变量属于上述动作空间。
具体地,将状态空间中的业务流基本属性、用户自定义状态信息和网络资源变量作为预设神经网络的输入,将动作空间中的用户自定义动作决策变量与以业务流为服务对象的决策变量作为预设神经网络的输出。
将上述状态空间输入至预设评判函数中,生成评判决策变量,基于上述状态空间与上述评判决策变量确定目标状态动作价值函数;其中,上述评判决策变量属于上述动作空间。
具体地,联合以业务流为服务对象的资源状态和决策变量,评价当前神经网络决策的函数,即将状态空间中的业务流基本属性、用户自定义状态信息和网络资源变量作为预设评判函数的输入,将动作空间中的用户自定义动作决策变量与以业务流为服务对象的决策变量作为预设评判函数的输出。
基于上述奖励、上述当前状态动作价值函数和上述目标状态动作价值函数确定损失函数。
具体地,损失函数的计算公式如下所示:
Figure 999000DEST_PATH_IMAGE196
(25)
其中,
Figure 573201DEST_PATH_IMAGE197
表示样本数量,
Figure 850599DEST_PATH_IMAGE198
表示当前状态动作价值函数,
Figure 143040DEST_PATH_IMAGE199
表示评判价值,
Figure 655930DEST_PATH_IMAGE200
表示第
Figure 84637DEST_PATH_IMAGE201
个样本的状态,
Figure 798515DEST_PATH_IMAGE202
表示第
Figure 312673DEST_PATH_IMAGE201
个样本的动作,评判价值
Figure 379986DEST_PATH_IMAGE199
的取值过程为:
Figure 928779DEST_PATH_IMAGE203
(26)
其中,
Figure 547979DEST_PATH_IMAGE204
表示目标状态动作价值函数,
Figure 549433DEST_PATH_IMAGE205
表示环境给予第
Figure 171170DEST_PATH_IMAGE201
个样本的奖励,
Figure 574469DEST_PATH_IMAGE206
表示折扣因子,
Figure 364571DEST_PATH_IMAGE207
Figure 853321DEST_PATH_IMAGE208
分别表示当前神经网络和评价函数的参数。
利用梯度下降法对上述损失函数进行迭代优化,直至上述损失函数最小化且收敛,生成上述网络资源普适化网络模型。
具体地,在每一步,为业务流同时决策路由、时隙、频率、功率等多种资源的分配,使状态发生转移,同时得到该步的及时奖励,如果该步的业务流调度失败,则初始化状态重新开始下一轮次训练,如果全部业务流都调度成功,则额外收获一个较大的奖励值,同时初始化状态进行下一轮次的训练,每隔一定训练轮次,使用当前神经网络决策的预设评价函数对神经网络进行更新。
另外,本发明实施例还提供了一种电子设备,如图8所示,该电子设备可以包括处理器110和存储器120,其中处理器110和存储器120可以通过总线或者其他方式连接,图8中以通过总线连接为例。此外,该电子设备中还包括至少一个接口130,该至少一个接口130可以是通信接口或其他接口,本实施例对此不做限制。
其中,处理器110可以为中央处理器(Central Processing Unit,CPU)。处理器110还可以为其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等芯片,或者上述各类芯片的组合。
存储器120作为一种非暂态计算机可读存储介质,可用于存储非暂态软件程序、非暂态计算机可执行程序以及模块,如本发明实施例中的视频合成方法对应的程序指令/模块。处理器110通过运行存储在存储器120中的非暂态软件程序、指令以及模块,从而执行处理器的各种功能应用以及数据处理,即实现上述方法实施例中的一种普适的异构融合算网资源智慧适配方法。
存储器120可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序;存储数据区可存储处理器110所创建的数据等。此外,存储器120可以包括高速随机存取存储器,还可以包括非暂态存储器,例如至少一个磁盘存储器件、闪存器件、或其他非暂态固态存储器件。在一些实施例中,存储器120可选包括相对于处理器110远程设置的存储器,这些远程存储器可以通过网络连接至处理器110。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
另外,至少一个接口130用于电子设备与外部设备的通信,比如与服务器通信等。可选的,至少一个接口130还可以用于连接外设输入、输出设备,比如键盘、显示屏等。
所上述一个或者多个模块存储在所述存储器120中,当被所述处理器110执行时,执行如图7所示实施例中的一种普适的异构融合算网资源智慧适配方法。
上述电子设备具体细节可以对应参阅图1所示的实施例中对应的相关描述和效果进行理解,此处不再赘述。
本领域技术人员可以理解,实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的程序可存储于一计算机可读取存储介质中,该程序在执行时,可包括如上述各方法的实施例的流程。其中,所述存储介质可为磁碟、光盘、只读存储记忆体(Read-Only Memory,ROM)、随机存储记忆体(Random AccessMemory,RAM)、快闪存储器(Flash Memory)、硬盘(Hard Disk Drive,HDD)或固态硬盘(Solid-State Drive,SSD)等;所述存储介质还可以包括上述种类的存储器的组合。
虽然结合附图描述了本发明的实施例,但是本领域技术人员可以在不脱离本发明的精神和范围的情况下作出各种修改和变型,这样的修改和变型均落入由所附权利要求所限定的范围之内。

Claims (10)

1.一种普适的异构融合算网资源智慧适配网络架构,其特征在于,包括:智慧融合服务层、智慧融合适配层和智慧融合网络层;
所述智慧融合服务层,用于采集异构业务流,并基于所述异构业务流提取异构服务侧业务特征;
所述智慧融合网络层,用于采集异构网络资源,并基于所述异构网络资源提取异构网络侧资源特征;
所述智慧融合适配层连接所述智慧融合服务层和所述智慧融合适配层,用于获取异构服务侧业务特征和异构网络侧资源特征,并基于所述异构服务侧业务特征和所述异构网络侧资源特征确定网络资源基本约束条件,所述网络资源基本约束条件中包括网络服务对象;
所述智慧融合适配层,还用于利用预设映射策略将所述网络服务对象映射为以业务流为服务对象的决策变量,所述预设映射策略包括网络服务对象与业务流之间的对应关系;
所述智慧融合适配层,还用于根据所述以业务流为服务对象的决策变量建立目标优化函数,并基于所述目标优化函数与所述网络资源基本约束条件生成网络资源普适化网络模型;
所述智慧融合适配层,还用于利用所述网络资源普适化网络模型对异构融合算网资源进行分配,生成资源分配结果。
2.根据权利要求1所述的一种普适的异构融合算网资源智慧适配网络架构,其特征在于,所述异构服务侧业务特征,包括:
由路由资源数据、时隙资源数据、频率资源数据、功率资源数据与算力存储资源数据组成的网络基础资源数据。
3.根据权利要求2所述的一种普适的异构融合算网资源智慧适配网络架构,其特征在于,所述异构服务侧业务特征,包括:
业务流基本属性、服务质量需求和用户自定义业务数据。
4.根据权利要求3所述的一种普适的异构融合算网资源智慧适配网络架构,其特征在于,所述智慧融合适配层,包括:
第一融合模块,用于将所述业务流基本属性、所述服务质量需求与所述网络基础资源数据进行融合,生成网络层资源约束条件;
第二融合模块,用于将所述用户自定义业务数据与所述网络基础资源数据融合,生成服务层资源约束条件;
约束模块,用于将所述网络层资源约束条件与所述服务层资源约束条件作为所述网络资源基本约束条件。
5.根据权利要求3所述的一种普适的异构融合算网资源智慧适配网络架构,其特征在于,所述智慧融合适配层,还包括:
构建模块,用于根据所述以业务流为服务对象的决策变量建立目标优化函数,并基于所述目标优化函数与所述网络资源基本约束条件构建网络资源普适化调度模型;
转换模块,用于将所述网络资源普适化调度模型转换为马尔可夫决策过程;
训练模块,用于利用所述马尔可夫决策过程对预设神经网络进行训练,生成网络资源普适化网络模型。
6.根据权利要求5所述的一种普适的异构融合算网资源智慧适配网络架构,其特征在于,所述转换模块,包括:
第一构建单元,用于提取所述用户自定义业务数据中的用户自定义状态信息,并提取网络资源基本约束条件中的网络资源变量,基于所述业务流基本属性、所述用户自定义状态信息和所述网络资源变量构建状态空间;
第二构建单元,用于提取所述用户自定义业务数据中的用户自定义动作决策变量,并基于所述用户自定义动作决策变量与所述以业务流为服务对象的决策变量构建动作空间;
第一确定单元,用于基于所述目标优化函数确定奖励;
第三构建单元,用于基于所述状态空间、所述动作空间和所述奖励构建所述马尔可夫决策过程。
7.根据权利要求6所述的一种普适的异构融合算网资源智慧适配网络架构,其特征在于,所述训练模块,包括:
第一生成单元,用于将所述状态空间输入所述预设神经网络中,生成当前决策变量,基于所述当前决策变量与所述状态空间确定当前状态动作价值函数;其中,所述当前决策变量属于所述动作空间;
第二生成单元,用于将所述状态空间输入至预设评判函数中,生成评判决策变量,基于所述状态空间与所述评判决策变量确定目标状态动作价值函数;其中,所述评判决策变量属于所述动作空间;
第二确定单元,用于基于所述奖励、所述当前状态动作价值函数和所述目标状态动作价值函数确定损失函数;
迭代优化单元,用于利用梯度下降法对所述损失函数进行迭代优化,直至所述损失函数最小化且收敛,生成所述网络资源普适化网络模型。
8.一种普适的异构融合算网资源智慧适配方法,其特征在于,包括:
获取异构服务侧业务特征和异构网络侧资源特征;其中,所述异构服务侧业务特征由智慧融合服务层基于采集的异构业务流提取生成,所述异构网络侧资源特征由智慧融合网络层基于采集的异构网络资源提取生成;
基于所述异构服务侧业务特征和所述异构网络侧资源特征确定网络资源基本约束条件,所述网络资源基本约束条件中包括网络服务对象;
利用预设映射策略将所述网络服务对象映射为以业务流为服务对象的决策变量,所述预设映射策略包括网络服务对象与业务流之间的对应关系;
根据所述以业务流为服务对象的决策变量建立目标优化函数,并基于所述目标优化函数与所述网络资源基本约束条件生成网络资源普适化网络模型;
利用所述网络资源普适化网络模型对异构融合算网资源进行分配,生成资源分配结果。
9.一种电子设备,其特征在于,包括处理器和存储器,所述存储器与所述处理器耦合;
所述存储器上存储有计算机可读程序指令,当所述指令被所述处理器执行时,实现如权利要求8所述的方法。
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求8所述的方法。
CN202211689082.6A 2022-12-28 2022-12-28 一种普适的异构融合算网资源智慧适配网络架构及方法 Active CN115665227B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202211689082.6A CN115665227B (zh) 2022-12-28 2022-12-28 一种普适的异构融合算网资源智慧适配网络架构及方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202211689082.6A CN115665227B (zh) 2022-12-28 2022-12-28 一种普适的异构融合算网资源智慧适配网络架构及方法

Publications (2)

Publication Number Publication Date
CN115665227A true CN115665227A (zh) 2023-01-31
CN115665227B CN115665227B (zh) 2023-04-07

Family

ID=85022632

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202211689082.6A Active CN115665227B (zh) 2022-12-28 2022-12-28 一种普适的异构融合算网资源智慧适配网络架构及方法

Country Status (1)

Country Link
CN (1) CN115665227B (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116939668A (zh) * 2023-09-15 2023-10-24 清华大学 车载WiFi-蜂窝异构网络通信资源分配方法、装置
CN117596122A (zh) * 2024-01-17 2024-02-23 北京交通大学 一种通算融合网络架构及资源适配方法
CN117992217A (zh) * 2024-01-08 2024-05-07 中国科学院沈阳自动化研究所 工业控制系统运行资源的分配方法及系统、介质、终端

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180267927A1 (en) * 2015-11-16 2018-09-20 Huawei Technologies Co.,Ltd. Model parameter fusion method and apparatus
US20190324432A1 (en) * 2017-08-02 2019-10-24 Strong Force Iot Portfolio 2016, Llc Data monitoring systems and methods to update input channel routing in response to an alarm state
CN114862133A (zh) * 2022-04-15 2022-08-05 航天数智(苏州)科技有限公司 一种融合知识的制造服务网络资源调度方法及系统
CN114900436A (zh) * 2022-04-29 2022-08-12 电子科技大学 一种基于多维融合模型的网络孪生方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180267927A1 (en) * 2015-11-16 2018-09-20 Huawei Technologies Co.,Ltd. Model parameter fusion method and apparatus
US20190324432A1 (en) * 2017-08-02 2019-10-24 Strong Force Iot Portfolio 2016, Llc Data monitoring systems and methods to update input channel routing in response to an alarm state
CN114862133A (zh) * 2022-04-15 2022-08-05 航天数智(苏州)科技有限公司 一种融合知识的制造服务网络资源调度方法及系统
CN114900436A (zh) * 2022-04-29 2022-08-12 电子科技大学 一种基于多维融合模型的网络孪生方法

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116939668A (zh) * 2023-09-15 2023-10-24 清华大学 车载WiFi-蜂窝异构网络通信资源分配方法、装置
CN116939668B (zh) * 2023-09-15 2023-12-12 清华大学 车载WiFi-蜂窝异构网络通信资源分配方法、装置
CN117992217A (zh) * 2024-01-08 2024-05-07 中国科学院沈阳自动化研究所 工业控制系统运行资源的分配方法及系统、介质、终端
CN117596122A (zh) * 2024-01-17 2024-02-23 北京交通大学 一种通算融合网络架构及资源适配方法
CN117596122B (zh) * 2024-01-17 2024-04-09 北京交通大学 一种通算融合网络架构及资源适配方法

Also Published As

Publication number Publication date
CN115665227B (zh) 2023-04-07

Similar Documents

Publication Publication Date Title
CN115665227B (zh) 一种普适的异构融合算网资源智慧适配网络架构及方法
Kaur et al. Edge computing in the industrial internet of things environment: Software-defined-networks-based edge-cloud interplay
Jiang et al. Resource allocation of video streaming over vehicular networks: A survey, some research issues and challenges
Zhou et al. Reliability-optimal cooperative communication and computing in connected vehicle systems
CN107566194B (zh) 一种实现跨域虚拟网络映射的方法
CN108718463B (zh) 一种h-cran下基于多时间尺度协同优化的资源分配方法
CN112020103B (zh) 一种移动边缘云中的内容缓存部署方法
Althamary et al. A survey on multi-agent reinforcement learning methods for vehicular networks
CN110753319B (zh) 异构车联网中面向异质业务的分布式资源分配方法及系统
Park et al. Network resource optimization with reinforcement learning for low power wide area networks
CN105208624A (zh) 一种异构无线网络中基于业务的多接入网络选择系统及方法
CN105515880A (zh) 一种适合融合网络的令牌桶流量整形方法
CN113727306B (zh) 一种基于深度强化学习的解耦c-v2x网络切片方法
CN103428805B (zh) 一种基于链路抗干扰性的无线网络虚拟化映射方法
Sarasvathi et al. QoS guaranteed intelligent routing using hybrid PSO-GA in wireless mesh networks
WO2022226713A1 (zh) 策略确定的方法和装置
Mekki et al. Vehicular cloud networking: evolutionary game with reinforcement learning-based access approach
CN114867061B (zh) 一种基于无线通信网络的云监控方法
Qiu et al. Maintaining links in the highly dynamic fanet using deep reinforcement learning
Qadeer et al. Flow-level dynamic bandwidth allocation in SDN-enabled edge cloud using heuristic reinforcement learning
CN117114113B (zh) 一种基于排队论的协同推理加速方法
Li et al. Optimal service selection and placement based on popularity and server load in multi-access edge computing
Devasenapathy et al. Transmission-efficient grid-based synchronized model for routing in wireless sensor networks using Bayesian compressive sensing
Sharma et al. Analysing mobile random early detection for congestion control in mobile ad-hoc network
CN102202344B (zh) 无线Mesh网中基于博弈论的跨层拥塞控制方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant