CN113169887A - 基于来自无线电网络和时空传感器的数据的无线电网络自优化 - Google Patents
基于来自无线电网络和时空传感器的数据的无线电网络自优化 Download PDFInfo
- Publication number
- CN113169887A CN113169887A CN201880099823.0A CN201880099823A CN113169887A CN 113169887 A CN113169887 A CN 113169887A CN 201880099823 A CN201880099823 A CN 201880099823A CN 113169887 A CN113169887 A CN 113169887A
- Authority
- CN
- China
- Prior art keywords
- radio network
- actions
- data samples
- performance
- model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04B—TRANSMISSION
- H04B17/00—Monitoring; Testing
- H04B17/20—Monitoring; Testing of receivers
- H04B17/29—Performance testing
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04B—TRANSMISSION
- H04B17/00—Monitoring; Testing
- H04B17/10—Monitoring; Testing of transmitters
- H04B17/15—Performance testing
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/16—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks using machine learning or artificial intelligence
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/02—Capturing of monitoring data
- H04L43/022—Capturing of monitoring data by sampling
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W24/00—Supervisory, monitoring or testing arrangements
- H04W24/10—Scheduling measurement reports ; Arrangements for measurement reports
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- Electromagnetism (AREA)
- Artificial Intelligence (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Databases & Information Systems (AREA)
- Evolutionary Computation (AREA)
- Medical Informatics (AREA)
- Software Systems (AREA)
- Mobile Radio Communication Systems (AREA)
Abstract
一种技术包括从一个或多个传感器接收传感器数据样本;接收与无线电网络相关联的无线电网络信息数据样本;基于所接收的一个或多个传感器数据样本与所接收的无线电网络信息数据样本中的一个或多个无线电网络信息数据样本的关联,确定一个或多个关联传感器和无线电网络信息数据样本的第一集合;基于关联传感器和无线电网络信息数据样本的第一集合中的、与无线电网络的性能有关的至少一部分,开发被训练的模型;以及至少基于该模型来改进无线电网络的性能。
Description
技术领域
本说明书涉及无线通信。
背景技术
通信系统可以是一种使得能够在两个或更多节点或设备(诸如固定或移动通信设备)之间进行通信的设施。信号可以在有线或无线载波上被承载。
蜂窝通信系统的一个示例是由第三代合作伙伴计划(3GPP)标准化的架构。该领域的最新发展通常称为通用移动电信系统(UMTS)无线电接入技术的长期演进(LTE)。E-UTRA(演进型UMTS陆地无线电接入)是3GPP针对移动网络的长期演进(LTE)升级路径的空中接口。在LTE中,称为增强型节点AP(eNB)的基站或接入点(AP)在覆盖区域或小区内提供无线接入。在LTE中,移动设备或移动台称为用户设备(UE)。LTE包括很多改进或发展。
5G新无线电(NR)的发展是满足5G要求的持续移动宽带演进过程的一部分,类似于3G和4G无线网络的早期演进。此外,除了移动宽带,5G还针对新兴用例。5G的目标是显著改进无线性能,这可以包括新级别的数据速率、时延、可靠性和安全性。5G NR还可以缩放以有效地连接大规模物联网(IoT),并且可以提供新型的关键任务服务。例如,超可靠低时延通信(URLLC)设备可能需要高的可靠性和非常低的时延。
发明内容
根据示例实施例,一种方法包括:从一个或多个传感器接收传感器数据样本;接收与无线电网络相关联的无线电网络信息数据样本;基于所接收的一个或多个传感器数据样本与所接收的无线电网络信息数据样本中的一个或多个无线电网络信息数据样本的关联,确定一个或多个关联传感器和无线电网络信息数据样本的第一集合;基于关联传感器和无线电网络信息数据样本的第一集合中的、与无线电网络的性能有关的至少一部分,开发被训练的模型;以及至少基于该模型来改进无线电网络的性能。
根据示例实施例,一种装置包括至少一个处理器和包括计算机指令的至少一个存储器,该计算机指令在由至少一个处理器执行时引起该装置:从一个或多个传感器接收传感器数据样本;接收与无线电网络相关联的无线电网络信息数据样本;基于所接收的一个或多个传感器数据样本与所接收的无线电网络信息数据样本中的一个或多个无线电网络信息数据样本的关联,确定一个或多个关联传感器和无线电网络信息数据样本的第一集合;基于关联传感器和无线电网络信息数据样本的第一集合中的、与无线电网络的性能有关的至少一部分,开发被训练的模型;以及至少基于该模型来改进无线电网络的性能。
根据示例实施例,一种非瞬态计算机可读存储介质包括存储在其上的指令,该指令在由至少一个处理器执行时被配置为使计算系统执行一种方法,该方法包括:从一个或多个传感器接收传感器数据样本;接收与无线电网络相关联的无线电网络信息数据样本;基于所接收的一个或多个传感器数据样本与所接收的无线电网络信息数据样本中的一个或多个无线电网络信息数据样本的关联,确定一个或多个关联传感器和无线电网络信息数据样本的第一集合;基于关联传感器和无线电网络信息数据样本的第一集合中的、与无线电网络的性能有关的至少一部分,开发被训练的模型;以及至少基于该模型来改进无线电网络的性能。
在附图和以下描述中阐述了实施例的一个或多个示例的细节。根据说明书和附图以及根据权利要求书,其他特征将很清楚。
附图说明
图1是根据示例实施例的无线网络的框图。
图2是示出根据示例实施例的在机器人上被提供的用户设备/UE的位置与由于阻塞对象而导致的用户设备/UE的接收功率的变化之间的确定性行为的图。
图3是示出根据示例实施例的在工厂中重复循环(cycle)的机器人的图。
图4是示出根据示例实施例的网络的操作的图。
图5是根据示例实施例的将传感器数据样本与无线电网络信息数据样本相关联的图。
图6是示出根据示例实施例的数据过滤和关联(DFA)的图。
图7是根据示例实施例的数据管理实体的图。
图8是示出具有用户设备(UE)的机器人810以及影响UE的无线电网络性能的动态或移动阻塞对象812的图。
图9是示出在错误之前、错误期间和错误之后的时间段的无线电网络信息(RI)的图。
图10示出了在错误前、错误和错误后位置内的动态阻塞对象的视频的视频帧。
图11是示出与不同视频帧相关联的针对错误前、错误和错误后时间而转发或接收的数据的图。
图12是示出部署选项的图,其中DFA算法在多址边缘云(MEC)服务器内部。
图13是示出与图12类似的部署的图,区别在于传感器数据被聚合到SDF聚合函数。
图14是示出部署选项的图,其中传感器和DFA算法实例520在无线电网络(RN)412内部。
图15是示出根据示例实施例的系统的图,该系统使用人工智能算法来训练神经网络模型,并且然后使用该神经网络模型来改进无线电网络的操作。
图16是根据另一示例实施例的系统的图。
图17是示出根据示例实施例的系统的框图,在该系统中,使用单独的DFA实例来对训练数据和实时数据进行过滤。
图18示出了根据示例实施例的来自被输入到神经网络模型的实时数据的SINR数据样本。
图19是示出根据示例实施例的强化学习的操作的图。
图20是示出根据示例实施例的神经网络架构(神经网络模型)的框图。
图21是示出根据示例实施例的使用多个输入模态的神经网络架构(神经网络模型)的框图。
图22是示出根据示例实施例的可以被用于和/或被组合以训练神经网络模型的不同学习的概述的框图。
图23是示出根据示例实施例的基于选项A和B的用于神经网络模型的训练阶段的框图。
图24是示出根据示例实施例的用于神经网络模型的运行时阶段的框图。
图25是示出根据示例实施例的用于神经网络模型的运行时阶段的框图,其中用于确定动作的策略被包括在代理内。
图26是示出根据示例实施例的系统的操作的流程图。
图27是根据示例实施例的无线台(例如,AP、BS或用户设备或其他网络节点)的框图。
具体实施方式
根据示例实施例,可以使用模型(例如,人工智能神经网络模型)来改进无线电网络的性能。例如,一种技术可以包括从一个或多个传感器接收传感器数据样本;接收与无线电网络相关联的无线电网络信息数据样本;基于所接收的一个或多个传感器数据样本与所接收的无线电网络信息数据样本中的一个或多个无线电网络信息数据样本的关联,确定一个或多个关联传感器和无线电网络信息数据样本的第一集合;基于关联传感器和无线电网络信息数据样本的第一集合中的、与无线电网络的性能有关的至少一部分,开发被训练的模型;以及至少基于该模型来改进无线电网络的性能。例如,改进无线电网络的性能可以包括:确定一个或多个关联传感器和无线电网络信息数据样本的第二集合;并且基于模型以及一个或多个关联传感器和无线电网络信息数据样本的第二集合,执行或引起另一实体执行一个或多个无线电网络动作和/或一个或多个非无线电网络动作(例如,在检测到无线电网络性能的显著下降之前的抢先式动作)以改进无线电网络的性能。因此,根据示例实施例,一个或多个关联传感器和无线电网络信息(ASRI)数据样本的第一集合可以包括可以用于训练模型的训练数据;并且一个或多个关联传感器和无线电网络信息(ASRI)数据样本的第二集合可以包括实时数据,实时数据与经训练的模型一起被用于执行或引起另一实体执行一个或多个无线电网络动作和/或一个或多个非无线电网络动作以改进无线电网络的性能。例如,执行或引起另一实体执行一个或多个非无线电网络动作可以包括例如执行或引起另一实体执行影响无线电网络的性能的对象的定位、位置、方位、速度和/或移动的改变。此外,开发被训练的模型可以包括基于有监督学习、强化学习和/或无监督学习来训练模型。
在另一示例实施例中,一种方法或技术还可以包括:响应于一个或多个无线电网络动作和/或一个或多个非无线电网络动作,确定无线电网络的性能的所致变化;确定与所执行的一个或多个无线电网络动作和/或所执行的一个或多个非无线电网络动作相关联的奖励,其中奖励基于所执行的一个或多个无线电网络动作和/或所执行的一个或多个非无线电网络动作是否导致无线电网络的性能提高或下降或者与无线电网络的性能提高或下降相关联。另外,根据另一示例实施例,开发模型可以包括:基于一个或多个关联传感器和无线电网络信息数据样本的第一集合训练模型;以及基于一个或多个关联传感器和无线电网络信息数据样本的第二集合以及所执行的一个或多个无线电网络动作和/或一个或多个非无线电网络动作,执行模型的进一步训练。
图1是根据示例实施例的无线网络130的框图。在图1的无线网络130中,用户设备131、132、133和135(也可以称为移动台(MS)或用户设备(UE))可以与基站(BS)134连接(并且与之通信),基站(BS)134也称为接入点(AP)、增强型节点B(eNB)或网络节点。接入点(AP)、基站(BS)或(e)Node B(eNB)的功能的至少一部分也可以由可以可操作地耦合到收发器(诸如远程无线电头)的任何节点、服务器或主机来执行。BS(或AP)134在小区136内提供无线覆盖,包括向用户设备131、132、133和135。尽管仅四个用户设备被示出为连接或附接到BS 134,但是可以提供任何数目的用户设备。BS 134也经由S1接口151连接到核心网150。这仅是无线网络的一个简单示例,并且可以使用其他示例。
用户设备(用户终端、用户装备(UE))可以指代包括在具有或没有订户标识模块(SIM)的情况下操作的无线移动通信设备的便携式计算设备,包括例如但不限于以下设备类型:移动台(MS)、移动电话、蜂窝电话、智能电话、个人数字助理(PDA)、听筒、使用无线调制解调器的设备(警报或测量设备等)、膝上型和/或触摸屏计算机、平板电脑、平板手机、游戏机、笔记本和多媒体设备、或任何其他无线设备。应当理解,用户设备也可以是几乎排他性的仅上行链路设备,其示例是将图像或视频剪辑加载到网络的相机或摄像机。
在LTE中(作为示例),核心网150可以称为演进分组核心(EPC),其可以包括可以管理或协助用户设备在BS之间的移动性/切换的移动性管理实体(MME)、可以在BS与分组数据网络或互联网之间转发数据和控制信号的一个或多个网关、以及其他控制功能或块。
另外,作为说明性示例的方式,本文中描述的各种示例实施例或技术可以应用于各种类型的用户设备或数据服务类型,或者可以应用于可以在其上运行有可以具有不同数据服务类型的多个应用的用户设备。新无线电(5G)开发可以支持很多不同应用或很多不同数据服务类型,诸如例如:机器类型通信(MTC)、增强型机器类型通信(eMTC)、物联网(IoT)和/或窄带IoT用户设备、增强型移动宽带(eMBB)以及超可靠低时延通信(URLLC)。
IoT可以指代不断增长的具有互联网或网络连接性的对象组,使得这些对象可以向其他网络设备发送信息并且从其他网络设备接收信息。例如,很多传感器类型应用或设备可以监测身体状况或情况,并且可以例如在事件发生时向服务器或其他网络设备发送报告。机器类型通信(MTC或机器对机器通信)的特征可以在于在具有或没有人为干预的情况下智能机器之间的全自动数据生成、交换、处理和启动。增强型移动宽带(eMBB)可以支持比LTE中当前可用的更高的数据速率。
超可靠低时延通信(URLLC)是新无线电(5G)系统可以支持的一种新的数据服务类型或新的使用场景。这可以实现新兴的新应用和服务,诸如工业自动化、自主驾驶、车辆安全、电子医疗服务等。作为说明性示例,3GPP旨在以与10-5的块错误率(BLER)和高达1ms的U平面(用户/数据平面)时延相对应的可靠性来提供连接性。因此,例如,URLLC用户设备/UE可能需要比其他类型的用户设备/UE低得多的块错误率以及低时延(需要或不需要同时的高可靠性)。因此,例如,与eMBB UE(或UE上运行的eMBB应用)相比,URLLC UE(或UE上的URLLC应用)可能需要更短的时延。
各种示例实施例可以应用于各种各样的无线技术或无线网络,诸如LTE、LTE-A、5G、cmWave和/或mmWave频带网络、IoT、MTC、eMTC、eMBB、URLLC等、或者任何其他无线网络或无线技术。这些示例网络、技术或数据服务类型仅作为说明性示例提供。
如上所述,预期5G技术将显著改进数据速率(或带宽)和/或减少时延。很多5G技术(诸如URLLC)可能需要非常严格的性能,诸如得到保证的低时延。但是,物理环境的动态性质可能导致无线电网络性能频繁或连续变化。在某些情况下,环境变化可能导致无线电网络性能下降到不满足某些5G应用(例如,URLLC应用)所需要的5G性能要求(诸如BLER或时延要求)的水平,如上所述。UE或BS可以测量KPI(关键性能指示符)的变化,诸如信干噪比、接收信号强度、块错误率(BLER)或其他KPI或测量的变化,例如,指示无线电网络性能下降。但是,由于非常严格的5G网络性能要求(例如,针对时延和/或BLER或其他要求),在很多情况下,UE或BS可能没有足够的时间来检测例如UE与BS之间的无线电/无线信道的无线电网络性能下降,并且然后在无线电网络或无线信道的性能下降到(多个)5G应用可接受的水平以下之前采取动作来改进无线电网络性能。根据说明性示例,UE或BS可以检测例如UE与BS之间的无线信道的SINR或接收信号强度的下降,并且然后可以请求或执行连接鲁棒性的增加(例如,通过使用更鲁棒的调制和编码方案和/或激活附加多连接性链路)或到另一BS的切换,例如,以避免断开连接或试图改进UE的无线电网络性能。因此,例如,这样的检测无线电网络性能变化(例如,检测SINR的下降或接收信号强度的下降或其他KPI变化)并且然后通过对无线电网络执行某种动作来对这样的检测到的变化做出反应的反应性方法可能不足以满足5G无线网络的严格的时延和BLER要求。例如,在该示例中,改进链路鲁棒性和/或以反应性方式执行切换可能仍会导致无线电网络性能下降到低于5G要求的水平(例如,BLER和/或时延可能会高到无法接受,甚至可能发生连接故障)。对无线电网络的无线电测量或已测量KPI的测量变化做出反应时,可能会出现这种问题,这是因为例如到检测到无线电网络的测量或KPI的变化时,可能没有足够的时间来执行一种或多种动作以避免网络性能进一步下降。
因此,根据示例实施例,可以使用更具预测性或抢先性的方法以基于一个或多个关联传感器和无线电网络信息数据样本来解决无线电网络性能的预期或预测变化。这种方法的主要益处或技术优势在于,它可以在网络性能下降到(多个)关键应用(诸如URLLC)的可接受水平以下之前实现或执行抢先性校正动作。这是可能的,因为关联传感器和无线电网络数据为优化方法带来了新信息,从而允许预测传统方法(即,仅利用无线电网络数据)无法预测(或难以预测)的事件。例如,物理环境的确定性性质可以用于执行一个或多个抢先性校正动作,诸如一个或多个抢先性校正无线电网络动作和/或抢先性校正非无线电网络动作,例如,以改进无线电网络性能。可以选择与无线电网络的性能有关(例如,与无线电网络性能相关联或可以指示无线电网络性能的可能或预期降低)的一些关联传感器和无线电网络信息数据样本。例如,基于过去的相关联的传感器数据样本和无线电网络信息数据样本,对象的行为或移动或物理环境的变化的特定模式可以与无线电网络性能的当前和/或未来(例如,预期或预测的)变化相关联。
因此,由于与物理环境有关的时空传感器数据可以与某些无线电网络信息相关,因此关联传感器和无线电网络信息(ASRI)数据样本可以用于预测未来无线电网络性能。特别地,与仅使用无线电网络信息相比,可以通过使用时空传感器数据(与无线电网络信息相关联)来增强对未来无线电网络性能的预测。此外,如上所述,人工智能(AI)神经网络模型可以用于进一步改进对未来无线电网络的性能的预测并且标识可以被执行以改进无线电网络性能的一个或多个抢先式校正动作。例如,关联传感器和无线电网络信息(ASRI)数据(例如,训练数据)的第一集合可以用于训练AI神经网络模型以获知时空传感器数据和无线电网络信息之间的相关模式。然后,ASRI数据(例如,实时ASRI数据)的第二(例如,后续)集合可以被输入到已训练AI神经网络模型,以便输出一个或多个抢先式校正动作以改进无线电网络性能。例如,基于所接收的实时ASRI数据,AI神经网络模型可以触发或引起一个或多个动作(例如,抢先式校正动作)被执行以改进无线电网络的性能,诸如将无线电网络性能维持在可接受水平以上,而不是仅在检测到无线电网络性能下降之后才执行反应性动作。因此,由于AI神经网络模型先前已经获知传感器数据与无线电网络信息(ASRI)数据之间的关联模式,因此可以基于输入到AI神经网络模型的实时ASRI数据来确定和执行一个或多个抢先式校正动作。根据说明性示例实施例,已训练AI模型可以接收实时ASRI数据,并且然后执行或引起另一实体执行一个或多个抢先式校正动作,例如,诸如增加传输功率,将UE的调制和编码方案(MCS)改变为更鲁棒的MCS,执行UE到其他BS的切换,改进连接鲁棒性,诸如通过添加用于UE的多链路连接的链路,或者其他无线电网络动作和/或非无线电网络动作。
根据示例实施例,一种方法可以包括:从一个或多个传感器接收传感器数据样本;接收与无线电网络相关联的无线电网络信息数据样本;基于所接收的一个或多个传感器数据样本与所接收的一个或多个无线电网络信息数据样本的关联联确定一个或多个关联传感器和无线电网络信息数据样本;选择一个或多个关联传感器和无线电网络信息数据样本中与无线电网络的性能有关的至少一些关联传感器和无线电网络信息数据样本;并且转发所选择的关联传感器和无线电网络信息数据样本以供后续使用。
大多数URLLC环境的确定性性质为无线电网络预测性地(或抢先式地)优化其参数提供了潜在的高增益。根据示例实施例,无线电网络测量(例如,UE测量)可以被映射到物理环境的状态或与物理环境的状态相关联。这些映射或相关联的信息然后可以由模型或预测算法(诸如人工智能模型或方法,诸如具有Q学习的强化学习或其他模型)使用以用于网络自优化,以改进网络性能。以这种方式,可以检测到导致更好性能或错误的状态和动作,并且可以执行被预测或期望改进无线电网络性能的动作(例如,无线电网络动作或物理环境的可能变化)(例如,增加SINR,避免连接失败或断开连接,减少时延,……)。
图2是示出根据示例实施例的在机器人上被提供的用户设备/UE的位置(或状态)与由于阻塞对象而导致的用户设备/UE的接收功率的变化之间的确定性行为的图。在图2所示的说明性示例中,当机器人210相对于BTS1经过阻塞对象218的后面时,在UE(机器人重复确定性路径)与基站BTS1之间在220处发生信号阻塞,导致来自BTS1的信号电平214下降到错误阈值以下212,例如,当机器人/UE位于150m至350m之间的x坐标时(220)。
根据示例实施例,针对这种情况的一种解决方案可以包括机器人210上的UE从BTS1切换到BTS2(如来自BTS2的接收功率信号216所示,其不能承受接收功率下降)。如上所述,解决该问题的一种解决方案可以是UE到BTS2的切换。然而,执行UE从BTS1到BTS2的这种切换的延迟222非常显著,并且可能不足以防止UE与BTS1之间的连接丢失(或连接断开)。因此,在该说明性示例中,由于传统切换方法是反应性的并且信号电平可能下降得非常快,因此,例如,将UE转切(或切换)到BTS2的延迟222导致URLLC要求不能容忍的错误。由于信号阻塞之前的无线电信号变化不一定表示UE的接收功率的即将到来的下降,因此对接收功率的下降(或其他检测到的网络性能下降)做出反应的传统方法可能无法有效地防止网络性能进一步的下降或无线电网络的错误情况。例如,如上所述,用于改进无线电网络性能的反作用方法(例如,仅在已经由UE或BS测量或检测到无线电网络性能的下降之后才执行动作)通常不能防止无线电网络性能的进一步下降,或者甚至不能避免在时延、BLER、切换延迟、数据速率、可靠性等方面可能有非常严格要求的5G网络(例如,URLLC或其他应用)的某些错误情况。换言之,由于某些5G应用(诸如URLLC)的严格性能要求,在检测到网络性能下降(例如,检测到SINR或接收信号强度下降)之后,可能没有足够的时间执行(反应性或反应式)无线电网络动作以防止无线电网络性能的进一步和不可接受的下降。
因此,根据示例实施例,无线电网络性能(或与无线电网络相关联的数据样本)与指示物理环境的状态(例如,机器人的位置)的传感器数据样本之间的相关或关联可以用于预测未来无线电网络性能和/或执行可以改进网络性能的无线电网络动作。例如,基于机器人位置/定位与接收功率之间的关联或相关,当机器人210的位置从130m移动到140m时,可以抢先性地(例如,在检测到接收功率的显著减少之前)执行UE的切换(例如,位置在通常首次检测到无线电网络性能(例如,接收功率)的下降的150m的x坐标之前)。在该示例中,当机器人到达140m的x坐标时,可以执行从BTS1到BTS2的切换,以便提供大于或等于延迟222的足够时间,例如,以改进无线电网络的性能(例如,在这种情况下,避免接收功率降低到阈值212以下和/或UE与BTS1之间的连接丢失)。
因此,如何考虑影响无线电信道或无线电网络的确定性行为(引入另一确定性循环)的物理环境的动态变化可能存在挑战。该问题在图3中示出,其中机器人310在工厂中重复循环。当工厂的加载端口门312关闭时,机器人310所经历的来自室外基站314的干扰遵循确定性循环A。当门打开时,更多干扰在室内传播,并且引入了新的确定性循环(循环B)。例如,物理环境的状态可以指示环境中的物理对象的状态、位置、定位、方位(或其他物理特征)。例如,机器人的位置、机器人臂的方位等。因此,在这种情况下,加载端口门312的状态可以与当前或未来无线电网络性能相关联。因此,如图3所示,当加载端口门312打开时,来自室外BS 314的干扰更大。因此,在该示例中,可以看出,物理环境的状态可以用于预测无线电网络的未来状态(或无线电网络性能的未来状态,和/或可以用于尝试不同动作(例如,不同无线电网络动作和/或物理环境操作)以确定哪个动作可以提供无线电网络性能的最佳改进。例如,可以执行一个或多个动作(或甚至执行并且然后测量一个或多个动作以确定哪个(哪些)动作提供最佳性能提升),例如增加到机器人310的UE的传输功率,或者在加载端口门312刚打开之前使用更鲁棒的调制和编码方案向UE/机器人310传输,或者改变加载端口门以在对无线电网络性能影响较小的不同时间打开。
根据示例实施例,一种方法可以包括从一个或多个传感器接收传感器数据样本;接收与无线电网络相关联的无线电网络信息数据样本;基于所接收的一个或多个传感器数据样本与所接收的一个或多个无线电网络信息数据样本的关联来确定一个或多个关联传感器和无线电网络信息数据样本;选择一个或多个关联传感器和无线电网络信息数据样本中与无线电网络的性能有关的至少一些关联传感器和无线电网络信息数据样本;并且转发所选择的关联传感器和无线电网络信息数据样本以供后续使用。根据示例实施例,传感器数据样本包括与物理环境相关联的时空传感器数据样本。例如,时空数据样本可以包括指示在特定时间或样本时间对象的状态或物理环境的状态的数据样本。另外,根据示例实施例,转发可以包括例如存储所选择的关联传感器和无线电网络信息数据样本,和/或转发所选择的关联传感器和无线电网络信息数据样本以用于处理。该方法还可以包括基于所选择的关联传感器和无线电网络信息数据样本来执行用于改进无线电网络的性能的至少一个动作,例如,其中该动作可以包括例如执行无线电网络动作,诸如调节无线电网络参数或配置,和/或针对物理环境执行动作(诸如移动或改变对象的状态)。例如,执行动作可以包括以下一项或多项:一个或多个无线电网络动作;一个或多个自动无线电网络动作;由网络自优化算法触发的一个或多个自动无线电网络动作;和/或一个或多个非无线电网络动作(例如,与物理环境相关联的动作),其中物理环境的对象或方面被改变以改进无线电网络的性能。另外,例如,从一个或多个传感器接收传感器数据样本可以包括接收与以下一项或多项相关联的传感器数据样本:控制物理环境的对象或部分的按钮、开关或控制器;控制对象的定位、方位或移动的按钮、开关或控制器;控制对象情况或状态的按钮、开关或控制器;捕获物理环境的对象或部分的图像或视频馈送的相机;以及检测物理环境的对象或部分的情况或状态的传感器。在另一示例中,接收与检测物理环境的对象或部分的情况或状态的传感器相关联的传感器数据可以包括例如从对物理环境的对象或部分执行检测、测距、定位或位置确定的雷达或LiDAR接收传感器数据。
另外,例如,作为说明性示例,接收与无线电网络相关联的无线电网络信息可以包括接收以下至少一项:针对无线电网络的无线电网络关键性能指示符;与无线电网络动作相关联的信息;以及无线电网络配置参数。另外,作为示例,无线电网络关键性能指示符可以包括以下一项或多项(这些仅仅是说明性示例):接收信号强度;总接收功率;接收干扰功率;以及信干噪比(SINR);路径损耗;参考信号接收功率;参考信号接收质量;接收信号强度指示符;可靠性;块错误率;时延;抖动;覆盖范围;容量;数据传送速率;秩指示符;调制和编码方案指示符;信道状态信息;以及定时提前。
另外,根据示例实施例,作为示例,确定一个或多个关联传感器和无线电网络信息数据样本可以包括基于一个或多个传感器数据样本的时间在无线电网络信息数据样本中的一个或多个无线电网络信息数据样本的时间窗口内来确定一个或多个关联传感器和无线电网络信息数据样本。另外,确定一个或多个关联传感器和无线电网络信息数据样本可以包括:确定第一传感器与至少第一通信元件配对或相关联;以及基于在与至少第一通信元件相关联的无线电网络信息数据样本中的一个或多个无线电网络信息数据样本的时间窗口内的来自第一传感器的一个或多个传感器数据样本的时间来确定一个或多个关联传感器和无线电网络信息数据样本。例如,通信元件可以包括例如计算机或服务器、或者与无线电网络相关联的无线电网络元件,包括基站(BS)、用户设备(或UE)、核心网元件或其他无线电网络元件中的至少一项。另外,例如,选择与无线电网络的性能有关的一个或多个关联传感器和无线电网络信息数据样本中的至少一些关联传感器和无线电网络信息数据样本可以包括以下一项或多项:选择一个或多个关联传感器和无线电网络信息数据样本中在无线电网络的性能改变之前发生或采样的至少一些关联传感器和无线电网络信息数据样本;选择一个或多个关联传感器和无线电网络信息数据样本中在无线电网络的性能改变期间发生或采样的至少一些关联传感器和无线电网络信息数据样本;以及选择一个或多个关联传感器和无线电网络信息数据样本中在无线电网络的性能改变之后发生或采样的至少一些关联传感器和无线电网络信息数据样本。另外,例如,选择一个或多个关联传感器和无线电网络信息数据样本中与无线电网络的性能有关的至少一些关联传感器和无线电网络信息数据样本可以包括以下一项或多项:选择一个或多个关联传感器和无线电网络信息数据样本中在无线电网络的性能下降之前发生或采样的至少一些关联传感器和无线电网络信息数据样本;选择一个或多个关联传感器和无线电网络信息数据样本中在无线电网络的性能下降期间发生或采样的至少一些关联传感器和无线电网络信息数据样本;以及选择一个或多个关联传感器和无线电网络信息数据样本中在无线电网络的性能下降之后发生或采样的至少一些关联传感器和无线电网络信息数据样本。另外,该方法还可以包括标记针对与无线电网络的性能有关的所选择的关联传感器和无线电网络信息数据样本的选择的原因。
图4是示出根据示例实施例的网络的操作的图。图4中的网络可以包括一个或多个传感器410,传感器410可以生成与物理环境的状态(例如,对象的位置、定位、方位或其他状态)相关联的传感器数据样本。网络还可以包括无线电网络412,可以包括例如核心网、一个或多个BS和/或一个或多个UE。无线电网络412可以提供指示无线电网络的状态和/或无线电网络性能的状态的无线电网络信息数据样本,诸如指示无线电网络的一个或多个关键性能指示符的值。
作为简要概述,该系统可以包括或执行以下操作:
1)传感器从环境中捕获时空数据
2)捕获RN信息(RI)的无线电网络(RN)
3)RI与传感器数据馈送(SDF)相关联
4)从数据流中标记并且选择被认为与网络性能相关的相关联的数据样本
5)将相关的相关联的数据样本存储到数据库或直接转发以进行进一步处理。
6)为网络管理和优化实体输入相关联的数据。
7)此外,根据示例实施例,可以输入相关联的数据(或ASRI数据)以训练AI神经网络模型。一旦经过训练,后续ASRI数据就可以用于引起AI神经网络模型触发或引起一个或多个抢先式校正动作的执行以改进无线电网络的性能。
作为示例,下面描述其他示例细节。
1)在本文中,传感器是指可以感测环境的时空变化的任何设备。传感器可以是固定的或移动的,并且它们中的一个或多个可以作为较大系统的一部分并置(例如,位于无人机、(自主驾驶)汽车或机器人中的各种传感器)。这样的传感器的一些但非限制性示例包括:
A)控制环境的按钮或开关(例如,打开门的按钮);
B)捕获环境的图像的相机(例如,放置在无线电设备或甚至已经存在的监测相机设备处的相机);以及
C)激光雷达、雷达、或者提供检测、测距、定位或位置信息的任何其他传感器。激光雷达是一种通过用脉冲激光照射目标并且用传感器测量反射脉冲来测量到目标的距离的测量方法。雷达可以包括用于通过将从对象反射回来的高频电磁波脉冲发送回源来检测飞机、轮船和/或其他对象的存在、方向、距离和/或速度的系统。
2)RN信息可以包括例如针对无线电网络的无线电网络关键性能指示符(KPI)、与无线电网络动作相关联的信息、和/或无线电网络配置参数。RN KPI可以包括KPI,诸如吞吐量、时延、抖动、可靠性和RN测量(例如,接收信号强度、总接收功率、接收干扰功率)。RN参数可以包括基站和UE的标识符、配置或坐标。另外,RN动作可以包括与无线电网络动作相关的信息,诸如与切换、负载平衡、链路适配、小区重选、MCS改变、传输功率改变、或者任何其他网络相关参数的改变或更新有关的信息。
3)RI和SDF的关联可以指代例如将两个数据流在时域中相关联;在时间t1的传感器k的传感器馈送样本SDF(k,t1)与在时间t2的来自基站j的RN信息RI(j,t2)相关联,其中时间差|t1-t2|在时间窗口阈值内。例如,在时间t1捕获的来自相机k的图像与在时间t2的基站j的信号强度测量相关联。在另外的实施例中,仅对预先配置的设备对进行关联(例如,将基站与从与基站的覆盖区域或基站的最强干扰者的覆盖区域重叠的区域捕获图像的相机配对)。
4)可以从数据流中选择被认为与网络性能相关的相关联的数据样本。在示例实施例中,相关数据样本可以包括影响无线电网络性能的变化或与之相关联的样本,诸如与无线电网络性能的下降相关联的样本。例如,认为对无线电信号传播有影响的时空变化是相关的,例如,通过阻塞信号的最强路径或引入新的强无线电路径(用于干扰或自身信号)而影响无线电链路质量的移动对象。数据样本的相关性由预定规则决定。例如,在RN性能突然变化之前和之后的某个时间窗口内的数据(例如,信号强度在较短的预定义时间间隔内下降或增加>xdB)。滤除不相关数据,从而减少网络的负载(使用数据的后处理应用的计算负载、传输负载等)。还可以标记样本以指示选择原因,例如,标记每个数据样本以指示表示错误之前(或降低无线电网络性能之前)的数据的错误前标签以及表示错误之后(或降低无线电网络性能之后)的数据的错误后标签。
5)将相关的相关联的数据样本存储到数据库中,可以从该数据库中提取数据以供以后使用,或者将相关的相关联的数据样本连续转发以进行某种进一步处理(例如,以优化网络性能)。
6)网络管理和优化实体可以接收和/或采用相关联的数据(或关联传感器和无线电网络信息(ASRI))作为输入。基于相关联的数据(或ASRI),执行动作以改进RN性能。这些动作可以是RN动作或会影响无线电网络性能的其他动作,例如:
A)由网络自优化算法触发的自动RN动作(例如,网络对其参数进行自调节或触发校正动作);
B)经由人机接口触发的手动RN动作(例如,经由网络管理系统的用户接口来调节网络参数,或者手动调节网络部署或配置);以及
C)非RN动作,其中改变物理环境(或物理环境的状态)从而改进RN性能(例如,使无线电信号质量恶化的对象以某种方式被移位、移动、改变,或者完全从环境中移除)。
7)如上所述,根据示例实施例,可以输入相关联的数据(或ASRI数据)以训练人工智能(AI)神经网络模型。一旦经过训练,后续ASRI数据就可以用于引起AI神经网络模型触发或引起一个或多个抢先式校正动作的执行以改进无线电网络的性能。
现在描述另外的示例实施例和示例细节。
图5是根据示例实施例的将传感器数据样本与无线电网络信息数据样本相关联的图。传感器10可以感测或测量或标识与物理环境相关联的一个或多个参数。根据示例实施例,DFA(数据过滤和关联)(或DFA算法)是将RI(无线电网络信息)518和SDF(传感器数据馈送)516相关联的逻辑实体。相关联的数据称为关联传感器和无线电网络信息(ASRI)522。存储ASRI数据522样本的存储装置称为数据管理(DM)。传感器数据馈送(SDF)516从传感器410被输出到DFA 520。如上所述,无线电网络(RN)412可以包括BS、UE、和/或核心网实体、或其他无线电网络节点或实体。无线电网络信息(RI)518从RN 412被输出到DFA 520。
图5是示出DFA和DM的示例实施例的图。在图5中示出了传感器410以及无线电网络(RN)412、DFA 520和数据管理(DM)实体524。测量:传感器数据馈送(SDF)516和RI(无线电网络信息)518被馈送(或输入)到DFA 520。这两个数据馈送都可以指定自己的接口。DFA 520(或DFA算法520)控制朝向数据管理(DM)524的数据流。DFA 520可以关联并且过滤被认为与网络性能相关的数据流(SDF 516和RI 518)中的相关数据,并且用相关的原因标记数据。DFA 520可以有一个或多个实例,这表示,不同数据源可以在不同物理或逻辑位置通过DFA520的不同实例(DFA算法)来处理。例如,DFA实例可以位于RN基站、移动边缘计算(MEC)服务器或任何其他服务器或计算机中。DFA 520(DFA算法)的实现是特定于实现的。它包含用于触发数据关联的预编程的规则。
移动边缘计算(MEC)是5G时代的新兴技术,例如,它可以在移动订户附近提供云和IT服务或应用。作为说明性示例,它允许在BS附近的云或应用服务器(例如,在BS内或作为BS的一部分的MEC服务器、设置在BS设备所在的(多个)机柜或(多个)建筑物内的MEC服务器、非常接近BS的MEC服务器)的可用性。例如,通过在MEC服务器上提供应用(可以称为MEC应用),由移动用户感知的端到端时延因此可以通过MEC平台得到减小。MEC服务器也可以提供其他优势。
参考图5,根据示例实施例,数据管理(DM)524是可以向其发送相关联的数据(ASRI)522的逻辑实体。作为示例,DM 524可具有以下功能中的一个或多个:数据存储、传入数据的即时转发、所存储的数据(例如,ASRI数据)的转发。该实体是可选的,因为可以将ASRI数据522直接转发给可以理解用于传输ASRI数据522的协议的任何实体。与DFA 520一样,该架构可以是分布式的或集中式的,这表示可以将来自DFA(DFA算法)520实例的数据(例如ASRI数据)流连接到位于不同物理或逻辑位置的DM 524的一个或多个实例。
DFA
本小节描述DFA 520的高级视图。DFA(数据过滤和关联)520将来自无线电网络和传感器的数据相关联,并且从DFA流中过滤和标记被认为与网络性能相关的相关数据。DFA520可以有若干实例位于不同逻辑或物理位置,这表示例如,某些传感器连接到RN基站内部的DFA实例,而其余传感器连接到MEC服务器内部的不同DFA实例。为了允许这种类型的实现,需要定义若干接口协议。这也应当允许在多供应商网络中实现。
图6是示出根据示例实施例的数据过滤和关联(DFA)的图。SDF(传感器数据馈送)接口612定义用于传输传感器数据的协议。该协议可以例如指示数据的类型、每个数据样本的时间戳等。RI接口614定义用于传输无线电网络信息(RI)的协议。该协议可以例如指示数据的类型、每个数据样本的时间戳等。DS接口616定义用于将ASRI信息传输给DM 524的协议。配置接口618定义用于例如基于DFA算法配置数据来配置DFA 520的操作或算法的协议。通过这个接口618,可以在每个DFA 520实例中实现自定义数据关联算法或规则。控制接口620定义用于发送一组预定义指令中的指令以控制传感器410和/或412或向传感器410和/或412提供反馈的协议。例如,并非连续传输SDF,当RI指示网络中的错误时(例如,在某些情况下,这可能是无线电网络性能下降),接口620可以用于指示传感器传输前10秒和后10秒的SDF。由于传感器仅在需要时流传输数据,因此这可以节省传输带宽。另外,接口620可以用于控制来自无线电网络的数据流。
根据示例实施例,DFA(或DFA算法)520可以包括三个示例功能或组件,其可以包括:1)关联功能622可以执行SDF和RI数据的关联。在简单的示例实施例中,DFA 520(例如,关联622)可以关联在某个时间窗口内到达的数据样本(关联传感器数据样本和无线电网络信息数据样本)。因此,数据关联可以由DFA 520基于例如到达或具有在时间阈值内的时间戳的传感器数据样本和RI样本的时间关系来执行。只要可以保证数据的传送不会有过多的延迟,这种实现就足够了。为了在SDF和RI的关联之间实现更精确的同步(例如,毫秒级),可能需要单独的解决方案。一个简单的示例是将GPS时间戳添加到SDF和RI接口协议中。在没有GPS的情况下,可以使用某种外部同步方法,例如同步以太网。2)DFA 520的存储器624可以存储ASRI数据样本。因此,DFA存储器624可以包括用于存储N个最新ASRI样本的存储器。DFA 520可以使用样本的历史记录来获取触发数据关联的事件之前的信息。3)DFA 520的规则和程序626可以包括一组规则或程序,该组规则或该程序用于触发自己的DFA实例520内部的关联,或者用于通过控制接口620来触发另一DFA实例中的关联。规则和程序626可以还指定将哪些ASRI样本存储到存储器以及将哪些样本发送给DM 524。可以配置规则,也可以通过配置接口618下载单独的程序。例如,规则可以包括用于接收相关联的数据的不同目的地的单独规则;一个目的地接收由一个规则指定的已过滤数据,而另一目的地则接收未经过滤的原始数据。显然,这也可以通过单独的DFA实例来实现。
数据管理
图7是根据示例实施例的数据管理实体的图。例如,DM(数据管理)的角色可以包括:接收ASRI,存储ASRI,和/或转发所接收的ASRI。按需从存储器中取回ASRI并且将其发送到给定目的地。(多个)DM接口716定义用于向和/或从DM 524传送ASRI数据的接口协议。数据存储装置712是例如在数据库内存储ASRI的逻辑实体。程序部分714由配置接口指定,并且确定存储哪些ASRI样本以及转发哪些ASRI样本(例如,来自源A的数据可以被配置为被存储,而来自源B的数据被转发到预定义目的地,其中先存储数据或者不先存储数据)。数据转发718可以确定哪些数据样本被转发。配置接口720定义用于配置DM 524的协议。该配置可以包括例如用于特定源的数据转发规则。控制接口722定义用于从存储装置中取回数据或信息的协议。
图8是示出具有用户设备(UE)的机器人810以及影响UE的无线电网络性能的动态或移动阻塞对象812的图。图9是示出在错误之前、错误期间和错误之后的时间段的无线电网络信息(RI)的图。如图8所示,工厂中的动态对象812随机地阻塞机器人UE 810与BTS1412之间的信号。当对象812阻塞无线电信号时,SINR下降到阈值以下,这可以被认为是错误(图9)。DFA实例520被配置为监测由阻塞引起的错误事件(例如,监测SINR,包括当SINR下降到阈值914以下时,图9)。传感器数据馈送516是由附接到BTS1的相机提供的视频图像。当RI(无线电网络信息)(例如,SINR)指示错误时(例如,当SINR下降到阈值914以下时,图9),在视频图像(SDF)与SINR(RI)之间触发数据关联。从DFA存储器中取回错误/事件(920)之前的数据(ASRI),并且将其与错误期间(922)的数据(ASRI样本)和错误事件之后的数据(ASRI样本)(924)一起转发。在发送ASRI样本之前,对样本进行标记,以指示哪个事件触发了关联以及错误的状态(错误前、错误、错误后)。数据关联根据预先配置的规则来结束,在这种情况下,预先配置的规则是在错误结束之后的某个时间间隔。该数据被转发给DM 524,其在图9中被可视化为来自三个检测到的错误的数据突发。如图9所示,示出了在错误之前(920)、错误期间(922)和错误之后(924)的时间段的数据样本。同样,如图9所示,对ASRI(相关的SINR数据和视频帧)进行过滤并且提供其作为:错误前ASRI;错误期间ASRI;以及错误后ASRI。注意,该示例中的术语错误指示信号(例如SINR)已经超过特定阈值,例如SINR已经下降到阈值914以下。
数据关联和标记将进一步用图9和图10进行说明。图11是示出与不同视频帧相关联的针对错误前、错误和错误后时间而转发或接收的数据的图。如图9所示,当SINR下降到阈值914以下时发生错误事件。如上所述,当动态阻塞对象812在特定位置或定位范围内时,可能发生这种情况。图10示出了在错误前位置1010内的动态阻塞对象812的视频的视频帧(例如,在错误条件之前的对象812的视频帧);在错误1012期间动态阻塞对象812的视频的视频帧(例如,当UE的SINR低于阈值914时或在错误条件期间的对象812的视频帧);在错误条件1014之后动态阻塞对象812的视频的视频帧(在错误条件之后的对象812的视频帧)。因此,1010处的视频帧示出了在错误之前动态对象812正在接近;1012处的视频帧示出了在错误期间动态对象812在UE前面;1014处的视频帧示出了在错误之后对象812正在进一步移开。在该说明性示例中,由阻塞引起的错误事件在SINR和视频帧中表现出相似的行为。这用图11来说明,图11示出了错误之前、期间、之后的典型视频帧、以及基于视频图像而对准的SINR曲线。该图表明,存储这种类型的数据可以存储可以与由信号阻塞引起的错误的根本原因有关的信息。
有几种不同的部署选项。该选项可以通过传感器、DFA算法实例和DM实例的物理或逻辑位置来描述。所提及的每个可以是RN的组成部分和/或外部部分。这表示,部署选项的数目非常大,因此,作为说明性示例,这里仅展示了一些示例部署。
图12是示出部署选项的图,其中DFA算法520在多址边缘云(MEC)服务器内部。RI和SDF被连续馈送给DFA实例。图13是示出与图12类似的部署的图,区别在于,传感器数据被聚合到SDF聚合函数1310,该聚合函数1310在DFA实例520请求时转发SDF。与图12的示例相比,该方法展示了至少两个益处:传感器不必实现SDF接口,并且SDF聚合函数1310可以通过SDF接口1312转发SDF。控制接口1314可以用于减少来自SDF的数据量以节省传输带宽。当需要数据以进行关联时,可以通过DFA算法520发送控制消息来完成这个操作。
图14是示出部署选项的图,其中传感器和DFA算法实例520在无线电网络(RN)412内部。示出了传感器数据馈送516和RI数据样本518。例如,相机(示例传感器)可以被集成到基站(BS,在RN 412内),并且每个基站可以具有DFA算法实例520,该DFA算法实例520将ASRI数据522转发给在RN外部的DM 524。该方法的优点可以包括在传感器数据和无线电网络信息的关联中紧密同步的可能性、以及对基站或RN内部的敏感信息的访问的可能性。
在又一示例实施例中,人工智能(AI)神经网络(例如,可以称为AI神经网络模式、神经网络、神经网络模型或模型)可以用于改进无线电网络的性能。神经网络是用于机器学习的计算模型,该模型由分层组织的节点组成。节点也称为人工神经元,或简称为神经元,并且对所提供的输入执行函数以产生某个输出值。神经网络需要训练时段来获知用于将输入映射到期望输出的参数(即,权重)。映射经由函数来发生。因此,权重是神经网络的映射函数的权重。可以针对特定任务来训练每个神经网络模型。根据示例实施例,一项任务可以包括改进无线电网络的性能(或至少减少无线电网络的性能下降)。由神经网络模型执行的任务由所提供的输入、映射函数和期望输出来确定。
为了在给定输入时提供输出,必须训练神经网络,这可以涉及获知用于映射函数的大量参数的适当值。这些参数通常也称为权重,因为它们用于对映射函数中的各项进行加权。这个训练是一个迭代过程,其中权重的值在数千轮的训练中被调整,直到达到最佳或最准确值。在神经网络的上下文中,通常使用随机值来初始化参数,并且训练优化器迭代地更新网络的参数(也称为权重)以使映射函数中的误差最小化。换言之,在迭代训练的每一轮或每一步中,网络都会更新参数的值,使得参数的值最终收敛在最佳值上。
训练可以是有监督的,也可以是无监督的。在有监督训练中,训练示例被提供给神经网络。训练示例包括输入和期望输出。训练示例也称为标记数据,因为输入用期望输出被标记。网络学习在映射函数中使用的权重的值,当给定输入时,该权重值通常产生期望输出。在无监督训练中,网络学习标识所提供的输入中的结构或模式。换言之,网络标识数据中的隐式关系。无监督训练在深度神经网络以及其他神经网络中使用,并且通常需要大量未标记数据和更长训练时段。一旦训练时段结束,就可以使用神经网络来执行其被训练用于的任务。
另外,在一些示例神经网络模型中,可以由神经网络模型基于数据和成本函数或奖励函数来执行学习。例如,成本函数可以提供关于特定解决方案距要解决的问题的最佳(或期望)解决方案有多远的度量或指示。然而,奖励或奖励函数可以指示输出更接近期望或最优解决方案。例如,在尝试改进无线电网络性能的情况下,成本函数可以指示无线电网络性能(例如,由一组关联传感器和无线电网络信息数据样本产生的)距期望或最佳解决方案有多远。例如,在改进无线电网络性能(或至少试图避免或减少无线电网络的性能下降)的示例中的期望或最佳解决方案可以被指示为可以改进(例如,最大化)一个或多个无线电网络关键性能指示符(例如,改进或最大化由UE接收的信号的SINR、误差率、接收信号强度……)的解决方案。奖励或奖励函数可以用于指示例如已经提高或降低无线电网络性能的输出(例如,+1可以用于增加导致无线电网络性能提高的一组输入数据,而-1可以用于指示导致无线电网络性能下降的一组数据,以便训练模型)。
根据示例实施例,神经网络模型的学习或训练可以根据是否存在学习“信号”或“反馈”可用于模型而分为两大类(有监督和无监督)。因此,例如,在机器学习领域,神经网络模型可以有两种主要的学习或训练类型:有监督和无监督。这两种类型之间的主要区别在于,有监督学习是使用关于我们的样本的输出值应当是什么的已知或先验知识来进行的。因此,有监督学习的目标是获知一个函数,该函数在给定数据样本和期望输出的情况下最佳地近似数据中可观察到的输入与输出之间的关系。另一方面,无监督学习没有标记的输出,因此其目标是推断一组数据点中存在的自然结构。
有监督学习:向计算机呈现示例输入及其期望输出,并且目标可以是获知用于将输入映射到输出的一般规则。例如,有监督学习可以:在分类的上下文中执行,其中计算机或学习算法尝试将输入映射到输出标签;或者在回归的上下文中执行,其中计算机或算法可以将(多个)输入映射到连续(多个)输出。例如,有监督学习中的常见算法可以包括逻辑回归、朴素贝叶斯、支持向量机、人工神经网络和随机森林。在回归和分类两者中,目标可以包括在输入数据中找到特定关系或结构,从而使我们能够有效地产生正确的输出数据。在特殊情况下,输入信号只能部分可用,或仅限于特殊反馈:半有监督学习:仅向计算机提供不完整训练信号:缺少某些(经常是很多)目标输出的训练集。主动学习:计算机只能获取有限实例的训练标签(基于预算),并且还必须优化其对象选择以获取标签。当以交互方式使用时,这些可以被呈现给用户以进行标记。强化学习:训练数据(以奖励和惩罚的形式)仅作为对动态环境中程序动作的反馈,例如,使用实时数据。
无监督学习:没有为学习算法提供标签,仅靠学习算法查找其输入中的结构。无监督学习内的一些示例任务可以包括聚类、表示学习和密度估计。在这些情况下,计算机或学习算法尝试不使用显式提供的标签来获知数据的固有结构。一些常见算法包括k均值聚类、主成分分析和自动编码器。由于未提供标签,因此在大多数无监督学习方法中没有用于比较模型性能的特定方法。
图15是示出根据示例实施例的系统的图,该系统使用人工智能算法来训练神经网络模型,并且然后使用该神经网络模型来改进无线电网络的操作。图15所示的很多框类似于图5和这里的其他图。为了简要回顾,传感器10可以感测或测量或标识与物理环境相关联的一个或多个参数。根据示例实施例,DFA(数据过滤和关联)(或DFA算法)520是将RI(无线电网络信息)518和SDF(传感器数据馈送)516相关联的逻辑实体。关联数据称为关联传感器和无线电网络信息(ASRI)522。存储有ASRI数据522样本的存储装置称为数据管理(DM)524。传感器数据馈送(SDF)516从传感器410输出到DFA 520。如上所述,无线电网络(RN)412可以包括BS、UE和/或核心网实体、或者其他无线电网络节点或实体。无线电网络信息(RI)518从RN 412输出到DFA 520。DFA 520可以关联和过滤来自被认为与网络性能相关的数据流(SDF516和RI 518)中的相关数据,并且可以用相关性的原因来标记数据。
另外,如图15所示,可以在一个或多个计算机或服务器上运行的人工智能(AI)算法1510可以接收训练ASRI数据1520,并且可以训练神经网络模型1512。可以使用各种类型的训练或学习来训练模型1512,例如,诸如有监督学习、无监督学习和强化学习。在说明性示例中,AI算法1510可以使用第一组ASRI数据(例如,训练数据1520)来训练模型1512。然后,AI算法可以使用第二组数据(例如,实时数据或实时ASRI)1522基于经训练的模型1512来执行(或引起另一实体执行)可以改进无线电网络412的性能的一个或多个动作。因此,可以采用两部分(或多步骤)的过程,该过程可以包括例如:1)训练过程,其中AI算法1510训练神经网络模型1512;以及2)无线电网络(RN)优化过程,例如,其中其他ASRI数据(例如,实时ASRI数据1522)可以由AI算法1510接收并且用于执行(或触发或引起另一实体执行)一个或多个动作以改进无线电网络412的性能。根据示例实施例,所执行的动作可以包括无线电网络动作和非无线电网络动作。另外,在某些情况下,这些动作可以是预测性动作或抢先式动作,例如,可以基于经训练的模型和实时ASRI数据来抢先式地尝试改进无线电网络性能。例如,抢先式动作可以包括可以被设计(或估计)以基于经训练的模型1512和实时数据或实时ASRI数据1522来改进无线电网络性能或至少减少无线电网络的性能下降(例如,预期或预测的RN性能下降)的一个或多个无线电网络动作和/或一个或多个非无线电网络动作。
执行动作或引起另一实体执行动作可以包括例如以下一项或多项:执行或引起另一实体执行一个或多个无线电网络动作;向网络优化实体或另一实体提供一个或多个输入参数;在物理环境的对象或方面被改变的情况下执行或引起另一实体执行一个或多个非无线电网络动作。在物理环境的对象或方面被改变的情况下执行或引起另一实体执行一个或多个非无线电网络动作可以包括执行或引起另一实体执行影响无线电网络的性能的对象(例如,机器人、墙壁、或物理环境的任何其他对象或部分)的定位、位置、方位、速度和/或移动的改变。
同样,执行(或引起另一实体执行)无线电网络动作(例如,以改进无线电网络的性能)可以包括例如执行(或引起另一实体执行)与以下至少一项有关的无线电网络动作:用户设备到目标基站的切换;两个或更多基站之间的业务或数据的负载平衡;用于基站与用户设备之间的无线电链路的链路适配;由用户设备执行的小区选择或小区重新选择;调度;资源分配;发送功率控制;以及定时提前调节。
此外,该系统还可以执行以下操作:响应于一个或多个无线电网络动作和/或一个或多个非无线电网络动作,确定无线电网络的性能的所致变化;确定与所执行的一个或多个无线电网络动作和/或所执行的一个或多个非无线电网络动作相关联的奖励,其中该奖励基于所执行的一个或多个无线电网络动作和/或所执行的一个或多个非无线电网络动作是否导致无线电网络的性能提高或下降或者与无线电网络的性能提高或下降相关联。另外,例如,改进无线电网络的性能可以包括输出以下至少一项:针对下一数据样本的无线电网络的关键性能指示符(KPI);以及使用Q学习、策略梯度或行为者批判算法中的一项或多项,在可用动作上的估计最佳动作和/或概率分布或者针对一个或多个动作中的每个动作的估计奖励。
另外,例如,神经网络模型可以估计在时间t之前包括多个关联传感器和无线电网络信息数据样本的输入(例如,ASRI数据)与在时间t之后包括一个或多个预测传感器数据样本和/或一个或多个预测无线电网络信息数据样本的输出之间的状态转移函数。
在另一示例实施例中,该系统可以在神经网络模型的训练之后执行:基于一个或多个关联传感器和无线电网络信息数据样本的第二集合和模型,确定无线电网络的预测未来状态:确定无线电网络的预测未来状态指示无线电网络的预测性能被预期低于阈值;以及执行以下至少一项以改进无线电网络的性能:1)向网络优化实体提供包括无线电网络的预测未来状态的信息;2)执行或引起另一实体执行非无线电网络动作;以及3)执行或引起另一实体执行无线电网络动作。
另外,在示例实施例中,从一个或多个传感器接收传感器数据样本可以包括接收与以下一项或多项相关联的传感器数据样本:1)控制物理环境的对象或部分的按钮、开关或控制器;2)控制对象的定位、位置、方位或移动的按钮、开关或控制器;3)控制对象的状况或状态的按钮、开关或控制器;4)捕获物理环境的对象或部分的图像或视频馈送的相机;以及5)检测物理环境的对象或部分的状况或状态的传感器。另外,例如,接收与无线电网络相关联的无线电网络信息数据样本可以包括接收以下至少一项:1)针对无线电网络的无线电网络关键性能指示符;2)与无线电网络动作相关联的信息;以及3)无线电网络配置参数。例如,无线电网络关键性能指示符可以包括(作为说明性示例)以下一项或多项:接收信号强度;总接收功率;接收干扰功率;以及信干噪比(SINR);路径损耗;参考信号接收功率;参考信号接收质量;接收信号强度指示符;可靠性;误块率;时延;抖动;覆盖范围;容量;数据传送速率;秩指示符;调制和编码方案指示符;信道状态信息;以及定时提前。
再次参考图15的系统,AI算法1510可以用于训练神经网络模型1512(例如,基于ASRI数据或训练数据的第一集合),并且然后AI算法1510可以基于经训练的模型1512来确定要执行的动作和/或输出控制信息1524以执行(或引起另一实体执行)一个或多个动作以改进无线电网络的性能。
根据说明性示例实施例,无线电网络可以通过人工智能算法1510来执行预测性(或抢先式)自优化,该人工智能算法1510可以使用无线电网络KPI和参数以及来自感测环境的时空变化的传感器的数据(例如,ASRI数据)来获知它们之间的关联模式(例如,传感器数据与相关联的无线电网络信息之间的通常相关的行为模式)。通过将实时传感器数据和实时无线电网络信息数据馈送给AI算法1510,通过执行一组动作中的动作来改进无线电网络的性能,该动作被认为在给定来自传感器和无线电网络的最新数据的情况下(例如,基于已训练神经网络模型1512)可以(例如,最有可能)最大程度地改进无线电网络性能。AI算法1510和相关联的神经网络模型1512可以利用传感器数据和无线电网络信息数据的记录(存储数据)来训练,该记录已经导致与无线电网络的性能有关的事件。替代地,可以直接利用实时数据馈送1522来训练AI算法1510。基于高质量的训练数据(高质量的ASRI数据),AI算法1510可以建立(例如,在神经网络模型1512内)对数据流(传感器数据和无线电网络信息)在网络中的某些事件之前看起来如何的理解。例如,以相机作为传感器,神经网络1512可以在几次出现之后获悉,当UE移动到阻塞对象后面时,无线电链路故障随之而来。因此,基于已获知的模型,当相机馈送(传感器数据馈送)例如基于UE的当前路径和速度(例如,如在多个数据样本或视频帧上指示的)而指示UE将要移动到阻塞对象后面时,AI算法1510可以能够触发(例如,引起)诸如UE/用户设备的切换等动作。
因此,根据说明性示例实施例,该系统可以执行若干操作:1)传感器从环境捕获时空数据;2)无线电网络(RN)捕获RN信息(RI);3)RI与传感器数据馈送(SDF)(关联传感器和无线电网络信息ASRI)相关联;4)从ASRI数据流中标记和选择与网络性能相关的ASRI样本;5)相关的相关数据样本被存储到数据库或直接转发以进行进一步处理。6)执行训练过程,例如,其中基于人工智能(AI)的模型从已知会导致与网络性能相关的事件的历史数据中获知SDF和RI之间的关联模式(传感器数据和RI之间的关联模式的示例可以包括:叉车从位置X移到位置y,这通常会导致UE的RI的SINR下降);以及7)RN优化(或无线电网络性能改进),其中基于AI的算法1510可以提供输入或控制信息以执行动作(例如,抢先式动作或预测性动作,其可以包括无线电网络动作和/或非无线电网络动作),以改进(例如,优化)无线电网络性能。
因此,根据示例实施例,神经网络模型1512(图15)可以针对与无线电网络412的性能有关的事件来获知SDF与RI之间的相关模式。这可以包括AI算法1510训练神经网络模型(例如,而不必执行任何所致操作)。可以使用不同AI学习技术来训练神经网络模型1512。另外,在神经网络模型1512的训练之后(和/或在其训练期间),实时ASRI数据可以被AI算法1510接收并且馈送到神经网络模型1512。基于实时ASRI数据,已训练神经网络模型1512可以输出要执行例如以改进无线电网络412的性能的一个或多个动作的指示。这些要执行的动作可以包括无线电网络动作和/或非无线电网络动作。因此,例如,一些数据(例如,实时数据或第二组ASRI数据)可以用于以下两者:1)执行进一步的训练,和/或2)确定要执行以改进或优化无线电网络性能的(多个)动作。另外,根据示例实施例,控制回路可以用于测量由所应用的动作引起(或与所应用的动作相关联)的无线电网络性能的所致变化。例如,可以将ASRI数据馈送到AI算法和神经网络模型1512以检测(多个)误差(诸如所致的后续无线电网络性能没有改进,或者没有与基于所应用的动作而预期的改进得一样多),并且然后可以基于该所致的无线电网络性能反馈来更新神经网络模型1512以减少误差。因此,以这种方式,基于该反馈,神经网络模型将不太可能执行或输出不能改进无线电网络性能的动作,而神经网络模型将更可能指示(或输出)或执行与无线电网络性能的较大改进相关联的更成功的动作。
诸如有监督、无监督或强化学习方法等AI方法可以用于基于ASRI数据来训练神经网络模型。该训练可以利用实时数据和/或利用来自数据库的数据来执行。神经网络模型描述了从ASRI数据中找到的信息的输入输出关系。该模型取决于用例和实现。
一些但非限制性的示例可以包括:1)训练神经网络模型1512以近似状态转移函数,其中输入是时间t之前的n个最新ASRI样本,而输出是时间t之后的m个ASRI样本。因此,当给定最新样本作为输入时,已训练神经网络模型1512可以至少部分预测或预报即将到来的样本。该信息之后可以用于执行动作。此外,基于后续ASRI反馈,神经网络模型可以评估所执行动作的良好性(或成功),例如,通过近似n个最新ASRI样本与通过奖励函数而评估的动作的结果之间的输入输出关系(与神经网络)(例如,在简单情况下,如果无线电网络性能改进,则奖励为+1,否则,奖励为-1)。2)在神经网络模型1512被训练之后,当接收到某些ASRI数据(例如,接收到的某些ASRI数据可以与神经网络模型1512已知的特定模式匹配)时,使用神经网络模型来触发动作(预测性或抢先式动作)。在模型训练之后,有几种替代方法可以实现执行优化动作的算法,例如:为预编程优化算法提供网络条件的预报信息。这样,模型可以例如在某些误差事件发生之前发出其警告信号。
此外,已训练神经网络模型可以用作强化学习算法的起点,该算法执行动作并且随着时间的推移学习最佳动作以便在不同条件(由不同ASRI数据指示)下优化或改进无线电网络性能。例如,该方法可以在从实时网络获取一定数量的训练数据之后执行(或引起或触发)动作,之后,可以开始强化学习。在一个说明性示例中,神经网络模型1512可以预测未来无线电网络KPI(例如,在下一数据样本处预测UE的SINR)。该信息可以用于执行或引起另一实体执行用于改进无线电网络性能的动作(例如,增加SINR,或者减少未来ASRI样本中的SINR的减少量)。所预测的SINR可以被提供给另一实体,该另一实体然后可以执行动作。
以下是可以被执行以优化网络KPI(例如,覆盖范围、容量、能量和可靠性)的与以下功能有关的动作的一些说明性(非限制性)示例:基站睡眠模式;链路自适应;MIMO秩自适应;链路管理(多重连接,添加或删除链路,诸如添加链路以改进连接鲁棒性);URLLC可靠性和时延管理;切换决定(例如,引起UE执行不受阻塞或不被干扰的从BS1到BS2的切换);波束成形/波束管理(例如,将UE转切到其他波束以避免干扰对象);功率控制(例如,引起UE增加传输功率);干扰协调(例如,向相邻BS发送消息以控制来自该BS的干扰);天线倾斜或位置优化;服务质量/体验质量管理(包括已经列出的项目)。
图16是根据另一示例实施例的系统的图。在图16中,具有UE的机器人在某些情况下可能基于移动的阻塞对象(例如,移动的叉车)而受到干扰。在该示例中,神经网络模型可以获知ASRI数据的一个或多个相关模式(或可以基于该相关模式被训练)。例如,在多个ASRI数据集上,神经网络模型1512可以获悉:当对象(例如,叉车)812从位置x移动到位置y时,这与机器人810的UE的SINR(信干噪比)的立即下降相关联。因此,在神经网络模型被训练之后,可以使用强化学习来进一步细化神经网络模型的训练。例如,已训练神经网络模型可以接收实时训练ASRI数据,并且响应于检测到从位置x到位置y移动的对象的这种相关模式,可以执行(或引起另一实体执行)不同动作。随着时间的流逝,在执行很多不同动作并且测量所致的无线电网络性能(例如,在执行该动作之后所产生的UE的后续无线电网络SINR)之后,还可以训练神经网络模型1512以进一步改进无线电网络性能。因此,例如,在当对象从位置x移动到位置y时尝试成百上千个不同动作(这通常会导致机器人810上的UE的SINR下降)之后,在这种情况下UE的SINR的最优(或最佳)改进可以是将UE的传输功率改进z dB,并且将调制和编码方案(MCS)降低到较低MCS,例如,以允许UE与BTS1之间的通信更加鲁棒,并且避免SINR下降。或者,作为另一示例实施例,优选动作可以是执行UE从BS1(或BTS1)到未被阻塞对象阻塞的BTS2(未示出)的立即切换,例如,以避免(或最小化)UE的SINR(例如,由UE测量并且报告给BS1的SINR,或者由BS1测量的SINR)的下降。以这种方式,可以训练神经网络模型1512以获知ASRI数据的一个或多个相关模式,并且然后神经网络模型1512可以使用后续数据来引起一个或多个动作被执行以改进无线电网络性能。
图17是示出根据示例实施例的系统的框图,在该系统中,使用单独的DFA实例来对训练数据和实时数据进行过滤。如图17所示,DFA实例520A用于过滤或标识训练ASRI数据522的误差(或与无线电网络的性能无关的ASRI数据,诸如与SINR下降在时间上相关联的ASRI数据),而DFA实例520B用于对可以用于引起或触发动作的实时ASRI数据1522的ASRI数据进行采样。因此,在该示例中,DFA实例520A可以过滤以向DM 524仅提供与一个或多个误差或无线电网络性能下降(诸如ASRI,包括与UE的SINR下降在时间上相关联的SDF/视频帧)相关联的ASRI数据。例如,该相关ASRI数据可以用于训练神经网络模型1512。在训练之后,DFA实例520B可以对ASRI数据进行采样(但不一定过滤),以使其被提供作为采样实时ASRI数据1522。神经网络模型1512然后可以尝试标识ASRI数据中的这样的相关模式,以引起校正动作被执行,例如,以试图改进无线电网络的性能。
因此,根据示例实施例,参考图17,无线电网络信息(RI)可以包括由机器人UE(810)经历的SINR,并且SDF可以包括来自附接到BTS1的相机的(多个)视频图像(可以指示阻塞对象812的位置)。因此,例如,AI算法1510和神经网络模型1512可以获知视频图像与SINR之间的相关性,以预测由阻塞引起的即将到来的误差。为此,需要从误差情况中获取训练数据以训练模型。在训练完成之后,模型需要连续不断的实时数据流以检测即将到来的误差。这是通过配置以下说明的两个DFA实例来实现的:例如,神经网络模型1512可能正在寻找叉车的位置变化,以标记校正动作或引起校正动作被执行,该动作可以是抢先式或预测性动作,因为基于实时ASRI数据1522和已训练神经网络模型1512(例如,现在被训练为识别从位置x移动到位置y的对象812与UE的SINR下降之间的相关性),可以在实际发生误差(例如,SINR下降或SINR显著下降,这可能导致UE与BTS1断开连接)之前执行校正动作(至少在某些情况下)。该系统提供的技术优势是允许执行诸如抢先式校正动作等可以避免误差或无线电网络性能下降的动作,或者在实际发生预测或预期误差之前执行校正动作。这与可以在实际检测到误差(例如,UE的SINR下降)之后执行的反应性动作形成对比,而BTS1可以尝试UE的切换,但是执行这样的切换可能为时已晚,并且当执行反应性动作时,BTS1与UE之间的连接可能会丢失。
第一DFA实例520A可以收集训练数据:DFA实例520A被配置为监测由阻塞引起的误差事件(例如,SINR下降)。当RI指示误差时,将触发数据关联。从DFA的存储器中提取事件之前的数据,并且将其与误差事件之后的数据一起发送。在发送ASRI样本之前,对样本进行标记,以指示触发关联的事件和误差的状态(之前期间之后)。根据预先配置的规则来结束数据关联,在这种情况下,该预先配置的规则是在误差结束之后的某个时间间隔。该数据被转发给DM,其在图17中可视化为来自三个检测到的误差的数据突发。
第二DFA实例被配置为流传输AI算法1510和神经网络模型1512的实时ASRI数据。为了节省传输带宽和处理能力,数据关联被配置为在每个预定义采样间隔之后进行一次。然后,直接转发该数据,以供AI算法1510和神经网络模型1512使用。基于实时数据,AI算法和/或神经网络模型可以标识和执行抢先式校正动作(例如,(在误差发生之前或在误差变得过于严重之前)以解决即将发生的误差。例如,抢先式校正动作可以包括例如增加传输功率,调节MCS,执行切换,或者任何其他无线电网络改变或调节或非无线电网络动作。
因此,例如,可以用来自第一DFA实例520A的ASRI数据来训练神经网络模型1512,并且基于从第二DFA实例520B采样的实时ASRI数据来执行抢先式校正动作。图9证明了所描述的收集训练数据的方式为何有助于构建预测性AI模型的原因。图9示出了三个阻塞误差事件,其中SINR下降到阈值以下。图9示出来误差之前期间之后的区域。图10示出了在第一误差期间的视频帧,其示出:在误差之前,动态对象正在接近(1010);在误差期间,动态对象在UE前面(1012);以及在误差之后,对象将进一步移开(1014)。
由阻塞引起的所有误差事件在SINR和视频帧中均表现出相似的行为。这在图11中进行了说明,图11示出了误差之前期间之后的典型视频帧以及基于视频图像而对准的三个不同误差事件的SINR曲线。图11表明,存储这种类型的数据存储由阻塞引起的误差的根本原因的信息。因此,当使用该数据来训练AI模型时,该模型可以能够标识导致误差的ASRI样本。这在图18中用来自第二DFA实例520B的采样的实时ASRI数据进行说明,该实时ASRI数据被馈送或输入到AI算法1510和神经网络模型1512。图18示出了根据示例实施例的被输入到神经网络模型1512的实时数据的SINR数据样本。图18所示的四个ASRI样本(1810、1820、1830、1840,例如,指示在四个视频帧上对象的位置变化)表明(在该示例中,基于模型1512已知的已知相关模式),动态对象将阻塞无线电信号并且导致(例如)SINR的显著下降。如果对神经网络模型1512进行适当训练,并且在将这些实时ASRI样本提供给神经网络模型1512时,神经网络模型1512可以预测误差(例如,信号阻塞或UE的SINR的显著下降),并且从而可以执行(多个)抢先式校正动作以解答或解决该问题(例如,可以执行抢先式校正动作以避免误差和/或至少降低误差的严重性)。
图19是示出根据示例实施例的强化学习的操作的图。强化学习是机器学习的一个子领域,其中机器学习算法通过反复试验来学习执行给定任务。参考图19,代理(例如,软件代理)是指或可以包括可以被训练并且然后基于所执行的各种动作进行调节或适配的实体(例如,AI算法1510和/或神经网络1512)。环境可以指代可以被测量和/或经由所应用的动作来控制的各种参数或对象(例如,ASRI数据)。强化学习的基本原理在图19中示出,其中环境处于状态s并且在执行某个动作a之后接收到奖励r。当采取新的动作时,环境处于新的状态并且接收到新的奖励。强化算法试图了解在哪种状态下采取哪个动作以最大化未来奖励。在无线电网络上下文中,强化学习可以如下工作:环境的状态可以被描述为无线电网络的对象参数的位置、和/或传感器数据(诸如相机图像(ASRI数据));动作可以包括无线电网络动作和/或非无线电网络动作,诸如调节MCS或传输功率,执行切换,移动基站天线或其他动作。可以根据或基于与先前状态相比改进的UE SINR或改进的UE可靠性来检测奖励。
图20是示出根据示例实施例的神经网络架构(神经网络模型)的框图。图20的神经网络架构提供多个输入(X)和多个输出(Y)之间的功能;箭头指示图20中从底部到顶部的数据流。在2010处,在时间t从传感器接收输入(X)。在2015(剩余框1a)处,执行公知的神经网络方法,包括卷积长期短期记忆(ConvLSTM),该ConvLSTM基于输入(例如,视频数据帧)使用先验知识和卷积并且考虑先前的视频帧(例如,看到叉车在移动)。另外,可以通过使用卷积来减少参数的数目。在2020处,剩余框1b(可以有多个剩余框)提供进一步(或深度)学习,例如,以越来越低的分辨率来评估数据。在2030(全局平均池化)和2040(动作数目(numactions))处,神经网络会将节点或向量的数目校正或调节为正确大小,以便为每个动作提供概率值,例如,如果有100个动作,则神经网络可以提供100个输出。在2050处,神经网络基于称为Q学习的强化学习来输出Q值,该学习是接受传感器值(输入X)的函数,并且输出是动作的概率分布,例如,什么是基于这些输入的最佳动作。注意,其他强化学习方法可以以略有不同的方式利用深度学习。例如,可以在A3C算法中使用类似的网络架构,其中输出Y将由策略P(X)和值估计V(X)组成,其中X是状态或输入。
在机器学习或训练期间,可以存在多对X输入,它们产生Y输出(输出的概率);应用输入(对象/铲车位置的改变),并且对于不同输入,将生成一组输出(Y)(动作的概率)。Q学习是一种算法,其可以选择最佳动作或最大输出值,并且然后将该对应动作应用于无线电网络,并且测量是否实现奖励,并且更新该动作的概率或Q值。可以有一组动作产生一定结果,并且根据奖励进行度量。尚不清楚是哪个动作导致获取积极奖励的变化。在A3C算法中,网络已经为每个动作选择了策略(每个动作的概率)和值估计。
图21是示出根据示例实施例的使用多个输入模态的神经网络架构(神经网络模型)的框图。可以输入或提供输入数据的不同模式或模态,例如,诸如视频帧、雷达数据和LiDAR数据。如图21所示,可以分别处理这些类型的数据中的每种,并且然后基于所有输入模态执行深度学习。例如,针对视频(2110)、雷达(2120)和LiDAR(2130)执行模态特定卷积长期短期存储器(ConvLSTM)。在2140处,然后执行深度学习,其中针对所有三种数据类型或输入模态执行模态特定卷积长期短期存储器(ConvLSTM)。在2150处,神经网络为多模型输入的每个动作输出Q值估计。另外,对于A3C算法,网络将输出V(X)和P(X)而不是Q(X)。因此,对于多个输入模态,可以将网络的起点分开,使得某些层依赖于模态(在该示例中,对于不同模态或输入类型,诸如视频、雷达、LiDAR),并且然后将这些层连接或组合到网络的模态不可知部分,如图21所示。通过采用包括多种输入模态的神经网络模型,这可以改进结果,并且还可以对神经网络进行更好的预训练,因为可以将不同类型或模态的数据用于训练。
图22是示出根据示例实施例的可以使用和/或组合以训练神经网络模型的不同学习的概述的框图。如图22所示,示出了可供学习的三个选项,包括:选项A)有监督训练;选项B)有监督加上强化学习;以及选项C)仅强化学习。
对于选项A)(仅有监督),在2210处,可以使用预先记录的数据对模型(神经网络模型)进行预训练,以获取已预训练模型。在2220处,可以收集输入数据(例如,ASRI数据),并且可以训练模型以获取环境模型,并且在2230处,可以执行运行时阶段,其中基于实时数据使用模型来确定/或执行动作。
如果执行选项B)(有监督加上强化学习),则在执行有监督学习以产生环境模型之后,在2240处,可以执行强化学习(RL)训练阶段(可选),例如,以获取已预训练RL模型。在2250处,利用实时数据来执行RL运行时训练。
如果执行选项C)(仅强化学习(RL)),则在2260处,可以执行强化学习训练阶段(可选),例如,以获取已预训练RL模型。在2270处,使用实时数据来执行强化学习(RL)运行时训练。
选项A)仅有监督方法是使用从环境中记录的真实数据和动作进行训练的。训练目标可以是例如在给定先前帧和动作的情况下尝试获知未来的系统状态。根据示例实施例,除了未来预测,还可以执行其他替代任务。例如,神经网络模型可以预测无线电网络KPI(例如,下一或后续数据样本的SINR)等。有监督方法的输出是环境模型。它可以用作预定义自适应系统的输入。例如,该模型可以指示预编程优化算法的即将到来的误差。最简单的方法是仅使用有监督,因为它没有强化学习。输出是环境模型,在与叉车示例相关的简单示例中,环境模型(神经网络)可以指示一个或多个(或所有)KPI的概率:例如,SINR:预测针对下一时间戳/样本的UE的SINR;对于每个BS,它将指示下一样本/时间戳的最可能的SINR值。
选项B)有监督+强化学习:通过观察环境而创建的环境模型。神经网络模型可能正在尝试基于奖励系统来创建关于针对不同输入应当执行哪些动作的策略(或模型)。在选项A)中,当叉车移动时SINR会降低,但是尚未应用任何动作。在选项B)中,应用不同动作(例如,对于Q学习,如果采取动作,则每个输出指示预期奖励);因此应用不同操作,并且观察输出,并且然后根据基于所应用的动作而获取的奖励来调节Q值)
选项C)在该选项中,无需任何预训练就直接训练强化学习模型。它可以包含RL训练阶段,在该阶段中,可以允许该方法在现实情况下探索不同输出选项,但可以克服误差。
图23是示出根据示例实施例的基于选项A和B的用于神经网络模型的训练阶段的框图。在学习阶段期间,将来自DM 524B的预训练数据(用于有监督学习)输入到代理(例如,AI算法和/或神经网络模型)2314,并且可以将运行时训练数据(用于强化学习)从DM524A输入到代理2314。
在另一实施例中,可以通过交叉引用不同输入模态来基于环境模型的模态特定部分(例如,参见图21)来进行训练或预训练。例如,可以通过使模型的雷达部分预测视频相机内容和内容的变化来训练模型的雷达部分(Xvideo=fvideo(Xradar)),反之亦然(Xradar=fradar(Xvideo)),其中f表示网络的模态特定部分。这允许以数据有效方式用现有数据对网络的模态特定部分进行预训练。即使在最终训练期间,也可以继续进行这种交叉参考训练。
图24是示出根据示例实施例的基于选项A的神经网络模型的运行时阶段的框图。如图24所示,在运行时阶段期间,可以接收实时数据(实时ASRI数据)并且将其输入到代理2310。基于已训练神经网络模型和实时ASRI数据,代理2310的动作值函数近似2314生成输出(例如,概率值,基于St(状态2312或实时ASRI数据)和a(所执行的动作)的无线电网络的预测KPI(诸如下一时间样本的SINR或Q值)。代理2310的输出可以被输入到预编程自优化算法2410。基于代理输出,自优化算法2410可以确定被执行以改进无线电网络412的性能的一个或多个动作(例如,抢先式校正动作,诸如无线电网络动作或非无线电网络动作)。在2414处,自优化算法2410可以指示(或发送控制信息以指示)要执行的抢先式校正动作。
因此,参考图24,实时数据被馈送到模型,并且输出被转发给预定义自适应系统,例如,为预编程切换优化算法2410提供即将到来的切换故障的指示。动作值近似Q 2314可以是神经网络模型,该模型基于状态St估计应当采取的(多个)动作,状态St基于当前ASRI数据(或ASRI数据的子集)。在实时模式下,2310或2314的输出可以包括多个动作中的每个动作的Q值。因此,例如,输出可以是:1)下一时间样本的预测KPI(例如,下一时间样本的预期SINR);或2)Q值,其可以是或可以包括多个动作中的每个动作的预期的未来奖励的估计(例如,可以执行与最高奖励或最高Q值相关联的动作)。
图25是示出基于选项B的神经网络模型的运行时阶段的框图,其中用于确定动作的策略被包括在代理2510内。在图25中,代理2510(包括动作值函数近似神经网络2314)获知用于选择动作的最佳策略2512。这将需要反复试验才能收敛到最佳解决方案。因此,在图25中,策略2512由代理自身生成或创建,代理2510选择动作。而在图24的系统中,神经网络(动作值函数近似2314)提供环境状态的预测,例如,多个KPI的KPI预测(可以是下一时间样本的预期的KPI值)。
使用选项C,与选项A和B(图23至图24)的主要区别在于,该方法没有任何预编程能力来控制网络。该算法在没有任何有关如何控制网络的先验信息的情况下开始。目标是经由强化学习来获知用于控制网络的最佳策略。因此,该方法可能最适合容错的情况,诸如在将网络设置为活动之前进行网络的部署优化阶段。这也适用于带有新型传感器或无法轻易进行预训练的新型环境的情况。
因此,根据示例实施例,各种示例实施例可以提供预测模型,以基于ASRI数据和模型来采取动作以改进无线电网络的性能。该系统(基于已训练神经网络模型和实时ASRI数据)可以提供或指示可以被执行以避免不良RN事件或改进RN性能的抢先式校正动作(与未执行任何动作的情况相比,该动作可以改进RN性能)。
一些示例优点可以包括以下一项或多项:
RI和传感器数据的关联捕获关于环境中影响网络性能的事件的附加信息。这允许执行预测性自优化(或抢先式校正动作),这在其他情况下是不可能的,因为在很多情况下,用于网络优化的传统无线电网络信息不能足够早地指示即将发生的事件,因此传统算法是反应性的,而不是抢先式的(或预测性的)。
可以基于相关联的传感器数据(例如,基于与物理环境相关联的数据)和无线电网络信息(ASRI)来训练AI神经网络模型。以这种方式,AI神经网络模型可以获知ASRI数据之间的相关模式。作为示例关联模式,基于训练ASRI数据,AI神经网络模型可以获知,从位置x到y移动的叉车与UE的SINR在z ms内(例如,2ms内)的显著下降相关(或相关联)。此外,作为训练或强化学习的一部分,可以执行一个或多个动作,并且可以由神经网络模型接收所致ASRI,并且对于各种ASRI数据,可以基于哪些动作改进无线电网络性能(例如,针对下一数据样本或接下来的n个数据样本,哪些动作导致最高所致UE SINR)以及哪些动作不改进无线电网络性能来调节或适配AI神经网络模型(例如,神经网络模型的权重)。然后,可以将实时ASRI数据输入到已训练AI神经网络模型中,以触发一个或多个抢先式校正动作(例如,无线电网络动作和/或非无线电网络动作),以改进无线电网络的性能,例如,诸如已经表明针对下一数据样本或接下来的n个数据样本产生最高UE SINR的一个或多个动作。因此,通过使用可以获知ASRI数据的相关模式的AI神经网络模型,可以执行抢先式校正动作以改进无线电网络性能,而不是执行通常仅在已经检测到无线电网络性能的显著降级之后才执行的反应性动作。
例如,相关联的视频流可以揭示出无线电链路突然降级的原因是对象阻塞无线电信号,或者相关联的按下按钮可以揭示出开门会在建筑物的特定区域内从室外基站引入明显干扰。
提供相关联的RI和SDF可以用于做出关于可以被执行以改进RN性能的一个或多个动作(或者可以被用来防止错误的动作)或者可以被触发以改进RN性能的动作的决定。可以被触发的这些动作可以包括RN动作(例如,增加传输功率,执行UE的切换,将UE转切到更鲁棒的MCS,等等)、或与物理环境相关联的动作,例如,诸如改变阻塞对象的移动或移动时间,改变阻塞对象的位置或方位,或者物理环境的情况的其他改变。例如,关于图2,基于先前接收的ASRI数据,已经观察到,当阻塞对象218到达150m的坐标并且从左向右移动时,这与将持续直到阻塞对象到达约350m的位置的错误条件相关。因此,基于后续ASRI,该系统可以执行RN动作,诸如在阻塞对象达到140m时执行UE从BTS1到BTS2的切换,或者当阻塞对象达到150m时增加传输功率。神经网络模型可以获知这些相关事件,并且然后在被呈现有类似实时数据时可以用来触发或引起抢先式校正动作以解决或减少问题。
RI和传感器数据的关联捕获关于环境中影响网络性能的事件的附加信息。另外,通过标记和存储事件之前和之后的数据,存储导致这些事件的信息,该信息可以用于例如训练能够基于实时数据馈送来预测这些事件的模型。
例如,相关联的视频流可以揭示无线电链路突然降级的原因是对象阻塞了无线电信号(如图2所示),或者相关联的按下按钮可以揭示打开门会导致在建筑物的某个区域内来自室外基站的严重干扰(如图3所示)。
在示例实施例中,室内到室外隔离可能对可靠性水平具有显著影响。例如,在某些情况下,打开工厂门可以等同于隔离减少10到20分贝。
然而,重要的是要注意,示例实施例和技术不限于给定示例。这些示例和技术可以适用于时空变化会影响无线电网络性能的任何用例,例如:物流自动化:传感器可以跟踪物流中心或港口中对无线连接有重大影响的集装箱的移动;连接的医院:在MRI或手术室打开一扇门可能会引入干扰(这些类型的房间通常与无线电波隔离);具有无线连接的电梯:传感器可以跟踪与连接质量相关的电梯井道中的电梯状态;汽车/火车内的连接的汽车/火车或eMBB用户:传感器数据可以指示汽车/火车正在接近5G网络覆盖中断区域。
现在描述一些示例实施例。
示例1.图26是示出根据示例实施例的系统的操作的流程图。操作2610包括从一个或多个传感器接收传感器数据样本。操作2620包括接收与无线电网络相关联的无线电网络信息数据样本。操作2630包括:基于所接收的一个或多个传感器数据样本与所接收的无线电网络信息数据样本中的一个或多个无线电网络信息数据样本的关联,确定一个或多个关联传感器和无线电网络信息数据样本的第一集合。操作2640包括:基于关联传感器和无线电网络信息数据样本的第一集合中的、与无线电网络的性能有关的至少一部分,开发被训练的模型。并且,操作2650包括:至少基于模型,改进无线电网络的性能。
示例2.根据示例1的方法的示例实施例,改进无线电网络的性能包括:确定一个或多个关联传感器和无线电网络信息数据样本的第二集合;以及基于模型以及一个或多个关联传感器和无线电网络信息数据样本的第二集合,执行或引起另一实体执行一个或多个无线电网络动作和/或一个或多个非无线电网络动作以改进无线电网络的性能。
示例3.根据示例2的方法的示例实施例,执行或引起另一实体执行包括:基于模型以及一个或多个关联传感器和无线电网络信息数据样本的第二集合,执行或引起另一实体执行包括一个或多个无线电网络动作的一个或多个抢先式动作和/或一个或多个抢先式非无线电网络动作,其中抢先式动作包括基于模型以及一个或多个关联传感器和无线电网络信息数据样本的第二集合而被估计为至少减少无线电网络的性能下降的动作。
示例4.根据示例2-3中任一项的方法的示例实施例,其中:一个或多个关联传感器和无线电网络信息数据样本的第一集合包括被用于训练模型的训练数据;以及一个或多个关联传感器和无线电网络信息数据样本的第二集合包括实时数据,实时数据与经训练的模型一起被用于执行或引起另一实体执行一个或多个无线电网络动作和/或一个或多个非无线电网络动作以改进无线电网络的性能。
示例5.根据示例2-4中任一项的方法的示例实施例,执行或引起另一实体执行一个或多个无线电网络动作和/或一个或多个非无线电网络动作包括基于模型以及一个或多个关联传感器和无线电网络信息数据样本的第二集合执行以下至少一项:执行或引起另一实体执行一个或多个无线电网络动作;向网络优化实体或另一实体提供一个或多个输入参数;以及在物理环境的对象或方面被改变的情况下执行或引起另一实体执行一个或多个非无线电网络动作。
示例6.根据示例5的方法的示例实施例,其中在物理环境的对象或方面被改变的情况下执行或引起另一实体执行一个或多个非无线电网络动作包括:执行或引起另一实体执行影响无线电网络的性能的对象的定位、位置、方位、速度和/或移动的改变。
示例7.根据示例1-6中任一项的方法的示例实施例,改进无线电网络的性能包括执行无线电网络动作,包括执行与以下至少一项有关的无线电网络动作:用户设备到目标基站的切换;两个或更多基站之间的业务或数据的负载平衡;用于基站与用户设备之间的无线电链路的链路适配;由用户设备执行的小区选择或小区重新选择;调度;资源分配;发送功率控制;以及定时提前调节。
示例8.根据示例1-7中任一项的方法的示例实施例,模型包括至少一个神经网络。
示例9.根据示例1-8中任一项的方法的示例实施例,其中开发被训练的模型包括基于以下至少一项来训练模型:使用有监督学习来训练模型;使用强化学习来训练模型;使用无监督学习来训练模型;以及通过交叉引用不同输入模态来训练模型。
示例10.根据示例2-9中任一项的方法的示例实施例,还包括:响应于一个或多个无线电网络动作和/或一个或多个非无线电网络动作,确定无线电网络的性能的所致变化;以及确定与所执行的一个或多个无线电网络动作和/或所执行的一个或多个非无线电网络动作相关联的奖励,其中奖励基于所执行的一个或多个无线电网络动作和/或所执行的一个或多个非无线电网络动作是否导致无线电网络的性能提高或下降或者与无线电网络的性能提高或下降相关联。
示例11.根据示例2-10中任一项的方法的示例实施例,其中开发模型包括:基于一个或多个关联传感器和无线电网络信息数据样本的第一集合训练模型;以及基于一个或多个关联传感器和无线电网络信息数据样本的第二集合以及所执行的一个或多个无线电网络动作和/或一个或多个非无线电网络动作,执行模型的进一步训练。
示例12.根据示例2-11中任一项的方法的示例实施例,其中开发被训练的模型包括基于以下各项训练模型:响应于所执行的一个或多个无线电网络动作和/或所执行的一个或多个非无线电网络动作,确定无线电网络的性能的所致变化;以及基于以下项来训练模型:一个或多个关联传感器和无线电网络信息数据样本的第二集合、所执行的一个或多个无线电网络动作和/或所执行的一个或多个非无线电网络动作、以及无线电网络的性能的所确定的所致变化。
示例13.根据示例1-12中任一项的方法的示例实施例,其中改进无线电网络的性能包括输出以下至少一项:针对下一数据样本的无线电网络的关键性能指示符;以及使用Q学习、策略梯度或行为者批判算法中的一项或多项,在可用动作上的估计最佳动作和/或概率分布或者针对一个或多个动作中的每个动作的估计奖励。
示例14.根据示例1-13中任一项的方法的示例实施例,其中模型估计以下项之间的状态转移函数:在时间t之前包括多个关联传感器和无线电网络信息数据样本的输入、与在时间t之后包括一个或多个预测传感器数据样本和/或一个或多个预测无线电网络信息数据样本的输出。
示例15.根据示例2-14中任一项的方法的示例实施例,还包括:基于一个或多个关联传感器和无线电网络信息数据样本的第二集合和模型,确定无线电网络的预测未来状态;以及至少基于无线电网络的预测未来状态,改进无线电网络的性能。
示例16.根据示例2-15中任一项的方法的示例实施例,还包括:基于一个或多个关联传感器和无线电网络信息数据样本的第二集合和模型,确定无线电网络的预测未来状态;确定无线电网络的预测未来状态指示无线电网络的预测性能被预期低于阈值;以及执行以下至少一项以改进无线电网络的性能:向网络优化实体提供包括无线电网络的预测未来状态的信息;执行或引起另一实体执行非无线电网络动作;以及执行或引起另一实体执行无线电网络动作。
示例17.根据示例1-16中任一项的方法的示例实施例,其中传感器数据样本包括与物理环境相关联的时空传感器数据样本。
示例18.根据示例1-17中任一项的方法的示例实施例,其中从一个或多个传感器接收传感器数据样本包括接收与以下一项或多项相关联的传感器数据样本:控制物理环境的对象或部分的按钮、开关或控制器;控制对象的定位、位置、方位或移动的按钮、开关或控制器;控制对象的状况或状态的按钮、开关或控制器;捕获物理环境的对象或部分的图像或视频馈送的相机;以及检测物理环境的对象或部分的状况或状态的传感器。
示例19.根据示例1-18中任一项的方法的示例实施例,其中接收与无线电网络相关联的无线电网络信息数据样本包括接收以下至少一项:针对无线电网络的无线电网络关键性能指示符;与无线电网络动作相关联的信息;以及无线电网络配置参数。
示例20.根据示例19的示例实施例,其中无线电网络关键性能指示符包括以下至少一项:接收信号强度;总接收功率;接收干扰功率;以及信干噪比(SINR);路径损耗;参考信号接收功率;参考信号接收质量;接收信号强度指示符;可靠性;误块率;时延;抖动;覆盖范围;容量;数据传送速率;秩指示符;调制和编码方案指示符;信道状态信息;以及定时提前。
示例21.根据示例19-20中任一项的方法的示例实施例,其中用于无线电网络的无线电网络配置参数包括基站或用户设备的标识符、配置或坐标中的至少一项。
示例22.根据示例1-21中任一项的方法的示例实施例,其中确定一个或多个关联传感器和无线电网络信息数据样本包括:基于一个或多个传感器数据样本的时间在无线电网络信息数据样本中的一个或多个无线电网络信息数据样本的时间窗口内,确定一个或多个关联传感器和无线电网络信息数据样本。
示例23.根据示例1-22中任一项的方法的示例实施例,还包括:标记针对与无线电网络的性能有关的所选择的关联传感器和无线电网络信息数据样本的选择的原因。
示例24.一种装置,包括部件,所述部件用于执行根据示例1至23中任一项的方法。
示例25.一种非瞬态计算机可读存储介质,包括存储在其上的指令,指令在由至少一个处理器执行时被配置为使计算系统执行根据示例1-23中任一项的方法。
示例26.一种装置,包括至少一个处理器和包括计算机指令的至少一个存储器,计算机指令在由至少一个处理器执行时使装置执行根据示例1-23中任一项的方法。
示例27.一种装置,包括至少一个处理器和包括计算机指令的至少一个存储器,计算机指令在由至少一个处理器执行时使装置:从一个或多个传感器接收传感器数据样本;接收与无线电网络相关联的无线电网络信息数据样本;基于所接收的一个或多个传感器数据样本与所接收的无线电网络信息数据样本中的一个或多个无线电网络信息数据样本的关联,确定一个或多个关联传感器和无线电网络信息数据样本的第一集合;基于关联传感器和无线电网络信息数据样本的第一集合中的、与无线电网络的性能有关的至少一部分,开发被训练的模型;以及至少基于模型,改进无线电网络的性能。
示例28.根据示例27的装置,其中使装置改进无线电网络的性能包括使装置:确定一个或多个关联传感器和无线电网络信息数据样本的第二集合;以及基于模型以及一个或多个关联传感器和无线电网络信息数据样本的第二集合,执行或引起另一实体执行一个或多个无线电网络动作和/或一个或多个非无线电网络动作以改进无线电网络的性能。
示例29.根据示例28的装置,其中使装置执行或引起另一实体执行包括:基于模型以及一个或多个关联传感器和无线电网络信息数据样本的第二集合,使装置执行或引起另一实体执行包括一个或多个无线电网络动作的一个或多个抢先式动作和/或一个或多个抢先式非无线电网络动作,其中抢先式动作包括基于模型以及一个或多个关联传感器和无线电网络信息数据样本的第二集合而被估计为至少减少无线电网络的性能下降的动作。
示例30.根据示例28-29中任一项的装置,其中:一个或多个关联传感器和无线电网络信息数据样本的第一集合包括被用于训练模型的训练数据;以及一个或多个关联传感器和无线电网络信息数据样本的第二集合包括实时数据,实时数据与经训练的模型一起被用于执行或引起另一实体执行一个或多个无线电网络动作和/或一个或多个非无线电网络动作以改进无线电网络的性能。
示例31.根据示例28-30中任一项的装置,其中使装置执行或引起另一实体执行一个或多个无线电网络动作和/或一个或多个非无线电网络动作包括使装置基于模型以及一个或多个关联传感器和无线电网络信息数据样本的第二集合执行以下至少一项:执行或引起另一实体执行一个或多个无线电网络动作;向网络优化实体或另一实体提供一个或多个输入参数;以及在物理环境的对象或方面被改变的情况下执行或引起另一实体执行一个或多个非无线电网络动作。
示例32.根据示例31的装置,其中使装置在物理环境的对象或方面被改变的情况下执行或引起另一实体执行一个或多个非无线电网络动作包括使装置:执行或引起另一实体执行影响无线电网络的性能的对象的定位、位置、方位、速度和/或移动的改变。
示例33.根据示例27-32中任一项的装置,其中使装置改进无线电网络的性能包括使装置执行无线电网络动作,包括使装置执行与以下至少一项有关的无线电网络动作:用户设备到目标基站的切换;两个或更多基站之间的业务或数据的负载平衡;用于基站与用户设备之间的无线电链路的链路适配;由用户设备执行的小区选择或小区重新选择;调度;资源分配;发送功率控制;以及定时提前调节。
示例34.根据示例27-33中任一项的装置,其中模型包括至少一个神经网络。
示例35.根据示例27-34中任一项的装置,其中使装置开发被训练的模型包括使装置基于以下至少一项来训练模型:使用有监督学习来训练模型;使用强化学习来训练模型;使用无监督学习来训练模型;以及通过交叉引用不同输入模态来训练模型。
示例36.根据示例28-35中任一项的装置,还包括使装置:响应于一个或多个无线电网络动作和/或一个或多个非无线电网络动作,确定无线电网络的性能的所致变化;以及确定与所执行的一个或多个无线电网络动作和/或所执行的一个或多个非无线电网络动作相关联的奖励,其中奖励基于所执行的一个或多个无线电网络动作和/或所执行的一个或多个非无线电网络动作是否导致无线电网络的性能提高或下降或者与无线电网络的性能提高或下降相关联。
示例37.根据示例28-36中任一项的装置,其中使装置开发模型包括使装置:基于一个或多个关联传感器和无线电网络信息数据样本的第一集合训练模型;以及基于一个或多个关联传感器和无线电网络信息数据样本的第二集合以及所执行的一个或多个无线电网络动作和/或一个或多个非无线电网络动作,执行模型的进一步训练。
示例38.根据示例28-37中任一项的装置,其中使装置开发被训练的模型包括基于使装置进行以下操作来使装置训练模型:响应于所执行的一个或多个无线电网络动作和/或所执行的一个或多个非无线电网络动作,确定无线电网络的性能的所致变化;以及基于以下项来训练模型:一个或多个关联传感器和无线电网络信息数据样本的第二集合、所执行的一个或多个无线电网络动作和/或所执行的一个或多个非无线电网络动作、以及无线电网络的性能的所确定的所致变化。
示例39.根据示例27-38中任一项的装置,其中使装置改进无线电网络的性能包括使装置输出以下至少一项:针对下一数据样本的无线电网络的关键性能指示符;以及使用Q学习、策略梯度或行为者批判算法中的一项或多项,在可用动作上的估计最佳动作和/或概率分布或者针对一个或多个动作中的每个动作的估计奖励。
示例40.根据示例27-39中任一项的装置,其中模型估计以下项之间的状态转移函数:在时间t之前包括多个关联传感器和无线电网络信息数据样本的输入、与在时间t之后包括一个或多个预测传感器数据样本和/或一个或多个预测无线电网络信息数据样本的输出。
示例41.根据示例28-40中任一项的装置,还使装置:基于一个或多个关联传感器和无线电网络信息数据样本的第二集合和模型,确定无线电网络的预测未来状态;以及至少基于无线电网络的预测未来状态,改进无线电网络的性能。
示例42.根据示例28-41中任一项的装置,还使装置:基于一个或多个关联传感器和无线电网络信息数据样本的第二集合和模型,确定无线电网络的预测未来状态;确定无线电网络的预测未来状态指示无线电网络的预测性能被预期低于阈值;以及执行以下至少一项以改进无线电网络的性能:向网络优化实体提供包括无线电网络的预测未来状态的信息;执行或引起另一实体执行非无线电网络动作;以及执行或引起另一实体执行无线电网络动作。
示例43.根据示例27-42中任一项的装置,其中传感器数据样本包括与物理环境相关联的时空传感器数据样本。
示例44.根据示例27-43中任一项的装置,其中使装置从一个或多个传感器接收传感器数据样本包括使装置接收与以下一项或多项相关联的传感器数据样本:控制物理环境的对象或部分的按钮、开关或控制器;控制对象的定位、位置、方位或移动的按钮、开关或控制器;控制对象的状况或状态的按钮、开关或控制器;捕获物理环境的对象或部分的图像或视频馈送的相机;以及检测物理环境的对象或部分的状况或状态的传感器。
示例45.根据示例27-44中任一项的装置,其中使装置接收与无线电网络相关联的无线电网络信息数据样本包括使装置接收以下至少一项:针对无线电网络的无线电网络关键性能指示符;与无线电网络动作相关联的信息;以及无线电网络配置参数。
示例46.根据示例27-45中任一项的装置,其中无线电网络关键性能指示符包括以下至少一项:接收信号强度;总接收功率;接收干扰功率;以及信干噪比(SINR);路径损耗;参考信号接收功率;参考信号接收质量;接收信号强度指示符;可靠性;误块率;时延;抖动;覆盖范围;容量;数据传送速率;秩指示符;调制和编码方案指示符;信道状态信息;以及定时提前。
示例47.根据示例45-46中任一项的装置,其中用于无线电网络的无线电网络配置参数包括基站或用户设备的标识符、配置或坐标中的至少一项。
示例48.根据示例27-47中任一项的装置,其中使装置确定一个或多个关联传感器和无线电网络信息数据样本包括使装置:基于一个或多个传感器数据样本的时间在无线电网络信息数据样本中的一个或多个无线电网络信息数据样本的时间窗口内,确定一个或多个关联传感器和无线电网络信息数据样本。
图27是根据示例实施例的无线台(例如,AP、BS或用户设备或其他网络节点)2700的框图。无线台2700可以包括例如一个或两个RF(射频)或无线收发器2702A、2702B,其中每个无线收发器包括用于传输信号的传输器和用于接收信号的接收器。无线台还包括用于执行指令或软件并且控制信号的传输和接收的处理器或控制单元/实体(控制器)2704以及用于存储数据和/或指令的存储器2706。
处理器2704还可以做出决定或确定,生成用于传输的帧、分组或消息,对所接收的帧或消息进行解码以用于进一步处理,以及本文中描述的其他任务或功能。例如,处理器2704(可以是基带处理器)可以生成消息、分组、帧或其他信号以经由无线收发器2702(2702A或2702B)进行传输。处理器2704可以控制信号或消息通过无线网络的传输,并且可以控制经由信号或消息无线网络的接收等(例如,在由无线收发器2702下变频之后)。处理器2704可以是可编程的,并且能够执行存储在存储器中或其他计算机介质上的软件或其他指令以执行上述各种任务和功能,诸如上述任务或方法中的一个或多个。例如,处理器2704可以是(或可以包括)硬件、可编程逻辑、执行软件或固件的可编程处理器、和/或这些的任何组合。使用其他术语,例如,处理器2704和收发器2702一起可以被认为是无线传输器/接收器系统。
另外,参考图27,控制器(或处理器)2708可以执行软件和指令,并且可以为台2700提供总体控制,并且可以为图27中未示出的其他系统提供控制,诸如控制输入/输出设备(例如,显示器、小键盘),和/或可以执行用于可以在无线台2700上提供的一个或多个应用的软件,例如电子邮件程序、音频/视频应用、文字处理器、IP语音应用、或其他应用或软件。
另外,可以提供包括所存储的指令的存储介质,所存储的指令在由控制器或处理器执行时可以导致处理器2704或其他控制器或处理器执行上述功能或任务中的一个或多个。
根据另一示例实施例,RF或(多个)无线收发器2702A/2702B可以接收信号或数据和/或传输或发送信号或数据。处理器2704(以及可能的收发器2702A/2702B)可以控制RF或无线收发器2702A或2702B接收、发送、广播或传输信号或数据。
然而,实施例不限于作为示例给出的系统,本领域技术人员可以将该解决方案应用于其他通信系统。合适的通信系统的另一示例是5G概念。假定5G中的网络架构将与高级LTE的网络架构非常相似。5G可能使用多输入多输出(MIMO)天线、比LTE更多的基站或节点(所谓的小小区概念),包括与较小的站合作运行的宏站点并且也许还使用各种无线电技术以获取更好的覆盖范围和更高的数据速率。
应当理解,未来网络将最有可能利用网络功能虚拟化(NFV),NFV是一种网络架构概念,其提出将网络节点功能虚拟化为可以在操作上连接或链接在一起以提供服务的“构建块”或实体。虚拟化网络功能(VNF)可以包括使用标准或通用类型服务器而不是定制硬件来运行计算机程序代码的一个或多个虚拟机。还可以使用云计算或数据存储。在无线电通信中,这可以表示,节点操作可以至少部分在可操作地耦合到远程无线电头端的服务器、主机或节点中执行。节点操作也可以在多个服务器、节点或主机之间分配。还应当理解,核心网操作与基站操作之间的劳动分配可能与LTE的不同,或者甚至不存在。
本文中描述的各种技术的实施例可以在数字电子电路中实现,或者在计算机硬件、固件、软件或它们的组合中实现。实施例可以实现为计算机程序产品,即有形地包含在信息载体中的计算机程序,例如,在机器可读存储设备中或在传播信号中,用于由数据处理装置(例如,可编程处理器、计算机或多个计算机)执行或控制数据处理装置的操作。实施例还可以在可以是非瞬态介质的计算机可读介质或计算机可读存储介质上提供。各种技术的实施例还可以包括经由暂时信号或介质提供的实施例、和/或可以经由互联网或(多个)其他网络(有线网络和/或无线网络)下载的程序和/或软件实施例。此外,实施例可以经由机器类型通信(MTC)并且还经由物联网(IOT)来提供。
计算机程序可以是源代码形式、目标代码形式或某种中间形式,并且可以存储在可以是能够承载程序的任何实体或设备的某种载体、分发介质或计算机可读介质中。例如,这样的载体包括记录介质、计算机存储器、只读存储器、光电和/或电载波信号、电信信号和软件分发包。根据所需要的处理能力,计算机程序可以在单个电子数字计算机中执行,或者可以在多个计算机之间分配。
此外,本文中描述的各种技术的实施例可以使用网络物理系统(CPS)(控制物理实体的协作计算元件的系统)。CPS可以使得能够实施和利用嵌入在物理对象中的不同位置处的大量互连ICT设备(传感器、致动器、处理器、微控制器等)。其中所讨论的物理系统具有固有的移动性的移动网络物理系统是网络物理系统的子类别。移动物理系统的示例包括由人或动物运输的移动机器人和电子设备。智能电话的流行增加了对移动网络物理系统领域的兴趣。因此,本文中描述的技术的各种实施例可以经由这些技术中的一个或多个来提供。
诸如上述(多个)计算机程序等计算机程序可以用任何形式的编程语言编写,包括编译或解释语言,并且可以以任何形式部署,包括作为独立程序或者作为适合在计算环境中使用的模块、组件、子例程或其他单元或部分。计算机程序可以被部署为在一个计算机上执行或者在位于一个站点处或者分布在多个站点上并且通过通信网络互连的多个计算机上执行。
方法步骤可以由一个或多个可编程处理器执行,该可编程处理器执行计算机程序或计算机程序部分以通过对输入数据进行操作并且生成输出来执行功能。方法步骤也可以由专用逻辑电路系统执行,并且装置可以实现为专用逻辑电路系统,例如FPGA(现场可编程门阵列)或ASIC(专用集成电路)。
例如,适合于执行计算机程序的处理器包括通用和专用微处理器、以及任何类型的数字计算机、芯片或芯片组的任何一个或多个处理器。通常,处理器将从只读存储器或随机存取存储器或这两者接收指令和数据。计算机的元件可以包括用于执行指令的至少一个处理器以及用于存储指令和数据的一个或多个存储器设备。通常,计算机还可以包括存储数据的一个或多个大容量存储设备(例如,磁盘、磁光盘或光盘),或者可操作地耦合以从一个或多个大容量存储设备接收数据或向其传输数据或两者。适合于包含计算机程序指令和数据的信息载体包括所有形式的非易失性存储器,包括例如半导体存储器设备,例如EPROM、EEPROM和闪存设备;磁盘,例如内部硬盘或可移动磁盘;磁光盘;以及CD-ROM和DVD-ROM磁盘。处理器和存储器可以由专用逻辑电路系统补充或并入专用逻辑电路系统中。
为了提供与用户的交互,实施例可以在具有用于向用户显示信息的显示设备(例如,阴极射线管(CRT)或液晶显示器(LCD)显示器)和用户可以用来向计算机提供输入的用户接口(诸如键盘和指示设备,例如鼠标或跟踪球)的计算机上实现。其他类型的设备也可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的感官反馈,例如视觉反馈、听觉反馈或触觉反馈;并且来自用户的输入可以以任何形式接收,包括声学、语音或触觉输入。
实施例可以在包括后端组件(例如,作为数据服务器)、或者包括中间件组件(例如,应用服务器)、或者包括前端组件(例如,具有用户可以用来与实施例交互的图形用户接口或Web浏览器的客户端计算机)、或者包括这样的后端、中间件或前端组件的任何组合的计算系统中实现。组件可以通过任何形式或介质的数字数据通信(例如,通信网络)进行互连。通信网络的示例包括局域网(LAN)和广域网(WAN),例如互联网。
虽然已经如本文所述示出了所描述的实施例的某些特征,但是本领域技术人员现在将想到很多修改、替换、改变和等同物。因此,应当理解,所附权利要求旨在覆盖落入各种实施例的真实精神内的所有这样的修改和变化。
Claims (48)
1.一种方法,包括:
从一个或多个传感器接收传感器数据样本;
接收与无线电网络相关联的无线电网络信息数据样本;
基于所接收的一个或多个传感器数据样本与所接收的无线电网络信息数据样本中的一个或多个无线电网络信息数据样本的关联,确定一个或多个关联传感器和无线电网络信息数据样本的第一集合;
基于所述关联传感器和无线电网络信息数据样本的所述第一集合中的、与所述无线电网络的性能有关的至少一部分,开发被训练的模型;以及
至少基于所述模型,改进所述无线电网络的性能。
2.根据权利要求1所述的方法,其中改进所述无线电网络的所述性能包括:
确定一个或多个关联传感器和无线电网络信息数据样本的第二集合;
基于所述模型以及一个或多个关联传感器和无线电网络信息数据样本的所述第二集合,执行或引起另一实体执行一个或多个无线电网络动作和/或一个或多个非无线电网络动作以改进所述无线电网络的所述性能。
3.根据权利要求2所述的方法,其中执行或引起所述另一实体执行包括:基于所述模型以及一个或多个关联传感器和无线电网络信息数据样本的所述第二集合,执行或引起另一实体执行包括一个或多个无线电网络动作的一个或多个抢先式动作和/或一个或多个抢先式非无线电网络动作,其中抢先式动作包括基于所述模型以及一个或多个关联传感器和无线电网络信息数据样本的所述第二集合而被估计为至少减少所述无线电网络的性能下降的动作。
4.根据权利要求2至3中任一项所述的方法,其中:
一个或多个关联传感器和无线电网络信息数据样本的所述第一集合包括被用于训练所述模型的训练数据;以及
一个或多个关联传感器和无线电网络信息数据样本的所述第二集合包括实时数据,所述实时数据与经训练的所述模型一起被用于执行或引起另一实体执行一个或多个无线电网络动作和/或一个或多个非无线电网络动作以改进所述无线电网络的所述性能。
5.根据权利要求2至4中任一项所述的方法,其中执行或引起所述另一实体执行所述一个或多个无线电网络动作和/或所述一个或多个非无线电网络动作包括基于所述模型以及一个或多个关联传感器和无线电网络信息数据样本的所述第二集合来执行以下至少一项:
执行或引起另一实体执行一个或多个无线电网络动作;
向网络优化实体或另一实体提供一个或多个输入参数;
在物理环境的对象或方面被改变的情况下执行或引起另一实体执行一个或多个非无线电网络动作。
6.根据权利要求5所述的方法,其中在物理环境的对象或方面被改变的情况下执行或引起所述另一实体执行所述一个或多个非无线电网络动作包括:
执行或引起另一实体执行影响所述无线电网络的性能的对象的定位、位置、方位、速度和/或移动的改变。
7.根据权利要求1至6中任一项所述的方法,其中改进所述无线电网络的所述性能包括执行无线电网络动作,包括执行与以下项中的至少一项有关的无线电网络动作:
用户设备到目标基站的切换;
两个或更多基站之间的业务或数据的负载平衡;
用于基站与用户设备之间的无线电链路的链路适配;
由用户设备执行的小区选择或小区重新选择;
调度;
资源分配;
发送功率控制;以及
定时提前调节。
8.根据权利要求1至7中任一项所述的方法,其中所述模型包括至少一个神经网络。
9.根据权利要求1至8中任一项所述的方法,其中开发被训练的所述模型包括基于以下至少一项来训练所述模型:
使用有监督学习来训练所述模型;
使用强化学习来训练所述模型;
使用无监督学习来训练所述模型;以及
通过交叉引用不同输入模态来训练所述模型。
10.根据权利要求2至9中任一项所述的方法,还包括:
响应于所述一个或多个无线电网络动作和/或一个或多个非无线电网络动作,确定所述无线电网络的性能的所致变化;
确定与所执行的所述一个或多个无线电网络动作和/或所执行的所述一个或多个非无线电网络动作相关联的奖励,其中所述奖励基于所执行的所述一个或多个无线电网络动作和/或所执行的所述一个或多个非无线电网络动作是否导致所述无线电网络的性能提高或下降或者与所述无线电网络的性能提高或下降相关联。
11.根据权利要求2至10中任一项所述的方法,其中开发所述模型包括:
基于一个或多个关联传感器和无线电网络信息数据样本的所述第一集合来训练所述模型;
基于一个或多个关联传感器和无线电网络信息数据样本的所述第二集合以及所执行的所述一个或多个无线电网络动作和/或所述一个或多个非无线电网络动作,执行所述模型的进一步训练。
12.根据权利要求2至11中任一项所述的方法,其中开发被训练的所述模型包括基于以下各项训练所述模型:
响应于所执行的所述一个或多个无线电网络动作和/或所执行的所述一个或多个非无线电网络动作,确定所述无线电网络的性能的所致变化;以及
基于以下项来训练所述模型:一个或多个关联传感器和无线电网络信息数据样本的所述第二集合、所执行的所述一个或多个无线电网络动作和/或所执行的所述一个或多个非无线电网络动作、以及所述无线电网络的所述性能的所确定的所致变化。
13.根据权利要求1至12中任一项所述的方法,其中改进所述无线电网络的所述性能包括输出以下项中的至少一项:
针对下一数据样本的所述无线电网络的关键性能指示符;以及
使用Q学习、策略梯度或行为者批判算法中的一项或多项,在可用动作上的估计最佳动作和/或概率分布或者针对一个或多个动作中的每个动作的估计奖励。
14.根据权利要求1至13中任一项所述的方法,其中所述模型估计以下项之间的状态转移函数:在时间t之前包括多个关联传感器和无线电网络信息数据样本的输入、与在时间t之后包括一个或多个预测传感器数据样本和/或一个或多个预测无线电网络信息数据样本的输出。
15.根据权利要求2至14中任一项所述的方法,还包括:
基于一个或多个关联传感器和无线电网络信息数据样本的所述第二集合和所述模型,确定所述无线电网络的预测未来状态;以及
至少基于所述无线电网络的所述预测未来状态,改进所述无线电网络的性能。
16.根据权利要求2至15中任一项所述的方法,还包括:
基于一个或多个关联传感器和无线电网络信息数据样本的所述第二集合和所述模型,确定所述无线电网络的预测未来状态;
确定所述无线电网络的所述预测未来状态指示所述无线电网络的预测性能被预期低于阈值;以及
执行以下至少一项以改进所述无线电网络的性能:
向网络优化实体提供包括所述无线电网络的所述预测未来状态的信息;
执行或引起另一实体执行非无线电网络动作;以及
执行或引起另一实体执行无线电网络动作。
17.根据权利要求1至16中任一项所述的方法,其中所述传感器数据样本包括与物理环境相关联的时空传感器数据样本。
18.根据权利要求1至17中任一项所述的方法,其中从所述一个或多个传感器接收所述传感器数据样本包括:接收与以下项中的一项或多项相关联的传感器数据样本:
控制所述物理环境的对象或部分的按钮、开关或控制器;
控制对象的定位、位置、方位或移动的按钮、开关或控制器;
控制对象的状况或状态的按钮、开关或控制器;
捕获物理环境的对象或部分的图像或视频馈送的相机;以及
检测物理环境的对象或部分的状况或状态的传感器。
19.根据权利要求1至18中任一项所述的方法,其中接收与所述无线电网络相关联的所述无线电网络信息数据样本包括接收以下项中的至少一项:
针对所述无线电网络的无线电网络关键性能指示符;
与无线电网络动作相关联的信息;以及
无线电网络配置参数。
20.根据权利要求19所述的方法,其中所述无线电网络关键性能指示符包括以下至少一项:
接收信号强度;
总接收功率;
接收干扰功率;以及
信干噪比(SINR);
路径损耗;
参考信号接收功率;
参考信号接收质量;
接收信号强度指示符;
可靠性;
误块率;
时延;
抖动;
覆盖范围;
容量;
数据传送速率;
秩指示符;
调制和编码方案指示符;
信道状态信息;以及
定时提前。
21.根据权利要求19至20中任一项所述的方法,其中用于所述无线电网络的所述无线电网络配置参数包括以下至少一项:基站或用户设备的标识符、配置或坐标。
22.根据权利要求1至21中任一项所述的方法,其中确定所述一个或多个关联传感器和所述无线电网络信息数据样本包括:
基于一个或多个传感器数据样本的时间,在所述无线电网络信息数据样本中的一个或多个无线电网络信息数据样本的时间窗口内,确定一个或多个关联传感器和无线电网络信息数据样本。
23.根据权利要求1至22中任一项所述的方法,还包括:
标记针对与所述无线电网络的性能有关的所选择的关联传感器和无线电网络信息数据样本的选择的原因。
24.一种装置,包括部件,所述部件用于执行根据权利要求1至23中任一项所述的方法。
25.一种非瞬态计算机可读存储介质,包括存储在其上的指令,所述指令在由至少一个处理器执行时被配置为使计算系统执行根据权利要求1至23中任一项所述的方法。
26.一种装置,包括至少一个处理器和至少一个存储器,所述至少一个存储器包括计算机指令,所述计算机指令在由所述至少一个处理器执行时引起所述装置执行根据权利要求1至23中任一项所述的方法。
27.一种装置,包括至少一个处理器和包括计算机指令的至少一个存储器,所述计算机指令在由所述至少一个处理器执行时引起所述装置:
从一个或多个传感器接收传感器数据样本;
接收与无线电网络相关联的无线电网络信息数据样本;
基于所接收的一个或多个传感器数据样本与所接收的无线电网络信息数据样本中的一个或多个无线电网络信息数据样本的关联,确定一个或多个关联传感器和无线电网络信息数据样本的第一集合;
基于所述关联传感器和无线电网络信息数据样本的所述第一集合中的、与所述无线电网络的性能有关的至少一部分,开发被训练的模型;以及
至少基于所述模型,改进所述无线电网络的性能。
28.根据权利要求27所述的装置,其中引起所述装置改进所述无线电网络的性能包括引起所述装置:
确定一个或多个关联传感器和无线电网络信息数据样本的第二集合;以及
基于所述模型以及一个或多个关联传感器和无线电网络信息数据样本的所述第二集合,执行或引起另一实体执行一个或多个无线电网络动作和/或一个或多个非无线电网络动作以改进所述无线电网络的所述性能。
29.根据权利要求28所述的装置,其中引起所述装置执行或引起另一实体执行包括:基于所述模型以及一个或多个关联传感器和无线电网络信息数据样本的所述第二集合,引起所述装置执行或引起另一实体执行包括一个或多个无线电网络动作的一个或多个抢先式动作和/或一个或多个抢先式非无线电网络动作,其中抢先式动作包括基于所述模型以及一个或多个关联传感器和无线电网络信息数据样本的所述第二集合而被估计为至少减少所述无线电网络的性能下降的动作。
30.根据权利要求28至29中任一项所述的装置,其中:
一个或多个关联传感器和无线电网络信息数据样本的所述第一集合包括被用于训练所述模型的训练数据;以及
一个或多个关联传感器和无线电网络信息数据样本的所述第二集合包括实时数据,所述实时数据与经训练的所述模型一起被用于执行或引起另一实体执行一个或多个无线电网络动作和/或一个或多个非无线电网络动作以改进所述无线电网络的所述性能。
31.根据权利要求28至30中任一项所述的装置,其中引起所述装置执行或引起另一实体执行一个或多个无线电网络动作和/或一个或多个非无线电网络动作包括:引起所述装置基于所述模型以及一个或多个关联传感器和无线电网络信息数据样本的所述第二集合执行以下项中的至少一项:
执行或引起另一实体执行一个或多个无线电网络动作;
向网络优化实体或另一实体提供一个或多个输入参数;以及
在物理环境的对象或方面被改变的情况下执行或引起另一实体执行一个或多个非无线电网络动作。
32.根据权利要求31所述的装置,其中引起所述装置在物理环境的对象或方面被改变的情况下执行或引起另一实体执行一个或多个非无线电网络动作包括引起所述装置:
执行或引起另一实体执行影响所述无线电网络的性能的对象的定位、位置、方位、速度和/或移动的改变。
33.根据权利要求27至32中任一项所述的装置,其中引起所述装置改进所述无线电网络的所述性能包括:引起所述装置执行无线电网络动作,包括引起所述装置执行与以下项中的至少一项有关的无线电网络动作:
用户设备到目标基站的切换;
两个或更多基站之间的业务或数据的负载平衡;
用于基站与用户设备之间的无线电链路的链路适配;
由用户设备执行的小区选择或小区重新选择;
调度;
资源分配;
发送功率控制;以及
定时提前调节。
34.根据权利要求27至33中任一项所述的装置,其中所述模型包括至少一个神经网络。
35.根据权利要求27至34中任一项所述的装置,其中引起所述装置开发被训练的模型包括引起所述装置基于以下至少一项来训练模型:
使用有监督学习来训练所述模型;
使用强化学习来训练所述模型;
使用无监督学习来训练所述模型;以及
通过交叉引用不同输入模态来训练所述模型。
36.根据权利要求28至35中任一项所述的装置,还包括引起所述装置:
响应于所述一个或多个无线电网络动作和/或一个或多个非无线电网络动作,确定所述无线电网络的性能的所致变化;
确定与所执行的所述一个或多个无线电网络动作和/或所执行的所述一个或多个非无线电网络动作相关联的奖励,其中所述奖励基于所执行的所述一个或多个无线电网络动作和/或所执行的所述一个或多个非无线电网络动作是否导致所述无线电网络的性能提高或下降或者与所述无线电网络的性能提高或下降相关联。
37.根据权利要求28至36中任一项所述的装置,其中引起所述装置开发模型包括引起所述装置:
基于一个或多个关联传感器和无线电网络信息数据样本的所述第一集合来训练所述模型;
基于一个或多个关联传感器和无线电网络信息数据样本的所述第二集合以及所执行的所述一个或多个无线电网络动作和/或所述一个或多个非无线电网络动作,执行所述模型的进一步训练。
38.根据权利要求28至37中任一项所述的装置,其中引起所述装置开发被训练的模型包括基于引起所述装置进行以下操作来引起所述装置训练所述模型:
响应于所执行的所述一个或多个无线电网络动作和/或所执行的所述一个或多个非无线电网络动作,确定所述无线电网络的性能的所致变化;以及
基于以下项来训练所述模型:一个或多个关联传感器和无线电网络信息数据样本的所述第二集合、所执行的所述一个或多个无线电网络动作和/或所执行的所述一个或多个非无线电网络动作、以及所述无线电网络的所述性能的所确定的所致变化。
39.根据权利要求27至38中任一项所述的装置,其中引起所述装置改进所述无线电网络的性能包括引起所述装置输出以下项中的至少一项:
针对下一数据样本的所述无线电网络的关键性能指示符;以及
使用Q学习、策略梯度或行为者批判算法中的一项或多项,在可用动作上的估计最佳动作和/或概率分布或者针对一个或多个动作中的每个动作的估计奖励。
40.根据权利要求27至39中任一项所述的装置,其中所述模型估计以下项之间的状态转移函数:在时间t之前包括多个关联传感器和无线电网络信息数据样本的输入、与在时间t之后包括一个或多个预测传感器数据样本和/或一个或多个预测无线电网络信息数据样本的输出。
41.根据权利要求28至40中任一项所述的装置,还引起所述装置:
基于一个或多个关联传感器和无线电网络信息数据样本的所述第二集合和所述模型,确定所述无线电网络的预测未来状态;以及
至少基于所述无线电网络的所述预测未来状态,改进所述无线电网络的性能。
42.根据权利要求28至41中任一项所述的装置,还引起所述装置:
基于一个或多个关联传感器和无线电网络信息数据样本的所述第二集合和所述模型,确定所述无线电网络的预测未来状态;
确定所述无线电网络的所述预测未来状态指示所述无线电网络的预测性能被预期低于阈值;以及
执行以下项中的至少一项以改进所述无线电网络的性能:
向网络优化实体提供包括所述无线电网络的所述预测未来状态的信息;
执行或引起另一实体执行非无线电网络动作;以及
执行或引起另一实体执行无线电网络动作。
43.根据权利要求27至42中任一项所述的装置,其中所述传感器数据样本包括与物理环境相关联的时空传感器数据样本。
44.根据权利要求27-43中任一项所述的装置,其中引起所述装置从一个或多个传感器接收传感器数据样本包括引起所述装置接收与以下项中的一项或多项相关联的传感器数据样本:
控制所述物理环境的对象或部分的按钮、开关或控制器;
控制对象的定位、位置、方位或移动的按钮、开关或控制器;
控制对象的状况或状态的按钮、开关或控制器;
捕获物理环境的对象或部分的图像或视频馈送的相机;以及
检测物理环境的对象或部分的状况或状态的传感器。
45.根据权利要求27至44中任一项所述的装置,其中引起所述装置接收与无线电网络相关联的无线电网络信息数据样本包括引起所述装置接收以下项中的至少一项:
针对所述无线电网络的无线电网络关键性能指示符;
与无线电网络动作相关联的信息;以及
无线电网络配置参数。
46.根据权利要求45所述的装置,其中所述无线电网络关键性能指示符包括以下至少一项:
接收信号强度;
总接收功率;
接收干扰功率;以及
信干噪比(SINR);
路径损耗;
参考信号接收功率;
参考信号接收质量;
接收信号强度指示符;
可靠性;
误块率;
时延;
抖动;
覆盖范围;
容量;
数据传送速率;
秩指示符;
调制和编码方案指示符;
信道状态信息;以及
定时提前。
47.根据权利要求45至46中任一项所述的装置,其中用于所述无线电网络的所述无线电网络配置参数包括以下至少一项:基站或用户设备的标识符、配置或坐标。
48.根据权利要求27至47中任一项所述的装置,其中引起所述装置确定一个或多个关联传感器和无线电网络信息数据样本包括引起所述装置:
基于一个或多个传感器数据样本的时间,在所述无线电网络信息数据样本中的一个或多个无线电网络信息数据样本的时间窗口内,确定一个或多个关联传感器和无线电网络信息数据样本。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/EP2018/076533 WO2020064134A1 (en) | 2018-09-28 | 2018-09-28 | Radio-network self-optimization based on data from radio network and spatiotemporal sensors |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113169887A true CN113169887A (zh) | 2021-07-23 |
CN113169887B CN113169887B (zh) | 2023-07-25 |
Family
ID=63722388
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201880099823.0A Active CN113169887B (zh) | 2018-09-28 | 2018-09-28 | 基于来自无线电网络和时空传感器的数据的无线电网络自优化 |
Country Status (4)
Country | Link |
---|---|
US (1) | US11418270B2 (zh) |
EP (1) | EP3857818B1 (zh) |
CN (1) | CN113169887B (zh) |
WO (1) | WO2020064134A1 (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114978388A (zh) * | 2022-05-18 | 2022-08-30 | 大连大学 | 一种无人机时频域联合认知抗干扰智能决策方法 |
WO2023066346A1 (zh) * | 2021-10-21 | 2023-04-27 | 华为技术有限公司 | 一种通信方法及装置 |
Families Citing this family (28)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020104047A1 (en) * | 2018-11-21 | 2020-05-28 | Telefonaktiebolaget Lm Ericsson (Publ) | First node, second node, third node, and methods performed thereby, for handling data traffic |
CN111082960B9 (zh) * | 2019-04-15 | 2023-01-24 | 中兴通讯股份有限公司 | 数据的处理方法及装置 |
EP3987841A1 (en) * | 2019-06-19 | 2022-04-27 | Telefonaktiebolaget LM Ericsson (publ) | Machine learning for handover |
KR20190106861A (ko) * | 2019-08-27 | 2019-09-18 | 엘지전자 주식회사 | 학습 데이터를 생성하는 인공 지능 장치, 인공 지능 서버 및 그 방법 |
WO2021049984A1 (en) * | 2019-09-12 | 2021-03-18 | Telefonaktiebolaget Lm Ericsson (Publ) | Provision of precoder selection policy for a multi-antenna transmitter |
US11580421B2 (en) * | 2019-10-16 | 2023-02-14 | Qualcomm Incorporated | Weakly supervised learning for improving multimodal sensing platform |
CN112752327B (zh) * | 2019-10-29 | 2023-10-20 | 上海华为技术有限公司 | 功率调节方法和接入网设备 |
WO2021089113A1 (en) * | 2019-11-04 | 2021-05-14 | Telefonaktiebolaget Lm Ericsson (Publ) | TECHNIQUE FOR ANALYZING QoE OF A DELAY CRITICAL ROBOTIC APPLICATION |
US11424791B2 (en) | 2020-04-16 | 2022-08-23 | Qualcomm Incorporated | Machine learning model selection in beamformed communications |
US11775819B2 (en) * | 2020-05-06 | 2023-10-03 | Dell Products L.P. | Automated configuration determinations for data center devices using artificial intelligence techniques |
CN113905446A (zh) * | 2020-06-22 | 2022-01-07 | 中国移动通信有限公司研究院 | 一种下行调制编码方式估计方法、装置及网络设备 |
US11570638B2 (en) * | 2020-06-26 | 2023-01-31 | Intel Corporation | Automated network control systems that adapt network configurations based on the local network environment |
WO2022050565A1 (ko) * | 2020-09-02 | 2022-03-10 | 엘지전자 주식회사 | 무선 통신 시스템에서 핸드오버를 위한 장치 및 방법 |
US11963051B2 (en) * | 2020-09-17 | 2024-04-16 | Intel Corporation | Context aware handovers |
US20220108207A1 (en) * | 2020-10-02 | 2022-04-07 | Rockwell Collins, Inc. | Automation of communication, navigation, surveillance, sensor and survivability system capabilities in primary, alternate, contingency, and emergency schemes for facilitating seamless command, control, communication, computer, cyber-defense, combat, intelligence, surveillance, and reconnaissance capabilities |
US20230420838A1 (en) * | 2020-11-13 | 2023-12-28 | Telefonaktiebolaget Lm Ericsson (Publ) | Ue driven antenna tilt |
JPWO2022113151A1 (zh) * | 2020-11-24 | 2022-06-02 | ||
US11564117B2 (en) * | 2020-11-30 | 2023-01-24 | Verizon Patent And Licensing Inc. | User equipment based network capability scoring for wireless wide area network management |
WO2022119485A1 (en) * | 2020-12-03 | 2022-06-09 | Telefonaktiebolaget Lm Ericsson (Publ) | Devices, methods, and systems for predicting radio access network performance |
US20220190990A1 (en) * | 2020-12-16 | 2022-06-16 | Qualcomm Incorporated | Network-configured training procedure |
WO2022154505A1 (en) * | 2021-01-13 | 2022-07-21 | Samsung Electronics Co., Ltd. | Data processing method and device in wireless communication network |
US11765021B2 (en) * | 2021-03-08 | 2023-09-19 | Rakuten Mobile, Inc. | Correction of network errors using algorithms |
EP4075733A1 (en) * | 2021-04-14 | 2022-10-19 | Robert Bosch GmbH | Method and apparatus for radio access network planning in a production environment |
US11910314B2 (en) * | 2021-05-14 | 2024-02-20 | Qualcomm Incorporated | Sensor aided beam management |
US20240243796A1 (en) * | 2021-05-28 | 2024-07-18 | Telefonaktiebolaget Lm Ericsson (Publ) | Methods and Apparatus for Controlling One or More Transmission Parameters Used by a Wireless Communication Network for a Population of Devices Comprising a Cyber-Physical System |
US20220399953A1 (en) * | 2021-06-09 | 2022-12-15 | OptimERA Inc. | Communications Devices, Communications Systems and Associated Communications Methods |
CN115051925B (zh) * | 2021-06-18 | 2023-07-18 | 北京邮电大学 | 一种基于迁移学习的时空序列预测方法 |
CN115333961B (zh) * | 2022-06-30 | 2023-10-13 | 北京邮电大学 | 基于深度强化学习的无线通信网络管控方法及相关设备 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103781108A (zh) * | 2012-10-23 | 2014-05-07 | 伍爵博 | 一种基于神经网络的无线传感器网络数据预测方法 |
US20140335881A1 (en) * | 2012-06-13 | 2014-11-13 | All Purpose Networks LLC | Optimized broadband wireless network performance through base station application server |
CN106535225A (zh) * | 2016-10-16 | 2017-03-22 | 黄林果 | 一种云环境下的无线mesh网络的网关优化布置方法 |
US20180189647A1 (en) * | 2016-12-29 | 2018-07-05 | Google, Inc. | Machine-learned virtual sensor model for multiple sensors |
US20180234266A1 (en) * | 2017-02-15 | 2018-08-16 | Dell Products, L.P. | Classifying internet-of-things (iot) gateways |
Family Cites Families (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10257678B2 (en) * | 2014-05-20 | 2019-04-09 | Convida Wireless, Llc | Scalable data discovery in an internet of things (IoT) system |
US10034185B2 (en) * | 2015-03-31 | 2018-07-24 | King Fahd University Of Petroleum And Minerals | Apparatus and method for evaluating wireless sensor networks |
US10175666B2 (en) * | 2015-10-30 | 2019-01-08 | International Business Machines Corporation | Managing internet of things collection having different capabilities |
CN105578472B (zh) * | 2016-01-19 | 2018-11-02 | 南京微传物联网科技有限公司 | 一种基于免疫原理的无线传感网络性能在线优化规划方法 |
US11327475B2 (en) * | 2016-05-09 | 2022-05-10 | Strong Force Iot Portfolio 2016, Llc | Methods and systems for intelligent collection and analysis of vehicle data |
CN105979599B (zh) * | 2016-05-09 | 2019-03-22 | 重庆邮电大学 | 一种基于信道质量预测的无线传感器网络自适应跳信道方法 |
US10699214B2 (en) * | 2016-10-26 | 2020-06-30 | International Business Machines Corporation | Automatic identification and deployment of virtual sensor models |
US10917706B2 (en) * | 2016-12-15 | 2021-02-09 | Microsoft Technology Licensing, Llc | Configurable IoT device data collection |
US20190140906A1 (en) * | 2017-11-09 | 2019-05-09 | International Business Machines Corporation | Dynamically optimizing internet of things device configuration rules via a gateway |
WO2019118453A1 (en) * | 2017-12-11 | 2019-06-20 | The Texas A&M University System | Agricultural sensor placement and fault detection in wireless sensor networks |
-
2018
- 2018-09-28 EP EP18782025.3A patent/EP3857818B1/en active Active
- 2018-09-28 CN CN201880099823.0A patent/CN113169887B/zh active Active
- 2018-09-28 WO PCT/EP2018/076533 patent/WO2020064134A1/en unknown
- 2018-09-28 US US17/250,900 patent/US11418270B2/en active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20140335881A1 (en) * | 2012-06-13 | 2014-11-13 | All Purpose Networks LLC | Optimized broadband wireless network performance through base station application server |
CN103781108A (zh) * | 2012-10-23 | 2014-05-07 | 伍爵博 | 一种基于神经网络的无线传感器网络数据预测方法 |
CN106535225A (zh) * | 2016-10-16 | 2017-03-22 | 黄林果 | 一种云环境下的无线mesh网络的网关优化布置方法 |
US20180189647A1 (en) * | 2016-12-29 | 2018-07-05 | Google, Inc. | Machine-learned virtual sensor model for multiple sensors |
US20180234266A1 (en) * | 2017-02-15 | 2018-08-16 | Dell Products, L.P. | Classifying internet-of-things (iot) gateways |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023066346A1 (zh) * | 2021-10-21 | 2023-04-27 | 华为技术有限公司 | 一种通信方法及装置 |
CN114978388A (zh) * | 2022-05-18 | 2022-08-30 | 大连大学 | 一种无人机时频域联合认知抗干扰智能决策方法 |
CN114978388B (zh) * | 2022-05-18 | 2023-11-07 | 大连大学 | 一种无人机时频域联合认知抗干扰智能决策方法 |
Also Published As
Publication number | Publication date |
---|---|
WO2020064134A1 (en) | 2020-04-02 |
EP3857818B1 (en) | 2024-03-06 |
US11418270B2 (en) | 2022-08-16 |
US20220021469A1 (en) | 2022-01-20 |
EP3857818A1 (en) | 2021-08-04 |
CN113169887B (zh) | 2023-07-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN113169887B (zh) | 基于来自无线电网络和时空传感器的数据的无线电网络自优化 | |
US11399303B2 (en) | Configuration of a neural network for a radio access network (RAN) node of a wireless network | |
CN113475157B (zh) | 用于无线网络的连接行为标识 | |
US20220190883A1 (en) | Beam prediction for wireless networks | |
CN112789827B (zh) | 关联和存储来自无线电网络和时空传感器的数据 | |
US20230269606A1 (en) | Measurement configuration for local area machine learning radio resource management | |
US20240155553A1 (en) | Obtaining machine learning (ml) models for secondary method of orientation detection in user equipment (ue) | |
US20210076229A1 (en) | Executing analysis and management of a mobile communication network based on performance information, configuration information and environmental information | |
CN116669089A (zh) | 经由信道聚合预测服务质量 | |
US20240340942A1 (en) | Sidelink signal sensing of passively reflected signal to predict decrease in radio network performance of a user node-network node radio link | |
US20240107347A1 (en) | Machine learning model selection for beam prediction for wireless networks | |
US20240306026A1 (en) | Correlation-based measurement reporting reduction | |
WO2024188188A1 (zh) | 信道预测模型的确定方法、监测配置信息的指示方法 | |
EP4373159A1 (en) | Ai/ml model functionality in handover scenarios | |
WO2024180067A1 (en) | Switching to another machine learning model | |
WO2024180069A1 (en) | Base station, user equipment, circuitry and method for beam management | |
Rodrigues et al. | Towards Mobility Management with Multi-Objective Bayesian Optimization | |
WO2024208463A1 (en) | Ue stationary condition prediction to adjust ue configuration for wireless networks | |
CN118785234A (zh) | 基于ai的csi预测的数据采集方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |