CN116233791A - 多机协同车联网中轨迹优化和资源分配方法 - Google Patents
多机协同车联网中轨迹优化和资源分配方法 Download PDFInfo
- Publication number
- CN116233791A CN116233791A CN202310294776.8A CN202310294776A CN116233791A CN 116233791 A CN116233791 A CN 116233791A CN 202310294776 A CN202310294776 A CN 202310294776A CN 116233791 A CN116233791 A CN 116233791A
- Authority
- CN
- China
- Prior art keywords
- ris
- uav
- model
- constraint
- track
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000005457 optimization Methods 0.000 title claims abstract description 60
- 238000000034 method Methods 0.000 title claims abstract description 59
- 238000013468 resource allocation Methods 0.000 title claims abstract description 44
- 238000001829 resonance ionisation spectroscopy Methods 0.000 claims abstract description 250
- 238000004891 communication Methods 0.000 claims abstract description 43
- 230000002787 reinforcement Effects 0.000 claims abstract description 20
- 230000006870 function Effects 0.000 claims description 112
- 238000005265 energy consumption Methods 0.000 claims description 49
- 239000003795 chemical substances by application Substances 0.000 description 28
- 239000004973 liquid crystal related substance Substances 0.000 description 20
- 239000000470 constituent Substances 0.000 description 16
- 238000005562 fading Methods 0.000 description 7
- 239000000654 additive Substances 0.000 description 6
- 230000000996 additive effect Effects 0.000 description 6
- 230000005540 biological transmission Effects 0.000 description 6
- 238000012549 training Methods 0.000 description 6
- 241000209094 Oryza Species 0.000 description 4
- 235000007164 Oryza sativa Nutrition 0.000 description 4
- 230000014509 gene expression Effects 0.000 description 4
- 230000008569 process Effects 0.000 description 4
- 235000009566 rice Nutrition 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 230000000903 blocking effect Effects 0.000 description 3
- 239000011159 matrix material Substances 0.000 description 3
- 230000010363 phase shift Effects 0.000 description 3
- 238000012360 testing method Methods 0.000 description 3
- 238000010586 diagram Methods 0.000 description 2
- 230000001939 inductive effect Effects 0.000 description 2
- 230000021715 photosynthesis, light harvesting Effects 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 241000135164 Timea Species 0.000 description 1
- 230000001133 acceleration Effects 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000002238 attenuated effect Effects 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 239000003550 marker Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000006855 networking Effects 0.000 description 1
- 230000005855 radiation Effects 0.000 description 1
- 238000001228 spectrum Methods 0.000 description 1
- 238000010561 standard procedure Methods 0.000 description 1
- 230000008685 targeting Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 239000002699 waste material Substances 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W4/00—Services specially adapted for wireless communication networks; Facilities therefor
- H04W4/30—Services specially adapted for particular environments, situations or purposes
- H04W4/40—Services specially adapted for particular environments, situations or purposes for vehicles, e.g. vehicle-to-pedestrians [V2P]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04B—TRANSMISSION
- H04B17/00—Monitoring; Testing
- H04B17/30—Monitoring; Testing of propagation channels
- H04B17/391—Modelling the propagation channel
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W24/00—Supervisory, monitoring or testing arrangements
- H04W24/02—Arrangements for optimising operational condition
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04W—WIRELESS COMMUNICATION NETWORKS
- H04W40/00—Communication routing or communication path finding
- H04W40/02—Communication route or path selection, e.g. power-based or shortest path routing
- H04W40/22—Communication route or path selection, e.g. power-based or shortest path routing using selective relaying for reaching a BTS [Base Transceiver Station] or an access point
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- Electromagnetism (AREA)
- Mobile Radio Communication Systems (AREA)
- Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
Abstract
本发明公开了多机协同车联网中轨迹优化和资源分配方法,涉及车联网技术领域,解决了通信链路受障碍物遮挡、考虑系统平均信息年龄对系统进行优化的问题,其技术方案要点是:系统包括异构无人机UAV搭载RIS构成UAV‑RIS,多个UAV‑RIS协同构成中继网;通信受阻时基站BS经所述中继网与车辆VE通信,通信无阻时,基站BS直接与所述车辆VE通信;方法包括:构建系统模型,将系统信息年龄优化问题转化为具有中断概率约束和动态协同任务分配约束的UAV‑RIS轨迹和资源的优化问题;通过多智能体深度强化学习求解所述UVA‑RIS轨迹和资源的优化问题,获得优化后的轨迹和资源分配策略,在中断概率约束和动态协同任务分配约束下,实现信息年龄最小化。
Description
技术领域
本发明涉及车联网技术领域,更具体地说,它涉及多机协同车联网中轨迹优化和资源分配方法。
背景技术
车联网是指将车辆连接到计算机网络,使得行驶中的车辆之间或者车辆和基站之间建立无线通信,实现信息传输与资源分配。在车辆和基站的通行过程中,传统的车联网系统采用基站直接与所辖范围内的车辆通信,当通信链路受到障碍物遮挡时,基站传输给车辆用户的信号产生衰减,衰减严重时将无法满足车辆用户的QoS需求,也无法顺利分配不同任务给对应的车辆。
目前,有提出采用无人机搭载RIS充当中继,以解决通信链路受障碍物遮挡的问题,但现有方案多考虑单个无人机的情况,不适用于多个无人机协作通信的场景。且车联网是实时性敏感的应用场景,需要车联网中的信息年龄尽可能小,对于多个无人机协同车联网的轨迹及资源分配策略有更高的要求。
有鉴于此,发明人提出本申请。
发明内容
本申请的目的是提供多机协同车联网中轨迹优化和资源分配方法,考虑多个异构无人机UAV搭载可重构智能表面RIS构建中继网,辅助车联网系统的下行链路,减少因障碍物遮挡导致的通信链路受阻的问题,采用多个UAV-RIS协同构成中继网覆盖更大的范围;且在多机协同车联网系统的基础上考虑一定中断概率约束和动态协同任务分配约束条件下优化系统的轨迹和资源分配策略,使得系统的平均信息年龄最小,保障车联网系统的服务性能。
本申请一方面提供多机协同车联网系统,上述技术目的是通过以下技术方案得以实现的:多机协同车联网系统包括
异构无人机UAV搭载RIS构成UAV-RIS,多个UAV-RIS协同构成中继网;
通信受阻时基站BS经所述中继网与车辆VE通信,通信无阻时,基站BS直接与所述车辆VE通信。
采用上述技术方案,引入多个异构UAV解决通信下行链路受障碍物遮挡的问题,通过多个UAV的共同协作来满足用户的QoS需求和覆盖更大的范围,且考虑到UAV是能量受限的设备,所以将RIS部署在UAV上来智能调相,以减少能耗。
本申请另一方面,提供多机协同车联网中轨迹优化和资源分配方法,应用于上述的多机协同车联网系统,方法包括:
构建系统模型,将系统下行链路的信息年龄优化问题转化为具有中断概率约束和动态协同任务分配约束的UAV-RIS轨迹和资源的优化问题;
通过多智能体深度强化学习求解所述UVA-RIS轨迹和资源的优化问题,获得优化后的轨迹和资源分配策略,在中断概率约束和动态协同任务分配约束下,实现信息年龄最小化。
采用上述技术方案,通过构建车联网系统的系统模型,基于系统模型构建基于中断概率约束和和动态协同任务分配约束的UAV-RIS轨迹和资源的优化模型,接着通过多智能体深度强化学习求解该优化模型,获得优化后的轨迹和资源分配策略;优化后的轨迹和策略为任意状态下的UAV-RIS提供优化后的轨迹和资源分配资源,使得系统获得最小的系统平均信息年龄。
在一些可能的实施例中,构建系统模型,将系统下行链路的信息年龄优化问题转化为具有中断概率约束和动态协同任务分配约束的UAV-RIS轨迹和资源的优化问题,包括:
构建信道模型、UAV-RIS能耗模型、中断模型和AoI模型;
基于所述信道模型、UAV-RIS能耗模型和中断模型建立约束函数,基于AoI模型建立目标函数;
基于所述约束函数和所述目标函数构建以平均信息年龄最小为目标的UAV-RIS轨迹和资源的优化模型;
其中,所述信道模型包括基站到UAV-RIS链路模型、UAV-RIS到车辆链路模型和基站到车辆链路模型;
所述UAV-RIS能耗模型包括推进能耗模型和通信能耗模型;
所述AoI模型是指平均信息年龄模型,信息年龄是指UAV-RIS发送信息到车辆接收信息所经过的时间,平均是指对时间、车辆数和UAV-RIS数进行平均;
所述中断模型是指多个无人机和多个车辆之间的通信链路中断的概率模型。
在一些可能的实施例中,通过多智能体深度强化学习求解所述UVA-RIS轨迹和资源的优化问题,获得优化后的轨迹和资源分配策略,在中断概率约束和和动态协同任务分配约束下,实现信息年龄最小化,包括:
以平均信息年龄最小为目标,系统模型充当环境,UAV-RIS充当智能体,利用多智体深度强化学习求解智能体的最优轨迹和最优资源分配策略。
在一些可能的实施例中,基于所述信道模型构建约束函数,包括:
构建一个子载波最多被一个车辆使用的约束函数;
构建UAV-RIS在当前时间段的飞行距离不超过最大值的约束函数;
构建一个车辆一次只能被一架UAV-RIS进行任务分配的约束函数;
构建UAV-RIS之间的飞行距离不低于最小值的约束函数;
构建UAV-RIS移动范围的约束函数。
在一些可能的实施例中,基于UAV-RIS能耗模型构建约束函数,包括:
构建UAV-RIS的能耗约束函数;
构建UAV-RIS分配给车辆的总功率不超过UAV-RIS的最大功率的约束函数。
在一些可能的实施例中,基于中断模型构建约束函数,包括:构建每个时隙所有车辆在保证正常通信的中断概率的约束函数。
在一些可能的实施例中,基于AOI模型构建目标函数,包括:构建平均信息年龄最小的目标函数。
在一些可能的实施例中,所述目标函数为:
在一些可能的实施例中,所述约束函数为:
其中,其中,v表示第v个车辆,t表示时隙,u表示第u个UAV-RIS,k表示第k个子载波;C1表示每个时隙所有车辆在保证正常通信的中断概率的约束函数,其中每个时隙所有车辆在保证正常通信的中断概率不超过中断概率阈值Pth;C2表示UAV-RIS移动范围的约束函数,其中UAV-RIS的移动位置xu、yu不超过UAV-RIS的移动范围xmin、xmax、ymin、ymax;C3表示UAV-RIS分配给车辆的总功率不超过UAV-RIS的最大功率的约束函数,其中UAV-RIS分配给车辆的总功率/>不超过UAV-RIS的最大功率约束/>C4表示UAV-RIS的能耗约束函数,其中UAV-RIS的能耗Esum不超过UAV-RIS的能耗阈值Eth;C5表示一个子载波最多被一个车辆使用的约束函数,其中当第k个子载波被车辆使用时/>否则等于0;C6表示UAV-RIS在当前时间段的飞行距离不超过最大值的约束函数,其中UAV-RIS在当前时间段的飞行距离/>不超过最大值dmax;C7表示基站、UAV-RIS功率的约束函数,其中基站的功率/>和UAV-RIS的功率/>均大于0,且基站的功率/>不超过基站的最大功率/>C8表示一个车辆一次只能被一架UAV-RIS进行任务分配的约束函数;C9表示UAV-RIS之间的飞行距离不低于最小值的约束函数,其中UAV-RIS之间的距离||Qu1-Qu2||不小于安全距离dmin。
与现有技术相比,本申请具有以下有益效果:本申请一方面提供多机协同车联网系统,采用多个异构无人机UAV搭载可重构智能表面RIS构建中继网,辅助车联网系统的下行链路,减少因障碍物遮挡导致的通信链路受阻的问题,且多个UAV-RIS协同构成的中继网可以提供更大的服务范围;本申请第二方面提供多机协同车联网中轨迹优化和资源分配方法,在多机协同车联网系统的基础上考虑一定中断概率约束和动态协同任务分配约束条件下优化系统的轨迹和资源分配策略,使得系统的平均信息年龄最小,保障车联网系统的服务性能。
附图说明
此处所说明的附图用来提供对本发明实施例的进一步理解,构成本申请的一部分,并不构成对本发明实施例的限定。在附图中:
图1为本发明一实施例提供的多机协同车联网系统的结构示意图;
图2为本发明一实施例提供的多机协同车联网中轨迹优化和资源分配方法的流程图;
图3为本发明一实施例提供的AoI更新过程的示意图。
具体实施方式
在下文中,可在本申请的各种实施例中使用的术语“包括”或“可包括”指示所申请的功能、操作或元件的存在,并且不限制一个或更多个功能、操作或元件的增加。此外,如在本申请的各种实施例中所使用,术语“包括”、“具有”及其同源词仅意在表示特定特征、数字、步骤、操作、元件、组件或前述项的组合,并且不应被理解为首先排除一个或更多个其它特征、数字、步骤、操作、元件、组件或前述项的组合的存在或增加一个或更多个特征、数字、步骤、操作、元件、组件或前述项的组合的可能性。
在本申请的各种实施例中,表述“或”或“B或/和C中的至少一个”包括同时列出的文字的任何组合或所有组合。例如,表述“B或C”或“B或/和C中的至少一个”可包括B、可包括C或可包括B和C二者。
在本申请的各种实施例中使用的表述(诸如“第一”、“第二”等)可修饰在各种实施例中的各种组成元件,不过可不限制相应组成元件。例如,以上表述并不限制所述元件的顺序和/或重要性。以上表述仅用于将一个元件与其它元件区别开的目的。例如,第一用户装置和第二用户装置指示不同用户装置,尽管二者都是用户装置。例如,在不脱离本申请的各种实施例的范围的情况下,第一元件可被称为第二元件,同样地,第二元件也可被称为第一元件。
应注意到:如果描述将一个组成元件“连接”到另一组成元件或与另一组成元件“相连”,则可将第一组成元件直接连接到第二组成元件,并且可在第一组成元件和第二组成元件之间“连接”第三组成元件。相反地,当将一个组成元件“直接连接”到另一组成元件或与另一组成元件“直接相连”时,可理解为在第一组成元件和第二组成元件之间不存在第三组成元件。
在本申请的各种实施例中使用的术语仅用于描述特定实施例的目的并且并非意在限制本申请的各种实施例。如在此所使用,单数形式意在也包括复数形式,除非上下文清楚地另有指示。除非另有限定,否则在这里使用的所有术语(包括技术术语和科学术语)具有与本申请的各种实施例所属领域普通技术人员通常理解的含义相同的含义。所述术语(诸如在一般使用的词典中限定的术语)将被解释为具有与在相关技术领域中的语境含义相同的含义并且将不被解释为具有理想化的含义或过于正式的含义,除非在本申请的各种实施例中被清楚地限定。
为使本申请的目的、技术方案和优点更加清楚明白,下面结合实施例和附图,对本申请作进一步的详细说明,本申请的示意性实施方式及其说明仅用于解释本申请,并不作为对本申请的限定。
目前,有提出采用无人机搭载RIS充当中继,以解决通信链路受障碍物遮挡的问题,但现有方案多考虑单个无人机的情况,不适用于多个无人机协作通信的场景。且车联网是实时性敏感的应用场景,需要车联网中的信息年龄尽可能小,对于多个无人机协同车联网系统的轨迹和资源分配策略有更高的要求。
有鉴于此,发明人提出多机协同车联网系统。考虑多个异构无人机UAV和可重构智能表面RIS构成中继网,辅助车联网系统的下行链路,组成多机协同车联网系统。解决因障碍物遮挡导致的信号衰减问题,满足车辆用户的QoS需求,完成对应车辆的任务分配,并且采用多机协同可以提供更大的服务范围。
另外,发明人发现在多机协同车联网系统中,多个异构无人机的异构特性会导致完成任务的类型及通信能力有所差别,不合适的任务分配策略会造成网络资源利用不充分,加之无人机网络本身存在的链路频繁中断问题,容易导致系统的信息年龄过大,无人机能耗增加。因此,发明人提出多机协同车联网中轨迹优化和资源分配方法,采用AoI来度量信息年龄,考虑一定中断概率约束和动态协同任务分配约束下优化系统的平均信息年龄,提高系统的服务性能。
下面结合实施例和附图对本申请的多机协同车联网中轨迹优化和资源分配方法做进一步说明:
实施例1
参见图1所示,本实施例提供多机协同车联网系统,系统包括:
异构无人机UAV搭载RIS构成UAV-RIS,多个UAV-RIS协同构成中继网;通信受阻时基站BS经所述中继网与车辆VE通信,通信无阻时,基站BS直接与所述车辆VE通信。
本实施例中,UAV-RIS可以通过使用正交频分多址接入(OFDMA,orthogonalfrequency-division multiple access)技术同时为V个配备了单天线的车辆进行任务分配。整个系统的通信链路包括配备有RIS的无人机到车辆(UR2V,UAV-RIS to vehicle)链路、基站到UAV-RIS(B2UR,base station to UAV-RIS)链路、基站到车辆(B2V,basestation to vehicle)链路。
本实施例提供的多机协同车联网系统,引入多个异构UAV解决通信下行链路受障碍物遮挡的问题,通过多个UAV的共同协作来满足用户的QoS需求和覆盖更大的范围。且考虑到UAV是能量受限的设备,所以将RIS部署在UAV上来智能调相,以减少能耗。UAV-RIS的设置灵活性更强,无人机可以在任何需要的地方快速部署,RIS的安装和更改更加容易,在灾难或紧急情况下,UAV-RIS可以快速到达需要增强信号的地方,为通信设备提供支持。
实施例2
本实施例提供多机协同车联网中轨迹优化和资源分配方法,可应用于实施例1提供的多机协同车联网系统。
参见图2所示,方法包括:
S1、构建系统模型,将系统下行链路的信息年龄优化问题转化为具有中断概率约束和动态协同任务分配约束的UAV-RIS轨迹和资源的优化问题;
S2、通过多智能体深度强化学习求解所述UVA-RIS轨迹和资源的优化问题,获得优化后的轨迹和资源分配策略,在中断概率约束和和动态协同任务分配约束下,实现信息年龄最小化。
本实施例中,先通过步骤S1构建车联网系统的系统模型,包括四个子模型(信道模型、UAV-RIS能耗模型、中断模型、AoI模型),并基于系统模型构建基于中断概率约束和和动态协同任务分配约束的UAV-RIS轨迹和资源的优化模型;接着通过步骤S2多智能体深度强化学习求解该优化模型,获得优化后的轨迹和资源分配策略。优化后的轨迹和策略会告诉多个UAV-RIS在任意的一个状态(系统中多个UAV-RIS所处位置、资源分配情况、RIS相移情况)下,多个UAV-RIS应该怎么规划自己的轨迹和怎么进行资源分配使得在这个状态下获得最小的系统平均信息年龄。
具体地,步骤S1、构建系统模型,将系统下行链路的信息年龄优化问题转化为具有中断概率约束和动态协同任务分配约束的UAV-RIS轨迹和资源的优化问题,包括:
构建信道模型、UAV-RIS能耗模型、中断模型和AoI模型;
基于所述信道模型、UAV-RIS能耗模型和中断模型建立约束函数,基于AoI模型建立目标函数;
基于所述约束函数和所述目标函数构建以平均信息年龄最小为目标的UAV-RIS轨迹和资源的优化模型;
其中,所述信道模型包括基站到UAV-RIS链路模型、UAV-RIS到车辆链路模型和基站到车辆链路模型;所述UAV-RIS能耗模型包括推进能耗模型和通信能耗模型;所述AoI模型是指平均信息年龄模型,信息年龄是指UAV-RIS发送信息到车辆接收信息所经过的时间,平均是指对时间、车辆数和UAV-RIS数进行平均;所述中断模型是指多个无人机和多个车辆之间的通信链路中断的概率模型。
具体地,步骤S2、通过多智能体深度强化学习求解所述UVA-RIS轨迹和资源的优化问题,获得优化后的轨迹和资源分配策略,在中断概率约束和和动态协同任务分配约束下,实现信息年龄最小化,包括:
以平均信息年龄最小为目标,系统模型充当环境,UAV-RIS充当智能体,利用多智体深度强化学习求解智能体的最优轨迹和最优资源分配策略。
本实施例中,通过步骤S1建立系统模型,基于系统模型建立UAV-RIS轨迹和资源的优化模型,进一步通过步骤S2求解优化模型,获得优化后的轨迹和资源分配策略,采用该轨迹和资源分配策略可实现信息年龄的最小化。
具体地,基于所述信道模型、UAV-RIS能耗模型和中断模型建立约束函数,基于AoI模型建立目标函数的具体过程如下:
基于所述信道模型构建约束函数,包括:构建一个子载波最多被一个车辆使用的约束函数;构建UAV-RIS在当前时间段的飞行距离不超过最大值的约束函数;构建一个车辆一次只能被一架UAV-RIS进行任务分配的约束函数;构建UAV-RIS之间的飞行距离不低于最小值的约束函数;构建UAV-RIS移动范围的约束函数。
基于UAV-RIS能耗模型构建约束函数,包括:构建UAV-RIS的能耗约束函数;构建UAV-RIS分配给车辆的总功率不超过UAV-RIS的最大功率的约束函数。
基于中断模型构建约束函数,包括:构建每个时隙所有车辆在保证正常通信的中断概率的约束函数。
基于AOI模型构建目标函数,包括:构建平均信息年龄最小的目标函数。
本实施例通过建立四个系统子模型,从四个方面对车联网系统进行分析,并建立相应的约束函数和目标函数,约束函数和目标函数具体如下:
所述目标函数为:
所述约束函数为:
其中,其中,v表示第v个车辆,t表示时隙,u表示第u个UAV-RIS,k表示第k个子载波;C1表示每个时隙所有车辆在保证正常通信的中断概率的约束函数,其中每个时隙所有车辆在保证正常通信的中断概率不超过中断概率阈值Pth;C2表示UAV-RIS移动范围的约束函数,其中UAV-RIS的移动位置xu、yu不超过UAV-RIS的移动范围xmin、xmax、ymin、ymax;C3表示UAV-RIS分配给车辆的总功率不超过UAV-RIS的最大功率的约束函数,其中UAV-RIS分配给车辆的总功率/>不超过UAV-RIS的最大功率约束/>C4表示UAV-RIS的能耗约束函数,其中UAV-RIS的能耗Esum不超过UAV-RIS的能耗阈值Eth;C5表示一个子载波最多被一个车辆使用的约束函数,其中当第k个子载波被车辆使用时/>否则等于0;C6表示UAV-RIS在当前时间段的飞行距离不超过最大值的约束函数,其中UAV-RIS在当前时间段的飞行距离/>不超过最大值dmax;C7表示基站、UAV-RIS功率的约束函数,其中基站的功率/>和UAV-RIS的功率/>均大于0,且基站的功率/>不超过基站的最大功率/>C8表示一个车辆一次只能被一架UAV-RIS进行任务分配的约束函数;C9表示UAV-RIS之间的飞行距离不低于最小值的约束函数,其中UAV-RIS之间的距离||Qu1-Qu2||不小于安全距离dmin。
本实施例中,通过上述的目标函数和约束函数构建以平均信息年龄最小为目标的UAV-RIS轨迹和资源的优化模型。在优化模型的求解过程中,因为有多个无人机,每个无人机相当于一个智能体,所以考虑使用多智能体,由于状态空间和动作空间很大,传统凸优化方法无法求解,所以考虑使用深度强化学习方法求解。多智能体深度强化学习求解所述UVA-RIS轨迹和资源的优化问题,具体地是:以平均信息年龄最小为目标,系统模型充当环境,UAV-RIS充当智能体,利用多智体深度强化学习求解智能体的最优轨迹和最优资源分配策略。在中断概率约束和和动态协同任务分配约束下,实现信息年龄最小化。
需要说明的是,多智能体深度强化学习求解优化模型是一项成熟的技术,本例中仅示例性地给出求解流程作为指导,求解流程如下:
定义问题:定义智能体的状态空间、动作空间和奖励函数,以及智能体之间的交互方式和协作目标。这些信息构成了多智能体强化学习问题的完整描述。
确定模型:选择适当的深度强化学习模型,例如深度Q网络(Deep Q-Networks,DQN)、策略梯度(Policy Gradient,PG)等。
确定算法:选择适当的算法来解决MADRL问题,例如独立强化学习算法(Independent Reinforcement Learning,IRL)、集中式训练分布式执行算法(CentralizedTraining with Decentralized Execution,CTDE)等。
训练智能体:使用所选算法和模型对智能体进行训练。训练过程中,智能体根据当前状态选择动作,并根据奖励函数获得奖励。智能体使用这些奖励和状态信息来优化其策略或值函数。训练可以采用单一的神经网络,也可以采用多个网络。
测试智能体:在测试阶段,使用训练好的智能体在新的环境中执行任务。可以通过观察智能体的行为和性能来评估其训练效果。
改进算法:根据测试结果,改进算法和模型,以提高智能体的性能。
本实施例的上述阐述中,对建立系统模型,基于系统模型建立约束函数和目标函数,基于约束函数和目标函数建立优化模型,基于优化模型进行求解,获得优化后的轨迹和资源分配策略,进行了详细的说明。下面对如何构建系统模型(信道模型、UAV-RIS能耗模型、中断模型、AoI模型)以及如何基于系统模型构建约束函数和目标函数,进而构建考虑一定中断概率约束和和动态协同任务分配约束条件下以平均信息年龄最小为目标的UAV-RIS轨迹和资源的优化模型,作详细的阐释:
A、信道模型:
如图1所示,本实施例基于多机协同车联网系统,其中包括UAV、RIS、地面车辆VE和基站BS,并且RIS部署在UAV上,记作UAV-RIS。在这个场景中,本实施例针对高楼障碍物遮挡的城市地区的下行链路(注:整个通行链路分为上行链路和下行链路,本例基于下行链路进行研究),有U个UAV-RIS互相协作来给车辆进行任务分配,其中,u∈U,U={1,…,U}。并且每个UAV-RIS的飞行时间记为T,在T的任意时间内,UAV-RIS可以通过使用正交频分多址接入(OFDMA,orthogonal frequency-division multiple access)技术同时为V个配备了单天线的车辆进行任务分配,其中,v∈V,V={1,…,V},并且UAV-RIS可以为每个车辆分配总带宽/传输功率的一小部分来保证正常通信。为了简化处理,本例将UAV-RIS的飞行时间T离散化为N个等间隔的时隙δt,例如t=nδt,其中n∈N,N={1,…,N},车辆简写为VE。UAV-RIS u的位置坐标记为Qu=(xu,yu,hu),VE v的位置坐标记为Qv=(xv,yv,0),BS的位置坐标记QB=(xB,yB,hB)。RIS配备了M(M>1)个反射元件,整个系统的通信链路包括配备有RIS的无人机到车辆(UR2V,UAV-RIS to vehicle)链路、基站到UAV-RIS(B2UR,base station to UAV-RIS)链路、基站到车辆(B2V,base station to vehicle)链路。此外,本例用Θ=[Θ1,…,Θm,…,ΘM]表示RIS的无源相移矩阵,其中,该公式中φm∈[0,2π],表示相移,βm∈[0,1],表示幅度反射系数。
为了避免严重的干扰,本例假设一个子载波最多被一个VE使用,可以表示为下式:
因为UAV-RIS是移动的,同时系统中有多台UAV-RIS,可以记第u台UAV-RIS在当前时隙和上一个时隙的位置可以分别表示为Qu=(xu,yu,hu)和由于UAV-RIS自身条件限制,UAV-RIS在当前时间段的飞行距离不能超过最大值dmax,即:
此外,当hu>hB时,BS和UAV-RIS之间是LoS链路。
为了避免UAV-RIS之间距离过近,导致UAV-RIS碰撞到一起损坏,本例制定了UAV-RIS之间的避免碰撞约束,即:||Qu1-Qu2||>dmin,u1,u2∈U,u1≠u2,其中dmin表示任意两个UAV-RIS之间的最小安全距离。
本例假设B2V链路的信道是瑞利衰落的,即信道包含路径损耗和小尺度瑞利衰落,下面会进行详细说明。
首先子信道k上的BS到VE v之间的信道功率增益如下式:
基于上式,使用子载波k的车辆v的接收信号可以表示为公式(5):
基于以上公式,B2V链路中的VE v的信噪比(received signal to noise,SNR)可以按公式(6)计算:
因此,在使用OFDMA技术情况下,B2V链路中使用子载波k的VE v的数据速率可以表示为公式(7):
为了满足通信链路的QoS,SIR需要满足以下条件:
其中Υth表示BS到VE的SIR门限值。
对于B2UR和UR2V链路而言,本例假设它们中的信道都是莱斯衰落的,即信道包含路径损耗和小尺度莱斯衰落。
首先,对于B2UR链路,根据空地传播路径损耗模型,子载波k上BS到第u架UAV-RIS的LoS和NLoS路径损耗可以由下面两个公式给出
其中,Lk表示自由空间损耗,ηLoS和ηNLoS分别表示由于LoS和NLoS连接而产生的额外衰减系数。Lk可以进一步表示为这之中fk指的是子载波k的频率,单位为MHz,c是真空中的光速。假设BS和UAV-RIS上的天线是垂直放置的,所以,LoS连接和NLoS连接的概率分别如下两个公式
PRNLoS=1-PRLoS (12)
基于上式,子载波k上BS到第u架UAV-RIS的平均信道功率增益可以由下式给出:
基于上面的信道模型,第u架UAV-RIS通过子载波k得到的接收信号由公式(15)给出:
其中,表示BS单位功率通过子载波k传输给第u架UAV-RIS的传输信号,指代加性高斯白噪声(additive white Gaussian noise,AWGN),基于以上公式,第u架UAV-RIS的信噪比(received signal to noise,SNR)可以按公式(16)计算:
为了满足通信链路的QoS需求,SIR需要满足以下条件:
基于以上推理,对于UR2V链路,子载波k上第u架UAV-RIS到VE v的LoS和NLoS路径损耗可以由下式给出:
假设UAV-RIS和VE上的天线是垂直放置的,所以,LoS连接和NLoS连接的概率分别如下式:
基于上式,UR2V的平均信道增益可以由下式给出:
子信道k上第u架UAV-RIS的放大系数由下式给出:
基于上面的信道模型,VE v通过子载波k得到第u架UAV-RIS发射的信号由公式(25)给出:
其中,指代加性高斯白噪声(additive white Gaussian noise,AWGN),基于以上公式,VE v的信噪比(received signal to noise,SNR)可以按公式(26)计算:
因此,在使用OFDMA技术情况下,对于B2UR和UR2V链路来说,使用子载波k的VE v的数据速率可以表示为公式(27):
对于整个系统而言,VE v接收到的总速率可以表示为
为了满足通信链路的QoS需求,SIR需要满足以下条件:
B、UAV-RIS能耗模型:
本例中UAV-RIS的总能耗包括通信能耗和推进能耗两个方面。前者主要是由辐射、信号处理和硬件电路产生的,后者则是因为UAV-RIS的悬停和移动。需要注意的是,推进相关能耗占总能耗的绝大部分(通常在95%以上)并且UAV-RIS的能耗与其速度和加速度有关。
在UAV-RIS的能量耗散模型中,UAV-RIS在当前时隙的推进能耗如公式(30)所示:
其中,表示UAV-RIS在悬停状态下的叶片轮廓功率,这之中,l表示旋翼坚固度,ρ表示空气密度,δ表示剖面阻力系数,S表示整个螺旋桨的面积,Ω表示叶片的角速度,r表示全旋翼叶片的半径,/>表示UAV-RIS在悬停状态下的感应功率,这之中,κ表示感应功率的增量修正系数,W表示UAV-RIS的重量,最后,s0,s分别表示悬停状态下的平均旋翼感应速度和UAV-RIS的速度,d0表示机身阻力比。
在UAV-RIS的能量耗散模型中,UAV-RIS在当前时隙的通信能耗如公式(31)所示:
综上所述,可以得到第u架UAV-RIS在当前时隙总的能耗Esum,可以表示为公式(32):
Esum=Ep+Ec (32)
C、AoI模型:
通信界的AoI指的是数据包中的应用数据的年龄或新鲜程度,即信息从产生开始到目的地接收时经过的时间。在这里,数据会从BS处产生并在VE处接收。在本例中,假设BS使用K个子载波来为V个VE提供状态更新信息服务,BS处状态更新信息的产生时间可以定义为o(t),在t时刻,VE处接收到状态更新信息,所以,本例将t时刻的AoI定义为A(t)=t-o(t)。如图3所示,AoI从初始年轮A0开始,并以速率1随时间增加,直到接收到状态更新信息。在t1时刻,状态更新信息在BS处产生,在t2时刻,VE接收到状态更新信息并将原来的信息用最新的信息替换掉。所以,在t2时刻,VE的AoI可以表示成Δ1=t2-t1。
在给定时隙内数据成功传递需要满足两个条件:
1.UAV-RIS和VE之间有可用的子载波;
2.UAV-RIS和VE之间的信道的SNR高于给定阈值。
因此,UAV-RIS u将任务分配给VE v的AoI更新可以表示为公式(33):
基于上式,UAV-RIS u将任务分配给VE的平均AoI可以表示为公式(36):
因为整个系统有U架UAV-RIS,所以由上式可推导出整个系统的平均AoI:
D、中断模型:
对所考虑的UAV和RIS辅助的车联网系统的下行链路而言,在UAV-RIS给VE分配任务时可能发生数据传输中断。本例用公式(37)来表示数据传输中断概率:
其中,Rth表示当UAV-RIS的发送数据速率低于阈值Rth时,就会发生数据传输中断。为便于理解,通过表1对符号进行集合解释。
表1符号列表
通过建立上述A-D的模型后,本例考虑在一定中断概率约束和动态协同任务分配约束下优化系统的平均信息年龄。优化问题可以公式化如下:
其中,v表示第v个车辆,t表示时隙,u表示第u个UAV-RIS,k表示第k个子载波;C1表示每个时隙所有车辆在保证正常通信的中断概率的约束函数,其中每个时隙所有车辆在保证正常通信的中断概率不超过中断概率阈值Pth;C2表示UAV-RIS移动范围的约束函数,其中UAV-RIS的移动位置xu、yu不超过UAV-RIS的移动范围xmin、xmax、ymin、ymax;C3表示UAV-RIS分配给车辆的总功率不超过UAV-RIS的最大功率的约束函数,其中UAV-RIS分配给车辆的总功率/>不超过UAV-RIS的最大功率约束/>C4表示UAV-RIS的能耗约束函数,其中UAV-RIS的能耗Esum不超过UAV-RIS的能耗阈值Eth;C5表示一个子载波最多被一个车辆使用的约束函数,其中当第k个子载波被车辆使用时/>否则等于0;C6表示UAV-RIS在当前时间段的飞行距离不超过最大值的约束函数,其中UAV-RIS在当前时间段的飞行距离不超过最大值dmax;C7表示基站、UAV-RIS功率的约束函数,其中基站的功率/>和UAV-RIS的功率/>均大于0,且基站的功率/>不超过基站的最大功率/>C8表示一个车辆一次只能被一架UAV-RIS进行任务分配的约束函数;C9表示UAV-RIS之间的飞行距离不低于最小值的约束函数,其中UAV-RIS之间的距离||Qu1-Qu2||不小于安全距离dmin。
需要说明的是,这是一个混合整数非凸问题,一般来说,没有标准的方法来有效地解决这类问题,本例考虑使用多智能体深度强化学习进行求解。
以上所述的具体实施方式,对本发明的目的、技术方案和有益效果进行了进一步详细说明,所应理解的是,以上所述仅为本发明的具体实施方式而已,并不用于限定本发明的保护范围,凡在本发明的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (10)
1.多机协同车联网系统,其特征是:包括
异构无人机UAV搭载RIS构成UAV-RIS,多个UAV-RIS协同构成中继网;
通信受阻时基站BS经所述中继网与车辆VE通信,通信无阻时,基站BS直接与所述车辆VE通信。
2.多机协同车联网中轨迹优化和资源分配方法,其特征是:应用于如权利要求1所述的多机协同车联网系统,包括:
构建系统模型,将系统下行链路的信息年龄优化问题转化为具有中断概率约束和动态协同任务分配约束的UAV-RIS轨迹和资源的优化问题;
通过多智能体深度强化学习求解所述UVA-RIS轨迹和资源的优化问题,获得优化后的轨迹和资源分配策略,在中断概率约束和动态协同任务分配约束下,实现信息年龄最小化。
3.根据权利要求2所述的多机协同车联网中轨迹优化和资源分配方法,其特征是:构建系统模型,将系统下行链路的信息年龄优化问题转化为具有中断概率约束和动态协同任务分配约束的UAV-RIS轨迹和资源的优化问题,包括:
构建信道模型、UAV-RIS能耗模型、中断模型和AoI模型;
基于所述信道模型、UAV-RIS能耗模型和中断模型建立约束函数,基于AoI模型建立目标函数;
基于所述约束函数和所述目标函数构建以平均信息年龄最小为目标的UAV-RIS轨迹和资源的优化模型;
其中,所述信道模型包括基站到UAV-RIS链路模型、UAV-RIS到车辆链路模型和基站到车辆链路模型;
所述UAV-RIS能耗模型包括推进能耗模型和通信能耗模型;
所述AoI模型是指平均信息年龄模型,信息年龄是指UAV-RIS发送信息到车辆接收信息所经过的时间,平均是指对时间、车辆数和UAV-RIS数进行平均;
所述中断模型是指多个无人机和多个车辆之间的通信链路中断的概率模型。
4.根据权利要求3所述的多机协同车联网中轨迹优化和资源分配方法,其特征是:通过多智能体深度强化学习求解所述UVA-RIS轨迹和资源的优化问题,获得优化后的轨迹和资源分配策略,在中断概率约束和和动态协同任务分配约束下,实现信息年龄最小化,包括:
以平均信息年龄最小为目标,系统模型充当环境,UAV-RIS充当智能体,利用多智体深度强化学习求解智能体的最优轨迹和最优资源分配策略。
5.根据权利要求3或4所述的多机协同车联网中轨迹优化和资源分配方法,其特征是:基于所述信道模型构建约束函数,包括:
构建一个子载波最多被一个车辆使用的约束函数;
构建UAV-RIS在当前时间段的飞行距离不超过最大值的约束函数;
构建一个车辆一次只能被一架UAV-RIS进行任务分配的约束函数;
构建UAV-RIS之间的飞行距离不低于最小值的约束函数;
构建UAV-RIS移动范围的约束函数。
6.根据权利要求5所述的多机协同车联网中轨迹优化和资源分配方法,其特征是:基于UAV-RIS能耗模型构建约束函数,包括:
构建UAV-RIS的能耗约束函数;
构建UAV-RIS分配给车辆的总功率不超过UAV-RIS的最大功率的约束函数。
7.根据权利要求6所述的多机协同车联网中轨迹优化和资源分配方法,其特征是:基于中断模型构建约束函数,包括:构建每个时隙所有车辆在保证正常通信的中断概率的约束函数。
8.根据权利要求7所述的多机协同车联网中轨迹优化和资源分配方法,其特征是:基于AOI模型构建目标函数,包括:构建平均信息年龄最小的目标函数。
10.根据权利要求9所述的多机协同车联网中轨迹优化和资源分配方法,其特征是:所述约束函数为:
其中,v表示第v个车辆,t表示时隙,u表示第u个UAV-RIS,k表示第k个子载波;
C2表示UAV-RIS移动范围的约束函数,其中UAV-RIS的移动位置xu、yu不超过UAV-RIS的移动范围xmin、xmax、ymin、ymax;
C4表示UAV-RIS的能耗约束函数,其中UAV-RIS的能耗Esum不超过UAV-RIS的能耗阈值Eth;
C8表示一个车辆一次只能被一架UAV-RIS进行任务分配的约束函数;
C9表示UAV-RIS之间的飞行距离不低于最小值的约束函数,其中UAV-RIS之间的距离||Qu1-Qu2||不小于安全距离dmin。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310294776.8A CN116233791B (zh) | 2023-03-23 | 2023-03-23 | 多机协同车联网中轨迹优化和资源分配方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310294776.8A CN116233791B (zh) | 2023-03-23 | 2023-03-23 | 多机协同车联网中轨迹优化和资源分配方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN116233791A true CN116233791A (zh) | 2023-06-06 |
CN116233791B CN116233791B (zh) | 2024-05-24 |
Family
ID=86576977
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310294776.8A Active CN116233791B (zh) | 2023-03-23 | 2023-03-23 | 多机协同车联网中轨迹优化和资源分配方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116233791B (zh) |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107024925A (zh) * | 2017-05-25 | 2017-08-08 | 奇瑞汽车股份有限公司 | 一种汽车ecu控制器刷写系统和方法 |
CN114390630A (zh) * | 2021-11-29 | 2022-04-22 | 暨南大学 | 基于信息年龄的物联网通信方法、装置、设备及存储介质 |
CN114422363A (zh) * | 2022-01-11 | 2022-04-29 | 北京科技大学 | 一种无人机搭载ris辅助通信系统容量优化方法及装置 |
CN114938498A (zh) * | 2022-03-29 | 2022-08-23 | 成都理工大学 | 智能反射面辅助的无人机使能的无线传感网数据收集方法 |
CN115226068A (zh) * | 2022-09-16 | 2022-10-21 | 南京可信区块链与算法经济研究院有限公司 | 无人机辅助的蜂窝移动基站下行链路内容分发系统和方法 |
CN115633320A (zh) * | 2022-09-28 | 2023-01-20 | 中山大学 | 多无人机辅助的数据采集与回传方法、系统、设备及介质 |
CN115696211A (zh) * | 2022-10-31 | 2023-02-03 | 重庆邮电大学 | 一种基于信息年龄的无人机轨迹自适应优化方法 |
CN115802318A (zh) * | 2022-11-08 | 2023-03-14 | 重庆邮电大学 | 一种基于无人机辅助车联网资源优化方法、设备和介质 |
-
2023
- 2023-03-23 CN CN202310294776.8A patent/CN116233791B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107024925A (zh) * | 2017-05-25 | 2017-08-08 | 奇瑞汽车股份有限公司 | 一种汽车ecu控制器刷写系统和方法 |
CN114390630A (zh) * | 2021-11-29 | 2022-04-22 | 暨南大学 | 基于信息年龄的物联网通信方法、装置、设备及存储介质 |
CN114422363A (zh) * | 2022-01-11 | 2022-04-29 | 北京科技大学 | 一种无人机搭载ris辅助通信系统容量优化方法及装置 |
CN114938498A (zh) * | 2022-03-29 | 2022-08-23 | 成都理工大学 | 智能反射面辅助的无人机使能的无线传感网数据收集方法 |
CN115226068A (zh) * | 2022-09-16 | 2022-10-21 | 南京可信区块链与算法经济研究院有限公司 | 无人机辅助的蜂窝移动基站下行链路内容分发系统和方法 |
CN115633320A (zh) * | 2022-09-28 | 2023-01-20 | 中山大学 | 多无人机辅助的数据采集与回传方法、系统、设备及介质 |
CN115696211A (zh) * | 2022-10-31 | 2023-02-03 | 重庆邮电大学 | 一种基于信息年龄的无人机轨迹自适应优化方法 |
CN115802318A (zh) * | 2022-11-08 | 2023-03-14 | 重庆邮电大学 | 一种基于无人机辅助车联网资源优化方法、设备和介质 |
Non-Patent Citations (4)
Title |
---|
JIANHANG ZHANG: "AoI-minimization in UAV-assisted IoT Network with Massive Devices", 《2022 IEEE WIRELESS COMMUNICATIONS AND NETWORKING CONFERENCE (WCNC)》, 16 May 2022 (2022-05-16) * |
WEIJING QI: "Energy-Efficient Resource Allocation for UAV-Assisted Vehicular Networks With Spectrum Sharing", 《IEEE TRANSACTIONS ON VEHICULAR TECHNOLOGY》, 30 March 2022 (2022-03-30) * |
孙巍: "智能反射表面辅助的无线携能通信网络资源分配算法", 《通信学报》, 28 February 2022 (2022-02-28) * |
谢万城: "空中智能反射面辅助边缘计算中基于PPO的任务卸载方案", 《计算机科学》, 30 June 2022 (2022-06-30) * |
Also Published As
Publication number | Publication date |
---|---|
CN116233791B (zh) | 2024-05-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112118556B (zh) | 基于深度强化学习的无人机轨迹及功率联合优化方法 | |
Dong et al. | An edge computing empowered radio access network with UAV-mounted FSO fronthaul and backhaul: Key challenges and approaches | |
CN110380772B (zh) | 一种无人机中继系统的资源分配与飞行路线优化方法 | |
CN111970709B (zh) | 一种基于粒子群优化算法的无人机中继部署方法及系统 | |
Ray | A perspective on 6G: Requirement, technology, enablers, challenges and future road map | |
EP1881635B1 (en) | Hierarchical networks utilizing frame transmissions pipelining | |
WO2020015214A1 (zh) | 一种基于无人机的无线信息和能量传输的优化方法 | |
Elnabty et al. | A survey on UAV placement optimization for UAV-assisted communication in 5G and beyond networks | |
Jangsher et al. | Joint allocation of resource blocks, power, and energy-harvesting relays in cellular networks | |
CN109511134A (zh) | 基于能效最优的无人机辅助无线通信系统负载分流方法 | |
EP2553985B1 (en) | Communication control method, communication system, and management server | |
CN115802318B (zh) | 一种基于无人机辅助车联网资源优化方法、设备和介质 | |
Wang et al. | UAV aided network association in space-air-ground communication networks | |
CN115002800A (zh) | 一种无人机辅助的noma反向散射通信系统和速率最大化方法 | |
CN113776531A (zh) | 无线自供电通信网络的多无人机自主导航及任务分配算法 | |
CN116233791B (zh) | 多机协同车联网中轨迹优化和资源分配方法 | |
AlSheyab et al. | Interference minimization algorithms for fifth generation and beyond systems | |
US20220078625A1 (en) | Spectrum management device, electronic device, radio communication method, and storage medium | |
CN112188497A (zh) | 一种空地一体化车辆网频谱资源优化方法 | |
Mohammadi et al. | Analysis of Reinforcement Learning Schemes for Trajectory Optimization of an Aerial Radio Unit | |
CN116634443A (zh) | 面向空天地物联网的权衡能效和谱效的多目标优化方法 | |
CN114448537B (zh) | 一种通信网络中能量效率和频谱效率的折中方法 | |
CN116546462A (zh) | 一种基于联邦学习的多智能体空地网络资源分配方法 | |
Dai et al. | Multi-agent deep reinforcement learning for full-duplex multi-UAV networks | |
Liu et al. | Cellular UAV‐to‐device communications: Joint trajectory, speed, and power optimisation |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant |