CN115859344A - 基于秘密共享的联邦无人机群数据安全共享方法 - Google Patents
基于秘密共享的联邦无人机群数据安全共享方法 Download PDFInfo
- Publication number
- CN115859344A CN115859344A CN202210720829.3A CN202210720829A CN115859344A CN 115859344 A CN115859344 A CN 115859344A CN 202210720829 A CN202210720829 A CN 202210720829A CN 115859344 A CN115859344 A CN 115859344A
- Authority
- CN
- China
- Prior art keywords
- unmanned aerial
- aerial vehicle
- data
- model
- neural network
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 32
- 238000003062 neural network model Methods 0.000 claims abstract description 40
- 238000012549 training Methods 0.000 claims abstract description 38
- 230000002776 aggregation Effects 0.000 claims abstract description 32
- 238000004220 aggregation Methods 0.000 claims abstract description 32
- 238000007781 pre-processing Methods 0.000 claims abstract description 7
- 230000006870 function Effects 0.000 claims description 7
- 230000004931 aggregating effect Effects 0.000 claims description 4
- 238000009795 derivation Methods 0.000 claims description 4
- 231100000279 safety data Toxicity 0.000 claims description 3
- 238000013528 artificial neural network Methods 0.000 claims description 2
- 238000004364 calculation method Methods 0.000 claims description 2
- 238000010276 construction Methods 0.000 claims description 2
- 238000011478 gradient descent method Methods 0.000 claims description 2
- 230000005540 biological transmission Effects 0.000 abstract description 8
- 230000002411 adverse Effects 0.000 abstract description 2
- 238000004088 simulation Methods 0.000 description 11
- 238000010606 normalization Methods 0.000 description 5
- 238000004422 calculation algorithm Methods 0.000 description 4
- 230000000694 effects Effects 0.000 description 4
- 238000006116 polymerization reaction Methods 0.000 description 4
- 238000004891 communication Methods 0.000 description 3
- 238000001514 detection method Methods 0.000 description 3
- 238000010801 machine learning Methods 0.000 description 3
- 230000008901 benefit Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000008447 perception Effects 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 238000005520 cutting process Methods 0.000 description 1
- 238000013480 data collection Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 230000001737 promoting effect Effects 0.000 description 1
- 238000013441 quality evaluation Methods 0.000 description 1
Images
Landscapes
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明公开了一种基于秘密共享的联邦无人机群数据安全共享方法,其实现步骤为:构建无人机群联邦学习系统,地面站发布无人机任务内容,无人机采集数据并进行预处理,无人机初始化参数,无人机对全局神经网络模型进行本地训练,无人机生成秘密共享份额并上传,边缘服务器对收到的秘密共享份额进行聚合并下发聚合结果,无人机对聚合模型进行恢复。本发明能够生成多份与原始数据特征不相关的随机联邦学习模型作为秘密共享份额用于传输与聚合,使得攻击者无法获取完整的原始模型参数,以此保护模型数据的隐私,从而进一步保护原始数据的隐私,并且能够正确恢复出全局联邦学习模型的训练结果,而不会对模型的精度产生不良影响。
Description
技术领域
本发明属于无人机集群联邦学习技术领域,更进一步涉及到无人机集群联邦学习技术领域中的一种基于秘密共享的联邦无人机群数据安全共享方法。本发明可用于保护联邦无人机集群内用于传输和聚合的联邦学习模型参数的数据隐私,在不影响最终联邦学习模型精度的情况下实现对数据的隐私保护。
背景技术
近些年来,随着无人机在各个领域都有着出色的表现。除了数据收集以外,无人机不仅可以作为中继节点为资源受限地区提供通信支持,也可以对数据进行处理,分担一定的计算任务。因为无人机具有体积小、机动性高、成本低廉的特性,使得无人机集群可以深入条件复杂的区域执行图像采集、目标识别等关键任务。
机器学习等技术的不断发展也赋予了无人机集群智能化应用的能力,通过各类机器学习算法对数据进行分析,挖掘数据隐藏的知识信息。传统的集中式无人机集群方案通常由普通无人机节点负责采集数据,在采集任务结束后统一上传至边缘服务器或地面站进行数据处理与机器学习的运算。但是由于无人机的算力依旧有限,数据传输环节通常采用的明文传输方式存在着巨大的隐私数据泄露的风险。恶意的攻击者可以轻而易举地获取到无人机采集到的敏感数据,破坏数据隐私。
联邦学习作为分布式的计算方式很好地解决了上述无人机集群存在的数据隐私安全问题,是实现无人机数据安全高效共享的关键技术。令无人机每轮上传训练好的本地联邦学习模型替代原始数据,再将聚合后全局模型应用于无人机本地,从而达到保护数据隐私的目的,同时完成了数据共享的目标,即无人机获得了聚合后的全局联邦学习模型。
西安交通大学在其申请的专利文献“一种基于联邦学习的无人机群感知数据安全共享方法”(专利申请号:202110512015.6,申请公布号:CN 113268920 A)中公开了一种针对无人机群联邦学习系统的数据安全共享方法。该方法包括:利用契约理论设计针对不同类型无人机的最优契约,联合服务器的模型效益公平分配原则为无人机设计激励体系;利用联邦学习进行本地训练和模型传输以保护原始数据的隐私;服务器利用本地模型质量评估的结果设计模型聚合规则。该发明能提高无人机在联邦学习中的通信效率,激励无人机用户的参与,实现高效的和隐私保护的无人机感知数据共享。
该方法的不足之处在于,仅仅将联邦学习应用于无人机集群中保护原始数据隐私的安全性仍有不足,现有技术并未考虑到联邦学习模型在传输和聚合的环节泄露后可能遭受模型推理攻击,从而破坏原始数据的隐私。攻击者可以通过窃听攻击获取通信链路中传输的模型数据,并且在多方参与的情况下,无法保证某一方部署的边缘服务器对另一方无人机的原始数据不好奇,从而利用收到的无人机本地模型进行推理攻击,从而破坏原始数据的隐私。
发明内容
本发明的目的是在于克服上述现有技术存在的缺陷,提出了一种基于秘密共享的联邦无人机群数据安全共享方法,用于解决无人机集群通过联邦学习得到的联邦模型在传输和聚合环节存在隐私泄露的问题。
为实现上述目的,本发明采取的技术方案为:构建无人机群联邦学习系统,地面站发布无人机任务内容,无人机采集数据并进行预处理,无人机初始化参数,无人机对全局神经网络模型进行本地训练,无人机生成秘密共享份额并上传,边缘服务器对收到的秘密共享份额进行聚合并下发聚合结果,无人机对聚合模型进行恢复。
本发明实现的具体步骤包括如下:
(1)构建无人机群联邦学习系统:
构建包括K架无人机U={U1,U2,...,Uk,...,UK}、N个边缘服务器S={S1,S2,...,Sn,...,SN}和地面站的无人机联邦学习系统,其中,K≥2,Uk表示第k架无人机,N≥2,Sn表示第n个边缘服务器;
(2)地面站发布无人机任务内容:
地面站确定每架无人机Uk的任务内容,包括每架无人机Uk采集数据的区域、需要采集的数据类型、初始化的全局神经网络模型G0以及任务执行的最大迭代次数T,T≥1,并且将任务内容通知系统内的所有无人机;
(3)每架无人机采集数据并进行预处理:
每架无人机Uk根据地面站发送的任务内容前往指定的区域并采集指定类型的数据X条,X≥100,并对所采集的数据进行数据预处理,得到Uk的训练数据集Dk;
(4)每架无人机初始化参数:
每架无人机Uk初始化迭代次数为t,并令t=1;
(5)每架无人机对全局神经网络模型进行本地训练:
(6)每架无人机生成秘密共享份额并上传:
(6a)每架无人机Uk将本地模型作为秘密信息,根据的模型结构生成N-1个空白神经网络模型,利用随机数生成器生成随机的权重参数并填入N-1个空白神经网络模型,得到N-1个与结构相同的随机神经网络模型作为秘密共享份额,利用求差公式计算与所有随机模型总和的差,将所得到的差值作为第N个秘密共享份额求差公式如下:
其中,∑表示求和操作;
(7)每个边缘服务器对收到的秘密共享份额进行聚合并下发聚合结果:
(8)每架无人机对聚合模型进行恢复:
其中,∑表示求和操作。
本发明与现有技术相比,具有如下优点:
本发明能够生成多份与原始数据特征不相关的随机联邦学习模型作为秘密共享份额用于传输与聚合,使得攻击者无法通过获取原始模型参数从而破坏数据隐私,并且能够正确恢复出全局联邦学习模型的训练结果,而不会对联邦学习模型的精度产生不良影响。与现有技术相比,本发明能够为联邦无人机集群提供更强的数据隐私保护,实现更安全的数据共享。
附图说明
图1是本发明的实现流程图;
图2是本发明构建的无人机群联邦学习系统的结构示意图;
具体实施方式
下面结合附图和实施例对本发明的技术方案和效果做进一步的详细描述。
参照附图1,对本发明的具体实现步骤做进一步的详细描述。
(1)构建无人机群联邦学习系统:
参照附图2,构建包括5架无人机U={U1,U2,U3,U4,U5}、3个边缘服务器S={S1,S2,S3}和地面站的无人机联邦学习系统,即K=5,N=3,其中,无人机负责根据地面站发布的任务内容前往指定区域进行数据采集和预处理,并构建数据集,在进行本地联邦学习训练后上传本地联邦学习模型;边缘服务器负责对所有无人机上传来的本地联邦学习模型进行模型聚合并下发;地面站负责确定具体的任务内容并通知系统内的所有无人机。
(2)地面站发布无人机任务内容:
地面站确定每架无人机Uk的任务内容,包括每架无人机Uk采集数据的区域、需要采集的数据类型、初始化的全局神经网络模型G0以及任务执行的最大迭代次数T,T≥1,并且将任务内容通知系统内的所有无人机,其中,Uk表示第k架无人机;
本实施例中,地面站将需要采集数据的总区域均匀划分为不相交的5个部分,并分别作为5架无人机任务内容中需要采集数据的区域,确定需要采集的数据类型为地面目标物体的图像数据,确定初始化的全局神经网络模型G0为YOLOv3-Tiny目标识别模型,确定任务执行的最大迭代次数T=30,其中,YOLOv3-Tiny目标识别模型的结构包括12层卷积权重大层,10层归一化权重层,10层归一化模型误差层,10层归一化模型均值层,10层归一化模型方差层,10层归一化统计参数层以及2层卷积误差层。
(3)每架无人机采集数据并进行预处理:
每架无人机Uk根据地面站发送的任务内容前往指定的区域并采集大小尺寸为960*540的地面目标物体图像数据共1000幅,包含10个类别的地面物体,并对所采集的数据进行数据预处理,得到Uk的训练数据集Dk,其中,采用的数据预处理方法步骤如下:
第一步,为每一条图像数据z生成一个取值范围为[0,1]的随机数r1,如果r1<0.5,则对该条图像数据进行水平翻转操作;
第二步,为经过第一步操作后的每一条图像数据z'生成一个取值范围为[0,1]的随机数r2,如果r2<0.5,则对该条图像数据进行裁剪操作;
第三步,为经过第二步操作后的每一条图像数据z"生成一个取值范围为[0,1]的随机数r3,如果r3<0.5,则对该条图像数据进行旋转操作;
(4)每架无人机初始化参数:
每架无人机Uk初始化迭代次数为t,并令t=1。
(5)每架无人机对全局神经网络模型进行本地训练:
第一步,利用全局神经网络模型G0对每架无人机Uk的训练数据集Dk中的图像数据进行类别预测,将预测得到的类别结果与真实结果作为损失函数的输入,计算本次迭代全局神经网络G0在训练数据集Dk上的损失值L,其中,损失值L的计算与采用的损失函数Loss如下:
L=Loss(G0;Dk)
其中,λcoord表示权重系数,∑表示求和操作,I表示输入的图片数据被划分为I×I个网格,J表示每个网格i中生成的所有J个候选框,表示第i个网格中的第j个候选框是否满足与真实标签中该网格目标物体的候选框交并比最大,如果满足,则否则wij表示经过全局模型训练后输出的第i个网格的第j个候选框中目标物体的宽,hij表示经过全局模型训练后输出的第i个网格的第j个候选框中目标物体的高,xij表示经过全局模型训练后输出的第i个网格中目标物体中心位置的x轴坐标,yij表示经过全局模型训练后输出的第i个网格中目标物体中心位置的y轴坐标,表示真实标签中的第i个网格的第j个候选框中目标物体的宽,表示真实标签中第i个网格的第j个候选框中目标物体的高,表示真实标签中第i个网格的第j个候选框中目标物体中心位置的x轴坐标,表示真实标签中第i个网格的第j个候选框中目标物体中心位置的y轴坐标,Cij表示经过全局模型训练后输出的第i个网格中第j个候选框的参数置信度,表示真实标签中第i个网格中第j个候选框的参数置信度,log表示求指数函数,λnoobj表示图片中是否不存在物体,如果不存在则λnoobj=1,否则λnoobj=0,表示第i个网格中的第j个候选框是否满足与真实标签中该网格目标物体的候选框交并比不是最大,如果满足,则否则表示第i个网格的第j个候选框中目标物体的真实分类概率,c表示目标物体的分类类别,class表示所有的分类类别集合,pij(c)表示经过全局模型训练后输出的第i个网格中第j个候选框中目标物体在类别的c上的分类概率;
其中,η表示学习率。
(6)每架无人机生成秘密共享份额并上传:
(6a)每架无人机Uk将本地模型作为秘密信息,根据的模型结构生成2个空白神经网络模型,利用随机数生成器生成随机的权重参数并填入2个空白神经网络模型,得到2个与结构相同的随机神经网络模型作为秘密共享份额,利用求差公式计算与所有随机模型总和的差,将所得到的差值作为第3个秘密共享份额即
由于前两个秘密共享份额中的模型权重参数是随机生成的,而第3个秘密共享份额则是由本地模型与求差得到的,因此本步骤生成的3个秘密共享份额中的模型参数都是随机的,每个单独的秘密共享份额都无法反应出本地模型中模型参数的相关信息,攻击者无法通过获取单个或部分秘密共享份额来获取本地模型的模型参数,从而提升了本地模型在模型上传环节的数据隐私安全;而全部3个秘密共享份额则可以恢复出完整的本地模型即
(7)每个边缘服务器对收到的秘密共享份额进行聚合并下发聚合结果:
(8)每架无人机对聚合模型进行恢复:
由于
并且由步骤(6a)可知
所以可得
由上述证明可得
下面结合仿真实验对本发明的效果做进一步的描述。
1.仿真条件:
本发明的仿真的硬件平台为:处理器为Intel(R)Core(TM)i5-7500,主频3.40GHz,内存为8G。
本发明的仿真实验的软件平台为:Windows10操作系统,Pycharm2020软件,python3.7编译环境,Pytorch深度学习框架和YOLOv3-Tiny目标检测模型。
2.仿真内容及结果分析:
本发明仿真实验是采用本发明与现有技术的联邦模型聚合方法FedAvg分别对仿真数据无人机航拍数据集VisDrone数据集进行目标检测仿真。
在本发明的仿真实验中,采用的现有技术联邦模型聚合方法FedAvg是指,McMahanB等人在“Communication-efficient learning of deep networks from decentralizeddata[C]//Artificial intelligence and statistics.PMLR,2017:1273-1282.”中提出的联邦模型聚合算法,简称FedAvg算法。
本发明所用的仿真实验数据VisDrone数据集是指,Zhu P等人在“Vision meetsdrones:Past,present and future[J].2020.”中公开的无人机航拍数据集,简称VisDrone数据集,VisDrone数据集包含了10个类别。
为了评价本发明的仿真效果,采用目标检测算法中的平均均值精度mAP指标对两种方法生成的联邦模型精度进行评价。将针对不同数据集进行30轮联邦学习训练并使用不同方法聚合得到的平均均值精度结果绘制成表1:
表1 30轮联邦学习训练后的模型平均均值精度对比表
算法 | mAP |
本发明 | 13.3% |
FedAvg | 13.3% |
从表1可以看出,在VisDrone数据集上,本发明在30轮联邦学习训练后的模型平均均值精度为13.3%,FedAvg的平均均值精度也为13.3%。本发明在VisDrone数据集上的模型精度与正常的聚合方法FedAvg一致,证明了本发明能够正确恢复出完整的全局模型训练结果,而不会影响训练结果的精度。
Claims (4)
1.一种基于秘密共享的联邦无人机群数据安全共享方法,其特征在于,构建无人机群联邦学习系统;地面站发布无人机任务内容;无人机采集数据并进行预处理;无人机初始化参数;无人机对全局神经网络模型进行本地训练;无人机生成秘密共享份额并上传;边缘服务器对收到的秘密共享份额进行聚合并下发聚合结果;无人机对聚合模型进行恢复;该方法的具体步骤包括如下:
(1)构建无人机群联邦学习系统:
构建包括K架无人机U={U1,U2,...,Uk,...,UK}、N个边缘服务器S={S1,S2,...,Sn,...,SN}和地面站的无人机联邦学习系统,其中,K≥2,Uk表示第k架无人机,N≥2,Sn表示第n个边缘服务器;
(2)地面站发布无人机任务内容:
地面站确定每架无人机Uk的任务内容,包括每架无人机Uk采集数据的区域、需要采集的数据类型、初始化的全局神经网络模型G0以及任务执行的最大迭代次数T,T≥1,并且将任务内容通知系统内的所有无人机;
(3)每架无人机采集数据并进行预处理:
每架无人机Uk根据地面站发送的任务内容前往指定的区域并采集指定类型的数据X条,X≥100,并对所采集的数据进行数据预处理,得到Uk的训练数据集Dk;
(4)每架无人机初始化参数:
每架无人机Uk初始化迭代次数为t,并令t=1;
(5)每架无人机对全局神经网络模型进行本地训练:
(6)每架无人机生成秘密共享份额并上传:
(6a)每架无人机Uk将本地模型作为秘密信息,根据的模型结构生成N-1个空白神经网络模型,利用随机数生成器生成随机的权重参数并填入N-1个空白神经网络模型,得到N-1个与结构相同的随机神经网络模型作为秘密共享份额,利用求差公式计算与所有随机模型总和的差,将所得到的差值作为第N个秘密共享份额求差公式如下:
其中,∑表示求和操作;
(7)每个边缘服务器对收到的秘密共享份额进行聚合并下发聚合结果:
(8)每架无人机对聚合模型进行恢复:
其中,∑表示求和操作。
2.根据权利要求1所述的基于秘密共享的联邦无人机群数据安全共享方法,其特征在于,步骤(2)中所述的数据类型,可以是图像数据、视频数据、传感器数据、系统特征数据中的任意一种。
3.根据权利要求1所述的基于秘密共享的联邦无人机群数据安全共享方法,其特征在于,步骤(5)中所述的每架无人机Uk将自己的训练数据集Dk作为全局神经网络模型G0的输入进行本地训练,实现步骤为:
(5a)利用全局神经网络模型G0对每架无人机Uk的训练数据集Dk中的数据进行类别预测,采用均方误差损失函数或交叉熵损失函数,将预测得到的类别结果与真实结果作为损失函数的输入,计算本次迭代全局神经网络G0在训练数据集Dk上的损失值L,其中:
L=Loss(G0;Dk)
其中,Loss表示所采用的损失函数;
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210720829.3A CN115859344A (zh) | 2022-04-19 | 2022-04-19 | 基于秘密共享的联邦无人机群数据安全共享方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210720829.3A CN115859344A (zh) | 2022-04-19 | 2022-04-19 | 基于秘密共享的联邦无人机群数据安全共享方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115859344A true CN115859344A (zh) | 2023-03-28 |
Family
ID=85660175
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210720829.3A Pending CN115859344A (zh) | 2022-04-19 | 2022-04-19 | 基于秘密共享的联邦无人机群数据安全共享方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115859344A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116828453A (zh) * | 2023-06-30 | 2023-09-29 | 华南理工大学 | 基于自适应非线性函数的无人机边缘计算隐私保护方法 |
CN117592527A (zh) * | 2024-01-18 | 2024-02-23 | 哈尔滨工业大学(深圳)(哈尔滨工业大学深圳科技创新研究院) | 基于函数秘密共享的隐私保护神经网络训练方法及装置 |
-
2022
- 2022-04-19 CN CN202210720829.3A patent/CN115859344A/zh active Pending
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116828453A (zh) * | 2023-06-30 | 2023-09-29 | 华南理工大学 | 基于自适应非线性函数的无人机边缘计算隐私保护方法 |
CN116828453B (zh) * | 2023-06-30 | 2024-04-16 | 华南理工大学 | 基于自适应非线性函数的无人机边缘计算隐私保护方法 |
CN117592527A (zh) * | 2024-01-18 | 2024-02-23 | 哈尔滨工业大学(深圳)(哈尔滨工业大学深圳科技创新研究院) | 基于函数秘密共享的隐私保护神经网络训练方法及装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111970309B (zh) | 基于Spark车联网组合深度学习入侵检测方法及系统 | |
CN107770263B (zh) | 一种基于边缘计算的物联网终端安全接入方法及系统 | |
CN115859344A (zh) | 基于秘密共享的联邦无人机群数据安全共享方法 | |
US11757723B2 (en) | Distributed secure state reconstruction method based on double-layer dynamic switching observer | |
CN112906903A (zh) | 网络安全风险预测方法、装置、存储介质及计算机设备 | |
CN110224862B (zh) | 基于多层感知器的多智能体系统网络容侵能力评估方法 | |
CN111339818B (zh) | 一种人脸多属性识别系统 | |
CN110768971B (zh) | 适用于人工智能系统的对抗样本快速预警方法及系统 | |
CN115100574A (zh) | 基于融合图卷积网络与Transformer网络的动作识别方法及系统 | |
CN116343330A (zh) | 一种红外-可见光图像融合的异常行为识别方法 | |
CN113822315A (zh) | 属性图的处理方法、装置、电子设备及可读存储介质 | |
CN115695025B (zh) | 网络安全态势预测模型的训练方法及装置 | |
CN116708009A (zh) | 一种基于联邦学习的网络入侵检测方法 | |
CN114863226A (zh) | 一种网络物理系统入侵检测方法 | |
CN113378160A (zh) | 一种基于生成式对抗网络的图神经网络模型防御方法及装置 | |
CN118297755B (zh) | 一种基于物联网和大数据技术的建筑施工分析管控方法及系统 | |
CN116701618A (zh) | 一种面向工业终端网络流量检测的图谱联邦学习隐私增强方法 | |
CN110298170B (zh) | 一种考虑盲目攻击因子的电力scada系统安全性评估方法 | |
CN116796284A (zh) | 一种应用于对抗环境下面向无人机集群的意图识别方法 | |
CN116152678A (zh) | 小样本条件下基于孪生神经网络的海洋承灾体识别方法 | |
Malmir et al. | Optimization of data mining with evolutionary algorithms for cloud computing application | |
CN109871711B (zh) | 海洋大数据共享分发风险控制模型及方法 | |
CN116545679A (zh) | 一种工业情境安全基础框架及网络攻击行为特征分析方法 | |
CN113988189B (zh) | 一种跨风电机组的迁移故障诊断方法 | |
CN113435780B (zh) | 一种基于神经网络的应急通信感知装备体系效能评估方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |