CN112556682B - 一种水下复合传感器目标自动检测算法 - Google Patents
一种水下复合传感器目标自动检测算法 Download PDFInfo
- Publication number
- CN112556682B CN112556682B CN202011199650.5A CN202011199650A CN112556682B CN 112556682 B CN112556682 B CN 112556682B CN 202011199650 A CN202011199650 A CN 202011199650A CN 112556682 B CN112556682 B CN 112556682B
- Authority
- CN
- China
- Prior art keywords
- theta
- algorithm
- value
- training
- underwater
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
- G01C21/005—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 with correlation of navigation data from several sources, e.g. map or contour matching
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/07—Target detection
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- General Engineering & Computer Science (AREA)
- Remote Sensing (AREA)
- Radar, Positioning & Navigation (AREA)
- Computing Systems (AREA)
- Bioinformatics & Cheminformatics (AREA)
- General Health & Medical Sciences (AREA)
- Computational Linguistics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Biophysics (AREA)
- Molecular Biology (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Biomedical Technology (AREA)
- Health & Medical Sciences (AREA)
- Automation & Control Theory (AREA)
- Image Analysis (AREA)
Abstract
本发明提供了一种水下复合传感器目标自动检测算法,包括以下步骤:采用LQTask R‑CNN学习对水下映射环境中目标坐标进行检测和定位;引入随机偏导下降算法、TRD模型训练技巧和区块归一化算法;引入随机偏导下降算法用于优化网络参数;引入TRD模型训练技巧用于避免过拟合;引入区块归一化算法用于加快训练速度。本发明所述的一种水下复合传感器目标自动检测算法采用LQTask R‑CNN学习对复合传感器探测到的水下映射环境数据中存在的目标进行自动检测准确位置和分割目标数据的处理;引入随机偏导下降算法优化网络参数、TRD模型训练技巧避免过拟合、以及区块归一化算法加快训练速度,从而得到水下复杂环境中能够准确检测并且分割出目标的网络模型。
Description
技术领域
本发明属于水下复合传感器探测领域,尤其是涉及一种水下复合传感器目标自动检测算法。
背景技术
随着成像复合传感器系统的不断发展和完善,以及水下智能机器人的出现,开展基于水下复合传感器的自主目标检测与识别技术的研究,在军事和民用领域都具有重要的意义和价值。通过在复合传感器数据的预处理中对复合传感器数据特征的分析,得知复合传感器数据普遍噪声污染严重。
基于此,对水下复合传感器数据的空间域去噪和频率域去噪方法进行了分析与实验。着重将基于多分辨率的高斯金字塔滤波方法应用于复合传感器数据的预处理中,取得了一定的效果。
在复合传感器数据的海底混响区服从Gamma分布的情况下,通过一种快速有效的高斯金字塔模型对复合传感器数据进行预处理,使得处理后的复合传感器数据的海底混响区服从高斯分布,在此基础上构造了一个自动确定复合传感器数据分类个数的模型,并通过该模型结合一种局部能量极值化的方法对马尔科夫模型的初始化参数进行估计,从而形成一种完全自动的复合传感器数据分割模型。张元科等对基于类Haar特征的目标检测方法也进行了相应地研究,针对BlueView前视复合传感器目标检测方法中同一检测算法不能适用于所有帧的目标,而使得某些帧的数据目标有漏检的情况。
发明内容
有鉴于此,本发明旨在提出一种水下复合传感器目标自动检测算法,维持了水下映射环境真实性的同时,算法模型快速收敛性也有了大幅的提高。
为达到上述目的,本发明的技术方案是这样实现的:
一种水下复合传感器目标自动检测算法,包括以下步骤:
采用LQTask R-CNN学习对水下映射环境中目标坐标进行检测和定位;
引入随机偏导下降算法、TRD模型训练技巧和区块归一化算法;
引入随机偏导下降算法用于优化网络参数;引入TRD模型训练技巧用于避免过拟合;引入区块归一化算法用于加快训练速度。
进一步的,还包括带数据分割的高精度水下目标检测方法,采用LQTask R-CNN学习对水下映射环境中目标坐标进行检测和定位包括:
LQTask R-CNN基本结构:与Faster RCNN采用了相同的two-state步骤:
首先是找出RPN,然后对RPN找到的每个RoI进行分类、定位、并找到binary mask;其中,LQTask R-CNN的损失函数:L=Lcls+Lbor+Lmask。
进一步的,引入随机偏导下降算法的方法为:
依据训练集,选取最优的θ,用于在训练集中让h(x)尽可能接近真实的值;
定义损失函数,用于表示h(x)和真实的值之间的差距,损失函数表达式如下;
求出使得J(θ)最小的θ值,其中偏导下降算法的方法是:首先随便给θ一个初始化的值,然后改变θ值让J(θ)的取值变小,不断重复改变θ使J(θ)变小的过程直至J(θ)约等于最小值。
进一步的,随机偏导下降算法中求出使得J(θ)最小的θ值的方法包括:首先给θ一个初始值,然后向着让J(θ)变化最大的方向更新θ的取值,如此迭代,公式如下:
公式中α称为步长,它控制θ每次向J(θ)变小的方向迭代时的变化幅度,J(θ)对θ的偏导表示J(θ)变化最大的方向,由于求的是极小值,因此偏导方向是偏导数的反方向;
求解这个偏导,过程如下:
那么θ的迭代公式就变为:
进一步的,TRD模型训练技巧的方法为:在训练的过程中随机的裁剪神经网络中的部分单元来获得完整模型的子模型,对子模型进行训练,移除的单元是随机挑选的;
对于一个L层隐含层的神经网络l∈1,……,L,z(l),第l层的输入,y(l)定义为第l层的输出y(0)=x是输入,W(l)和b(l)为权重和偏置,
前向传播公式:
加入TRD后:
进一步的,区块归一化算法的方法为:
通过区块归一化算法把输入值的分布拉回到标准正态分布,使得激活输入值落在非线性函数对输入比较敏感的区域,让偏导变大,收敛速度变快,大大加快训练速度,具体运算就是对输入的分布进行如下变换:
进一步的,一种水下复合传感器目标自动检测算法的检测方法,包括以下步骤:
S1、输入一幅待处理的水下复合传感器数据,然后进行对应的预处理操作,获得预处理后的数据;
S2、将步骤S1中获得的预处理后的数据输入到一个预训练好的神经网络中获得对应的feature map;
S3、对feature map中的每一点设定预定个的ROI,从而获得多个候选ROI;
S4、将候选的ROI送入RPN网络进行二值分类和BB回归,过滤掉一部分候选的ROI;
S5、对过滤后剩下的ROI进行ROI Align操作;
S6、对过滤后剩下的ROI根据是否是目标进行分类,同时进行BB回归和MASK生成操作。
相对于现有技术,本发明所述的一种水下复合传感器目标自动检测算法具有以下优势:
本发明所述的一种水下复合传感器目标自动检测算法采用LQTask R-CNN学习对复合传感器探测到的水下映射环境数据中存在的目标进行自动检测准确位置和分割目标数据的处理;引入随机偏导下降算法优化网络参数、TRD模型训练技巧避免过拟合、以及区块归一化算法加快训练速度,从而得到水下复杂环境中能够准确检测并且分割出目标的网络模型。
附图说明
构成本发明的一部分的附图用来提供对本发明的进一步理解,本发明的示意性实施例及其说明用于解释本发明,并不构成对本发明的不当限定。在附图中:
图1为本发明实施例所述的流程图示意图;
图2为本发明实施例所述的全卷积的掩模预测分支示意图。
具体实施方式
需要说明的是,在不冲突的情况下,本发明中的实施例及实施例中的特征可以相互组合。
在本发明的描述中,需要理解的是,术语“中心”、“纵向”、“横向”、“上”、“下”、“前”、“后”、“左”、“右”、“竖直”、“水平”、“顶”、“底”、“内”、“外”等指示的方位或位置关系为基于附图所示的方位或位置关系,仅是为了便于描述本发明和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此不能理解为对本发明的限制。此外,术语“第一”、“第二”等仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”等的特征可以明示或者隐含地包括一个或者更多个该特征。在本发明的描述中,除非另有说明,“多个”的含义是两个或两个以上。
在本发明的描述中,需要说明的是,除非另有明确的规定和限定,术语“安装”、“相连”、“连接”应做广义理解,例如,可以是固定连接,也可以是可拆卸连接,或一体地连接;可以是机械连接,也可以是电连接;可以是直接相连,也可以通过中间媒介间接相连,可以是两个元件内部的连通。对于本领域的普通技术人员而言,可以通过具体情况理解上述术语在本发明中的具体含义。
下面将参考附图并结合实施例来详细说明本发明。
在具体实施过程中,如图1所示,首先,输入一幅待处理的水下复合传感器数据,然后进行对应的预处理操作,获得预处理后的数据;
然后,将其输入到一个预训练好的神经网络中(ResNeXt等)获得对应的featuremap;
接着,对这个feature map中的每一点设定预定个的ROI,从而获得多个候选ROI;
接着,将这些候选的ROI送入RPN网络进行二值分类(前景或背景)和BB回归,过滤掉一部分候选的ROI(截止到目前,Mask和Faster完全相同,其实R-FCN之类的在这之前也没有什么不同);
接着,对这些剩下的ROI进行ROIAlign操作(即先将原图和feature map的pixel对应起来,然后将feature map和固定的feature对应起来);
最后,对这些ROI进行分类(分类是否是目标)、BB回归和MASK生成(在每一个ROI里面进行FCN操作)(引入FCN生成Mask使得本文结构可以进行分割型任务)。
其中:(1)ROI处理架构:
为了证明我们方法的通用性,我们构造了多种不同结构的LQTask R-CNN。详细的说,我们使用不同的:
(i)用于整个数据上的特征提取的卷积主干架构;
(ii)用于边框识别(分类和回归)和掩模预测的上层网络,分别应用于每个RoI。
我们使用术语“网络深层特征”来命名下层架构。评估了深度为50或101层的ResNet和ResNeXt网络。使用ResNet的Faster R-CNN从第四级的最终卷积层提取特征,称之为C4。例如,使用ResNet-50的主干架构由ResNet-50-C4表示。
我们也使用了另一种更有效主干架构,称为特征金字塔网络(FPN)。FPN使用具有横向连接(lateral connections)的自顶向下架构,从单一规模的输入构建网络功能金字塔。使用FPN的Faster R-CNN根据其尺度提取不同级别的金字塔的RoI特征,不过其他部分和平常的ResNet类似。使用ResNet-FPN主干架构的LQTask R-CNN进行特征提取,可以在精度和速度方面获得极大的提升。
对于上层网络,我们添加了一个全卷积的掩模预测分支。具体来说,我们扩展了ResNet和FPN中提出的Faster R-CNN的上层网络。详情见图2所示:(上层架构:我们扩展了两种现有的Faster R-CNN上层架构,并分别添加了一个掩模分支。左/右面板分别显示了ResNet C4和FPN主干的上层架构。数字表示通道数和分辨率,箭头表示卷积、反卷积和全连接层(可以通过上下文推断,卷积减小维度,反卷积增加维度。)所有的卷积都是3×3的,除了输出层是1×1。反卷积是2×2,其步进为2,我们在隐藏层中使用ReLU。“res5”表示ResNet的第五级,简单起见,我们修改了第一个卷积操作,使用7×7,步长为1的RoI代替14×14,步长为2的RoI。“×4”表示堆叠的4个连续的卷积。)ResNet-C4主干的上层网络包括ResNet的第5阶段(即9层的’res5’),这是计算密集型的。但对于FPN,其主干已经包含了res5,因此可以使上层网络包含更少的卷积核而变的更加高效。
对于预测的二值掩膜输出,我们对每个像素点应用sigmoid函数,整体损失定义为平均二值交叉损失熵。引入预测独立输出的机制,允许每个类都生成独立的掩膜,避免类间竞争。这样做解耦了掩膜和种类预测。不像FCN的做法,在每个像素点上应用softmax函数,整体采用的多任务交叉熵,这样会导致类间竞争。
(2)训练参数:
(i)网络训练
训练阶段,Fast R-CNN中,如果RoI与groundtruth box的IoU>0.5,则RoI为positive;否则,RoI为negative。mask loss LmaskLmask仅在positive RoIs上定义.masktarget是RoI与其对应的groundtruth mask的交集。采用image-centric训练.将数据的长宽较小的一边缩放到800个像素。每个GPU的mini-batch=2,每张数据有NN个采样RoIs,positive和negative的比例为1:3 1:3。在8GPUs上训练,batchsize=2,160k迭代,learning_rate=0.02,每120k次迭代减少10倍。weight_decay=0.0001,momentum=0.9.
(ii)网络推断
测试阶段,采用的proposals的数量分别为300(Faster RCNN)和1000(FPN)。在这些proposals上,采用bounding-box网络分支和NMS来预测box。
然后,采用mask网络分支对最高score的100个检测boxes进行处理。这里是与训练时的并行处理不同的,但基于更少,更精确的RoIs,能够加速推断效率,提升精度.mask网络分支对每个RoI预测KK个masks,但这里只使用第k个mask(k是分类网络分支预测的类别标签)。得到的m×mm×m的浮点型mask输出再resized回RoI的尺寸,并以0.5的阈值进行二值化。
以上所述仅是本发明的算法细节,应当指出,对于本技术领域的相关人员来说,在不脱离本发明原理的前提下,还可以作出若干改进和润饰,这些改进和润饰也应视为本发明的保护范围。
以上所述仅为本发明的较佳实施例而已,并不用以限制本发明,凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (1)
1.一种水下复合传感器目标自动检测算法,其特征在于,包括以下步骤:
采用LQTask R-CNN学习对水下映射环境中目标坐标进行检测和定位;
引入随机偏导下降算法、TRD模型训练技巧和区块归一化算法,用于对检测到的目标坐标进行校准检测操作;
引入随机偏导下降算法用于优化网络参数;引入TRD模型训练技巧用于避免过拟合;引入区块归一化算法用于加快训练速度;
引入随机偏导下降算法的方法为:
依据训练集,选取最优的θ,用于在训练集中让目标函数h(x)接近真实的值;
定义损失函数,用于表示目标函数h(x)和真实的值之间的差距,损失函数表达式如下;
求出使得损失函数J(θ)最小的θ值,其中偏导下降算法的方法是:首先随便给θ一个初始化的值,然后改变θ值让J(θ)的取值变小,不断重复改变θ使J(θ)变小的过程直至J(θ)约等于最小值;
TRD模型训练技巧的方法为:在训练的过程中随机的裁剪神经网络中的部分单元来获得完整模型的子模型,对子模型进行训练,移除的单元是随机挑选的;
对于一个L层隐含层的神经网络l∈1,……,L,z(l)定义为第l层的输入,y(0)作为输入的初始状态,W(l)和b(l)为权重和偏置,任意的l+1层与对应的y、w、b参数共同组成第i轮次的前向传播公式:
加入TRD模型后:
通过区块归一化算法把输入值的分布拉回到标准正态分布,使得激活输入值落在非线性函数对输入比较敏感的区域,让偏导变大,具体运算就是对输入x的分布进行如下变换:
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011199650.5A CN112556682B (zh) | 2021-02-07 | 2021-02-07 | 一种水下复合传感器目标自动检测算法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011199650.5A CN112556682B (zh) | 2021-02-07 | 2021-02-07 | 一种水下复合传感器目标自动检测算法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112556682A CN112556682A (zh) | 2021-03-26 |
CN112556682B true CN112556682B (zh) | 2023-06-23 |
Family
ID=75042523
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011199650.5A Active CN112556682B (zh) | 2021-02-07 | 2021-02-07 | 一种水下复合传感器目标自动检测算法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112556682B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114216464B (zh) * | 2021-11-16 | 2023-08-25 | 湖南国天电子科技有限公司 | 一种智能水下目标定位方法 |
CN114580615B (zh) * | 2022-03-04 | 2022-09-23 | 哈尔滨工程大学 | 一种基于神经网络的分布式小平台水下纯方位定位方法 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108416394A (zh) * | 2018-03-22 | 2018-08-17 | 河南工业大学 | 基于卷积神经网络的多目标检测模型构建方法 |
CN110942000A (zh) * | 2019-11-13 | 2020-03-31 | 南京理工大学 | 一种基于深度学习的无人驾驶车辆目标检测方法 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108399362B (zh) * | 2018-01-24 | 2022-01-07 | 中山大学 | 一种快速行人检测方法及装置 |
CN108959728B (zh) * | 2018-06-12 | 2023-04-07 | 杭州法动科技有限公司 | 基于深度学习的射频器件参数优化方法 |
TWI676940B (zh) * | 2018-08-29 | 2019-11-11 | 國立交通大學 | 以機械學習為基礎之最佳化預測模型的建立與預測結果的取得系統及方法 |
DE102018008685A1 (de) * | 2018-11-06 | 2020-05-07 | Robert Bosch Gmbh | Verfahren zum Trainieren eines künstlichen neuronalen Netzes, künstliches neuronales Netz, Verwendung eines künstlichen neuronalen Netzes sowie entsprechendes Computerprogramm maschinenlesbares Speichermedium und entsprechende Vorrichtung |
CN109948457B (zh) * | 2019-02-26 | 2023-07-18 | 南京理工大学 | 基于卷积神经网络和cuda加速的实时目标识别方法 |
CN109977812B (zh) * | 2019-03-12 | 2023-02-24 | 南京邮电大学 | 一种基于深度学习的车载视频目标检测方法 |
-
2021
- 2021-02-07 CN CN202011199650.5A patent/CN112556682B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108416394A (zh) * | 2018-03-22 | 2018-08-17 | 河南工业大学 | 基于卷积神经网络的多目标检测模型构建方法 |
CN110942000A (zh) * | 2019-11-13 | 2020-03-31 | 南京理工大学 | 一种基于深度学习的无人驾驶车辆目标检测方法 |
Also Published As
Publication number | Publication date |
---|---|
CN112556682A (zh) | 2021-03-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107909082B (zh) | 基于深度学习技术的声呐图像目标识别方法 | |
CN109919108B (zh) | 基于深度哈希辅助网络的遥感图像快速目标检测方法 | |
CN109614985B (zh) | 一种基于密集连接特征金字塔网络的目标检测方法 | |
CN110084234B (zh) | 一种基于实例分割的声呐图像目标识别方法 | |
CN110033473B (zh) | 基于模板匹配和深度分类网络的运动目标跟踪方法 | |
CN110276377A (zh) | 一种基于贝叶斯优化的对抗样本生成方法 | |
CN109101897A (zh) | 水下机器人的目标检测方法、系统及相关设备 | |
CN112464911A (zh) | 基于改进YOLOv3-tiny的交通标志检测与识别方法 | |
CN111583263A (zh) | 一种基于联合动态图卷积的点云分割方法 | |
CN113486764B (zh) | 一种基于改进的YOLOv3的坑洼检测方法 | |
CN116206185A (zh) | 一种基于改进YOLOv7的轻量级小目标检测方法 | |
JP2020038660A (ja) | CNN(Convolutional Neural Network)を利用して車線を検出するための学習方法及び学習装置そしてこれを利用したテスト方法及びテスト装置{LEARNING METHOD, LEARNING DEVICE FOR DETECTING LANE USING CNN AND TEST METHOD, TEST DEVICE USING THE SAME} | |
CN114595732B (zh) | 基于深度聚类的雷达辐射源分选方法 | |
CN112556682B (zh) | 一种水下复合传感器目标自动检测算法 | |
CN113610141B (zh) | 自动驾驶多传感器融合感知模型的鲁棒性测试方法及系统 | |
CN111507161B (zh) | 利用合并网络进行异质传感器融合的方法和装置 | |
CN111508252B (zh) | 利用v2x信息集成技术更新高清地图的方法和装置 | |
CN112613504A (zh) | 一种声呐水下目标检测方法 | |
CN113408340A (zh) | 基于增强型特征金字塔的双极化sar小型船只检测方法 | |
CN109345559B (zh) | 基于样本扩充和深度分类网络的运动目标跟踪方法 | |
CN113989612A (zh) | 基于注意力及生成对抗网络的遥感影像目标检测方法 | |
CN115100741B (zh) | 一种点云行人距离风险检测方法、系统、设备和介质 | |
CN116580322A (zh) | 一种地面背景下无人机红外小目标检测方法 | |
CN110033043B (zh) | 基于条件生成式对抗网络的雷达一维距离像拒判方法 | |
CN111368625B (zh) | 一种基于级联优化的行人目标检测方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |