CN114882494B - 一种基于多模态注意力驱动的三维点云特征提取方法 - Google Patents
一种基于多模态注意力驱动的三维点云特征提取方法 Download PDFInfo
- Publication number
- CN114882494B CN114882494B CN202210231429.6A CN202210231429A CN114882494B CN 114882494 B CN114882494 B CN 114882494B CN 202210231429 A CN202210231429 A CN 202210231429A CN 114882494 B CN114882494 B CN 114882494B
- Authority
- CN
- China
- Prior art keywords
- point cloud
- feature extraction
- module
- attention
- detected
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2415—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on parametric or probabilistic models, e.g. based on likelihood ratio or false acceptance rate versus a false rejection rate
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/25—Fusion techniques
- G06F18/253—Fusion techniques of extracted features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/047—Probabilistic or stochastic networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Software Systems (AREA)
- Mathematical Physics (AREA)
- Computing Systems (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Evolutionary Biology (AREA)
- Probability & Statistics with Applications (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了一种基于多模态注意力驱动的三维点云特征提取方法,包括:收集待测物体3D空间中对应的2D图像数据和3D点云数据,在3D点云数据中标注待测物体的3D包围盒以及待测物体的类别;构建特征提取网络;将2D图像数据和3D点云数据输入特征提取网络中,进行训练,直至VoteNet损失函数收敛;将收集的待测物体3D空间中对应的2D图像数据和3D点云数据输入到训练好的特征提取网络中,输出待测物体的3D包围盒与待测物体的类别信息。本发明3D点云特征提取方法使用注意力权重矩阵建立2D图像数据与3D点云数据之间的联系,使得不同模态的数据可以作用于提取3D点云特征,进一步提升3D点云特征提取效果。
Description
技术领域
本发明涉及3D点云数据处理技术领域,具体而言,涉及一种基于多模态注意力驱动的三维点云特征提取方法。
背景技术
随着3D扫描设备的迅速发展,3D点云数据在计算机视觉与计算机图形学的各个领域中,得到广泛应用。但在数据获取过程中,由于遮挡、光照等原因,获得的3D点云数据往往存在缺陷,用此类数据进行视觉算法的计算,得到的结果往往存在精度低、效果差的问题。为此,有许多研究工作,开始考虑,将文本、2D图像等多模态信息融入3D视觉算法中,进一步提升基于点云的3D视觉算法的效果。
目前,考虑将2D图像作为一种辅助信息,加强基于点云的3D视觉算法的效果是目前的主流做法。2D图像是一种结构化的、网格化的数据。不同于3D点云离散化的数据形式,2D图像可以采用2D卷积神经网络,很方便地层次化提取特征信息。而3D点云的特征信息特区,目前主要采用PointNet、PointNet++等基于对称函数的方法提取特征。两者之间提取出来的特征难以定义对应关系,无法对两者的特征信息进行有效的融合,用于提升算法的效果。
目前,用于融合2D图像特征与3D点云特征的主流做法有两种。第一种是,将2D图像的深度特征简单地压缩为一条向量,然后将向量复制为与3D点云特征相同大小的矩阵,再直接拼接到点云特征之后,这种方法操作简单,但是无法建立起点云特征与图像特征直接的联系,对于算法的改进效果不明显。第二种是,建立2D图像特征与3D点云特征之间的关系,再依据这种关系,实现特征的融合,这种方法的缺点在于,2D图像特征与3D点云特征之间的关系是难以确定的,通常需要大量精巧的操作,因此也限制了这种方式的推广应用。针对2D图像特征与3D点云特征的融合,并且难以进一步提升基于点云的3D视觉算法效果的问题,目前尚未提出简单有效的解决方案。
发明内容
针对现有技术中存在的问题,本发明提供了一种基于多模态注意力驱动的三维点云特征提取方法。
为实现上述技术目的,本发明采用如下技术方案:一种基于多模态注意力驱动的三维点云特征提取方法,包括如下步骤:
(1)收集待测物体3D空间中对应的2D图像数据和3D点云数据,在3D点云数据中标注待测物体的3D包围盒以及待测物体的类别;
(2)构建特征提取网络,所述特征提取网络包括:2D图像特征提取模块、特征转换模块、注意力模块、3D点云特征提取模块和3D物体检测任务模块,所述2D图像特征提取模块的输出端与特征转换模块的输入端连接,所述特征转换模块的输出端、3D点云特征提取模块的输出端均与注意力模块的输入端连接,所述注意力模块的输出端、3D点云特征提取模块的输出端均与3D物体检测任务模块的输入端连接;所述3D点云特征提取模块用于提取3D点云的深度特征,所述2D图像特征提取模块用于提取2D图像的深度特征,所述特征转换模块用于将2D图像的深度特征的形状变换为与3D点云特征形状相同的大小,所述注意力模块用于生成注意力权重矩阵,所述3D物体检测任务模块用于输出待测物体的3D包围盒与待测物体的类别信息;
(3)将步骤(1)收集的2D图像数据输入2D图像特征提取模块中,将3D点云数据输入3D点云特征提取模块中,对特征提取网络进行训练,直至VoteNet损失函数收敛,完成对特征提取网络的训练;
(4)将收集的待测物体3D空间中对应的2D图像数据和3D点云数据输入到训练好的特征提取网络中,输出待测物体的3D包围盒与待测物体的类别信息。
进一步地,所述3D点云特征提取模块由四个点集抽象层SA串联组成,将3D点云数据输入到第一个点集抽象层SA中,四个点集抽象层SA提取分辨率递减的点云特征。
进一步地,所述2D图像特征提取模块由一个2D卷积层和四个2D卷积残差模块依次连接构成,将2D图像数据输入2D卷积层中,输出2D深度图像特征,将2D深度图像特征输入到第一个2D卷积残差模块后,四个2D卷积残差模块依次输出分辨率递减的深度图像特征。
进一步地,所述特征转换模块由四个特征转换单元组成,每个特征转换单元分别连接一个2D卷积残差模块,将分辨率递减的深度图像特征输入对应的特征转换单元,经形状变化函数,输出与3维点云特征形状相同的大小的图像特征;所述特征转换单元由两层卷积层和一层全连接层串联组成。
进一步地,所述注意力模块用于生成注意力权重矩阵的过程具体为:所述注意力模块由四个注意力单元组成,每个注意力单元均使用两层的多层感知机MLP处理深度图像特征Q,得到更新图像特征,使用两层的多层感知机MLP处理点云特征V,得到更新点云特征,将所述更新图像特征与更新点云特征进行点乘,经softmax矩阵处理后,再除以调节项d,得到注意力权重矩阵F:
F=softmax(MLP(Q)·MLP(V))/d
其中,MLP()表示两层的多层感知机MLP的处理过程。
进一步地,将每个注意力单元的注意力权重矩阵F与对应点集抽象层SA输出的点云特征进行点对点乘法操作,得到加强点云特征,将加强点云特征输入3D物体检测任务模块中,输出待测物体的3D包围盒与待测物体的类别信息。
进一步地,所述VoteNet损失函数LVoteNet为:
LVoteNet=LVote-reg+λ1Lobj-cls+λ2Lbox+λ3Lsem-cls
其中,LVote-reg为投票损失函数,Mpos为待测物体前景点云数据总和,Δxi为投票偏移量,/>为投票偏移量真值,Γ[si onobject]表示只对点云物体表面的点进行投票运算,λ1表示物体分类损失权值,Lobj-cls为物体分类损失函数,λ2表示3D包围盒的回归损失权值,Lbox为3D包围盒的回归损失函数,λ3表示语义类别损失权值,Lsem-cls为语义类别损失函数。
与现有技术相比,本发明具有如下有益效果:本发明基于多模态注意力驱动的三维点云特征提取方法中通过注意力模块以生成权重矩阵的方式将2D图像的深度特征融合进3D点云特征提取过程中,解决了多模态数据相互融合难,挖掘对应关系难的问题。本发明基于多模态注意力驱动的3D点云特征提取方法可以更好地提升3D点云数据的深度特征学习,进一步改进3D点云特征提取的效果。
附图说明
图1为本发明基于多模态注意力驱动的三维点云特征提取方法的流程图;
图2为本发明中特征提取网络的网络框架图。
具体实施方式
下面结合附图对本发明的技术方案作进一步地解释说明。
如图1为本发明基于多模态注意力驱动的三维点云特征提取方法的流程图,该三维点云特征提取方法包括如下步骤:
(1)收集待测物体3D空间中对应的2D图像数据和3D点云数据,在3D点云数据中标注待测物体的3D包围盒以及待测物体的类别;
(2)构建特征提取网络,本发明中特征提取网络包括:2D图像特征提取模块、特征转换模块、注意力模块、3D点云特征提取模块和3D物体检测任务模块,2D图像特征提取模块的输出端与特征转换模块的输入端连接,特征转换模块的输出端、3D点云特征提取模块的输出端均与注意力模块的输入端连接,注意力模块的输出端、3D点云特征提取模块的输出端均与3D物体检测任务模块的输入端连接;3D点云特征提取模块用于提取3D点云的深度特征,2D图像特征提取模块用于提取2D图像的深度特征,特征转换模块用于将2D图像的深度特征的形状变换为与3D点云特征形状相同的大小,使得2D图像特征的形状与3D点云特征形状相匹配。注意力模块用于生成注意力权重矩阵,解决了多模态数据相互融合难,挖掘对应关系难的问题;3D物体检测任务模块用于输出待测物体的3D包围盒与待测物体的类别信息;
(3)将步骤(1)收集的2D图像数据输入2D图像特征提取模块中,将3D点云数据输入3D点云特征提取模块中,对特征提取网络进行训练,直至VoteNet损失函数收敛,完成对特征提取网络的训练;
本发明中VoteNet损失函数LVoteNet为:
LVoteNet=LVote-reg+λ1Lobj-c+λ2Lbox+λ3Lsem-c
其中,LVote-reg为投票损失函数,Mpos为待测物体前景点云数据总和,Δxi为投票偏移量,/>为投票偏移量真值,Γ[si onobject]表示只对点云物体表面的点进行投票运算,λ1表示物体分类损失权值,Lobj-c为物体分类损失函数,λ2表示3D包围盒的回归损失权值,Lbox为3D包围盒的回归损失函数,λ3表示语义类别损失权值,Lsem-cls为语义类别损失函数。VoteNet损失函数分别监督了3D点云的偏移量、物体类别、3D包围盒大小、语义类别,提高了3D物体检测任务的实例物体特征提取。
(4)将收集的待测物体3D空间中对应的2D图像数据和3D点云数据输入到训练好的特征提取网络中,输出待测物体的3D包围盒与待测物体的类别信息,输出的待测物体的类别信息界定了待测物体所属的具体类别,输出的3D包围盒界定了待测物体的三维大小。通过本发明三维点云特征提取方法实现了3D点云数据中待测物体的提取,能够满足实际工业生产需求。
如图2,本发明中3D点云特征提取模块由四个点集抽象层SA(Set Abstraction)串联组成,将3D点云数据输入到第一个点集抽象层SA中,四个点集抽象层SA提取分辨率递减的点云特征,扩大了3D点云特征提取模块的感受野,使得3D点云特征提取模块能够从不同的层次中捕捉特征信息,并且深层次的特征提取可以减少网络的计算量。
如图2,本发明中2D图像特征提取模块由一个2D卷积层和四个2D卷积残差模块依次连接构成ResNet-18网络提取图像特征,将2D图像数据输入2D卷积层中,输出2D深度图像特征,将2D深度图像特征输入到第一个2D卷积残差模块后,四个2D卷积残差模块依次输出分辨率递减的深度图像特征,扩大2D图像特征提取模块的感受野,使得2D图像特征提取模块能够从不同的层次中捕捉特征信息,并且深层次的特征提取可以减少网络的计算量。
如图2,本发明中特征转换模块由四个特征转换单元组成,每个特征转换单元分别连接一个2D卷积残差模块,将分辨率递减的深度图像特征输入对应的特征转换单元,经形状变化函数,输出与3维点云特征形状相同的大小的图像特征,相同形状的图像特征与点云特征,方便后续注意力模块的计算。本发明中特征转换单元由两层卷积层和一层全连接层串联组成。
本发明中注意力模块用于生成注意力权重矩阵的过程具体为:注意力模块由四个注意力单元组成,每个注意力单元均使用两层的多层感知机MLP处理深度图像特征Q,得到更新图像特征,使用两层的多层感知机MLP处理点云特征V,得到更新点云特征,将所述更新图像特征与更新点云特征进行点乘,经softmax矩阵处理后,再除以调节项d,调节项d可以防止经过注意力之后的矩阵数值过大,从而得到注意力权重矩阵F:
F=softmax(MLP(Q))·MLP(V)/d
其中,MLP()表示两层的多层感知机MLP的处理过程。
通过上述于生成注意力权重矩阵的过程,可以轻量、快速地得到注意力权值矩阵。
将每个注意力单元的注意力权重矩阵F与对应点集抽象层SA输出的点云特征进行点对点乘法操作,得到加强点云特征,将加强点云特征输入3D物体检测任务模块中,输出待测物体的3D包围盒与待测物体的类别信息。
在本发明的一个技术方案中,可以将3D物体检测任务模块替换成其他任务模块,如:物体分割任务模块、物体分类模块等,并配合对应的损失函数,则该特征提取网络可以应用于其他任务的3D点云特征提取过程。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本发明的其它实施方案。本申请旨在涵盖本发明的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本发明的一般性原理并包括本发明未发明的本技术领域中的公知常识或惯用技术手段。说明书和实施方式仅被视为示例性的,本发明的真正范围和精神由下面的权利要求指出。应当理解的是,本发明并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本发明的范围仅由所附的权利要求来限制。
Claims (2)
1.一种基于多模态注意力驱动的三维点云特征提取方法,其特征在于,包括如下步骤:
(1)收集待测物体3D空间中对应的2D图像数据和3D点云数据,在3D点云数据中标注待测物体的3D包围盒以及待测物体的类别;
(2)构建特征提取网络,所述特征提取网络包括:2D图像特征提取模块、特征转换模块、注意力模块、3D点云特征提取模块和3D物体检测任务模块,所述2D图像特征提取模块的输出端与特征转换模块的输入端连接,所述特征转换模块的输出端、3D点云特征提取模块的输出端均与注意力模块的输入端连接,所述注意力模块的输出端、3D点云特征提取模块的输出端均与3D物体检测任务模块的输入端连接;所述3D点云特征提取模块用于提取3D点云的深度特征,所述2D图像特征提取模块用于提取2D图像的深度特征,所述特征转换模块用于将2D图像的深度特征的形状变换为与3D点云特征形状相同的大小,所述注意力模块用于生成注意力权重矩阵,所述3D物体检测任务模块用于输出待测物体的3D包围盒与待测物体的类别信息;
(3)将步骤(1)收集的2D图像数据输入2D图像特征提取模块中,将3D点云数据输入3D点云特征提取模块中,对特征提取网络进行训练,直至VoteNet损失函数收敛,完成对特征提取网络的训练;
(4)将收集的待测物体3D空间中对应的2D图像数据和3D点云数据输入到训练好的特征提取网络中,输出待测物体的3D包围盒与待测物体的类别信息;
所述3D点云特征提取模块由四个点集抽象层SA串联组成,将3D点云数据输入到第一个点集抽象层SA中,四个点集抽象层SA提取分辨率递减的点云特征;
所述2D图像特征提取模块由一个2D卷积层和四个2D卷积残差模块依次连接构成,将2D图像数据输入2D卷积层中,输出2D深度图像特征,将2D深度图像特征输入到第一个2D卷积残差模块后,四个2D卷积残差模块依次输出分辨率递减的深度图像特征;
所述特征转换模块由四个特征转换单元组成,每个特征转换单元分别连接一个2D卷积残差模块,将分辨率递减的深度图像特征输入对应的特征转换单元,经形状变化函数,输出与3维点云特征形状相同的大小的图像特征;所述特征转换单元由两层卷积层和一层全连接层串联组成;
所述注意力模块用于生成注意力权重矩阵的过程具体为:所述注意力模块由四个注意力单元组成,每个注意力单元均使用两层的多层感知机MLP处理深度图像特征Q,得到更新图像特征,使用两层的多层感知机MLP处理点云特征V,得到更新点云特征,将所述更新图像特征与更新点云特征进行点乘,经softmax矩阵处理后,再除以调节项d,得到注意力权重矩阵F:
F=softmax(MLP(Q)·MLP(V))/d
其中,MLP()表示两层的多层感知机MLP的处理过程;
将每个注意力单元的注意力权重矩阵F与对应点集抽象层SA输出的点云特征进行点对点乘法操作,得到加强点云特征,将加强点云特征输入3D物体检测任务模块中,输出待测物体的3D包围盒与待测物体的类别信息。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210231429.6A CN114882494B (zh) | 2022-03-09 | 2022-03-09 | 一种基于多模态注意力驱动的三维点云特征提取方法 |
JP2022150747A JP2023133087A (ja) | 2022-03-09 | 2022-09-21 | マルチモーダルアテンション駆動に基づく三次元点群特徴抽出方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210231429.6A CN114882494B (zh) | 2022-03-09 | 2022-03-09 | 一种基于多模态注意力驱动的三维点云特征提取方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114882494A CN114882494A (zh) | 2022-08-09 |
CN114882494B true CN114882494B (zh) | 2023-05-23 |
Family
ID=82667302
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210231429.6A Active CN114882494B (zh) | 2022-03-09 | 2022-03-09 | 一种基于多模态注意力驱动的三维点云特征提取方法 |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP2023133087A (zh) |
CN (1) | CN114882494B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115731372B (zh) * | 2023-01-10 | 2023-04-14 | 南京航空航天大学 | 一种大型复合材料构件三维测量点云质量优化方法 |
CN117557911A (zh) * | 2023-12-15 | 2024-02-13 | 哈尔滨工业大学(威海) | 一种基于多传感器图像结果融合的目标感知方法及系统 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111950467B (zh) * | 2020-08-14 | 2021-06-25 | 清华大学 | 基于注意力机制的融合网络车道线检测方法及终端设备 |
CN113052109A (zh) * | 2021-04-01 | 2021-06-29 | 西安建筑科技大学 | 一种3d目标检测系统及其3d目标检测方法 |
-
2022
- 2022-03-09 CN CN202210231429.6A patent/CN114882494B/zh active Active
- 2022-09-21 JP JP2022150747A patent/JP2023133087A/ja active Pending
Also Published As
Publication number | Publication date |
---|---|
JP2023133087A (ja) | 2023-09-22 |
CN114882494A (zh) | 2022-08-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110287849B (zh) | 一种适用于树莓派的轻量化深度网络图像目标检测方法 | |
CN114882494B (zh) | 一种基于多模态注意力驱动的三维点云特征提取方法 | |
CN111462120B (zh) | 一种基于语义分割模型缺陷检测方法、装置、介质及设备 | |
CN107274402A (zh) | 一种基于胸部ct影像的肺结节自动检测方法及系统 | |
Wang et al. | Multifocus image fusion using convolutional neural networks in the discrete wavelet transform domain | |
CN111832655A (zh) | 一种基于特征金字塔网络的多尺度三维目标检测方法 | |
CN112529015A (zh) | 一种基于几何解缠的三维点云处理方法、装置及设备 | |
CN113205466A (zh) | 一种基于隐空间拓扑结构约束的残缺点云补全方法 | |
CN110490915B (zh) | 一种基于卷积受限玻尔兹曼机的点云配准方法 | |
CN113095152B (zh) | 一种基于回归的车道线检测方法及系统 | |
CN115861619A (zh) | 一种递归残差双注意力核点卷积网络的机载LiDAR城市点云语义分割方法与系统 | |
CN113435520A (zh) | 神经网络的训练方法、装置、设备及计算机可读存储介质 | |
CN117274756A (zh) | 基于多维特征配准的二维图像与点云的融合方法及装置 | |
CN112785526A (zh) | 一种用于图形处理的三维点云修复方法 | |
CN114332473A (zh) | 目标检测方法、装置、计算机设备、存储介质及程序产品 | |
CN114494248B (zh) | 基于点云和不同视角下的图像的三维目标检测系统及方法 | |
WO2019049060A1 (en) | SEGMENTATION OF FOAM IN FLOTATION CELLS | |
Song et al. | Pointwise CNN for 3d object classification on point cloud | |
Lin et al. | Integrated circuit board object detection and image augmentation fusion model based on YOLO | |
CN113536959A (zh) | 一种基于立体视觉的动态障碍物检测方法 | |
CN116310349B (zh) | 基于深度学习的大规模点云分割方法、装置、设备及介质 | |
CN117011274A (zh) | 自动化玻璃瓶检测系统及其方法 | |
CN115018910A (zh) | 点云数据中目标的检测方法、装置和计算机可读存储介质 | |
CN112116561B (zh) | 基于图像处理融合网络权值的电网传输线检测方法及装置 | |
Zhang et al. | CAD‐Aided 3D Reconstruction of Intelligent Manufacturing Image Based on Time Series |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |