CN113628258B - 一种基于自适应特征点提取的点云粗配准方法 - Google Patents
一种基于自适应特征点提取的点云粗配准方法 Download PDFInfo
- Publication number
- CN113628258B CN113628258B CN202110451221.0A CN202110451221A CN113628258B CN 113628258 B CN113628258 B CN 113628258B CN 202110451221 A CN202110451221 A CN 202110451221A CN 113628258 B CN113628258 B CN 113628258B
- Authority
- CN
- China
- Prior art keywords
- point
- neighborhood
- points
- feature
- feature point
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000605 extraction Methods 0.000 title claims abstract description 16
- 238000000034 method Methods 0.000 title claims abstract description 14
- 238000005070 sampling Methods 0.000 claims abstract description 35
- 230000005484 gravity Effects 0.000 claims abstract description 7
- 230000009466 transformation Effects 0.000 claims description 16
- 239000011159 matrix material Substances 0.000 claims description 15
- 230000003247 decreasing effect Effects 0.000 claims description 3
- 238000000354 decomposition reaction Methods 0.000 claims 1
- 238000005516 engineering process Methods 0.000 description 6
- 238000005452 bending Methods 0.000 description 2
- 230000001419 dependent effect Effects 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
- G06T7/33—Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
- G06T7/337—Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods involving reference images or patches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/30—Determination of transform parameters for the alignment of images, i.e. image registration
- G06T7/35—Determination of transform parameters for the alignment of images, i.e. image registration using statistical methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20004—Adaptive image processing
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Probability & Statistics with Applications (AREA)
- Length Measuring Devices With Unspecified Measuring Means (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了一种基于自适应特征点提取的点云粗配准方法,设置邻域α的球半径r1,求任意点pi以r1为半径的邻域α的加权协方差Ci和表面变化因子σ(pi),计算任意点pi的邻域α内的平均表面变化因子εi,将平均变化因子εi与σ(pi)进行对比,获取采样特征点集Ptemp;设置邻域β的球半径r2,保留每个采样特征点以r2为半径邻域β内的重心,即为最终特征点,根据所获取最终特征点,结合快速点特征直方图描述子,对最终特征点进行综合描述,获取最终特征点的点云的特征信息;利用随机抽样一致性算法,简化特征提取的同时剔除误匹配点对,进行粗配准。本发明可以根据局部表面变化因子大小,自动提取点云的特征点,从而有效地提取点云特征,为点云精配准提供一个良好的初始位置。
Description
技术邻域
本发明属于点云匹配技术邻域,本发明涉及一种点云特征提取的方法,特别涉及一种基于自适应特征点提取的点云粗配准方法。
背景技术
由于激光技术的日趋成熟和应用邻域的不断扩展,各种各样的激光系统在文物修复、军事航天、工业制造、医学影像建模、目标识别等邻域中起着至关重要的作用。近年来,随着三维扫描技术和三维成像技术的快速发展,作为关键技术之一的三维点云配准技术,得到了广泛的研究和应用。点云配准的目的在于找到一个三维刚体变换,使得同一物体在不同视角下的点云变换至相同坐标系下,快速准确地匹配和拼接。
目前,点云配准技术多采用粗匹配和精配准结合的思想,粗配准为精配准提供良好的初始条件,精配准对粗匹配的结果进行优化,二者缺一不可。在精配准中,应用最为广泛的是ICP(Iterative Closest Point,迭代最近点)算法,该算法对初始位置敏感。针对这个问题,主要对粗匹配进行优化。
基于粗匹配的配准算法,主要是通过对点云特征的匹配。对于点云特征的提取,流行的算法有尺度不变特征转换(SIFT)、内在形状签名(ISS)、加速稳健特征(SURF)等。SIFT算法,对不同模型需要根据经验设置不同的参数,过程繁琐;ISS算法,可快速获取点云的特征,但该算法所提取特征点数量少使得最终的匹配效率低;SURF算法,过于依赖局部区域像素的梯度方向,易造成后续匹配失败。特征的匹配取决于对特征点的全面描述,典型的特征描述有旋转图像(Spin Image)、点特征直方图(PFH)、旋转投影统计特征(RoPs)、方向特征直方图(SHOT)。Spin Image描述子对非均匀采样敏感、PFH描述子的鉴别能力很强但是极为耗、RoPs描述子对点分布不均的数据描述性差且计算较为耗时、SHOT描述子对点云的分辨率敏感。上述算法存在过于依赖算法参数设置、无法准确提取点云特征点、不能全面描述特征信息等问题,这都将导致点云配准误差增大,效率降低。
针对上述点云配准算法中存在参数设置复杂、配准精度低和速度慢等问题,找到一种合适的算法尤为重要。
发明内容
本发明的目的是提供一种基于自适应特征点提取的点云粗配准方法,可以根据局部表面变化因子大小,自动提取点云的特征点,从而有效地提取点云特征,为点云精配准提供一个良好的初始位置。
本发明所采用的技术方案是,一种基于自适应特征点提取的点云粗配准方法,具体按照以下步骤实施:
步骤1:设置邻域α的球半径r1,求任意点pi以r1为半径的邻域α的加权协方差Ci和表面变化因子σ(pi);
步骤2:计算任意点pi的邻域α内的平均表面变化因子εi,将平均变化因子εi与σ(pi)进行对比,获取采样特征点集Ptemp;
步骤3:设置邻域β的球半径r2,保留每个采样特征点以r2为半径邻域β内的重心,即为最终特征点,每个采样特征点取自步骤2所得的采样特征点集 Ptemp;
步骤4:根据步骤3所获取最终特征点,结合快速点特征直方图(FPFH) 描述子,对最终特征点进行综合描述,获取最终特征点的点云的特征信息;
步骤5:利用随机抽样一致性(RANSAC)算法,简化特征提取的同时剔除误匹配点对,进行粗配准。
本发明的特点还在于:
步骤1具体按照以下步骤实施:
步骤1.1、源点云P中任意点pi,任意点pi的局部的邻域α点为p1k,p2k,...pik,则点pi邻域α的协方差矩阵为
式(1)中,C是一个半正定矩阵;权重函数/>是一个递减的函数,r为pi邻域的球半径,k是局部邻域α内点的个数,pij是局部邻域α内的点;
步骤1.2、对C进行特征值分解可得特征值λ1,λ2,λ3,设λ1<λ2<λ3,pi邻域α内表面的变化因子σ(pi)的大小反映了局部曲面的弯曲程度或者光滑程度,其值越小表明局部表面越平坦,pi邻域α内表面的变化因子σ(pi)的形式如下:
式(2)中,λ1,λ2和λ3分别代表三维椭球体三个主半轴的长度。如图1、2 所示各种场景中一个点的邻域中的表面变化图1是较为平坦的表面,图2是有起伏的表面。
步骤2具体按照以下步骤实施:
步骤2.1、pi邻域α局部平均变化情况如下:
步骤2.2、判断εi和σ(pi)的大小,当εi>σ(pi)时,保留pi为采样特征点,从而获取点云的采样特征点集Ptemp。
步骤3具体按照以下步骤实施:
步骤3.1、设置采样特征点集Ptemp中点的邻域β的球半径r2,保留每个采样特征点以r2为半径邻域β内的重心;
步骤3.2、获得源点云P的特征点集P',同理获取目标点云Q的特征点集 Q'。
步骤4具体按照以下步骤实施:
步骤4.1、定义特征点集P'中任意特征点pq的局部邻域γ的Darboux坐标系(u,v,w);
式(4)中,pt和ps为特征点pq的邻域γ内点对;
步骤4.2、计算邻域γ内点每一对特征点的关系;
式(5)式中,nt和ns分别为pt和ps的法线,d为pt和ps的欧氏距离;
步骤4.3、对于每个所求的特征点pq,计算特征点pq与它的邻域γ内点之间的一组(α,Φ,θ),得到简化的点特征直方图SPFH,重新确定每个所求特征点的k个邻域点,计算FPFH:
式(6)中,wk为权重,pqi是特征点pq邻域内的邻近点。
步骤5具体按照以下步骤实施:
步骤5.1、选取P'中的n个点,同时确定n个点的空间距离大于设定的阈值 dmin;
步骤5.2、对于每个采样点,在Q'中找到具有相似FPFH特征的一个或者多个相似点,从相似点中随机选取至少三个相似点作为对应点;
步骤5.3、计算对应点之间刚体变换矩阵,然后通过求解对应点变换后的距离误差函数来判断当前配准变换的性能,即
式(7)中,mi是预先设定的值,|li|为第i组对应点变换之后的距离差;
步骤5.4:重复上述的步骤,直至距离误差函数达到阈值ε,其对应的变换矩阵为粗匹配的变换矩阵。
本发明的有益效果是:
1、特征点的提取。特征点的提取中,在协方差函数中引入距离权重函数,消除了邻域内近邻点距离对采样点的影响。同时根据局部邻域表面变化因子与平均变化因子的大小自动进行特征点的提取,在有效提取特征点的同时,减少了参数设置的复杂过程。
2、特征点的描述。用FPFH描述子对特征点进行描述,综合描述了特征点信息的同时简化了描述的复杂过程。
3、特征匹配。利用随机抽样一致性(RANSAC)算法进行粗配准,简化特征提取的同时剔除误匹配点对,是的配准精度更高。
附图说明
图1是本发明的各种场景中一个点的邻域中的平坦的表面变化图;
图2是本发明的各种场景中一个点的邻域中的有起伏的表面变化图。
具体实施方式
下面结合附图和具体实施方式对本发明进行详细说明。
一种基于自适应特征点提取的点云粗配准方法,其特征在于,具体按照以下步骤实施:
步骤1:设置邻域α的球半径r1,求任意点pi以r1为半径的邻域α的加权协方差Ci和表面变化因子σ(pi);
步骤2:计算任意点pi的邻域α内的平均表面变化因子εi,将平均变化因子εi与σ(pi)进行对比,获取采样特征点集Ptemp;
步骤3:设置邻域β的球半径r2,保留每个采样特征点以r2为半径邻域β内的重心,即为最终特征点,每个采样特征点取自步骤2所得的采样特征点集 Ptemp;
步骤4:根据步骤3所获取最终特征点,结合快速点特征直方图(FPFH) 描述子,对最终特征点进行综合描述,获取最终特征点的点云的特征信息;
步骤5:利用随机抽样一致性(RANSAC)算法,简化特征提取的同时剔除误匹配点对,进行粗配准。
步骤1具体按照以下步骤实施:
步骤1.1、源点云P中任意点pi,任意点pi的局部的邻域α点为p1k,p2k,...pik,则点pi邻域α的协方差矩阵为
式(1)中,C是一个半正定矩阵;权重函数/>是一个递减的函数,r为pi邻域的球半径,k是局部邻域α内点的个数,pij是局部邻域α内的点;
步骤1.2、对C进行特征值分解可得特征值λ1,λ2,λ3,设λ1<λ2<λ3,pi邻域α内表面的变化因子σ(pi)的大小反映了局部曲面的弯曲程度或者光滑程度,其值越小表明局部表面越平坦,pi邻域α内表面的变化因子σ(pi)的形式如下:
式(2)中,λ1,λ2和λ3分别代表三维椭球体三个主半轴的长度。如图1、2 所示各种场景中一个点的邻域中的表面变化图1是较为平坦的表面,图2是有起伏的表面。
步骤2具体按照以下步骤实施:
步骤2.1、pi邻域α局部平均变化情况如下:
步骤2.2、判断εi和σ(pi)的大小,当εi>σ(pi)时,保留pi为采样特征点,从而获取点云的采样特征点集Ptemp。
步骤3具体按照以下步骤实施:
步骤3.1、设置采样特征点集Ptemp中点的邻域β的球半径r2,保留每个采样特征点以r2为半径邻域β内的重心;
步骤3.2、获得源点云P的特征点集P',同理获取目标点云Q的特征点集 Q'。
步骤4具体按照以下步骤实施:
步骤4.1、定义特征点集P'中任意特征点pq的局部邻域γ的Darboux坐标系(u,v,w);
式(4)中,pt和ps为特征点pq的邻域γ内点对;
步骤4.2、计算邻域γ内点每一对特征点的关系;
式(5)式中,nt和ns分别为pt和ps的法线,d为pt和ps的欧氏距离;
步骤4.3、对于每个所求的特征点pq,计算特征点pq与它的邻域γ内点之间的一组(α,Φ,θ),得到简化的点特征直方图SPFH,重新确定每个所求特征点的k个领域点,计算FPFH:
式(6)中,wk为权重,pqi是特征点pq邻域内的邻近点。
步骤5具体按照以下步骤实施:
步骤5.1、选取P'中的n个点,同时确定n个点的空间距离大于设定的阈值 dmin;
步骤5.2、对于每个采样点,在Q'中找到具有相似FPFH特征的一个或者多个相似点,从相似点中随机选取至少三个相似点作为对应点;
步骤5.3、计算对应点之间刚体变换矩阵,然后通过求解对应点变换后的距离误差函数来判断当前配准变换的性能,即
式(7)中,mi是预先设定的值,|li|为第i组对应点变换之后的距离差;
步骤5.4:重复上述的步骤,直至距离误差函数达到阈值ε,其对应的变换矩阵为粗匹配的变换矩阵。
Claims (2)
1.一种基于自适应特征点提取的点云粗配准方法,其特征在于,具体按照以下步骤实施:
步骤1:设置邻域α的球半径r1,求任意点pi以r1为半径的邻域α的加权协方差Ci和表面变化因子σ(pi);
所述步骤1具体按照以下步骤实施:
步骤1.1、源点云P中任意点pi,所述任意点pi的局部的邻域α点为p1k,p2k,...pik,则点pi邻域α的协方差矩阵为
式(1)中,C是一个半正定矩阵;权重函数/>是一个递减的函数,r1为pi邻域的球半径,k是局部邻域α内点的个数,pij是局部邻域α内的点;
步骤1.2、对C进行特征值分解可得特征值λ1,λ2,λ3,设λ1<λ2<λ3,所述pi邻域α内表面的变化因子σ(pi)的形式如下:
式(2)中,λ1,λ2和λ3分别代表三维椭球体三个主半轴的长度;
步骤2:计算任意点pi的所述邻域α内的平均变化因子εi,将所述平均变化因子εi与σ(pi)进行对比,获取采样特征点集Ptemp;
所述步骤2具体按照以下步骤实施:
步骤2.1、pi邻域α局部平均变化情况如下:
步骤2.2、判断εi和σ(pi)的大小,当εi>σ(pi)时,保留pi为采样特征点,从而获取点云的采样特征点集Ptemp;
步骤3:设置邻域β的球半径r2,保留每个采样特征点以r2为半径邻域β内的重心,即为最终特征点,每个所述采样特征点取自步骤2所得的采样特征点集Ptemp;
所述步骤3具体按照以下步骤实施:
步骤3.1、设置采样特征点集Ptemp中点的邻域β的球半径r2,保留每个所述采样特征点以r2为半径邻域β内的重心;
步骤3.2、获得源点云P的特征点集P';同理获取目标点云Q的特征点集Q';
步骤4:根据步骤3所获取最终特征点,结合快速点特征直方图描述子,对最终特征点进行综合描述,获取最终特征点的点云的特征信息;
所述步骤4具体按照以下步骤实施:
步骤4.1、定义特征点集P'中任意特征点pq的局部邻域γ的Darboux坐标系(u,v,w);
式(4)中,pt和ps为特征点pq的邻域γ内点对;
步骤4.2、计算邻域γ内点每一对特征点的关系;
式(5)式中,nt和ns分别为pt和ps的法线,d为pt和ps的欧氏距离;
步骤4.3、对于每个所求的特征点pq,计算所述特征点pq与它的邻域γ内点之间的一组(α,Φ,θ),得到简化的点特征直方图SPFH,重新确定每个所求特征点的k个邻域点,计算FPFH:
式(6)中,wk为权重,pqi是特征点pq邻域内的邻近点;
步骤5:利用随机抽样一致性算法,简化特征提取的同时剔除误匹配点对,进行粗配准。
2.根据权利要求1所述的一种基于自适应特征点提取的点云粗配准方法,其特征在于,所述步骤5具体按照以下步骤实施:
步骤5.1、选取P'中的n个点,同时确定n个点的空间距离大于设定的阈值dmin;
步骤5.2、对于每个采样点,在Q'中找到具有相似FPFH特征的一个或者多个相似点,从所述相似点中随机选取至少三个相似点作为对应点;
步骤5.3、计算对应点之间刚体变换矩阵,然后通过求解对应点变换后的距离误差函数来判断当前配准变换的性能,即
式(7)中,mi是预先设定的值,|li|为第i组对应点变换之后的距离差;
步骤5.4:重复上述的步骤,直至距离误差函数达到阈值ε,其对应的变换矩阵为粗匹配的变换矩阵。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110451221.0A CN113628258B (zh) | 2021-04-25 | 2021-04-25 | 一种基于自适应特征点提取的点云粗配准方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110451221.0A CN113628258B (zh) | 2021-04-25 | 2021-04-25 | 一种基于自适应特征点提取的点云粗配准方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113628258A CN113628258A (zh) | 2021-11-09 |
CN113628258B true CN113628258B (zh) | 2024-04-26 |
Family
ID=78377919
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110451221.0A Active CN113628258B (zh) | 2021-04-25 | 2021-04-25 | 一种基于自适应特征点提取的点云粗配准方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113628258B (zh) |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106780459A (zh) * | 2016-12-12 | 2017-05-31 | 华中科技大学 | 一种三维点云数据自动配准方法 |
CN109887015A (zh) * | 2019-03-08 | 2019-06-14 | 哈尔滨工程大学 | 一种基于局部曲面特征直方图的点云自动配准方法 |
CN109919984A (zh) * | 2019-04-15 | 2019-06-21 | 武汉惟景三维科技有限公司 | 一种基于局部特征描述子的点云自动配准方法 |
CN111696120A (zh) * | 2020-06-03 | 2020-09-22 | 武汉中海庭数据技术有限公司 | 一种点云数据分割方法、装置、电子设备及存储介质 |
EP3731181A1 (en) * | 2019-04-24 | 2020-10-28 | Baidu Online Network Technology (Beijing) Co., Ltd. | Method and apparatus for point cloud registration, server and computer readable medium |
-
2021
- 2021-04-25 CN CN202110451221.0A patent/CN113628258B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106780459A (zh) * | 2016-12-12 | 2017-05-31 | 华中科技大学 | 一种三维点云数据自动配准方法 |
CN109887015A (zh) * | 2019-03-08 | 2019-06-14 | 哈尔滨工程大学 | 一种基于局部曲面特征直方图的点云自动配准方法 |
CN109919984A (zh) * | 2019-04-15 | 2019-06-21 | 武汉惟景三维科技有限公司 | 一种基于局部特征描述子的点云自动配准方法 |
EP3731181A1 (en) * | 2019-04-24 | 2020-10-28 | Baidu Online Network Technology (Beijing) Co., Ltd. | Method and apparatus for point cloud registration, server and computer readable medium |
CN111696120A (zh) * | 2020-06-03 | 2020-09-22 | 武汉中海庭数据技术有限公司 | 一种点云数据分割方法、装置、电子设备及存储介质 |
Non-Patent Citations (2)
Title |
---|
Xiaocui Yuan."Anisotropic neighborhood searching for point cloud with sharp feature".《Measurement and Control》.2020,53(9),全文. * |
一种邻域自适应的双阈值点云特征提取方法;周建钊;颜雨吉;陈晨;杜文超;;信息技术与网络安全;20200210(02);全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN113628258A (zh) | 2021-11-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110097093B (zh) | 一种异源图像精确匹配方法 | |
Lei et al. | Fast descriptors and correspondence propagation for robust global point cloud registration | |
CN110807473B (zh) | 目标检测方法、装置及计算机存储介质 | |
CN109215129B (zh) | 一种基于三维点云的局部特征描述方法 | |
US8774508B2 (en) | Local feature amount calculating device, method of calculating local feature amount, corresponding point searching apparatus, and method of searching corresponding point | |
CN108830888B (zh) | 基于改进的多尺度协方差矩阵特征描述子的粗匹配方法 | |
JP5289412B2 (ja) | 局所特徴量算出装置及び方法、並びに対応点探索装置及び方法 | |
KR100848034B1 (ko) | 크기에 불변한 특징점을 이용한 모멘트 기반 지역 서술자생성방법 | |
US20200005078A1 (en) | Content aware forensic detection of image manipulations | |
CN116664892A (zh) | 基于交叉注意与可形变卷积的多时相遥感图像配准方法 | |
CN110969101A (zh) | 一种基于hog和特征描述子的人脸检测与跟踪方法 | |
CN113409332B (zh) | 一种基于三维点云的建筑物平面分割方法 | |
CN112418250B (zh) | 一种复杂3d点云的优化匹配方法 | |
Diwan et al. | Unveiling Copy-Move Forgeries: Enhancing Detection With SuperPoint Keypoint Architecture | |
CN113628258B (zh) | 一种基于自适应特征点提取的点云粗配准方法 | |
CN112767457A (zh) | 一种基于主成分分析的平面点云匹配方法及装置 | |
CN117132630A (zh) | 一种基于二阶空间兼容性度量的点云配准方法 | |
CN113674332B (zh) | 一种基于拓扑结构与多尺度特征的点云配准方法 | |
CN116309026A (zh) | 一种基于统计局部特征描述与匹配的点云配准方法及系统 | |
Tal et al. | An accurate method for line detection and manhattan frame estimation | |
CN111626096B (zh) | 一种三维点云数据兴趣点提取方法 | |
Ren et al. | SAR image matching method based on improved SIFT for navigation system | |
CN111401385A (zh) | 一种图像局部拓扑结构特征描述符的相似度计算方法 | |
CN111027616B (zh) | 一种基于端到端学习的线特征描述系统 | |
Yan et al. | Relaxation labeling for non-rigid point matching under neighbor preserving |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |