CN113936070B - 基于最优传输理论的二维点云形状分区域并行重建方法 - Google Patents
基于最优传输理论的二维点云形状分区域并行重建方法 Download PDFInfo
- Publication number
- CN113936070B CN113936070B CN202111199347.XA CN202111199347A CN113936070B CN 113936070 B CN113936070 B CN 113936070B CN 202111199347 A CN202111199347 A CN 202111199347A CN 113936070 B CN113936070 B CN 113936070B
- Authority
- CN
- China
- Prior art keywords
- point
- reconstruction
- point cloud
- edges
- edge
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000005540 biological transmission Effects 0.000 title claims abstract description 62
- 238000000034 method Methods 0.000 title claims abstract description 34
- 238000004364 calculation method Methods 0.000 claims description 6
- 238000013316 zoning Methods 0.000 claims 3
- 238000010586 diagram Methods 0.000 description 3
- 238000001514 detection method Methods 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 239000003086 colorant Substances 0.000 description 1
- 230000008602 contraction Effects 0.000 description 1
- 238000003709 image segmentation Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000002787 reinforcement Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Processing Or Creating Images (AREA)
- Image Generation (AREA)
Abstract
基于最优传输理论的二维点云形状分区域并行重建方法,涉及点云形状重建领域。1)输入二维点云数据,构建Delaunay三角网格,计算初始传输计划;2)根据传输代价从当前点云中计算得到合适的点,将其加入到Delaunay三角网格中;3)重复步骤2),直到顶点个数满足设置的条件,然后删除Delaunay三角网格的部分边,得到图结构;4)选择图结构中的一条合适的半边,将其进行收缩;5)重复步骤4),直到图结构的顶点数量满足设置的值。上述二维点云形状重建方法可以在CPU上并行实现,提高处理效率,重建结果精度高,重建速度快。
Description
技术领域
本发明涉及点云形状重建领域,尤其是涉及在CPU上并行实现多区域重建的一种基于最优传输理论的二维点云形状分区域并行重建方法。
背景技术
最优传输理论(Optimal Transport Theory)([1]S.Kolouri,S.R.Park,M.Thorpe,D.Slepcev,G.K.Rohde.Optimal Mass Transport:Signal processing andmachine learning applications[J].IEEE Signal Processing Magazine.2017.34(4):43–59)是基础数学领域的一个分支,其本质是研究概率分布,与机器学习有一定的共同点,并广泛应用于生成模型、概率性自编码器、变分推断、强化学习和聚类等。进入21世纪以来,最优传输理论与其他学科的联系越来越紧密,其中便包含计算机图形学。
De Goes等人([2]F.De Goes,D.Cohen Steiner,P.Alliez,M.Desbrun.Anoptimal transport approach to robust reconstruction and simplification of 2dshapes[C].Computer Graphics Forum,vol.30.Wiley Online Library,2011,1593–1602)与2011年提出一种基于最优传输理论的二维点云形状云重建的标准框架。首先根据点云建立一个初始的Delaunay三角网格,然后根据最优传输理论每一步都计算得到一条半边并将其进行收缩,不断重复此步骤最终得到重建结果。
并行处理(Parallel Processing)是一种在计算机系统中可以同时进行多个处理的计算方法,可以同时处理同一个程序的不同方面,其主要目的就是在处理大型复杂问题的时间。
区域生长算法大多应用在图像分割的场景中,其核心思想是以某种人为确定的准则,把具有相同特征的像素合并在一起从而形成一片区域,不同特征的像素集合则构成多个区域。该算法的大致流程是首先对每个待分割的区域中找出一个种子像素点来作为该区域的像素点,根据先前确定的准则,将该种子像素点周围邻近的像素点进行判断合并,然后再将新合并的像素点作为种子点重复上述操作。此过程如同种子一样发芽生长,故也称为种子区域生长算法(region seeds growing)。
点云一般通过扫描仪器对物体进行扫描来得到,但通过此方式得到的点云数据有时会掺杂着噪点和离群。另外,一些扫描的对象,特别是建筑物,会存在大量的特征,例如棱角、相交、分叉以及边界。如何正确地处理这些特征和噪点,是一个比较难的问题。
发明内容
本发明的目的在于针对现有技术存在的上述问题,提供能有效重建出含噪以及多特征点云形状的一种基于最优传输理论的二维点云形状分区域并行重建方法。
本发明包括以下步骤:
1)输入二维点云数据,构建Delaunay三角网格,计算初始传输计划;
2)根据传输代价从当前点云中计算得到合适的点,将其加入到Delaunay三角网格中;
3)重复步骤2),直到顶点个数满足设置的条件,然后删除Delaunay三角网格的部分边,得到图结构;
4)选择图结构中的一条合适的半边,将其进行收缩;
5)重复步骤4),直到图结构的顶点数量满足设置的值;
6)对于一些数据量较大或由多个独立部分组成的点云,通过检测出若干区域,在这些区域上并行地运行步骤1)~5)进行重建。
即完成基于最优传输理论的二维点云形状分区域并行重建。
在步骤1)中,所述二维点云数据,支持.txt格式的文件,文件中每一行含两个数,分别为一个点的横坐标和纵坐标,中间用空格隔开。
在步骤2)中,所述根据传输代价从当前点云中计算得到合适的点,将其加入到Delaunay三角网格中,是根据输入点云数据以及初始Delaunay三角网格,不断地从点云剩余的点中选取合适的点添加到Delaunay三角网格中,具体步骤可为:首先,选取网格中传输成本最大的一条边;其次,从此边分配到的点集中选取一个对传输成本贡献最大的点p;最后,将点p作为要添加到Delaunay三角网格中的顶点。
在步骤3)中,不断重复步骤2),然后将得到的Delaunay三角网格的部分边删除,从而得到一个图结构,其中被删除的边称为无效边,保留下来的边称为有效边。此过程基于Delaunay三角网格中各边的长度来进行,首先,对于Delaunay三角网格中的每一条边,从当前的传输计划中搜索是否存在点传输到此边上,如果此边没有被分配到任何点,那么计算此边的长度。当找到所有的这种边后,计算这些边的平均长度,记为avglen。再对Delaunay三角网格的边进行遍历,将所有长度大于α·avglen的边看作为无效边进行删除。一般将参数α设置为0.3。
在步骤4)中,对于经过步骤3)得到的图结构。经过计算选择出一条半边,使得此半边进行收缩后整个图结构的传输代价最小。收缩这条半边,即将半边的起点移至终点使得这两个顶点重合。
在步骤5)中,不断重复步骤4),直到图结构的顶点数量满足设置的值,最终得到重建结果。
在步骤6)中,对于一些数据量较大的点云或者由多个独立的部分组成的点云,可以对其进行区域划分或者运行区域生长方法检测出多个区域。然后在多个区域上并行地运行步骤1)至5)进行重建。若这多个区域内的点云在原始点云中是互不连接或相交的,那么在各区域得到的重建结果的并集便是最终的整体的重建结果,否则可以进行一次整体重建,将各个区域的重建结果顶点作为一个Delaunay网格的顶点,然后对其运行步骤3)到5),得到最终的重建结果。
与现有技术相比,本发明具有以下突出的优点:
1、用图结构来代替Delaunay三角网格。发现在对Delaunay三角网格进行简化前,由于要对网格中所有的半边进行其收缩前后的花费差的计算,而且在简化过程中,也要不断地进行这种计算以及不断地更新优先队列,所以边的数量的大小直接影响算法速度的快慢。所以引入图结构的目的就是尽可能的在简化操作前将原有的Delaunay三角网格中的一些无效边删除,从而达到加速整个简化过程的目的。
2、选择性地选取点加入到Delaunay三角网格中。原算法中初始Delaunay三角网格的顶点是由点云中全部的点或者一定比例的点构成,而在本发明方法中,初始Delaunay三角网格的顶点仅由6个顶点组成。随后提出一种选择合适的点作为Delaunay三角网格剩余顶点的方法,此方法是基于最优传输理论来进行的,能够得到一个更好的Delaunay三角网格,能够减少后续简化过程的时间消耗。
3、提出一种分区域并行处理的方法以针对大型点云数据或者多连通点云数据。此方法主要通过将原来尺寸较大的点云分解成多个部分,然后将算法应用到尺寸较小的点云上并且通过并行处理以提高速度,最后再将各部分拼接起来或者直接取各部分重建结果的并集作为最终结果。
本发明提供一种二维点云形状重建方法,其基于最优传输理论,能够有效的重建出含噪以及多特征点云的形状。
附图说明
图1为常规重建算法输入二维点云。
图2为常规重建算法添加顶点完毕后的Delaunay三角网格。
图3为常规重建算法将Delaunay三角网格中无效边删除后得到的图结构。
图4为常规重建算法最终重建结果。
图5为本发明分区域并行重建算法输入二维点云,此点云由多个独立的部分组成。
图6为本发明分区域并行重建算法点云的区域检测结果,不同颜色的点云代表不同的区域。
图7为本发明分区域并行重建算法最终重建结果。
具体实施方式
为使本发明的目的、技术方案及优点更加清楚明白,以下实施例将结合附图对本发明作进一步的说明。
本发明实施例包括以下步骤:
1)输入二维点云数据,构建Delaunay三角网格,计算初始传输计划;所述二维点云数据,支持.txt格式的文件,文件中每一行含两个数,分别为一个点的横坐标和纵坐标,中间用空格隔开。
2)根据传输代价从当前点云中计算得到合适的点,将其加入到Delaunay三角网格中;根据输入点云数据以及初始Delaunay三角网格,从点云中计算出合适的点添加到Delaunay三角网格中。提出一种计算Delaunay三角网格顶点的方法,此方法的核心思想是根据最优传输代价不断地从点云剩余的点中选取合适的点作为顶点添加到Delaunay三角网格中。首先,选取网格中传输成本最大的一条边。其次,从此边分配到的点集中选取一个对传输成本贡献最大的点p。最后,将点p作为要添加到Delaunay三角网格中的顶点。
3)重复步骤2),直到顶点个数满足设置的条件,然后删除Delaunay三角网格的部分边,得到图结构;不断重复步骤2),然后将得到的Delaunay三角网格的部分边删除,从而得到一个图结构,其中被删除的边称为无效边,保留下来的边称为有效边。此过程基于Delaunay三角网格中各边的长度来进行,首先,对于Delaunay三角网格中的每一条边,从当前的传输计划中搜索是否存在点传输到此边上,如果此边没有被分配到任何点,那么计算此边的长度。当找到所有的这种边后,计算这些边的平均长度,记为avglen。再对Delaunay三角网格的边进行遍历,将所有长度大于α·avglen的边看作为无效边进行删除。一般将参数α设置为0.3。
4)选择图结构中的一条合适的半边,将其进行收缩;对于经过步骤3)得到的图结构。经过计算选择出一条半边,使得此半边进行收缩后整个图结构的传输代价最小。收缩这条半边,即将半边的起点移至终点使得这两个顶点重合。
5)重复步骤4),直到图结构的顶点数量满足设置的值,即完成基于最优传输理论的二维点云形状分区域并行重建。不断重复步骤4),直到图结构的顶点数量满足设置的值,最终得到重建结果。
6)对于一些数据量较大或者由多个独立部分组成的点云,通过检测出若干区域,可以在这些区域上并行地运行步骤1)至5)进行重建。对于一些数据量较大的点云或者由多个独立的部分组成的点云,可以对其进行区域划分或者运行区域生长方法检测出多个区域。然后在多个区域上并行地运行步骤1)至5)进行重建。若这多个区域内的点云在原始点云中是互不连接或相交的,那么在各区域得到的重建结果的并集便是最终的整体的重建结果,否则可以进行一次整体重建,将各个区域的重建结果顶点作为一个Delaunay网格的顶点,然后对其运行步骤3)到5),得到最终的重建结果。
本发明中需要计算点云与三角网格或图结构之间的传输代价,为便于下文叙述,这里作出如下符号定义:对于网格T(或图结构G)中的任意一条边e和任意一个顶点v。将传输到边e上的点的集合记作Se,将传输到顶点v上的点的集合集记作Sv。
对三角网格T(或图结构G)中的某一条边e,其被分配到的点集Se中的点传输到这条边上的传输代价为:
Coste=NCoste 2+TCoste 2,
这里将传输成本分解为两个互相垂直的方向上的传输代价来计算,其中NCoste为传输到边e上的点在垂直于边e方向上的传输代价,TCoste为传输到边e上的点在平行于边e方向上的传输代价。
点pi在垂直于边e方向上的传输代价为:
其中,qi是点pi在边e上的正交投影点,||pi-qi||2为点pi到点qi距离的平方。
对于传输到边e上的点集Se在垂直于边e方向上的传输代价为:
这个定义比较简单,就是简单地计算出传输到边e上的每个点到边e的欧式距离的平方,然后累加起来再开根号得到。
平行于边e方向上的传输代价的计算相对来说比较复杂,首先,假设点集Se={pi}被传输到边e上,Se的大小记作|Se|。这里将边e按照长度平均分成|Se|段,即每一段的长度为li=|e|/|Se|,其中|e|为边e的长度。把点集Se沿着边e按照从一个端点到另一个端点的位置顺序进行排序,并且将相应的垂直于边e的投影点记作点集{qi}。这里,对点集Se中的第i个点pi进行分析,其对应的在边e上的正交投影点为qi。建立一个一维的坐标系(也就相当于数轴),其原点为边e上第i段区域的中点,记作ci。这时,点pi在平行于边e方向上的传输代伤波看作是边e的第i段区域内所有的点到点qi的距离的平方的积分,也就是:
把每一个点pi在平行于边e方向上的传输代价累加起来,便得到整个被传输到边e上的点集Se在平行于边e方向上的传输代价:
下面来介绍一下点到顶点的传输代价的定义。对网格T(或图结构G)中的某一顶点v,其被分配到的点集Sv传输到这个顶点的传输代价的定义如下:
其中,||pi-v||2为点pi到顶点v距离的平方。
假设给定某种传输计划ω,则在此传输计划下整个网格T(或图结构G)的传输成本为:
在有计算传输代价的方法后,下面给出制定最优传输计划的方法:假设现有一个三角网格T(或图结构G)和一组点集S={pi}。首先,对于点集S中的某个点pi,在三角网格T(或图结构G)中找到一条距离点pi最近的一条边,并将点pi先传输到这条边上。对点集S中所有的点都做如上的操作后,这样三角网格T(或图结构G)的每条边e都分配到一组点集Se。显然,对于不同的边e,Se可能为空,也可能不为空。然后,对每条边e及其分配到的点集Se(Se不为空),分别计算以下两种分配方式所对应的传输成本:a)保持Se中的每个点仍然传输到边e上;b)对Se中的每个点p,将其传输到距其最近的边e的一个端点上。分别计算在a)方式下和b)方式下边e相应的传输成本,然后选择a)和b)中对应传输成本最小的一种传输计划作为点集Se到边e的最终传输计划。对网格T中的每条边e执行以上操作后,便得到关于整个三角网格T(或图结构G)的最优传输计划。
以下结合附图,本发明实施例包括以下步骤:
①常规重建算法
图1为输入二维点云,经过步骤1)和步骤2)后得到图2中的Delaunay三角网格。进行步骤3)中的删除无效边操作后得到图3中的图结构,然后对此图结构进行步骤4)及步骤5),得到最终重建结果,如图4所示。
②分区域并行重建算法
图5为输入二维点云,经过区域生长算法进行区域检测后得到图6中各个相互独立的点云区域。然后对各区域内的点云进行并行地重建,即在各区域内的点云上并行地执行步骤1)至5),最后将各区域重建结果的并集作为整体的最终重建结果,如图7所示。
上述二维点云形状重建方法可以在CPU上并行实现,提高处理效率,重建结果精度高,重建速度快。
Claims (4)
1.基于最优传输理论的二维点云形状分区域并行重建方法,其特征在于包括以下步骤:
1)输入二维点云数据,构建Delaunay三角网格,计算初始传输计划;
2)根据传输代价从当前点云中计算得到合适的点,将其加入到Delaunay三角网格中,是根据输入点云数据以及初始Delaunay三角网格,不断地从点云剩余的点中选取合适的点添加到Delaunay三角网格中,具体步骤为:首先,选取网格中传输成本最大的一条边;其次,从此边分配到的点集中选取一个对传输成本贡献最大的点p;最后,将点p作为要添加到Delaunay三角网格中的顶点;
3)重复步骤2),直到顶点个数满足设置的条件,然后删除Delaunay三角网格的部分边,得到图结构,具体方法为:不断重复步骤2),然后将得到的Delaunay三角网格的部分边删除,从而得到一个图结构,其中被删除的边称为无效边,保留下来的边称为有效边;此过程基于Delaunay三角网格中各边的长度来进行,首先,对于Delaunay三角网格中的每一条边,从当前的传输计划中搜索是否存在点传输到此边上,如果此边没有被分配到任何点,那么计算此边的长度;当找到所有的这种边后,计算这些边的平均长度,记为avglen;再对Delaunay三角网格的边进行遍历,将所有长度大于α · avglen的边看作为无效边进行删除;
4)选择图结构中的一条合适的半边,将其进行收缩,具体方法为:对于经过步骤3)得到的图结构,经过计算选择出一条半边,使得此半边进行收缩后整个图结构的传输代价最小,收缩这条半边,即将半边的起点移至终点使得这两个顶点重合;
5)重复步骤4),直到图结构的顶点数量满足设置的值;
6)对于一些数据量较大或由多个独立部分组成的点云,通过检测出若干区域,在这些区域上并行地运行步骤1)~5)进行重建。
2.如权利要求1所述基于最优传输理论的二维点云形状分区域并行重建方法,其特征在于在步骤1)中,所述二维点云数据,支持.txt格式的文件,文件中每一行含两个数,分别为一个点的横坐标和纵坐标,中间用空格隔开。
3.如权利要求1所述基于最优传输理论的二维点云形状分区域并行重建方法,其特征在于在步骤3)中,参数α设置为0.3。
4.如权利要求1所述基于最优传输理论的二维点云形状分区域并行重建方法,其特征在于在步骤6)中,对于一些数据量较大或者由多个独立部分组成的点云,对其进行区域划分或者运行区域生长方法检测出多个区域,然后在多个区域上并行地运行步骤1)~5)进行重建;若这多个区域内的点云在原始点云中是互不连接或相交的,那么在各区域得到的重建结果的并集便是最终的整体的重建结果,否则进行一次整体重建,将各个区域的重建结果顶点作为一个Delaunay网格的顶点,然后对其运行步骤3)~5),得到最终的重建结果。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111199347.XA CN113936070B (zh) | 2021-10-14 | 2021-10-14 | 基于最优传输理论的二维点云形状分区域并行重建方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111199347.XA CN113936070B (zh) | 2021-10-14 | 2021-10-14 | 基于最优传输理论的二维点云形状分区域并行重建方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113936070A CN113936070A (zh) | 2022-01-14 |
CN113936070B true CN113936070B (zh) | 2024-06-04 |
Family
ID=79279301
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111199347.XA Active CN113936070B (zh) | 2021-10-14 | 2021-10-14 | 基于最优传输理论的二维点云形状分区域并行重建方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113936070B (zh) |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103985155A (zh) * | 2014-05-14 | 2014-08-13 | 北京理工大学 | 基于映射法的散乱点云Delaunay三角剖分曲面重构方法 |
CN106952339A (zh) * | 2017-03-15 | 2017-07-14 | 重庆邮电大学 | 一种基于最优传输理论的点云采样方法 |
CN111856747A (zh) * | 2020-08-03 | 2020-10-30 | 大连理工大学 | 一种基于最优传输的反射镜设计方法 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103489218B (zh) * | 2013-09-17 | 2016-06-29 | 中国科学院深圳先进技术研究院 | 点云数据质量自动优化方法及系统 |
-
2021
- 2021-10-14 CN CN202111199347.XA patent/CN113936070B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103985155A (zh) * | 2014-05-14 | 2014-08-13 | 北京理工大学 | 基于映射法的散乱点云Delaunay三角剖分曲面重构方法 |
CN106952339A (zh) * | 2017-03-15 | 2017-07-14 | 重庆邮电大学 | 一种基于最优传输理论的点云采样方法 |
CN111856747A (zh) * | 2020-08-03 | 2020-10-30 | 大连理工大学 | 一种基于最优传输的反射镜设计方法 |
Non-Patent Citations (3)
Title |
---|
A Delaunay Triangulation Algorithm Based on Dual-Spatial Data Organization;Niantao Liu;Springer Link;20190509;全文 * |
三维点云数据精简与网格重建算法研究;田哲浩;中国优秀硕士论文电子期刊网;20200315;全文 * |
基于深度学习的三维数据分析理解方法研究综述;李海生;武玉娟;郑艳萍;吴晓群;蔡强;杜军平;;计算机学报;20190731(第01期);全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN113936070A (zh) | 2022-01-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110930454A (zh) | 一种基于边界框外关键点定位的六自由度位姿估计算法 | |
CN111323037B (zh) | 一种移动机器人新型骨架提取的Voronoi路径规划算法 | |
CN112365511B (zh) | 基于重叠区域检索与对齐的点云分割方法 | |
CN111243091A (zh) | 基于分布式系统的海量dem金字塔切片并行构建方法 | |
Magillo et al. | Algorithms for parallel terrain modelling and visualisation | |
CN112148774B (zh) | 一种高分辨率空间多区域气象数据处理系统及方法 | |
CN113137919B (zh) | 一种激光点云栅格化方法 | |
CN115018992A (zh) | 发型模型的生成方法、装置、电子设备及存储介质 | |
CN103679814A (zh) | 一种三角形网格模型的处理方法及装置 | |
CN113936070B (zh) | 基于最优传输理论的二维点云形状分区域并行重建方法 | |
CN112163641B (zh) | 一种基于概率多层次图结构的高维数据可视化方法 | |
CN112330699B (zh) | 一种基于重叠区域对齐的三维点云分割方法 | |
CN113256793A (zh) | 一种三维数据处理方法及系统 | |
CN109410333B (zh) | 一种高质量超面片聚类生成方法 | |
JP2004520660A (ja) | 深度マップの計算 | |
CN114998474A (zh) | 一种基于激光点云的规则建筑立面快速制图方法 | |
CN109859118B (zh) | 一种基于四叉树的有效镶嵌多边形优化去除云覆盖区域的方法和系统 | |
CN114399428A (zh) | 面状人工要素降维处理方法 | |
CN113610711A (zh) | 一种单图像引导的三维表面重建方法及装置 | |
CN111898687A (zh) | 一种基于狄隆涅三角剖分的雷达反射率数据融合方法 | |
CN117523134B (zh) | 基于结构感知点云语义分割的三维建筑物模型简化方法 | |
CN117197410B (zh) | 钢结构的虚拟拼装方法、装置、设备及存储介质 | |
CN117253013B (zh) | 基于协同感知的分布式三维重建方法 | |
Li | Intelligent recognition of English characters based on point cloud data model and artificial intelligence recognition | |
JP3521049B2 (ja) | 曲線生成装置及び曲線生成方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |