CN116091710B - 一种基于三维重建的自适应空间切分方法及装置 - Google Patents
一种基于三维重建的自适应空间切分方法及装置 Download PDFInfo
- Publication number
- CN116091710B CN116091710B CN202310377011.0A CN202310377011A CN116091710B CN 116091710 B CN116091710 B CN 116091710B CN 202310377011 A CN202310377011 A CN 202310377011A CN 116091710 B CN116091710 B CN 116091710B
- Authority
- CN
- China
- Prior art keywords
- subdivision
- spaces
- quasi
- split
- space
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 58
- 230000011218 segmentation Effects 0.000 title claims abstract description 21
- 230000004927 fusion Effects 0.000 claims abstract description 99
- 230000003044 adaptive effect Effects 0.000 claims description 17
- 230000008569 process Effects 0.000 claims description 10
- 238000004590 computer program Methods 0.000 claims description 6
- 238000001514 detection method Methods 0.000 claims description 5
- 238000010586 diagram Methods 0.000 description 6
- 230000008901 benefit Effects 0.000 description 5
- 238000004364 calculation method Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 238000007499 fusion processing Methods 0.000 description 2
- 238000000265 homogenisation Methods 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 239000002699 waste material Substances 0.000 description 2
- 101100001677 Emericella variicolor andL gene Proteins 0.000 description 1
- 238000007792 addition Methods 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000000903 blocking effect Effects 0.000 description 1
- 238000000354 decomposition reaction Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000006798 recombination Effects 0.000 description 1
- 238000005215 recombination Methods 0.000 description 1
- 238000011084 recovery Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000000638 solvent extraction Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T17/00—Three dimensional [3D] modelling, e.g. data description of 3D objects
- G06T17/005—Tree description, e.g. octree, quadtree
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/20—Editing of 3D images, e.g. changing shapes or colours, aligning objects or positioning parts
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/187—Segmentation; Edge detection involving region growing; involving region merging; involving connected component labelling
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20021—Dividing image into blocks, subimages or windows
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20221—Image fusion; Image merging
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Computer Graphics (AREA)
- Software Systems (AREA)
- Geometry (AREA)
- Computer Hardware Design (AREA)
- General Engineering & Computer Science (AREA)
- Architecture (AREA)
- Apparatus For Radiation Diagnosis (AREA)
- Image Generation (AREA)
- Magnetic Resonance Imaging Apparatus (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了一种基于三维重建的自适应空间切分方法及装置,该方法一具体实施方式包括:首先对目标物对应的稀疏点云进行第一次四叉树剖分处理,生成四个候选剖分空间;其次基于四个候选剖分空间获取至少一个剖分组合;之后针对任一剖分组合:从剖分组合的四个准剖分空间中选取至少两个准剖分空间进行自适应空间融合,得到融合数据块;最后基于剩余的每个候选剖分空间、剩余的每个准剖分空间,以及每个融合数据块,进行三维重建后组装生成目标物对应的三维模型。由此,能够将用于三维重建的各个数据块的数据量均衡化,从而减少了由于各个数据块数据量差异太大导致对应主机在进行三维重建时计算资源不均匀的问题,提高了各个主机计算资源的利用率。
Description
技术领域
本发明属于图像处理技术领域,尤其涉及一种基于三维重建的自适应空间切分方法及装置。
背景技术
现有技术在进行稀疏重建完成后得到稀疏点云和各个注册图像的姿态信息;之后基于稀疏点云和各个注册图像的姿态信息进行三维重建。针对城市级的三维重建,由于城市级大场景下数据量十分巨大,因此无法直接基于稀疏点云和各个注册图像的姿态信息进行三维重建,而要对稀疏点云先进行数据分块,之后对数据块进行模型重建。
数据分块主要采用四叉树空间切分和八叉树空间切分。以四叉树空间切分为例,均匀地将稀疏点云按照四叉树树分割处理后得到数据块,之后在进行三维重建时针对每一个数据块采用对应的主机进行计算。由于数据块的数据量不同,因此在进行三维重建时不仅会导致三维重建不均匀,而且还会导致多个主机计算资源不均匀,从而无法有效利用主机的计算资源然,进而造成有些主机计算资源的浪费。
发明内容
针对现有技术存在的上述问题,本发明实施例提供了一种基于三维重建的自适应空间切分方法及装置,能够将各个数据块的数据量均衡化,从而使得三维重建时各个主机的计算资源均衡化,提高了数据块对主机计算资源的利用率。
根据本发明实施例第一方面,提供一种基于三维重建的自适应空间切分方法,所述方法包括:对目标物对应的稀疏点云进行第一次四叉树剖分处理,生成四个候选剖分空间;其中,所述候选剖分空间包括若干稀疏点;基于四个所述候选剖分空间获取至少一个剖分组合;其中,所述剖分组合包括四个准剖分空间;所述候选剖分空间的面积大于等于所述准剖分空间;针对任一所述剖分组合:从所述剖分组合的四个准剖分空间中选取至少两个准剖分空间进行自适应空间融合,得到融合数据块;基于剩余的每个所述候选剖分空间、剩余的每个所述准剖分空间,以及每个所述融合数据块,进行三维重建后组装生成目标物对应的三维模型。
可选的,所述基于四个所述候选剖分空间获取至少一个剖分组合,包括:判断四个所述候选剖分空间是否均是准剖分空间,得到判断结果;若所述判断结果表征四个所述候选剖分空间均是准剖分空间,则基于四个所述候选剖分空间,生成剖分组合;若所述判断结果表征四个所述候选剖分空间中至少有一个候选剖分空间不是准剖分空间,则对该候选剖分空间进行第二次四叉树剖分处理,直到第N次四叉树剖分处理后获得的四个候选剖分空间均是准剖分空间,则结束第N+1次四叉树剖分处理,并基于第N次四叉树剖分处理获得的四个候选剖分空间,生成剖分组合;其中N≥2。
可选的,所述判断四个所述候选剖分空间是否均是准剖分空间,得到判断结果,包括:针对四个所述候选剖分空间中任一所述候选剖分空间:统计所述候选剖分空间中稀疏点数量;判断所述稀疏点数量是否小于第一预设阈值;若是,则将所述候选剖分空间确定为准剖分空间。
可选的,所述从所述剖分组合的四个准剖分空间中选取至少两个准剖分空间进行自适应空间融合,得到融合数据块,包括:若所述剖分组合中存在满足第一预设条件的三个准剖分空间形成的目标组合,则将形成所述目标组合的所述三个准剖分空间进行空间融合,得到融合数据块;若所述剖分组合中存在满足第二预设条件的两个准剖分空间形成的目标组合,则将形成所述目标组合的所述两个准剖分空间进行空间融合,得到融合数据块。
可选的,所述若所述剖分组合中存在满足第一预设条件的三个准剖分空间形成的目标组合,则将形成所述目标组合的所述三个准剖分空间进行空间融合,得到融合数据块,包括:将所述剖分组合中任意三个准剖分空间划分为一组,得到若干第一组合;针对若干第一组合中任一所述第一组合:统计所述第一组合内的稀疏点数量;检测所述稀疏点数量是否满足第一预设条件;若是,则将所述第一组合确定为目标组合;根据若干第一组合的排列顺序,依次对每个第一组合进行检测,直到检测到第一个所述目标组合,则结束检测操作;并将所述目标组合对应的三个准剖分空间进行空间融合,生成融合数据块。
可选的,所述若所述剖分组合中存在满足第二预设条件的两个准剖分空间形成的目标组合,则将形成所述目标组合的所述两个准剖分空间进行空间融合,得到融合数据块,包括:将所述剖分组合中任意两个准剖分空间划分为一组,得到若干第二组合;针对若干第二组合中任一所述第二组合:统计所述第二组合中稀疏点数量;检测所述稀疏点数量是否满足第二预设条件;若是,则将所述第二组合确定为目标组合;根据若干第二组合的排列顺序,依次对每个第二组合进行检测,直到检测到第一个所述目标组合,则将形成第一个所述目标组合的两个准剖分空间从四个准剖分空间中去除,并确定剩余两个准剖分空间所形成的第二组合空间是否为目标组合;将每个形成所述目标组合对应的两个准剖分空间进行空间融合,得到融合数据块。
根据本发明实施例第二方面,还提供一种基于三维重建的自适应空间切分装置,所述装置包括:第一生成模块,用于对目标物对应的稀疏点云进行第一次四叉树剖分处理,生成四个候选剖分空间;其中,所述候选剖分包括若干稀疏点;获取模块,用于基于四个所述候选剖分空间获取至少一个剖分组合;其中,所述剖分组合包括四个准剖分空间;所述候选剖分空间的面积大于等于所述准剖分空间;融合模块,用于针对任一所述剖分组合:从所述剖分组合的四个准剖分空间中选取至少两个准剖分空间进行自适应空间融合,得到融合数据块;第二生成模块,用于基于剩余的每个所述候选剖分空间、剩余的每个所述准剖分空间,以及每个所述融合数据块,进行三维重建后组装生成目标物对应的三维模型。
可选的,获取模块包括:判断单元,用于判断四个所述候选剖分空间是否均是准剖分空间,得到判断结果;第一获取单元,用于若所述判断结果表征四个所述候选剖分空间均是准剖分空间,则基于四个所述候选剖分空间,生成剖分组合;第二获取单元,用于若所述判断结果表征四个所述候选剖分空间中至少有一个候选剖分空间不是准剖分空间,则对该候选剖分空间进行第二次四叉树剖分处理,直到第N次四叉树剖分处理后获得的四个候选剖分空间均是准剖分空间,则结束第N+1次四叉树剖分处理,并基于第N次四叉树剖分处理获得的四个候选剖分空间,生成剖分组合;其中N≥2。
根据本发明实施例第三方面,还提供一种电子设备,包括:处理器;用于存储所述处理器可执行指令的存储器;所述处理器,用于从所述存储器中读取所述可执行指令,并执行所述指令以实现第一方面所述的方法。
根据本发明实施例第四方面,还提供一种计算机可读介质,其上存储有计算机程序,所述程序被处理器执行时实现如第一方面所述的方法。
本发明实施例提供一种基于三维重建的自适应空间切分方法及装置,所述方法一具体实施方式包括:首先,对目标物对应的稀疏点云进行第一次四叉树剖分处理,生成四个候选剖分空间;其中,所述候选剖分包括若干稀疏点;其次,基于四个所述候选剖分空间获取至少一个剖分组合;其中,所述剖分组合包括四个准剖分空间;所述候选剖分空间的面积大于等于所述准剖分空间;之后,针对任一所述剖分组合:从所述剖分组合的四个准剖分空间中选取至少两个准剖分空间进行自适应空间融合,得到融合数据块;最后,基于剩余的每个所述候选剖分空间、剩余的每个所述准剖分空间,以及每个所述融合数据块,进行三维重建后组装生成目标物对应的三维模型。本实施例将四叉树剖分处理和自适应空间融合相结合对稀疏点云进行均匀地分块处理;由此能够将用于三维重建的各个数据块的数据量均衡化,从而减少了由于各个数据块数据量差异太大导致对应主机在进行三维重建时计算资源不均匀的问题,进而减少了各个主机计算资源的浪费,提高了各个主机计算资源的利用率。
附图说明
后文将参照附图以示例性而非限制性的方式详细描述本发明的一些具体实施例。附图中相同的附图标记标示了相同或类似的部件或部分。本领域技术人员应该理解,这些附图未必是按比例绘制的。附图中:
图1为本发明一实施例提供的基于三维重建的自适应空间切分方法的流程示意图;
图2为本发明一实施例中基于四个候选剖分空间获取至少一个剖分组合的流程示意图;
图3为本发明一实施例中基于至少两个准剖分空间进行自适应空间融合生成融合数据块的流程示意图;
图4为本发明一实施例提供的四个准剖分空间的结构示意图;
图5为本发明一实施例提供的基于三维重建的自适应空间切分装置的结构示意图。
具体实施方式
为使本发明的目的、特征、优点能够更加的明显和易懂,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而非全部实施例。基于本发明中的实施例,本领域技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
在现有技术中,以四叉树空间切分为例,均匀的将目标物图像进行四叉树剖分处理,之后基于四叉树剖分处理得到的数据块直接进行三维重建。由于有的数据块对应的空间区域包含地物内容丰富,因此重建的计算量大;有的数据块对应的空间区域包含很少的地物内容,因此重建的计算量小。为此,通过直接重建的方式会导致后期三维重建计算不均匀,由此对主机计算资源的充分利用造成了挑战。
如图1所示,为本发明一实施例提供的基于三维重建的自适应空间切分方法的流程示意图。
一种基于三维重建的自适应空间切分方法,至少包括如下步骤:
S101,对目标物对应的稀疏点云进行第一次四叉树剖分处理,生成四个候选剖分空间;其中,候选剖分空间包括若干稀疏点;
S102,基于四个候选剖分空间获取至少一个剖分组合;其中,剖分组合包括四个准剖分空间;候选剖分空间的面积大于等于准剖分空间;
S103,针对任一剖分组合:从剖分组合的四个准剖分空间中选取至少两个准剖分空间进行自适应空间融合,得到融合数据块;
S104,基于剩余的每个候选剖分空间、剩余的每个准剖分空间,以及每个融合数据块,进行三维重建后组装生成目标物对应的三维模型。
在S101中,对目标物进行运动恢复结构(Structure from Motion,缩写SFM)处理,得到目标物对应的稀疏点云和姿态信息;然后将目标物对应的稀疏点云在水平层面进行第一次四叉树剖分处理,生成四个独立的候选剖分空间。
在S102中,针对四个候选剖分空间中任一候选剖分空间:对候选剖分空间进行图像处理,若图像处理结果满足预设条件,则将该候选剖分空间确定为准剖分空间。若四个候选剖分空间中每个候选剖分空间均是准剖分空间,则将四个准剖分空间确定为一个剖分组合;若四个候选剖分空间中有至少一个候选剖分空间不是准剖分空间,则对至少一个候选剖分空间进行第二次四叉树分割处理;并基于第二次四叉树分割处理后获得的四个候选剖分空间获取至少一个剖分组合。
需要说明的是,基于第二次四叉树分割处理后得到的四个候选剖分空间获取至少一个剖分组合的实现方式,与基于第一次四叉树分割处理后得到的四个候选剖分空间获取至少一个剖分组合的实现方式相同。在这里不做重复赘述。
在S103中,针对任一剖分组合:从剖分组合的四个准剖分空间中选取满足预设条件的三个准剖分空间进行自适应空间融合,生成融合数据块;或者,从剖分组合的四个准剖分空间中选取满足预设条件的任意两个准剖分空间进行自适应空间融合,生成融合数据块。
在S104中,将剩余的每个候选剖分空间进行三维重建生成若干个第一模型;将剩余的每个准剖分空间进行三维重建生成若干个第二模型;将剩余的每个融合数据块进行三维重建生成若干个第三模型;将若干个第一模型、若干个第二模型以及若干个第三模型组装后生成目标物对应的三维模型。
需要说明的是,候选剖分空间或准剖分空间均是包含若干个稀疏点的数据块。
本实施例将四叉树剖分处理和自适应空间融合相结合对稀疏点云进行均匀化分块处理;由此能够将用于三维重建的各个数据块的数据量均衡化,从而减少了由于各个数据块数据量差异太大导致对应主机在进行三维重建时计算资源不均匀的问题,进而减少了各个主机计算资源的浪费,提高了各个主机计算资源的利用率。
在优选的实施方式中,如图2所示,为本发明一实施例中基于四个候选剖分空间获取至少一个剖分组合的流程示意图。
基于四个候选剖分空间获取至少一个剖分组合,至少包括如下步骤:
S201,判断四个候选剖分空间是否均是准剖分空间,得到判断结果;
S202,若判断结果表征四个候选剖分空间均是准剖分空间,则基于四个候选剖分空间,生成剖分组合;
S203,若判断结果表征四个候选剖分空间中至少有一个候选剖分空间不是准剖分空间,则对该候选剖分空间进行第二次四叉树剖分处理,直到第N次四叉树剖分处理后获得的四个候选剖分空间均是准剖分空间,则结束第N+1次四叉树剖分处理,并基于第N次四叉树剖分处理获得的四个候选剖分空间,生成剖分组合;其中N≥2。
在S201中,基于候选剖分空间的图像灰度值判断候选剖分空间是否为准剖分空间;或者基于候选剖分空间的稀疏点数量判断候选剖分空间是否为准剖分空间。
示例性地:针对四个候选剖分空间中任一候选剖分空间:统计候选剖分空间中稀疏点数量;判断稀疏点数量是否小于第一预设阈值;若是,则将候选剖分空间确定为准剖分空间。
例如:当前候选剖分空间的稀疏点数量为VN i ,其中,i代表候选剖分空间的序号;如果VN i <VT,则确定当前候选剖分空间为准剖分空间。
在这里,VT的范围为[500,10000];其中,VT的取值是根据实际业务场景而确定。
在S202和S203中,当四个候选剖分空间均是准剖分空间,则将四个准剖分空间中任意三个准剖分空间组合,生成四个剖分组合;
当四个候选剖分空间中有至少一个候选剖分空间不是准剖分空间,则针对至少一个候选剖分空间中任一候选剖分空间:对候选剖分空间进行第二次四叉树剖分处理,并判断第二次四叉树剖分处理后的四个候选剖分空间是否均是准剖分空间;直到第N次四叉树剖分处理后获得的四个候选剖分空间均是准剖分空间,则结束第N+1次四叉树剖分处理,并基于第N次四叉树剖分处理获得的四个候选剖分空间,生成剖分组合;其中N≥2。
本实施例基于候选剖分空间中稀疏点数量判断候选剖分空间是否为准剖分空间,并在确定第一次四叉树剖分处理或者第N次四叉树剖分处理为最后一次四叉树剖分处理;基于最后一次四叉树剖分处理对应的四个候选剖分空间获取至少一个剖分组合。由此,通过多次四叉树剖分处理,能够将候选剖分空间的稀疏点进行均匀化处理,从而减少了由于各个数据块数据量差异太大导致对应主机在进行三维重建时计算资源不均匀的问题,进而提高了各个主机计算资源的利用率。
在优选的实施方式中,如图3所示,为本发明一实施例中基于至少两个准剖分空间进行自适应空间融合生成融合数据块的流程示意图;如图4所示,为本发明一实施例提供的四个准剖分空间的结构示意图。
基于至少两个准剖分空间进行自适应空间融合生成融合数据块,至少包括如下步骤:
S301,若剖分组合中存在满足第一预设条件的三个准剖分空间形成的目标组合,则将形成目标组合的三个准剖分空间进行空间融合,得到融合数据块;
S302,若剖分组合中存在满足第二预设条件的两个准剖分空间形成的目标组合,则将形成目标组合的两个准剖分空间进行空间融合,得到融合数据块。
在S301中,将剖分组合中任意三个准剖分空间划分为一组,得到若干第一组合;针对若干第一组合中任一所述第一组合:统计第一组合内的稀疏点数量;检测稀疏点数量是否满足第一预设条件;若是,则将第一组合确定为目标组合;根据若干第一组合的排列顺序,依次对每个第一组合进行检测,直到检测到第一个所述目标组合,则结束检测操作;并将目标组合对应的三个准剖分空间进行空间融合,生成融合数据块。
例如:如图3中的候选剖分空间L,经过四叉树剖分处理为L 1 、L 2 、L 3 、L 4 四个准剖分空间,先按照三个准剖分空间为一组,生成四个第一组合。四个第一组合分别为:L 1 L 2 L 3 、L 2 L 3 L 4 、L 1 L 2 L 4 、L 1 L 3 L 4 。针对任一当前第一组合:统计当前第一组合L 1 L 2 L 3 中稀疏点数量VN 123 ,如果VN 123 <VT+α×Buffer 3 ,则确定当前第一组合L 1 L 2 L 3 满足第一预设条件,并将第一组合L 1 L 2 L 3 作为目标组合;其中,VT为第一预设阈值,α是场景系数,Buffer 3 是变化值;VT、α,以及Buffer 3 均是基于应用场景而确定的具体数值;之后,将目标组合的对应的三个准剖分空间L 1 、L 2 、L 3 进行空间融合,生成融合数据块。
在这里,VT阈值范围[500,10000],α的阈值范围(0,1),Buffer 3 的阈值范围[100,5000];VT、α,以及Buffer 3 均是基于实际应用场景而具有确定的具体数值。
本实施方式基于空间融合处理,将四个准剖分空间中三个准剖分空间融合后得到一个融合数据块以及准剖分空间。由此,将数据量小的准剖分空间进行空间融合,从而减少了由于各个准剖分空间数据量差异太大导致对应主机在进行三维重建时计算资源不均匀的问题,进而提高了各个主机计算资源的利用率。
在S302中,将剖分组合中任意两个准剖分空间划分为一组,得到若干第二组合;针对若干第二组合中任一所述第二组合:统计第二组合中稀疏点数量;检测稀疏点数量是否满足第二预设条件;若是,则将第二组合确定为目标组合;根据若干第二组合的排列顺序,依次对每个第二组合进行检测,直到检测到第一个所述目标组合,则将形成第一个目标组合的两个准剖分空间从四个准剖分空间中去除,并确定剩余两个准剖分空间所形成的第二组合空间是否为目标组合;将每个形成目标组合对应的两个准剖分空间进行空间融合,得到融合数据块。
例如:如果四个第一组合L 1 L 2 L 3 、L 2 L 3 L 4 、L 1 L 2 L 4 、L 1 L 3 L 4 中均没有满足第一预设条件的第一组合,则将四个准剖分空间中任意两个准剖分空间划分为一组,得到六个第二组合,分别为:L 1 L 2 、L 1 L 3 、L 1 L 4 、L 2 L 3 、L 2 L 4 、L 3 L 4 。针对当前第二组合L 1 L 2 :统计当前第二组合L 1 L 2 中稀疏点数量;若VN 12 <VT+β×Buffer 2 ,则将当前第二组合L 1 L 2 确定为目标组合;采用先到先得的策略,将当前第二组合L 1 L 2 中L 1 和L 2 准剖分空间融合为一个整体空间,并将L 1 、L 2 所在的第二组合去除掉,在剩余的组合再次判断,如果VN Kl <VT+β×Buffer 2 ,则当前L K L l 组合空间融合为一个整体空间,执行下去直到所有第二组合都被计算;其中,K,l分别代表准剖分空间的编号。
在这里,VT阈值范围[500,10000],β的阈值范围(0,1),Buffer 2 的阈值范围[50,2000];VT、β,以及Buffer 2 均是基于实际应用场景而具有确定的具体数值。
本实施方式基于空间融合处理,将四个准剖分空间中两个准剖分空间融合后得到一个融合数据块以及准剖分空间。由此,将数据量小的准剖分空间进行空间融合,从而减少了由于各个准剖分空间数据量差异太大导致对应主机在进行三维重建时计算资源不均匀的问题,进而提高了各个主机计算资源的利用率。
统计当前候选剖分空间内稀疏点数量是通过如下方法实现的:当前候选剖分空间的横坐标对应第一预设范围、纵坐标对应第二预设范围、竖坐标对应第三预设范围。获取稀疏点的横坐标、纵坐标和竖坐标;若该稀疏点的横坐标满足第一预设范围、竖坐标满足第二预设范围,以及纵坐标满足第三预设范围;则确定该稀疏点为当前候选剖分空间内稀疏点;若该稀疏点的横坐标不满足第一预设范围和/或竖坐标不满足第二预设范围,和/或纵坐标不满足第三预设范围,则将确定该稀疏点不是当前候选剖分空间内稀疏点,不计入当前候选剖分空间的稀疏点。
统计当前准剖分空间内稀疏点数量的方法与统计当前候选剖分空间内稀疏点数量相类似,在这里,不做重复赘述。
下面结合具体应用对本实施例提供的三维重建的自适应空间切分方法进行详细说明。
S1,对目标物对应的稀疏点云进行第一次四叉树剖分处理,生成四个候选剖分空间;其中,候选剖分包括若干稀疏点;
S2,针对四个候选剖分空间中任一候选剖分空间:统计候选剖分空间中稀疏点数量;判断稀疏点数量是否小于第一预设阈值;若是,则将候选剖分空间确定为准剖分空间;
S3,若四个候选剖分空间均是准剖分空间,则基于四个候选剖分空间,生成剖分组合;
S4,若四个候选剖分空间中至少有一个候选剖分空间不是准剖分空间,则对该候选剖分空间进行第二次四叉树剖分处理,直到第N次四叉树剖分处理后获得的四个候选剖分空间均是准剖分空间,则结束第N+1次四叉树剖分处理,并基于第N次四叉树剖分处理获得的四个候选剖分空间,生成剖分组合;其中N≥2。
S5,判断所述剖分组合中是否存在满足第一预设条件的任意三个准剖分空间形成的目标组合;若存在,则执行S6;若不存在,则执行S8;
S6,将剖分组合中任意三个准剖分空间划分为一组,得到若干第一组合;针对若干第一组合中任一第一组合:统计第一组合内的稀疏点数量;检测稀疏点数量是否满足第一预设条件;若是,则将第一组合确定为目标组合;
S7,根据若干第一组合的排列顺序,依次对每个第一组合进行检测,直到检测到第一个目标组合,则结束检测操作;并将目标组合对应的三个准剖分空间进行空间融合,生成融合数据块。
S8,将剖分组合中任意两个准剖分空间划分为一组,得到若干第二组合;针对若干第二组合中任一第二组合:统计第二组合中稀疏点数量;检测稀疏点数量是否满足第二预设条件;若是,则将第二组合确定为目标组合;
S9,根据若干第二组合的排列顺序,依次对每个第二组合进行检测,直到检测到第一个目标组合,则将形成第一个目标组合的两个准剖分空间从四个准剖分空间中去除,并确定剩余两个准剖分空间所形成的第二组合空间是否为目标组合;将每个形成目标组合对应的两个准剖分空间进行空间融合,得到融合数据块。
S10,基于除准剖分空间之外的候选剖分空间、除目标组合之外的准剖分空间,以及融合数据块进行三维重建后组装生成目标物对应的三维模型。
本实施例对四叉树剖分处理后得到的候选剖分空间进行稀疏点统计,在稀疏点超过预设阈值后,对该候选剖分空间再次进行四叉树剖分处理,直到第N次四叉树剖分处理后的每个候选剖分空间中稀疏点数量均小于预设阈值,则基于第N次四叉树剖分处理后的候选剖分空间进行自适应空间融合;由此,能够将各个数据块的数据量均衡化,从而使得三维重建时各个主机的计算资源均衡化,提高了数据块对主机计算资源的利用率。
本发明各个实施例的实现基础是通过具有处理器功能的设备进行程序化的处理实现的。因此在工程实际中,可以将本发明各个实施例的技术方案及其功能封装成各种模块。
如图5所示,为本发明一实施例提供的基于三维重建的自适应空间切分装置的结构示意图。
一种基于三维重建的自适应空间切分装置,所述装置500包括:第一生成模块501,用于对目标物对应的稀疏点云进行第一次四叉树剖分处理,生成四个候选剖分空间;其中,所述候选剖分包括若干稀疏点;获取模块502,用于基于四个所述候选剖分空间获取至少一个剖分组合;其中,所述剖分组合包括四个准剖分空间;所述候选剖分空间的面积大于等于所述准剖分空间;融合模块503,用于针对任一所述剖分组合:从所述剖分组合的四个准剖分空间中选取至少两个准剖分空间进行自适应空间融合,得到融合数据块;第二生成模块504,用于基于剩余的每个所述候选剖分空间、剩余的每个所述准剖分空间,以及每个所述融合数据块,进行三维重建后组装生成目标物对应的三维模型。
在优选的实施方式中,获取模块包括:判断单元,用于判断四个所述候选剖分空间是否均是准剖分空间,得到判断结果;第一获取单元,用于若所述判断结果表征四个所述候选剖分空间均是准剖分空间,则基于四个所述候选剖分空间,生成剖分组合;第二获取单元,用于若所述判断结果表征四个所述候选剖分空间中至少有一个候选剖分空间不是准剖分空间,则对该候选剖分空间进行第二次四叉树剖分处理,直到第N次四叉树剖分处理后获得的四个候选剖分空间均是准剖分空间,则结束第N+1次四叉树剖分处理,并基于第N次四叉树剖分处理获得的四个候选剖分空间,生成剖分组合;其中N≥2。
在优选的实施方式中,判断单元包括:统计子单元,用于针对四个所述候选剖分空间中任一所述候选剖分空间:统计所述候选剖分空间中稀疏点数量;判断子单元,用于判断所述稀疏点数量是否小于第一预设阈值;确定子单元,用于若是,则将所述候选剖分空间确定为准剖分空间。
在优选的实施方式中,融合模块包括:第一融合单元,用于若所述剖分组合中存在满足第一预设条件的三个准剖分空间形成的目标组合,则将形成所述目标组合的所述三个准剖分空间进行空间融合,得到融合数据块;第二融合单元,用于若所述剖分组合中存在满足第二预设条件的两个准剖分空间形成的目标组合,则将形成所述目标组合的所述两个准剖分空间进行空间融合,得到融合数据块。
在优选的实施方式中,第一融合单元包括:划分子单元,用于将所述剖分组合中任意三个准剖分空间划分为一组,得到若干第一组合;确定子单元,用于针对若干第一组合中任一所述第一组合:统计所述第一组合内的稀疏点数量;检测所述稀疏点数量是否满足第一预设条件;若是,则将所述第一组合确定为目标组合;生成子单元,用于根据若干第一组合的排列顺序,依次对每个第一组合进行检测,直到检测到第一个所述目标组合,则结束检测操作;并将所述目标组合对应的三个准剖分空间进行空间融合,生成融合数据块。
在优选的实施方式中,第二融合单元包括:划分子单元,用于将所述剖分组合中任意两个准剖分空间划分为一组,得到若干第二组合;第一确定子单元,用于针对若干第二组合中任一所述第二组合:统计所述第二组合中稀疏点数量;检测所述稀疏点数量是否满足第二预设条件;若是,则将所述第二组合确定为目标组合;第二确定子单元,用于根据若干第二组合的排列顺序,依次对每个第二组合进行检测,直到检测到第一个所述目标组合,则将形成第一个所述目标组合的两个准剖分空间从四个准剖分空间中去除,并确定剩余两个准剖分空间所形成的第二组合空间是否为目标组合;生成子单元,用于将每个形成所述目标组合对应的两个准剖分空间进行空间融合,得到融合数据块。
上述装置可执行本发明一实施例所提供的基于三维重建的自适应空间切分方法,具备执行基于三维重建的自适应空间切分方法相应的功能模块和有益效果。未在本实施例中详尽描述的技术细节,可参见本发明一实施例所提供的基于三维重建的自适应空间切分方法。
本发明还提供一种电子设备,包括:处理器;用于存储所述处理器可执行指令的存储器;所述处理器,用于从所述存储器中读取所述可执行指令,并执行所述指令以实现本发明所述的基于三维重建的自适应空间切分方法。
除了上述方法和设备以外,本申请的实施例还可以是计算机程序产品,其包括计算机程序指令,所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本申请各种实施例的方法中的步骤。
所述计算机程序产品可以以一种或多种程序设计语言的任意组合来编写用于执行本申请实施例操作的程序代码,所述程序设计语言包括面向对象的程序设计语言,诸如Java、C++等,还包括常规的过程式程序设计语言,诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。
此外,本申请的实施例还可以是计算机可读存储介质,其上存储有计算机程序指令,所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本申请如下各实施例的方法中的步骤。
所述计算机可读存储介质可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
以上结合具体实施例描述了本申请的基本原理,但是,需要指出的是,在本申请中提及的优点、优势、效果等仅是示例而非限制,不能认为这些优点、优势、效果等是本申请的各个实施例必须具备的。另外,上述公开的具体细节仅是为了示例的作用和便于理解的作用,而非限制,上述细节并不限制本申请为必须采用上述具体的细节来实现。
本申请中涉及的器件、装置、设备、系统的方框图仅作为例示性的例子并且不意图要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的,可以按任意方式连接、布置、配置这些器件、装置、设备、系统。诸如“包括”、“包含”、“具有”等等的词语是开放性词汇,指“包括但不限于”,且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”,且可与其互换使用,除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“如但不限于”,且可与其互换使用。
还需要指出的是,在本申请的装置、设备和方法中,各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本申请的等效方案。
提供所公开的方面的以上描述以使本领域的任何技术人员能够做出或者使用本申请。对这些方面的各种修改对于本领域技术人员而言是非常显而易见的,并且在此定义的一般原理可以应用于其他方面而不脱离本申请的范围。因此,本申请不意图被限制到在此示出的方面,而是按照与在此公开的原理和新颖的特征一致的最宽范围。
为了例示和描述的目的已经给出了以上描述。此外,此描述不意图将本申请的实施例限制到在此公开的形式。尽管以上已经讨论了多个示例方面和实施例,但是本领域技术人员将认识到其某些变型、修改、改变、添加和子组合。
在本说明书的描述中,参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。而且,描述的具体特征、结构、材料或者特点可以在任一个或多个实施例或示例中以合适的方式结合。此外,在不相互矛盾的情况下,本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。
此外,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或隐含地包括至少一个该特征。在本发明的描述中,“多个”的含义是两个或两个以上,除非另有明确具体的限定。
以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以所述权利要求的保护范围为准。
Claims (7)
1.一种基于三维重建的自适应空间切分方法,其特征在于,包括:
对目标物对应的稀疏点云进行第一次四叉树剖分处理,生成四个候选剖分空间;其中,所述候选剖分空间包括若干稀疏点;
基于四个所述候选剖分空间获取至少一个剖分组合;其中,所述剖分组合包括四个准剖分空间;所述候选剖分空间的面积大于等于所述准剖分空间;
针对任一所述剖分组合:从所述剖分组合的四个准剖分空间中选取至少两个准剖分空间进行自适应空间融合,得到融合数据块;
基于剩余的每个所述候选剖分空间、剩余的每个所述准剖分空间,以及每个所述融合数据块,进行三维重建后组装生成目标物对应的三维模型;
其中,所述基于四个所述候选剖分空间获取至少一个剖分组合,包括:
判断四个所述候选剖分空间是否均是准剖分空间,得到判断结果;
若所述判断结果表征四个所述候选剖分空间均是准剖分空间,则基于四个所述候选剖分空间,生成剖分组合;
若所述判断结果表征四个所述候选剖分空间中至少有一个候选剖分空间不是准剖分空间,则对该候选剖分空间进行第二次四叉树剖分处理,直到第N次四叉树剖分处理后获得的四个候选剖分空间均是准剖分空间,则结束第N+1次四叉树剖分处理,并基于第N次四叉树剖分处理获得的四个候选剖分空间,生成剖分组合;其中N≥2;
所述从所述剖分组合的四个准剖分空间中选取至少两个准剖分空间进行自适应空间融合,得到融合数据块,包括:
若所述剖分组合中存在满足第一预设条件的三个准剖分空间形成的目标组合,则将形成所述目标组合的三个准剖分空间进行空间融合,得到融合数据块;
若所述剖分组合中存在满足第二预设条件的两个准剖分空间形成的目标组合,则将形成所述目标组合的两个准剖分空间进行空间融合,得到融合数据块。
2.根据权利要求1所述的方法,其特征在于,所述判断四个所述候选剖分空间是否均是准剖分空间,得到判断结果,包括:
针对四个所述候选剖分空间中任一所述候选剖分空间:统计所述候选剖分空间中稀疏点数量;判断所述稀疏点数量是否小于第一预设阈值;若是,则将所述候选剖分空间确定为准剖分空间。
3.根据权利要求1所述的方法,其特征在于,所述若所述剖分组合中存在满足第一预设条件的三个准剖分空间形成的目标组合,则将形成所述目标组合的三个准剖分空间进行空间融合,得到融合数据块,包括:
将所述剖分组合中任意三个准剖分空间划分为一组,得到若干第一组合;
针对若干第一组合中任一所述第一组合:统计所述第一组合内的稀疏点数量;检测所述稀疏点数量是否满足第一预设条件;若是,则将所述第一组合确定为目标组合;
根据若干第一组合的排列顺序,依次对每个第一组合进行检测,直到检测到第一个所述目标组合,则结束检测操作;并将所述目标组合对应的三个准剖分空间进行空间融合,生成融合数据块。
4.根据权利要求1所述的方法,其特征在于,所述若所述剖分组合中存在满足第二预设条件的两个准剖分空间形成的目标组合,则将形成所述目标组合的两个准剖分空间进行空间融合,得到融合数据块,包括:
将所述剖分组合中任意两个准剖分空间划分为一组,得到若干第二组合;
针对若干第二组合中任一所述第二组合:统计所述第二组合中稀疏点数量;检测所述稀疏点数量是否满足第二预设条件;若是,则将所述第二组合确定为目标组合;
根据若干第二组合的排列顺序,依次对每个第二组合进行检测,直到检测到第一个所述目标组合,则将形成第一个所述目标组合的两个准剖分空间从四个准剖分空间中去除,并确定剩余两个准剖分空间所形成的第二组合空间是否为目标组合;
将每个形成所述目标组合对应的两个准剖分空间进行空间融合,得到融合数据块。
5.一种基于三维重建的自适应空间切分装置,其特征在于,包括:
第一生成模块,用于对目标物对应的稀疏点云进行第一次四叉树剖分处理,生成四个候选剖分空间;其中,所述候选剖分空间包括若干稀疏点;
获取模块,用于基于四个所述候选剖分空间获取至少一个剖分组合;其中,所述剖分组合包括四个准剖分空间;所述候选剖分空间的面积大于等于所述准剖分空间;
获取模块包括:
判断单元,用于判断四个所述候选剖分空间是否均是准剖分空间,得到判断结果;
第一获取单元,用于若所述判断结果表征四个所述候选剖分空间均是准剖分空间,则基于四个所述候选剖分空间,生成剖分组合;
第二获取单元,用于若所述判断结果表征四个所述候选剖分空间中至少有一个候选剖分空间不是准剖分空间,则对该候选剖分空间进行第二次四叉树剖分处理,直到第N次四叉树剖分处理后获得的四个候选剖分空间均是准剖分空间,则结束第N+1次四叉树剖分处理,并基于第N次四叉树剖分处理获得的四个候选剖分空间,生成剖分组合;其中N≥2;融合模块,用于针对任一所述剖分组合:从所述剖分组合的四个准剖分空间中选取至少两个准剖分空间进行自适应空间融合,得到融合数据块;
其中,从所述剖分组合的四个准剖分空间中选取至少两个准剖分空间进行自适应空间融合,得到融合数据块,包括:若所述剖分组合中存在满足第一预设条件的三个准剖分空间形成的目标组合,则将形成所述目标组合的三个准剖分空间进行空间融合,得到融合数据块;
若所述剖分组合中存在满足第二预设条件的两个准剖分空间形成的目标组合,则将形成所述目标组合的两个准剖分空间进行空间融合,得到融合数据块;
第二生成模块,用于基于剩余的每个所述候选剖分空间、剩余的每个所述准剖分空间,以及每个所述融合数据块,进行三维重建后组装生成目标物对应的三维模型。
6.一种电子设备,包括:
处理器;
用于存储所述处理器可执行指令的存储器;
所述处理器,用于从所述存储器中读取所述可执行指令,并执行所述指令以实现上述权利要求1-4任一项所述的方法。
7.一种计算机可读介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现如权利要求1-4中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310377011.0A CN116091710B (zh) | 2023-04-11 | 2023-04-11 | 一种基于三维重建的自适应空间切分方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310377011.0A CN116091710B (zh) | 2023-04-11 | 2023-04-11 | 一种基于三维重建的自适应空间切分方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN116091710A CN116091710A (zh) | 2023-05-09 |
CN116091710B true CN116091710B (zh) | 2023-05-30 |
Family
ID=86206807
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310377011.0A Active CN116091710B (zh) | 2023-04-11 | 2023-04-11 | 一种基于三维重建的自适应空间切分方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116091710B (zh) |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102682103A (zh) * | 2012-04-28 | 2012-09-19 | 北京建筑工程学院 | 一种面向海量激光雷达点云模型的三维空间索引方法 |
CN114511679A (zh) * | 2022-01-27 | 2022-05-17 | 广州极飞科技股份有限公司 | 点云数据处理方法、装置、设备及存储介质 |
CN114782636A (zh) * | 2022-05-17 | 2022-07-22 | 江苏集萃深度感知技术研究所有限公司 | 三维重建方法、装置及系统 |
-
2023
- 2023-04-11 CN CN202310377011.0A patent/CN116091710B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102682103A (zh) * | 2012-04-28 | 2012-09-19 | 北京建筑工程学院 | 一种面向海量激光雷达点云模型的三维空间索引方法 |
CN114511679A (zh) * | 2022-01-27 | 2022-05-17 | 广州极飞科技股份有限公司 | 点云数据处理方法、装置、设备及存储介质 |
CN114782636A (zh) * | 2022-05-17 | 2022-07-22 | 江苏集萃深度感知技术研究所有限公司 | 三维重建方法、装置及系统 |
Non-Patent Citations (1)
Title |
---|
徐嘉晨.大规模无序图片的三维重建研究.《中国优秀硕士学位论文全文数据库 信息科技辑》.2019,(第12期),I138-495. * |
Also Published As
Publication number | Publication date |
---|---|
CN116091710A (zh) | 2023-05-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2020098531A1 (zh) | 对象的加载方法和装置、存储介质、电子装置 | |
US9959670B2 (en) | Method for rendering terrain | |
CN108124489B (zh) | 信息处理方法、装置、云处理设备以及计算机程序产品 | |
JP6202147B2 (ja) | 曲線検出方法と曲線検出装置 | |
CN112669463A (zh) | 三维点云的曲面重建方法、计算机设备和计算机可读存储介质 | |
CN105828081B (zh) | 编码方法及编码装置 | |
CN109978006B (zh) | 人脸图像的聚类方法和装置 | |
CN117173370B (zh) | 一种在轻量化过程中保持对象边界的方法 | |
CN112825199B (zh) | 碰撞检测方法、装置、设备及存储介质 | |
JP5192437B2 (ja) | 物体領域検出装置、物体領域検出方法および物体領域検出プログラム | |
CN108986210B (zh) | 三维场景重建的方法和设备 | |
CN112446951B (zh) | 三维重建方法、装置、电子设备及计算机存储介质 | |
CN116091710B (zh) | 一种基于三维重建的自适应空间切分方法及装置 | |
KR102537530B1 (ko) | 가속 구조를 생성하는 방법 및 장치 | |
CN112750065A (zh) | 载体对象处理和水印嵌入方法、装置及电子设备 | |
CN115272549A (zh) | 一种超大数字场景的存储和渲染调度方法及装置 | |
CN111859040B (zh) | 一种数据匹配方法、装置及相关设备 | |
US20130293543A1 (en) | Image processing apparatus and method | |
CN113763240B (zh) | 一种点云缩略图生成方法、装置、设备及存储介质 | |
CN112802175A (zh) | 大规模场景遮挡剔除方法、装置、设备及存储介质 | |
CN110188773A (zh) | 特征提取方法、图像处理方法及装置 | |
CN112866504B (zh) | 一种空三加密方法和系统 | |
CN110288543A (zh) | 一种深度图像保边处理方法和装置 | |
CN117807782B (zh) | 一种实现三维仿真模型的方法 | |
CN115630203B (zh) | n叉树的生成方法与相交关系的确定方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |