CN111210456B - 一种基于点云的高精度方向箭头提取方法及系统 - Google Patents

一种基于点云的高精度方向箭头提取方法及系统 Download PDF

Info

Publication number
CN111210456B
CN111210456B CN201911406244.9A CN201911406244A CN111210456B CN 111210456 B CN111210456 B CN 111210456B CN 201911406244 A CN201911406244 A CN 201911406244A CN 111210456 B CN111210456 B CN 111210456B
Authority
CN
China
Prior art keywords
arrow
projection
point cloud
foreground
point
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201911406244.9A
Other languages
English (en)
Other versions
CN111210456A (zh
Inventor
陈操
肖圣
何豪杰
何云
文铁谋
刘奋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Heading Data Intelligence Co Ltd
Original Assignee
Heading Data Intelligence Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Heading Data Intelligence Co Ltd filed Critical Heading Data Intelligence Co Ltd
Priority to CN201911406244.9A priority Critical patent/CN111210456B/zh
Publication of CN111210456A publication Critical patent/CN111210456A/zh
Application granted granted Critical
Publication of CN111210456B publication Critical patent/CN111210456B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/194Segmentation; Edge detection involving foreground-background segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/22Matching criteria, e.g. proximity measures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/136Segmentation; Edge detection involving thresholding
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10028Range image; Depth image; 3D point clouds
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20092Interactive image processing based on input by user
    • G06T2207/20104Interactive definition of region of interest [ROI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20112Image segmentation details
    • G06T2207/20164Salient point detection; Corner detection

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • Image Analysis (AREA)
  • Processing Or Creating Images (AREA)

Abstract

本发明涉及一种基于点云的高精度方向箭头提取方法,该方法包括:获取方向箭头所在区域的地面点云数据;将地面点云数据进行正射投影到xy平面得到投影图;将投影图旋转至与方向箭头所在道路一致的方向,将投影图分割出箭头前景和背景;将箭头前景与箭头的各个模板进行相似度计算,通过相似度最高的模板得到方向箭头的类型和初始角点坐标。相对于手动在点云上绘制而言,该方法能极大提升箭头要素的提取效率,精度高;相对于深度学习提取方法而言,该方法不需要大量标注图片,节省时间与经济成本,并且可以作为深度学习提取结果发生漏检时的补充;能够高效、低耗费的自动提取路面方向箭头属性数据。

Description

一种基于点云的高精度方向箭头提取方法及系统
技术领域
本发明涉及高精度地图制作生成领域,尤其涉及一种基于点云的高精度方向箭头提取方法及系统。
背景技术
在自动驾驶领域,高精度地图数据可作为自动驾驶的对比标准,或者在自动驾驶某些感知缺失时的补充,对于开发自动驾驶功能具有重要的意义。因此,许多地图服务公司都在制作高精度数字地图。
在制作高精度数字地图时,路面上的方向箭头是一个非常重要的地面要素,而且所有的公司都会在数字地图中包含方向箭头,目前大致使用的主要包括两种方式,一种是在地图制作平台上手动描绘方向箭头形状并添加属性,该方法能保证方向箭头精度只受来源数据的影响,但是制作效率低下;还有一些使用深度学习方法,通过大量标注箭头样本,自动提取方向箭头和属性,该方法需要相应的深度学习硬件来支持,导致开发周期和费用较高,并且在高进度情况下深度学习的推理速度慢,处理大量数据时耗时长。
发明内容
本发明针对现有技术中存在的技术问题,提供一种基于点云的高精度方向箭头提取方法,解决现有技术中方向箭头提取效率低的问题。
本发明解决上述技术问题的技术方案如下:一种基于点云的高精度方向箭头提取方法,所述方法包括:
步骤1,获取方向箭头所在区域的地面点云数据;
步骤2,将所述地面点云数据进行正射投影到xy平面得到投影图;
步骤3,将所述投影图旋转至与所述方向箭头所在道路一致的方向,将所述投影图分割出箭头前景和背景;
步骤4,将所述箭头前景与箭头的各个模板进行相似度计算,通过相似度最高的模板得到所述方向箭头的类型和初始角点坐标。
一种基于点云的高精度方向箭头提取系统,。
本发明的有益效果是:本发明提供的一种基于点云的高精度方向箭头提取方法及系统,相对于手动在点云上绘制而言,该方法能极大提升箭头要素的提取效率,精度高;相对于深度学习提取方法而言,该方法不需要大量标注图片,节省时间与经济成本,并且可以作为深度学习提取结果发生漏检时的补充;能够高效、低耗费的自动提取路面方向箭头属性数据。
在上述技术方案的基础上,本发明还可以做如下改进。
进一步,所述步骤1包括:
通过人工选择或者道路的视频或者图片数据计算确定所述方向箭头的定位点,根据所述定位点和区域大小确定所述所在区域,所述区域大小根据道路实际情况设置。
进一步,所述步骤2中得到的所述投影图的像素点强度为点云的反射强度值;
至少两个的所述点云落在同一所述像素点时,取所述至少两个的点云的反射强度平均值为所述像素点的强度值。
进一步,所述步骤3中确定所述道路的方向为所述投影图的频谱的两个峰值的连线方向。
进一步,所述步骤3中将所述投影图分割出箭头前景和背景的过程包括:填充所述投影图的条带间的间隙,对填充后的所述投影图的图像进行自适应阈值分割得到所述箭头前景和背景。
进一步,所述步骤4中根据所述箭头前景与箭头的模板的图像的异或值求和的倒数计算所述箭头前景与箭头的模板的相似度。
进一步,所述步骤4之后还包括:
步骤5,依次对各个所述角点的位置进行迭代优化,前后两次优化所述角点的位置不发生变化时或者达到设定最大迭代次数时停止迭代。
进一步,对所述角点的位置进行优化的过程包括:
以所述角点为中心建立设定大小的优化区域,计算所述优化区域内与所述箭头前景的相似度最高的位置作为优化后的所述角点的位置。
进一步,所述步骤2中得到所述投影图时记录所述投影图的像素点和点云之间的对应关系;所述步骤4之后还包括:
步骤6,根据所述角点位置以及所述投影图的像素点和点云之间的对应关系反算点云坐标。
采用上述进一步方案的有益效果是:根据与箭头前景的相似度对各个角点的位置进行优化,防止角点坐标与实际情况存在偏差的情况产生。
附图说明
图1为本发明提供的一种基于点云的高精度方向箭头提取方法的流程图;
图2为本发明提供的一种基于点云的高精度方向箭头提取方法的实施例的流程图;
图3为本发明实施例提供的一种点云正射投影图的频谱变换结果图;
图4(a)为本发明实施例提供的方向箭头的投影图进行分割前的效果图;
图4(b)为本发明实施例提供的方向箭头的投影图进行分割中的效果图;
图4(c)为本发明实施例提供的方向箭头的投影图进行分割后的效果图;
图5为本发明实施例提供的一种角点优化示例图;
图6为本发明提供的一种基于点云的高精度方向箭头提取系统的结构框图。
附图中,各标号所代表的部件列表如下:
101、点云数据获取模块,102、投影图确定模块,103、箭头前景确定模块,104、方向箭头确定模块。
具体实施方式
以下结合附图对本发明的原理和特征进行描述,所举实例只用于解释本发明,并非用于限定本发明的范围。
如图1所示为本发明提供的一种基于点云的高精度方向箭头提取方法的流程图,由图1可知,该方法包括:
步骤1,获取方向箭头所在区域的地面点云数据。
步骤2,将地面点云数据进行正射投影到xy平面得到投影图。
xy平面为地理坐标系统高斯投影的平面,高程方向为z轴。
步骤3,将投影图旋转至与方向箭头所在道路一致的方向,将投影图分割出箭头前景和背景。
步骤4,将箭头前景与箭头的各个模板进行相似度计算,通过相似度最高的模板得到方向箭头的类型和初始角点坐标。
本发明提供的一种基于点云的高精度方向箭头提取方法,相对于手动在点云上绘制而言,该方法能极大提升箭头要素的提取效率,精度高;相对于深度学习提取方法而言,该方法不需要大量标注图片,节省时间与经济成本,并且可以作为深度学习提取结果发生漏检时的补充;能够高效、低耗费的自动提取路面方向箭头属性数据。
实施例1
本发明提供的实施例1为本发明提供的一种基于点云的高精度方向箭头提取方法的实施例,如图2所示为本发明提供的一种基于点云的高精度方向箭头提取方法的实施例的流程图。由图2可知,该方法包括:
步骤1,获取方向箭头所在区域的地面点云数据。
通过人工选择或者道路的视频或者图片数据计算确定方向箭头的定位点,根据定位点和区域大小确定所在区域,区域大小根据道路实际情况设置。
步骤1中对方向箭头的位置进行粗定位,只需保证地面点云数据完整的包含了方向箭头即可,由粗定位截取包含定位点的一定范围内的地面点云数据,需要时还可以对该地面点云数据进行中值滤波等处理。通过人工选择确定方向箭头的定位点时,可以通过人工交互的方式,人工选择一个点;由于采集点云的设备通常同时会装备摄像头进行视频或图片采集,因此还可以根据道路的视频或者图片数据计算确定方向箭头的定位点,此时根据道路特征人工设置算法规则确定。具体的,该区域大小的实施例可以为20m* 20m。
步骤2,将地面点云数据进行正射投影到xy平面得到投影图。
步骤2中得到的投影图的像素点强度为点云的反射强度值。
至少两个的点云落在同一像素点时,取至少两个的点云的反射强度平均值为像素点的强度值。
为满足高精度地图要求,投影分辨率可选为1cm* 1cm。
步骤3,将投影图旋转至与方向箭头所在道路一致的方向,将投影图分割出箭头前景和背景。
优选的,步骤3中确定道路的方向为投影图的频谱的两个峰值的连线方向。
由于投影图按高斯投影的坐标生成,而箭头方向都是沿道路方向,且后续需要与模板匹配,模板里箭头方向都是固定方向,因此,需要将投影图旋转到与道路方向一致。如图3所示为本发明实施例提供的一种点云正射投影图的频谱变换结果图,由于采集设备特点是沿道路纵方向上点云间隔比道路横方向大,且在小范围内稳定,因此在投影图的频谱上会出现峰值对,两峰值连线方向即为道路方向。
优选的,在进行频谱分析之前,还可以统计投影图灰度分布,做类似均衡化处理以突出方向箭头的对比度。
优选的,步骤3中将投影图分割出箭头前景和背景的过程包括:填充投影图的条带间的间隙,对填充后的投影图的图像进行自适应阈值分割得到箭头前景和背景。
由于点云沿道路纵方向上的间隔比横方向大的特点,因此投影图在道路纵方向上呈有规律的条带状,对此进行形态学操作,填充条带间的空隙,形态学操作用到的算子与条带状图片匹配,在道路纵方向上像素个数多,在道路横向上像素个数少。填充后得到的图像再进行自适应阈值分割,可分割出二值化的方向箭头前景和背景。如图4(a)-(c)分别为本发明实施例提供的方向箭头的投影图进行分割前、分割中和分割后的效果图。
步骤4,将箭头前景与箭头的各个模板进行相似度计算,通过相似度最高的模板得到方向箭头的类型和初始角点坐标。
步骤4中根据箭头前景与箭头的模板的图像的异或值求和的倒数计算箭头前景与箭头的模板的相似度。
具体的,对分割出来的箭头前景,取其最小包围盒,将模板缩放到与最小包围盒同样长度和宽度,再计算模板与所得最小包围盒的相似度。
步骤4之后还包括:
步骤5,依次对各个角点的位置进行迭代优化,前后两次优化角点的位置不发生变化时或者达到设定最大迭代次数时停止迭代。
对角点的位置进行优化的过程包括:
以角点为中心建立设定大小的优化区域,计算优化区域内与箭头前景的相似度最高的位置作为优化后的角点的位置。
步骤4所得的角点坐标是模板缩放后的坐标,与实际情况会存在偏差,需要进一步优化,取某一角点为中心的小范围区域,遍历该范围区域(遍历时其他角点位置不变),将角点围成的图形与前面分割得到的方向箭头进行相似度计算,相似度最高的位置作为该角点此次优化结果,按照这个方法依次优化每一个角点。所有角点优化完成后再次从第一个角点开始,迭代优化,当前后两次优化角点位置不发生变化时或者达到给定最大迭代次数后停止迭代,如图5所示为本发明实施例提供的一种角点优化示例图,图中小圆点表示待优化的角点,圆圈表示优化区域,该优化区域太大会导致各个角点位置发生交换,优化失败,取太小优化速度过慢,本发明提供的实施例中设定大小可以取3cm* 3cm。
优选的,步骤2中得到投影图时记录投影图的像素点和点云之间的对应关系;步骤4之后还包括:
步骤6,根据角点位置以及投影图的像素点和点云之间的对应关系反算点云坐标。
实施例2
本发明提供的实施例2为本发明提供的一种基于点云的高精度方向箭头提取系统的实施例,如图6所示为本发明提供的一种环境物联网的环境事件监测系统的实施例的结构框图,由图6可知,该系统包括:点云数据获取模块101、投影图确定模块102、箭头前景确定模块103和方向箭头确定模块 104。
点云数据获取模块101,获取方向箭头所在区域的地面点云数据。
投影图确定模块102,将地面点云数据进行正射投影到xy平面得到投影图。
箭头前景确定模块103,用于将投影图旋转至与方向箭头所在道路一致的方向,将投影图分割出箭头前景和背景。
方向箭头确定模块104,将箭头前景与箭头的各个模板进行相似度计算,通过相似度最高的模板得到方向箭头的类型和初始角点坐标。
本发明实施例还提供一种非暂态计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时实现以执行上述各实施例提供的基于点云的高精度方向箭头提取方法,例如包括:步骤1,获取方向箭头所在区域的地面点云数据;步骤2,将地面点云数据进行正射投影到xy平面得到投影图;步骤3,将投影图旋转至与方向箭头所在道路一致的方向,将投影图分割出箭头前景和背景;步骤4,将箭头前景与箭头的各个模板进行相似度计算,通过相似度最高的模板得到方向箭头的类型和初始角点坐标。
以上所述仅为本发明的较佳实施例,并不用以限制本发明,凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。

Claims (8)

1.一种基于点云的高精度方向箭头提取方法,其特征在于,所述方法包括:
步骤1,获取方向箭头所在区域的地面点云数据;
步骤2,将所述地面点云数据进行正射投影到xy平面得到投影图;
步骤3,将所述投影图旋转至与所述方向箭头所在道路一致的方向,将所述投影图分割出箭头前景和背景;
步骤4,将所述箭头前景与箭头的各个模板进行相似度计算,通过相似度最高的模板得到所述方向箭头的类型和初始角点坐标;
步骤5,依次对各个所述角点的位置进行迭代优化,前后两次优化所述角点的位置不发生变化时或者达到设定最大迭代次数时停止迭代,其中,对所述角点的位置进行优化的过程包括:
以所述角点为中心建立设定大小的优化区域,计算所述优化区域内与所述箭头前景的相似度最高的位置作为优化后的所述角点的位置。
2.根据权利要求1所述的方法,其特征在于,所述步骤1包括:
通过人工选择或者道路的视频或者图片数据计算确定所述方向箭头的定位点,根据所述定位点和区域大小确定所述所在区域,所述区域大小根据道路实际情况设置。
3.根据权利要求1所述的方法,其特征在于,所述步骤2中得到的所述投影图的像素点强度为点云的反射强度值;至少两个的所述点云落在同一所述像素点时,取所述至少两个的点云的反射强度平均值为所述像素点的强度值。
4.根据权利要求1所述的方法,其特征在于,所述步骤3中确定所述道路的方向为所述投影图的频谱的两个峰值的连线方向。
5.根据权利要求1所述的方法,其特征在于,所述步骤3中将所述投影图分割出箭头前景和背景的过程包括:填充所述投影图的条带间的间隙,对填充后的所述投影图的图像进行自适应阈值分割得到所述箭头前景和背景。
6.根据权利要求1所述的方法,其特征在于,所述步骤4中根据所述箭头前景与箭头的模板的图像的异或值求和的倒数计算所述箭头前景与箭头的模板的相似度。
7.根据权利要求1所述的方法,其特征在于,述步骤2中得到所述投影图时记录所述投影图的像素点和点云之间的对应关系;所述步骤4之后还包括:
步骤6,根据所述角点位置以及所述投影图的像素点和点云之间的对应关系反算点云坐标。
8.一种基于点云的高精度方向箭头提取系统,所述基于点云的高精度方向箭头提取系统实现如权利要求1至7中任一项所述的基于点云的高精度方向箭头提取方法,其特征在于,所述系统包括:
点云数据获取模块、投影图确定模块、箭头前景确定模块和方向箭头确定模块;
点云数据获取模块,用于获取方向箭头所在区域的地面点云数据;
投影图确定模块,用于将所述地面点云数据进行正射投影到xy平面得到投影图;
箭头前景确定模块,用于将所述投影图旋转至与所述方向箭头所在道路一致的方向,将所述投影图分割出箭头前景和背景;
方向箭头确定模块,用于将所述箭头前景与箭头的各个模板进行相似度计算,通过相似度最高的模板得到所述方向箭头的类型和初始角点坐标。
CN201911406244.9A 2019-12-31 2019-12-31 一种基于点云的高精度方向箭头提取方法及系统 Active CN111210456B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201911406244.9A CN111210456B (zh) 2019-12-31 2019-12-31 一种基于点云的高精度方向箭头提取方法及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201911406244.9A CN111210456B (zh) 2019-12-31 2019-12-31 一种基于点云的高精度方向箭头提取方法及系统

Publications (2)

Publication Number Publication Date
CN111210456A CN111210456A (zh) 2020-05-29
CN111210456B true CN111210456B (zh) 2023-03-10

Family

ID=70785899

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201911406244.9A Active CN111210456B (zh) 2019-12-31 2019-12-31 一种基于点云的高精度方向箭头提取方法及系统

Country Status (1)

Country Link
CN (1) CN111210456B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112037120A (zh) * 2020-07-31 2020-12-04 上海图森未来人工智能科技有限公司 3d点云数据中道路平面要素的标注方法和装置、存储介质

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105825203A (zh) * 2016-03-30 2016-08-03 大连理工大学 基于点对匹配和几何结构匹配的地面箭头标志检测与识别方法
CN109858374A (zh) * 2018-12-31 2019-06-07 武汉中海庭数据技术有限公司 高精度地图制作中箭头类标线自动提取方法和装置
CN110111414A (zh) * 2019-04-10 2019-08-09 北京建筑大学 一种基于三维激光点云的正射影像生成方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105825203A (zh) * 2016-03-30 2016-08-03 大连理工大学 基于点对匹配和几何结构匹配的地面箭头标志检测与识别方法
CN109858374A (zh) * 2018-12-31 2019-06-07 武汉中海庭数据技术有限公司 高精度地图制作中箭头类标线自动提取方法和装置
CN110111414A (zh) * 2019-04-10 2019-08-09 北京建筑大学 一种基于三维激光点云的正射影像生成方法

Also Published As

Publication number Publication date
CN111210456A (zh) 2020-05-29

Similar Documents

Publication Publication Date Title
EP3792901B1 (en) Ground mark extraction method, model training method, device and storage medium
JP6259928B2 (ja) 車線データの処理方法、装置、記憶媒体及び機器
CN111695486B (zh) 一种基于点云的高精度方向标志牌目标提取方法
CN108648169B (zh) 高压输电塔绝缘子缺陷自动识别的方法及装置
CN111652218A (zh) 文本检测方法、电子设备及计算机可读介质
CN111582054B (zh) 点云数据处理方法及装置、障碍物检测方法及装置
US20230005278A1 (en) Lane extraction method using projection transformation of three-dimensional point cloud map
CN111340749B (zh) 图像质量的检测方法、装置、设备及存储介质
Mousa et al. Building detection and regularisation using DSM and imagery information
CN111210456B (zh) 一种基于点云的高精度方向箭头提取方法及系统
CN117315406B (zh) 一种样本图像处理方法、装置及设备
CN112132845B (zh) 三维模型的单体化方法、装置、电子设备和可读介质
CN116342589B (zh) 一种跨视场划痕缺陷连续性检测方法和系统
CN112435274A (zh) 一种基于面向对象分割的遥感影像面状地物提取方法
CN117152071A (zh) 一种基于自动驾驶车辆的路面坑槽检测方法和装置
Oniga et al. Fast obstacle detection using U-disparity maps with stereo vision
CN115797533A (zh) 模型描边方法、装置、设备及存储介质
CN114882095A (zh) 一种基于轮廓匹配的物体高度在线测量方法
CN107392209B (zh) 一种提取线段的装置及方法
CN109388134B (zh) 用于识别车辆导航路径边界的方法和装置
CN114581890B (zh) 确定车道线的方法、装置、电子设备和存储介质
CN112562004B (zh) 图像映射参数生成方法、装置和计算机可读介质
Rhee et al. Split and merge approach for detecting multiple planes in a depth image
Arefi et al. Ridge based decomposition of complex buildings for 3D model generation from high resolution digital surface models
CN117152210B (zh) 基于动态观测视场角的图像动态追踪方法及相关装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant