CN106971155A - 一种基于高度信息的无人车车道场景分割方法 - Google Patents

一种基于高度信息的无人车车道场景分割方法 Download PDF

Info

Publication number
CN106971155A
CN106971155A CN201710170216.6A CN201710170216A CN106971155A CN 106971155 A CN106971155 A CN 106971155A CN 201710170216 A CN201710170216 A CN 201710170216A CN 106971155 A CN106971155 A CN 106971155A
Authority
CN
China
Prior art keywords
pixel
track
elevation information
pixel value
unmanned vehicle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201710170216.6A
Other languages
English (en)
Other versions
CN106971155B (zh
Inventor
程洪
郭智豪
杨路
林子彧
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
University of Electronic Science and Technology of China
Original Assignee
University of Electronic Science and Technology of China
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by University of Electronic Science and Technology of China filed Critical University of Electronic Science and Technology of China
Priority to CN201710170216.6A priority Critical patent/CN106971155B/zh
Publication of CN106971155A publication Critical patent/CN106971155A/zh
Application granted granted Critical
Publication of CN106971155B publication Critical patent/CN106971155B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Multimedia (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开了一种基于高度信息的无人车车道场景分割方法,先利用神经网络对车道图片进行编码、解码得到稠化特征图,再通过softmax分类器将稠化特征图中的像素点进行分类,得到基于像素点的车道场景分割图,最后利用基于高度信息的误差处理的校正,实现车辆道路区域和非道路区域的划分。这样减少分割时出现的噪声,以及由噪声带来的道路区域与非道路区域边界识别不明等问题。

Description

一种基于高度信息的无人车车道场景分割方法
技术领域
本发明属于场景分割技术领域,更为具体地讲,涉及一种基于高度信息的无人车车道场景分割方法。
背景技术
随着国家科技的迅猛发展,也带动了诸如无人车技术的提升,在无人车车载智能系统中起到关键作用的机器视觉领域占据着越来越重要的位置,而道路场景的分析与理解作为车载智能系统的重要内容自然成为了研究的热点。场景理解是基于图像分析的更深层次的物体识别,语义图像分割,最终要得到对应位置每个像素的分类结果,在未来计算机视觉将致力于在语义层面实现更加深刻的图像理解,不仅满足于识别出图像中的物体,还能给出图像标题进而讲出图像背后的场景内容。
在现有技术中,对于语义分割的经典做法是以某个像素点为中心取一个图像块,然后取图像块的特征作为样本去训练分类器。在测试阶段,同样的在测试图片上以每个像素点为中心采一个图像块进行分类,分类结果作为该像素点的预测值,最后实现像素的分类从而达到场景分割的目的。但这样对场景分割会出现较多噪声,且非道路区域与道路区域由于噪声的存在造成的边界不明。
发明内容
本发明的目的在于克服现有技术的不足,提供一种基于高度信息的无人车车道场景分割方法,通过高度信息的误差处理,实现车辆道路区域和非道路区域的划分。
为实现上述发明目的,本发明一种基于高度信息的无人车车道场景分割方法,其特征在于,包括以下步骤:
(1)、神经网络对车道图片进行编码、解码
将摄像头采集的车道图片输入神经网络,神经网络通过编码部分的卷积操作、池化操作对输入的车道图像进行特征提取得到稀疏特征图;通过解码部分的反卷积操作、反池化操作对特征图稠化,得到稠化特征图;
(2)、利用神经网络末端的softmax分类器将稠化特征图中的像素点进行分类,得到基于像素点的车道场景分割图;
(3)、对步骤(2)中的车道场景分割图进行基于高度信息的误差处理,得到最终车道场景分割图。
其中,所述的池化操作为:将车道图片划分为m*m的像素点区域,在每个像素点区域中记录最大像素值、第二大像素值的位置以及最大像素值和第二大像素值的位置关系;
所述的反池化操作为:根据最大像素值、第二大像素值的位置以及最大像素值和第二大像素值的位置关系,在对应位置处写入最大像素值和第二大像素值,其他位置置0。
进一步的,所述步骤(3)中,对车道场景分割图进行基于高度信息的误差处理的方法为:
(3.1)、将车道场景分割图从中间一分为二;
(3.2)、取车道场景分割图的下半部分图像,并从左到右,自上而下的遍历每个像素点,当遍历到第i行第j个像素点xi,j时,该像素点xi,j映射到实际空间中同一行右侧L距离处的像素点为xi,j+k,那么像素点xi,j与像素点xi,j+k之间的像素点为道路区域中的像素点,且xi,j为道路区域中左边车道边缘像素点;
同理,按照上述方法从右到左,自上而下的遍历每个像素点,得到右边车道边缘像素点yi',j'
(3.3)、根据左边车道边缘像素点xi,j和右边车道边缘像素点yi',j'确定一条车道直线xi,jyi',j'
(3.4)、判断车道直线xi,jyi',j'上的所有像素点的高度是否小于h,如果小于h,则该像素点置为道路区域,否则置为非道路区域。
本发明的发明目的是这样实现的:
本发明一种基于高度信息的无人车车道场景分割方法,先利用神经网络对车道图片进行编码、解码得到稠化特征图,再通过softmax分类器将稠化特征图中的像素点进行分类,得到基于像素点的车道场景分割图,最后利用基于高度信息的误差处理的校正,实现车辆道路区域和非道路区域的划分。这样减少分割时出现的噪声,以及由噪声带来的道路区域与非道路区域边界识别不明等问题。
附图说明
图1是本发明基于高度信息的无人车车道场景分割方法流程图;
图2为本发明深度神经网络中池化与反池化操作示意图;
图3是本发明基于高度信息的误差处理示意图。
具体实施方式
下面结合附图对本发明的具体实施方式进行描述,以便本领域的技术人员更好地理解本发明。需要特别提醒注意的是,在以下的描述中,当已知功能和设计的详细描述也许会淡化本发明的主要内容时,这些描述在这里将被忽略。
实施例
图1是本发明基于高度信息的无人车车道场景分割方法流程图。
在本实施例中,如图1所示,本发明一种基于高度信息的无人车车道场景分割方法,包括以下步骤:
S1、利用神经网络对车道图片进行编码
在本实施例中,利用车载摄像头采集车道图片,再将采集的车道图片输入神经网络,利用神经网络的编码部分的卷积操作、池化操作对输入的车道图像进行特征提取得到稀疏特征图。
在本实施例中,每一个卷积层的具体操作为:1)、用模板矩阵对图片像素矩阵进行矩阵移位相乘运算,即矩阵对应位置相乘最后求和;2)、按照1)所述的运算法则从左向右、自上而下完成对整个图片的遍历;
S2、利用神经网络对车道图片进行解码
在得到稀疏特征图后,利用神经网络的解码部分对稀疏特征图的反卷积操作、反池化操作对特征图稠化,得到稠化特征图。
池化操作为:建立2*2的像素点区域矩阵模板,用该矩阵模板对车道图像进行划窗——从左向右、自上而下的运算操作,在划窗过程中记录每个像素点区域中最大像素值、第二大像素值的位置以及最大像素值和第二大像素值的位置关系。也即实现遍历到的每个2*2像素区域变为1*1区域,保留其值为操作前2*2区域中像素点的最大值。
反池化操作为:根据最大像素值、第二大像素值的位置以及最大像素值和第二大像素值的位置关系,在对应位置处写入最大像素值和第二大像素值,其他位置置0,如图2所示。
这样通过增加第二大像素值的位置以及最大像素值和第二大像素值的位置关系,可以避免现有的反池化操作中仅仅只记录最大值位置,其他位置置0时所带来的误差。
S3、利用神经网络末端的softmax分类器将稠化特征图中的像素点进行分类,得到基于像素点的车道场景分割图;
S4、将基于像素点的车道场景分割图从中间一分为二,车道主要位于图像的下半部分,上半部分主要为远景和天空图像,不影响后续处理,因此在此处舍弃。
S5、取车道场景分割图的下半部分图像,并从左到右,自上而下的遍历每个像素点,当遍历到第i行第j个像素点xi,j时,该像素点xi,j映射到实际空间中同一行右侧L=10cm距离处的像素点为xi,j+k,那么像素点xi,j与像素点xi,j+k之间的像素点为道路区域中的像素点,且xi,j为道路区域中左边车道边缘像素点;
在本实施例中,如图3所示,像素点xi,j与像素点xi,j+k之间的像素点其实并不全是道路区域中的像素点,通常情况下由80%以上的像素点是道路区域内的像素点,因此还需要对这些像素点一一进行校正;
同理,按照上述方法从右到左,自上而下的遍历每个像素点,得到右边车道边缘像素点yi',j'
S6、根据左边车道边缘像素点xi,j和右边车道边缘像素点yi',j'确定一条车道直线xi,jyi',j'
在本实施例中,道路区域内的像素点的高度应该小于5cm的,因为道路高度一般是很低的,基于这一点,我们需要判断车道直线xi,jyi',j'上的所有像素点的高度是否小于h=5cm,如果小于h,则该像素点置为道路区域,否则置为非道路区域。
S7、按照步骤S5、S6描述的高度信息的误差处理方法处理完下半部分图像中所有像素点后,就可以得到最终车道场景分割图。
尽管上面对本发明说明性的具体实施方式进行了描述,以便于本技术领域的技术人员理解本发明,但应该清楚,本发明不限于具体实施方式的范围,对本技术领域的普通技术人员来讲,只要各种变化在所附的权利要求限定和确定的本发明的精神和范围内,这些变化是显而易见的,一切利用本发明构思的发明创造均在保护之列。

Claims (3)

1.一种基于高度信息的无人车车道场景分割方法,其特征在于,包括以下步骤:
(1)、神经网络对车道图片进行编码、解码
将摄像头采集的车道图片输入神经网络,神经网络通过编码部分的卷积操作、池化操作对输入的车道图像进行特征提取得到稀疏特征图;通过解码部分的反卷积操作、反池化操作对特征图稠化,得到稠化特征图;
(2)、利用神经网络末端的softmax分类器将稠化特征图中的像素点进行分类,得到基于像素点的车道场景分割图;
(3)、对步骤(2)中的车道场景分割图进行基于高度信息的误差处理,得到最终车道场景分割图。
2.根据权利要求1所述的基于高度信息的无人车车道场景分割方法,其特征在于,所述的池化操作为:建立m*m的像素点区域矩阵模板,用该矩阵模板对车道图像进行划窗——从左向右、自而下的运算操作,在划窗过程中记录每个像素点区域中最大像素值、第二大像素值的位置以及最大像素值和第二大像素值的位置关系;
所述的反池化操作为:根据最大像素值、第二大像素值的位置以及最大像素值和第二大像素值的位置关系,在对应位置处写入最大像素值和第二大像素值,其他位置置0。
3.根据权利要求1所述的基于高度信息的无人车车道场景分割方法,其特征在于,所述步骤(3)中,对车道场景分割图进行基于高度信息的误差处理的方法为:
(3.1)、将车道场景分割图从中间一分为二;
(3.2)、取车道场景分割图的下半部分图像,并从左到右,自上而下的遍历每个像素点,当遍历到第i行第j个像素点xi,j时,该像素点xi,j映射到实际空间中同一行右侧L距离处的像素点为xi,j+k,那么像素点xi,j与像素点xi,j+k之间的像素点为道路区域中的像素点,且xi,j为道路区域中左边车道边缘像素点;
同理,按照上述方法从右到左,自而下的遍历每个像素点,得到右边车道边缘像素点yi',j'
(3.3)、根据左边车道边缘像素点xi,j和右边车道边缘像素点yi',j'确定一条车道直线xi,jyi',j'
(3.4)、判断车道直线xi,jyi',j'上的所有像素点的高度是否小于h,如果小于h,则该像素点置为道路区域,否则置为非道路区域。
CN201710170216.6A 2017-03-21 2017-03-21 一种基于高度信息的无人车车道场景分割方法 Active CN106971155B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201710170216.6A CN106971155B (zh) 2017-03-21 2017-03-21 一种基于高度信息的无人车车道场景分割方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710170216.6A CN106971155B (zh) 2017-03-21 2017-03-21 一种基于高度信息的无人车车道场景分割方法

Publications (2)

Publication Number Publication Date
CN106971155A true CN106971155A (zh) 2017-07-21
CN106971155B CN106971155B (zh) 2020-03-24

Family

ID=59329931

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710170216.6A Active CN106971155B (zh) 2017-03-21 2017-03-21 一种基于高度信息的无人车车道场景分割方法

Country Status (1)

Country Link
CN (1) CN106971155B (zh)

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108062754A (zh) * 2018-01-19 2018-05-22 深圳大学 基于密集网络图像的分割、识别方法和装置
CN108764137A (zh) * 2018-05-29 2018-11-06 福州大学 基于语义分割的车辆行驶车道定位方法
CN109190752A (zh) * 2018-07-27 2019-01-11 国家新闻出版广电总局广播科学研究院 基于深度学习的全局特征和局部特征的图像语义分割方法
CN109389046A (zh) * 2018-09-11 2019-02-26 昆山星际舟智能科技有限公司 用于自动驾驶的全天候物体识别与车道线检测方法
CN109784402A (zh) * 2019-01-15 2019-05-21 中国第一汽车股份有限公司 基于多层次特征融合的快速无人车驾驶场景分割方法
CN110088766A (zh) * 2019-01-14 2019-08-02 京东方科技集团股份有限公司 车道线识别方法、车道线识别装置以及非易失性存储介质
CN110148170A (zh) * 2018-08-31 2019-08-20 北京初速度科技有限公司 一种应用于车辆定位的定位初始化方法及车载终端
CN110874564A (zh) * 2018-09-04 2020-03-10 斯特拉德视觉公司 分类车线后补像素检测车线的方法及装置
CN111428688A (zh) * 2020-04-16 2020-07-17 成都旸谷信息技术有限公司 基于mask矩阵的车辆的行驶车道智能识别方法、系统
CN112488221A (zh) * 2020-12-07 2021-03-12 电子科技大学 一种基于动态刷新正样本图像库的道路路面异常检测方法
CN113392682A (zh) * 2020-03-13 2021-09-14 富士通株式会社 车道线识别装置及方法、电子设备

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103577790A (zh) * 2012-07-26 2014-02-12 株式会社理光 道路转弯类型检测方法和装置
CN105373777A (zh) * 2015-10-30 2016-03-02 中国科学院自动化研究所 一种用于人脸识别的方法及装置
CN105488534A (zh) * 2015-12-04 2016-04-13 中国科学院深圳先进技术研究院 交通场景深度解析方法、装置及系统
CN105550699A (zh) * 2015-12-08 2016-05-04 北京工业大学 一种基于cnn融合时空显著信息的视频识别分类方法
CN105574550A (zh) * 2016-02-02 2016-05-11 北京格灵深瞳信息技术有限公司 一种车辆识别方法及装置
US9436895B1 (en) * 2015-04-03 2016-09-06 Mitsubishi Electric Research Laboratories, Inc. Method for determining similarity of objects represented in images
WO2016141282A1 (en) * 2015-03-04 2016-09-09 The Regents Of The University Of California Convolutional neural network with tree pooling and tree feature map selection
CN105956532A (zh) * 2016-04-25 2016-09-21 大连理工大学 一种基于多尺度卷积神经网络的交通场景分类方法
CN106022384A (zh) * 2016-05-27 2016-10-12 中国人民解放军信息工程大学 基于fMRI视觉功能数据DeconvNet的图像关注目标语义分割方法
CN106355643A (zh) * 2016-08-31 2017-01-25 武汉理工大学 一种高速公路三维实景道路模型的生成方法

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103577790A (zh) * 2012-07-26 2014-02-12 株式会社理光 道路转弯类型检测方法和装置
WO2016141282A1 (en) * 2015-03-04 2016-09-09 The Regents Of The University Of California Convolutional neural network with tree pooling and tree feature map selection
US9436895B1 (en) * 2015-04-03 2016-09-06 Mitsubishi Electric Research Laboratories, Inc. Method for determining similarity of objects represented in images
CN105373777A (zh) * 2015-10-30 2016-03-02 中国科学院自动化研究所 一种用于人脸识别的方法及装置
CN105488534A (zh) * 2015-12-04 2016-04-13 中国科学院深圳先进技术研究院 交通场景深度解析方法、装置及系统
CN105550699A (zh) * 2015-12-08 2016-05-04 北京工业大学 一种基于cnn融合时空显著信息的视频识别分类方法
CN105574550A (zh) * 2016-02-02 2016-05-11 北京格灵深瞳信息技术有限公司 一种车辆识别方法及装置
CN105956532A (zh) * 2016-04-25 2016-09-21 大连理工大学 一种基于多尺度卷积神经网络的交通场景分类方法
CN106022384A (zh) * 2016-05-27 2016-10-12 中国人民解放军信息工程大学 基于fMRI视觉功能数据DeconvNet的图像关注目标语义分割方法
CN106355643A (zh) * 2016-08-31 2017-01-25 武汉理工大学 一种高速公路三维实景道路模型的生成方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
孔佑磊: "低分辨率人脸识别技术及其应用", 《中国优秀硕士学位论文全文数据库 信息科技辑》 *
范泽: "复杂背景下基于深度学习的并行手势识别系统", 《中国优秀硕士学位论文全文数据库 信息科技辑》 *

Cited By (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108062754B (zh) * 2018-01-19 2020-08-25 深圳大学 基于密集网络图像的分割、识别方法和装置
CN108062754A (zh) * 2018-01-19 2018-05-22 深圳大学 基于密集网络图像的分割、识别方法和装置
CN108764137A (zh) * 2018-05-29 2018-11-06 福州大学 基于语义分割的车辆行驶车道定位方法
CN109190752A (zh) * 2018-07-27 2019-01-11 国家新闻出版广电总局广播科学研究院 基于深度学习的全局特征和局部特征的图像语义分割方法
CN109190752B (zh) * 2018-07-27 2021-07-23 国家新闻出版广电总局广播科学研究院 基于深度学习的全局特征和局部特征的图像语义分割方法
CN110148170A (zh) * 2018-08-31 2019-08-20 北京初速度科技有限公司 一种应用于车辆定位的定位初始化方法及车载终端
CN110874564B (zh) * 2018-09-04 2023-08-04 斯特拉德视觉公司 分类车线后补像素检测车线的方法及装置
CN110874564A (zh) * 2018-09-04 2020-03-10 斯特拉德视觉公司 分类车线后补像素检测车线的方法及装置
CN109389046A (zh) * 2018-09-11 2019-02-26 昆山星际舟智能科技有限公司 用于自动驾驶的全天候物体识别与车道线检测方法
WO2020146980A1 (zh) * 2019-01-14 2020-07-23 京东方科技集团股份有限公司 车道线识别方法、车道线识别装置以及非易失性存储介质
CN110088766B (zh) * 2019-01-14 2023-10-03 京东方科技集团股份有限公司 车道线识别方法、车道线识别装置以及非易失性存储介质
CN110088766A (zh) * 2019-01-14 2019-08-02 京东方科技集团股份有限公司 车道线识别方法、车道线识别装置以及非易失性存储介质
US11430226B2 (en) 2019-01-14 2022-08-30 Boe Technology Group Co., Ltd. Lane line recognition method, lane line recognition device and non-volatile storage medium
CN109784402A (zh) * 2019-01-15 2019-05-21 中国第一汽车股份有限公司 基于多层次特征融合的快速无人车驾驶场景分割方法
CN113392682A (zh) * 2020-03-13 2021-09-14 富士通株式会社 车道线识别装置及方法、电子设备
CN111428688B (zh) * 2020-04-16 2022-07-26 成都旸谷信息技术有限公司 基于mask矩阵的车辆的行驶车道智能识别方法、系统
CN111428688A (zh) * 2020-04-16 2020-07-17 成都旸谷信息技术有限公司 基于mask矩阵的车辆的行驶车道智能识别方法、系统
CN112488221B (zh) * 2020-12-07 2022-06-14 电子科技大学 一种基于动态刷新正样本图像库的道路路面异常检测方法
CN112488221A (zh) * 2020-12-07 2021-03-12 电子科技大学 一种基于动态刷新正样本图像库的道路路面异常检测方法

Also Published As

Publication number Publication date
CN106971155B (zh) 2020-03-24

Similar Documents

Publication Publication Date Title
CN106971155A (zh) 一种基于高度信息的无人车车道场景分割方法
CN109815886B (zh) 一种基于改进YOLOv3的行人和车辆检测方法及系统
Song et al. Lane detection and classification for forward collision warning system based on stereo vision
CN104298976B (zh) 基于卷积神经网络的车牌检测方法
CN109255350B (zh) 一种基于视频监控的新能源车牌检测方法
CN105005771A (zh) 一种基于光流点轨迹统计的车道线实线的检测方法
CN104392212A (zh) 一种基于视觉的道路信息检测及前方车辆识别方法
CN111209780A (zh) 车道线属性检测方法、装置、电子设备及可读存储介质
CN104573627A (zh) 基于二值图像的车道线保留与检测算法
CN109919883B (zh) 一种基于灰度转换的交通视频数据获取方法
CN112489054A (zh) 一种基于深度学习的遥感图像语义分割方法
Chang et al. Fast road segmentation via uncertainty-aware symmetric network
CN104700072A (zh) 基于车道线历史帧的识别方法
CN108171695A (zh) 一种基于图像处理的高速公路路面检测方法
CN107705254B (zh) 一种基于街景图的城市环境评估方法
Chen et al. An intelligent framework for spatio-temporal vehicle tracking
CN109726717A (zh) 一种车辆综合信息检测系统
CN104599511B (zh) 一种基于背景建模的车流量检测方法
CN111160205A (zh) 一种交通场景嵌入式多类目标端对端统一检测方法
CN106897677A (zh) 一种车辆特征分类检索系统和方法
Wang et al. The research on edge detection algorithm of lane
CN114821069A (zh) 融合富尺度特征的双分支网络遥感图像建筑语义分割方法
CN108229354A (zh) 车道线检测的方法
CN110969164A (zh) 基于深度学习端对端的低照度成像车牌识别方法及装置
CN115393587A (zh) 基于融合卷积神经网络的高速公路沥青路面病害感知方法

Legal Events

Date Code Title Description
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant