CN111340846B - 一种多特征融合的抗遮挡目标跟踪方法 - Google Patents
一种多特征融合的抗遮挡目标跟踪方法 Download PDFInfo
- Publication number
- CN111340846B CN111340846B CN202010116429.2A CN202010116429A CN111340846B CN 111340846 B CN111340846 B CN 111340846B CN 202010116429 A CN202010116429 A CN 202010116429A CN 111340846 B CN111340846 B CN 111340846B
- Authority
- CN
- China
- Prior art keywords
- target
- tracking
- shielded
- hog
- feature
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/246—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/25—Fusion techniques
- G06F18/253—Fusion techniques of extracted features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Health & Medical Sciences (AREA)
- Computational Linguistics (AREA)
- Evolutionary Biology (AREA)
- Multimedia (AREA)
- Bioinformatics & Computational Biology (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Bioinformatics & Cheminformatics (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Image Analysis (AREA)
Abstract
本发明涉及一种多特征融合的抗遮挡目标跟踪方法,属于计算机视觉目标跟踪领域。该方法用于解决在运动目标跟踪过程中出现的目标遮挡问题。核心方法包括:通过平均峰相关能量评估跟踪置信度;使用多特征HOG特征和CN特征对目标进行描述;对每个特征分别评估其跟踪置信度用以确定每个特征的融合权重,得到对目标的融合跟踪置信度;通过融合跟踪置信度的大小以及相关响应峰值来判断目标的遮挡情况;根据遮挡情况动态调整特征模型的学习率更新模型。
Description
技术领域
本发明属于计算机视觉目标跟踪领域,涉及一种多特征融合的抗遮挡目标跟踪方法。
背景技术
随着计算机视觉技术的发展,运动目标跟踪也得到快速的发展。运动目标跟踪已广泛用以智能机器人,视频安全监控,工厂自动化,视频检索等领域。尽管近年来在运动目标跟踪方面取得了重大进展,但由于部分遮挡、变形、运动模糊、快速运动、照明变化、背景杂波和比例变化等因素的影响,如何提升运动目标跟踪的精确性仍然是一个有待改进和值得研究的问题。
在目标跟踪过程中,当目标对象出现快速运动、遮挡以及运动模糊等问题时,由于更新的比例模型误差的存在,相关滤波算法不能较准确地跟踪目标对象。对此,本发明在现有跟踪方法上进行改进。当跟踪过程中目标发生遮挡情况时,本发明通过跟踪响应置信度判断目标是否被遮挡,使用卡尔曼算法跟踪目标轨迹,在目标被严重遮挡时使用卡尔曼算法得到的结果对模型进行更新,解决KCF在目标遮挡时模型不更新的问题。对于特征权重的固定比例的问题,本发明提出一种多特征动态融合的方案。
发明内容
有鉴于此,本发明的目的在于提供一种多特征融合的抗遮挡目标跟踪方法。
为达到上述目的,本发明提供如下技术方案:
一种多特征融合的抗遮挡目标跟踪方法,该方法包括以下步骤:
S1:选择好跟踪目标后,提取目标区域的HOG特征和CN特征;
S2:计算当前帧HOG特征和CN特征的跟踪置信度Pcn,Phog以及按照权重融合后的跟踪置信度P;
S3:根据跟踪置信度P以及相关响应峰值gmax1和gmax2的大小调整跟踪模板学习率的大小;当最大响应gmax1和第二大响应gmax2的比值大于0.5时,跟踪置信度P小于等于θ1时说明目标被严重遮挡,不更新跟踪模板,即学习率为0,使用卡尔曼跟踪算法预测目标位置;当P大于θ1,小于等于θ2时说明目标被轻微遮挡,调小学习率;当P大于θ2时说明目标没有被遮挡,学习率不变;
S4:得到目标在当前帧的预测位置,把预测区域作为新的目标使用S3得到的学习率更新模型,如此直到视频序列为最后一帧图像。
可选的,所述S1中,HOG特征和CN特征的初始融合权重分别为0.5和0.5。
可选的,所述S2中,跟踪置信度公式(1)如下:
其中,P即是当前帧的跟踪置信度,MN是跟踪区域的大小,gmax是跟踪区域响应的最大值,gmin是跟踪区域响应的最小值,gm,n是在坐标(m,n)处的输出响应;
当前帧HOG特征和CN特征的融合权重由其对应的跟踪置信度Pcn,Phog确定,公式如下:
whog=1-wcn (3)
最终得到的融合后的响应结果如下:
gt=wt,cngt,cn+wt,hoggt,hog (4)。
可选的,所述S3中,当目标被遮挡时,gmax和平均峰相关能量APCE会发生明显的波动;使用gmax1、gmax2和APCE的值判断目标是否发生遮挡:
其中,θ1、θ2是判断跟踪置信度的阈值,当最大响应gmax1和第二大响应gmax2的比值大于 0.5时,跟踪置信度P小于等于θ1时说明目标被严重遮挡,当P大于θ1,小于等于θ2时说明目标被轻微遮挡,当P大于θ2时说明目标没有被遮挡;
当目标没被遮挡时,模型正常更新,能够正常学习目标样本;当目标被轻微遮挡,此时跟踪区域有部分正确目标及部分背景信息,减小学习率,能够学习目标样本信息并遏制背景信息的学习;当目标被严重遮挡时,不对模型更新,避免引入背景信息;通过下式更改学习率:
当目标没被遮挡或者被轻微遮挡时,使用公式(7)检测目标,对目标进行定位;当目标被严重遮挡时,利用卡尔曼预测机制对目标进行定位,保证目标在被遮挡期间的跟踪,当目标再次出现时可以保证再次检测到目标,成功的跟踪到目标;
本发明的有益效果在于:
HOG特征和CN特征都有各自的性质,当目标有遮挡或者图像的光强发生严重变化时,单独使用HOG特征或者CN特征的跟踪效果都不是很好。当目标出现遮挡时,仅仅使用HOG特征,会出现跟踪漂移现象,该特征不适合应对遮挡情况;当目标出现严重的光强变化时,仅仅使用CN特征就很容易跟踪失败,该特征不适合应对光强剧烈变化的情况。CN特征可以较好的应对目标的形变和尺度变化,HOG特征可以较好的应对光强变化,两者是互补的。本发明使用两种特征动态融合的方案,使得跟踪算法可以适用多种情况,提高了算的精确度和鲁棒性。
跟踪置信度的引入使得算法可以判断目标是否处于遮挡状态,从而动态调整模型的学习率。当目标没被遮挡时,模型正常更新,可以正常学习目标样本;当目标被轻微遮挡,此时跟踪区域有部分正确目标及部分背景信息,此时应减小学习率,仍然可以学习目标样本信息并且遏制了背景信息的学习;当目标被严重遮挡时,不对模型更新,避免引入背景信息。该方案提升了算法对目标被遮挡情况的精确度。
本发明的其他优点、目标和特征在某种程度上将在随后的说明书中进行阐述,并且在某种程度上,基于对下文的考察研究对本领域技术人员而言将是显而易见的,或者可以从本发明的实践中得到教导。本发明的目标和其他优点可以通过下面的说明书来实现和获得。
附图说明
为了使本发明的目的、技术方案和优点更加清楚,下面将结合附图对本发明作优选的详细描述,其中:
图1为本发明的流程框图。
具体实施方式
以下通过特定的具体实例说明本发明的实施方式,本领域技术人员可由本说明书所揭露的内容轻易地了解本发明的其他优点与功效。本发明还可以通过另外不同的具体实施方式加以实施或应用,本说明书中的各项细节也可以基于不同观点与应用,在没有背离本发明的精神下进行各种修饰或改变。需要说明的是,以下实施例中所提供的图示仅以示意方式说明本发明的基本构想,在不冲突的情况下,以下实施例及实施例中的特征可以相互组合。
其中,附图仅用于示例性说明,表示的仅是示意图,而非实物图,不能理解为对本发明的限制;为了更好地说明本发明的实施例,附图某些部件会有省略、放大或缩小,并不代表实际产品的尺寸;对本领域技术人员来说,附图中某些公知结构及其说明可能省略是可以理解的。
本发明实施例的附图中相同或相似的标号对应相同或相似的部件;在本发明的描述中,需要理解的是,若有术语“上”、“下”、“左”、“右”、“前”、“后”等指示的方位或位置关系为基于附图所示的方位或位置关系,仅是为了便于描述本发明和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此附图中描述位置关系的用语仅用于示例性说明,不能理解为对本发明的限制,对于本领域的普通技术人员而言,可以根据具体情况理解上述术语的具体含义。
如图1所示,对本发明的具体步骤作进一步的阐述。
S1:选择好跟踪目标后,提取目标区域的HOG特征和CN特征,初始融合权重分别为0.5 和0.5。
S2:计算当前帧HOG特征和CN特征的跟踪置信度Pcn,Phog以及按照权重融合后的跟踪置信度P;跟踪置信度公式(1)如下:
其中,P即是当前帧的跟踪置信度,MN是跟踪区域的大小,gmax是跟踪区域响应的最大值,gmin是跟踪区域响应的最小值,gm,n是在坐标(m,n)处的输出响应。
当前帧HOG特征和CN特征的融合权重由其对应的跟踪置信度Pcn,Phog确定,公式如下:
whog=1-wcn (3)
最终得到的融合后的响应结果如下:
gt=wt,cngt,cn+wt,hoggt,hog (4)
S3:根据跟踪置信度P以及相关响应峰值gmax1和gmax2的大小调整跟踪模板学习率的大小。当最大响应gmax1和第二大响应gmax2的比值大于0.5时,跟踪置信度P小于等于θ1时说明目标被严重遮挡,不更新跟踪模板,即学习率为0,使用卡尔曼跟踪算法预测目标位置;当P大于θ1,小于等于θ2时说明目标被轻微遮挡,调小学习率;当P大于θ2时说明目标没有被遮挡,学习率不变;本发明使用gmax1、gmax2和APCE的值判断目标是否发生遮挡:
当目标没被遮挡时,模型正常更新,可以正常学习目标样本;当目标被轻微遮挡,此时跟踪区域有部分正确目标及部分背景信息,此时应减小学习率,仍然可以学习目标样本信息并且遏制了背景信息的学习;当目标被严重遮挡时,不对模型更新,避免引入背景信息。通过下式更改学习率:
当目标没被遮挡或者被轻微遮挡时,使用公式(7)检测目标,对目标进行定位;当目标被严重遮挡时,利用卡尔曼预测机制对目标进行定位,可以保证目标在被遮挡期间的跟踪,当目标再次出现时可以保证再次检测到目标,成功的跟踪到目标。
S4:得到目标在当前帧的预测位置,把预测区域作为新的目标使用S3得到的学习率更新模型,如此直到视频序列为最后一帧图像。
最后说明的是,以上实施例仅用以说明本发明的技术方案而非限制,尽管参照较佳实施例对本发明进行了详细说明,本领域的普通技术人员应当理解,可以对本发明的技术方案进行修改或者等同替换,而不脱离本技术方案的宗旨和范围,其均应涵盖在本发明的权利要求范围当中。
Claims (1)
1.一种多特征融合的抗遮挡目标跟踪方法,其特征在于:该方法包括以下步骤:
S1:选择好跟踪目标后,提取目标区域的HOG特征和CN特征;
S2:计算当前帧HOG特征和CN特征的跟踪置信度Pcn,Phog以及按照权重融合后的跟踪置信度P;
S3:根据跟踪置信度P以及相关响应峰值gmax1和gmax2的大小调整跟踪模板学习率的大小;当最大响应gmax1和第二大响应gmax2的比值大于0.5时,跟踪置信度P小于等于θ1时说明目标被严重遮挡,不更新跟踪模板,即学习率为0,使用卡尔曼跟踪算法预测目标位置;当P大于θ1,小于等于θ2时说明目标被轻微遮挡,调小学习率;当P大于θ2时说明目标没有被遮挡,学习率不变;
θ1、θ2是判断跟踪置信度的阈值;
S4:得到目标在当前帧的预测位置,把预测区域作为新的目标使用S3得到的学习率更新模型,如此直到视频序列为最后一帧图像;
所述S1中,HOG特征和CN特征的初始融合权重分别为0.5和0.5;
所述S2中,跟踪置信度公式(1)如下:
其中,P即是当前帧的跟踪置信度,MN是跟踪区域的大小,gmax是跟踪区域响应的最大值,gmin是跟踪区域响应的最小值,gm,n是在坐标(m,n)处的输出响应;
当前帧HOG特征和CN特征的融合权重由其对应的跟踪置信度Pcn,Phog确定,公式如下:
whog=1-wcn (3)
最终得到的融合后的响应结果如下:
gt=wt,cngt,cn+wt,hoggt,hog (4)
所述S3中,当目标被遮挡时,gmax和平均峰相关能量APCE会发生明显的波动;使用gmax1、gmax2和APCE的值判断目标是否发生遮挡:
其中,θ1、θ2是判断跟踪置信度的阈值,当最大响应gmax1和第二大响应gmax2的比值大于0.5时,跟踪置信度P小于等于θ1时说明目标被严重遮挡,当P大于θ1,小于等于θ2时说明目标被轻微遮挡,当P大于θ2时说明目标没有被遮挡;
当目标没被遮挡时,模型正常更新,能够正常学习目标样本;当目标被轻微遮挡,此时跟踪区域有部分正确目标及部分背景信息,减小学习率,能够学习目标样本信息并遏制背景信息的学习;当目标被严重遮挡时,不对模型更新,避免引入背景信息;通过下式更改学习率:
当目标没被遮挡或者被轻微遮挡时,使用公式(7)检测目标,对目标进行定位;当目标被严重遮挡时,利用卡尔曼预测机制对目标进行定位,保证目标在被遮挡期间的跟踪,当目标再次出现时可以保证再次检测到目标,成功的跟踪到目标;
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010116429.2A CN111340846B (zh) | 2020-02-25 | 2020-02-25 | 一种多特征融合的抗遮挡目标跟踪方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010116429.2A CN111340846B (zh) | 2020-02-25 | 2020-02-25 | 一种多特征融合的抗遮挡目标跟踪方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111340846A CN111340846A (zh) | 2020-06-26 |
CN111340846B true CN111340846B (zh) | 2023-02-17 |
Family
ID=71183594
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010116429.2A Active CN111340846B (zh) | 2020-02-25 | 2020-02-25 | 一种多特征融合的抗遮挡目标跟踪方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111340846B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111968153A (zh) * | 2020-07-16 | 2020-11-20 | 新疆大学 | 基于相关滤波和粒子滤波的长时间目标跟踪方法及系统 |
CN113807250B (zh) * | 2021-09-17 | 2024-02-02 | 沈阳航空航天大学 | 一种抗遮挡和尺度自适应的低空空域飞行目标跟踪方法 |
Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2008008046A1 (en) * | 2006-07-11 | 2008-01-17 | Agency For Science, Technology And Research | Method and system for multi-object tracking |
WO2015163830A1 (en) * | 2014-04-22 | 2015-10-29 | Aselsan Elektronik Sanayi Ve Ticaret Anonim Sirketi | Target localization and size estimation via multiple model learning in visual tracking |
CN107644432A (zh) * | 2017-08-28 | 2018-01-30 | 浙江工业大学 | 基于Kalman目标预测多特征压缩融合的快速运动目标跟踪方法 |
CN108765470A (zh) * | 2018-06-17 | 2018-11-06 | 天津理工大学 | 一种针对目标遮挡改进的kcf跟踪算法 |
CN109285179A (zh) * | 2018-07-26 | 2019-01-29 | 昆明理工大学 | 一种基于多特征融合的运动目标跟踪方法 |
CN109754424A (zh) * | 2018-12-17 | 2019-05-14 | 西北工业大学 | 基于融合特征和自适应更新策略的相关滤波跟踪算法 |
CN110414439A (zh) * | 2019-07-30 | 2019-11-05 | 武汉理工大学 | 基于多峰值检测的抗遮挡行人跟踪方法 |
CN110555870A (zh) * | 2019-09-09 | 2019-12-10 | 北京理工大学 | 基于神经网络的dcf跟踪置信度评价与分类器更新方法 |
CN110660080A (zh) * | 2019-09-11 | 2020-01-07 | 昆明理工大学 | 一种基于学习率调整融合多层卷积特征的多尺度目标跟踪方法 |
AU2020100044A4 (en) * | 2020-01-10 | 2020-02-13 | Lin, Xichan Miss | Method of tracking of Surgical Target and Tool |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10242447B2 (en) * | 2016-09-08 | 2019-03-26 | Sony Corporation | Video processing system and method for deformation and occlusion resistant object tracking in video content |
-
2020
- 2020-02-25 CN CN202010116429.2A patent/CN111340846B/zh active Active
Patent Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2008008046A1 (en) * | 2006-07-11 | 2008-01-17 | Agency For Science, Technology And Research | Method and system for multi-object tracking |
WO2015163830A1 (en) * | 2014-04-22 | 2015-10-29 | Aselsan Elektronik Sanayi Ve Ticaret Anonim Sirketi | Target localization and size estimation via multiple model learning in visual tracking |
CN107644432A (zh) * | 2017-08-28 | 2018-01-30 | 浙江工业大学 | 基于Kalman目标预测多特征压缩融合的快速运动目标跟踪方法 |
CN108765470A (zh) * | 2018-06-17 | 2018-11-06 | 天津理工大学 | 一种针对目标遮挡改进的kcf跟踪算法 |
CN109285179A (zh) * | 2018-07-26 | 2019-01-29 | 昆明理工大学 | 一种基于多特征融合的运动目标跟踪方法 |
CN109754424A (zh) * | 2018-12-17 | 2019-05-14 | 西北工业大学 | 基于融合特征和自适应更新策略的相关滤波跟踪算法 |
CN110414439A (zh) * | 2019-07-30 | 2019-11-05 | 武汉理工大学 | 基于多峰值检测的抗遮挡行人跟踪方法 |
CN110555870A (zh) * | 2019-09-09 | 2019-12-10 | 北京理工大学 | 基于神经网络的dcf跟踪置信度评价与分类器更新方法 |
CN110660080A (zh) * | 2019-09-11 | 2020-01-07 | 昆明理工大学 | 一种基于学习率调整融合多层卷积特征的多尺度目标跟踪方法 |
AU2020100044A4 (en) * | 2020-01-10 | 2020-02-13 | Lin, Xichan Miss | Method of tracking of Surgical Target and Tool |
Non-Patent Citations (3)
Title |
---|
A Robust Tracking Algorithm Based on Feature Fusion and Occlusion Judgment;Cheng-Gang Gu等;《2018 IEEE 3rd International Conference on Image, Vision and Computing (ICIVC)》;20181018;16-20 * |
Large Margin Object Tracking with Circulant Feature Maps;Mengmeng Wang等;《2017 IEEE Conference on Computer Vision and Pattern Recognition (CVPR)》;20171109;4800-4808 * |
复杂道路场景下基于视频的车辆跟踪方法研究;胥中南;《中国优秀硕士学位论文全文数据库(信息科技辑)》;20190815;全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN111340846A (zh) | 2020-06-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110472496B (zh) | 一种基于目标检测与跟踪的交通视频智能分析方法 | |
CN110070074B (zh) | 一种构建行人检测模型的方法 | |
CN107545582B (zh) | 基于模糊逻辑的视频多目标跟踪方法及装置 | |
CN107516321B (zh) | 一种视频多目标跟踪方法及装置 | |
CN110361727A (zh) | 一种毫米波雷达多目标跟踪方法 | |
CN110569855B (zh) | 基于相关滤波与特征点匹配融合的长时间目标跟踪方法 | |
CN110084831A (zh) | 基于YOLOv3多伯努利视频多目标检测跟踪方法 | |
CN109285179A (zh) | 一种基于多特征融合的运动目标跟踪方法 | |
CN109434251B (zh) | 一种基于粒子滤波的焊缝图像跟踪方法 | |
CN111340846B (zh) | 一种多特征融合的抗遮挡目标跟踪方法 | |
CN105405151A (zh) | 基于粒子滤波和加权Surf的抗遮挡目标跟踪方法 | |
CN111260689A (zh) | 一种有效的置信度增强相关滤波视觉跟踪算法 | |
CN111582349B (zh) | 一种基于YOLOv3和核相关滤波改进的目标跟踪算法 | |
CN108846854A (zh) | 一种基于运动预测与多特征融合的车辆跟踪方法 | |
CN105631895A (zh) | 结合粒子滤波的时空上下文视频目标跟踪方法 | |
CN113192105B (zh) | 一种室内多人追踪及姿态估量的方法及装置 | |
CN111161324B (zh) | 一种基于自适应多模更新策略的目标跟踪方法 | |
CN105374049B (zh) | 一种基于稀疏光流法的多角点跟踪方法及装置 | |
CN108230355A (zh) | 目标跟踪及神经网络训练方法、装置、存储介质和电子设备 | |
CN111242985B (zh) | 基于马尔科夫模型的视频多行人追踪方法 | |
CN109035290A (zh) | 一种基于高置信度更新补充学习的跟踪算法 | |
CN113608663B (zh) | 一种基于深度学习和k-曲率法的指尖跟踪方法 | |
CN110717934B (zh) | 一种基于strcf的抗遮挡目标跟踪方法 | |
CN106780567B (zh) | 一种融合颜色和梯度直方图的免疫粒子滤波扩展目标跟踪方法 | |
CN109949344A (zh) | 一种基于颜色概率目标建议窗口的核相关滤波跟踪方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |