CN110516547B - 一种基于加权非负矩阵分解的套牌车辆检测方法 - Google Patents
一种基于加权非负矩阵分解的套牌车辆检测方法 Download PDFInfo
- Publication number
- CN110516547B CN110516547B CN201910666014.XA CN201910666014A CN110516547B CN 110516547 B CN110516547 B CN 110516547B CN 201910666014 A CN201910666014 A CN 201910666014A CN 110516547 B CN110516547 B CN 110516547B
- Authority
- CN
- China
- Prior art keywords
- images
- vehicle
- car
- image
- license plate
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/26—Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion
- G06V10/267—Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion by performing operations on regions, e.g. growing, shrinking or watersheds
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
- G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
- G06V20/584—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads of vehicle lights or traffic lights
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/60—Type of objects
- G06V20/62—Text, e.g. of license plates, overlay texts or captions on TV images
- G06V20/625—License plates
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Bioinformatics & Computational Biology (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Multimedia (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
一种基于加权非负矩阵分解的套牌车辆检测方法:设计的套牌车辆识别系统工作原理如下:首先,通过交通卡口处摄像头对过往车辆进行图像采集。其次,分割出图像中的车脸区域与车牌区域。再次,依据识别模型获取车牌信息。最后,比对数据库中车脸图像与采集车脸图像之间的相似性,并作出决策,即如果两幅图像车牌信息相同,但车脸图像不匹配,意味着采集图像中的车辆为套牌车。如果两幅图像车牌信息相同,车脸图像也匹配,意味着采集图像中车辆为正常车。如果数据库中没有包含该车牌信息,则不作任何决策。本方法为自动检测方法可以快速的识别套牌车,减少工作人员负担。
Description
技术领域
本发明属于模式识别与计算机视觉领域,特别涉及一种基于加权非负矩阵分解的套牌车辆检测方法。
背景技术
汽车数量的快速增长导致了套牌违法行为呈多发态势,许多交通卡口不得不增加摄像头对该违法行为加以监控。随着监控视频数量的大幅度增加,传统人工查看视频的方法因效率低下,已很难对发生的套牌违法行为作出及时处理,因此,设计一种套牌车辆自动检测方法是具有重要意义的。由于监控摄像头安装位置与角度的特殊性,车辆中仅仅车脸区域可以被采集到。很显然,车脸区域图像相对于整车图像包含更少的有效特征,给多类别车辆识别带来的一定困难。
发明内容
本发明的目的在于提供一种基于加权非负矩阵分解的套牌车辆检测方法,面对多类别车脸图像数据,基于非负矩阵分解思想,建立出描述图像中若干关键区域的特征基,如车栅、车灯和后视镜等,并通过特征基线性叠加对任意车脸图像做出准确描述,进而实现套牌车辆的自动检测。
一种基于加权非负矩阵分解的套牌车辆检测方法:设计的套牌车辆识别系统工作原理如下:首先,通过交通卡口处摄像头对过往车辆进行图像采集。其次,分割出图像中的车脸区域与车牌区域。再次,依据识别模型获取车牌信息。最后,比对数据库中车脸图像与采集车脸图像之间的相似性,并作出决策,即如果两幅图像车牌信息相同,但车脸图像不匹配,意味着采集图像中的车辆为套牌车。如果两幅图像车牌信息相同,车脸图像也匹配,意味着采集图像中车辆为正常车。如果数据库中没有包含该车牌信息,则不作任何决策。系统由图像采集和图像识别两部分组成,如图1所示。
其优点在于:
传统人工查看视频的方法因效率低下,已很难对发生的套牌违法行为作出及时处理,本方法为自动检测方法可以快速的识别套牌车,减少工作人员负担。
附图说明
图1为系统结构图。
图2为摄像头采集的车辆图像。
图3为车脸图像。
图4为车牌图像。
图5为车牌图像校正结果。
图6为车牌图像二值化结果。
图7不同光强下的车身颜色变化,情况(a)黄色(车)-白天。
图8不同光强下的车身颜色变化,情况(b)黄色(车)-黑夜。
具体实施方式
一种基于加权非负矩阵分解的套牌车辆检测方法,包括下列步骤:
1.图像采集。
利用交通卡口处的监控摄像头获取车辆图像,如图2所示。
为保证车主合法权益,这里将图中车辆部分关键信息用白色框遮挡,但实际图像识别技术是可以识别这部分的内容,下同。
2.车脸区域分割。
对大量车辆图像中车脸区域进行人工标注,而后,利用YOLO模型进行训练,获取模型参数,从而从图像中分割出车脸区域,如图3所示。
3.车牌区域分割。
与车脸图像分割类似,同样对大量车辆图像中的车牌区域进行人工标注,并利用YOLO模型进行训练,获取模型参数,从而从图像中分割出车牌区域,如图4所示。
4.车牌识别模型生成。
设计一种卷积神经网络模型作为车牌中的字符识别模型,该模型包含1个输入层(20×20像素大小图像),2个卷积层(卷积核大小均为3×3大小,卷积核数目分别为16与32),2个池化层(均进行2×2大小池化处理,选取最大值作为池化结果),1个Dropout层(将50%特征暂时从网络中舍弃),1个全连接层(神经元数目与特征向量维数相同,即32×10×10=3200),1个输出层(字符类别数目)。而后,对车牌上可能出现的字符进行训练,从而获得该卷积神经网络模型参数。
5.车牌识别。
5.1车牌校正。
受摄像头拍摄角度影响,采集的图像中车牌区域往往是带有一定倾斜性的,这里利用霍夫变换计算出图像需要旋转的角度,从而对车牌图像进行校正,校正结果如图5所示。
5.2二值化处理。
对校正后的车牌进行二值化处理,处理结果如图6所示。
5.3字符分割。
由于车牌中每个字符宽度占车牌宽度的比例是固定的,如表1所示,这里通过该比例关系对不同位置的字符进行分割。
表1不同字符区域所占车牌比例
字符序号 | 比例范围 |
1 | 0.02027~0.13513 |
2 | 0.13513~0.28378 |
3 | 0.33108~0.45945 |
4 | 0.45945~0.59459 |
5 | 0.59459~0.71621 |
6 | 0.71621~0.85135 |
7 | 0.85135~0.97972 |
5.4字符识别。
基于前述的第4部分车牌识别模型生成中训练得到的字符识别卷积神经网络模型,分别对每一个分割后的字符进行识别,从而可以得到车牌信息,“辽*JD93*”。
6.车脸比对。
6.1车脸图像初始特征提取。
车脸图像特征主要体现在车身颜色与局部区域形状上,但受外界光照环境影响,在不同时段对同一颜色车辆采集图像时,在图像中会体现出一定的颜色差异,如图7和8所示,因此,基于颜色特征的识别算法的有效性将会降低。基于以上分析,这里将更多关注图像的局部区域形状特征。
图7,情况(a)黄色(车)-白天。图8,情况(b)黄色(车)-黑夜。
在图像中,区域是由边缘围绕形成的,而图像边缘主要体现在具有方向性的高频信息上,因此,如何准确描述这些具有方向性的高频信息将成为初始特征提取的关键。方向梯度直方图(Histogram of Oriented Gradient,HOG)特征是通过计算和统计图像局部区域的梯度方向直方图而得到的,对边缘能够进行很好地描述,因此,这里将HOG特征作为车脸图像的初始特征。
首先,将分割后的车脸图像大小归一化为N×N像素。而后,对图像进行分块处理,每一块大小为M×M像素,相邻块覆盖T个像素宽度,因此,图像块的个数K可由式(1)得到。
在计算梯度方向直方图时,选择S个角度区间,从而可以得到车脸图像的初始特征Yx维度为n,这里,n=K×S。
6.2基于加权非负矩阵分解的特征基建立。
在建立的基图像时,负的元素值在数学上是可以解释的,但却缺乏实际意义,如图像中不可能出现负的像素值。因此,这里将采用非负矩阵分解思想来实现特征降维与特征基图像的建立,即给定一个非负矩阵Y,可将其近似分解成两个非负矩阵U与V的乘积,如式(2)所示。
Yn×m≈Un×rVr×m,s.t.uki,vij≥0 (2)。
这里,Y的列向量表示训练样本初始特征,即Y=[Y1 Y2 L Ym],m为训练样本个数,U的列向量表示特征基向量,V的列向量表示分解系数,即新的特征,1≤k≤n,1≤i≤r,1≤j≤m。进而可获得目标函数,如式(3)所示。
对于矩阵分解,除考虑矩阵的非负性以外,还应尽可能使分解更有利于车脸的准确识别,因此,需对分解加以额外的约束。
6.2.1特征基加权约束。车脸图像中,不同区域特征在识别时起的作用有所不同,因此,在分解时,描述不同区域的基向量所占的权重也应不同,这里将不同的特征基分配不同的权重系数,目标函数可改进为式(4)。
式中,U为基向量矩阵,Z为权重矩阵,V为系数矩阵。
6.2.2权重稀疏性约束。车脸识别过程中,通常只有一小部分特征基对图像分类产生重要影响,即能描述车脸关键区域信息的那些特征基。因此,对权重矩阵Z加以稀疏性约束是十分有必要的,从而目标函数可改进为式(5)。
根据压缩感知理论,求解矩阵的0范数为NP难问题,这里,可将求解矩阵Z的0范数改为求解矩阵Z的2范数,目标函数可改进为式(6)。
6.2.3聚类属性约束。在训练样本中,既存在具有相同类别的车脸图像,也存在具有不同类别的车脸图像,而分解后同一类别的车脸特征应该尽可能相似,而不同类别的车脸特征应具有较大差异性,基于以上分析,目标函数可进一步改进为式(7)。
式中,fa(V)与fe(V)分别为特征类内相似性与特征类间区分性的测度。
其中,特征类内相似性测度函数fa(V)推导过程如下:
这里,di为Y中第i类车脸样本数目,c为车脸样本类别数目。
fa(V)=||V-VA||2 (11)。
特征类间区分性测度函数fe(V)推导过程如下:
fe(V)=||VA-VB||2 (15)。
综上:目标函数(7)可进一步改进为式(16),最优分解结果通过式(17)求得。
其中,式(17)的求解是通过不断迭代优化获得的,具体迭代过程如下:
具体执行步骤:
Step 1:给定训练样本,并提取每一样本的初始特征向量,所有样本特征向量按列罗列,形成矩阵Y。此外,给出平衡因子α与β。
Step 2:给定初始化矩阵U(0),V(0),Z(0),矩阵所有元素均在0与1之间,设置最大迭代次数nmax,迭代误差阈值e,计数器初始化t=0。
Step 3:计数器自增t=t+1。
Step 4:求解式(16)的值J(U(t),V(t),Z(t))。
如果J(U(t),V(t),Z(t))<e或t>nmax,则进入Step 6。
否则进入Step.5。
Step 5:对U,Z,V中所有元素按一下规则进行迭代。
迭代后进入Step 3。
Step 6:迭代结束,得到最优解U*,V*,Z*。
6.3特征降维。
假设车脸图像的初始特征向量为Yq,这里基于提出的加权非负矩阵分解方法,对初始特征Yq进行降维处理,形成新的特征向量Vq,如式(18)所示。
Vq=((U*Z*)TU*Z*)-1(U*Z*)TYq (18)。
6.4特征比对。
分别给出两幅车脸图像,经过初始特征提取与降维后,得到它们的特征向量Vi和Vj,此外,给出相似度阈值g。如果两个特征向量的相似性度量d(Vi,Vj)大于阈值g,表明两幅车脸图像代表同一类车。反之,则代表不同类车。这里,特征相似性计算如式(19)所示。
7.结果融合与决策。
遍历车脸图像数据库中所有图像,决策方法如下:
(1)如果采集车脸图像的车牌信息与数据库中某车脸图像的车牌信息一致,但经过车脸图像比对后,两辆车不属于同一类,则可认为采集图像中的车辆为套牌车。
(2)如果采集车脸图像的车牌信息与数据库中某车脸图像的车牌信息一致,经过车脸图像比对后,两辆车属于同一类,则可认为采集图像中的车辆为正常车。
(3)如果采集车脸图像的车牌信息与数据库中任意车脸图像的车牌信息都不相同,可认为采集图像中的车辆没有备案,不予做任何决策。
Claims (2)
1.一种基于加权非负矩阵分解的套牌车辆检测方法:其特征在于包括下列步骤:首先,通过摄像头进行车辆图像采集;其次,分割出图像中的车脸区域与车牌区域;再次,获取车牌信息;最后进行车脸对比,比对数据库中车脸图像与采集车脸图像之间的相似性,并作出决策:如果两幅图像车牌相同,但车脸图像不匹配,意味着采集图像中的车辆为套牌车;如果两幅图像车牌信息相同,车脸图像也匹配,意味着采集图像中车辆为正常车;如果数据库中没有包含该车牌信息,则不作任何决策;
所述的车脸比对包括下列步骤:
1)车脸图像初始特征提取;
将HOG特征作为车脸图像的初始特征;首先,将分割后的车脸图像大小归一化为N×N像素;而后,对图像进行分块处理,每一块大小为M×M像素,相邻块覆盖T个像素宽度,因此,图像块的个数K由式(1)得到;
在计算梯度方向直方图时,选择S个角度区间,从而得到车脸图像的初始特征Yx维度为n,这里,n=K×S;
2)基于加权非负矩阵分解的特征基建立;
给定一个非负矩阵Y,将其分解成两个非负矩阵U与V的乘积,如式(2)所示;
Yn×m≈Un×rVr×m,s.t.uki,vij≥0 (2);
这里,Y的列向量表示训练样本初始特征,即Y=[Y1 Y2…Ym],m为训练样本个数,U的列向量表示特征基向量,V的列向量表示分解系数,1≤k≤n,1≤i≤r,1≤j≤m;进而获得目标函数,如式(3)所示;
2.1)特征基加权约束;
将不同的特征基分配不同的权重系数,目标函数改进为式(4);
式中:U为基向量矩阵,Z为权重矩阵,V为系数矩阵;
2.2)权重稀疏性约束;
对权重矩阵Z加以稀疏性约束,从而目标函数改进为式(5);
等价于求解矩阵Z的2范数,目标函数改进为式(6);
2.3)聚类属性约束;分解后同一类别的车脸特征应该尽可能相似,而不同类别的车脸特征应具有较大差异性,将目标函数进一步改进为式(7);
式中:fa(V)与fe(V)分别为特征类内相似性与特征类间区分性的测度;
fa(V)=||V-VA||2 (11);
fe(V)=||VA-VB||2 (15);
综上:目标函数(7)进一步改进为式(16),最优分解结果通过式(17)求得;
其中,式(17)的求解是通过不断迭代优化获得的;
3)特征降维;
假设车脸图像的初始特征向量为Yq,基于提出的加权非负矩阵分解方法,对初始特征Yq进行降维处理,形成新的特征向量Vq,如式(18)所示;
Vq=((U*Z*)TU*Z*)-1(U*Z*)TYq (18);
4)特征比对;
分别给出两幅车脸图像,经过初始特征提取与降维后,得到它们的特征向量Vi和Vj,此外,给出相似度阈值g;如果两个特征向量的相似性度量d(Vi,Vj)大于阈值g,表明两幅车脸图像代表同一类车;反之,则代表不同类车;这里,特征相似性计算如式(19)所示;
2.根据权利要求1所述的一种基于加权非负矩阵分解的套牌车辆检测方法,其特征在于下列步骤:
所述的式(17)的求解具体迭代过程如下:
Step 1:给定训练样本,并提取每一样本的初始特征向量,所有样本特征向量按列罗列,形成矩阵Y;此外,给出平衡因子α与β;
Step 2:给定初始化矩阵U(0),V(0),Z(0),矩阵所有元素均在0与1之间,设置最大迭代次数nmax,迭代误差阈值e,计数器初始化t=0;
Step 3:计数器自增t=t+1;
Step 4:求解式(16)的值J(U(t),V(t),Z(t));
如果J(U(t),V(t),Z(t))<e或t>nmax,则进入Step 6;
否则进入Step.5;
Step 5:对U,Z,V中所有元素按一下规则进行迭代;
迭代后进入Step 3;
Step 6:迭代结束,得到最优解U*,V*,Z*。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910666014.XA CN110516547B (zh) | 2019-07-23 | 2019-07-23 | 一种基于加权非负矩阵分解的套牌车辆检测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910666014.XA CN110516547B (zh) | 2019-07-23 | 2019-07-23 | 一种基于加权非负矩阵分解的套牌车辆检测方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110516547A CN110516547A (zh) | 2019-11-29 |
CN110516547B true CN110516547B (zh) | 2022-11-08 |
Family
ID=68623498
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910666014.XA Active CN110516547B (zh) | 2019-07-23 | 2019-07-23 | 一种基于加权非负矩阵分解的套牌车辆检测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110516547B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111243285A (zh) * | 2020-01-07 | 2020-06-05 | 南京甄视智能科技有限公司 | 黑暗环境下基于车灯图像识别的车辆套牌自动检测方法和系统 |
CN117373259B (zh) * | 2023-12-07 | 2024-03-01 | 四川北斗云联科技有限公司 | 高速公路车辆逃费行为识别方法、装置、设备和存储介质 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105930812A (zh) * | 2016-04-27 | 2016-09-07 | 东南大学 | 一种基于融合特征稀疏编码模型的车辆品牌类型识别方法 |
WO2018112900A1 (zh) * | 2016-12-23 | 2018-06-28 | 深圳先进技术研究院 | 一种车牌识别方法及装置、用户设备 |
CN108460328A (zh) * | 2018-01-15 | 2018-08-28 | 浙江工业大学 | 一种基于多任务卷积神经网络的套牌车检测方法 |
-
2019
- 2019-07-23 CN CN201910666014.XA patent/CN110516547B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105930812A (zh) * | 2016-04-27 | 2016-09-07 | 东南大学 | 一种基于融合特征稀疏编码模型的车辆品牌类型识别方法 |
WO2018112900A1 (zh) * | 2016-12-23 | 2018-06-28 | 深圳先进技术研究院 | 一种车牌识别方法及装置、用户设备 |
CN108460328A (zh) * | 2018-01-15 | 2018-08-28 | 浙江工业大学 | 一种基于多任务卷积神经网络的套牌车检测方法 |
Non-Patent Citations (2)
Title |
---|
基于多任务Faster R-CNN车辆假牌套牌的检测方法;陈朋等;《仪器仪表学报》;20171215(第12期);全文 * |
基于多分支卷积神经网络的车辆图像比对方法;蔡晓东等;《电视技术》;20161117(第11期);全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN110516547A (zh) | 2019-11-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109740478B (zh) | 车辆检测及识别方法、装置、计算机设备及可读存储介质 | |
CN107545239B (zh) | 一种基于车牌识别与车辆特征匹配的套牌检测方法 | |
Polishetty et al. | A next-generation secure cloud-based deep learning license plate recognition for smart cities | |
Tsai et al. | Vehicle detection using normalized color and edge map | |
CN109101924B (zh) | 一种基于机器学习的路面交通标志识别方法 | |
US7734097B1 (en) | Detecting objects in images with covariance matrices | |
Giannoukos et al. | Operator context scanning to support high segmentation rates for real time license plate recognition | |
Wang et al. | An effective method for plate number recognition | |
CN109918971B (zh) | 监控视频中人数检测方法及装置 | |
CN107194393B (zh) | 一种检测临时车牌的方法及装置 | |
Prates et al. | Brazilian license plate detection using histogram of oriented gradients and sliding windows | |
CN108932518B (zh) | 一种基于视觉词袋模型的鞋印图像特征提取及检索方法 | |
CN106778742B (zh) | 一种基于Gabor滤波器背景纹理抑制的车标检测方法 | |
CN110516547B (zh) | 一种基于加权非负矩阵分解的套牌车辆检测方法 | |
Nurhadiyatna et al. | Gabor filtering for feature extraction in real time vehicle classification system | |
CN114298948A (zh) | 基于PSPNet-RCNN的球机监控异常检测方法 | |
CN110516666B (zh) | 基于mser和isodata相结合的车牌定位方法 | |
CN106886771B (zh) | 基于模块化pca的图像主信息提取方法及人脸识别方法 | |
CN112115800A (zh) | 一种基于深度学习目标检测的车辆组合识别系统及方法 | |
Musaddid et al. | Improvement of character segmentation for indonesian license plate recognition algorithm using CNN | |
Theagarajan et al. | Physical features and deep learning-based appearance features for vehicle classification from rear view videos | |
CN107679467B (zh) | 一种基于hsv和sdalf的行人重识别算法实现方法 | |
CN108647679B (zh) | 一种基于车窗粗定位的车标识别方法 | |
Yazdian et al. | Automatic Ontario license plate recognition using local normalization and intelligent character classification | |
Chen et al. | Vehicle classification from traffic surveillance videos at a finer granularity |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |