CN101751676B - 影像侦测方法及其系统 - Google Patents

影像侦测方法及其系统 Download PDF

Info

Publication number
CN101751676B
CN101751676B CN200810185642A CN200810185642A CN101751676B CN 101751676 B CN101751676 B CN 101751676B CN 200810185642 A CN200810185642 A CN 200810185642A CN 200810185642 A CN200810185642 A CN 200810185642A CN 101751676 B CN101751676 B CN 101751676B
Authority
CN
China
Prior art keywords
image
edge
mobile object
edge line
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN200810185642A
Other languages
English (en)
Other versions
CN101751676A (zh
Inventor
汤灿泰
林志伟
石明于
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Industrial Technology Research Institute ITRI
Original Assignee
Industrial Technology Research Institute ITRI
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Industrial Technology Research Institute ITRI filed Critical Industrial Technology Research Institute ITRI
Priority to CN200810185642A priority Critical patent/CN101751676B/zh
Publication of CN101751676A publication Critical patent/CN101751676A/zh
Application granted granted Critical
Publication of CN101751676B publication Critical patent/CN101751676B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

一种影像侦测方法及其系统。影像侦测方法包括以下步骤:撷取一原始影像,建立原始影像的一移动物体影像,建立原始影像的一边缘直线影像,边缘直线影像包括数条边缘直线,依据对应于移动物体影像的部份边缘直线的长度、平行度及间距,判断原始影像中是否具有一移动的机械性物体影像。

Description

影像侦测方法及其系统
技术领域
本发明是有关于一种影像侦测方法及其系统。 
背景技术
随着摄影机的普及,在各公共场所经常可见摄影机的架设。摄影机所拍摄下的监控影片有助于警方进行犯罪侦察。 
过去实务上,警方必须在庞大资料中不眠不休地检视,以查寻移动车辆出现时间与相关线索,相当地旷日费时。 
并且,在各场所的摄影机规格及功能各异,且车辆行进角度与方向完全不同,造成监控影片搜寻上的困难。 
此外,除了搜寻车辆以外,在其它的情况下,亦可能需要搜寻类似车辆的移动物体,例如是机场停机坪的飞机、机场大厅的行李或运动场上的投掷飞镖等等。 
因此,如何研发一种影像侦测方法及其系统,以快速且正确的搜寻出目标物,实为目前研究方展的一重要方向。 
发明内容
本发明的目的在于提供一种影像侦测方法及其系统,其利用边缘直线的长度、平行度及间距,来判断移动物体影像是否为一移动的机械性物体影像。使得影像侦测的速度及准确性可以大幅地提升。 
为实现上述目的,根据本发明的技术,提供一影像侦测方法实施范例。影像侦测方法包括以下步骤。撷取一原始影像。建立原始影像的一移动物体影像。建立原始影像的一边缘直线影像,边缘直线影像包括数条边缘直线。依据对应于移动物体影像的部份边缘直线的长度、平行度及间距,判断原始影像是否具有一移动的机械性物体影像。 
根据本发明的技术,提出一影像侦测系统实施范例。影像侦测系统包 括一影像撷取单元、一移动物体影像建立单元、一边缘直线影像建立单元及一判断单元。影像撷取单元用以撷取一原始影像。移动物体影像建立单元用以建立原始影像的一移动物体影像。边缘直线影像建立单元用以建立原始影像的一边缘直线影像,边缘直线影像包括数条边缘直线。判断单元用以依据对应于移动物体影像的部份边缘直线的长度、平行度及间距,判断原始影像是否具有一移动的机械性物体影像。 
本发明的影像侦测方法及其系统具有多项优点,以下仅列举部分优点说明如下: 
第一、由于本发明是依据每一角度的边缘直线来做评分,所以在摄影机角度改变或机械性物体的移动角度或方向改变时,仍可获得正确的结果。 
第二、由于本发明是针对边缘直线来做评分,所以即使车辆的车头或车尾被遮蔽时,仍可获得正确的结果。 
第三、由于本发明是针对移动物体来做评分,所以不会将静止于路旁的车辆纳入评分,可以正确地剔除静止的车辆。 
第四、原始影像经由梯度影像建立单元的滤波器转换成梯度影像后,可以通过梯度特征来对抗剧烈的光影变化,例如摄影机的白平衡、环境光源等切换因素,如此可大幅提高判断的正确性。 
第五、除了搜寻车辆以外,在其它的情况下,亦可应用本发明的影像侦测方法及其系统来搜寻各种移动的机械性物体,例如是机场停机坪的飞机、机场大厅的行李或运动场上的飞镖等等。 
附图说明
图1是本发明较佳实施例的影像侦测系统的方块图。 
图2是本发明一实施例的影像侦测方法的流程图。 
图3是图2的步骤S102的细部流程图。 
图4是图1的移动物体影像建立单元的方块图。 
图5是图2的步骤S103的细部流程图。 
图6是图1的边缘直线影像建立单元的方块图。 
图7是一移动物体的边缘直线的示意图。 
图8A是法角θ为θ1的边缘直线L10~L13的法距与长度的关系图。 
图8B是法角θ为θ2的边缘直线L20~L22的法距与长度的关系图。 
图9是本发明另一实施例的影像侦测系统的方块图。 
图10是朝一方向及角度行进的完整车辆的原始影像。 
图11是朝另一方向及角度行进的完整车辆的原始影像。 
图12是车辆的车尾部分的原始影像。 
图13是车辆的车头部分的原始影像。 
图14是行人的原始影像。 
附图中主要组件符号说明 
100、200:影像侦测系统 
110:影像撷取单元 
130:移动物体影像建立单元 
131:背景模型建立单元 
132:前景影像建立单元 
133:连接单元 
140:边缘直线影像建立单元 
141:边缘线影像建立单元 
142:边缘角影像建立单元 
143:切割单元 
150:判断单元 
220:梯度影像建立单元 
L10~L13、L20~L22:边缘直线 
P10:原始影像 
P20:梯度影像 
P30:移动物体影像 
P31:背景模型 
P32:前景影像 
P40:边缘直线影像 
P41:边缘线影像 
P42:边缘角影像 
P50:移动的机械性物体影像 
S101~S104、S1021~S1023、S1031~S1033:流程步骤 
【实施方式】 
为使本发明的内容能更明显易懂,以下特举实施例并配合附图作详细说明。 
请参照图1,其显示依据本发明技术的一实施范例影像侦测系统100的方块图。影像侦测系统100包括一影像撷取单元110、一移动物体影像建立单元130、一边缘直线影像建立单元140及一判断单元150。影像撷取单元110用以撷取一原始影像P10。影像撷取单元110例如是一摄影机、一照相机或一多媒体数据传输端口。移动物体影像建立单元130用以建立原始影像P10的一移动物体影像P30。所以,原始影像P10经过移动物体影像建立单元130的分析后,可以清楚地的知道原始影像P10的哪些区块是移动物体。边缘直线影像建立单元140用以建立原始影像P10的边缘直线影像P40。所以,原始影像P10经过边缘直线影像建立单元140的分析后,可以清楚地显示出原始影像P10上所有的边缘直线(包含移动物体及非移动物体的边缘直线)。 
接着,将移动物体影像P30及边缘直线影像P40传递至判断单元150并经过合并后,即可获得对应于移动物体的边缘直线。然后,判断单元150则依据对应于移动物体的边缘直线的长度、平行度及间距,判断原始影像P10是否具有移动的机械性物体P50。移动的机械性物体P50例如是车辆、行李或飞机等具有大量平行直线的物体。行人或宠物等不具有大量平行直线的物体,则不属于机械性物体。其中,移动物体影像建立单元130、边缘直线影像建立单元140及判断单元150可以是一芯片、一固件电路或一具有数字程序代码的储存媒体。移动物体影像建立单元130、边缘直线影像建立单元140及判断单元150的实施汰样并不局限本发明的范围。 
通过上述各种组件的运作,可以轻易地侦测出原始影像P10中是否具有机械性物体P50,并适合于各种应用。例如在犯罪侦察过程中,需要在大量原始影像P10中寻找车辆数据。通过上述影像侦测系统100,即可快速的挑选出含有车辆的特定片段,以加快警方寻找车辆数据的速度。或者, 上述影像侦测系统100亦可应用于车流量的统计分析。或者,上述影像侦测系统100亦可应用于停车场车道门禁管理上。或者,上述影像侦测系统100亦可用来侦测机场停机坪上的飞机、机场大厅的行李或运动场上的投掷飞镖等等。 
至于本实施例上述影像侦测系统100的细部组成组件及各个组件的运作方式,以下配合一流程图说明如下: 
请同时参照图1、图2,图2显示本发明一实施例的影像侦测方法的流程图。首先,在图2的步骤S101中,以影像撷取单元110撷取原始影像P10。 
接着,在图2的步骤S102中,以移动物体影像建立单元130建立出原始影像P10的移动物体影像P30。步骤S102包括数个子步骤S1021~S1023,请同时参照图3及图4,图3显示图2的步骤S102的细部流程图。图4显示图1的移动物体影像建立单元130的方块图。其中,本实施例的移动物体影像建立单元130包括一背景模型建立单元131、一前景影像建立单元132及一连接单元133。 
首先,在图3的步骤S1021中,以背景模型建立单元131依据一段时间的历史数据建立一背景模型P31。背景模型P31关乎侦测的稳定度(Robustness)与效率(Efficiency),其中本实施例所采用的算法是高斯混合模型(Gaussian mixture model,GMM)。 
接着,在图3的步骤S1022中,前景影像建立单元132依据原始影像P10及背景模型P31,建立出一前景影像P32。其中前景影像建立单元132是判断原始影像P10中的各个像素是否接近于背景模型P31,若差距过高,则将此像素归类于前景影像P32中。 
然后,在图3的步骤S1023中,连接单元133依据前景影像P32,连接前景影像P32中的各个像素,以连接出完整体型态的移动物体影像P30,未被连接的像素则表示为可去除的杂点。 
接着,图2的步骤S103中,以边缘直线影像建立单元140建立原始影像P10的边缘直线影像P40。步骤S103包括数个子步骤S1031~S1033,请同时参照图5及图6,图5显示图2的步骤S103的细部流程图,图6显示图1的边缘直线影像建立单元140的方块图。其中,本实施例的边缘 直线影像建立单元140包括一边缘线影像建立单元141、一边缘角影像建立单元142及一切割单元143。 
首先,在图5的步骤S1031中,边缘线影像建立单元141依据原始影像P10建立出数边缘线影像P41。 
接着,在图5的步骤S1032中,边缘角影像建立单元142依据原始影像P10建立出数个边缘角影像P42。 
然后,在图5的步骤S1033中,切割单元143依据边缘线影像P41及边缘角影像P42,切割出边缘直线影像P40。 
接着,在图2的步骤S104中,判断单元150依据对应于移动物体的边缘直线的长度、平行度及间距,判断原始影像P10是否具有移动的机械性物体。举例来说,请参照图7,其显示一移动物体的边缘直线的示意图。在图7中,移动物体具有边缘直线L11~L13、L20~L22。其中边缘直线L10~L13为相平行的直线,且边缘直线L10~L13之中,边缘直线L10最长。边缘直线L20~L22为相互平行的直线,且边缘直线L20~L22之中,边缘直线L20最长。每一边缘直线可以法距r、法角θ及长度w表示。请参照表1及图8A、图8B,表1显示边缘直线L10~L13、L20~L22的法距r、法角θ及长度w,图8A显示法角θ为θ1的边缘直线L10~L13的法距r与长度w的关系图,图8B显示法角θ为θ2的边缘直线L20~L22的法距r与长度w的关系图。 
表1 
    i   法距r   法角θ   长度w
  边缘直线L10     rθ1,max   θ1   wθ1,max
  边缘直线L11   1   rθ1,1   θ1   wθ1,1
  边缘直线L12   2   rθ1,2   θ1   wθ1,2
  边缘直线L13   3   rθ1,3   θ1   wθ1,3
  边缘直线L20     rθ2,max   θ2   wθ2,max
  边缘直线L21   1   rθ2,1   θ2   wθ2,1
  边缘直线L22   2   rθ2,2   θ2   wθ2,2
在本实施例中,判断单元150依据相互平行的边缘直线L10~L13的相对长度及相对间距,以及相互平行的边缘直线L20~L23的相对长度及相对间距,来计算一评分。通过此一评分即可评断此移动物体是否为具有大量平行直线的机械性物体。
举例来说,判断单元150是以一可信度函数H(r,θ,w)来计算评分,若 
Figure DEST_PATH_GSB00000628371000011
越大,则表示相互平行的边缘直线的相对长度越长;若 
Figure DEST_PATH_GSB00000628371000012
越大,则表示相互平行的边缘直线的相对间距越宽;总和各组相对长度及相对间距的乘积则可表示出所有平行的边缘直线的多寡、相对长度及相对间距的程度。 
所以,每一移动物体经过可信度函数H(r,θ,w)的评分后,分数越大的,则表示越接近机械性物体。 
请参照图10,其显示朝一方向及角度行进的完整车辆的原始影像P10,图10的可信度函数H(r,θ,w)的评分为21.24。 
请参照图11,其显示朝另一方向及角度行进的完整车辆的原始影像P10,图11的可信度函数H(r,θ,w)的评分为15.65。 
请参照图12,其显示车辆的车尾部分的原始影像P10,图12的可信度函数H(r,θ,w)的评分为19.84。 
请参照图13,其显示车辆的车头部分的原始影像P10,图13的可信度函数H(r,θ,w)的评分为13.19。 
请参照图14,其显示行人的原始影像P10。图14的可信度函数H(r,θ,w)的评分为1.30。 
从图10~14可知,车辆的可信度函数值均远高于行人的可信度函数值。 
从图10~11、14可知,车辆朝向不同方向及不同角度行进时,其可信度函数H(r,θ,w)的评分均远高于行人的可信度函数H(r,θ,w)的评分。 
从图10~11、14可知,在车辆的在原始影像P10上的大小不同时,其可信度函数H(r,θ,w)的评分均远高于行人的可信度函数H(r,θ,w)的评分。 
从附图12~14可知,当车辆的车头或车尾被遮蔽(尤其是在车头灯或车尾灯被遮蔽)时,其可信度函数H(r,θ,w)的评分均远高于行人的可信度函数H(r,θ,w)的评分。 
请参照图9,其显示依据本发明技术的另一实施范例影像侦测系统200的方块图。本实施例的影像侦测系统200与第一实施例的影像侦测系统100不同之处在于本实施例的影像侦测系统200还包括一梯度影像建立单元220,梯度影像建立单元220用以建立原始影像P10的一梯度影像P20,其于相同之处不再重述。 
本实施例的移动物体影像建立单元130及边缘直线影像建立单元140是依据梯度影像P20建立出移动物体影像P30及边缘直线影像P40。然而,在其它实施例中,移动物体影像建立单元130及边缘直线影像建立单元140亦可以采用其它信息进行方式,例如是色彩信息影像等。本实施例仅以梯度影像P20的分析为例做说明,并非用以局限本发明。 
其中,在移动物体影像建立单元130中,为了减少摄影机白平衡、阳光所产生的阴影等光影变化,本实施例将梯度影像P20的垂直梯度值、水平梯度值与交叉梯度值加入背景模型影像建立单元131的高斯混合模型。 
并且,在边缘直线影像建立单元140中,边缘线建立单元141依据梯度影像P20的水平梯度值及垂直梯度值建立出原始影像P10的边缘线影像P41。而边缘角影像建立单元142则依据梯度影像P20的水平梯度值及垂直梯度值建立出原始影像P10的边缘角影像P42。 
综上所述,虽然本发明已以较佳实施例描述如上,然其并非用以限定本发明。本领域技术人员在不脱离本发明的精神和范围内,当可作各种更动与润饰。因此,本发明的保护范围应当以申请的权利要求范围所界定的内容为准。 

Claims (18)

1.一种影像侦测方法,包括:
撷取一原始影像;
建立该原始影像的一移动物体影像;
建立该原始影像的一边缘直线影像,该边缘直线影像包括复数条边缘直线;以及
依据所述复数条边缘直线中对应于该移动物体影像的边缘直线的长度、平行度及间距,判断该原始影像是否具有一移动的机械性物体影像。
2.如权利要求1所述的影像侦测方法,其中,建立该移动物体影像的步骤是依据该原始影像的一梯度影像建立出该移动物体影像。
3.如权利要求2所述的影像侦测方法,其中,该梯度影像包含一水平梯度值、一垂直梯度值及一交叉梯度值。
4.如权利要求1所述的影像侦测方法,其中,建立该移动物体影像的步骤包括:
建立一背景模型;
建立出一前景影像;以及
依据该前景影像,连接出该移动物体影像。
5.如权利要求1所述的影像侦测方法,其中,建立该边缘直线影像的步骤是依据该原始影像的一梯度影像建立出该边缘直线影像。
6.如权利要求5所述的影像侦测方法,其中,该梯度影像包含一水平梯度值及一垂直梯度值。
7.如权利要求1所述的影像侦测方法,其中,建立该边缘直线影像的步骤包括:
建立该原始影像的一边缘线影像;
建立该原始影像的一边缘角影像;以及
依据该边缘线影像及该边缘角影像,切割出该边缘直线影像。
8.如权利要求1所述的影像侦测方法,其中,判断是否具有该移动的机械性物体影像的步骤是依据所述复数条边缘直线中对应于该移动物体影像的边缘直线中,各组相互平行的该些边缘直线的相对长度及相对间距,判断该移动物体影像是否为该移动的机械性物体影像。
9.如权利要求8所述的影像侦测方法,其中,判断是否具有该移动的机械性物体影像的步骤是总和所述复数条边缘直线中对应于该移动物体影像的边缘直线中,各组相互平行的该些边缘直线的相对长度及相对间距的乘积,以判断该移动物体影像是否为该移动的机械性物体影像。
10.一种影像侦测系统,包括:
一影像撷取单元,用以撷取一原始影像;
一移动物体影像建立单元,用以建立该原始影像的一移动物体影像;
一边缘直线影像建立单元,用以建立该原始影像的一边缘直线影像,该边缘直线影像包括复数条边缘直线;以及
一判断单元,用以依据所述复数条边缘直线中对应于该移动物体影像的边缘直线的长度、平行度及间距,判断该原始影像是否具有一移动的机械性物体影像。
11.如权利要求10所述的影像侦测系统,其中,该移动物体影像建立单元是依据该原始影像的一梯度影像建立出该移动物体影像。
12.如权利要求11所述的影像侦测系统,其中,该梯度影像包含一水平梯度值、一垂直梯度值及一交叉梯度值。
13.如权利要求10所述的影像侦测系统,其中,该移动物体影像建立单元包括:
一背景模型建立单元,用以建立一背景模型;
一前景影像建立单元,用以建立出一前景影像;以及
一连接单元,依据该前景影像,建立出该移动物体影像。
14.如权利要求10所述的影像侦测系统,其中,该边缘直线影像建立单元是依据该原始影像的一梯度影像建立出该边缘直线影像。
15.如权利要求14所述的影像侦测系统,其中,该梯度影像包含一水平梯度值及一垂直梯度值。
16.如权利要求10所述的影像侦测系统,其中,该边缘直线影像建立单元包括:
一边缘线影像建立单元,用以建立该原始影像的一边缘线影像;
一边缘角影像建立单元,用以建立该原始影像的一边缘角影像;以及
一切割单元,依据该边缘线影像及该边缘角影像,切割出该边缘直线影像。
17.如权利要求10所述的影像侦测系统,其中,该判断单元是依据所述复数条边缘直线中对应于该移动物体影像的边缘直线中,各组相互平行的该些边缘直线的相对长度及相对间距,判断该移动物体影像是否为该移动的机械性物体影像。
18.如权利要求10所述的影像侦测系统,其中,该判断单元是总和所述复数条边缘直线中对应于该移动物体影像的边缘直线中,各组相互平行的该些边缘直线的相对长度及相对间距的乘积,以判断该移动物体影像是否为该移动的机械性物体影像。
CN200810185642A 2008-12-17 2008-12-17 影像侦测方法及其系统 Active CN101751676B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN200810185642A CN101751676B (zh) 2008-12-17 2008-12-17 影像侦测方法及其系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN200810185642A CN101751676B (zh) 2008-12-17 2008-12-17 影像侦测方法及其系统

Publications (2)

Publication Number Publication Date
CN101751676A CN101751676A (zh) 2010-06-23
CN101751676B true CN101751676B (zh) 2012-10-03

Family

ID=42478619

Family Applications (1)

Application Number Title Priority Date Filing Date
CN200810185642A Active CN101751676B (zh) 2008-12-17 2008-12-17 影像侦测方法及其系统

Country Status (1)

Country Link
CN (1) CN101751676B (zh)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5621645A (en) * 1995-01-24 1997-04-15 Minnesota Mining And Manufacturing Company Automated lane definition for machine vision traffic detector
CN1980322A (zh) * 2005-12-07 2007-06-13 日产自动车株式会社 物体检测系统和物体检测方法
CN101211408A (zh) * 2006-12-29 2008-07-02 沈阳东软软件股份有限公司 车辆侧面图像识别方法及装置、车灯误识别检测和行驶安全预测方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5621645A (en) * 1995-01-24 1997-04-15 Minnesota Mining And Manufacturing Company Automated lane definition for machine vision traffic detector
CN1980322A (zh) * 2005-12-07 2007-06-13 日产自动车株式会社 物体检测系统和物体检测方法
CN101211408A (zh) * 2006-12-29 2008-07-02 沈阳东软软件股份有限公司 车辆侧面图像识别方法及装置、车灯误识别检测和行驶安全预测方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
JP特开平8-237642A 1996.09.13
周欣 等.汽车智能辅助驾驶系统中的单目视觉导航技术.《机器人》.2003,第25卷(第4期),第289-295页. *

Also Published As

Publication number Publication date
CN101751676A (zh) 2010-06-23

Similar Documents

Publication Publication Date Title
Zhang et al. CCTSDB 2021: a more comprehensive traffic sign detection benchmark
CN106935035B (zh) 基于ssd神经网络的违章停车车辆实时检测方法
CN107045784B (zh) 一种基于麦克风阵列的电子交警系统
US6363161B2 (en) System for automatically generating database of objects of interest by analysis of images recorded by moving vehicle
CN102096821B (zh) 基于复杂网络理论的强干扰环境下的车牌识别方法
US11386674B2 (en) Class labeling system for autonomous driving
Liu et al. A survey of vision-based vehicle detection and tracking techniques in ITS
CN105160309A (zh) 基于图像形态学分割及区域生长的三车道检测方法
CN103514448A (zh) 船形识别方法和系统
El-Halawany et al. Detecting road poles from mobile terrestrial laser scanning data
CN105321350A (zh) 套牌车检测方法及装置
CN103136528A (zh) 一种基于双边缘检测的车牌识别方法
CN103473785A (zh) 一种基于三值化图像聚类的快速多目标分割方法
CN105718912A (zh) 一种基于深度学习的车辆特征物检测方法
CN102103609A (zh) 一种信息检索方法及系统
CN102129559B (zh) 基于PrimalSketch算法的SAR图像目标检测方法
CN112149595A (zh) 一种利用无人机检测车道线及车辆违规的方法
CN109191492A (zh) 一种基于轮廓分析的智能视频黑烟车检测方法
Hu et al. Generalized image recognition algorithm for sign inventory
Zhou et al. Street-view imagery guided street furniture inventory from mobile laser scanning point clouds
CN101751676B (zh) 影像侦测方法及其系统
Liu et al. Background filtering and object detection with roadside LiDAR data
CN103559492A (zh) 一种车标识别装置及方法
CN115311458B (zh) 基于多任务学习的实时高速公路行人闯入事件检测方法
CN111145551A (zh) 一种基于cnn检测遵章率的路口交通规划系统

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant