CN102780847B - 一种针对运动目标的摄像机自动对焦控制方法 - Google Patents
一种针对运动目标的摄像机自动对焦控制方法 Download PDFInfo
- Publication number
- CN102780847B CN102780847B CN201210288584.8A CN201210288584A CN102780847B CN 102780847 B CN102780847 B CN 102780847B CN 201210288584 A CN201210288584 A CN 201210288584A CN 102780847 B CN102780847 B CN 102780847B
- Authority
- CN
- China
- Prior art keywords
- focusing
- target
- image
- moving target
- evaluation function
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Landscapes
- Automatic Focus Adjustment (AREA)
Abstract
本发明公开了一种针对运动目标的摄像机自动对焦控制方法,包括步骤:(1)采用基于背景剪除的运动目标检测算法对场景中运动目标位置区域进行标定;(2)在确定摄像机对焦区域及对焦目标后,采用基于目标灰度梯度的自动聚焦控制算法,实现对标定的运动目标进行摄像机镜头的自动聚焦;其中步骤(1)包括分步骤:(1.1)高斯平滑滤波预处理;(1.2)高斯背景模型建模;(1.3)目标前景区域提取;(1.4)高斯背景模型的更新;(1.5)目标前景区域数学形态学处理;其中步骤(2)包括分步骤:(2.1)提取运动目标对焦区域;(2.2)聚焦评价函数计算;(2.3)聚焦调节控制。
Description
技术领域
本发明属于安防监控的技术领域,具体涉及到一种针对运动目标的摄像机自动对焦控制方法。
背景技术
摄像机自动对焦技术是安防监控领域的关键技术,然而由于监控场景的复杂性,以及越来越多的可变焦摄像头应用,依靠在画面中设定对焦区域的传统摄像机自动对焦技术往往会造成重点关注目标聚焦模糊,目标的特征信息严重缺失,不能适应日益复杂的安防监控需求。
发明内容
本发明的技术解决问题是:克服现有技术的不足,提供一种对于监控场景的光线变化具有自适应能力、有效地提取重点运动目标、对重点目标的精确对焦、有力地保证安防监控的有效性、提高重点目标的细节特征信息、适应安防监控的复杂需求的针对运动目标的摄像机自动对焦控制方法。
本发明的技术解决方案是:这种针对运动目标的摄像机自动对焦控制方法,包括以下步骤:
(1)采用基于背景剪除的运动目标检测算法对场景中运动目标位置区域进行标定;
(2)在确定摄像机对焦区域及对焦目标后,采用基于目标灰度梯度的自动聚焦控制算法,实现对标定的运动目标进行摄像机镜头的自动聚焦;
其中步骤(1)包括以下分步骤:
(1.1)高斯平滑滤波预处理;
(1.2)高斯背景模型建模;
(1.3)目标前景区域提取;
(1.4)高斯背景模型的更新;
(1.5)目标前景区域数学形态学处理;
其中步骤(2)包括以下分步骤:
(2.1)提取运动目标对焦区域;
(2.2)聚焦评价函数计算;
(2.3)聚焦调节控制。
基于背景剪除的运动目标检测技术是智能监控的核心技术,通过对场景的学习,构建高斯背景模型,利用背景剪除技术提取对场景中运动目标,高斯背景模型具有自动更新能力,对于监控场景的光线变化具有自适应能力,同时,根据运动目标的大小,引入数学形态学图像处理技术可以去除非关注运动目标的干扰,有效地实现对重点运动目标的提取;将基于背景剪除的运动目标检测技术与摄像机自动对焦技术相结合,以获取重点运动目标区域为前提条件,实现对重点目标的精确对焦,可以有力地保证安防监控的有效性,提高重点目标的细节特征信息,适应安防监控的复杂需求。
附图说明
图1示出了根据本发明的针对运动目标的摄像机自动对焦控制方法的流程。
具体实施方式
如图1所示,这种针对运动目标的摄像机自动对焦控制方法包括以下步骤:
(1)采用基于背景剪除的运动目标检测算法对场景中运动目标位置区域进行标定;
(2)在确定摄像机对焦区域及对焦目标后,采用基于目标灰度梯度的自动聚焦控制算法,实现对标定的运动目标进行摄像机镜头的自动聚焦;
其中步骤(1)包括以下分步骤:
(1.1)高斯平滑滤波预处理;
(1.2)高斯背景模型建模;
(1.3)目标前景区域提取;
(1.4)高斯背景模型的更新;
(1.5)目标前景区域数学形态学处理;
其中步骤(2)包括以下分步骤:
(2.1)提取运动目标对焦区域;
(2.2)聚焦评价函数计算;
(2.3)聚焦调节控制。
分步骤(1.1)中以3x3高斯平滑滤波器对输入图像进行卷积来进行预处理,即:
Y=A*G (1)
式(1)、(2)中,A为输入图像,Y为高斯平滑滤波后的输出图像,G为3x3高斯平滑滤波器卷积模板,*表示2维卷积。
分步骤(1.2)中对场景背景连续采集n帧图像,提取各帧图像中的Y分量,通过这n帧连续图像的Y分量,建立一个关于Y分量初始背景的统计模型,在该模型中,对于图像中每一个点i,μi定义为第i点的Y分量的期望,定义为第i点Y分量分布的方差,高斯背景模型为:
式(3)中,n为初始背景模型建立所需连续图像帧数,t为连续帧计数,1≤t≤n,Yit为第t帧第i点象素亮度值。
分步骤(1.3)中利用高斯背景模型在当前帧图像进行对运动目标的提取,当前图像中点i的亮度值为Yi,前景区域提取为:
式(4)中,Yi为图像中第i点象素的Y分量,μi为第i点的Y分量的期望,σi为第i点Y分量分布的方差,β为设定的方差倍数,Di为提取结果,为二值图像,Di=1表示该点为前景点,Di=0表示该点为背景点。β参数本发明中设定为3.0。
分步骤(1.4)中场景变化符合高斯分布模型,利用当前帧图像信息对高斯背景模型进行更新:
式(5)、(6)中,yi(t)为第t帧图像中第i点的Y分量,μi(t)为第t帧时刻高斯背景模型中第i点的Y分量的期望,μi(t+1)为第t+1帧时刻高斯背景模型中第i点的Y分量的期望,σi(t)为第t帧时刻高斯背景模型中第i点Y分量分布的方差,σi(t+1)为第t+1帧时刻高斯背景模型中第i点Y分量分布的方差,Di为前景提取结果,Di=1表示该点为前景点,Di=0表示该点为背景点,α为更新速度,本发明中设定为0.02。
分步骤(1.5)中利用场景中欲关注运动目标大小的先验知识,对输入图像先进行腐蚀运算,去除场景对关注目标的噪声干扰;再进行膨胀运算,实现关注目标的重构;即:
输入图像A被结构元E腐蚀的运算过程为:
式(7)中,A为输入图像,E为腐蚀结构元,x为图像中的像素;输入图像A按结构元D膨胀的运算过程为:
式(8)中,A为输入图像,D为膨胀结构元,x为图像中的像素。
分步骤(2.1)中利用运动目标区域二值信息,在原始图像中提取该目标灰度信息,即:
式(9)中,Yi为当前图像中第i点像素亮度值,Di为当前图像中第i点前景及背景属性,Di=1表示该点为前景点,Di=0表示该点为背景点,n和m分别为图像宽度及高度,Si为通过高斯背景剪除算法在当前图像中提取的运动目标亮度值。
分步骤(2.2)中采用Sobel目标灰度梯度作为聚焦评价函数核心,实现对每次对焦过程的聚焦评价,聚焦评价函数F(k)为:
式(10)中,
式(11)中,Gx(i,j)和Gy(i,j)分别为X和Y方向上Sobel算子计算的图像梯度值,
Gx(i,j)=Yi+1,j-1|Yi+1,j+1 Yi-1,j-1 Yi-1,j+1|2×Yi+1,j 2×Yi-1,j (12)
Gy(i,j)=Yi-1,j+1+Yi+1,j+1-Yi-1,j-1-Yi+1,j-1+2×Yi,j+1-2×Yi,j-1 (13)
式(12)、(13)中,Gx(i,j)和Gy(i,j)分别为在图像(i,j)像素点位置上的X方向和Y方向上的Sobel算子梯度值,Yi,j为在图像(i,j)像素点位置上的亮度值。
分步骤(2.3)中采用Sobel目标灰度梯度聚焦评价函数,调整对焦过程中的调焦步长,以过峰搜索方式,逐步逼近最佳聚焦点,这种聚焦调节控制方法包括以下步骤:
(2.3.1)聚焦初始设置,设置初始调焦方向,计算当前聚焦评价函数F(k0),并生成聚焦评价函数值记录表;
(2.3.2)判定正确的调焦方向,沿初始调焦方向做小步长调焦,若聚焦评价函数F(k1)>F(k0),且F(k1)-F(k0)大于或等于设定阈值T0,说明初始调焦方向正确,执行步骤(2.3.3);若聚焦评价函数F(k1)>F(k0),且F(k1)-F(k0)小于设定阈值T0,继续以小步长沿该方向调焦,经n步后,F(kn)-F(k0)大于或等于设定阈值T0时,执行步骤(2.3.3);若F(k1)<F(k0),且F(k0)-F(k1)大于或等于设定阈值T0,说明初始设定调焦方向反向,修改调焦方向,执行步骤(2.3.3);
(2.3.3)大步长调焦,搜寻大步长聚焦评价函数下降点,沿调焦方向,以大步长调焦,找到聚焦评价函数下降点后,返回调焦过程中聚焦评价函数记录最大值点;
(2.3.4)沿大步长调焦方向,进行小步长微调,若聚焦评价函数上升,则小步长微调方向正确,否则,改变小步长微调方向;
(2.3.5)小步长调焦,搜寻小步长聚焦评价函数下降点,确定最佳聚焦点,以小步长微调方向继续以小步长进行微调,并找到聚焦评价函数下降点时,返回小步长微调过程中聚焦评价函数记录最大值点,该点即为最佳聚焦点。
以上所述,仅是本发明的较佳实施例,并非对本发明作任何形式上的限制,凡是依据本发明的技术实质对以上实施例所作的任何简单修改、等同变化与修饰,均仍属本发明技术方案的保护范围。
Claims (7)
1.一种针对运动目标的摄像机自动对焦控制方法,其特征在于,该方法包括以下步骤:
(1)采用基于背景剪除的运动目标检测算法对场景中运动目标位置区域进行标定;
(2)在确定摄像机对焦区域及对焦目标后,采用基于目标灰度梯度的自动聚焦控制算法,实现对标定的运动目标进行摄像机镜头的自动聚焦;
其中步骤(1)包括以下分步骤:
(1.1)高斯平滑滤波预处理;
(1.2)高斯背景模型建模;
(1.3)目标前景区域提取;
(1.4)高斯背景模型的更新;
(1.5)目标前景区域数学形态学处理;
其中步骤(2)包括以下分步骤:
(2.1)提取运动目标对焦区域;
(2.2)聚焦评价函数计算;
(2.3)聚焦调节控制;
分步骤(1.1)中以3x3高斯平滑滤波器对输入图像进行卷积来进行
预处理,即:
Y=A*G (1)
式(1)、(2)中,A为输入图像,Y为高斯平滑滤波后的输出图像,G为3x3高斯平滑滤波器卷积模板,*表示2维卷积;
分步骤(1.2)中对场景背景连续采集n帧图像,提取各帧图像中的Y分量,通过这n帧连续图像的Y分量,建立一个关于Y分量初始背景的统计模型,在该模型中,对于图像中每一个点i,μi定义为第i点的Y分量的期望,定义为第i点Y分量分布的方差,高斯背景模型为:
式(3)中,n为初始背景模型建立所需连续图像帧数,t为连续帧计数,1≤t≤n,Yit为第t帧第i点象素亮度值。
2.根据权利要求1所述的针对运动目标的摄像机自动对焦控制方法,其特征在于,分步骤(1.3)中利用高斯背景模型在当前帧图像进行对运动目标的提取,当前图像中点i的亮度值为Yi,前景区域提取为:
式(4)中,Yi为图像中第i点象素的Y分量,μi为第i点的Y分量的期望,σi为第i点Y分量分布的方差,β为设定的方差倍数,Di为提取结果,为二值图像,Di=1表示该点为前景点,Di=0表示该点为背景点。
3.根据权利要求2所述的针对运动目标的摄像机自动对焦控制方法,其特征在于,分步骤(1.4)中场景变化符合高斯分布模型,利用当前帧图像信息对高斯背景模型进行更新:
式(5)、(6)中,yi(t)为第t帧图像中第i点的Y分量,μi(t)为第t帧时刻高斯背景模型中第i点的Y分量的期望,μi(t+1)为第t+1帧时刻高斯背景模型中第i点的Y分量的期望,σi(t)为第t帧时刻高斯背景模型中第i点Y分量分布的方差,σi(t+1)为第t+1帧时刻高斯背景模型中第i点Y分量分布的方差,Di为前景提取结果,Di=1表示该点为前景点,Di=0表示该点为背景点,α为更新速度。
4.根据权利要求3所述的针对运动目标的摄像机自动对焦控制方法,其特征在于,分步骤(1.5)中利用场景中关注运动目标大小,对输入图像先进行腐蚀运算,去除场景对关注目标的噪声干扰;再进行膨胀运算,实现关注目标的重构;即:
输入图像A被结构元E腐蚀的运算过程为:
式(7)中,A为输入图像,E为腐蚀结构元,x为图像中的像素;
输入图像A按结构元D膨胀的运算过程为:
式(8)中,A为输入图像,D为膨胀结构元,x为图像中的像素。
5.根据权利要求1所述的针对运动目标的摄像机自动对焦控制方法,其特征在于,分步骤(2.1)中利用运动目标区域二值信息,在原始图像中提取该目标灰度信息,即:
式(9)中,Yi为当前图像中第i点像素亮度值,Di为当前图像中第i点前景及背景属性,Di=1表示该点为前景点,Di=0表示该点为背景点,n和m分别为图像宽度及高度,Si为通过高斯背景剪除算法在当前图像中提取的运动目标亮度值。
6.根据权利要求5所述的针对运动目标的摄像机自动对焦控制方法,其特征在于,分步骤(2.2)中采用Sobel目标灰度梯度作为聚焦评价函数核心,实现对每次对焦过程的聚焦评价,聚焦评价函数F(k)为:
式(10)中,
式(11)中,Gx(i,j)和Gy(i,j)分别为X和Y方向上Sobel算子计算的图像梯度值,
Gx(i,j)=Yi+1,j-1+Yi+1,j+1-Yi-1,j-1-Yi-1,j+1+2×Yi+1,j-2×Yi-1,j (12)
Gy(i,j)=Yi-1,j+1+Yi+1,j+1-Yi-1,j-1-Yi+1,j-1+2×Yi,j+1-2×Yi,j-1 (13)
式(12)、(13)中,Gx(i,j)和Gy(i,j)分别为在图像(i,j)像素点位置上的X方向和Y方向上的Sobel算子梯度值,Yi,j为在图像(i,j)像素点位置上的亮度值。
7.根据权利要求6所述的针对运动目标的摄像机自动对焦控制方法,其特征在于,分步骤(2.3)中采用Sobel目标灰度梯度聚焦评价函数,调整对焦过程中的调焦步长,以过峰搜索方式,逐步逼近最佳聚焦点,这种聚焦调节控制方法包括以下步骤:
(2.3.1)聚焦初始设置,设置初始调焦方向,计算当前聚焦评价函数F(k0),并生成聚焦评价函数值记录表;
(2.3.2)判定正确的调焦方向,沿初始调焦方向做小步长调焦,若聚焦评价函数F(k1)>F(k0),且F(k1)-F(k0)大于或等于设定阈值T0,说明初始调焦方向正确,执行步骤(2.3.3);若聚焦评价函数F(k1)>F(k0),且F(k1)-F(k0)小于设定阈值T0,继续以小步长沿该方向调焦,经n步后,F(kn)-F(k0)大于或等于设定阈值T0时,执行步骤(2.3.3);若F(k1)<F(k0),且F(k0)-F(k1)大于或等于设定阈值T0,说明初始设定调焦方向反向,修改调焦方向,执行步骤(2.3.3);
(2.3.3)大步长调焦,搜寻大步长聚焦评价函数下降点,沿调焦方向,以大步长调焦,找到聚焦评价函数下降点后,返回调焦过程中聚焦评价函数记录最大值点;
(2.3.4)沿大步长调焦方向,进行小步长微调,若聚焦评价函数上升,则小步长微调方向正确,否则,改变小步长微调方向;
(2.3.5)小步长调焦,搜寻小步长聚焦评价函数下降点,确定最佳聚焦点,以小步长微调方向继续以小步长进行微调,并找到聚焦评价函数下降点时,返回小步长微调过程中聚焦评价函数记录最大值点,该点即为最佳聚焦点。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201210288584.8A CN102780847B (zh) | 2012-08-14 | 2012-08-14 | 一种针对运动目标的摄像机自动对焦控制方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201210288584.8A CN102780847B (zh) | 2012-08-14 | 2012-08-14 | 一种针对运动目标的摄像机自动对焦控制方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN102780847A CN102780847A (zh) | 2012-11-14 |
CN102780847B true CN102780847B (zh) | 2015-10-21 |
Family
ID=47125595
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201210288584.8A Active CN102780847B (zh) | 2012-08-14 | 2012-08-14 | 一种针对运动目标的摄像机自动对焦控制方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN102780847B (zh) |
Families Citing this family (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102970485B (zh) * | 2012-12-03 | 2018-03-02 | 广东欧珀移动通信有限公司 | 一种自动对焦方法及装置 |
CN104717418A (zh) * | 2013-12-16 | 2015-06-17 | 腾讯科技(深圳)有限公司 | 对焦方法、装置及电子设备 |
CN105243660B (zh) * | 2015-09-16 | 2017-10-31 | 浙江大学 | 一种含有光源场景的自动对焦图像的质量评价方法 |
CN105262954B (zh) * | 2015-11-17 | 2019-07-19 | 腾讯科技(深圳)有限公司 | 触发摄像头自动聚焦的方法和装置 |
CN106888352B (zh) * | 2015-12-16 | 2020-12-18 | 中兴通讯股份有限公司 | 一种推焦位置确定方法及装置 |
CN106296744A (zh) * | 2016-11-07 | 2017-01-04 | 湖南源信光电科技有限公司 | 一种结合自适应模型和多阴影属性的运动目标检测方法 |
CN106791663A (zh) * | 2016-12-28 | 2017-05-31 | 天津天地伟业生产力促进有限公司 | 一种基于背景建模的跟踪聚焦算法 |
CN107589513A (zh) * | 2017-10-17 | 2018-01-16 | 歌尔股份有限公司 | 光学模组组装方法及装置 |
CN108259753B (zh) * | 2018-02-28 | 2020-08-07 | 中国航空工业集团公司洛阳电光设备研究所 | 一种基于离焦估计改进爬山法的相机自动调焦方法及装置 |
CN109714530B (zh) * | 2018-12-25 | 2020-08-21 | 中国科学院长春光学精密机械与物理研究所 | 一种航空相机图像调焦方法 |
WO2021168707A1 (zh) * | 2020-02-26 | 2021-09-02 | 深圳市大疆创新科技有限公司 | 对焦方法、装置及设备 |
CN113438406B (zh) * | 2020-03-23 | 2023-03-14 | 浙江宇视科技有限公司 | 一种对焦方法、对焦装置及摄像装置 |
WO2022068466A1 (zh) * | 2020-09-30 | 2022-04-07 | 华为技术有限公司 | 自动聚焦方法、装置及摄像机 |
CN112363309B (zh) * | 2020-11-13 | 2023-02-17 | 杭州医派智能科技有限公司 | 一种用于显微镜下病理图像的自动寻焦方法和系统 |
CN117672222B (zh) * | 2024-01-31 | 2024-04-16 | 浙江大学滨江研究院 | 大语言模型驱动的显微镜控制方法、装置及电子设备 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101616310A (zh) * | 2009-07-17 | 2009-12-30 | 清华大学 | 可变视角及分辨率的双目视觉系统目标图像稳定化方法 |
CN102455568A (zh) * | 2010-10-28 | 2012-05-16 | 安讯士有限公司 | 用于对焦的方法 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101635835A (zh) * | 2008-07-25 | 2010-01-27 | 深圳市信义科技有限公司 | 智能视频监控方法及系统 |
CN101943839B (zh) * | 2010-07-06 | 2012-09-05 | 浙江大学 | 一体化的自动聚焦摄像机装置的自动聚焦方法 |
CN102404602A (zh) * | 2011-09-23 | 2012-04-04 | 浙江工业大学 | 一种基于清晰度测试卡的摄像机清晰度检测方法 |
CN102567992B (zh) * | 2011-11-21 | 2014-07-23 | 慈溪思达电子科技有限公司 | 遮挡区域的图像匹配方法 |
-
2012
- 2012-08-14 CN CN201210288584.8A patent/CN102780847B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101616310A (zh) * | 2009-07-17 | 2009-12-30 | 清华大学 | 可变视角及分辨率的双目视觉系统目标图像稳定化方法 |
CN102455568A (zh) * | 2010-10-28 | 2012-05-16 | 安讯士有限公司 | 用于对焦的方法 |
Also Published As
Publication number | Publication date |
---|---|
CN102780847A (zh) | 2012-11-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN102780847B (zh) | 一种针对运动目标的摄像机自动对焦控制方法 | |
CN111340844B (zh) | 基于自注意力机制的多尺度特征光流学习计算方法 | |
CN109714519B (zh) | 一种自动调整图像画面的方法和系统 | |
CN106534676B (zh) | 面向变焦摄像系统的自动聚焦调节方法 | |
US20170109868A1 (en) | Electronic Device And Method In An Electronic Device For Processing Image Data | |
CN110428463B (zh) | 非球面光学元件离焦模糊定中图像自动提取中心的方法 | |
CN105354817A (zh) | 一种噪声图像自动聚焦方法 | |
CN104794727B (zh) | 一种基于对称性的单透镜计算成像psf快速标定方法 | |
CN107995424A (zh) | 基于深度图的光场全聚焦图像生成方法 | |
CN103440662A (zh) | Kinect深度图像获取方法与装置 | |
CN107122732B (zh) | 一种监控场景下高鲁棒性的快速车牌定位方法 | |
CN106101588A (zh) | 全景图像渐晕现象的补偿方法 | |
CN109064505A (zh) | 一种基于滑动窗口张量提取的深度估计方法 | |
CN104966274B (zh) | 一种采用图像检测与区域提取的局部模糊复原方法 | |
CN106204617A (zh) | 基于残差图像直方图循环移位的自适应图像二值化方法 | |
CN111105346A (zh) | 基于峰值搜索和灰度模版配准的全扫描显微图像拼接方法 | |
CN103354599A (zh) | 一种应用于动光源场景的自动聚焦方法和装置 | |
CN106548471B (zh) | 粗精调焦的医学显微图像清晰度评价方法 | |
CN110619652A (zh) | 一种基于光流映射重复区域检测的图像配准鬼影消除方法 | |
CN102811309A (zh) | 产生浅景深图像的方法及装置 | |
CN104036517A (zh) | 一种基于梯度采样的图像抠图方法 | |
CN114757977A (zh) | 融合改进光流和目标检测网络的移动物体轨迹提取方法 | |
Chiu et al. | An efficient auto focus method for digital still camera based on focus value curve prediction model | |
CN112489064B (zh) | 一种基于边缘放缩修正的全景分割方法 | |
CN114283103A (zh) | 一种载人航天器ait过程超高清全景图像多景深融合技术 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant |