CN102800055B - 图像盲去模糊的低秩分解方法 - Google Patents

图像盲去模糊的低秩分解方法 Download PDF

Info

Publication number
CN102800055B
CN102800055B CN201210218612.9A CN201210218612A CN102800055B CN 102800055 B CN102800055 B CN 102800055B CN 201210218612 A CN201210218612 A CN 201210218612A CN 102800055 B CN102800055 B CN 102800055B
Authority
CN
China
Prior art keywords
image
low
iteration
matrix
fuzzy core
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201210218612.9A
Other languages
English (en)
Other versions
CN102800055A (zh
Inventor
王爽
焦李成
李源
梁冲
季佩媛
郑喆坤
白静
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Xidian University
Original Assignee
Xidian University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Xidian University filed Critical Xidian University
Priority to CN201210218612.9A priority Critical patent/CN102800055B/zh
Publication of CN102800055A publication Critical patent/CN102800055A/zh
Application granted granted Critical
Publication of CN102800055B publication Critical patent/CN102800055B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Abstract

本发明公开了一种图像盲去模糊的低秩分解方法,主要解决现有技术在图像盲去模糊时不能良好的恢复图像边缘和高频细节的问题。其实现过程为:(1)利用频域迭代法对模糊图像b进行预恢复,得到迭代图像和模糊核i=1,2,3...45;(2)对迭代图像i=1,2,3...45中的每幅图像做归一化处理,得到规范的迭代图像i=1,2,3...45;(3)将规范的迭代图像i=1,2,3...45中的每幅图像都拉成一列,按照i=1,2,3...45的顺序排成高维数据M;(4)计算高维数据M的低秩矩阵L;(5)把低秩矩阵L的每一列还原成图像,得到低秩图像ri,i=1,2,3...45;(6)对低秩图像ri,i=1,2,3...45做均值处理,得到最终清晰图像F。本发明能够充分利用每次迭代的图像信息,去除振铃效应,恢复出清晰且细节丰富的图像,可用于对各种模糊图像进行盲去模糊。

Description

图像盲去模糊的低秩分解方法
技术领域
本发明属于图像处理技术领域,具体地说是一种对模糊图像进行盲去模糊方法,该方法可用于对各种未知模糊类型的模糊图像进行去模糊。
背景技术
图像去模糊的目的是从观测到的模糊图像重新估计原始图像。图像去模糊的分为两大类:图像非盲去模糊和图像盲去模糊。如果图像的退化过程已知,即模糊核已知,则这类图像去模糊的问题称为图像非盲去模糊,这类问题已经研究的非常纯熟,现有很多技术可以得到非常清晰的解;如果图像的模糊核是未知的,则这类图像去模糊的问题称为图像盲去模糊。由于此类问题中图像可以利用的经验知识比较少,使得图像盲去模糊更加困难,但是此类问题更符合实际需求,因而图像盲去模糊问题成为现代研究的热点。
图像盲去模糊传统上分为参数法和迭代法两类算法。所谓参数法,即模型参数法,就是将模糊核和真实图像用某一类模型加以描述,但模型的参数需要进行辨识。在参数法中,典型的有先验模糊辨识和ARMA参数估计法。缺点是计算量太大,解非唯一以及估计算法往往不稳定,效果差。所谓的迭代法,不是通过建立模型而是通过算法的迭代过程,加上有关真实图像和模糊核的约束来辨识模糊核和真实图像的方法。迭代法是图像盲复原算法中应用最广泛的一类算法。比较经典的是Ayers和Dainty于1988年提出的基于单帧的迭代盲目去卷积方法。它用先验知识来对图像进行非负性限制,在每一次迭代中可以通过简单的逆滤波得到图像和模糊核的估计。但是这种图像算法古老,对噪声敏感,迭代时间也非常的长。
上述经典的盲去模糊方法不但效果差而且在实际应用中不能很好的实现,因此,目前国际上提出了一些改进上述缺点的图像盲去模糊方法。Rob Fergus等人提出基于图像梯度分布的贝叶斯方法,参见文章《Removing Camera shake from a SinglePhotograph》。这种方法分析了图像的梯度分布,用曲线对梯度分布进行拟合,先求出模糊核,再用经典的L-R迭代法进行图像的非盲复原。这种方法虽然在一定程度上能去除模糊,但是会产生严重的振铃效应,不能良好的恢复图像,且仅仅利用了一副图像的信息,恢复的图像细节信息不够。Dilip Krishman等人运用模糊核和图像的先验特性,用迭代求解的方式进行去模糊,参见文章《Blind Deconvolution Using aNormalized Sparsity Measure》。该方法能较好的恢复图像的边缘。但是,这种方法的求出的图像太过锐化,产生失真,并且这种方法也只是输出迭代中的最后一幅图像,不能有效的利用图像的全部信息,因此恢复结果缺少高频细节。
发明内容
本发明的目的在于克服上述已有技术的不足,提出基于低秩的图像盲去模糊方法,以更好的去除振铃效应和失真,获得更多的图像细节信息。
实现本发明目的的技术方案是:利用图像的先验信息,在频域与时域迭代的求解过程中得到多幅图像与模糊核,把迭代过程中得到的所有图像进行低质处理得到低秩图像,然后对低秩图像做均值即得到最终的清晰图像。其步骤包括:
(1)输入模糊图像b;
(2)对模糊图像b预恢复,得到更新后的迭代图像和更新后的模糊核
(3)对更新后的迭代图像i=1,2,3...45中的每幅图像做归一化处理,得到规范的迭代图像i=1,2,3...45;
(4)将规范的迭代图像i=1,2,3...45中的每幅图像都拉成一列,按照i=1,2,3...的顺序排成高维数据M;
(5)根据高维数据M计算低秩矩阵L:
5a)输入高维数据M,并设置迭代标记t=0,迭代误差ε为0.001;
5b)按照以下计算迭代低秩矩阵Lt和判定矩阵S:
L t = Y 3 × ( Y 1 × Y 3 ) - 1 × Y 2 - 1 ,
S=ρ20000(M-Lt),
其中,矩阵Y1为中间变量:Y1=(M×A)T,A为高斯随机矩阵,(·)T表示矩阵(·)的转置;矩阵Y2为中间变量:Y2=MT×Y1,MT是M的矩阵转置;矩阵Y3为中间变量:Y3=M×Y2;ρ20000(·)表示设置(·)中的后20000个元素为0;
5c)判断下述条件是否成立:式中,表示矩阵二范数的平方;如果成立则停止迭代,并将最终的迭代低秩矩阵Lt作为所求的低秩矩阵L,否则返回步骤5b);
(6)把低秩矩阵L的每一列用matlab软件中的reshape函数还原成图像,得到低秩图像ri,i=1,2,3...45;
(7)按以下公式对低秩图像ri做均值处理,得到最终清晰图像F:
F = Σ i = 1 45 r i 45 .
本发明改进了传统算法中恢复图像细节信息少的缺点,引入了频域迭代的思想,利用多幅图像的先验信息,运用低秩的算法获得了清晰图像,具有良好的去模糊效果。仿真实验表明,本发明能有效的恢复模糊图像、去除振铃效应、增加图像的高频信息并且减少图像失真,使去模糊后的图像更符合人们的视觉感受。
附图说明
图1是本发明的流程图;
图2是本发明和现有方法仿真应用的Cameraman256清晰图像;
图3是本发明和现有方法仿真应用的Cameraman256模糊图像;
图4是本发明对图3的去模糊结果图;
图5是现有的基于图像梯度分布的方法对图3的去模糊结果图;
图6是现有的基于先验特性的方法对图3的去模糊结果图;
图7是本发明模拟模糊图像时用到的第一种模糊核;
图8是本发明模拟模糊图像时用到的第二种模糊核。
具体实施方式
参照图1,本发明的具体实现步骤如下:
步骤1,对模糊图像b预恢复,得到更新后的迭代图像和更新后的模糊核
1a)设置迭代标记为i=1,迭代最大值为imax=45,设置迭代图像yi的初始值y0为模糊图像b,模糊核ki的初始值k0为高斯脉冲函数;
1b)按照下列公式计算迭代图像yi
y i = IFFT [ ( 1 - α ) P i - 1 + α XW * i - 1 / δ 2 | W i - 1 | 2 / δ 2 + λ 2 ] ,
其中α,λ2为两个不同的调节参数,α=0.9,λ2=0.00001,Wi-1为模糊核ki-1的频域表示,W*i-1为Wi-1的共轭,Pi-1为上一次迭代求得的迭代图像yi-1的频域表示,X为模糊图像的b频域表示,IFFT[·]为傅里叶逆变换,δ为迭代图像yi-1的噪声方差,式中,N为迭代图像yi-1的总列数,m是求和的索引号,zm是迭代图像yi-1的第k列元素;
1c)运用基于局部多项式置信区间交叉的方法更新迭代图像yi,得到更新后的图像
其中,基于局部多项式置信区间交叉的方法参见V.Katkovnik等人发表的《Adaptive window size image denoising based on intersection of condence intervals(ICI)rule》,Journal ofMathematical Imaging and Vision,vol.16,pp.223-235,2002;
1d)按照下列公式,计算模糊核ki
k i = IFFT [ ( 1 - β ) W i - 1 + β XP * i / δ 2 | P i | 2 / δ 2 + λ 3 ] ,
其中β,λ3为两个不同的调节参数,β=0.6,λ3=0.00001,Pi为更新后的迭代图像的频域表示,P*i为Pi的共轭,Wi-1为上一次迭代得到的模糊核ki-1的频域表示,X为模糊图像b的频域表示,IFFT[·]为傅里叶逆变换,δ为模糊核ki-1的噪声方差,式中,N为模糊核ki-1的总列数,m是求和的索引号,zm是模糊核ki-1的第m列元素;
1e)利用基于局部多项式置信区间交叉的方法更新模糊核ki,得到更新后的模糊核并且设置迭代索引i=i+1;
其中,基于局部多项式置信区间交叉的方法参见V.Katkovnik等人发表的《Adaptive window size image denoising based on intersection of condence intervals(ICI)rule》,Journal ofMathematical Imaging and Vision,vol.16,pp.223-235,2002;
1f)将迭代索引i的值与迭代最大值imax进行比较,如果迭代索引i的值大于迭代最大值imax,则停止迭代,输出更新后的迭代图像i=1,2,3...45和更新后的模糊核i=1,2,3...45;否则返回步骤1b)。
步骤2,对更新后的迭代图像中的每幅图像进行归一化处理,得到规范的迭代图像i=1,2,3...45。
其中图像的归一化按如下公式计算:
y g i = y s i - min max - min ,
式中,min是指每幅迭代图像中的最小值,max是指迭代图像中的最大值。
步骤3,形成高维数据M,并计算高维数据M的低秩矩阵L。
3a)将规范的迭代图像i=1,2,3...45中的每幅图像都拉成一列,按照i=1,2,3...45的顺序排成高维数据M;
3b)设置迭代标记t=0,设置迭代误差ε为0.001;
3c)按照以下计算迭代低秩矩阵Lt和判定矩阵S:
L t = Y 3 × ( Y 1 × Y 3 ) - 1 × Y 2 - 1 ,
S=ρ20000(M-Lt),
其中,矩阵Y1为中间变量:Y1=(M×A)T,A为高斯随机矩阵,(·)T表示矩阵(·)的转置;矩阵Y2为中间变量:Y2=MT×Y1,MT是M的矩阵转置;矩阵Y3为中间变量:Y2=M×Y2;ρ20000(·)表示设置(·)中的后20000个元素为0;
3d)判断下述条件是否成立:式中,表示矩阵二范数的平方;如果成立则停止迭代,并将最终的迭代低秩矩阵Lt作为所求的低秩矩阵L,否则返回步骤3c)。
步骤4,获得低秩图像ri,i=1,2,3...45,并对其做均值处理,得到最终清晰图像F;
4a)把低秩矩阵L的每一列用matlab软件中的reshape函数还原成图像,得到低秩图像ri,i=1,2,3...45
4b)按以下公式对低秩图像ri,i=1,2,3...45做均值处理,得到最终清晰图像F:
F = Σ i = 1 45 r i 45 ,
其中,i是求和的索引号。
本发明的效果可以通过以下实验具体说明:
1.实验条件:实验所用微机的CPU为Intel Core2 Duo 2.33GHz,内存为2GB,编程平台为Matlab R2009a。实验所用到的图像来源于标准图像库,分别为Lena512,Lena256,Cameraman256大小均为256×256。
2.实验内容与结果分析
本实验仿真利用了5种模拟模糊核H1、H2、H3、H4和H5对图2所示的原始图像进行模拟模糊,形成八幅模糊图像,其中:模糊核H1为角度为60度、位移为15的运动模糊滤波器;模糊核H2为角度为90度、位移为13的运动模糊滤波器;模糊核H3为角度为60度、位移为10的运动模糊滤波器;模糊核H4为如图7所示的大小为27×27的自然模糊核;模糊核H5为如图8所示的大小为25×25的自然模糊核。
用本发明和现有的基于图像梯度分布的法和基于先验特性的方法分别对所有模糊图像进行去模糊得到的恢复结果的评价指标见表一;其中,用本发明的方法对图3所示的模糊核为H4的模糊图像Cameraman256进行去模糊得到的恢复结果如图4所示,用现有的基于图像梯度分布的方法对图3所示的模糊核为H4的模糊图像Cameraman256进行去模糊得到的恢复结果如图5所示,用现有的基于先验特性的方法对图3所示的模糊核为H4的模糊图像Cameraman256进行去模糊,得到的恢复结果如图6所示。
从图4可见,本发明对图3进行去模糊的结果有丰富的高频细节,图4中人物的衣服和相机的边缘都恢复的非常清晰且没有振铃效应,更接近如图2所示的原始图像;
从图5可见,现有的基于图像梯度分布的方法对图3进行去模糊的结果有很严重的振铃效应,图5中人物的衣服和头发附近有很多重影,且图像边缘恢复不清晰,丢失了很多细节信息,与图2所示的原始图像相差很多;
从图6可见,现有的基于先验特性的方法对图3进行去模糊的结果产生了失真,图6中的相机附近仍然有很多重影,影响了人们的视觉感受,与图2所示的原始图像相差很多。
实验中,应用峰值信噪比PSNR评价指标来评价去模糊结果的优劣,PSNR的定义为:
PSNR = 10 log 10 ( 255 2 × M × N Σ | | x - f | | 2 ) ,
其中,f为清晰图像,x为去模糊后的图像,M和N为清晰图像f的像素行数和像素列数。
表1.本发明和对比方法在不同实验设置下得到的PSNR值
  测试图像   模糊类型   Alg1   Alg2   Alg3
  Lena512   H1   25.8704   25.0827   22.1413
  Lena512   H2   27.1087   23.8307   17.9038
  Lena512   H4   22.3861   21.5217   22.2629
  Lena256   H3   30.9472   25.7729   20.6522
  Lena256   H5   22.0535   21.2611   21.0040
  Cameraman256   H3   28.3214   22.1305   20.9526
  Cameraman256   H4   20.3582   19.7711   19.8500
  Cameraman256   H5   20.4247   19.4867   19.1495
表1中Alg1是本发明的方法,Alg2是现有的基于图像梯度分布的方法,Alg3是现有的基于先验特性的方法;从表1中可以看出,本发明比其它两种对比方法具有更高的PSNR值,有更好的去模糊性能。

Claims (3)

1.一种图像盲去模糊的低秩分解方法,包括如下步骤:
(1)输入模糊图像b;
(2)对模糊图像b预恢复,得到更新后的迭代图像和更新后的模糊核
(3)对更新后的迭代图像i=1,2,3...45中的每幅图像做归一化处理,得到规范的迭代图像i=1,2,3...45;
(4)将规范的迭代图像i=1,2,3...45中的每幅图像都拉成一列,按照i=1,2,3...45的顺序排成高维数据M;
(5)根据高维数据M计算低秩矩阵L:
5a)输入高维数据M,并设置迭代标记t=0,迭代误差ε为0.001;
5b)按照以下计算迭代低秩矩阵Lt和判定矩阵S:
L t = Y 3 × ( Y 1 × Y 3 ) - 1 × Y 2 - 1 ,
S=ρ20000(M-Lt),
其中,矩阵Y1为中间变量:Y1=(M×A)T,A为高斯随机矩阵,(·)T表示矩阵(·)的转置;矩阵Y2为中间变量:Y2=MT×Y1,MT是M的矩阵转置;矩阵Y3为中间变量:Y3=M×Y2;ρ20000(·)表示设置(·)中的后20000个元素为0;
5c)判断下述条件是否成立:式中,表示矩阵二范数的平方;如果成立则停止迭代,并将最终的迭代低秩矩阵Lt作为所求的低秩矩阵L,否则返回步骤5b);
(6)把低秩矩阵L的每一列用matlab软件中的reshape函数还原成图像,得到低秩图像ri,i=1,2,3...45;
(7)按以下公式对低秩图像ri做均值处理,得到最终清晰图像F:
F = Σ i = 1 45 r i 45 .
2.根据权利要求1所述的图像盲去模糊的低秩分解方法,其中步骤(2)中所述的对模糊图像b预恢复,按如下步骤进行:
2a)设置迭代索引为i=1,迭代最大值为imax=45,将迭代图像yi的初始值y0设置为模糊图像b,将模糊核ki的初始值k0设置为高斯脉冲函数;
2b)按照下列公式计算迭代图像yi
y i = IFFT [ ( 1 - α ) P i - 1 + α XW * i - 1 / δ 2 | W i - 1 | 2 / δ 2 + λ 2 ] ,
其中α,λ2为两个不同的调节参数,α=0.9,λ2=0.00001,Wi-1为模糊核ki-1的频域表示,W*i-1为Wi-1的共轭,Pi-1为上一次迭代求得的迭代图像yi-1的频域表示,X为模糊图像的b频域表示,IFFT[·]为傅里叶逆变换,δ为迭代图像yi-1的噪声方差,式中,N为迭代图像yi-1的总列数,m是求和的索引号,zm是迭代图像yi-1的第k列元素;
2c)运用基于局部多项式置信区间交叉的方法更新迭代图像yi,得到更新后的图像
2d)按照下列公式,计算模糊核ki
k i = IFFT [ ( 1 - β ) W i - 1 + β XP * i / δ 2 | P i | 2 / δ 2 + λ 3 ] ,
其中β,λ3为两个不同的调节参数,β=0.6,λ3=0.00001,Pi为更新后的迭代图像的频域表示,P*i为Pi的共轭,Wi-1为上一次迭代得到的模糊核ki-1的频域表示,X为模糊图像b的频域表示,IFFT[·]为傅里叶逆变换,δ为模糊核ki-1的噪声方差,式中,N为模糊核ki-1的总列数,m是求和的索引号,zm是模糊核ki-1的第m列元素;
2e)利用基于局部多项式置信区间交叉的方法更新模糊核ki,得到更新后的模糊核并且设置迭代索引i=i+1;
2f)判断如果迭代索引i的值大于迭代最大值imax,则返回步骤2b),否则停止迭代,输出更新后的迭代图像i=1,2,3...45和更新后的模糊核i=1,2,3...45。
3.根据权利要求1所述的图像盲去模糊的低秩分解方法,其中步骤(3)中所述的对更新后的迭代图像中的每幅图像做归一化处理得到规范的迭代图像i=1,2,3...45,按如下公式计算:
y g i = y s i - min max - min ,
其中,min是指迭代图像中的最小值,max是指迭代图像中的最大值。
CN201210218612.9A 2012-06-28 2012-06-28 图像盲去模糊的低秩分解方法 Active CN102800055B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201210218612.9A CN102800055B (zh) 2012-06-28 2012-06-28 图像盲去模糊的低秩分解方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201210218612.9A CN102800055B (zh) 2012-06-28 2012-06-28 图像盲去模糊的低秩分解方法

Publications (2)

Publication Number Publication Date
CN102800055A CN102800055A (zh) 2012-11-28
CN102800055B true CN102800055B (zh) 2015-04-08

Family

ID=47199154

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201210218612.9A Active CN102800055B (zh) 2012-06-28 2012-06-28 图像盲去模糊的低秩分解方法

Country Status (1)

Country Link
CN (1) CN102800055B (zh)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103093430B (zh) * 2013-01-25 2015-07-15 西安电子科技大学 基于稀疏低秩与字典学习的心脏mri图像去模糊方法
CN103413277B (zh) * 2013-08-19 2017-04-05 南京邮电大学 基于l0稀疏先验的盲相机抖动去模糊方法
CN103440631B (zh) * 2013-09-02 2016-04-13 西安电子科技大学 基于低秩分解的ct序列图像复原方法
CN104050642B (zh) * 2014-06-18 2017-01-18 上海理工大学 彩色图像复原方法
CN109934775B (zh) * 2018-11-20 2022-12-27 腾讯科技(深圳)有限公司 一种图像处理、模型训练、方法、装置和存储介质
CN113628200A (zh) * 2021-08-19 2021-11-09 国网上海市电力公司 一种基于盲去卷积的输电线路图片去模糊方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101359398A (zh) * 2008-06-16 2009-02-04 北京航空航天大学 运动模糊图像的盲恢复方法
CN101964117A (zh) * 2010-09-25 2011-02-02 清华大学 一种深度图融合方法和装置

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7800779B2 (en) * 2005-12-21 2010-09-21 Xerox Corporation System and method for image based control using inline sensors

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101359398A (zh) * 2008-06-16 2009-02-04 北京航空航天大学 运动模糊图像的盲恢复方法
CN101964117A (zh) * 2010-09-25 2011-02-02 清华大学 一种深度图融合方法和装置

Also Published As

Publication number Publication date
CN102800055A (zh) 2012-11-28

Similar Documents

Publication Publication Date Title
Hao et al. Low-light image enhancement with semi-decoupled decomposition
CN102800055B (zh) 图像盲去模糊的低秩分解方法
Xu et al. Patch group based nonlocal self-similarity prior learning for image denoising
Dong et al. Centralized sparse representation for image restoration
Zoran et al. From learning models of natural image patches to whole image restoration
CN110781895B (zh) 一种基于卷积神经网络的图像语义分割方法
Abolghasemi et al. Blind separation of image sources via adaptive dictionary learning
Zhao et al. Detail-preserving image denoising via adaptive clustering and progressive PCA thresholding
CN104599242B (zh) 使用多尺度非局部正则的模糊核估计方法
CN102750679B (zh) 图像质量评估的盲去模糊方法
CN102800054B (zh) 基于稀疏性度量的图像盲去模糊方法
CN104112261A (zh) 基于范数比值正则化的快速图像盲去模糊方法
Shen et al. Convolutional neural pyramid for image processing
CN106709877A (zh) 一种基于多参数正则优化模型的图像去模糊方法
US20150071545A1 (en) Image Enhancement Using Self-Examples and External Examples
CN103093433A (zh) 基于区域划分和字典学习的自然图像去噪方法
CN104036473B (zh) 基于分裂Bregman迭代的快速鲁棒图像运动去模糊方法
CN109636747A (zh) 应用于单幅红外图像非均匀校正的深度高频网络校正算法
CN104021529B (zh) 一种模糊图像非盲复原方法
Routray et al. An efficient image denoising method based on principal component analysis with learned patch groups
Dong et al. Image deblurring with low-rank approximation structured sparse representation
Zhang et al. Image denoising using hybrid singular value thresholding operators
Nejati et al. Low-rank regularized collaborative filtering for image denoising
CN101567079B (zh) 基于Hopfield神经网络的运动模糊图像恢复方法
Papandreou et al. Image inpainting with a wavelet domain hidden Markov tree model

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
C14 Grant of patent or utility model
GR01 Patent grant