CN115933180B - 一种光学注意力机制超简镜头设计方法 - Google Patents

一种光学注意力机制超简镜头设计方法 Download PDF

Info

Publication number
CN115933180B
CN115933180B CN202310032680.4A CN202310032680A CN115933180B CN 115933180 B CN115933180 B CN 115933180B CN 202310032680 A CN202310032680 A CN 202310032680A CN 115933180 B CN115933180 B CN 115933180B
Authority
CN
China
Prior art keywords
entrance pupil
optical
algorithm
optimized
ultra
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202310032680.4A
Other languages
English (en)
Other versions
CN115933180A (zh
Inventor
侯晴宇
李宗岭
谭凡教
张荣帅
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Harbin Institute of Technology
Original Assignee
Harbin Institute of Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Harbin Institute of Technology filed Critical Harbin Institute of Technology
Priority to CN202310032680.4A priority Critical patent/CN115933180B/zh
Publication of CN115933180A publication Critical patent/CN115933180A/zh
Application granted granted Critical
Publication of CN115933180B publication Critical patent/CN115933180B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02TCLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
    • Y02T10/00Road transport of goods or passengers
    • Y02T10/10Internal combustion engine [ICE] based vehicles
    • Y02T10/40Engine management systems

Abstract

本发明公开了一种光学注意力机制超简镜头设计方法,包括:S1、仿照人眼成像,降低光学系统入瞳大小,设置初始化入瞳位置;S2、结合光学注意力,对入瞳限制的光学系统中部分面形进行集中优化,获得集中优化区域,未优化部分允许有较大像差;S3、基于仿照人脑功能,通过算法复原所述未优化部分,并基于复原效果,优化所述集中优化区域的大小和位置;S4、通过光学注意力集中,返回S2,直至满足终止条件后获取超简镜头。本发明通过提出光学注意力机制,实现光学系统和复原算法的深度结合,达到衍射极限分辨率,并且相比传统的能够达到衍射极限分辨率的成像系统减少镜片数量,进而降低系统体积和质量,实现高性能成像系统的小型化。

Description

一种光学注意力机制超简镜头设计方法
技术领域
本发明属于光学计算成像技术领域,尤其涉及一种光学注意力机制超简镜头设计方法。
背景技术
现有成像系统为了能够达到衍射极限分辨率,通常采用大量的镜片组合来抵消像差,这会造成光学系统的体积和质量日益增大,如今智能手机的后置摄像头越来越突出就是一个明显的例子,为了追求成像性能而不得不堆叠大量镜片,从而牺牲一定的美观性及使用感受。而在其他领域如无人探测系统,体积和质量较大的光学系统不利于探测任务的进行。尽管近年来比较热门的计算成像技术能够将部分像差校正工作交给处理算法,从而降低成像系统的体积和质量,但是目前的计算成像技术还无法像传统成像系统那样达到衍射极限分辨率,因此在高性能成像领域无法和传统成像系统相媲美,即高性能成像系统的小型化目前仍无法得到有效解决。
发明内容
本发明的目的在于提出一种光学注意力机制超简镜头设计方法,通过提出光学注意力机制,实现光学系统和复原算法的深度结合,达到衍射极限分辨率,并且相比传统的能够达到衍射极限分辨率的成像系统减少镜片数量,进而降低系统体积和质量,实现高性能成像系统的小型化。
为实现上述目的,本发明提供了一种光学注意力机制超简镜头设计方法,包括以下步骤:
S1、仿照人眼成像,降低光学系统入瞳大小,设置初始化入瞳位置;
S2、结合光学注意力,对入瞳限制的光学系统中部分面形进行集中优化,获得集中优化区域,未优化部分允许有较大像差;
S3、基于仿照人脑功能,通过算法复原所述未优化部分,并基于复原效果,优化所述集中优化区域的大小和位置;
S4、通过光学注意力集中,返回S2,直至满足终止条件后获取超简镜头。
可选的,基于仿照人眼成像,获得初始化入瞳位置的方法包括:基于仿照人眼成像,对光学系统部分入瞳区域的像差进行优化,引入孔径光阑对所述孔径光阑的位置进行初始化,获得初始化入瞳位置。
可选的,结合光学注意力,对入瞳限制的光学系统中部分面形进行集中优化,获得集中优化区域包括:
对光学系统部分入瞳区域的像差进行优化,以各个镜片的厚度、曲率、间隔以及非球面系数为优化变量,以光斑半径、波前差为优化目标,约束不同波长、不同视场的光斑半径小于艾里斑半径,获得所述集中优化区域。
可选的,所述仿照人脑功能包括:大脑对人眼获取的图像信息进行处理,获得对场景的初步感知,人眼根据大脑感兴趣的区域调节瞳孔及晶状体,大脑再对图像信息进行处理,获得对目标场景的清晰感知。
可选的,通过算法复原所述未优化部分,并基于复原效果,优化所述集中优化区域的大小和位置包括:
通过算法对光学系统成像结果进行处理,对所述未优化部分造成的像差模糊进行图像复原;
以复原图像和清晰场景图像的均方差为损失函数,通过反向传播算法计算所述损失函数对所述部分入瞳区域的大小和位置参数的梯度;
通过梯度下降算法优化部分入瞳区域的大小和位置。
可选的,通过梯度下降算法实现对部分入瞳区域的大小和位置的优化,计算如下:
Figure BDA0004047524030000031
其中,rn,xn,yn分别为梯度下降前的部分入瞳区域半径、部分入瞳区域中心在光轴坐标系下的x坐标、部分入瞳区域中心在光轴坐标系下的y坐标,rn+1,xn+1,yn+1则分别为梯度下降后的相应参数,α为学习率,L为损失函数。
可选的,所述终止条件包括:
部分入瞳区域的光斑半径小于艾里斑;
完整入瞳区域的光斑经过算法复原后其半径小于艾里斑。
本发明技术效果:本发明公开了一种光学注意力机制超简镜头设计方法,现有衍射极限分辨率大视场成像系统均通过光学设计的方式得到,通过大量的镜片组合抵消像差,具有较大体积和质量;本发明通过提出光学注意力机制,仅对部分入瞳区域的像差进行集中优化,能够在实现衍射极限分辨率的同时减少镜片数量,降低系统体积和质量,有利于实现高性能成像系统的小型化;本发明突破了现有计算成像技术的瓶颈,具有可达到衍射极限分辨率的计算成像性能;本发明通过提出光学注意力机制,集中优化部分入瞳区域的像差,使该区域达到衍射极限分辨率,再通过复原算法去除其余入瞳区域像差的影响后,就能够实现衍射极限分辨率;现有计算成像方法中,复原算法需要通过多波长多通道的先验信息来去除色差,但是宽波段相机无法获得多波长多通道信息;本发明使光学系统部分入瞳区域的PSF色差能够抵消,而其余入瞳区域的色差很容易通过算法去除,无需借助多波长多通道信息,因此本发明相比现有计算成像方法适用性更广。
附图说明
构成本申请的一部分的附图用来提供对本申请的进一步理解,本申请的示意性实施例及其说明用于解释本申请,并不构成对本申请的不当限定。在附图中:
图1为本发明实施例优化后的超简镜头布局图;
图2为本发明实施例优化后部分入瞳区域的点列图;
图3为本发明实施例对比传统成像系统点列图;
图4为本发明实施例复原前光学系统成像结果示意图;
图5为本发明实施例复原图像示意图;
图6为本发明实施例对比传统成像系统成像结果示意图;
图7为本发明实施例光学注意力机制超简镜头设计方法的流程示意图。
具体实施方式
需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。
需要说明的是,在附图的流程图示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行,并且,虽然在流程图中示出了逻辑顺序,但是在某些情况下,可以以不同于此处的顺序执行所示出或描述的步骤。
如图1-7所示,本实施例中提供一种光学注意力机制超简镜头设计方法,包括以下步骤:
步骤1)仿照人眼成像,降低光学系统入瞳大小,并对其位置进行初始化;
步骤2)引入光学注意力,对入瞳限制的光学系统部分面形进行集中优化,其余部分则允许有较大像差;
步骤3)仿照人脑功能,通过算法复原未优化部分导致的像差模糊,并根据复原效果,自动优化入瞳的大小和位置,从而调节光学系统集中优化区域的大小和位置;
步骤4)实现光学注意力集中,重复步骤二到步骤三,直至集中优化区域的光斑半径小于艾里斑,集中优化区域以外的光斑均匀弥散,此时,复原图像能够达到衍射极限分辨率。
所述步骤1)中,仿照人眼成像,人眼成像过程中,仅有部分入瞳区域能够清晰成像,外围区域成像是模糊的。仿照人眼成像即仅对光学系统部分入瞳区域的像差进行优化,外围区域的像差可以存在。通过引入孔径光阑,起到降低光学系统入瞳大小的作用,并对孔径光阑位置进行随机初始化,起到初始化入瞳位置的作用。
对比一种传统成像系统,建立本发明的大视场光学系统初始结构。该传统成像系统为8片式透镜组,焦距为8.2mm,光圈为1.9,视场角为60°×60°,系统总长为9.7mm,最大口径为13.5mm,该成像系统通过透镜组合实现了接近衍射极限的分辨率,光斑半径接近艾里斑半径1.27μm。为了能够与该传统成像系统形成对比,本发明的大视场光学系统初始结构采用同样的焦距、光圈、视场角,但是镜片数量降低为5片,系统总长降低为9.0mm,最大口径降低为12.4mm。本发明的计算成像系统与对比的传统成像系统采用相同的探测器,探测器尺寸为10.1mm×10.1mm,像元数目为10240×10240。根据上述参数建立大视场光学系统初始结构,完整有效孔径为4.3mm,光圈为1.9,部分入瞳区域有效孔径为1.4mm,光圈为5.86。
所述步骤2)中,引入光学注意力,“光学注意力”就是将重点放到对前述步骤中定义的部分入瞳区域像差的集中优化上来,而其余入瞳区域则允许有较大像差。进行部分入瞳区域的像差优化时,以各个镜片的厚度、曲率、间隔以及非球面系数为优化变量,以光斑半径、波前差等指标为优化目标,约束不同波长、不同视场的光斑半径小于艾里斑半径,此处的艾里斑是指完整入瞳所对应的衍射极限光斑。
五片透镜均采用非球面透镜,对3~10阶非球面系数进行优化,其他非球面系数均为0。此外,光阑位置、透镜厚度、透镜间距、透镜曲率、透镜圆锥系数均为待优化变量。选择470nm、510nm、555nm、610nm、650nm作为待优化波长,在0~40.6°之间均匀设置11个视场角作为待优化视场。以各个波长、各个视场的光斑半径小于完整入瞳的艾里斑半径(1.27μm)为优化目标,对上述待优化变量进行优化,实现入瞳限制的光学系统部分面形的集中优化。优化的同时,添加对系统结构和面形的约束,具体包括:光阑位置与透镜表面间距大于0.1mm,透镜边缘及中心厚度大于0.3mm,透镜边缘及中心间距大于0.5mm,透镜圆锥系数小于±100,最后一片透镜到保护玻璃的边缘及中心间距大于0.6mm,最大畸变小于3%,主光线入射角(CRA)小于32°。
所述步骤3)中,仿照人脑功能,在人类视觉中,大脑对人眼获取的图像信息进行处理,得到对场景的初步感知,随后人眼根据大脑感兴趣的区域调节瞳孔及晶状体,大脑再对图像信息进行处理,就能得到对目标场景的清晰感知。仿照人脑功能即通过算法对光学系统成像结果进行处理,对优化入瞳以外的区域所造成的像差模糊进行图像复原,以复原图像和清晰场景图像的均方差为损失函数,通过反向传播算法计算损失函数对部分入瞳区域的大小和位置参数的梯度,通过梯度下降算法实现对部分入瞳区域的大小和位置的优化,如下式所示:
Figure BDA0004047524030000081
其中,rn,xn,yn分别代表梯度下降前的部分入瞳区域半径、部分入瞳区域中心在光轴坐标系下的x坐标、部分入瞳区域中心在光轴坐标系下的y坐标,rn+1,xn+1,yn+1则分别代表梯度下降后的相应参数。α代表学习率,L代表损失函数。通过上述方式使得算法能够起到类似人脑的作用,即算法能够对“光学注意力”对应的部分入瞳区域的大小和位置进行调节。
所述步骤4)中,实现光学注意力集中,即部分入瞳区域的光斑半径能够小于艾里斑,其余入瞳区域的光斑均匀发散,并且经过算法复原后的成像结果能够达到衍射极限分辨率。通过重复步骤二到步骤三,不断迭代优化部分入瞳区域对应的光学系统面形,以及部分入瞳区域的大小和位置,直至满足以下两个条件,就能够实现光学注意力集中,完成超简镜头的优化:条件一,部分入瞳区域的光斑半径能够小于艾里斑;条件二,完整入瞳区域的光斑经过算法复原后其半径能够小于艾里斑。优化完成后超简镜头的布局图如图1所示。优化完成后部分入瞳区域的点列图如图2所示,作为对比的传统成像系统的点列图如图3所示。可以看出,优化后的部分入瞳区域具有和传统成像系统基本一致的光斑大小,均接近于艾里斑大小1.27μm。因此,通过对部分入瞳区域像差的集中优化,实现了部分入瞳区域具有接近衍射极限的分辨率,这保证了光学系统对于高频信息具有一定的对比度。
所述步骤4)中,优化完成后的完整入瞳镜头即为优化得到的超简镜头,其点扩散函数(PSF)可以分为两部分,一部分是集中在艾里斑以内的高强度亮点,这部分在成像中能够保留接近衍射极限分辨率的细节信息;另一部分则是大尺寸低强度弥散斑,这部分在成像中会造成均匀雾状模糊,各个视场的PSF均遵循这种分布。即光学系统具有较高对比度的高频信息,通过图像复原算法能够很容易去除均匀雾状模糊,从而实现极限分辨率大视场成像。
优化完成后的光学系统复原前的成像结果如图4所示。可以看出,在集中优化的部分入瞳区域之外的剩余入瞳区域的像差影响下,图像呈现均匀雾状模糊,但是图像的高频信息仍具有一定的对比度。经过算法复原之后的复原图像如图5所示,可以看出,通过复原算法去除了图像中的像差模糊,并且通过与图6所示的传统衍射极限分辨率成像系统的成像结果对比可以看出,两者具有一致的图像质量。通过计算两种成像系统的成像结果与原始场景图像的峰值信噪比(PSNR)及结构相似度(SSIM),来进一步评估本发明的计算成像系统与传统成像系统的差异。本发明计算成像系统复原图像与原始场景图像的PSNR/SSIM为:32.9/0.983,传统成像系统的成像结果与原始场景图像的PSNR/SSIM为:30.6/0.908。可以看出,本发明的计算成像系统具有略优于传统成像系统的成像质量,即本发明的成像系统能够达到与传统成像系统一致的衍射极限分辨率,但是本发明的光学系统镜片数量为5片,最大口径为12.4mm,系统总长为9.0mm,而对比的传统成像系统镜片数量为8片,最大口径为13.5mm,系统总长为9.7mm,可见,本发明所提出的一种光学注意力机制超简镜头设计方法在保证衍射极限分辨率的同时,能够有效降低成像系统的体积和质量,有利于解决高性能成像系统小型化的问题。
以上所述,仅为本申请较佳的具体实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到的变化或替换,都应涵盖在本申请的保护范围之内。因此,本申请的保护范围应该以权利要求的保护范围为准。

Claims (7)

1.一种光学注意力机制超简镜头设计方法,其特征在于,包括以下步骤:
S1、仿照人眼成像,降低光学系统入瞳大小,设置初始化入瞳位置;
S2、结合光学注意力,对入瞳限制的光学系统中部分面形进行集中优化,获得集中优化区域,未优化部分允许有较大像差;
S3、基于仿照人脑功能,通过算法复原所述未优化部分,并基于复原效果,优化所述集中优化区域的大小和位置;
S4、通过光学注意力集中,返回S2,直至满足终止条件后获取超简镜头。
2.如权利要求1所述的光学注意力机制超简镜头设计方法,其特征在于,基于仿照人眼成像,获得初始化入瞳位置的方法包括:基于仿照人眼成像,对光学系统部分入瞳区域的像差进行优化,引入孔径光阑对所述孔径光阑的位置进行初始化,获得初始化入瞳位置。
3.如权利要求2所述的光学注意力机制超简镜头设计方法,其特征在于,结合光学注意力,对入瞳限制的光学系统中部分面形进行集中优化,获得集中优化区域包括:
对光学系统部分入瞳区域的像差进行优化,以各个镜片的厚度、曲率、间隔以及非球面系数为优化变量,以光斑半径、波前差为优化目标,约束不同波长、不同视场的光斑半径小于艾里斑半径,获得所述集中优化区域。
4.如权利要求3所述的光学注意力机制超简镜头设计方法,其特征在于,所述仿照人脑功能包括:大脑对人眼获取的图像信息进行处理,获得对场景的初步感知,人眼根据大脑感兴趣的区域调节瞳孔及晶状体,大脑再对图像信息进行处理,获得对目标场景的清晰感知。
5.如权利要求4所述的光学注意力机制超简镜头设计方法,其特征在于,通过算法复原所述未优化部分,并基于复原效果,优化所述集中优化区域的大小和位置包括:
通过算法对光学系统成像结果进行处理,对所述未优化部分造成的像差模糊进行图像复原;
以复原图像和清晰场景图像的均方差为损失函数,通过反向传播算法计算所述损失函数对所述部分入瞳区域的大小和位置参数的梯度;
通过梯度下降算法优化部分入瞳区域的大小和位置。
6.如权利要求5所述的光学注意力机制超简镜头设计方法,其特征在于,通过梯度下降算法实现对部分入瞳区域的大小和位置的优化,计算如下:
Figure FDA0004047524020000021
其中,rn,xn,yn分别为梯度下降前的部分入瞳区域半径、部分入瞳区域中心在光轴坐标系下的x坐标、部分入瞳区域中心在光轴坐标系下的y坐标,rn+1,xn+1,yn+1则分别为梯度下降后的相应参数,α为学习率,L为损失函数。
7.如权利要求1所述的光学注意力机制超简镜头设计方法,其特征在于,所述终止条件包括:
部分入瞳区域的光斑半径小于艾里斑;
完整入瞳区域的光斑经过算法复原后其半径小于艾里斑。
CN202310032680.4A 2023-01-10 2023-01-10 一种光学注意力机制超简镜头设计方法 Active CN115933180B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310032680.4A CN115933180B (zh) 2023-01-10 2023-01-10 一种光学注意力机制超简镜头设计方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310032680.4A CN115933180B (zh) 2023-01-10 2023-01-10 一种光学注意力机制超简镜头设计方法

Publications (2)

Publication Number Publication Date
CN115933180A CN115933180A (zh) 2023-04-07
CN115933180B true CN115933180B (zh) 2023-07-04

Family

ID=86654465

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310032680.4A Active CN115933180B (zh) 2023-01-10 2023-01-10 一种光学注意力机制超简镜头设计方法

Country Status (1)

Country Link
CN (1) CN115933180B (zh)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004295107A (ja) * 2003-03-07 2004-10-21 Canon Inc 変倍光学系
CN103760671A (zh) * 2014-01-17 2014-04-30 中国科学院西安光学精密机械研究所 基于滤波器稳定的波前编码最优相位掩膜板参数获取方法
CN103809290A (zh) * 2014-01-21 2014-05-21 北京理工大学 一种光学系统面形误差相互补偿优化方法
CN104483752A (zh) * 2014-12-23 2015-04-01 中国科学院光电研究院 一种反射式数字成像系统的设计方法
CN110458901A (zh) * 2019-06-26 2019-11-15 西安电子科技大学 一种基于计算成像的光电成像系统的全局性优化设计方法
CN113219650A (zh) * 2021-03-25 2021-08-06 北京空间机电研究所 一种高分辨率大视场空间光学遥感器的设计方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004295107A (ja) * 2003-03-07 2004-10-21 Canon Inc 変倍光学系
CN103760671A (zh) * 2014-01-17 2014-04-30 中国科学院西安光学精密机械研究所 基于滤波器稳定的波前编码最优相位掩膜板参数获取方法
CN103809290A (zh) * 2014-01-21 2014-05-21 北京理工大学 一种光学系统面形误差相互补偿优化方法
CN104483752A (zh) * 2014-12-23 2015-04-01 中国科学院光电研究院 一种反射式数字成像系统的设计方法
CN110458901A (zh) * 2019-06-26 2019-11-15 西安电子科技大学 一种基于计算成像的光电成像系统的全局性优化设计方法
CN113219650A (zh) * 2021-03-25 2021-08-06 北京空间机电研究所 一种高分辨率大视场空间光学遥感器的设计方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
基于压缩感知的红外大视场高分辨成像系统设计;姜来 等;激光与光电子学进展;第59卷(第8期);第0811003-1-0811003-7 *

Also Published As

Publication number Publication date
CN115933180A (zh) 2023-04-07

Similar Documents

Publication Publication Date Title
RU2716843C1 (ru) Цифровая коррекция аберраций оптической системы
JP4633379B2 (ja) 魚眼レンズおよびこれを用いた撮像装置
US7948550B2 (en) Electro-optic imaging system with aberrated triplet lens compensated by digital image processing
US8477206B2 (en) Image processing apparatus and image processing method for performing image restoration using restoration filter
JP2013051598A (ja) 画像処理装置及び画像処理方法
WO2019161699A1 (zh) 虚拟现实设备的透镜优化方法、装置和计算机可读存储介质
CN106980170B (zh) 一种超广角高清航拍仪用光学镜头
CN106814443A (zh) 变焦镜头以及摄像装置
CN106170051B (zh) 图像处理装置、图像拾取装置和图像处理方法
JPH01259314A (ja) ボケ味可変な光学系
CN110109235A (zh) 光学成像镜头
CN115933180B (zh) 一种光学注意力机制超简镜头设计方法
CN107831630A (zh) 投影镜头
CN110488396A (zh) 一种用于减小并列型仿生复眼离轴像差的成像方法
CN110208959A (zh) 成像镜头及摄像装置
KR20150146058A (ko) 줌렌즈계
CN111258026B (zh) 摄影光学透镜组、取像装置及电子装置
CN115951500A (zh) 一种基于主动对准技术的ar模组组装方法
CN216792555U (zh) 对焦摄像镜头组
CN112698501B (zh) 一种摄像镜头组
CN213986998U (zh) 一种摄像镜头组
EP2495596A2 (en) Camera featuring a zoom lens with optical elements that are attachable and detachable
CN115308894A (zh) 大焦深显微成像系统及图像复原方法
CN106814444A (zh) 变焦镜头以及摄像装置
CN209514191U (zh) 摄像镜头组

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant