CN109936692B - 基于极线约束的穿散射介质图像采集系统和方法 - Google Patents
基于极线约束的穿散射介质图像采集系统和方法 Download PDFInfo
- Publication number
- CN109936692B CN109936692B CN201910284861.XA CN201910284861A CN109936692B CN 109936692 B CN109936692 B CN 109936692B CN 201910284861 A CN201910284861 A CN 201910284861A CN 109936692 B CN109936692 B CN 109936692B
- Authority
- CN
- China
- Prior art keywords
- image
- image acquisition
- polar
- epipolar
- imaging
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Investigating Or Analysing Materials By Optical Means (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Image Processing (AREA)
Abstract
本发明涉及光电成像技术领域,特别涉及一种基于极线约束的穿散射介质图像采集系统和方法。该成像系统包括扫描照明模块和成像模块,两者相互配合实现原始数据采集。成像方法应用极线约束原理,首先通过标定获得扫描照明系统和成像系统的极线对应关系,再利用极线扫描成像方式获得初始图像以减小极线间相互的散射影响,从而提高初始成像的信噪比,图像处理结合极线组对应关系和散射模型对初始图像进行组合运算和优化处理,进一步提高成像清晰度获得最终成像结果。本发明结构简单易实现,单次标定后即可对不同场景和目标物进行成像,通过应用极线约束原理在初始图像获取过程中减小了散射的影响,后续运算过程简单,能够有效地提高成像质量。
Description
技术领域
本发明涉及光电成像技术领域,特别涉及一种基于极线约束的穿散射介质图像采集系统和方法。
背景技术
光在雨雾,烟尘,生物组织等介质中传播时会发生散射,从而导致成像过程中的信噪比大幅下降,图像质量退化甚至完全丧失应用价值。目前用以解决穿散射介质成像的方案有波前整形([1]可抑制生物组织散射效应的光学聚焦技术研究进展[J].杨强,曹良才,金国藩.中国激光.2015(09).)、全息方法([2]梁子,安晓英,张茹,et al.基于散斑照明和全息的穿透散射介质成像[J].光学学报,2017(08):142-149.)、传输矩阵([3]黄远辉.光学超衍射极限成像中随机介质传输矩阵获取方法研究[D].西安电子科技大学,2013.)和散斑关联成像([4]Katz O,Heidmann P,Fink M,et al.Non-invasive single-shot imagingthrough scattering layers and around corners via speckle correlations[J].Nature Photonics,2014,8(10):784-790.)等相关方法,这些方法的系统构成和成像过程较为复杂,尤其在数据处理过程中运算量较大,使得成像时间与成像质量很难兼顾,因而实际应用受到较大限制。
极线几何描述了不同图像采集系统视平面上的极线之间以及它们和目标空间中对应极平面间的映射关系。这一约束条件可以将目标点对应的像点限制在像面上的一条极线内,从而简化图像处理的过程并提高成像质量。目前与极线约束相关的研究和应用主要集中双目或多目立体视觉中的目标点匹配,基本可分为极线的标定与校正和极线约束模型的拓展和应用两个方向,在穿散射介质成像方面的研究和成果极少。
发明内容
本发明的目的是为了解决现有技术存在成像时间与成像质量很难兼顾的问题,提供一种基于极线约束的穿散射介质图像采集系统和方法。该系统可以在散射介质如雾霾,烟尘等存在的情况下提高成像质量。该方法基于极线成像和散射规律,进一步降低散射影响,提高图像对比度和分辨率。
本发明的目的是通过下述技术方案实现的。
基于极线约束的穿散射介质图像采集方法,包括系统标定图像采集和图像处理三个步骤:
在没有散射介质的情况下,根据目标的距离范围,调整系统相关参数,使之适合拍摄需要,并通过标定确定此时投影照明系统和图像采集系统之间的极线对应关系;然后按照标定得到的信息使投影照明系统和图像采集系统相互配合获得散射介质存在时的原始图像,即投影照明系统分别对每条极线进行扫描时,图像采集系统拍摄对应图像;最后根据极线对应关系将原始图像中的极线照明和非极线照明部分进行分割,极线照明部分内主要包含目标信息,非极线照明部分主要为散射光干扰,通过对一系列原始图像中上述两部分的分别处理和组合,可以达到降低散射对系统成像影响的目的,从而获得质量更高的图像。一种处理和组合方法首先在各原始图像内部利用极线照明和非极线照明部分的线性运算突出目标信息,即极线照明区域,再将所有原始图像的极线照明区域进行拼接,得到完整的目标图像。基于极线约束的穿散射介质图像采集系统,包括:投影照明系统、图像采集系统和计算机:投影照明系统,用于对目标进行极线扫描式照明;图像采集系统,用于配合投影照明系统进行采集目标反射后的光,获得图像信息;计算机用于控制各子系统的运转与配合,完成图像的采集,存储及传输过程,并对成像结果进行分析、重建和输出。
可选地,所述投影照明系统包括半导体激光器,衰减片组,小孔光阑和振镜组。其中半导体激光器用于提供扫描光束,衰减片组用于辅助调节激光亮度,小孔光阑可以按照需要调节光束口径,振镜组中的两片振镜配合可实现二维扫描。可选地,所述照明投影照明系统可以通过在振镜组输出端加装镜头控制扫描范围。
可选地,所述图像采集系统包括成像物镜和面阵图像探测器,用于配合扫描系统采集与各极线对相对应的原始图像。所述图像采集系统的视场应与所述投影照明系统的视场重合。
该装置的成像方法,包括系统标定和图像采集和图像处理三个实施过程:
标定时需要确定投影照明系统和图像采集系统的极线对应关系,步骤如下:
1、在与目标距离相等的位置放置标定板,调整相机的焦距;利用投影照明系统投射光点A到标定板上,光点A在标定板上的位置为A′,利用图像采集系统拍摄图像Ia,图中光点位置记为A″;
2、相对投影照明系统向正前方或正后方移动标定板,使光点A在图像采集系统中的位置发生移动,再次拍摄得到图像Ib,图中光点位置记为B″;
3、在图像采集系统中将光点在图像Ia中的对应位置A″按照坐标相等的方式投射到图像Ib中,光点位置A″和B″的连线即为极平面在图像采集系统中对应的极线k″;
4、根据图像Ib中位置A″在标定板上定位位置X′;计算机控制振镜转动,使投影照明系统在标定板上投射光点的位置与位置X′重合,记录投影照明系统中对应的光点X;
5、光点X和A的连线即为极平面在投影照明系统中对应的极线k;
6、任选极线k外的点,重复上述步骤1)到步骤5),即能够逐条确定出多条极线;在已知两条及以上极线的情况下,根据极线位置关系即能够确定投影照明系统与图像采集系统所有对应极线对的分布情况:投影照明系统与图像采集系统的光心连线为基线,由于极平面包含基线,因此当基线与投影照明系统像平面相交时,所有极线交于一点;当基线与像平面平行时,所有极线平行;
7、根据成像范围,利用计算机生成所需的极线对在投影照明系统与图像采集系统中的位置信息并保存,用于在采集步骤中进行控制。
图像的采集需要获得以极线逐条照明时得原始图像,步骤如下:
8、投影照明系统对极线进行逐条扫描,得到照明极线k1,k2,…,kn;图像采集系统配合拍摄,得到每条极线对应的图像I1,I2,…,In并储存,完成原始图像采集;
图像的处理步骤如下:
9、将拍摄到的每一张图片Ii按照与拍摄时的投影照明系统扫描极线ki相对应的极线k″i进行分割,k″i照明范围内为主极线图块pii,其余部分为次级线图块pi1,pi2,…,pi(i-1),pi(i+1),…pin,对主极线图块和次极线图块间进行组合运算,并对不太的主极线图块进行拼接,即可得到初始成像结果。
所述组合运算可采用同一极线对应的主极线图块与次极线图块线性组合的方式进行。
为了进一步提高图像质量,可以基于散射规律建立点扩散函数模型对初始成像结果进行反卷积运算。所述点扩散函数模型可以通过拍摄点光源通过散射介质后的成像结果获得。
有益效果
1.利用极线约束,在成像过程中减小散射影响,提高了信噪比。
2.系统实现更简单,照明系统与图像采集系统位置关系确定后只需要一次标定,整个扫描成像过程不依赖于场景和目标物特征。
3.图像处理运算少,只需要线性运算即可得到初始成像结果。
4.可以与多种图像处理算法组合使用进一步降低散射影响,提高图像质量。
利用极线扫描的成像过程通过利用投影照明系统和图像采集系统间极线的一一对应关系,实现对散射现象的抑制,将散射影响控制在极线内部,从而提高成像质量,简化后续图像处理过程。
附图说明
图1为本发明的结构示意图;
图2为实施例1的图像处理结果。
其中,附图标记为:1—激光器,2—衰减片组,3—小孔光阑,4—振镜组,5—振镜控制模块,6—投影镜头,7—工业相机,8—成像镜头,9—计算机,10—棋盘格标定板,11—毛玻璃。
具体实施方式
下面结合附图和实施例对本发明做详细说明。
实施例1
如图1所示,一种基于极线约束的扫描图像采集系统,包括:激光光源1,衰减片组2,小孔光阑3,振镜组4,振镜控制模块5,投影镜头6,工业相机7,成像镜头8,计算机9,棋盘格标定板10,毛玻璃11。
投影照明系统中,激光光源1发出的光束首先通过衰减片组2达到适宜亮度;接下来光束通过小孔光阑3进行口径调节,使其扫描线宽满足分辨率要求;得到光束通过振镜组4,在相互垂直的两个平面内分别发生反射,两片振镜的角度由计算机9通过振镜控制模块5进行调整,可以实现二维方向上的扫描;扫描光线通过投影镜头6可以进行投影照明视场调节。
照明光线照射到标定板10,反射光被图像采集系统接收,图像采集系统包括工业相机7和成像镜头8,图像采集系统得到的结果通过计算机9进行储存和处理并实现交互。在图像采集步骤中,在系统和目标之间插入毛玻璃11模拟散射介质。
利用以上成像系统,本实例对距离成像系统约40cm处,大小约5×5cm的漫反射黑白图案进行拍摄,毛玻璃11厚度约2mm,毛玻璃11与目标物间距5cm。
一种极线扫描成像方法,具体包括以下步骤:
步骤1:确定系统的基本参数。
根据目标信息和成像要求设定基本参数,包括激光光束直径d=1mm,扫描间隔a=1mm,成像距离L=40cm。
步骤2:根据参数调整系统。
调整衰减片组2透过率为50%,调节小孔光阑3口径为1mm,本实验中不需要投影镜头6,成像镜头8采用12mm变焦镜头,调焦至标定板清晰成像,标定板10采用棋盘格图案。
步骤3:进行系统标定,得到极线对应关系。
1.将标定板10放置在系统观察距离L=40cm处,利用投影照明系统投射光点A到标定板10,光点A在标定板10上的位置为A′,利用图像采集系统拍摄图像Ia,图中光点位置记为A″。
2.相对投影照明系统向前或向后移动标定板10,使光点A在图像采集系统中的位置发生移动,再次拍摄得到图像Ib,图中光点位置记为B″。
3.在图像采集系统中将光点在图像Ia中的对应位置A″按照坐标相等的方式投射到图像Ib中,光点位置A″和B″的连线即为极平面在图像采集系统中对应的极线k″1。
4.根据Ib中位置A″在标定板上定位位置X′;计算机控制振镜转动,使投影照明系统在标定板上投射光点的位置与位置X′重合,记录投影照明系统中对应的光点X。
5.光点X和A的连线即为极平面在投影照明系统中对应的极线k1。
6.选极线k1外一点,重复上述步骤1到5,确定出另一对极线k2和k″2;。
7.在投影照明系统中,k1与k2相交,交点为O,利用计算机9生成一系列过O点的极线,使它们能够覆盖目标区域,同时对应确定各极线在图像采集系统中的对应,形成极线对。本实施例中生成了50条极线k1,k2,…,k50,并将极线依次投影到标定板10,利用图像采集系统拍摄后记录了对应极线k″1,k″2,…,k″50的位置坐标。
步骤4:原始图像的采集。
将毛玻璃11插入光路中,利用计算机9使振镜控制模块5和工业相机7配合工作,使投影照明系统逐条极线进行扫描,图像采集系统对应不同极线进行拍摄,获得一组共50张分别由不同极线照明的图像I1,I2,…,I50。图像采集过程帧率为20fps。
步骤5:图像处理和优化。
首先,对原始图像进行线性组合运算,将拍摄到的每一张图片按照极线进行分割,其中与照明极线相对应的为主极线图块,其余为次级线图块。根据极线约束关系,利用主极线图块减去次级线均值的方式降低由散射造成的影响,处理后的主极线图块按对应极线位置进行拼接,得到如图2所示的成像结果,由左至右分别为原图,白光照明对比图和极线扫描成像结果。整个处理过程基于matlab进行,平均时间约2.5s。
以上所述的具体描述,对发明的目的、技术方案和有益效果进行了进一步详细说明,所应理解的是,以上所述仅为本发明的具体实施例而已,并不用于限定本发明的保护范围,凡在本发明的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (5)
1.基于极线约束的穿散射介质图像采集方法,其特征在于:基于极线约束的穿散射介质图像采集方法为:在没有散射介质的情况下,根据目标的距离范围,调整系统相关参数,使之适合拍摄需要,并通过标定确定此时投影照明系统和图像采集系统之间的极线对应关系;然后按照标定得到的信息使投影照明系统和图像采集系统相互配合获得散射介质存在时的原始图像,即投影照明系统分别对每条极线进行扫描时,图像采集系统拍摄对应图像;最后根据极线对应关系将原始图像中的极线照明和非极线照明部分进行分割,其中,极线照明部分内包含目标信息,非极线照明部分包含散射光干扰,在各原始图像内部利用极线照明和非极线照明部分的线性运算突出目标信息,即极线照明区域,再将所述原始图像的极线照明区域进行拼接,得到完整的目标图像;
为了实现上述方法的系统包括:投影照明系统、图像采集系统和计算机:投影照明系统,用于对目标进行极线扫描式照明;图像采集系统,用于配合投影照明系统进行采集目标反射后的光,获得图像信息;计算机用于控制各子系统的运转与配合,完成图像的采集,存储及传输过程,并对成像结果进行分析、重建和输出;
所述投影照明系统包括半导体激光器,衰减片组,小孔光阑和振镜组;其中半导体激光器用于提供扫描光束,衰减片组用于辅助调节激光亮度,小孔光阑按照需要调节光束口径,振镜组中的两片振镜配合以实现二维扫描;
所述图像采集系统包括成像物镜和面阵图像探测器,用于配合扫描系统采集与各极线对相对应的原始图像;所述图像采集系统的视场与所述投影照明系统的视场重合;
所述投影照明系统通过在振镜组输出端加装镜头控制扫描范围。
2.如权利要求1所述基于极线约束的穿散射介质图像采集方法,其特征在于:所述系统的成像过程如下:
1)、在与目标距离相等的位置放置标定板,调整相机的焦距;利用投影照明系统投射光点A到标定板上,光点A在标定板上的位置为A′,利用图像采集系统拍摄图像Ia,图中光点位置记为A″;
2)、相对投影照明系统向正前方或正后方移动标定板,使光点A在图像采集系统中的位置发生移动,再次拍摄得到图像Ib,图中光点位置记为B″;
3)、在图像采集系统中将光点在图像Ia中的对应位置A″按照坐标相等的方式投射到图像Ib中,光点位置A″和B″的连线即为极平面在图像采集系统中对应的极线k″;
4)、根据图像Ib中位置A″在标定板上定位位置X′;计算机控制振镜转动,使投影照明系统在标定板上投射光点的位置与位置X′重合,记录投影照明系统中对应的光点X;
5)、光点X和光点A的连线即为极平面在投影照明系统中对应的极线k;其中,极线k″与极线k为极限对;
6)、任选极线k外的点,重复上述步骤1)到步骤5),即能够逐条确定出多条极线;在已知两条及以上极线的情况下,根据极线位置关系即能够确定投影照明系统与图像采集系统所有对应极线对的分布情况:投影照明系统与图像采集系统的光心连线为基线,由于极平面包含基线,因此当基线与投影照明系统像平面相交时,所有极线交于一点;当基线与像平面平行时,所有极线平行;
7)、根据成像范围,利用计算机生成所需的极线对在投影照明系统与图像采集系统中的位置信息并保存,用于在采集步骤中进行控制;
8)、投影照明系统对极线进行逐条扫描,得到照明极线k1,k2,…,kn,n为大于1的整数;图像采集系统配合拍摄,得到每条极线对应的图像I1,I2,…,In并储存,完成原始图像采集;
9)、将拍摄到的每一张图片Ii按照与拍摄时的投影照明系统扫描极线ki相对应的极线k″i进行分割,k″i照明范围内为主极线图块pii,其余部分为次级线图块pi1,pi2,…,pi(i-1),pi(i+1),…pin,在主极线图块和次极线图块间进行组合运算,并对不同的主极线图块进行拼接,即可得到初始成像结果。
3.如权利要求2所述基于极线约束的穿散射介质图像采集方法,其特征在于:所述组合运算为采用同一极线对应的主极线图块与次极线图块线性组合的方式进行。
4.如权利要求2所述基于极线约束的穿散射介质图像采集方法,其特征在于:为了进一步提高图像质量,还可以基于散射规律建立点扩散函数模型对初始成像结果进行反卷积运算。
5.如权利要求4所述方法,其特征在于:所述点扩散函数模型是通过拍摄点光源通过散射介质后的成像结果获得。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910284861.XA CN109936692B (zh) | 2019-04-10 | 2019-04-10 | 基于极线约束的穿散射介质图像采集系统和方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910284861.XA CN109936692B (zh) | 2019-04-10 | 2019-04-10 | 基于极线约束的穿散射介质图像采集系统和方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109936692A CN109936692A (zh) | 2019-06-25 |
CN109936692B true CN109936692B (zh) | 2020-10-13 |
Family
ID=66989556
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910284861.XA Active CN109936692B (zh) | 2019-04-10 | 2019-04-10 | 基于极线约束的穿散射介质图像采集系统和方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109936692B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115719386B (zh) * | 2022-11-16 | 2024-03-12 | 南京博视医疗科技有限公司 | 一种基于线扫描的激光治疗系统的标定装置及方法 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5985085A (en) * | 1997-10-01 | 1999-11-16 | Arcturus Engineering, Inc. | Method of manufacturing consumable for laser capture microdissection |
CN102944540A (zh) * | 2012-10-11 | 2013-02-27 | 中国科学院西安光学精密机械研究所 | 一种深层散射介质中的三维成像系统及方法 |
CN104345318A (zh) * | 2014-11-18 | 2015-02-11 | 上海交通大学 | 基于计算关联成像的可绕过墙角的成像系统及成像方法 |
WO2015031395A1 (en) * | 2013-08-26 | 2015-03-05 | The Regents Of The University Of Colorado | Imaging through scattering media with high signal to noise ratio and resolution |
CN106767527A (zh) * | 2016-12-07 | 2017-05-31 | 西安知象光电科技有限公司 | 一种三维轮廓的光学混合检测方法 |
CN106842539A (zh) * | 2017-01-24 | 2017-06-13 | 清华大学 | 穿透散射介质的快速三维成像系统及方法 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20070035735A1 (en) * | 2004-02-20 | 2007-02-15 | Cable Michael D | Sub-image acquistion through scattering media such as smoke and fog |
-
2019
- 2019-04-10 CN CN201910284861.XA patent/CN109936692B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5985085A (en) * | 1997-10-01 | 1999-11-16 | Arcturus Engineering, Inc. | Method of manufacturing consumable for laser capture microdissection |
CN102944540A (zh) * | 2012-10-11 | 2013-02-27 | 中国科学院西安光学精密机械研究所 | 一种深层散射介质中的三维成像系统及方法 |
WO2015031395A1 (en) * | 2013-08-26 | 2015-03-05 | The Regents Of The University Of Colorado | Imaging through scattering media with high signal to noise ratio and resolution |
CN104345318A (zh) * | 2014-11-18 | 2015-02-11 | 上海交通大学 | 基于计算关联成像的可绕过墙角的成像系统及成像方法 |
CN106767527A (zh) * | 2016-12-07 | 2017-05-31 | 西安知象光电科技有限公司 | 一种三维轮廓的光学混合检测方法 |
CN106842539A (zh) * | 2017-01-24 | 2017-06-13 | 清华大学 | 穿透散射介质的快速三维成像系统及方法 |
Non-Patent Citations (3)
Title |
---|
《一种极线约束修正数字图像相关匹配的立体视觉测量方法》;单宝华,霍晓洋,刘洋;《中国激光》;20170810;全文 * |
《基于散斑照明和全息的穿透散射介质成像》;梁子,安晓英,张茹,宋丽培,朱松河,武鹏飞;《光学学报》;20170420;全文 * |
《强散射体内部目标的实时高分辨率成像方法》;文政博,吴雨霖,张秀达,严惠民,魏少鹏;《 光学学报》;20150210;全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN109936692A (zh) | 2019-06-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20200081530A1 (en) | Method and system for registering between an external scene and a virtual image | |
CN110657785B (zh) | 一种高效的场景深度信息获取方法及系统 | |
EP2856922B1 (en) | Stereoscopic endoscope device | |
US20110057930A1 (en) | System and method of using high-speed, high-resolution depth extraction to provide three-dimensional imagery for endoscopy | |
US20060029256A1 (en) | Method of generating image and device | |
US20030164875A1 (en) | System and method for passive three-dimensional data acquisition | |
JPH06233330A (ja) | 表示装置 | |
JP2009300268A (ja) | 3次元情報検出装置 | |
RU2554299C2 (ru) | Устройство формирования стереоскопических изображений | |
CN110572630A (zh) | 三维图像拍摄系统、方法、装置、设备以及存储介质 | |
JP2004045266A (ja) | 3次元情報検出方法及び装置 | |
CN113302541A (zh) | 用于捕获任意平面之间的全光图像的过程和装置 | |
CN109936692B (zh) | 基于极线约束的穿散射介质图像采集系统和方法 | |
CN102595178A (zh) | 视场拼接三维显示图像校正系统及校正方法 | |
WO2019123869A1 (ja) | 画像取得装置及び画像取得方法 | |
US20030164841A1 (en) | System and method for passive three-dimensional data acquisition | |
JP3818028B2 (ja) | 3次元画像撮像装置および3次元画像撮像方法 | |
Choudhury et al. | Simultaneous enhancement of scanning area and imaging speed for a MEMS mirror based high resolution LiDAR | |
CN111736162B (zh) | 一种针对复杂目标的激光照明回波探测装置及方法 | |
CN110196232B (zh) | 一种共焦成像装置及共焦成像方法 | |
KR101539425B1 (ko) | 고스트 이미지가 제거된 영상 획득이 가능한 3차원 스캐너 | |
JP5227883B2 (ja) | 合成映像生成システム、照明制御装置及びプログラム | |
RU173576U1 (ru) | Устройство для получения стереоскопических изображений малоразмерных объектов | |
CN113556476B (zh) | 基于多点照明的主动非视域阵列成像方法 | |
JP4543821B2 (ja) | 3次元形状測定装置および方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |