CN108489398A - 一种广角场景下激光加单目视觉测量三维坐标的方法 - Google Patents
一种广角场景下激光加单目视觉测量三维坐标的方法 Download PDFInfo
- Publication number
- CN108489398A CN108489398A CN201810488994.4A CN201810488994A CN108489398A CN 108489398 A CN108489398 A CN 108489398A CN 201810488994 A CN201810488994 A CN 201810488994A CN 108489398 A CN108489398 A CN 108489398A
- Authority
- CN
- China
- Prior art keywords
- point
- coordinate system
- total powerstation
- coordinates
- axis
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/002—Measuring arrangements characterised by the use of optical techniques for measuring two or more coordinates
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Length Measuring Devices By Optical Means (AREA)
Abstract
本发明公开了一种广角场景下激光加单目视觉测量三维坐标的方法,以CCD单目相机拍摄左上角的角点为图像坐标系原点,建立相机坐标系;全站仪放置在OB点,建立世界坐标系,求出相机坐标系以及世界坐标系之间的旋转矩阵和平移矩阵;将全站仪移动到OC点,建立大地坐标系;在这个坐标系下读出多点三维坐标,利用七参数模型求解出前后移动全站仪两个位置的世界坐标系和大地坐标系之间的关系;在相机中读出图像坐标,进而利用相机坐标系、世界坐标系、大地坐标系的转换关系求出任意相对位置的三维坐标。本发明简化与避免了双目摄像机标定的复杂步骤,仅用单目相机以及全站仪实行多点标定外参数,属于单目视觉与机器视觉领域。
Description
技术领域
本发明涉及单目视觉与机器视觉领域,特别涉及一种广角场景下激光加单目视觉测量三维坐标的方法。
背景技术
目前人类在视觉方面通常是利用双目视觉来感知三维空间信息,包括现在比较热门的人工智能,视觉机器人的研究等。早在上个世纪60年代,人类就利用非线性优化的方式处理两幅图像,也就是在不同的方向获取图像信息,进而计算空间点的三维位姿。双目视觉因为结构简单、操作方便、能够实时操作,所以广泛被应用于目标跟踪、航空航天、农业工程以及机器人感知、汽车路线规划等领域。但在应用过程中,由于摄像机标定误差、特征提取以及镜头畸变等原因,双目视觉实现三维空间测量和重建等还需要在数据精度方面有待提升。
例如在标定时,双目标定过程复杂,精度可控因素少,特别是在广角场景,标定复杂,特征点匹配困难,视线限制大,系统性能差。
传统的测量或者运动分析模型获取空间点的三维坐标是通过双目视觉实现的,首先在测量前就要进行相机标定,包括单目相机的焦距、图像主点坐标、图像大小以及像素大小;其次考虑非线性因素的情况下还要对相机进行畸变参数的估计。
发明内容
针对现有技术中存在的技术问题,本发明的目的是:提供一种大大提高测量效率和精度的广角场景下激光加单目视觉测量三维坐标的方法。
为了达到上述目的,本发明采用如下技术方案:
一种广角场景下激光加单目视觉测量三维坐标的方法,以CCD单目相机拍摄左上角的角点为图像坐标系原点,建立相机坐标系;将全站仪第一次放置在OB点,并以此点建立世界坐标系,选择好后视点位置,求出相机坐标系以及世界坐标系之间的旋转矩阵R1以及平移矩阵t1;将全站仪移动到另外OC点,并以此点建立大地坐标系;在这个坐标系下读出多点三维坐标,利用七参数模型求解出前后移动全站仪两个位置的世界坐标系和大地坐标系之间的关系;再在CCD单目相机中读出大地坐标系的图像坐标,进而利用相机坐标系、世界坐标系、大地坐标系的转换关系求出任意相对位置的任意坐标系下的三维坐标。采用这种结构后,在广角镜头下,用全站仪以及CCD单目相机拍摄三维坐标点,避免在用棋盘标定的广角畸变系数对实验的影响。简化与避免了双目摄像机标定的步骤,不用假设以及保证相机系统,倾斜角与俯仰角为0度,充分利用全站仪自身的大地坐标系,简化了双目视觉坐标转换的复杂计算步骤。其中,利用七参数模型求出坐标系之间是关系是现有技术,即两个不同的三维空间直角坐标系之间转换时,通常使用七参数模型。在该模型中有七个未知参数,即:三个坐标平移量,即两个空间坐标系的坐标原点之间坐标差值;三个坐标轴的旋转角度,通过按顺序旋转三个坐标轴指定角度;尺度因子K,即两个空间坐标系内的同一段直线的长度比值,实现尺度的比例转换。通常K值几乎等于1。以上七个参数通常称为七参数。运用七参数进行的坐标转换称为七参数坐标转换。
作为一种优选,假设广角场景下有一点被测点PX(XxYxZx),首先将CCD单目相机放置在OA点,以CCD单目相机拍摄左上角的角点为图像坐标系原点Oimage;然后将全站仪放在CCD单目相机拍摄范围内的OB点,并调整全站仪此时的Z轴垂直于大地,将置零角调整成90度角进行后视点设置。
作为一种优选,只需要保证全站仪的世界坐标系和大地坐标系,CCD单目相机的位置随意放,保证将全站仪拍摄到,将全站仪放置在OB点后,选择好后视点位置,调整全站仪的世界坐标系设为XWYWZW,其中X轴相当于全站仪默认的坐标系的N轴,Y轴相当于大地坐标系的E轴,Z轴垂直于地面即可。
作为一种优选,随机移动贴有宝马点的PX点,测得在两个坐标系之间至少7个点的坐标P1(X1Y1Z1),P2(X2Y2Z2),P3(X3Y3Z3)……,要求其中任意7个点不能全是共面,求出相机坐标系以及世界坐标系之间的旋转矩阵R1以及平移矩阵t1。
作为一种优选,简化了坐标系之间的转化,在得出世界坐标与相机坐标系的旋转矩阵以及平移矩阵后,将全站仪移动到OC点,此时的大地坐标系设为X’WY’WZ’W,在移动全站仪的两个位置,Z轴都是垂直于大地,所以在Z轴方向上的旋转角为0,另外利用坐标定后视可以将两个全站仪X轴Y轴固定夹角为90度;世界坐标系和大地坐标系的关系为只有平移以及绕Z轴转动的一个三维关系。
总的说来,本发明具有如下优点:
1.简化与避免了双目摄像机标定的复杂步骤,仅用单目相机以及全站仪可以实行多点标定外参数。
2.原理简单,可以获得多个三维坐标系的相对关系,从而可以快速计算广角场地下的任意点的三维坐标。
3.不用假设以及保证相机系统,倾斜角与俯仰角为0度,充分利用全站仪自身的大地坐标系,简化了双目视觉坐标转换的复杂计算步骤。
4.在广角镜头下,用全站仪以及CCD单目相机拍摄三维坐标点,避免在用棋盘标定的广角畸变系数对实验的影响。
5.利用全站仪自身的坐标系属性,降低转换难度,并结合单目相机,大大提高广角场景下空间点的测量效率以及精度,简化了双目视觉标定流程,仅仅利用单目相机便可获得点的深度信息。
附图说明
图1为相机与全站仪测量设计方法示意图。
图2为坐标系转换方法示意图。
图3是一种广角场景下激光加单目视觉测量三维坐标的方法的流程框图。
其中,1为CCD单目相机,2为放置在OB点的全站仪,3为放置在OC点的全站仪,P为测试点,XCYCZC为相机坐标系,XWYWZW为世界坐标系,X’WY’WZ’W为大地坐标系。
具体实施方式
下面来对本发明做进一步详细的说明。
一种广角场景下激光加单目视觉测量三维坐标的方法,具体包括如下步骤:
步骤1,假设广角场景下有一点被测点PX(XxYxZx),实验中用标有宝马点的杆表示,首先将CCD单目相机放置在OA点,以CCD单目相机拍摄左上角的角点为图像坐标系原点Oimage;
步骤2,假设相机内参数已经标定,其中假设(U0,V0)为图像坐标系UV的图像中心,dx、dy为偏移量;然后将全站仪放置在OB点,选择好后视点位置(坐标定后视点模式),调整全站仪的世界坐标系设为XWYWZW,其中X轴相当于全站仪默认的坐标系的N轴,Y轴相当于大地坐标系的E轴,Z轴垂直于地面即可。
步骤3,随机移动贴有宝马点的PX点,测得在两个坐标系之间至少7个点的坐标P1(X1Y1Z1),P2(X2Y2Z2),P3(X3Y3Z3)……,当然这7个点不能全是共面;然后通过CCD单目相机在图像上读出对于的图像坐标(u1,v1),(u2,v2),(u3,v3)……,将这两个坐标代入式(1),求出相机坐标系以及世界坐标系之间的旋转矩阵R1以及平移矩阵t1。如下式:
CCD单目相机→全站仪2(世界坐标系)
其中
α,β,γ分别表示相机的方位角、俯仰角以及倾斜角,sx,sy,sz表示世界坐标系原点相对于相机坐标系的位置在三个方向上的偏移量。
步骤4,在得出世界坐标与相机坐标系的旋转矩阵以及平移矩阵后,将全站仪移动到OC点,此时的大地坐标系设为X’WY’WZ’W,如图1所示,那么此时这两个坐标系之间的关系可以表示为:
全站仪2(世界坐标系)→全站仪3(大地坐标系):
其中(x0y0z0)为两个坐标系之间的平移量,α,β,γ分别为大地坐标系(第二次全站仪位置为原点的坐标系)绕X轴旋转,Y轴旋转,Z轴旋转的角度;μ为尺度参数,即两个空间坐标系内的同一段直线的长度比值,实现尺度的比例转换。通常K值几乎等于1。
步骤5,在移动全站仪的两个位置,Z轴都是垂直于大地,所以在Z轴方向上的旋转角为0,另外利用坐标定后视可以将两个全站仪X轴Y轴固定夹角为90度。那么由此可知可以将两个坐标系的关系看做是只有平移以及绕Z轴转动的一个三维关系;
其中(x,y,z)为空间中被测点坐标,(x0,y0,z0)为两坐标系之间的平移量,(x'y'z')为空间任意一点在大地坐标系下的坐标。CCD单目相机→全站仪3(大地坐标系):
通过以上方法,实现了广角场景下,图像坐标系与系统内任意坐标系之间的转换关系。
表1:第一次试验数据
表2:相机坐标系与第一次全站仪之间外参
表3:测试结果
由表1至表3可以看出:相机坐标系以及世界坐标系之间的转换结果与世界坐标系与大地坐标系之间的转换结果相差不大,精度可以达到厘米级,有效说明算法的可靠性以及实用性。
上述实施例为本发明较佳的实施方式,但本发明的实施方式并不受上述实施例的限制,其他的任何未背离本发明的精神实质与原理下所作的改变、修饰、替代、组合、简化,均应为等效的置换方式,都包含在本发明的保护范围之内。
Claims (5)
1.一种广角场景下激光加单目视觉测量三维坐标的方法,其特征在于:
以CCD单目相机拍摄左上角的角点为图像坐标系原点,建立相机坐标系;
将全站仪第一次放置在OB点,并以此点建立世界坐标系,选择好后视点位置,求出相机坐标系以及世界坐标系之间的旋转矩阵R1以及平移矩阵t1;
将全站仪移动到另外OC点,并以此点建立大地坐标系;在这个坐标系下读出多点三维坐标,利用七参数模型求解出前后移动全站仪两个位置的世界坐标系和大地坐标系之间的关系;再在CCD单目相机中读出大地坐标系的图像坐标,进而利用相机坐标系、世界坐标系、大地坐标系的转换关系求出任意相对位置的任意坐标系下的三维坐标。
2.按照权利要求1所述的一种广角场景下激光加单目视觉测量三维坐标的方法,其特征在于:假设广角场景下有一点被测点PX(XxYxZx),首先将CCD单目相机放置在OA点,以CCD单目相机拍摄左上角的角点为图像坐标系原点Oimage;然后将全站仪放在CCD单目相机拍摄范围内的OB点,并调整全站仪此时的Z轴垂直于大地,将置零角调整成90度角进行后视点设置。
3.按照权利要求1所述的一种广角场景下激光加单目视觉测量三维坐标的方法,其特征在于:只需要保证全站仪的世界坐标系和大地坐标系,CCD单目相机的位置随意放,保证将全站仪拍摄到,将全站仪放置在OB点后,选择好后视点位置,调整全站仪的世界坐标系设为XWYWZW,其中X轴相当于全站仪默认的坐标系的N轴,Y轴相当于大地坐标系的E轴,Z轴垂直于地面即可。
4.按照权利要求1所述的一种广角场景下激光加单目视觉测量三维坐标的方法,其特征在于:随机移动贴有宝马点的PX点,测得在两个坐标系之间至少7个点的坐标P1(X1Y1Z1),P2(X2Y2Z2),P3(X3Y3Z3)……,要求其中任意7个点不能全是共面,求出相机坐标系以及世界坐标系之间的旋转矩阵R1以及平移矩阵t1。
5.按照权利要求1所述的一种广角场景下激光加单目视觉测量三维坐标的方法,其特征在于:简化了坐标系之间的转化,在得出世界坐标与相机坐标系的旋转矩阵以及平移矩阵后,将全站仪移动到OC点,此时的大地坐标系设为X’WY’WZ’W,在移动全站仪的两个位置,Z轴都是垂直于大地,所以在Z轴方向上的旋转角为0,另外利用坐标定后视可以将两个全站仪X轴Y轴固定夹角为90度;世界坐标系和大地坐标系的关系为只有平移以及绕Z轴转动的一个三维关系。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810488994.4A CN108489398B (zh) | 2018-05-21 | 2018-05-21 | 一种广角场景下激光加单目视觉测量三维坐标的方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810488994.4A CN108489398B (zh) | 2018-05-21 | 2018-05-21 | 一种广角场景下激光加单目视觉测量三维坐标的方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN108489398A true CN108489398A (zh) | 2018-09-04 |
CN108489398B CN108489398B (zh) | 2020-03-17 |
Family
ID=63353542
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810488994.4A Active CN108489398B (zh) | 2018-05-21 | 2018-05-21 | 一种广角场景下激光加单目视觉测量三维坐标的方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108489398B (zh) |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109581454A (zh) * | 2018-12-03 | 2019-04-05 | 大连圣博尔测绘仪器科技有限公司 | 对偶式双复合定位仪测量方法 |
CN109678057A (zh) * | 2019-02-18 | 2019-04-26 | 上海应用技术大学 | 基于立体视觉的桥式吊车的摆角测量方法 |
RU2697822C2 (ru) * | 2018-11-19 | 2019-08-21 | Алексей Владимирович Зубарь | Способ определения координат объектов по их цифровым изображениям |
CN111127562A (zh) * | 2019-12-11 | 2020-05-08 | 长安大学 | 一种单目面阵相机的标定方法及自动标定系统 |
CN111829472A (zh) * | 2019-04-17 | 2020-10-27 | 初速度(苏州)科技有限公司 | 利用全站仪测定传感器间相对位置的方法及装置 |
RU2740435C2 (ru) * | 2020-02-27 | 2021-01-14 | Алексей Владимирович Зубарь | Способ определения положения области поиска соответствий на дисторсионно-искажённых изображениях |
CN112925002A (zh) * | 2021-02-07 | 2021-06-08 | 沈阳航空航天大学 | 空中非合作目标分布式视觉定位方法 |
CN113865432A (zh) * | 2021-09-17 | 2021-12-31 | 中国人民解放军陆军工程大学 | 一种自行火炮身管指向检测方法 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004348198A (ja) * | 2003-05-20 | 2004-12-09 | Nippon Telegr & Teleph Corp <Ntt> | 座標変換処理処置、処理方法、この方法のプログラム、このプログラムを記録した記録媒体 |
CN101839692A (zh) * | 2010-05-27 | 2010-09-22 | 西安交通大学 | 单相机测量物体三维位置与姿态的方法 |
CN103033132A (zh) * | 2012-12-20 | 2013-04-10 | 中国科学院自动化研究所 | 基于单目视觉的平面测量方法及装置 |
CN103162622A (zh) * | 2013-02-28 | 2013-06-19 | 西安交通大学 | 单目视觉系统及其使用的便携式球靶标及其测量方法 |
CN105606025A (zh) * | 2016-02-01 | 2016-05-25 | 西安交通大学 | 一种使用激光器和单目相机测量球状目标几何参数的方法 |
CN106248014A (zh) * | 2016-08-23 | 2016-12-21 | 中国人民解放军信息工程大学 | 一种基于单相片的三维坐标测量方法及装置 |
CN106289071A (zh) * | 2016-08-18 | 2017-01-04 | 温州大学 | 一种结构三维位移单目摄像测量方法 |
CN107389028A (zh) * | 2017-08-14 | 2017-11-24 | 中南大学 | 一种基于坐标投影的三维坐标转换方法及装置 |
-
2018
- 2018-05-21 CN CN201810488994.4A patent/CN108489398B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004348198A (ja) * | 2003-05-20 | 2004-12-09 | Nippon Telegr & Teleph Corp <Ntt> | 座標変換処理処置、処理方法、この方法のプログラム、このプログラムを記録した記録媒体 |
CN101839692A (zh) * | 2010-05-27 | 2010-09-22 | 西安交通大学 | 单相机测量物体三维位置与姿态的方法 |
CN103033132A (zh) * | 2012-12-20 | 2013-04-10 | 中国科学院自动化研究所 | 基于单目视觉的平面测量方法及装置 |
CN103162622A (zh) * | 2013-02-28 | 2013-06-19 | 西安交通大学 | 单目视觉系统及其使用的便携式球靶标及其测量方法 |
CN105606025A (zh) * | 2016-02-01 | 2016-05-25 | 西安交通大学 | 一种使用激光器和单目相机测量球状目标几何参数的方法 |
CN106289071A (zh) * | 2016-08-18 | 2017-01-04 | 温州大学 | 一种结构三维位移单目摄像测量方法 |
CN106248014A (zh) * | 2016-08-23 | 2016-12-21 | 中国人民解放军信息工程大学 | 一种基于单相片的三维坐标测量方法及装置 |
CN107389028A (zh) * | 2017-08-14 | 2017-11-24 | 中南大学 | 一种基于坐标投影的三维坐标转换方法及装置 |
Non-Patent Citations (3)
Title |
---|
WEI CHENG等: "Light pen calibration for a monocular-vision-based coordinate measuring system", 《2015 7TH INTERNATIONAL CONFERENCE ON INTELLIGENT HUMAN-MACHINE SYSTEMS AND CYBERNETICS》 * |
毛先富等: "基于手持相位标靶技术的光学三维坐标测量", 《光学学报》 * |
王向军等: "野外大视场单相机空间坐标测量系统的快速标定", 《光学精密工程》 * |
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
RU2697822C2 (ru) * | 2018-11-19 | 2019-08-21 | Алексей Владимирович Зубарь | Способ определения координат объектов по их цифровым изображениям |
CN109581454A (zh) * | 2018-12-03 | 2019-04-05 | 大连圣博尔测绘仪器科技有限公司 | 对偶式双复合定位仪测量方法 |
CN109581454B (zh) * | 2018-12-03 | 2022-10-21 | 大连圣博尔测绘仪器科技有限公司 | 对偶式双复合定位仪测量方法 |
CN109678057A (zh) * | 2019-02-18 | 2019-04-26 | 上海应用技术大学 | 基于立体视觉的桥式吊车的摆角测量方法 |
CN111829472A (zh) * | 2019-04-17 | 2020-10-27 | 初速度(苏州)科技有限公司 | 利用全站仪测定传感器间相对位置的方法及装置 |
CN111127562A (zh) * | 2019-12-11 | 2020-05-08 | 长安大学 | 一种单目面阵相机的标定方法及自动标定系统 |
CN111127562B (zh) * | 2019-12-11 | 2023-03-28 | 长安大学 | 一种单目面阵相机的标定方法及自动标定系统 |
RU2740435C2 (ru) * | 2020-02-27 | 2021-01-14 | Алексей Владимирович Зубарь | Способ определения положения области поиска соответствий на дисторсионно-искажённых изображениях |
CN112925002A (zh) * | 2021-02-07 | 2021-06-08 | 沈阳航空航天大学 | 空中非合作目标分布式视觉定位方法 |
CN112925002B (zh) * | 2021-02-07 | 2023-09-26 | 沈阳航空航天大学 | 空中非合作目标分布式视觉定位方法 |
CN113865432A (zh) * | 2021-09-17 | 2021-12-31 | 中国人民解放军陆军工程大学 | 一种自行火炮身管指向检测方法 |
Also Published As
Publication number | Publication date |
---|---|
CN108489398B (zh) | 2020-03-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108489398A (zh) | 一种广角场景下激光加单目视觉测量三维坐标的方法 | |
CN110057295B (zh) | 一种免像控的单目视觉平面距离测量方法 | |
EP2847741B1 (en) | Camera scene fitting of real world scenes for camera pose determination | |
CN105716542B (zh) | 一种基于柔性特征点的三维数据拼接方法 | |
CN109297436B (zh) | 双目线激光立体测量基准标定方法 | |
Xie et al. | Study on construction of 3D building based on UAV images | |
CN109272574B (zh) | 基于投影变换的线阵旋转扫描相机成像模型构建方法和标定方法 | |
CN109961401A (zh) | 一种双目相机的图像校正方法和存储介质 | |
Yang et al. | A calibration method for binocular stereo vision sensor with short-baseline based on 3D flexible control field | |
Zhang et al. | A universal and flexible theodolite-camera system for making accurate measurements over large volumes | |
CN109712232B (zh) | 一种基于光场的物体表面轮廓三维成像方法 | |
CN108629829B (zh) | 一种球幕相机与深度相机结合的三维建模方法和系统 | |
CN110009690A (zh) | 基于极线校正的双目立体视觉图像测量方法 | |
CN107014399A (zh) | 一种星载光学相机‑激光测距仪组合系统联合检校方法 | |
CN102831601A (zh) | 基于联合相似性测度和自适应支持权重的立体匹配方法 | |
CN109003235A (zh) | 光场图像的校正方法、计算机可读存储介质、及电子终端 | |
CN111220126A (zh) | 一种基于点特征和单目相机的空间物体位姿测量方法 | |
CN104463791A (zh) | 一种基于球面模型的鱼眼图像校正法 | |
CN113724337B (zh) | 一种无需依赖云台角度的相机动态外参标定方法及装置 | |
CN114283203A (zh) | 一种多相机系统的标定方法及系统 | |
CN108269234A (zh) | 一种全景相机镜头姿态估计方法及全景相机 | |
CN116681827A (zh) | 一种基于多监视相机和点云融合的无缺陷三维点云重建方法及其装置 | |
CN111429571A (zh) | 一种基于时空图像信息联合相关的快速立体匹配方法 | |
CN112164119B (zh) | 一种适用于狭小空间的环绕放置多摄像机系统标定方法 | |
CN113240749B (zh) | 一种面向海上舰船平台无人机回收的远距离双目标定与测距方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |