CN108010027B - 一种螺丝异常自动检测方法 - Google Patents

一种螺丝异常自动检测方法 Download PDF

Info

Publication number
CN108010027B
CN108010027B CN201711440070.9A CN201711440070A CN108010027B CN 108010027 B CN108010027 B CN 108010027B CN 201711440070 A CN201711440070 A CN 201711440070A CN 108010027 B CN108010027 B CN 108010027B
Authority
CN
China
Prior art keywords
thread
boundary
screw
coordinate
roi
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN201711440070.9A
Other languages
English (en)
Other versions
CN108010027A (zh
Inventor
李维
江淮
韦文波
杨世举
孔园林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hefei Asorting Intelligent Technology Co ltd
Original Assignee
Hefei Asorting Intelligent Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hefei Asorting Intelligent Technology Co ltd filed Critical Hefei Asorting Intelligent Technology Co ltd
Priority to CN201711440070.9A priority Critical patent/CN108010027B/zh
Publication of CN108010027A publication Critical patent/CN108010027A/zh
Application granted granted Critical
Publication of CN108010027B publication Critical patent/CN108010027B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • G06T7/0008Industrial image inspection checking presence/absence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30164Workpiece; Machine component

Landscapes

  • Engineering & Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)

Abstract

本发明涉及一种螺丝异常自动检测方法,包括如下步骤:a)螺帽ROI区域设定;b)螺帽定位和检测;c)设定螺纹ROI区域;d)定位螺纹右边界;e)螺纹参数检测;f)异常情况检测。通过本发明方法完成对螺丝的自动检测,从而极大的提高该任务的检测效率。

Description

一种螺丝异常自动检测方法
技术领域
本发明涉及机械零部件,涉及螺丝,具体涉及一种螺丝异常自动检测方法。
背景技术
螺丝是机械设备中使用最为频繁的零部件。同时,螺丝在设备中的作用,也是举足轻重的。因此,提前对螺丝进行质量检测,可以防止制造过程中才发现设备的问题,降低损失,提高效率。常规的螺丝检测方法,是利用人眼对螺丝进行逐个查看,效率低,成本高,而且往往容易出现漏检的现象。
发明内容
本发明目的是提供一种螺丝异常自动检测方法,极大的提高检测效率。
为了实现以上目的,本发明采用的技术方案为:一种螺丝异常自动检测方法,包括如下步骤:
a)螺帽ROI区域设定:ROI的上下边界,与压杆的上下边重合;ROI的右边界,玻璃盘的左边界重合;ROI的左边界,设定为压杆完全收缩时,压杆右边界的位置;
b)螺帽定位和检测:压杆轮廓过滤;螺帽上、下边界定位;宽度检测;压杆圆弧处理;高度检测;
c)设定螺纹ROI区域:左边界与玻璃盘的右边界重合,人工设定;上边界与螺帽上边界重合;下边界与螺帽下边界重合;
d)定位螺纹右边界:对螺纹ROI区域进行二值化,将螺纹像素变成前景像素;根据螺帽的上、下边界,计算得到螺帽中间线;沿着中间线所在的y坐标,在螺纹ROI区域内,往右侧遍历;在像素第一次从前景像素变成背景像素时,停止下来,将该点作为螺纹的右边界x坐标点,该点称为螺纹右侧中间点P;设定宽度阈值为10个像素;从螺纹右侧中间点P,向上下两侧扩展;当上边界点,与下边界点,它们的x坐标与螺纹右侧中间点P的x坐标的距离大于10个像素时,停止下来;根据上下边界的x坐标的最小值,作为对螺纹的截取边界;
e)螺纹参数检测:包括上螺纹参数检测和下螺纹参数检测;
所述的上螺纹参数检测根据步骤d)找到的上下螺纹的范围,分割得到上螺纹,以及下螺纹;设定螺牙检测窗口;利用窗口进行平移,检测当前像素是否为螺牙;遍历上螺纹,得到所有的螺牙位置;逐个遍历螺牙,计算螺牙最大间距,和最小间距;将相邻螺牙的中间x坐标,作为两个螺牙的分界线;遍历两个螺牙之间的轮廓点,得到y坐标最大值;对每个螺牙进行遍历,利用其左右两侧的y坐标最大值,得到螺牙高度;从螺牙x位置,向左右两侧各扩展25个像素,提取直线段;将直线段拟合成直线,得到倾斜角;螺纹边缘线上,有一段属于水平直线;利用螺牙两侧斜线,与水平线的交点,得到螺牙的左右侧位置;遍历所有的螺牙,得到最大螺牙宽度,和最小螺牙宽度;利用上螺纹的水平线,与下螺纹的水平线,计算得到螺纹的宽度值;
f)异常情况检测:计算背景亮度参考值;在螺纹ROI区域内,检测是否存在非背景像素;利用背景亮度参考值作为阈值,对螺纹ROI区域进行二值化;连通域检测;统计最大连通域的面积,如果面积小于20像素,则确定该区域内没有螺丝的存在,预警。
进一步的,步骤b)中的压杆轮廓过滤采用如下步骤将压杆边缘从螺帽边缘过滤:
b11)将轮廓碎裂,形成多个子轮廓片段;
b12)计算轮廓的方向;
b13)如果轮廓的方向接近垂直,则过滤;
b14)最终只保留方向接近水平的轮廓。
3、根据权利要求1所述的一种螺丝异常自动检测方法,其特征在于:步骤b)中的压杆圆弧处理采用如下步骤来得到压杆右端点位置:
b41)完整提取整个右边界圆弧;
b42)对该圆弧进行圆形拟合;
b43)提取压杆的上下边界;
b44)计算上下边界,与圆形的上下交点;
b45)连接该上下交点;
b46)连线的中点,就是压杆的右端点。
本发明的技术效果在于:通过本发明方法完成对螺丝的自动检测,从而极大的提高该任务的检测效率。
具体实施方式
本发明的具体步骤:
a)螺帽ROI区域设定:
在螺丝自动化检测装置中,为了固定螺丝,在螺丝的上方,有一个压杆的存在。在摄像头拍摄的螺丝图片中,这个压杆的上下两边的位置是固定的。不同的螺丝,其位置相对于压杆,即便有少量偏移,但依然不会超出压杆的范围。
此外,玻璃盘的位置也是固定的。玻璃盘的左右两个侧面,是完全静止的,这个坐标值不会发生变动。
本发明利用这个特点,将螺帽的ROI区域设定如下:
a1、ROI的上下边界,与压杆的上下边重合。
a2、ROI的右边界,玻璃盘的左边界重合。
a3、ROI的左边界,设定为压杆完全收缩时,压杆右边界的位置。
b)螺帽定位和检测:
对螺帽的尺寸参数的检测,也是螺丝自动检测的一个部分。因此,需要首先对螺帽进行定位,然后才能检测螺帽的高度和宽度。具体流程如下:
b1、压杆轮廓过滤
在ROI区域内,进行亚像素边缘提取。由于视角原因,摄像机拍摄的图像中,对应的边缘,会出现压杆与螺帽粘连在一起的现象。如果不能将压杆的边缘,与螺帽的边缘拆分开,则螺帽检测必定会受到影响。
采用如下的方法将压杆边缘从螺帽边缘过滤:
b11)将轮廓碎裂,形成多个子轮廓片段。
b12)计算轮廓的方向。
b13)如果轮廓的方向接近垂直,则过滤。
b14)最终只保留方向接近水平的轮廓。
b2、螺帽上、下边界定位
对保留下来的所有的水平轮廓进行扫描,得到y坐标值最小的的水平轮廓,作为上边界。同理,得到下边界。
b3、宽度检测
对螺帽的上下边界所在的区域内,按照坐标从左到右的方式,进行遍历。计算每一个不同的x坐标位置,螺帽上下边界的坐标之差。记录下其中的最大坐标差。该值就是螺帽宽度值。
b4、压杆圆弧处理
由于相机视角的关系,图像中所看到的压杆右边界,其实是压杆底部圆形面的远端弧线。如果直接将圆弧的右端,作为螺帽左端进行计算,会造成螺帽高度降低。
采用如下方法来得到真正的压杆右端点位置:
b41)完整提取整个右边界圆弧
b42)对该圆弧进行圆形拟合
b43)提取压杆的上下边界。
b44)计算上下边界,与圆形的上下交点
b45)连接该上下交点
b46)连线的中点,就是压杆的右端点。
b5、高度检测
螺帽的高度,就是玻璃面的左边界,与压杆右端点之间的坐标差值。
c)设定螺纹ROI区域:
螺纹中,螺牙的高度,肯定是不会超过螺帽的。因此可以利用螺帽的信息,来设定螺纹的检测区域。由于螺纹的长度是无法预知的,因此这里只需要设定螺纹ROI的上下边界,以及左边界即可。
c1、左边界与玻璃盘的右边界重合,人工设定。
c2、上边界与螺帽上边界重合。
c3、下边界与螺帽下边界重合。
d)检测螺纹右边界:
待检测螺丝的规格,各有不同。为了应对螺丝长度变化带来的影响,本发明采用如下的方法来应对——检测到螺纹右边界,进而为螺纹上下边界的划分提供信息。
螺纹右边界的定位方法如下:
d1、对螺纹ROI区域进行二值化,将螺纹像素变成前景像素。
d2、根据螺帽的上、下边界,计算得到螺帽中间线。
d3、沿着中间线所在的y坐标,在螺纹ROI区域内,往右侧遍历。
d4、在像素第一次从前景像素变成背景像素时,停止下来,将该点作为螺纹的右边界x坐标点。该点称为螺纹右侧中间点P。
d5、设定宽度阈值(10个像素)。
d6、从螺纹右侧中间点P,向上下两侧扩展。
d7、当上边界点,与下边界点,它们的x坐标与螺纹右侧中间点P的x坐标的距离大于10个像素时,停止下来。
d8、根据上下边界的x坐标的最小值,作为对螺纹的截取边界。
e)螺纹参数检测:
螺纹上,需要检测的参数包括:
最大螺牙高度
最小螺牙高度
最大螺牙宽度
最小螺牙宽度
最大螺牙间距
最小螺牙间距
螺牙倾斜角
上下侧螺牙距离
细节如下(以上螺纹为例):
e1、根据步骤d)找到的上下螺纹的范围,分割得到上螺纹,以及下螺纹。
e2、设定螺牙检测窗口(宽度值=50像素)。
e3、利用窗口进行平移,检测当前像素是否为螺牙。
判断为螺牙的条件为:
如果当前像素的y坐标值,是窗口中最小y坐标值。则当前位置作为螺牙之一。
e4、遍历上螺纹,得到所有的螺牙位置。
e5、逐个遍历螺牙,计算螺牙最大间距,和最小间距。
e6、将相邻螺牙的中间x坐标,作为两个螺牙的分界线。
e7、遍历两个螺牙之间的轮廓点,得到y坐标最大值。
e8、对每个螺牙进行遍历,利用其左右两侧的y坐标最大值,得到螺牙高度(螺牙高度=左右两侧y坐标最大值-螺牙y坐标)。
e9、遍历,得到所有螺牙中的最大高度、最小高度。
e10、从螺牙x位置,向左右两侧各扩展25个像素,提取直线段。
e11、将直线段拟合成直线,得到倾斜角。
e12、螺纹边缘线上,有一段属于水平直线。采用如下方法找到水平直线上的点:
e121)遍历所有的螺纹上边缘点,对y坐标进行投票。
e122)将y坐标投票数最多的y值(记为y0)记录下来,这就是螺纹水平线所在位置。
e123)遍历螺纹轮廓点,y坐标与y0相差在2个像素以内的,全部算作水平点。
e124)利用这些水平点拟合出直线。
e13、利用螺牙两侧斜线,与水平线的交点,得到螺牙的左右侧位置。
e14、遍历所有的螺牙,得到最大螺牙宽度,和最小螺牙宽度。
e15、利用上螺纹的水平线,与下螺纹的水平线,计算得到螺纹的宽度值。
同理,对下螺纹参数检测。
f)异常情况检测:
相机视野中没有螺丝,是一种典型的异常情况,针对这种情形,本发明的方法如下:
f1、计算背景亮度参考值。
f2、在螺纹ROI区域内,检测是否存在非背景像素。
f3、利用背景亮度参考值作为阈值,对螺纹ROI区域进行二值化。
f4、连通域检测。
f5、统计最大连通域的面积。如果面积小于20像素,则确定该区域内没有螺丝的存在。预警。

Claims (3)

1.一种螺丝异常自动检测方法,包括如下步骤:
a)螺帽ROI区域设定:ROI的上下边界,与压杆的上下边重合;ROI的右边界,玻璃盘的左边界重合;ROI的左边界,设定为压杆完全收缩时,压杆右边界的位置;
b)螺帽定位和检测:压杆轮廓过滤;螺帽上、下边界定位;宽度检测;压杆圆弧处理;高度检测;
c)设定螺纹ROI区域:左边界与玻璃盘的右边界重合,人工设定;上边界与螺帽上边界重合;下边界与螺帽下边界重合;
d)定位螺纹右边界:对螺纹ROI区域进行二值化,将螺纹像素变成前景像素;根据螺帽的上、下边界,计算得到螺帽中间线;沿着中间线所在的y坐标,在螺纹ROI区域内,往右侧遍历;在像素第一次从前景像素变成背景像素时,停止下来,将该点作为螺纹的右边界x坐标点,该点称为螺纹右侧中间点P;设定宽度阈值为10个像素;从螺纹右侧中间点P,向上下两侧扩展;当上边界点,与下边界点,它们的x坐标与螺纹右侧中间点P的x坐标的距离大于10个像素时,停止下来;根据上下边界的x坐标的最小值,作为对螺纹的截取边界;
e)螺纹参数检测:包括上螺纹参数检测和下螺纹参数检测;
所述的上螺纹参数检测根据步骤d)找到的上下螺纹的范围,分割得到上螺纹,以及下螺纹;设定螺牙检测窗口;利用窗口进行平移,检测当前像素是否为螺牙;遍历上螺纹,得到所有的螺牙位置;逐个遍历螺牙,计算螺牙最大间距,和最小间距;将相邻螺牙的中间x坐标,作为两个螺牙的分界线;遍历两个螺牙之间的轮廓点,得到y坐标最大值;对每个螺牙进行遍历,利用其左右两侧的y坐标最大值,得到螺牙高度;从螺牙x位置,向左右两侧各扩展25个像素,提取直线段;将直线段拟合成直线,得到倾斜角;螺纹边缘线上,有一段属于水平直线;利用螺牙两侧斜线,与水平线的交点,得到螺牙的左右侧位置;遍历所有的螺牙,得到最大螺牙宽度,和最小螺牙宽度;利用上螺纹的水平线,与下螺纹的水平线,计算得到螺纹的宽度值;
f)异常情况检测:计算背景亮度参考值;在螺纹ROI区域内,检测是否存在非背景像素;利用背景亮度参考值作为阈值,对螺纹ROI区域进行二值化;连通域检测;统计最大连通域的面积,如果面积小于20像素,则确定该区域内没有螺丝的存在,预警。
2.根据权利要求1所述的一种螺丝异常自动检测方法,其特征在于:步骤b)中的压杆轮廓过滤采用如下步骤将压杆边缘从螺帽边缘过滤:
b11)将轮廓碎裂,形成多个子轮廓片段;
b12)计算轮廓的方向;
b13)如果轮廓的方向接近垂直,则过滤;
b14)最终只保留方向接近水平的轮廓。
3.根据权利要求1所述的一种螺丝异常自动检测方法,其特征在于:步骤b)中的压杆圆弧处理采用如下步骤来得到压杆右端点位置:
b41)完整提取整个右边界圆弧;
b42)对该圆弧进行圆形拟合;
b43)提取压杆的上下边界;
b44)计算上下边界,与圆形的上下交点;
b45)连接该上下交点;
b46)连线的中点,就是压杆的右端点。
CN201711440070.9A 2017-12-27 2017-12-27 一种螺丝异常自动检测方法 Expired - Fee Related CN108010027B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201711440070.9A CN108010027B (zh) 2017-12-27 2017-12-27 一种螺丝异常自动检测方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201711440070.9A CN108010027B (zh) 2017-12-27 2017-12-27 一种螺丝异常自动检测方法

Publications (2)

Publication Number Publication Date
CN108010027A CN108010027A (zh) 2018-05-08
CN108010027B true CN108010027B (zh) 2020-08-28

Family

ID=62061645

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201711440070.9A Expired - Fee Related CN108010027B (zh) 2017-12-27 2017-12-27 一种螺丝异常自动检测方法

Country Status (1)

Country Link
CN (1) CN108010027B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109859259A (zh) * 2018-12-29 2019-06-07 芜湖哈特机器人产业技术研究院有限公司 保温杯内胆尺寸测量装置及测量方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1892677A (zh) * 2005-07-04 2007-01-10 发那科株式会社 检查螺钉部的装置及方法
DE202013004160U1 (de) * 2013-04-30 2013-08-27 Fusionsystems Gmbh Prüfmodul für die automatische kamerabasierte Erfassung von Oberflächenfehlern auf zylinderförmigen Bauteilen mit strukturierten Oberflächen
CN203216863U (zh) * 2013-04-28 2013-09-25 郑州大学 钣金螺丝孔螺纹缺失检查系统
CN103528523A (zh) * 2013-11-06 2014-01-22 湖北工业大学 一种基于三维立体建模的螺纹检测方法及系统
EP2819944A1 (de) * 2012-02-27 2015-01-07 Heuft Systemtechnik GmbH Verfahren und vorrichtung zum berührungslosen prüfen eines schraubverschlussdrehmoments
CN104990511A (zh) * 2015-07-21 2015-10-21 苏州佳祺仕信息科技有限公司 螺纹孔结构质量检测方法

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI267623B (en) * 2002-08-01 2006-12-01 Ming-Liau Yang Component monitoring method
CN105241380A (zh) * 2015-09-30 2016-01-13 广州超音速自动化科技股份有限公司 锯齿形螺纹视觉检测方法
CN105157611A (zh) * 2015-09-30 2015-12-16 广州超音速自动化科技股份有限公司 管螺纹视觉检测方法
CN105258652A (zh) * 2015-09-30 2016-01-20 广州超音速自动化科技股份有限公司 梯形螺纹视觉检测方法
CN106937080A (zh) * 2015-12-30 2017-07-07 希姆通信息技术(上海)有限公司 一种移动终端上螺丝的视觉检测方法及控制设备
CN105973914B (zh) * 2016-07-08 2018-11-30 三峡大学 基于机器视觉的螺丝安装与检测一体化设备及其操作方法
CN106251354B (zh) * 2016-07-28 2018-11-06 河北工业大学 用于螺钉自动装配的机器视觉定位方法
CN107289847A (zh) * 2017-07-10 2017-10-24 安徽海思达机器人有限公司 一种带视觉的螺纹自动检测装置及使用方法
CN107202688A (zh) * 2017-07-10 2017-09-26 安徽海思达机器人有限公司 一种螺纹自动检测装置及使用方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1892677A (zh) * 2005-07-04 2007-01-10 发那科株式会社 检查螺钉部的装置及方法
EP2819944A1 (de) * 2012-02-27 2015-01-07 Heuft Systemtechnik GmbH Verfahren und vorrichtung zum berührungslosen prüfen eines schraubverschlussdrehmoments
CN203216863U (zh) * 2013-04-28 2013-09-25 郑州大学 钣金螺丝孔螺纹缺失检查系统
DE202013004160U1 (de) * 2013-04-30 2013-08-27 Fusionsystems Gmbh Prüfmodul für die automatische kamerabasierte Erfassung von Oberflächenfehlern auf zylinderförmigen Bauteilen mit strukturierten Oberflächen
CN103528523A (zh) * 2013-11-06 2014-01-22 湖北工业大学 一种基于三维立体建模的螺纹检测方法及系统
CN104990511A (zh) * 2015-07-21 2015-10-21 苏州佳祺仕信息科技有限公司 螺纹孔结构质量检测方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
The Defects Identify Algorithm and the Automated Detecting System for the Screw Thread;He Tao et al;《2010 International Conference on Electrical and Control Engineering》;20100627;第2292-2294页 *
螺纹综合参数测量的关键技术研究;郭克锋;《万方学术》;20130320;全文 *

Also Published As

Publication number Publication date
CN108010027A (zh) 2018-05-08

Similar Documents

Publication Publication Date Title
WO2020133046A1 (zh) 一种缺陷检测方法及装置
CN110992326B (zh) 一种qfn芯片引脚图像快速倾斜校正方法
US10586321B2 (en) Automatic detection, counting, and measurement of lumber boards using a handheld device
EP4071665A1 (en) Character segmentation method and apparatus, and computer-readable storage medium
CN104135660A (zh) 一种摄像模组脏污检测方法及检测系统
CN108010027B (zh) 一种螺丝异常自动检测方法
CN109540917B (zh) 一种多角度模式下纱线外观特征参数提取与分析方法
CN106097368A (zh) 一种单板裂缝的识别方法
US10497107B1 (en) Method, computer program product and computer readable medium for generating a mask for a camera stream
WO2022134277A1 (zh) 显示屏子像素的图像位置标记方法、设备以及存储介质
WO2023231262A1 (zh) 基于视觉振频识别的提升钢丝绳张力检测方法
CN112669295A (zh) 一种基于二次阈值分割理论的锂电池极片缺陷检测方法
CN105205803A (zh) 显示面板缺陷检测方法
TW201723928A (zh) 一種熱影像區域分割方法
CN106093052B (zh) 一种断纱检测方法
CN107481253B (zh) 一种基于边缘的斑点检测方法
CN113744200B (zh) 一种摄像头脏污检测方法、装置及设备
CN107633806B (zh) Led显示装置遮挡校正处理方法
CN113902667B (zh) 一种用于机器视觉的螺纹旋向识别方法与系统
CN112923852B (zh) 基于动态角点定位的sd卡位姿检测方法
CN110827272B (zh) 一种基于图像处理的轮胎x光图像缺陷检测方法
JP6114559B2 (ja) フラットパネルディスプレイの自動ムラ検出装置
CN109035135B (zh) 一种基于机器视觉的织物在线自动整花方法
CN113902699A (zh) 焊缝拐点的确定方法、确定装置、处理器与焊接机器人
CN110060270B (zh) 一种适用于低成像质量多边形管状物体的边缘检测方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20200828

Termination date: 20211227