CN106650701B - 基于双目视觉的室内阴影环境下障碍物检测方法及装置 - Google Patents

基于双目视觉的室内阴影环境下障碍物检测方法及装置 Download PDF

Info

Publication number
CN106650701B
CN106650701B CN201710006123.XA CN201710006123A CN106650701B CN 106650701 B CN106650701 B CN 106650701B CN 201710006123 A CN201710006123 A CN 201710006123A CN 106650701 B CN106650701 B CN 106650701B
Authority
CN
China
Prior art keywords
image
obstacle
binocular vision
area
shadow
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN201710006123.XA
Other languages
English (en)
Other versions
CN106650701A (zh
Inventor
翟敬梅
刘坤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
South China University of Technology SCUT
Original Assignee
South China University of Technology SCUT
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by South China University of Technology SCUT filed Critical South China University of Technology SCUT
Priority to CN201710006123.XA priority Critical patent/CN106650701B/zh
Publication of CN106650701A publication Critical patent/CN106650701A/zh
Application granted granted Critical
Publication of CN106650701B publication Critical patent/CN106650701B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/20Scenes; Scene-specific elements in augmented reality scenes
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/02Measuring arrangements characterised by the use of optical techniques for measuring length, width or thickness
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C3/00Measuring distances in line of sight; Optical rangefinders

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Electromagnetism (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开了一种基于双目视觉的室内阴影环境下障碍物检测方法,采用双目视觉系统,包括步骤:(1)消除阴影,提取原图像色彩饱和度,与消除阴影的图像信息相融合,通过环境亮度信息自适应地调节和增强地面与障碍物的灰度差;(2)利用种子填充算法对融合图像的地面区域进行填充,再通过阈值分割、腐蚀、膨胀操作获得障碍物区域;(3)运用双目视觉系统,以获得的障碍物区域为模板在右相机图像中进行匹配计算中心点视差,计算出中心点三维坐标及障碍物的宽度和距离。本发明还公开了一种基于双目视觉的室内阴影环境下障碍物检测装置。本发明在室内阴影环境下能够完整的提取障碍物,简单高效且具有较好的实时性和精度,适于移动机器人导航避障。

Description

基于双目视觉的室内阴影环境下障碍物检测方法及装置
技术领域
本发明属于计算机视觉领域,主要是障碍物检测和双目测量,具体涉及一种基于双目视觉的室内阴影环境下障碍物检测方法及装置。
背景技术
近年来,随着计算机、机器人技术的发展,机器视觉被广泛应用于智能制造、人工智能和工业生产当中。基于视觉指导的移动机器人自主导航成为研究的热门课题,而地面障碍物检测和测量是机器人自主导航避障的关键和基础。但由于光照不均和物体遮挡会在障碍物周边产生阴影,影响障碍物轮廓的提取和后续的测量工作。传统的阴影消除算法在消除阴影时减小了地面与障碍物的灰度差,使得后续障碍物无法准确提取,且算法参数需要手动设置缺乏对环境的自适应性。基于稠密匹配的视差计算方法,在障碍物测量时计算量大且存在较大误差和冗余信息,无法达到实时性和准确性要求。因此,在室内阴影环境下如何简单、高效的准确提取和测量障碍物信息,在移动机器人自主导航避障中有着重大意义。
发明内容
本发明的目的在于克服阴影环境下障碍物检测的不足,满足现有的准确性、实时性需求,提供一种基于双目视觉的室内阴影环境下障碍物检测方法及装置,实现在室内阴影环境下完整的提取障碍物轮廓,并利用提取到的轮廓在右相机图像中匹配计算视差,能够快速的计算出障碍物的宽度和距离,从而为移动机器人避障、轨迹规划提供基础。
为此,本发明采用如下技术方案:
一种基于双目视觉的室内阴影环境下障碍物检测方法,采用双目视觉系统,包括步骤:
(1)通过单尺度Retinex算法消除阴影,提取原图像色彩饱和度,与消除阴影的图像信息相融合,通过环境亮度信息自适应地调节和增强地面与障碍物的灰度差,将障碍物区分出来;
(2)利用种子填充算法对融合图像的地面区域进行填充,再通过阈值分割、腐蚀、膨胀操作获得障碍物区域,并求取其外接矩形;
(3)运用双目视觉系统,以获得的障碍物区域为模板在右相机图像中进行匹配计算中心点视差,根据相似三角形原理计算出中心点的三维坐标及障碍物的宽度和距离信息。
进一步地,所述步骤(1)具体是通过提取图像的色彩饱和度信息,根据图像亮度信息确定权重并归一化,利用该权重把阴影消除后图像与色彩饱和度图像进行融合,自适应的消除阴影和增强地面与障碍物灰度差,利于后续障碍物检测。
进一步地,所述步骤(2)具体是利用视野底端一般不存在障碍物的先验知识,在图像最后一行中间位置逐一向两端选取种子点进行地面填充,直到填充区域大小满足阈值要求,然后通过阈值分割、形态学操作获得闭合后的地面联通区域,并与填充后地面区域相减获得疑似障碍物区域,通过阈值筛选出最终障碍物区域。
进一步地,所述步骤(3)具体是首先采用张正友平面标定算法对双目视觉系统进行标定,获得左右相机的内参数和两相机之间的外参数;接着运用标定数据,对输入的左右相机图像进行立体校正;最后将左相机得到的障碍物轮廓区 域作为模板,在右相机图像的并列行中进行匹配计算视差,加快匹配速度,并根据相似三角形原理获得障碍物宽度和距离信息。
一种基于双目视觉的室内阴影环境下障碍物检测装置,采用双目视觉系统,包括:
阴影消除模块,用于通过单尺度Retinex算法消除阴影,提取原图像色彩饱和度,与消除阴影的图像信息相融合,通过环境亮度信息自适应地调节和增强地面与障碍物的灰度差,将障碍物区分出来;
障碍物检测模块,用于利用种子填充算法对融合图像的地面区域进行填充,再通过阈值分割、腐蚀、膨胀操作获得障碍物区域,并求取其外接矩形;
障碍物测量模块,用于运用双目视觉系统,以获得的障碍物区域为模板在右相机图像中进行匹配计算中心点视差,根据相似三角形原理计算出中心点的三维坐标及障碍物的宽度和距离信息。
与现有技术相比,本发明具有以下有益效果:
本发明在消除阴影的同时,能够根据环境亮度信息自适应调节和增强地面与障碍物的灰度差,可以简单高效的提取出完整的障碍物轮廓。测量时视差计算方法精确、快速,利用障碍物轮廓区域作为模板在右相机图像中匹配并计算出视差,能快速而准确的获得障碍物距离和宽度信息。
附图说明
图1是本发明实施例一的整体流程示意图。
图2是本发明实施例一的地面阴影消除流程示意图。
图3是本发明实施例一的SSR算法与S通道融合效果图:其中(a)为融合后图像,(b)是种子填充后图像,(c)为障碍物图像,(d)是最终地面区域图像。
图4是本发明实施例一的障碍物区域外接矩形宽度测量原理图。
具体实施方式
为了更好地理解本发明,下面结合附图对本发明作进一步地描述:
实施例一
本发明基于双目视觉的室内阴影环境下障碍物检测方法,采用双目视觉系统,在室内阴影环境下对地面障碍物进行检测,具体实施步骤如下:
如图1所示,一种基于双目视觉的室内阴影环境下障碍物检测方法,采用双目视觉系统,包括步骤:
(1)通过单尺度Retinex算法消除阴影,提取原图像色彩饱和度,与消除阴影的图像信息相融合,通过环境亮度信息自适应地调节和增强地面与障碍物的灰度差,将障碍物区分出来;
(2)利用种子填充算法对融合图像的地面区域进行填充,再通过阈值分割、腐蚀、膨胀操作获得障碍物区域,并求取其外接矩形;
(3)运用双目视觉系统,以获得的障碍物区域为模板在右相机图像中进行匹配计算中心点视差,根据相似三角形原理计算出中心点的三维坐标及障碍物的宽度和距离信息。
具体而言,所述步骤(1)具体是通过提取图像的色彩饱和度信息,根据图像亮度信息确定权重并归一化,利用该权重把阴影消除后图像与色彩饱和度图像进行融合,自适应的消除阴影和增强地面与障碍物灰度差,利于后续障碍物检测。
具体而言,所述步骤(2)具体是利用视野底端一般不存在障碍物的先验知识,在图像最后一行中间位置逐一向两端选取种子点进行地面填充,直到填充区域 大小满足阈值要求,然后通过阈值分割、形态学操作获得闭合后的地面联通区域,并与填充后地面区域相减获得疑似障碍物区域,通过阈值筛选出最终障碍物区域。
具体而言,所述步骤(3)具体是首先采用张正友平面标定算法对双目视觉系统进行标定,获得左右相机的内参数和两相机之间的外参数;接着运用标定数据,对输入的左右相机图像进行立体校正;最后将左相机得到的障碍物轮廓区域作为模板,在右相机图像的并列行中进行匹配计算视差,加快匹配速度,并根据相似三角形原理获得障碍物宽度和距离信息。
简言之,本实施例首先通过双目标定数据对左右图像进行立体校正,对左相机图像进行光照自适应地面阴影消除,并提取障碍物轮廓;接着将障碍物区域图像作为模板,在右相机图像的并列行中进行快速匹配,计算障碍物视差;最后,利用相似三角形原理得到障碍物的宽度和距离信息。
图2是本实施例的地面阴影消除流程图,提取左相机校正图像的明亮度图像V(x,y)、色彩饱和度图像S(x,y)和灰度图像。对灰度图像利用单尺度Retinex算法消除阴影,获得阴影消除后图像R(x,y)。计算V(x,y)的均值来估计环境的亮度信息,利用亮度信息自适应的调节R(x,y)和S(x,y)的融合权重,获得融合后图像I(x,y),在消除阴影的同时增强地面与障碍物的灰度差。
图3是本实施例的SSR算法与S通道融合效果图,图3(a)是R(x,y)和S(x,y)按权重的融合图像,权重可以根据环境光照变化,较好的消除了阴影和增强灰度差。图3(b)中对地面进行种子填充获得了完整的地面区域,把场景分割为背景、障碍物和地面。经过阈值分割、形态学操作等图像处理获得图3(c)障碍物图像。同时获得图3(d)地面可通行区域图像。
通过障碍物检测步骤获得三个障碍物,分别以这三个障碍物为模板在右相机图像同行区域进行匹配,获得快速匹配的结果。
图4本实施例的是障碍物区域外接矩形宽度测量原理图,通过相机的标定获得左右相机的内外参数以及两相机的空间几何关系后,根据这些参数计算出重投影矩阵:
Figure BDA0001203111960000061
其中f表示焦距,cx和cy分别表示主点(主光线与像平面的交点)在左图像上的x和y坐标,Tx为两相机的水平位移,c′x为主点在右图像上的x坐标,因为相机平行放置,主光线在无穷远处相交所以cx=c′x。利用矩阵Q可以把2维平面(图像平面)上的点投影到3维空间中的点:
Figure BDA0001203111960000062
利用此方法即可求出图像中点(x,y)对应的三维空间坐标(X′,Y′,Z′),其中X′,Y′,Z′、W表达式如下:
Figure BDA0001203111960000063
其中f代表焦距,d表示视差。对于图4中像平面上障碍物外接矩形区域的中心点Pc,通过式(3)可求出其对应的三维点坐标P′c(X′c,Y′c,Z′c)。运用相似三角形原理,根据图4中的关系可以得到下式:
其中dist表示障碍物与相机的距离,Zc′是点Pc′的Z坐标,width表示图像中障碍物区域外接矩形宽度,width′表示障碍物区域的实际宽度,f是相机焦距。
实施例二
一种基于双目视觉的室内阴影环境下障碍物检测装置,采用双目视觉系统,包括:
阴影消除模块,用于通过单尺度Retinex算法消除阴影,提取原图像色彩饱和度,与消除阴影的图像信息相融合,通过环境亮度信息自适应地调节和增强地面与障碍物的灰度差,将障碍物区分出来;
障碍物检测模块,用于利用种子填充算法对融合图像的地面区域进行填充,再通过阈值分割、腐蚀、膨胀操作获得障碍物区域,并求取其外接矩形;
障碍物测量模块,用于运用双目视觉系统,以获得的障碍物区域为模板在右相机图像中进行匹配计算中心点视差,根据相似三角形原理计算出中心点的三维坐标及障碍物的宽度和距离信息。
本发明是一种快速有效的室内阴影环境下障碍物检测方法及装置,能够在室内阴影环境下自适应调节和增强阴影消除效果,对障碍物测量相对误差较小且具有较好的实时性,满足了移动机器人避障导航对实时性和精度的要求。
本发明的上述实施例仅仅是为清楚地说明本发明所作的举例,而并非是对本发明的实施方式的限定。对于所属领域的普通技术人员来说,在上述说明的基础上还可以做出其它不同形式的变化或变动。这里无需也无法对所有的实施方式予以穷举。凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等,均应包含在本发明权利要求的保护范围之内。

Claims (4)

1.一种基于双目视觉的室内阴影环境下障碍物检测方法,采用双目视觉系统,其特征在于,包括步骤:
(1)将左相机图像通过单尺度Retinex算法消除阴影,提取原图像色彩饱和度,与消除阴影的图像信息相融合,通过环境亮度信息自适应地调节和增强地面与障碍物的灰度差,将障碍物区分出来;
(2)利用种子填充算法对融合图像的地面区域进行填充,再通过阈值分割、腐蚀、膨胀操作获得障碍物区域,并求取其外接矩形;
(3)运用双目视觉系统,以获得的障碍物区域为模板在右相机图像中进行匹配计算中心点视差,根据相似三角形原理计算出中心点的三维坐标及障碍物的宽度和距离信息;
所述步骤(1)具体是通过提取图像的色彩饱和度信息,根据图像亮度信息确定权重并归一化,利用该权重把阴影消除后图像与色彩饱和度图像进行融合,自适应的消除阴影和增强地面与障碍物灰度差,利于后续障碍物检测,所述权重通过α=mean[V(x,y)]/255获得,其中V(x,y)为左相机校正图像的明亮度图像
2.根据权利要求1所述基于双目视觉的室内阴影环境下障碍物检测方法,其特征在于:所述步骤(2)具体是利用视野底端一般不存在障碍物的先验知识,在图像最后一行中间位置逐一向两端选取种子点进行地面填充,直到填充区域大小满足阈值要求,然后通过阈值分割、形态学操作获得闭合后的地面联通区域,并与填充后地面区域相减获得疑似障碍物区域,通过阈值筛选出最终障碍物区域。
3.根据权利要求1所述基于双目视觉的室内阴影环境下障碍物检测方法,其特征在于:所述步骤(3)具体是首先采用张正友平面标定算法对双目视觉系统进行标定,获得左右相机的内参数和两相机之间的外参数;接着运用标定数据,对输入的左右相机图像进行立体校正;最后将左相机得到的障碍物轮廓区域作为模板,在右相机图像的并列行中进行匹配计算视差,加快匹配速度,并根据相似三角形原理获得障碍物宽度和距离信息。
4.一种基于双目视觉的室内阴影环境下障碍物检测装置,采用双目视觉系统,其特征在于,包括:
阴影消除模块,用于将左相机图像通过单尺度Retinex算法消除阴影,提取原图像色彩饱和度,与消除阴影的图像信息相融合,通过环境亮度信息自适应地调节和增强地面与障碍物的灰度差,将障碍物区分出来,具体是通过提取图像的色彩饱和度信息,根据图像亮度信息确定权重并归一化,利用该权重把阴影消除后图像与色彩饱和度图像进行融合,自适应的消除阴影和增强地面与障碍物灰度差,利于后续障碍物检测,所述权重通过α=mean[V(x,y)]/255获得,其中V(x,y)为左相机校正图像的明亮度图像;
障碍物检测模块,用于利用种子填充算法对融合图像的地面区域进行填充,再通过阈值分割、腐蚀、膨胀操作获得障碍物区域,并求取其外接矩形;
障碍物测量模块,用于运用双目视觉系统,以获得的障碍物区域为模板在右相机图像中进行匹配计算中心点视差,根据相似三角形原理计算出中心点的三维坐标及障碍物的宽度和距离信息。
CN201710006123.XA 2017-01-05 2017-01-05 基于双目视觉的室内阴影环境下障碍物检测方法及装置 Expired - Fee Related CN106650701B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201710006123.XA CN106650701B (zh) 2017-01-05 2017-01-05 基于双目视觉的室内阴影环境下障碍物检测方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710006123.XA CN106650701B (zh) 2017-01-05 2017-01-05 基于双目视觉的室内阴影环境下障碍物检测方法及装置

Publications (2)

Publication Number Publication Date
CN106650701A CN106650701A (zh) 2017-05-10
CN106650701B true CN106650701B (zh) 2020-01-14

Family

ID=58843209

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710006123.XA Expired - Fee Related CN106650701B (zh) 2017-01-05 2017-01-05 基于双目视觉的室内阴影环境下障碍物检测方法及装置

Country Status (1)

Country Link
CN (1) CN106650701B (zh)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107909010B (zh) * 2017-10-27 2022-03-18 北京中科慧眼科技有限公司 一种道路障碍物检测方法与装置
CN108663681B (zh) * 2018-05-16 2021-01-19 华南理工大学 基于双目摄像头与二维激光雷达的移动机器人导航方法
CN109410234A (zh) * 2018-10-12 2019-03-01 南京理工大学 一种基于双目视觉避障的控制方法及控制系统
CN110032193B (zh) * 2019-04-30 2020-07-03 盐城工业职业技术学院 一种智能拖拉机田间避障控制系统及方法
CN112036210B (zh) * 2019-06-03 2024-03-08 杭州海康机器人股份有限公司 一种检测障碍物的方法、装置、存储介质和移动机器人
CN110378915A (zh) * 2019-07-24 2019-10-25 西南石油大学 一种基于双目视觉的爬壁机器人障碍物检测方法
CN112965474A (zh) * 2019-11-27 2021-06-15 深圳市大富科技股份有限公司 自动导向车agv的导航控制方法、系统以及存储介质
CN111145254B (zh) * 2019-12-13 2023-08-11 上海新时达机器人有限公司 一种基于双目视觉的门阀毛坯定位方法
CN111152226B (zh) * 2020-01-19 2021-09-07 吉利汽车研究院(宁波)有限公司 一种机器人工作轨迹规划方法及系统
CN114442615A (zh) * 2021-12-31 2022-05-06 重庆特斯联智慧科技股份有限公司 一种基于障碍物属性的机器人行进策略确定方法和系统

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102129673A (zh) * 2011-04-19 2011-07-20 大连理工大学 一种随意光照下彩色数字图像增强和去噪方法
CN102176243A (zh) * 2010-12-30 2011-09-07 浙江理工大学 一种基于可见光和红外摄像机的目标测距方法
CN102360493A (zh) * 2011-10-10 2012-02-22 复旦大学 基于色貌模型的灰度与伪彩图像的融合显示方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102176243A (zh) * 2010-12-30 2011-09-07 浙江理工大学 一种基于可见光和红外摄像机的目标测距方法
CN102129673A (zh) * 2011-04-19 2011-07-20 大连理工大学 一种随意光照下彩色数字图像增强和去噪方法
CN102360493A (zh) * 2011-10-10 2012-02-22 复旦大学 基于色貌模型的灰度与伪彩图像的融合显示方法

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
Binocular Image Sequence Analysis:Intergration of stereo Disparity and optic flow for impreved obstacle detection and tracking;yingping huang等;《advances in signal processing》;20081231;论文正文 *
基于双目视觉的移动机器人室内导航方法;王天涛;《中国优秀硕士学位论文全文数据库 信息科技辑》;20141215;论文正文 *
基于机器视觉的室外场景图像理解方法研究;任柯燕;《中国博士学位论文全文数据库 信息科技辑》;20130115;论文正文 *

Also Published As

Publication number Publication date
CN106650701A (zh) 2017-05-10

Similar Documents

Publication Publication Date Title
CN106650701B (zh) 基于双目视觉的室内阴影环境下障碍物检测方法及装置
CN111462135B (zh) 基于视觉slam与二维语义分割的语义建图方法
WO2021233029A1 (en) Simultaneous localization and mapping method, device, system and storage medium
CN112396650B (zh) 一种基于图像和激光雷达融合的目标测距系统及方法
CN106767399B (zh) 基于双目立体视觉和点激光测距的物流货物体积的非接触测量方法
CN109344882B (zh) 基于卷积神经网络的机器人控制目标位姿识别方法
CN111340797A (zh) 一种激光雷达与双目相机数据融合检测方法及系统
CN110176032B (zh) 一种三维重建方法及装置
CN109211207B (zh) 一种基于机器视觉的螺钉识别与定位装置
CN107844750A (zh) 一种水面全景图像目标检测识别方法
CN107588721A (zh) 一种基于双目视觉的零件多尺寸的测量方法及系统
CN106908064B (zh) 一种基于Kinect2传感器的室内夜间视觉导航方法
CN111524195B (zh) 一种掘进机截割头定位中的相机标定方法
CN112184765B (zh) 一种用于水下航行器的自主跟踪方法
CN110648362B (zh) 一种双目立体视觉的羽毛球定位识别与姿态计算方法
CN113205604A (zh) 一种基于摄像机和激光雷达的可行区域检测方法
CN111998862A (zh) 一种基于bnn的稠密双目slam方法
CN116468786B (zh) 一种面向动态环境的基于点线联合的语义slam方法
CN111260715A (zh) 深度图的处理方法、小障碍物检测方法及系统
CN110851978B (zh) 一种基于可见性的摄像机位置优化方法
CN111553948A (zh) 一种基于双示踪物的掘进机截割头定位系统及方法
CN114413958A (zh) 无人物流车的单目视觉测距测速方法
CN114140527A (zh) 一种基于语义分割的动态环境双目视觉slam方法
CN114608522B (zh) 一种基于视觉的障碍物识别与测距方法
CN114419259B (zh) 一种基于物理模型成像仿真的视觉定位方法及系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20200114