CN104809459A - 一种符号阵列结构光码字校正方法 - Google Patents

一种符号阵列结构光码字校正方法 Download PDF

Info

Publication number
CN104809459A
CN104809459A CN201510190481.1A CN201510190481A CN104809459A CN 104809459 A CN104809459 A CN 104809459A CN 201510190481 A CN201510190481 A CN 201510190481A CN 104809459 A CN104809459 A CN 104809459A
Authority
CN
China
Prior art keywords
code word
image
codeword
steps
neighborhood
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201510190481.1A
Other languages
English (en)
Other versions
CN104809459B (zh
Inventor
葛晨阳
张晨
王亚菲
杨玲
李鹏
李钊
曹海英
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Xian Jiaotong University
Original Assignee
Xian Jiaotong University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Xian Jiaotong University filed Critical Xian Jiaotong University
Priority to CN201510190481.1A priority Critical patent/CN104809459B/zh
Publication of CN104809459A publication Critical patent/CN104809459A/zh
Application granted granted Critical
Publication of CN104809459B publication Critical patent/CN104809459B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/14Image acquisition
    • G06V30/146Aligning or centring of the image pick-up or image-field
    • G06V30/1475Inclination or skew detection or correction of characters or of image to be recognised
    • G06V30/1478Inclination or skew detection or correction of characters or of image to be recognised of characters or characters lines

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)

Abstract

本发明公开了一种符号阵列结构光码字校正方法,包括以下步骤:S100:输入码字图像;S200:对于所述码字图像,根据编码规律对其进行码字的分类标记,并生成相应的标记点图;S300:基于所述标记点图,对码字进行校正处理。本发明提供的码字校正方法,不仅可以极大地提高码字识别的正确率和完整度,而且易于编程实现,有利于大规模推广。

Description

一种符号阵列结构光码字校正方法
技术领域
本发明属于图像处理、计算机视觉技术领域。
技术背景
视觉在人类生活中有着非常重要的作用,是人类观察世界、认识世界最直接、最简便也是最重要的手段。人类通过眼睛获取周围世界的信息,从而理解和认识这个世界。随着计算机技术的不断发展,计算机视觉作为一门新型交叉学科,在理论和实际应用方面都有了飞速发展。计算机视觉主要是利用计算机来模拟人的眼睛,通过摄像机捕获空间场景信息,然后对该信息进行处理,从而达到三维重建和物体识别的目的。
三维信息的获取目前已经有许多方法,主要分为接触式和非接触式。接触式三维测量方法在效率和测量范围方面有局限性,应用十分有限。而以结构光技术为代表的非接触式三维测量方法在实时性和精度上有着巨大优势,越来越受到青睐。结构光技术不仅具有大视场,高精度,实时性强以及主动受控等特点,而且还有信息提取简单,容易实现等优点。目前,结构光技术已经被广泛应用于视觉导航,工业建模、3D打印、医疗成像、虚拟现实和人机交互等多个领域。
在基于符号阵列结构光三维检测技术中,码字识别是其关键内容,对后续测量结果的精确度有着重要影响。但在码字识别过程中可能受到多种因素的影响,如背景信息,噪声等,不可避免地会存在一定的错误码字。而后续的三维重建和目标识别是在码字正确识别的基础上进行的,过多的错误码字会使最终得到的三维信息精确度大大降低。
发明内容
鉴于此,本发明提供了一种符号阵列结构光码字校正方法,其特征在于:
S100:输入码字图像;
S200:对于所述码字图像,根据编码规律对其进行码字的分类标记,并生成相应的标记点图;
S300:基于所述标记点图,对码字进行校正处理。
本发明提供的码字校正方法,不仅可以极大地提高码字识别的正确率和完整度,而且易于编程实现,有利于大规模推广。采用本发明技术方案的各种有益效果还将通过以下实施例的阐述而得到具体的体现。
附图说明
图1是本发明一个实施例的整体流程图;
图2是本发明一个实施例的分类标记点图;
图3是本发明一个实施例的校正处理流程图;
图4是本发明一个实施例的邻域区间划分方法示意图;
图5是本发明一个实施例的码字填补示意图。
具体实施方式
参见附图1至5,下面结合具体实施例对本发明进行进一步的详细说明。
在一个实施例中,本发明公开了一种符号阵列结构光码字校正方法,所述方法包括以下步骤:
S100:输入码字图像;
S200:对于所述码字图像,根据编码规律对其进行码字的分类标记,并生成相应的标记点图;
S300:基于所述标记点图,对码字进行校正处理。
对于该实施例而言,其阐述了本发明的基本原理,即,不论码字的编码规律具体如何,该实施例都是利用其已有的编码规律对码字图像进行码字的分类标记,从而能够依据其不同的分类来结合相应的标记点图来对码字进行针对性的校正。
优选的,在另一个实施例中,所述步骤S100具体包括如下步骤:
S101:利用编码图案投射器对目标物体所在空间投射出符号阵列编码图像,其中:所述编码图案投射器包括激光散斑投射器或其它投影装置;
S102:由图像传感器采集所述符号阵列编码图像,并经过图像识别后获得。
也就是说,输入码字图像是利用编码图案投射器(激光散斑投射器或其它投影装置)对目标物体所在空间投射出符号阵列编码图像,由图像传感器采集,并经过图像识别后获得。
优选的,在另一个实施例中,所述步骤S200具体包括如下步骤:
S201:将码字图像的边界部分与其余部分的码字分割开来,其余部分区分为正确码字和错误码字,边界部分的码字称为边界码字,其中:根据编码规律,利用所述其余部分的码字的邻域信息判断该码字是否正确;
S202:对边界码字、正确码字、错误码字分别用不同的标记符号或数值表示,从而对图像中码字进行分类;
S203:基于分类后的码字生成标记点图,且标记符号或数值在标记点图中的位置与码字图像中各码字所在位置相同或相应。
对于该实施例而言,由于码字图像边界处没有完整的邻域信息,无法利用编码规律进行准确校正,所以出于现实需要,最好将其分割出去。分割出的边界部分可以用统一的标记符号或数值表示(如数值0),同时除了边界部分之外,其余部分的码字则能够根据编码规律和邻域信息进行识别,从而区分正确码字和错误码字。正确码字和错误码字也可以分别用不同的标记符号或数值表示(如数值1和2)。通过对图像中码字的分类,就能够生成一幅标记点图。如果标记符号或数值在标记点图中的位置与码字图像中各码字所在位置相同或相应,那么就可以通过标记点图的具体标记符号或数值来对应到相应的码字图像中的码字,从而便于码字校正。
优选的,在另一个实施例中,上述步骤S201可由以下步骤实现:输入M x N大小的码字图像,并设置边界参数m1,n1,m2,n2,且1<m1<m2<M,1<n1<n2<N,其中m1和n1为较小整数,m2和n2为接近M、N的较大整数,然后对码字图像以一定步长d进行扫描,当检测到的码字中心像素点所在行i,列j满足条件:(1<i<n1)||(n2<i<N)||(1<j<m1)||(m2<j<M)时,则赋予特定标记值(如数值0),表示其为边界码字。另一方面当码字中心像素点所在行列满足条件:(n1<i<n2)&&(m1<j<m2)时,表示该码字不是边界码字,再根据已知的编码规律,利用其邻域信息判断该码字是否正确,若正确赋予一个标记值(如数值1),若错误赋予一个不同的标记值(如数值2)。
优选的,在另一个实施例中,所述步骤S300具体包括如下步骤:
S301:基于所述标记点图,根据编码规律,对于码字图像的边界部分之外的码字,如果存在错误码字,则以错误码字为中心,利用其邻域信息对所述错误码字进行校正。
示例的,对于某编码规律,假设上述其余部分中的每个码字可由其4邻域码字唯一确定,例如某个码字的左邻域码字为B,右邻域码字为C,上邻域码字为D,下邻域码字为E,则它必为码字A。所以当某码字不是边界码字时,它具有完整的邻域信息,根据其上下左右邻域码字可以判断中心码字是否正确。
优选的,在另一个实施例中,每个码字可由其斜对角线上的邻域码字唯一确定,例如某个码字的右上邻域码字为b,左下邻域码字为c,则该码字必为a。所以,此时,根据每个码字斜对角线邻域的码字可以判断该码字是否正确。
优选的,在另一个实施例中,由编码规律可知,每个码字在图像内的分布位置是固定的,例如,由编码规律可知编码图像内坐标为(i,j)处必有码字,并且码字必为F。所以,此时,根据每个码字在编码图像中的位置信息可以判断其是否正确。
也就是说,对于本发明的校正而言,校正的重点更在于对于边界部分之外的其余部分中的错误的码字。
就S301而言,其所代表的实施例的技术效果在于:
在所得标记点图和原输入码字图有相同的位置分布或相应的位置关系时,以典型的相同位置关系为例,其中标记点图中各位置的标记值对应原码字图像中相同位置的码字中心像素点。这样根据标记点图中不同的标记值,能快速准确地找到原码字图像中错误码字中心像素点坐标(x,y),然后对错误码字的邻域信息进行搜索,根据已知的编码规律对其进行校正。
优选的,在一个实施例中:
标记点图内数值0代表边界码字的中心像素点,数值1代表正确码字中心像素点,数值2代表错误码字中心像素点。已知在码字图像中,8邻域码字信息与中心码字是对应的,即可由8邻域码字推断出中心码字。
优选的,在一个实施例中,可以对8邻域进行分割,提取出“十”型和“X”型邻域模板。以一定的步长d1同时对标记点图和码字图像进行扫描,当扫描到标记点图中数值为2的标记点时,说明在码字图像内该位置处是错误码字,则检测码字图像中对应位置码字的“十”型邻域信息,得到邻域码字。根据已知的编码规律,利用邻域码字计算出中心码字,用其代替错误码字,实现校正。
优选的,在一个实施例中,完成一次校正后,再以一定的步长d1对标记点图和码字图像进行扫描,当扫描到标记点图中数值为2的标记点时,检测码字图中对应位置码字的“X”型邻域信息,若“X”型邻域信息和中心码字不符合已知的编码规律,则利用“X”型邻域信息进行码字校正。若“X”型邻域信息和中心码字符合已知编码规律,则更新标记点图,即对应点的标记值由2变为1。
容易理解的,既可以独立、也完全可以综合地实施上述“十”型和“X”型的方式。
在上述实施例中,结合标记点图,有选择性地对码字进行校正,很大程度上节省了计算量和校正时间。图3是一个实施例的校正处理流程图。
优选的,在另一个实施例中,提供了一种搜索邻域码字的方法,如图4所示,结合标记点的位置规律,在图像坐标系中,以当前标记点i(x0,y0)为原点,与x轴夹角分别为α,β,γ,ω形成4条方向线,这4条方向线划分了中心点的邻域方向区间。以当前标记点i为圆心和出发点,在划分的邻域区间内分别进行由近到远地搜索。当在某一方向内搜索到该区间的第一个标记点o(x1,y1)时,o点对应的码字为该方向的邻域码字,结束该方向的码字搜索。同理,标记点i的其它方向邻域码字都可按照此法找到,重要地,标记点i各个方向领域的码字搜索可同时进行,节省了搜索时间,提高计算效率。
优选的,在另一个实施例中,所述步骤S300之后还包括:
S400:完成所述校正处理后,对标记点图进行更新,生成校正后的码字图像。
对于该实施例而言,校正后就可以首先对标记点图进行更新,并依据标记点图与码字图像的对应关系和编码规律,生成校正后的码字图像。
更优选的,在另一个实施例中,还进一步包括:
S500:依据校正后的码字图像,对码字进行验证并计算误识别率。
就该实施例而言,通过此误识别率可以评估校正的质量,供后续各种应用和其余功能实现。
优选的,在另一个实施例中,之后还进一步包括:
S600:判断所述误识别率是否处于可接受范围,如果不在范围内,则再次依次执行S300、S400、S500,直至误识别率处于可接受范围。
也就是说,对码字图像和标记点图,根据已知的编码规律,验证是否还存在错误码字。例如,同时计算标记点图中错误码字标记值个数和总的标记值个数,根据两者的比率大小,来作为误识别率的一种量度,判断错误码字个数是否在可接受范围内,若在可接受范围,进入后续操作;否则,重复S300、S400和S500的校正处理,直到误识别率达到要求。
例如,设置误识别率阈值参数t,令更新的标记点图中错误码字标记值个数与标记值总个数分别为r和s,则误识别率若误识别率q满足条件q<t,则表示错误码字个数在可接受范围,进入后续操作;否则,重复S300、S400和S500的码字校正过程,直到误识别率q小于阈值t。
优选的,在另一个实施例中,所述步骤S600之后还包括如下步骤:
S700:当误识别率处于可接受范围时,如果码字图像被判断为存在码字缺失的情形,则对缺失的情形进行码字填补,其中,码字缺失通过如下方式判断:
选择适当大小的窗口,在码字图像上进行搜索,检测窗口中心点的邻域信息,若中心点的邻域码字信息完整,而中心点无码字信息,表明存在码字缺失。
就该实施例而言,对输入码字图像内缺失的码字,根据编码规律,利用其邻域内的正确码字填补缺失的码字。符号阵列结构光编码图像具有窗口唯一特性,即由多个码字组成的窗口在码字图像上是唯一的。因此,可以选择适当大小的窗口模板,在码字图像上进行搜索,检测窗口中心点的邻域信息,若中心点的邻域码字信息完整,而中心点无码字信息,表明存在码字缺失,则依据窗口内邻域码字信息和已知的编码规律填补上缺失的码字。
优选的,在一个实施例中,码字的填补可由以下步骤实现:输入码字图像中,每两个码字中心点之间大约相隔n0个像素点,选取m0xm0大小的填补窗口block,其中m0>2n0,以确保窗口block可以包含中心码字的8邻域码字信息,m0和n0都为整数(容易理解的,是否8邻域,这并不是关键,不同的编码规律所需要的最基本的完整邻域信息可能范围不同)。用block在码字图像上以一定步长d2进行搜索,当发现block内中心点的8邻域码字完整,但中心点处无码字信息,则说明该窗口中心区域有码字缺失,计算窗口中心点4邻域码字中心点横纵坐标的均值(如上邻域码字中心点(x1,y1),下邻域码字中心点(x2,y2),左邻域码字中心点(x3,y3),右邻域码字中心点(x4,y4),则 x = x 1 + x 2 + x 3 + x 4 4 , y = y 1 + y 2 + y 3 + y 4 4 ) , 即为缺失码字中心点所在位置,再由已知的编码规律确定缺失码字,实现填补。图5是本发明一个实施例的码字填补示意图。
优选的,在另一个实施例中,还包括如下步骤:
S800:码字填补后,输出处理后的码字图像。
综上,本发明所揭示的码字校正方法,不仅能够对码字识别中产生的错误码字进行准确有效地校正,而且能够对图像内缺失的部分码字进行填补,以提高码字识别的正确率和完整度。
虽然上述的实施例阐述了本发明,然而并非限定本发明。很容易想到,将上述类似的方法应用到适宜的码字图像校正系统中。因而在不脱离本发明的精神和范围内的修改和完善,均应包含在上述的权利要求范围内。

Claims (10)

1.一种符号阵列结构光码字校正方法,其特征在于,所述方法包括如下步骤:
S100:输入码字图像;
S200:对于所述码字图像,根据编码规律对其进行码字的分类标记,并生成相应的标记点图;
S300:基于所述标记点图,对码字进行校正处理。
2.根据权利要求1所述的方法,其特征在于,优选的,所述步骤S100具体包括如下步骤:
S101:利用编码图案投射器对目标物体所在空间投射出符号阵列编码图像,其中:所述编码图案投射器包括激光散斑投射器或其它投影装置;
S102:由图像传感器采集所述符号阵列编码图像,并经过图像识别后获得。
3.根据权利要求1所述的方法,其特征在于,所述步骤S200具体包括如下步骤:
S201:将码字图像的边界部分与其余部分的码字分割开来,其余部分区分为正确码字和错误码字,边界部分的码字称为边界码字,其中:根据编码规律,利用所述其余部分的码字的邻域信息判断该码字是否正确;
S202:对边界码字、正确码字、错误码字分别用不同的标记符号或数值表示,从而对图像中码字进行分类;
S203:基于分类后的码字生成标记点图,且标记符号或数值在标记点图中的位置与码字图像中各码字所在位置相同或相应。
4.根据权利要求1所述的方法,其特征在于,所述步骤S300具体包括如下步骤:
S301:基于所述标记点图,根据编码规律,对于码字图像的边界部分之外的码字,如果存在错误码字,则以错误码字为中心,利用其邻域信息对所述错误码字进行校正。
5.根据权利要求1所述的方法,其特征在于,所述方法还包括如下步骤:
S400:完成所述校正处理后,对标记点图进行更新,生成校正后的码字图像。
6.根据权利要求5所述的方法,其特征在于,所述方法还包括如下步骤:
S500:依据校正后的码字图像,对码字进行验证并计算误识别率。
7.根据权利要求6所述的方法,其特征在于,所述步骤S500之后还包括如下步骤:
S600:判断所述误识别率是否处于可接受范围,如果不在范围内,则再次依次执行S300、S400、S500,直至误识别率处于可接受范围。
8.根据权利要求7所述的方法,其特征在于,所述步骤S600之后还包括如下步骤:
S700:当误识别率处于可接受范围时,如果码字图像被判断为存在码字缺失的情形,则对缺失的情形进行码字填补,其中,码字缺失通过如下方式判断:
选择适当大小的窗口,在码字图像上进行搜索,检测窗口中心点的邻域信息,若中心点的邻域码字信息完整,而中心点无码字信息,表明存在码字缺失。
9.根据权利要求8所述的方法,其特征在于,所述步骤S700具体包括:
S701:依据所述窗口内码字的邻域信息和编码规律,填补缺失的码字。
10.根据权利要求3所述的方法,其特征在于,所述步骤S201具体包括如下步骤:
S2011:输入MxN大小的码字图像,并设置边界参数,其中:所述边界参数包括m1,n1,m2,n2,且1<m1<m2<M,1<n1<n2<N,其中m1和n1为较小整数,m2和n2为接近M、N的较大整数;
S2012、对码字图像以步长d进行扫描,在扫描过程中,当检测到的码字中心像素点所在行i,列j满足条件:(1<i<n1)||(n2<i<N)||(1<j<m1)||(m2<j<M)时,表示其为边界码字;
而当码字中心像素点所在行列满足条件:(n1<i<n2)&&(m1<j<m2)时,则表示该码字不是边界码字,为其余部分的码字,再根据编码规律,利用其邻域信息判断该码字是否正确。
CN201510190481.1A 2015-04-21 2015-04-21 一种符号阵列结构光码字校正方法 Expired - Fee Related CN104809459B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201510190481.1A CN104809459B (zh) 2015-04-21 2015-04-21 一种符号阵列结构光码字校正方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201510190481.1A CN104809459B (zh) 2015-04-21 2015-04-21 一种符号阵列结构光码字校正方法

Publications (2)

Publication Number Publication Date
CN104809459A true CN104809459A (zh) 2015-07-29
CN104809459B CN104809459B (zh) 2018-04-27

Family

ID=53694270

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201510190481.1A Expired - Fee Related CN104809459B (zh) 2015-04-21 2015-04-21 一种符号阵列结构光码字校正方法

Country Status (1)

Country Link
CN (1) CN104809459B (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110276810A (zh) * 2018-03-14 2019-09-24 宁波盈芯信息科技有限公司 一种结构光散斑编码图案的生成方法
CN112395963A (zh) * 2020-11-04 2021-02-23 北京嘀嘀无限科技发展有限公司 对象识别方法和装置、电子设备及存储介质

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130314696A1 (en) * 2012-05-24 2013-11-28 Qualcomm Incorporated Transmission of Affine-Invariant Spatial Mask for Active Depth Sensing
CN104506838A (zh) * 2014-12-23 2015-04-08 宁波盈芯信息科技有限公司 一种符号阵列面结构光的深度感知方法、装置及系统

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130314696A1 (en) * 2012-05-24 2013-11-28 Qualcomm Incorporated Transmission of Affine-Invariant Spatial Mask for Active Depth Sensing
CN104506838A (zh) * 2014-12-23 2015-04-08 宁波盈芯信息科技有限公司 一种符号阵列面结构光的深度感知方法、装置及系统

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
贾小军等: "一种符号阵列编码结构光三维检测方法", 《光学技术》 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110276810A (zh) * 2018-03-14 2019-09-24 宁波盈芯信息科技有限公司 一种结构光散斑编码图案的生成方法
CN112395963A (zh) * 2020-11-04 2021-02-23 北京嘀嘀无限科技发展有限公司 对象识别方法和装置、电子设备及存储介质

Also Published As

Publication number Publication date
CN104809459B (zh) 2018-04-27

Similar Documents

Publication Publication Date Title
CN104506838B (zh) 一种符号阵列面结构光的深度感知方法、装置及系统
CN102175261B (zh) 一种基于自适应标靶的视觉测量系统及其标定方法
EP2838069B1 (en) Apparatus and method for analyzing image including event information
US20220198688A1 (en) Laser coarse registration method, device, mobile terminal and storage medium
CN110443879B (zh) 一种基于神经网络的透视误差补偿方法
CN106127771A (zh) 基于激光雷达lidar点云数据获取隧道正射影像系统及方法
CN106600647A (zh) 一种双目视觉多线投影结构光标定方法
CN103295239A (zh) 一种基于平面基准影像的激光点云数据的自动配准方法
KR20210116507A (ko) 교정 방법, 위치 확정 방법, 장치, 전자 디바이스 및 저장매체
CN105354819A (zh) 深度数据测量系统、深度数据确定方法和装置
CN110088563B (zh) 图像深度的计算方法、图像处理装置及三维测量系统
CN109754460B (zh) 一种自动翻模方法、电子设备及存储介质
CN105069789A (zh) 基于编码网格模板的结构光动态场景深度获取方法
CN106600649A (zh) 一种基于二维标记码的相机自标定方法
CN111123242A (zh) 一种基于激光雷达和相机的联合标定方法及计算机可读存储介质
CN108253909A (zh) 一种平面度的测量方法和测量装置
CN106504287A (zh) 基于模板的单目视觉目标空间定位系统
CN105608714B (zh) 一种基于cad和gis协同的分幅影像生成方法及系统
CN105158275A (zh) 基于近红外编码点阵结构光的苹果果梗/花萼检测方法
CN104809459A (zh) 一种符号阵列结构光码字校正方法
CN103854271A (zh) 一种平面摄像机标定方法
CN101950409B (zh) 一种基于象限的编码标记点设计方法
CN107517366A (zh) 基于rgbd的投影机画面信息自动测量方法
US20190213753A1 (en) Three-dimensional measurement apparatus and three-dimensional measurement method
CN102810215A (zh) 一种铁路三维中心线的生成方法

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
EXSB Decision made by sipo to initiate substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20180427

Termination date: 20210421