CN105913418B - 一种基于多阈值的瞳孔分割方法 - Google Patents

一种基于多阈值的瞳孔分割方法 Download PDF

Info

Publication number
CN105913418B
CN105913418B CN201610211689.1A CN201610211689A CN105913418B CN 105913418 B CN105913418 B CN 105913418B CN 201610211689 A CN201610211689 A CN 201610211689A CN 105913418 B CN105913418 B CN 105913418B
Authority
CN
China
Prior art keywords
candidate
pupil
image
effective
threshold
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN201610211689.1A
Other languages
English (en)
Other versions
CN105913418A (zh
Inventor
文静
陈默涵
朱宇
房斌
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Chongqing University
Original Assignee
Chongqing University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Chongqing University filed Critical Chongqing University
Priority to CN201610211689.1A priority Critical patent/CN105913418B/zh
Publication of CN105913418A publication Critical patent/CN105913418A/zh
Application granted granted Critical
Publication of CN105913418B publication Critical patent/CN105913418B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30041Eye; Retina; Ophthalmic

Landscapes

  • Image Analysis (AREA)

Abstract

本发明提出了一种基于多阈值分割瞳孔的方法,其过程包括预处理、候选阈值的选取、眼睛的分割和瞳孔分割四个步骤。本发明对不同状态的眼睛的瞳孔进行处理分割,提高了瞳孔定位的精确性。在视线追踪、医疗检测、心理评定、人机交互,残疾人辅助等多领域都有广泛的应用前景。

Description

一种基于多阈值的瞳孔分割方法
技术领域
本发明涉及计算机视觉技术领域,具体涉及一种基于多阈值和信息熵的融合,快速精确分割瞳孔的方法。
背景技术
视线跟踪系统是利用摄像机实时捕获人眼图像,然后准确定位和跟踪图像中眼睛瞳孔中心位置,从而实现使用视线与计算机进行人机交互的技术。该系统作为一种非常方便而又自然的交流方式,被广泛地应用到各种领域。在视线跟踪系统中,瞳孔的分割与定位是其核心,其准确程度将直接影响视线跟踪的精度。
目前,瞳孔分割定位的方法有很多种,例如模版匹配法,投影积分法,利用颜色域的方法。其中,模板匹配方法是通过构建眼睛模型,递归的定位到眼睛,但只有当模板的位置和眼睛或瞳孔的位置接近时,该方法的定位效果才会比较好,并且这种方法的由经验确定,难以泛化,计算代价很大。在投影积分的方法中,对所处理图片的质量要求较高,对光照敏感,并且该方法容易受到眉毛、睫毛,以及瞳孔张开程度的影响。而颜色域的方法对光照敏感,对图片的质量要求较高,鲁棒性不够强。当眼睛处于不同的开张状态时,以上方法对精确地定位分割瞳孔效果不理想。因此快速准确的分割定位瞳孔仍是需要解决的问题。
发明内容
为了克服上述现有技术中存在的缺陷,本发明的目的是提供一种基于多阈值的瞳孔分割方法。解决现有技术中不能快速准确分割瞳孔的问题。
为实现本发明的上述目的,本发明提供了一种基于多阈值的瞳孔分割方法,其包括如下步骤:
S1,预处理:获得待处理图像的灰度图像,并对所述灰度图像进行直方图均衡化,对所述图像进行增强;
S2,对所述灰度图像中的眼睛区域进行分割:
S21,获取预处理步骤后的图像灰度直方图,将灰度直方图中的每一个波谷作为候选阈值Tj,具体为:
其中,h(rk)表示灰度直方图离散函数,rk是第k级灰度值,nk代表k级灰度值的像素点个数;
将所有的候选阈值按照其值的大小进行升序或降序排序,得到候选阈值集合TS,
TS={T0,T1,...,Tj,...,Tn},0<n<256;
S22,从T0开始依次利用候选阈值对预处理后的图像进行二值化,得到对应阈值的二值图,由满足灰度小于阈值的像素构成的区域称之为有效区域;
S23,在利用候选阈值获取二值图的同时,根据二值图对候选阈值进行筛选,筛除有效区域面积占图像面积的比例大于a的二值图对应的候选阈值,得到有效阈值,其中,a为正数且0<a<1;
S24,对经过步骤S23处理后剩余二值图中的有效区域取并集,根据候选区域中有效区域的个数确定有效候选区域;
S25,利用候选区域的灰度概率分布,分别对有效候选区域求熵,灰度概率分布计算公式为:
p(Xi)=xi/N
其中,xi表示在图像中灰度值为Xi的像素个数,N代表图像的大小,
熵的计算公式为:
熵值最大的有效候选区域即为眼睛;
S3,获取瞳孔位置:根据瞳孔在眼睛中所占的比例,以及眼睛各个部分灰度信息的特征,确定瞳孔分割阈值,利用确定的瞳孔分割阈值对眼睛区域进行处理得到二值图,在二值图中对瞳孔进行拟合、实现分割。
本发明利用不同的阈值对眼睛和瞳孔依次进行分割,两个分割的过程有机结合,分割快速;同时,本发明在分割时,对有效区域取并集,得到有效候选区域,保证分割的准确进行;本发明在眼睛看不同的角度以及不同的张开程度状态下,都能快速准确的分割瞳孔。在视线追踪、医疗检测、心理评定、人机交互,残疾人辅助等多领域都有广泛的应用前景。
在本发明的一种优选实施方式中,所述步骤S22中图像二值化的定义式表示为:
其中,T表示阈值,g(x,y)表示像素灰度值。
通过二值化,得到有效区域,进而实现眼睛的快速分割。
在本发明的另一种优选实施方式中,所述步骤S23中,若由候选阈值Tj处理得到的二值图中存在有效区域的面积大于图像面积的3/4,说明该候选阈值偏大,则该候选阈值及其后比其值大的候选阈值认为无效。
通过对候选阈值进行筛选,得到有效区域,提高了眼睛分割的速度。
在本发明的一种优选实施方式中,所述步骤S24中,对经过步骤S23处理后剩余二值图中,对具有完全包含关系的有效区域取并集得到候选区域,并根据候选区域中有效区域的个数大于b的确定为有效候选区域,所述b为大于或等于2的正整数。
在本发明的另一种优选实施方式中,候选区域中有效区域的个数大于2则认为该候选区域有效,即为有效候选区域。
通过有效区域取并集得到候选区域,并根据候选区域中有效区域的个数大于b的确定为有效候选区域,筛除了某些只出现1次或者2次的噪声点,提高了分割的准确性。
在本发明的一种优选实施方式中,所述步骤S3中确定瞳孔分割阈值的方法为:对眼睛图像中所有的像素按照灰度值的大小进行升序排列,在排序后的序列中选取一定比例的灰度值小的像素,求其灰度均值,该均值即为瞳孔分割阈值,计算公式为:
其中,λ为选取的比例,取8%,N为图像像素总个数,θ为选取的像素个数,kpi表示排序后的像素灰度值,T表示瞳孔分割阈值。
根据瞳孔在眼睛中的比例以及眼睛各部分的灰度值信息,设置瞳孔分割阈值,实现快速的瞳孔分割。
本发明的附加方面和优点将在下面的描述中部分给出,部分将从下面的描述中变得明显,或通过本发明的实践了解到。
附图说明
本发明的上述和/或附加的方面和优点从结合下面附图对实施例的描述中将变得明显和容易理解,其中:
图1是本发明一种实施方式中预处理前后的图像,其中,图1(a)、图1(b)分别表示采集的面部区域图像(预处理前)以及预处理后得到的图像;
图2是图像灰度直方图;
图3是二值图像中的有效区域;
图4是由不同候选阈值处理得到的二值图像;
图5是有效区域关系示例图;
图6是有效区域的融合原理示意图;
图7是本发明一种优选实施方式中有效区域的融合合并示意图;
图8中(a)、(b)分别表示有最佳阈值对眼睛区域阈值化处理得到的二值图以及对瞳孔的分割;
图9是使用本方法对眼睛看不同方向以及不同张开程度的瞳孔分割结果。
具体实施方式
下面详细描述本发明的实施例,所述实施例的示例在附图中示出,其中自始至终相同或类似的标号表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施例是示例性的,仅用于解释本发明,而不能理解为对本发明的限制。
本发明提供了一种基于多阈值的瞳孔分割方法,其包括如下步骤:
S1,预处理:获得待处理图像的灰度图像,如图1中(a)所示,具体获取灰度图像的方法可以现有方法;然后对灰度图像进行直方图均衡化(也是采用现有技术),对图像进行增强,如图1中(b)所示,由图中可见,经过直方图均衡化以后,图像得到增强,眉毛与皮肤,以及眼睛各个部分的边缘更加明显。
S2,对灰度图像中的眼睛区域进行分割,具体包括以下步骤:
S21,在步骤S1获得的灰度直方图中,如图2所示,选择直方图中的每一个波谷所在的灰度级作为候选阈值,候选阈值公式定义为:
其中,j为正整数,h(rk)表示灰度直方图离散函数,rk是第k级灰度值,nk代表k级灰度值的像素点个数,k为正整数;
将所有的候选阈值按照其值的大小进行升序或降序排序,优选采用升序排序,得到候选阈值集合TS(Threshold Setting),候选阈值集合定义公式表示为:
TS={T0,T1,...,Tj,...,Tn},0<n<256;
S22,从T0开始依次利用候选阈值对预处理后的图像进行二值化,得到对应阈值的二值图,如图4所示,从图4(a)至图4(h),采用的候选阈值逐渐增大,这里没有给出具体数值,只是定性描述。由满足灰度小于阈值的像素构成的区域称之为有效区域,图像二值化公式为:
其中,T表示阈值,g(x,y)表示像素灰度值,如图3所示,图中包含A、B、C、D、E这5个不同的有效区域。
S23,在利用候选阈值获取二值图的同时,根据二值图对候选阈值进行筛选,筛除有效区域面积占图像面积的比例大于a的二值图对应的候选阈值,得到有效阈值,其中,a为正数且0<a<1。
在本实施方式中,a取值为3/4。若由候选阈值Tj阈值化得到的二值图中存在有效区域的面积大于图像面积的3/4,说明该候选阈值偏大,则该候选阈值及比其大的候选阈值认为无效。如图4(h)所示,该二值图对应的候选阈值偏大,则该阈值以及其后比其值大的候选阈值均无效。
在本实施方式中,步骤S22和步骤S23可以合并为一个步骤,在利用某一个候选阈值对预处理后的图像进行二值化后,接着判断该阈值是不是有效阈值,从而提高了速度。
S24,对经过步骤S23处理后获得的有效阈值对应的二值图中的有效区域取并集,根据候选区域中有效区域的个数确定有效候选区域。
在由不同有效候选阈值处理得到的二值图中,对具有完全包含关系的有效区域取并集得到候选区域,并根据候选区域中有效区域的个数确定有效候选区域,在本发明中,候选区域中有效区域的个数大于2则认为该候选区域有效,即为有效候选区域。如图7所示,7(a)-7(d)为不同的有效候选阈值对应的二值图,7(e)-7(f)表示用矩形对有效区域的有效区域进行轮廓描述,7(i)表示对有效区域取并集,7(j)表示根据并集中有效区域的个数得到的有效候选区域。
在本发明中,用矩形对有效区域进行轮廓描述,有效区域的面积,即对应轮廓描述矩形的面积。如图5所示,有效区域A与有效区域B属于完全包含关系,有效区域B与有效区域C,有效区域A与有效区域C均不属于完全包含关系。
图6中(a)、(b)、(c)分别代表由不同候选阈值处理得到的二值图,对具有完全包含关系有效区域A,B1,C1合并取并集得到候选区域C1,如图6(d)所示;并根据候选区域中所含有有效区域的个数进行判断,最终得到有效候选区域C1,如图6(e)所示;同理可得有效候选区域C2,如图6(e)所示;有效区域C3不存在与其有完全包含关系的其他有效区域,则候选区域就是其本身,该候选区域中有效区域的个数小于等于2,所以该候选区域不属于有效候选区域。
S25,利用候选区域的灰度概率分布,分别对有效候选区域求熵,灰度概率分布计算公式为:
p(Xi)=xi/N
其中,xi表示在图像中灰度值为Xi的像素个数,N代表图像的大小,
熵的计算公式为:
熵值最大的有效候选区域即为眼睛;
S3,获取瞳孔位置:根据瞳孔在眼睛中所占的比例,以及眼睛各个部分灰度信息的特征,确定瞳孔分割阈值,利用确定的瞳孔分割阈值对眼睛区域进行处理得到二值图,在二值图中对瞳孔进行拟合、实现瞳孔分割。
选取瞳孔分割阈值的方法为:对眼睛图像中所有的像素按照灰度值的大小进行升序排列,在排序后的序列中选取一定比例的灰度值小的像素,求其灰度均值,该均值即为瞳孔分割阈值。
在本实施方式中,像素值按照灰度值进行升序排列或者降序排列,在排序后的序列中,从灰度值最小的像素开始按照取灰度值逐渐增大的方向选取一定比例的像素,优选的比例选取为8%,求其灰度均值,该均值既为最佳阈值,最佳阈值的计算公式为:
其中,λ为选取的比例,取8%,N为图像像素总个数,θ为选取的像素个数,kpi表示排序后的像素灰度值,T表示瞳孔分割阈值。
将选取的最佳阈值对眼睛区域进行处理得到二值图即图8(a)所示,在二值图中利用椭圆拟合的方法对瞳孔进行拟合分割如图8(b)所示。
图9表示在眼球看不同的角度以及眼睛张开度不同的状态下,利用本发明的对瞳孔分割的结果。从图中可见,本发明在眼睛看不同的角度以及眼睛处于不同的张开程度的状态下,都能够很好的分割瞳孔图像出来。
本发明解决了在光照不均匀情况下,眼睛看不同的方向以及眼睛处于不同的张开程度时,快速而又精确的分割瞳孔的问题。
在本说明书的描述中,参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不一定指的是相同的实施例或示例。而且,描述的具体特征、结构、材料或者特点可以在任何的一个或多个实施例或示例中以合适的方式结合。
尽管已经示出和描述了本发明的实施例,本领域的普通技术人员可以理解:在不脱离本发明的原理和宗旨的情况下可以对这些实施例进行多种变化、修改、替换和变型,本发明的范围由权利要求及其等同物限定。

Claims (6)

1.一种基于多阈值的瞳孔分割方法,其特征在于,包括如下步骤:
S1,预处理:获得待处理图像的灰度图像,并对所述灰度图像进行直方图均衡化,对所述图像进行增强;
S2,对所述灰度图像中的眼睛区域进行分割:
S21,获取预处理步骤后的图像灰度直方图,将灰度直方图中的每一个波谷作为候选阈值Tj,具体为:
其中,h(rk)表示灰度直方图离散函数,rk是第k级灰度值,nk代表k级灰度值的像素点个数;
将所有的候选阈值按照其值的大小进行升序或降序排序,得到候选阈值集合TS,
TS={T0,T1,...,Tj,...,Tn},0<n<256;
S22,从T0开始依次利用候选阈值对预处理后的图像进行二值化,得到对应候选阈值的二值图,由满足灰度小于阈值的像素构成的区域称之为有效区域;
S23,在利用候选阈值获取二值图的同时,根据二值图对所述候选阈值进行筛选,筛除有效区域面积占图像面积的比例大于a的二值图对应的候选阈值,得到有效候选阈值,其中,a为正数且0<a<1;
S24,对经过步骤S23处理后剩余有效候选阈值对应的二值图中的有效区域取并集,根据候选区域中有效区域的个数确定有效候选区域;
S25,利用候选区域的灰度概率分布,分别对有效候选区域求熵,灰度概率分布计算公式为:
p(Xi)=xi/N
其中,xi表示在图像中灰度值为Xi的像素个数,N代表图像的大小,
熵的计算公式为:
熵值最大的有效候选区域即为眼睛;
S3,获取瞳孔位置:根据瞳孔在眼睛中所占的比例,以及眼睛各个部分灰度信息的特征,确定瞳孔分割阈值,利用确定的瞳孔分割阈值对步骤S2获得的眼睛区域进行处理得到二值图,在二值图中对瞳孔进行拟合、实现瞳孔分割。
2.如权利要求1所述的基于多阈值的瞳孔分割方法,其特征在于,所述步骤S22中图像二值化的定义式表示为:
其中,T表示阈值,g(x,y)表示像素灰度值。
3.如权利要求1所述的基于多阈值的瞳孔分割方法,其特征在于,所述步骤S23中,若由候选阈值Tj处理得到的二值图中存在有效区域的面积大于图像面积的3/4,说明该候选阈值偏大,则该候选阈值及其后比其值大的候选阈值认为无效。
4.如权利要求1所述的基于多阈值的瞳孔分割方法,其特征在于,所述步骤S24中,对经过步骤S23处理后剩余有效候选阈值对应的二值图中,对具有完全包含关系的有效区域取并集得到候选区域,并根据候选区域中有效区域的个数大于b的确定为有效候选区域,所述b为大于或等于2的正整数。
5.如权利要求4所述的基于多阈值的瞳孔分割方法,其特征在于,候选区域中有效区域的个数大于2则认为该候选区域有效,即为有效候选区域。
6.如权利要求1所述的基于多阈值的瞳孔分割方法,其特征在于,所述步骤S3中确定瞳孔分割阈值的方法为:对眼睛图像中所有的像素按照灰度值的大小进行升序排列,在排序后的序列中选取一定比例的灰度值小的像素,求其灰度均值,该均值即为瞳孔分割阈值,计算公式为:
其中,λ为选取的比例,取8%,N为图像像素总个数,θ为选取的像素个数,kpi表示排序后的像素灰度值,T表示瞳孔分割阈值。
CN201610211689.1A 2016-04-06 2016-04-06 一种基于多阈值的瞳孔分割方法 Expired - Fee Related CN105913418B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201610211689.1A CN105913418B (zh) 2016-04-06 2016-04-06 一种基于多阈值的瞳孔分割方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201610211689.1A CN105913418B (zh) 2016-04-06 2016-04-06 一种基于多阈值的瞳孔分割方法

Publications (2)

Publication Number Publication Date
CN105913418A CN105913418A (zh) 2016-08-31
CN105913418B true CN105913418B (zh) 2018-08-24

Family

ID=56744680

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201610211689.1A Expired - Fee Related CN105913418B (zh) 2016-04-06 2016-04-06 一种基于多阈值的瞳孔分割方法

Country Status (1)

Country Link
CN (1) CN105913418B (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108629378A (zh) * 2018-05-10 2018-10-09 上海鹰瞳医疗科技有限公司 图像识别方法和设备
CN109101856A (zh) * 2018-09-25 2018-12-28 广东工业大学 一种二维码图像识别方法及装置
CN110827308A (zh) * 2019-11-05 2020-02-21 中国医学科学院肿瘤医院 图像处理方法,装置,电子设备及存储介质

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101539991A (zh) * 2008-03-20 2009-09-23 中国科学院自动化研究所 用于虹膜识别的有效图像区域检测和分割方法
CN103136519A (zh) * 2013-03-22 2013-06-05 中国移动通信集团江苏有限公司南京分公司 一种基于虹膜识别的视线跟踪定位方法
CN104091147A (zh) * 2014-06-11 2014-10-08 华南理工大学 一种近红外眼睛定位及眼睛状态识别方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5229328B2 (ja) * 2008-11-12 2013-07-03 富士通株式会社 文字領域抽出装置,文字領域抽出機能を備えた撮像装置,および文字領域抽出プログラム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101539991A (zh) * 2008-03-20 2009-09-23 中国科学院自动化研究所 用于虹膜识别的有效图像区域检测和分割方法
CN103136519A (zh) * 2013-03-22 2013-06-05 中国移动通信集团江苏有限公司南京分公司 一种基于虹膜识别的视线跟踪定位方法
CN104091147A (zh) * 2014-06-11 2014-10-08 华南理工大学 一种近红外眼睛定位及眼睛状态识别方法

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
Novel Automatic Eye Detection and Tracking Algorithm;Kamarul Hawari Ghazali 等;《Optics & Lasers in Engineering》;20150331;第67卷(第67期);49-56 *
基于最大熵分割和肤色模型的人眼定位;王小鹏 等;《计算机工程》;20100731;第36卷(第14期);161-162 *
基于灰度直方图最小跨度阈值法的瞳孔分割;宋辉 等;《中国印刷与包装研究》;20110430;第3卷(第2期);29-32 *

Also Published As

Publication number Publication date
CN105913418A (zh) 2016-08-31

Similar Documents

Publication Publication Date Title
CN106778664B (zh) 一种虹膜图像中虹膜区域的分割方法及其装置
US7187811B2 (en) Method for image resolution enhancement
CN110276356A (zh) 基于r-cnn的眼底图像微动脉瘤识别方法
CN105046206B (zh) 基于视频中运动先验信息的行人检测方法及装置
CN105117705B (zh) 一种虹膜图像质量级联式评价方法
CN110428463B (zh) 非球面光学元件离焦模糊定中图像自动提取中心的方法
CN105913418B (zh) 一种基于多阈值的瞳孔分割方法
CN110084782B (zh) 基于图像显著性检测的全参考图像质量评价方法
CN113592911B (zh) 表观增强深度目标跟踪方法
CN109035196A (zh) 基于显著性的图像局部模糊检测方法
CN102271262A (zh) 用于3d显示的基于多线索的视频处理方法
CN109766818A (zh) 瞳孔中心定位方法及系统、计算机设备及可读存储介质
CN108537787A (zh) 一种人脸图像的质量判定方法
CN109341524A (zh) 一种基于机器视觉的光纤几何参数检测方法
CN116468640B (zh) 一种用于互联网教学的视频图像增强方法
CN109725721A (zh) 用于裸眼3d显示系统的人眼定位方法及系统
CN117011563B (zh) 基于半监督联邦学习的道路损害巡检跨域检测方法及系统
CN116453198B (zh) 一种基于头部姿态差异的视线校准方法和装置
CN109741351A (zh) 一种基于深度学习的类别敏感型边缘检测方法
Ji et al. No-reference image quality assessment for dehazed images
CN110136105A (zh) 一种基于方差和平滑度的同一内容图像的清晰度评价方法
CN110264434A (zh) 一种基于低秩矩阵补全的单幅图像去雨方法
CN115953341A (zh) 一种夜间火箭可见光图像和红外图像分区域融合方法
CN113255704B (zh) 一种基于局部二值模式的像素差卷积边缘检测方法
CN115456974A (zh) 基于人脸关键点的斜视检测系统、方法、设备及介质

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20180824

Termination date: 20200406

CF01 Termination of patent right due to non-payment of annual fee