CN106373320B - 基于火焰颜色离散度和连续帧图像相似度的火灾识别方法 - Google Patents

基于火焰颜色离散度和连续帧图像相似度的火灾识别方法 Download PDF

Info

Publication number
CN106373320B
CN106373320B CN201610699766.2A CN201610699766A CN106373320B CN 106373320 B CN106373320 B CN 106373320B CN 201610699766 A CN201610699766 A CN 201610699766A CN 106373320 B CN106373320 B CN 106373320B
Authority
CN
China
Prior art keywords
flame
region
frame image
image
color
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN201610699766.2A
Other languages
English (en)
Other versions
CN106373320A (zh
Inventor
卜乐平
王腾
杨宣访
杨忠林
侯新国
王征
尹洋
闫晓玲
李玉梅
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Naval University of Engineering PLA
Original Assignee
Naval University of Engineering PLA
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Naval University of Engineering PLA filed Critical Naval University of Engineering PLA
Priority to CN201610699766.2A priority Critical patent/CN106373320B/zh
Publication of CN106373320A publication Critical patent/CN106373320A/zh
Application granted granted Critical
Publication of CN106373320B publication Critical patent/CN106373320B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B17/00Fire alarms; Alarms responsive to explosion
    • G08B17/12Actuation by presence of radiation or particles, e.g. of infrared radiation or of ions
    • G08B17/125Actuation by presence of radiation or particles, e.g. of infrared radiation or of ions by using a video camera to detect fire or smoke
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • G06V20/46Extracting features or characteristics from the video content, e.g. video fingerprints, representative shots or key frames

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Business, Economics & Management (AREA)
  • Emergency Management (AREA)
  • Theoretical Computer Science (AREA)
  • Fire-Detection Mechanisms (AREA)
  • Image Analysis (AREA)

Abstract

本发明提供一种基于火焰颜色离散度和连续帧图像相似度的火灾识别方法,包括如下步骤:步骤一、对单帧图像进行检测:利用火焰的分层特性,将火焰颜色分量的离散度作为研究对象,选取颜色B分量标准差作为火焰和干扰源的判别依据,确定基于颜色分量离散度的火焰识别模型,根据所述火焰识别模型判定出疑似火焰区域;步骤二、对疑似火焰区域在连续帧图像上进行跟踪和检测:根据相邻帧图像中对应区域的相似度,当连续五帧图像都检测出火焰时报警并用外接矩形框出火焰区域。本发明提出的火灾识别方法能够排除常见干扰源的影响,准确地进行火灾预警,有效地降低误报率,对于室内火灾探测具有很高的实用价值。

Description

基于火焰颜色离散度和连续帧图像相似度的火灾识别方法
技术领域
本发明涉及视频火灾探测领域,具体是一种基于火焰颜色离散度和连续帧图像相似度的火灾识别方法。
背景技术
火灾是一种多发常见的自然灾害,是一种时空上失去控制的燃烧现象,它直接危及人类的生命财产。近几年来,随着经济的飞速发展,各种高层的建筑群体和高大的厂房不断涌现。在这些建筑物中,由于人口的密集,财产的集中,电气设备的复杂,消防安全问题就更为突出。因此,研究火灾探测系统,对火灾进行实时有效的监控,把火灾造成的损失减小到最小程度成为火灾防治技术领域的重点研究内容。
火灾探测技术的核心是火灾信号传感器。1890年英国人研制出感温传感器,开创了历史上火灾探测技术的先例,实现了火灾防治研究从被动扑救到主动探测的转变。至今,火灾探测技术研究已有100多年的历史了。在这一段历史中,火灾探测器经历了六代产品的发展,见表1。目前火灾探测报警技术的发展已进入第六代,国外以美国、日本、挪威、德国等国为代表。
表1火灾探测器发展历程
随着计算机图像处理技术和模式识别方法等理论的发展和应用,越来越多的火灾探测系统运用图像型传感器获得的图像信息进行火灾探测,使得火灾探测技术呈现智能化的发展趋势。视频火灾探测与传统的感烟、感温等方法相比,具有非接触式探测、实时性高、智能化等独特优势。
现有图像型的火灾探测系统,尽管某些方面的性能指标得到了提高,但是仍然存在一些不足,例如现有的视频火灾探测系统一般采用普通彩色摄像头或红外摄像头进行火灾探测与识别,可利用火灾图像的颜色、形状、纹理等静态特征以及相似度、质心运动、面积变化等动态特征的联合信息,通过图像识别算法进行火灾探测。这一类视频火灾识别方法,其静态特征检测多基于单个火焰像素的颜色特性或者整块区域的轮廓纹理特性等,没有考虑到火焰的分层特性,因此容易受光照等颜色类似火焰的干扰影响;其动态特征检测则多基于运动差分的检测,没有涉及到火焰的闪烁特性,因此容易受走动的人,移动的金属板等干扰的影响,导致判别出现较大误差,引起误报、漏报;如果火灾图像特征提取存在较大误差,则也会导致误报和漏报。
发明内容
本发明提供一种基于火焰颜色离散度和连续帧图像相似度的火灾识别方法,能够排除常见干扰的影响,准确地进行火灾预警,有效地减少误报率,对于室内火灾探测具有很高的实用价值。
一种基于火焰颜色离散度和连续帧图像相似度的火灾识别方法,包括如下步骤:
步骤一、对单帧图像进行检测:利用火焰的分层特性,将火焰颜色分量的离散度作为研究对象,选取颜色B分量标准差作为火焰和干扰源的判别依据,确定基于颜色分量离散度的火焰识别模型,其判断准则为:
式中:R、G、B分别为火焰像素点颜色R、G和B分量,RT、ST分别为R颜色分量、S颜色分量的阈值,ST和RT的取值范围分别在55-65和115-135之间,Bstd为区域内像素点颜色B分量对应的标准差,BT为阈值,BT的取值为9,根据所述火焰识别模型判定出疑似火焰区域;
步骤二、对疑似火焰区域在连续帧图像上进行跟踪和检测:根据相邻帧图像中对应区域的相似度,当连续五帧图像都检测出火焰时报警并用外接矩形框出火焰区域。
进一步的,所述步骤二具体包括:
步骤2.1:使用bwlabel函数,分别对当前帧图像It和前一帧图像It-1进行区域分割;
[St,Numt]=bwlabel(It)
[St-1,Numt-1]=bwlabel(It-1)
步骤2.2:将当前帧图像It对前一帧图像It-1做差,得到运动图像Mt
步骤2.3:遍历St中各区域,统计各区域对应位置Mt图像中值为1的像素点个数Ni,i为区域标记;若Ni>0.则进入步骤2.4;否则,继续搜索第i+1区域,直到遍历完结束;
步骤2.4:计算当前帧图像第i区域的质心坐标和前一帧标记图像St-1各区域的质心坐标计算当前帧图像第i区域与前一帧图像各区域质心坐标的像素距离。
由于火焰在短时间内在燃烧区域较为固定,所以可以认为质心坐标最相近的两区域为相邻两帧图像中同一可疑区域的对应区域,即若则认为为相邻帧图像中的对应区域;
步骤2.5:计算相邻帧图像中对应区域的相似度其表达式为
火焰区域相似度的判别范围定为[0.5-0.85],当连续五帧图像都检测出火焰时报警并用外接矩形框出火焰区域。
本发明基于火焰的分层特性将火焰颜色离散度引入现有的火焰颜色模型,很好的排除了常见颜色类似火焰的干扰物体影响,为了进一步降低误报率,基于火焰的闪烁特性将连续帧图像间相似度作为连续帧判断准则,排除了一些混合颜色的运动物体干扰。经试验证明,本发明的在保证报警准确率控制在95%以上的情况下能将误报率降低到3%以下,相比于传统的火灾探测方法具有较大的改进。
附图说明
图1是本发明基于火焰颜色离散度和连续帧图像相似度的火灾识别方法的流程示意图;
图2是RGB-HIS火焰颜色模型中关于火焰像素点的R值和S值之间的关系示意图;
图3是不同阈值BT形成的样本检测ROC曲线;
图4是检测样本相似度统计直方图。
具体实施方式
下面将结合本发明中的附图,对本发明中的技术方案进行清楚、完整地描述。
图1所示为本发明基于火焰颜色离散度和连续帧图像相似度的火灾识别方法的流程示意图,所述方法包括如下步骤:
1、首先对单帧图像进行检测。尽管火焰颜色有很多种,最初火焰的颜色为红色到黄色。红色到黄色的颜色范围对应到RGB空间就是R≥G>B。同时,作为一个光源,火焰在RGB图像中的主要分量R应该大于一个阈值RT。而且为了避免背景光照的干扰,火焰的饱和度应该大于一个阈值以排除其它类似火焰的干扰。根据以上火焰颜色特性,推导出三个火焰图像决策规则来提取火焰图像,其规则如下:
式中:RT、ST分别为R颜色分量、S颜色分量的阈值。关于火焰像素点的R值和S值之间的关系如图2所示。根据大量实验结果统计得到,ST和RT的取值范围分别在55-65和115-135之间。
因为火焰不同位置燃烧的程度和温度不同,反映在颜色上就是呈现出不同的颜色分布,而日光灯、电焊等常见干扰源则呈现出颜色单一的特性,所以可以根据颜色分量离散度的差异分离出火焰区域和干扰区域。本文使用颜色分量的标准差来作为离散度的表达量。
定义火焰图像中某区域内K个像素点的颜色W分量的均值为Wmean,则有
式中:W(xi,yi)为(xi,yi)处像素点的颜色W分量的值。
该区域内像素点颜色W分量对应的标准差Wstd
为了选取最合适的颜色分量标准差作为火焰和干扰源的判别依据,本文对常见标准火和干扰源的R,G,B分量标准差分别进行了计算。实验在室内进行,燃油火在大小为33cmx33cm的正方形油盘内燃烧,摄像设备采用索尼FCB—CX1020P型高分辨率一体化彩色摄像头,探测距离为20m,室内存在干扰源,结果如表2所示:
表2常见标准火和干扰源的R,G,B分量标准差
样本 Rstd Gstd Bstd
酒精火(火) 0.0594 4.0553 50.3641
煤油火(火) 0.0588 2.8398 14.2169
木柴火(火) 0.0485 5.3524 48.6095
日光灯(干扰) 0.0021 0.0783 0.3724
电焊(干扰) 0.0446 1.7401 6.3091
毛巾(干扰) 0.0371 2.2539 6.4057
日光(干扰) 0.0420 1.0384 3.4186
手电(干扰) 0.0213 0.4018 0.9323
反光金属(干扰) 0.0059 0.0853 2.0873
由表2可知,火焰和非火干扰源图像在B分量上的标准差区分十分明显,这是因为火焰和干扰源通常亮度都很大,其R分量和G分量都接近255,显现不出区域差异。而火焰的蓝色分量是由氧气燃烧产生的,不同位置的燃烧温度和程度都不相同,干扰源多是由光照引起的,在小范围内呈现不出离散型,所以将可疑区域的B分量标准差作为火焰和非火干扰源的区分标准是可行的。
根据以上方法,本文结合RGB-HIS颜色模型和B分量的标准差提出了一种基于颜色分量离散度的火焰识别模型,其判断准则为
式中Bstd为区域内像素点颜色B分量对应的标准差,BT为阈值。
为了选取合适的阈值来达到最优检测效果,本文以干扰源图像检测错误率F为横坐标,火焰图像检测正确率T为纵坐标,选取不同阈值对应的坐标点绘制出样本检测的ROC(Receiver Operating Characteristic)曲线,如图3所示。
从图3的ROC曲线可以看到,当阈值BT=8的时候,火焰图像的检测正确率达到99.8%,此时干扰源图像的检测错误率为10.8%;当阈值BT=9时,干扰源图像的检测错误率降为4.6%,火焰图像的检测正确率降为98%;当阈值BT=10时,干扰源图像的检测错误率进一步降为2.6%,而火焰图像的检测正确率此时为96.4%,当阈值进一步增大时,曲线下降的斜率将大于1/2。因为在火灾检测中,漏报的严重性要大于误报,在以降低漏报率为主,兼顾误报率的选取原则下,阈值BT=9时能达到最优的火焰检测效果。
2.在完成单帧检测后再对疑似火焰区域在连续帧图像上进行跟踪和检测。
步骤2.1:使用bwlabel函数,分别对当前帧图像It和前一帧图像It-1进行区域分割;
[St,Numt]=bwlabel(It)
[St-1,Numt-1]=bwlabel(It-1)
步骤2.2:将当前帧图像It对前一帧图像It-1做差,得到运动图像Mt
步骤2.3:遍历St中各区域,统计各区域对应位置Mt图像中值为1的像素点个数Ni(i为区域标记);若Ni>0.则进入步骤2.4;否则,继续搜索第i+1区域,直到遍历完结束;
步骤2.4:计算当前帧图像第i区域的质心坐标和前一帧标记图像St-1各区域的质心坐标计算当前帧图像第i区域与前一帧图像各区域质心坐标的像素距离。
由于火焰在短时间内在燃烧区域较为固定,所以可以认为质心坐标最相近的两区域为相邻两帧图像中同一可疑区域的对应区域,即若则认为为相邻帧图像中的对应区域;
步骤2.5:计算相邻帧图像中对应区域的相似度其表达式为
为了准确地选取具有广泛适用性的阈值,本发明从大量室内火灾视频里选取了了不同类型、不同燃烧阶段的火焰图像1000对连续图像作为阈值分析的正样本,选取常见干扰源如电焊、光照、反光金属、白毛巾等图像1000对连续图像作为负样本,计算其对应的相似度,并绘制出其分布曲线。
表3样本相似度统计
从统计直方图(图4)中可以看出,相邻帧图像中火焰区域的相似度主要分布在区间[0.5-0.85]中,分布概率为96.9%,误报率为8.8%。而非火区域则呈现两极分布的情况,这是因为对于常见的干扰物来说,静止时其相似度接近于1,而一般的运动干扰物在两帧间隙(三十分之一秒)内的运动变化是非常小的,所以其相似度也接近于1。而对于一些噪声区域,其在单帧图像上是随机分布的,在连续帧上则会出现跟踪丢失的情况,所以其相似度为0。综上所述,可以把火焰区域相似度的判别范围定为[0.5-0.85],为了避免因某一帧干扰引起误报警的情况,可以通过连续五帧判别来予以剔除,即只有当连续五帧图像都检测出火焰时才报警并用外接矩形框出火焰区域,这样可以进一步降低误报率,经工程实践情况证明:该方法在距离较远,对光照、反光金属等常见干扰源都具有较强的抗干扰能力。
以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何属于本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到的变化或替换,都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应该以权利要求的保护范围为准。

Claims (1)

1.一种基于火焰颜色离散度和连续帧图像相似度的火灾识别方法,其特征在于包括如下步骤:
步骤一、对单帧图像进行检测:利用火焰的分层特性,将火焰颜色分量的离散度作为研究对象,选取颜色B分量标准差作为火焰和干扰源的判别依据,确定基于颜色分量离散度的火焰识别模型,其判断准则为:
式中:R、G、B分别为火焰像素点颜色R、G和B分量,RT、ST分别为R颜色分量、S颜色分量的阈值,ST和RT的取值范围分别在55-65和115-135之间,Bstd为区域内像素点颜色B分量对应的标准差,BT为阈值,BT的取值为9,根据所述火焰识别模型判定出疑似火焰区域;
步骤二、对疑似火焰区域在连续帧图像上进行跟踪和检测:根据相邻帧图像中对应区域的相似度,当连续五帧图像都检测出火焰时报警并用外接矩形框出火焰区域;
所述步骤二具体包括:
步骤2.1:使用bwlabel函数,分别对当前帧图像It和前一帧图像It-1进行区域分割;
[St,Numt]=bwlabel(It)
[St-1,Numt-1]=bwlabel(It-1)
步骤2.2:将当前帧图像It对前一帧图像It-1做差,得到运动图像Mt
步骤2.3:遍历St中各区域,统计各区域对应位置Mt图像中值为1的像素点个数Ni,i为区域标记;若Ni>0.则进入步骤2.4;否则,继续搜索第i+1区域,直到遍历完结束;
步骤2.4:计算当前帧图像第i区域的质心坐标和前一帧标记图像St-1各区域的质心坐标计算当前帧图像第i区域与前一帧图像各区域质心坐标的像素距离:
由于火焰在短时间内在燃烧区域较为固定,所以可以认为质心坐标最相近的两区域为相邻两帧图像中同一可疑区域的对应区域,即若则认为为相邻帧图像中的对应区域;
步骤2.5:计算相邻帧图像中对应区域的相似度其表达式为
火焰区域相似度的判别范围定为[0.5-0.85],当连续五帧图像都检测出火焰时报警并用外接矩形框出火焰区域。
CN201610699766.2A 2016-08-22 2016-08-22 基于火焰颜色离散度和连续帧图像相似度的火灾识别方法 Expired - Fee Related CN106373320B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201610699766.2A CN106373320B (zh) 2016-08-22 2016-08-22 基于火焰颜色离散度和连续帧图像相似度的火灾识别方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201610699766.2A CN106373320B (zh) 2016-08-22 2016-08-22 基于火焰颜色离散度和连续帧图像相似度的火灾识别方法

Publications (2)

Publication Number Publication Date
CN106373320A CN106373320A (zh) 2017-02-01
CN106373320B true CN106373320B (zh) 2018-10-02

Family

ID=57878537

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201610699766.2A Expired - Fee Related CN106373320B (zh) 2016-08-22 2016-08-22 基于火焰颜色离散度和连续帧图像相似度的火灾识别方法

Country Status (1)

Country Link
CN (1) CN106373320B (zh)

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107169966B (zh) * 2017-06-27 2020-03-20 国网湖南省电力公司 一种基于温度分布的输电线路山火辨识方法
CN107576269B (zh) * 2017-08-11 2019-12-24 国网湖南省电力公司 一种输电线路山火定位方法
CN108322699B (zh) * 2018-01-23 2020-02-18 东南大学 一种基于视频图像检测电弧闪光的方法
WO2019181957A1 (ja) * 2018-03-20 2019-09-26 パナソニックIpマネジメント株式会社 火炎検知システム、報知システム、火炎検知方法、及びプログラム
CN109360370B (zh) * 2018-11-30 2021-06-29 广州高新兴机器人有限公司 一种基于机器人烟火检测的方法
CN110826439A (zh) * 2019-10-25 2020-02-21 杭州叙简科技股份有限公司 一种基于深度学习图像处理的电焊施工检测方法
CN111275916B (zh) * 2020-02-14 2022-05-03 清华大学合肥公共安全研究院 一种区域火灾报警模型的构建方法及系统
CN112071016A (zh) * 2020-09-14 2020-12-11 广州市几米物联科技有限公司 火灾监控方法、装置、设备及存储介质
CN112347942A (zh) * 2020-11-09 2021-02-09 深圳英飞拓科技股份有限公司 一种火焰识别的方法及装置
CN112507925A (zh) * 2020-12-16 2021-03-16 安徽建筑大学 一种基于慢特征分析的火灾检测方法
CN114724287A (zh) * 2021-01-06 2022-07-08 中国石油天然气股份有限公司 油气场站的值守系统及值守方法
CN113298048B (zh) * 2021-07-08 2021-11-02 环球数科集团有限公司 一种基于计算机视觉的森林火灾检测及预警系统
CN115115996B (zh) * 2022-08-30 2022-11-18 江苏南通二建集团讯腾云创智能科技有限公司 一种基于超像素分割的楼宇智能化消防火灾识别方法
CN116168345B (zh) * 2023-04-21 2023-07-21 深圳开鸿数字产业发展有限公司 火灾检测方法及相关设备
CN116246215B (zh) * 2023-05-11 2024-01-09 小手创新(杭州)科技有限公司 基于视觉算法的识别新进物品的方法、桶盖及智能回收桶

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04294496A (ja) * 1991-03-22 1992-10-19 Horiba Ltd 人体検出装置
JP2003330447A (ja) * 2002-05-15 2003-11-19 Mitsubishi Electric Corp 画像処理装置
TWI235964B (en) * 2004-03-09 2005-07-11 Huper Lab Co Ltd Method and system for detecting fire in a predetermined area
US7616126B2 (en) * 2006-07-18 2009-11-10 Gentex Corporation Optical particle detectors
CN101930590B (zh) * 2009-06-25 2012-05-09 公安部上海消防研究所 一种可应用于火灾探测的变换域邻域自适应图像降噪方法
CN201993875U (zh) * 2010-12-13 2011-09-28 徐勇 基于颜色与动态特性的燃烧检测系统
CN102201146B (zh) * 2011-05-18 2012-11-21 中国科学技术大学 基于主动红外视频的零照度环境火灾烟雾识别方法
CN102332092B (zh) * 2011-09-14 2015-04-01 广州灵视信息科技有限公司 一种基于视频分析的火焰检测方法

Also Published As

Publication number Publication date
CN106373320A (zh) 2017-02-01

Similar Documents

Publication Publication Date Title
CN106373320B (zh) 基于火焰颜色离散度和连续帧图像相似度的火灾识别方法
Gong et al. A Real‐Time Fire Detection Method from Video with Multifeature Fusion
CN107944359B (zh) 基于视频的火焰检测方法
CN106845443B (zh) 基于多特征融合的视频火焰检测方法
CN101441771B (zh) 基于色彩饱和度与运动模式的视频火灾烟雾检测方法
CN110516609A (zh) 一种基于图像多特征融合的火灾视频检测及预警方法
CN107085714B (zh) 一种基于视频的森林火灾检测方法
CN107705288B (zh) 伪目标运动强干扰下的危险气体泄漏红外视频检测方法
KR101822924B1 (ko) 영상기반 화재 감지 시스템, 방법 및 프로그램
CN105453153B (zh) 交通灯检测
TWI420423B (zh) Machine vision flame identification system and method
CN105788142A (zh) 一种基于视频图像处理的火灾检测系统及检测方法
KR101953342B1 (ko) 멀티 센서 화재감지 방법 및 시스템
CN107067412A (zh) 一种多信息融合的视频火焰烟雾检测方法
Wang et al. A new fire detection method using a multi-expert system based on color dispersion, similarity and centroid motion in indoor environment
Wang et al. A new fire detection method based on flame color dispersion and similarity in consecutive frames
CN103400111A (zh) 基于视频检测技术的高速公路隧道火灾事件检测方法
CN109741565B (zh) 煤矿火灾识别系统及方法
CN103996045A (zh) 一种基于视频的多种特征融合的烟雾识别方法
CN107688793A (zh) 一种变电站室外火灾自动监测预警方法
CN108898042A (zh) 一种应用于atm机舱内用户异常行为的检测方法
CN114885119A (zh) 一种基于计算机视觉的智能监控报警系统及方法
CN113299034B (zh) 一种适应多场景的火焰识别预警方法
CN102646191A (zh) 一种石油钻井伴生气燃烧火焰图像识别的方法
Lai et al. Robust little flame detection on real-time video surveillance system

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20181002

Termination date: 20210822