CN105261029B - 基于双目视觉进行火源定位和灭火的机器人 - Google Patents

基于双目视觉进行火源定位和灭火的机器人 Download PDF

Info

Publication number
CN105261029B
CN105261029B CN201510809505.7A CN201510809505A CN105261029B CN 105261029 B CN105261029 B CN 105261029B CN 201510809505 A CN201510809505 A CN 201510809505A CN 105261029 B CN105261029 B CN 105261029B
Authority
CN
China
Prior art keywords
fire
module
cause
burning things
fire disaster
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN201510809505.7A
Other languages
English (en)
Other versions
CN105261029A (zh
Inventor
任贵文
贺行政
车洪磊
庞云玲
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
China Academy of Safety Science and Technology CASST
Original Assignee
China Academy of Safety Science and Technology CASST
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by China Academy of Safety Science and Technology CASST filed Critical China Academy of Safety Science and Technology CASST
Priority to CN201510809505.7A priority Critical patent/CN105261029B/zh
Publication of CN105261029A publication Critical patent/CN105261029A/zh
Application granted granted Critical
Publication of CN105261029B publication Critical patent/CN105261029B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10048Infrared image

Landscapes

  • Manipulator (AREA)
  • Radiation Pyrometers (AREA)
  • Fire-Detection Mechanisms (AREA)

Abstract

基于双目视觉进行火源定位和灭火的机器人,包括前端摄像机模块、图像采集模块、数据处理及控制模块、灭火装置模块、无线传输模块和机器人载体,前端摄像机模块由红外热成像仪和低照度可见光摄像机组成;图像采集模块对红外热成像图像进行分析,若发现符合火源特征的区域,则将该区域对应的红外和可见光图像传输给数据处理及控制模块;数据处理及控制模块的双目测距单元对该区域做三维坐标定位,并把定位出来的三维坐标发送给控制单元;灭火装置模块包括可喷射灭火物质的灭火枪。其目的在于提供一种代替人进行危险化学品仓库监管、智能分析火源位置、对火源进行精准灭火的基于双目视觉进行火源定位和灭火的机器人。

Description

基于双目视觉进行火源定位和灭火的机器人
技术领域
本发明涉及基于双目视觉进行火源定位和灭火的机器人。
背景技术
随着机器视觉以及红外热成像技术的飞速发展,人们对红外与可见光双目视觉的研究也越来越多,在安防监控、医疗、军事等领域,为了获得全方位的信息,人们尝试将红外与可见光图像做融合,已经取得了很多成果,也改变了很多行业的技术瓶颈,然而,在危险化学品仓库巡检、火灾救援等领域,该技术还没有得到很好的推广应用。
危险化学品仓库由于储存了很多易燃、易爆、有毒、有害等化学物质,其安全状况也越来越得到了人们的广泛关注,尤其是近期发生的天津港“8.12”特别重大爆炸事故,对人民的生命、财产带来了严重的损害,同时也对周围环境造成了严重的影响。
对危险化学品仓库的监管,最主要的就是对内部存储的化学品种类、数量、周围环境温度等做监控,大部分火灾事故的发生都是由温度过高引起的,红外热成像技术由于具有非接触性测温以及全屏测温的优点,非常适合危险化学品仓库的监控。
目前对危险化学品仓库的监管还是主要靠人工监管,常常存在监管不到位,发现火灾不及时等问题。
发明内容
本发明的目的在于提供一种代替人进行危险化学品仓库监管、智能分析火源位置、对火源进行精准灭火的基于双目视觉进行火源定位和灭火的机器人。
本发明基于双目视觉进行火源定位和灭火的机器人,其包括:
前端摄像机模块,所述前端摄像机模块由红外热成像仪和低照度可见光摄像机组成,所述前端摄像机模块与图像采集模块相连;
图像采集模块,所述图像采集模块采集红外热成像图像和可见光图像后,首先对红外热成像图像进行分析,判断是否存在温度异常且符合火源特征的区域,如果发现温度异常且符合火源特征的区域,则将该区域对应的红外热成像图像和可见光图像传输给数据处理及控制模块;所述判断是否存在温度异常且符合火源特征的区域方法为:首先通过温度阈值分割,筛选出红外热成像图像中的高温区域,然后通过图像匹配,在可见光图像中找到对应的高温区域,对可见光图像中的高温区域做RGB颜色分析,与火焰的颜色特征做比较,判断是否为真实火源区域;
所述数据处理及控制模块由双目测距单元和控制单元组成,所述双目测距单元对所述温度异常且符合火源特征的区域做三维坐标定位,并把定位出来的三维坐标发送给所述控制单元,所述控制单元发出控制指令,所述控制指令包括灭火枪角度调整、灭火枪喷射压力调整;
灭火装置模块,所述灭火装置模块包括可喷射灭火物质的灭火枪;
无线传输模块,所述无线传输模块将所述图像采集模块采集的红外热成像图像和可见光图像发送出去;还接收远程指令传输给所述数据处理及控制模块;
机器人载体;
所述机器人载体由履带机器人构成;
所述红外热成像仪和低照度可见光摄像机左右水平设置且间距4-8cm;
所述红外热成像仪、低照度可见光摄像机和灭火枪安装在履带机器人的顶部,且灭火枪位于所述红外热成像仪和低照度可见光摄像机之间。
本发明基于双目视觉进行火源定位和灭火的方法,包括以下步骤:
S1,启动前端摄像机模块,对周围环境做图像扫描,并将周围环境的红外热成像图像和可见光图像发送给图像采集模块;
S2,所述图像采集模块对红外热成像图像进行分析,判断是否存在温度异常且符合火源特征的区域,如果发现温度异常且符合火源特征的区域,则将该区域对应的红外热成像图像和可见光图像传输给数据处理及控制模块;判断是否存在温度异常且符合火源特征的区域方法为:首先通过温度阈值分割,筛选出红外热成像图像中的高温区域,然后通过图像匹配,在可见光图像中找到对应的高温区域,对可见光图像中的高温区域做RGB颜色分析,与火焰的颜色特征做比较,判断是否为真实火源区域;
S3,所述数据处理及控制模块中的双目测距单元对所述温度异常且符合火源特征的区域做三维坐标定位,并把定位出来的三维坐标发送给所述数据处理及控制模块中的控制单元,所述控制单元发出控制指令,所述控制指令包括灭火枪角度调整、灭火枪喷射压力调整;
S4,启动灭火装置模块,所述灭火装置模块包括可喷射灭火物质的灭火枪,根据所述控制单元发出的控制指令调整灭火枪角度和灭火枪喷射压力;
S5,所述图像采集模块重新采集可见光图像并对S2步骤中定位的所述温度异常且符合火源特征的区域,做RGB颜色分析,和火焰的颜色特征做比较,如果当前的RGB颜色分析结果与火焰的颜色特征不符合,说明此处火源已经被扑灭。
优选地,所述前端摄像机模块、图像采集模块、数据处理及控制模块和灭火装置模块均以履带机器人为载体,步骤S2中,如果没有发现温度异常且符合火源特征的区域,所述数据处理及控制模块发送移动位置指令给履带机器人;步骤S5中经过RGB颜色分析,说明此处火源已经被扑灭后,所述数据处理及控制模块发送移动位置指令给履带机器人。
本发明的前端摄像机模块,实时采集周围环境的红外热成像图像和可见光图像并发送给图像采集模块,图像采集模块对红外热成像图像进行分析,将温度异常且符合火源特征的区域对应的红外热成像图像和可见光图像传输给数据处理及控制模块,数据处理及控制模块中的双目测距单元对所述温度异常且符合火源特征的区域做三维坐标定位,并把定位出来的三维坐标发送给所述数据处理及控制模块中的控制单元,所述控制单元发出控制指令调整灭火枪角度和喷射压力,本发明通过引入计算机视觉技术,代替人进行危险化学品仓库监管,将红外热成像仪和低照度可见光摄像机变成了机器人的“眼睛”,既能发现火源位置,又能计算出火源的具体三维坐标参数,调整灭火枪的喷射角度和喷射压力,及时、精准消灭火源。
下面结合附图对本发明的基于双目视觉进行火源定位和灭火的机器人作进一步详细说明。
附图说明
图1为本发明基于双目视觉进行火源定位和灭火的机器人原理框图;
图2为本发明基于双目视觉进行火源定位和灭火的机器人一种实施方式的示意图。
具体实施方式
参见图1和图2,本发明基于双目视觉进行火源定位和灭火的机器人,包括:
前端摄像机模块2,前端摄像机模块2由红外热成像仪和低照度可见光摄像机组成,红外热成像仪和低照度可见光摄像机左右水平设置且间距4-8cm,前端摄像机模块2与图像采集模块相连;
图像采集模块,图像采集模块是由DSP+FPGA构成的图像采集处理板,图像采集模块采集红外热成像图像和可见光图像后,首先对红外热成像图像进行分析,判断是否存在温度异常且符合火源特征的区域,如果发现温度异常且符合火源特征的区域,则将该区域对应的红外热成像图像和可见光图像传输给数据处理及控制模块;判断是否存在温度异常且符合火源特征的区域方法为:首先通过温度阈值分割,筛选出红外热成像图像中的高温区域,然后通过图像匹配,在可见光图像中找到对应的高温区域,对可见光图像中的高温区域做RGB颜色分析,与火焰的颜色特征做比较,判断是否为真实火源区域;火焰的颜色与温度具有相关关系,从焰心到火焰外表面温度逐渐升高,其颜色依次为暗红色、红色、橙色、黄色、蓝白色和白色,因此可以通过对图像做RGB颜色分析判断是否为真实火焰区域。
数据处理及控制模块由双目测距单元和控制单元组成,双目测距单元对温度异常且符合火源特征的区域做三维坐标定位,并把定位出来的三维坐标发送给控制单元,控制单元发出控制指令,控制指令包括灭火枪角度调整、灭火枪喷射压力调整;其中双目测距单元是基于OpenCV函数实现的,OpenCV是一个开源的跨平台计算机视觉库,通过立体匹配获得视差参数,以此为基础,求出三维坐标。
灭火装置模块,如图2所示,包括放置在机器人上方的灭火枪1,该灭火枪1的角度可以调节,喷射压力也可以调节,调节是基于三维坐标参数进行的,可以针对火源做精准控制。
无线传输模块,无线传输模块将图像采集模块采集的红外热成像图像和可见光图像发送给远程监控终端,监控人员可以实时掌握现场的状况,同时,还可以通过远程监控端将远程指令传输给数据处理及控制模块,辅助对机器人灭火和移动情况进行控制。
机器人载体选用履带机器人,能灵活的进行各种移动,适用于复杂的地理环境。
本发明基于双目视觉进行火源定位和灭火的机器人,通过引入计算机视觉技术,将红外热成像仪和低照度可见光摄像机变成了机器人的“眼睛”,既能及时发现火源,又能计算出火源的具体三维坐标参数,精准的消灭火源。该机器人还可以用来日常巡检危险化学品仓库,根据预先设定好的路线,对仓库做日常巡检,一旦发现火源,会迅速反应,做出灭火处理。
本发明基于双目视觉进行火源定位和灭火的方法,包括以下步骤:
S1,启动前端摄像机模块2,对周围环境做图像扫描,并将周围环境的红外热成像图像和可见光图像发送给图像采集模块;
S2,图像采集模块对红外热成像图像进行分析,判断是否存在温度异常且符合火源特征的区域,如果没有发现温度异常且符合火源特征的区域,数据处理及控制模块发送移动位置指令给履带机器人;如果发现温度异常且符合火源特征的区域,则将该区域对应的红外热成像图像和可见光图像传输给数据处理及控制模块;判断是否存在温度异常且符合火源特征的区域方法为:首先通过温度阈值分割,筛选出红外热成像图像中的高温区域,然后通过图像匹配,在可见光图像中找到对应的高温区域,对可见光图像中的高温区域做RGB颜色分析,与火焰的颜色特征做比较,判断是否为真实火源区域;火焰的颜色与温度具有相关关系,从焰心到火焰外表面温度逐渐升高,其颜色依次为暗红色、红色、橙色、黄色、蓝白色和白色,因此可以通过对图像做RGB颜色分析判断是否为真实火焰区域。
S3,数据处理及控制模块中的双目测距单元对温度异常且符合火源特征的区域做三维坐标定位,并把定位出来的三维坐标发送给数据处理及控制模块中的控制单元,控制单元发出控制指令,控制指令包括灭火枪角度调整、灭火枪喷射压力调整;
S4,启动灭火装置模块,灭火装置模块包括可喷射灭火物质的灭火枪,根据控制单元发出的控制指令调整灭火枪角度和灭火枪喷射压力;
S5,图像采集模块重新采集可见光图像并对S2步骤中定位的温度异常且符合火源特征的区域,做RGB颜色分析,和火焰的颜色特征做比较,如果当前的RGB颜色分析结果与火焰的颜色特征不符合,说明此处火源已经被扑灭;判断火源已经被扑灭后,数据处理及控制模块发送移动位置指令给履带机器人。
尽管本发明的实施例已公开如上,但其并不仅仅限于说明书和实施方式中所列运用,它完全可以被适用于各种适合本发明的领域,对于熟悉本领域的人员而言,可容易地实现另外的修改,因此在不背离权利要求及等同范围所限定的一般概念下,本发明并不限于特定的细节和这里示出与描述的图例。

Claims (1)

1.基于双目视觉进行火源定位和灭火的机器人,其特征在于包括:
前端摄像机模块(2),所述前端摄像机模块(2)由红外热成像仪和低照度可见光摄像机组成,所述前端摄像机模块(2)与图像采集模块相连;
图像采集模块,所述图像采集模块采集红外热成像图像和可见光图像后,首先对红外热成像图像进行分析,判断是否存在温度异常且符合火源特征的区域,如果发现温度异常且符合火源特征的区域,则将该区域对应的红外热成像图像和可见光图像传输给数据处理及控制模块;所述判断是否存在温度异常且符合火源特征的区域方法为:首先通过温度阈值分割,筛选出红外热成像图像中的高温区域,然后通过图像匹配,在可见光图像中找到对应的高温区域,对可见光图像中的高温区域做RGB颜色分析,与火焰的颜色特征做比较,判断是否为真实火源区域;
所述数据处理及控制模块由双目测距单元和控制单元组成,所述双目测距单元对所述温度异常且符合火源特征的区域做三维坐标定位,并把定位出来的三维坐标发送给所述控制单元,所述控制单元发出控制指令,所述控制指令包括灭火枪(1)角度调整、灭火枪(1)喷射压力调整;
灭火装置模块,所述灭火装置模块包括可喷射灭火物质的灭火枪(1);
无线传输模块,所述无线传输模块将所述图像采集模块采集的红外热成像图像和可见光图像发送出去;还接收远程指令传输给所述数据处理及控制模块;
机器人载体;
所述机器人载体由履带机器人构成;
所述红外热成像仪和低照度可见光摄像机左右水平设置且间距4-8cm;
所述红外热成像仪、低照度可见光摄像机和灭火枪(1)安装在履带机器人的顶部,且灭火枪(1)位于所述红外热成像仪和低照度可见光摄像机之间。
CN201510809505.7A 2015-11-20 2015-11-20 基于双目视觉进行火源定位和灭火的机器人 Expired - Fee Related CN105261029B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201510809505.7A CN105261029B (zh) 2015-11-20 2015-11-20 基于双目视觉进行火源定位和灭火的机器人

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201510809505.7A CN105261029B (zh) 2015-11-20 2015-11-20 基于双目视觉进行火源定位和灭火的机器人

Publications (2)

Publication Number Publication Date
CN105261029A CN105261029A (zh) 2016-01-20
CN105261029B true CN105261029B (zh) 2018-08-21

Family

ID=55100701

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201510809505.7A Expired - Fee Related CN105261029B (zh) 2015-11-20 2015-11-20 基于双目视觉进行火源定位和灭火的机器人

Country Status (1)

Country Link
CN (1) CN105261029B (zh)

Families Citing this family (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108262748A (zh) * 2016-12-30 2018-07-10 台湾新光保全股份有限公司 具有巡逻功能的移动机器人
JP7186339B2 (ja) * 2017-09-28 2022-12-09 智幸 伊豆 無人消火装置、無人消火方法及び無人消火プログラム
CN108182706B (zh) * 2017-12-08 2021-09-28 重庆广睿达科技有限公司 一种焚烧物的监控方法及系统
CN109961607A (zh) * 2017-12-22 2019-07-02 宁波佳凯零点电子科技有限公司 一种智能安防系统及其控制方法
CN108038867A (zh) * 2017-12-22 2018-05-15 湖南源信光电科技股份有限公司 基于多特征融合和立体视觉的火焰检测和定位方法
CN108469304B (zh) * 2018-03-30 2019-04-02 百度在线网络技术(北京)有限公司 红外测距和检测方法、装置、家庭机器人及存储介质
CN108714279A (zh) * 2018-05-25 2018-10-30 深圳市华讯方舟装备技术有限公司 一种基于水上自动驾驶的消防船艇的灭火方法、装置、系统以及一种存储介质
CN108995658A (zh) * 2018-07-16 2018-12-14 河南聚合科技有限公司 一种恶劣环境履带式危险源探察处理无人驾驶系统
CN109191529A (zh) * 2018-07-19 2019-01-11 武汉卫思德科技有限公司 一种基于双目技术的室内可见光自定位系统与方法
CN109331378B (zh) * 2018-11-05 2020-12-08 湘潭大学 一种基于图像处理的灭火机器人及智能消防灭火方法
CN109360370B (zh) * 2018-11-30 2021-06-29 广州高新兴机器人有限公司 一种基于机器人烟火检测的方法
CN109865232A (zh) * 2019-02-22 2019-06-11 武汉理工大学 火灾搜救系统及其控制方法
CN109854964B (zh) * 2019-03-29 2021-03-19 沈阳天眼智云信息科技有限公司 基于双目视觉的蒸汽泄露定位系统及方法
CN110075449A (zh) * 2019-04-09 2019-08-02 上海海事大学 一种用于无人驾驶船舶的智能监控灭火方法
CN110141816A (zh) * 2019-04-23 2019-08-20 上海中备实业公司 一种用于消防车的智能灭火设备和灭火方法
CN112571410B (zh) * 2019-09-27 2022-04-29 杭州萤石软件有限公司 一种区域确定方法、装置、移动机器人及系统
CN111223152B (zh) * 2019-11-18 2023-09-26 燕山大学 一种火源的识别方法及系统
CN110860057A (zh) * 2019-11-18 2020-03-06 燕山大学 一种消防侦察机器人及侦察方法
CN110837822B (zh) * 2019-12-09 2022-09-09 国网智能科技股份有限公司 基于多目视觉的消防机器人喷射曲线调整方法及装置
CN111275918B (zh) * 2020-03-05 2020-12-11 深圳市君利信达科技有限公司 一种火焰检测分析预警系统
CN111249655A (zh) * 2020-03-11 2020-06-09 中信重工开诚智能装备有限公司 一种消防投弹灭火机器人火焰识别装置及定位方法
CN111443711B (zh) * 2020-03-27 2023-05-23 浙江华消科技有限公司 消防机器人避障方法、装置、消防机器人和可读存储介质
CN111476967A (zh) * 2020-04-08 2020-07-31 方雯 一种基于物联网智能物流机器人的远程控制系统
CN113834571A (zh) * 2020-06-24 2021-12-24 杭州海康威视数字技术股份有限公司 一种目标测温方法、装置及测温系统
CN111932558B (zh) * 2020-08-20 2024-04-16 湖北职业技术学院 高温危险区域定位方法
CN112504472A (zh) * 2020-11-26 2021-03-16 浙江大华技术股份有限公司 一种热成像仪及热成像方法、存储介质
CN112396797A (zh) * 2020-11-28 2021-02-23 西安建筑科技大学 一种智能动火辅助监测预警机器人系统及方法
CN112648973A (zh) * 2020-12-22 2021-04-13 重庆迪马工业有限责任公司 一种消防机器人火源识别定位装置和方法
CN112966576B (zh) * 2021-02-24 2022-09-16 西南交通大学 基于多光源图像的绝缘子水冲洗机器人瞄准系统及方法
CN113041537A (zh) * 2021-04-14 2021-06-29 中国矿业大学 一种具有变视角双目结构的消防炮系统及方法
CN114399882A (zh) * 2022-01-20 2022-04-26 红骐科技(杭州)有限公司 一种用于消防机器人的火源探测识别并预警方法
CN115797439A (zh) * 2022-11-11 2023-03-14 中国消防救援学院 基于双目视觉的火焰空间定位系统及方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102568146A (zh) * 2012-01-12 2012-07-11 安徽大学 一种基于红外热图像的火灾预警与早期消除系统
CN104299351A (zh) * 2014-10-22 2015-01-21 常州大学 智能预警灭火机器人

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3994355B2 (ja) * 1997-10-24 2007-10-17 富士通株式会社 火災自動検出方法及び火災自動検出装置

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102568146A (zh) * 2012-01-12 2012-07-11 安徽大学 一种基于红外热图像的火灾预警与早期消除系统
CN104299351A (zh) * 2014-10-22 2015-01-21 常州大学 智能预警灭火机器人

Also Published As

Publication number Publication date
CN105261029A (zh) 2016-01-20

Similar Documents

Publication Publication Date Title
CN105261029B (zh) 基于双目视觉进行火源定位和灭火的机器人
US20230222938A1 (en) Methods and apparatus to provide visual information associated with welding operations
Martinez-de Dios et al. Computer vision techniques for forest fire perception
CN205759280U (zh) 基于双目视觉进行火源定位和灭火的机器人
CN108389354A (zh) 一种无人机联合地面微小型机器人探测森林地下火的方法
KR102488007B1 (ko) 안전 보호구 착용 상태 모니터링 방법 및 그 방법을 제공하는 서버
KR102398841B1 (ko) 영상 분석에 기반하여 건설 현장의 위험을 판단하기 위한 방법 및 시스템
JP2021500668A (ja) 監視装置、産業用設備、監視方法及びコンピュータプログラム
JP2018055429A (ja) 物体認識装置および物体認識方法
CN111564017B (zh) 一种森林火灾智能预警装置
CN116832380B (zh) 基于多火源点评估决策的消防系统的消防灭火方法
KR20170070713A (ko) 드론을 이용한 감시 시스템
CN111010543B (zh) 机器人遥视视频监控方法、装置、电子设备及存储介质
CN116380162A (zh) 安全监测方法、装置、计算机设备和存储介质
KR102085168B1 (ko) 인체추적 기반 위험지역 안전관리 방법 및 장치
CN207027526U (zh) 一种基于双目视觉的具有视频分析功能的移动安防机器人
JP2004291186A (ja) ロボット制御方法、ロボット制御システム、これらに用いて好適なロボット及び制御装置
KR20210017137A (ko) 실시간 화재 감지 시스템 및 화재 감지 방법
CN114187675A (zh) 消防巡检方法及设备、介质和产品
KR102209408B1 (ko) 자동소화장치 및 자동소화방법
Stankov et al. An application of deep neural networks in industrial robotics for detection of humans
CN112307913B (zh) 一种基于无人机视觉的防护设备穿戴检测方法及装置
EP3432204A1 (en) Telepresence framework for region of interest marking using headmount devices
KR102173732B1 (ko) 헤드 마운티드 디스플레이를 이용한 원격 카메라 제어 장치
CN109200510A (zh) 一种消防辅助机器人

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20180821

Termination date: 20211120