CN109598700A - 采用卷积神经网络的早期火灾检测方法 - Google Patents
采用卷积神经网络的早期火灾检测方法 Download PDFInfo
- Publication number
- CN109598700A CN109598700A CN201811200414.3A CN201811200414A CN109598700A CN 109598700 A CN109598700 A CN 109598700A CN 201811200414 A CN201811200414 A CN 201811200414A CN 109598700 A CN109598700 A CN 109598700A
- Authority
- CN
- China
- Prior art keywords
- foreground
- fire
- flame
- zone
- video
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/194—Segmentation; Edge detection involving foreground-background segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/254—Analysis of motion involving subtraction of images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/10—Terrestrial scenes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/40—Scenes; Scene-specific elements in video content
- G06V20/41—Higher-level, semantic clustering, classification or understanding of video scenes, e.g. detection, labelling or Markovian modelling of sport events or news items
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30232—Surveillance
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Quality & Reliability (AREA)
- Computational Linguistics (AREA)
- Software Systems (AREA)
- Image Analysis (AREA)
Abstract
本发明涉及一种一种采用卷积神经网络的早期火灾检测方法,包括:对于监测视频,利用ViBe算法建立背景模型,用以对视频中的运动区域进行检测和提取;对于当前帧,根据背景模型获取其类火前景区域:基于RGB颜色空间利用颜色直方图判断当前区域是否含有类火颜色像素点,并按照判断结果决定是否对背景进行更新,更新原则如下:对于含类火颜色像素点的运动前景区域,不更新其背景;对于不含类火颜色像素点的运动前景区域,采用每帧大概率更新;基于视频中相邻两帧静止区域几乎不变的关系,对于静止区域采用隔帧大概率更新;得到疑似目标前景区;训练网络模型后,对模型分类效果进行测试。
Description
技术领域
本发明属于计算机视觉领域,具体来说是一种基于深度学习的检测视频中是否存在火灾的方法,本质上是目标识别与图像分割问题。
背景技术
火灾是生活中常见的灾害之一。随着城市建筑向越来越高和越来越密集的趋势发展,一旦发生火灾,若没能在短时间内发现并控制火情,将严重危害人民的生命财产安全。鉴于火灾发生初期面积小、温度低、扩散慢,如何及时有效地检测到早期火灾并迅速准确地报警具有十分重要的研究意义。
当前,随着智能化、网络化、数字化愈来愈成为现代科技的主要发展趋势,人们把计算机视觉的相关算法引入传统的视频监控中,智能视频监控系统应运而生。而火灾检测由其在消防、安防领域所扮演的重要角色,成为智能视频监控领域的一个重要研究方向。
火灾检测方法目前主要有传统的基于各式传感器探测火灾参数的方法和新型的基于视觉的图像型火灾检测方法。火灾参数主要有温度、烟雾、光照等,但传统的火灾传感器具有检测范围小、检测不够灵敏等缺点,比如对于大跨空间建筑,由于空间距离使烟、雾、光等到达火灾探测器的所需时间较长,从而导致检测时间过长有碍于火情的及时发现。此外,其还易受环境温度、湿度、粉尘等因素干扰,大范围安装铺设也存在一定难度,且成本较高。传统的火灾检测技术由于受火灾探测器的检测性能以及空间等因素的限制,具有众多缺陷,因此新型的图像火灾检测方法应运而生。随着监控摄像头的视频分辨率逐渐向高清甚至超清发展,图像型火灾检测算法几乎可以在不增加任何成本的基础上与现有的视频监控平台有机结合。此外,图像型火灾检测算法具有检测范围广、探测精准、报警信息丰富的优点,除了可以提供报警信息之外,还可以提供起火点位置、起火时间等信息。
现有的基于视觉的火灾检测算法通常有以下几点缺陷和不足:
1)现有算法的检测场景较为简单、单一,并且大多依赖于经验阈值,因此算法的泛化能力不佳;
2)现有算法大多分为前景提取和特征选择两个模块,其中受强光等环境因素干扰极易导致前景提取效果不理想,且难以选择合适的对火焰本质进行全面描述的特征;
3)现有算法普遍时间复杂度较高,无法应用于实时检测,实用价值并不高;
4)类火颜色运动物体,比如闪烁的车灯、身着高亮颜色衣服走动的行人都易引发误报。
发明内容
本发明提供一种可辅助火灾调查人员分析视频中是否存在火焰的检测方法,具有适应性强、检测率高、误报率低且实鲁棒性强的优点。技术方案如下:
一种采用卷积神经网络的早期火灾检测方法,包括下列步骤:
1)对于监测视频,利用ViBe算法建立背景模型,用以对视频中的运动区域进行检测和提取;
2)对于当前帧,根据背景模型获取其类火前景区域:基于RGB颜色空间利用颜色直方图判断当前区域是否含有类火颜色像素点,并按照判断结果决定是否对背景进行更新,更新原则如下:对于含类火颜色像素点的运动前景区域,不更新其背景;对于不含类火颜色像素点的运动前景区域,采用每帧大概率更新;基于视频中相邻两帧静止区域几乎不变的关系,对于静止区域采用隔帧大概率更新。
3)考虑到火焰燃烧时的运动在一段时间内是连续的,分别计算当前帧运动前景区和前一帧运动前景区的面积变化,以及当前帧与前一帧前景区的上下部分面积变化,提取2)中类火前景区的面积重叠率特征和上下运动剧烈比率特征,并根据该特征提取火焰前景区的更多细节信息,得到疑似目标前景区。
4)将第3)步提取出的疑似目标前景区特征输入到神经网络分类器中进行火焰的进一步分类判决,从而确定视频图像中是否有火,该卷积神经网络分类器共包含6层卷积层和3层全连接层,BN层和池化层,共计9层;搭建网络并指定各层网络参数后,对网络进行训练。训练好网络模型后,对模型分类效果进行测试,若测试时最终全连接层的输出值为1,则判决该前景区域为含火区域;若全连接层输出为0,则判决该前景区域为非火区域。
附图说明
图1输入视频数据流中的一张截图
图2是传统ViBe模型检测出的运动区域掩码
图3是改进后的VIBe模型检测出的运动区域掩码
图4进行特征提取的疑似目标前景区域掩码
图5是在原图上对火焰进行框选的目标区域
图6是截取的疑似目标前景区域
图7是卷积神经网络的层数设计图
图8是本发明的算法流程
具体实施方式
传统的机器学习方法其数据量的提升已经无法带来其性能上的提升,且人为寻找的特征很难全面反映火焰的本质属性,因此本发明设计了一个9层卷积神经网络来自动提取火焰特征,虽然神经网络提取的特征难以像传统特征一样人为加以描述,但其在图像分类和识别领域的良好应用效果证明了该方法的有效和可行。
本发明主要由前景提取和神经网络分类器的设计两个模块组成,将传统的基于机器学习的前景提取方法与新型的基于深度学习的特征提取方法有机结合起来,并考虑到实际应用,采用一些传统的火焰特征来减除类火颜色运动物体引发的误报。其中前景部分由改进的ViBe模型实现的。火焰具有边缘抖动剧烈而中心及下端几乎静止不动的特点,传统的ViBe模型由于其背景模型更新策略在火焰燃烧一段时间后,容易将火焰的中间区域和下端区域更新到背景中,导致前景提取不准确的问题。改进的ViBe模型的背景模型更新策略采用选择性更新,即在静止区域、含火颜色运动区域以及非火颜色运动区域分别使用不同的概率进行更新,这样就可以避免火焰的下端和中间部分被更新到背景当中去。此外为了使前景提取的更为准确,提出两个新的时域特征,分别为当前帧与前一帧的面积重叠率特征以及前景区域上下部分运动剧烈程度比率特征。与传统的时域特征相比,本发明提出的两个时域特征考虑到帧间关系,能够较准确地描述火焰本质。
以一具体火灾视频检测为例,简述该发明实现对图像中火焰目标进行检测的过程。
1)利用安装在某单位员工食堂的海康威视网络高清摄像头,对待检测区域进行监控拍摄,在保证实验安全性的前提下,点燃火焰。从网络硬盘录像机拷回火焰燃烧时段的视频用作演示素材,将其输入算法程序,截取其中某一时刻图像并显示于图1;
2)利用传统的ViBe背景建模算法对图像进行背景建模之后,对提取的运动区域进行形态学的开操作处理,以滤除背景中的一些孤立噪点,处理后的二值掩码图像如图2所示;
3)从图2)中可以看出利用传统ViBe进行背景模型更新时,火焰的下端在火焰燃烧过程中由于长期处于静止不动的状态而被更新到背景中去了,这导致提取的火焰前景形状不完整,从而无法准确提取出火焰前景。因此,本发明采用改进的ViBe模型对背景进行选择性更新。以本视频为例,火焰外部由于运动剧烈且含有火焰颜色,因此不对其进行更新,其像素点会一直在前景中显示出来;火焰下端及中心在燃烧一段时间后几乎处于静止不动的状态,对其进行隔帧大概率更新,避免其很快被更新到背景当中去。完成背景建模之后再进行一次开操作处理,处理后的二值掩码图像显示于图3;
4)图3中火焰前景掩码已经能够较为完整地表示整个火焰区域,但火焰燃烧时由于火焰分层及受高亮背景影响,火焰像素点在前景中其实并不是完全连续的,因此本发明提出两个时域新特征来进一步准确描述火焰本质。具体来说,分别计算当前帧运动前景区掩码和前一帧运动前景区掩码的面积,从而计算其面积变化比率;此外,分别计算当前帧与前一帧前景区掩码的上下部分面积,进而得出其上下部分运动剧烈程度比率。通过这两个特征对火焰燃烧时重叠部分和剧烈抖动部分进行加强,而对其他部分进行弱化,进行时域特征提取后的疑似目标前景区的掩码图像如图4所示,从图中可以看出火焰的更多细节得以保留;
5)图4)中已准确地提取出了火焰的前景掩码,将该疑似目标前景区域掩码映射回原图,并在原图上用矩形框框选出目标区域,如图5所示;
6)将步骤5)中获取的目标区域进行裁剪作为前景保存下来,作为步骤7)中卷积神经网络分类器样本集的正样本,其中,一部分作为测试集的正样本,一部分作为验证集的正样本,还有一部分作为测试集的正样本。由于本例中需要检测网络分类效果,因此对图5目标区域进行截取作为测试集的正样本,如图6所示;
7)本发明通过对实验室已有视频和网络上的部分火灾视频进行图片截取,共选取了5238张含火正样本和6376张非火负样本构成网络训练集,选取了600张含火正样本和600张非火负样本构成网络验证集,并选取了1372张含火正样本和1786张非火负样本构成网络测试集。使用高斯初始化对网络进行初始化,并采用交叉熵函数计算网络损失。搭建好网络模型并对其各层参数进行指定之后,之后对网络进行训练。本例中,将图6作为测试集的正样本输入预先训练好的神经网络分类器中进行最终的分类判决。由于最终全连接层的输出为1,即确认该前景区域为含火区域。该CNN网络模型如图7所示。
Claims (1)
1.一种采用卷积神经网络的早期火灾检测方法,包括下列步骤:
1)对于监测视频,利用ViBe算法建立背景模型,用以对视频中的运动区域进行检测和提取;
2)对于当前帧,根据背景模型获取其类火前景区域:基于RGB颜色空间利用颜色直方图判断当前区域是否含有类火颜色像素点,并按照判断结果决定是否对背景进行更新,更新原则如下:对于含类火颜色像素点的运动前景区域,不更新其背景;对于不含类火颜色像素点的运动前景区域,采用每帧大概率更新;基于视频中相邻两帧静止区域几乎不变的关系,对于静止区域采用隔帧大概率更新;
3)考虑到火焰燃烧时的运动在一段时间内是连续的,分别计算当前帧运动前景区和前一帧运动前景区的面积变化,以及当前帧与前一帧前景区的上下部分面积变化,提取2)中类火前景区的面积重叠率特征和上下运动剧烈比率特征,并根据该特征提取火焰前景区的更多细节信息,得到疑似目标前景区。
4)将第3)步提取出的疑似目标前景区特征输入到神经网络分类器中进行火焰的进一步分类判决,从而确定视频图像中是否有火,该卷积神经网络分类器共包含6层卷积层和3层全连接层,BN层和池化层,共计9层;搭建网络并指定各层网络参数后,对网络进行训练。训练好网络模型后,对模型分类效果进行测试,若测试时最终全连接层的输出值为1,则判决该前景区域为含火区域;若全连接层输出为0,则判决该前景区域为非火区域。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811200414.3A CN109598700A (zh) | 2018-10-16 | 2018-10-16 | 采用卷积神经网络的早期火灾检测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811200414.3A CN109598700A (zh) | 2018-10-16 | 2018-10-16 | 采用卷积神经网络的早期火灾检测方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN109598700A true CN109598700A (zh) | 2019-04-09 |
Family
ID=65957529
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811200414.3A Pending CN109598700A (zh) | 2018-10-16 | 2018-10-16 | 采用卷积神经网络的早期火灾检测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109598700A (zh) |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110070044A (zh) * | 2019-04-23 | 2019-07-30 | 中国民航大学 | 基于深度学习的行人属性识别方法 |
CN110147762A (zh) * | 2019-05-20 | 2019-08-20 | 北京唐芯物联网科技有限公司 | 一种嵌入式消防误报消除系统 |
CN110796008A (zh) * | 2019-09-27 | 2020-02-14 | 天津大学 | 一种基于视频图像的早期火灾检测方法 |
CN110852347A (zh) * | 2019-10-17 | 2020-02-28 | 天津大学 | 采用改进YOLO v3的火灾检测方法 |
CN111710125A (zh) * | 2020-05-26 | 2020-09-25 | 上饶市中科院云计算中心大数据研究院 | 一种智慧景区防火预警方法与系统 |
CN111915835A (zh) * | 2020-07-27 | 2020-11-10 | 浙江元迪智能科技有限公司 | 一种消防站区域救援系统 |
CN112330915A (zh) * | 2020-10-29 | 2021-02-05 | 五邑大学 | 无人机森林防火预警方法、系统、电子设备和存储介质 |
CN110309765B (zh) * | 2019-06-27 | 2021-08-24 | 浙江工业大学 | 一种视频运动目标高效检测方法 |
CN113537099A (zh) * | 2021-07-21 | 2021-10-22 | 招商局重庆交通科研设计院有限公司 | 一种公路隧道火灾烟雾动态检测方法 |
CN114358663A (zh) * | 2022-03-17 | 2022-04-15 | 西华大学 | 基于人工智能的电动汽车火灾事故后综合判断方法 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105788142A (zh) * | 2016-05-11 | 2016-07-20 | 中国计量大学 | 一种基于视频图像处理的火灾检测系统及检测方法 |
CN107330441A (zh) * | 2017-05-26 | 2017-11-07 | 天津大学 | 火焰图像前景提取算法 |
CN107749067A (zh) * | 2017-09-13 | 2018-03-02 | 华侨大学 | 基于运动特性和卷积神经网络的火灾烟雾检测方法 |
CN108038867A (zh) * | 2017-12-22 | 2018-05-15 | 湖南源信光电科技股份有限公司 | 基于多特征融合和立体视觉的火焰检测和定位方法 |
CN108447219A (zh) * | 2018-05-21 | 2018-08-24 | 中国计量大学 | 基于视频图像的火灾检测系统及方法 |
-
2018
- 2018-10-16 CN CN201811200414.3A patent/CN109598700A/zh active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105788142A (zh) * | 2016-05-11 | 2016-07-20 | 中国计量大学 | 一种基于视频图像处理的火灾检测系统及检测方法 |
CN107330441A (zh) * | 2017-05-26 | 2017-11-07 | 天津大学 | 火焰图像前景提取算法 |
CN107749067A (zh) * | 2017-09-13 | 2018-03-02 | 华侨大学 | 基于运动特性和卷积神经网络的火灾烟雾检测方法 |
CN108038867A (zh) * | 2017-12-22 | 2018-05-15 | 湖南源信光电科技股份有限公司 | 基于多特征融合和立体视觉的火焰检测和定位方法 |
CN108447219A (zh) * | 2018-05-21 | 2018-08-24 | 中国计量大学 | 基于视频图像的火灾检测系统及方法 |
Non-Patent Citations (1)
Title |
---|
梅建军 等: "基于ViBe与机器学习的早期火灾检测算法", 《光学学报》 * |
Cited By (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110070044B (zh) * | 2019-04-23 | 2023-03-10 | 中国民航大学 | 基于深度学习的行人属性识别方法 |
CN110070044A (zh) * | 2019-04-23 | 2019-07-30 | 中国民航大学 | 基于深度学习的行人属性识别方法 |
CN110147762A (zh) * | 2019-05-20 | 2019-08-20 | 北京唐芯物联网科技有限公司 | 一种嵌入式消防误报消除系统 |
CN110309765B (zh) * | 2019-06-27 | 2021-08-24 | 浙江工业大学 | 一种视频运动目标高效检测方法 |
CN110796008A (zh) * | 2019-09-27 | 2020-02-14 | 天津大学 | 一种基于视频图像的早期火灾检测方法 |
CN110852347A (zh) * | 2019-10-17 | 2020-02-28 | 天津大学 | 采用改进YOLO v3的火灾检测方法 |
CN110852347B (zh) * | 2019-10-17 | 2023-07-18 | 天津大学 | 采用改进YOLO v3的火灾检测方法 |
CN111710125A (zh) * | 2020-05-26 | 2020-09-25 | 上饶市中科院云计算中心大数据研究院 | 一种智慧景区防火预警方法与系统 |
CN111915835A (zh) * | 2020-07-27 | 2020-11-10 | 浙江元迪智能科技有限公司 | 一种消防站区域救援系统 |
CN111915835B (zh) * | 2020-07-27 | 2021-10-12 | 浙江元迪智能科技有限公司 | 一种消防站区域救援系统 |
CN112330915A (zh) * | 2020-10-29 | 2021-02-05 | 五邑大学 | 无人机森林防火预警方法、系统、电子设备和存储介质 |
CN112330915B (zh) * | 2020-10-29 | 2023-02-28 | 五邑大学 | 无人机森林防火预警方法、系统、电子设备和存储介质 |
CN113537099A (zh) * | 2021-07-21 | 2021-10-22 | 招商局重庆交通科研设计院有限公司 | 一种公路隧道火灾烟雾动态检测方法 |
CN114358663B (zh) * | 2022-03-17 | 2022-05-13 | 西华大学 | 基于人工智能的电动汽车火灾事故后综合判断方法 |
CN114358663A (zh) * | 2022-03-17 | 2022-04-15 | 西华大学 | 基于人工智能的电动汽车火灾事故后综合判断方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109598700A (zh) | 采用卷积神经网络的早期火灾检测方法 | |
CN107609470B (zh) | 野外火灾早期烟雾视频检测的方法 | |
CN101493980B (zh) | 一种基于多特征融合的快速视频火焰探测方法 | |
CN106650584B (zh) | 火焰检测方法和系统 | |
CN108985192A (zh) | 一种基于多任务深度卷积神经网络的视频烟雾识别方法 | |
KR101822924B1 (ko) | 영상기반 화재 감지 시스템, 방법 및 프로그램 | |
CN106845443A (zh) | 基于多特征融合的视频火焰检测方法 | |
CN105788142A (zh) | 一种基于视频图像处理的火灾检测系统及检测方法 | |
CN105243356B (zh) | 一种建立行人检测模型的方法及装置及行人检测方法 | |
CN103116746A (zh) | 一种基于多特征融合技术的视频火焰探测方法 | |
CN107506734A (zh) | 一种群体突发异常事件检测与定位方法 | |
CN102819735A (zh) | 基于视频帧图像的火焰检测方法 | |
CN111126293A (zh) | 一种火焰和烟雾异常情况检测方法及系统 | |
CN103208126A (zh) | 一种自然环境下运动物体监测方法 | |
CN107067412A (zh) | 一种多信息融合的视频火焰烟雾检测方法 | |
CN105844659A (zh) | 运动部件的跟踪方法和装置 | |
Bi et al. | Fire Detection Method Based on Improved Fruit Fly Optimization-Based SVM. | |
CN114202646A (zh) | 一种基于深度学习的红外图像吸烟检测方法与系统 | |
CN111860457A (zh) | 一种斗殴行为识别预警方法及其识别预警系统 | |
Tao et al. | Smoky vehicle detection based on multi-feature fusion and ensemble neural networks | |
Bai et al. | Research on forest fire detection technology based on deep learning | |
CN101848369B (zh) | 一种基于自适应双背景模型的视频禁停事件检测方法 | |
CN100559887C (zh) | 利用火焰颜色模板进行火灾探测的方法 | |
CN114155457A (zh) | 基于火焰动态识别的控制方法及控制装置 | |
CN113052055A (zh) | 一种基于光流改进与Yolov3的烟雾检测方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20190409 |
|
RJ01 | Rejection of invention patent application after publication |