CN113076941A - 一种基于视频帧融合的单指针表盘读数识别方法 - Google Patents

一种基于视频帧融合的单指针表盘读数识别方法 Download PDF

Info

Publication number
CN113076941A
CN113076941A CN202110421512.5A CN202110421512A CN113076941A CN 113076941 A CN113076941 A CN 113076941A CN 202110421512 A CN202110421512 A CN 202110421512A CN 113076941 A CN113076941 A CN 113076941A
Authority
CN
China
Prior art keywords
image
pointer
reading
dial
fusion
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202110421512.5A
Other languages
English (en)
Inventor
李阳根
郑烜
邱国荣
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shanghai Alef Information Technology Co ltd
Original Assignee
Shanghai Alef Information Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shanghai Alef Information Technology Co ltd filed Critical Shanghai Alef Information Technology Co ltd
Priority to CN202110421512.5A priority Critical patent/CN113076941A/zh
Publication of CN113076941A publication Critical patent/CN113076941A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/20—Image preprocessing
    • G06V10/22—Image preprocessing by selection of a specific region containing or referencing a pattern; Locating or processing of specific regions to guide the detection or recognition
    • G06V10/225—Image preprocessing by selection of a specific region containing or referencing a pattern; Locating or processing of specific regions to guide the detection or recognition based on a marking or identifier characterising the area
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/25—Fusion techniques
    • G06F18/253—Fusion techniques of extracted features
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/40—Scenes; Scene-specific elements in video content
    • G06V20/41—Higher-level, semantic clustering, classification or understanding of video scenes, e.g. detection, labelling or Markovian modelling of sport events or news items

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Multimedia (AREA)
  • Computational Linguistics (AREA)
  • Software Systems (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开了一种基于视频帧融合的单指针表盘读数识别方法，包括以下步骤：S1.从视频开始，依次对视频中包含的每一帧图像进行采样；S2.将采样得到的图像作为待识别图像，处理得到图像对应的指针读数结果；S3.判断采集的图像帧数是否大于设定值；若否，返回步骤S1继续采集下一帧图像；若是，进下一步；S4.对于采集到的各帧视频图像的指针读数结果进行融合，判断融合是否成功；若成功，输出融合结果作为最终的指针表盘读数识别结果；若融合失败，返回步骤S1。本发明在通过图像处理进行表盘读数识别时，通过分类算法进行整刻度确定，并在此基础上进行精细识别，并能够对视频每一帧图像的读数识别结果进行有效的融合，提高了表盘读数自动识别的精度。

Description

一种基于视频帧融合的单指针表盘读数识别方法
技术领域
本发明涉及指针表盘读数，特别是涉及一种基于视频帧融合的单指针表盘读数识别方法。
背景技术
指针式仪表（特别是单指针式仪表）在日常工作中有着非常广泛的应用，但是就目前而言，指针式仪表主要由操作人员人眼进行读数，在应用于工业领域时，不但效率低下，常常会因为人眼的疲劳等原因，造成读数的误差，严重影响着计量结果。
近些年来，机器读数代替读数渐渐成为一个研究热点，就目前而言，机器读数主要采用图像处理算法来实现，但是，目前的图像处理算法在进行指针读数识别时，存在着精度不高的问题；同时，对于一般仪表图像采集而言，采集到的往往是视频信息，在视频信息中各帧图像的读数往往有所差异，这就进一步影响了机器读数的精度。
发明内容
本发明的目的在于克服现有技术的不足，提供一种基于视频帧融合的单指针表盘读数识别方法，在通过图像处理进行表盘读数识别时，通过分类算法进行整刻度确定，并在此基础上进行精细识别，并能够对视频每一帧图像的读数识别结果进行有效的融合，提高了表盘读数自动识别的精度。
本发明的目的是通过以下技术方案来实现的：一种基于视频帧融合的单指针表盘读数识别方法，包括以下步骤：
S1.从视频开始，依次对视频中包含的每一帧图像进行采样；
S2.将采样得到的图像作为待识别图像，进行处理得到图像对应的指针读数结果；
S3.判断采集的图像帧数是否大于设定值；
若否，返回步骤S1继续采集下一帧图像；
若是，进入步骤S4；
S4.对于采集到的各帧视频图像的指针读数结果进行融合，判断融合是否成功；
若融合成功，则识别结束，输出融合结果作为最终的指针表盘读数识别结果；
若融合失败，返回步骤S1继续进行视频图像采样。
其中，所述步骤S4包括：
S401.设当前采集的各帧图像的指针读数结果为x 1，x 2，…，x n；其中，n表示当前采集的图像帧数目，x i表示采集到的第i帧信号的指针读数结果，x j表示采集到的第j帧信号的指针读数结果，i=1,2，…，n；j=1,2，…，n，且i不等于j；
若x i-x j的绝对值小于设定阈值，则认为第i帧图像和第j帧图像的指针读数结果一致；
S402.统计n帧图像中，指针读数一致的图像帧数N，其中N不大于n；
S403.判断指针读数一致的图像帧数N是否大于设定阈值K：
若是，则认为融合成功，识别结束，取N帧图像指针读数的平均值作为最终的指针表盘读数识别结果；
若否，则返回步骤S1，继续采集下一帧视频图像。
本发明的有益效果是：本发明在通过图像处理进行表盘读数识别时，通过分类算法进行整刻度确定，并在此基础上进行精细识别，并能够对视频每一帧图像的读数识别结果进行有效的融合，提高了表盘读数自动识别的精度。
附图说明
图1为本发明的方法流程图；
图2为处理得到图像对应的指针读数结果的流程图；
图3为精细识别过程的局部裁剪图像示意图。
具体实施方式
下面结合附图进一步详细描述本发明的技术方案，但本发明的保护范围不局限于以下所述。
如图1所示，一种基于视频帧融合的单指针表盘读数识别方法，包括以下步骤：
S1.从视频开始，依次对视频中包含的每一帧图像进行采样；
S2.将采样得到的图像作为待识别图像，进行处理得到图像对应的指针读数结果；
S3.判断采集的图像帧数是否大于设定值；
若否，返回步骤S1继续采集下一帧图像；
若是，进入步骤S4；
S4.对于采集到的各帧视频图像的指针读数结果进行融合，判断融合是否成功；
若融合成功，则识别结束，输出融合结果作为最终的指针表盘读数识别结果；
若融合失败，返回步骤S1继续进行视频图像采样。
其中，所述步骤S4包括：
S401.设当前采集的各帧图像的指针读数结果为x 1，x 2，…，x n；其中，n表示当前采集的图像帧数目，x i表示采集到的第i帧信号的指针读数结果，x j表示采集到的第j帧信号的指针读数结果，i=1,2，…，n；j=1,2，…，n，且i不等于j；
若x i-x j的绝对值小于设定阈值，则认为第i帧图像和第j帧图像的指针读数结果一致；
S402.统计n帧图像中，指针读数一致的图像帧数N，其中N不大于n；
S403.判断指针读数一致的图像帧数N是否大于设定阈值K：
若是，则认为融合成功，识别结束，取N帧图像指针读数的平均值作为最终的指针表盘读数识别结果；
若否，则返回步骤S1，继续采集下一帧视频图像。
在本申请的实施例中，若视频结束后依然没有融合成功，则表盘读数识别失败。
如图2所示，在本申请的实施例中，步骤S2所述的指针读数结果获取过程包括：
S201.对待识别的图像进行预处理；预处理过程包括：
通过对比度拉伸进行图像增强操作，调整过暗或者过亮图像的对比度，使图像细节更加丰富，增大表盘和背景的差别。
S202.构建和训练表盘检测与定位模型，对预处理后的待识别图像进行表盘检测与定位，裁剪出待识别图像中的表盘图像区域：
获取若干张带有表盘的图像，通过对比度拉伸进行图像增强操作，得到多张样本图像；
对于任一张样本图像，将表盘位置用矩形框选出来，并对表盘位置所在矩形框的四个顶点的位置坐标进行标记，作为表盘位置坐标，将该张样本图像和对应的表盘位置坐标作为一个训练样本；
对于每一张样本图像，重复上一步，最终得到多个训练样本，加入同一个集合中，形成样本集；
利用目标检测算法构建表盘检测与定位模型，对于样本集中每一个样本，将其的样本图像作为模型输入，将样本图像对应的表盘位置坐标作为输出，对表盘检测与定位模型进行训练，得到成熟的表盘检测与定位模型；
将预处理得到的待识别图像输入成熟的表盘检测与定位模型中，由所述表盘检测与定位模型输出多个候选表盘位置坐标，以及每个候选表盘位置坐标的置信度，所述置信度位于区间[0，1],用于表征后续表盘位置坐标处存在表盘的概率，属于目标检测算法中自带的参数；
选择置信度最大的候选表盘位置坐标，将其与预设阈值进行比较，判断置信度是否大于预设阈值：
若是，则认为检测到了表盘，根据置信度最大的候选表盘位置坐标，裁剪出待识别图像中的表盘图像区域；
若否，则认为未识别到表盘。
在本申请的实施例中，所述的目标检测算法包括ACF目标检测算法或yolov3网络算法。
S203.对待识别图像中的表盘图像区域进行关键点检测，得到待识别图像中表盘图像区域的关键点坐标：
获取一张带有表盘的图像，进行对比度拉伸进行图像增强操作后，输入成熟的表盘检测与定位模型，并按照步骤S202获得该图像中的表盘图像区域；
重复执行上一步，得到多张表盘区域图像，并对每一张表盘区域图像进行关键点坐标的标注；
利用深度学习方法构建一个回归网络，将每一张表盘区域图像作为输入，将该表盘区域图像对应的关键点坐标作为输出，对回归网络进行训练，将训练成熟的回归网络作为关键点检测模型；
将待识别图像中的表盘图像区域输入关键点检测模型中，得到待识别图像中表盘图像区域的关键点坐标。
在本申请的实施例中，关键点定义为表盘图像区域刻度的起始位置、刻度中点位置或表盘中心位置。
S204.设定标准表盘，对待识别图像中表盘图像区域进行矫正，得到表盘矫正图像：
设定标准表盘模板，根据所述关键点的定义，在标准表盘上找到对应的关键点，并标注标准表盘上的关键点坐标；
将待识别图像中表盘图像区域作为原始表盘图像，将原始表盘图像的关键点坐标与标准表盘上的关键点坐标进行对应配准，并通过透视变换公式，计算从原始表盘图像到标准表盘的透视变换矩阵；
在本申请的实施例中，透视变换(Perspective Transformation)是将图片投影到一个新的视平面(Viewing Plane)，也称作投影映射(Projective Mapping)；通过几个已知的对应点坐标，即可获得透视变换矩阵，同理，得到透视矩阵后，也可以根据透视矩阵进行坐标映射；
对原始表盘图像中的每一个像素点坐标，通过透视变换矩阵进行映射，得到映射后每一个像素点坐标，从而获得表盘矫正图像。
S205.对待识别图像对应的表盘矫正图像进行初步识别，确定表盘指针读数的整刻度：
根据整刻度将表盘分为多个区域，每个区域对应于一个整刻度，定义每一个区域作为一个类别；
取多张带有表盘的图像，按照步骤S201~S204进行处理，得到多张表盘矫正图像，对于每一张表盘矫正图像，根据其指针在表盘中所述的区域，定义该张表盘矫正图像的类别；
利用深度学习算法，构建分类模型，将每一张表盘矫正图像作为分类模型的输入，将该张表盘矫正图像的类别作为分类模型的输出，对分类模型进行训练，得到成熟的分类模型；
将待识别图像对应的表盘矫正图像输入成熟的分类模型中，得到类别信息，根据类别信息，确定待识别图像所对应的表盘矫正图像的指针整刻度。
S206.根据初步识别结果对表盘矫正图像的指针读数作的精细识别，得到表盘的指针读数：
根据初步识别结果得到的指针整刻度，在表盘矫正图像中找到该刻度所在区域，并扩选区域范围，进行裁剪得到局部裁剪图像；
对局部裁剪图像进行二值化，背景为黑色，指针和刻度为白色；
如图3所示，找到初步识别相邻的两个刻度位置，分别表示为P1和P2，找到指针与刻度线相交的位置P0；
对于标准表盘模板，相邻两个刻度间的读数是已知的，设为k，求取刻度点P0到P1和P2的距离，表示为L1和L2；
估计指针的偏移读数为（L1/(L1+L2)）*k；
将初识别结果与偏移读数相加，得到读数结果。
上述说明示出并描述了本发明的一个优选实施例，但如前所述，应当理解本发明并非局限于本文所披露的形式，不应看作是对其他实施例的排除，而可用于各种其他组合、修改和环境，并能够在本文所述发明构想范围内，通过上述教导或相关领域的技术或知识进行改动。而本领域人员所进行的改动和变化不脱离本发明的精神和范围，则都应在本发明所附权利要求的保护范围内。

Claims (6)

1.一种基于视频帧融合的单指针表盘读数识别方法，其特征在于：包括以下步骤：
S1.从视频开始，依次对视频中包含的每一帧图像进行采样；
S2.将采样得到的图像作为待识别图像，进行处理得到图像对应的指针读数结果；
S3.判断采集的图像帧数是否大于设定值；
若否，返回步骤S1继续采集下一帧图像；
若是，进入步骤S4；
S4.对于采集到的各帧视频图像的指针读数结果进行融合，判断融合是否成功；
若融合成功，则识别结束，输出融合结果作为最终的指针表盘读数识别结果；
若融合失败，返回步骤S1继续进行视频图像采样。
2.根据权利要求1所述的一种基于视频帧融合的单指针表盘读数识别方法，其特征在于：所述步骤S4包括：
S401.设当前采集的各帧图像的指针读数结果为x 1，x 2，…，x n；其中，n表示当前采集的图像帧数目，x i表示采集到的第i帧信号的指针读数结果，x j表示采集到的第j帧信号的指针读数结果，i=1,2，…，n；j=1,2，…，n，且i不等于j；
若x i-x j的绝对值小于设定阈值，则认为第i帧图像和第j帧图像的指针读数结果一致；
S402.统计n帧图像中，指针读数一致的图像帧数N，其中N不大于n；
S403.判断指针读数一致的图像帧数N是否大于设定阈值K：
若是，则认为融合成功，识别结束，取N帧图像指针读数的平均值作为最终的指针表盘读数识别结果；
若否，则返回步骤S1，继续采集下一帧视频图像。
3.根据权利要求2所述的一种基于视频帧融合的单指针表盘读数识别方法，其特征在于：若视频结束后依然没有融合成功，则表盘读数识别失败。
4.根据权利要求1所述的一种基于视频帧融合的单指针表盘读数识别方法，其特征在于：步骤S2所述的指针读数结果获取过程包括：
S201.对待识别的图像进行预处理；
S202.构建和训练表盘检测与定位模型，对预处理后的待识别图像进行表盘检测与定位，裁剪出待识别图像中的表盘图像区域；
S203.对待识别图像中的表盘图像区域进行关键点检测，得到待识别图像中表盘图像区域的关键点坐标；
S204.设定标准表盘，对待识别图像中表盘图像区域进行矫正，得到表盘矫正图像；
S205.对待识别图像对应的表盘矫正图像进行初步识别，确定表盘指针读数的整刻度；
S206.根据初步识别结果对表盘矫正图像的指针读数作的精细识别，得到表盘的指针读数。
5.根据权利要求4所述的一种基于视频帧融合的单指针表盘读数识别方法，其特征在于：所述步骤S205包括：
根据整刻度将表盘分为多个区域，每个区域对应于一个整刻度，定义每一个区域作为一个类别；
取多张带有表盘的图像，按照步骤S201~S204进行处理，得到多张表盘矫正图像，对于每一张表盘矫正图像，根据其指针在表盘中所述的区域，定义该张表盘矫正图像的类别；
利用深度学习算法，构建分类模型，将每一张表盘矫正图像作为分类模型的输入，将该张表盘矫正图像的类别作为分类模型的输出，对分类模型进行训练，得到成熟的分类模型；
将待识别图像对应的表盘矫正图像输入成熟的分类模型中，得到类别信息，根据类别信息，确定待识别图像所对应的表盘矫正图像的指针整刻度。
6.根据权利要求4所述的一种基于视频帧融合的单指针表盘读数识别方法，其特征在于：所述步骤S206包括：
根据初步识别结果得到的指针整刻度，在表盘矫正图像中找到该刻度所在区域，并扩选区域范围，进行裁剪得到局部裁剪图像；
对局部裁剪图像进行二值化，背景为黑色，指针和刻度为白色；
找到初步识别相邻的两个刻度位置，分别表示为P1和P2，找到指针与刻度线相交的位置P0；
对于标准表盘模板，相邻两个刻度间的读数是已知的，设为k，求取刻度点P0到P1和P2的距离，表示为L1和L2；
估计指针的偏移读数为（L1/(L1+L2)）*k；
将初识别结果与偏移读数相加，得到读数结果。
CN202110421512.5A 2021-04-20 2021-04-20 一种基于视频帧融合的单指针表盘读数识别方法 Pending CN113076941A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110421512.5A CN113076941A (zh) 2021-04-20 2021-04-20 一种基于视频帧融合的单指针表盘读数识别方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110421512.5A CN113076941A (zh) 2021-04-20 2021-04-20 一种基于视频帧融合的单指针表盘读数识别方法

Publications (1)

Publication Number Publication Date
CN113076941A true CN113076941A (zh) 2021-07-06

Family

ID=76618054

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110421512.5A Pending CN113076941A (zh) 2021-04-20 2021-04-20 一种基于视频帧融合的单指针表盘读数识别方法

Country Status (1)

Country Link
CN (1) CN113076941A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113569802A (zh) * 2021-08-12 2021-10-29 贵州六度云科技有限公司 基于视频图像识别算法的仪器仪表读数识别方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104913797A (zh) * 2015-05-29 2015-09-16 广州供电局有限公司 指针式仪表的读数识别方法及系统
CN105809179A (zh) * 2014-12-31 2016-07-27 中国科学院深圳先进技术研究院 一种指针式仪表的读数识别方法及装置
CN108566642A (zh) * 2018-03-22 2018-09-21 成都阿莱夫信息技术有限公司 一种基于机器学习的二维联合特征认证方法
CN109948469A (zh) * 2019-03-01 2019-06-28 吉林大学 基于深度学习的巡检机器人仪表自动检测识别方法
CN112115893A (zh) * 2020-09-24 2020-12-22 深圳市赛为智能股份有限公司 仪表盘指针读数识别方法、装置、计算机设备及存储介质

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105809179A (zh) * 2014-12-31 2016-07-27 中国科学院深圳先进技术研究院 一种指针式仪表的读数识别方法及装置
CN104913797A (zh) * 2015-05-29 2015-09-16 广州供电局有限公司 指针式仪表的读数识别方法及系统
CN108566642A (zh) * 2018-03-22 2018-09-21 成都阿莱夫信息技术有限公司 一种基于机器学习的二维联合特征认证方法
CN109948469A (zh) * 2019-03-01 2019-06-28 吉林大学 基于深度学习的巡检机器人仪表自动检测识别方法
CN112115893A (zh) * 2020-09-24 2020-12-22 深圳市赛为智能股份有限公司 仪表盘指针读数识别方法、装置、计算机设备及存储介质

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
焦李成等: "《模式识别》", 30 September 2019 *
龙劲峄: ""基于深度学习的目标检测在智能制造中的运用研究"", 《中国优秀硕士学位论文全文数据库工程科技II辑》 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113569802A (zh) * 2021-08-12 2021-10-29 贵州六度云科技有限公司 基于视频图像识别算法的仪器仪表读数识别方法

Similar Documents

Publication Publication Date Title
US11551341B2 (en) Method and device for automatically drawing structural cracks and precisely measuring widths thereof
CN108764257B (zh) 一种多视角的指针式仪表识别方法
CN108460327B (zh) 一种基于图像处理的指针式仪表读数自动识别方法
CN102521560B (zh) 高鲁棒仪表指针图像识别方法
CN112990179A (zh) 一种基于图片处理的单指针型表盘读数自动识别方法
CN111950330A (zh) 一种基于目标检测的指针式仪表示数检测方法
CN102704215B (zh) 基于dst文件解析与机器视觉结合的绣布自动切割方法
CN110929710B (zh) 一种基于视觉的仪表指针读数自动识别方法与系统
CN112257676A (zh) 一种指针式仪表读数方法、系统以及巡检机器人
CN112818988A (zh) 一种指针式仪表自动识别读数方法及系统
AU2020103716A4 (en) Training method and device of automatic identification device of pointer instrument with numbers in natural scene
CN111368906B (zh) 一种基于深度学习的指针式油位计读数识别方法
CN111738229B (zh) 一种指针表盘刻度的自动读取方法
CN112149667A (zh) 一种基于深度学习的指针式仪表的自动读数的方法
CN116434266B (zh) 一种医疗检验单的数据信息自动提取分析方法
CN111624203A (zh) 一种基于机器视觉的继电器接点齐度非接触式测量方法
CN100470578C (zh) 基于计算机视觉的科学仪器工作状态监测方法
CN114266881A (zh) 一种基于改进型语义分割网络的指针式仪表自动读数方法
CN117152648A (zh) 一种基于增强现实的辅助教学识图装置
CN113076941A (zh) 一种基于视频帧融合的单指针表盘读数识别方法
CN111553345B (zh) 基于Mask RCNN与正交线性回归实现仪表指针读数识别处理的方法
CN114565911B (zh) 一种仪表识读方法、装置、计算机设备和存储介质
CN116310263A (zh) 一种指针式航空地平仪示数自动读取实现方法
JPH11306325A (ja) 対象物検出装置及び対象物検出方法
CN116091818A (zh) 基于多神经网络级联模型的指针式仪表读数识别方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20210706