CN113269043B - 一种钢卷松卷的实时跟踪识别方法及装置 - Google Patents

一种钢卷松卷的实时跟踪识别方法及装置 Download PDF

Info

Publication number
CN113269043B
CN113269043B CN202110459420.6A CN202110459420A CN113269043B CN 113269043 B CN113269043 B CN 113269043B CN 202110459420 A CN202110459420 A CN 202110459420A CN 113269043 B CN113269043 B CN 113269043B
Authority
CN
China
Prior art keywords
steel coil
lifted
image
coil
video frame
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202110459420.6A
Other languages
English (en)
Other versions
CN113269043A (zh
Inventor
储茂祥
焦玉鹏
向宗继
巩荣芬
刘历铭
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
University of Science and Technology Liaoning USTL
Original Assignee
University of Science and Technology Liaoning USTL
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by University of Science and Technology Liaoning USTL filed Critical University of Science and Technology Liaoning USTL
Priority to CN202110459420.6A priority Critical patent/CN113269043B/zh
Publication of CN113269043A publication Critical patent/CN113269043A/zh
Application granted granted Critical
Publication of CN113269043B publication Critical patent/CN113269043B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • G06V20/41Higher-level, semantic clustering, classification or understanding of video scenes, e.g. detection, labelling or Markovian modelling of sport events or news items
    • G06V20/42Higher-level, semantic clustering, classification or understanding of video scenes, e.g. detection, labelling or Markovian modelling of sport events or news items of sport video content
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • G06N20/10Machine learning using kernel methods, e.g. support vector machines [SVM]
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02PCLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/30Computing systems specially adapted for manufacturing

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Software Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Artificial Intelligence (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Medical Informatics (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Control And Safety Of Cranes (AREA)

Abstract

一种钢卷松卷的实时跟踪识别方法及装置,方法包括:调节摄像头,完成吊运钢卷初始位置和初始尺寸的设置;获取视频帧,根据初始位置信息计算吊运钢卷的精确位置;根据初始尺寸信息计算视频帧中吊运钢卷的精确尺寸;根据吊运钢卷的精确位置和精确尺寸截取视频帧中的吊运钢卷图像,识别吊运钢卷;对识别的结果进行判断是否松卷;判断是否需要调节摄像头;获取新的视频帧,跟踪吊运钢卷,确定吊运钢卷的精确位置和精确尺寸;发出钢卷松卷警报,向天车吊运系统共享区发送停车指令信息。代替人工巡检与决策,实时跟踪天车吊运的钢卷,自动识别出可能存在外侧散卷、带钢头散落的钢卷,从而实现库房钢卷在吊运过程中的自动化巡检与智能化决策。

Description

一种钢卷松卷的实时跟踪识别方法及装置
技术领域
本发明涉及模式识别技术领域,特别涉及一种钢卷松卷的实时跟踪识别方法及装置。
背景技术
钢卷松卷是一种具有安全隐患的外观缺陷。松卷是在运输、搬移钢卷的外力或者捆带不能承受钢卷的张力作用下造成捆带断裂外观存在的一种缺陷,主要表现为钢卷外侧散卷、带钢头散落等现象。这些松卷的钢卷在存入库房或从库房取走的天车吊运过程中,可能会造成钢卷从空中散落引起重大的生产安全事故。
当前,在库房钢卷的天车吊运过程中,指派专门工作人员进行现场巡检,以发现钢卷存在的松卷问题。但是,一方面,人工巡检存在发现不及时的可能,人工决策也存在差异性;另一方面,人工巡检与决策不利于生产效率的提升和产品质量的追溯。为此,提供一种钢卷松卷的实时跟踪识别方法及装置,以提高生产过程的智能化监控水平,提高生产效率和产品管理水平,并实现作业人员的精简。
发明内容
为了解决背景技术提出的技术问题,本发明提供一种钢卷松卷的实时跟踪识别方法及装置,代替人工巡检与决策,实时跟踪天车吊运的钢卷,自动识别出可能存在外侧散卷、带钢头散落的钢卷,从而实现库房钢卷在吊运过程中的自动化巡检与智能化决策。
为了达到上述目的,本发明采用以下技术方案实现:
一种钢卷松卷的实时跟踪识别方法,包括以下步骤:
步骤1:调节摄像头,完成吊运钢卷在视频帧中的初始位置和初始尺寸的设置;
步骤2:获取视频帧,根据初始位置信息,计算视频帧中吊运钢卷的精确位置;
步骤3:根据初始尺寸信息,计算视频帧中吊运钢卷的精确尺寸;
步骤4:根据吊运钢卷的精确位置和精确尺寸,截取视频帧中的吊运钢卷图像,识别吊运钢卷;
步骤5:对识别的结果进行判断是否松卷,如果未松卷则转到步骤6,如果松卷则转到步骤8;
步骤6:判断是否需要调节摄像头,如果不需要则转到步骤7,如果需要则转到步骤1;
步骤7:获取新的视频帧,跟踪吊运钢卷,确定吊运钢卷的精确位置和精确尺寸,并转到步骤4;
步骤8:发出钢卷松卷警报,向天车吊运系统共享区发送停车指令信息。
进一步,所述的步骤1调节摄像头,步骤如下:
步骤1-1:读取天车吊运系统共享区的信息,获取吊运钢卷的横向位置和纵向高度;
步骤1-2:根据吊运钢卷的横向位置和纵向高度,调节摄像头的云台方向,保证吊运钢卷位于视频帧图像的中心附近;
步骤1-3:根据吊运钢卷的横向位置,调节摄像头的变焦倍数,保证吊运钢卷的大小约占视频帧图像的
步骤1-4:设置吊运钢卷的初始位置为视频帧图像的中心,设置吊运钢卷的初始尺寸为视频帧图像的
进一步,所述的步骤2计算视频帧中吊运钢卷的精确位置,步骤如下:
步骤2-1:对视频帧图像进行预处理,实现视频帧图像的增强;
步骤2-2:根据吊运钢卷的横向位置,读取初始模板图像;
步骤2-3:根据初始模板图像,设计位置相关滤波器;
步骤2-4:根据吊运钢卷的初始位置和初始模板图像的尺寸,从视频帧图像中截取吊运钢卷初始图像;
步骤2-5:根据位置相关滤波器和截取的吊运钢卷初始图像,计算吊运钢卷的精确位置。
进一步,所述的步骤2-1对视频帧图像进行预处理的过程如下:
对视频帧图像进行灰度化处理;
统计视频帧图像中小于预设灰度阈值的像素点;
判断被统计的像素点个数是否大于预设像素个数阈值;
若统计的像素点个数大于预设像素个数阈值,则利用Retinex算法对视频帧图像进行增强。
进一步,所述的步骤3计算视频帧中吊运钢卷的精确尺寸,步骤如下:
步骤3-1:根据吊运钢卷的横向位置,读取初始模板图像;
步骤3-2:在初始模板图像中截取具有不同尺度的2n+1张子图像;
步骤3-3:根据截取的子图像,设计尺寸相关滤波器;
步骤3-4:从视频帧图像中截取2n+1张吊运钢卷初始图像,吊运钢卷初始图像与子图像的尺寸相同;
步骤3-5:根据尺寸相关滤波器和从视频帧中截取的吊运钢卷初始图像,计算吊运钢卷的精确尺寸。
进一步,所述的步骤4识别吊运钢卷,步骤如下:
步骤4-1:设置截取框的高度和宽度,分别为吊运钢卷精确尺寸高度和宽度的Q倍;
步骤4-2:将截取框的中心与吊运钢卷精确位置的中心重合,从视频帧图像中截取吊运钢卷精确图像;
步骤4-3:离线训练获得分位数超球体支持向量机模型,利用分位数超球体支持向量机模型识别吊运钢卷精确图像,分位数超球体支持向量机模型的输入是吊运钢卷精确图像,输出是外侧散卷、带钢头散落和正常3种情况之一。
进一步,所述的步骤4-3离线训练获得分位数超球体支持向量机模型的过程如下:
离线构建外侧散卷、带钢头散落和正常3类吊运钢卷精确图像数据集,如下:
是第k类吊运钢卷精确图像数据集中的第个样本,样本是吊运钢卷精确图像所有像素组成的列向量,是第k类吊运钢卷图像数据集中的样本数目;
设计分位数超球体支持向量机多分类训练模型,如下:
是惩罚参数,是集合中的第个样本, 是集合中的样本数目,训练上述的第k类分位数超球体支持向量机训练模型得到2个分位数超球体共同的球心,分别为的半径,是位于外部的样本产生的误差,是位于内部的样本产生的误差, 是特征空间映射函数;
分位数超球体支持向量机改变了只依靠边界样本的原则,降低了边界区噪声样本对训练模型的影响;
对分位数超球体支持向量机训练模型进行推导,确定公式如下:
集合集合 是拉格朗日算子;
对分位数超球体支持向量机训练模型进行推导,获得对偶模型如下:
Ψ是可选择的核函数,且满足
利用外侧散卷、带钢头散落和正常3类吊运钢卷图像数据集,优化求解对偶模型获得参数离线训练分位数超球体支持向量机训练模型,获得训练模型的最优参数。
进一步,所述的步骤4-3利用分位数超球体支持向量机模型识别吊运钢卷精确图像的过程如下:
使用离线训练获得的最优参数,确定分位数超球体的参数
设计分位数超球体支持向量机多分类预测模型,如下:
是吊运钢卷精确图像所有像素组成的一个测试样本,输出的是集合中计算结果最小所对应的k值;
将吊运钢卷精确图像对应的样本输入到分位数超球体支持向量机预测模型;
分位数超球体支持向量机预测模型输出为外侧散卷、带钢头散落和正常三种情况之一。
进一步,所述的步骤5对识别的结果进行判断是否松卷的过程如下:
对分位数超球体支持向量机预测模型识别的结果进行判断;
如果识别的结果为外侧散卷和带钢头散落,则判断为松卷;
如果识别的结果为正常,则判断为未松卷。
进一步,所述的步骤6判断是否需要调节摄像头的过程如下:
读取天车吊运系统共享区的信息,获取吊运钢卷的横向位置;
根据吊运钢卷的横向位置,判断是否需要调节摄像头,如果需要则转到步骤7,否则转到步骤1;
根据吊运钢卷的精确位置和精确尺寸,判断是否调节摄像头,如果需要则转到步骤7,否则转到步骤1。
进一步,所述的步骤7跟踪吊运钢卷,步骤如下:
步骤7-1:确定跟踪模板图像,将吊运钢卷精确图像作为跟踪模板图像;
步骤7-2:根据跟踪模板图像,设计位置相关滤波器;
步骤7-3:获取新视频帧,对新视频帧图像进行预处理;
步骤7-4:根据吊运钢卷的精确位置和跟踪模板图像的尺寸,从新视频帧图像中截取吊运钢卷初始图像;
步骤7-5:根据位置相关滤波器和截取的吊运钢卷初始图像,计算吊运钢卷的精确位置;
步骤7-6:在跟踪模板图像中截取具有不同尺度的2n+1张子图像;
步骤7-7:根据截取的子图像,设计尺寸相关滤波器;
步骤7-8:从新视频帧图像中截取2n+1张吊运钢卷初始图像,吊运钢卷初始图像与子图像的尺寸相同;
步骤7-9:根据尺寸相关滤波器和从新视频帧中截取的吊运钢卷初始图像,计算吊运钢卷的精确尺寸。
一种钢卷松卷的实时跟踪识别装置,包括以下模块:
摄像头模块,通过摄像头实时采集视频帧,并通过云台方向和变焦倍数调节摄像头;
传输模块,用于传输装置运行时需要交互的信息,通过以太网和5G传输信息;
跟踪模块,用于跟踪吊运钢卷,确定新视频帧中吊运钢卷的精确位置和精确尺寸;
识别模块,用于识别吊运钢卷,确定吊运钢卷属于外侧散卷、带钢头散落和正常中的三种情况之一;
数据库模块,用于保存与实时跟踪识别方法相关的数据和参数;
服务器模块,由PC主机、显示器、键盘、鼠标组成,PC主机上运行监控软件;用于实时显示摄像头采集的视频帧,运行实时跟踪识别装置中的相关模块,执行实时跟踪识别方法,辅助完成显示、训练、设置和手动调节任务。
与现有技术相比,本发明的有益效果是:
(1)本发明的一种钢卷松卷的实时跟踪识别方法及装置,利用具有云台方向和变焦倍数可调的摄像头配合跟踪算法实时监控吊运钢卷,利用识别方法实时分析吊运钢卷的松卷情况,实现库房钢卷在吊运过程中的自动化监控与智能化决策;
(2)本发明的一种钢卷松卷的实时跟踪识别方法及装置,利用相关滤波算法和分位数超球体支持向量机算法,保证跟踪和识别过程的实时性与可靠性;
(3)本发明的一种钢卷松卷的实时跟踪识别方法及装置,利用位置相关滤波器和尺寸相关滤波器,保证高精度的吊运钢卷跟踪;
(4)本发明的一种钢卷松卷的实时跟踪识别方法及装置,新的分位数超球体支持向量机算法具有抗噪声样本的能力,保证高精度的分类性能;
(5)本发明的一种钢卷松卷的实时跟踪识别方法及装置,提高了库房钢卷在吊运过程中的生产效率和产品管理水平,可实现作业人员的精简。
附图说明
图1是本发明实施例提供的一种钢卷松卷实时跟踪识别方法的流程图;
图2是本发明实施例提供的一种摄像头调节流程图;
图3是本发明实施例提供的一种钢卷位置检测流程图;
图4是本发明实施例提供的一种钢卷尺寸检测流程图;
图5是本发明实施例提供的一种识别吊运钢卷流程图;
图6是本发明实施例提供的一种钢卷实时跟踪流程图;
图7是本发明实施例提供的一种钢卷松卷实时跟踪识别装置的结构框图;
图8是本发明实施例提供的一种钢卷松卷实时跟踪识别方法及装置的场景示意图。
具体实施方式
以下结合附图对本发明提供的具体实施方式进行详细说明。
图1是本发明实施例提供的一种钢卷松卷实时跟踪识别方法的流程图,图2是本发明实施例提供的一种摄像头调节流程图,图3是本发明实施例提供的一种钢卷位置检测流程图,图4是本发明实施例提供的一种钢卷尺寸检测流程图,图5是本发明实施例提供的一种识别吊运钢卷流程图,图6是本发明实施例提供的一种钢卷实时跟踪流程图,图7是本发明实施例提供的一种钢卷松卷实时跟踪识别装置的结构框图,图8是本发明实施例提供的一种钢卷松卷实时跟踪识别方法及装置的场景示意图。
本发明涉及一种钢卷松卷的实时跟踪识别方法,流程如图1所示,包括以下步骤:
S110:调节摄像头。
调节摄像头,完成吊运钢卷在视频帧中的初始位置和初始尺寸的设置。
如图8所示,摄像头1安装于天车吊运横梁2下方的位置,吊运钢卷3被天车吊运横梁2上的钩头吊起,摄像头1、天车吊运系统共享区4和服务器5通过以太网网线与传输模块的3个子模块6-1、6-2和6-3相连,子模块6-3与子模块6-1、6-2通过5G进行信息传输;
云台方向β调节摄像头1的角度,吊运钢卷3可上下运动和左右运动,吊运钢卷3在天车吊运横梁2上的横向位置记为H纵向高度记为D,吊运钢卷3在天车吊运横梁2上的运动范围为a~b之间,运动范围被平均划分为N段,N由用户设定,各段记为hj(j=1,2,…,N),各段的中间位置记为τj(j=1,2,…,N)。
进一步,所述的S110调节摄像头,包括如下步骤:
S111:获取吊运钢卷的横向位置和纵向高度。
读取天车吊运系统共享区的信息,获取吊运钢卷的横向位置H和纵向高度D。
S112:调节摄像头的云台方向。
根据吊运钢卷的横向位置H确定吊运钢卷的hj,读取hj对应的调节系数rj,根据吊运钢卷的纵向高度D计算云台方向β,公式如下:
β=rjD
调节摄像头的云台方向β,保证吊运钢卷位于视频帧图像的中心附近;
调节系数rj离线确定;
根据吊运钢卷的横向位置H确定吊运钢卷的τj,测量获得吊运钢卷在τj处的最大纵向高度dmax和最大纵向高度对应的云台方向调节系数rj的计算公式如下:
S113:调节摄像头的变焦倍数。
根据吊运钢卷的横向位置H确定吊运钢卷的hj,读取hj对应的变焦倍数αj
调节摄像头的变焦倍数αj,保证吊运钢卷的大小约占视频帧图像的
变焦倍数αj离线确定;
根据吊运钢卷的横向位置H确定吊运钢卷的τj,在τj处吊运钢卷约占视频帧图像的时,测量获得变焦倍数αj,P由用户根据视频帧的分辨率大小来设定且满足P≥3。
S114:设置视频帧中吊运钢卷的初始位置和初始尺寸。
设置吊运钢卷的初始位置为视频帧图像的中心,设置吊运钢卷的初始尺寸为视频帧图像的
S120:计算视频帧中吊运钢卷的精确位置。
获取视频帧,根据初始位置信息,计算视频帧中吊运钢卷的精确位置。
进一步,所述的S120计算视频帧中吊运钢卷的精确位置,步骤如下:
S121:对视频帧图像进行预处理。
进一步,所述的S121对视频帧图像进行预处理的过程如下:
对视频帧图像进行灰度化处理,把获取到的RGB三通道的视频帧图像转换为单通道的灰度图,灰度值范围为0-255;
统计视频帧图像中小于预设灰度阈值的像素点,预设灰度阈值为W,W根据不同的工作环境由用户设定,灰度值小于W的像素点为过暗的像素点;
判断被统计的像素点个数是否大于预设像素个数阈值,预设像素个数阈值为G,G根据不同的工作环境由用户设定,灰度值小于W的像素点个数大于G时图像亮度过暗;
若统计的像素点个数大于预设像素个数阈值G,则利用Retinex算法对视频帧图像进行增强,公式如下:
R=logS-log[F*S]
式中S是灰度化处理后的视频帧图像,R是增强后的视频帧图像,*是卷积运算符号,F是中心环绕函数,可表示为:
(x,y)是二维坐标,c是高斯环绕尺度,c由用户设定;
单尺度的Reniex算法在提高视频帧图像的整体灰度值的同时较好地保持了图像的边缘信息。
S122:读取初始模板图像。
根据吊运钢卷的横向位置H确定吊运钢卷的hj,读取hj对应的初始模板图像Mj
初始模板图像Mj离线确定;
根据吊运钢卷的横向位置H确定吊运钢卷的τj,测量τj处吊运钢卷在视频帧图像的精确位置和精确尺寸,设置截取框的高度和宽度分别为吊运钢卷精确尺寸对应的高度和宽度的Q倍,将截取框的中心与吊运钢卷精确位置的中心重合,从视频帧图像中截取初始模板图像,Q由用户设定且满足
S123:设计位置相关滤波器。
对初始模板图像Mj进行d维的特征描述,特征描述采用方向梯度直方图方法,d由用户设定,获得特征矩阵
根据设计位置相关滤波器,公式如下:
是第l维的位置相关滤波器,gp是二维高斯函数的输出,λ是正则项系数,gp和λ由用户设定,是代价函数的输出,对εp进行最小化的优化处理,得到位置相关滤波器
为了加快运算速度,经过离散傅里叶变换转换到频域进行运算,得到频域的位置相关滤波器公式如下:
是二维高斯函数输出的离散傅里叶变换的共轭,·是点积运算符号,离散傅里叶变换的结果,的共轭。
S124:从视频帧图像中截取吊运钢卷初始图像。
根据吊运钢卷的初始位置和初始模板图像Mj的尺寸,设置截取框的高度和宽度分别为初始模板图像的高度和宽度,将截取框的中心与吊运钢卷初始位置的中心重合,从视频帧图像中截取吊运钢卷初始图像zp
S125:计算吊运钢卷的精确位置。
根据位置相关滤波器和截取的吊运钢卷初始图像zp,计算位置响应矩阵yp,公式如下:
是离散傅里叶逆变换, 的共轭,对zp进行d维的特征描述,特征描述采用方向梯度直方图方法,是zp的第l维特征矩阵离散傅里叶变换的结果;
响应矩阵yp中最大值的坐标是视频帧图像中吊运钢卷的精确位置。
S130:计算视频帧中吊运钢卷的精确尺寸。
根据初始尺寸信息,计算视频帧中吊运钢卷的精确尺寸。
进一步,所述的S130计算视频帧中吊运钢卷的精确尺寸,步骤如下:
S131:读取初始模板图像。
根据吊运钢卷的横向位置H确定吊运钢卷的hj,读取hj对应的初始模板图像Mj
S132:在初始模板图像中截取具有不同尺度的2n+1张子图像。
根据尺度因子μ,确定缩放尺度的集合U如下:
U={μ-n,…,μ0,…,μn}
按照缩放尺度集合U中的每一个元素,对初始模板图像Mj中吊运钢卷精确尺寸的长度和宽度进行缩放,获得2n+1个截取框尺寸,将截取框的中心与初始模板图像Mj中吊运钢卷精确位置的中心重合,从初始模板图像Mj中截取具有不同尺度的2n+1张子图像,n和μ由用户设定。
S133:设计尺寸相关滤波器。
对每一张子图像进行d维的特征描述,特征描述采用方向梯度直方图方法,获得特征向量 是2n+1个特征组成的列向量;
根据设计尺寸相关滤波器,公式如下:
d是每一张子图像特征描述的维度,特征描述采用方向梯度直方图方法,是第l维的2n+1个特征组成的列向量,是第l维的尺寸相关滤波器,gs是一维高斯函数的输出,gs由用户设定,是代价函数的输出,对εs进行最小化的优化处理,得到尺寸相关滤波器
为了加快运算速度,经过离散傅里叶变换转换到频域进行运算,得到频域的尺寸相关滤波器公式如下:
为一维高斯函数输出的离散傅里叶变换的共轭,离散傅里叶变换的结果,的共轭。
S134:从视频帧图像中截取2n+1张吊运钢卷初始图像。
设置2n+1个截取框的高度和宽度分别为2n+1张子图像的高度和宽度,将截取框的中心与视频帧图像中吊运钢卷精确位置的中心重合,从视频帧图像中截取2n+1张吊运钢卷初始图像。
S135:计算吊运钢卷的精确尺寸。
根据尺寸相关滤波器和截取的2n+1张吊运钢卷初始图像,计算尺寸响应向量ys,公式如下:
的共轭,对2n+1张吊运钢卷初始图像进行d维的特征描述,特征描述采用方向梯度直方图方法,是第l维的2n+1个特征组成的列向量离散傅里叶变换的结果;
响应向量ys中最大值的坐标对应的子图像尺寸为视频帧图像中吊运钢卷的精确尺寸。
S140:识别吊运钢卷。
根据吊运钢卷的精确位置和精确尺寸,截取视频帧中的吊运钢卷图像,识别吊运钢卷。
进一步,所述的S140识别吊运钢卷,步骤如下:
S141:设置截取框的高度和宽度,分别为吊运钢卷精确尺寸高度和宽度的Q倍;
S142:将截取框的中心与吊运钢卷精确位置的中心重合,从视频帧图像中截取吊运钢卷精确图像;
S143:离线训练获得分位数超球体支持向量机模型,利用分位数超球体支持向量机模型识别吊运钢卷精确图像,分位数超球体支持向量机模型的输入是吊运钢卷精确图像,输出是外侧散卷、带钢头散落和正常三类情况之一。
进一步,所述的S143离线训练获得分位数超球体支持向量机模型的过程如下:
构建外侧散卷、带钢头散落和正常3类吊运钢卷精确图像数据集,如下:
是第k类吊运钢卷精确图像数据集中的第个样本,样本是吊运钢卷精确图像所有像素组成的列向量,是第k类吊运钢卷图像数据集中的样本数目;
设计分位数超球体支持向量机的多分类训练模型,如下:
是惩罚参数,是集合中的第个样本, 是集合中的样本数目,训练上述的第k类分位数超球体支持向量机训练模型得到2个分位数超球体共同的球心,分别为的半径,是位于外部的样本产生的误差,是位于内部的样本产生的误差, 是特征空间映射函数;
分位数超球体支持向量机改变了只依靠边界样本的原则,降低了边界区噪声样本对训练模型影响,约束条件导致外部样本参与优化,约束条件导致内部样本参与优化,约束条件导致内部样本参与优化,约束条件导致外部样本参与优化,因此分位数超球体支持向量机依靠所有的样本生成分位数超球体,数据集中的噪声样本包括边界区噪声样本对分位数超球体的影响将会降低。
利用拉格朗日函数和卡罗需-库恩-塔克条件,对分位数超球体支持向量机训练模型进行推导,可确定公式如下:
集合集合 是拉格朗日算子;
利用拉格朗日函数和卡罗需-库恩-塔克条件,对分位数超球体支持向量机训练模型进行推导,获得对偶模型如下:
Ψ是可选择的核函数,且满足本实施例中选择的核函数形式为:
利用外侧散卷、带钢头散落和正常3类吊运钢卷图像数据集,优化求解对偶模型获得参数优化求解方法采用内积法,离线训练分位数超球体支持向量机训练模型,并采用网格搜索和十折交叉验证获得训练模型的最优参数
进一步,所述的S143利用分位数超球体支持向量机模型识别吊运钢卷精确图像的过程如下:
使用离线训练获得的最优参数确定分位数超球体的参数推导的结果中存在的点积项,可用核函数Ψ替换;
设计分位数超球体支持向量机多分类预测模型,如下:
是吊运钢卷精确图像所有像素组成的一个测试样本,输出的是集合中计算结果最小所对应的k值,推导的结果中存在的点积项,可用核函数Ψ替换;
k=1表示正常,k=2表示外侧散卷,k=3表示带钢头散落;
将吊运钢卷精确图像对应的样本输入到分位数超球体支持向量机预测模型;
分位数超球体支持向量机预测模型输出为外侧散卷、带钢头散落和正常三种情况之一所对应的k值。
S150:判断是否松卷。
对识别的结果进行判断是否松卷;
进一步,所述的S150对识别的结果进行判断是否松卷的过程如下:
对分位数超球体支持向量机预测模型识别的结果f(x)进行判断;
如果识别的结果f(x)为外侧散卷、带钢头散落,则判断为松卷;
如果识别的结果f(x)为正常,则判断为未松卷。
如果未松卷则转到S160,如果松卷则转到S180。
S160:判断是否调节摄像头。
根据吊运钢卷的横向位置和纵向高度,判断是否调节摄像头;
进一步,所述的S160判断是否调节摄像头的过程如下:
读取天车吊运系统共享区的信息,获取新的吊运钢卷横向位置H;
判断新的H是否超出了hj的段范围,如果未超出则转到S170,否则转到S110;
根据吊运钢卷的精确位置和精确尺寸,计算吊运钢卷与视频帧图像边界的距离,判断吊运钢卷是否超出了视频帧图像的边界,如果未超出则转到S170,否则转到S110。
S170:跟踪吊运钢卷。
获取新的视频帧,跟踪吊运钢卷,确定吊运钢卷的精确位置和精确尺寸,并转到S140;
进一步,所述的S170跟踪吊运钢卷,步骤如下:
S171:确定跟踪模板图像。
将吊运钢卷精确图像作为跟踪模板图像。
S172:设计位置相关滤波器。
对跟踪模板图像进行d维的特征描述,特征描述采用方向梯度直方图方法,获得d个特征矩阵
根据设计频域的位置相关滤波器步骤与S123相同。
S173:对新视频帧图像进行预处理。
获取新视频帧,对新视频帧图像进行图像预处理,步骤与S121相同。
S174:从新视频帧图像中截取吊运钢卷初始图像。
设置截取框的高度和宽度分别为跟踪模板图像的高度和宽度,将截取框的中心坐标设置为吊运钢卷精确位置的中心坐标,从新视频帧图像中截取吊运钢卷初始图像zp
S175:计算吊运钢卷的精确位置。
根据位置相关滤波器和截取的吊运钢卷初始图像zp,计算位置响应矩阵yp,步骤与S125相同;
响应矩阵yp中最大值的坐标是新视频帧图像中吊运钢卷的精确位置;
为了得到鲁棒的结果,在追踪的过程中对和Bp进行更新,公式如下:
Bp(t)=(1-η)Bp(t-1)+ηBp(t)
和Bp(t)是当前追踪过程和Bp的结果,和Bp(t-1)是上一次追踪过程和Bp的结果,η为学习率,η由用户设定。
S176:在跟踪模板图像中截取具有不同尺度的2n+1张子图像。
按照缩放尺度集合U中的每一个元素,对跟踪模板图像中吊运钢卷精确尺寸的长度和宽度进行缩放,获得2n+1个截取框尺寸,将截取框的中心与跟踪模板图像中吊运钢卷精确位置的中心重合,从跟踪模板图像中截取具有不同尺度的2n+1张子图像。
S177:设计尺寸相关滤波器。
对每一张子图像进行d维的特征描述,特征描述采用方向梯度直方图方法,获得特征向量 是2n+1个特征组成的列向量;
根据设计频域的尺寸相关滤波器步骤与S133相同。
S178:从新视频帧图像中截取2n+1张吊运钢卷初始图像。
设置2n+1个截取框的高度和宽度分别为2n+1张子图像的高度和宽度,将截取框的中心与新视频帧图像中吊运钢卷精确位置的中心重合,从新视频帧图像中截取2n+1张吊运钢卷初始图像。
S179:计算钢卷的精确尺寸。
根据尺寸相关滤波器和截取的2n+1张吊运钢卷初始图像,计算尺寸响应向量ys,步骤与S135相同;
响应向量ys中最大值的坐标对应的子图像尺寸为新视频图像中吊运钢卷的精确尺寸。
为了得到鲁棒的结果,在追踪的过程中对和Bs进行更新,公式如下:
Bs(t)=(1-η)Bs(t-1)+ηBs(t)
和Bs(t)是当前追踪过程和Bs的结果,和Bs(t-1)是上一次追踪过程和Bs的结果。
S180:发出钢卷松卷警报;
发出钢卷松卷警报,向天车吊运系统共享区发送停车指令信息。
图7是本发明实施例提供的一种钢卷松卷实时跟踪识别装置的结构框图,包括以下模块:
摄像头模块10,通过摄像头实时采集视频帧,并通过云台方向和变焦倍数调节摄像头;
实时采集视频帧,可实时获取视频帧图像;
云台方向调节摄像头,保证吊运钢卷位于视频帧图像的中心附近;
变焦倍数调节摄像头,保证吊运钢卷的大小约占视频帧图像的
传输模块20,用于传输装置运行时需要交互的信息,通过以太网和5G传输信息;
如图8所示,传输模块由3个子模块6-1、6-2和6-3组成,子模块6-1与摄像头1通过以太网传输信息,子模块6-2与天车吊运系统共享区4通过以太网传输信息,子模块6-3与服务器5通过以太网传输信息,子模块6-1、6-2和6-3完成以太网信息与5G信息的双向转换,子模块6-3的5G信息与子模块6-1、6-2的5G信息实现无线传输。
跟踪模块30,用于跟踪吊运钢卷,确定新视频帧中吊运钢卷的精确位置和精确尺寸;
构建位置相关滤波器;
计算视频帧中吊运钢卷的精确位置;
构建尺寸相关滤波器;
计算视频帧中吊运钢卷的精确尺寸。
识别模块40,用于识别吊运钢卷,确定吊运钢卷属于外侧散卷、带钢头散落和正常中的三种情况之一;
离线训练分位数超球体支持向量机多分类训练模型;
构建分位数超球体支持向量机多分类预测模型;
利用分位数超球体支持向量机模型识别吊运钢卷精确图像,确定吊运钢卷属于外侧散卷、带钢头散落和正常中的三种情况之一;
数据库模块50,用于保存与实时跟踪识别方法相关的数据和参数;
保存离线获取的和实时跟踪识别的外侧散卷、带钢头散落和正常中的三种情况的吊运钢卷精确图像;
保存实时跟踪识别方法的相关参数,包括:天车吊运横梁分段N、调节系数rj(j=1,2,…,N)、变焦系数αj(j=1,2,…,N)、初始模板图像Mj(j=1,2,…,N)、倍数P和Q、预设灰度阈值W、预设像素个数阈值G、高斯环绕尺度c、特征维度d、正则项系数λ、二维高斯函数输出gp、一维高斯函数输出gs、尺度数n、尺度因子μ、学习率η;
服务器模块60,由PC主机、显示器、键盘、鼠标组成,PC主机上运行监控软件;
实时显示摄像头采集的视频帧;
实时运行实时跟踪识别装置中的相关模块;
实时执行实时跟踪识别方法;
辅助显示外侧散卷、带钢头散落和正常中的三种情况的吊运钢卷精确图像;
辅助训练分位数超球体支持向量机多分类训练模型;
辅助设置数据库模块中的实时跟踪识别方法的相关参数;
辅助手动调节摄像头。
以上实施例在以本发明技术方案为前提下进行实施,给出了详细的实施方式和具体的操作过程,但本发明的保护范围不限于上述的实施例。上述实施例中所用方法如无特别说明均为常规方法。

Claims (7)

1.一种钢卷松卷的实时跟踪识别方法,其特征在于,包括以下步骤:
步骤1:调节摄像头,完成吊运钢卷在视频帧中的初始位置和初始尺寸的设置;
步骤2:获取视频帧,根据初始位置信息,计算视频帧中吊运钢卷的精确位置;
步骤3:根据初始尺寸信息,计算视频帧中吊运钢卷的精确尺寸;
步骤4:根据吊运钢卷的精确位置和精确尺寸,截取视频帧中的吊运钢卷图像,识别吊运钢卷;
步骤5:对识别的结果进行判断是否松卷,如果未松卷则转到步骤6,如果松卷则转到步骤8;
步骤6:判断是否需要调节摄像头,如果不需要则转到步骤7,如果需要则转到步骤1;
步骤7:获取新的视频帧,跟踪吊运钢卷,确定吊运钢卷的精确位置和精确尺寸,并转到步骤4;
步骤8:发出钢卷松卷警报,向天车吊运系统共享区发送停车指令信息;
所述的步骤4识别吊运钢卷,步骤如下:
步骤4-1:设置截取框的高度和宽度,分别为吊运钢卷精确尺寸高度和宽度的Q倍;
步骤4-2:将截取框的中心与吊运钢卷精确位置的中心重合,从视频帧图像中截取吊运钢卷精确图像;
步骤4-3:离线训练获得分位数超球体支持向量机模型,利用分位数超球体支持向量机模型识别吊运钢卷精确图像,分位数超球体支持向量机模型的输入是吊运钢卷精确图像,输出是外侧散卷、带钢头散落和正常3种情况之一;
所述的步骤4-3离线训练获得分位数超球体支持向量机模型的过程如下:
离线构建外侧散卷、带钢头散落和正常3类吊运钢卷精确图像数据集,如下:
是第k类吊运钢卷精确图像数据集中的第个样本,样本是吊运钢卷精确图像所有像素组成的列向量,是第k类吊运钢卷图像数据集中的样本数目;
设计分位数超球体支持向量机多分类训练模型,如下:
是惩罚参数,是集合中的第个样本, 是集合中的样本数目,训练上述的第k类分位数超球体支持向量机训练模型得到2个分位数超球体 共同的球心,分别为的半径,是位于外部的样本产生的误差,是位于内部的样本产生的误差, 是特征空间映射函数;
分位数超球体支持向量机改变了只依靠边界样本的原则,降低了边界区噪声样本对训练模型的影响;
对分位数超球体支持向量机训练模型进行推导,确定公式如下:
集合集合是拉格朗日算子;
对分位数超球体支持向量机训练模型进行推导,获得对偶模型如下:
Ψ是可选择的核函数,且满足
利用外侧散卷、带钢头散落和正常3类吊运钢卷图像数据集,优化求解对偶模型获得参数离线训练分位数超球体支持向量机训练模型,获得训练模型的最优参数;
所述的步骤4-3利用分位数超球体支持向量机模型识别吊运钢卷精确图像的过程如下:
使用离线训练获得的最优参数,确定分位数超球体的参数
设计分位数超球体支持向量机多分类预测模型,如下:
是吊运钢卷精确图像所有像素组成的一个测试样本,输出的是集合中计算结果最小所对应的k值;
将吊运钢卷精确图像对应的样本输入到分位数超球体支持向量机预测模型;
分位数超球体支持向量机预测模型输出为外侧散卷、带钢头散落和正常三种情况之一;
所述的步骤5对识别的结果进行判断是否松卷的过程如下:
对分位数超球体支持向量机预测模型识别的结果进行判断;
如果识别的结果为外侧散卷和带钢头散落,则判断为松卷;
如果识别的结果为正常,则判断为未松卷。
2.根据权利要求1所述的一种钢卷松卷的实时跟踪识别方法,其特征在于,所述的步骤1调节摄像头,步骤如下:
步骤1-1:读取天车吊运系统共享区的信息,获取吊运钢卷的横向位置和纵向高度;
步骤1-2:根据吊运钢卷的横向位置和纵向高度,调节摄像头的云台方向,保证吊运钢卷位于视频帧图像的中心;
步骤1-3:根据吊运钢卷的横向位置,调节摄像头的变焦倍数,保证吊运钢卷的大小占视频帧图像的
步骤1-4:设置吊运钢卷的初始位置为视频帧图像的中心,设置吊运钢卷的初始尺寸为视频帧图像的
3.根据权利要求1所述的一种钢卷松卷的实时跟踪识别方法,其特征在于,所述的步骤2计算视频帧中吊运钢卷的精确位置,步骤如下:
步骤2-1:对视频帧图像进行预处理,实现视频帧图像的增强;
步骤2-2:根据吊运钢卷的横向位置,读取初始模板图像;
步骤2-3:根据初始模板图像,设计位置相关滤波器;
步骤2-4:根据吊运钢卷的初始位置和初始模板图像的尺寸,从视频帧图像中截取吊运钢卷初始图像;
步骤2-5:根据位置相关滤波器和截取的吊运钢卷初始图像,计算吊运钢卷的精确位置。
4.根据权利要求1所述的一种钢卷松卷的实时跟踪识别方法,其特征在于,所述的步骤3计算视频帧中吊运钢卷的精确尺寸,步骤如下:
步骤3-1:根据吊运钢卷的横向位置,读取初始模板图像;
步骤3-2:在初始模板图像中截取具有不同尺度的2n+1张子图像;
步骤3-3:根据截取的子图像,设计尺寸相关滤波器;
步骤3-4:从视频帧图像中截取2n+1张吊运钢卷初始图像,吊运钢卷初始图像与子图像的尺寸相同;
步骤3-5:根据尺寸相关滤波器和从视频帧中截取的吊运钢卷初始图像,计算吊运钢卷的精确尺寸。
5.根据权利要求1所述的一种钢卷松卷的实时跟踪识别方法,其特征在于,所述的步骤6判断是否需要调节摄像头的过程如下:
读取天车吊运系统共享区的信息,获取吊运钢卷的横向位置;
根据吊运钢卷的横向位置,判断是否需要调节摄像头,如果需要则转到步骤7,否则转到步骤1;
根据吊运钢卷的精确位置和精确尺寸,判断是否调节摄像头,如果需要则转到步骤7,否则转到步骤1。
6.根据权利要求1所述的一种钢卷松卷的实时跟踪识别方法,其特征在于,所述的步骤7跟踪吊运钢卷,步骤如下:
步骤7-1:确定跟踪模板图像,将吊运钢卷精确图像作为跟踪模板图像;
步骤7-2:根据跟踪模板图像,设计位置相关滤波器;
步骤7-3:获取新视频帧,对新视频帧图像进行预处理;
步骤7-4:根据吊运钢卷的精确位置和跟踪模板图像的尺寸,从新视频帧图像中截取吊运钢卷初始图像;
步骤7-5:根据位置相关滤波器和截取的吊运钢卷初始图像,计算吊运钢卷的精确位置;
步骤7-6:在跟踪模板图像中截取具有不同尺度的2n+1张子图像;
步骤7-7:根据截取的子图像,设计尺寸相关滤波器;
步骤7-8:从新视频帧图像中截取2n+1张吊运钢卷初始图像,吊运钢卷初始图像与子图像的尺寸相同;
步骤7-9:根据尺寸相关滤波器和从新视频帧中截取的吊运钢卷初始图像,计算吊运钢卷的精确尺寸。
7.用于实现权利要求1所述的一种钢卷松卷的实时跟踪识别方法的装置,其特征在于,包括以下模块:
摄像头模块,通过摄像头实时采集视频帧,并通过云台方向和变焦倍数调节摄像头;
传输模块,用于传输装置运行时需要交互的信息,通过以太网和5G传输信息;
跟踪模块,用于跟踪吊运钢卷,确定新视频帧中吊运钢卷的精确位置和精确尺寸;
识别模块,用于识别吊运钢卷,确定吊运钢卷属于外侧散卷、带钢头散落和正常中的三种情况之一;
数据库模块,用于保存与实时跟踪识别方法相关的数据和参数;
服务器模块,由PC主机、显示器、键盘、鼠标组成,PC主机上运行监控软件;用于实时显示摄像头采集的视频帧,运行实时跟踪识别装置中的相关模块,执行实时跟踪识别方法,辅助完成显示、训练、设置和手动调节任务。
CN202110459420.6A 2021-04-27 2021-04-27 一种钢卷松卷的实时跟踪识别方法及装置 Active CN113269043B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110459420.6A CN113269043B (zh) 2021-04-27 2021-04-27 一种钢卷松卷的实时跟踪识别方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110459420.6A CN113269043B (zh) 2021-04-27 2021-04-27 一种钢卷松卷的实时跟踪识别方法及装置

Publications (2)

Publication Number Publication Date
CN113269043A CN113269043A (zh) 2021-08-17
CN113269043B true CN113269043B (zh) 2023-08-18

Family

ID=77229492

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110459420.6A Active CN113269043B (zh) 2021-04-27 2021-04-27 一种钢卷松卷的实时跟踪识别方法及装置

Country Status (1)

Country Link
CN (1) CN113269043B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117237748B (zh) * 2023-11-14 2024-02-23 南京信息工程大学 一种基于多视角对比置信度的图片识别方法及装置

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102274874A (zh) * 2010-06-10 2011-12-14 上海宝信软件股份有限公司 冷轧过程控制系统人机交互界面上钢卷跟踪方法和装置
CN107618835A (zh) * 2017-10-18 2018-01-23 南京钢铁股份有限公司 一种带钢卷远距离自动实时传输装置及其自动控制方法
CN109816645A (zh) * 2019-01-18 2019-05-28 创新奇智(广州)科技有限公司 一种钢卷松卷的自动检测方法
CN110197170A (zh) * 2019-06-05 2019-09-03 北京科技大学 基于目标检测的钢卷卷形缺陷检测识别方法
CN111459936A (zh) * 2020-03-25 2020-07-28 湖南华菱涟源钢铁有限公司 一种数据管理方法、数据管理装置及服务器
CN111754548A (zh) * 2020-06-29 2020-10-09 西安科技大学 一种基于响应判别的多尺度相关滤波目标跟踪方法和装置
CN112365538A (zh) * 2020-10-13 2021-02-12 西安理工大学 一种自动上卷系统的高效目标检测方法

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102274874A (zh) * 2010-06-10 2011-12-14 上海宝信软件股份有限公司 冷轧过程控制系统人机交互界面上钢卷跟踪方法和装置
CN107618835A (zh) * 2017-10-18 2018-01-23 南京钢铁股份有限公司 一种带钢卷远距离自动实时传输装置及其自动控制方法
CN109816645A (zh) * 2019-01-18 2019-05-28 创新奇智(广州)科技有限公司 一种钢卷松卷的自动检测方法
CN110197170A (zh) * 2019-06-05 2019-09-03 北京科技大学 基于目标检测的钢卷卷形缺陷检测识别方法
CN111459936A (zh) * 2020-03-25 2020-07-28 湖南华菱涟源钢铁有限公司 一种数据管理方法、数据管理装置及服务器
CN111754548A (zh) * 2020-06-29 2020-10-09 西安科技大学 一种基于响应判别的多尺度相关滤波目标跟踪方法和装置
CN112365538A (zh) * 2020-10-13 2021-02-12 西安理工大学 一种自动上卷系统的高效目标检测方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
平整机带钢卷取松卷问题分析及对策;周智勇;《云南冶金》;第49卷(第06期);87-90 *

Also Published As

Publication number Publication date
CN113269043A (zh) 2021-08-17

Similar Documents

Publication Publication Date Title
CN110175982B (zh) 一种基于目标检测的缺陷检测方法
CN113592845A (zh) 一种电池涂布的缺陷检测方法及装置、存储介质
CN110543837A (zh) 一种基于潜在目标点的可见光机场飞机检测方法
CN110245663A (zh) 一种用于钢卷信息识别的方法
CN114549981A (zh) 一种基于深度学习的智能巡检指针式仪表识别及读数方法
CN108846831B (zh) 基于统计特征和图像特征相结合的带钢表面缺陷分类方法
CN113112470B (zh) 一种基于人工智能的冷轧过程钢材弯曲检测分析方法
CN113324864A (zh) 一种基于深度学习目标检测的受电弓碳滑板磨耗检测方法
CN107545263A (zh) 一种物体检测方法及装置
CN111896540A (zh) 一种基于区块链的水质在线监测系统
CN113269043B (zh) 一种钢卷松卷的实时跟踪识别方法及装置
CN109344766A (zh) 基于巡检机器人的滑块式断路器识别方法
Edward V Support vector machine based automatic electric meter reading system
CN109784396A (zh) 一种分合闸状态识别方法
CN118135334B (zh) 一种接触网吊弦缺陷识别方法及系统
CN115841633A (zh) 一种电力塔和电力线关联矫正的电力塔和电力线检测方法
CN117994679A (zh) 一种风电设备缺陷智能图像分析方法
CN113673534B (zh) 一种基于Faster RCNN的RGB-D图像果实检测方法
CN113688829A (zh) 一种变电站监控画面自动识别方法及系统
CN115994947B (zh) 基于定位的智能打卡的估算方法
CN109829511A (zh) 基于纹理分类的下视红外图像中云层区域检测方法
CN115082923A (zh) 一种基于机器视觉的牛奶包装盒生产日期识别方法
CN114648738A (zh) 一种基于物联网与边缘计算的图像识别系统与方法
CN113554635A (zh) 基于人工智能的钢卷松卷自动检测方法和装置
CN111652055B (zh) 一种基于两阶段定位的开关仪表智能识别方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant