CN111105463B - 一种成捆棒材端面的标牌焊接定位方法 - Google Patents
一种成捆棒材端面的标牌焊接定位方法 Download PDFInfo
- Publication number
- CN111105463B CN111105463B CN201911417148.4A CN201911417148A CN111105463B CN 111105463 B CN111105463 B CN 111105463B CN 201911417148 A CN201911417148 A CN 201911417148A CN 111105463 B CN111105463 B CN 111105463B
- Authority
- CN
- China
- Prior art keywords
- camera
- welding position
- welding
- coordinate system
- coordinates
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003466 welding Methods 0.000 title claims abstract description 88
- 238000000034 method Methods 0.000 title claims abstract description 29
- 238000006243 chemical reaction Methods 0.000 claims abstract description 14
- 239000011159 matrix material Substances 0.000 claims description 8
- 230000007797 corrosion Effects 0.000 claims description 6
- 238000005260 corrosion Methods 0.000 claims description 6
- 238000001514 detection method Methods 0.000 claims description 4
- 238000005259 measurement Methods 0.000 claims description 3
- 230000000007 visual effect Effects 0.000 claims description 3
- 238000009434 installation Methods 0.000 claims 1
- 238000005516 engineering process Methods 0.000 abstract description 3
- 230000004927 fusion Effects 0.000 abstract description 3
- 230000004438 eyesight Effects 0.000 description 5
- 230000000694 effects Effects 0.000 description 4
- 238000004519 manufacturing process Methods 0.000 description 3
- 230000011218 segmentation Effects 0.000 description 3
- 230000009466 transformation Effects 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000000739 chaotic effect Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 239000002184 metal Substances 0.000 description 1
- 238000000275 quality assurance Methods 0.000 description 1
- 238000005096 rolling process Methods 0.000 description 1
- 238000010008 shearing Methods 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/13—Edge detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/60—Analysis of geometric attributes
- G06T7/66—Analysis of geometric attributes of image moments or centre of gravity
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30108—Industrial image inspection
- G06T2207/30152—Solder
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Geometry (AREA)
- Laser Beam Processing (AREA)
Abstract
本发明属于焊接机器人技术领域,尤其涉及一种成捆棒材端面的标牌焊接定位方法。步骤如下:基于相机采集获取成捆棒材的端面图像,对端面图像进行矫正处理,得到矫正后的图像;针对矫正后的图像,基于棒材轮廓特征和质心坐标进行定位,得到焊接位置的像素坐标;基于激光传感器得到成捆棒材端面到相机的深度信息;根据深度信息和相机的内参,结合焊接位置的像素坐标,得到焊接位置在相机坐标系下的空间坐标;根据相机与执行器之间的齐次转换关系得到焊接位置在执行器坐标系下的空间坐标;得到焊接位置在世界坐标系下的空间坐标,作为最终焊接位置。通过多传感器融合技术进行定位,确定标牌焊接位置,焊接位置定位准确,减少人工投入和安全隐患。
Description
技术领域
本发明属于焊接机器人技术领域,尤其涉及一种成捆棒材端面的标牌焊接定位方法。
背景技术
在棒材成品生产过程中,有一道非常重要的工序是给成捆金属棒材焊接标牌。即当棒材经轧制、定尺剪切、收集成捆、端面撞齐等工序后,被运送到焊接平台等待焊接标牌。标牌不仅记录了棒材的产品名称、执行标准、牌号/规格、批次号、长度/捆号、重量/支数、日期/班次,还打印着客户名称和生产厂家的地址、电话和二维码等重要信息,有着重要的说明作用和宣传作用。其中日期/班次记录了棒材被生产时的生产日期和生产班次,如果质量检查时发现棒材有质量问题,可以追根溯源查找原因,棒材标牌焊接也是质量保证体系中的重要一环。
目前通过人工肉眼识别对成捆棒材的标牌焊接定位,这种定位方法主观性大、位置选取随意,焊接效果混乱。另外人眼长时间在焊接环境工作会产生疲劳,工人视力会因此损伤,焊接效果也会更差。
发明内容
(一)要解决的技术问题
针对现有存在的技术问题,本发明提供一种成捆棒材端面的标牌焊接定位方法。该方法通过单目视觉和激光传感器的多传感器融合技术进行定位,确定标牌焊接位置,焊接位置定位准确,减少人工投入和安全隐患。
(二)技术方案
本发明提供一种成捆棒材端面的标牌焊接定位方法,包括如下步骤:
S1、基于相机采集获取成捆棒材的端面图像,并对所述端面图像进行矫正处理,得到矫正后的图像;
S2、针对矫正后的图像,基于棒材轮廓特征和质心坐标进行定位,得到焊接位置的像素坐标;
S3、基于激光传感器得到所述成捆棒材端面到相机的深度信息;
S4、根据所述深度信息和预先获取的相机的内参,结合焊接位置的像素坐标,得到焊接位置在相机坐标系下的空间坐标;
S5、建立手眼标定模型,得到相机坐标系到执行器坐标系的齐次转换矩阵,并利用所述齐次转换矩阵基于焊接位置在相机坐标系下的空间坐标,得到焊接位置在执行器坐标系下的空间坐标;
S6、依据上位机实时获取的执行器坐标系与世界坐标系的转换关系,根据焊接位置在执行器坐标系下的空间坐标和获取的执行器坐标系与世界坐标系的关系,得到焊接位置在世界坐标系下的空间坐标,作为最终焊接位置,完成定位。
进一步地,所述步骤S1之前包括:通过相机标定,获取相机的内参和畸变参数。
进一步地,所述步骤S2包括:
S21、识别所述矫正后的图像中的棒材目标;
S22、对所述棒材目标中粘连的棒材进行分割,得到相互分离的棒材图像;
S23、提取所述相互分离的棒材图像中棒材的轮廓特征和质心坐标,得到焊接位置。
进一步地,所述步骤S22中,采用完全腐蚀和距离变换的方法分割粘连的棒材。
进一步地,所述步骤S23具体包括:
S231、提取所述相互分离的棒材图像中棒材的轮廓特征;
S232、提取所述轮廓特征的质心坐标,依据预先设定的两个中心规则,将所述质心坐标作为焊接位置;
所述两个中心规则具体如下:(1)计算得到多个轮廓特征的质心坐标的中心位置;(2)计算各轮廓特征的质心坐标到中心位置的欧氏距离;(3)寻找最小欧氏距离,将对应的轮廓特征的质心坐标作为焊接位置。
进一步地,还包括:
S7、启动执行器,执行器移动至最终焊接位置;
S8、利用电阻电测电路检测执行器是否与棒材接触;若是,继续步骤S9;否则,返回步骤S7,执行器重新移动至最终焊接位置;
S9、判断标牌是否焊接成功;若是,结束焊接;否则,返回步骤S1,相机重新采集获取成捆棒材端面的图像。
进一步地,所述步骤S9中,利用模板匹配图像检测方法判断标牌是否焊接成功。
(三)有益效果
(1)本发明提供的成捆棒材端面的标牌焊接定位方法,是基于机器视觉及激光传感器的定位方法,采用机器视觉的方式来为机器人装上眼睛,使用激光传感器辅助定位标牌的焊接位置。
(2)通过单目视觉和激光传感器的多传感器融合技术进行定位,确定标牌焊接位置,减少人工投入和安全隐患,机器视觉定位的焊接效果比人工定位随意焊接更加美观整齐且不易脱落。
附图说明
图1为本发明提供的成捆棒材端面的标牌焊接定位方法的原理图;
图2为本发明提供的成捆棒材端面的标牌焊接定位方法的流程图。
具体实施方式
为了更好的解释本发明,以便于理解,下面结合附图,通过具体实施方式,对本发明作详细描述。
本发明的相机采用眼在手的安装方式,相机和执行器安装在机器人法兰盘的末端,相机和执行器平行安装。光源采用环形光源,安装在相机的前方。相机和光源可随机器人的机械手臂移动至焊接平台前方,对成捆棒材采集端面图像。其中,本发明中的执行器选用焊枪,焊枪用于将标牌焊接在成捆棒材的指定焊接位置。
本发明提供一种成捆棒材端面的标牌焊接定位方法,包括如下步骤:
S0、通过相机标定,获取相机的内参和畸变参数。
S1、基于相机采集获取成捆棒材的端面图像,结合所述相机的内参和畸变参数,对所述端面图像进行矫正处理,得到矫正后的图像。具体地,矫正处理包括:基于相机内参和畸变参数,利用Opencv视觉库的函数cv::initUndistortRectifyMap(),编写程序对数字图像进行畸变矫正。
S2、针对矫正后的图像,基于棒材轮廓特征和质心坐标进行定位,得到焊接位置的像素坐标。具体地包括:
S21、识别所述矫正后的图像中的棒材目标;
S22、采用完全腐蚀和距离变换的方法对所述棒材目标中粘连的棒材进行分割,得到相互分离的棒材图像。
具体地,对矫正后的端面图像进行欧式距离变换,将棒材目标进行初步分割,在初步分割的基础上利用完全腐蚀分割算法对矫正后的端面图像进行进一步分割,得到相互分离的棒材图像。
其中,完全腐蚀分割算法的步骤如下:
(1)新建一张灰度值为0的空白图像;(2)对矫正后的端面二值图像进行连通域标记;(3)对标记后的图像使用15*15的4邻域和8邻域结构元素进行交替腐蚀,每完成1次交替腐蚀,对腐蚀后的图像重新标记连通区域;(4)每腐蚀并标记1次之后,与腐蚀前的连通区域作比较,检查腐蚀后的图像是否有哪一个标记的区域消失了,如果消失了,把消失这一区域的记录到空白图像上去;(5)直到矫正后的端面二值图像被完全腐蚀为背景,至此,粘连的棒材被完全分割开来。
S23、提取所述相互分离的棒材图像中棒材的轮廓特征,提取多个轮廓特征的质心坐标,依据预先设定的两个中心规则,得到焊接位置的像素坐标。
所述两个中心规则具体如下:(1)计算得到多个轮廓特征的质心坐标的中心位置;(2)计算各轮廓特征的质心坐标到中心位置的欧氏距离;(3)寻找最小欧氏距离,将对应的轮廓特征的质心坐标作为焊接位置。
S3、基于激光传感器得到所述成捆棒材端面到相机的深度信息。
S4、根据所述深度信息和预先获取的相机的内参,结合焊接位置的像素坐标,得到焊接位置在相机坐标系下的空间坐标。
S5、建立手眼标定模型,得到相机坐标系到执行器坐标系的齐次转换矩阵,并利用所述齐次转换矩阵基于焊接位置在相机坐标系下的空间坐标,得到焊接位置在执行器坐标系下的空间坐标。
S6、依据上位机实时获取的执行器坐标系与世界坐标系的转换关系,根据焊接位置在执行器坐标系下的空间坐标和获取的执行器坐标系与世界坐标系的关系,得到焊接位置在世界坐标系下的空间坐标,作为最终焊接位置,完成定位。
具体地,所述执行器坐标系与世界坐标系的转换关系通过以下步骤得到:在上位机发送给机器人“请求执行器位姿”指令后,由机器人将执行器末端相对于世界坐标系的位姿关系发送给上位机内的视觉定位模块,视觉定位模块将位姿关系转换为旋转矩阵和平移向量,进而得到执行器坐标系与世界坐标系的转换关系。
S7、启动执行器,执行器移动至最终焊接位置。
该步骤中的移动方式可以是基于机器人手臂来实现。
S8、利用电阻电测电路检测执行器是否与棒材接触;若是,继续步骤S9;否则,返回步骤S7,执行器重新移动至最终焊接位置。
S9、利用模板匹配图像检测方法判断标牌是否焊接成功;若是,结束焊接;否则,返回步骤S1,相机重新采集获取成捆棒材端面的图像。
其中,该步骤中利用模板匹配图像检测方法判断标牌是否焊接成功的过程具体为:
采集焊接后的棒材端面图像作为原图像,以预先设定的标牌图像为模板,基于标准化差值平方和的匹配算法利用模板在原图像中进行匹配,若匹配后的结果矩阵中的最小元素不超过0.05,则认为在原图像中存在标牌,标牌焊接成功。
为了验证本发明提供的成捆棒材端面的标牌焊接定位方法的可靠性,对直径为12mm、25mm、50mm的成捆棒材对象分别采集798、808、816张图像,进行实验验证。通过焊接定位,对直径12mm的棒材进行定位,一次性定位成功率在99.62%;对直径25mm的棒材进行定位,一次性定位成功率在99.75%;对直径50mm的棒材进行定位,一次性定位成功率在99.88%。对以上三种规格的成捆棒材多次定位成功率高达99.99%。从定位结果来看,基于单目视觉和激光传感器的成捆棒材端面标牌焊接定位方法具有较高的准确性,可以满足成捆棒材的焊接定位需求。
以上结合具体实施例描述了本发明的技术原理,这些描述只是为了解释本发明的原理,不能以任何方式解释为对本发明保护范围的限制。基于此处解释,本领域的技术人员不需要付出创造性的劳动即可联想到本发明的其它具体实施方式,这些方式都将落入本发明的保护范围之内。
Claims (5)
1.一种成捆棒材端面的标牌焊接定位方法,其特征在于,用于对成捆棒材端面的标牌焊接的机器人,所述机器人包括相机、光源和执行器,相机和执行器安装在机器人法兰盘的末端,相机和执行器平行安装,光源采用环形光源,安装在相机的前方,所述标牌焊接定位方法包括如下步骤:
S1、基于相机采集获取成捆棒材的端面图像,并对所述端面图像进行矫正处理,得到矫正后的图像;
其中,所述矫正处理包括:基于相机内参和畸变参数,利用Opencv视觉库的函数cv::initUndistortRectifyMap(),编写程序对数字图像进行畸变矫正;
S2、针对矫正后的图像,基于棒材轮廓特征和质心坐标进行定位,得到焊接位置的像素坐标;
所述步骤S2包括:
S21、识别所述矫正后的图像中的棒材目标;
S22、采用完全腐蚀和距离变换的方法对所述棒材目标中粘连的棒材进行分割,得到相互分离的棒材图像;
S23、提取所述相互分离的棒材图像中棒材的轮廓特征和质心坐标,得到焊接位置;
S3、基于激光传感器得到所述成捆棒材端面到相机的深度信息;
S4、根据所述深度信息和预先获取的相机的内参,结合焊接位置的像素坐标,得到焊接位置在相机坐标系下的空间坐标;
S5、建立手眼标定模型,得到相机坐标系到执行器坐标系的齐次转换矩阵,并利用所述齐次转换矩阵基于焊接位置在相机坐标系下的空间坐标,得到焊接位置在执行器坐标系下的空间坐标;
S6、依据上位机实时获取的执行器坐标系与世界坐标系的转换关系,根据焊接位置在执行器坐标系下的空间坐标和获取的执行器坐标系与世界坐标系的关系,得到焊接位置在世界坐标系下的空间坐标,作为最终焊接位置,完成定位。
2.根据权利要求1所述的标牌焊接定位方法,其特征在于,所述步骤S1之前包括:通过相机标定,获取相机的内参和畸变参数。
3.根据权利要求2所述的标牌焊接定位方法,其特征在于,所述步骤S23具体包括:
S231、提取所述相互分离的棒材图像中棒材的轮廓特征;
S232、提取所述轮廓特征的质心坐标,依据预先设定的两个中心规则,将所述质心坐标作为焊接位置;
所述两个中心规则具体如下:(1)计算得到多个轮廓特征的质心坐标的中心位置;(2)计算各轮廓特征的质心坐标到中心位置的欧氏距离;(3)寻找最小欧氏距离,将对应的轮廓特征的质心坐标作为焊接位置。
4.根据权利要求1所述的标牌焊接定位方法,其特征在于,还包括:
S7、启动执行器,执行器移动至最终焊接位置;
S8、利用电阻电测电路检测执行器是否与棒材接触;若是,继续步骤S9;否则,返回步骤S7,执行器重新移动至最终焊接位置;
S9、判断标牌是否焊接成功;若是,结束焊接;否则,返回步骤S1,相机重新采集获取成捆棒材端面的图像。
5.根据权利要求4所述的标牌焊接定位方法,其特征在于,所述步骤S9中,利用模板匹配图像检测方法判断标牌是否焊接成功。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911417148.4A CN111105463B (zh) | 2019-12-31 | 2019-12-31 | 一种成捆棒材端面的标牌焊接定位方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911417148.4A CN111105463B (zh) | 2019-12-31 | 2019-12-31 | 一种成捆棒材端面的标牌焊接定位方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111105463A CN111105463A (zh) | 2020-05-05 |
CN111105463B true CN111105463B (zh) | 2024-04-16 |
Family
ID=70425516
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911417148.4A Active CN111105463B (zh) | 2019-12-31 | 2019-12-31 | 一种成捆棒材端面的标牌焊接定位方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111105463B (zh) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111618855B (zh) * | 2020-05-27 | 2021-10-08 | 江苏金恒信息科技股份有限公司 | 一种自动挂牌系统及方法 |
CN111558791B (zh) * | 2020-05-27 | 2020-10-09 | 江苏金恒信息科技股份有限公司 | 一种自动焊接标牌的方法及装置 |
CN113902803B (zh) * | 2021-10-14 | 2024-04-05 | 吉林大学 | 基于图像处理的成捆棒材端面双标签焊接位置获取方法 |
CN114581368B (zh) * | 2022-01-18 | 2023-11-17 | 无锡瑞进智能工程有限公司 | 一种基于双目视觉的棒材焊牌方法及装置 |
CN114612452B (zh) * | 2022-03-18 | 2024-06-25 | 中冶赛迪信息技术(重庆)有限公司 | 用于棒材的识别方法、系统、电子设备及可读存储介质 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108515299A (zh) * | 2018-03-30 | 2018-09-11 | 江苏金恒信息科技股份有限公司 | 一种棒材标牌焊接方法 |
CN108981672A (zh) * | 2018-07-19 | 2018-12-11 | 华南师范大学 | 基于单目机器人与测距传感器结合的舱门实时定位方法 |
CN109658456A (zh) * | 2018-10-29 | 2019-04-19 | 中国化学工程第六建设有限公司 | 罐体内角焊缝激光视觉三维视觉定位方法 |
CN110614459A (zh) * | 2019-08-25 | 2019-12-27 | 北京首钢自动化信息技术有限公司 | 一种钢捆端面智能焊牌装置及其方法 |
-
2019
- 2019-12-31 CN CN201911417148.4A patent/CN111105463B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108515299A (zh) * | 2018-03-30 | 2018-09-11 | 江苏金恒信息科技股份有限公司 | 一种棒材标牌焊接方法 |
CN108981672A (zh) * | 2018-07-19 | 2018-12-11 | 华南师范大学 | 基于单目机器人与测距传感器结合的舱门实时定位方法 |
CN109658456A (zh) * | 2018-10-29 | 2019-04-19 | 中国化学工程第六建设有限公司 | 罐体内角焊缝激光视觉三维视觉定位方法 |
CN110614459A (zh) * | 2019-08-25 | 2019-12-27 | 北京首钢自动化信息技术有限公司 | 一种钢捆端面智能焊牌装置及其方法 |
Also Published As
Publication number | Publication date |
---|---|
CN111105463A (zh) | 2020-05-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111105463B (zh) | 一种成捆棒材端面的标牌焊接定位方法 | |
WO2019184223A1 (zh) | 一种棒材标牌焊接方法 | |
CN111192307A (zh) | 基于激光切割三维零部件的自适应纠偏方法 | |
CN113610921A (zh) | 混合工件抓取方法、设备及计算机可读存储介质 | |
CN114140439B (zh) | 基于深度学习的激光焊接焊缝特征点识别方法及装置 | |
CN114355953B (zh) | 一种基于机器视觉的多轴伺服系统的高精度控制方法及系统 | |
CN111178138B (zh) | 基于激光点云和双目视觉的配网导线作业点检测方法及装置 | |
CN112643207B (zh) | 基于计算机视觉的激光自动除锈系统及方法 | |
CN114473309A (zh) | 用于自动焊接系统的焊接位置识别方法及自动焊接系统 | |
RU2019124093A (ru) | Автоматизированные наблюдение за процессом сборки и его проверка | |
CN113240798B (zh) | 基于数字孪生和ar的物料完备性智能检测与配置方法 | |
CN111361819B (zh) | 一种线材的挂牌系统及方法 | |
CN112184804A (zh) | 大体积工件高密度焊点定位方法、装置、存储介质及终端 | |
CN114581368B (zh) | 一种基于双目视觉的棒材焊牌方法及装置 | |
CN109215075B (zh) | 工业机器人物料抓取中工件的定位识别系统及方法 | |
CN115351389A (zh) | 自动焊接方法和装置、电子设备及存储介质 | |
CN115358965A (zh) | 焊接变形量自适应的直线焊缝打磨轨迹生成方法及装置 | |
CN106926241A (zh) | 一种基于视觉引导的双臂机器人装配方法及系统 | |
US20240029234A1 (en) | Method for inspecting a correct execution of a processing step of components, in particular a wiring harness, data structure, and system | |
CN113433129A (zh) | 一种六轴机器人去毛刺刀具检测机构及其方法 | |
CN114166846B (zh) | 一种钢铁行业冷轧卷断面条码及缺陷检测装置 | |
CN115556113A (zh) | 一种基于机器人坡口切割工作站的坡口切割方法 | |
CN111390421A (zh) | 焊接方法 | |
CN114955152A (zh) | 电解铝铸造成品铝锭智能贴标机器人贴标防错控制系统 | |
CN107020545A (zh) | 识别机械工件位姿的装置和方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |