CN115830118B - 一种基于双目相机的水泥电杆的裂纹检测方法和系统 - Google Patents
一种基于双目相机的水泥电杆的裂纹检测方法和系统 Download PDFInfo
- Publication number
- CN115830118B CN115830118B CN202211570331.XA CN202211570331A CN115830118B CN 115830118 B CN115830118 B CN 115830118B CN 202211570331 A CN202211570331 A CN 202211570331A CN 115830118 B CN115830118 B CN 115830118B
- Authority
- CN
- China
- Prior art keywords
- image
- crack
- electric pole
- binocular camera
- cement
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 239000004568 cement Substances 0.000 title claims abstract description 75
- 238000001514 detection method Methods 0.000 title claims abstract description 71
- 238000000034 method Methods 0.000 claims abstract description 33
- 238000009826 distribution Methods 0.000 claims abstract description 29
- 230000004927 fusion Effects 0.000 claims abstract description 22
- 238000007781 pre-processing Methods 0.000 claims abstract description 22
- 238000003709 image segmentation Methods 0.000 claims abstract description 15
- 230000004907 flux Effects 0.000 claims description 25
- 230000011218 segmentation Effects 0.000 claims description 19
- 230000009193 crawling Effects 0.000 claims description 18
- 230000005540 biological transmission Effects 0.000 claims description 17
- 229910001294 Reinforcing steel Inorganic materials 0.000 claims description 15
- 238000000354 decomposition reaction Methods 0.000 claims description 13
- 229910000831 Steel Inorganic materials 0.000 claims description 12
- 238000006243 chemical reaction Methods 0.000 claims description 12
- 239000010959 steel Substances 0.000 claims description 12
- 238000003384 imaging method Methods 0.000 claims description 8
- 238000012545 processing Methods 0.000 claims description 8
- 238000005259 measurement Methods 0.000 claims description 7
- 238000012546 transfer Methods 0.000 claims description 7
- 230000009466 transformation Effects 0.000 claims description 7
- 238000001914 filtration Methods 0.000 claims description 6
- 238000013507 mapping Methods 0.000 claims description 4
- 230000005415 magnetization Effects 0.000 claims description 3
- 230000003014 reinforcing effect Effects 0.000 claims description 3
- 238000012800 visualization Methods 0.000 claims description 3
- 238000010276 construction Methods 0.000 abstract description 7
- 238000012423 maintenance Methods 0.000 abstract description 6
- 238000005516 engineering process Methods 0.000 abstract description 5
- 230000006872 improvement Effects 0.000 abstract description 5
- 230000008569 process Effects 0.000 description 9
- 230000008859 change Effects 0.000 description 5
- 238000004891 communication Methods 0.000 description 5
- 238000003860 storage Methods 0.000 description 5
- 230000009194 climbing Effects 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 230000009286 beneficial effect Effects 0.000 description 2
- 238000013500 data storage Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000001360 synchronised effect Effects 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 230000001174 ascending effect Effects 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 230000007797 corrosion Effects 0.000 description 1
- 238000005260 corrosion Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- JEIPFZHSYJVQDO-UHFFFAOYSA-N iron(III) oxide Inorganic materials O=[Fe]O[Fe]=O JEIPFZHSYJVQDO-UHFFFAOYSA-N 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 230000006855 networking Effects 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
Landscapes
- Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
Abstract
本发明提供一种基于双目相机的水泥电杆的裂纹检测方法和系统，所述方法包括：双目相机对水泥电杆进行图像采集，并对采集到的两张初始图像进行预处理得到第一预处理图像和第二预处理图像；对第一预处理图像和第二预处理图像分布进行图像分割和特征对比，得到第一裂纹图像和第二裂纹图像；对第一裂纹图像和第二裂纹图像进行图像融合，得到目标裂纹图像；根据位姿关系和目标裂纹图像，得到所述水泥电杆的裂纹状态。本发明解决了现有技术中水泥电杆裂纹检测方法存在检测难的问题，减少水泥电杆的检测成本，提高了裂纹检测精度，对后续维护施工提供决策依据，也可根据采集的数据对电杆寿命预测、电杆技术改进提供数据支撑。
Description
技术领域
本发明涉及电杆检测技术领域，具体涉及基于双目相机的水泥电杆的裂纹检测方法和系统。
背景技术
水泥电杆是基建工程涉及的重要产品之一，生产成本和运输成本都比较低且施工方便等优点，广泛用于配网输电线路中，电信通信线路架设等其他行业也广泛应用。由于电杆在野外或者户外运行中受到风力、温度交变、钢筋锈蚀和载荷受力等因素影响会形成裂纹、甚至会产生裂缝，对于其安全运行维护会产生极大的安全隐患，甚至会产生倒杆带来极大的经济损失。
目前针对于电杆裂纹检测，一方面在实际运行中存在停电难的问题，一方面由于电杆维护本身工作危险性较高，工作人员有登高作业的危险，一旦电杆因裂纹产生的断裂，工作人员将十分危险，最后电杆检测需要的检测工具多且耗时较长。
可见，现有技术中基于双目相机的水泥电杆的裂纹检测方法存在检测难的问题。
发明内容
针对现有技术中所存在的不足，本发明提供的基于双目相机的水泥电杆的裂纹检测方法和系统，其解决了现有技术中水泥电杆裂纹检测方法存在检测难的问题，减少水泥电杆的检测成本，提高了裂纹检测精度，对后续维护施工提供决策依据，也可根据采集的数据对电杆寿命预测、电杆技术改进提供数据支撑。
第一方面，本发明提供一种基于双目相机的水泥电杆的裂纹检测方法，所述方法包括：对双目相机进行标定得到双目相机之间的位姿关系；所述双目相机对水泥电杆进行图像采集，并对采集到的两张初始图像进行预处理得到第一预处理图像和第二预处理图像；对所述第一预处理图像和所述第二预处理图像分布进行图像分割和特征对比，得到第一裂纹图像和第二裂纹图像；对所述第一裂纹图像和所述第二裂纹图像进行图像融合，得到目标裂纹图像；根据所述位姿关系和所述目标裂纹图像，得到所述水泥电杆的裂纹状态。
可选地，对双目相机进行标定得到双目相机之间的位姿关系，包括：所述双目相机采集标定板图像，得到第一标定图像和第二标定图像；以所述第一标定图像中的第一目标角点建立第一世界坐标系和第一图像坐标系，以及以所述第二标定图像中的第二目标角点建立第二世界坐标系和第二图像坐标系；根据所述第一标定图像和所述第二标定图像的尺寸信息，获取所述第一标定图像中每个像素分别在所述第一世界坐标系中的第一世界坐标信息和在所述第一图像坐标系中的第一图像坐标信息，以及所述第二标定图像中每个像素分别在所述第二世界坐标系中的第二世界坐标信息和在所述第二图像坐标系中的第二图像坐标信息；根据所述第一世界坐标系与所述第一图像坐标系的转换关系、所述第一世界坐标信息和所述第一图像坐标信息，得到第一相机的标定参数；以及根据所述第二世界坐标系与所述第二图像坐标系的转换关系、所述第二世界坐标信息和所述第二图像坐标信息，得到第二相机的标定参数；其中，所述双目相机包括第一相机和第二相机；根据所述第一相机的标定参数和所述第二相机的标定参数，得到所述双目相机之间的位姿关系。
可选地，对采集到的两张初始图像进行预处理得到第一预处理图像和第二预处理图像，包括：分别对第一初始图像和第二初始图像进行灰度化处理，得到第一灰度直方图和第二灰度直方图；根据所述第一灰度直方图和所述第二灰度直方图，得到第一灰度直方图中的各灰度级概率和第二灰度直方图中的各灰度级概率；将第一灰度直方图中的各灰度级概率和第二灰度直方图中的各灰度级概率分别映射回原像素坐标的坐标值，得到第一灰度图像分布图和第二灰度图像分布图；对第一灰度图像分布图和第二灰度图像分布图分别进行滤波，得到第一预处理图像和第二预处理图像。
可选地，对所述第一预处理图像和所述第二预处理图像分布进行图像分割和特征对比，得到第一裂纹图像和第二裂纹图像，包括：对所述第一预处理图像和所述第二预处理图像分布进行图像分割，得到第一分割图像和第二分割图像；将所述第一分割图像和所述第二分割图像分别与电杆参考图像进行特征对比，当所述第一分割图像和所述第二分割图像与所述电杆参考图像存在差异时，将所述第一分割图像和所述第二分割图像分别作为第一裂纹图像和第二裂纹图像。
可选地，对所述第一裂纹图像和所述第二裂纹图像进行图像融合，得到目标裂纹图像，包括：对所述第一裂纹图像和所述第二裂纹图像进行小波变换，分别得到第一分解系数和第二分解系数；根据重叠位置加强规则对所述第一分解系数和所述第二分解系数进行融合，得到目标融合系数；根据所述目标融合系数对小波变换后的图像进行逆变重建，得到所述目标裂纹图像。
可选地，根据所述位姿关系和所述目标裂纹图像，得到所述水泥电杆的裂纹状态，包括：对所述目标裂纹图像进行二值化，得到电杆裂纹骨架和电杆裂纹轮廓；根据所述位姿关系、电杆裂纹骨架和电杆裂纹轮廓，获取到裂纹长度；根据所述电杆裂纹骨架，获取电杆裂纹主干和电杆裂纹主干的两个端点；以裂纹主干为中线，将电杆裂纹轮廓分为第一边图像和第二边图像；对所述第一边图像和第二边图像上的像素点进行欧式距离变换，得到裂纹平均像素宽度；根据所述裂纹平均像素宽度和成像系数，得到裂纹宽度；其中，所述水泥电杆的裂纹状态包括所述裂纹长度和所述裂纹宽度。
可选地，所述方法还包括：根据漏磁检测仪对所述水泥电杆进行钢筋检测，得到钢筋状态信息。
第二方面，本发明提供一种基于双目相机的水泥电杆的裂纹检测系统，所述系统包括：设置有双目相机的爬行机器人，用于抱紧水泥电杆进行上下或旋转爬行，使所述双目相机采集水泥电杆的两张初始图像；遥控装置，与所述爬行机器人无线连接，用于控制所述爬行机器人的运行；漏磁检测仪，用于对所述水泥电杆进行钢筋检测得到钢筋状态信息；无线传输模块，分别与所述双目相机和所述漏磁检测仪相连，用于传输所述两张初始图像和所述钢筋状态信息；图像处理装置，与所述无线传输模块相连，用于对所述两张初始图像进行预处理得到第一预处理图像和第二预处理图像；对所述第一预处理图像和所述第二预处理图像分布进行图像分割和特征对比，得到第一裂纹图像和第二裂纹图像；对所述第一裂纹图像和所述第二裂纹图像进行图像融合，得到目标裂纹图像；根据所述位姿关系和所述目标裂纹图像，得到所述水泥电杆的裂纹状态。
可选地，所述漏磁检测仪包括：磁化单元、信号测量单元和数字信号转存单元；所述磁化单元用于产生磁能量，使水泥电杆的钢筋产生磁场信号；信号测量单元用于测量所述磁场信号，并将所述磁场信号转化为电信号输出，还将所述电信号经过转化后成为数字信号；数字信号转存单元与所述信号测量单元相连，用于将所述数字信号进行存储。
可选地，所述系统还包括：可视化装置，与所述图像处理装置相连，用于通过GIS地图呈现水泥电杆的位置信息、初始图像和水泥电杆的裂纹状态。
相比于现有技术，本发明具有如下有益效果：
本实施例通过设置在爬行机器人上的双目相机对水泥电杆进行图像采集，并对采集到的水泥电杆图像进行预处理、特征对比和图像融合得到水泥电杆的裂纹图像，并根据双目相机之间的位姿关系对裂纹图像进行计算，得到包括裂纹长度和裂纹宽度的水泥电杆裂纹状态；因此，本实施例解决了现有技术中水泥电杆裂纹检测方法存在检测难的问题，减少水泥电杆的检测成本，提高了裂纹检测精度，对后续维护施工提供决策依据，也可根据采集的数据对电杆寿命预测、电杆技术改进提供数据支撑。
附图说明
图1所示为本发明实施例提供的一种基于双目相机的水泥电杆的裂纹检测方法的流程示意图；
图2所示为图1中步骤S101的具体流程示意图；
图3所示为图1中步骤S103的具体流程示意图；
图4所示为图1中步骤S104的具体流程示意图；
图5所示为本发明实施例提供的一种坐标系关系示意图；
图6所示为本发明实施例提供的一种基于双目相机的水泥电杆的裂纹检测系统的结构示意图；
图7所示为本发明实施例提供的另一种基于双目相机的水泥电杆的裂纹检测系统的结构示意图；
图8所示为本发明实施例提供的另一种基于双目相机的水泥电杆的裂纹检测方法的流程示意图。
具体实施方式
为使本申请实施例的目的、技术方案和优点更加清楚，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本申请的一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例，都属于本申请保护的范围。
第一方面，本发明提供一种基于双目相机的水泥电杆的裂纹检测方法，具体包括以下实施例：
图1所示为本发明实施例提供的一种基于双目相机的水泥电杆的裂纹检测方法的流程示意图，如图1所示，所述基于双目相机的水泥电杆的裂纹检测方法具体包括以下步骤：
步骤S101，对双目相机进行标定得到双目相机之间的位姿关系。
在本实施例中，对双目相机进行标定得到双目相机之间的位姿关系，包括：所述双目相机采集标定板图像，得到第一标定图像和第二标定图像；以所述第一标定图像中的第一目标角点建立第一世界坐标系和第一图像坐标系，以及以所述第二标定图像中的第二目标角点建立第二世界坐标系和第二图像坐标系；根据所述第一标定图像和所述第二标定图像的尺寸信息，获取所述第一标定图像中每个像素分别在所述第一世界坐标系中的第一世界坐标信息和在所述第一图像坐标系中的第一图像坐标信息，以及所述第二标定图像中每个像素分别在所述第二世界坐标系中的第二世界坐标信息和在所述第二图像坐标系中的第二图像坐标信息；根据所述第一世界坐标系与所述第一图像坐标系的转换关系、所述第一世界坐标信息和所述第一图像坐标信息，得到第一相机的标定参数；以及根据所述第二世界坐标系与所述第二图像坐标系的转换关系、所述第二世界坐标信息和所述第二图像坐标信息，得到第二相机的标定参数；其中，所述双目相机包括第一相机和第二相机；根据所述第一相机的标定参数和所述第二相机的标定参数，得到所述双目相机之间的位姿关系。
需要说明的是，双目相机在采集图像之前先检查双目相机复位情况，然后对双目相机进行标定，相机标定的实质是通过采集标定板不同位姿的图像，并根据求解方程得到相机的内外参数，进而获取相机的位姿关系，具体标定过程如图2所示：首先保持双目相机在同一水平线上且位置固定，相机水平方向距离为110mm，使用双目相机分别拍摄20张标定板图像，提取所有电杆图像上的角点，单相机以图片中右下角的角点O作为原点建立世界坐标系，在已知图片边长的条件下，可以得到在世界坐标系以及图像坐标系中电杆图片上所有角点的坐标信息，基于四种不同坐标系间存在的转换关系，即可对其推导获得相机内部参数与外部参数。经过单相机标定后可以得到两个相机的旋转矩阵以及平移向量，通过计算标定板中的某一点在同一时间相对相机的位置，就能够推导出双目相机之间的位姿关系从而完成双目相机的标定。
步骤S102，所述双目相机对水泥电杆进行图像采集，并对采集到的两张初始图像进行预处理得到第一预处理图像和第二预处理图像。
在本实施例中，将所述双目相机设置在爬行机器人上，通过爬行机器人的上下或旋转爬行，使双目相机能采集到水泥电杆的初始图像。
在本实施例中，对采集到的两张初始图像进行预处理得到第一预处理图像和第二预处理图像，包括：分别对第一初始图像和第二初始图像进行灰度化处理，得到第一灰度直方图和第二灰度直方图；根据所述第一灰度直方图和所述第二灰度直方图，得到第一灰度直方图中的各灰度级概率和第二灰度直方图中的各灰度级概率；将第一灰度直方图中的各灰度级概率和第二灰度直方图中的各灰度级概率分别映射回原像素坐标的坐标值，得到第一灰度图像分布图和第二灰度图像分布图；对第一灰度图像分布图和第二灰度图像分布图分别进行滤波，得到第一预处理图像和第二预处理图像。
需要说明的是，户外进行检测作业时，采集到的图像容易受到许多外界因素的干扰，例如天气情况的变化引起的光照条件变化，造成拍摄时出现曝光或者拍摄到的图像明暗分布不均匀现象，风力变化造成相机在拍摄时镜头抖动，导致图像清晰度不足，相机拍摄到的图像在传输过程中也会附带大量噪声，影响后续检测的效果，因此在对图像进行分析操作之前，必须对其进行图像预处理。本实施例主要是讲电杆图片进行灰度直方图均衡化，首先是对电杆图像进行灰度化操作后得到电杆灰度直方图；然后统计电杆灰度分布直方图，计算出各灰度级概率；计算均衡化后的灰度值，映射回原像素坐标的坐标值，得到新的电杆灰度图像像素分布。然后高斯滤波算法对图片进行降噪，防止图像失真，通过均值滤波消除电杆图像中尖锐噪声。
步骤S103，对所述第一预处理图像和所述第二预处理图像分布进行图像分割和特征对比，得到第一裂纹图像和第二裂纹图像。
在本实施例中，对所述第一预处理图像和所述第二预处理图像分布进行图像分割和特征对比，得到第一裂纹图像和第二裂纹图像，包括：对所述第一预处理图像和所述第二预处理图像分布进行图像分割，得到第一分割图像和第二分割图像；将所述第一分割图像和所述第二分割图像分别与电杆参考图像进行特征对比，当所述第一分割图像和所述第二分割图像与所述电杆参考图像存在差异时，将所述第一分割图像和所述第二分割图像分别作为第一裂纹图像和第二裂纹图像。
需要说明的是，采用OTSU图像分割法，依据电杆图像的灰度值分布，将图像分为两部分，对比两部分的类间方差，达到电杆图像裂纹分割的目的。由于图像分割有一定的差异性，因此还需要对电杆图像进行特征对比来确认是否裂纹。对电杆的特征对比使用ORB算法进行特征对比，具体过程如图3所示。
步骤S104，对所述第一裂纹图像和所述第二裂纹图像进行图像融合，得到目标裂纹图像。
在本实施例中，对所述第一裂纹图像和所述第二裂纹图像进行图像融合，得到目标裂纹图像，包括：对所述第一裂纹图像和所述第二裂纹图像进行小波变换，分别得到第一分解系数和第二分解系数；根据重叠位置加强规则对所述第一分解系数和所述第二分解系数进行融合，得到目标融合系数；根据所述目标融合系数对小波变换后的图像进行逆变重建，得到所述目标裂纹图像。
需要说明的是，在确认到有裂纹的电杆图片后还需要对图片进行处理，将同一位置更多电杆图片进行融合，获取一张更加高清的的照片，为后面获取裂纹宽度和长度提供优质的图片；如图4所述，本实施例采用小波变换的方式进行融合，融合步骤为对多幅电杆图片进行滤波处理和配准后，利用小波分解将图像信息根据频率的不同分解到两个通道，对两个通道的信息按照不同的规则进行融合，得到新的小波系数，最后根据该系数进行逆变换重建完成融合。
步骤S105，根据所述位姿关系和所述目标裂纹图像，得到所述水泥电杆的裂纹状态。
在本实施例中，根据所述位姿关系和所述目标裂纹图像，得到所述水泥电杆的裂纹状态，包括：对所述目标裂纹图像进行二值化，得到电杆裂纹骨架和电杆裂纹轮廓；根据所述位姿关系、电杆裂纹骨架和电杆裂纹轮廓，获取到裂纹长度；根据所述电杆裂纹骨架，获取电杆裂纹主干和电杆裂纹主干的两个端点；以裂纹主干为中线，将电杆裂纹轮廓分为第一边图像和第二边图像；对所述第一边图像和第二边图像上的像素点进行欧式距离变换，得到裂纹平均像素宽度；根据所述裂纹平均像素宽度和成像系数，得到裂纹宽度；其中，所述水泥电杆的裂纹状态包括所述裂纹长度和所述裂纹宽度。
需要说明的是，本实施例根据双目相机成像理论得到图像像素坐标系，通过前序步骤结合图像的二值化获取电杆裂纹骨架和电杆裂纹轮廓，然后根据双目相机标定成像系数(也就是双目相机的位姿关系)获取到裂纹长度。然后找到电杆裂纹主干的两个端点，以裂纹主干为中线，将裂纹轮廓分为A/B两边；然后将A边上的点置为目标点，其余点均置为非目标点，对更新后的图像进行欧氏距离变化；最后提取出变换后图像B处的值，为裂纹主干上各点的像素宽度，取其均值记为裂纹平均像素宽度，乘以成像系数得到裂纹实际平均宽度。最终对裂纹长度和宽度的测距，然后结合漏磁检测仪器数据最后得到电杆裂纹长度和宽度，并指导电杆裂纹的影响以达到对电杆危险及时进行安全提醒。
如图5所示，图像像素坐标系是通过相机对外部环境进行图像采集，并将采集到的图像信息采取二进制形式在计算机上保存，以左上角为原点，建立uOv坐标系；图像物理坐标系是建立在相机成像平面上，镜头光轴与影像的成像平面会产生一个交点，视此点为原点，x轴和y轴与像素坐标系一致；相机坐标系是从相机的视角来描述目标物体在三维空间中的位置，以镜头的光心为原点，X轴和Y轴与像素坐标系一致。
在本发明的另一个实施例中，所述方法还包括：根据漏磁检测仪对所述水泥电杆进行钢筋检测，得到钢筋状态信息。
相比于现有技术，本实施例具有如下有益效果：
本实施例通过设置在爬行机器人上的双目相机对水泥电杆进行图像采集，并对采集到的水泥电杆图像进行预处理、特征对比和图像融合得到水泥电杆的裂纹图像，并根据双目相机之间的位姿关系对裂纹图像进行计算，得到包括裂纹长度和裂纹宽度的水泥电杆裂纹状态；因此，本实施例解决了现有技术中水泥电杆裂纹检测方法存在检测难的问题，减少水泥电杆的检测成本，提高了裂纹检测精度，对后续维护施工提供决策依据，也可根据采集的数据对电杆寿命预测、电杆技术改进提供数据支撑。
第二方面，本发明提供一种基于双目相机的水泥电杆的裂纹检测方法，具体包括以下实施例：
图6所示为本发明实施例提供的一种基于双目相机的水泥电杆的裂纹检测系统的结构示意图，如图6所示，所述基于双目相机的水泥电杆的裂纹检测系统包括：
设置有双目相机的爬行机器人，用于抱紧水泥电杆进行上下或旋转爬行，使所述双目相机采集水泥电杆的两张初始图像；
遥控装置，与所述爬行机器人无线连接，用于控制所述爬行机器人的运行；
漏磁检测仪，用于对所述水泥电杆进行钢筋检测得到钢筋状态信息；
无线传输模块，分别与所述双目相机和所述漏磁检测仪相连，用于传输所述两张初始图像和所述钢筋状态信息；
图像处理装置，与所述无线传输模块相连，用于对所述两张初始图像进行预处理得到第一预处理图像和第二预处理图像；对所述第一预处理图像和所述第二预处理图像分布进行图像分割和特征对比，得到第一裂纹图像和第二裂纹图像；对所述第一裂纹图像和所述第二裂纹图像进行图像融合，得到目标裂纹图像；根据所述位姿关系和所述目标裂纹图像，得到所述水泥电杆的裂纹状态。
在本实施例中，所述漏磁检测仪包括：磁化单元、信号测量单元和数字信号转存单元；所述磁化单元用于产生磁能量，使水泥电杆的钢筋产生磁场信号；信号测量单元用于测量所述磁场信号，并将所述磁场信号转化为电信号输出，还将所述电信号经过转化后成为数字信号；数字信号转存单元与所述信号测量单元相连，用于将所述数字信号进行存储。
在本实施例中，所述系统还包括：可视化装置，与所述图像处理装置相连，用于通过GIS地图呈现水泥电杆的位置信息、初始图像和水泥电杆的裂纹状态。
如图7所示，所述爬行机器人包括物联控制模块124、工业舵机123、可编程微电路控制板126、力臂122、链接线、环形卡扣121、装置遥控模块125和数据存储模块126；所述无线传输模块150包括4G/5G通信模块151和无线图传模块152；所述遥控装置130包括装置操作遥控上下模块131、装置操作遥控左右模块132、装置操作遥控操作按钮133、装置操纵遥控发送模块134和装置操纵遥控屏显模块135。进一步地，通过可编程微电路控制版进行控制预编程、通过物联模块进行控制。而后通过装置操作遥控模块发送指令，装置操纵遥控接收模块接受指令，控制爬行机器人在电杆上下移动，对双目相机模块的双目相机进行标定、移动并对电杆碰伤、露筋、裂纹表面病害进行拍摄并记录存储、通过无线图传系统将拍摄的画面实时传输到装置操纵遥控屏显模块，控制漏磁检测仪器移动并控制漏磁检测仪器通过磁性无损检测方法对电杆内部钢筋进行检测、通过信号预处理、数模转换后记录数据并存储，通过4G/5G通信模块将记录的数据发送给检测系统的数据采集模块。
本实施例中的检测系统具有两个双目相机模块，主要用于机器视觉采集数据使用；一对工业舵机、两对环形卡扣、俩对力臂，主要用于抱紧电杆，固定相关仪器，后续通过松开某一对环形卡扣结合力臂的夹角变化实现装置的上升、下降、位置悬停等；一对漏磁检测仪器，主要作用是使用磁性无损检测方法对电杆内部钢筋进行检测；一个可编程电路控制版和一个物联控制模块、，主要作用是串联控制装置上的各个模块或仪器；一个无线图传模块，主要作用是针对双目相机采集的视频或照片实时传输到装置操纵遥控屏显模块上；一个4G/5G通信模块，主要作用是将漏磁检测仪器和双目相机采集的数据传输到远程检测系统上；一个数据存储模块，主要作用是将漏磁检测仪器和双目相机采集的数据传输保存下来，以防止网络传输出现问题时，数据无法保存的备份策略；一个装置遥控模块，装置遥控模块主要拥有装置操作遥控上下模块、装置操作遥控左右模块、装置操作遥控操作按钮、装置操纵遥控发送模块、装置操纵遥控屏显模块。
漏磁检测仪器主要包含三个模块，磁化单元、信号测量转化单元、数字信号转存单元。磁化单元主要是提供足够的磁能量体化电杆的钢质，以产生充足的磁场信号用于检测；信号测量单元主要是测量钢质引起的磁场变化，并将磁场信号转化为电信号输出，电信号在经过转化后成为数字信号；数字信号转存单元主要将数字信号数据存储在存储模块上。
装置操作遥控上下模块主要控制装置的上下移动指令并通过装置操纵遥控发送模块下发；装置操作遥控左右模块主要控制装置的双目相机标定、图像采集移动指令并通过装置操纵遥控发送模块下发；装置操作遥控操作按钮主要控制装置的操作、漏磁检测仪器启停指令并通过装置操纵遥控发送模块下发；装置操纵遥控屏显模块接收双目相机模块回传的数据或漏磁检测仪器回传的数据进行显示。
如图8所示，通过装置操纵遥控发送模块发送指令，然后通过装置操纵遥控接受模块接收指令，触发可编程微电路控制版，微电路控制版根据预先设置的好的程序去触发爬行机器人、双目相机模块、漏磁检测仪器模块。
爬行机器人接收指令，指令分为爬升、下降、松开卡扣等指令；在接收到爬升的指令时，将上方一对环形卡扣松开，通过舵机将两侧的力臂夹角扩大40度，上方一对环形卡扣抱紧电杆，下方一对环形卡扣松开，通过舵机将两侧的力臂夹角缩小40，下方一对环形卡扣抱紧电杆，如此反复达到爬升的目的；在接收到下降的指令时，将下方一对环形卡扣松开，通过舵机将两侧的力臂夹角扩大40度，下方一对环形卡扣抱紧电杆，上方一对环形卡扣松开，通过舵机将两侧的力臂夹角缩小40，上方一对环形卡扣抱紧电杆，如此反复达到爬升的目的；接收到松开卡扣的指令时，首先检查双目相机和漏磁检测仪器是否还在工作，如果还在工作等其工作完毕后，松开上方一对环形卡扣等待几秒后松开松开下方一对环形卡扣。装置接收到指令控制装置的双目相机模块
双目相机模块接受指令后，先检查双目相机复位情况，然后对双目相机进行标定，相机标定的实质是通过采集标定板不同位姿的图像，并根据求解方程得到相机的内外参数，进而获取相机的世界坐标。具体实现原理参考图3。在获取到双目相机的标定后，采集电杆的视频，然后进行连续多张拍照，在视频拍摄和照片拍摄完成后，一方面将拍摄的视频和照片存储至存储系统模块，然后通过4G/5G通信模块传送至远程系统，如无法联网将不做传输，另一方面将拍摄的视频、照片经过无线图传技术传输至遥控模块的屏显单元，供操作者决策是否重拍等操作。
漏磁检测仪器接收指令后，先检查漏磁检测仪器工作情况，如果正在工作则等待其完成工作，如果无工作则启动工作。首先通过磁化单元，将电杆中的钢质结构进行磁化，产生包含钢质结构特征的磁信号，通过信号测量转化单元把检测传感器探测特征信号，并转换成电信号，通过信号处理单元将获得的电信号进行滤波、放大等环节处理成为与模/数转换的模拟信号，然后模/数转换将模拟信号转换成数字信号，数字信号存储在存储模块上并通过4G/5G通信模块发送至远程系统上。
本发明可以通过遥控装置完成对水泥电杆的显形裂纹检测及隐形检测，并对水泥电杆的内部钢筋进行锈蚀度检测，减少电杆的检测成本，并对后续维护施工提供决策依据，也可根据采集的数据对电杆寿命预测、电杆技术改进提供数据支撑。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机程序来指令相关的硬件来完成，所述的程序可存储于一非易失性计算机可读取存储介质中，该程序在执行时，可包括如上述各方法的实施例的流程。其中，本申请所提供的各实施例中所使用的对存储器、存储、数据库或其它介质的任何引用，均可包括非易失性和/或易失性存储器。非易失性存储器可包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦除可编程ROM(EEPROM)或闪存。易失性存储器可包括随机存取存储器(RAM)或者外部高速缓冲存储器。作为说明而非局限，RAM以多种形式可得，诸如静态RAM(SRAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、双数据率SDRAM(DDRSDRAM)、增强型SDRAM(ESDRAM)、同步链路(Synchlink)DRAM(SLDRAM)、存储器总线(Rambus)直接RAM(RDRAM)、直接存储器总线动态RAM(DRDRAM)、以及存储器总线动态RAM(RDRAM)等。
需要说明的是，在本文中，诸如“第一”和“第二”等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
Claims (6)
1.一种基于双目相机的水泥电杆的裂纹检测方法，其特征在于，所述方法包括：
对双目相机进行标定得到双目相机之间的位姿关系；
所述双目相机对水泥电杆进行图像采集，并对采集到的两张初始图像进行预处理得到第一预处理图像和第二预处理图像；
对所述第一预处理图像和所述第二预处理图像分布进行图像分割和特征对比，得到第一裂纹图像和第二裂纹图像；
对所述第一裂纹图像和所述第二裂纹图像进行图像融合，得到目标裂纹图像；
根据所述位姿关系和所述目标裂纹图像，得到所述水泥电杆的裂纹状态；
其中，对双目相机进行标定得到双目相机之间的位姿关系，包括：所述双目相机采集标定板图像，得到第一标定图像和第二标定图像；以所述第一标定图像中的第一目标角点建立第一世界坐标系和第一图像坐标系，以及以所述第二标定图像中的第二目标角点建立第二世界坐标系和第二图像坐标系；根据所述第一标定图像和所述第二标定图像的尺寸信息，获取所述第一标定图像中每个像素分别在所述第一世界坐标系中的第一世界坐标信息和在所述第一图像坐标系中的第一图像坐标信息，以及所述第二标定图像中每个像素分别在所述第二世界坐标系中的第二世界坐标信息和在所述第二图像坐标系中的第二图像坐标信息；根据所述第一世界坐标系与所述第一图像坐标系的转换关系、所述第一世界坐标信息和所述第一图像坐标信息，得到第一相机的标定参数；以及根据所述第二世界坐标系与所述第二图像坐标系的转换关系、所述第二世界坐标信息和所述第二图像坐标信息，得到第二相机的标定参数；其中，所述双目相机包括第一相机和第二相机；根据所述第一相机的标定参数和所述第二相机的标定参数，得到所述双目相机之间的位姿关系；
对所述第一预处理图像和所述第二预处理图像分布进行图像分割和特征对比，得到第一裂纹图像和第二裂纹图像，包括：对所述第一预处理图像和所述第二预处理图像分布进行图像分割，得到第一分割图像和第二分割图像；将所述第一分割图像和所述第二分割图像分别与电杆参考图像进行特征对比，当所述第一分割图像和所述第二分割图像与所述电杆参考图像存在差异时，将所述第一分割图像和所述第二分割图像分别作为第一裂纹图像和第二裂纹图像；
对所述第一裂纹图像和所述第二裂纹图像进行图像融合，得到目标裂纹图像，包括：对所述第一裂纹图像和所述第二裂纹图像进行小波变换，分别得到第一分解系数和第二分解系数；根据重叠位置加强规则对所述第一分解系数和所述第二分解系数进行融合，得到目标融合系数；根据所述目标融合系数对小波变换后的图像进行逆变重建，得到所述目标裂纹图像；
根据所述位姿关系和所述目标裂纹图像，得到所述水泥电杆的裂纹状态，包括：对所述目标裂纹图像进行二值化，得到电杆裂纹骨架和电杆裂纹轮廓；根据所述位姿关系、电杆裂纹骨架和电杆裂纹轮廓，获取到裂纹长度；根据所述电杆裂纹骨架，获取电杆裂纹主干和电杆裂纹主干的两个端点；以裂纹主干为中线，将电杆裂纹轮廓分为第一边图像和第二边图像；对所述第一边图像和第二边图像上的像素点进行欧式距离变换，得到裂纹平均像素宽度；根据所述裂纹平均像素宽度和成像系数，得到裂纹宽度；其中，所述水泥电杆的裂纹状态包括所述裂纹长度和所述裂纹宽度。
2.如权利要求1所述的基于双目相机的水泥电杆的裂纹检测方法，其特征在于，对采集到的两张初始图像进行预处理得到第一预处理图像和第二预处理图像，包括：
分别对第一初始图像和第二初始图像进行灰度化处理，得到第一灰度直方图和第二灰度直方图；
根据所述第一灰度直方图和所述第二灰度直方图，得到第一灰度直方图中的各灰度级概率和第二灰度直方图中的各灰度级概率；
将第一灰度直方图中的各灰度级概率和第二灰度直方图中的各灰度级概率分别映射回原像素坐标的坐标值，得到第一灰度图像分布图和第二灰度图像分布图；
对第一灰度图像分布图和第二灰度图像分布图分别进行滤波，得到第一预处理图像和第二预处理图像。
3.如权利要求1-2任一项所述的基于双目相机的水泥电杆的裂纹检测方法，其特征在于，所述方法还包括：
根据漏磁检测仪对所述水泥电杆进行钢筋检测，得到钢筋状态信息。
4.一种实现权利要求1所述的基于双目相机的水泥电杆的裂纹检测方法的系统，其特征在于，所述系统包括：
设置有双目相机的爬行机器人，用于抱紧水泥电杆进行上下或旋转爬行，使所述双目相机采集水泥电杆的两张初始图像；
遥控装置，与所述爬行机器人无线连接，用于控制所述爬行机器人的运行；
漏磁检测仪，用于对所述水泥电杆进行钢筋检测得到钢筋状态信息；
无线传输模块，分别与所述双目相机和所述漏磁检测仪相连，用于传输所述两张初始图像和所述钢筋状态信息；
图像处理装置，与所述无线传输模块相连，用于对所述两张初始图像进行预处理得到第一预处理图像和第二预处理图像；对所述第一预处理图像和所述第二预处理图像分布进行图像分割和特征对比，得到第一裂纹图像和第二裂纹图像；对所述第一裂纹图像和所述第二裂纹图像进行图像融合，得到目标裂纹图像；根据所述位姿关系和所述目标裂纹图像，得到所述水泥电杆的裂纹状态。
5.如权利要求4所述的基于双目相机的水泥电杆的裂纹检测方法的系统，其特征在于，所述漏磁检测仪包括：
磁化单元、信号测量单元和数字信号转存单元；
所述磁化单元用于产生磁能量，使水泥电杆的钢筋产生磁场信号；
信号测量单元用于测量所述磁场信号，并将所述磁场信号转化为电信号输出，还将所述电信号经过转化后成为数字信号；
数字信号转存单元与所述信号测量单元相连，用于将所述数字信号进行存储。
6.如权利要求4所述的基于双目相机的水泥电杆的裂纹检测方法的系统，其特征在于，所述系统还包括：
可视化装置，与所述图像处理装置相连，用于通过GIS地图呈现水泥电杆的位置信息、初始图像和水泥电杆的裂纹状态。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202211570331.XA CN115830118B (zh) | 2022-12-08 | 2022-12-08 | 一种基于双目相机的水泥电杆的裂纹检测方法和系统 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202211570331.XA CN115830118B (zh) | 2022-12-08 | 2022-12-08 | 一种基于双目相机的水泥电杆的裂纹检测方法和系统 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN115830118A CN115830118A (zh) | 2023-03-21 |
| CN115830118B true CN115830118B (zh) | 2024-03-19 |
Family
ID=85545455
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202211570331.XA Active CN115830118B (zh) | 2022-12-08 | 2022-12-08 | 一种基于双目相机的水泥电杆的裂纹检测方法和系统 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN115830118B (zh) |
Citations (16)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN104034733A (zh) * | 2014-07-02 | 2014-09-10 | 中国人民解放军国防科学技术大学 | 基于双目视觉监测与表面裂纹图像识别的寿命预测方法 |
| WO2015024407A1 (zh) * | 2013-08-19 | 2015-02-26 | 国家电网公司 | 基于电力机器人的双目视觉导航系统及方法 |
| CN106446905A (zh) * | 2016-07-25 | 2017-02-22 | 广东省自动化研究所 | 渗透算法和自适应Canny算法相融合的表面裂纹纹理的提取方法 |
| CN107727658A (zh) * | 2017-08-21 | 2018-02-23 | 南京理工大学 | 基于图像处理的受电弓裂纹在线检测装置及方法 |
| CN108765496A (zh) * | 2018-05-24 | 2018-11-06 | 河海大学常州校区 | 一种多视点汽车环视辅助驾驶系统及方法 |
| CN109447908A (zh) * | 2018-09-25 | 2019-03-08 | 上海大学 | 一种基于立体视觉的钢卷识别定位方法 |
| CN111681283A (zh) * | 2020-05-11 | 2020-09-18 | 哈尔滨工业大学 | 一种基于单目立体视觉的应用于无线充电对位的相对位姿解算方法 |
| CN112529880A (zh) * | 2020-12-16 | 2021-03-19 | 武汉巨合科技有限公司 | 一种基于双目视觉的大坝图像裂纹检测装置及方法 |
| CN112686938A (zh) * | 2020-12-29 | 2021-04-20 | 重庆大学 | 基于双目图像测距的输电线路净距计算与安全告警方法 |
| CN113513981A (zh) * | 2021-06-15 | 2021-10-19 | 西安交通大学 | 基于双目立体视觉的多目标并行测量方法、系统、设备及存储介质 |
| CN113533368A (zh) * | 2021-05-24 | 2021-10-22 | 国网河北省电力有限公司衡水供电分公司 | 电杆裂纹检测装置、控制方法及控制终端 |
| CN113808220A (zh) * | 2021-09-24 | 2021-12-17 | 上海闻泰电子科技有限公司 | 双目摄像机的标定方法、系统、电子设备和存储介质 |
| CN114719749A (zh) * | 2022-04-06 | 2022-07-08 | 重庆大学 | 基于机器视觉的金属表面裂纹检测及真实尺寸测量方法及系统 |
| CN114841923A (zh) * | 2022-04-10 | 2022-08-02 | 同济大学 | 一种基于无人机的高精度实时裂缝检测方法 |
| CN115082450A (zh) * | 2022-07-26 | 2022-09-20 | 北京中科慧眼科技有限公司 | 基于深度学习网络的路面裂缝检测方法和系统 |
| CN115371673A (zh) * | 2022-07-14 | 2022-11-22 | 北京理工大学 | 一种未知环境中基于Bundle Adjustment的双目相机目标定位方法 |
-
2022
- 2022-12-08 CN CN202211570331.XA patent/CN115830118B/zh active Active
Patent Citations (16)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2015024407A1 (zh) * | 2013-08-19 | 2015-02-26 | 国家电网公司 | 基于电力机器人的双目视觉导航系统及方法 |
| CN104034733A (zh) * | 2014-07-02 | 2014-09-10 | 中国人民解放军国防科学技术大学 | 基于双目视觉监测与表面裂纹图像识别的寿命预测方法 |
| CN106446905A (zh) * | 2016-07-25 | 2017-02-22 | 广东省自动化研究所 | 渗透算法和自适应Canny算法相融合的表面裂纹纹理的提取方法 |
| CN107727658A (zh) * | 2017-08-21 | 2018-02-23 | 南京理工大学 | 基于图像处理的受电弓裂纹在线检测装置及方法 |
| CN108765496A (zh) * | 2018-05-24 | 2018-11-06 | 河海大学常州校区 | 一种多视点汽车环视辅助驾驶系统及方法 |
| CN109447908A (zh) * | 2018-09-25 | 2019-03-08 | 上海大学 | 一种基于立体视觉的钢卷识别定位方法 |
| CN111681283A (zh) * | 2020-05-11 | 2020-09-18 | 哈尔滨工业大学 | 一种基于单目立体视觉的应用于无线充电对位的相对位姿解算方法 |
| CN112529880A (zh) * | 2020-12-16 | 2021-03-19 | 武汉巨合科技有限公司 | 一种基于双目视觉的大坝图像裂纹检测装置及方法 |
| CN112686938A (zh) * | 2020-12-29 | 2021-04-20 | 重庆大学 | 基于双目图像测距的输电线路净距计算与安全告警方法 |
| CN113533368A (zh) * | 2021-05-24 | 2021-10-22 | 国网河北省电力有限公司衡水供电分公司 | 电杆裂纹检测装置、控制方法及控制终端 |
| CN113513981A (zh) * | 2021-06-15 | 2021-10-19 | 西安交通大学 | 基于双目立体视觉的多目标并行测量方法、系统、设备及存储介质 |
| CN113808220A (zh) * | 2021-09-24 | 2021-12-17 | 上海闻泰电子科技有限公司 | 双目摄像机的标定方法、系统、电子设备和存储介质 |
| CN114719749A (zh) * | 2022-04-06 | 2022-07-08 | 重庆大学 | 基于机器视觉的金属表面裂纹检测及真实尺寸测量方法及系统 |
| CN114841923A (zh) * | 2022-04-10 | 2022-08-02 | 同济大学 | 一种基于无人机的高精度实时裂缝检测方法 |
| CN115371673A (zh) * | 2022-07-14 | 2022-11-22 | 北京理工大学 | 一种未知环境中基于Bundle Adjustment的双目相机目标定位方法 |
| CN115082450A (zh) * | 2022-07-26 | 2022-09-20 | 北京中科慧眼科技有限公司 | 基于深度学习网络的路面裂缝检测方法和系统 |
Non-Patent Citations (2)
| Title |
|---|
| 基于图像融合的无参考立体图像质量评价;黄姝钰 等;《激光与光电子学进展》;第130-138页 * |
| 基于改进 Canny 算子与图像形态学融合的边缘检测方法;赵洁 等;《微型机与应用》;第30卷(第10期);第44-47页 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN115830118A (zh) | 2023-03-21 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN109903341A (zh) | 一种车载摄像机外参动态自标定方法 | |
| CN109580649B (zh) | 一种工程结构表面裂缝识别与投影修正方法及系统 | |
| CN113345019A (zh) | 一种输电线路通道隐患目标测距方法、设备及介质 | |
| CN113240747B (zh) | 一种基于计算机视觉的户外结构振动位移自动化监测方法 | |
| CN106996748A (zh) | 一种基于双目视觉的轮径测量方法 | |
| CN113763484A (zh) | 基于视频图像分析技术的船舶目标定位及速度估算方法 | |
| CN114119614A (zh) | 一种远程检测建筑物的裂缝的方法 | |
| CN114972421A (zh) | 车间物料识别追踪与定位方法、系统 | |
| CN113658279B (zh) | 相机内参和外参估算方法、装置、计算机设备及存储介质 | |
| CN118289053A (zh) | 一种基于立体视觉的钢轨爬行检测系统及方法 | |
| Zhang et al. | Neural rendering-enabled 3D modeling for rapid digitization of in-service products | |
| CN115830118B (zh) | 一种基于双目相机的水泥电杆的裂纹检测方法和系统 | |
| CN112150540B (zh) | 场桥下集卡对位方法、装置、终端、存储介质及处理器 | |
| CN117522830A (zh) | 用于检测锅炉腐蚀的点云扫描系统 | |
| CN116818233A (zh) | 一种采用激光结合机器视觉的高精度桥梁状态监测方法及系统 | |
| CN115219492B (zh) | 一种三维物体的外观图像采集方法及装置 | |
| Kye et al. | Feasibility study for the fine crack width estimation of concrete structures based on fiducial markers | |
| CN205158453U (zh) | 一种高耸结构外观检测装置 | |
| CN115375762A (zh) | 一种基于三目视觉的电力线三维重构方法 | |
| CN114897947A (zh) | 一种基于时空间统一的热红外和可见光图像同步配准方法 | |
| CN114494134A (zh) | 基于部件点云配准检测的工业缺陷检测系统 | |
| KR102476701B1 (ko) | 구조물 외관 조사망도 구축 시스템 및 방법 | |
| CN112435220B (zh) | 一种用于零件检测的自定位多孔特征移动窗口拼接方法 | |
| CN118470099B (zh) | 基于单目相机的物体空间位姿测量方法及装置 | |
| CN118261870B (zh) | 基于图像的电感缺陷检测方法、装置和电子设备 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |