CN116878419A - 基于三维点云数据的轨道车辆限界检测方法、系统及电子设备 - Google Patents
基于三维点云数据的轨道车辆限界检测方法、系统及电子设备 Download PDFInfo
- Publication number
- CN116878419A CN116878419A CN202311139839.9A CN202311139839A CN116878419A CN 116878419 A CN116878419 A CN 116878419A CN 202311139839 A CN202311139839 A CN 202311139839A CN 116878419 A CN116878419 A CN 116878419A
- Authority
- CN
- China
- Prior art keywords
- calibration
- limit
- vehicle
- limit detection
- railway vehicle
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 106
- 238000000034 method Methods 0.000 claims abstract description 24
- 238000005259 measurement Methods 0.000 claims abstract description 16
- 238000012545 processing Methods 0.000 claims description 21
- 238000004891 communication Methods 0.000 claims description 17
- 238000006243 chemical reaction Methods 0.000 claims description 16
- 230000008569 process Effects 0.000 claims description 13
- 239000011159 matrix material Substances 0.000 claims description 9
- 230000009466 transformation Effects 0.000 claims description 9
- 238000003708 edge detection Methods 0.000 claims description 8
- 238000013519 translation Methods 0.000 claims description 7
- 238000004364 calculation method Methods 0.000 claims description 6
- 230000010365 information processing Effects 0.000 abstract description 2
- 238000005516 engineering process Methods 0.000 description 7
- 101150054854 POU1F1 gene Proteins 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 230000008859 change Effects 0.000 description 3
- 238000003702 image correction Methods 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 238000003466 welding Methods 0.000 description 2
- UDHXJZHVNHGCEC-UHFFFAOYSA-N Chlorophacinone Chemical compound C1=CC(Cl)=CC=C1C(C=1C=CC=CC=1)C(=O)C1C(=O)C2=CC=CC=C2C1=O UDHXJZHVNHGCEC-UHFFFAOYSA-N 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000001186 cumulative effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000007639 printing Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
- 238000004078 waterproofing Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/24—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/002—Measuring arrangements characterised by the use of optical techniques for measuring two or more coordinates
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/13—Edge detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Theoretical Computer Science (AREA)
- Length Measuring Devices By Optical Means (AREA)
Abstract
本发明提供了一种基于三维点云数据的轨道车辆限界检测方法、系统及电子设备,涉及图像信息处理领域。限界检测方法包括如下步骤:搭建限界检测门;对多个激光相机模组进行标定,记录标定参数;对待检测的轨道车辆外部轮廓进行全断面扫描,生成轨道车辆的三维点云图,绘制出车体轮廓数据;将当前轨道车辆的车体轮廓数据与内建标准限界轮廓数据做比对,判断当前轨道车辆是否超限;输出比对结果。本发明相比于传统轨道车辆的检测工装,本发明提出的基于三维点云数据的轨道车辆限界检测方法和系统备实现了自动化、无接触、高精度、无损伤的测量要求。针对不同车型仅需把当前车型的相关数据录入后台数据库即可,解决了传统检测的局限性。
Description
技术领域
本发明涉及图像信息处理领域,尤其涉及基于三维点云数据的轨道车辆限界检测方法、系统及电子设备。
背景技术
随着全球科技水平的进步和经济的快速发展,城市轨道交通由于快速、安全、 绿色等特点在全球一些大城市中的交通体系中的越来越重要。我国的城市轨道交 通也快速发展,整体技术水平居于全球领先地位。城市轨道交通车辆的安全运维 是整个城市轨道交通运营体系的重要一环。
传统的列车车体空间尺寸检测使用的是各种检测工装、检测样板、卷尺、塞规等工具,车辆通过限界门时,需要检测人员同时在多个位置人工观察车体表面与限界规的间隙,判断车辆外形的加工质量,当车辆与限界门的限界板相碰时,表明相碰处的车辆外形尺寸超差,这种检测装置易受人为因素的影响。
此外,传统的限界规只能测量单一固定的车型,当新的车型增加后,原有的限界检测装置便无法测量,增加相应车型的传统检测装置也只能解决一时之需。
发明内容
发明目的:提出一种基于三维点云数据的轨道车辆限界检测方法、系统及电子设备,以解决现有技术存在的上述问题。
第一方面,提出一种基于三维点云数据的轨道车辆限界检测方法,步骤如下:
S1、搭建:在轨道车辆出库的预定位置处搭建限界检测门,在所述限界检测门上安装轮廓采集仪;所述轮廓采集仪包括多个激光相机模组;所述限界检测门上或所述轨道车辆出库的预定位置处还安装有接近开关和测速单元。
S2、标定:利用标定结构对搭建完成的全部所述激光相机模组进行多模组标定;记录所有激光相机模组的当前标定参数,将所述当前标定参数用于后续真实轨道车辆图像的点云拼接依据;多模组标定的作用是对多激光相机模组坐标系进行统一,逐个的将每个激光相机模组坐标系统一到标定结构的坐标系下,在同一坐标系下,对点云数据进行拼接即可获得完成轮廓的点云数据。
S3、检测:待进行限界检测的轨道车辆通过所述限界检测门,由所述测速单元实时感知当前轨道车辆的车速,并汇报至处理单元;处理单元根据当前车速调整所述轮廓采集仪的测量频率,由所述轮廓采集仪对轨道车辆外部轮廓进行全断面扫描,生成当前轨道车辆的三维点云图。
S4、结果比对:将S3中生成的当前轨道车辆的三维点云图与内建标准限界轮廓数据做比对,判断当前轨道车辆是否超限。
S5、输出结果:根据S4的比对结果,若当前轨道车辆未超限,则发送未超限通知;若当前轨道车辆超限,则发送超限通知,并提供当前轨道车辆的超限参数(超限位置、超限等级、超限数值)。
在第一方面进一步的实施例中,在利用标定结构对搭建完成的全部激光相机模组进行多模组标定之前,还会先核实每个所述激光相机模组的出厂标定结果是否在标定预期范围之内,若出厂标定结果符合标定预期范围,则直接执行所述多模组标定的流程;
若出厂标定结果不符合标定预期范围,则首先利用标定参照物对每个所述激光相机模组依次执行单模组标定,全部所述激光相机模组完成单模组标定后,再执行所述多模组标定的流程。单模组标定的作用是确定锯齿标定块坐标系下三维空间点与像素平面像素点间的转换关系(内外参);并且确定相机成像过程中的畸变系,用于图像矫正。
在第一方面进一步的实施例中,标定参照物包括竖直设立在水平面上的锯齿标定块或含有预定标定图样(如棋盘格)的参照物;标定结构为由多个锯齿标定块搭建而成的框体,所述标定结构的上部及两侧都为首尾相接的锯齿标定块。
在第一方面进一步的实施例中,单模组标定的过程包括:
标定校正:调整所述锯齿标定块的位置,使得所述锯齿标定块与所述激光相机模组发出的线激光位于同一条竖直轴线上;
采集图像:调整所述激光相机模组与所述锯齿标定块之间的距离,在N个不同距离的位置上,采集N幅图像,N≥1;
开始标定:根据直线拟合和直线交点计算公式分别计算出N幅图像的齿峰齿谷特征点在图像坐标系中的位置,再根据齿峰齿谷之间已知的实际尺寸,计算从激光相机模组的像素坐标系转化到锯齿标定块坐标系的转化关系,将所述转化关系数据保存为单模组标定文件。
在第一方面进一步的实施例中,通过对搭建完成的全部所述激光相机模组进行多模组标定,将激光相机模组坐标系转换到标定结构坐标系下:
S2-1、加载全部激光相机模组采集的3D剖面图;
S2-2、提取锯齿的斜边数据,将提取得到的斜边数据拟合成直线,然后计算得到两条斜线的交点,从而得到激光相机模组坐标系下锯齿顶点的3D坐标;
S2-3、根据所述标定结构的物理尺寸得到锯齿点在标定结构坐标系下的3D坐标;
S2-4、计算旋转平移变换矩阵,计算得到从激光相机模组坐标系转到标定结构坐标系的转换关系,将锯齿线从激光相机模组坐标系转换到标定结构坐标系下,使得所述锯齿线和锯齿点吻合在预定范围内;
S2-5、将当前标定参数保存为多模组标定文件,用于后续进行多相机点云拼接。
在第一方面进一步的实施例中,步骤S3进一步包括:
S3-1、从本地加载预定图像的3D模型和步骤S2-5中保存的所述多模组标定文件,对实际采集到的点云数据进行处理,使固定位置的剖面超限,模拟出超限状态,验证限界检测模型是否能检测出超限位置:
若当前构建得到的所述限界检测模型顺利检测出超限位置和超限量,则保存当前限界检测模型作为后续超限检测依据;
若当前构建得到的所述限界检测模型无法检测出超限位置或检测出的超限量偏差值大于预期值,则返回步骤S2重新对激光相机模组执行标定程序;
S3-2、待进行限界检测的轨道车辆通过所述限界检测门,由所述测速单元实时感知当前轨道车辆的车速,并汇报至处理单元;S3-3、利用S3-1中保存的所述限界检测模型生成当前轨道车辆的三维点云图,显示出当前轨道车辆的车体轮廓数据。
在第一方面进一步的实施例中,步骤S4进一步包括:
S4-1、基于步骤S3-3绘制得到的所述三维点云图,计算每个X位置对应的最大Z值的坐标,获取最大轮廓点;
S4-2、判断所有最大轮廓点是否超限:
若全部最大轮廓点未超限,则所有轮廓都不超限;
若任意至少一个最大轮廓点超限,通过当前最大轮廓点超限的X范围,查找的所有剖面是否超限。
在第一方面进一步的实施例中,采用该点的水平射线和区域的交点个数为奇数来判断在闭合区域内;若向右画水平线与所述闭合区域的边有偶数个交点,则当前点在闭合区域外;若向右画水平线与所述闭合区域的边有奇数个交点,则当前点在闭合区域内。
第二方面,提出一种轨道车辆限界检测系统,该轨道车辆限界检测系统可以用来驱动上述第一方面提出的轨道车辆限界检测方法,轨道车辆限界检测系统包括轨边探测设备和轨边机房设备两大部分。
轨边探测设备包括限界检测门,以及安装在所述限界检测门上的轮廓采集仪、接近开关、测速雷达;所述轮廓采集仪包括多个激光相机模组。
轨边机房设备用于与所述轨边探测设备实时通信,所述轨边机房设备包括与所述轮廓采集仪通信连接的车辆限界图像采集系统,以及与所述车辆限界图像采集系统通信连接的处理单元。
处理单元根据当前车速调整所述轮廓采集仪的测量频率,由所述轮廓采集仪对轨道车辆外部轮廓进行全断面扫描,生成当前轨道车辆的三维点云图,将生成的当前轨道车辆的三维点云图与内建标准限界轮廓数据做比对,判断当前轨道车辆是否超限;
所述处理单元根据比对结果,若当前轨道车辆未超限,则发送未超限通知;
若当前轨道车辆超限,则发送超限通知给工作人员,并提供当前轨道车辆的超限参数(超限位置、超限等级、超限数值)。
第三方面,提出一种电子设备,该电子设备包括处理器、存储器、通信接口和通信总线,处理器、所述存储器和所述通信接口通过所述通信总线完成相互间的通信;存储器用于存放至少一可执行指令,所述可执行指令使所述处理器执行如上述第一方面所公开的轨道车辆限界检测方法。
本发明具备以下有益效果:
(1)相比于传统轨道车辆的检测工装,本发明提出的基于三维点云数据的轨道车辆限界检测方法和系统备实现了自动化、无接触、高精度、无损伤的测量要求。
(2)本发明提出的基于三维点云数据的轨道车辆限界检测方法和系统可以实现对不同车型的检测,针对不同车型仅需把当前车型的相关数据录入后台数据库即可,解决了传统检测的局限性。
(3)空间尺寸自动化检测技术具有同时多点测量,实时显示空间几何尺寸等优点,轨道车辆的车体系焊接结构,引用空间尺寸自动化检测技术,能更直观的体现车体焊接过程中的车体尺寸变化,对于检测车体、改善工艺具有很大的帮助。
(4)针对大量数据的车厢数据进行最大轮廓的计算并检测是否超限,在最大轮廓检测超限的基础上进行超限所有剖面的检索,大大提高了检测效率,利用这种针对性的算法,极大的缩短了超限检测算法的时间。
附图说明
图1是基于三维点云数据的轨道车辆限界检测系统的组成示意图。
图2是本发明轨道车辆限界检测方法的流程示意图。
图3是本发明实施例中根据A1型车辆标准限界绘制的限界图。
图4是判断判断最大轮廓是否超限的示意图。
图5是判断判断最大轮廓是否超限的一种优选处理方式示意图。
图6是多激光相机模组标定界面图。
图7是限界检测门的主视图。
图8是限界检测门的俯视图。
图中各附图标记为:基坑1、轨道2、轨道车辆3、第一立架4、第二立架5、一号激光相机模组601、二号激光相机模组602、三号激光相机模组603、四号激光相机模组604、五号激光相机模组605、六号激光相机模组606、接近开关7。
具体实施方式
在下文的描述中,给出了大量具体的细节以便提供对本发明更为彻底的理解。然而,对于本领域技术人员而言显而易见的是,本发明可以无需一个或多个这些细节而得以实施。在其他例子中,为了避免与本发明发生混淆,对于本领域公知的一些技术特征未进行描述。
本实施例提出一种基于三维点云数据的轨道车辆限界检测系统,见图1,该轨道车辆限界检测系统由轨边探测设备和轨边机房设备两大部分组成。
轨边探测设备包括限界检测门、轮廓采集仪、接近开关7、测速单元。轮廓采集仪、接近开关7、测速单元分别安装在限界检测门上。
在本实施例中,轮廓采集仪由多个激光相机模组组成。接近开关7可以选择光电开关,利用光电开关感知物体是否靠近,在此处即用来感知待检测的轨道车辆3是否靠近限界检测门。当列车触发光电开关,系统控制器收到来车信号打开激光相机,待列车经过时采集列车激光轮廓数据。
轨边机房设备用于与轨边探测设备实时通信,轨边机房设备包括与多个激光相机模组通信连接的车辆限界图像采集系统,以及与车辆限界图像采集系统通信连接的处理单元。
激光相机在这里的作用是将结构光投射在被测物体表面,在其表面形成一道光条纹,并在另一侧使用相机拍摄这一光条纹,然后通过相机标定技术与重构技术将光条纹图像二维信息转换为空间三维信息,从而实现物体表面数据的测量。利用激光相机模组即可得到大视野场景下(2m范围)、不同景深列车断面处的外轮廓3D点云数据。
本实施例中,整个测量系统至少需要6个测量模块,因此整个断面的三维尺寸需要将6个激光相机模组的数据统一到一个世界坐标系(标定结构坐标系)中,将整个系统经过事先标定,就可以测量车辆界面上相应个点的空间尺寸。得到测量结果后,将其与测量前输入测量系统的车辆标准尺寸相比较,就可以获得车辆的限界信息。
本实施例中,标定结构为由多个锯齿标定块搭建而成的框体,标定结构的上部及两侧都为首尾相接的锯齿标定块。
需要说明的是,激光相机模组在出厂时可能经过标定,如果标定结果是符合预期的,就不用对每个相机模组执行单独标定,可以直接执行所述多模组标定的流程,从而将激光相机模组坐标系转换到标定结构坐标系下。这里提供一种多模组标定的可行流程:
首先加载全部激光相机模组采集的3D剖面图。接着,提取锯齿的斜边数据,通过最小二乘法拟合直线,然后计算得到两条斜线的交点,从而得到激光相机模组坐标系下锯齿顶点的3D坐标。根据所述标定结构的物理尺寸得到锯齿点在所述标定结构坐标系下的3D坐标。随后计算旋转平移变换矩阵,通过最小二乘法计算得到从激光相机模组坐标系转到标定结构坐标系的转换关系,将锯齿线从激光相机模组坐标系转换到标定结构坐标系下,使得所述锯齿线和锯齿点吻合在预定范围内。将当前标定参数保存为多模组标定文件,用于后续进行多相机点云拼接。
若出厂标定结果不符合标定预期范围,则首先利用标定参照物对每个所述激光相机模组依次执行单模组标定,全部所述激光相机模组完成单模组标定后,再执行所述多模组标定的流程。这里再提供一种针对单个激光相机模组标定的可行流程:
首先,搭建一个移动支架,相机模组架设在单模组标定的移动支架,移动支架可以在导轨上滑动,以调整相对于标定块的距离。调整锯齿标定块的位置,使得锯齿标定块与所述激光相机模组发出的线激光位于同一条竖直轴线上。分别在距离锯齿标定块1800mm、2000mm、2300mm处采集图片,共获得至少三张锯齿图像。根据直线拟合和直线交点计算公式分别计算出上面至少三张锯齿图像的齿峰齿谷特征点在图像坐标系中的位置,再根据齿峰齿谷之间已知的实际尺寸,计算从相机的像素坐标系转化到锯齿标定块坐标系的转化关系,将所述转化关系数据保存为单模组标定文件。
本实施例中,限界检测门的结构如图7(主视图)和图8(俯视图)所示。限界检测门包括基坑1,基坑1上铺设有轨道2,基坑1上还固定有第一立架4和第二立架5,第一立架4和第二立架5分别沿着轨道2中心线相互对称设置。
第一立架4和第二立架5的结构相同,包括固定在所述基坑1上的竖直部,以及焊接在所述竖直部上部、且朝向轨道车辆3弯曲预定弧度的弧形部。第一立架4的竖直部上从低到高分别安装有一号激光相机模组601和二号激光相机模组602;第一立架4的弧形部的末端处安装有三号激光相机模组603;一号激光相机模组601和二号激光相机模组602之间还安装有测速单元;第二立架5的竖直部上从低到高分别安装有六号激光相机模组606和五号激光相机模组605;第二立架5的弧形部的末端处安装有四号激光相机模组604;六号激光相机模组606和五号激光相机模组605之间还安装有接近开关7;
其中,一号激光相机模组601、二号激光相机模组602、五号激光相机模组605、六号激光相机模组606沿各自水平方向投射线激光;三号激光相机模组603和四号激光相机模组604沿预定夹角斜向下投射线激光。
基于上述实施例提出的轨道车辆限界检测系统,下面进一步提出一种基于三维点云数据的轨道车辆3限界检测方法的流程,见图2。轨道车辆3限界检测方法步骤如下:
S1、搭建:在轨道车辆3出库的预定位置处搭建限界检测门,在所述限界检测门上安装轮廓采集仪;所述轮廓采集仪包括多个激光相机模组;所述限界检测门上或所述轨道车辆3出库的预定位置处还安装有接近开关7和测速单元。
S2、标定:利用标定结构对搭建完成的全部所述激光相机模组进行多模组标定;记录所有激光相机模组的当前标定参数,将所述当前标定参数用于后续真实轨道车辆3图像的点云拼接依据。
下面给出一个多模组标定的具体流程:
只要算出变换矩阵,就可以算出A坐标系下的点P在坐标系B里的对应坐标,即:
式中,T为3x3的转换矩阵,t为3x1的位移变换向量,理论上只要3对点,就能计算出
T和t,点对越多,计算出来的转换就越精确。表示B坐标系下的点P,表示A坐标系下的点
P。
逐个的将每个激光相机模组坐标系统一到标定结构的坐标系下,在同一坐标系下,对点云数据进行简单累加即可获得完成轮廓的点云数据。
采用自制的标定结构,对多激光相机模组坐标系进行统一,标定结构为由多个锯齿标定块搭建而成的框体,所述标定结构的上部及两侧都为首尾相接的锯齿标定块。将标定结构放在轨道2中间,并在相机的视野内,6个激光相机模组和标定结构调平,接着每个相机单独采集3D图像并保存,采集完毕后开始标定流程,标定界面见图6。
加载相机剖面图:加载相机采集的3D剖面图。
提取锯齿点:提取锯齿的斜边数据,通过最小二乘法拟合直线,然后计算得到两条斜线的交点,从而得到激光相机模组坐标系下锯齿顶点的3D坐标。
导入目标点文件:根据标定结构物理尺寸得到锯齿点在标定结构坐标系(包络线坐标系)下的3D坐标。
计算旋转平移变换矩阵:通过最小二乘法计算得到就从激光相机模组坐标系转到标定结构坐标系的转换关系。
旋转平移变换:将锯齿线从激光相机模组坐标系转换到标定结构坐标系下,基本和锯齿点吻合。
保存标定文件:保存标定文件,用于后续进行多相机点云拼接。
逐个相机重复执行:由于每个相机都是单独标定,这种方式从降低了两两相机标定的累计误差。
智能3D相机排号如图7所示。排列命名方式是从左下到左上,再从右上到右下。依次为“1号相机”,“2号相机”,“3号相机”,“4号相机”,“5号相机”,“6号相机”。
设备的IP地址已固定,不会改动。各相机的主机IP地址已按下表配置完成。如果有需要拔下网线,在插网线的时候一定要插回原来的网口位置,否则会出现无法连接相机的情况。
表1:各激光相机模组通信地址表
设备编号或名称 | 主机网口IP地址 | 设备IP地址 |
1号相机 | 192.168.1.100 | 192.168.1.101 |
2号相机 | 192.168.2.100 | 192.168.2.101 |
3号相机 | 192.168.3.100 | 192.168.3.101 |
4号相机 | 192.168.4.100 | 192.168.4.101 |
5号相机 | 192.168.5.100 | 192.168.5.101 |
6号相机 | 192.168.6.100 | 192.168.6.101 |
除了上述标定的注意事项,整个标定过程还有很多地方要值得注意:
(1)标定结构的锯齿块保证干净、水平,否则将影响标定精度,注意防潮防水。
(2)标定结构需要静止采图,以免带来标定误差。
(3)标定过程中IP号、模组编号要一一对应,参考上面的表格,切不可弄错编号,数据对应错误。
下面给出一个旋转平移变换矩阵的可行方案:
根据齿峰齿谷特征点在激光相机模组坐标系下坐标值:
(-1116.4,0,-1291.93);
(-968.098,0,-1357.08);
(-733.922,0,1668.96);
(-668.07,0,-1364.39);
(-516.348,0,-1306.55);
(-368.043,0,-1371.7);
(-216.32,0,-1313.86);
(-68.0148,0,-1379.01);
(83.7075,0,-1321.17);
(232.013,0,-1386.32);
(383.735,0,-1328.48);
(532.041,0,-1393.63);
齿峰齿谷在标定结构坐标系(标定结构坐标系)下的坐标:
(-1485.1,0,375);
(-1546.1,0,525);
(-1484.1,0,675);
(-1545.1,0,825);
(-1483.1,0,975);
(-1544.1,0,1125);
(-1482.1,0,1275);
(-1543.1,0,1425);
(-1481.1,0,1575);
(-1542.1,0,1725);
(-1480.1,0,1875);
(-1541.1,0,2025);
根据如下公式计算得出R和t矩阵:
其中,;
在检测时会将每个相机采集到的物体轮廓点云,通过R和t转换矩阵,从激光相机模组坐标系统一到标定结构的坐标系下,在同一坐标系下,对点云数据进行拼接完成轮廓的点云数据。
作为一个优选方案,在利用标定结构对搭建完成的全部激光相机模组进行多模组标定之前,还会先核实每个所述激光相机模组的出厂标定结果是否在标定预期范围之内,若出厂标定结果符合标定预期范围,则直接执行所述多模组标定的流程;若出厂标定结果不符合标定预期范围,则首先利用标定参照物对每个所述激光相机模组依次执行单模组标定,全部所述激光相机模组完成单模组标定后,再执行所述多模组标定的流程。单模组标定的作用是确定锯齿标定块坐标系下三维空间点与像素平面像素点间的转换关系(内外参);并且确定相机成像过程中的畸变系,用于图像矫正。
下面给出一个单模组标定的流程:
调整所述锯齿标定块的位置,使得所述锯齿标定块与所述激光相机模组发出的线激光位于同一条竖直轴线上,调整所述激光相机模组与所述锯齿标定块之间的距离,分别在激光相机模组距离所述锯齿标定块1800mm,2000mm, 2300mm处采集一张锯齿图像;
激光光源投射到物体的表面,相机的镜头和激光成一定的角度,生成物体表面的轮廓线。激光投射到锯齿标定块上,相机拍照可以得到锯齿图像,根据直线拟合(Ransac算法和最小二乘法)和直线交点计算公式计算出齿峰齿谷特征点在图像坐标系中位置,再根据齿峰齿谷之间已知的实际尺寸,计算出旋转平移变换矩阵即激光相机模组坐标系与标定结构坐标系转换矩阵。
S3、检测:待进行限界检测的轨道车辆3通过所述限界检测门,由所述测速单元实时感知当前轨道车辆3的车速,并汇报至处理单元;所述处理单元根据当前车速调整所述轮廓采集仪的测量频率。如果轮廓采集仪的测量频率是恒定不变的话,随着车速的变化,导致采集间隔就会发生相应变化,因此可以实时调整轮廓采集仪的测量频率,来适应车速的变化,保证采样分辨率/采样间隔一致。由所述轮廓采集仪对轨道车辆3外部轮廓进行全断面扫描,生成当前轨道车辆3的三维点云图,根据所述三维点云数据绘制出当前轨道车辆3的车体轮廓数据。
S3-1、根据当前型号的轨道车辆3的限界标准绘制出标准直线限界,构建坐标系,并标注出各关键控制点的坐标;
S3-2、从本地加载预定图像的3D模型和步骤S2-5中保存的所述多模组标定文件,对实际采集到的点云数据进行处理,使固定位置的剖面超限,模拟出超限状态,验证限界检测模型是否能顺利检测出超限位置:
若当前构建得到的所述限界检测模型顺利检测出超限位置和超限量,则保存当前限界检测模型作为后续超限检测依据;
若当前构建得到的所述限界检测模型无法检测出超限位置或检测出的超限量偏差值大于预期值,则返回步骤S3重新对激光相机模组执行标定程序;
S3-3、待进行限界检测的轨道车辆3通过所述限界检测门,由所述测速单元实时感知当前轨道车辆3的车速,并汇报至处理单元;
S3-4、所述处理单元根据当前车速调整所述轮廓采集仪的测量频率,由所述轮廓采集仪对轨道车辆3外部轮廓进行全断面扫描;
S3-5、利用S3-2中保存的所述限界检测模型生成当前轨道车辆3的三维点云图,所述三维点云图显示在步骤S3-1构建得到的坐标系上,显示出当前轨道车辆3的车体轮廓数据。
下面结合实际案例给出一个超限检测的可行方案:
首先根据地铁限界标准绘制直线限界,以A1型车辆为例,A1型车车辆限界、设备限界见图3:
取其中的侧面限界,并将坐标补全。
A1型车车辆限界坐标值见表2:
表2:A1型车车辆限界坐标值(mm)
绘制出标准直线限界之后,从本地加载3D模型和标定文件,对原始点进行处理,使固定位置的剖面超限,用于后续检测。
检测原理如下:获取最大的轮廓,见图4,判断最大轮廓是否超限:若最大轮廓未超限,则所有轮廓都不超限;若最大轮廓超限,通过最大轮廓超限的x范围,查找的所有剖面是否超限。
图4中可见,外框线条为限界。内框线条为当前超限检测的列车的最大轮廓线,该最大轮廓由若干个点集组成。通过判断该点集中每个点x值和闭合区域边界来判断是否超限,若少于n个点在闭合区域外则说明没有超限,如果至少n个点在闭合区域外则说明超限。
由于限界范围上半部分比下半部分大,如果栅格化的一个x会对应多个Y值,对后续处理不方便,目前采用该点的水平射线和区域的交点个数为奇数来判断在闭合区域内,见图5。
闭合区域如图5中灰色阴影部分,该点如图5中任意一点(0,1,2,3,4,5);对应到算法中闭合区域指列车的限界范围如图4中的外框区域,该点指图4点集中的一点(扫描出来的轮廓线)。
如图中点0,向右画水平线与灰色闭合区域的边有0个交点(偶数)说明在闭合区域外;
如图中点1,向右画水平线与灰色闭合区域边有一个交点(奇数),则点1在闭合区域内。
S4、结果比对:将S3中生成的当前轨道车辆3的车体轮廓数据与内建标准限界轮廓数据做比对,判断当前轨道车辆3是否超限。
S5、输出结果:根据S4的比对结果,若当前轨道车辆3未超限,则保存当前检测结果,下达允许放行结果;若当前轨道车辆3超限,则保存当前检测结果,并提供当前轨道车辆3的超限位置、超限等级、超限数值。
综上所述,本发明提出的一种应对于轨道车辆3限界检测的技术方案,采用激光传感器、接近开关7及视觉传感器技术,对车辆断面/轮廓进行快速精确的检测。自动将扫描结果与预先保存在数据库内的标准限界数据进行比较,如果有物体侵入限界,系统发出报警,同时检测的结果予以保存。实现各类型地铁车辆限界检测数据的采集(选配图片采集)、分析、处理、传输、打印,并快速给出相应的检测结果的功能。列车通过时,系统自动对被测车辆外部轮廓进行全断面扫描,形成三维点云图(车辆轮廓图);通过车号识别系统自动识别车型,并调取系统中预先储存的被测车辆标准限界数据作对比,实时自动检测车辆是否超限,对于超限车辆,提供超限的位置、超限等级、超限数值等。
如上所述,尽管参照特定的优选实施例已经表示和表述了本发明,但其不得解释为对本发明自身的限制。在不脱离所附权利要求定义的本发明的精神和范围前提下,可对其在形式上和细节上做出各种变化。
Claims (10)
1.基于三维点云数据的轨道车辆限界检测方法,其特征在于,包括如下步骤:
S1、搭建:在轨道车辆出库的预定位置处搭建限界检测门,在所述限界检测门上安装轮廓采集仪;所述轮廓采集仪包括多个激光相机模组;所述限界检测门上或所述轨道车辆出库的预定位置处还安装有接近开关和测速单元;
S2、标定:利用标定结构对搭建完成的全部所述激光相机模组进行多模组标定;
记录所有激光相机模组的当前标定参数,将所述当前标定参数用于后续真实轨道车辆图像的点云拼接依据;
S3、检测:待进行限界检测的轨道车辆通过所述限界检测门,由所述测速单元实时感知当前轨道车辆的车速,并汇报至处理单元;
由所述轮廓采集仪对轨道车辆外部轮廓进行全断面扫描,生成当前轨道车辆的三维点云图;
S4、结果比对:将S3中生成的当前轨道车辆的三维点云图与内建标准限界轮廓数据做比对,判断当前轨道车辆是否超限;
S5、输出结果:根据S4的比对结果,若当前轨道车辆未超限,则发送未超限通知;
若当前轨道车辆超限,则发送超限通知,并提供当前轨道车辆的超限参数。
2.根据权利要求1所述的轨道车辆限界检测方法,其特征在于,在步骤S2中利用标定结构对搭建完成的全部激光相机模组进行多模组标定之前,还包括:
核实每个所述激光相机模组的出厂标定结果是否在标定预期范围之内,若出厂标定结果符合标定预期范围,则直接执行所述多模组标定的流程;
若出厂标定结果不符合标定预期范围,则首先利用标定参照物对每个所述激光相机模组依次执行单模组标定,全部所述激光相机模组完成单模组标定后,再执行所述多模组标定的流程。
3.根据权利要求2所述的轨道车辆限界检测方法,其特征在于,所述标定参照物包括竖直设立在水平面上的锯齿标定块或含有预定标定图样的参照物;
所述标定结构为由多个锯齿标定块搭建而成的框体,所述标定结构的上部及两侧都为首尾相接的锯齿标定块。
4.根据权利要求3所述的轨道车辆限界检测方法,其特征在于,所述单模组标定的过程包括:
标定校正:调整所述锯齿标定块的位置,使得所述锯齿标定块与所述激光相机模组发出的线激光位于同一条竖直轴线上;
采集图像:调整所述激光相机模组与所述锯齿标定块之间的距离,在N个不同距离的位置上,采集N幅图像,N≥1;
开始标定:根据直线拟合和直线交点计算公式分别计算出N幅图像的齿峰齿谷特征点在图像坐标系中的位置,再根据齿峰齿谷之间已知的实际尺寸,计算从激光相机模组的像素坐标系转化到锯齿标定块坐标系的转化关系,将所述转化关系数据保存为单模组标定文件。
5.根据权利要求2所述的轨道车辆限界检测方法,其特征在于,通过对搭建完成的全部所述激光相机模组进行多模组标定,将激光相机模组坐标系转换到标定结构坐标系下:
S2-1、加载全部激光相机模组采集的3D剖面图;
S2-2、提取锯齿的斜边数据,将提取得到的斜边数据拟合成直线,然后计算得到两条斜线的交点,从而得到激光相机模组坐标系下锯齿顶点的3D坐标;
S2-3、根据所述标定结构的物理尺寸得到锯齿点在标定结构坐标系下的3D坐标;
S2-4、计算旋转平移变换矩阵,计算得到从激光相机模组坐标系转到标定结构坐标系的转换关系,将锯齿线从激光相机模组坐标系转换到标定结构坐标系下,使得所述锯齿线和锯齿点吻合在预定范围内;
S2-5、将当前标定参数保存为多模组标定文件,用于后续进行多相机点云拼接。
6.根据权利要求5所述的轨道车辆限界检测方法,其特征在于,步骤S3进一步包括:
S3-1、从本地加载预定图像的3D模型和步骤S2-5中保存的所述多模组标定文件,对实际采集到的点云数据进行处理,使固定位置的剖面超限,模拟出超限状态,验证限界检测模型是否能检测出超限位置:
若当前构建得到的所述限界检测模型顺利检测出超限位置和超限量,则保存当前限界检测模型作为后续超限检测依据;
若当前构建得到的所述限界检测模型无法检测出超限位置或检测出的超限量偏差值大于预期值,则返回步骤S2重新对激光相机模组执行标定程序;
S3-2、待进行限界检测的轨道车辆通过所述限界检测门,由所述测速单元实时感知当前轨道车辆的车速,并汇报至处理单元;
S3-3、利用S3-1中保存的所述限界检测模型生成当前轨道车辆的三维点云图,显示出当前轨道车辆的车体轮廓数据。
7.根据权利要求6所述的轨道车辆限界检测方法,其特征在于,步骤S4进一步包括:
S4-1、基于步骤S3-3绘制得到的所述三维点云图,计算X轴上每个轮廓点对应的最大Z值的坐标,获取最大轮廓点;
S4-2、判断所有最大轮廓点是否超限:
若全部最大轮廓点未超限,则所有轮廓都不超限;
若任意至少一个最大轮廓点超限,通过当前最大轮廓点在X轴上超限的范围,查找的所有剖面是否超限。
8.根据权利要求7所述的轨道车辆限界检测方法,其特征在于,采用该点的水平射线和区域的交点个数为奇数来判断在闭合区域内;
若向右画水平线与所述闭合区域的边有偶数个交点,则当前点在闭合区域外;
若向右画水平线与所述闭合区域的边有奇数个交点,则当前点在闭合区域内。
9.一种轨道车辆限界检测系统,用于执行如权利要求1至8中任一项所述的轨道车辆限界检测方法,其特征在于,所述轨道车辆限界检测系统包括:
轨边探测设备;所述轨边探测设备包括限界检测门,以及安装在所述限界检测门上的轮廓采集仪、接近开关、测速单元;所述轮廓采集仪包括多个激光相机模组;
轨边机房设备;所述轨边机房设备用于与所述轨边探测设备实时通信,所述轨边机房设备包括与所述轮廓采集仪通信连接的车辆限界图像采集系统,以及与所述车辆限界图像采集系统通信连接的处理单元;
由所述轮廓采集仪对轨道车辆外部轮廓进行全断面扫描,生成当前轨道车辆的三维点云图,将生成的当前轨道车辆的三维点云图与内建标准限界轮廓数据做比对,判断当前轨道车辆是否超限;
所述处理单元根据比对结果,若当前轨道车辆未超限,则发送未超限通知;
若当前轨道车辆超限,则发送超限通知,并提供当前轨道车辆的超限参数。
10.一种电子设备,其特征在于,包括:处理器、存储器、通信接口和通信总线,所述处理器、所述存储器和所述通信接口通过所述通信总线完成相互间的通信;
所述存储器用于存放至少一可执行指令,所述可执行指令使所述处理器执行如权利要求1至8任意一项所述的轨道车辆限界检测方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311139839.9A CN116878419B (zh) | 2023-09-06 | 2023-09-06 | 基于三维点云数据的轨道车辆限界检测方法、系统及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311139839.9A CN116878419B (zh) | 2023-09-06 | 2023-09-06 | 基于三维点云数据的轨道车辆限界检测方法、系统及电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN116878419A true CN116878419A (zh) | 2023-10-13 |
CN116878419B CN116878419B (zh) | 2023-12-01 |
Family
ID=88271870
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311139839.9A Active CN116878419B (zh) | 2023-09-06 | 2023-09-06 | 基于三维点云数据的轨道车辆限界检测方法、系统及电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116878419B (zh) |
Citations (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US3610754A (en) * | 1967-11-24 | 1971-10-05 | Centre Nat Rech Metall | Method for determining distances |
CN1566906A (zh) * | 2003-06-11 | 2005-01-19 | 北京航空航天大学 | 一种基于平面靶标的结构光视觉传感器标定方法 |
KR100800554B1 (ko) * | 2007-07-03 | 2008-02-04 | (주)지에스엠솔루션 | 이동형 사진측량 시스템에서의 레이저 스캐너와 카메라영상정보를 이용한 3차원 모델링 방법 |
WO2010057169A2 (en) * | 2008-11-17 | 2010-05-20 | Faro Technologies, Inc. | Device and method for measuring six degrees of freedom |
JP2012002564A (ja) * | 2010-06-15 | 2012-01-05 | Seiko Epson Corp | 三次元形状計測装置、三次元形状計測装置のキャリブレーション方法、およびロボット装置 |
WO2012167386A1 (en) * | 2011-06-10 | 2012-12-13 | Hermary Opto Electronics Inc. | 3d machine vision scanning information extraction system |
US20130287248A1 (en) * | 2012-04-26 | 2013-10-31 | General Electric Company | Real-time video tracking system |
CN104567727A (zh) * | 2014-12-24 | 2015-04-29 | 天津大学 | 立体靶标及对线结构光轮廓传感器的全局统一校准方法 |
CN105467017A (zh) * | 2015-12-30 | 2016-04-06 | 成都佳信电气工程技术公司 | 在线色谱仪标定用标准油配制装置 |
CN108759714A (zh) * | 2018-05-22 | 2018-11-06 | 华中科技大学 | 一种多线激光轮廓传感器坐标系融合及转轴标定方法 |
CN108981604A (zh) * | 2018-07-11 | 2018-12-11 | 天津工业大学 | 一种基于线激光的精密零件三维全貌测量方法 |
CN110095061A (zh) * | 2019-03-31 | 2019-08-06 | 唐山百川智能机器股份有限公司 | 基于轮廓扫描的车辆形位检测系统及方法 |
CN110473260A (zh) * | 2019-06-28 | 2019-11-19 | 国家海洋技术中心 | 一种波浪视频测量装置及方法 |
CN112432610A (zh) * | 2020-12-01 | 2021-03-02 | 株洲中车特种装备科技有限公司 | 一种列车限界检测装置及检测方法 |
CN113776454A (zh) * | 2021-08-20 | 2021-12-10 | 国家电投集团远达环保装备制造有限公司 | 限界检测系统及限界检测方法 |
CN115187676A (zh) * | 2022-08-03 | 2022-10-14 | 重庆中科摇橹船信息科技有限公司 | 一种高精度线激光三维重建标定方法 |
CN115393442A (zh) * | 2022-03-02 | 2022-11-25 | 深圳市深视智能科技有限公司 | 一种三维相机的标定方法、装置及标定系统 |
-
2023
- 2023-09-06 CN CN202311139839.9A patent/CN116878419B/zh active Active
Patent Citations (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US3610754A (en) * | 1967-11-24 | 1971-10-05 | Centre Nat Rech Metall | Method for determining distances |
CN1566906A (zh) * | 2003-06-11 | 2005-01-19 | 北京航空航天大学 | 一种基于平面靶标的结构光视觉传感器标定方法 |
KR100800554B1 (ko) * | 2007-07-03 | 2008-02-04 | (주)지에스엠솔루션 | 이동형 사진측량 시스템에서의 레이저 스캐너와 카메라영상정보를 이용한 3차원 모델링 방법 |
WO2010057169A2 (en) * | 2008-11-17 | 2010-05-20 | Faro Technologies, Inc. | Device and method for measuring six degrees of freedom |
JP2012002564A (ja) * | 2010-06-15 | 2012-01-05 | Seiko Epson Corp | 三次元形状計測装置、三次元形状計測装置のキャリブレーション方法、およびロボット装置 |
WO2012167386A1 (en) * | 2011-06-10 | 2012-12-13 | Hermary Opto Electronics Inc. | 3d machine vision scanning information extraction system |
US20130287248A1 (en) * | 2012-04-26 | 2013-10-31 | General Electric Company | Real-time video tracking system |
CN104567727A (zh) * | 2014-12-24 | 2015-04-29 | 天津大学 | 立体靶标及对线结构光轮廓传感器的全局统一校准方法 |
CN105467017A (zh) * | 2015-12-30 | 2016-04-06 | 成都佳信电气工程技术公司 | 在线色谱仪标定用标准油配制装置 |
CN108759714A (zh) * | 2018-05-22 | 2018-11-06 | 华中科技大学 | 一种多线激光轮廓传感器坐标系融合及转轴标定方法 |
CN108981604A (zh) * | 2018-07-11 | 2018-12-11 | 天津工业大学 | 一种基于线激光的精密零件三维全貌测量方法 |
CN110095061A (zh) * | 2019-03-31 | 2019-08-06 | 唐山百川智能机器股份有限公司 | 基于轮廓扫描的车辆形位检测系统及方法 |
CN110473260A (zh) * | 2019-06-28 | 2019-11-19 | 国家海洋技术中心 | 一种波浪视频测量装置及方法 |
CN112432610A (zh) * | 2020-12-01 | 2021-03-02 | 株洲中车特种装备科技有限公司 | 一种列车限界检测装置及检测方法 |
CN113776454A (zh) * | 2021-08-20 | 2021-12-10 | 国家电投集团远达环保装备制造有限公司 | 限界检测系统及限界检测方法 |
CN115393442A (zh) * | 2022-03-02 | 2022-11-25 | 深圳市深视智能科技有限公司 | 一种三维相机的标定方法、装置及标定系统 |
CN115187676A (zh) * | 2022-08-03 | 2022-10-14 | 重庆中科摇橹船信息科技有限公司 | 一种高精度线激光三维重建标定方法 |
Non-Patent Citations (5)
Title |
---|
张维光;赵宏;张琦;周翔;: "线结构光三维轮廓测量系统的标定方法", 中国激光, no. 01 * |
王从军;江舜妹;李中伟;: "关节式坐标测量机激光测量头参数标定", 光电工程, no. 07 * |
王春梅;陈丽;: "一种线结构光视觉测量现场标定方法", 机床与液压, no. 22 * |
王贤煜;何平安;: "线结构光检测车体空间尺寸的标定方法研究", 光学与光电技术, no. 03 * |
蔡文泽;田爱玲;刘丙才;王红军;陈桦;: "一种光刀式义齿三维轮廓测量系统标定方法", 西安工业大学学报, no. 08 * |
Also Published As
Publication number | Publication date |
---|---|
CN116878419B (zh) | 2023-12-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111473739B (zh) | 一种基于视频监控的隧道塌方区围岩变形实时监测方法 | |
CN107764205B (zh) | 基于线结构光扫描高频电阻焊焊缝形貌三维检测装置及检测方法 | |
CN101526336B (zh) | 基于量块的线结构光三维视觉传感器标定方法 | |
CN102003938B (zh) | 大型高温锻件热态在位检测方法 | |
CN110230998B (zh) | 基于线激光和双目相机的快速精密三维测量方法和装置 | |
CN104990515B (zh) | 大型物体三维形状测量系统及其测量方法 | |
CN110517315B (zh) | 一种图像式铁路路基表面沉降高精度在线监测系统及方法 | |
Luo et al. | A simple calibration procedure for structured light system | |
CN111161358B (zh) | 一种用于结构光深度测量的相机标定方法和装置 | |
CN107869954B (zh) | 一种双目视觉体积重量测量系统及其实现方法 | |
CN107504917B (zh) | 一种三维尺寸测量方法及装置 | |
CN109920009B (zh) | 基于二维码标识的控制点检测与管理方法及装置 | |
CN113074660B (zh) | 一种大尺寸透明物体的面型测量方法 | |
CN109682303A (zh) | 基于bim技术的曲线pc轨道梁精密三维检测方法 | |
CN110926373A (zh) | 铁路异物检测场景下结构光光平面标定方法及其系统 | |
CN106441234B (zh) | 一种3d机器视觉空间检测标定方法 | |
CN111780678A (zh) | 一种轨道板预埋套管直径的测量方法 | |
CN115965743A (zh) | 一种基于vr和倾斜摄影收集数据的三维建模系统及方法 | |
CN111508020A (zh) | 融合图像与激光雷达的电缆三维位置计算方法、装置 | |
Yan et al. | Multi-line laser structured light fast visual positioning system with assist of TOF and CAD | |
CN113776462A (zh) | 基于数字图像的高铁无咋轨道承轨台三维形貌检测方法 | |
CN116878419B (zh) | 基于三维点云数据的轨道车辆限界检测方法、系统及电子设备 | |
CN105096314A (zh) | 基于二值网格模板的结构光动态场景深度获取方法 | |
CN116858139A (zh) | 基于双目视觉的金属结构平面度测量方法 | |
EP3855397A1 (en) | Imaging system |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |