CN110942107B - 基于零件工程图像的复合磨削加工特征自动识别方法 - Google Patents
基于零件工程图像的复合磨削加工特征自动识别方法 Download PDFInfo
- Publication number
- CN110942107B CN110942107B CN201911288303.7A CN201911288303A CN110942107B CN 110942107 B CN110942107 B CN 110942107B CN 201911288303 A CN201911288303 A CN 201911288303A CN 110942107 B CN110942107 B CN 110942107B
- Authority
- CN
- China
- Prior art keywords
- feature
- corner
- internal
- contour
- geometric
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 76
- 239000002131 composite material Substances 0.000 title claims abstract description 43
- 238000012545 processing Methods 0.000 title claims abstract description 35
- 238000000227 grinding Methods 0.000 title claims abstract description 23
- 238000000605 extraction Methods 0.000 claims abstract description 86
- 238000004519 manufacturing process Methods 0.000 claims abstract description 15
- 238000003754 machining Methods 0.000 claims description 27
- 240000004282 Grewia occidentalis Species 0.000 claims description 19
- 230000000877 morphologic effect Effects 0.000 claims description 11
- 238000007781 pre-processing Methods 0.000 claims description 10
- 239000007787 solid Substances 0.000 claims description 9
- 238000012549 training Methods 0.000 claims description 9
- 238000011176 pooling Methods 0.000 claims description 8
- 230000011218 segmentation Effects 0.000 claims description 8
- 238000001514 detection method Methods 0.000 claims description 7
- 238000006243 chemical reaction Methods 0.000 claims description 6
- 238000004458 analytical method Methods 0.000 claims description 5
- 238000001914 filtration Methods 0.000 claims description 4
- 238000009499 grossing Methods 0.000 claims description 4
- 230000010339 dilation Effects 0.000 claims description 3
- 230000003628 erosive effect Effects 0.000 claims description 3
- 230000001131 transforming effect Effects 0.000 claims description 2
- 238000012163 sequencing technique Methods 0.000 claims 1
- 238000005516 engineering process Methods 0.000 abstract description 9
- 238000011161 development Methods 0.000 abstract description 4
- 238000013527 convolutional neural network Methods 0.000 description 17
- 238000010586 diagram Methods 0.000 description 5
- 230000018109 developmental process Effects 0.000 description 3
- 238000011160 research Methods 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 2
- 150000001875 compounds Chemical class 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 238000012512 characterization method Methods 0.000 description 1
- 238000013329 compounding Methods 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000005260 corrosion Methods 0.000 description 1
- 230000007797 corrosion Effects 0.000 description 1
- 238000005520 cutting process Methods 0.000 description 1
- 238000013100 final test Methods 0.000 description 1
- 238000003801 milling Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000007514 turning Methods 0.000 description 1
- 238000010200 validation analysis Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/12—Edge-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/13—Edge detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/44—Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30108—Industrial image inspection
- G06T2207/30164—Workpiece; Machine component
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
- Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
- Y02P90/30—Computing systems specially adapted for manufacturing
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Data Mining & Analysis (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Computation (AREA)
- Computing Systems (AREA)
- Biomedical Technology (AREA)
- General Health & Medical Sciences (AREA)
- Computational Linguistics (AREA)
- Biophysics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Molecular Biology (AREA)
- Health & Medical Sciences (AREA)
- Quality & Reliability (AREA)
- Multimedia (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了一种基于零件工程图像的复合磨削加工特征自动识别方法,包括几何轮廓提取和工艺特征匹配两个主体步骤。其中外部特征和内部特征分别用实线线框和虚线线框表示,将几何轮廓提取划分为两个阶段,解决了自动特征识别技术中普遍存在的相交特征自动识别的难题。特征几何轮廓提取基于边界跟踪算法,得到由四个角点像素表示的每个特征的有效轮廓,其中利用CNN分类器对零件进行有无内部特征的分类,最后根据几何信息依次进行多种制造特征的有效自动识别。本发明不依赖于任何CAD工具或数据交换标准,可以自动提取多种典型复合磨削加工特征,保证较高的像素级精度,基于本发明的开发应用更加轻量化并且便于移植。
Description
技术领域
本发明涉及一种加工特征识别方法,特别涉及一种磨削加工特征自动识别方法,应用于数控加工编程领域以及图像技术处理领域。
背景技术
基于特征的数控编程技术是数控编程发展的趋势,被称为下一代数控编程技术。该技术主要包含加工特征自动识别、工艺快速决策和特征自动加工3项关键技术。加工特征识别技术的主要内容是基于实体建模内核构建加工特征知识库,对CAD软件输出不同格式的实体模型进行特征快速识别,识别的结果是有工程意义的加工特征,此数据构成CAD与CAPP之间的智能接口,对于下游应用程序,即工艺计划生成、NC代码生成等是必需的。在特征识别过程中,可融入企业知识和行业规范,自行定制加工特征。
当前加工特征自动识别的研究方向主要有两种,基于CAD图形和数字图像。图形应用需要借助CAD模型进行工作,并依赖于CAD平台以及数据交换标准,比如从IGES、DXF、STEP等标准格式中提取几何数据,目前已经比较成熟和稳健,但由于原生平台和格式约束导致应用体系庞大并且应用扩展困难;图像应用有更高的灵活性和更广泛的适用场景,目前有部分研究致力于从数字图像中提取几何数据,生成连续刀具路径,但也仅适用于车、铣、雕刻、线切割等外形轮廓加工场合,对于复杂零件或存在交错特征的零件尚未能找到合理特征识别方法。
回转体零件在制造业中广泛应用,复合磨削中心通常作为此类复杂旋转零件精加工的机床,但由于其形状复杂并且内、外表面磨削特征在线框图中形成相交轮廓,因此自动特征识别比较困难,成为亟待解决的技术问题。
发明内容
为了解决现有技术问题,本发明的目的在于提供一种基于零件工程图像的复合磨削加工特征自动识别方法,能够适用于复杂零件的应用场景,并在CNN分类器的协助下将无效操作排除,能够高效灵活地识别复杂回转件的典型特征。利用这个技术实现自动编程系统,体系更加轻量化并且便于移植,对于多种实际生产应用场景都是非常有启发意义的。
为达到上述目的,本发明采用如下发明创造构思:
图像是由加工行业采集到的,从CAD软件的二维线框图形中导出回转零件工程图的高清数字图像,其中外部特征和内部特征分别用实线和虚线表示,为区分两类相交特征提供了条件,该方法利用多种灵活的数字图像处理手段并通过CNN分类器的协助,比较好地攻克了复杂回转件复合磨削加工特征自动识别的难点。
根据上述构思,本发明采用以下技术方案:
一种基于零件工程图像的复合磨削加工特征自动识别方法,包括几何轮廓提取和工艺特征匹配两个主体步骤,其中根据图像,将几何轮廓提取分为外部特征轮廓提取和内部特征轮廓提取分为两个阶段,并在对应的几何轮廓提取阶段中,通过处理使其中一个阶段满足几何轮廓提取算法的输入要求,并自动排除另一阶段的干扰;外部特征轮廓提取或内部特征轮廓提取是通过边界跟踪算法,得到由四个角点像素表示的每个特征的有效轮廓,其中利用CNN分类器,对零件进行有无内部特征的分类;若不存在内部特征,则在外部特征轮廓提取后,省去了形态预处理和内部特征轮廓提取步骤;最后根据几何信息依次进行工艺特征匹配,从而实现复杂回转零件典型特征的自动识别;所述复杂回转零件典型特征包括外圆、内孔、锥面、锥孔、端面、轴肩复合特征和偏心圆制造特征;所述基于零件工程图像的复合磨削加工特征自动识别方法操作步骤如下:
a.外部特征轮廓提取:
采用几何轮廓提取算法进行外部特征轮廓提取,设置几何轮廓提取算法的输入条件为当前需提取的任一特征都能够以实线线框表示,对原始图像进行灰度处理和阈值分割,完成外部特征轮廓提取的预处理过程,每一个外部特征满足几何轮廓提取的条件,得到二值图像;然后采用Suzuki边界跟踪算法,对二值图像进行拓扑分析处理,每个有效外部特征分别被识别到一个外边界和孔边界,两个边界之间的距离为制图线框像素宽度ε,计算外边界和孔边界的中间尺寸,得到每个外部特征的有效轮廓,并采用几何信息用轮廓的四个角像素表示;
b.利用CNN分类器对零件进行有无内部特征的分类:
通过整理好的工件图像数据,经过类型标记,利用工件图像和标记好的数据训练7层的CNN模型:包括卷积层1、池化层1、卷积层2、池化层2、全连接层1、全连接层2、全连接层3,训练完毕后,输出该工件属于无内部特征和有内部特征的概率;
c.内部特征轮廓提取预处理:
如果CNN分类器确定存在内部特征,则进行内部特征的几何轮廓提取,在此之前需要进行一次预处理,因为此时只需要内部特征,因此首先用背景色填充外部特征;由于虚线或开放形式的内部特征不能直接用于特征提取,继而采用形态学的方法,将内部特征的虚线框转换为实线框;最后,利用Harris角点检测算法,识别出的开放轮廓的角点,对内部特征线框进行封闭,达成任一内部特征都能够以实线线框表示的几何轮廓提取条件,完成内部特征轮廓提取预处理;
d.内部特征轮廓提取:
经过二次预处理后的图像的任一内部特征满足几何轮廓提取算法的输入要求,接下来内部特征的几何轮廓提取过程和所述外部特征轮廓提取过程相同,同样得到每个内部特征的有效轮廓,几何信息也采用轮廓的四个角像素表示;
e.工艺特征匹配:
当前每个几何特征都得到了用四角像素表示的有效轮廓,根据制图比例,通过角点像素的位置计算特征的多种几何属性,得到每个特征轮廓的形状、尺寸和多个特征轮廓之间的位置关系,根据每个轮廓的锥度、偏心距几何参数,进行匹配外圆、内孔、锥面、锥孔、端面、轴肩和偏心圆多种制造特征,进行复杂轴类复合磨削加工特征自动识别,从零件的实体模型中抽取出具有特定工程意义的工艺特征。
作为本发明优选的技术方案,在所述步骤a和所述步骤d中,采用Suzuki边界跟踪算法时,通过设置面积阈值Minarea过滤掉多余边界,排除随机噪声,输出结果仅保留每个有效特征的外边界和孔边界,得到有效的外部特征轮廓或内部特征轮廓。
作为本发明优选的技术方案,在所述步骤c中,利用形态学方法处理将虚线框转化为实线框,其中在膨胀操作和腐蚀操作之间插入用于平滑边界的均值滤波和用于提高边界清晰度的阈值分割;其次考虑到内部特征和外部特征存在相交或者轮廓相连的情况,在采用背景色填充外部特征时,防止产生开放式的内部特征轮廓,采用Harris角点检测算法,识别出轮廓的A角点像素集,将A角点像素集的所有元素沿列像素方向向轮廓外侧偏移半个制图线框像素宽度ε/2,获得内部特征轮廓的潜在B角点像素集,其中当内部特征轮廓的潜在B角点像素集中的元素在列像素方向上位置能找到一个外部特征某个角点像素和它对应,则定位内部特征轮廓的开放位置;对于某一内部特征的每个打开位置,检测到两个列像素坐标相同的角点,采用当前图像的制图线框像素宽度ε直接绘制实线连接两个角点,封闭开放轮廓即可完成内部特征轮廓提取预处理。
作为本发明优选的技术方案,在所述步骤e中,进行工艺特征匹配操作步骤如下:
a)选择加工基准:
根据在复合磨削中心上的旋转部件的定位和夹紧方法,将最左边的特征的中心线视为工件的旋转轴,该工件通过其左端端面轴向定位,两者交点处为工件零点O;并根据被提取特征的质心位置从左到右进行排序,定义从左到右第k个特征为特征k,它的质心定义为Ck;
b)计算特征的几何变量:
每个制造特征的几何尺寸是根据其线框模型的从左上角按顺时针排列的四个角点{A(u(A),v(A)),B(u(B),v(B)),C(u(C),v(C)),D(u(D),v(D))}得到的,其中u为行像素坐标,v为列像素坐标;根据制图比例H,计算各加工特征尺寸以及与加工基准之间的径向相对位置和轴向相对位置,得到任一特征k的一般形状和位置变量:
左端面直径为:D1k=(u(Dk)-u(Ak))×H (1)
右端面直径为:D2k=(u(Ck)-u(Bk))×H (2)
长度为:Lk=(v(Bk)-v(Ak))×H (3)
锥度为:Tk=tan-1((D2k-D1k)/(2×Lk)) (4)
偏心率为:Ek=(u(O)-u(Ck))×H (5)
A角点与加工零点0的径向相对位置:Xk=(u(O)-u(Ak))×H (6)
A角点与加工零点0的轴向相对位置:Zk=(v(Ak)-v(O))×H (7)
在公式(1)-(7)中u(Dk)为特征k的D角点的行像素坐标;u(Ak)为特征k的A角点的行像素坐标;u(Ck)为特征k的C角点的行像素坐标;u(Bk)为特征k的B角点的行像素坐标;v(Bk)为特征k的B角点的列像素坐标;v(Ak)为特征k的A角点的列像素坐标;u(Ck)为特征k的质心C的行像素坐标;u(O)为工件零点0的行像素坐标,v(O)为工件零点0的列像素坐标,H为制图比例,约定了从像素到尺寸的转化关系;
c)确定制造特征的类型:
首先根据特征识别逻辑内部特征和外部特征可以被自动区分,然后根据具体几何形状匹配不同的特征:按偏心距分为偏心特征和非偏心特征:E=0为非偏心特征,E≠0为偏心特征;按锥度分为圆锥和圆柱:T=0为圆柱特征,T≠0为圆锥特征;在此基础上,需要判断是否拆分特征,最右侧端面将被识别为一个端面特征;判断复合特征是否存在,当两个相邻外圆特征k-1和k形成阶梯状轴肩,即D2k-1>D1k时,匹配特征为轴肩复合特征,计算其特有的几何参数Uk;
特征k-1的B角点与特征k的A角点径向距离:
Uk=(D2k-1-D1k)/2×H (8)
在公式(8)中D2k-1为特征k-1的右端面直径;D1k为特征k的左端面直径;H为制图比例,约定了从像素到尺寸的转化关系。
本发明方法在确定制造特征的类型时,制造特征按偏心度分为偏心特征和非偏心特征,按锥度分为圆锥和圆柱。此外,需要判断是否拆分特征,最右侧端面将被识别为一个端面特征;判断复合特征是否存在,当两个相邻外部特征k-1和k形成阶梯状轴肩,匹配特征为轴肩复合特征,需要计算其特有的形状和位置变量。本发明能够适用于复杂零件的应用场景,并在CNN分类器的协助下将无效操作排除,能够高效灵活地识别复杂回转件的典型特征。
本发明与现有技术相比较,具有如下显而易见的突出实质性特点和显著优点:
1.本发明方法不依赖于任何CAD工具或数据交换标准,可以自动提取外圆、内孔、锥面、锥孔、端面、轴肩和偏心圆等特征的几何信息,保证较高的像素级精度,基于本发明的开发应用更加轻量化并且便于移植;
2.本发明方法以实线和虚线两种形态表达不同类型的特征,并在各自的几何轮廓提取阶段中通过处理,使一类特征满足几何轮廓提取算法的输入要求并自动排除另外一类的干扰,解决了自动特征识别技术中普遍存在的复杂轴类相交特征的自动识别的难题;
3.本发明方法在识别外部特征的同时,通过CNN分类器预判零件是否存在内部特征,判别结果用于特征识别算法中条件判断,利用并行计算模式和贴近于人类智能的快速感知模型,有效地避免了不需要的计算过程。
附图说明
图1为本发明优选实施例方法实施的目标测试工件示意图。
图2为本发明优选实施例方法的特征有效轮廓提取示意图。
图3为本发明优选实施例方法的CNN模型结构示意图。
图4为本发明优选实施例方法的内部特征轮廓提取预处理流程图。
图5为本发明优选实施例方法的复合磨削特征参数化模型示意图。
具体实施方式
以下结合附图和具体实施例对上述方案做进一步说明,本发明的优选实施例详述如下:
在本实施例中,参见图1-图5,一种基于零件工程图像的复合磨削加工特征自动识别方法,包括几何轮廓提取和工艺特征匹配两个主体步骤,其中根据图像,将几何轮廓提取分为外部特征轮廓提取和内部特征轮廓提取分为两个阶段,并在对应的几何轮廓提取阶段中,通过处理使其中一个阶段满足几何轮廓提取算法的输入要求,并自动排除另一阶段的干扰;外部特征轮廓提取或内部特征轮廓提取是通过边界跟踪算法,得到由四个角点像素表示的每个特征的有效轮廓,其中利用CNN分类器,对零件进行有无内部特征的分类;若不存在内部特征,则在外部特征轮廓提取后,省去了形态预处理和内部特征轮廓提取步骤;最后根据几何信息依次进行工艺特征匹配,从而实现复杂回转零件典型特征的自动识别;所述复杂回转零件典型特征包括外圆、内孔、锥面、锥孔、端面、轴肩复合特征和偏心圆制造特征;所述基于零件工程图像的复合磨削加工特征自动识别方法操作步骤如下:
a.外部特征轮廓提取:
采用几何轮廓提取算法进行外部特征轮廓提取,设置几何轮廓提取算法的输入条件为当前需提取的任一特征都能够以实线线框表示,对原始图像进行灰度处理和阈值分割,完成外部特征轮廓提取的预处理过程,每一个外部特征满足几何轮廓提取的条件,得到二值图像;然后采用Suzuki边界跟踪算法,对二值图像进行拓扑分析处理,每个有效外部特征分别被识别到一个外边界和孔边界,两个边界之间的距离为制图线框像素宽度ε,计算外边界和孔边界的中间尺寸,得到每个外部特征的有效轮廓,并采用几何信息用轮廓的四个角像素表示;
b.利用CNN分类器对零件进行有无内部特征的分类:
通过整理好的工件图像数据,经过类型标记,利用工件图像和标记好的数据训练7层的CNN模型:包括卷积层1、池化层1、卷积层2、池化层2、全连接层1、全连接层2、全连接层3,训练完毕后,输出该工件属于无内部特征和有内部特征的概率;
c.内部特征轮廓提取预处理:
如果CNN分类器确定存在内部特征,则进行内部特征的几何轮廓提取,在此之前需要进行一次预处理,因为此时只需要内部特征,因此首先用背景色填充外部特征;由于虚线或开放形式的内部特征不能直接用于特征提取,继而采用形态学的方法,将内部特征的虚线框转换为实线框;最后,利用Harris角点检测算法,识别出的开放轮廓的角点,对内部特征线框进行封闭,达成任一内部特征都能够以实线线框表示的几何轮廓提取条件,完成内部特征轮廓提取预处理;
d.内部特征轮廓提取:
经过二次预处理后的图像的任一内部特征满足几何轮廓提取算法的输入要求,接下来内部特征的几何轮廓提取过程和所述外部特征轮廓提取过程相同,同样得到每个内部特征的有效轮廓,几何信息也采用轮廓的四个角像素表示;
e.工艺特征匹配:
当前每个几何特征都得到了用四角像素表示的有效轮廓,根据制图比例,通过角点像素的位置计算特征的多种几何属性,得到每个特征轮廓的形状、尺寸和多个特征轮廓之间的位置关系,根据每个轮廓的锥度、偏心距几何参数,进行匹配外圆、内孔、锥面、锥孔、端面、轴肩和偏心圆多种制造特征,进行复杂轴类复合磨削加工特征自动识别,从零件的实体模型中抽取出具有特定工程意义的工艺特征。
在本实施例中,参见图1-图4,在所述步骤a和所述步骤d中,采用Suzuki边界跟踪算法时,通过设置面积阈值Minarea过滤掉多余边界,排除随机噪声,输出结果仅保留每个有效特征的外边界和孔边界,得到有效的外部特征轮廓或内部特征轮廓。在所述步骤c中,利用形态学方法处理将虚线框转化为实线框,其中在膨胀操作和腐蚀操作之间插入用于平滑边界的均值滤波和用于提高边界清晰度的阈值分割;其次考虑到内部特征和外部特征存在相交或者轮廓相连的情况,在采用背景色填充外部特征时,防止产生开放式的内部特征轮廓,采用Harris角点检测算法,识别出轮廓的A角点像素集,将A角点像素集的所有元素沿列像素方向向轮廓外侧偏移半个制图线框像素宽度ε/2,获得内部特征轮廓的潜在B角点像素集,其中当内部特征轮廓的潜在B角点像素集中的元素在列像素方向上位置能找到一个外部特征某个角点像素和它对应,则定位内部特征轮廓的开放位置;对于某一内部特征的每个打开位置,检测到两个列像素坐标相同的角点,采用当前图像的制图线框像素宽度ε直接绘制实线连接两个角点,封闭开放轮廓即可完成内部特征轮廓提取预处理。
在本实施例中,参见图1,图中为典型轴套类零件,包括三个目标特征轮廓,最终目标输出具有实际工程意义的工艺特征包括一个内孔特征、一个端面特征、一个轴肩复合特征和一个外圆特征。对原始图像进行灰度处理和阈值分割简单预处理,对输出二值图像采用Suzuki边界跟踪算法,可以得到图中所有连通区域的闭合边界。对边界包围的内部像素计数来逐一求解区域面积,从边界集合中删除面积小于Minarea的区域,Minarea为1000,小于此面积值可有效定性为可排除的虚线轮廓段或随机噪声。参见图2,经过几何轮廓提取图中每个外部特征轮廓分别被识别到一个外边界和孔边界,以特征2为例,两个边界之间的距离为制图线框像素宽度ε,计算外边界和孔边界的中间尺寸,得到每个外部特征的有效轮廓,几何信息用轮廓的四个角像素{A(u(A),v(A)),B(u(B),v(B)),C(u(C),v(C)),D(u(D),v(D))}表示,其中u为行像素坐标,v为列像素坐标。
参见图3,模型训练之前需要准备好分别用于CNN模型的数据,将原始高清图像标准化为512×216像素,打包成二进制格式,用数字0或1标记。整理相应标记的TFRecord格式的旋转零件图像300个,标签“1”和标签“0”分别表示存在和不存在内部特征。构建CNN结构包括:卷积层1,池化层1,卷积层2,池化层2,全连接层1,全连接层2,全连接层3,共7层神经网络。损失函数是基于交叉熵的,并选择Adam优化法。由于样本数据集相对较小,因此采用BGD梯度下降算法代替MBGD。然后随机选取200个样本数据作为训练集,50个作为验证集,50个作为测试集。经过200轮次的训练,最终测试集准确率达到了0.992。
CNN分类器确定存在内部特征,则进行内部特征的几何轮廓提取。参见图4,进行内部特征提取的预处理,此时只需要内部特征,因此首先用背景色填充外部特征;然后利用形态学处理将虚线框转化为实线框,其中在膨胀操作和腐蚀操作之间插入用于平滑边界的均值滤波和用于提高边界清晰度的阈值分割;其次由于内部特征和外部特征可能存在相交或者轮廓相连的情况,所以用背景色填充外部特征时会产生开放式的内部特征轮廓,采用Harris角点检测算法识别出轮廓的A角点像素集,将A角点像素集的所有元素沿列像素方向向轮廓外侧偏移半个制图线框像素宽度ε/2,获得内部特征轮廓的潜在B角点像素集,其中B角点像素集中的元素在列像素方向上位置能找到一个外部特征某个角点像素和它对应,则可以定位内部特征轮廓的开放位置。对于某一内部特征的每个打开位置,可以检测到两个列像素坐标相同的角点,用当前图像的制图线框像素宽度ε接绘制实线连接两个角点,封闭开放轮廓即可。
经过二次预处理后的图像的任一内部特征满足几何轮廓提取算法的输入要求,接下来内部特征的几何轮廓提取过程和外部特征是一样的。因此得到每个内部特征的有效轮廓,几何信息用轮廓的四个角像素{A(u(A),v(A)),B(u(B),v(B)),C(u(C),v(C)),D(u(D),v(D))}表示,其中u为行像素坐标,v为列像素坐标。
根据被提取特征的质心位置从左到右进行排序,定义从左到右第k个特征为特征k,它的质心定义为Ck。根据在复合磨削中心上的旋转部件的定位和夹紧方法,将最左边的特征的中心线视为工件的旋转轴,该工件通过其左端端面轴向定位,两者交点处为工件零点O。
每个制造特征的几何尺寸是根据其线框模型的从左上角按顺时针排列的四个角点{A(u(A),v(A)),B(u(B),v(B)),C(u(C),v(C)),D(u(D),v(D))}得到的,其中u为行像素坐标,v为列像素坐标。参见图5,绘制了几种典型特征的参数化模型用于表示各个几何参数及其含义解释。根据制图比例H,通过计算各加工特征尺寸以及与加工基准之间的径向相对位置和轴向相对位置,得到任一特征k的参数化模型的一般几何参数。
在本实施例中,参见图5,在所述步骤e中,进行工艺特征匹配操作步骤如下:
a)选择加工基准:
根据在复合磨削中心上的旋转部件的定位和夹紧方法,将最左边的特征的中心线视为工件的旋转轴,该工件通过其左端端面轴向定位,两者交点处为工件零点O;并根据被提取特征的质心位置从左到右进行排序,定义从左到右第k个特征为特征k,它的质心定义为Ck;
b)计算特征的几何变量:
每个制造特征的几何尺寸是根据其线框模型的从左上角按顺时针排列的四个角点{A(u(A),v(A)),B(u(B),v(B)),C(u(C),v(C)),D(u(D),v(D))}得到的,其中u为行像素坐标,v为列像素坐标;根据制图比例H,计算各加工特征尺寸以及与加工基准之间的径向相对位置和轴向相对位置,得到任一特征k的一般形状和位置变量:
左端面直径为:D1k=(u(Dk)-u(Ak))×H (1)
右端面直径为:D2k=(u(Ck)-u(Bk))×H (2)
长度为:Lk=(v(Bk)-v(Ak))×H (3)
锥度为:Tk=tan-1((D2k-D1k)/(2×Lk)) (4)
偏心率为:Ek=(u(O)-u(Ck))×H (5)
A角点与加工零点0的径向相对位置:Xk=(u(O)-u(Ak))×H (6)
A角点与加工零点0的轴向相对位置:Zk=(v(Ak)-v(O))×H (7)
在公式(1)-(7)中u(Dk)为特征k的D角点的行像素坐标;u(Ak)为特征k的A角点的行像素坐标;u(Ck)为特征k的C角点的行像素坐标;u(Bk)为特征k的B角点的行像素坐标;v(Bk)为特征k的B角点的列像素坐标;v(Ak)为特征k的A角点的列像素坐标;u(Ck)为特征k的质心C的行像素坐标;u(O)为工件零点0的行像素坐标,v(O)为工件零点0的列像素坐标,H为制图比例,约定了从像素到尺寸的转化关系;
c)确定制造特征的类型:
首先根据特征识别逻辑内部特征和外部特征可以被自动区分,然后根据具体几何形状匹配不同的特征:按偏心距分为偏心特征和非偏心特征:E=0为非偏心特征,E≠0为偏心特征;按锥度分为圆锥和圆柱:T=0为圆柱特征,T≠0为圆锥特征;在此基础上,需要判断是否拆分特征,最右侧端面将被识别为一个端面特征;判断复合特征是否存在,当两个相邻外圆特征k-1和k形成阶梯状轴肩,即D2k-1>D1k时,匹配特征为轴肩复合特征,计算其特有的几何参数Uk;
特征k-1的B角点与特征k的A角点径向距离:
Uk=(D2k-1-D1k)/2×H (8)
在公式(8)中D2k-1为特征k-1的右端面直径;D1k为特征k的左端面直径;H为制图比例,约定了从像素到尺寸的转化关系。
工件特征的一般几何轮廓提取结果以及误差分析如下表所示,所有的相对误差大多接近0%,最大值是0.04%:
根据具体几何形状匹配不同的工艺特征,其中特征2被识别为一个复合特征,并且计算其特有的几何参数如下表所示。
工件中轴肩复合特征的几何轮廓提取结果以及误差分析如下表所示:
根据几何数据的提取结果,进行以上条件综合判断并且考虑工艺特征的拆分和复合,最终零件工艺特征识别的结果如下表所示:
本发明上述实施例基于零件工程图,以数字图像处理技术自动识别加工特征的方法,该方法包括几何轮廓提取和工艺特征匹配两个主体步骤。其中外部特征和内部特征分别用实线线框和虚线线框表示,将几何轮廓提取划分为两个阶段,解决了自动特征识别技术中普遍存在的相交特征自动识别的难题。特征几何轮廓提取基于边界跟踪算法,得到由四个角点像素表示的每个特征的有效轮廓,其中利用CNN分类器对零件进行有无内部特征的分类,若不存在内部特征,则在外部特征几何轮廓提取后,省去了不必要的形态预处理和内部特征几何轮廓提取等步骤。最后根据几何信息依次进行工艺特征匹配,可以实现复杂回转零件典型特征包括外圆、内孔、锥面、锥孔、端面、轴肩复合特征和偏心圆等多种制造特征的有效自动识别。本发明上述实施例方法不依赖于任何CAD工具或数据交换标准,可以自动提取多种典型复合磨削加工特征,保证较高的像素级精度,基于本发明开发应用更加轻量化并且便于移植。
上面对本发明实施例结合附图进行了说明,但本发明不限于上述实施例,还可以根据本发明的发明创造的目的做出多种变化,凡依据本发明技术方案的精神实质和原理下做的改变、修饰、替代、组合或简化,均应为等效的置换方式,只要符合本发明的发明目的,只要不背离本发明基于零件工程图像的复合磨削加工特征自动识别方法的技术原理和发明构思,都属于本发明的保护范围。
Claims (4)
1.一种基于零件工程图像的复合磨削加工特征自动识别方法,其特征在于,包括几何轮廓提取和工艺特征匹配两个主体步骤,其中根据图像,将几何轮廓提取分为外部特征轮廓提取和内部特征轮廓提取分为两个阶段,并在对应的几何轮廓提取阶段中,通过处理使其中一个阶段满足几何轮廓提取算法的输入要求,并自动排除另一阶段的干扰;外部特征轮廓提取或内部特征轮廓提取是通过边界跟踪算法,得到由四个角点像素表示的每个特征的有效轮廓,其中利用CNN分类器,对零件进行有无内部特征的分类;若不存在内部特征,则在外部特征轮廓提取后,省去了形态预处理和内部特征轮廓提取步骤;最后根据几何信息依次进行工艺特征匹配,从而实现复杂回转零件典型特征的自动识别;所述复杂回转零件典型特征包括外圆、内孔、锥面、锥孔、端面、轴肩复合特征和偏心圆制造特征;所述基于零件工程图像的复合磨削加工特征自动识别方法操作步骤如下:
a.外部特征轮廓提取:
采用几何轮廓提取算法进行外部特征轮廓提取,设置几何轮廓提取算法的输入条件为当前需提取的任一特征都能够以实线线框表示,对原始图像进行灰度处理和阈值分割,完成外部特征轮廓提取的预处理过程,每一个外部特征满足几何轮廓提取的条件,得到二值图像;然后采用Suzuki边界跟踪算法,对二值图像进行拓扑分析处理,每个有效外部特征分别被识别到一个外边界和孔边界,两个边界之间的距离为制图线框像素宽度ε,计算外边界和孔边界的中间尺寸,得到每个外部特征的有效轮廓,并采用几何信息用轮廓的四个角像素表示;
b.利用CNN分类器对零件进行有无内部特征的分类:
通过整理好的工件图像数据,经过类型标记,利用工件图像和标记好的数据训练7层的CNN模型:包括卷积层1、池化层1、卷积层2、池化层2、全连接层1、全连接层2、全连接层3,训练完毕后,输出该工件属于无内部特征和有内部特征的概率;
c.内部特征轮廓提取预处理:
如果CNN分类器确定存在内部特征,则进行内部特征的几何轮廓提取,在此之前需要进行一次预处理,因为此时只需要内部特征,因此首先用背景色填充外部特征;由于虚线或开放形式的内部特征不能直接用于特征提取,继而采用形态学的方法,将内部特征的虚线框转换为实线框;最后,利用Harris角点检测算法,识别出的开放轮廓的角点,对内部特征线框进行封闭,达成任一内部特征都能够以实线线框表示的几何轮廓提取条件,完成内部特征轮廓提取预处理;
d.内部特征轮廓提取:
经过二次预处理后的图像的任一内部特征满足几何轮廓提取算法的输入要求,接下来内部特征的几何轮廓提取过程和所述外部特征轮廓提取过程相同,同样得到每个内部特征的有效轮廓,几何信息也采用轮廓的四个角像素表示;
e.工艺特征匹配:
当前每个几何特征都得到了用四角像素表示的有效轮廓,根据制图比例,通过角点像素的位置计算特征的多种几何属性,得到每个特征轮廓的形状、尺寸和多个特征轮廓之间的位置关系,根据每个轮廓的锥度、偏心距几何参数,进行匹配外圆、内孔、锥面、锥孔、端面、轴肩和偏心圆多种制造特征,进行复杂轴类复合磨削加工特征自动识别,从零件的实体模型中抽取出具有特定工程意义的工艺特征。
2.根据权利要求1所述基于零件工程图像的复合磨削加工特征自动识别方法,其特征在于:在所述步骤a和所述步骤d中,采用Suzuki边界跟踪算法时,通过设置面积阈值Minarea过滤掉多余边界,排除随机噪声,输出结果仅保留每个有效特征的外边界和孔边界,得到有效的外部特征轮廓或内部特征轮廓。
3.根据权利要求1所述基于零件工程图像的复合磨削加工特征自动识别方法,其特征在于:在所述步骤c中,利用形态学方法处理将虚线框转化为实线框,其中在膨胀操作和腐蚀操作之间插入用于平滑边界的均值滤波和用于提高边界清晰度的阈值分割;其次考虑到内部特征和外部特征存在相交或者轮廓相连的情况,在采用背景色填充外部特征时,防止产生开放式的内部特征轮廓,采用Harris角点检测算法,识别出轮廓的A角点像素集,将A角点像素集的所有元素沿列像素方向向轮廓外侧偏移半个制图线框像素宽度ε/2,获得内部特征轮廓的潜在B角点像素集,其中当内部特征轮廓的潜在B角点像素集中的元素在列像素方向上位置能找到一个外部特征某个角点像素和它对应,则定位内部特征轮廓的开放位置;对于某一内部特征的每个打开位置,检测到两个列像素坐标相同的角点,采用当前图像的制图线框像素宽度ε直接绘制实线连接两个角点,封闭开放轮廓即可完成内部特征轮廓提取预处理。
4.根据权利要求1所述基于零件工程图像的复合磨削加工特征自动识别方法,其特征在于:在所述步骤e中,进行工艺特征匹配操作步骤如下:
a)选择加工基准:
根据在复合磨削中心上的旋转部件的定位和夹紧方法,将最左边的特征的中心线视为工件的旋转轴,该工件通过其左端端面轴向定位,两者交点处为工件零点O;并根据被提取特征的质心位置从左到右进行排序,定义从左到右第k个特征为特征k,它的质心定义为Ck;
b)计算特征的几何变量:
每个制造特征的几何尺寸是根据其线框模型的从左上角按顺时针排列的四个角点{A(u(A),v(A)),B(u(B),v(B)),C(u(C),v(C)),D(u(D),v(D))}得到的,其中u为行像素坐标,v为列像素坐标;根据制图比例H,计算各加工特征尺寸以及与加工基准之间的径向相对位置和轴向相对位置,得到任一特征k的一般形状和位置变量:
左端面直径为:D1k=(u(Dk)-u(Ak))×H (1)
右端面直径为:D2k=(u(Ck)-u(Bk))×H (2)
长度为:Lk=(v(Bk)-v(Ak))×H (3)
锥度为:Tk=tan-1((D2k-D1k)/(2×Lk)) (4)
偏心率为:Ek=(u(O)-u(Ck))×H (5)
A角点与加工零点O的径向相对位置:Xk=(u(O)-u(Ak))×H (6)
A角点与加工零点O的轴向相对位置:Zk(v(Ak)-v(O))×H (7)
在公式(1)-(7)中u(Dk)为特征k的D角点的行像素坐标;u(Ak)为特征k的A角点的行像素坐标;u(Ck)为特征k的C角点的行像素坐标;u(Bk)为特征k的B角点的行像素坐标;v(Bk)为特征k的B角点的列像素坐标;v(Ak)为特征k的A角点的列像素坐标;u(Ck)为特征k的质心C的行像素坐标;u(O)为工件零点O的行像素坐标,v(O)为工件零点O的列像素坐标,H为制图比例,约定了从像素到尺寸的转化关系;
c)确定制造特征的类型:
首先根据特征识别逻辑内部特征和外部特征可以被自动区分,然后根据具体几何形状匹配不同的特征:按偏心距分为偏心特征和非偏心特征:E=0为非偏心特征,E≠0为偏心特征;按锥度分为圆锥和圆柱:T=0为圆柱特征,T≠0为圆锥特征;在此基础上,需要判断是否拆分特征,最右侧端面将被识别为一个端面特征;判断复合特征是否存在,当两个相邻外圆特征k-1和k形成阶梯状轴肩,即D2k-1>D1k时,匹配特征为轴肩复合特征,计算其特有的几何参数Uk;
特征k-1的B角点与特征k的A角点径向距离:
Uk=(D2k-1-D1k)/2×H (8)
在公式(8)中D2k-1为特征k-1的右端面直径;D1k为特征k的左端面直径;H为制图比例,约定了从像素到尺寸的转化关系。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911288303.7A CN110942107B (zh) | 2019-12-16 | 2019-12-16 | 基于零件工程图像的复合磨削加工特征自动识别方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911288303.7A CN110942107B (zh) | 2019-12-16 | 2019-12-16 | 基于零件工程图像的复合磨削加工特征自动识别方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110942107A CN110942107A (zh) | 2020-03-31 |
CN110942107B true CN110942107B (zh) | 2023-05-19 |
Family
ID=69911139
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911288303.7A Active CN110942107B (zh) | 2019-12-16 | 2019-12-16 | 基于零件工程图像的复合磨削加工特征自动识别方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110942107B (zh) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114067231B (zh) * | 2022-01-14 | 2022-05-10 | 成都飞机工业(集团)有限责任公司 | 一种基于机器视觉学习识别的零件加工特征识别方法 |
CN114675599B (zh) * | 2022-05-27 | 2022-08-26 | 中科航迈数控软件(深圳)有限公司 | 一种数控机床的加工特征排序方法及系统 |
CN114896671A (zh) * | 2022-06-09 | 2022-08-12 | 中国电建集团成都勘测设计研究院有限公司 | 一种基于catia软件包络体模型bim几何属性信息导出的方法 |
CN114862664B (zh) * | 2022-06-14 | 2024-08-20 | 广东宏石激光技术股份有限公司 | 一种基于端面投影的管材特征识别方法及设备和存储介质 |
CN116912861B (zh) * | 2023-07-24 | 2024-06-14 | 广州炫视智能科技有限公司 | 一种手绘几何图形的识别方法、计算机设备和存储介质 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109299720A (zh) * | 2018-07-13 | 2019-02-01 | 沈阳理工大学 | 一种基于轮廓片段空间关系的目标识别方法 |
CN109521742A (zh) * | 2018-12-05 | 2019-03-26 | 西安交通大学 | 一种用于电动旋转装置的控制系统及控制方法 |
CN109658402A (zh) * | 2018-12-17 | 2019-04-19 | 中山大学 | 基于计算机视觉成像的工业型材几何尺寸自动检测方法 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10395372B2 (en) * | 2016-06-28 | 2019-08-27 | University Of Cincinnati | Systems, media, and methods for pre-processing and post-processing in additive manufacturing |
-
2019
- 2019-12-16 CN CN201911288303.7A patent/CN110942107B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109299720A (zh) * | 2018-07-13 | 2019-02-01 | 沈阳理工大学 | 一种基于轮廓片段空间关系的目标识别方法 |
CN109521742A (zh) * | 2018-12-05 | 2019-03-26 | 西安交通大学 | 一种用于电动旋转装置的控制系统及控制方法 |
CN109658402A (zh) * | 2018-12-17 | 2019-04-19 | 中山大学 | 基于计算机视觉成像的工业型材几何尺寸自动检测方法 |
Also Published As
Publication number | Publication date |
---|---|
CN110942107A (zh) | 2020-03-31 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110942107B (zh) | 基于零件工程图像的复合磨削加工特征自动识别方法 | |
CN111292305B (zh) | 一种改进型yolo-v3的金属加工表面缺陷检测方法 | |
CN110543878B (zh) | 一种基于神经网络的指针仪表读数识别方法 | |
CN106408555A (zh) | 一种基于图像视觉的轴承表面瑕疵检测方法 | |
CN113673509B (zh) | 一种基于图像文本的仪表检测分类方法 | |
CN113724216A (zh) | 一种波峰焊点缺陷检测方法及系统 | |
CN113870235A (zh) | 基于量子烟花圆弧边缘提取的圆形冲压件缺陷检测方法 | |
Li et al. | An online visual measurement method for workpiece dimension based on deep learning | |
CN113393426B (zh) | 一种轧钢板表面缺陷检测方法 | |
CN110598634B (zh) | 一种基于图例库的机房草图识别方法及其装置 | |
CN114994051A (zh) | 汽车数控锻压件冲孔智能集成实时检测系统 | |
CN115240146B (zh) | 基于计算机视觉的机床装配智能验收方法 | |
CN112215079B (zh) | 一种全局多阶段目标跟踪方法 | |
CN115830359A (zh) | 复杂场景下基于目标检测和模板匹配的工件识别计数方法 | |
Moon et al. | Extraction of line objects from piping and instrumentation diagrams using an improved continuous line detection algorithm | |
CN108182700B (zh) | 一种基于两次特征检测的图像配准方法 | |
Zhou et al. | An adaptive clustering method detecting the surface defects on linear guide rails | |
CN113658171A (zh) | 一种基于数字图像处理的钢筋加工信息自动提取方法 | |
CN105404682A (zh) | 一种基于数字图像内容的图书检索方法 | |
Kälber et al. | U-Net based Zero-hour Defect Inspection of Electronic Components and Semiconductors. | |
CN111507404A (zh) | 一种基于深度视觉的轮毂型号识别方法 | |
CN116452826A (zh) | 基于机器视觉的遮挡情况下煤矸石轮廓估计方法 | |
Shen et al. | A parameterized automatic programming solution for composite grinding based on digital image processing | |
Chen et al. | Wafer maps defect recognition based on transfer learning of handwritten pre-training network | |
CN115205184A (zh) | 一种瓶盖瑕疵检测方法及系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |