CN109523501A - 一种基于降维和点云数据匹配的电池外观缺陷检测方法 - Google Patents
一种基于降维和点云数据匹配的电池外观缺陷检测方法 Download PDFInfo
- Publication number
- CN109523501A CN109523501A CN201810401076.3A CN201810401076A CN109523501A CN 109523501 A CN109523501 A CN 109523501A CN 201810401076 A CN201810401076 A CN 201810401076A CN 109523501 A CN109523501 A CN 109523501A
- Authority
- CN
- China
- Prior art keywords
- point
- point cloud
- battery
- matrix
- cloud data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000007547 defect Effects 0.000 title claims abstract description 86
- 238000001514 detection method Methods 0.000 title claims abstract description 36
- 230000009466 transformation Effects 0.000 claims abstract description 14
- 239000011159 matrix material Substances 0.000 claims description 88
- 238000013519 translation Methods 0.000 claims description 55
- 238000005070 sampling Methods 0.000 claims description 37
- 238000000034 method Methods 0.000 claims description 27
- 238000013480 data collection Methods 0.000 claims description 20
- 238000012545 processing Methods 0.000 claims description 10
- 239000000203 mixture Substances 0.000 claims description 7
- 238000000354 decomposition reaction Methods 0.000 claims description 6
- 238000012935 Averaging Methods 0.000 claims description 3
- 230000002950 deficient Effects 0.000 claims description 3
- 238000007689 inspection Methods 0.000 abstract description 4
- 206010061619 Deformity Diseases 0.000 abstract description 3
- 238000005516 engineering process Methods 0.000 abstract description 3
- 239000012141 concentrate Substances 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000005086 pumping Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/84—Systems specially adapted for particular applications
- G01N21/88—Investigating the presence of flaws or contamination
- G01N21/8851—Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/213—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
- G06F18/2135—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods based on approximation criteria, e.g. principal component analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2413—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on distances to training or reference patterns
- G06F18/24147—Distances to closest patterns, e.g. nearest neighbour classification
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/06—Topological mapping of higher dimensional structures onto lower dimensional surfaces
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30108—Industrial image inspection
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Data Mining & Analysis (AREA)
- Life Sciences & Earth Sciences (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Computation (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Artificial Intelligence (AREA)
- Health & Medical Sciences (AREA)
- Signal Processing (AREA)
- Chemical & Material Sciences (AREA)
- Analytical Chemistry (AREA)
- Biochemistry (AREA)
- General Health & Medical Sciences (AREA)
- Immunology (AREA)
- Pathology (AREA)
- Quality & Reliability (AREA)
- Secondary Cells (AREA)
Abstract
本发明公开了一种基于降维和点云数据匹配的电池外观缺陷检测方法,属于机器视觉检测技术领域,获取待检测电池的三维点云数据,将点云数据进行降维;得到待检测电池的缺陷区域,提取缺陷区域点云数据;提取出标准电池相同区域的点云数据;对两片点云数据进行采样并匹配搜索;得到优化的特征点对应关系,计算大致刚性变换关系,实现粗配准;对粗配准结果进行约束性检测,进行正确性的验证;优化点云数据间的刚性变换关系,实现自动精确配准,判断电池外观是否合格。本发明通过降维算法将三维图像变为二维图像,在二维图像中利用平面缺陷检测技术,得到缺陷区域点云数据,将点云数据进行匹配,缩小检测范围,减少运行时间,提高准确率。
Description
技术领域
本发明涉及一种电池外观缺陷检测方法,特别是涉及一种基于降维和点云数据匹配的电池外观缺陷检测方法,属于机器视觉检测技术领域。
背景技术
随着现代工厂生产量的增加及元件、零件等的微型化,很多人选择视觉检测系统来对大批量生产的工业零件产品进行检验,如:电子连接件、汽车零部件、SMT电路板和螺钉等产品,通过采集被检测物体的图像与标准品或计算机辅助设计时编制的检查程序进行比较,从而检验出瑕疵或缺陷,目前二维图像检测比较普遍,但二维图像检测非常容易受光源的影响,同样,手机电池表面检测非常容易受光源等因素的影响,有时不能有效地反映电池表面凹坑或凸节等缺陷信息,因为这些缺陷涉及到深度信息,二维图像处理无法检测出缺陷的深度信息,导致定位和提取这些缺陷特征比较困难,从而不能很好的检测出电池是否符合要求。
三维激光扫描技术可以连续、自动、不接触、快速地采集大量的目标物表面三维点数据,即建点云,三维模型在工业检测、文物保护、生物医学等领域都具有重要的意义,随着三维技术的发展,对点云模型的处理技术已经成为近年来研究的热点,点云处理中一个重要步骤就是将同一场景中不同视点获得的点云数据统一到同一坐标系,即点云配准。
现有的点云配准方法通常采用粗配准和精确配准相结合的方式,其中,粗配准一般通过计算点的特征寻找对应点,估计得到两幅点云间的初始位置关系;精确配准是采用ICP及其改进算法对粗配准结果进行进一步优化,实现点云数据的精确配准。
发明内容
本发明的主要目的是为了提供一种基于降维和点云数据匹配的电池外观缺陷检测方法,简化点云的数据量,提高点云特征匹配可靠性。
本发明的目的可以通过采用如下技术方案达到:
一种基于降维和点云数据匹配的电池外观缺陷检测方法,包括如下步骤:
步骤1:用3D相机获取待检测电池的三维点云数据;
步骤2:采用PCA降维算法将点云数据进行降维;
步骤3:采用二维平面缺陷检测技术,得到待检测电池的缺陷区域,提取缺陷区域的点云数据;
步骤4:根据待检测电池的缺陷区域,提取出标准电池相同区域的点云数据;
步骤5:读入采集到的待检测电池缺陷区域的点云P和标准电池相同区域的点云Q;
步骤6:分别计算点云P和点云Q的密度,并从点云P中随机选取若干个点构成特征点集S1,从点云Q中随机选取若干个点构成特征点集S2;
步骤7:分别计算特征点集S1和S2中每个特征点的局部旋转平移不变坐标系;
步骤8:根据局部旋转平移不变坐标系计算每个特征点的高维特征描述,对点云Q与点云P进行特征点匹配,获得初匹配点集C;
步骤9:利用随机采样一致算法去除初匹配点集C中的误匹配,利用奇异值分解法计算获得旋转矩阵R和平移矩阵T,得到待检测电池缺陷区域的点云和标准电池相同区域的点云的粗配准结果;
步骤10:判断粗配准结果是否满足刚性变换一致性条件,若是,则进入步骤11;若否,则判定配准失败,电池有缺陷,不符合要求;
步骤11:采用ICP算法优化所述旋转矩阵R和平移矩阵T,获得待检测电池缺陷区域的点云P和标准电池相同区域的点云Q的精确配准结果。
进一步的,步骤2中,采用PCA降维算法将点云数据进行降维包括如下步骤:
步骤2.1:采用PCA降维算法,设有m条3维数据,将点云数据按列组成3行m列矩阵X;
将矩阵X的每一行进行零均值化,即减去这一行的均值;
求出协方差矩阵根据协方差矩阵求出它的特征值λ及其对应特征向量r;
步骤2.2:将特征向量r按对应特征值大小从上到下按行排列成矩阵,取前2行组成矩阵P,Y=PX即为降维到2维后的数据。
进一步的,步骤3中,对图像进行预处理,采用二维图像检测技术,分析出手机电池表面的缺陷区域,再对该缺陷区域进行点云数据获取。
进一步的,步骤6具体包括如下步骤:
步骤6.1:采用最邻近搜索方法计算待检测电池缺陷区域的点云P和标准电池相同区域的点云Q中每个点的最邻近点;
并计算每个点云的点云密度计算点-最邻近点‖/N;
步骤6.2:设定特征点采样比例h1和h2,从待检测电池缺陷区域的点云P和标准电池相同区域的点云Q中分别随机采样,得到待检测电池缺陷区域的点云P的特征点集和标准电池相同区域的点云Q的特征点集
进一步的,步骤7具体包括如下步骤:
步骤7.1:任意选取待检测电池缺陷区域的点云P的特征点集S1中的一点Pi,根据Pi的点云密度获取Pi的领域计算半径,采用下式构造的Pi的协方差矩阵:
对标准电池相同区域的点云Q的特征点集S2中的一点qi,也进行如上处理获得qi的协方差矩阵COV(qi);
步骤7.2:求解协方差矩阵的特征值和特征向量;
COV(pi)V=EV
步骤7.3:根据特征向量构建局部旋转平移不变坐标系的x,y,z坐标轴,建立起以点Pi为原点的局部旋转平移不变坐标系Fi;
步骤7.4:根据标准电池相同区域的点云Q的特征点集S2中点qi的协方差矩阵,建立以点qi为原点的局部旋转平移不变坐标系。
进一步的,步骤8具体包括如下步骤:
步骤8.1:缺陷区域的点云P的特征点集中的任一特征点Pi,其高维特征为vi,在标准电池相同区域的点云特征点集所对应的特征几何所构成的高维空间中搜索与vi距离最近的特征vj及次近的特征v′j;
步骤8.2:计算特征vi分别到最近的特征vj、次近的特征v′j的欧式距离Dij和Dij′;
根据下式判定vi与vj之间是否具有正确对应关系e(vi,vj);
若e(vi,vj)=1,则表明vi与vj匹配成功,否则匹配失败;若vi与vj匹配成功,则其分别对应的缺陷区域的点云与标准电池相同区域的点云中的特征点也正确对应,该点对构成一个匹配点对;由所有的匹配点对构成初匹配点集。
进一步的,步骤9具体包括如下步骤:
步骤9.1:设定采样的次数Snum和距离阈值μ;每次采样时,从所述初匹配点集中随机选取t对匹配点作为初始点;
步骤9.2:利用奇异值分解法求解旋转矩阵R和平移矩阵T,对初匹配点集中所有的匹配点,计算旋转平移后的距离误差derr;若距离误差derr小于所述距离阈值μ,则判定该匹配点是内点,求出所有内点并统计内点的个数m′;
步骤9.3:重复随机采样Snum次,对每一次抽样结果,根据步骤9.2得到本次抽样所对应的内点数。
进一步的,步骤9.3中,对所有抽样的内点数进行进行排序,选取内点数最多的抽样结果作为最佳抽样;利用最佳抽样下得到的内点数据集C1,根据步骤9.2的方法获取旋转矩阵R和平移矩阵T作为最佳旋转平移变换矩阵,记为Rran和Tran。
进一步的,步骤10具体包括如下步骤:
步骤10.1:对所述最佳抽样下得到的内点数据集C1中每一个匹配点对进行处理;
步骤10.2:计算旋转矩阵Rloc与旋转矩阵Rran之间的角度距离da;
步骤10.3:计算平移矩阵Tloc与平移矩阵Tran之间的平移距离dt;
步骤10.4:若上述da、dt均小于给定的阈值σa、σt,则表明步骤9与步骤10求解出的旋转平移矩阵一致;
步骤10.5:对内点数据集C1中的其他匹配点对进行上述处理,得到所有匹配点对之间的局部旋转平移矩阵与旋转平移矩阵(Rran,Tran)之间的一致性关系;
统计内点数据集C1中所有满足一致性关系的匹配点对的数目s;
步骤10.6:计算s与内点数据集C1中匹配点对的数目S的一致性比值λ=s/S;
若λ≥阈值τλ,则表明利用局部旋转不变坐标系计算得到的局部旋转矩阵和步骤9中利用随机抽样一致性算法求解得到的全局旋转平移矩阵是一致的,判定匹配成功,电池合格;否则匹配失败,电池不合格。
进一步的,步骤10.1中,对所述最佳抽样下得到的内点数据集C1中每一个匹配点对进行如下处理:
对所述内点数据集C1中的一个匹配点对(ploc,qloc),求解两个匹配点之间的局部旋转矩阵Rloc和局部平移矩阵Tloc;
Tloc=ploc-qlocRloc。
进一步的,步骤11具体包括如下步骤:
步骤11.1:将步骤10中判定合格的电池进一步进行精确匹配;设定距离阈值ω作为迭代终止的条件;其中,ω>0;距离阈值ω根据源点云P的点云密度dq;
步骤11.2:在待检测电池缺陷区域的点云数据中随机选取若干个点作为待匹配点;
步骤11.3:用逆向投影法在标准电池相同区域点云中查找待匹配点的对应点;
步骤11.4:采用基于点到面距离度量作为ICP算法所需求解的目标函数,不断迭代计算缺陷区域点云与标准电池相同区域点云的刚性变换关系;
步骤11.5:当目标函数值小于距离阈值ω时,停止迭代;并将此时求解得到的刚性变换关系作为最终结果,完成点云匹配;
如果待检测电池缺陷区域的点云数据小于标准电池相同区域的点云数据,则电池不合格,否则电池合格。
本发明的有益技术效果:按照本发明的基于降维和点云数据匹配的电池外观缺陷检测方法,本发明提供的基于降维和点云数据匹配的电池外观缺陷检测方法,通过降维算法将三维图像变为二维图像,在二维图像中利用平面缺陷检测技术,得到缺陷区域点云数据;将模板电池相同区域点云数据与缺陷区域点云数据进行匹配,缩小检测范围,减少运行时间,准确率高。
附图说明
图1为按照本发明的基于降维和点云数据匹配的电池外观缺陷检测方法的一优选实施例的流程图。
具体实施方式
为使本领域技术人员更加清楚和明确本发明的技术方案,下面结合实施例及附图对本发明作进一步详细的描述,但本发明的实施方式不限于此。
如图1所示,本实施例提供的一种基于降维和点云数据匹配的电池外观缺陷检测方法,包括如下步骤:
步骤1:用3D相机获取待检测电池的三维点云数据;
步骤2:采用PCA降维算法将点云数据进行降维,包括如下步骤:
步骤2.1:采用PCA降维算法,设有m条3维数据,将点云数据按列组成3行m列矩阵X;
将矩阵X的每一行进行零均值化,即减去这一行的均值;
求出协方差矩阵根据协方差矩阵求出它的特征值λ及其对应特征向量r;
步骤2.2:将特征向量r按对应特征值大小从上到下按行排列成矩阵,取前2行组成矩阵P,Y=PX即为降维到2维后的数据;
步骤3:对图像进行预处理,采用二维图像检测技术,分析出手机电池表面的缺陷区域,再对该缺陷区域进行点云数据获取;
步骤4:根据待检测电池的缺陷区域,提取出标准电池相同区域的点云数据;
步骤5:读入采集到的待检测电池缺陷区域的点云P和标准电池相同区域的点云Q;
步骤6:分别计算点云P和点云Q的密度,并从点云P中随机选取若干个点构成特征点集S1,从点云Q中随机选取若干个点构成特征点集S2;
步骤6.1:采用最邻近搜索方法计算待检测电池缺陷区域的点云P和标准电池相同区域的点云Q中每个点的最邻近点;
并计算每个点云的点云密度计算点-最邻近点‖/N;
步骤6.2:设定特征点采样比例h1和h2,从待检测电池缺陷区域的点云P和标准电池相同区域的点云Q中分别随机采样,得到待检测电池缺陷区域的点云P的特征点集和标准电池相同区域的点云Q的特征点集
步骤7:分别计算特征点集S1和S2中每个特征点的局部旋转平移不变坐标系;
步骤7.1:任意选取待检测电池缺陷区域的点云P的特征点集S1中的一点Pi,根据Pi的点云密度获取Pi的领域计算半径,采用下式构造的Pi的协方差矩阵:
对标准电池相同区域的点云Q的特征点集S2中的一点qi,也进行如上处理获得qi的协方差矩阵COV(qi);
步骤7.2:求解协方差矩阵的特征值和特征向量;
COV(pi)V=EV
步骤7.3:根据特征向量构建局部旋转平移不变坐标系的x,y,z坐标轴,建立起以点Pi为原点的局部旋转平移不变坐标系Fi;
步骤7.4:根据标准电池相同区域的点云Q的特征点集S2中点qi的协方差矩阵,建立以点qi为原点的局部旋转平移不变坐标系;
步骤8:根据局部旋转平移不变坐标系计算每个特征点的高维特征描述,对点云Q与点云P进行特征点匹配,获得初匹配点集C;
步骤8.1:缺陷区域的点云P的特征点集中的任一特征点Pi,其高维特征为vi,在标准电池相同区域的点云特征点集所对应的特征几何所构成的高维空间中搜索与vi距离最近的特征vj及次近的特征v′j;
步骤8.2:计算特征vi分别到最近的特征vj、次近的特征v′j的欧式距离Dij和Dij′;
根据下式判定vi与vj之间是否具有正确对应关系e(vi,vj);
若e(vi,vj)=1,则表明vi与vj匹配成功,否则匹配失败;若vi与vj匹配成功,则其分别对应的缺陷区域的点云与标准电池相同区域的点云中的特征点也正确对应,该点对构成一个匹配点对;由所有的匹配点对构成初匹配点集;
步骤9:利用随机采样一致算法去除初匹配点集C中的误匹配,利用奇异值分解法计算获得旋转矩阵R和平移矩阵T,得到待检测电池缺陷区域的点云和标准电池相同区域的点云的粗配准结果;
步骤9.1:设定采样的次数Snum和距离阈值μ;每次采样时,从所述初匹配点集中随机选取t对匹配点作为初始点;
步骤9.2:利用奇异值分解法求解旋转矩阵R和平移矩阵T,对初匹配点集中所有的匹配点,计算旋转平移后的距离误差derr;若距离误差derr小于所述距离阈值μ,则判定该匹配点是内点,求出所有内点并统计内点的个数m′;
步骤9.3:重复随机采样Snum次,对每一次抽样结果,根据步骤9.2得到本次抽样所对应的内点数,对所有抽样的内点数进行进行排序,选取内点数最多的抽样结果作为最佳抽样;利用最佳抽样下得到的内点数据集C1,根据步骤9.2的方法获取旋转矩阵R和平移矩阵T作为最佳旋转平移变换矩阵,记为Rran和Tran;
步骤10:判断粗配准结果是否满足刚性变换一致性条件,若是,则进入步骤11;若否,则判定配准失败,电池有缺陷,不符合要求;
步骤10.1:对所述最佳抽样下得到的内点数据集C1中每一个匹配点对进行如下处理:
对所述内点数据集C1中的一个匹配点对(ploc,qloc),求解两个匹配点之间的局部旋转矩阵Rloc和局部平移矩阵Tloc;
Tloc=ploc-qlocRloc;
步骤10.2:计算旋转矩阵Rloc与旋转矩阵Rran之间的角度距离da;
步骤10.3:计算平移矩阵Tloc与平移矩阵Tran之间的平移距离dt;
步骤10.4:若上述da、dt均小于给定的阈值σa、σt,则表明步骤9与步骤10求解出的旋转平移矩阵一致;
步骤10.5:对内点数据集C1中的其他匹配点对进行上述处理,得到所有匹配点对之间的局部旋转平移矩阵与旋转平移矩阵(Rran,Tran)之间的一致性关系;
统计内点数据集C1中所有满足一致性关系的匹配点对的数目s;
步骤10.6:计算s与内点数据集C1中匹配点对的数目S的一致性比值λ=s/S;
若λ≥阈值τλ,则表明利用局部旋转不变坐标系计算得到的局部旋转矩阵和步骤9中利用随机抽样一致性算法求解得到的全局旋转平移矩阵是一致的,判定匹配成功,电池合格;否则匹配失败,电池不合格;
步骤11:采用ICP算法优化所述旋转矩阵R和平移矩阵T,获得待检测电池缺陷区域的点云P和标准电池相同区域的点云Q的精确配准结果;
步骤11.1:将步骤10中判定合格的电池进一步进行精确匹配;设定距离阈值ω作为迭代终止的条件;其中,ω>0;距离阈值ω根据源点云P的点云密度dq;
步骤11.2:在待检测电池缺陷区域的点云数据中随机选取若干个点作为待匹配点;
步骤11.3:用逆向投影法在标准电池相同区域点云中查找待匹配点的对应点;
步骤11.4:采用基于点到面距离度量作为ICP算法所需求解的目标函数,不断迭代计算缺陷区域点云与标准电池相同区域点云的刚性变换关系;
步骤11.5:当目标函数值小于距离阈值ω时,停止迭代;并将此时求解得到的刚性变换关系作为最终结果,完成点云匹配;
如果待检测电池缺陷区域的点云数据小于标准电池相同区域的点云数据,则电池不合格,否则电池合格。
综上所述,在本实施例中,按照本实施例的基于降维和点云数据匹配的电池外观缺陷检测方法,本实施例提供的基于降维和点云数据匹配的电池外观缺陷检测方法,通过降维算法将三维图像变为二维图像,在二维图像中利用平面缺陷检测技术,得到缺陷区域点云数据;将模板电池相同区域点云数据与缺陷区域点云数据进行匹配,缩小检测范围,减少运行时间,准确率高。
以上所述,仅为本发明进一步的实施例,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明所公开的范围内,根据本发明的技术方案及其构思加以等同替换或改变,都属于本发明的保护范围。
Claims (11)
1.一种基于降维和点云数据匹配的电池外观缺陷检测方法,其特征在于,包括如下步骤:
步骤1:用3D相机获取待检测电池的三维点云数据;
步骤2:采用PCA降维算法将点云数据进行降维;
步骤3:采用二维平面缺陷检测技术,得到待检测电池的缺陷区域,提取缺陷区域的点云数据;
步骤4:根据待检测电池的缺陷区域,提取出标准电池相同区域的点云数据;
步骤5:读入采集到的待检测电池缺陷区域的点云P和标准电池相同区域的点云Q;
步骤6:分别计算点云P和点云Q的密度,并从点云P中随机选取若干个点构成特征点集S1,从点云Q中随机选取若干个点构成特征点集S2;
步骤7:分别计算特征点集S1和S2中每个特征点的局部旋转平移不变坐标系;
步骤8:根据局部旋转平移不变坐标系计算每个特征点的高维特征描述,对点云Q与点云P进行特征点匹配,获得初匹配点集C;
步骤9:利用随机采样一致算法去除初匹配点集C中的误匹配,利用奇异值分解法计算获得旋转矩阵R和平移矩阵T,得到待检测电池缺陷区域的点云和标准电池相同区域的点云的粗配准结果;
步骤10:判断粗配准结果是否满足刚性变换一致性条件,若是,则进入步骤11;若否,则判定配准失败,电池有缺陷,不符合要求;
步骤11:采用ICP算法优化所述旋转矩阵R和平移矩阵T,获得待检测电池缺陷区域的点云P和标准电池相同区域的点云Q的精确配准结果。
2.如权利要求1所述的一种基于降维和点云数据匹配的电池外观缺陷检测方法,其特征在于,步骤2中,采用PCA降维算法将点云数据进行降维包括如下步骤:
步骤2.1:采用PCA降维算法,设有m条3维数据,将点云数据按列组成3行m列矩阵X;
将矩阵X的每一行进行零均值化,即减去这一行的均值;
求出协方差矩阵根据协方差矩阵求出它的特征值λ及其对应特征向量r;
步骤2.2:将特征向量r按对应特征值大小从上到下按行排列成矩阵,取前2行组成矩阵P,Y=PX即为降维到2维后的数据。
3.如权利要求1所述的一种基于降维和点云数据匹配的电池外观缺陷检测方法,其特征在于,步骤3中,对图像进行预处理,采用二维图像检测技术,分析出手机电池表面的缺陷区域,再对该缺陷区域进行点云数据获取。
4.如权利要求1所述的一种基于降维和点云数据匹配的电池外观缺陷检测方法,其特征在于,步骤6具体包括如下步骤:
步骤6.1:采用最邻近搜索方法计算待检测电池缺陷区域的点云P和标准电池相同区域的点云Q中每个点的最邻近点;
并计算每个点云的点云密度计算点-最邻近点||/N;
步骤6.2:设定特征点采样比例h1和h2,从待检测电池缺陷区域的点云P和标准电池相同区域的点云Q中分别随机采样,得到待检测电池缺陷区域的点云P的特征点集和标准电池相同区域的点云Q的特征点集
5.如权利要求1所述的一种基于降维和点云数据匹配的电池外观缺陷检测方法,其特征在于,步骤7具体包括如下步骤:
步骤7.1:任意选取待检测电池缺陷区域的点云P的特征点集S1中的一点Pi,根据Pi的点云密度获取Pi的领域计算半径,采用下式构造的Pi的协方差矩阵:
对标准电池相同区域的点云Q的特征点集S2中的一点qi,也进行如上处理获得qi的协方差矩阵COV(qi);
步骤7.2:求解协方差矩阵的特征值和特征向量;
COV(pi)V=EV
步骤7.3:根据特征向量构建局部旋转平移不变坐标系的x,y,z坐标轴,建立起以点Pi为原点的局部旋转平移不变坐标系Fi;
步骤7.4:根据标准电池相同区域的点云Q的特征点集S2中点qi的协方差矩阵,建立以点qi为原点的局部旋转平移不变坐标系。
6.如权利要求1所述的一种基于降维和点云数据匹配的电池外观缺陷检测方法,其特征在于,步骤8具体包括如下步骤:
步骤8.1:缺陷区域的点云P的特征点集中的任一特征点Pi,其高维特征为vi,在标准电池相同区域的点云特征点集所对应的特征几何所构成的高维空间中搜索与vi距离最近的特征vj及次近的特征v′j;
步骤8.2:计算特征vi分别到最近的特征vj、次近的特征v′j的欧式距离Dij和Dij′;
根据下式判定vi与vj之间是否具有正确对应关系e(vi,vj);
若e(vi,vj)=1,则表明vi与vj匹配成功,否则匹配失败;若vi与vj匹配成功,则其分别对应的缺陷区域的点云与标准电池相同区域的点云中的特征点也正确对应,该点对构成一个匹配点对;由所有的匹配点对构成初匹配点集。
7.如权利要求1所述的一种基于降维和点云数据匹配的电池外观缺陷检测方法,其特征在于,步骤9具体包括如下步骤:
步骤9.1:设定采样的次数Snum和距离阈值μ;每次采样时,从所述初匹配点集中随机选取t对匹配点作为初始点;
步骤9.2:利用奇异值分解法求解旋转矩阵R和平移矩阵T,对初匹配点集中所有的匹配点,计算旋转平移后的距离误差derr;若距离误差derr小于所述距离阈值μ,则判定该匹配点是内点,求出所有内点并统计内点的个数m′;
步骤9.3:重复随机采样Snum次,对每一次抽样结果,根据步骤9.2得到本次抽样所对应的内点数。
8.如权利要求6所述的一种基于降维和点云数据匹配的电池外观缺陷检测方法,其特征在于,步骤9.3中,对所有抽样的内点数进行进行排序,选取内点数最多的抽样结果作为最佳抽样;利用最佳抽样下得到的内点数据集C1,根据步骤9.2的方法获取旋转矩阵R和平移矩阵T作为最佳旋转平移变换矩阵,记为Rran和Tran。
9.如权利要求1所述的一种基于降维和点云数据匹配的电池外观缺陷检测方法,其特征在于,步骤10具体包括如下步骤:
步骤10.1:对所述最佳抽样下得到的内点数据集C1中每一个匹配点对进行处理;
步骤10.2:计算旋转矩阵Rloc与旋转矩阵Rran之间的角度距离da;
步骤10.3:计算平移矩阵Tloc与平移矩阵Tran之间的平移距离dt;
步骤10.4:若上述da、dt均小于给定的阈值σa、σt,则表明步骤9与步骤10求解出的旋转平移矩阵一致;
步骤10.5:对内点数据集C1中的其他匹配点对进行上述处理,得到所有匹配点对之间的局部旋转平移矩阵与旋转平移矩阵(Rran,Tran)之间的一致性关系;
统计内点数据集C1中所有满足一致性关系的匹配点对的数目s;
步骤10.6:计算s与内点数据集C1中匹配点对的数目S的一致性比值λ=s/S;
若λ≥阈值τλ,则表明利用局部旋转不变坐标系计算得到的局部旋转矩阵和步骤9中利用随机抽样一致性算法求解得到的全局旋转平移矩阵是一致的,判定匹配成功,电池合格;否则匹配失败,电池不合格。
10.如权利要求8所述的一种基于降维和点云数据匹配的电池外观缺陷检测方法,其特征在于,步骤10.1中,对所述最佳抽样下得到的内点数据集C1中每一个匹配点对进行如下处理:
对所述内点数据集C1中的一个匹配点对(ploc,qloc),求解两个匹配点之间的局部旋转矩阵Rloc和局部平移矩阵Tloc;
Rloc=(Fploc)TFqloc;
Tloc=ploc-qlocRloc。
11.如权利要求1所述的一种基于降维和点云数据匹配的电池外观缺陷检测方法,其特征在于,步骤11具体包括如下步骤:
步骤11.1:将步骤10中判定合格的电池进一步进行精确匹配;设定距离阈值ω作为迭代终止的条件;其中,ω>0;距离阈值ω根据源点云P的点云密度dq;
步骤11.2:在待检测电池缺陷区域的点云数据中随机选取若干个点作为待匹配点;
步骤11.3:用逆向投影法在标准电池相同区域点云中查找待匹配点的对应点;
步骤11.4:采用基于点到面距离度量作为ICP算法所需求解的目标函数,不断迭代计算缺陷区域点云与标准电池相同区域点云的刚性变换关系;
步骤11.5:当目标函数值小于距离阈值ω时,停止迭代;并将此时求解得到的刚性变换关系作为最终结果,完成点云匹配;
如果待检测电池缺陷区域的点云数据小于标准电池相同区域的点云数据,则电池不合格,否则电池合格。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810401076.3A CN109523501A (zh) | 2018-04-28 | 2018-04-28 | 一种基于降维和点云数据匹配的电池外观缺陷检测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810401076.3A CN109523501A (zh) | 2018-04-28 | 2018-04-28 | 一种基于降维和点云数据匹配的电池外观缺陷检测方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN109523501A true CN109523501A (zh) | 2019-03-26 |
Family
ID=65769726
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810401076.3A Pending CN109523501A (zh) | 2018-04-28 | 2018-04-28 | 一种基于降维和点云数据匹配的电池外观缺陷检测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109523501A (zh) |
Cited By (22)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110033447A (zh) * | 2019-04-12 | 2019-07-19 | 东北大学 | 一种基于点云方法的高铁重轨表面缺陷检测方法 |
CN110208271A (zh) * | 2019-06-06 | 2019-09-06 | 中国人民解放军陆军工程大学 | 一种相控阵天线的损伤检测方法、损伤检测装置及终端 |
CN110287873A (zh) * | 2019-06-25 | 2019-09-27 | 清华大学深圳研究生院 | 基于深度神经网络的非合作目标位姿测量方法、系统及终端设备 |
CN110455815A (zh) * | 2019-09-05 | 2019-11-15 | 西安多维机器视觉检测技术有限公司 | 一种电子元器件外观缺陷检测的方法及系统 |
CN110634140A (zh) * | 2019-09-30 | 2019-12-31 | 南京工业大学 | 一种基于机器视觉的大直径管状物定位及内壁缺陷检测方法 |
CN111080582A (zh) * | 2019-12-02 | 2020-04-28 | 易思维(杭州)科技有限公司 | 工件内外表面缺陷检测方法 |
CN111353997A (zh) * | 2019-04-11 | 2020-06-30 | 南京理工大学 | 一种基于条纹投影的实时三维面型缺陷检测方法 |
CN112184783A (zh) * | 2020-09-22 | 2021-01-05 | 西安交通大学 | 一种结合图像信息的三维点云配准方法 |
CN112326673A (zh) * | 2020-11-13 | 2021-02-05 | 南京航空航天大学 | 基于机器视觉的注塑件表面缺陷检测方法和装置 |
CN112446884A (zh) * | 2020-11-27 | 2021-03-05 | 广东电网有限责任公司肇庆供电局 | 一种激光点云中输电线的定位方法、装置及终端设备 |
CN112767399A (zh) * | 2021-04-07 | 2021-05-07 | 惠州高视科技有限公司 | 半导体焊线缺陷检测方法、电子设备及存储介质 |
CN113643273A (zh) * | 2021-08-24 | 2021-11-12 | 凌云光技术股份有限公司 | 一种基于点云数据的缺陷检测方法及装置 |
CN114119464A (zh) * | 2021-10-08 | 2022-03-01 | 厦门微亚智能科技有限公司 | 一种基于深度学习的锂电池电芯顶盖焊缝外观检测算法 |
CN114898357A (zh) * | 2022-07-12 | 2022-08-12 | 深圳思谋信息科技有限公司 | 缺陷识别方法、装置、电子设备及计算机可读存储介质 |
CN115032200A (zh) * | 2022-08-10 | 2022-09-09 | 广东省智能机器人研究院 | 新能源圆柱形电池顶部封口焊缝3d缺陷检测方法及系统 |
CN115049842A (zh) * | 2022-06-16 | 2022-09-13 | 南京航空航天大学深圳研究院 | 一种飞机蒙皮图像损伤检测与2d-3d定位方法 |
CN116571410A (zh) * | 2023-07-14 | 2023-08-11 | 杭州百子尖科技股份有限公司 | 基于机器视觉的缺陷区域修复方法、装置、设备以及介质 |
CN116958150A (zh) * | 2023-09-21 | 2023-10-27 | 深圳市中农易讯信息技术有限公司 | 农产品的缺陷检测和缺陷等级划分方法 |
CN116958137A (zh) * | 2023-09-19 | 2023-10-27 | 易启科技(吉林省)有限公司 | 一种新能源电池表面缺陷检测方法及装置 |
CN117291918A (zh) * | 2023-11-24 | 2023-12-26 | 吉林大学 | 一种基于三维点云的汽车冲压件缺陷检测方法 |
CN117572454A (zh) * | 2023-11-15 | 2024-02-20 | 武汉万曦智能科技有限公司 | 场车蓄电池安全间隙测量方法及系统 |
CN118015004A (zh) * | 2024-04-10 | 2024-05-10 | 宝鸡康盛精工精密制造有限公司 | 一种激光切割扫描系统及方法 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103543168A (zh) * | 2013-10-12 | 2014-01-29 | 华南理工大学 | 一种多层封装基板缺陷的x射线检测方法及系统 |
CN104655658A (zh) * | 2015-02-10 | 2015-05-27 | 西安交通大学 | 一种大型高温叶片内部缺陷三维无损检测方法 |
CN106780459A (zh) * | 2016-12-12 | 2017-05-31 | 华中科技大学 | 一种三维点云数据自动配准方法 |
CN107492098A (zh) * | 2017-08-17 | 2017-12-19 | 广东工业大学 | 一种基于pca和cnn的高温锻件表面缺陷在位检测方法 |
-
2018
- 2018-04-28 CN CN201810401076.3A patent/CN109523501A/zh active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103543168A (zh) * | 2013-10-12 | 2014-01-29 | 华南理工大学 | 一种多层封装基板缺陷的x射线检测方法及系统 |
CN104655658A (zh) * | 2015-02-10 | 2015-05-27 | 西安交通大学 | 一种大型高温叶片内部缺陷三维无损检测方法 |
CN106780459A (zh) * | 2016-12-12 | 2017-05-31 | 华中科技大学 | 一种三维点云数据自动配准方法 |
CN107492098A (zh) * | 2017-08-17 | 2017-12-19 | 广东工业大学 | 一种基于pca和cnn的高温锻件表面缺陷在位检测方法 |
Non-Patent Citations (1)
Title |
---|
石甜: "基于2D/3D复合机器视觉的三维钢轨表面缺陷检测技术研究", 《中国博士学位论文全文数据库 工程科技II辑》 * |
Cited By (40)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111353997A (zh) * | 2019-04-11 | 2020-06-30 | 南京理工大学 | 一种基于条纹投影的实时三维面型缺陷检测方法 |
CN111353997B (zh) * | 2019-04-11 | 2022-10-28 | 南京理工大学 | 一种基于条纹投影的实时三维面型缺陷检测方法 |
CN110033447B (zh) * | 2019-04-12 | 2022-11-08 | 东北大学 | 一种基于点云方法的高铁重轨表面缺陷检测方法 |
CN110033447A (zh) * | 2019-04-12 | 2019-07-19 | 东北大学 | 一种基于点云方法的高铁重轨表面缺陷检测方法 |
CN110208271A (zh) * | 2019-06-06 | 2019-09-06 | 中国人民解放军陆军工程大学 | 一种相控阵天线的损伤检测方法、损伤检测装置及终端 |
CN110208271B (zh) * | 2019-06-06 | 2021-10-22 | 中国人民解放军陆军工程大学 | 一种相控阵天线的损伤检测方法、损伤检测装置及终端 |
CN110287873A (zh) * | 2019-06-25 | 2019-09-27 | 清华大学深圳研究生院 | 基于深度神经网络的非合作目标位姿测量方法、系统及终端设备 |
CN110287873B (zh) * | 2019-06-25 | 2021-06-29 | 清华大学深圳研究生院 | 基于深度神经网络的非合作目标位姿测量方法、系统及终端设备 |
CN110455815A (zh) * | 2019-09-05 | 2019-11-15 | 西安多维机器视觉检测技术有限公司 | 一种电子元器件外观缺陷检测的方法及系统 |
CN110634140A (zh) * | 2019-09-30 | 2019-12-31 | 南京工业大学 | 一种基于机器视觉的大直径管状物定位及内壁缺陷检测方法 |
CN111080582A (zh) * | 2019-12-02 | 2020-04-28 | 易思维(杭州)科技有限公司 | 工件内外表面缺陷检测方法 |
CN111080582B (zh) * | 2019-12-02 | 2023-06-02 | 易思维(杭州)科技有限公司 | 工件内外表面缺陷检测方法 |
CN112184783A (zh) * | 2020-09-22 | 2021-01-05 | 西安交通大学 | 一种结合图像信息的三维点云配准方法 |
CN112326673A (zh) * | 2020-11-13 | 2021-02-05 | 南京航空航天大学 | 基于机器视觉的注塑件表面缺陷检测方法和装置 |
CN112326673B (zh) * | 2020-11-13 | 2022-06-07 | 南京航空航天大学 | 基于机器视觉的注塑件表面缺陷检测方法和装置 |
CN112446884A (zh) * | 2020-11-27 | 2021-03-05 | 广东电网有限责任公司肇庆供电局 | 一种激光点云中输电线的定位方法、装置及终端设备 |
CN112446884B (zh) * | 2020-11-27 | 2024-03-26 | 广东电网有限责任公司肇庆供电局 | 一种激光点云中输电线的定位方法、装置及终端设备 |
CN112767399A (zh) * | 2021-04-07 | 2021-05-07 | 惠州高视科技有限公司 | 半导体焊线缺陷检测方法、电子设备及存储介质 |
CN112767399B (zh) * | 2021-04-07 | 2021-08-06 | 高视科技(苏州)有限公司 | 半导体焊线缺陷检测方法、电子设备及存储介质 |
CN113643273B (zh) * | 2021-08-24 | 2024-05-03 | 凌云光技术股份有限公司 | 一种基于点云数据的缺陷检测方法及装置 |
CN113643273A (zh) * | 2021-08-24 | 2021-11-12 | 凌云光技术股份有限公司 | 一种基于点云数据的缺陷检测方法及装置 |
CN114119464A (zh) * | 2021-10-08 | 2022-03-01 | 厦门微亚智能科技有限公司 | 一种基于深度学习的锂电池电芯顶盖焊缝外观检测算法 |
CN114119464B (zh) * | 2021-10-08 | 2023-06-16 | 厦门微亚智能科技有限公司 | 一种基于深度学习的锂电池电芯顶盖焊缝外观检测方法 |
CN115049842B (zh) * | 2022-06-16 | 2023-11-17 | 南京航空航天大学深圳研究院 | 一种飞机蒙皮图像损伤检测与2d-3d定位方法 |
CN115049842A (zh) * | 2022-06-16 | 2022-09-13 | 南京航空航天大学深圳研究院 | 一种飞机蒙皮图像损伤检测与2d-3d定位方法 |
CN114898357B (zh) * | 2022-07-12 | 2022-10-18 | 深圳思谋信息科技有限公司 | 缺陷识别方法、装置、电子设备及计算机可读存储介质 |
CN114898357A (zh) * | 2022-07-12 | 2022-08-12 | 深圳思谋信息科技有限公司 | 缺陷识别方法、装置、电子设备及计算机可读存储介质 |
CN115032200A (zh) * | 2022-08-10 | 2022-09-09 | 广东省智能机器人研究院 | 新能源圆柱形电池顶部封口焊缝3d缺陷检测方法及系统 |
CN115032200B (zh) * | 2022-08-10 | 2022-10-21 | 广东省智能机器人研究院 | 新能源圆柱形电池顶部封口焊缝3d缺陷检测方法及系统 |
CN116571410A (zh) * | 2023-07-14 | 2023-08-11 | 杭州百子尖科技股份有限公司 | 基于机器视觉的缺陷区域修复方法、装置、设备以及介质 |
CN116571410B (zh) * | 2023-07-14 | 2023-09-26 | 杭州百子尖科技股份有限公司 | 基于机器视觉的缺陷区域修复方法、装置、设备以及介质 |
CN116958137A (zh) * | 2023-09-19 | 2023-10-27 | 易启科技(吉林省)有限公司 | 一种新能源电池表面缺陷检测方法及装置 |
CN116958137B (zh) * | 2023-09-19 | 2023-12-12 | 易启科技(吉林省)有限公司 | 一种新能源电池表面缺陷检测方法及装置 |
CN116958150B (zh) * | 2023-09-21 | 2024-04-02 | 深圳市中农易讯信息技术有限公司 | 农产品的缺陷检测和缺陷等级划分方法 |
CN116958150A (zh) * | 2023-09-21 | 2023-10-27 | 深圳市中农易讯信息技术有限公司 | 农产品的缺陷检测和缺陷等级划分方法 |
CN117572454A (zh) * | 2023-11-15 | 2024-02-20 | 武汉万曦智能科技有限公司 | 场车蓄电池安全间隙测量方法及系统 |
CN117572454B (zh) * | 2023-11-15 | 2024-05-10 | 武汉万曦智能科技有限公司 | 场车蓄电池安全间隙测量方法及系统 |
CN117291918B (zh) * | 2023-11-24 | 2024-02-06 | 吉林大学 | 一种基于三维点云的汽车冲压件缺陷检测方法 |
CN117291918A (zh) * | 2023-11-24 | 2023-12-26 | 吉林大学 | 一种基于三维点云的汽车冲压件缺陷检测方法 |
CN118015004A (zh) * | 2024-04-10 | 2024-05-10 | 宝鸡康盛精工精密制造有限公司 | 一种激光切割扫描系统及方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109523501A (zh) | 一种基于降维和点云数据匹配的电池外观缺陷检测方法 | |
Dubois et al. | An autoregressive model approach to two-dimensional shape classification | |
Liu | Improving ICP with easy implementation for free-form surface matching | |
Tazir et al. | CICP: Cluster Iterative Closest Point for sparse–dense point cloud registration | |
Ramnath et al. | Car make and model recognition using 3D curve alignment | |
Glover et al. | Bingham procrustean alignment for object detection in clutter | |
CN104121902B (zh) | 基于Xtion摄像机的室内机器人视觉里程计实现方法 | |
CN106651942A (zh) | 基于特征点的三维旋转运动检测与旋转轴定位方法 | |
CN106324581B (zh) | 一种基于体元的机载lidar建筑物检测方法 | |
CN107133986B (zh) | 一种基于二维标定物的相机标定方法 | |
Tao et al. | A pipeline for 3-D object recognition based on local shape description in cluttered scenes | |
Goron et al. | Robustly segmenting cylindrical and box-like objects in cluttered scenes using depth cameras | |
Remondino et al. | Evaluating hand-crafted and learning-based features for photogrammetric applications | |
Netz et al. | Recognition using specular highlights | |
Schmid et al. | Features for Ground Texture Based Localization--A Survey | |
Cociaş et al. | Multiple-superquadrics based object surface estimation for grasping in service robotics | |
Matabosch et al. | Range image registration for industrial inspection | |
Xing et al. | RegHEC: Hand-Eye Calibration via Simultaneous Multi-view Point Clouds Registration of Arbitrary Object | |
Krueger | Model based object classification and localisation in multiocular images | |
WO2013044484A1 (en) | Method and apparatus for robust similarity comparison of 3d models | |
Wang et al. | Recognition of corners of planar pattern image | |
Taraglio et al. | Evolutionary approach to epipolar geometry estimation | |
Rink et al. | Monte Carlo registration and its application with autonomous robots | |
Wietrzykowski et al. | A probabilistic framework for global localization with segmented planes | |
Yu et al. | Uncertainty estimation for random sample consensus |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20190326 |