CN116399871A - 一种基于机器视觉的汽车零部件装配检测系统及方法 - Google Patents
一种基于机器视觉的汽车零部件装配检测系统及方法 Download PDFInfo
- Publication number
- CN116399871A CN116399871A CN202310421573.0A CN202310421573A CN116399871A CN 116399871 A CN116399871 A CN 116399871A CN 202310421573 A CN202310421573 A CN 202310421573A CN 116399871 A CN116399871 A CN 116399871A
- Authority
- CN
- China
- Prior art keywords
- detection part
- target detection
- image
- area
- grabbing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 165
- 238000000034 method Methods 0.000 title claims abstract description 27
- 238000010586 diagram Methods 0.000 claims abstract description 10
- 230000000007 visual effect Effects 0.000 claims abstract description 9
- 230000011218 segmentation Effects 0.000 claims description 45
- 238000013135 deep learning Methods 0.000 claims description 14
- 239000011159 matrix material Substances 0.000 claims description 12
- 230000007547 defect Effects 0.000 claims description 10
- 238000007781 pre-processing Methods 0.000 claims description 9
- 230000009466 transformation Effects 0.000 claims description 9
- 238000000605 extraction Methods 0.000 claims description 7
- 238000004458 analytical method Methods 0.000 claims description 6
- 238000005520 cutting process Methods 0.000 claims description 5
- 238000012545 processing Methods 0.000 claims description 5
- 238000007689 inspection Methods 0.000 claims description 3
- 238000012216 screening Methods 0.000 claims description 3
- 238000004519 manufacturing process Methods 0.000 abstract description 7
- 230000002950 deficient Effects 0.000 abstract description 6
- 101001093748 Homo sapiens Phosphatidylinositol N-acetylglucosaminyltransferase subunit P Proteins 0.000 description 5
- 238000004891 communication Methods 0.000 description 5
- 238000005516 engineering process Methods 0.000 description 5
- 230000006870 function Effects 0.000 description 4
- 230000008901 benefit Effects 0.000 description 3
- 238000013527 convolutional neural network Methods 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000003709 image segmentation Methods 0.000 description 3
- 238000005259 measurement Methods 0.000 description 3
- 238000003860 storage Methods 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000010354 integration Effects 0.000 description 2
- 238000011176 pooling Methods 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- 230000009471 action Effects 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 230000004069 differentiation Effects 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 230000000877 morphologic effect Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000010355 oscillation Effects 0.000 description 1
- 239000002994 raw material Substances 0.000 description 1
- 238000012827 research and development Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 230000009897 systematic effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/84—Systems specially adapted for particular applications
- G01N21/88—Investigating the presence of flaws or contamination
- G01N21/8851—Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/01—Arrangements or apparatus for facilitating the optical investigation
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/01—Arrangements or apparatus for facilitating the optical investigation
- G01N2021/0106—General arrangement of respective parts
- G01N2021/0112—Apparatus in one mechanical, optical or electronic block
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/84—Systems specially adapted for particular applications
- G01N21/88—Investigating the presence of flaws or contamination
- G01N21/8851—Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
- G01N2021/8887—Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges based on image processing techniques
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
- Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
- Y02P90/30—Computing systems specially adapted for manufacturing
Landscapes
- Chemical & Material Sciences (AREA)
- Biochemistry (AREA)
- Pathology (AREA)
- Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Immunology (AREA)
- Analytical Chemistry (AREA)
- General Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Signal Processing (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了一种基于机器视觉的汽车零部件装配检测系统及方法,属于自动化生产技术领域,包括以下步骤:机械手根据目标检测零部件的三维空间图判定抓取点位,根据抓取点位抓取目标检测零部件;抓取目标检测零部件后,根据坐标将目标检测零部件移动至视觉检测区域;应用工业相机对目标检测零部件进行拍照,根据拍照图像进行图像检测;发送检测结果,若检测结果为不合格则发出报警信号,通过PLC控制系统控制机械手精准抓取目标检测零部件至视觉检测区域,视觉检测区域内通过对目标检测零部件进行图像采集,再对图像进行分割,从而有目标地对有缺陷的区域图像进行分析,解决了汽车零部件视觉检测难的技术问题。
Description
技术领域
本发明属于自动化生产技术领域,具体涉及一种基于机器视觉的汽车零部件装配检测系统及方法。
背景技术
汽车零部件作为汽车工业的基础,是支撑汽车工业持续健康发展的必要因素,特别是当前汽车行业正朝着自主研发与创新的方向发展,更需要有一个强大的零部件体系作支撑,而随着汽车加工的速度越来越快,往往涉及到各种各样的设备检验、尺寸测量和零件识别等,其中针对需要精密加工的汽车零部件,在汽车零部件的生产流水线通常需要对不同生产批次的汽车零部件进行抽样检查,判断汽车零部件生产是否合格。
而在实际使用时,当需要对较大的汽车零件进行视觉检查时,由于汽车零件的重量较重,不便于放入到视觉检测装置的内部,同时不便于对汽车零件与自视觉检测设备贴合的位置进行检测。
发明内容
本发明的目的在于提供一种基于机器视觉的汽车零部件装配检测系统及方法,以解决背景技术中的问题。
本发明的目的可以通过以下技术方案实现:
一种基于机器视觉的汽车零部件装配检测方法,包括以下步骤:
机械手根据目标检测零部件的三维空间图判定抓取点位,根据抓取点位抓取目标检测零部件;
抓取目标检测零部件后,根据坐标将目标检测零部件移动至视觉检测区域;
应用工业相机对目标检测零部件进行拍照,根据拍照图像进行图像检测,分段采集目标检测零部件的图像,采用深度学习语义分割对采集到的图像进行语义分割,确定分段后具有缺陷的区域图像;
发送检测结果,若检测结果为不合格则发出报警信号。
进一步的,根据目标检测零部件的三维空间图判定抓取点位具体包括生成目标检测零部件的旋转变换矩阵f0,f0(α,β,γ),其中α为在三维虚拟坐标中,目标检测零部件以X轴为轴线旋转的角度,β为在三维虚拟坐标中,目标检测零部件以Y轴为轴线旋转的角度,γ为在三维虚拟坐标中,目标检测零部件以Z轴为轴线旋转的角度。
进一步的,所述抓取点位包括第一抓取点位、第二抓取点位…第n抓取点位,不同的抓取点位各方面可旋转角度不同,所述第一抓取点位的旋转区间集合为(α11-α12,β11-β12,γ11-γ12),所述第二抓取点位的旋转区间集合为(α21-α22,β21-β22,γ21-γ22),…,第n抓取点位的旋转区间集合为(αn1-αn2,βn1-βn2,γn1-γn2),n为整数,α11-α12为所述机械手通过第一抓取点位对目标检测零部件进行抓取时,目标检测零部件以X轴为轴线旋转时的角度范围;β11-β12为所述机械手通过第一抓取点位对目标检测零部件进行抓取时,目标检测零部件以Y轴为轴线旋转时的角度范围;γ11-γ12为所述机械手通过第一抓取点位对目标检测零部件进行抓取时,目标检测零部件以Z轴为轴线旋转时的角度范围;第二抓取点位的旋转区间至第n抓取点位的旋转区间表示含义同理于第一抓取点位的旋转区间。
进一步的,抓取点位的确定具体包括如下步骤:
将目标检测零部件旋转变换矩阵f0内的元素值与第一抓取点位的旋转区间集合、第二抓取点位的旋转区间集合、…、第n抓取点位的旋转集合内的角度范围分别进行比对,选取实际抓取点;
当有且仅有一个抓取点满足目标检测零部件的旋转变换矩阵f0的旋转要求时,则判定该抓取点为实际抓取点位;
当存在布置一个抓取点位满足目标检测零部件旋转变f0的旋转要求时,对满足条件的抓取点进行比对选取。
进一步的,采用深度学习语义分割对采集到的图像进行语义分割,具体包括以下步骤:
利用训练后的分割模型将检测区域分割为目标区域和非目标区域;所述分割模型为深度学习语义分割模型;
根据目标检测零部件的待检测面分割类别数,裁剪出目标区域中的目标区域图像,去除非目标区域图像;
将目标检测零部件外观检测区域的图像输入分割模型中,得到多类别语义掩膜图;
根据所述多类别语义掩膜图,从所述目标检测零部件外观检测区域的图像中裁剪得到所述目标区域图像。
进一步的,所述分割模型的类别数为目标检测零部件待检测面的数量,模型采用FCN系列模型。
进一步的,所述机械手通过PLC控制系统进行数据采集和控制操作。
进一步的,所述PLC控制系统还包括PID控制器。
进一步的,所述PLC控制系统控制机械手抓取目标检测零部件,所述PLC控制系统对目标检测零部件进行数据采集,通过采集到的数据进行处理从而控制机械手确定抓取点位。
一种基于机器视觉的汽车零部件装配检测系统,执行前述的一种基于机器视觉的汽车零部件装配检测方法,包括图像采集单元、预处理单元、区域定位单元、特征提取单元、分析单元和输出控制单元,其中:
图像采集单元,用于采集目标检测零部件的图像信号;
预处理单元,用于对所采集的被检测对象的图像进行预处理操作,提高图像的质量;
区域定位单元,用于对所采集的目标检测零部件的图像进行分析,分割定位出容易出现质量问题的敏感图像区域;
特征提取单元,用于提取出具有缺陷特征的敏感图像区域的特征,所述特征提取单元利用深度学习语义分割法来提取出容易出现质量问题的敏感图像区域的特征,其中敏感图像区域的标准特征由用户根据合格产品的敏感图像区域的特征进行预先设定;
分析单元,用于将所提取的敏感图像区域的缺陷特征与敏感图像区域的标准特征进行比较,根据两者的相似度是否达到预定值,来判断出被检测对象是否合格;
输出控制单元,用于将判断结果输出给控制平台,筛选出不合格的产品。
本发明的有益效果:
本发明公开的一种基于机器视觉的汽车零部件装配检测系统及方法,通过PLC控制系统控制机械手精准抓取目标检测零部件至视觉检测区域,视觉检测区域内通过对目标检测零部件进行图像采集,再对图像进行分割,从而有目标地对有缺陷的区域图像进行分析,对图像进行分割后再进行分析还可以精准地确定有缺陷区域,方便操作人员快速发现有缺陷的零部件,从而对故障零部件进行处理。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对实施例描述所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例中一种基于机器视觉的汽车零部件装配检测方法的总体步骤流程图;
图2为本发明实施例中一种基于机器视觉的汽车零部件装配检测方法中步骤S3的部分过程具体流程图;
图3为本发明实施例中一种基于机器视觉的汽车零部件装配检测系统的总体结构框图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其它实施例,都属于本发明保护的范围。
机器视觉系统就是用机器代替人眼来做测量和判断。视觉系统是指通过机器视觉目标检测零部件将被摄取目标转换成图像信号,传送给专用的图像处理系统,根据像素分布和亮度、颜色等信息,转变成数字化信号;图像系统对这些信号进行各种运算来抽取目标的特征,进而根据判别的结果来控制现场的设备动作,可以在最快的生产线上对目标检测零部件进行测量、引导、检测、和识别,并能保质保量的完成生产任务。机器视觉系统一般包括光源、镜头、CCD照相机、图像处理单元(或图像采集卡)、图像处理软件、监视器、通讯/输入输出单元。
图像语义分割任务是对图像进行像素级分类,将每个像素点的类别识别出来达到对图像分割的效果,语义图像分割会将每个像素都标注上其对应的类别,目前主流的图像语义分割网络模型都是采用的全卷积神经网络结构,即网络结构中不包括全连接层,图像语义分割任务中需要得到每个像素点的类别,因此需要较大的特征图尺寸来获得精确的细节特征,同时为了辨别出每个像素点的类别需要更多的语义信息,但是较大的特征图尺寸将带来指数级增长的计算量和内存消耗,因此大部分图像分类和目标检测网络都通过池化下采样来缩小特征图分辨率来减小计算代价,同时下采样操作能够获得更大的感受,从而获得更多的语义信息。卷积层可以有效地捕捉图像中的局部特征,并以层级的方式将许多这样的模块嵌套在一起,这样CNN就可以试着提取更大的结构了。通过一系列卷积捕捉图像的复杂特征,CNN可以将一张图的内容编码为紧凑表征。
但为了将单独的像素映射给标签,我们需要将标准CNN编码器扩展为编码器-解码器架构。在这个架构中,编码器使用卷积层和池化层将特征图尺寸缩小,使其成为更低维的表征。解码器接收到这一表征,用通过转置卷积执行上采样而「恢复」空间维度,这样每一个转置卷积都能扩展特征图尺寸。在某些情况下,编码器的中间步骤可用于调优解码器。最终,解码器生成一个表示原始图像标签的数组。
通过图像切分模块按列将图像分成若干具有相似性质的区域,得到图像向量列数据;所述图像向量列数据中的每两个相邻图像向量列之间存在重叠区域。
一种基于机器视觉的汽车零部件装配检测方法,如图1所示,包括以下步骤:
步骤S1、机械手根据目标检测零部件的三维空间图判定抓取点位,根据抓取点位抓取目标检测零部件;
具体的,在本申请实施例中,获取一个目标检测零部件的外观检测区域图像的方法,包括采用图像采集设备对一个产品所以的待检测面进行拍摄,具体指涉及产品质量检测标准的外观面,而非目标区域则会增大目标区域的分割难度和运算量,这些非目标区域通常不存在外观问题或者不需要关注外观问题,因此可以屏蔽掉这些区域,从而减轻运算量。
在本申请实施例中,根据实际坐标点对目标检测零部件的三维模型进行植入,生成待翻转目标检测零部件的三维空间图,其中,三维模型的生成通过带入零部件的三维虚拟坐标,并将数据信息坐标化,设分别取零部件的4个点,并分别设这四个点的坐标为B1(X1,Y1,Z1)、B2(X2,Y2,Z2)、B3(X3,Y3,Z3)、B4(X4,Y4,Z4),通过对坐标信息进行整合得到目标检测零部件实际坐标点矩阵Bz,具体的:在本申请实施例中,根据实际坐标点矩阵Bz对目标检测零部件的三维模型进行植入,生成待翻转的三维空间图。
步骤S2、抓取目标检测零部件后,根据坐标将目标检测零部件移动至视觉检测区域;
在本申请实施例中,所述机械手包括位置定位、视觉定位、抓取判断和准确抓取四部分,首先确定两者的相对位置,然后确定准确位置,最后精确的定位到抓取点,抓取,移动,放置。
具体为位置定位:采用DSRC技术,DSRC是指一种无线通信技术,负责在车路以及车车之间建立信息的双向传输,支持公共安全和私有操作。DSRC技术可以实现在特定小区域内(通常为数十米)对高速运动下的移动目标的识别和双向通信。
在本申请实施例中,通过位置定位技术,即采用DSRC技术确定两者的相对坐标。由于机械手和目标检测零部件是随动关系,当目标检测零部件停止运行后,通过DSRC技术调整机械手,使其与目标检测零部件处于固定的最近位置上,并且保持相对位置不发生变化,这样有助于进行进一步位置定位。
在本申请实施例中,所述机械手还通过定位模块确定视觉检测区域位置,具体的,所述定位模块包括测距单元,用于获取目标检测零部件与视觉检测区域的相对位置,并通过相对位置设计机械手转动和移动的路线,从而保证把目标检测零部件准确的抓取至视觉检测区域。
步骤S3、应用工业相机对目标检测零部件进行拍照,根据拍照图像进行图像检测,分段采集目标检测零部件的图像,采用深度学习语义分割对采集到的图像进行语义分割,确定分段后具有缺陷的区域图像;
步骤S3中的分段采集目标检测零部件的图像具体包括以下步骤:
步骤S310、对图像矩阵数据按列切分组成固定宽度图像段进行分段处理,得到多个图像向量列数据;
步骤S320、按列将图像分成若干具有相似性质的区域,得到图像向量列数据,通过所述图像向量列数据中的每两个相邻图像向量列之间存在重叠区域;
步骤S330、根据重叠区域确定分段区间。
步骤S4、发送检测结果,若检测结果为不合格则发出报警信号。
进一步的,在本申请的一种优选实施例中,根据目标检测零部件的三维空间图判定抓取点位具体包括生成目标检测零部件的旋转变换矩阵f0,f0(α,β,γ),其中α为在三维虚拟坐标中,目标检测零部件以X轴为轴线旋转的角度,β为在三维虚拟坐标中,目标检测零部件以Y轴为轴线旋转的角度,γ为在三维虚拟坐标中,目标检测零部件以Z轴为轴线旋转的角度。
进一步的,在本申请的一种优选实施例中,所述抓取点位包括第一抓取点位、第二抓取点位…第n抓取点位,不同的抓取点位各方面可旋转角度不同,所述第一抓取点位的旋转区间集合为(α11-α12,β11-β12,γ11-γ12),所述第二抓取点位的旋转区间集合为(α21-α22,β21-β22,γ21-γ22),…,第n抓取点位的旋转区间集合为(αn1-αn2,βn1-βn2,γn1-γn2),n为整数,α11-α12为所述机械手通过第一抓取点位对目标检测零部件进行抓取时,目标检测零部件以X轴为轴线旋转时的角度范围;β11-β12为所述机械手通过第一抓取点位对目标检测零部件进行抓取时,目标检测零部件以Y轴为轴线旋转时的角度范围;γ11-γ12为所述机械手通过第一抓取点位对目标检测零部件进行抓取时,目标检测零部件以Z轴为轴线旋转时的角度范围;第二抓取点位的旋转区间至第n抓取点位的旋转区间表示含义同理于第一抓取点位的旋转区间。
进一步的,在本申请的一种优选实施例中,步骤S1中,抓取点位的确定具体包括如下步骤:
步骤S101、将目标检测零部件旋转变换矩阵f0内的元素值与第一抓取点位的旋转区间集合、第二抓取点位的旋转区间集合、…、第n抓取点位的旋转集合内的角度范围分别进行比对,选取实际抓取点;
步骤S102、当有且仅有一个抓取点满足目标检测零部件的旋转变换矩阵f0的旋转要求时,则判定该抓取点为实际抓取点位;
步骤S103、当存在布置一个抓取点位满足目标检测零部件旋转变f0的旋转要求时,对满足条件的抓取点进行比对选取。
进一步的,在本申请的一种优选实施例中,如图2所示,步骤S3中的采用深度学习语义分割对采集到的图像进行语义分割,具体包括以下步骤:
步骤S301、利用训练后的分割模型将检测区域分割为目标区域和非目标区域;所述分割模型为深度学习语义分割模型;
步骤S302、根据目标检测零部件的待检测面分割类别数,裁剪出目标区域中的目标区域图像,去除非目标区域图像;
利用训练后的分割模型将所述外观检测区域分割为目标区域和非目标区域;
所述分割模型为深度学习语义分割模型、模板匹配模型、形态学分割模型或边缘分割模型;
分割的类别数为产品待检测面的数量。
步骤S303、将目标检测零部件外观检测区域的图像输入分割模型中,得到多类别语义掩膜图;
步骤S304、根据所述多类别语义掩膜图,从所述目标检测零部件外观检测区域的图像中裁剪得到所述目标区域图像。
所述分割模型为模板匹配模型时,一个待检测面生成一个模板匹配图像,包含该检测区域位置信息,根据模板匹配图像的各个特征点与所述目标区域的图像的各个特征点之间进行相似度计算,确定匹配定位信息。
进一步的,在本申请的一种优选实施例中,所述分割模型的类别数为目标检测零部件待检测面的数量,模型采用FCN系列模型。
所述分割模型为深度学习语义分割模型时,语义分割模型的类别数为产品待检测面的数量,模型还可以采用deeplab系列模型,unet、u2net等。
进一步的,在本申请的一种优选实施例中,所述机械手通过PLC控制系统进行数据采集和控制操作。
进一步的,在本申请的一种优选实施例中,所述PLC控制系统还包括PID控制器。
进一步的,在本申请的一种优选实施例中,所述PLC控制系统控制机械手抓取目标检测零部件,所述PLC控制系统采集对目标检测零部件进行数据采集,通过采集到的数据进行处理从而控制机械手确定抓取点位。
具有比例+积分+微分控制规律的控制称为比例积分微分(PID)控制,其传递函数为:
式中,Kp为比例系数,Ti为积分时间常数,┲为微分时间常数,三者都是可调参数。
PID控制器的输出信号为:
PID控制器的传递函数可写成:
PI控制器与被控对象串联连接时,可以使系统的型别提高一级,而且还提供了两个负实部的零点。与PI控制器相比,PID控制器除了同样具有提高系统稳定性能的优点外,还多提供了一个负实部零点,因此在提高系统动力系统方面提供了很大的优越性。在实际过程中,PID控制器被广泛应用。
PID控制通过积分作用消除误差,而微分控制可缩小超调量,加快反应,是综合了PI控制与PD控制长处,并消除其短处。从频域角度看,PID控制通过积分作用于系统的低频段,以提高系统的稳定性,而微分作用于系统的中频段,以改善系统的动态性能。
比例(P)控制能迅速反应误差,从而减小稳态误差。但是,比例控制不能消除稳态误差。比例放大系数的加大.会引起系统的不稳定。积分(I)控制的作用是:只要系统有误差存在,积分控制器就不断地积累,输出控制量,以消除误差。因而,只要有足够的时间,积分控制将能完全消除误差,使系统误差为零,从而消除稳态误差。积分作用太强会使系统超调加大,甚至使系统出现振荡。微分(D)控制可以减小超调量,克服振荡,使系统的稳定性提高,同时加快系统的动态响应速度.减小调整时间,从而改善系统的动态性能。根据不同的被控对象的控制特性,又可以分为P、PI、PD、PID等不同的控制模型。
在本申请实施例中,藉由一具有PID控制器的PLC控制系统对所述机械手进行数据采集和控制操作,所述PLC控制系统具有初始化模块21、原料配置模块22、流程控制模块23、进料控制模块24、反应釜控压模块25、以及反应釜控温模块26。需要特别交代的是,所述PLC控制系统还具有一PID控制器,用于对以上所述的各该模块进行控制,所述PID控制器工作原理,即PID参数整定是在以上所述的各该模块中,当回路控制投入后,先以一组初始的PID参数(P:比例系数,I:积分系数D:微分系数)进行控制,所述PID控制器的函数运算模块(图中未标号)获得的临界参数,计算出适合于稳定裕度要求的比例带(P)、积分(I)、微分(d)等控制参数;经由自整定PID学习调整系数,获得输入的最小稳定裕度、适中稳定裕度、最大稳定裕度的P、I、D参数及实测运行工况调整系数,调整P、I、D参数,以使系统获得理想的动静态控制。
一种基于机器视觉的汽车零部件装配检测系统,执行前述的一种基于机器视觉的汽车零部件装配检测方法,如图3所示,包括图像采集单元100、预处理单元200、区域定位单元300、特征提取单元400、分析单元500和输出控制单元600,其中:
图像采集单元100,用于采集目标检测零部件的图像信号;
预处理单元200,用于对所采集的被检测对象的图像进行预处理操作,提高图像的质量;
区域定位单元300,用于对所采集的目标检测零部件的图像进行分析,分割定位出容易出现质量问题的敏感图像区域;
特征提取单元400,用于提取出具有缺陷特征的敏感图像区域的特征,所述特征提取单元400利用深度学习语义分割法来提取出容易出现质量问题的敏感图像区域的特征,其中敏感图像区域的标准特征由用户根据合格产品的敏感图像区域的特征进行预先设定;
分析单元500,用于将所提取的敏感图像区域的缺陷特征与敏感图像区域的标准特征进行比较,根据两者的相似度是否达到预定值,来判断出被检测对象是否合格;
输出控制单元600,用于将判断结果输出给控制平台,筛选出不合格的产品。
在本申请实施例中,一种基于机器视觉的汽车零部件装配检测系统内部各单元工作方法与上述一种基于机器视觉的汽车零部件装配检测方法表述的工作方法一致,在此不作详细赘述。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统,装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在本申请所提供的几个实施例中,应该理解到,所揭露的系统,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,read-onlymemory)、随机存取存储器(RAM,randomaccessmemory)、磁碟或者光盘等各种可以存储程序代码的介质。
Claims (10)
1.一种基于机器视觉的汽车零部件装配检测方法,其特征在于,包括以下步骤:
机械手根据目标检测零部件的三维空间图判定抓取点位,根据抓取点位抓取目标检测零部件;
抓取目标检测零部件后,根据坐标将目标检测零部件移动至视觉检测区域;
应用工业相机对目标检测零部件进行拍照,根据拍照图像进行图像检测,分段采集目标检测零部件的图像,采用深度学习语义分割对采集到的图像进行语义分割,确定分段后具有缺陷的区域图像;
发送检测结果,若检测结果为不合格则发出报警信号。
2.根据权利要求1所述的一种基于机器视觉的汽车零部件装配检测方法,其特征在于,根据目标检测零部件的三维空间图判定抓取点位具体包括生成目标检测零部件的旋转变换矩阵f0,f0(α,β,γ),其中α为在三维虚拟坐标中,目标检测零部件以X轴为轴线旋转的角度,β为在三维虚拟坐标中,目标检测零部件以Y轴为轴线旋转的角度,γ为在三维虚拟坐标中,目标检测零部件以Z轴为轴线旋转的角度。
3.根据权利要求2所述的一种基于机器视觉的汽车零部件装配检测方法,其特征在于,所述抓取点位包括第一抓取点位、第二抓取点位…第n抓取点位,不同的抓取点位各方面可旋转角度不同,所述第一抓取点位的旋转区间集合为(α11-α12,β11-β12,γ11-γ12),所述第二抓取点位的旋转区间集合为(α21-α22,β21-β22,γ21-γ22),…,第n抓取点位的旋转区间集合为(αn1-αn2,βn1-βn2,γn1-γn2),n为整数,α11-α12为所述机械手通过第一抓取点位对目标检测零部件进行抓取时,目标检测零部件以X轴为轴线旋转时的角度范围;β11-β12为所述机械手通过第一抓取点位对目标检测零部件进行抓取时,目标检测零部件以Y轴为轴线旋转时的角度范围;γ11-γ12为所述机械手通过第一抓取点位对目标检测零部件进行抓取时,目标检测零部件以Z轴为轴线旋转时的角度范围;第二抓取点位的旋转区间至第n抓取点位的旋转区间表示含义同理于第一抓取点位的旋转区间。
4.根据权利要求3所述的一种基于机器视觉的汽车零部件装配检测方法,其特征在于,抓取点位的确定具体包括如下步骤:
将目标检测零部件旋转变换矩阵f0内的元素值与第一抓取点位的旋转区间集合、第二抓取点位的旋转区间集合、…、第n抓取点位的旋转集合内的角度范围分别进行比对,选取实际抓取点;
当有且仅有一个抓取点满足目标检测零部件的旋转变换矩阵f0的旋转要求时,则判定该抓取点为实际抓取点位;
当存在布置一个抓取点位满足目标检测零部件旋转变f0的旋转要求时,对满足条件的抓取点进行比对选取。
5.根据权利要求1所述的一种基于机器视觉的汽车零部件装配检测方法,其特征在于,采用深度学习语义分割对采集到的图像进行语义分割,具体包括以下步骤:
利用训练后的分割模型将检测区域分割为目标区域和非目标区域;所述分割模型为深度学习语义分割模型;
根据目标检测零部件的待检测面分割类别数,裁剪出目标区域中的目标区域图像,去除非目标区域图像;
将目标检测零部件外观检测区域的图像输入分割模型中,得到多类别语义掩膜图;
根据所述多类别语义掩膜图,从所述目标检测零部件外观检测区域的图像中裁剪得到所述目标区域图像。
6.根据权利要求5所述的一种基于机器视觉的汽车零部件装配检测方法,其特征在于,所述分割模型的类别数为目标检测零部件待检测面的数量,模型采用FCN系列模型。
7.根据权利要求1所述的一种基于机器视觉的汽车零部件装配检测方法,其特征在于,所述机械手通过PLC控制系统进行数据采集和控制操作。
8.根据权利要求7所述的一种基于机器视觉的汽车零部件装配检测方法,其特征在于,所述PLC控制系统还包括PID控制器。
9.根据权利要求8所述的一种基于机器视觉的汽车零部件装配检测方法,其特征在于,所述PLC控制系统控制机械手抓取目标检测零部件,所述PLC控制系统对目标检测零部件进行数据采集,通过采集到的数据进行处理从而控制机械手确定抓取点位。
10.一种基于机器视觉的汽车零部件装配检测系统,其特征在于,执行权利要求1至9任一项所述的一种基于机器视觉的汽车零部件装配检测方法,包括图像采集单元、预处理单元、区域定位单元、特征提取单元、分析单元和输出控制单元,其中:
图像采集单元,用于采集目标检测零部件的图像信号;
预处理单元,用于对所采集的被检测对象的图像进行预处理操作,提高图像的质量;
区域定位单元,用于对所采集的目标检测零部件的图像进行分析,分割定位出容易出现质量问题的敏感图像区域;
特征提取单元,用于提取出具有缺陷特征的敏感图像区域的特征,所述特征提取单元利用深度学习语义分割法来提取出容易出现质量问题的敏感图像区域的特征,其中敏感图像区域的标准特征由用户根据合格产品的敏感图像区域的特征进行预先设定;
分析单元,用于将所提取的敏感图像区域的缺陷特征与敏感图像区域的标准特征进行比较,根据两者的相似度是否达到预定值,来判断出被检测对象是否合格;
输出控制单元,用于将判断结果输出给控制平台,筛选出不合格的产品。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310421573.0A CN116399871B (zh) | 2023-04-19 | 2023-04-19 | 一种基于机器视觉的汽车零部件装配检测系统及方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310421573.0A CN116399871B (zh) | 2023-04-19 | 2023-04-19 | 一种基于机器视觉的汽车零部件装配检测系统及方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN116399871A true CN116399871A (zh) | 2023-07-07 |
CN116399871B CN116399871B (zh) | 2023-11-14 |
Family
ID=87013989
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310421573.0A Active CN116399871B (zh) | 2023-04-19 | 2023-04-19 | 一种基于机器视觉的汽车零部件装配检测系统及方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116399871B (zh) |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104316033A (zh) * | 2014-11-04 | 2015-01-28 | 无锡港湾网络科技有限公司 | 汽车零部件视觉检测系统 |
CN111080622A (zh) * | 2019-12-13 | 2020-04-28 | 熵智科技(深圳)有限公司 | 神经网络训练方法、工件表面缺陷分类与检测方法及装置 |
CN111421539A (zh) * | 2020-04-01 | 2020-07-17 | 电子科技大学 | 一种基于计算机视觉的工业零件智能识别与分拣系统 |
US20210023720A1 (en) * | 2018-12-12 | 2021-01-28 | Cloudminds (Shenzhen) Robotics Systems Co., Ltd. | Method for detecting grasping position of robot in grasping object |
CN114418998A (zh) * | 2022-01-20 | 2022-04-29 | 金瓜子科技发展(北京)有限公司 | 一种车辆零部件缺陷检测方法、系统及电子设备 |
WO2022188379A1 (zh) * | 2021-03-12 | 2022-09-15 | 国网智能科技股份有限公司 | 服务于电力机器人的人工智能系统及方法 |
KR20220164124A (ko) * | 2021-06-03 | 2022-12-13 | 신신화학공업 주식회사 | 딥 러닝 모델에 기반하여 제품의 결함 여부를 유형별로 검사하기 위한 시스템 |
-
2023
- 2023-04-19 CN CN202310421573.0A patent/CN116399871B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104316033A (zh) * | 2014-11-04 | 2015-01-28 | 无锡港湾网络科技有限公司 | 汽车零部件视觉检测系统 |
US20210023720A1 (en) * | 2018-12-12 | 2021-01-28 | Cloudminds (Shenzhen) Robotics Systems Co., Ltd. | Method for detecting grasping position of robot in grasping object |
CN111080622A (zh) * | 2019-12-13 | 2020-04-28 | 熵智科技(深圳)有限公司 | 神经网络训练方法、工件表面缺陷分类与检测方法及装置 |
CN111421539A (zh) * | 2020-04-01 | 2020-07-17 | 电子科技大学 | 一种基于计算机视觉的工业零件智能识别与分拣系统 |
WO2022188379A1 (zh) * | 2021-03-12 | 2022-09-15 | 国网智能科技股份有限公司 | 服务于电力机器人的人工智能系统及方法 |
KR20220164124A (ko) * | 2021-06-03 | 2022-12-13 | 신신화학공업 주식회사 | 딥 러닝 모델에 기반하여 제품의 결함 여부를 유형별로 검사하기 위한 시스템 |
CN114418998A (zh) * | 2022-01-20 | 2022-04-29 | 金瓜子科技发展(北京)有限公司 | 一种车辆零部件缺陷检测方法、系统及电子设备 |
Also Published As
Publication number | Publication date |
---|---|
CN116399871B (zh) | 2023-11-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107229930B (zh) | 一种指针式仪表数值智能识别方法 | |
KR102166458B1 (ko) | 인공신경망 기반의 영상 분할을 이용한 불량 검출 방법 및 불량 검출 장치 | |
CN111507976B (zh) | 基于多角度成像的缺陷检测方法及系统 | |
CN102901444B (zh) | 一种基于mp小波滤波的零件尺寸检测方法及其检测系统 | |
CN109085178B (zh) | 一种用于增材制造的缺陷指纹精确在线监测和反馈方法 | |
CN105931225A (zh) | 一种基于实时图像检测技术分析晶体生长形状和尺寸分布的方法 | |
CN109584206B (zh) | 零件表面瑕疵检测中神经网络的训练样本的合成方法 | |
US20220281177A1 (en) | Ai-powered autonomous 3d printer | |
CN115775236A (zh) | 基于多尺度特征融合的表面微小缺陷视觉检测方法及系统 | |
CN113705564B (zh) | 一种指针式仪表识别读数方法 | |
Jin et al. | End Image Defect Detection of Float Glass Based on Faster Region-Based Convolutional Neural Network. | |
CN114331961A (zh) | 用于对象的缺陷检测的方法 | |
CN108242061B (zh) | 一种基于Sobel算子的超市购物车手部识别方法 | |
CN113674218A (zh) | 焊缝特征点提取方法、装置、电子设备与存储介质 | |
CN116399871B (zh) | 一种基于机器视觉的汽车零部件装配检测系统及方法 | |
CN113487538A (zh) | 一种多目标分割缺陷检测方法、装置及其计算机存储介质 | |
CN116883893A (zh) | 基于红外热成像的隧道掌子面地下水智能判识方法及系统 | |
Li et al. | Vehicle seat detection based on improved RANSAC-SURF algorithm | |
CN117237835A (zh) | 一种基于yolov7的货架安全自动检测方法及装置 | |
CN108154507A (zh) | 螺纹管异物检测系统 | |
Huo et al. | In-situ detection of micro crystals during cooling crystallization based on deep image super-resolution reconstruction | |
CN113870328A (zh) | 一种液体异物视觉检测方法及系统 | |
CN113869407A (zh) | 一种基于单目视觉的车长测量方法和装置 | |
Qiao et al. | A Chip Defect Detection System Based on Machine Vision | |
CN118002802B (zh) | 基于深度学习的slm在线质量监测、修复方法及系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |