CN110152938A - 一种元器件点胶轨迹提取方法及自动控制机器人系统 - Google Patents

一种元器件点胶轨迹提取方法及自动控制机器人系统 Download PDF

Info

Publication number
CN110152938A
CN110152938A CN201910261098.9A CN201910261098A CN110152938A CN 110152938 A CN110152938 A CN 110152938A CN 201910261098 A CN201910261098 A CN 201910261098A CN 110152938 A CN110152938 A CN 110152938A
Authority
CN
China
Prior art keywords
dispensing
component
image
mechanical arm
module
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201910261098.9A
Other languages
English (en)
Inventor
彭刚
熊超
廖金虎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Huazhong University of Science and Technology
Original Assignee
Huazhong University of Science and Technology
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Huazhong University of Science and Technology filed Critical Huazhong University of Science and Technology
Priority to CN201910261098.9A priority Critical patent/CN110152938A/zh
Publication of CN110152938A publication Critical patent/CN110152938A/zh
Pending legal-status Critical Current

Links

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B05SPRAYING OR ATOMISING IN GENERAL; APPLYING FLUENT MATERIALS TO SURFACES, IN GENERAL
    • B05CAPPARATUS FOR APPLYING FLUENT MATERIALS TO SURFACES, IN GENERAL
    • B05C5/00Apparatus in which liquid or other fluent material is projected, poured or allowed to flow on to the surface of the work
    • B05C5/02Apparatus in which liquid or other fluent material is projected, poured or allowed to flow on to the surface of the work the liquid or other fluent material being discharged through an outlet orifice by pressure, e.g. from an outlet device in contact or almost in contact, with the work
    • B05C5/0208Apparatus in which liquid or other fluent material is projected, poured or allowed to flow on to the surface of the work the liquid or other fluent material being discharged through an outlet orifice by pressure, e.g. from an outlet device in contact or almost in contact, with the work for applying liquid or other fluent material to separate articles
    • B05C5/0212Apparatus in which liquid or other fluent material is projected, poured or allowed to flow on to the surface of the work the liquid or other fluent material being discharged through an outlet orifice by pressure, e.g. from an outlet device in contact or almost in contact, with the work for applying liquid or other fluent material to separate articles only at particular parts of the articles
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B05SPRAYING OR ATOMISING IN GENERAL; APPLYING FLUENT MATERIALS TO SURFACES, IN GENERAL
    • B05CAPPARATUS FOR APPLYING FLUENT MATERIALS TO SURFACES, IN GENERAL
    • B05C11/00Component parts, details or accessories not specifically provided for in groups B05C1/00 - B05C9/00
    • B05C11/10Storage, supply or control of liquid or other fluent material; Recovery of excess liquid or other fluent material
    • B05C11/1002Means for controlling supply, i.e. flow or pressure, of liquid or other fluent material to the applying apparatus, e.g. valves
    • B05C11/1015Means for controlling supply, i.e. flow or pressure, of liquid or other fluent material to the applying apparatus, e.g. valves responsive to a conditions of ambient medium or target, e.g. humidity, temperature ; responsive to position or movement of the coating head relative to the target
    • B05C11/1021Means for controlling supply, i.e. flow or pressure, of liquid or other fluent material to the applying apparatus, e.g. valves responsive to a conditions of ambient medium or target, e.g. humidity, temperature ; responsive to position or movement of the coating head relative to the target responsive to presence or shape of target
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/13Edge detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20024Filtering details
    • G06T2207/20032Median filtering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30148Semiconductor; IC; Wafer

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Quality & Reliability (AREA)
  • Image Analysis (AREA)

Abstract

本发明涉及一种元器件点胶轨迹提取方法及自动控制机器人系统,方法包括采集目标元器件的图片数据,并对图片数据进行缩放及滤波处理,得到预处理图像;制作样本元器件图像集,并基于样本元器件图像集对Mask‑RCNN神经网络框架进行训练,得到元器件轮廓提取Mask‑RCNN神经网络模型;基于元器件轮廓提取Mask‑RCNN神经网络模型,对预处理图像进行轮廓提取,得到目标元器件的点胶轨迹。系统包括系统主控模块、视觉模块、点胶执行模块、机械臂模块。本发明方法和系统可以实现高精确、高质量的点胶,且适应性好,在元器件尺寸超过焊盘轮廓或元器件整形不规整时,仍可实现精确点胶。并可以根据识别到的不同元器件类型和大小,实现高质量的均匀点胶。

Description

一种元器件点胶轨迹提取方法及自动控制机器人系统
技术领域
本发明涉及图像处理技术领域,特别是涉及一种元器件点胶轨迹提取方法及自动控制机器人系统。
背景技术
目前,自动化的元器件点胶技术广泛应用于各种元器件固定和机械保护,减缓振动、外力和温差产生的影响,同时,增强绝缘性能,并满足EMC(Electro MagneticCompatibility,电磁兼容性)要求。自动化的元器件点胶技术利用机器视觉技术与机器人技术,获取元器件点胶轨迹,然后将适量的工业胶体涂抹在元器件与电路板的焊盘连接处,或者元器件之间的连接处(比如排线插座基座和排线端子的连接处等),提高了生产效率,降低了操作人员的工作强度、出错概率。
自动化的元器件点胶技术在3C(Computer,计算机;Communication,通信;Consumer Electronics,消费类电子)领域需求广泛,元器件尺寸越来越小,点胶或涂胶工艺难度越来越大,同时3C产品的更新换代速度也越来越快,对点胶任务的智能化、效率、精度和质量提出了更高的要求,需要精确且高效的提取出元器件的点胶轨迹,实现元器件的快速而准确的固定,提高工作效率,降低生产成本。而对于元器件点胶轨迹的提取,现有方法往往采用Mark标记点辅助进行元器件焊盘轮廓或者元器件之间连接轮廓的定位,然后直接进行点胶作业,算法的精确度不高,而且对于超过焊盘轮廓的元器件,无法获取准确的实际点胶轮廓,降低了点胶质量。同时,由于元器件种类较多,PCB(Printed Circuit Board,印刷电路板,通常简称电路板)较复杂,需要针对不同元器件预存不同的点胶轨迹,现有方法适应性不好。而且,在前期元器件整形工序,往往由于人为原因,造成插件元器件整形不规整、不一致,现有方法点胶质量较低、适应性不好。
因此,现有的元器件点胶轨迹提取方法存在轨迹提取不精确、点胶质量较低和适应性不好的技术问题。
发明内容
本发明提供一种元器件点胶轨迹提取方法及自动控制机器人系统,用以解决现有技术中存在的元器件点胶轨迹精确度不高的问题。
本发明解决上述技术问题的技术方案如下:一种元器件点胶轨迹提取方法,包括:
步骤1、采集目标元器件的图片数据,并对所述图片数据进行缩放及滤波处理,得到预处理图像;
步骤2、制作样本元器件图像集,并基于所述样本元器件图像集对Mask-RCNN神经网络框架进行训练,得到元器件轮廓提取Mask-RCNN神经网络模型;
步骤3、基于所述元器件轮廓提取Mask-RCNN神经网络模型,对所述预处理图像进行轮廓提取,得到所述目标元器件的点胶轨迹。
本发明的有益效果是:本发明采用Mask-RCNN神经网络(Mask Region-basedConvolutional Neural Network,基于掩模区域的卷积神经网络)模型对元器件的点胶轨迹进行提取,相比较现有直接以焊盘轮廓作为点胶轨迹,点胶的精确度高,且在元器件尺寸超过焊盘轮廓或元器件整形不规整时,仍可实现精确点胶。
在上述技术方案的基础上,本发明还可以做如下改进。
进一步,所述步骤1包括:
采集目标元器件的图片数据,将所述图片数据缩放至预设像素,得到待处理图像;
采用中值滤波法对所述待处理图像进行椒盐噪声滤除处理,得到预处理图像。
本发明的进一步有益效果是:对采集的图片数据进行缩放和中值滤波处理,使得Mask-RCNN神经网络模型接收的图片数据符合该神经网络模型的处理标准,提高处理效率。
进一步,所述元器件轮廓提取Mask-RCNN神经网络模型包括特征提取单元、候选框确定单元、候选框修正单元、分割单元和融合单元;
则所述步骤3包括:
所述特征提取单元采用特征提取网络,计算所述预处理图像的不同尺度的多张尺度特征图;
所述候选框确定单元采用区域建议网络,计算每张所述尺度特征图中所述目标元器件对应的目标候选框;
所述候选框修正单元采用双线性内插算法,计算每个所述目标候选框对应的目标特征图;
所述分割单元采用全卷积神经网络,对每张所述目标特征图进行分割,得到该张目标特征图对应的所述目标元器件的第一分割掩膜;
所述融合单元采用融合算法,对所有所述第一分割掩膜进行融合处理,得到一个所述目标元器件的第二分割掩膜,完成元器件点胶轨迹的提取。
本发明的进一步有益效果是:采用双线性内插法,对特征进行稀释,提高了待处理图像的处理效率,同时消除了稀释后的候选框的偏差。使得用同样方法得到的数据集进行训练得出的元器件轮廓提取神经网络模型的分割精度更高,有效的提高了小目标的分割准确度。
进一步,所述样本元器件图像集为基于所述目标元器件的类型制作得到。
本发明的进一步有益效果是:采用基于目标元器件的类型制作得到的样本图像数据集对Mask-RCNN神经网络框架进行训练,使得训练得到的神经网络模型可实时基于元器件预处理图像对元器件轮廓进行提取,且提高了目标元器件的轮廓提取效率和精度,进一步可提高点胶效率和精确度。
进一步,所述制作样本图像数据集,具体包括:
采集多个样本元器件对应的预设数量的图片数据;
对每张所述图片数据进行缩放,得到预设像素的缩放图像;
提取每张所述缩放图像中的元器件区域,得到元器件区域图像;
对每张所述元器件区域图像进行图像数据增强处理,得到该张元器件区域图像对应的多张元器件区域增强图像;
提取每张所述元器件区域增强图像中的元器件区域轮廓坐标数据,生成样本图像数据集,所述样本图像数据集包括每张所述元器件区域增强图像及其元器件区域轮廓坐标数据。
本发明的进一步有益效果是:该种数据集制作方法,通过图像数据增强处理,在小数据的基础上快速制作用于元器件轮廓提取神经网络框架训练的大型数据集,解决因图像样本匮乏导致的神经网络模型过拟合问题,提高训练所得元器件轮廓提取用神经网络模型的准确率和适应性。
进一步,所述图像数据增强处理包括:随机水平翻转、HIS颜色空间变换和添加椒盐噪声。
本发明的进一步有益效果是:该种图像数据增强的处理方法,在扩充数据集的同时,可随机减少元器件的特征,增加元器件分割的难度,使得利用该数据集训练得到的元器件轮廓提取神经网络模型具有更好的适应性,在处理元器件特征不明显的图像时具有更好的准确性。
本发明还提供一种元器件点胶轨迹自动控制机器人系统,包括:主控模块、视觉模块、点胶执行模块和机械臂模块;
所述视觉模块,设置于所述机械臂模块上,用于接收所述主控模块的图像采集指令,基于所述图像采集指令采集电路板图像并传输至所述主控模块;
所述主控模块,用于在所述电路板图像中获取目标元器件的图片数据,并基于所述图片数据以及如上述的任一种元器件点胶轨迹提取方法,提取所述目标元器件的点胶轨迹,基于所述点胶轨迹,生成机械臂点胶路径指令并发送至所述机械臂模块,同时生成点胶量指令发送至所述点胶执行模块
所述机械臂模块,用于基于所述机械臂点胶路径指令进行运动;
所述点胶执行模块,设置于所述机械臂模块上,用于基于所述点胶量指令,在所述机械臂模块运动的同时进行点胶。
本发明的有益效果是:本发明的点胶系统,采用主控模块基于上述的点胶轨迹提取方法提取电路板上各元器件的点胶轨迹,基于该点胶轨迹控制机械臂模块运动,一方面利用元器件轮廓提取Mask-RCNN神经网络模型和上述元器件点胶轨迹提取方法,保证了点胶的准确度,另一方面,主控模块控制点胶系统完成一个元器件的点胶任务后,无需如现有技术重新根据Mark标记点辅助进行元器件焊盘轮廓或者元器件之间连接轮廓的定位,可以直接基于各个元器件的点胶轨迹,进行下一个点胶任务作业,方便快捷。
进一步,所述机械臂模块包括:机械臂控制器和机械臂;
所述点胶执行模块包括:点胶针筒和点胶控制设备,其中,所述点胶针筒设置于所述机械臂上;
则所述机械臂模块具体用于:
所述机械臂控制器接收并基于所述机械臂点胶路径指令,控制所述机械臂移动至初始点胶任务的起始位置,开始点胶运动,并同步将运动状态传输回所述主控模块;
所述点胶执行模块具体用于:
所述点胶控制设备接收并基于所述点胶量指令,在所述机械臂模块运动的同时推动所述点胶针筒进行点胶,并同步将点胶状态传输回所述主控模块;
则所述主控模块,还用于:
根据所述运动状态和所述点胶状态,当当前的点胶任务完成后,向所述机械臂控制器发送运动指令,以控制所述机械臂运动到下一个点胶任务的起始位置,开始新的点胶任务。
本发明的进一步有益效果是:机械臂控制器和点胶控制设备分别实时向主控模块发送机械臂运动状态和点胶针筒的点胶状态,一方面,主控模块可实时监控现场的执行状况,进行有效点胶控制,另一方面,当电路板存在多个元器件点胶任务时,根据主控模块可设定点胶顺序,以有效缩短胶枪的相对移动距离,提高点胶效率。
进一步,所述主控模块在生成所述点胶量指令时,具体为:
基于所述图片数据,识别所述目标元器件的类型和大小,并基于该类型和大小,生成点胶量指令,所述点胶量指令包括所述点胶针筒的推动速度。
本发明的进一步有益效果是:通过元器件类型和大小,根据相应点胶工艺要求,控制点胶针筒的推动速度大小,控制点胶量,完成沿点胶轨迹高质量的均匀点胶。在保证点胶质量的同时,节省胶水,提高点胶工作效率,减少点胶成本。
进一步,所述视觉模块包括:工业相机和补光光源;
所述工业相机,用于接收所述主控模块的图像采集指令,基于所述图像采集指令采集电路板图像并传输至所述主控模块;
所述补光光源,用于给所述工业相机补充光源。
本发明的进一步有益效果是:采用的补光光源保证工业相机具有良好的光照条件,不受外界光线的影响,使采集的电路板图像成像质量高,提高元器件点胶轨迹的提取精度。
附图说明
图1为本发明一个实施例提供的一种元器件点胶轨迹提取方法的流程框图;
图2为本发明另一个实施例提供的双线性内插算法的流程示意图。
图3为本发一个实施例提供的一种元器件点胶轨迹自动控制机器人系统组成框图。
具体实施方式
以下结合附图对本发明的原理和特征进行描述,所举实例只用于解释本发明,并非用于限定本发明的范围。
实施例一
一种元器件点胶轨迹提取方法100,如图1所示,包括:
步骤110、采集目标元器件的图片数据,并对图片数据进行缩放及滤波处理,得到预处理图像;
步骤120、制作样本元器件图像集,并基于样本元器件图像集对Mask-RCNN神经网络框架进行训练,得到元器件轮廓提取Mask-RCNN神经网络模型;
步骤130、基于元器件轮廓提取Mask-RCNN神经网络模型,对预处理图像进行轮廓提取,得到目标元器件的点胶轨迹。
需要说明的是,元器件轮廓提取用Mask-RCNN神经网络模型即为用于元器件轮廓提取的Mask-RCNN神经网络模型,Mask-RCNN神经网络即为基于掩模区域的卷积神经网络(Mask Region-based Convolutional Neural Network)。
例如,Mask-RCNN神经网络框架的训练过程,可包括如下:
(S1)使用基于COCO数据集训练得到的模型作为预训练模型;
(S2)将自制的元器件数据集输入到预训练模型中,保持特征提取主干网络参数不变,设定学习率为0.001,迭代训练10000次,得到微调边框回归和分割网络后的网络模型;
(S3)将自制的元器件数据集输入到S2得到的网络模型中,设定学习率为0.0001,迭代训练10000次,得到训练好的网络模型。
上述训练方法为迁移学习法。即将其他相似或相关数据集训练得到的模型作为初始训练模型,然后使用自己的数据集继续训练初始模型并微调其中的参数。其中,S2的训练,是保持特征提取主干网络参数不变的,其训练的是分割的全卷积神经网络和边框回归的全连接网络;S3的训练,没有固定参数不变,特征提取网络和分割的全卷积神经网络及边框回归的全连接网络的参数都会进行变化。S2和S3中具体迭代的过程如下:(1)首先随机初始化框架中所有网络的参数;(2)输入图片到特征提取网络,得到多尺度特征图;(3)使用区域建议网络对特征图进行卷积,得到目标候选框;(4)使用双线性内插法将候选框映射到特征图上,得到校正后的ROI区域的特征图;(5)将矫正后的特征图输入到边框回归与分割的网络;(6)然后调整网络的参数,再次执行(2)~(5),重复执行即可。
需要说明的是,S2的S3的迭代的步骤是相同的,不同的是S2和S3训练时参数设置不同,S2迭代训练时保持特征提取网络参数不变,S3没有对此进行限制。
本实施例采用Mask-RCNN神经网络(Mask Region-based Convolutional NeuralNetwork,基于掩模区域的卷积神经网络)模型对元器件的点胶轨迹进行提取,相比较现有直接以焊盘轮廓作为点胶轨迹,点胶的精确度高,且在元器件尺寸超过焊盘轮廓或元器件整形不规整时,仍可实现精确点胶。
实施例二
在实施例一的基础上,步骤110包括:
采集目标元器件的图片数据,将图片数据缩放至预设像素,得到待处理图像;采用中值滤波法对待处理图像进行椒盐噪声滤除处理,得到预处理图像。
对采集的图片数据进行缩放和中值滤波处理,使得Mask-RCNN神经网络模型接收的图片数据符合该神经网络模型的处理标准,提高处理效率。
实施例三
在实施例一或实施例二的基础上,所述元器件轮廓提取Mask-RCNN神经网络模型包括特征提取单元、候选框确定单元、候选框修正单元、分割单元和融合单元。则步骤130包括:
特征提取单元采用特征提取网络,计算预处理图像的不同尺度的多张尺度特征图;候选框确定单元采用区域建议网络,计算每张尺度特征图中目标元器件对应的目标候选框;候选框修正单元采用双线性内插算法,计算每个目标候选框对应的目标特征图;分割单元采用全卷积神经网络,对每张目标特征图进行分割,得到该张目标特征图对应的目标元器件的第一分割掩膜;融合单元采用融合算法,对所有第一分割掩膜进行融合处理,得到一个目标元器件的第二分割掩膜,完成元器件点胶轨迹的提取。
需要说明的是,分割指的是轮廓划分,对于一个目标特征图,边框回归与分割是同步进行的,分割并没有用到边框回归的结果。边框回归是使用矩形框选出目标,分割是采用掩膜标记目标,两个任务不会互相影响。边框回归的尺寸可以比实际的元器件尺寸大,其并未影响到分割的结果。
全卷积神经网络具体为:传统的CNN网络(卷积神经网络)的全连接网络层,将前一层的输出,转化成长度为4096、4096和1000的一维向量,在FCN(全卷积神经网络)中将该部分修改成卷积层,然后对最后输出的目标特征图进行上采样,将特征图尺寸恢复到原输入图像尺寸,避免输出特征被降维。
分割采用的是一个全卷积神经网络,该全卷积神经网络会对每一个输入的目标特征图进行像素级分割,得到与输入的目标特征图对应的分割掩膜,最后是多个分割掩膜融合得到的一个目标元器件的分割掩膜。
如图2所示,双线性内插算法可具体为:将目标候选框(如图中2*2大方格,即为ROI区域)映射到特征图之后,将目标候选框中每个大方格分割成2*2个小方格,在每个小方格中计算固定四个角的坐标位置,然后使用双线性内插法,计算出这四个位置的值,最后进行最大池化操作,得到校正后的ROI区域的特征图,即为图2最后一张图。其中,图中数字代表该像素与该特征图所代表的特征的吻合程度(范围为0~1),数值越大越吻合,
采用双线性内插法,对特征进行稀释,提高了待处理图像的处理效率,同时消除了稀释后候选框的偏差,使得用同样方法得到的数据集进行训练得出的元器件轮廓提取神经网络模型的分割精度更高,有效的提高了小目标的分割准确度。
实施例四
在实施例一至实施例三中任一实施例的基础上,样本元器件图像集为基于目标元器件的类型制作得到。
采用基于目标元器件的类型制作得到的样本图像数据集对Mask-RCNN神经网络框架进行训练,使得训练得到的神经网络模型可实时基于元器件预处理图像对元器件轮廓进行提取,且提高了目标元器件的轮廓提取效率和精度,进一步可提高点胶效率和精确度。
实施例五
在实施例四的基础上,所述制作样本图像数据集,具体包括:
采集多个样本元器件对应的预设数量的图片数据;
对每张图片数据进行缩放,得到预设像素的缩放图像;
提取每张缩放图像中的元器件区域,得到元器件区域图像;
对每张元器件区域图像进行图像数据增强处理,得到该张元器件区域图像对应的多张元器件区域增强图像;
提取每张元器件区域增强图像中的元器件区域轮廓坐标数据,生成样本图像数据集,样本图像数据集包括每张元器件区域增强图像及其元器件区域轮廓坐标数据。
需要说明的是,元器件区域轮廓坐标数据可以json格式标注文件的形式保存。
该种数据集制作方法,通过图像数据增强处理,在小数据的基础上快速制作用于元器件轮廓提取神经网络框架训练的大型数据集,解决因图像样本匮乏导致的神经网络模型过拟合问题,提高训练所得元器件轮廓提取用神经网络模型的准确率和适应性。
优选的,所述图像数据增强处理包括:随机水平翻转、HIS颜色空间变换和添加椒盐噪声。
该种图像数据增强的处理方法,在扩充数据集的同时,可随机减少元器件的特征,增加元器件分割的难度,使得利用该数据集训练得到的元器件轮廓提取神经网络模型具有更好的适应性,在处理元器件特征不明显的图像时具有更好的准确性。
例如,一种元器件点胶轨迹提取方法,包括:
S1、采集到的元器件图像有200张,分辨率均为1024*640,分别对每张元器件图像进行旋转、HIS颜色空间变换、添加椒盐噪声等操作,将上述200张元器件图像扩充到800张,并对元器件进行标注,标注出每一个元器件的轮廓边缘。
S2、将标注好的图片的80%(即640张)用作训练用图像数据集,训练卷积神经网络,训练步骤包括:(1)保持ResNet与FPN构成的主干网络不变,设定学习率为0.001,迭代次数为10000次,每100次迭代,保存一次损失值,得到训练好的头结构;(2)对全网络模型进行训练,设定学习率为0.0001,迭代次数为10000次,每100次迭代,保存一个损失值,得到训练好的网络模型。相关训练的具体说明同实施例一,在此不再赘述。
S3、将标注好的图片的20%(即800张中剩下的160张)用作测试集,输入到训练好的模型,输入图像,通过卷积层特征提取后,区域建议网络在此基础上进行候选框提取,保留经过回归修正的候选框。在此基础上,全卷积神经网络对候选框目标生成掩膜,输出分割结果,元器件的点胶轨迹即为分割出的掩膜边缘。
实施例六
如图3所示,一种元器件点胶轨迹自动控制机器人系统,包括系统主控模块、视觉模块、点胶执行模块、机械臂模块。在实施例一的基础上,一种元器件点胶轨迹自动控制机器人系统利用元器件轮廓提取Mask-RCNN神经网络模型和元器件点胶轨迹提取方法得到点胶轮廓,进行点胶,具体包括:
(S1)系统主控模块向机械臂模块发送指令,机械臂模块中的机械臂控制器控制机械臂,按照系统主控模块预定的位置移动到初始点胶任务起始位置;
(S2)视觉模块中的工业相机采集电路板图像,并将图像传输到系统主控模块;
(S3)系统主控模块根据元器件轮廓提取Mask-RCNN神经网络模型和元器件点胶轨迹提取方法,得到目标元器件的点胶轨迹,生成机械臂点胶路径指令,发送给机械臂控制器,控制机械臂运动,同时将机械臂状态传输回系统主控模块;
(S4)在机械臂运动的过程中,点胶模块中的点胶控制设备接收系统主控模块发送的点胶量指令,基于该点胶量指令,推动点胶针筒进行点胶,同时将点胶状态传输回系统主控模块,监控点胶任务是否完成;
(S5)上一个点胶任务完成后,系统主控模块向机械臂模块发送指令,控制机械臂运动到下一个点胶任务起始位置,开始新的点胶任务,重复执行步骤S2~S4,直至所有元器件的点胶任务完成。
本实施例的点胶机器人系统,采用主控模块基于上述的点胶轨迹提取方法提取电路板上各元器件的点胶轨迹,基于该点胶轨迹控制机械臂模块运动,一方面利用元器件轮廓提取Mask-RCNN神经网络模型和上述元器件点胶轨迹提取方法,保证了点胶的准确度,另一方面,主控模块控制点胶系统完成一个元器件的点胶任务后,无需如现有技术重新根据Mark标记点辅助进行元器件焊盘轮廓或者元器件之间连接轮廓的定位,可以直接基于各个元器件的点胶轨迹,进行下一个点胶任务作业,方便快捷。
需要说明的是,机械臂控制器和点胶控制设备分别实时向主控模块发送机械臂运动状态和点胶针筒的点胶状态,一方面,主控模块可实时监控现场的执行状况,进行有效点胶控制,另一方面,当电路板存在多个元器件点胶任务时,根据主控模块可设定点胶顺序,以有效缩短胶枪的相对移动距离,提高点胶效率。
优选的,主控模块在生成点胶量指令时,具体为:
基于图片数据,识别目标元器件的类型和大小,并基于该类型和大小,生成点胶量指令,点胶量指令包括点胶针筒的推动速度。
该种控制方法,通过元器件类型和大小,根据相应点胶工艺要求,控制点胶针筒的推动速度大小,控制点胶量的多少,完成沿点胶轨迹高质量的均匀点胶。在保证点胶质量的同时,节省胶水,提高点胶工作效率,减少点胶成本
优选的,视觉模块包括工业相机和补光光源。其中,
工业相机,用于接收主控模块的图像采集指令,基于图像采集指令采集电路板图像并传输至主控模块;补光光源,用于给工业相机补充光源。
采用的补光光源保证工业相机具有良好的光照条件,不受外界光线的影响,使采集的电路板图像成像质量高,提高元器件点胶轨迹的提取精度。
以上所述仅为本发明的较佳实施例,并不用以限制本发明,凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。

Claims (10)

1.一种元器件点胶轨迹提取方法,其特征在于,包括:
步骤1、采集目标元器件的图片数据,并对所述图片数据进行缩放及滤波处理,得到预处理图像;
步骤2、制作样本元器件图像集,并基于所述样本元器件图像集对Mask-RCNN神经网络框架进行训练,得到元器件轮廓提取Mask-RCNN神经网络模型;
步骤3、基于所述元器件轮廓提取Mask-RCNN神经网络模型,对所述预处理图像进行轮廓提取,得到所述目标元器件的点胶轨迹。
2.根据权利要求1所述的一种元器件点胶轨迹提取方法,其特征在于,所述步骤1包括:
采集目标元器件的图片数据,将所述图片数据缩放至预设像素,得到待处理图像;
采用中值滤波法对所述待处理图像进行椒盐噪声滤除处理,得到预处理图像。
3.根据权利要求1所述的一种元器件点胶轨迹提取方法,其特征在于,所述元器件轮廓提取Mask-RCNN神经网络模型包括特征提取单元、候选框确定单元、候选框修正单元、分割单元和融合单元;
则所述步骤3包括:
所述特征提取单元采用特征提取网络,计算所述预处理图像的不同尺度的多张尺度特征图;
所述候选框确定单元采用区域建议网络,计算每张所述尺度特征图中所述目标元器件对应的目标候选框;
所述候选框修正单元采用双线性内插算法,计算每个所述目标候选框对应的目标特征图;
所述分割单元采用全卷积神经网络,对每张所述目标特征图进行分割,得到该张目标特征图对应的所述目标元器件的第一分割掩膜;
所述融合单元采用融合算法,对所有所述第一分割掩膜进行融合处理,得到一个所述目标元器件的第二分割掩膜,完成元器件点胶轨迹的提取。
4.根据权利要求1所述的一种元器件点胶轨迹提取方法,其特征在于,所述样本元器件图像集为基于所述目标元器件的类型制作得到。
5.根据权利要求1至4任一项所述的一种元器件点胶轨迹提取方法,其特征在于,所述步骤2中,所述制作样本元器件图像集,具体包括:
采集多个样本元器件对应的预设数量的图片数据;
对每张所述图片数据进行缩放,得到预设像素的缩放图像;
提取每张所述缩放图像中的元器件区域,得到元器件区域图像;
对每张所述元器件区域图像进行图像数据增强处理,得到该张元器件区域图像对应的多张元器件区域增强图像;
提取每张所述元器件区域增强图像中的元器件区域轮廓坐标数据,生成样本图像数据集,所述样本图像数据集包括每张所述元器件区域增强图像及其元器件区域轮廓坐标数据。
6.根据权利要求5所述的一种元器件点胶轨迹提取方法,其特征在于,所述图像数据增强处理包括:随机水平翻转、HIS颜色空间变换和添加椒盐噪声。
7.一种元器件点胶轨迹自动控制机器人系统,其特征在于,包括:主控模块、视觉模块、点胶执行模块和机械臂模块;
所述视觉模块,设置于所述机械臂模块上,用于接收所述主控模块的图像采集指令,基于所述图像采集指令采集电路板图像并传输至所述主控模块;
所述主控模块,用于在所述电路板图像中获取目标元器件的图片数据,并基于所述图片数据以及如权利要求1至6任一项所述的一种元器件点胶轨迹提取方法,提取所述目标元器件的点胶轨迹,基于所述点胶轨迹,生成机械臂点胶路径指令并发送至所述机械臂模块,同时生成点胶量指令发送至所述点胶执行模块;
所述机械臂模块,用于基于所述机械臂点胶路径指令进行运动;
所述点胶执行模块,设置于所述机械臂模块上,用于基于所述点胶量指令,在所述机械臂模块运动的同时进行点胶。
8.根据权利要求7所述的一种元器件点胶轨迹自动控制机器人系统,其特征在于,所述机械臂模块包括:机械臂控制器和机械臂;
所述点胶执行模块包括:点胶针筒和点胶控制设备,其中,所述点胶针筒设置于所述机械臂上;
则所述机械臂模块具体用于:
所述机械臂控制器接收并基于所述机械臂点胶路径指令,控制所述机械臂移动至初始点胶任务的起始位置,开始点胶运动,并同步将运动状态传输回所述主控模块;
所述点胶执行模块具体用于:
所述点胶控制设备接收并基于所述点胶量指令,在所述机械臂模块运动的同时推动所述点胶针筒进行点胶,并同步将点胶状态传输回所述主控模块;
则所述主控模块,还用于:
根据所述运动状态和所述点胶状态,当当前的点胶任务完成后,向所述机械臂控制器发送运动指令,以控制所述机械臂运动到下一个点胶任务的起始位置,开始新的点胶任务。
9.根据权利要求7至8所述的一种元器件点胶轨迹自动控制机器人系统,其特征在于,所述主控模块在生成所述点胶量指令时,具体为:
基于图片数据,识别所述目标元器件的类型和大小,并基于该类型和大小,生成点胶量指令,所述点胶量指令包括所述点胶针筒的推动速度。
10.根据权利要求7至8所述的一种元器件点胶轨迹自动控制机器人系统,其特征在于,所述视觉模块包括:工业相机和补光光源;
所述工业相机,用于接收所述主控模块的图像采集指令,基于所述图像采集指令采集电路板图像并传输至所述主控模块;
所述补光光源,用于给所述工业相机补充光源。
CN201910261098.9A 2019-04-02 2019-04-02 一种元器件点胶轨迹提取方法及自动控制机器人系统 Pending CN110152938A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910261098.9A CN110152938A (zh) 2019-04-02 2019-04-02 一种元器件点胶轨迹提取方法及自动控制机器人系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910261098.9A CN110152938A (zh) 2019-04-02 2019-04-02 一种元器件点胶轨迹提取方法及自动控制机器人系统

Publications (1)

Publication Number Publication Date
CN110152938A true CN110152938A (zh) 2019-08-23

Family

ID=67638489

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910261098.9A Pending CN110152938A (zh) 2019-04-02 2019-04-02 一种元器件点胶轨迹提取方法及自动控制机器人系统

Country Status (1)

Country Link
CN (1) CN110152938A (zh)

Cited By (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110889489A (zh) * 2019-11-08 2020-03-17 北京小米移动软件有限公司 神经网络的训练方法、图像识别方法及其装置
CN111046950A (zh) * 2019-12-11 2020-04-21 北京迈格威科技有限公司 一种图像处理方法、装置、存储介质和电子装置
CN111325764A (zh) * 2020-02-11 2020-06-23 广西师范大学 一种果实图像轮廓识别方法
CN111617933A (zh) * 2020-05-22 2020-09-04 梅卡曼德(北京)机器人科技有限公司 涂胶轨迹的获取方法及涂胶方法、装置和涂胶轨迹生成系统
CN112045680A (zh) * 2020-09-02 2020-12-08 山东大学 一种基于行为克隆的布料码垛机器人控制系统及控制方法
CN112487707A (zh) * 2020-11-13 2021-03-12 北京遥测技术研究所 一种基于lstm的点胶图形智能生成方法
CN112834764A (zh) * 2020-12-28 2021-05-25 深圳市人工智能与机器人研究院 机械臂的采样控制方法及装置、采样系统
CN113578675A (zh) * 2021-09-02 2021-11-02 深圳市若菲特科技有限公司 一种精准点胶方法及系统
CN113976390A (zh) * 2021-09-18 2022-01-28 物华能源科技有限公司 一种基于机器学习的柔性化智能点胶系统及方法
CN114335323A (zh) * 2022-03-14 2022-04-12 武汉飞恩微电子有限公司 压力芯片封装方法、计算机可读存储介质及计算机设备
CN114769021A (zh) * 2022-04-24 2022-07-22 广东天太机器人有限公司 一种基于全角度模板识别的机器人喷涂系统及方法
CN114769072A (zh) * 2022-06-16 2022-07-22 深圳徕科技术有限公司 高速喷射阀控制方法、装置、电子设备及存储介质
CN115463806A (zh) * 2022-08-04 2022-12-13 东莞市慧视智能科技有限公司 一种速度可控的点胶方法及点胶系统
CN115463804A (zh) * 2022-08-04 2022-12-13 东莞市慧视智能科技有限公司 一种基于点胶路径的点胶方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107563446A (zh) * 2017-09-05 2018-01-09 华中科技大学 一种微操作系统目标检测方法
US20180253866A1 (en) * 2017-03-03 2018-09-06 General Electric Company Image analysis neural network systems

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180253866A1 (en) * 2017-03-03 2018-09-06 General Electric Company Image analysis neural network systems
CN107563446A (zh) * 2017-09-05 2018-01-09 华中科技大学 一种微操作系统目标检测方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
夏成林: "《开放式点胶机器人控制系统的研究与实现》", 31 January 2018 *
熊超: "《面向3C行业的元器件检测与机器人视觉标定研究》", 18 December 2018 *

Cited By (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110889489A (zh) * 2019-11-08 2020-03-17 北京小米移动软件有限公司 神经网络的训练方法、图像识别方法及其装置
CN111046950A (zh) * 2019-12-11 2020-04-21 北京迈格威科技有限公司 一种图像处理方法、装置、存储介质和电子装置
CN111046950B (zh) * 2019-12-11 2023-09-22 北京迈格威科技有限公司 一种图像处理方法、装置、存储介质和电子装置
CN111325764A (zh) * 2020-02-11 2020-06-23 广西师范大学 一种果实图像轮廓识别方法
CN111325764B (zh) * 2020-02-11 2022-05-31 广西师范大学 一种果实图像轮廓识别方法
CN111617933A (zh) * 2020-05-22 2020-09-04 梅卡曼德(北京)机器人科技有限公司 涂胶轨迹的获取方法及涂胶方法、装置和涂胶轨迹生成系统
WO2021232592A1 (zh) * 2020-05-22 2021-11-25 梅卡曼德(北京)机器人科技有限公司 涂胶轨迹的获取方法及涂胶方法、装置和涂胶轨迹生成系统
CN112045680B (zh) * 2020-09-02 2022-03-04 山东大学 一种基于行为克隆的布料码垛机器人控制系统及控制方法
CN112045680A (zh) * 2020-09-02 2020-12-08 山东大学 一种基于行为克隆的布料码垛机器人控制系统及控制方法
CN112487707A (zh) * 2020-11-13 2021-03-12 北京遥测技术研究所 一种基于lstm的点胶图形智能生成方法
CN112487707B (zh) * 2020-11-13 2023-10-17 北京遥测技术研究所 一种基于lstm的点胶图形智能生成方法
CN112834764A (zh) * 2020-12-28 2021-05-25 深圳市人工智能与机器人研究院 机械臂的采样控制方法及装置、采样系统
CN112834764B (zh) * 2020-12-28 2024-05-31 深圳市人工智能与机器人研究院 机械臂的采样控制方法及装置、采样系统
CN113578675A (zh) * 2021-09-02 2021-11-02 深圳市若菲特科技有限公司 一种精准点胶方法及系统
CN113976390A (zh) * 2021-09-18 2022-01-28 物华能源科技有限公司 一种基于机器学习的柔性化智能点胶系统及方法
CN114335323A (zh) * 2022-03-14 2022-04-12 武汉飞恩微电子有限公司 压力芯片封装方法、计算机可读存储介质及计算机设备
CN114335323B (zh) * 2022-03-14 2022-07-15 武汉飞恩微电子有限公司 压力芯片封装方法、计算机可读存储介质及计算机设备
CN114769021A (zh) * 2022-04-24 2022-07-22 广东天太机器人有限公司 一种基于全角度模板识别的机器人喷涂系统及方法
CN114769072A (zh) * 2022-06-16 2022-07-22 深圳徕科技术有限公司 高速喷射阀控制方法、装置、电子设备及存储介质
CN115463806A (zh) * 2022-08-04 2022-12-13 东莞市慧视智能科技有限公司 一种速度可控的点胶方法及点胶系统
CN115463804A (zh) * 2022-08-04 2022-12-13 东莞市慧视智能科技有限公司 一种基于点胶路径的点胶方法

Similar Documents

Publication Publication Date Title
CN110152938A (zh) 一种元器件点胶轨迹提取方法及自动控制机器人系统
CN110008915B (zh) 基于掩码-rcnn进行稠密人体姿态估计的系统及方法
CN105538345B (zh) 一种基于多镜头的智能机械手及定位装配方法
CN104699247B (zh) 一种基于机器视觉的虚拟现实交互系统及方法
CN107876269B (zh) 鞋模自动喷胶的三目视觉喷涂轨迹提取系统及其工作方法
CN111421539A (zh) 一种基于计算机视觉的工业零件智能识别与分拣系统
CN108109174A (zh) 一种用于散乱零件随机分拣的机器人单目引导方法和系统
CN109926817A (zh) 基于机器视觉的变压器自动装配方法
CN110276799B (zh) 一种坐标标定方法、标定系统及机械臂
CN100361070C (zh) 一种基于光学的运动捕获数据的骨骼运动提取方法
CN105234943A (zh) 一种基于视觉识别的工业机器人示教装置及方法
CN104067781A (zh) 基于虚拟机器人与真实机器人集成的采摘系统及方法
CN110102490A (zh) 基于视觉技术的流水线包裹分拣装置和电子设备
CN104167016A (zh) 一种基于rgb彩色与深度图像的三维运动重建方法
CN105835507A (zh) 一种手机盖板玻璃和液晶屏的贴合方法
CN110142770B (zh) 一种基于头戴显示装置的机器人示教系统及方法
EP3921801B1 (en) Creating training data variability in machine learning for object labelling from images
CN108628267B (zh) 一种物方扫描成像系统的分离式、分布式操控方法
CN110405775A (zh) 一种基于增强现实技术的机器人示教系统及方法
CN112893007A (zh) 一种基于机器视觉的点胶系统及其点胶方法
CN109765936A (zh) 移动终端的定位和控制方法、装置及无人机
CN106651958B (zh) 一种移动物体的对象识别装置及方法
CN206863817U (zh) 摄像机图像自动采集装置及摄像机标定系统
CN111822256A (zh) 基于转盘的摄像头模组点胶系统
CN107577159A (zh) 扩增实境仿真系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
WD01 Invention patent application deemed withdrawn after publication
WD01 Invention patent application deemed withdrawn after publication

Application publication date: 20190823