CN115239662A - 一种基于物理尺寸匹配的电子元器件计数方法 - Google Patents

一种基于物理尺寸匹配的电子元器件计数方法 Download PDF

Info

Publication number
CN115239662A
CN115239662A CN202210852769.0A CN202210852769A CN115239662A CN 115239662 A CN115239662 A CN 115239662A CN 202210852769 A CN202210852769 A CN 202210852769A CN 115239662 A CN115239662 A CN 115239662A
Authority
CN
China
Prior art keywords
image
materials
points
counting
images
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202210852769.0A
Other languages
English (en)
Inventor
李伟
卢致天
肖海明
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Zhuhai Weisheng Technology Co ltd
Original Assignee
Zhuhai Weisheng Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Zhuhai Weisheng Technology Co ltd filed Critical Zhuhai Weisheng Technology Co ltd
Priority to CN202210852769.0A priority Critical patent/CN115239662A/zh
Publication of CN115239662A publication Critical patent/CN115239662A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/12Edge-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/13Edge detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/136Segmentation; Edge detection involving thresholding
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes
    • G06T7/62Analysis of geometric attributes of area, perimeter, diameter or volume
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/26Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/28Quantising the image, e.g. histogram thresholding for discrimination between background and foreground patterns
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/44Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20016Hierarchical, coarse-to-fine, multiscale or multiresolution image processing; Pyramid transform
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30242Counting objects in image

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Geometry (AREA)
  • Quality & Reliability (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开了一种基于物理尺寸匹配的电子元器件计数方法,涉及电子元器件计数技术领域。本发明利用SURF算法对物料进行计数,采用双目相机对物料拍摄,用SURF算法对物料图像进行拼接,对物料的轮廓进行提取,计算出物料的尺寸并且将其保存;双目相机对与初次不同数量的物料进行拍摄,利用SURF算法对物料的图像进行拼接,轮廓提取以及图像分割,再次计算物料的尺寸,将第一次保存的物料尺寸与之匹配得到物料个数用灰色模型判断基于物理尺寸匹配方法所得结果是否稳定,若结果不稳定,重新将初次不同数量的物料震散后用SURF算法计算物料尺寸与第一次保存的物料尺寸进行匹配。若结果稳定尺寸匹配直至个数稳定后停止重复匹配。

Description

一种基于物理尺寸匹配的电子元器件计数方法
技术领域
本发明涉及电子元器件计数技术领域,具体为一种基于物理尺寸匹配的电子元器件计数 方法。
背景技术
本发明涉及一种电子元器件计数方法,该方法用于各种形状的电子元器件计数,该计数 方法在电子元器件生产和检测时有重要的意义。传统的人工计数不仅需要大量的人工成本, 而且还需要计数人员对电子元器件的熟悉度以及计数熟悉度都有较高的要求,但是依旧存在 计数效率低下以及计数精确度不高等问题。基于模板匹配的电子元器件计数方法是在一幅大 图像中搜寻目标,该目标需要与模板有相同的尺寸、方向和图像元素,若是原图像中匹配的 目标发生旋转、颠倒或者大小发生了变化,则该算法无效,以至于无法对电子元器件进行正 常的技术。
发明内容
本发明的目的在于提供一种基于物理尺寸匹配的电子元器件计数方法,以解决上述背景 技术中提出的人工计数需要大量人工成本且效率低下容易出错和模板匹配的技术方法中匹 配目标只能平行移动,否则算法无效的问题。
为了解决上述技术问题,本发明提供如下技术方案:一种基于物理尺寸匹配的电子元器 件计数方法,该方法包括两个环节:学习环节和计数环节。
所述学习环节包括以下步骤:
步骤1:以均匀光源照射可透光的空料盘,采用双相机装置采集图像,拼接图像,将图 像存储为背景图像1;
步骤2:放置数量为ξ的物料至可透光的空料盘后,采用双相机装置采集图像,拼接图像, 将图像存储为图像2,图像2减去背景图像1产生前景图像3;
步骤3对前景图像3的物料存在的三种姿态建模进行轮廓提取,计算出物料长、宽、高 三种姿态和面积物理尺寸信息,信息存入数据库文件,所述三种姿态包括平放姿态、侧放姿 态、竖放姿态;
所述计数环节包括以下步骤:
步骤4:放置数量为β的新物料至料盘,β>ξ;物料震散后,采用双相机装置采集图像, 拼接图像,将图像存储为图像4,图像4减去背景图像1产生前景图像5;根据前景图像5提取图像轮廓,计算出物料的长、宽、高和面积物理尺寸;
步骤5:步骤4中计算出的物料的长、宽、高和面积物理尺寸与步骤3所述的数据库文 件中的信息匹配,先统计单个物料的个数,再对多个物料靠在一起或叠在一起的物料采用距 离变换和分水岭分割方法进行分割,然后再统计,对于无法分割的靠在一起或叠在一起的物 料,根据面积法统计出物料个数;
步骤6:利用灰色模型判断基于物理尺寸匹配方法所得结果是否稳定;基于物理尺寸匹 配方法所得到的结果不稳定,重复步骤4,重新计算得到物料新的长、宽、高和面积物理尺 寸;
步骤7:重复步骤5,至物料计数结果出现相同的次数达到阈值M时,记为计数稳定情 况,并将出现相同的次数对应的物料计数结果作为最终结果。
所述双相机装置采集图像并对图像进行拼接,用SURF算法进行特征提取与匹配,将生 成分辨率更大的图像;
具体步骤如下:S2-1、利用SURF算法提取不同物料图像中的特征点;S2-2、利用SURF 算法在尺度控件中提取候选特征点,再利用三维线性插值法对候选点进行定位;S2-3、确定 不同物料图像中特征点主方向;S2-4、根据特征点构造对应的SURF特征描述子。
所述利用SURF算法提取不同物料图像中的特征点;
具体方法为:SURF算法采用Hessian矩阵行列式来检测特征点,先利用高斯模板对图像 进行卷积,然后在像素点处得到一个带有尺度信息的Hessian矩阵,表达式为:
Figure BDA0003754060570000021
其中L(x,y,σ)=G(x,y,σ)*I(x,y),G(x,y,σ)是尺度可变高斯函数,
Figure BDA0003754060570000022
Figure BDA0003754060570000023
I(x,y)为图像, Lxx(x,y,σ),Lxy(x,y,σ),Lyy(x,y,σ)分别是像素点(x,y)上x,xy,y方向的二阶微分;因 此Hessian矩阵行列式最终简化为:
det(H)=LxxLyy-LxyLxy
每个像素的Hessian矩阵判别式的近似值为:
det(H)=LxxLyy-(ωLxy)2
ω代表加权系数,det(H)代表点附件区域的盒式滤波响应值。
所述利用SURF算法对于特征点的选取以及定位;
具体方法为:为获得不同尺度的采样点,需要构建图像的尺度空间,在尺度空间上提取 特征点。SURF的尺度空间是由O组L层组成,同一组间不同层间使用相同尺寸的滤波器,但 是滤波器的模糊系数逐渐增大;根据SURF算法的金字塔结构,它使原始图像保持不变而只 改变滤波器大小;
SURF特征点的定位是在不同尺度特征点的响应图像上采用邻域非极大值抑制,在构造 好的SURF金字塔中,将经过Hessian矩阵的每个像素点与二维图像空间和尺度空间邻域内 的26个点进行比较,选出特征点候选点;再利用三维线性插值法对候选点进行定位,获得 亚像素级别的特征点,由此完成特征点的提取。
所述确定不同物料图像中特征点主方向;
为了满足旋转不变性,必须要确定特征点的主方向。具体方法为:统计特征点领域内的 Haar小波特征,在特征点的领域内,统计60度扇形内所有点的水平Haar小波特征和垂直Haar 小波特征总和,一个扇形得到一个响应值;将响应值分别加起来,形成矢量,选择其中最长的 矢量方向,作为最终特征点的主方向。
所述根据特征点构造对应的SURF特征描述子;
具体方法为:在特征点周围取一个4×4的矩形区域块,所取得矩形区域方向是沿着特 征点的主方向;把该矩形区域块划分为均等的16个子区域,每个子区域统计25个像素的水 平方向和垂直方向的Haar小波特征;前面所述的水平和垂直方向都是相对主方向而言;
该Haar小波特征为:水平方向值之和∑dx、垂直方向值之和∑dy、水平方向绝对值之 和|∑dx|以及垂直方向绝对值之和|∑dy|4个方向;把Haar小波值作为每个子块区域的特征 向量,一共有64维向量作为SURF特征的描述子。
所述对物料进行图像采集后提取图像轮廓并计算出物料的长、宽、高,具体方法为:学 习环节用图像2和背景图像1进行差分,计数环节用图像4和背景图像1进行差分,得到二 值化图像,然后对二值化图像进行形态学开运算去除元器件管脚干扰,开运算采用十字卷积 核;
十字卷积核大小由以下方法步骤决定:S7-1、物料的外接长方形减去物料的内接长方形, 得到物料管脚干扰图像;S7-2、最小卷积核大小d以形态学腐蚀操作腐蚀掉干扰图像;S7-3、 实际卷积核尺寸大小确定为Len=1.5×d;然后提取图像轮廓,计数出物料的长l、宽w、高 h和面积a。
所述将物料尺寸信息与数据库文件中的信息匹配,然后在根据面积法统计出物料个数; 物料物理尺寸匹配条件如下:
S8-1、平放判断条件:
L×0.8≤l≤L×1.2∧W×0.8≤w≤W×1.2∧A平放×0.8≤a≤A平放×1.2
S8-2、侧放判断条件:
L×0.8≤l≤L×1.2∧H×0.8≤h≤H×1.2∧A侧放×0.8≤a≤A侧放×1.2
S8-3、竖放判断条件:
W×0.8≤w≤W×1.2∧H×0.8≤h≤H×1.2∧A竖放×0.8≤a≤A竖放×1.2
其中L,W,H,A平放,A侧放,A竖放分别表示学习环节建档的长,宽,高,平放面积, 侧放面积以及竖放面积信息;l、w、h、a分别表示物料的长、宽、高及面积信息;
对于不在上述条件的物料属于存在两个或者两个以上粘连叠加情况,采用距离变换和分 水岭分割方法;距离变换是二值图像中每个像素的灰度值为该像素与距其最近的背景像素间 的距离;本方法采用距离变换的测量度量是欧式距离;距离变换的主要过程:
假设一副二值图像,包含一个连通区域S,其中有目标集O和背景集B,则距离变换的定 义如下:
D(p)=Min(disf(p,q)) p∈O,q∈B
具体步骤如下:
S8-4、将图像中的目标像素点分类,分为内部点,外部点和孤立点;
以中心像素的四领域为例,如果中心像素为目标像素(值为1)且四邻域都为目标像素(值 为1),则该点为内部点。如果该中心像素为目标像素,四邻域为背景像素(值为0),则该中 心点为孤立点,如下图所示。除了内部点和孤立点之外的目标区域点为边界点;
S8-5、计算图像中所有的内部点和非内部点,点集分别为S1,S2;
S8-6、对于S1中的每一个内部点(x,y),使用距离公式disf()计算在S2中的最小距离,所 有最小距离构成集合S3;
S8-7、计算S3中的最大值Max,最小值Min;
S8-8、对于每一个内部点,转换后的灰度值G(x,y)计算如下公式所示:
G(x,y)=255×|S3(x,y)-Min|/|Max-Min|
其中S3(x,y)表示S1中的点(x,y)在S2中的最短距离;
S8-9、对于孤立点保持不变;
在距离变换中,距离函数disf()的选取是欧式距离:
Figure BDA0003754060570000051
对于粘连叠加无法分割的物料,先以面积法统计个数,公式如下:
Figure BDA0003754060570000052
其中n代表统计的个数,a代表粘连叠加一起物料的总面积,A代表一个物料学习的面积;
当n=1且l>L×1.2∨w>W×1.2,则n=2。
所述利用灰色模型判断基于物理尺寸匹配方法所得结果的稳定,具体步骤如下:
S9-1、累加生成
x(0)={x(0)(1),x(0)(2),x(0)(3),∧,x(0)(N)}
x(0)为步骤4至步骤5尺寸匹配所得到的结果;
x(0)(1)为步骤4至步骤5第一次匹配所得到的结果;
x(0)(2)为步骤4至步骤5第二次匹配所得到的结果;
x(0)(3)为步骤4至步骤5第三次匹配所得到的结果;
x(0)(N)为步骤4至步骤5第N次匹配所得到的结果;
设x1(1)=x(0)(1),
x1(2)=x(0)(1)+x(0)(2),
x1(3)=x(0)(1)+x(0)(2)+x(0)(3),
Figure BDA0003754060570000061
于是得到一个新数据序列为:
x1={x1(1),x1(2),x1(3),∧,x1(N)}
S9-2、建立GM(1,1)模型
x(0)(N)+kz1(N)=b为GM(1,1)模型的基本形式(N=2,3,、、、n),其中k称为发 展系数,z1(N)称为白化背景值,b称为灰作用量;引入矩阵式可以得到:
Figure BDA0003754060570000062
于是,GM(1,1)模型x(0)(N)+kz1(N)=b可以表示为Y=Bu,利用正规方程(BTB)-1BTY按照最小二乘的原理来求出k和b的值;
S9-3、预测
相应的白化模型为
Figure BDA0003754060570000063
由此可以得到
令Q=N+1可得到预测值
Figure RE-GDA0003826905880000064
其中N=0,1,2,3,、、、,n-1;Q=N+1;
Figure RE-GDA0003826905880000065
代表对n次累加和的预测;
S9-4、检验
将得到的预测值
Figure RE-GDA0003826905880000066
使用累减法生成得到
Figure RE-GDA0003826905880000067
Figure RE-GDA0003826905880000068
其中N=0,1,2,3,、、、,n-1;Q=N+1;
Figure RE-GDA0003826905880000069
代表匹配次数为n的预测值;
计算残差
Figure RE-GDA00038269058800000610
其中N=0,1,2,3,、、、,n-1;Q=N+1;
计算残差的均值
Figure BDA0003754060570000071
计算x(0)(N)的均值
Figure BDA0003754060570000072
计算原始序列x(0)(N)的方差Y1和残差e(N)的方差Y2
Figure BDA0003754060570000073
Figure BDA0003754060570000074
计算后验差比
Figure BDA0003754060570000075
计算小误差概率
Figure BDA0003754060570000076
当C<0.35、P>0.95时,灰色模型精确度等级好;
当C<0.45、P>0.8时,灰色模型精确度等级合格;
当C<0.5、P>0.7时,灰色模型精确度等级勉强;
当C≥0.65、P≤0.7时,灰色模型精确度等级不合格;
当经过检验后灰色模型精度等级为好时,表示该基于物理尺寸匹配方法得到的结果稳定。
与现有技术相比,本发明所达到的有益效果是:本发明可实现对大批量的电子元器件进 行快速正确计数,减少了人工成本,以免造成不必要的资源浪费。该发明与基于模板匹配的 电子元器件计数方法相比,允许物料部分叠加,自动去除电子元器件管脚干扰,可分割部分 靠在一起物料,具有较好的鲁棒性。
附图说明
附图用来提供对本发明的进一步理解,并且构成说明书的一部分,与本发明的实施例一 起用于解释本发明,并不构成对本发明的限制。在附图中:
图1是本发明一种基于物理尺寸匹配的电子元器件计数方法的电子元器件计数的流程示 意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描 述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明 中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例, 都属于本发明保护的范围。
请参阅图1,本实施案例中提供了一种基于物理尺寸匹配的电子元器件计数方法,该方 法包括两个环节:学习环节和计数环节。
所述学习环节包括以下步骤:
步骤1:以均匀光源照射可透光的空料盘,采用双相机装置采集图像,拼接图像,将图 像存储为背景图像1;
步骤2:放置数量ξ为的物料至可透光的空料盘后,采用双相机装置采集图像,拼接图像, 将图像存储为图像2,图像2减去背景图像1产生前景图像3;
步骤3:对前景图像3的物料存在的三种姿态建模进行轮廓提取,计算出物料长、宽、 高三种姿态和面积物理尺寸信息,信息存入数据库文件,所述三种姿态包括平放姿态、侧放 姿态、竖放姿态;
所述计数环节包括以下步骤:
步骤4:放置数量为β的新物料至料盘,β>ξ;物料震散后,采用双相机装置采集图像, 拼接图像,将图像存储为图像4,图像4减去背景图像1产生前景图像5;根据前景图像5提取图像轮廓,计算出物料的长、宽、高和面积物理尺寸;
步骤5:步骤4中计算出的物料的长、宽、高和面积物理尺寸与步骤3所述的数据库文 件中的信息匹配,先统计单个物料的个数,再对多个物料靠在一起或叠在一起的物料采用距 离变换和分水岭分割方法进行分割,然后再统计,对于无法分割的靠在一起或叠在一起的物 料,根据面积法统计出物料个数;
步骤6:利用灰色模型判断基于物理尺寸匹配方法所得结果是否稳定;基于物理尺寸匹 配方法所得到的结果不稳定,重复步骤4,重新计算得到物料新的长、宽、高和面积物理尺 寸;
步骤7:重复步骤5,至物料计数结果出现相同的次数达到阈值M时,记为计数稳定情 况,并将出现相同的次数对应的物料计数结果作为最终结果;
所述双相机装置采集图像并对图像进行拼接,用SURF算法进行特征提取与匹配,将生 成分辨率更大的图像;
具体步骤如下:S2-1、利用SURF算法提取不同物料图像中的特征点;S2-2、利用SURF 算法在尺度控件中提取候选特征点,再利用三维线性插值法对候选点进行定位;S2-3、确定 不同物料图像中特征点主方向;S2-4、根据特征点构造对应的SURF特征描述子。
所述利用SURF算法提取不同物料图像中的特征点的具体方法为:
SURF算法采用Hessian矩阵行列式来检测特征点,先利用高斯模板对图像进行卷积,然 后在像素点处得到一个带有尺度信息的Hessian矩阵,表达式为:
Figure BDA0003754060570000091
其中L(x,y,σ)=G(x,y,σ)*I(x,y),G(x,y,σ)是尺度可变高斯函数,
Figure BDA0003754060570000092
Figure BDA0003754060570000093
I(x,y)为图像, Lxx(x,y,σ),Lxy(x,y,σ),Lyy(x,y,σ)分别是像素点(x,y)上x,xy,y方向的二阶微分。因 此Hessian矩阵行列式最终简化为:
det(H)=LxxLyy-LxyLxy
其中,用det(H)检测极值点。为了平衡因使用盒式滤波器近似所带来的误差,Dxy上乘以 一个ω,ω取0.9。每个像素的Hessian矩阵判别式的近似值为:
det(H)=LxxLyy-(ωLxy)2
盒式滤波器对图像的滤波转化成图像上不同区域间像素和的加减运算问题,只是要积分 图就可以完成。
ω代表加权系数,det(H)代表点附件区域的盒式滤波响应值。
所述利用SURF算法对于特征点的选取以及定位的具体方法为:
为获得不同尺度的采样点,需要构建图像的尺度空间,在尺度空间上提取特征点。SURF的尺度空间是由O组L层组成,同一组间不同层间使用相同尺寸的滤波器,但是滤波器的模糊系数逐渐增大。根据SURF算法的金字塔结构,它使原始图像保持不变而只改变滤波器大小;
SURF特征点的定位是在不同尺度特征点的响应图像上采用邻域非极大值抑制,在构造 好的SURF金字塔中,将经过Hessian矩阵的每个像素点与二维图像空间和尺度空间邻域内 的26个点进行比较,选出特征点候选点;再利用三维线性插值法对候选点进行定位,获得 亚像素级别的特征点,由此完成特征点的提取。
所述确定不同物料图像中特征点主方向;为了满足旋转不变性,必须要确定特征点的主 方向。具体方法为:统计特征点领域内的Haar小波特征,在特征点的领域内,统计60度扇形 内所有点的水平Haar小波特征和垂直Haar小波特征总和,一个扇形得到一个响应值;将响 应值分别加起来,形成矢量,选择其中最长的矢量方向,作为最终特征点的主方向。
所述根据特征点构造对应的SURF特征描述子的具体方法为:
在特征点周围取一个4×4的矩形区域块,所取得矩形区域方向是沿着特征点的主方向; 把该矩形区域块划分为均等的16个子区域,每个子区域统计25个像素的水平方向和垂直方 向的Haar小波特征;前面所述的水平和垂直方向都是相对主方向而言;
该Haar小波特征为:水平方向值之和∑dx、垂直方向值之和∑dy、水平方向绝对值之 和|∑dx|以及垂直方向绝对值之和|∑dy|4个方向;把Haar小波值作为每个子块区域的特征 向量,一共有64维向量作为SURF特征的描述子。
所述对物料进行图像采集后提取图像轮廓并计算出物料的长、宽、高,具体方法为:学 习环节用图像2和背景图像1进行差分,计数环节用图像4和背景图像1进行差分,得到二 值化图像,然后对二值化图像进行形态学开运算去除元器件管脚干扰,开运算采用十字卷积 核;
十字卷积核大小由以下方法步骤决定:S7-1、物料的外接长方形减去物料的内接长方形, 得到物料管脚干扰图像;S7-2、最小卷积核大小d以形态学腐蚀操作腐蚀掉干扰图像;S7-3、 实际卷积核尺寸大小确定为Len=1.5×d;然后提取图像轮廓,计数出物料的长l、宽w、高 h和面积a。
所述将物料尺寸信息与数据库文件中的信息匹配,然后在根据面积法统计出物料个数; 物料物理尺寸匹配条件如下:
S8-1、平放判断条件:
L×0.8≤l≤L×1.2∧W×0.8≤w≤W×1.2∧A平放×0.8≤a≤A平放×1.2
S8-2、侧放判断条件:
L×0.8≤l≤L×1.2∧H×0.8≤h≤H×1.2∧A侧放×0.8≤a≤A侧放×1.2
S8-3、竖放判断条件:
W×0.8≤w≤W×1.2∧H×0.8≤h≤H×1.2∧A竖放×0.8≤a≤A竖放×1.2
其中L,W,H,A平放,A侧放,A竖放分别表示学习环节建档的长,宽,高,平放面积, 侧放面积以及竖放面积信息;l、w、h、a分别表示物料的长、宽、高及面积信息;
对于不在上述条件的物料属于存在两个或者两个以上粘连叠加情况,采用距离变换和分 水岭分割方法;距离变换是二值图像中每个像素的灰度值为该像素与距其最近的背景像素间 的距离;本方法采用距离变换的测量度量是欧式距离;距离变换的主要过程:
设置一副二值图像,包含一个连通区域S,其中有目标集O和背景集B,则距离变换的定 义如下:
D(p)=Min(disf(p,q)) p∈O,q∈B
具体步骤如下:
S8-4、将图像中的目标像素点分类,分为内部点,外部点和孤立点;
以中心像素的四领域为例,如果中心像素为目标像素(值为1)且四邻域都为目标像素(值 为1),则该点为内部点。如果该中心像素为目标像素,四邻域为背景像素(值为0),则该中 心点为孤立点,如下图所示。除了内部点和孤立点之外的目标区域点为边界点;
S8-5、计算图像中所有的内部点和非内部点,点集分别为S1,S2;
S8-6、对于S1中的每一个内部点(x,y),使用距离公式disf()计算在S2中的最小距离,所 有最小距离构成集合S3;
S8-7、计算S3中的最大值Max,最小值Min;
S8-8、对于每一个内部点,转换后的灰度值G(x,y)计算如下公式所示:
G(x,y)=255×|S3(x,y)-Min|/|Max-Min|
其中S3(x,y)表示S1中的点(x,y)在S2中的最短距离;
S8-9、对于孤立点保持不变;
在距离变换中,距离函数disf()的选取是欧式距离:
Figure BDA0003754060570000121
对于粘连叠加无法分割的物料,先以面积法统计个数,公式如下:
Figure BDA0003754060570000122
其中n代表统计的个数,a代表粘连叠加一起物料的总面积,A代表一个物料学习的面积;
当n=1且l>L×1.2∨w>W×1.2,则n=2。
所述利用灰色模型判断基于物理尺寸匹配方法所得结果的稳定,具体步骤如下:
S9-1、累加生成
x(0)={x(0)(1),x(0)(2),x(0)(3),∧,x(0)(N)}
x(0)为步骤4至步骤5尺寸匹配所得到的结果;
x(0)(1)为步骤4至步骤5第一次匹配所得到的结果;
x(0)(2)为步骤4至步骤5第二次匹配所得到的结果;
x(0)(3)为步骤4至步骤5第三次匹配所得到的结果;
x(0)(N)为步骤4至步骤5第N次匹配所得到的结果;
设x1(1)=x(0)(1),
x1(2)=x(0)(1)+x(0)(2),
x1(3)=x(0)(1)+x(0)(2)+x(0)(3),
Figure BDA0003754060570000123
于是得到一个新数据序列为:
x1={x1(1),x1(2),x1(3),∧.,(N)}
S9-2、建立GM(1,1)模型
x(0)(N)+kz1(N)=b为GM(1,1)模型的基本形式(N=2,3,、、、n),其中k称为发 展系数,z1(N)称为白化背景值,b称为灰作用量;引入矩阵式可以得到:
Figure BDA0003754060570000131
于是,GM(1,1)模型x(0)(N)+kz1(N)=b可以表示为Y=Bu,利用正规方程(BTB)-1BTY按照最小二乘的原理来求出k和b的值;
S9-3、预测
相应的白化模型为
Figure BDA0003754060570000132
由此可以得到
Figure BDA0003754060570000133
令Q=N+1可得到预测值
Figure RE-GDA0003826905880000134
其中N=0,1,2,3,、、、,n-1;Q=N+1;
Figure RE-GDA0003826905880000135
代表对n次累加和的预测;
S9-4、检验
将得到的预测值
Figure RE-GDA0003826905880000136
使用累减法生成得到
Figure RE-GDA0003826905880000137
Figure RE-GDA0003826905880000138
其中N=0,1,2,3,、、、,n-1;Q=N+1;
Figure RE-GDA0003826905880000139
代表匹配次数为n的预测值;
计算残差
Figure RE-GDA00038269058800001310
其中N=0,1,2,3,、、、,n-1;Q=N+1;
计算残差的均值
Figure BDA00037540605700001311
计算x(0)(N)的均值
Figure BDA00037540605700001312
计算原始序列x(0)(N)的方差Y1和残差e(N)的方差Y2
Figure BDA0003754060570000141
Figure BDA0003754060570000142
计算后验差比
Figure BDA0003754060570000143
计算小误差概率
Figure BDA0003754060570000144
当C<0.35、P>0.95时,灰色模型精确度等级好;
当C<0.45、P>0.8时,灰色模型精确度等级合格;
当C<0.5、P>0.7时,灰色模型精确度等级勉强;
当C≥0.65、P≤0.7时,灰色模型精确度等级不合格;
当经过检验后灰色模型精度等级为好时,表示该基于物理尺寸匹配方法得到的结果稳定。
在本实施例中:
假设有N个物料,通过G次物理尺寸匹配得到的物料个数,其中物料计数结果N出现相 同的次数达到阈值M(M≥G/2),则记为计数稳定情况,并将出现相同的次数对应的物料计 数结果作为最终结果。
需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者 操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这 种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排 他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而 且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有 的要素。
最后应说明的是:以上所述仅为本发明的优选实施例而已,并不用于限制本发明,尽管 参照前述实施例对本发明进行了详细的说明,对于本领域的技术人员来说,其依然可以对前 述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换。凡在本发 明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围 之内。

Claims (9)

1.一种基于物理尺寸匹配的电子元器件计数方法,其特征在于:该计数方法包括两个环节:学习环节和计数环节;
所述学习环节包括以下步骤:
步骤1:以均匀光源照射可透光的空料盘,采用双相机装置采集图像,拼接图像,将图像存储为背景图像1;
步骤2:放置数量为ξ的物料至可透光的空料盘后,采用双相机装置采集图像,拼接图像,将图像存储为图像2,图像2减去背景图像1产生前景图像3;
步骤3:对前景图像3的物料存在的三种姿态建模进行轮廓提取,计算出物料长、宽、高三种姿态和面积物理尺寸信息,信息存入数据库文件,所述三种姿态包括平放姿态、侧放姿态和竖放姿态;
所述计数环节包括以下步骤:
步骤4:放置数量为β的新物料至料盘,β>ξ;物料震散后,采用双相机装置采集图像,拼接图像,将图像存储为图像4,图像4减去背景图像1产生前景图像5;根据前景图像5提取图像轮廓,计算出物料的长、宽、高和面积物理尺寸;
步骤5:步骤4中计算出的物料的长、宽、高和面积物理尺寸与步骤3所述的数据库文件中的信息匹配,先统计单个物料的个数,再对多个物料靠在一起或叠在一起的物料采用距离变换和分水岭分割方法进行分割,然后再统计,对于无法分割的靠在一起或叠在一起的物料,根据面积法统计出物料个数;
步骤6:利用灰色模型判断基于物理尺寸匹配方法所得结果是否稳定;基于物理尺寸匹配方法所得到的结果不稳定,重复步骤4,重新计算得到物料新的长、宽、高和面积物理尺寸;
步骤7:重复步骤5,至物料计数结果出现相同的次数达到阈值M时,记为计数稳定情况,并将出现相同的次数对应的物料计数结果作为最终结果。
2.根据权利要求1所述的一种基于物理尺寸匹配的电子元器件计数方法,其特征在于:所述步骤1中的拼接图像是用SURF算法对双相机装置采集的图像进行特征提取与匹配,将生成分辨率更大的图像;
具体步骤如下:S2-1、利用SURF算法提取不同物料图像中的特征点;
S2-2、利用SURF算法在尺度控件中提取候选特征点,再利用三维线性插值法对候选点进行定位;
S2-3、确定不同物料图像中特征点主方向;
S2-4、根据特征点构造对应的SURF特征描述子。
3.根据权利要求2所述的一种基于物理尺寸匹配的电子元器件计数方法,其特征在于:所述S2-1中,利用SURF算法提取不同物料图像中的特征点的具体方法为:
SURF算法采用Hessian矩阵行列式来检测特征点,先利用高斯模板对图像进行卷积,然后在像素点处得到一个带有尺度信息的Hessian矩阵,表达式为:
Figure FDA0003754060560000021
其中L(x,y,σ)=G(x,y,σ)*I(x,y),G(x,y,σ)是尺度可变高斯函数,
Figure FDA0003754060560000022
Figure FDA0003754060560000023
为图像,Lxx(x,y,σ),Lxy(x,y,σ),Lyy(x,y,σ)分别是像素点(x,y)上x,xy,y方向的二阶微分;因此Hessian矩阵行列式最终简化为:
det(H)=LxxLyy-LxyLxy
每个像素的Hessian矩阵判别式的近似值为:
det(H)=LxxLyy-(ωLxy)2
ω代表加权系数,det(H)代表点附件区域的盒式滤波响应值。
4.根据权利要求3所述的一种基于物理尺寸匹配的电子元器件计数方法,其特征在于:所述S2-2中,利用SURF算法对于特征点的选取以及定位的具体方法为:
SURF特征点的定位是在不同尺度特征点的响应图像上采用邻域非极大值抑制,在构造好的SURF金字塔中,对所述Hessian矩阵的每个像素点与二维图像空间和尺度空间邻域内的26个点进行比较,选出特征点候选点;再利用三维线性插值法对特征点候选点进行定位,获得亚像素级别的特征点。
5.根据权利要求2所述的一种基于物理尺寸匹配的电子元器件计数方法,其特征在于:所述S2-3中,确定不同物料图像中特征点主方向的具体方法为:
统计特征点领域内的Haar小波特征,在特征点的领域内,统计60度扇形内所有点的水平Haar小波特征和垂直Haar小波特征总和,一个扇形得到一个响应值;将响应值分别加起来,形成矢量,选择其中最长的矢量方向,作为最终特征点的主方向。
6.根据权利要求5所述的一种基于物理尺寸匹配的电子元器件计数方法,其特征在于:所述S2-4中,根据特征点构造对应的SURF特征描述子的具体方法为:
在特征点周围取一个4×4的矩形区域块,所取得矩形区域方向是沿着特征点的主方向;把该矩形区域块划分为均等的16个子区域,每个子区域统计25个像素的水平方向和垂直方向的Haar小波特征;
该Haar小波特征为:水平方向值之和∑dx、垂直方向值之和∑dy、水平方向绝对值之和|∑dx|以及垂直方向绝对值之和|∑dy|4个方向;把Haar小波值作为每个子块区域的特征向量,一共有64维向量作为SURF特征的描述子。
7.根据权利要求1所述的一种基于物理尺寸匹配的电子元器件计数方法,其特征在于:所述步骤2-步骤4中,对物料进行图像采集后提取图像轮廓并计算出物料的长、宽、高,具体方法为:学习环节用图像2和背景图像1进行差分,计数环节用图像4和背景图像1进行差分,得到二值化图像,然后对二值化图像进行形态学开运算去除元器件管脚干扰,开运算采用十字卷积核;
十字卷积核大小由以下方法步骤决定:S7-1、物料的外接长方形减去物料的内接长方形,得到物料管脚干扰图像;
S7-2、最小卷积核大小d以形态学腐蚀操作腐蚀掉干扰图像;
S7-3、实际卷积核尺寸大小确定为Len=1.5×d;然后提取图像轮廓,计数出物料的长l、宽w、高h和面积a。
8.根据权利要求7所述的一种基于物理尺寸匹配的电子元器件计数方法,其特征在于:所述步骤5中,将步骤4中所述的物料尺寸信息与步骤3所述的数据库文件中的信息匹配,然后在根据面积法统计出物料个数;物料物理尺寸匹配条件如下:
S8-1、平放判断条件:
L×0.8≤l≤L×1.2∧W×0.8≤w≤W×1.2∧A平放×0.8≤a≤A平放×1.2
S8-2、侧放判断条件:
L×0.8≤l≤L×1.2∧H×0.8≤h≤H×1.2∧A侧放×0.8≤a≤A侧放×1.2
S8-3、竖放判断条件:
W×0.8≤w≤W×1.2∧H×0.8≤h≤H×1.2∧A竖放×0.8≤a≤A竖放×1.2
其中L,W,H,A平放,A侧放,A竖放分别表示学习环节建档的长,宽,高,平放面积,侧放面积以及竖放面积信息;l、w、h、a分别表示物料的长、宽、高及面积信息;
对于不在上述条件的物料属于存在两个或者两个以上粘连叠加情况,采用距离变换和分水岭分割方法;距离变换是二值图像中每个像素的灰度值为该像素与距其最近的背景像素间的距离;本方法采用距离变换的测量度量是欧式距离;距离变换的主要过程:
设置一副二值图像,包含一个连通区域S,其中有目标集O和背景集B,则距离变换的定义如下:
D(p)=Min(disf(p,q))p∈O,q∈B
具体步骤如下:
S8-4、将图像中的目标像素点分类,分为内部点,外部点和孤立点;
S8-5、计算图像中所有的内部点和非内部点,点集分别为S1,S2;
S8-6、对于S1中的每一个内部点(x,y),使用距离公式disf()计算在S2中的最小距离,所有最小距离构成集合S3;
S8-7、计算S3中的最大值Max,最小值Min;
S8-8、对于每一个内部点,转换后的灰度值G(x,y)计算如下公式所示:
G(x,y)=255×|S3(x,y)-Min|/|Max-Min|
其中S3(x,y)表示S1中的点(x,y)在S2中的最短距离;
S8-9、对于孤立点保持不变;
在距离变换中,距离函数disf()的选取是欧式距离:
Figure FDA0003754060560000041
对于粘连叠加无法分割的物料,先以面积法统计个数,公式如下:
Figure FDA0003754060560000051
其中n代表统计的个数,a代表粘连叠加一起物料的总面积,A代表一个物料学习的面积;
当n=1且l>L×1.2∨w>W×1.2,则n=2。
9.根据权利要求1所述的一种基于物理尺寸匹配的电子元器件计数方法,其特征在于:所述步骤6中,利用灰色模型判断基于物理尺寸匹配方法所得结果的稳定,具体方法如下:S9-1、累加生成
x(0)={x(0)(1),x(0)(2),x(0)(3),∧,x(0)(N)}
x(0)为步骤4至步骤5尺寸匹配所得到的结果;
x(0)(1)为步骤4至步骤5第一次匹配所得到的结果;
x(0)(2)为步骤4至步骤5第二次匹配所得到的结果;
x(0)(3)为步骤4至步骤5第三次匹配所得到的结果;
x(0)(N)为步骤4至步骤5第N次匹配所得到的结果;
设x1(1)=x(0)(1),
x1(2)=x(0)(1)+x(0)(2),
x1(3)=x(0)(1)+x(0)(2)+x(0)(3),
Figure RE-FDA0003826905870000052
于是得到一个新数据序列为:
x1={x1(1),x1(2),x1(3),∧,x1(N)}
S9-2、建立GM(1,1)模型
x(0)(N)+kz1(N)=b为GM(1,1)模型的基本形式(N=2,3,、、、n),其中k称为发展系数,z1(N)称为白化背景值,b称为灰作用量;引入矩阵式可以得到:
Figure RE-FDA0003826905870000053
于是,GM(1,1)模型x(0)(N)+kz1(N)=b可以表示为Y=Bu,利用正规方程(BTB)-1BTY按照最小二乘的原理来求出k和b的值;
S9-3、预测
相应的白化模型为
Figure RE-FDA0003826905870000061
由此可以得到
Figure RE-FDA0003826905870000062
令Q=N+1可得到预测值
Figure RE-FDA0003826905870000063
其中N=0,1,2,3,、、、,n-1;Q=N+1;
Figure RE-FDA0003826905870000064
代表对n次累加和的预测;
S9-4、检验
将得到的预测值
Figure RE-FDA0003826905870000065
使用累减法生成得到
Figure RE-FDA0003826905870000066
Figure RE-FDA0003826905870000067
其中N=0,1,2,3,、、、,n-1;Q=N+1;
Figure RE-FDA0003826905870000068
代表匹配次数为n的预测值;
计算残差
Figure RE-FDA0003826905870000069
其中N=0,1,2,3,、、、,n-1;Q=N+1;
计算残差的均值
Figure RE-FDA00038269058700000610
计算x(0)(N)的均值
Figure RE-FDA00038269058700000611
计算原始序列x(0)(N)的方差Y1和残差e(N)的方差Y2
Figure RE-FDA00038269058700000612
Figure RE-FDA00038269058700000613
计算后验差比
Figure RE-FDA0003826905870000071
计算小误差概率
Figure RE-FDA0003826905870000072
当C<0.35、P>0.95时,灰色模型精确度等级好;
当C<0.45、P>0.8时,灰色模型精确度等级合格;
当C<0.5、P>0.7时,灰色模型精确度等级勉强;
当C≥0.65、P≤0.7时,灰色模型精确度等级不合格;
当经过检验后灰色模型精度等级为好时,表示该基于物理尺寸匹配方法得到的结果稳定。
CN202210852769.0A 2022-07-19 2022-07-19 一种基于物理尺寸匹配的电子元器件计数方法 Pending CN115239662A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210852769.0A CN115239662A (zh) 2022-07-19 2022-07-19 一种基于物理尺寸匹配的电子元器件计数方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210852769.0A CN115239662A (zh) 2022-07-19 2022-07-19 一种基于物理尺寸匹配的电子元器件计数方法

Publications (1)

Publication Number Publication Date
CN115239662A true CN115239662A (zh) 2022-10-25

Family

ID=83673319

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210852769.0A Pending CN115239662A (zh) 2022-07-19 2022-07-19 一种基于物理尺寸匹配的电子元器件计数方法

Country Status (1)

Country Link
CN (1) CN115239662A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116758045A (zh) * 2023-07-05 2023-09-15 日照鲁光电子科技有限公司 一种半导体发光二极管的表面缺陷检测方法及系统

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116758045A (zh) * 2023-07-05 2023-09-15 日照鲁光电子科技有限公司 一种半导体发光二极管的表面缺陷检测方法及系统
CN116758045B (zh) * 2023-07-05 2024-01-23 日照鲁光电子科技有限公司 一种半导体发光二极管的表面缺陷检测方法及系统

Similar Documents

Publication Publication Date Title
Xu et al. A weakly supervised surface defect detection based on convolutional neural network
CN110334779B (zh) 一种基于PSPNet细节提取的多聚焦图像融合方法
US6148099A (en) Method and apparatus for incremental concurrent learning in automatic semiconductor wafer and liquid crystal display defect classification
CN111160249A (zh) 基于跨尺度特征融合的光学遥感图像多类目标检测方法
CN109342456A (zh) 一种焊点缺陷检测方法、装置、设备及可读存储介质
CN112446429B (zh) 一种基于cgan的巡检图像数据小样本扩充方法
CN109029363A (zh) 一种基于深度学习的目标测距方法
CN108961180B (zh) 红外图像增强方法及系统
CN114022586B (zh) 一种基于对抗生成网络的缺陷图像生成方法
CN107203747B (zh) 基于自适应选择机制的稀疏联合模型目标跟踪方法
Liu et al. A classification method of glass defect based on multiresolution and information fusion
CN110751644A (zh) 道路表面裂纹检测方法
CN114749342A (zh) 一种锂电池极片涂布缺陷识别方法、装置及介质
CN108932518A (zh) 一种基于视觉词袋模型的鞋印图像特征提取及检索方法
CN111369526A (zh) 基于半监督深度学习的多类型旧桥裂痕识别方法
CN115239662A (zh) 一种基于物理尺寸匹配的电子元器件计数方法
CN113298129A (zh) 基于超像素和图卷积网络的极化sar图像分类方法
CN116205876A (zh) 基于多尺度标准化流的无监督笔记本外观缺陷检测方法
CN115170520A (zh) 一种基于结构对比信息叠层的金属网栅缺陷检测方法
Gupta et al. Deep learning model for defect analysis in industry using casting images
CN113689383B (zh) 一种图像处理方法、装置、设备及存储介质
CN117315670B (zh) 一种基于计算机视觉的水表读数区域检测方法
Alfaz et al. Bridge crack detection using dense convolutional network (densenet)
Chen et al. Application of multiresolution pattern classification to steel bridge coating assessment
CN108960285B (zh) 一种分类模型生成方法、舌体图像分类方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination