CN110771277B - 对基板作业装置 - Google Patents

对基板作业装置 Download PDF

Info

Publication number
CN110771277B
CN110771277B CN201780092306.6A CN201780092306A CN110771277B CN 110771277 B CN110771277 B CN 110771277B CN 201780092306 A CN201780092306 A CN 201780092306A CN 110771277 B CN110771277 B CN 110771277B
Authority
CN
China
Prior art keywords
image
super
resolution
candidate
processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201780092306.6A
Other languages
English (en)
Other versions
CN110771277A (zh
Inventor
天野雅史
大池博史
小谷一也
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fuji Corp
Original Assignee
Fuji Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Corp filed Critical Fuji Corp
Publication of CN110771277A publication Critical patent/CN110771277A/zh
Application granted granted Critical
Publication of CN110771277B publication Critical patent/CN110771277B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H05ELECTRIC TECHNIQUES NOT OTHERWISE PROVIDED FOR
    • H05KPRINTED CIRCUITS; CASINGS OR CONSTRUCTIONAL DETAILS OF ELECTRIC APPARATUS; MANUFACTURE OF ASSEMBLAGES OF ELECTRICAL COMPONENTS
    • H05K13/00Apparatus or processes specially adapted for manufacturing or adjusting assemblages of electric components
    • H05K13/08Monitoring manufacture of assemblages
    • H05K13/081Integration of optical monitoring devices in assembly lines; Processes using optical monitoring devices specially adapted for controlling devices or machines in assembly lines
    • H05K13/0812Integration of optical monitoring devices in assembly lines; Processes using optical monitoring devices specially adapted for controlling devices or machines in assembly lines the monitoring devices being integrated in the mounting machine, e.g. for monitoring components, leads, component placement
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4053Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/676Bracketing for image capture at varying focusing conditions
    • HELECTRICITY
    • H05ELECTRIC TECHNIQUES NOT OTHERWISE PROVIDED FOR
    • H05KPRINTED CIRCUITS; CASINGS OR CONSTRUCTIONAL DETAILS OF ELECTRIC APPARATUS; MANUFACTURE OF ASSEMBLAGES OF ELECTRICAL COMPONENTS
    • H05K13/00Apparatus or processes specially adapted for manufacturing or adjusting assemblages of electric components
    • H05K13/04Mounting of components, e.g. of leadless components

Landscapes

  • Engineering & Computer Science (AREA)
  • Operations Research (AREA)
  • Manufacturing & Machinery (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Supply And Installment Of Electrical Components (AREA)

Abstract

对基板作业装置(元件安装机)具备通过移动装置(25)在电路基板(13)的基准标记(识别对象)处于相机(36)的视野内的范围内使该相机移动而进行多次拍摄,由此取得在不同的位置拍摄到的多张图像而通过多帧超分辨率处理生成超分辨率图像来识别基准标记的图像处理装置(控制装置31)。该图像处理装置与在第一次拍摄结束后使相机向下一拍摄位置移动的动作并行地执行候补区域搜索处理,该候补区域搜索处理对第一次拍摄到的图像进行处理而在该图像内搜索包含可能是基准标记的部分的至少一个区域作为候补区域,在最后一次拍摄结束后使用上述多张图像对通过上述候补区域搜索处理搜索到的候补区域执行多帧超分辨率处理,生成该候补区域的超分辨率图像来识别基准标记。

Description

对基板作业装置
技术领域
本说明书公开了涉及具备对由输送机搬入的电路基板的基准标记等识别对象进行图像识别的图像处理装置的对基板作业装置的技术。
背景技术
例如,在设置于生产元件安装基板的元件安装线的元件安装机、元件插入组装机、丝网印刷机、外观检查机等中,为了检测由输送机搬入的电路基板的位置,如专利文献1(日本特开2017-5217号公报)等记载的那样,对由输送机搬入的电路基板的基准标记从其上方利用相机进行拍摄,并对其拍摄图像进行处理来识别基准标记的位置,以该基准标记的位置为基准来检测电路基板的位置。
在先技术文献
专利文献1:日本特开2017-5217号公报
专利文献2:国际公开WO2015/049723号公报
发明内容
发明要解决的课题
近年来,随着电路基板的元件安装密度的高密度化或安装元件的微小化的发展,电路基板的基准标记也存在微小化的趋势。例如,在电路基板有时也设有从50微米至500微米的大小的基准标记。因此,如上述专利文献1记载的那样,在对于通过一次的拍摄取得的低分辨率的图像进行处理的通常的图像处理中,有时难以高精度地识别出微小的基准标记,其结果是,有可能基准标记的位置检测精度变差或将映入于拍摄图像的除了基准标记以外的部分误识别为基准标记而误检测基准标记的位置。
为了解决这样的课题,本发明的发明者们将专利文献2(国际公开WO2015/049723号公报)记载的多帧超分辨率处理技术应用于电路基板的基准标记的图像识别,研究开发出通过多帧超分辨率处理对电路基板的基准标记进行识别的技术,但是在该研究开发过程中,判明了如下的新课题。
即,在进行多帧超分辨率处理的情况下,使相机在电路基板的基准标记处于该相机的视野内的范围内移动而进行多次拍摄,由此取得在不同的位置拍摄到的多张低分辨率图像并通过多帧超分辨率处理生成超分辨率图像来识别基准标记。然而,多帧超分辨率处理与通常的图像处理相比运算量多,因此图像处理时间变长,周期时间变长而成为生产率下降的主要原因。另外,即使是从一张低分辨率图像来推定高分辨率图像的单帧超分辨率处理,图像处理时间变长的问题也相同地产生。
作为其对策,可考虑不是对低分辨率图像的整个区域进行超分辨率处理而是如专利文献2那样将进行超分辨率处理的区域限定为低分辨率图像的一部分的区域来进行超分辨率处理。在该专利文献2中,为了对吸附于元件安装机的吸嘴的元件进行图像识别,将使元件处于相机的视野内而拍摄到的低分辨率图像中的包含元件的区域限定为超分辨率处理的对象区域,仅对该对象区域进行超分辨率处理,由此减少超分辨率处理的运算量而缩短图像处理时间。
如该专利文献2那样,在以吸附于吸嘴的元件为识别对象的情况下,使吸嘴吸附的元件移动到向上地固定的相机的上方的拍摄位置进行拍摄,因此利用相机拍摄到的低分辨率图像内的元件(识别对象)的位置的误差能够通过吸嘴的位置控制而收敛成元件吸附位置偏移量程度较小的尺寸。因此,比较容易根据吸嘴的位置准确地限定超分辨率处理的对象区域。
然而,在以由输送机搬入的电路基板的基准标记为识别对象的情况下,输送机的输送精度较差,因此在由相机拍摄到的低分辨率图像中映现的基准标记的位置的偏移较大,而且,在电路基板的基准标记的周边(相机的视野内)有时会形成与基准标记类似的形状的图案等,因此有时难以将低分辨率图像中映现的与基准标记类似的形状的图案等和基准标记区分地识别。因此,在以电路基板的基准标记为识别对象的情况下,在由相机拍摄到的低分辨率图像内难以准确地限定超分辨率处理的对象区域,这成为难以对电路基板的基准标记的图像识别应用专利文献2的超分辨率处理的主要原因。
另外,电路基板的识别对象除了基准标记之外,还存在表示基板信息的一维码、二维码等代码、文字、记号、标记等,这些识别对象也与基准标记相同地存在微小化的趋势,因此产生与基准标记的图像识别相同的课题。
用于解决课题的方案
为了解决上述课题,对基板作业装置,具备:输送机,向作业位置搬入电路基板;相机,拍摄被搬入到上述作业位置的电路基板的包含识别对象的区域;移动装置,使被搬入到上述作业位置的上述电路基板与上述相机相对移动;及图像处理装置,利用上述移动装置在上述电路基板的识别对象处于上述相机的视野内的范围内使该相机与上述电路基板相对移动并进行拍摄,由此取得图像并通过超分辨率处理生成超分辨率图像来识别上述识别对象,上述图像处理装置执行通过对拍摄到的图像进行处理而在该图像内搜索包含可能是上述识别对象的部分的至少一个区域作为候补区域的候补区域搜索处理,并对通过上述候补区域搜索处理搜索到的上述候补区域执行超分辨率处理而生成该候补区域的超分辨率图像来识别上述识别对象。此时,在通过候补区域搜索处理搜索到的候补区域存在多个的情况下,对于各候补区域生成超分辨率图像并基于该超分辨率图像的识别结果来辨别该超分辨率图像中映现的有可能是所述识别对象的部分是否为该识别对象即可。
在该结构中,执行通过对拍摄到的图像进行处理而在该图像内搜索包含可能是识别对象的部分的至少一个区域作为候补区域的候补区域搜索处理,因此即使由于输送机的输送精度较差而通过相机拍摄到的图像中映现的识别对象的位置较大地偏移,也能够通过候补区域搜索处理而在该图像内将包含可能是识别对象的部分的区域限定为候补区域。另外,在通过相机拍摄到的图像中映入有与识别对象类似的形状的图案等而难以将与识别对象类似的形状的图案等和该识别对象区分识别的情况下,能够通过候补区域搜索处理在该图像内将包含可能是识别的部分的多个区域限定为多个候补区域,能够使识别对象包含于该多个候补区域中的任一个候补区域。图像处理装置可以执行多帧超分辨率处理作为超分辨率处理,也可以执行单帧超分辨率处理作为超分辨率处理。移动装置可以是使相机相对于被定位于作业位置而静止的电路基板移动的结构,可以是使被搬入到作业位置的电路基板相对于固定的相机移动的结构,也可以是使电路基板和相机这两者移动的结构。
另外,也可以是,上述图像处理装置利用上述移动装置在上述电路基板的识别对象处于上述相机的视野内的范围内使该相机与上述电路基板相对移动并进行多次拍摄,由此取得在不同的位置拍摄到的多张图像并通过多帧超分辨率处理来生成超分辨率图像。此外,也可以是,上述图像处理装置与在第一次的拍摄结束后使上述相机与上述电路基板向下一拍摄位置相对移动的动作并行地执行候补区域搜索处理,该候补区域搜索处理对第一次拍摄到的图像进行处理而在该图像内搜索包含可能是上述识别对象的部分的至少一个区域作为候补区域,在最后一次拍摄结束后使用上述多张图像对通过上述候补区域搜索处理搜索到的上述候补区域执行多帧超分辨率处理。
在该结构中,候补区域搜索处理与在第一次的拍摄结束后使相机向下一拍摄位置移动的动作并行执行,因此与在最后一次拍摄结束后执行候补区域搜索处理的情况不同,能够避免在最后一次拍摄结束后由于候补区域搜索处理而多帧超分辨率处理的开始延迟。
此外,在最后一次拍摄结束后使用多张图像限定于通过候补区域搜索处理搜索到的候补区域地执行多帧超分辨率处理,因此与对于拍摄到的图像的整个区域进行多帧超分辨率处理的情况相比,能够缩短多帧超分辨率处理的时间。而且,由于生成通过候补区域搜索处理搜索到的候补区域的超分辨率图像来对识别对象进行识别,因此能够使用该候补区域的超分辨率图像高精度地对识别对象进行识别,并且在搜索包含与识别对象类似的形状的图案等的区域作为候补区域的情况下,能够使用该候补区域的超分辨率图像区分识别与识别对象类似的形状的图案等和识别对象,能够防止将与识别对象类似的形状的图案等误识别为识别对象。
此外,可想到在最后一次拍摄结束之前候补区域搜索处理结束的情况较多,但是在最后一次拍摄结束的时间点候补区域搜索处理未结束的情况下,可以在该候补区域搜索处理结束之后对候补区域执行多帧超分辨率处理。
或者,在最后一次拍摄结束的时间点候补区域搜索处理未结束的情况下,可以在搜索到预定个数的候补区域的时间点或经过了预定时间的时间点,判断为能够搜索到包含识别对象的候补区域,结束该候补区域搜索处理并对候补区域执行多帧超分辨率处理。
附图说明
图1是表示一实施例的元件安装机的主要部分的结构的侧视图。
图2是表示元件安装机的控制系统的结构的框图。
图3是表示基准标记图像识别动作控制程序的处理的流程的流程图。
图4是在通过标记拍摄用的相机最初拍摄的低分辨率的图像内搜索包含可能是基准标记的部分的候补区域的一例的图。
图5是说明对候补区域执行多帧超分辨率处理而生成了该候补区域的超分辨率图像的一例的图。
图6是说明基准标记图像识别动作中的标记拍摄用的相机的拍摄、候补区域搜索处理、多帧超分辨率处理的执行时机的时间图。
具体实施方式
以下,作为对基板作业装置的一例来对应用于元件安装机而具体化了的一实施例进行说明。
首先,基于图1,对元件安装机的结构进行说明。
在元件安装机的基台11上设有输送电路基板12的输送机13(以下,将基于该输送机13的电路基板12的输送方向设为X方向,将其垂直方向设为Y方向)。将对于构成该输送机13的两个输送轨道13a、13b和输送带14a、14b进行支撑的支撑部件15a、15b中的单侧的支撑部件15a固定于固定位置,并对其相反侧的支撑部件15b的Y方向位置通过进给丝杠机构(未图示)等沿着导轨16进行调整,由此能够对应于电路基板12的宽度来调整输送机13的宽度(输送轨道13a、13b的间隔)。
另外,在基台11上的输送机13的侧方设有供料器安设台22,在该供料器安设台22上多个供料器23以能够沿着Y方向拆装的方式安设。在各供料器23中安设有带盘20,该带盘20卷绕有将多个元件以等间距收纳的元件供给带,以从该带盘20引出的元件供给带的前头的元件位于元件吸附位置(通过吸嘴26吸附元件的位置)的方式安设。
在该元件安装机中设有使安装头24沿着水平方向(XY方向)及上下方向(Z方向)移动的头移动装置25(参照图2)。对由供料器23输送到元件吸附位置的元件进行吸附的一个或多个吸嘴26向下地保持于安装头24。另外,在元件安装机中设有通过头移动装置25(移动装置)而与安装头24一体移动并对电路基板12的基准标记从其上方进行拍摄的标记拍摄用的相机36、对吸附于吸嘴26的元件从其下方进行拍摄的元件拍摄用的相机35(参照图2)。
如图2所示,元件安装机的控制装置31与键盘、鼠标、触摸面板等输入装置32、存储后述的图3的基准标记图像识别动作控制程序和图像数据等的硬盘、RAM、ROM等存储装置33、液晶显示器、CRT等显示装置34等连接。
该元件安装机的控制装置31由一台或多台计算机(一个或多个CPU)构成,也作为对输送机13的各功能的动作进行控制并对通过标记拍摄用的相机36或元件拍摄用的相机35拍摄的图像进行处理而识别各自的识别对象的图像处理装置发挥功能。具体而言,元件安装机的控制装置31对如下的动作进行控制:利用标记拍摄用的相机36对由输送机13搬入到预定的作业位置并被夹紧的电路基板12的识别对象即基准标记从其上方拍摄多次,通过后述的多帧超分辨率处理来识别基准标记,以该基准标记的位置为基准而计测了电路基板12的各元件安装位置之后,使安装头24按照元件吸附位置→元件拍摄位置→元件安装位置的路径移动,利用安装头24的吸嘴26吸附从供料器23供给的元件并利用元件拍摄用的相机35拍摄该元件,对其拍摄图像进行处理而计测该元件的吸附位置(X,Y)和角度θ,修正该元件的吸附位置(X,Y)和角度θ的偏差并将该元件向电路基板11安装。
此外,元件安装机的控制装置31也作为执行多帧超分辨率处理的图像处理装置发挥功能,通过执行后述的图3的基准标记图像识别动作控制程序而使相机36在电路基板12的基准标记处于标记拍摄用的该相机36的视野内的范围内移动并拍摄多次,由此取得在不同的位置拍摄的多张低分辨率的图像并通过多帧超分辨率处理生成超分辨率图像来识别基准标记。此时,为了缩短多帧超分辨率处理的时间,控制装置31与在第一次的拍摄结束后使标记拍摄用的相机36向下一拍摄位置移动的动作并行地执行候补区域搜索处理,该候补区域搜索处理对最初拍摄的低分辨率的图像进行处理而在该图像内搜索包含可能是基准标记的部分的至少一个区域作为候补区域,在最后一次拍摄结束后使用多张低分辨率的图像对于通过所述候补区域搜索处理搜索到的候补区域执行多帧超分辨率处理,生成该候补区域的超分辨率图像而识别基准标记来计测基准标记的位置(X,Y)。
在此,“有可能是基准标记的部分”包含仅通过最初拍摄的低分辨率的图像的处理结果难以与基准标记区别的部分(即有可能误识别为基准标记的部分)和基准标记这两方。候补区域的尺寸只要是包含可能是基准标记的部分整体的尺寸即可。一般,候补区域的尺寸(面积)越小,则越能够缩短多帧超分辨率处理的时间,因此候补区域的尺寸优选为较小。候补区域的尺寸可以是预先设定的恒定值,也可以是控制装置31根据通过候补区域搜索处理识别出的可能是基准标记的部分的尺寸而自动地设定候补区域的尺寸。或者,也可以是作业者能够通过输入装置32的手动操作来设定候补区域的尺寸。
如图4所示,在通过候补区域搜索处理搜索到的候补区域存在多个的情况下,如图5所示,对各候补区域生成超分辨率图像而辨别该超分辨率图像中映现的可能是基准标记的部分是否为基准标记。
在该情况下,判定在候补区域搜索处理中是否设为候补区域(是否可能是基准标记)的判定基准可以是恒定的,也可以能够变更。
一般,当判定基准为偏严格的基准时,在候补区域搜索处理中发现的候补区域的数量减少,相应地,具有能够缩短多帧超分辨率处理的时间的优点,但是根据电路基板12的基准标记的周边的设计、基准标记的尺寸、形状、材质及亮度值不同,有可能难以从最初拍摄的低分辨率的图像发现可能是基准标记的部分而包含基准标记的候补区域的搜索失败。
另一方面,当判定基准为偏松的基准时,容易从最初拍摄的低分辨率的图像中发现可能是基准标记的部分,具有能够更可靠地发现包含基准标记的候补区域的优点,但是反之,在候补区域搜索处理中发现的候补区域的数量增加,相应地,多帧超分辨率处理的时间有可能变长。
因此,考虑到根据电路基板12的基准标记的周边的设计、基准标记的尺寸、形状、材质及亮度值而从最初拍摄到的低分辨率的图像中发现可能是基准标记的部分的难易度的变化,可以能够基于电路基板12的基准标记的周边的设计、基准标记的尺寸、形状、材质及亮度值中的至少一个而变更判定基准。该判定基准的变更可以由控制装置31自动地进行,也可以由作业者通过输入装置32的手动操作来进行。
另外,也可以反复进行在通过一次的候补区域搜索处理而一个候补区域也未发现的情况下,缓和判定基准而重新执行候补区域搜索处理的处理。这样一来,在最初拍摄到的低分辨率的图像中映现有基准标记的情况下,即使在第一次的候补区域搜索处理中包含基准标记的候补区域的搜索失败,在第二次以后的候补区域搜索处理中包含基准标记的候补区域的搜索也能够成功。另外,在即使反复进行预定次数候补区域搜索处理也无法发现一个候补区域的情况下,可以判断为在最初拍摄的低分辨率的图像中未映现出基准标记,使元件安装机错误停止,通过显示或声音等向作业者作出警告。在该情况下,控制装置31可以自动地从最初的拍摄开始重新进行,此时,以使基准标记处于该相机36的视野内的方式修正标记拍摄用的相机36的拍摄位置即可。
另外,如图6所示,可想到很多时候在最后一次(在图6的例子中为第二次)拍摄结束之前候补区域搜索处理结束,但是根据电路基板12的基准标记的周边的设计、基准标记的尺寸、形状、材质及亮度值不同而有可能候补区域搜索处理的时间延长而在最后一次拍摄结束的时间点候补区域搜索处理未结束。因此,在最后一次拍摄的时间点候补区域搜索处理未结束的情况下,也可以在该候补区域搜索处理结束之后对候补区域执行多帧超分辨率处理。
或者,在最后一次拍摄结束的时间点候补区域搜索处理未结束的情况下,可以在搜索到预定数量的候补区域的时间点或经过了预定时间的时间点,判断为能够搜索到包含基准标记的候补区域,结束该候补区域搜索处理并对候补区域执行多帧超分辨率处理。
另外,即使在通过标记拍摄用的相机36对基准标记拍摄了三次以上而取得三张以上的低分辨率的图像的情况下,候补区域搜索处理也仅对第一张(最初)的低分辨率的图像进行即可。在该情况下,第二章以后的低分辨率的图像在进行多帧超分辨率处理时与第一张的低分辨率的图像一起使用。
控制装置31将通过多帧超分辨率处理生成的各候补区域的超分辨率图像显示于显示装置34,并在除了候补区域以外的区域显示以与该超分辨率图像相同的倍率放大后的低分辨率图像(例如双三次放大图像等)或预定的亮度值(如果是例如256等级灰度的相机则为0或255等)的背景。由此,作业者能够通过目视确认显示装置34显示的各候补区域的超分辨率图像,能够通过目视确认在哪个候补区域包含基准标记而准确地进行基准标记的识别。
以上说明的本实施例的基准标记的图像识别通过控制装置31按照图3的基准标记图像识别动作控制程序执行。图3的基准标记图像识别动作控制程序是标记拍摄用的相机36对基准标记的拍摄次数为两次时的控制例。因此,“第一次的拍摄”成为“最初的拍摄”,“第二次的拍摄”成为“最后一次拍摄”。
图3的基准标记图像识别动作控制程序在元件安装机的运行期间(生产期间)每当通过输送机13将电路基板12搬入到预定的作业位置时由控制装置31执行。当本程序启动时,首先,在步骤101中,通过头移动装置25使标记拍摄用的相机36向位于电路基板12的基准标记的上方的第一次的拍摄位置移动,设为使电路基板12的基准标记处于该相机36的视野内的状态。然后,进入步骤102,通过标记拍摄用的相机36进行第一次的拍摄,取得拍摄了包含基准标记及其周边部分的区域的低分辨率的图像。
然后,并行地执行步骤103→104的标记拍摄用的相机36的移动及第二次拍摄和步骤105的候补区域搜索处理。
具体而言,在第一次的拍摄结束后,执行步骤103→104的处理,通过头移动装置25使标记拍摄用的相机36在基准标记处于其视野内的范围内向第二次拍摄位置移动并进行第二次拍摄。此时,第二次的拍摄位置可以设定为从第一次的拍摄位置在X方向上分离了例如0.5像素,在Y方向上分离了例如0.5像素的位置。
与该标记拍摄用的相机36的移动及第二次拍摄并行地从第一次的拍摄刚结束后起立即执行步骤105的候补区域搜索处理。在该候补区域搜索处理中,对通过第一次的拍摄取得的低分辨率的图像进行处理,基于其处理结果而在该图像内搜索包含可能是基准标记的部分的区域作为候补区域。由此,在低分辨率的图像内设定一个或多个候补区域。
如以上那样,在结束了第二次拍摄和候补区域搜索处理之后,进入步骤106,进行两张低分辨率的图像的运动推定,对于在上述候补区域搜索处理中搜索到的候补区域执行多帧超分辨率处理而生成该候补区域的超分辨率图像。两张低分辨率的图像的运动推定例如可以使用归一化相关或相位限定相关等,也可以直接使用使标记拍摄用的相机36移动的头移动装置25的伺服移动量。在候补区域搜索处理中搜索到的候补区域存在多个的情况下,如图5所示,对各候补区域生成超分辨率图像。
然后,进入步骤107,识别各候补区域的超分辨率图像中映现的可能是基准标记的部分的形状、尺寸、亮度值等,基于其识别结果根据形状、尺寸、亮度值等来判定该部分是否为基准标记,确定基准标记实际存在的候补区域。在候补区域搜索处理中搜索到的候补区域仅有一个情况下,确认该候补区域的超分辨率图像中存在基准标记。
然后,进入步骤108,识别在通过上述步骤107确定的候补区域的超分辨率图像中映现的基准标记的位置而结束本程序。
根据以上说明的本实施例,执行对最初(第一次)拍摄到的低分辨率的图像进行处理而在该图像内搜索包含可能是基准标记的部分的至少一个区域作为候补区域的候补区域搜索处理,因此即使由于输送机13的输送精度差而在通过标记拍摄用的相机36拍摄到的低分辨率的图像中映现的基准标记的位置较大地偏移,也能够通过候补区域搜索处理将在该图像内包含可能是基准标记的部分的区域限定为候补区域。另外,在通过标记拍摄用的相机36拍摄到的低分辨率的图像中映入与基准标记类似的形状的图案等而难以区分识别与基准标记类似的形状的图案等和基准标记的情况下,能够通过候补区域搜索处理在该图像内将包含可能是基准标记的部分的多个区域限定为多个候补区域,能够使基准标记包含于这多个候补区域中的任一个候补区域。
而且,候补区域搜索处理在最初(第一次)的拍摄结束后,与使标记拍摄用的相机36向下一拍摄位置移动的动作并行地执行,因此与在最后一次(第二次)拍摄结束后执行候补区域搜索处理的情况不同,能够避免在最后一次的拍摄结束后由于候补区域搜索处理而多帧超分辨率处理的开始延迟。
此外,在最后一次拍摄结束后使用多张低分辨率的图像限定为通过候补区域搜索处理搜索到的候补区域地执行多帧超分辨率处理,因此与对于低分辨率图像的整个区域进行多帧超分辨率处理的情况相比,能够缩短多帧超分辨率处理的时间。而且,由于生成通过候补区域搜索处理搜索到的候补区域的超分辨率图像而识别基准标记,因此使用该候补区域的超分辨率图像能够高精度地识别出基准标记,并且在搜索到包含与基准标记类似的形状的图案等的区域作为候补区域的情况下,使用该候补区域的超分辨率图像能够区分识别与基准标记类似的形状的图案等和基准标记,能够防止将与基准标记类似的形状的图案等误识别为基准标记。
另外,在上述实施例中,设为仅使一个基准标记处于标记拍摄用的相机36的视野内地进行拍摄,但也可以设为使多个基准标记处于标记拍摄用的相机36的视野内地进行拍摄。在该情况下,只要对各基准标记进行候补区域搜索处理而搜索包含该可能是基准标记的部分的至少一个区域作为该基准标记的候补区域即可。
另外,在上述实施例中,将电路基板12的识别对象设为基准标记而进行了说明,但是在对表示电路基板12的基板信息的一维码、二维码等代码、文字、记号、标记中的任一个进行图像识别的系统中,也可以将表示基板信息的代码、文字、记号、标记中的任一个作为识别对象而实施本发明。这是因为,表示电路基板12的基板信息的代码、文字、记号、标记也与基准标记相同地存在微小化的趋势的缘故。
另外,本发明不限定于元件安装机,能够适用于具备对由输送机搬入的电路基板的基准标记等识别对象进行图像识别的图像处理装置的对基板作业装置即元件插入组装机、丝网印刷机、外观检查机等进行实施等,在不脱离主旨的范围内能够进行各种变更地实施,这是不言而喻的。
附图标记说明
12…电路基板,13…输送机,24…安装头,25…头移动装置(移动装置),31…控制装置(图像处理装置),36…标记拍摄用的相机(相机)。

Claims (7)

1.一种对基板作业装置,具备:
输送机,向作业位置搬入电路基板;
相机,拍摄被搬入到所述作业位置的电路基板的包含识别对象的区域;
移动装置,使被搬入到所述作业位置的所述电路基板与所述相机相对移动;及
图像处理装置,利用所述移动装置在所述电路基板的识别对象处于所述相机的视野内的范围内使该相机与所述电路基板相对移动并进行拍摄,由此取得图像并通过超分辨率处理生成超分辨率图像来识别所述识别对象,
所述图像处理装置执行通过对拍摄到的图像进行处理而在该图像内搜索包含可能是所述识别对象的部分的至少一个区域作为候补区域的候补区域搜索处理,并对通过所述候补区域搜索处理搜索到的所述候补区域执行超分辨率处理而生成该候补区域的超分辨率图像来识别所述识别对象,
所述图像处理装置利用所述移动装置在所述电路基板的识别对象处于所述相机的视野内的范围内使该相机与所述电路基板相对移动并进行多次拍摄,由此取得在不同的位置拍摄到的多张图像并通过多帧超分辨率处理来生成超分辨率图像,
所述图像处理装置与在第一次的拍摄结束后使所述相机与所述电路基板向下一拍摄位置相对移动的动作并行地执行候补区域搜索处理,该候补区域搜索处理对第一次拍摄到的图像进行处理而在该图像内搜索包含可能是所述识别对象的部分的至少一个区域作为候补区域,在最后一次拍摄结束后使用所述多张图像对通过所述候补区域搜索处理搜索到的所述候补区域执行多帧超分辨率处理,
所述图像处理装置在最后一次的拍摄结束的时间点所述候补区域搜索处理未结束的情况下,在搜索到预定数量的候补区域的时间点或经过了预定时间的时间点,结束该候补区域搜索处理并对所述候补区域执行多帧超分辨率处理。
2.根据权利要求1所述的对基板作业装置,其中,
在存在多个所述候补区域的情况下,所述图像处理装置对于各所述候补区域生成超分辨率图像并基于该超分辨率图像的识别结果来辨别该超分辨率图像中映现的可能是所述识别对象的部分是否为该识别对象。
3.根据权利要求1所述的对基板作业装置,其中,
所述图像处理装置构成为,能够基于所述电路基板的识别对象的周边的设计、所述识别对象的尺寸、形状、材质及亮度值中的至少一个而变更在所述候补区域搜索处理中判定是否设为所述候补区域的判定基准。
4.根据权利要求2所述的对基板作业装置,其中,
所述图像处理装置构成为,能够基于所述电路基板的识别对象的周边的设计、所述识别对象的尺寸、形状、材质及亮度值中的至少一个而变更在所述候补区域搜索处理中判定是否设为所述候补区域的判定基准。
5.根据权利要求1~4中任一项所述的对基板作业装置,其中,
所述识别对象是作为所述电路基板的基准位置的基准标记及表示基板信息的代码、文字、记号、标记中的任一个。
6.根据权利要求1~4中任一项所述的对基板作业装置,其中,
所述对基板作业装置具备显示通过所述图像处理装置进行处理后的图像的显示装置,
所述图像处理装置在显示于所述显示装置的图像中的所述候补区域显示所述超分辨率图像,在除此以外的区域显示以与该超分辨率图像相同的倍率放大后的低分辨率图像或预定的亮度值的背景。
7.根据权利要求1~4中任一项所述的对基板作业装置,其中,
所述移动装置是使向所述电路基板安装元件的安装头移动的头移动装置,
所述相机以与所述安装头一起移动的方式设于所述头移动装置。
CN201780092306.6A 2017-06-21 2017-06-21 对基板作业装置 Active CN110771277B (zh)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2017/022841 WO2018235186A1 (ja) 2017-06-21 2017-06-21 対基板作業装置

Publications (2)

Publication Number Publication Date
CN110771277A CN110771277A (zh) 2020-02-07
CN110771277B true CN110771277B (zh) 2021-06-01

Family

ID=64735876

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201780092306.6A Active CN110771277B (zh) 2017-06-21 2017-06-21 对基板作业装置

Country Status (5)

Country Link
US (1) US11210764B2 (zh)
EP (1) EP3644702B1 (zh)
JP (1) JP7094282B2 (zh)
CN (1) CN110771277B (zh)
WO (1) WO2018235186A1 (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111340879B (zh) * 2018-12-17 2023-09-01 台达电子工业股份有限公司 基于上采样的影像定位系统及其方法
WO2020170341A1 (ja) * 2019-02-19 2020-08-27 株式会社Fuji 基準マーク特定装置、基準マーク特定方法
CN113522884A (zh) * 2021-06-28 2021-10-22 合肥国轩高科动力能源有限公司 一种自动修正极柱清洗轨迹的方法及装置

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08111599A (ja) * 1994-10-11 1996-04-30 Fujitsu Ltd 位置合わせ方法および装置
JP2009273005A (ja) * 2008-05-09 2009-11-19 Omron Corp 部品実装基板の外観検査用画像の保存方法および復元方法、ならびに画像保存処理装置
CN102595870A (zh) * 2010-12-27 2012-07-18 富士机械制造株式会社 图像生成装置以及图像生成方法
WO2015049723A1 (ja) * 2013-10-01 2015-04-09 富士機械製造株式会社 組立機
CN105993212A (zh) * 2013-12-02 2016-10-05 富士机械制造株式会社 组装机
CN106104195A (zh) * 2014-03-13 2016-11-09 富士机械制造株式会社 图像处理装置及基板生产系统
WO2017098561A1 (ja) * 2015-12-07 2017-06-15 富士機械製造株式会社 基板用の画像処理装置および画像処理方法

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH02213983A (ja) 1989-02-15 1990-08-27 Mitsubishi Electric Corp ワイヤボンデイング装置の認識方法
JP2903823B2 (ja) 1992-01-10 1999-06-14 三菱電機株式会社 パターンの認識装置
JP4715009B2 (ja) * 2001-03-26 2011-07-06 ソニー株式会社 ワークの基準マーク認識方法
JP4787694B2 (ja) 2006-07-14 2011-10-05 ヤマハ発動機株式会社 実装機
US8878950B2 (en) * 2010-12-14 2014-11-04 Pelican Imaging Corporation Systems and methods for synthesizing high resolution images using super-resolution processes
JP5798371B2 (ja) 2011-05-09 2015-10-21 富士機械製造株式会社 基準マークモデルテンプレート作成方法
JP2015530929A (ja) * 2012-06-28 2015-10-29 ユニバーサル インスツルメンツ コーポレーションUniversal Instruments Corporation フレキシブルな組み立て機械、システムおよび方法
US9635246B2 (en) * 2013-06-21 2017-04-25 Qualcomm Incorporated Systems and methods to super resolve a user-selected region of interest
JP6177342B2 (ja) * 2013-10-31 2017-08-09 富士機械製造株式会社 部品装着機
JP6680473B2 (ja) 2015-06-16 2020-04-15 株式会社Fuji 挿入部品実装方法及び挿入部品実装装置

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08111599A (ja) * 1994-10-11 1996-04-30 Fujitsu Ltd 位置合わせ方法および装置
JP2009273005A (ja) * 2008-05-09 2009-11-19 Omron Corp 部品実装基板の外観検査用画像の保存方法および復元方法、ならびに画像保存処理装置
CN102595870A (zh) * 2010-12-27 2012-07-18 富士机械制造株式会社 图像生成装置以及图像生成方法
WO2015049723A1 (ja) * 2013-10-01 2015-04-09 富士機械製造株式会社 組立機
CN105993212A (zh) * 2013-12-02 2016-10-05 富士机械制造株式会社 组装机
CN106104195A (zh) * 2014-03-13 2016-11-09 富士机械制造株式会社 图像处理装置及基板生产系统
WO2017098561A1 (ja) * 2015-12-07 2017-06-15 富士機械製造株式会社 基板用の画像処理装置および画像処理方法

Also Published As

Publication number Publication date
US20200202492A1 (en) 2020-06-25
JPWO2018235186A1 (ja) 2020-02-27
EP3644702B1 (en) 2022-07-13
US11210764B2 (en) 2021-12-28
WO2018235186A1 (ja) 2018-12-27
EP3644702A4 (en) 2020-05-27
JP7094282B2 (ja) 2022-07-01
EP3644702A1 (en) 2020-04-29
CN110771277A (zh) 2020-02-07

Similar Documents

Publication Publication Date Title
CN110771277B (zh) 对基板作业装置
JP6159800B2 (ja) フィーダ調整装置
CN107926154B (zh) 元件安装装置
JP2012234488A (ja) 基準マークモデルテンプレート作成方法
CN110582686B (zh) 转印状态检查系统以及元件安装机
JP2013206912A (ja) 部品実装装置、基板検出方法及び基板製造方法
CN107124865B (zh) 检查装置、安装装置及检查方法
JP2007309808A (ja) 対象物の位置検出方法及び装置
EP3389007B1 (en) Substrate image processing device and substrate image processing method
WO2017081773A1 (ja) 基板用の画像処理装置および画像処理方法
US20170099752A1 (en) Maintenance support system and maintenance support method in electronic component mounting system
JP6608543B2 (ja) 画像処理システム及び画像処理方法
EP2975921A1 (en) Component recognition system for component mounting machine
EP3370493B1 (en) Base plate position searching device and component mounting machine
JP4707607B2 (ja) 部品認識データ作成用画像取得方法及び部品実装機
CN110291852B (zh) 对基板作业装置及图像处理方法
US10716249B2 (en) Component mounting machine
US11274385B2 (en) Sewing machine
JP3725993B2 (ja) 電子部品実装回路基板の検査方法及びその装置
CN110678060B (zh) 图像处理装置、安装装置、图像处理方法、存储介质
JP6418739B2 (ja) 評価装置、表面実装機、評価方法
EP3941176A1 (en) Object determination method and object determination device
JP7423741B2 (ja) 画像処理装置および画像処理方法
JP5627530B2 (ja) 部品方向判定装置及び部品方向判定方法
JP2007294624A (ja) 電子部品の吸着位置補正方法及び装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant