JP7094282B2 - 対基板作業装置 - Google Patents

対基板作業装置 Download PDF

Info

Publication number
JP7094282B2
JP7094282B2 JP2019524768A JP2019524768A JP7094282B2 JP 7094282 B2 JP7094282 B2 JP 7094282B2 JP 2019524768 A JP2019524768 A JP 2019524768A JP 2019524768 A JP2019524768 A JP 2019524768A JP 7094282 B2 JP7094282 B2 JP 7094282B2
Authority
JP
Japan
Prior art keywords
image
super
resolution
candidate area
circuit board
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019524768A
Other languages
English (en)
Other versions
JPWO2018235186A1 (ja
Inventor
雅史 天野
博史 大池
一也 小谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Individual
Original Assignee
Individual
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Individual filed Critical Individual
Publication of JPWO2018235186A1 publication Critical patent/JPWO2018235186A1/ja
Application granted granted Critical
Publication of JP7094282B2 publication Critical patent/JP7094282B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H05ELECTRIC TECHNIQUES NOT OTHERWISE PROVIDED FOR
    • H05KPRINTED CIRCUITS; CASINGS OR CONSTRUCTIONAL DETAILS OF ELECTRIC APPARATUS; MANUFACTURE OF ASSEMBLAGES OF ELECTRICAL COMPONENTS
    • H05K13/00Apparatus or processes specially adapted for manufacturing or adjusting assemblages of electric components
    • H05K13/08Monitoring manufacture of assemblages
    • H05K13/081Integration of optical monitoring devices in assembly lines; Processes using optical monitoring devices specially adapted for controlling devices or machines in assembly lines
    • H05K13/0812Integration of optical monitoring devices in assembly lines; Processes using optical monitoring devices specially adapted for controlling devices or machines in assembly lines the monitoring devices being integrated in the mounting machine, e.g. for monitoring components, leads, component placement
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4053Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/676Bracketing for image capture at varying focusing conditions
    • HELECTRICITY
    • H05ELECTRIC TECHNIQUES NOT OTHERWISE PROVIDED FOR
    • H05KPRINTED CIRCUITS; CASINGS OR CONSTRUCTIONAL DETAILS OF ELECTRIC APPARATUS; MANUFACTURE OF ASSEMBLAGES OF ELECTRICAL COMPONENTS
    • H05K13/00Apparatus or processes specially adapted for manufacturing or adjusting assemblages of electric components
    • H05K13/04Mounting of components, e.g. of leadless components

Landscapes

  • Engineering & Computer Science (AREA)
  • Operations Research (AREA)
  • Manufacturing & Machinery (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Supply And Installment Of Electrical Components (AREA)

Description

本明細書は、コンベアで搬入された回路基板の基準マーク等の認識対象を画像認識する画像処理装置を備えた対基板作業装置に関する技術を開示したものである。
例えば、部品実装基板を生産する部品実装ラインに設置された部品実装機、部品挿入組立機、スクリーン印刷機、外観検査機等においては、コンベアで搬入された回路基板の位置を検出するために、特許文献1(特開2017-5217号公報)等に記載されているように、コンベアで搬入された回路基板の基準マークをその上方からカメラで撮像して、その撮像画像を処理して基準マークの位置を認識し、その基準マークの位置を基準にして回路基板の位置を検出するようにしている。
特開2017-5217号公報 国際公開WO2015/049723号公報
近年、回路基板の部品実装密度の高密度化や実装部品の微小化が進むに従って、回路基板の基準マークも微小化される傾向がある。例えば、回路基板に、50マイクロメートルから500マイクロメートルの大きさの基準マークが設けられている場合もある。このため、上記特許文献1に記載されているように、1回の撮像で取得した低解像度の画像を処理する通常の画像処理では、微小な基準マークを精度良く認識することが困難な場合があり、その結果、基準マークの位置検出精度が悪化したり、撮像画像に写り込んだ基準マーク以外のものを基準マークと誤認識して基準マークの位置を誤検出する可能性があった。
このような課題を解決するために、本発明者らは、特許文献2(国際公開WO2015/049723号公報)に記載されたマルチフレーム超解像処理技術を回路基板の基準マークの画像認識に応用して、回路基板の基準マークをマルチフレーム超解像処理により認識する技術を研究開発しているが、その研究開発過程で、次のような新たな課題が判明した。
すなわち、マルチフレーム超解像処理を行う場合、カメラの視野内に回路基板の基準マークが収まる範囲内で当該カメラを移動させて複数回撮像することで、異なる位置で撮像した複数枚の低解像度画像を取得してマルチフレーム超解像処理により超解像画像を作成して基準マークを認識することになる。しかし、マルチフレーム超解像処理は、通常の画像処理と比べて演算量が多いため、画像処理時間が長くなり、サイクルタイムが長くなって生産性が低下する要因となる。尚、1枚の低解像度画像から高解像度画像を推定するシングルフレーム超解像処理であっても、画像処理時間が長くなる問題が、同様に発生する。
この対策として、低解像度画像の全領域に対して超解像処理を行うのではなく、特許文献2のように、低解像度画像の一部の領域に超解像処理を行う領域を限定して超解像処理を行うことが考えられる。この特許文献2では、部品実装機の吸着ノズルに吸着した部品を画像認識するために、カメラの視野内に部品を収めて撮像した低解像度画像のうちの部品を含む領域を超解像処理の対象領域として限定して、この対象領域のみに対して超解像処理を行うことで、超解像処理の演算量を減らして画像処理時間を短縮するようにしている。
この特許文献2のように、吸着ノズルに吸着した部品を認識対象とする場合は、吸着ノズルに吸着した部品を、上向きに固定したカメラの上方の撮像位置へ移動させて撮像するため、カメラで撮像した低解像度画像内の部品(認識対象)の位置の誤差は、吸着ノズルの位置制御により部品吸着位置ずれ量程度の小さい寸法に収めることが可能である。このため、吸着ノズルの位置から超解像処理の対象領域を正確に限定することは比較的容易である。
しかし、コンベアで搬入される回路基板の基準マークを認識対象とする場合は、コンベアの搬送精度が悪いため、カメラで撮像した低解像度画像に写った基準マークの位置のばらつきが大きくなり、しかも、回路基板の基準マークの周辺(カメラの視野内)には、基準マークと類似した形状のパターン等が形成されている場合があるため、低解像度画像に写った基準マークと類似した形状のパターン等を基準マークと区別して認識することが困難な場合がある。このため、回路基板の基準マークを認識対象とする場合は、カメラで撮像した低解像度画像内に超解像処理の対象領域を正しく限定することは困難であり、これが回路基板の基準マークの画像認識に対して特許文献2の超解像処理の適用を困難とする要因となっている。
尚、回路基板の認識対象は、基準マークの他に、基板情報を示す一次元コード、二次元コード等のコード、文字、記号、マーク等があり、これらの認識対象も、基準マークと同様に微小化される傾向があるため、基準マークの画像認識と同様の課題が生じる。
上記課題を解決するために、回路基板を作業位置に搬入するコンベアと、前記作業位置に搬入された回路基板の認識対象を含む領域を撮像するカメラと、前記作業位置に搬入された前記回路基板と前記カメラを相対的に移動させる移動装置と、前記移動装置により前記カメラの視野内に前記回路基板の認識対象が収まる範囲内で当該カメラと前記回路基板を相対的に移動させて撮像することで画像を取得して超解像処理により超解像画像を作成して前記認識対象を認識する画像処理装置とを備えた対基板作業装置において、前記画像処理装置は、撮像した画像を処理して当該画像内で前記認識対象の可能性のある部分を含む少なくとも1つの領域を候補領域として探索する候補領域探索処理を実行し、前記候補領域探索処理で探索された前記候補領域に対して超解像処理を実行して当該候補領域の超解像画像を作成して前記認識対象を認識することを特徴とし、更に後述する特徴を備えたものである。この際、候補領域探索処理で探索した候補領域が複数存在する場合には、候補領域毎に超解像画像を作成して当該超解像画像の認識結果に基づいて当該超解像画像に写った前記認識対象の可能性のある部分が当該認識対象であるか否かを識別するようにすれば良い。
この構成では、撮像した画像を処理して当該画像内で認識対象の可能性のある部分を含む少なくとも1つの領域を候補領域として探索する候補領域探索処理を実行するようにしているため、コンベアの搬送精度が悪いためにカメラで撮像した画像に写った認識対象の位置が大きくずれていても、候補領域探索処理によって当該画像内で認識対象の可能性のある部分を含む領域を候補領域として限定することができる。また、カメラで撮像した画像に認識対象と類似した形状のパターン等が写り込んでいて、認識対象と類似した形状のパターン等と当該認識対象とを区別して認識することが困難な場合には、候補領域探索処理によって当該画像内で認識対象の可能性のある部分を含む複数の領域を複数の候補領域として限定することができ、その複数の候補領域のいずれかに認識対象を含ませることができる。画像処理装置は、超解像処理として、マルチフレーム超解像処理を実行してもよく、シングルフレーム超解像処理を実行してもよい。移動装置は、作業位置に位置決めされ静止している回路基板に対してカメラを移動させる構成であってもよく、作業位置に搬入された回路基板を、固定されたカメラに対して移動させる構成であってもよく、回路基板とカメラの両者を移動させる構成であってもよい。
尚、前記画像処理装置は、前記移動装置により前記カメラの視野内に前記回路基板の認識対象が納まる範囲内で当該カメラと前記回路基板を相対的に移動させて複数撮像することで異なる位置で撮像した複数枚の画像を取得してマルチフレーム超解像処理により超解像画像を作成してもよい。更に、前記画像処理装置は、最初に撮像した画像を処理して当該画像内で前記認識対象の可能性のある部分を含む少なくとも1つの領域を候補領域として探索する候補領域探索処理を、最初の撮像終了後に、次の撮像位置へ前記カメラと前記回路基板を相対的に移動させる動作と並行して実行し、最後の撮像終了後に前記複数枚の画像を用いて前記候補領域探索処理で探索された前記候補領域に対してマルチフレーム超解像処理を実行してもよい。
この構成では、候補領域探索処理は、最初の撮像終了後にカメラを次の撮像位置へ移動させる動作と並行して実行するようにしているため、最後の撮像終了後に候補領域探索処理を実行する場合とは異なり、最後の撮像終了後に候補領域探索処理によってマルチフレーム超解像処理の開始が遅れることを回避できる。
更に、最後の撮像終了後に複数枚の画像を用いて候補領域探索処理で探索された候補領域に限定してマルチフレーム超解像処理を実行するようにしているため、撮像した画像の全領域に対してマルチフレーム超解像処理を行う場合と比較して、マルチフレーム超解像処理の時間を短縮することができる。しかも、候補領域探索処理で探索された候補領域の超解像画像を作成して認識対象を認識するようにしているため、当該候補領域の超解像画像を用いて認識対象を精度良く認識できると共に、認識対象と類似した形状のパターン等を含む領域が候補領域として探索されている場合には、当該候補領域の超解像画像を用いて認識対象と類似した形状のパターン等を認識対象と区別して認識することができ、認識対象と類似した形状のパターン等を認識対象と誤認識することを防止できる。
、最後の撮像を終了した時点で候補領域探索処理が終了していない場合には、所定数の候補領域を探索した時点又は所定時間が経過した時点で、認識対象を含む候補領域を探索できたと判断して、当該候補領域探索処理を終了して候補領域に対してマルチフレーム超解像処理を実行するようにしても良い。
図1は一実施例の部品実装機の主要部の構成を示す側面図である。 図2は部品実装機の制御系の構成を示すブロック図である。 図3は基準マーク画像認識動作制御プログラムの処理の流れを示すフローチャートである。 図4はマーク撮像用のカメラで最初に撮像した低解像度の画像内で基準マークの可能性のある部分を含む候補領域を探索した一例を説明する図である。 図5は候補領域に対してマルチフレーム超解像処理を実行して当該候補領域の超解像画像を作成した一例を説明する図である。 図6は基準マーク画像認識動作におけるマーク撮像用のカメラの撮像と候補領域探索処理とマルチフレーム超解像処理の実行タイミングを説明するタイミングチャートである。
以下、対基板作業装置の一例として部品実装機に適用して具体化した一実施例を説明する。
まず、図1に基づいて部品実装機の構成を説明する。
部品実装機のベース台11上には、回路基板12を搬送するコンベア13が設けられている(以下、このコンベア13による回路基板12の搬送方向をX方向とし、その直角方向をY方向とする)。このコンベア13を構成する2本のコンベアレール13a,13bとコンベアベルト14a,14bを支持する支持部材15a,15bのうち、片方の支持部材15aを、一定位置に固定し、その反対側の支持部材15bのY方向位置を送りねじ機構(図示せず)等によってガイドレール16に沿って調整することで、コンベア13の幅(コンベアレール13a,13bの間隔)を回路基板12の幅に合わせて調整できるようになっている。
また、ベース台11上のコンベア13の側方には、フィーダセット台22が設けられ、このフィーダセット台22に複数のフィーダ23がY方向に着脱可能にセットされている。各フィーダ23には、多数の部品を等ピッチで収容した部品供給テープが巻回されたリール20がセットされ、このリール20から引き出された部品供給テープの先頭の部品が部品吸着位置(吸着ノズル26で部品を吸着する位置)に位置するようにセットされる。
この部品実装機には、実装ヘッド24を水平方向(XY方向)及び上下方向(Z方向)に移動させるヘッド移動装置25(図2参照)が設けられている。実装ヘッド24には、フィーダ23により部品吸着位置に送られた部品を吸着する1本又は複数本の吸着ノズル26が下向きに保持されている。また、部品実装機には、ヘッド移動装置25(移動装置)によって実装ヘッド24と一体的に移動して回路基板12の基準マークをその上方から撮像するマーク撮像用のカメラ36と、吸着ノズル26に吸着した部品をその下方から撮像する部品撮像用のカメラ35(図2参照)とが設けられている。
図2に示すように、部品実装機の制御装置31には、キーボード、マウス、タッチパネル等の入力装置32と、後述する図3の基準マーク画像認識動作制御プログラムや画像データ等を記憶するハードディスク、RAM、ROM等の記憶装置33と、液晶ディスプレイ、CRT等の表示装置34等が接続されている。
この部品実装機の制御装置31は、1台又は複数台のコンピュータ(1個又は複数個のCPU)によって構成され、部品実装機の各機能の動作を制御すると共に、マーク撮像用のカメラ36や部品撮像用のカメラ35で撮像した画像を処理して各々の認識対象を認識する画像処理装置としても機能する。具体的には、部品実装機の制御装置31は、コンベア13により所定の作業位置に搬入されてクランプされた回路基板12の認識対象である基準マークをその上方からマーク撮像用のカメラ36で複数回撮像して、後述するマルチフレーム超解像処理により基準マークを認識し、この基準マークの位置を基準にして回路基板12の各部品実装位置を計測した後、実装ヘッド24を部品吸着位置→部品撮像位置→部品実装位置の経路で移動させて、フィーダ23から供給される部品を実装ヘッド24の吸着ノズル26で吸着して当該部品を部品撮像用のカメラ35で撮像して、その撮像画像を処理して当該部品の吸着位置(X,Y)と角度θを計測し、当該部品の吸着位置(X,Y)や角度θのずれを補正して当該部品を回路基板1に実装するという動作を制御する。
更に、部品実装機の制御装置31は、マルチフレーム超解像処理を実行する画像処理装置としても機能し、後述する図3の基準マーク画像認識動作制御プログラムを実行することで、マーク撮像用のカメラ36の視野内に回路基板12の基準マークが収まる範囲内で当該カメラ36を移動させて複数回撮像することで、異なる位置で撮像した複数枚の低解像度の画像を取得してマルチフレーム超解像処理により超解像画像を作成して基準マークを認識する。この際、制御装置31は、マルチフレーム超解像処理の時間を短縮するために、最初に撮像した低解像度の画像を処理して当該画像内で基準マークの可能性のある部分を含む少なくとも1つの領域を候補領域として探索する候補領域探索処理を、最初の撮像終了後にマーク撮像用のカメラ36を次の撮像位置へ移動させる動作と並行して実行し、最後の撮像終了後に複数枚の低解像度の画像を用いて前記候補領域探索処理で探索された候補領域に対してマルチフレーム超解像処理を実行して当該候補領域の超解像画像を作成して基準マークを認識して基準マークの位置(X,Y)を計測する。
ここで、「基準マークの可能性のある部分」とは、最初に撮像した低解像度の画像の処理結果だけでは、基準マークと区別するのが困難な部分(つまり基準マークと誤認識する可能性のある部分)と基準マークとの両方を含む意味である。候補領域のサイズは、基準マークの可能性のある部分全体が含まれるサイズであれば良い。一般に、候補領域のサイズ(面積)が小さいほど、マルチフレーム超解像処理の時間を短くできるため、候補領域のサイズは小さい方が好ましい。候補領域のサイズは、予め設定された一定値であっても良いし、制御装置31が候補領域探索処理で認識した基準マークの可能性のある部分のサイズに応じて候補領域のサイズを自動的に設定するようにしても良い。或は、作業者が入力装置32の手動操作で候補領域のサイズを設定できるようにしても良い。
図4に示すように、候補領域探索処理によって探索した候補領域が複数存在する場合には、図5に示すように、候補領域毎に超解像画像を作成して当該超解像画像に写った基準マークの可能性のある部分が基準マークであるか否かを識別する。
この場合、候補領域探索処理で候補領域とするか否か(基準マークの可能性があるか否か)を判定する判定基準は、一定であっても良いし、変更可能としても良い。
一般に、判定基準が厳しめの基準であると、候補領域探索処理で発見される候補領域の数が少なくなり、その分、マルチフレーム超解像処理の時間を短縮できる利点があるが、回路基板12の基準マークの周辺のデザインや、基準マークのサイズ、形状、材質、輝度値によっては、最初に撮像した低解像度の画像から基準マークの可能性のある部分を発見し難くなって、基準マークを含む候補領域の探索に失敗する可能性がある。
一方、判定基準が緩めの基準であると、最初に撮像した低解像度の画像から基準マークの可能性のある部分を発見し易くなって、基準マークを含む候補領域をより確実に発見できる利点があるが、その反面、候補領域探索処理で発見される候補領域の数が増えてしまい、その分、マルチフレーム超解像処理の時間が長くなる可能性がある。
そこで、回路基板12の基準マークの周辺のデザインや、基準マークのサイズ、形状、材質、輝度値によって、最初に撮像した低解像度の画像から基準マークの可能性のある部分を発見する難易度が変化することを考慮して、回路基板12の基準マークの周辺のデザインや、基準マークのサイズ、形状、材質、輝度値の少なくとも1つに基づいて判定基準を変更可能としても良い。この判定基準の変更は、制御装置31が自動的に行っても良いし、作業者が入力装置32の手動操作で行っても良い。
また、1回の候補領域探索処理で候補領域を1つも発見できなかった場合には、判定基準を緩和して候補領域探索処理を再実行する処理を繰り返すようにしても良い。このようにすれば、最初に撮像した低解像度の画像に基準マークが写っている場合は、1回目の候補領域探索処理で基準マークを含む候補領域の探索に失敗しても、2回目以降の候補領域探索処理で基準マークを含む候補領域の探索に成功することができる。尚、候補領域探索処理を所定回数繰り返しても候補領域を1つも発見できなかった場合には、最初に撮像した低解像度の画像に基準マークが写っていないと判断して、部品実装機をエラー停止させて、表示や音声等で作業者に警告するようにしても良い。この場合、制御装置31が自動的に最初の撮像からやり直すようにしても良く、その際、マーク撮像用のカメラ36の撮像位置を当該カメラ36の視野内に基準マークが収まるように修正するようにすると良い。
また、図6に示すように、最後(図6の例では2回目)の撮像が終了するまでに候補領域探索処理が終了する場合が多いと思われるが、回路基板12の基準マークの周辺のデザインや、基準マークのサイズ、形状、材質、輝度値によっては、候補領域探索処理の時間が延びて、最後の撮像を終了した時点で候補領域探索処理が終了していない可能性がある。そこで、最後の撮像を終了した時点で候補領域探索処理が終了していない場合には、当該候補領域探索処理が終了してから候補領域に対してマルチフレーム超解像処理を実行するようにしても良い。
或は、最後の撮像を終了した時点で候補領域探索処理が終了していない場合には、所定数の候補領域を探索した時点又は所定時間が経過した時点で、基準マークを含む候補領域を探索できたと判断して、当該候補領域探索処理を終了して候補領域に対してマルチフレーム超解像処理を実行するようにしても良い。
尚、マーク撮像用のカメラ36によって基準マークを3回以上撮像して3枚以上の低解像度の画像を取得する場合でも、候補領域探索処理は、1枚目(最初)の低解像度の画像に対してのみ行えば良い。この場合、2枚目以降の低解像度の画像は、マルチフレーム超解像処理を行う際に1枚目の低解像度の画像と共に使用される。
制御装置31は、マルチフレーム超解像処理により作成した各候補領域の超解像画像を表示装置34に表示すると共に、候補領域以外の領域には当該超解像画像と同じ倍率で拡大した低解像度画像(例えばバイキュービック拡大画像等)又は所定の輝度値(例えば256階調グレースケールのカメラであれば0や255等)の背景を表示する。これにより、作業者は、表示装置34に表示された各候補領域の超解像画像を目視で確認することができ、いずれかの候補領域に基準マークが含まれていて基準マークの認識が正しく行われていることを目視で確認することができる。
以上説明した本実施例の基準マークの画像認識は、制御装置31によって図3の基準マーク画像認識動作制御プログラムに従って実行される。図3の基準マーク画像認識動作制御プログラムは、マーク撮像用のカメラ36による基準マークの撮像回数が2回の場合の制御例である。従って、「1回目の撮像」が「最初の撮像」、「2回目の撮像」が「最後の撮像」となる。
図3の基準マーク画像認識動作制御プログラムは、部品実装機の稼働中(生産中)にコンベア13により回路基板12が所定の作業位置に搬入される毎に制御装置31によって実行される。本プログラムが起動されると、まず、ステップ101で、ヘッド移動装置25によってマーク撮像用のカメラ36を回路基板12の基準マークの上方に位置する1回目の撮像位置へ移動させて、当該カメラ36の視野内に回路基板12の基準マークを収めた状態にする。この後、ステップ102に進み、マーク撮像用のカメラ36で1回目の撮像を行い、基準マークとその周辺部分を含む領域を撮像した低解像度の画像を取得する。
この後、ステップ103→104のマーク撮像用のカメラ36の移動及び2回目の撮像とステップ105の候補領域探索処理とを並列して実行する。
具体的には、1回目の撮像終了後に、ステップ103→104の処理を実行して、ヘッド移動装置25によってマーク撮像用のカメラ36をその視野内に基準マークが収まる範囲内で2回目の撮像位置へ移動させて2回目の撮像を行う。この際、2回目の撮像位置は、1回目の撮像位置からX方向に例えば0.5画素、Y方向に例えば0.5画素だけ離れた位置に設定しても良い。
このマーク撮像用のカメラ36の移動及び2回目の撮像と並行して、1回目の撮像終了直後からステップ105の候補領域探索処理を実行する。この候補領域探索処理では、1回目の撮像で取得した低解像度の画像を処理して、その処理結果に基づいて当該画像内で基準マークの可能性のある部分を含む領域を候補領域として探索する。これにより、低解像度の画像内に1つ又は複数の候補領域を設定する。
以上のようにして、2回目の撮像と候補領域探索処理を終了した後、ステップ106に進み、2枚の低解像度の画像のモーション推定を行い、前記候補領域探索処理で探索された候補領域に対してマルチフレーム超解像処理を実行して当該候補領域の超解像画像を作成する。2枚の低解像度の画像のモーション推定は、例えば、正規化相関や位相限定相関等を用いても良いし、マーク撮像用のカメラ36を移動させるヘッド移動装置25のサーボ移動量をそのまま使用しても良い。候補領域探索処理で探索した候補領域が複数存在する場合には、図5に示すように、候補領域毎に超解像画像を作成する。
この後、ステップ107に進み、各候補領域の超解像画像に写った基準マークの可能性のある部分の形状、寸法、輝度値等を認識して、その認識結果に基づいて当該部分が基準マークであるか否かを形状、寸法、輝度値等に基づいて判定して、実際に基準マークが存在する候補領域を特定する。候補領域探索処理で探索した候補領域が1つのみの場合は、当該候補領域の超解像画像に基準マークが存在することを確認する。
この後、ステップ108に進み、上記ステップ107で特定した候補領域の超解像画像に写った基準マークの位置を認識して本プログラムを終了する。
以上説明した本実施例によれば、最初(1回目)に撮像した低解像度の画像を処理して当該画像内で基準マークの可能性のある部分を含む少なくとも1つの領域を候補領域として探索する候補領域探索処理を実行するようにしているため、コンベア13の搬送精度が悪いためにマーク撮像用のカメラ36で撮像した低解像度の画像に写った基準マークの位置が大きくずれていても、候補領域探索処理によって当該画像内で基準マークの可能性のある部分を含む領域を候補領域として限定することができる。また、マーク撮像用のカメラ36で撮像した低解像度の画像に基準マークと類似した形状のパターン等が写り込んでいて、基準マークと類似した形状のパターン等と基準マークとを区別して認識することが困難な場合には、候補領域探索処理によって当該画像内で基準マークの可能性のある部分を含む複数の領域を複数の候補領域として限定することができ、その複数の候補領域のいずれかに基準マークを含ませることができる。
しかも、候補領域探索処理は、最初(1回目)の撮像終了後にマーク撮像用のカメラ36を次の撮像位置へ移動させる動作と並行して実行するようにしているため、最後(2回目)の撮像終了後に候補領域探索処理を実行する場合とは異なり、最後の撮像終了後に候補領域探索処理によってマルチフレーム超解像処理の開始が遅れることを回避できる。
更に、最後の撮像終了後に複数枚の低解像度の画像を用いて候補領域探索処理で探索された候補領域に限定してマルチフレーム超解像処理を実行するようにしているため、低解像度画像の全領域に対してマルチフレーム超解像処理を行う場合と比較して、マルチフレーム超解像処理の時間を短縮することができる。しかも、候補領域探索処理で探索された候補領域の超解像画像を作成して基準マークを認識するようにしているため、当該候補領域の超解像画像を用いて基準マークを精度良く認識できると共に、基準マークと類似した形状のパターン等を含む領域が候補領域として探索されている場合には、当該候補領域の超解像画像を用いて基準マークと類似した形状のパターン等を基準マークと区別して認識することができ、基準マークと類似した形状のパターン等を基準マークと誤認識することを防止できる。
尚、上記実施例では、マーク撮像用のカメラ36の視野内に基準マークを1個のみ収めて撮像するようにしたが、マーク撮像用のカメラ36の視野内に複数の基準マークを収めて撮像するようにしても良い。この場合は、基準マーク毎に候補領域探索処理を行って当該基準マークの可能性のある部分を含む少なくとも1つの領域を当該基準マークの候補領域として探索するようにすれば良い。
また、上記実施例では、回路基板12の認識対象を基準マークとして説明したが、回路基板12の基板情報を示す一次元コード、二次元コード等のコード、文字、記号、マークのいずれかを画像認識するシステムでは、基板情報を示すコード、文字、記号、マークのいずれかを認識対象として本発明を実施しても良い。回路基板12の基板情報を示すコード、文字、記号、マークも、基準マークと同様に微小化される傾向があるためである。
その他、本発明は、部品実装機に限定されず、コンベアで搬入された回路基板の基準マーク等の認識対象を画像認識する画像処理装置を備えた対基板作業装置である、部品挿入組立機、スクリーン印刷機、外観検査機等に適用して実施できる等、要旨を逸脱しない範囲内で種々変更して実施できることは言うまでもない。
12…回路基板、13…コンベア、24…実装ヘッド、25…ヘッド移動装置(移動装置)、31…制御装置(画像処理装置)、36…マーク撮像用のカメラ(カメラ)

Claims (6)

  1. 回路基板を作業位置に搬入するコンベアと、
    前記作業位置に搬入された回路基板の認識対象を含む領域を撮像するカメラと、
    前記作業位置に搬入された前記回路基板と前記カメラを相対的に移動させる移動装置と、
    前記移動装置により前記カメラの視野内に前記回路基板の認識対象が収まる範囲内で当該カメラと前記回路基板を相対的に移動させて撮像することで画像を取得して超解像処理により超解像画像を作成して前記認識対象を認識する画像処理装置とを備え、
    前記画像処理装置は、撮像した画像を処理して当該画像内で前記認識対象の可能性のある部分を含む少なくとも1つの領域を候補領域として探索する候補領域探索処理を実行し、前記候補領域探索処理で探索された前記候補領域に対して超解像処理を実行して当該候補領域の超解像画像を作成して前記認識対象を認識する、対基板作業装置において、
    前記画像処理装置は、前記移動装置により前記カメラの視野内に前記回路基板の認識対象が収まる範囲内で当該カメラと前記回路基板を相対的に移動させて複数撮像することで異なる位置で撮像した複数枚の画像を取得してマルチフレーム超解像処理により超解像画像を作成する際に、最初に撮像した画像を処理して当該画像内で前記認識対象の可能性のある部分を含む少なくとも1つの領域を候補領域として探索する候補領域探索処理を、最初の撮像終了後に、次の撮像位置へ前記カメラと前記回路基板を相対的に移動させる動作と並行して実行し、最後の撮像終了後に前記複数枚の画像を用いて前記候補領域探索処理で探索された前記候補領域に対してマルチフレーム超解像処理を実行する、対基板作業装置であって、
    前記画像処理装置は、最後の撮像を終了した時点で前記候補領域探索処理が終了していない場合には、所定数の候補領域を探索した時点又は所定時間が経過した時点で、当該候補領域探索処理を終了して前記候補領域に対してマルチフレーム超解像処理を実行する、対基板作業装置。
  2. 前記画像処理装置は、前記候補領域が複数存在する場合には、前記候補領域毎に超解像画像を作成して当該超解像画像の認識結果に基づいて当該超解像画像に写った前記認識対象の可能性のある部分が当該認識対象であるか否かを識別する、請求項1に記載の対基板作業装置。
  3. 前記画像処理装置は、前記候補領域探索処理で前記候補領域とするか否かを判定する判定基準を、前記回路基板の認識対象の周辺のデザイン、前記認識対象のサイズ、形状、材質、輝度値の少なくとも1つに基づいて変更可能に構成されている、請求項1又は2に記載の対基板作業装置。
  4. 前記認識対象は、前記回路基板の基準位置となる基準マーク又は基板情報を示すコード、文字、記号、マークのいずれかである、請求項1乃至のいずれかに記載の対基板作業装置。
  5. 前記画像処理装置で処理した画像を表示する表示装置を備え、
    前記画像処理装置は、前記表示装置に表示する画像のうち、前記候補領域には前記超解像画像を表示し、それ以外の領域には当該超解像画像と同じ倍率で拡大した低解像度画像又は所定の輝度値の背景を表示する、請求項1乃至のいずれかに記載の対基板作業装置。
  6. 前記移動装置は、前記回路基板に部品を実装する実装ヘッドを移動させるヘッド移動装置であり、
    前記カメラは、前記ヘッド移動装置に前記実装ヘッドと一緒に移動するように設けられている、請求項1乃至のいずれかに記載の対基板作業装置。
JP2019524768A 2017-06-21 2017-06-21 対基板作業装置 Active JP7094282B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2017/022841 WO2018235186A1 (ja) 2017-06-21 2017-06-21 対基板作業装置

Publications (2)

Publication Number Publication Date
JPWO2018235186A1 JPWO2018235186A1 (ja) 2020-02-27
JP7094282B2 true JP7094282B2 (ja) 2022-07-01

Family

ID=64735876

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019524768A Active JP7094282B2 (ja) 2017-06-21 2017-06-21 対基板作業装置

Country Status (5)

Country Link
US (1) US11210764B2 (ja)
EP (1) EP3644702B1 (ja)
JP (1) JP7094282B2 (ja)
CN (1) CN110771277B (ja)
WO (1) WO2018235186A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111340879B (zh) * 2018-12-17 2023-09-01 台达电子工业股份有限公司 基于上采样的影像定位系统及其方法
WO2020170341A1 (ja) * 2019-02-19 2020-08-27 株式会社Fuji 基準マーク特定装置、基準マーク特定方法
CN113522884A (zh) * 2021-06-28 2021-10-22 合肥国轩高科动力能源有限公司 一种自动修正极柱清洗轨迹的方法及装置

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008021946A (ja) 2006-07-14 2008-01-31 Yamaha Motor Co Ltd 実装機
JP2009273005A (ja) 2008-05-09 2009-11-19 Omron Corp 部品実装基板の外観検査用画像の保存方法および復元方法、ならびに画像保存処理装置
JP2012234488A (ja) 2011-05-09 2012-11-29 Fuji Mach Mfg Co Ltd 基準マークモデルテンプレート作成方法
WO2015049723A1 (ja) 2013-10-01 2015-04-09 富士機械製造株式会社 組立機
WO2017098561A1 (ja) 2015-12-07 2017-06-15 富士機械製造株式会社 基板用の画像処理装置および画像処理方法

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH02213983A (ja) * 1989-02-15 1990-08-27 Mitsubishi Electric Corp ワイヤボンデイング装置の認識方法
JP2903823B2 (ja) 1992-01-10 1999-06-14 三菱電機株式会社 パターンの認識装置
JP3442163B2 (ja) * 1994-10-11 2003-09-02 富士通株式会社 位置合わせ方法および装置
JP4715009B2 (ja) * 2001-03-26 2011-07-06 ソニー株式会社 ワークの基準マーク認識方法
US8878950B2 (en) * 2010-12-14 2014-11-04 Pelican Imaging Corporation Systems and methods for synthesizing high resolution images using super-resolution processes
JP5877639B2 (ja) * 2010-12-27 2016-03-08 富士機械製造株式会社 画像生成装置および画像生成方法
KR102159476B1 (ko) * 2012-06-28 2020-09-23 유니버셜 인스트루먼츠 코퍼레이션 융통성 있는 조립 기계, 시스템 및 방법
US9635246B2 (en) * 2013-06-21 2017-04-25 Qualcomm Incorporated Systems and methods to super resolve a user-selected region of interest
US10462947B2 (en) * 2013-10-31 2019-10-29 Fuji Corporation Component mounting machine
JP6212134B2 (ja) * 2013-12-02 2017-10-11 富士機械製造株式会社 組立機
JP6310058B2 (ja) 2014-03-13 2018-04-11 富士機械製造株式会社 画像処理装置および基板生産システム
JP6680473B2 (ja) 2015-06-16 2020-04-15 株式会社Fuji 挿入部品実装方法及び挿入部品実装装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008021946A (ja) 2006-07-14 2008-01-31 Yamaha Motor Co Ltd 実装機
JP2009273005A (ja) 2008-05-09 2009-11-19 Omron Corp 部品実装基板の外観検査用画像の保存方法および復元方法、ならびに画像保存処理装置
JP2012234488A (ja) 2011-05-09 2012-11-29 Fuji Mach Mfg Co Ltd 基準マークモデルテンプレート作成方法
WO2015049723A1 (ja) 2013-10-01 2015-04-09 富士機械製造株式会社 組立機
WO2017098561A1 (ja) 2015-12-07 2017-06-15 富士機械製造株式会社 基板用の画像処理装置および画像処理方法

Also Published As

Publication number Publication date
EP3644702A1 (en) 2020-04-29
CN110771277A (zh) 2020-02-07
JPWO2018235186A1 (ja) 2020-02-27
EP3644702A4 (en) 2020-05-27
US20200202492A1 (en) 2020-06-25
CN110771277B (zh) 2021-06-01
WO2018235186A1 (ja) 2018-12-27
US11210764B2 (en) 2021-12-28
EP3644702B1 (en) 2022-07-13

Similar Documents

Publication Publication Date Title
JP7094282B2 (ja) 対基板作業装置
JP6159800B2 (ja) フィーダ調整装置
JP5798371B2 (ja) 基準マークモデルテンプレート作成方法
JP5318334B2 (ja) 対象物の位置検出方法及び装置
EP3389007B1 (en) Substrate image processing device and substrate image processing method
WO2017081773A1 (ja) 基板用の画像処理装置および画像処理方法
JP6608543B2 (ja) 画像処理システム及び画像処理方法
EP3370493B1 (en) Base plate position searching device and component mounting machine
JP6904978B2 (ja) 部品装着機
US11680347B2 (en) Sewing machine
JP2009133696A (ja) 基板の検査方法及び基板の検査装置
JP7253476B2 (ja) 部品認識データ作成方法および部品認識データ作成プログラム
JP4313162B2 (ja) アライメントマーク検出方法及び検査装置
US20200249579A1 (en) Method and exposure device for exposing at least one stored representation on a light-sensitive recording medium
JP6621639B2 (ja) 基板用の画像処理装置
JP2008139260A (ja) 画像表示装置、外観検査装置、クリーム半田印刷機、及び画像表示方法
CN110678060B (zh) 图像处理装置、安装装置、图像处理方法、存储介质
JP5627530B2 (ja) 部品方向判定装置及び部品方向判定方法
JP4885139B2 (ja) Tcpハンドリング装置
JP2020136599A (ja) データ作成装置、決定装置、装着作業機、及び、装着作業実行方法
JP2005173845A (ja) 部品認識装置
JP2016212014A (ja) プローブのオフセット情報取得方法およびx−y基板検査装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20191008

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201223

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20210209

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210414

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20211021

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20211207

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220208

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220610

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220621

R150 Certificate of patent or registration of utility model

Ref document number: 7094282

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150