JP2020527854A - 部品照明セッティングを決定する方法及びシステム - Google Patents

部品照明セッティングを決定する方法及びシステム Download PDF

Info

Publication number
JP2020527854A
JP2020527854A JP2020501151A JP2020501151A JP2020527854A JP 2020527854 A JP2020527854 A JP 2020527854A JP 2020501151 A JP2020501151 A JP 2020501151A JP 2020501151 A JP2020501151 A JP 2020501151A JP 2020527854 A JP2020527854 A JP 2020527854A
Authority
JP
Japan
Prior art keywords
image
illumination
component
lighting
images
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2020501151A
Other languages
English (en)
Other versions
JP2020527854A5 (ja
Inventor
ヨナソン ローゲル
ヨナソン ローゲル
Original Assignee
マイクロニック アクティエボラーグ
マイクロニック アクティエボラーグ
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by マイクロニック アクティエボラーグ, マイクロニック アクティエボラーグ filed Critical マイクロニック アクティエボラーグ
Publication of JP2020527854A publication Critical patent/JP2020527854A/ja
Publication of JP2020527854A5 publication Critical patent/JP2020527854A5/ja
Pending legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H05ELECTRIC TECHNIQUES NOT OTHERWISE PROVIDED FOR
    • H05KPRINTED CIRCUITS; CASINGS OR CONSTRUCTIONAL DETAILS OF ELECTRIC APPARATUS; MANUFACTURE OF ASSEMBLAGES OF ELECTRICAL COMPONENTS
    • H05K13/00Apparatus or processes specially adapted for manufacturing or adjusting assemblages of electric components
    • H05K13/08Monitoring manufacture of assemblages
    • H05K13/081Integration of optical monitoring devices in assembly lines; Processes using optical monitoring devices specially adapted for controlling devices or machines in assembly lines
    • H05K13/0812Integration of optical monitoring devices in assembly lines; Processes using optical monitoring devices specially adapted for controlling devices or machines in assembly lines the monitoring devices being integrated in the mounting machine, e.g. for monitoring components, leads, component placement
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B15/00Special procedures for taking photographs; Apparatus therefor
    • G03B15/02Illuminating scene
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/72Combination of two or more compensation controls
    • HELECTRICITY
    • H05ELECTRIC TECHNIQUES NOT OTHERWISE PROVIDED FOR
    • H05BELECTRIC HEATING; ELECTRIC LIGHT SOURCES NOT OTHERWISE PROVIDED FOR; CIRCUIT ARRANGEMENTS FOR ELECTRIC LIGHT SOURCES, IN GENERAL
    • H05B47/00Circuit arrangements for operating light sources in general, i.e. where the type of light source is not relevant
    • H05B47/10Controlling the light source
    • H05B47/105Controlling the light source in response to determined parameters
    • HELECTRICITY
    • H05ELECTRIC TECHNIQUES NOT OTHERWISE PROVIDED FOR
    • H05KPRINTED CIRCUITS; CASINGS OR CONSTRUCTIONAL DETAILS OF ELECTRIC APPARATUS; MANUFACTURE OF ASSEMBLAGES OF ELECTRICAL COMPONENTS
    • H05K13/00Apparatus or processes specially adapted for manufacturing or adjusting assemblages of electric components
    • H05K13/08Monitoring manufacture of assemblages
    • H05K13/081Integration of optical monitoring devices in assembly lines; Processes using optical monitoring devices specially adapted for controlling devices or machines in assembly lines
    • H05K13/0813Controlling of single components prior to mounting, e.g. orientation, component geometry
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30164Workpiece; Machine component

Abstract

ピック&プレース機械にて特定のパッケージタイプに属する部品の画像を取得するための照明セッティングを決定する方法、システム及びアーカイブサーバが提供される。この方法は、特定のパッケージタイプの第1の部品の第1の画像を、第1の部品が第1の照明要素によって照らされている間に取得するステップと、第1の部品の第2の画像を、第1の部品が第1の照明要素とは異なる第2の照明要素によって照らされている間に取得するステップと、を含む。次いで、第1の部品の第1及び第2の画像に基づいて複数の生成画像を作成し、所定の品質尺度を満たす生成画像を選択することにより、照明セッティングを決定してもよい。

Description

本発明は、ピック&プレース機械の分野に関する。さらに具体的には、本発明は、ピック&プレース機械内の部品を検証するための方法、システム及びアーカイブサーバに関する。
部品装着機を使用してプリント基板に部品を装着する場合、厳密な精度が必要とされる。これを達成するために、部品を装着ヘッドによって取り出した後、部品の画像を取得して分析するために画像処理装置を使用することが多い。分析の目的は、部品をワークピースに装着する前に、装着ヘッド上の部品のタイプと位置を決定することである。装着する部品の位置がわかっている場合、部品装着機は、部品をプリント基板に装着する前に部品の並進と回転を補正することができる。さらに、分析では、装着する部品の画像を用いて、部品タイプの誤り、リードの欠落、リードの誤り、リードの位置の誤りなどの欠陥がないかを検査することができる。
部品が正しく取り出され、部品自体のタイプが間違っていたり欠陥があったりしないことを確実なものにするために、部品を下から照らすか斜めから照らし、写真を撮って分析することがある。部品を検証するために、画像分析を採用してもよい。これには、正しい画像分析を可能にする適切な照明セッティングを見つけるために、部品装着機を検査する必要がある。照明セッティングは、例えば、部品の多数の画像をさまざまな照明セッティングで取得し、部品を評価するために最適な照明セッティングを使用することによって決定することがある。このプロセスはエラーが発生しやすく、時間がかかる場合があり、必要に応じて検査を更新する簡単な方法はない。
このため、照明セッティングの検査の改善と、ピック&プレース機械の部品の検証方法の改善とが必要である。
このため、本開示の目的は、上記の欠点のいくつかを軽減することである。これを実現するために、方法、システム及びアーカイブサーバが提供される。追加の実施形態を従属請求項に定義する。
このため、第1の態様によれば、ピック&プレース機械にて、特定のパッケージタイプに属する部品の画像を取得するための照明セッティングを決定する方法が提供される。この方法は、特定のパッケージタイプの第1の部品の第1の画像を、第1の部品が第1の照明要素によって照らされている間に取得するステップと、第1の部品の第2の画像を、第1の部品が第2の照明要素によって照らされている間に取得するステップと、を含む。第2の照明要素は第1の照明要素とは異なる。この方法は、第1の画像及び第2の画像のソフトウェア操作の使用により、第1の部品の複数の生成画像を生成するステップであって、複数の生成画像のそれぞれは、第1の照明要素の照明強度レベルと、第2の照明要素の照明強度レベルとの特定の組み合わせを含む、ステップと、品質尺度を満たす複数の生成画像のうち少なくとも1つを選択するステップと、選択された生成画像に基づいて、パッケージタイプに関連する照明セッティングを決定するステップであって、決定された照明セッティングは、第1の照明要素の第1の強度レベルと第2の照明要素の第2の強度レベルとを含む、ステップと、をさらに含む。
第2の態様によれば、ピック&プレース機械にて、特定のパッケージタイプに属する部品を検証するシステムが提供される。このシステムは、第1の照明要素によって特定のパッケージタイプの第1の部品を照らす第1の照明源と、第1の照明要素とは異なる第2の照明要素によって第1の部品を照らす第2の照明源と、を備える。このシステムは、第1の照明要素によって照らされている間に部品の第1の画像を取得し、第2の照明要素によって照らされている間に部品の第2の画像を取得するカメラをさらに備える。このシステムは、処理手段であって、第1の画像及び第2の画像のソフトウェア操作の使用により、第1の部品の複数の生成画像を生成するステップであって、複数の生成画像のそれぞれは、第1の照明要素の照明強度レベルと、第2の照明要素の照明強度レベルとの特定の組み合わせを含む、ステップと、所定の品質尺度を満たす複数の生成画像のうち少なくとも1つを選択するステップと、を実施するように構成された処理手段をさらに備える。この処理手段は、選択された生成画像に基づいて、パッケージタイプと関連付けられた照明セッティングを決定するステップであって、決定された照明セッティングは、第1の照明要素の第1の強度レベルと第2の照明要素の第2の強度レベルとを含む、ステップと、を実施するようにさらに構成される。
本発明の概念では、部品の照明セッティングを、比較的少数の取得された画像に基づいて決定してもよい。さまざまな照明モードで取得された画像は、照明光源に対するさまざまな照明セッティングに対応し、特定の品質尺度を満たす画像を生成して決定するためにソフトウェアによって使用されてもよい。生成画像は、さまざまな照明要素のさまざまな強度セッティングに対応し、最適な照明セッティングを決定することが可能になる。このようにして、ピック&プレース機械によって使用される照明の検査は、自動化されてもよく、それにより機械を検査するための時間と労力を削減してもよい。
ソフトウェアと少数の参照画像、即ち、さまざまな照明要素で取得された画像では、多数の可能な画像(即ち、照明セッティングの組み合わせ)が生成されてもよいことがわかった。ソフトウェアを用いて、第1及び第2の画像に基づいて複数の画像を生成し、コンピュータが生成した画像のいずれが品質要求を満たすかを決定してもよい。参照画像の組み合わせであり得るこの画像は、特定の照明セッティングに対応し、それに従って、さまざまな照明源を操作してもよい。このため、固定の照明セッティングで照らされた部品の膨大な数の画像を取得することを必要とせずに、ソフトウェアにてさまざまな利用可能な照明セッティングを評価してもよい。これに代わって、画像が、照明源のさまざまな模擬照明セッティングを評価するために生成されたソフトウェアであってもよい。
従来の解決策では、ピック&プレース機械でのパッケージタイプの部品に対する照明セッティングの検査は、照明セッティングを調整し、固定照明セッティングで膨大な数の画像を取得し、充分に良好なセッティングを最終的に決定することにより手動で実施される。これは手動プロセスであるため、エラーが発生しやすく、それによって高い割合の検出漏れが発生する可能性がある。即ち、部品を装着する必要があった場合に、部品が誤って位置合わせされているか、部品に欠陥があるとして部品が廃棄される。さらに、1つの照明セッティングがピック&プレース機械にて後に使用されたときに正しくないと思われる場合、照明セッティングを再度調整する簡単な方法がないにもかかわらず、プロセスを最初から再開する必要がある。これとは別に、膨大な数の画像は、データベースに保存されることがあるが、すぐに管理不能になる可能性がある。
本発明の概念には、いくつかの利点がある。第一に、上記のように、ピック&プレース機械の照明セッティングの検査を自動化する可能性があり、それにより機械を検査するための時間と労力を削減する可能性がある。
第二に、ピック&プレース機械を検査するプロセスが自動化されると、特に照明セッティングの手動検査と比較して、検査のエラー数が減少し、詳細レベルが増大する可能性がある。プロセスを自動化すると、評価することができる画像の数が増え、部品を評価するのにいっそう好適な画像を見つけて、それにより、さらに良好な照明セッティングを決定することができるようになる。
第三に、各照明要素に対して少数の画像、例えば、1つ又は数個の画像のみが必要とされるため、画像は後の使用又はピック&プレース機械の再検査のために保存される可能性がある。画像が保存された状態で、上記の検査は後の時点でそのような画像に基づいて実施されるか、画像を機械学習アルゴリズムの訓練データ又は検証データとして使用して、それによって照明セッティングを生成するためのアルゴリズムが改善される可能性がある。
「ピック&プレース機械」とは、ワークピースに部品を取り付けるのに適した任意の取り出しと配置又は装着のための機械のことである。本発明の概念は、ピック&プレース機械のタイプ、装着ヘッドのタイプ、あるいは機械での送りのタイプに関係なく使用される可能性のあることに留意されたい。
本明細書では、「部品」という用語は、ワークピースに装着される電気部品を指す場合がある。部品は、例えば、トレイ又は部品テープで移送され、部品送り機構によって取り出しヘッドに搬送されてもよい。
「パッケージ」とは、チップとともに部品を形成し得るチップキャリア又はチップのカプセル化されたものとして理解する必要がある。パッケージは、例えば、部品をワークピースに動作可能に接続し得るピン、リード又は接点のような接触手段を備えてもよい。「パッケージタイプ」とは、例えば、物理的寸法、部品の機能特性、リードピッチ、ケース材料、接触タイプなどの観点から見たパッケージのタイプを指す。そのような特性の情報は、パッケージデータと呼ばれることもある。部品のパッケージタイプは、共通又は類似の特性があるグループにさらに分割されることがある。本発明の実施形態によれば、パッケージデータは、決定された照明セッティングで補完され得ることが理解されよう。
「ワークピース」とは、例えば、プリント回路基板又は基板、あるいは部品を装着し得る他の材料片を意味する。
「品質尺度」とは、コントラスト、色、明るさなどの画像の所定の特徴を意味する場合もあれば、機械学習アルゴリズムによって決定される事前生成された品質尺度である場合もある。
「照明要素」又は「照明モード」は、電気部品の特定の照明条件を指し得ることが理解されよう。照明条件は、1つ又はいくつかの照明源又は照明配置によって生成されてもよく、例えば、色、入射角、強度、あるいは部品の撮像に影響を及ぼす他のパラメータの組み合わせによって特徴付けられてもよい。
決定された照明セッティングは、さまざまな強度のさまざまな照明源を使用して、部品の特定の照明条件を形成してもよい。単なる例として、照明セッティングは、例えば、最大強度の50%の第1の照明源の第1の照明セッティングと、例えば、最大75%の強度の第2の照明源の第2の照明セッティングとを含んでもよい。
本出願では、第1の照明要素によって照らされたときの第1の部品の第1の画像と、第2の照明要素によって照らされたときの第1の部品の第2の画像とは、「参照画像」と呼ばれる。
本開示の第2の態様によるシステムは、「検証システム」と呼ばれ得ることが理解されよう。
第3の態様によれば、アーカイブサーバが提供される。アーカイブサーバは、その設置場所にて、第2の態様を参照して記載されたシステムから、特定のパッケージタイプの第1の部品に関連付けられた照明セッティングを受信するように構成された第1の通信インターフェースと、照明セッティングを保存するように構成された保存ユニットと、ユーザの要求に応じて照明セッティングを提供するように構成された第2の通信インターフェースと、を有する。アーカイブサーバは、データを受信して提供することができる任意のタイプのサーバであって、ピック&プレース機械の一部であるか同機械から離れたサーバである。アーカイブサーバは、複数のピック&プレース機械からデータを受信可能であってもよい。
このようにして、アーカイブサーバは、パッケージタイプ又は部品タイプの部品に関連付けられた照明セッティングを受信してもよい。アーカイブサーバは、1つ又はいくつかのピック&プレース機械からデータを受信してもよい。受信した照明セッティングは保存され、他のユーザ及びピック&プレース機械によって再利用されてもよい。照明セッティングを再利用することにより、ピック&プレース機械を検査する時間と労力を削減してもよい。
第1の態様の実施形態によれば、第1の態様による方法は、決定された照明セッティングに従って第2の部品が照らされている間に、特定のパッケージタイプの第2の部品の画像を取得し、取得した画像の分析に基づいて、第2の部品を廃棄するべきかワークピースに配置するべきかを決定する後続のステップをさらに含んでもよい。このようなステップは、部品を廃棄するべきかワークピースに配置するべきかを決定するため、即ち、部品の正当性を検証するため、「検証ステップ」と呼ばれることもある。
取得された画像の分析は、向き、リードの数、マーキングの存在などの所定のパラメータに基づく静的アルゴリズムであっても、(例えば、複数のユーザからの情報を保存するアーカイブサーバから読み出されるため)類似するデータセットで訓練された機械学習アルゴリズムに基づいたものであってもよい。
装着ヘッドによって保持される部品の画像を取得するときに、決定された照明セッティングを使用することにより、部品を廃棄するべきかワークピースに配置するべきかを、取得された画像の分析により決定することができる。これにより、欠陥のある部品又は誤って選択された部品の数を減らすことができるため、誤った部品の装着を回避し、製品の品質を向上させることができる。
一実施形態によれば、この方法は、第2の部品が廃棄されるべきであると決定された場合に、第2の部品が検証照明セッティングに従って照らされている間に第2の部品の検証画像を取得するステップと、取得した検証画像の分析に基づいて、第2の部品を廃棄するべきかワークピースに配置するべきかを決定するステップと、をさらに含む。
このようにして、部品が廃棄されるべきであるという決定を、例えば部品が誤って取り出されるという特定のエラーの決定に特有のものであり得る第2の照明セッティング、即ち、検証照明セッティング、あるいはリードがいずれも正しいことを決定するのに特有の照明セッティングによって二度評価してもよい。この検証画像では、照明セッティングが第1の画像と異なる場合があるため、第1の画像によって判定された特定の問題に対していっそう適正な分析が実施される可能性がある。言い換えれば、第2の部品が廃棄されると決定されるべきであったかどうかを判定することができる。事前のステップで部品を廃棄すべきではなかったと決定された場合、部品を装着してもよい。このようにして、検出漏れの数を減らしてもよい。
一実施形態によれば、取得された画像は、次のパラメータ、即ち、部品の形状又は輪郭、あるいはピック&プレース機械の装着ヘッドによって保持される位置又は向きのうちの少なくとも1つに関して分析されてもよい。
部品の形状又は輪郭を分析することにより、部品が想定されたタイプのものであるか否か、部品自体に欠陥があるか否か、例えば、部品に想定されたリードが全部あるか、部品が想定された形状、あるいは部品の検証のための類似する視覚的特徴を有するかを決定してもよい。装着ヘッドによって保持されている部品の位置又は向きを決定することにより、部品が正しく取り出されたかどうかを決定してもよい。部品自体に欠陥がない場合でも、例えば、想定された位置と比較して回転が大きすぎる場合など、部品が正しく取り出されていなかった場合には、装着に適さない場合がある。
この分析により、欠陥のある部品、あるいは誤って取り出された部品が廃棄されてもよく、それによってピック&プレース機械によって組み立てられた製品のエラーを回避する。
一実施形態によれば、第1の部品は、第1及び第2の画像の取得中にピック&プレース機械の装着ヘッドによって保持されてもよい。
このようにして、第1の部品の画像は、後続の部品、即ち、装着ヘッドに保持されている部品を検証するときに使用されるのと同じ方法で取得されてもよい。
画像は、機械を検査するときにも後のステップで部品を検証するときにも同一の部品にて取得されるため、関連性が向上する可能性があり、生成画像、ひいては決定された照明セッティングの品質が向上する、即ち、部品を評価するのにいっそう適したものになる可能性がある。画像の品質が向上すると、部品を装着するべきかどうかを決定する際のエラーが少なくなる。
一実施形態によれば、所定の品質尺度は、最も高い画像コントラストに対応してもよい。このため、生成画像はコントラストについて評価されてもよく、選択された画像は最も高いコントラストを有する画像に対応してもよい。
選択された画像のコントラストが高い場合、照明セッティングは、取得した画像がコントラストの高い画像になるように選択されてもよい。これにより、部品に欠陥があるかどうか、例えば、欠陥のあるリードがあるかどうかの評価が改善され、装着ヘッド内の部品の向きと位置が決定される。
一実施形態によれば、この方法は、第1の成分の背景の照明画像を取得するステップと、複数の生成画像を生成する前に第1の画像及び第2の画像から背景の照明画像を差し引くステップとをさらに含む。
背景画像が、部品を背景光によってのみ照らせるように、照明源のいずれかによって部品を能動的に照明することなく取得された画像であってもよい。取得された画像から背景照明画像を差し引くことにより、背景ノイズ又は背景光、即ち、互いに対する画像の強度に無関係なデータが除去されてもよい。背景画像を除去するとこのほか、背景が数回(生成画像の生成時に使用される画像ごとに1回)考慮されないため、生成された画像の品質が向上する場合がある。背景画像は、生成画像がソフトウェアによって提供される前に、第1及び第2の画像から差し引かれてもよい。これにより、生成画像の品質が向上し、最適な照明セッティングの決定が容易になる。次に、部品の検証、部品を装着するべきか廃棄するべきかの検証が改善されてもよい。
一実施形態によれば、背景の照明画像は、品質尺度を満たす複数の生成画像のうちの選択された1つに追加される。その結果として得られる画像は次に、特定のパッケージタイプの後続の部品を廃棄するべきかワークピースに配置するべきかを決定するときに使用される参照画像として保存されてもよい。
第2の部品の画像を取得するときに背景照明又は背景光が存在することになるため、生成画像に背景照明画像を追加してから、品質尺度に基づいて生成画像を評価すると、その生成画像に基づいて決定された照明セッティングは、部品の検証時に取得された画像にいっそう適正に対応する可能性がある。
一実施形態によれば、第1の画像を取得中の第1の照明要素の強度レベルは、第1の画像の少なくともいくつかの画素が飽和するかほぼ飽和するように選択されてもよく、及び/又は第2の画像を取得中の第2の照明要素の強度レベルは、第2の画像の少なくともいくつかの画素が飽和するかほぼ飽和するように選択されてもよい。これは、その照明要素の最大強度と考えてもよく、それにより、部品を検証するときに決定することができ、使用することができる最大強度と考えてもよい。
照明要素の強度レベルを可能な限り高くすると、例えば、粒状性を失うことなく関連する方法にて画像によって取得できる程度に高くすると、画像の可能な組み合わせが増大する。例えば、画像を取得するときに照明源の照明最大強度の80%を使用すると、0〜80%の可能な照明セッティングが得られるのに対し、照明源の照明セッティングの100%が使用される場合、決定される可能性のある照明セッティングは0〜100%である可能性がある。
一実施形態によれば、第1の照明要素は、第1の角度からの部品に対する照明を表し、第2の照明要素は、第1の角度とは異なる第2の角度からの部品に対する照明を表す。照明要素ごとに異なる角度を使用することにより、部品の異なる部分を照らしたり強調表示したりしてもよい。
これにより、部品のさらに多くの部分が異なる照明要素によって視認できるようになる可能性があるため、生成画像をさらに改善することができる。選択された生成画像の品質が向上する可能性がある場合、照明セッティングがいっそう適切に決定され、第2の部品の評価が改善される場合がある。
一実施形態によれば、第1の照明要素は、第1の色の光による照明を表し、第2の照明要素は、第1の色とは異なる第2の色の光による照明を表す。
照明要素ごとに異なる色を使用することにより、部品の異なる部分が強調表示されたり、コントラストが高くなったり、異なる色がさらに視認できるようになったりする場合がある。これにより、部品のさらに多くの部分が異なる照明要素で視認できるようになるため、生成画像をさらに改善することができる。選択された生成画像の品質が向上する可能性がある場合、照明セッティングがさらに適正に決定され、第2の成分の評価が改善される場合がある。
一実施形態によれば、この方法は、決定された照明セッティングをアーカイブサーバにアップロードするステップをさらに含む。アーカイブサーバは、アップロードされる照明セッティングを受信して保存することができる任意のタイプのサーバであってもよい。
照明セッティングをアーカイブサーバにアップロードすることにより、照明セッティングを再利用することができるため、別のピック&プレース機械の検査時間が短縮される。アーカイブサーバに関する詳細をさらに、本発明の第3の態様を参照して以下に説明する。
部品を廃棄するべきであると決定された場合、この方法は、参照画像、即ち、第1の部品について取得された第1及び第2の画像をアーカイブサーバにアップロードするステップと、部品を廃棄するという決定の基礎になった1つ又は複数の取得画像をアップロードするステップとをさらに含んでもよい。このようにして、画像は、後に再利用されて、照明セッティングを決定するアルゴリズム又は部品を装着するべきかどうかを決定するアルゴリズムを改善してもよい。同じように、部品を装着すると決定された場合、データをこのほか、アーカイブサーバに送信してもよい。
一実施形態によれば、第1及び第2の照明要素は、暗視野照明、前方光照明及び周囲照明を含むリストから選択される。暗視野照明とは、部品が部品の側面からの光で照らされることを意味してもよく、これにより部品が暗い背景に対して明るく見えるようになる。前方光照明は、カメラと同じ角度からの照明、即ち、正面からの照明であってもよい。周囲照明は、部品の異なる側面からの照明を意味してもよい。
第2の態様の実施形態によれば、カメラは、決定された照明セッティングに従って第2の部品が照らされている間に、特定のパッケージタイプの第2の部品の画像を取得するようにさらに構成され、処理手段は、第2の部品の取得された画像の分析に基づいて、第2の部品を廃棄するべきかワークピースに配置するべきかを決定するようにさらに構成される。
処理手段によって取得された画像の分析は、向き、リードの数、マーキングの存在などの所定のパラメータに基づく静的アルゴリズムであるか、類似するデータで訓練された機械学習アルゴリズムに基づくものであってもよい。
装着ヘッドによって保持されている部品の画像を取得するときに決定された照明セッティングを使用することにより、部品を廃棄するべきかワークピースに配置するべきかを取得された画像の分析によって決定することができる。これにより、欠陥のある部品又は誤って取り出された部品の数を減らすことができるため、誤った部品の装着を回避し、製品の品質を向上させることができる。
第3の態様の実施形態によれば、アーカイブサーバの保存ユニットは、第1の部品に関連するパッケージデータを保存し、第1の部品に関連付けられた1つ又はいくつかの照明セッティングでパッケージデータを補完するように構成される。このように、同一のパッケージタイプの異なる部品に関するデータが相互に関連していてもよい。
一実施形態によれば、アーカイブサーバは、その設置場所にて、第2の態様によるシステムから、第1及び第2の照明要素によって照らされたときにカメラによって取得された部品の画像を受信するように構成された第3の通信インターフェースをさらに有する。アーカイブサーバは、第3の通信インターフェースを介して、参照画像、検証画像、あるいはピック&プレース機械で取得された他のタイプの画像を受信してもよい。
例えば、新たな部品に対するピック&プレース機械を検査するときに取得された参照画像は、第3の通信インターフェースを介してアーカイブサーバによって受信されてもよい。
別の例として、部品が拒否された場合、他の照明セッティングがさらに良好な画像をもたらし、検証システムがさらに適正な決定を下すことができるかどうかは明確ではない。拒否された全部品の画像が参照画像と共にアーカイブサーバに保存されている場合、データをさらに処理して、さらに適正な照明セッティングを決定することができ、これにより、検出漏れ又は誤検出が少なくなる可能性がある。
受信されたデータ又は収集されたデータは、部品を廃棄するべきか装着するべきかを決定するアルゴリズムの最適化又は改善のためと、特定の部品タイプ又はパッケージタイプの特定の部品の優先照明セッティングを決定するアルゴリズムのために使用されてもよい。データはこのほか、好ましい照明セッティングを決定するため、あるいは部品を廃棄するべきか装着するべきかを決定するための機械学習アルゴリズムの訓練データ又は検証データとして使用されてもよい。
開示された本発明の概念は、上記のようにピック&プレース機械、システム又はアーカイブサーバに上記で概説した方法を実行させるように、プログラム可能なコンピュータを制御するためのコンピュータ可読命令として具現化されてもよい。そのような命令は、命令を保存する不揮発性コンピュータ可読媒体を含むコンピュータプログラム製品の形態で分配されてもよい。
第1の態様による方法についてこれまでに記載した実施形態の特徴のいずれかを、開示された本発明の概念の第2の態様によるシステムと組み合わせてもよいことが理解されよう。
本発明の概念の別の目的、特徴及び利点が、以下の詳細な開示、図面及び添付の特許請求の範囲を検討するときに明らかになるであろう。当業者は、本発明の概念の異なる特徴を組み合わせて、以下で説明する実施形態以外の実施形態を作成することができることを理解するであろう。
本発明の概念の上記の目的、特徴及び利点をはじめとする目的、特徴及び利点は、添付の図面を参照して、本発明の概念の好ましい実施形態の以下の例示的かつ非限定的な詳細な説明を通じてさらに良好に理解されるであろう。図面では、特に明記しない限り、類似の参照番号は類似の要素に対して使用される。
図1は一実施形態によるピック&プレース機械を示す図である。 図2は一実施形態による検証システムを示す図である。 図3は一実施形態による照明セッティングを決定する方法を示す図である。 図4は装着する部品を検証する方法を示す図である。 図5部品データを処理する方法を示す図である。 図6はアーカイブサーバの概要図である。
図はいずれも概略的なものであり、必ずしも縮尺どおりではなく、実施形態を明らかにするために必要な部分のみを概ね示し、他の部分は省略されることがある。
以下、本発明の概念の詳細な実施形態を、図面を参照して説明する。しかし、本発明の概念は、多くの異なる形態で具現化されてもよく、本明細書に記載される実施形態に限定されると解釈されるべきではない。むしろ、このような実施形態は、本開示が本発明の概念の範囲を当業者に伝達するように、例として提供されている。
本発明の概念の実施形態は、部品に対する照明セッティングを検査し、ピック&プレース機械にて決定された照明セッティングを使用して部品を検証する方法及びシステムに概ね関する。そのようなピック&プレース機械は、装着ヘッド110と、照明源130又は複数の照明源と、カメラ140と、処理手段120とを概ね備える。装着する部品160を、装着ヘッド110によって取り出し、1つ又は複数の画像がカメラ140によって取得されている間に照明源130によって照らしてもよい。
装着ヘッド110は、部品160を取り出すための真空ノズルを備えてもよい。部品160は、例えば、部品フィーダ170から取り出すか部品を保持する部品テープから取り出してもよい。続いて、装着ヘッド110は、(図示しない)プリント配線板又はワークピースなどの基板180上に、取り出された部品を配置してもよい。装着ヘッド110は、部品がワークピースに装着される前に、カメラ140の視野内で部品160を移動させるようにさらに配置される。
カメラ140は、部品を保持する装着ヘッドが1回又は複数回通過するラインスキャンカメラ、あるいはエリアカメラであってもよい。ラインスキャンカメラには、データを迅速に取得するために使用される単一の画素列が含まれてもよい。対象物がカメラを通過するにつれて、完全な画像をソフトウェアで1行ずつ再構成することができる。エリアカメラには、所与の対象物の画像を取得する画素のマトリックスが含まれてもよい。対象物の画像を取得するエリアカメラのために、対象物を静止させる必要がある場合がある。画像は、部品160を保持する装着ヘッド110がカメラを通過するときに取得されるか、装着ヘッドがカメラ近傍で停止する場合に取得されてもよい。
照明源130は、1つ又はいくつかの照明要素によって形成されるさまざまな照明条件を提供するように配置されてもよい。提供される特定の照明条件は、例えば、照明源130の位置決め(及び数)、照明源が生成する光の強度及び色に依存してもよい。照明源130について以下でさらに考察する。
処理手段120は、以下で説明する方法のステップの少なくともいくつかを実施するように構成されてもよい。
図2は、図1に関連して考察したピック&プレース機械と同じように構成され得るピック&プレース機械100の検証システムの概要を示す。ピック&プレース機械100は、装着ヘッド{100}によって部品160を保持してもよい。部品は、ワークピース180に装着するために、あるいはピック&プレース機械100の照明セッティングを較正するために、マガジン170から取り出されてもよい。ピック&プレース機械は、照明源130、131、132、133、134、135及びカメラ140を備えてもよい。
照明源130、131、132、133、134、135は、LEDライト又はLEDパネル、あるいは部品を照らすのに適した他の手段を備えてもよい。照明源は、さまざまな照明要素又は照明条件を提供するように動作可能であってもよい。一例では、照明源131、132は暗視野照明要素を形成し、照明源133、134は周囲照明要素を形成し、照明源135(この例では、意図した角度に光を誘導する半透明ミラー136を含む)が前方光照明源を形成する。暗視野照明とは、部品が(カメラから見たときに)部品の側面から到来する光によって照らされることを意味し、暗い背景に対して部品が明るく見える場合がある。前方光照明は、カメラと同じ角度からの照明、即ち、正面からの照明であってもよい。周囲照明は、部品のさまざまな側面からの照明を意味してもよい。
部品160の画像をカメラ140によって取得してもよい。部品は、異なる強度を有する全照明源130、131、132、133、134、135のうちのいずれにも照らされないか、1つ、複数によって照らされてもよい。1つの照明源を、1つ又は複数の照明要素を生成するために使用してもよい。1つの照明要素を、1つ又は複数の照明源によって形成してもよい。
カメラは、取得された画像データを処理手段120に送信してもよい。
一実施形態によるパッケージタイプの部品の照明セッティングを決定する方法200を、図3を参照して以下説明する。この方法は、パッケージタイプの部品のための機械を較正又は再較正するときに実施してもよい。例えば、新たなパッケージタイプが機械による装着の対象になった場合、あるいは以前の較正では不十分であることがわかった場合である。
この方法は、ピック&プレース機械100の処理手段120によって少なくとも部分的に実施されてもよい。処理手段120は、ピック&プレース機械100に統合されてもよいし、ピック&プレース機械から物理的に分離されてもよい。さらに、処理手段は、1つのユニットとして構造的に統合されるか、あるいは、例えば、通信ネットワークを介して互いに接続されるか接続可能であっても構造的に別個、即ち、物理的に分離され、及び/又は異なる物理的位置又は地理的位置に配置されてもよい。
この方法は、装着ヘッド110によって保持され、第1の照明要素を備えた照明源130によって照らされた部品160の第1の画像をカメラ140によって取得するステップ210を含む。第1の照明要素は、例えば、照明源133及び134によって生成される周囲光であってもよい。この方法は、装着ヘッド110によって保持され、第2の照明要素を備えた照明源130によって照らされた部品160の第2の画像をカメラ140によって取得するステップ220をさらに含んでもよい。第2の照明要素は、例えば、照明源135と、光を方向付けるミラー136とによって生成される前方光であってもよい。
本出願では、第1の照明要素によって照らされたときの第1の部品の第1の画像及び第2の照明要素によって照らされたときの第1の部品の第2の画像、あるいは他の照明要素で照らされたときに取得した部品の他の画像は、「参照画像」と呼ばれることがある。参照画像は、特定の照明源又は照明構成の最大照明に対応してもよい。
任意選択で、この方法は、異なる照明要素によって照らされた部品の追加の画像を取得する追加ステップ230を含む。例えば、背景の照明画像を取得してもよい。背景照明画像を取得するとき、光源130、131、132、133、134、135のいずれも使用されない、即ち、部品は背景光によってのみ照らされる。また、他の照明要素、例えば、他の色又は角度を使用して、他の参照画像を取得してもよい。
ステップ210〜230は、任意の順序で実施してもよい。
照明の強度、即ち、照明源の明るさは、取得された画像のそれぞれの少なくともいくつかの画素が飽和するかほぼ飽和するようにセッティングされてもよい。これは、これ以上強度が高くなると、さまざまな画素の情報が失われ、画像の粒状性が低下する可能性があるため、照明の最大強度とも呼ばれることがある。
この方法は、ステップ210〜230にて取得された画像に基づいて複数の生成画像を生成するステップ240をさらに含む。生成画像は、さまざまな強度の画像の任意の組み合わせであってもよい。説明のための例としてのみ、各画像は、生成された画像に0〜100%の間で含まれる。例えば、1ポイント間隔で、100が最大強度、即ち、取得された時点の画像であり、0は含まれない。ステップ210〜230にて異なる照明セッティングで3つの異なる画像を取得した場合、3つの画像のそれぞれは、0〜100%のうちのいずれかで生成された画像に含まれてもよい。このため、取得画像又は参照画像のさまざまな模擬組み合わせを用いて、100×100×100=1000000画像が生成され得る。異なる取得画像内の部品の位置は、全く同じかほぼ同じであってもよく、あるいは画像は、画像内の部品の位置が全く同じかほぼ同じになるように調整されてもよい。部品が明瞭に見える生成画像を作成するには、生成画像へ混合するか組み合わせるのに使用される全画像にて部品が同じ場所にあることが好ましい。
複数の生成画像を生成するステップ240はこのほか、背景画像がある場合は、背景画像を参照画像から差し引くステップを含んでもよい。次に、参照画像が組み合わされて、背景画像が追加されてもよい。このように、背景画像光は複数回考慮されることはない。
生成画像が参照画像から生成されたとき、あるいは生成と同時に、生成画像は品質パラメータ又は品質尺度について走査され、ステップ250にて1つが選択される。品質パラメータ又は品質尺度は、例えば、コントラスト、色、明るさなどの画像の所定の特徴であってもよく、あるいは機械学習アルゴリズムによって決定される事前生成された品質尺度であってもよい。
各画像は、品質尺度のために走査され(521)、最良のもの、即ち、品質パラメータに基づいて最良のものを決定する(252)か、品質尺度を満たす画像が見つかるまで走査してもよい。画像が品質尺度を満たしている場合、その画像を使用してもよく(254)、満たしていない場合、画像を廃棄してもよい(253)。品質パラメータを満たす画像がない場合、そのようなパラメータに関して最適な画像を使用してもよい。画像は、生成の速度を上げるために適切な間隔の以前のデータに基づいて生成されてもよい。
生成画像が選択された時点で、パッケージタイプ又は部品タイプに対する照明セッティングを、生成画像に基づいて決定してもよい(260)。パッケージタイプ又は部品タイプに対する照明セッティングは、照明源又は照明モードに対するセッティングを含む。例えば、生成画像が、照明構成Aにて取得された画像Aの最大強度の75%と、照明構成Bにて取得された画像Bの最大強度の50%を使用する場合、照明構成Aについては最大強度の75%の照明セッティングを決定し、照明構成Bについては最大強度の50%の照明セッティングを決定してもよい。このため、選択された生成画像にて画像が使用されるレベルは、生成画像を生成するのに使用される参照画像を取得するときに使用されるさまざまな強度レベルの強度レベルに対応し得る。
任意選択で、決定された照明セッティング又は取得された画像は、アーカイブサーバ500に送信されてもよく(270)及び/又は参照画像は、アーカイブサーバ500に送信されてもよい。アーカイブサーバ500は、決定された照明セッティングを受信可能な任意のタイプのサーバであってもよい。アーカイブサーバ500は、照明セッティング又は画像を保存してもよく、データは、説明された方法のアルゴリズムを改善するのに後に使用されてもよい。アーカイブサーバ500に関して、図6を参照してさらに詳細に以下説明する。
部品タイプ又はパッケージタイプに対して決定(260)された照明セッティングは、図4を参照して説明したように、装着前にパッケージタイプ又は部品タイプの部品を検証する方法にて使用されてもよい。
図4を参照して、図1〜図3に関連して考察した実施形態とほぼ同じであり得る実施形態による、装着する部品を検証するための方法300を説明する。「部品の検証」とは、部品に欠陥がないことと、部品が想定されたパッケージタイプであることと、部品が装着ヘッドによって正しく取り出されていることとを決定することであると理解してもよい。この方法は、部品を装着する前にピック&プレース機械で実施してもよい。ワークピースに部品を装着する前に部品を検証することにより、不良ワークピースを回避するか削減してもよい。
この方法は、部品を装着ヘッド110によって取り出すステップ310を含んでもよい。決定された照明セッティングを使用して、部品の画像を取得してもよい(320)。取得された部品の画像は、例えば、ピック&プレース機械100の処理手段120によって分析されてもよい(330)。画像は、例えば、アーカイブサーバ500又はデータベースから提供されるような部品の既知の画像と比較することにより分析されてもよい。これとは別に、あるいはこれに加えて、画像は、例えば、取得された画像内の部品の形状、同一性、タイプ、位置又は向きを識別するアルゴリズムによって分析されてもよい。画像の分析に基づいて、部品を装着するべきか廃棄するべきかを決定してもよい(340)。部品が想定されたタイプではなく、欠陥があると決定された場合、あるいは部品が誤って取り出された場合、部品は廃棄されてもよい。さもなければ、部品は装着されてもよい。部品を装着するべきであると決定された場合、部品はワークピースに装着されてもよい(350)。
部品を装着するべきではないと決定された場合、第2の照明セッティングを使用して、第2の画像、検証画像を取得してもよい(370)。第2の照明セッティングは、取得された画像を分析するステップ330により発見された欠陥に基づいて選択されてもよい。第2の照明セッティングは、照明セッティングを決定する方法200を使用して決定されてもよいが、第1の照明セッティングを決定するときに使用されるものとは異なる品質尺度で決定された。
例えば、ステップ330にて部品が誤って取り出されたと決定された場合、部品が実際に正しく取り出されたかどうかを決定するのに適した照明セッティングを使用してもよい。検証画像の分析により、部品が誤って取り出されていないと決定された場合、部品を装着してもよい。そうでない場合、部品を廃棄してもよい。部品が廃棄される可能性があると決定された場合、図5を参照して説明したように、部品のデータを処理する方法400を開始してもよい。
図5を参照すると、一実施形態による、部品に関するデータを処理する方法400が記載される。方法400は、図1〜図4を参照して考察したピック&プレース機械とほぼ同じピック&プレース機械100の処理ユニット120によって実施され、アーカイブサーバ500の処理手段510によって実施されてもよい。データとは、部品、部品タイプ、パッケージタイプ、あるいはピック&プレース機械に関連する他の任意のデータに関する任意のタイプのデータを意味し得る。
部品が廃棄されると決定された場合、その部品の新たな参照画像を取得してもよい。新たな参照画像は、アーカイブサーバ500に送信されてもよい。ステップ320及び370の取得された画像はこのほか、以前の参照画像とともにアーカイブサーバ500に送信されてもよい。画像は、例えば、部品の知識を有するユーザによってタグ付けされてもよく(420)、タグは、装着しない(あるいは装着することが決定であった場合は装着する)という決定が正しいかどうかを示してもよい。
照明セッティングを決定するためのアルゴリズムは、機械学習アルゴリズムである場合、タグ付きデータに基づいて、例えば、教師付き学習アルゴリズムを使用して訓練されてもよい(430)。これとは別に、アルゴリズムは、静的アルゴリズムの場合、変更され、タグ付きデータによって検証されてもよい。次に、更新されたアルゴリズムは、図3を参照して説明したように、照明セッティングを決定する方法200にて使用されてもよい(440)。
部品をワークピースに装着する必要があるかどうかを決定するアルゴリズムは、上記と同じように、機械学習アルゴリズムである場合、タグ付きデータに基づいて、例えば、教師付き学習アルゴリズムを使用して訓練されてもよい(450)。これとは別に、アルゴリズムは、静的アルゴリズムである場合、変更され、タグ付きデータによって検証されてもよい。更新されたアルゴリズムは、図4を参照して説明するように、部品を装着する必要があるかどうかを決定する方法300にて使用されてもよい(460)。
上記の方法400では、部品が廃棄されると決定された場合について説明されているが、方法500はこのほか、部品が廃棄されると決定されたかどうかにかかわらず実施されてもよい。即ち、同一のデータ及び画像を(取得した場合)、部品が装着された場合でも、アーカイブサーバに送信してもよい。このデータは、例えば、ピック&プレース機械の開発者によって使用され、正のデータセットでアルゴリズムを訓練してもよい。
一実施形態によるアーカイブサーバ500について、図6を参照して以下説明する。アーカイブサーバ500は、処理手段510と、保存ユニット530と、この例では3つの通信インターフェース520、即ち、521、522、523とを備える。しかし、3つ以外の数の機能が異なるインターフェースを使用してもよい。例えば、3つのインターフェースは、ここで説明する3例の機能を組み合わせた1つのインターフェースであってもよい。インターフェースは、データの送信及び/又は受信に適した任意のタイプの通信インターフェースであってもよい。例えば、インターフェースがAPI、エンドポイント又はファイルシステムであってもよい。
保存ユニット530は、データを保存するように構成された任意のタイプの保存ユニットであってもよい。例示のみを目的として、保存ユニットはデータベース又はファイルシステムであってもよい。保存ユニットは、アーカイブサーバと同じサーバにあるか、1つ又は複数のサーバにあってもよい。保存ユニット530は、第1の部品に関連するパッケージデータを保存し、第1の部品に関連する1つ又は複数の照明セッティングでパッケージデータを補完するように構成されてもよい。また、第1の部品又は第1の部品のパッケージタイプに関連し得る別のデータを保存ユニット530に保存してもよい。
アーカイブサーバ500は、第1の通信インターフェース521を介して、特定のパッケージタイプの第1の部品に関連付けられた照明セッティングを、例えば、ピック&プレース機械100から受信してもよい。受信した照明セッティングは、方法200を使用してピック&プレース機械100によって決定されたものであってもよい。受信した照明セッティングは、例えば、処理ユニット510により、保存ユニット530に保存されてもよい。アーカイブサーバ500は、ユーザからの要求に応じて照明セッティングを提供するように構成された第2の通信インターフェース522を介して照明セッティングを提供してもよい。ユーザは、データを要求するソフトウェア又はアプリケーションを使用している人であってもよい。
アーカイブサーバは、第3の通信インターフェース523を介して、照明要素によって照らされたときにカメラにより取得された部品の画像を受信してもよい。画像は、方法200にて決定された照明セッティングに従って、ピック&プレース機械100の照明源130によって照らされたときの部品の参照画像又は画像であってもよい。受信したデータは、保存ユニット530に保存されてもよい。受信したデータは、例えば、機械学習アルゴリズムの訓練データ又は検証データとして使用されるか、静的アルゴリズムの検証データとして使用されることにより、照明セッティングを決定するか部品を検証するアルゴリズムの改善に使用されてもよい。
図5を参照して説明したように、アーカイブサーバは、データを保存し、方法400に提供して、照明セッティング及び/又は部品を廃棄するべきであるかどうかを決定するアルゴリズムを改善してもよい。
当業者は、本発明が上記の実施形態に決して限定されないことを理解する。それどころか、添付の特許請求の範囲内で多くの修正及び変更が可能である。
さらに、請求された発明を実施する当業者が、開示された実施形態に対する変形を、図面、開示及び添付特許請求の範囲の研究から、理解し、達成することができる。請求項では、「含む」という用語は他の要素又はステップを除外せず、不定冠詞「a」又は「an」は複数を除外しない。特定の手段が相互に異なる従属請求項に記載されているという単なる事実は、このような手段の組み合わせが有利に使用できないことを示すものではない。
(箇条書きにした複数の実施形態)
1.ピック&プレース機械にて、特定のパッケージタイプに属する部品の画像を取得するための照明セッティングを決定する方法であって、
前記特定のパッケージタイプの第1の電子部品の第1の画像を、前記第1の電子部品が第1の照明構成によって照らされている間に取得するステップであって、第1の画像の前記取得は、それにより第1の照明要素を提供しているステップと、
前記第1の電子部品の第2の画像を、前記第1の電子部品が前記第1の照明構成とは異なる第2の照明構成によって照らされている間に取得するステップであって、第2の画像の前記取得は、それにより第2の照明要素を提供しているステップと、
第1の画像及び前記第2の画像のソフトウェア操作の使用により、前記第1の部品の複数の生成画像を生成するステップであって、前記複数の生成画像のそれぞれは、前記第1の照明要素の照明強度レベルと、前記第2の照明要素の照明強度レベルとの少なくとも特定の組み合わせを含む、ステップと、
所定の品質尺度を満たす前記複数の生成画像のうち少なくとも1つを選択するステップと、
選択された生成画像に基づいて、前記パッケージタイプに関連付けられた照明セッティングを決定するステップであって、決定された照明セッティングは、前記第1の照明要素の第1の強度レベルと前記第2の照明要素の第2の強度レベルとを少なくとも含む、ステップと、
を含む方法。
2.決定された照明セッティングに従って前記第2の電子部品が照らされている間に、前記特定のパッケージタイプの第2の電子部品の画像を取得し、
取得された画像の分析に基づいて、前記第2の電子部品を廃棄するべきかワークピースに配置するべきかを決定する後続のステップをさらに含む、請求項1に記載の方法。
3.前記第2の電子部品を廃棄するべきであると決定された場合、検証照明セッティングに従って前記第2の電子部品が照らされている間に、前記第2の電子部品の検証画像を取得し、
取得された検証画像の分析に基づいて、前記第2の電子部品を廃棄するべきかワークピースに配置するべきかを決定する後続のステップをさらに含む、請求項2に記載の方法。
4.取得された画像は、前記部品の形状又は輪郭と、前記ピック&プレース機械の装着ヘッドによって保持される位置又は向きというパラメータのうちの少なくとも1つに関して分析される、請求項2に記載の方法。
5.前記第1の部品は、前記第1及び第2の画像の取得中に、前記ピック&プレース機械の装着ヘッドによって保持される、請求項1〜4の何れか一項に記載の方法。
6.前記所定の品質尺度は最も高い画像コントラストに対応する、請求項1〜5の何れか一項に記載の方法。
7.前記第1の電子部品の背景の照明画像を取得するステップと、
前記複数の生成画像を生成する前に、前記第1の画像及び前記第2の画像から前記背景照明画像を差し引くステップと、をさらに含む、請求項1〜6の何れか一項に記載の方法。
8.前記背景照明画像は、前記所定の品質尺度を満たす前記複数の生成画像のうちの選択された画像に追加され、結果として得られた画像は、前記特定のパッケージタイプの後続する電子部品を廃棄するべきかワークピースに配置するべきかを決定するときに使用される参照画像として保存される、請求項5に記載の方法。
9.前記第1の照明要素の強度レベルは、前記第1の画像の取得中に、前記第1の画像の少なくともいくつかの画素が飽和するかほぼ飽和するように選択され、及び/又は、
前記第2の照明要素の強度レベルは、前記第2の画像の取得中に、前記第2の画像の少なくともいくつかの画素が飽和するかほぼ飽和するように選択される、請求項1〜8の何れか一項に記載の方法。
10.前記第1の照明要素は、第1の角度からの前記部品に対する照明を表し、前記第2の照明要素は、前記第1の角度とは異なる第2の角度からの前記部品に対する照明を表す、請求項1〜9の何れか一項に記載の方法。
11.前記第1の照明要素は、第1の色の光による照明を表し、前記第2の照明要素は、前記第1の色とは異なる第2の色の光による照明を表す、請求項1〜9の何れか一項に記載の方法。
12.前記第1及び第2の照明要素は、暗視野照明、前方光照明及び周囲照明を含むリストから選択される、請求項1〜11の何れか一項に記載の方法。
13.前記方法は、決定された照明セッティングをアーカイブサーバにアップロードするステップをさらに含む、請求項1〜12の何れか一項に記載の方法。
14.ピック&プレース機械にて、特定のパッケージタイプに属する部品を検証するシステムであって、前記システムは、
第1の照明要素によって前記特定のパッケージタイプの第1の電子部品を照らす第1の照明構成と、
前記第1の照明要素とは異なる第2の照明要素によって前記第1の電子部品を照らす第2の照明構成と、
前記第1の照明要素によって照らされている間に前記電子部品の第1の画像を取得し、前記第2の照明要素によって照らされている間に前記電子部品の第2の画像を取得するカメラと、
処理手段であって、
前記第1の画像及び前記第2の画像のソフトウェア操作の使用により、前記第1の部品の複数の生成画像を生成し、前記複数の生成画像のそれぞれは、前記第1の照明要素の照明強度レベルと、前記第2の照明要素の照明強度レベルとの特定の組み合わせを含み、
所定の品質尺度を満たす前記複数の生成画像のうち少なくとも1つを選択し、
選択された生成画像に基づいて、前記パッケージタイプに関連付けられた照明セッティングを決定し、決定された照明セッティングは、前記第1の照明要素の第1の強度レベルと前記第2の照明要素の第2の強度レベルとを含む、ように構成された処理手段と、
を具備するシステム。
15.前記カメラは、決定された照明セッティングに従って前記第2の電子部品が照らされている間に、前記特定のパッケージタイプの第2の電子部品の画像を取得するようにさらに構成され、
前記処理手段は、前記第2の部品の取得された画像の分析に基づいて、前記第2の電子部品を廃棄するべきかワークピースに配置するべきかを決定するようにさらに構成される、請求項14に記載の方法。
16.アーカイブサーバであって、その設置場所にて、
請求項14に記載のシステムから、特定のパッケージタイプの第1の部品に関連付けられた照明セッティングを受信するように構成された第1の通信インターフェースと、
前記照明セッティングを保存するように構成された保存ユニットと、
ユーザの要求に応じて前記照明セッティングを提供するように構成された第2の通信インターフェースと、を有する、アーカイブサーバ。
17.前記保存ユニットは、前記第1の電子部品に関連するパッケージデータを保存し、前記パッケージデータを前記第1の電子部品に関連付けられた1つ又はいくつかの照明セッティングで補完するように構成される、請求項16に記載のアーカイブサーバ。
18.前記アーカイブサーバは、その設置場所にて、
請求項14に記載のシステムから、前記第1及び第2の照明要素によって照らされたときに前記カメラによって取得された部品の画像を受信する第3の通信インターフェースアダプタをさらに有する、請求項17に記載のアーカイブサーバ。
19.前記第1及び第2の電子部品の両方が、第1、第2及び第3の照明要素をそれぞれ提供する第1、第2及び第3の照明構成によって照らされ、前記第1、第2及び第3の照明要素はいずれも互いに異なっている、請求項1〜13の何れか一項に記載の方法。
20.ピック&プレース機械にて、特定のパッケージタイプに属する部品を検証するシステムであって、前記システムは、
第1の照明要素によって、前記特定のパッケージタイプの第1の電子部品を照らす第1の照明構成と、
前記第1の照明要素とは異なる第2の照明要素によって前記第1の電子部品を照らす第2の照明構成と、
前記第1の照明要素とも前記第2の照明要素とも異なる第3の照明要素によって前記第1の電子部品を照らす第3の照明構成と、
前記第1の照明要素によって照らされている間に前記部品の第1の画像を取得し、前記第2の照明要素によって照らされている間に前記部品の第2の画像を取得し、前記第3の照明要素によって照らされている間に前記部品の第3の画像を取得するカメラと、
処理手段であって、
前記第1の画像、前記第2の画像及び前記第3の画像のソフトウェア操作の使用により、前記第1の電子部品の複数の生成画像を生成し、前記複数の生成画像のそれぞれは、前記第1の照明要素の照明強度レベルと、前記第2の照明要素の照明強度レベルと、前記第3の照明要素の照明強度レベルとの特定の組み合わせを含み、
所定の品質尺度を満たす前記複数の生成画像の少なくとも1つを選択し、
選択された生成画像に基づいて、前記パッケージタイプに関連付けられた照明セッティングを決定し、決定された照明セッティングは、前記第1の照明要素の第1の強度レベルと、前記第2の照明要素の第2の強度レベルと、前記第3の照明要素の第3の強度レベルとを含む、ように構成された処理手段と、
をさらに具備するシステム。
21.前記カメラは、前記第2の電子部品が、前記第1の照明要素の第1の強度レベルと、前記第2の照明要素の第2の強度レベルと、前記第3の照明要素の第3の強度レベルとを含む決定された照明セッティングに従って照らされる間に、前記特定のパッケージタイプの第2の電子部品の画像を取得するようにさらに構成され、
前記処理手段は、前記第2の部品の取得された画像の分析に基づいて、前記第2の部品が廃棄されるべきかワークピースに配置されるべきかを決定するようにさらに構成される、請求項20に記載の方法。
22.前記システムのカメラは、前記第1の電子部品の背景の照明画像を取得し、前記第1の画像、前記第2の画像及び前記第3の画像から前記背景照明画像を差し引くようにさらに構成される、請求項20又は21に記載のシステム。
23.アーカイブサーバであって、その設置場所にて、
請求項20に記載のシステムから、特定のパッケージタイプの第1の部品に関連付けられた照明セッティングを受信するように構成された第1の通信インターフェースと、
前記照明セッティングを保存するように構成された保存ユニットと、
ユーザの要求に応じて前記照明セッティングを提供するように構成された第2の通信インターフェースと、を有するアーカイブサーバ。
24.前記保存ユニットは、前記第1の電子部品に関するパッケージデータを保存し、前記パッケージデータを、前記第1の電子部品に関連付けられた1つ又はいくつかの照明セッティングで補完するように構成される、請求項23に記載のアーカイブサーバ。
25.前記アーカイブサーバは、その設置場所にて、
請求項20に記載のシステムから、前記第1、第2及び第3の照明要素によって照らされたときに前記カメラによって取得された部品の画像を受信する第3の通信インターフェースアダプタを有する、請求項23又は24に記載のアーカイブサーバ。

Claims (18)

  1. ピック&プレース機械にて、特定のパッケージタイプに属する部品の画像を取得するための照明セッティングを決定する方法であって、
    前記特定のパッケージタイプの第1の部品の第1の画像を、前記第1の部品が第1の照明要素によって照らされている間に取得するステップと、
    前記第1の部品の第2の画像を、前記第1の部品が前記第1の照明要素とは異なる第2の照明要素によって照らされている間に取得するステップと、
    前記第1の画像及び前記第2の画像のソフトウェア操作の使用により、前記第1の部品の複数の生成画像を生成するステップであって、前記複数の生成画像のそれぞれは、前記第1の照明要素の照明強度レベルと、前記第2の照明要素の照明強度レベルとの特定の組み合わせを含む、ステップと、
    所定の品質尺度を満たす前記複数の生成画像のうち少なくとも1つを選択するステップと、
    選択された生成画像に基づいて、前記パッケージタイプに関連付けられた照明セッティングを決定するステップであって、決定された照明セッティングは、前記第1の照明要素の第1の強度レベルと前記第2の照明要素の第2の強度レベルとを含む、ステップと、
    を含む方法。
  2. 決定された照明セッティングに従って前記第2の部品が照らされている間に、前記特定のパッケージタイプの第2の部品の画像を取得し、
    取得された画像の分析に基づいて、前記第2の部品を廃棄するべきかワークピースに配置するべきかを決定する後続のステップをさらに含む、請求項1に記載の方法。
  3. 前記第2の部品を廃棄するべきであると決定された場合、検証照明セッティングに従って前記第2の部品が照らされている間に、前記第2の部品の検証画像を取得し、
    取得された検証画像の分析に基づいて、前記第2の部品を廃棄するべきかワークピースに配置するべきかを決定する後続のステップをさらに含む、請求項2に記載の方法。
  4. 取得された画像は、前記部品の形状又は輪郭と、前記ピック&プレース機械の装着ヘッドによって保持される位置又は向きというパラメータのうちの少なくとも1つに関して分析される、請求項2に記載の方法。
  5. 前記第1の部品は、前記第1及び第2の画像の取得中に、前記ピック&プレース機械の装着ヘッドによって保持される、請求項1〜4の何れか一項に記載の方法。
  6. 前記所定の品質尺度は最も高い画像コントラストに対応する、請求項1〜5の何れか一項に記載の方法。
  7. 前記第1の部品の背景の照明画像を取得するステップと、
    前記複数の生成画像を生成する前に、前記第1の画像及び前記第2の画像から前記背景の照明画像を差し引くステップと、をさらに含む、請求項1〜6の何れか一項に記載の方法。
  8. 背景の照明画像は、前記所定の品質尺度を満たす前記複数の生成画像のうちの選択された画像に追加され、結果として得られた画像は、前記特定のパッケージタイプの後続する部品を廃棄するべきかワークピースに配置するべきかを決定するときに使用される参照画像として保存される、請求項5に記載の方法。
  9. 前記第1の照明要素の強度レベルは、前記第1の画像の取得中に、前記第1の画像の少なくともいくつかの画素が飽和するかほぼ飽和するように選択され、及び/又は、
    前記第2の照明要素の強度レベルは、前記第2の画像の取得中に、前記第2の画像の少なくともいくつかの画素が飽和するかほぼ飽和するように選択される、請求項1〜8の何れか一項に記載の方法。
  10. 前記第1の照明要素は、第1の角度からの前記部品に対する照明を表し、前記第2の照明要素は、前記第1の角度とは異なる第2の角度からの前記部品に対する照明を表す、請求項1〜9の何れか一項に記載の方法。
  11. 前記第1の照明要素は、第1の色の光による照明を表し、前記第2の照明要素は、前記第1の色とは異なる第2の色の光による照明を表す、請求項1〜9の何れか一項に記載の方法。
  12. 前記第1及び第2の照明要素は、暗視野照明、前方光照明及び周囲照明を含むリストから選択される、請求項1〜11の何れか一項に記載の方法。
  13. 前記方法は、決定された照明セッティングをアーカイブサーバにアップロードするステップをさらに含む、請求項1〜12の何れか一項に記載の方法。
  14. ピック&プレース機械にて、特定のパッケージタイプに属する部品を検証するシステムであって、
    第1の照明要素によって前記特定のパッケージタイプの第1の部品を照らす第1の照明源と、
    前記第1の照明要素とは異なる第2の照明要素によって前記第1の部品を照らす第2の照明源と、
    前記第1の照明要素によって照らされている間に前記部品の第1の画像を取得し、前記第2の照明要素によって照らされている間に前記部品の第2の画像を取得するカメラと、
    処理手段であって、
    前記第1の画像及び前記第2の画像のソフトウェア操作の使用により、前記第1の部品の複数の生成画像を生成し、前記複数の生成画像のそれぞれは、前記第1の照明要素の照明強度レベルと、前記第2の照明要素の照明強度レベルとの特定の組み合わせを含み、
    所定の品質尺度を満たす前記複数の生成画像のうち少なくとも1つを選択し、
    選択された生成画像に基づいて、前記パッケージタイプに関連付けられた照明セッティングを決定し、決定された照明セッティングは、前記第1の照明要素の第1の強度レベルと前記第2の照明要素の第2の強度レベルとを含む、ように構成された処理手段と、
    を具備するシステム。
  15. 前記カメラは、決定された照明セッティングに従って前記第2の部品が照らされている間に、前記特定のパッケージタイプの第2の部品の画像を取得するようにさらに構成され、
    前記処理手段は、前記第2の部品の取得された画像の分析に基づいて、前記第2の部品を廃棄するべきかワークピースに配置するべきかを決定するようにさらに構成される、請求項14に記載の方法。
  16. アーカイブサーバであって、その設置場所にて、
    請求項14に記載のシステムから、特定のパッケージタイプの第1の部品に関連付けられた照明セッティングを受信するように構成された第1の通信インターフェースと、
    前記照明セッティングを保存するように構成された保存ユニットと、
    ユーザの要求に応じて前記照明セッティングを提供するように構成された第2の通信インターフェースと、
    を有するアーカイブサーバ。
  17. 前記保存ユニットは、前記第1の部品に関連するパッケージデータを保存し、前記パッケージデータを前記第1の部品に関連付けられた1つ又はいくつかの照明セッティングで補完するように構成される、請求項16に記載のアーカイブサーバ。
  18. 前記アーカイブサーバは、その設置場所にて、
    請求項14に記載のシステムから、前記第1及び第2の照明要素によって照らされたときに前記カメラによって取得された部品の画像を受信する第3の通信インターフェースアダプタをさらに有する、請求項17に記載のアーカイブサーバ。
JP2020501151A 2017-07-12 2018-06-29 部品照明セッティングを決定する方法及びシステム Pending JP2020527854A (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
SE1730194-6 2017-07-12
SE1730194 2017-07-12
PCT/EP2018/067638 WO2019011678A1 (en) 2017-07-12 2018-06-29 METHOD AND SYSTEM FOR DETERMINING COMPONENT ILLUMINATION SETTINGS

Publications (2)

Publication Number Publication Date
JP2020527854A true JP2020527854A (ja) 2020-09-10
JP2020527854A5 JP2020527854A5 (ja) 2021-08-12

Family

ID=62873312

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020501151A Pending JP2020527854A (ja) 2017-07-12 2018-06-29 部品照明セッティングを決定する方法及びシステム

Country Status (4)

Country Link
US (2) US11178801B2 (ja)
EP (1) EP3653030A1 (ja)
JP (1) JP2020527854A (ja)
WO (1) WO2019011678A1 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10545096B1 (en) 2018-10-11 2020-01-28 Nanotronics Imaging, Inc. Marco inspection systems, apparatus and methods
US20210299879A1 (en) * 2018-10-27 2021-09-30 Gilbert Pinter Machine vision systems, illumination sources for use in machine vision systems, and components for use in the illumination sources
US11593919B2 (en) 2019-08-07 2023-02-28 Nanotronics Imaging, Inc. System, method and apparatus for macroscopic inspection of reflective specimens
US10915992B1 (en) * 2019-08-07 2021-02-09 Nanotronics Imaging, Inc. System, method and apparatus for macroscopic inspection of reflective specimens
WO2021165175A1 (en) * 2020-02-20 2021-08-26 Signify Holding B.V. An inspection system for inspecting a lighting device during an assembly process of the lighting device and a method thereof
JP2022054938A (ja) * 2020-09-28 2022-04-07 株式会社リコー 検査装置、検査システム、検査方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005315749A (ja) * 2004-04-28 2005-11-10 Yamaha Motor Co Ltd 照明条件特定方法、部品認識装置、同装置を備えた表面実装機および部品試験装置
JP2016018940A (ja) * 2014-07-10 2016-02-01 ヤマハ発動機株式会社 部品認識データ提供方法、部品認識データ提供装置および部品認識データ提供システム

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE19727471C1 (de) * 1997-06-27 1998-12-17 Siemens Ag Verfahren zur automatischen Intensitätseinstellung einer Beleuchtung für Einrichtungen zur Lageerkennung und/oder Qualitätskontrolle bei der automatischen Bestückung von Bauelementen
US6040895A (en) * 1997-10-08 2000-03-21 Siemens Aktiengesellschaft Method and device for controlled illumination of an object for improving identification of an object feature in an image of the object
GB2347741A (en) 1998-11-05 2000-09-13 Cyberoptics Corp Electronics assembly apparatus with improved imaging system
US6627863B2 (en) 2000-12-15 2003-09-30 Mitutoyo Corporation System and methods to determine the settings of multiple light sources in a vision system
US7239399B2 (en) 2001-11-13 2007-07-03 Cyberoptics Corporation Pick and place machine with component placement inspection
US9955551B2 (en) * 2002-07-12 2018-04-24 Yechezkal Evan Spero Detector controlled illuminating system
US7614144B2 (en) * 2003-05-13 2009-11-10 Panasonic Corporation Component mounting apparatus
US7398927B2 (en) 2005-01-26 2008-07-15 Datalogic Scanning, Inc. Data reader and methods for imaging targets subject to specular reflection
US8144973B2 (en) 2009-03-24 2012-03-27 Orbotech Ltd. Multi-modal imaging
US8632011B2 (en) 2011-01-18 2014-01-21 Datalogic ADC, Inc. Systems and methods for illuminating a scan volume of an optical code reader
JP5746610B2 (ja) 2011-12-22 2015-07-08 ヤマハ発動機株式会社 部品撮像装置および同装置を備えた部品実装装置
US9141842B2 (en) 2012-02-15 2015-09-22 Datalogic ADC, Inc. Time division exposure of a data reader
CN104160692B (zh) 2012-03-13 2017-05-31 杜比实验室特许公司 用于图像和目标增强的方法以及光照系统
US9717118B2 (en) * 2013-07-16 2017-07-25 Chia Ming Chen Light control systems and methods
JP2018513531A (ja) * 2015-04-03 2018-05-24 ルシス テクノロジーズ ホールディングス リミティッドLucis Technologies Holdings Limited 環境制御システム
CN108605402B (zh) * 2015-12-11 2020-09-18 路创技术有限责任公司 具有可见光传感器的负载控制系统
US11019709B2 (en) * 2016-12-09 2021-05-25 Lutron Technology Company Llc Measuring lighting levels using a visible light sensor

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005315749A (ja) * 2004-04-28 2005-11-10 Yamaha Motor Co Ltd 照明条件特定方法、部品認識装置、同装置を備えた表面実装機および部品試験装置
JP2016018940A (ja) * 2014-07-10 2016-02-01 ヤマハ発動機株式会社 部品認識データ提供方法、部品認識データ提供装置および部品認識データ提供システム

Also Published As

Publication number Publication date
WO2019011678A1 (en) 2019-01-17
US20220039305A1 (en) 2022-02-03
EP3653030A1 (en) 2020-05-20
US20200205325A1 (en) 2020-06-25
US11758706B2 (en) 2023-09-12
US11178801B2 (en) 2021-11-16

Similar Documents

Publication Publication Date Title
JP2020527854A (ja) 部品照明セッティングを決定する方法及びシステム
US10991088B2 (en) Defect inspection system and method using artificial intelligence
JP2017096750A (ja) 位置決め方法、位置決め装置、プログラムおよびコンピュータ可読記録媒体
TW201840991A (zh) 電路板點膠檢測裝置及檢測方法
JP2020527854A5 (ja)
JP2011107016A (ja) 被覆電線検査装置及びこれを備えた電線処理機
JP2019196964A (ja) 分類器の学習支援システム、学習データの収集方法、検査システム
CN111929239A (zh) 一种pcb板零件缺陷的aoi检测装置及检测方法
JP2008300456A (ja) 被検査体の検査システム
JP2005128016A (ja) 検査システムおよび方法
US20220284699A1 (en) System and method of object detection using ai deep learning models
JP3993107B2 (ja) 部品認識データ作成方法及び作成装置、並びに部品認識データ作成プログラム
CN105910534B (zh) 橡塑制品几何量测量系统
JP5832167B2 (ja) 部品有無判定装置及び部品有無判定方法
US20210264639A1 (en) Determination of defects in light sources integrated with cameras
JP2004235582A (ja) 実装間違い検査方法およびこの方法を用いた基板検査装置
TWI577979B (zh) 光源通道校正方法及系統
JP5172211B2 (ja) 被検査体の検査システム
JP6461692B2 (ja) 基板検査装置
KR101742260B1 (ko) 자동이송식 하네스 비전 검사장치
KR100515242B1 (ko) 하네스 불량 자동 검출 시스템
CN114273245A (zh) 一种汽车内饰件多品种工件连续混合检测方法及系统
US20130286189A1 (en) Solder connection inspection apparatus and method
KR20150011068A (ko) Aoi 장비의 티칭 데이터 자동 생성 방법
WO2023175831A1 (ja) 画像確認装置および画像確認方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210629

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210629

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220519

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220524

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20221220