JPWO2016143106A1 - 部品種類自動判別方法及び部品種類自動判別システム並びに画像処理用部品データ作成方法及び画像処理用部品データ作成システム - Google Patents

部品種類自動判別方法及び部品種類自動判別システム並びに画像処理用部品データ作成方法及び画像処理用部品データ作成システム Download PDF

Info

Publication number
JPWO2016143106A1
JPWO2016143106A1 JP2017504511A JP2017504511A JPWO2016143106A1 JP WO2016143106 A1 JPWO2016143106 A1 JP WO2016143106A1 JP 2017504511 A JP2017504511 A JP 2017504511A JP 2017504511 A JP2017504511 A JP 2017504511A JP WO2016143106 A1 JPWO2016143106 A1 JP WO2016143106A1
Authority
JP
Japan
Prior art keywords
component
image
power spectrum
feature
lead
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017504511A
Other languages
English (en)
Other versions
JP6504682B2 (ja
Inventor
秀一郎 鬼頭
秀一郎 鬼頭
梅崎 太造
太造 梅崎
公央亮 服部
公央亮 服部
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fuji Corp
Nagoya Institute of Technology NUC
Original Assignee
Fuji Machine Manufacturing Co Ltd
Nagoya Institute of Technology NUC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Machine Manufacturing Co Ltd, Nagoya Institute of Technology NUC filed Critical Fuji Machine Manufacturing Co Ltd
Publication of JPWO2016143106A1 publication Critical patent/JPWO2016143106A1/ja
Application granted granted Critical
Publication of JP6504682B2 publication Critical patent/JP6504682B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/42Global feature extraction by analysis of the whole pattern, e.g. using frequency domain transformations or autocorrelation
    • G06V10/431Frequency domain transformation; Autocorrelation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/241Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2411Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on the proximity to a decision surface, e.g. support vector machines
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • G06T7/001Industrial image inspection using an image reference approach
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20048Transform domain processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30148Semiconductor; IC; Wafer
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/06Recognition of objects for industrial automation

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Evolutionary Computation (AREA)
  • Data Mining & Analysis (AREA)
  • Artificial Intelligence (AREA)
  • Medical Informatics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • Software Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Databases & Information Systems (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Quality & Reliability (AREA)
  • Image Analysis (AREA)
  • Supply And Installment Of Electrical Components (AREA)
  • Image Processing (AREA)

Abstract

カメラ12で撮像した部品画像から当該部品の特徴データを抽出し、抽出した特徴データを、データベースに登録されている複数種類の部品のリファレンス用特徴データと比較して両者が最も一致する部品の種類を判別する。その結果、異型部品と判別された部品画像のうちのリードが存在する候補となるリード存在候補領域に対して1走査ライン毎にFFTを適用してパワースペクトル画像を作成する。そして、パワースペクトル画像の周期的な特徴を抽出するためにパワースペクトル画像からHLAC特徴を求め、このLAC特徴の特徴量をSVMを使用して学習してリード付きのコネクタ部品を異型部品と区別して判別する。その後、部品種類の判別結果に応じて部品画像から当該部品の特徴データを抽出して画像処理用部品データを作成する。或は、リード付きのコネクタ部品と判別した場合は、リードの欠損や曲がりを検出する画像処理アルゴリズムを自動選択する。

Description

本発明は、リード付きのコネクタ部品の判別性能を向上させた部品種類自動判別方法及び部品種類自動判別システム並びに画像処理用部品データ作成方法及び画像処理用部品データ作成システムに関する発明である。
近年、特許文献1(特開2006−338482号公報)に記載されているように、部品実装機で実装する部品の種類を自動判別する手法として、動的計画法(DP:Dynamic Programming)によるマッチングを用いた階層型の手法が提案されている。この手法は、カメラで撮像した部品画像から当該部品の特徴を表すデータである特徴データを抽出し、抽出した特徴データを、データベースに登録されている複数種類の部品のリファレンス用特徴データと比較して両者が最も一致する部品の種類を自動判別するものである。
特開2006−338482号公報
上記特許文献1の部品種類判別方法では、図2A〜図2Eに示すような4辺にリードを持つIC部品、チップ部品、ミニモールド部品、単純な形状のコネクタ部品、BGA部品といった一般的な部品の画像に対しては高い判別性能が得られるが、図2G、図2Hに示すような複雑な形状のコネクタ部品の画像は、コネクタ部品として判別されず、図2Fに示すような異型部品(Odd Form)として誤って判別されてしまう。これらのコネクタ部品は、電子部品の代表的な形状であるリード付きのコネクタ部品であるにも拘らず、リード付きのコネクタ部品として判別されないため、リードの欠損や曲がりを検出する画像処理アルゴリズムが自動選択されないという問題があった。また、上記特許文献1では、自動判別した部品の種類に応じて当該部品の画像から当該部品の特徴データ(ボディ、リード、バンプ等の位置やサイズ等のデータ)を抽出して画像処理用部品データを作成するようにしているが、図2G、図2Hに示すような複雑な形状のコネクタ部品は、異型部品として誤って判別されてしまうため、適切な画像処理用部品データを作成できないという問題もあった。
そこで、本発明が解決しようとする課題は、リード付きのコネクタ部品を異型部品と区別して判別できるようにすることである。
本発明は、リード付きのコネクタ部品を異型部品と区別して判別するために、リードの周期的な並びに注目し、部品画像から周期的な特徴を抽出するために、部品画像から高速フーリエ変換[FFT]を用いてパワースペクトル画像を作成するパワースペクトル画像作成処理(パワースペクトル画像作成手段)と、前記パワースペクトル画像の周期的な特徴を抽出するために前記パワースペクトル画像から高次局所自己相関[HLAC]特徴を求めるHLAC特徴抽出処理(HLAC特徴抽出手段)と、前記高次局所自己相関特徴を用いてリード付きのコネクタ部品であるか否かを判別するコネクタ部品判別処理(コネクタ部品判別手段)とを含むことを特徴とするものである。
この場合、リード付きのコネクタ部品の画像から作成したパワースペクトル画像には、等ピッチで配列されたリードの周期性により周期的な縦縞が出来るが、リードのない部品のパワースペクトル画像には、周期的な縦縞が出来ない。
この特性に着目して、本発明では、パワースペクトル画像に縦縞が含まれているか否かを判別するための特徴量として、パワースペクトル画像から高次局所自己相関特徴を求め、この高次局所自己相関特徴を用いてリード付きのコネクタ部品であるか否かを判別するものであり、これにより、リード付きのコネクタ部品を異型部品と区別して判別することが可能となる。
但し、リード付きのコネクタ部品の画像でも、その画像中のリードが存在しない領域から作成したパワースペクトル画像には周期的な縦縞が出来ない。そこで、部品画像のうちのリードが存在する候補となる領域に対して1走査ライン毎に高速フーリエ変換を適用してパワースペクトル画像を作成するようにすると良い。一般に、リードは、部品のボディ部分から外側方向に向けて取り付けられていて、部品外周付近の領域に存在する可能性が高いため、部品画像のうちの部品外周付近の領域を「リードが存在する候補となる領域」に設定してパワースペクトル画像を作成すれば良い。これにより、部品画像の中からリードが存在する可能性の高い領域に絞り込んで周期的な特徴を抽出することができる。
また、本発明は、高次局所自己相関特徴の特徴量をサポートベクターマシン(SVM)を使用して学習してリード付きのコネクタ部品であるか否かを判別するようにすると良い。これにより、リード付きのコネクタ部品を精度良く判別することができる。
本発明を実施する場合は、前述した特許文献1等に記載された部品種類自動判別手法と同様の手法を使用して、例えば、図2A〜図2Eに示すような4辺にリードを持つIC部品、チップ部品、ミニモールド部品、単純な形状のコネクタ部品を判別しておき、それらの部品に該当しない異型部品と判別された部品画像について、前記パワースペクトル画像作成処理、前記HLAC特徴抽出処理及び前記コネクタ部品判別処理を行ってリード付きのコネクタ部品を異型部品と区別して判別するようにすると良い。これにより、部品実装機で実装する全ての部品の種類を精度良く自動判別することができる。
本発明の部品種類自動判別方法で判別した部品の種類に応じて部品画像から当該部品の特徴データを抽出して画像処理用部品データを作成するようにしたり、或は、リード付きのコネクタ部品と判別した場合に、リードの欠損や曲がりを検出する画像処理アルゴリズムを自動選択するようにしても良い。これにより、前述した従来の問題を解消することができる。
図1は本発明の一実施例の部品種類自動判別システム(画像処理用部品データ作成システム)の構成を示すブロック図である。 図2Aは4辺にリードを持つIC部品の画像を示す図である。 図2Bはチップ部品の画像を示す図である。 図2Cはミニモールド部品の画像を示す図である。 図2Dは単純な形状のコネクタ部品の画像を示す図である。 図2EはBGA部品の画像を示す図である。 図2Fは異型部品の画像を示す図である。 図2Gは複雑な形状のコネクタ部品の画像(その1)を示す図である。 図2Hは複雑な形状のコネクタ部品の画像(その2)を示す図である。 図3(a)はリード群領域画像の作成手順(正規化)を説明する図、同図(b)は215枚の部品画像を平均化して平均画像を求める手順を説明する図である。 図4は平均画像のリード存在候補領域の位置を説明する図である。 図5(a)〜(d)は実際にリードが存在するリード存在候補領域画像の例1〜4を示す図、同図(e)〜(h)は各例1〜4の画像にFFTを適用して作成したパワースペクトル画像を示す図である。 図6(a)〜(d)はリードが存在しないリード存在候補領域画像の例5〜8を示す図、同図(e)〜(h)は各例5〜8の画像にFFTを適用して作成したパワースペクトル画像を示す図である。 図7はHLACのマスクパターンを示す図である。 図8は部品種類自動判別プログラムの処理の流れを示すフローチャートである。 図9はHLACを用いた場合とLBPを用いた場合とを比較してスペクトル画像に対する正解率と濃淡画像に対する正解率を示す図である。 図10(a)はコネクタ部品と誤判別された異型部品の画像の例を示す図、同図(b)は(a)の部品画像のリード存在候補領域のパワースペクトル画像を示す図である。 図11(a)は異型部品と誤判別されたコネクタ部品の画像の例を示す図、同図(b)は(a)の部品画像のリード存在候補領域のパワースペクトル画像を示す図である。
以下、本発明を実施するための形態を具体化した一実施例を説明する。
本実施例の部品種類自動判別システムは、画像処理用部品データ作成システムとしての機能も搭載され、図1に示すように、パーソナルコンピュータ等のコンピュータ11と、部品種類判別対象(画像処理用部品データの作成対象)となる部品を撮像してグレースケール画像を取得するCMOSセンサ等のイメージセンサを内蔵するカメラ12と、キーボード、マウス、タッチパネル等の入力装置13と、液晶ディスプレイ、CRT等の表示装置14と、後述する図8の部品種類自動判別プログラム、画像処理用部品データ作成プログラムや各種のデータ等を記憶する記憶装置15とを備えた構成となっている。
部品種類自動判別システム(画像処理用部品データ作成システム)は、部品実装機の制御システムを利用して構成しても良いし、或は、部品実装機の制御システムとは別に構成した専用のシステム(例えば卓上撮像装置とパーソナルコンピュータとの組み合わせ)を用いても良い。部品実装機の制御システムを利用して部品種類自動判別システム(画像処理用部品データ作成システム)を構成する場合には、カメラ12は、部品実装機の吸着ノズルに吸着した部品をその下方から撮像するカメラ(いわゆるパーツカメラ)を使用すれば良い。
コンピュータ11は、後述する図8の部品種類自動判別プログラムを実行することで、カメラ12で撮像した部品画像から当該部品の特徴データを抽出し、抽出した特徴データを、データベースに登録されている複数種類の部品のリファレンス用特徴データと比較して両者が最も一致する部品の種類を判別する部品種類判別手段16として機能すると共に、前記部品種類判別手段16によって異型部品(Odd Form)と判別された部品画像について高速フーリエ変換(FFT:Fast Fourier Transform)を用いてパワースペクトル画像を作成するパワースペクトル画像作成手段17としても機能し、更に、前記パワースペクトル画像の周期的な特徴を抽出するために前記パワースペクトル画像から高次局所自己相関(HLAC:Higher-order Local AutoCorrelation)特徴を求めるHLAC特徴抽出手段18として機能すると共に、HLAC特徴を用いてリード付きのコネクタ部品であるか否かを判別するコネクタ部品判別手段19としても機能する。
パワースペクトル画像作成手段17は、前記部品画像のうちのリードが存在する候補となるリード存在候補領域に対して1走査ライン毎にFFTを適用して前記パワースペクトル画像を作成する。コネクタ部品判別手段19は、HLAC特徴の特徴量をサポートベクターマシン(SVM:Support Vector Machine)を使用して学習してリード付きのコネクタ部品を異型部品と区別して判別する。更に、本実施例では、コンピュータ11は、部品種類の判別結果に応じて部品画像から当該部品の特徴データ(ボディ部分のサイズ、リード位置、リード本数、リード間隔、リード幅、リード長さ、バンプの位置等)を抽出して画像処理用部品データを作成する部品データ作成手段20としても機能する。以下、これら各機能について説明する。
部品種類判別手段16による部品種類自動判別の手法は、前述した特許文献1等に記載されている動的計画法(DP:Dynamic Programming)によるマッチングを用いた階層型の手法である。この手法は、カメラ12で撮像した部品画像から当該部品の特徴を表すデータである特徴データを抽出し、抽出した特徴データを、データベースに登録されている複数種類の部品のリファレンス用特徴データと比較して両者が最も一致する部品の種類を自動判別するものである。上記特徴データには、部品領域全体の投影輝度(水平方向と垂直方向のピクセル頻度)やゼロクロスパターン頻度のデータが含まれる。この部品種類自動判別の手法では、図2A〜図2Eに示すような4辺にリードを持つIC部品、チップ部品、ミニモールド部品、単純な形状のコネクタ部品、BGA部品といった一般的な部品の画像に対しては高い判別性能が得られるが、図2G、図2Hに示すような複雑な形状のコネクタ部品の画像は、コネクタ部品として判別されず、図2Fに示すような異型部品として誤って判別されてしまう。
この理由としては、コネクタ部品は電極と電極を接続するために用いられる部品であり、最終製品の大きさやデザインに合わせて多種多様な形状で作成されるため、特徴データとして部品領域全体の投影輝度やゼロクロスパターン頻度を用いると、部品の内部構造等の輝度変化により、リファレンスとのDP距離が増大してしまう。結果的に、部分空間法において、リファレンスの部分空間への距離が増大してしまうために、リード付きのコネクタ部品を異型部品と区別して正しく判別できないものと考えられる。
そこで、本発明では、コネクタ部品を異型部品と区別して判別するために、コネクタ部品の等ピッチで配列されたリードの周期的な並びに注目した。周期的な特徴を得るために、部品画像からFFTを用いてパワースペクトル画像を作成し、このパワースペクトル画像からHLAC特徴を求め、サポートベクターマシンを用いた識別器(コネクタ部品判別手段19)によりリードの存在を判別するものである。部品画像に対してFFTを適用する領域は、リードが存在する領域が既知のデータを用いてリードの存在確率から決定した。以下、この領域の決定方法について説明する。
リードは、代表的な電子部品の電極形状の一種であり、通常、部品のボディ部分から外部方向へ向けて取り付けられている。そのため、部品外周付近にリードが存在する確率が高く、逆に、部品中央部にリードが存在する確率が低いことが予想される。リードは同一形状のものが等間隔に数本から数十本、同一方向に向いて並んでいる場合が多い。この同一方向に並んだリードの列をリード群とし、予めリード群が定義されている部品画像から,部品領域内におけるリード群の存在する領域を求める。カメラ12で撮像する位置に供給される部品は、0°、90°、180°、270°のいずれの向きで供給されるのかはユーザーの運用方法で決まるため、どの方向が正しい部品の向きかは部品画像からは決定できない。
そこで、部品画像を4方向に回転させ、人手で定義したリード群を画像中に投票して、リード群の存在確率を表す画像(以下「リード群領域画像」と呼ぶ)を生成した。部品領域は、縦横比が1:1(512×512[pixel] )の正方形領域になるように正規化し、リード群の投票最大数が輝度255になるように正規化してリード群が存在する領域を画像化した。使用した画像は全215枚の部品画像である。
図3はリード群領域画像の作成手順(正規化)と、215枚の部品画像の平均化により得られた平均画像を示したものである。この平均画像を見ると、リード群は部品領域の外周部分に集中していることが分かる。得られた平均画像を判別分析法により2値化したものを図4に示す。2値化の結果から、図4に示すように平均画像の各辺の長さLの1/8の長さの領域で、リードが存在する候補となるリード存在候補領域を取得し、このリード存在候補領域で切り抜いた画像をリード存在候補領域画像とする。このリード存在候補領域画像を上下左右の4箇所から取得し、それぞれのリード存在候補領域画像からリードの有無を判別する。
次に、リードの有無を判別するために、リード存在候補領域画像から周期的な特徴を抽出する手順を説明する。
前述した特許文献1等の階層型の部品種類自動判別手法(部品種類判別手段16)により異型部品と判別された部品画像から、上述した手法により取得したリード存在候補領域画像の例1〜8を図5(a)〜(d)と図6(a)〜(d)に示す。各図のリード存在候補領域画像は全て部品領域の外側が上向きになるように回転補正をかけて表示している。図5(a)〜(d)に示すリード存在候補領域画像の例1〜4は、実際にリードが存在する領域の例であり、図6(a)〜(d)に示すリード存在候補領域画像の例5〜8は、リードが存在しない領域の例である。図5(a)〜(d)に示すリード存在候補領域画像の例1〜4に関しては水平方向に規則的な輝度変化が認められる。
そこで、このリード存在候補領域画像に対して、水平方向1走査ライン毎にFFTをかけてパワースペクトル画像を作成する。FFTをかける際に2の階乗のデータ数が必要となるため、図5(a)〜(d)と図6(a)〜(d)に示すリード存在候補領域画像の例1〜8は、幅方向を全て512[pixel] となるように伸長して作成する。得られた各例1〜8のパワースペクトル画像を図5(e)〜(h)と図6(e)〜(h)に示す。図5(e)〜(h)に示すように、実際にリードが存在する画像ではパワースペクトル画像において周期的な縦線を確認できるが、図6(e)〜(h)に示すように、リードが存在しない領域の画像では周期的な縦線を確認できない。
本発明では、得られたパワースペクトル画像をテクスチャと捉え、パワースペクトル画像から高次局所自己相関(HLAC:Higher-order Local AutoCorrelation)特徴を取得し、これを特徴量とすることでリードを持つ部品かどうかを判定する手法を提案する。一般に、HLACは、文字認識や顔認識といった様々な画像処理で使用されており、汎用性の高い特徴量として用いられる。自己相関関数を高次に拡張したN次の自己相関関数は、以下の式で表される。
Figure 2016143106
ここで、Iは画像であり、変位ベクトルrとN個の変位ベクトルai (i=0,…,N)は画像の座標を持つ2次元ベクトルである。変位ベクトルの組合せ数が特徴ベクトルの次元となる。3×3の局所領域で、N=2に限定すると、濃淡画像に対し35次元の特徴ベクトルが得られる。35の組合せパターンを図7に示す。
HLACは、加法性と位置不変性の2つの性質を持つ。図5(e)〜(h)に示したパワースペクトル画像中における縦縞模様は、リード間ピッチにより出現位置が決定される。HLACの位置不変性という性質を用いることは、FFTをかける際のデータの伸長や、部品のリード間ピッチに対して非依存の特徴を得ることができるため、認識に適していると考えられる。また、パワースペクトル画像の高さは元の部品画像における部品領域により変化するため、HLAC特徴で得られた35次元の特徴量をパワースペクトル画像の面積で正規化したものを特徴量として用いている。
次に、SVMを用いたコネクタ部品の判別手法を説明する。
上述した手法で作成したリード存在候補領域画像が、実際にリードが存在する領域であるか否かを判別するため、高次元データの二値分類として定評のあるSVMを使用する。クラス間には重複する領域があることを考慮して、ソフトマージンSVMを使用し、カーネルにはRBF(Radial Basis Function )カーネルを使用する。教師データとラベルのセットを(xn ,tn )、スラック変数をξn 、Cをペナルティとすると、SVMの最適化問題は次のように表される。
Figure 2016143106
また、RBFカーネルは、γをパラメータとして、次のように表される。
Figure 2016143106
パラメータC,γの調整が識別能力に影響するため、訓練データを用いて、n分割交差確認(n-fold cross validation )を行って最適なC,γを決定する。
前述したように、従来のDPマッチングを用いた階層型の手法では、コネクタ部品の判別に誤りが多く、異型部品と誤判別されるケースが多い。そこで、本発明では、コンピュータ11は、後述する図8の部品種類自動判別プログラムを実行することで、DPマッチングを用いた階層型の手法による部品の種類を判別する部品種類判別手段16に対して、パワースペクトル画像作成手段17、HLAC特徴抽出手段18及びコネクタ部品判別手段19による判別処理を追加し、部品画像の上下左右4方向のリード存在候補領域画像のいずれかにリード群が存在すると判別された部品に関してはコネクタ部品と判別することで部品種類の判別性能を向上させるものである。
以下、コンピュータ11によって実行する図8の部品種類自動判別プログラムの処理内容を説明する。本プログラムが起動されると、まず、ステップ101で、カメラ12で撮像する位置に供給される部品を、0°、90°、180°、270°の4方向に順番に回転させて撮像し、部品画像を取得する。この後、ステップ102に進み、DPマッチングを用いた階層型の手法により部品の種類を判別する。この階層型の手法は、前記特許文献1等に詳しく記載されており、部品画像から当該部品の特徴データを抽出し、抽出した特徴データを、データベースに登録されている複数種類の部品のリファレンス用特徴データと比較して両者が最も一致する部品の種類を判別する。これらステップ101及び102の処理機能が部品種類判別手段16として機能する。
この後、ステップ103に進み、上記ステップ102の階層型の部品種類判別処理により異型部品と判別されたか否かを判定し、異型部品と判別された場合には、ステップ104に進み、異型部品と判別された部品画像についてFFTを適用してパワースペクトル画像を作成する。この際、異型部品と判別された部品画像のうちのリードが存在する候補となるリード存在候補領域画像に対してFFTを適用してパワースペクトル画像を作成する。このステップ104の処理機能がパワースペクトル画像作成手段17として機能する。
この後、ステップ105に進み、パワースペクトル画像からHLAC特徴を抽出する。このステップ105の処理機能がHLAC特徴抽出手段18として機能する。この後、ステップ106に進み、HLAC特徴を用いてリード付きのコネクタ部品を異型部品と区別して判別する。このステップ106の処理機能がコネクタ部品判別手段19として機能する。
この後、ステップ107に進み、部品種類の判別結果に応じて部品画像から当該部品の特徴データを抽出して画像処理用部品データを作成する。このステップ107の処理機能が部品データ作成手段20として機能する。尚、リード付きのコネクタ部品と判別された場合に、リードの欠損や曲がりを検出する画像処理アルゴリズムを自動選択するようにしても良い。
一方、上記ステップ103で、ステップ102の階層型の部品種類判別処理により異型部品と判別されなかったと判定されれば、上記ステップ104〜106の処理を飛び越してステップ107に進み、部品種類の判別結果に応じて部品画像から当該部品の特徴データを抽出して画像処理用部品データを作成する。
本発明者らは、本発明の部品種類自動判別手法を評価する評価実験を行ったので、以下、この評価実験について説明する。
まず、リード存在候補領域画像の判別性能を評価するために、前述したリード存在候補領域画像の作成方法を用いて、リード系の部品(IC部品、コネクタ部品)と、異型部品からリード存在候補領域画像を取得し、目視によりリード群のある画像(Positive画像)及びリード群のない画像(Negative画像)に分類した。分類の結果、Positive画像として441枚、Negative画像として737枚を得た。得られた画像に対して、10分割交差確認(10-fold cross validation)を行って正解率を求めた。周波数領域で取得した特徴量の有効性を評価するために、原画像に対してHLAC特徴を得た場合と比較した。また、特徴量の比較のために、LBP(Local Binary Pattern)をそれぞれの画像に対して用いて評価した。LBPはテクスチャ認識や顔認識で使用されており、効果的な結果が報告されている。実験結果を図9に示す。この実験結果より、HLAC、LBPのいずれを用いた手法でも周波数領域での特徴を得ることが有効であることが分かる。また、HLACとLBPの結果を比較すると、スペクトル画像に対する正解率は、HLACを用いた場合に98.2[%]で、LBPを用いた場合(96.4[%])よりも高い正解率が得られた。HLAC特徴量は35次元であり、LBPの256次元に比べ、低い次元数の特徴量で高い識別性能が得られている。
次に、自動識別器としての性能を評価するために、従来の手法(特許文献1の階層型の手法)による判別結果を表1に示し、本発明の手法による判別結果を表2に示す。
Figure 2016143106
Figure 2016143106
表1、表2の判別結果を見ると、本発明の手法では、コネクタ部品の判別性能が従来の40.0[%]から91.3[%]に大幅に向上している。IC部品の誤判別は依然として残されているが、IC部品及びコネクタ部品で使用される位置決め処理は、両方共リードを基準に位置決めして検査をするため、この誤判別は問題にならない。
一方で、本来、異型部品である部品に対し、コネクタ部品と誤判別するケースが少し増加した。コネクタ部品と誤判別した異型部品の画像の例を図10に示す。この原因は、異型部品の部品領域外周部に周期的に並ぶ形状が現れるものが存在していたためであり、このような周期的な形状が現れる異型部品に対しては誤判別してしまう可能性がある。このような部品に関しては、後工程(画像処理用部品データ作成工程)でのリードの識別処理において非リードであると認識されるため、異型部品として認識することができる。
また、コネクタ部品に関しては、8.7[%]の異型部品への誤判別が残っている。異型部品と誤判別されたコネクタ部品の画像の例を図11に示す。図11から分かるように、リード群は、部品画像の下側のリード存在候補領域画像の半分程度の領域にしか含まれておらず、周期的な縦縞模様の特徴が低下したためと考えられる。この誤判別については、リード存在候補領域の見直しなどで改善する余地がある。
以上の説明から明らかなように、従来の手法(特許文献1等の階層型の手法)で異型部品と判別された部品画像に対して、本発明の手法を用いることで、コネクタ部品の判別性能が40.0[%]から91.3[%]に大幅に向上することが確認された。部品種類全体としては、89.2[%]から96.0[%]に判別性能が向上することが確認された。部品画像において、リード群の存在する確率が高い領域から取得したパワースペクトル画像からHLAC特徴量を取得し、SVMを判別器に用いることで高い判別性能が得られることが確認できた。しかし、コネクタ部品であるにも拘らず、リード群が部品の中央部に存在するコネクタ部品に対して、異型部品と誤判別するケースが残されている。この課題に対しては、リード存在候補領域の見直しや、リードの形状の識別を組み合わせるなどの方法により精度の高い分類器を構築すれば解決できるものと思われる。
尚、本発明は、上記実施例に限定されず、システム構成等を適宜変更して実施できる等、要旨を逸脱しない範囲内で種々変更可能であることは言うまでもない。
11…コンピュータ、12…カメラ、16…部品種類判別手段、17…パワースペクトル画像作成手段、18…HLAC特徴抽出手段、19…コネクタ部品判別手段、20…部品データ作成手段

Claims (10)

  1. カメラで撮像した部品画像を処理してその部品の種類を自動判別する部品種類自動判別方法において、
    前記部品画像から高速フーリエ変換(FFT)を用いてパワースペクトル画像を作成するパワースペクトル画像作成処理と、
    前記パワースペクトル画像の周期的な特徴を抽出するために前記パワースペクトル画像から高次局所自己相関(HLAC)特徴を求めるHLAC特徴抽出処理と、
    前記高次局所自己相関特徴を用いてリードのあるコネクタ部品であるか否かを判別するコネクタ部品判別処理と
    を含むことを特徴とする部品種類自動判別方法。
  2. 前記パワースペクトル画像作成処理では、前記部品画像のうちのリードが存在する候補となる領域に対して1走査ライン毎に高速フーリエ変換を適用して前記パワースペクトル画像を作成することを特徴とする請求項1に記載の部品種類自動判別方法。
  3. 前記コネクタ部品判別処理では、前記高次局所自己相関特徴の特徴量をサポートベクターマシン(SVM)を使用して学習してリード付きのコネクタ部品であるか否かを判別することを特徴とする請求項1又は2に記載の部品種類自動判別方法。
  4. 前記カメラで撮像した部品画像から当該部品の特徴データを抽出し、抽出した特徴データを、データベースに登録されている複数種類の部品のリファレンス用特徴データと比較して両者が最も一致する部品の種類を判別する部品種類判別処理を含み、
    前記部品種類判別処理によって異型部品と判別された部品画像について、前記パワースペクトル画像作成処理、前記HLAC特徴抽出処理及び前記コネクタ部品判別処理を行ってリード付きのコネクタ部品を異型部品と区別して判別することを特徴とする請求項1乃至3のいずれかに記載の部品種類自動判別方法。
  5. カメラで撮像した部品画像を処理してその部品の種類を自動判別する部品種類自動判別システムにおいて、
    前記部品画像から高速フーリエ変換(FFT)を用いてパワースペクトル画像を作成するパワースペクトル画像作成手段と、
    前記パワースペクトル画像の周期的な特徴を抽出するために前記パワースペクトル画像から高次局所自己相関(HLAC)特徴を求めるHLAC特徴抽出手段と、
    前記高次局所自己相関特徴を用いてリードのあるコネクタ部品であるか否かを判別するコネクタ部品判別手段と
    を含むことを特徴とする部品種類自動判別システム。
  6. 前記パワースペクトル画像作成手段は、前記部品画像のうちのリードが存在する候補となる領域に対して1走査ライン毎に高速フーリエ変換を適用して前記パワースペクトル画像を作成することを特徴とする請求項5に記載の部品種類自動判別システム。
  7. 前記コネクタ部品判別手段は、前記高次局所自己相関特徴の特徴量をサポートベクターマシン(SVM)を使用して学習してリード付きのコネクタ部品であるか否かを判別することを特徴とする請求項5又は6に記載の部品種類自動判別システム。
  8. 前記カメラで撮像した部品画像から当該部品の特徴データを抽出し、抽出した特徴データを、データベースに登録されている複数種類の部品のリファレンス用特徴データと比較して両者が最も一致する部品の種類を判別する部品種類判別手段を含み、
    前記パワースペクトル画像作成手段、前記HLAC特徴抽出手段及び前記コネクタ部品判別手段は、前記部品種類判別手段によって異型部品と判別された部品画像について、前記パワースペクトル画像を作成して前記高次局所自己相関特徴を求め、リード付きのコネクタ部品を異型部品と区別して判別することを特徴とする請求項5乃至7のいずれかに記載の部品種類自動判別システム。
  9. 部品実装機で実装する部品を画像認識する際に使用する画像処理用部品データを作成する画像処理用部品データ作成方法において、
    請求項1乃至4のいずれかに記載の部品種類自動判別方法で判別した部品の種類に応じて前記部品画像から当該部品の特徴データを抽出して画像処理用部品データを作成することを特徴とする画像処理用部品データ作成方法。
  10. 部品実装機で実装する部品を画像認識する際に使用する画像処理用部品データを作成する画像処理用部品データ作成システムにおいて、
    請求項5乃至8のいずれかに記載の部品種類自動判別システムで判別した部品の種類に応じて前記部品画像から当該部品の特徴データを抽出して画像処理用部品データを作成する部品データ作成手段を備えていることを特徴とする画像処理用部品データ作成システム。
JP2017504511A 2015-03-11 2015-03-11 部品種類自動判別方法及び部品種類自動判別システム並びに画像処理用部品データ作成方法及び画像処理用部品データ作成システム Active JP6504682B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2015/057220 WO2016143106A1 (ja) 2015-03-11 2015-03-11 部品種類自動判別方法及び部品種類自動判別システム並びに画像処理用部品データ作成方法及び画像処理用部品データ作成システム

Publications (2)

Publication Number Publication Date
JPWO2016143106A1 true JPWO2016143106A1 (ja) 2017-12-21
JP6504682B2 JP6504682B2 (ja) 2019-04-24

Family

ID=56878614

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017504511A Active JP6504682B2 (ja) 2015-03-11 2015-03-11 部品種類自動判別方法及び部品種類自動判別システム並びに画像処理用部品データ作成方法及び画像処理用部品データ作成システム

Country Status (5)

Country Link
US (1) US10559076B2 (ja)
EP (1) EP3270351B1 (ja)
JP (1) JP6504682B2 (ja)
CN (1) CN107533748B (ja)
WO (1) WO2016143106A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6818252B2 (ja) * 2017-03-14 2021-01-20 オムロン株式会社 データベース装置、学習結果管理方法、及びそのプログラム
CN109166261B (zh) * 2018-10-11 2022-06-07 平安科技(深圳)有限公司 基于图像识别的图像处理方法、装置、设备及存储介质
JP7092889B2 (ja) * 2018-10-31 2022-06-28 Jx金属株式会社 電子・電気機器部品屑の組成解析装置、電子・電気機器部品屑の処理装置及び電子・電気機器部品屑の処理方法

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06242013A (ja) * 1993-02-16 1994-09-02 Matsushita Electric Ind Co Ltd 欠陥検査装置

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6813377B1 (en) * 1999-08-06 2004-11-02 Cognex Corporation Methods and apparatuses for generating a model of an object from an image of the object
US6647132B1 (en) * 1999-08-06 2003-11-11 Cognex Technology And Investment Corporation Methods and apparatuses for identifying regions of similar texture in an image
JP3966189B2 (ja) * 2003-02-27 2007-08-29 オムロン株式会社 基板検査方法およびこの方法を用いた基板検査装置
EP1967988B1 (en) * 2004-07-22 2010-04-07 NEC Corporation Image processing system
WO2006020779A2 (en) * 2004-08-10 2006-02-23 Dow Global Technologies Inc. Targeting chelants and chelates
JP4674853B2 (ja) 2005-06-03 2011-04-20 富士機械製造株式会社 画像処理用部品データ作成方法及び画像処理用部品データ作成装置
US7664324B2 (en) * 2005-11-30 2010-02-16 Iscon Video Imaging, Inc. Methods and systems for detecting concealed objects
JP4165580B2 (ja) * 2006-06-29 2008-10-15 トヨタ自動車株式会社 画像処理装置及び画像処理プログラム
JP2009188720A (ja) * 2008-02-06 2009-08-20 Panasonic Corp 固体撮像装置およびその製造方法
JP2010246883A (ja) * 2009-03-27 2010-11-04 Mitsubishi Electric Corp 患者位置決めシステム
CN103942544B (zh) * 2009-12-22 2017-11-28 松下电器产业株式会社 动作解析装置
EP2537141B1 (en) * 2010-06-10 2016-03-30 Sartorius Stedim Biotech GmbH Assembling method, operating method, augmented reality system and computer program product
KR101515184B1 (ko) * 2010-06-11 2015-04-24 가부시키가이샤 리코 정보 저장 장치, 탈착 장치, 현상제 용기 및 화상 형성 장치
JP6235886B2 (ja) * 2013-01-08 2017-11-22 キヤノン株式会社 生体組織画像の再構成方法及び装置並びに該生体組織画像を用いた画像表示装置
CN106415192B (zh) * 2014-06-06 2019-05-03 株式会社富士 引线图像识别方法及识别装置以及图像处理用元件数据生成方法及生成装置
JP6962673B2 (ja) * 2016-09-12 2021-11-05 株式会社ジャパンディスプレイ 樹脂基板

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06242013A (ja) * 1993-02-16 1994-09-02 Matsushita Electric Ind Co Ltd 欠陥検査装置

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
亀田 和宏: "ウェーブレット解析を用いた部品の自動仕分けに関する研究", 日本ロジスティクスシステム学会 第7回全国大会予稿集 オンデマンドロジスティクス・SCMの展望 PROC, JPN6019009971, 22 November 2004 (2004-11-22), JP, pages 1 - 5 *
鬼頭 秀一郎: "電子部品のリード形状データの自動生成", SSII2014 第20回画像センシングシンポジウム 講演論文集 [CD−ROM] THE 20TH SYMPOSI, JPN6019009970, 11 June 2014 (2014-06-11), JP, pages p.IS1-27-1−p.IS1-27-6 *

Also Published As

Publication number Publication date
US20180047145A1 (en) 2018-02-15
US10559076B2 (en) 2020-02-11
EP3270351A4 (en) 2018-12-12
EP3270351A1 (en) 2018-01-17
CN107533748A (zh) 2018-01-02
WO2016143106A1 (ja) 2016-09-15
JP6504682B2 (ja) 2019-04-24
EP3270351B1 (en) 2023-03-01
CN107533748B (zh) 2020-08-11

Similar Documents

Publication Publication Date Title
CN106778586B (zh) 离线手写签名鉴别方法及系统
US8792715B2 (en) System and method for forms classification by line-art alignment
JP6061713B2 (ja) 検査装置、検査方法及びプログラム
JP4232800B2 (ja) ラインノイズ除去装置、ラインノイズ除去方法、ラインノイズ除去プログラム
JP2013167596A (ja) 欠陥検査装置、欠陥検査方法及びプログラム
US20080013803A1 (en) Method and apparatus for determining print image quality
JP6352695B2 (ja) 文字検出装置、方法およびプログラム
TW201616395A (zh) 指紋辨識方法
US20070201733A1 (en) Fingerprint collation apparatus, fingerprint pattern area extracting apparatus and quality judging apparatus, and method and program of the same
CN106033535A (zh) 电子阅卷方法
CN111814852B (zh) 图像检测方法、装置、电子设备和计算机可读存储介质
CN107239792A (zh) 一种基于二进制描述子的工件识别方法及装置
US20130243251A1 (en) Image processing device and image processing method
CN111507344A (zh) 从图像中识别出文字的方法和装置
US9672439B2 (en) Object detection apparatus object detection method and storage medium
Hagi et al. Defect classification of electronic circuit board using SVM based on random sampling
JP6504682B2 (ja) 部品種類自動判別方法及び部品種類自動判別システム並びに画像処理用部品データ作成方法及び画像処理用部品データ作成システム
CN113435219B (zh) 防伪检测方法、装置、电子设备及存储介质
CA2999099C (en) Method and system for extracting information from hand-marked industrial inspection sheets
JP2007018176A (ja) 学習装置、学習方法、学習プログラム、記録媒体、パターン認識装置およびパターン認識方法
KR101473991B1 (ko) 얼굴 검출 방법 및 그 장치
CN101075295B (zh) 被动式及交互式实时影像辨识方法
JP2009259190A (ja) 文字認識プログラムおよび文字認識装置
Iwahori et al. Discrimination of true defect and indefinite defect with visual inspection using SVM
KAMIL et al. An Improved Iris Segmentation using Pupil Candidate Bank for Non-Cooperative Iris Recognition

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180105

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190320

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190322

R150 Certificate of patent or registration of utility model

Ref document number: 6504682

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250