JPH09275272A - 相関神経回路網を利用した半田付け検査装置およびその方法 - Google Patents

相関神経回路網を利用した半田付け検査装置およびその方法

Info

Publication number
JPH09275272A
JPH09275272A JP8224189A JP22418996A JPH09275272A JP H09275272 A JPH09275272 A JP H09275272A JP 8224189 A JP8224189 A JP 8224189A JP 22418996 A JP22418996 A JP 22418996A JP H09275272 A JPH09275272 A JP H09275272A
Authority
JP
Japan
Prior art keywords
soldering
image
neural network
learning
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP8224189A
Other languages
English (en)
Inventor
Shotei Kin
鍾 亭 金
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Samsung Electronics Co Ltd
Original Assignee
Samsung Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Samsung Electronics Co Ltd filed Critical Samsung Electronics Co Ltd
Publication of JPH09275272A publication Critical patent/JPH09275272A/ja
Pending legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H05ELECTRIC TECHNIQUES NOT OTHERWISE PROVIDED FOR
    • H05KPRINTED CIRCUITS; CASINGS OR CONSTRUCTIONAL DETAILS OF ELECTRIC APPARATUS; MANUFACTURE OF ASSEMBLAGES OF ELECTRICAL COMPONENTS
    • H05K3/00Apparatus or processes for manufacturing printed circuits
    • H05K3/30Assembling printed circuits with electric components, e.g. with resistor
    • H05K3/32Assembling printed circuits with electric components, e.g. with resistor electrically connecting electric components or wires to printed circuits
    • H05K3/34Assembling printed circuits with electric components, e.g. with resistor electrically connecting electric components or wires to printed circuits by soldering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/95Investigating the presence of flaws or contamination characterised by the material or shape of the object to be examined
    • G01N21/956Inspecting patterns on the surface of objects
    • G01N21/95684Patterns showing highly reflecting parts, e.g. metallic elements
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01RMEASURING ELECTRIC VARIABLES; MEASURING MAGNETIC VARIABLES
    • G01R31/00Arrangements for testing electric properties; Arrangements for locating electric faults; Arrangements for electrical testing characterised by what is being tested not provided for elsewhere
    • G01R31/28Testing of electronic circuits, e.g. by signal tracer
    • G01R31/302Contactless testing
    • G01R31/308Contactless testing using non-ionising electromagnetic radiation, e.g. optical radiation
    • G01R31/309Contactless testing using non-ionising electromagnetic radiation, e.g. optical radiation of printed or hybrid circuits or circuit substrates
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01RMEASURING ELECTRIC VARIABLES; MEASURING MAGNETIC VARIABLES
    • G01R31/00Arrangements for testing electric properties; Arrangements for locating electric faults; Arrangements for electrical testing characterised by what is being tested not provided for elsewhere
    • G01R31/50Testing of electric apparatus, lines, cables or components for short-circuits, continuity, leakage current or incorrect line connections
    • G01R31/66Testing of connections, e.g. of plugs or non-disconnectable joints
    • G01R31/70Testing of connections between components and printed circuit boards
    • G01R31/71Testing of solder joints
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30152Solder

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Health & Medical Sciences (AREA)
  • Pathology (AREA)
  • General Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Biochemistry (AREA)
  • Electromagnetism (AREA)
  • Immunology (AREA)
  • Toxicology (AREA)
  • Quality & Reliability (AREA)
  • Theoretical Computer Science (AREA)
  • Manufacturing & Machinery (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Tests Of Electronic Circuits (AREA)
  • Electric Connection Of Electric Components To Printed Circuits (AREA)

Abstract

(57)【要約】 【課題】 新たな映像が入って来るとき認識しようとす
る対象の階層がお互いに類似しており、検査対象の位置
が一定しないときにも信頼性の良くPCBの半田付け部
の形状を認識して前記半田付け部を検査することができ
るようにした相関神経回路網を利用した半田付け検査装
置およびその方法を提供する。 【解決手段】 カメラと同軸をなす三色円形の照明下で
前記半田付け部の3次元的な映像を抽出するための半田
付け形状の測定手段と、該半田付け形状の測定手段から
抽出された映像情報を受け入れて分類しようとする階層
の境界条件を学習し、新たな映像が入って来るとき、そ
の標本学習データをもって人間の分類能力を真似して前
記半田付け部の映像情報に対する分類の条件を認識する
半田付け形状の認識手段から構成される。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は印刷回路基板(以
下、PCBという)の半田付け部を人工知能技法による
形状認識アルゴリズムによって標本形状に対して柔軟に
学習して多数階層の半田付け部の形状を検査することが
できる装置およびその方法に関し、より詳しくには三色
円形の照明装置下で半田付け部のカラー映像を得てお
り、前記人工知能技法による形状認識のアルゴリズムを
有する相関神経回路網を利用して各カラーパターン間の
交叉−相関(cross-correlation )と自己−相関(auto
-correlation)関係を計算して、その計算結果によって
前記半田付け部が良/不良を判定する分類条件を学習す
ることによって、新たな映像が入って来るとき、認識し
ようとする対象の階層がお互いに類似して検査対象の位
置が一定しないときでも信頼性の良好に前記PCBの半
田付け部の形状を認識させて前記半田付け部を検査する
ことができるようにした相関神経回路網を利用した半田
付け検査装置およびその方法に関する。
【0002】
【従来の技術】最近、電子機器の小型化・軽量化・高機
能化により電子部品を高密度の回路基板に内装するため
の表面実装技術(Surface-Mounting Technology ;以
下、SMTという)の開発が多方面に進行中であるが、
このSMTは上記PCB表面に設けられた電気的な導体
の表面にチップ状の部品および平面IC等の表面実装形
の部品(ソルダーペースト)を正しいPCB上に搭載し
た後接着させる方法であり、現在、数多くの電子製品内
にこのようなSMTによって組み立てられたPCBが高
い割合で使われている。上記のようなSMTを用いたP
CB組立工程においては多くの自動化の組立装備が開発
されて高い生産性を遂げており、現在産業体から生産さ
れているPCB組立用の部品の大きさは小型化され基板
上の密度はずっと過多に増加している実状である。した
がって、一枚のPCB内において検査すべき検査点の数
も遙かに増加し、その処理時間面においても高速化され
た検査システムが求められている。
【0003】しかし、組み立てられたPCBを検査する
検査器の開発はまだ進められず人間の目視検査に依存す
る場合が大抵であるが、このような目視検査はPCB上
の部品の密度が高くなる程、その信頼性および全体の生
産性面において限界に至っており、オペレータがこのよ
うな微小な部品の欠陥を検査することは大変単純でかつ
煩雑な作業であり検査の信頼性が常に均一に保障されて
いない。このような理由のため、PCB組立工程におけ
る目視検査作業は一つの目詰まりとなって、次第に一枚
のPCBの生産コストが高くなるので、或る一つの部分
の欠陥によってPCBを無駄にする場合、これによるそ
の経済的な損失は次第に深刻になっている。したがっ
て、PCB製造工程における検査作業の自動化は高品質
性や高生産性を要求する産業界の現実に鑑みるときなる
べく迅速に自動化されなければならない課題として残さ
れていたのである。
【0004】前記のSMTにおいて実施される検査作業
の中で、特に前記の半田付け部の検査は最終製品の品質
を左右する大変重要な工程中の一つであるけれども、前
記半田付け部の検査は他の検査作業に比べて対象そのも
のが極小であり、その品質の境界が曖昧で人が検査する
のには極めて煩雑でたやすく疲労が感じられる作業であ
り、また自動化するのにとても難しい部分と見做されて
いた。このPCBに関連したコンピュータービジョン
(computer vision )分野やマシンビジョン(machine
vision)分野における多大な研究結果が発表されたが、
実際に半田付け検査を対象として発表された結果や実際
の適用例題が過少な実状であり、特に半田付け検査の自
動化装備の開発における難題は前記半田付け部の鏡面の
反射特性による形状測定上の難しさと品質による形状認
識および分類問題に圧縮されることができる。
【0005】その中で、まず前記半田付け部形状の測定
上の問題を見ると、その検査すべき前記半田付け部は測
定部位が極小であり、3次元的な形状の特徴をもってい
るので、2次元の映像によってこれを表現することが大
変難しいばかりではなく、その表面が鏡面からなってい
て、その照明条件や見る角度により認識し誤る場合がよ
く生ずる。即ち、若干の照明条件の変化や視覚の変化に
も前記半田付け部から反射される形態や反射される光の
明るさが大変敏感に変化してしまうので、従来の視覚認
識の技法中の反射される光の明るさの程度に応じて3次
元の物体を認識する方法は前記半田付け部のように鏡面
の反射特性が強い対象に対しては信頼性が低下してしま
う不都合が随伴するので、より良好に整頓され、かつ、
計測された照明と視覚装置とを利用しなければ、安定し
た、かつ、信頼性の良好な映像が取られない。
【0006】一般に、PCB上の前記半田付け部はIC
リードとPCB上とのパッド間に形成されており、その
表面は過小で、きらめく曲面の形状であって半田の造成
および不純物、流体の種類および量、適切な加熱温度お
よび時間等の影響を受ける。このような前記半田付け部
の特性を調べるために既存の数種類の前記半田付けの検
査装備が開発されているが、現在まで知られている測定
方法を原理的な側面から見ると、第一に、最も一般的な
方法であり、一定の照明を前記半田付け部に投射して前
記半田付け部の表面の形状に現れる視覚的な特徴を用い
て検査する方法がある。第二には、X線投射の方法で外
観の形状と関係なしに実際にリード部とPCBとのパッ
ド間の欠陥の可否を調べる方式であるもののこの方式は
内部の欠陥も測定することができることに対し、その測
定装備のコストが高く、外観から来る物量の要因は測定
することができない短所がある。また、温度の測定法で
あり、前記半田付け部の形状よりはリードとPCBのパ
ッドが接触されたか否かを確認する方法があるが、これ
は、まず、前記リード部位を加熱した後、一定の時間が
経過した後リードの温度を測定して結果を判定し、この
とき半田付けによってリードが良好に接触された場合に
は加えられた熱が前記半田付け部を通じて良く伝達され
てリードの温度が高くないし、そうではない場合には加
熱された熱が他のところへ伝達されなくて、前記リード
部の温度が高く維持されているので、これを測定して前
記半田付けの状態を判断することになるが、この方法は
熱伝導の特性が変わる都度に測定の特性も変わる問題点
があった。
【0007】一方、広く使われている視覚認識による前
記半田付け部の検査方式も学問的ばかりではなく、企業
体でも数多くの研究が行われていたが、実際に常用化さ
れたものはあまりにも少なく、1985年以降前記半田
付け部の検査関連の特許は日本と米国を中心として多く
出願された。この中で、視覚または光学検査による測定
方法中の実現可能性のあるものだけをまとめて見ると、
大略14件程度になる。その中で、前記視覚認識による
測定方法は、測定の原理的な側面から三角測量(Triang
ulation )を基として前記半田付け部の高さの差を測定
する方法と表面において光の反射の差により前記半田付
け部の傾斜面を測定する方法に分けられる。
【0008】先ず、第一に、前記視覚認識による測定方
法として前記半田付け部の3次元的な形状を三角測量に
よって直接に捜し出す方法は、主にレーザービームを利
用して作った構造化された光(Structured light)を使
用するもので、前記レーザービームは交叉する物体の位
置に応じて映像上に結像する位置が変わるので、映像上
の点の位置と前記レーザービームの投射角度を知るとカ
メラにより本体までの距離を測定することができるので
ある。その中の一つの方法においては、シリンダー形態
のレンズをレーザーの前に位置させて直線形態の構造化
された前記レーザービームを利用して前記半田付け部の
検査に応用したが、この方法は極めて細い直線のビーム
を前記半田付け部に沿って多数回順次にその位置を変え
ながら検査する。このときの直線は前記半田付け部の3
次元の映像に向い合いつつ歪曲されるので、カメラによ
ってその直線の歪曲の形態を探し、その直線の歪みの程
度は3次元の形状の差から表われるので、これらの歪曲
された直線をもって前記半田付け部の3次元の形状を類
推することができる。
【0009】この場合、前記カメラ上において直線の特
徴を抽出するには長時間が所要されることはないが、一
枚のPCBに全体的に多くの前記半田付け部をすべて検
査するのには長時間がかかり、また前記半田付け部に正
確に直線のビームを投射するためには大変精巧な器具部
を必要とする。また、一般的なレーザー投射用の3次元
の距離センサーは測定面がレーザーが投射される軸に対
して15°以上傾斜されると高さの測定が難しくなるの
で、したがって、このようなセンサーを使用すれば前記
半田付け部に対する完全な形態の復元が難しくなる問題
点があった。
【0010】また、第二の方法は、測定の対象である前
記半田付け部から反射される光の明暗の差異によって検
査する方式であり、良好にまとめられた照明下で半田付
け部位を見るとき表面の傾斜度に応じて反射される光の
方向が変化されて映像上の明るさの差をもたらすので、
照明と視覚センサー、反射面の特性等が反射モデルを利
用して与えられた映像センサー上の明るさから前記半田
付け部の3次元の形状を類推して、これによって前記半
田付け部の良/不良を検査した。一般に、前記半田付け
部の3次元の形状は幾つかの代表的な法線ベクトルの集
合ということができ、その形状または不良の形状により
各々異なる法線ベクトルの集合を有する。特定の幾つか
の他方向から光源を照射して表われる明暗の情報からこ
のような法線ベクトルの集合を求めて良質の前記半田付
け部の集合特性と不良の集合の特性とを比較して良/不
良の前記半田付け部を認識および検査した。
【0011】しかし、このような方法で前記半田付け部
を測定するのにおける最も難しい点は前記半田付け部の
表面が極めて鏡面であるので、一般的な1個の点光源に
よる照明方式によって前記半田付け部の3次元の形状を
知ることができる視覚的な特徴を抽出することができな
いばかりではなく、照明の位置や大きさに応じてその反
射特性が非常に変化する。したがって、その中の一つの
提案方法は強いものでも均一かつ充分に分散した照明を
使用して前記半田付け部を照明し反射される明暗のパタ
ーンと良/不良の形態との関係を正常的に解析し、これ
を基として検査アルゴリズムを構成した。さらに別の提
案方法は4個の点光源と1個の分散照明を使用して前記
半田付け部を検査するものであるが、これらによって得
られる前記視覚情報は極めて制限的であって、前記半田
付け部の多様な形状のすべてを測定することができな
い。したがって、実際に常用化されて検査に使われる照
明方式は先にも触れた多点方式(multi-point sources
)の照明装置が採択された。それは円形のランプを積
層して前記半田付け部の鏡面の反射によって生じられる
明るい明暗の情報を利用して前記半田付け部の形状を認
識し検査した。また、さらに別の提案方法は127個の
光繊維を半球上に均一に植えて順次的に照明することに
よって、照明する1個の光源とこれに一致する法線を有
する表面を探す方法で前記半田付けのような鏡面の反射
物体を認識しようとした。このような方法においては、
前記半田付け部の3次元的な形状の特徴を表面の傾斜度
の分布により解析し、これらと品質との関係を定立し
て、これに基づいて検査作業を遂行し、このような方法
は比較的に測定器具も簡単であり、与えられた問題によ
り部分的にのみ傾斜度の分布から3次元の形状も復元す
ることができた。
【0012】次に、前記半田付け部の形状認識および分
類問題を見ると、前記半田付け部の検査自動化における
難題の中の一つは前記半田付け部の形状やその不良の形
態が多様でその検査基準が決定し難いということであ
る。たとえ、良品の半田付け部であっても、その形態が
非常様様で1個のモデルや規則をもってこれらを検査す
ることが難しく、またその基準も半田付けの材質や部品
の種類により少しずつ異なる。そして、前記半田付け部
の表面の鏡面の反射特徴以外に同じ品質の等級に属する
前記半田付け部の間にもその形状の差が多様で、1個の
モデルや検査基準によりこれらを分類・認識することが
難しい。また、その検査基準も部品の種類や基板の種類
により少しずつ異なることもあるが、このような点は検
査アルゴリズムを開発するに慎重に考慮すべき点であ
る。前記半田付けの検査のための従来の検査/分類アル
ゴリズムはその確率的な統計資料や固定された規則に基
づいた方式が大いに提案された。その中で、前記の確率
的な統計に依存する方法は各品質の等級に対する充分な
統計的な資料を要求しており、これらは数多くの試料と
実験を介して得ることができる。前記の固定された規則
に基づく方式は予想せぬ試料に対して柔軟性が欠如する
短所がある。このような点は実際の適用時によく発生さ
れることができる問題であるので、これらに対する対策
のない場合、実際の問題に適用するのには相当な難しさ
が伴う。
【0013】
【発明が解決しようとする課題】本発明は前記のような
従来の半田付け部の形状認識の問題点を克服するために
提案されたものであり、その目的は特別の照明の条件下
で抽出される制限された任意の標本学習データをもって
効率的に人間の分類能力を真似ることができる人工知能
技法による形状認識のアルゴリズムを利用することによ
って、前記半田付け部のような非線型的な形状の分類認
識に適用することができる相関神経回路網を利用した半
田付け検査装置およびその方法を提供することにある。
【0014】
【課題を解決するための手段】上記目的を達成するため
の本発明による相関神経回路網を利用した半田付け検査
装置の特徴は、多色の照明下で前記半田付け部の3次元
的な映像を抽出するための半田付け形状の測定手段と、
該半田付け形状の測定手段から抽出された映像情報を受
け入れて分類しようとする階層の境界条件を学習し、新
たな映像が入って来るとき、その標本学習データをもっ
て人間の分類能力を真似して前記半田付けの映像情報に
対する分類条件を認識する半田付け形状の認識手段とか
ら構成されることにある。
【0015】上記の目的を達成するための本発明による
相関神経回路網を利用した前記半田付けの検査方法の特
徴は、カメラと同軸を成す多色の照明下で得られた前記
半田付け部の3次元的な映像情報を前記半田付け部の検
査のためのより有意義であり、かつ、簡単な情報に変換
する前処理過程と、前記前処理過程において計算された
結果をユーザが判定する結果と比較して制限された標本
に対して神経回路網のシナプス加重値を学習する学習過
程とからなることにある。
【0016】
【発明の実施の形態】以下、本発明の一実施例による相
関神経回路網を利用した前記半田付け検査装置およびそ
の方法を添付の図面に基づいて詳細に説明する。図1は
本発明の一つの実施例による相関神経回路網を利用した
前記半田付け検査装置の全体的な構成を概略的に示した
ブロック図であり、図に示されているようにカメラと同
軸を成す三色円形の照明下で前記半田付け部の3次元的
な標本映像情報を抽出し出す前記半田付け形状の測定手
段は前記半田付け部検査領域1と同軸上に位置して前記
半田付け部2およびリード部3から反射されてズームレ
ンズ4を通して入って来る外部のカラー映像信号をイメ
ージピックアップ素子(例えば、CCD(charge coupl
ed device )型の固体撮像素子)によって入力を受けて
電気的な信号に変換するカラーカメラ部5と、該カラー
カメラ部と同軸を成すように順次的に積層した状態にお
いて前記半田付け部検査領域1に反射角がお互いに異な
る赤色R,緑色G,青色Bの光を照射する三色照明部6
と、前記カラーカメラ部の出力からそれぞれのRフレー
ム7RとGフレーム7GとBフレーム7Bを取得するカ
ラー映像取得部7とから構成されることを示している。
【0017】前記三色照明部6は鏡面の半田付け部の表
面にそれぞれ赤色と緑色と青色の光をお互いに異なる角
度から照射するためにカラーカメラ部と同軸を成す3個
の赤、青、そして緑色から構成された円形の高周波ネオ
ン燈6R,6G,6Bからなり、ここで青色の高周波ネ
オン燈6Bは直径を40mm,赤色の高周波ネオン燈6R
は70mm,緑色の高周波ネオン燈6Gは130mmに選定
し、検査する検査対象であるPCBに照射される角度は
その中心軸を基準として青色の高周波ネオン燈6Bはθ
S1=20°,赤色の高周波ネオン燈6RはθS2=40
°,そして緑色の高周波ネオン燈6GはθS3=70°と
なるように固定することが望ましい。
【0018】前記半田付け形状の測定手段から抽出され
た映像情報を受け入れて分類しようとする階層の境界条
件を学習し、新たな映像が入って来るとき、その学習デ
ータをもって効率的に人の分類能力を真似て前記半田付
け部の映像情報に対する分類条件を認識する人工知能技
法による前記半田付け形状の認識手段は、特定な照明の
条件の下に前記カラー映像取得部から抽出される制限さ
れた任意の標本映像情報を前記半田付け部の検査のため
のベクトル情報に変換して前記半田付け部の形状に対し
て分類しようとするパターン階層の相関関係を計算し、
その相関値とユーザの判定値に対する比較結果によって
神経細胞のシナプス加重値を学習して前記半田付け部の
標本映像情報に対する分類条件を人工知能技法で認識す
る相関神経回路網10から構成することを示している。
【0019】図2は図1の各高周波ネオン燈6B,6
R,6Gから前記半田付け部の傾斜面の傾きによりカラ
ーカメラ部5が得ることができる映像情報を説明するた
めの参考図であって、図2の(A)は前記半田付け部の
傾斜面の傾きθn1が約10°程度である場合の反射条件
であり、(B)は前記半田付け部の傾斜面の傾きθn2
約20°である場合の反射条件であり、(C)は前記半
田付け部の傾斜面の傾きθn3が約35°である場合の反
射条件を示している。
【0020】ここで、円形の高周波ネオン燈はカラーカ
メラ部と同軸を成す3個の赤、青、そして緑色の三つの
色彩であり、検査する検査対象であるPCBに照射され
る角度はその中心軸を基準として青色の高周波ネオン燈
6BはθS1=20°,赤色の高周波ネオン燈6RはθS2
=40°,そして緑色の高周波ネオン燈6GはθS3=7
0°に固定しているので、したがって三つの燈を同時に
灯したとき一枚の映像においてθn1=10°の傾斜度を
成す平らな面は青色に、θn2=20°の傾斜度を成す若
干傾斜した面は赤色に、そしてθn3=35°の傾斜面を
成す急傾斜面は緑色に区別されて現われるようになり、
このような差に因って円形の照明を順に灯す効果を一枚
のカラー映像から得られることを示している。
【0021】図3は図1の相関神経回路網の一つの実施
例を示した模型図であって、図示のように1次元的にベ
クトル化されたベクトル列の入力されうる複数の入力ノ
ード11と映像パターン間の相関値を計算する複数の相
関ノード12とからなっていて、前記カラー映像取得部
7から抽出されたカラー映像を前記半田付け部の検査の
ためのより意義のあり、かつ、簡単な情報に変換するこ
とによって、1個の映像内に3つの相異している色彩を
有するパターン(分類階層)間の相関関係を計算する前
処理部10Aと、2段階の計算ノード14,15からな
り、前記前処理部で計算された相関値によって各標本パ
ターンに対する誤差EP および標準偏差Eを計算してか
ら、汎用のデルタ規則に基づき制限された標本映像情報
の分類条件を学習する学習部10Bとから構成されてい
る。同図における未説明の符号13は前処理部の各相関
ノードで計算された結果を直接に入力されるための単純
接続ノードである。
【0022】図4は本発明による相関神経回路網を利用
した半田付け検査方法のフローチャートであって、前記
カメラと同軸を成す三色円形の照明下で得られた前記半
田付け部の3次元的な映像情報を前記半田付け部の検査
のためのより有意義であり、かつ、簡単な情報に変換す
る前処理過程と、前記前処理過程から計算された結果を
ユーザが判定する結果と比較して制限された標本に対し
て神経回路網のシナプス加重値を学習する学習過程とか
らなる。ここで、前記前処理部の相関値の計算過程およ
び学習部のパターンの分類条件の学習過程を見ると、前
記カメラと同軸を成す三色の照明下で抽出(S10)さ
れた前記半田付け部の3次元的な標本映像情報を入手し
てより小さい大きさの縮小映像に変換する映像縮小段階
(S11)と、前記映像縮小段階において変換された縮
小映像の各画素を1次元のベクトルに表現する縮小映像
ベクトル化段階(S12)と、前記縮小映像ベクトル化
段階において1次元のベクトル化された各画素ベクトル
間の相関値を計算する相関値計算段階(S13)と、前
記相関値計算段階で計算されたベクトル相関値をユーザ
が判定する結果と比較して各標本パターンに対する誤差
および各標本パターンの平均誤差函数を求めるための学
習作業を開始する学習実行段階(S14)と、前記学習
実行段階から得られる誤差函数を利用して神経回路(セ
ル)のシナプス加重値を学習するシナプス加重値学習段
階(S15)とに区分することができることを示してい
る。
【0023】図5は上記図3の前処理部で実施される前
記半田付け部の3次元的な標本映像情報の縮小段階を説
明するための参考図であって、図5(A)は元の映像I
0 (u,v)であり、図5(B)は縮小映像IC (i,
j)とその縮小映像内の元の映像を示している。ここ
で、前記u,vは元の映像の画素の座標であり、前記
i,jは縮小映像の画素の座標であり、そしてk,lは
縮小映像内の元の映像画素の座標を示す。
【0024】図6は上記図3の任意相関ノード12を詳
細に示した図であって、同図においては3次元的な二つ
のカラー映像情報が前処理部のベクトル化段階をへて1
次元のベクトルに変換された二つのカラーベクトル列C
1 ,C2 と前記ベクトルの間の相関値を計算する前記相
関ノード12を示しており、前記相関ノード12には交
叉乗の演算子12aおよびシグマ演算子12bが含まれ
ていることを示している。
【0025】図7は本発明において前記半田付け部の大
きさによる分類基準と前記半田付け部の種類とそれによ
り映像に表われるカラー分布を示しているもので、同図
に示されているように前記半田付け部の大きさにより未
半田付け、未半田付け正常、正常、正常過半田付け、そ
して過半田付けの5個の等級に分けており、前記未半田
付け映像においては青色パターン(図面における余白に
表示されている)が主に表われ、前記未半田付け正常映
像においては若干の緑色パターン(図面における黒色に
表示されている)と赤色パターン(図面における多数の
点に表示されている)が現われはじめ、前記正常映像に
おいてはリードから緑色パターン、赤色パターン、青色
パターンが順次的に表われ、前記過半田付け正常映像に
おいては主に赤色パターンが多く表われ、前記過半田付
け映像においては青色パターンが赤色パターンと緑色パ
ターンで囲まれている形態を取っている。
【0026】図8は本発明による神経回路網の前処理過
部で実施される1次元のベクトル化段階を説明するため
の参考図であって、同図(A)は4×5画素大きさの縮
小映像の一例を示しており、(B)は前記縮小映像をそ
れぞれの緑色と赤色と青色に対して1次元のカラーベク
トルG1〜5,R1〜5,Y1〜5に表現した例を示し
ている。
【0027】図9から図11はそれぞれ4×5縮小映像
の場合と8×10縮小映像の場合と12×15縮小映像
の場合に対して本発明の神経回路網の学習能力を説明す
るための参考図であり、それぞれの図面においては縮小
映像の大きさと学習部の神経回路網の構造による学習能
力の差異を示している。ここでは、一旦、シナプス加重
値が学習され、全体の学習誤差が小さくなると分類作業
時に正確度も平均的に95%を上回る。実験の結果から
50×60画素の元の映像を縮小するに際して、その縮
小映像の大きさが8×10であれば、与えられた問題を
充分に解することができることを示している。
【0028】図12は収用可能な等級に属する加えられ
たガウス雑音を持つ半田付け部の窓(ウインドー)の映
像を示している。テストは4×5,8×10および12
×15の大きさの縮小映像に対して実行する。分類結果
は前処理段階の無い後方伝播回路網と比較される。前記
後方伝播回路網は5出力ノード、120ノードを持つ単
一の隠れ層、それから8×10縮小カラー映像のすべて
の画素を捕獲する240入力ノード(8×10×3)か
ら構成する。
【0029】図13は4×5前記縮小映像の大きさWと
8×10前記縮小映像の大きさYと12×15前記縮小
映像の大きさZと後方伝播回路網の場合Xを比較しなが
ら本発明の相関神経回路網の克服能力を説明するための
参考図で、同図(A)はガウス雑音σによる誤謬の分類
率(%)を示しており、(B)は画素の位置変動による
誤謬の分類率(%)を示している。
【0030】以上のような本発明による相関神経回路網
を利用した前記半田付け検査装置およびその方法の作用
および効果を次に説明する。まず、本発明による相関神
経回路網を利用した前記半田付け部の検査のために前提
の種々の背景および条件を説明する。本発明による相関
神経回路網を利用した前記半田付け部の検査装置におい
ては前記半田付け部の3次元的な情報を抽出するために
前記カラーカメラ部5の前記ズームレンズ4と同軸を成
す三色円形の高周波ネオン燈6G,6R,6Bを順に積
層するとき検査物体の大きさに比べてそれぞれの円形の
高周波ネオン燈が大変大きいとすると、円形の高周波ネ
オン燈は対象物体(検査領域内の半田付け部)に殆ど同
一な傾斜角をもって光を投射することができるようにな
るので、それによって表われる映像上の鏡面の反射特徴
は前記カラーカメラ部の軸に対する燈の傾斜も軌跡また
は曲線で表われる。そして、前記半田付け部は極小な曲
面に形成されて鏡面の反射特性を有しており、一般的に
鏡面の反射特性を有する表面、即ち前記リード部、半田
付け部等は傾斜度によりそれぞれ異なる色彩を鮮明に帯
びているが、プラスチックパッケージやPCBの底面等
の乱反射の特性を有している部分は元の材質の固有の色
彩を帯びているので、これらの形状を検査することにお
いて円形の照明方式が極めて効果的に用いられる。
【0031】そして、本発明による相関神経回路網を利
用した前記半田付け部の検査方法においては、ベクトル
相関神経回路網を利用した方法で円形の照明方式によっ
て抽出された3次元の前記半田付け部の映像パターンの
相互関係を1次元のベクトル相関項に表わすようにな
り、このとき映像パターンをベクトル化する過程および
相関値を計算する過程は予め前記半田付け部の品質によ
る映像上の特徴に基づいて設定し、このような相互関係
は再び多層神経回路網の入力に提供して学習することに
よって、前記半田付けの検査のように一般的に相互分類
等級間に複雑な境界条件を有している分類認識の問題に
おいて効果的に適用されうる。このとき、もし分類し難
い映像上の特徴をそのままに多層神経回路網の入力に与
えられると神経回路網に連結されたシナプス(神経細
胞)加重値らの学習能率が劣るとか、もっと多い神経細
胞が加えられた複雑な形態の神経回路網の構造になけれ
ばならない。しかし、もしも、分類しようとするパター
ンや映像上の特徴を前もって知っていると、これを予め
処理してより単純・明瞭な情報に変えてから、これを多
層神経回路網の入力として入れることによって、前記神
経回路網の構造を単純化させることができるとか、或い
は学習能率を向上させて分類のエラー率を減少させるこ
とができる。このような概念はマックスウェル等によっ
て提示された機能ループの神経回路網と高次の神経回路
網の基本理論と一致する。したがって、本発明の前記半
田付けの検査方法から提示されたベクトル相関の結果も
最初の複雑な映像情報がより単純・明瞭な情報に変換さ
れた形態であり、このように変換された形態の情報を利
用することによって、より向上した分類結果を期待する
ことができるようになる。
【0032】本発明による前記半田付け部の品質検査の
ためのベクトル相関神経回路網において遂行される相関
計算およびその相関値を利用した学習過程に対して述べ
るに、図3に示したように、大別して前処理部10Aに
おける映像パターン処理動作と学習部10Bにおける学
習動作に分けて説明する。まず、前記前処理部10Aに
おいてはカラー映像の情報を前記半田付け部の検査のた
めのより有意義であり、かつ、簡単な情報に変換する過
程を遂行するもので、図4のように、その処理過程を大
別すると第1段階の前記映像縮小段階S11と、第2段
階の縮小映像ベクトル化段階S12と、第3段階の相関
値計算段階S13とにさらに分けられる。
【0033】その第1段階である前記映像縮小段階S1
1においては与えられた元の映像の大きさをより小さい
大きさの縮小された映像に変える。図5のように縮小さ
れた映像IC の一つの画素は元の映像I0 のL*K画素
の平均値に定められる。
【0034】
【数5】
【0035】ここで、u0 ,v0 は前記縮小映像i,j
の画素内の元の映像の初期の画素位置であり、τは前記
しきい値にユーザが状況に応じて定める値であり、前記
縮小映像の大きさもユーザが定めることができるが、前
記縮小映像が大きければ映像であると、全体的に処理時
間が短縮される反面、分類の正確度が劣るので、前記図
9から図11の実験値から分るように分類しようとする
問題の難易度によりその大きさを決定しなければならな
い。
【0036】第2段階である前記縮小映像ベクトル化段
階においては3次元の縮小映像の各画素値を1次元のカ
ラーベクトルG(i),R(i),B(i)に表現す
る。 {G(i)|i=1,…,m} {R(i)|i=1,…,m} {B(i)|i=1,…,m} ここで、G,R,Bはそれぞれ緑色、赤色、青色パター
ンの前記縮小映像に対する1次元のベクトル束を示して
いる。例えば、前記青色パターンの縮小映像
【0037】
【数6】
【0038】の列方向のベクトル表現法は次の通りであ
る。
【0039】
【数7】
【0040】ここで、上つきのbは青色を意味している
ので、同じ方法で前記赤色と緑色の縮小映像
【0041】
【外1】
【0042】と映像
【0043】
【外2】
【0044】に対するベクトル形態図R(i),G
(i)に示すことができる。第3段階の相関値計算段階
においては各カラーベクトル間の相関値を前記相関ノー
ド12を通して計算する。図6に示されているように、
二つのカラーベクトル列Z(・)とC2(・)およびそ
れらに対する空間的な相関距離dが与えられたとき、任
意の相関ノードXの出力は次の通りである。
【0045】
【数8】
【0046】ここで、{C1 (i) |i=1,…,m},
{C2 (i) |i=1,…,m}は二つのベクトル列であ
り、mはこれらのベクトル個数であり、計算結果はZカ
ラー縮小映像とd程列方向に移動されたC2カラー縮小
映像との相関関係である。例えば、第1段階をへた図8
(A)のような縮小映像があるとき、第2段階をへて図
8(B)のようなベクトル列を構成することができる。
この場合前記緑色と赤色の相関ノードの最終の出力値は
次のように表示される。
【0047】
【数9】
【0048】となるので、相関距離dによる相関値は次
の通りである。 d=1であるとき f(G,R,1)=G(1)・R(2)+G(2)・R
(3)+G(3)・R(4)+G(4)・R(5)=2 d=2であるとき f(G,R,2)=G(1)・R(3)+G(2)・R
(4)+G(3)・R(5)=2 d=3であるとき f(G,R,3)=G(1)・R(4)+G(2)・R
(5)=0 d=4であるとき f(G,R,4)=G(1)・R(5)=0 また、前記相関ノードは同じ色のベクトル列にも適用し
てカラーベクトル列の自己相関値を求めることができ
る。
【0049】
【数10】
【0050】したがって、前記前処理部において最終的
に計算された各カラー映像パターン間の形態学的な関係
は次のように要約される。 f〔B(・),R(・),d〕,d=1,…m−1, f〔R(・),B(・),d〕,d=1,…m−1, f〔G(・),R(・),d〕,d=1,…m−1, f〔R(・),G(・),d〕,d=1,…m−1, f〔B(・),G(・),d〕,d=1,…m−1, f〔G(・),B(・),d〕,d=1,…m−1, f〔G(・),G(・),d〕,d=0, f〔R(・),R(・),d〕,d=0, f〔B(・),B(・),d〕,d=0, このような計算結果は元の映像情報をより有意義であ
り、かつ、含蓄的に表現した結果であるので、したがっ
て前記半田付け部の品質の分類における本来の3次元の
映像情報よりこれらの相関された結果を用いたら、一層
容易に遂行することができる。
【0051】次に、前記学習部10Bにおいては前記相
関値計算段階で計算されたベクトル相関値をユーザが判
定する結果と比較して神経回路網のシナプス加重値を学
習するシナプス加重値の学習段階S14を遂行する。こ
の際、前記学習部は一般的な後方伝播の多層神経回路網
に前記前処理部の計算結果を受けてマネジャーが判定す
る結果と比較しながらシナプス加重値を学習するように
なるが、ここで学習過程は汎用のデルタ規則を用いて次
のように実行する。
【0052】前記ノードjの出力値、すなわちOj は次
のシグマσ函数によってその値が決められる。
【0053】
【数11】
【0054】ここで、ntj はj層に入るntの入力であ
り、パラメータσj はしきい値またはバイアス役割をす
る。したがって前記半田付け部の分類における各標本パ
ターンに対する出力値の誤差Ep は次の通りである。
【0055】
【数12】
【0056】ここで、tp は分類時の目的パターンとな
り、of は神経回路網から出た最終の出力値である。し
たがって、これらの平均誤差Eは次のように定義され
る。
【0057】
【数13】
【0058】ここで、英文の大文字Pは入力標本の個数
であり、英文の小文字で表わした下つきのpは各標本を
示している。このような誤差函数を最小化するための加
重値は汎用のデルタ規則に基づいた次の式によって求め
られる。
【0059】
【数14】
【0060】ここで、ηは学習率であり、シナプス加重
値の収斂性を良好にするために一種の動きの間隔である
計数αを使用する。次いで、本発明に提案されたアルゴ
リズムの性能を評価するためにガウス雑音を添加したと
きと検査窓内の前記半田付け部の位置変動に対する分類
実験の過程を説明すると、前記図9から図13に示され
ているような実験の場合にその標本パターンはラインで
生産する基板において512(H)×512(V)画素
のカラー映像を得ており、そのカラー映像から各5個の
前記半田付け部の品質の等級からそれぞれ27個ずつ1
35個の標本を準備しており、普通半田付け部は映像上
から47×56の画素大きさを持っているが、標本取得
のための窓は前記半田付け部の位置の移動を考慮して6
0×75画素の大きさに取った場合を示している。そし
て、このときの前記縮小映像の大きさは全体の処理時間
と分類の正確度との間に長・短所を考慮して平均値を取
らなければならない問題がある。即ち、前記縮小映像の
大きさが小さければ全体的に処理時間が短縮される反面
に分類の正確度が劣り、その逆も成立するので、したが
って正確度が保障される限り前記縮小映像の大きさを減
らすことが効率的である。本実験では(4×5),(8
×10),そして(12×15)の三つの前記縮小映像
の大きさに対して実験しており、このとき元の映像の大
きさは60×75である。
【0061】また、前記学習部神経回路網の構造は簡単
な後方伝播(back propagation)神経回路網から複雑な
構造まで多様に実施した実験として、参考表のように隠
れ層の数を増加させる程複雑な問題を解することができ
るが、全体的に計算時間が長時間がかかり、ときには必
要以上に複雑な場合、寧ろ学習が進まない場合も発生さ
せるので、実験しようとする好適な構造は次の通りであ
る。
【0062】1)隠れ層のない平らな回路網 2)5ノードをもつ単一の隠れ層の回路網 3)10ノードをもつ単一の隠れ層の回路網 4)各層に4ノードをもつ二重の隠れ層を有する回路網 また、すべての構造が共通的に5個の出力ノードを持つ
ものの、これらの基準値は前記半田付け部の5個の等級
により与えられた。
【0063】 (1,0,0,0,0);未半田付け (0,1,0,0,0);未半田付け正常 (0,0,1,0,0);正常 (0,0,0,1,0);過半田付け正常 (0,0,0,0,1);過半田付け また、前記図9から図11までは前記縮小映像の大きさ
と学習部の神経回路網の構造による学習能力の差異を示
しているが、一旦神経回路網のシナプス加重値が学習さ
れ、全体の学習誤差が減少されると分類の作業時に正確
度も平均的に95%を上回ることを示しており、その実
験の結果から50×60画素の元の映像を縮小させた映
像の大きさが8×10であれば与えられた問題を充分に
解することができることが分る。
【0064】図9は4×5大きさの縮小映像に対する4
種類の後方伝播回路網構造の学習収斂性を示している。
この4種類の後方伝播回路網の各正規化システムエラー
は変動されて、つまり、学習回数や慣性運動の変化にも
かかわらず収斂しない。結論的に4×5大きさの縮小映
像は一つの縮小映像器が一つ以上の等級に属するように
なるので元のカラー映像を表現するにはあまり粗悪であ
る。
【0065】図10は8×10大きさの縮小映像に対す
る神経回路網の学習収斂性を示す。フラット回路網
(a)のシステムエラーは収斂しない。単一の隠れ層を
持つ回路網(b)(c)は隠れ層のノード数が増加され
る程収斂性が向上する。そして、二重隠れ層を持つ回路
網(d)は学習収斂性が向上することはない。図11は
12×15大きさの縮小映像に対する神経回路網の学習
収斂性を示している。この場合の学習収斂性は8×10
大きさの縮小映像の場合と同一の傾きを有する。全体的
な収斂率が8×10大きさの縮小映像の場合より良くな
る。
【0066】上述のように縮小映像の大きさは8×10
画素の大きさ以上であれば満足し、一方、学習部の構造
は単一の隠れ層を持っていれば足りる。本発明の分類性
能をテストするために次のように学習データのノイズ映
像をもって分類成功率を評価する。テストサンプル映像
は製造平均値と0〜50標準偏差を有するガウス雑音を
追加することによって変形させる。変形サンプルデータ
のインテンシティ値は0〜255以内に制限される。
【0067】図12は収用可能な等級に属する加えられ
たガウス雑音を持つ半田付け部の窓の映像を示してい
る。テストは4×5,8×10および12×15の大き
さの縮小映像に対して実行する。分類結果は前処理段階
の無い後方伝播回路網と比較される。前記後方伝播回路
網は5出力ノード、120ノードを持つ単一の隠れ層、
それから8×10縮小カラー映像のすべての画素を捕獲
する240入力ノード(8×10×3)から構成する。
【0068】8×10縮小映像に対して、前記後方伝播
回路網の学習収斂性は前述の5ノードを持つ単一の隠れ
層を有する回路網と類似している。しかし、後方伝播回
路網において基準値のメモリサイズ(a)は回路網で使
われたメモリサイズより遙かに大きい。なぜならば、前
記後方伝播回路網の入力ノードの数は240であるもの
の、(a)の回路網の入力ノードの数は51である。
【0069】図13(A)はガウス雑音がサンプル映像
に加えられた場合の分類成功率を示している。まず、8
×10の縮小映像Yと12×15の縮小映像Zの二つの
回路網では標準偏差25までは100%の分類正確度を
示している。前処理段階のない後方伝播回路網Xは標準
偏差20まで100%の正確度を遂行するが、20より
大きい標準偏差についてはY及びZの場合に比べて劣る
ことが分る。前記後方伝播回路網と比較して、8×10
以上の縮小映像レベルを持つ回路網は分類結果が等し
く、もしくは、それ以上であることが分る。
【0070】そして、4×5縮小映像レベルの回路網1
0は100%成功率を有するノイズに自由なテストサン
プルを分類することができない。大きな縮小映像レベル
が分類の高い成功率を保障することは不能である。その
理由は元の映像の情報の一部が損失されるためである。
カラーパターンを獲得するのに一つの困難な問題は半田
付け部の映像の位置移動である。カラーパターンは通常
的にPCB上の半田付けパッドに合わせられた予め定め
られた窓の映像から獲得される。窓の中において、半田
付け部は固定した支点に位置しないようになる。電気部
品のリード周りに半田を溶かす熱処理の間に電気部品が
多少浮遊するようになる。電気部品の浮遊移動は2つの
異なる類型、すなわち並進と回転から発生される。
【0071】回転は通常に無視できる程度に十分小さ
い。もし回転が多少発生したら電気部品のリードは予め
定められた窓からずっと遠く離れるようになる。この場
合は検査工程前に遮断することに違いない。並進はよく
発生する。半田付け部が予め定められた窓内において多
少並進するとしてもカラーパターンの特別の関係は変わ
らないが接合部の品質は同じに考慮される。
【0072】位置移動に対した耐性テストにおいて、4
7×56大きさの半田付け部のサンプル映像は60×7
5サイズの窓の映像内において10画素だけ移動され
る。このサンプル映像にはガウス雑音が加えられない。
図13(B)は位置移動された映像に対した分類成功率
を示している。8×10レベルの場合(Y)と12×1
5レベルの場合(Z)においては混同無しに移動された
テストサンプルを分類する。しかし、前処理段階の無い
後方伝播回路網(X)の誤謬の分類率は位置移動の増加
によって早く増加する。
【0073】このような実験的結果より、本発明は半田
付け部映像の移動−不変分類を算出する。他の高次の神
経回路網の接近と比較すれば、本発明はシナプス加重値
貯蔵のためにより小さいメモリサイズを使用する。N×
N画素映像の2次相関関係神経回路網を構じるためには
求められる入力ノード数は
【0074】
【外3】
【0075】である。したがって、8×10カラー映像
の場合には入力ノード数は(8×10×3)C2 または
57369である。このような数値はコンピューターハ
ードウェアメモリの限界のために実際の使用においては
実施するのに困る。
【0076】
【発明の効果】以上のように、本発明による相関神経回
路網を利用した半田付け検査装置および方法によると、
PCBの半田付け部の検査のために円形の照明方式の改
善された形態である三色円形の照明システムと人工知能
技法のベクトル相関神経回路網を提案し実際のラインか
ら生産されているPCB上の標本を対象として、これら
の性能を実験した結果からも見られるようにPCB内の
予め定義された領域内で半田付け部の位置の変動に対す
る影響なしに検査することができ、また一般的な神経回
路網と比較して見るとき、同一の分類問題に対してより
小さなシナプス加重値と迅速な学習能力をもって効果的
に適用されうる利点がある。また、カラー映像の処理は
一般の黒白映像に比べて情報の量も多く、各カラーが成
すパターンの相対的な形態が大切であるので、この発明
はこうした各カラーパターンの相対的な形態を比較認識
するのに効果的に使用されえ、多層神経回路網を利用し
て複雑な分類の認識問題を解くときに、その求められた
入力データをそのままに使用するよりは問題に対する事
前の知識や経験を回路網の構造中に植設することによっ
て、一般的な神経回路網に比べて学習能力の向上および
構造の簡単化、使用の簡易性のような性能の向上を期待
することができるので、半田付け部の品質の検査のみな
らず、ほかの複雑で、かつ、難しい分類認識の問題に成
功的に適用できる有用性がある。
【図面の簡単な説明】
【図1】本発明の一つの実施例による相関神経回路網を
利用した半田付け検査装置の概略的な構成を全体的に示
したブロック図である。
【図2】図1の各三色の照明を一つの点光源によって見
た場合に前記半田付け部の傾斜面の傾きによりカラーカ
メラに入射される照明の条件を説明するための参考図で
あり、(A)は平面に近似な前記半田付け部の傾斜面か
らの反射条件の表示例図、(B)は緩慢な前記半田付け
部の傾斜面からの反射条件の表示例図、(C)は急傾斜
をもつ前記半田付け部の傾斜面からの反射条件の表示例
図である。
【図3】本発明による図1の相関神経回路網の一つの実
施例を示した模型図である。
【図4】本発明の一つの実施例による前記相関神経回路
網を利用した半田付け検査方法の動作のフローチャート
である。
【図5】本発明による前記相関神経回路網における縮小
映像の過程を説明するための参考図である。
【図6】図3の相関ノードを詳細に示した模型図であ
る。
【図7】本発明で分類基準として使用する前記半田付け
部の等級別の種類とカラーパターンを示した分類図であ
る。
【図8】本発明の前処理部で実施される1次元のベクト
ル化の段階を説明するための参考図であって、(A)は
4×5の画素の大きさの前記縮小映像のパターン図、
(B)は図8(A)に対するベクトル列の表現例図であ
る。
【図9】4×5前記縮小映像の場合に対して本発明の神
経回路網の学習能力を説明するための参考図であり、
(A)は各標本の実験の反復数Nに対するシステムエラ
ー率を示したグラフ、(B)は入力ノードの数による各
標本データを示した参考表である。
【図10】(A),(B)は、8×10縮小映像の場合
に対して本発明の神経回路網の学習能力を説明するため
の図9と同様の図である。
【図11】(A),(B)は、12×15縮小映像の場
合に対して本発明の神経回路網の学習能力を説明するた
めの図9と同様の図である。
【図12】収用可能な等級に属する加えられたガウス雑
音を持つ半田付け部の窓の映像を示す図である。
【図13】本発明による前記相関神経回路網の克服能力
を説明するために4×5前記縮小映像の大きさWと8×
10縮小映像の大きさYと12×15縮小映像の大きさ
Zと一般的な神経回路網の場合Xの克服能力を比較した
参考図であって、(A)はガウス雑音σによる誤謬の分
類率(%)を示したグラフ、(B)は画素の位置の変動
による誤謬の分類率(%)を示したグラフである。
【符号の説明】
1 半田付け部検査領域 2 半田付け部 3 リード部 4 ズームレンズ 5 カラーカメラ部 6 三色の照明部 6R,6G,6B 高周波ネオン燈 7 カラー映像取得部 10 相関神経回路網 10A 前処理部 10B 学習部 11 入力ノード 12 相関ノード 14,15 計算ノード

Claims (12)

    【特許請求の範囲】
  1. 【請求項1】 多色の照明下で半田付け部の3次元的な
    映像を抽出するための半田付け形状の測定手段と、前記
    半田付け形状の測定手段から抽出された映像情報を受け
    入れて分類しようとする階層の境界条件を学習し、新た
    な映像が入って来るとき、その標本学習データをもって
    人間の分類能力を真似して半田付けの映像情報に対する
    分類条件を認識する半田付け形状の認識手段とから構成
    されることを特徴とする相関神経回路網を利用した半田
    付け検査装置。
  2. 【請求項2】 前記半田付け形状の測定手段は、半田付
    け部の検査領域から反射されて入って来る反射光をイメ
    ージピックアップ素子によって入力されて電気的な信号
    に変換するカラーカメラ部と、前記半田付け部の検査領
    域に反射角が相異している赤色、緑色、青色の光を各々
    照射する三色円形の照明部と、前記カラーカメラ部の出
    力からそれぞれのRフレームとGフレームとBフレーム
    とを取得するカラー映像取得部とから構成されることを
    特徴とする請求項1記載の相関神経回路網を利用した半
    田付け検査装置。
  3. 【請求項3】 前記半田付け形状の認識手段は、特定の
    照明の条件のもとに前記カラー映像取得部から抽出され
    る制限された任意の標本映像情報を半田付け部の検査の
    ためのベクトル情報に変換して前記半田付け部の形状に
    対して分類しようとするパターン階層の相関関係を計算
    し、その相関値とユーザの判定値に対する比較結果によ
    って神経細胞の加重値を学習して前記半田付け部の標本
    映像情報に対する分類条件を人工知能技法で認識する相
    関神経回路網とから構成されることを特徴とする請求項
    1記載の相関神経回路網を利用した半田付け検査装置。
  4. 【請求項4】 前記三色照明部は、半田付け部の表面に
    それぞれ赤色と緑色と青色の光を相異なる角度から照射
    するためにそれぞれの直径が40mm,70mm,130mm
    である円形の青色の高周波ネオン燈と、赤色の高周波ネ
    オン燈と、緑色の高周波ネオン燈をカラーカメラ部と同
    軸をなすように順次的に積層させて構成することを特徴
    とする請求項2記載の相関神経回路網を利用した半田付
    け検査装置。
  5. 【請求項5】 前記三色照明部は、検査対象である印刷
    回路基板に照射される角度をその中心軸を基準として前
    記青色の高周波ネオン燈はθS1=20°,赤色の高周波
    ネオン燈はθS2=40°,緑色の高周波ネオン燈はθS3
    =70°になるように固定したことを特徴とする請求項
    2及び請求項4記載の相関神経回路網を利用した半田付
    け検査装置。
  6. 【請求項6】 前記相関神経回路網は、一つの映像情報
    内のパターン階層間の相関関係を計算する前処理部と、
    前記前処理部において計算された相関値により前記半田
    付け部の標本映像情報を学習して、その標本学習データ
    をもって前記半田付け部の分類条件を設定する学習部と
    から構成されることを特徴とする請求項3記載の相関神
    経回路網を利用した半田付け検査装置。
  7. 【請求項7】 カメラと同軸を成す多色の照明下で得ら
    れた前記半田付け部の3次元的な映像情報を前記半田付
    け部の検査のためのより有意義であり、かつ、簡単な情
    報に変換する前処理過程と、前記前処理過程において計
    算された結果をユーザが判定する結果と比較して制限さ
    れた標本に対して神経回路網のシナプス加重値を学習す
    る学習過程とからなることを特徴とする相関神経回路網
    を利用した半田付け検査装置。
  8. 【請求項8】 前記前処理過程は、カメラと同軸を成す
    多色の照明下で得られた前記半田付け部の3次元的な映
    像情報をより小さい大きさの縮小映像に変換する映像縮
    小段階と、前記映像縮小段階において変換された縮小映
    像の各画素を1次元のベクトルに表現する縮小映像ベク
    トル化段階と、前記縮小映像ベクトル化段階において1
    次元のベクトル化された各画素ベクトル間の交叉−相関
    値および自己−相関値を計算する相関値計算段階とから
    なることを特徴とする請求項7記載の相関神経回路網を
    利用した半田付け検査装置。
  9. 【請求項9】 前記学習過程は、前記前処理過程におい
    て計算されたベクトル相関値をユーザが判定する結果と
    比較して各標本パターンに対する誤差および各標本パタ
    ーンの平均の誤差函数を求めるための学習実行段階と、
    前記学習実行段階から得られる誤差函数を利用して神経
    回路(セル)のシナプス加重値を学習する学習段階とか
    らなることを特徴とする請求項7記載の相関神経回路網
    を利用した半田付け検査方法。
  10. 【請求項10】 前記映像縮小段階は、ユーザが任意に
    指定するしきい値τと縮小映像(i,j)の画素内の元
    の映像の初期の画素位置u0 ,v0 に対して 【数1】 となるように元の映像I0 のL×K画素の平均値によっ
    て縮小映像IC の画素の大きさを設定することを特徴と
    する請求項8記載の相関神経回路網を利用した半田付け
    検査方法。
  11. 【請求項11】 前記学習実行段階は、ノードjに入っ
    て行くntの入力ntjと、しきい値またはバイアスの役割
    をするパラメータσj と関連するシグマ函数によってそ
    の値が決定される前記ノードjの出力値、 【数2】 によってその実行が開始されることを特徴とする請求項
    9記載の相関神経回路網を利用した半田付け検査方法。
  12. 【請求項12】 前記シナプス加重値の学習段階は、各
    標本パターンに対する出力値の平均誤差E, 【数3】 と学習率ηとシナプス加重値の収斂性のための動きの間
    隔計数αに対して 【数4】 となる汎用のデルタ規制に基づいてシナプス加重値を学
    習することを特徴とする請求項9記載の相関神経回路網
    を利用した半田付け検査方法。
JP8224189A 1996-04-08 1996-08-26 相関神経回路網を利用した半田付け検査装置およびその方法 Pending JPH09275272A (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1019960010514A KR100200215B1 (ko) 1996-04-08 1996-04-08 상관 신경 회로망을 이용한 납땜 검사 장치 및방법
KR10514/1996 1996-04-08

Publications (1)

Publication Number Publication Date
JPH09275272A true JPH09275272A (ja) 1997-10-21

Family

ID=19455276

Family Applications (1)

Application Number Title Priority Date Filing Date
JP8224189A Pending JPH09275272A (ja) 1996-04-08 1996-08-26 相関神経回路網を利用した半田付け検査装置およびその方法

Country Status (3)

Country Link
US (1) US6023663A (ja)
JP (1) JPH09275272A (ja)
KR (1) KR100200215B1 (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006220648A (ja) * 2005-01-11 2006-08-24 Omron Corp 基板検査装置並びにその検査ロジック設定方法および検査ロジック設定装置
JP2019100753A (ja) * 2017-11-29 2019-06-24 アンリツ株式会社 プリント基板検査装置及びプリント基板検査方法
JP2019202338A (ja) * 2018-05-24 2019-11-28 株式会社オプトン ろう接装置
KR20210013158A (ko) * 2018-06-28 2021-02-03 주식회사 히타치하이테크 반도체 검사 장치
CN112950533A (zh) * 2021-01-21 2021-06-11 重庆大学 基于深度学习的焊点外观类别自动识别方法及系统
CN113240618A (zh) * 2020-01-23 2021-08-10 株式会社理光 工件检测方法、装置及计算机可读存储介质

Families Citing this family (42)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR0176661B1 (ko) * 1995-12-28 1999-05-15 김광호 납땜부 검사방법 및 검사장치
CA2289721A1 (en) * 1997-05-05 1998-11-12 Macrotron Process Technologies Gmbh Process and circuitry for inspecting welding points
US6757420B2 (en) * 1999-12-22 2004-06-29 Novartis Ag Inspection device for packages
US7912868B2 (en) * 2000-05-02 2011-03-22 Textwise Llc Advertisement placement method and system using semantic analysis
KR20010107638A (ko) * 2000-05-23 2001-12-07 윌리엄 비. 켐플러 집적 회로 본더의 조명 조건을 교정하기 위한 시스템 및방법
US7062080B2 (en) * 2001-11-26 2006-06-13 Omron Corporation Method of inspecting curved surface and device for inspecting printed circuit board
JP3551188B2 (ja) * 2002-01-10 2004-08-04 オムロン株式会社 表面状態検査方法および基板検査装置
US7801361B2 (en) * 2002-10-15 2010-09-21 Definiens Ag Analyzing pixel data using image, thematic and object layers of a computer-implemented network structure
TWI221531B (en) * 2002-10-25 2004-10-01 Hwan-Chia Chang Method for testing soldering reliability
EP1455179A1 (en) * 2003-03-07 2004-09-08 MV Research Limited A machine vision inspection system and method
US7171037B2 (en) * 2003-03-20 2007-01-30 Agilent Technologies, Inc. Optical inspection system and method for displaying imaged objects in greater than two dimensions
US7019826B2 (en) * 2003-03-20 2006-03-28 Agilent Technologies, Inc. Optical inspection system, apparatus and method for reconstructing three-dimensional images for printed circuit board and electronics manufacturing inspection
US7330528B2 (en) 2003-08-19 2008-02-12 Agilent Technologies, Inc. System and method for parallel image reconstruction of multiple depth layers of an object under inspection from radiographic images
JP3867724B2 (ja) * 2004-02-27 2007-01-10 オムロン株式会社 表面状態検査方法およびその方法を用いた表面状態検査装置ならびに基板検査装置
US20050226488A1 (en) * 2004-03-31 2005-10-13 Paud Barry Inspection system for blister packages
US20080221734A1 (en) * 2005-01-24 2008-09-11 National University Corporation Yokohama National University Categorical Color Perception System
JP4935109B2 (ja) * 2005-03-17 2012-05-23 オムロン株式会社 基板検査装置並びにその検査ロジック設定方法および検査ロジック設定装置
JP4552749B2 (ja) * 2005-05-12 2010-09-29 オムロン株式会社 検査基準設定装置及び方法、並びに、工程検査装置
JP4595705B2 (ja) * 2005-06-22 2010-12-08 オムロン株式会社 基板検査装置並びにそのパラメータ設定方法およびパラメータ設定装置
SG138491A1 (en) * 2006-06-21 2008-01-28 Generic Power Pte Ltd Method and apparatus for 3-dimensional vision and inspection of ball and like protrusions of electronic components
JP4389982B2 (ja) * 2007-08-09 2009-12-24 オムロン株式会社 基板外観検査装置
US8681211B2 (en) * 2009-09-22 2014-03-25 Cyberoptics Corporation High speed optical inspection system with adaptive focusing
US8670031B2 (en) * 2009-09-22 2014-03-11 Cyberoptics Corporation High speed optical inspection system with camera array and compact, integrated illuminator
US8894259B2 (en) * 2009-09-22 2014-11-25 Cyberoptics Corporation Dark field illuminator with large working area
US8388204B2 (en) * 2009-09-22 2013-03-05 Cyberoptics Corporation High speed, high resolution, three dimensional solar cell inspection system
US8872912B2 (en) * 2009-09-22 2014-10-28 Cyberoptics Corporation High speed distributed optical sensor inspection system
KR101614061B1 (ko) * 2012-03-29 2016-04-20 주식회사 고영테크놀러지 조인트 검사 장치
CN103413141B (zh) * 2013-07-29 2017-02-22 西北工业大学 环形光源及利用环形光源照明基于刀具形状纹理重量的融合识别方法
JP6116710B2 (ja) * 2014-01-08 2017-04-19 ヤマハ発動機株式会社 外観検査装置および外観検査方法
KR101739696B1 (ko) * 2016-07-13 2017-05-25 서장일 재질인식 조명 시스템 및 이를 이용한 재질인식 방법
CN106780426B (zh) * 2016-09-21 2023-05-23 南京师范大学 一种基于色彩特征模型的集成电路板多形态焊点定位方法
US11263782B2 (en) 2017-10-11 2022-03-01 Qualcomm Incorporated Image signal processor for processing images
US10643306B2 (en) * 2017-10-11 2020-05-05 Qualcomm Incoporated Image signal processor for processing images
CN108876849B (zh) * 2018-04-24 2021-11-23 哈尔滨工程大学 基于辅助标识的深度学习目标识别及定位方法
CN111766253A (zh) * 2019-03-15 2020-10-13 鸿富锦精密电子(成都)有限公司 锡膏印刷品质检测方法、数据处理装置及计算机存储介质
US20230129202A1 (en) * 2020-04-10 2023-04-27 Cybord Ltd. System and method for assessing quality of electronic components
US11301980B2 (en) * 2020-04-21 2022-04-12 GM Global Technology Operations LLC System and method to evaluate the integrity of spot welds
US11026313B1 (en) * 2020-08-17 2021-06-01 Deediim Sensor Inc. Illumination system
KR102582008B1 (ko) * 2021-02-15 2023-09-22 호서대학교 산학협력단 검사 장치 및 그 제어 방법
CN113536489B (zh) * 2021-08-25 2023-06-20 中国电子科技集团公司第三十八研究所 一种组件封装的连接构型和工艺参数确定方法
WO2023115409A1 (zh) * 2021-12-22 2023-06-29 深圳技术大学 一种焊盘检测方法、装置、计算机设备及存储介质
DE102022101537A1 (de) 2022-01-24 2023-07-27 Bayerische Motoren Werke Aktiengesellschaft Verfahren und Vorrichtung zur Ermittlung von Lebensdauerinformation für eine Lötstelle einer elektronischen Baugruppe

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE68929481T2 (de) * 1988-05-09 2004-06-09 Omron Corp. Vorrichtung und Verfahren zur Anzeige der Ergebnisse einer Leiterplattenprüfung
US5598345A (en) * 1990-11-29 1997-01-28 Matsushita Electric Industrial Co., Ltd. Method and apparatus for inspecting solder portions
US5548697A (en) * 1994-12-30 1996-08-20 Panasonic Technologies, Inc. Non-linear color corrector having a neural network and using fuzzy membership values to correct color and a method thereof
US5751910A (en) * 1995-05-22 1998-05-12 Eastman Kodak Company Neural network solder paste inspection system
US5787408A (en) * 1996-08-23 1998-07-28 The United States Of America As Represented By The Secretary Of The Navy System and method for determining node functionality in artificial neural networks

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006220648A (ja) * 2005-01-11 2006-08-24 Omron Corp 基板検査装置並びにその検査ロジック設定方法および検査ロジック設定装置
JP2019100753A (ja) * 2017-11-29 2019-06-24 アンリツ株式会社 プリント基板検査装置及びプリント基板検査方法
JP2019202338A (ja) * 2018-05-24 2019-11-28 株式会社オプトン ろう接装置
KR20210013158A (ko) * 2018-06-28 2021-02-03 주식회사 히타치하이테크 반도체 검사 장치
CN113240618A (zh) * 2020-01-23 2021-08-10 株式会社理光 工件检测方法、装置及计算机可读存储介质
JP2021118003A (ja) * 2020-01-23 2021-08-10 株式会社リコー 加工品検査方法、装置、及びコンピュータが読み取り可能な記憶媒体
CN112950533A (zh) * 2021-01-21 2021-06-11 重庆大学 基于深度学习的焊点外观类别自动识别方法及系统

Also Published As

Publication number Publication date
KR100200215B1 (ko) 1999-06-15
KR970073259A (ko) 1997-11-07
US6023663A (en) 2000-02-08

Similar Documents

Publication Publication Date Title
JPH09275272A (ja) 相関神経回路網を利用した半田付け検査装置およびその方法
CN110658198B (zh) 光学检测方法、光学检测装置及光学检测系统
US5455870A (en) Apparatus and method for inspection of high component density printed circuit board
US5751910A (en) Neural network solder paste inspection system
CN107945184A (zh) 一种基于彩色图像分割和梯度投影定位的贴装元件检测方法
US20050002560A1 (en) Defect inspection apparatus
KR0176661B1 (ko) 납땜부 검사방법 및 검사장치
Kim et al. Neural network-based inspection of solder joints using a circular illumination
Kim et al. Pattern classification of solder joint images using a correlation neural network
Ong et al. Solder joint inspection with multi-angle imaging and an artificial neural network
TWI775140B (zh) 學習裝置、檢查裝置、學習方法以及檢查方法
CN112750113A (zh) 基于深度学习和直线检测的玻璃瓶缺陷检测方法及装置
JPH063123A (ja) 外観検査方法及び外観検査装置
CN111566438B (zh) 图像获取方法及系统
Park et al. A solder joint inspection system for automated printed circuit board manufacturing
JPH06273346A (ja) はんだ付け状態検査装置
CN114450579A (zh) 图像处理系统、设定方法和程序
JPH05303627A (ja) はんだ付けの状態検査装置
Ko et al. Solder joints inspection using neural network and fuzzy rule-based classification
Kinney Simplify Deep Learning Systems with Optimized Machine Vision Lighting
KR100240956B1 (ko) 납땜시각 검사장치 및 방법
JPH06201338A (ja) 外観状態検査方法
KR19990070849A (ko) 인쇄회로기판의 납땜 검사장치 및 방법
Kuo et al. Construction of 3D solder paste surfaces using multi-projection images
Kim et al. Neural-network-based parts classification for SMT processes