JP7262232B2 - 画像認識システムおよび画像認識方法 - Google Patents

画像認識システムおよび画像認識方法 Download PDF

Info

Publication number
JP7262232B2
JP7262232B2 JP2019012630A JP2019012630A JP7262232B2 JP 7262232 B2 JP7262232 B2 JP 7262232B2 JP 2019012630 A JP2019012630 A JP 2019012630A JP 2019012630 A JP2019012630 A JP 2019012630A JP 7262232 B2 JP7262232 B2 JP 7262232B2
Authority
JP
Japan
Prior art keywords
model
recognition
image data
unit
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019012630A
Other languages
English (en)
Other versions
JP2020119476A (ja
Inventor
真二郎 渡辺
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tokyo Electron Ltd
Original Assignee
Tokyo Electron Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tokyo Electron Ltd filed Critical Tokyo Electron Ltd
Priority to JP2019012630A priority Critical patent/JP7262232B2/ja
Priority to CN202010052590.8A priority patent/CN111563872B/zh
Priority to TW109101886A priority patent/TWI832958B/zh
Priority to KR1020200007860A priority patent/KR102315595B1/ko
Priority to US16/750,336 priority patent/US20200242747A1/en
Publication of JP2020119476A publication Critical patent/JP2020119476A/ja
Application granted granted Critical
Publication of JP7262232B2 publication Critical patent/JP7262232B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01RMEASURING ELECTRIC VARIABLES; MEASURING MAGNETIC VARIABLES
    • G01R31/00Arrangements for testing electric properties; Arrangements for locating electric faults; Arrangements for electrical testing characterised by what is being tested not provided for elsewhere
    • G01R31/28Testing of electronic circuits, e.g. by signal tracer
    • G01R31/2851Testing of integrated circuits [IC]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • G06T7/001Industrial image inspection using an image reference approach
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • G06T7/75Determining position or orientation of objects or cameras using feature-based methods involving models
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/19Recognition using electronic means
    • G06V30/192Recognition using electronic means using simultaneous comparisons or correlations of the image signals with a plurality of references
    • G06V30/194References adjustable by an adaptive method, e.g. learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30148Semiconductor; IC; Wafer
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/06Recognition of objects for industrial automation

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Engineering & Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Data Mining & Analysis (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Medical Informatics (AREA)
  • Multimedia (AREA)
  • Quality & Reliability (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Databases & Information Systems (AREA)
  • Computer Hardware Design (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Image Analysis (AREA)

Description

本開示は、画像認識システムおよび画像認識方法に関する。
半導体デバイスの製造プロセスにおいては、半導体ウエハ(以下単にウエハと記す)における全てのプロセスが終了した段階で、ウエハに形成されている複数の半導体デバイス(以下単にデバイスと記す)の電気的検査が行われる。このような電気的検査を行う装置においては、一般的に、ウエハを吸着保持するステージに対向して、ウエハに形成された半導体デバイスに接触させる複数のプローブを有するプローブカードを配置する。そして、プローブカードへステージ上のウエハを押圧させることにより、プローブカードの各プローブをデバイスの電極パッドと接触させて電気的特性の検査を行う。
このような検査装置では、プローブがデバイスの電極パッドにコンタクトしたことを確認するために、電極パッドをカメラで撮像し、その画像から針跡を認識する画像認識技術が用いられている(例えば特許文献1)。
特開2005-45194号公報
本開示は、工場内の検査装置において、認識対象の画像認識が正しく行われない場合に、短期間でかつ工場外に情報を持ち出すことなく認識対象を認識できるようにすることができる画像認識システムおよび画像認識方法を提供する。
本開示の一態様に係る画像認識システムは、工場内に設置された複数の検査装置から、認識対象を含む画像データを収集する画像データ収集部と、事前の機械学習で得られた、前記認識対象の特徴部を認識する第1モデルに対し、前記画像データ収集部に収集された画像データにより追加の機械学習を実行する学習実行部と、前記学習実行部による前記機械学習の結果に基づいて、前記認識対象の前記特徴部を認識するモデルを前記第1モデルから第2モデルへ更新するモデル更新部と、前記工場内に設置された前記複数の検査装置のうち特定の検査装置に前記第2モデルを送信する第1の送信部と、前記特定の検査装置において、前記第2モデルを用いて前記認識対象の認識を行った認識結果を受信し判定する認識結果判定部と、前記認識結果判定部による判定結果により、前記第2モデルを前記検査装置へ送信する第2の送信部と、を有する。
本開示によれば、工場内の検査装置において、針跡等の認識対象の画像認識が正しく行われない場合にも、短期間で認識対象を認識できるようにすることができる画像認識システムおよび画像認識方法が提供される。
第1の実施形態に係る画像認識システムの一例を備えた検査システムを概略的に示すブロック図である。 図1の検査システムにおける第1の検査装置を示す概略構成図である。 第1の検査装置において、第1カメラでウエハに形成された被検査デバイスを撮影する様子を示す模式図である。 第1の検査装置において、第2カメラでプローブカードを撮影する様子を示す模式図である。 第1の実施形態の画像認識システム100における画像認識方法を説明するためのフローチャートである。 画像認識の認識対象がプローブの針跡の場合の画像の例を示す図である。 画像認識の認識対象がプローブの針跡の場合の画像の例を示す図である。 画像認識の認識対象がプローブの針先の場合の画像の例を示す図である。 画像認識の認識対象がプローブの針先の場合の画像の例を示す図である。 画像認識の認識対象がプローブの針先の場合の画像の例を示す図である。 画像認識の認識対象がプローブの針先の場合の画像の例を示す図である。 画像認識の認識対象がプローブの針先の場合の画像の例を示す図である。 画像認識の認識対象がプローブの針先の場合の画像の例を示す図である。 画像認識の認識対象がプローブの針先の場合の画像の例を示す図である。 第1の実施形態に係る画像認識システムの他の例を示すブロック図である。 第2の実施形態に係る画像認識システムの一例を備えた検査システムを概略的に示すブロック図である。 第2の実施形態の画像認識システムにおける画像認識方法を説明するためのフローチャートである。 第2の実施形態に係る画像認識システムの他の例を示すブロック図である。 第3の実施形態に係る画像認識システムの一例を示すブロック図である。 第3の実施形態に係る画像認識システムの他の例を示すブロック図である。
以下、添付図面を参照して、本発明の実施の形態について説明する。
<第1の実施形態>
まず、第1の実施形態について説明する。
図1は、第1の実施形態に係る画像認識システムの一例を備えた検査システムを概略的に示すブロック図である。
検査システム400は、工場内に設けられた複数の第1の検査装置200と、第1の検査装置200の認識対象を含む画像データにおける認識対象の認識レベルを向上させるための画像認識システム100とを備える。
第1の検査装置200は、例えば図2に示すように、ウエハWを吸着保持するステージ201と、複数のプローブ203を有するプローブカード202と、テスタ204と、第1カメラ205、第2カメラ206と、制御部207とを備える。
ステージ201はアライナー(図示せず)により平面方向および上下方向の位置合わせが可能になっており、プローブ203をウエハWに複数形成された被検査デバイスの電極パッドに接触させることにより、テスタ204による電気的検査が行われる。なお、第1の検査装置200は、ウエハWを走査させることにより、相対的にプローブ203がウエハWを走査しながら検査を行ってもよいし、ウエハWに形成された複数の被検査デバイスに対して一括して複数のプローブを接触させて検査を行ってもよい。また、第1の検査装置200は、単体の検査装置であっても、複数の検査部を有する検査装置であってもよい。
第1カメラ205は、移動可能に設けられ、図3に示すように、ウエハWに形成された被検査デバイスを撮像するようになっている。また、第2カメラ206も移動可能に設けられ、図4に示すように、プローブカード202を撮像するようになっている。これらにより、検査に必要な認識対象を含む画像データが得られる。認識対象としては、例えば、電極パッド、検査の際にプローブ203がデバイスの電極パッドに接触した際の針跡、プローブ203の針先形状等を挙げることができる。これら認識対象は、制御部207の画像認識部208で認識される。電極パッドの形状の認識は、プローブと電極パッドの位置合わせに必要であり、針先の認識は、針先の中心位置決めに必要であり、針跡の認識は、プローブがデバイスの電極パッドにコンタクトしたことを確認するために必要である。
第1の検査装置200において、制御部207の画像認識部208は、上記認識対象について、事前に機械学習により得られた、認識対象の特徴部を認識するモデルを用いて画像データから認識対象を認識するソフトウエアが搭載されている。モデルは後述する追加の機械学習により更新可能となっている。
機械学習とは、人間が自然に行うような学習の機能をコンピュータ等に行わせる技術・手法のことをいう。機械学習としては、ディープラーニングを好適に用いることができる。ディープラーニングとは、複数の処理層が階層的に接続されることにより構築された多層ニューラルネットワークを用いた機械学習の手法である。このとき用いられるモデルは数式であり、数式中には複数のパラメータが存在し、各パラメータの値や重み付け等により、モデルを変更することができる。本例においては、第1の検査装置200の画像認識部208の初期状態のモデルは第1モデル(#1)である。
画像認識システム100は、図1に示すように、画像データ収集部10と、機械学習を実行する学習実行部20と、モデル更新部30と、第1の送信部40と、認識結果判定部50と、第2の送信部60とを有する。
画像データ収集部10は、第1の検査装置200から、上述したような認識対象を含む画像データを収集する。画像データ収集部10が収集する画像データとしては、第1の検査装置200の画像認識部208で認識できなかった画像データであってよい。
学習実行部20は、事前の機械学習で得られた、認識対象の特徴部を認識する第1モデル(第1の検査装置200に搭載された第1モデル(#1)と同じ)に対し、画像データ収集部10に収集された画像データにより追加の機械学習を実行する。このときの機械学習は、典型的には上述したディープラーニングを用いる。学習実行部20における機械学習の実行は、適宜のタイミングで、自動的に実行するようにすることができる。機械学習の実行は定期的に行ってもよいし、画像データ収集部10のデータが所定量になった時点で行ってもよい。なお、機械学習の実行をオペレータの操作により行ってもよい。
モデル更新部30は、学習実行部20による機械学習の結果に基づいて、認識対象の特徴部を認識するモデルを第1モデル(#1)から第2モデル(#2)に更新する。第2モデルは、第1モデルでは認識対象を認識できなかった画像データについても認識可能な、より認識レベルの高いモデルとなり得る。
なお、学習実行部20とモデル更新部30は、一体となっていてもよい。
第1の送信部40は、モデル更新部30から更新された第2モデルを受け取り、複数の第1の検査装置200のうち特定の検査装置200に第2モデルを送信する。その特定の第1の検査装置200では、第1モデルでは認識対象が認識できなかった画像データの認識対象の認識評価を、第2モデルを用いて行う。
認識結果判定部50は、その特定の第1の検査装置200で第2モデルを用いて行った、第1モデルでは認識対象が認識できなかった画像データと同様または同等の画像データにおける認識対象の認識結果を受信し判定する。
第2の送信部60は、認識結果判定部50による判定結果により、第2モデルを、特定の第1の検査装置以外の第1の検査装置200へ送信する。より具体的には、第2の送信部60は、認識結果判定部50により認識結果が良好であると判定された場合に、第2モデルを第1の検査装置200へ送信する。
次に、第1の実施形態の画像認識システム100における画像認識方法について説明する。図5は、第1の実施形態の画像認識システム100における画像認識方法を説明するためのフローチャートである。
まず、工場内に設置された複数の第1の検査装置200から、認識対象を含む画像データを画像データ収集部10に収集する(ST1)。このときの画像データとしては、第1の検査装置200の画像認識部208で認識できなかったものであってよい。
次に、学習実行部20により、事前の機械学習で得られた、認識対象の特徴部を認識する第1モデルに対し、画像データ収集部10に収集された画像データにより追加の機械学習を実行する(ST2)。このときの機械学習は、典型的には上述したディープラーニングを用いる。
次に、機械学習の結果に基づいて、モデル更新部30により、認識対象の特徴部を認識するモデルを第1モデルから第2モデルへ更新する(ST3)。
次に、工場に設置された複数の第1の検査装置200のうち、特定の第1の検査装置に第2モデルを送信する(ST4)。
次に、特定の第1の検査装置200において、第2モデルを用いて認識対象の認識評価を行う(ST5)。
次に、特定の第1の検査装置において認識を行った認識結果を判定する(ST6)。
次に、上記ST6の判定結果により、第2モデルを、第2の送信部60から第1の検査装置200へ送信する(ST7)。具体的には、ST6で認識結果判定部50により認識結果が良好であると判定された場合に、第2モデルを工場内の全ての第1の検査装置200へ送信し、全ての検査装置200の画像認識部のモデルを第2モデルに更新する。
なお、特定の第1の検査装置200における認識結果が良好でない場合には、第2モデルへの更新を中止する。また、上記例ではST5において、特定の第1の検査装置200で第2モデルの認識評価のみを行うが、ST5で特定の第1の検査装置200のモデルを第2モデルに更新してもよい。その場合は、ST6で認識結果判定部50により認識結果が良好であると判定された場合に、ST7において特定の第1の検査装置200以外の第1の検査装置200に第2モデルが送信される。
このように、本実施形態の画像認識システム100によれば、工場内に設置された複数の第1の検査装置から、画像データ収集部10に認識対象を含む画像データを収集する。そして、第1モデルに対し、収集された画像データにより追加の機械学習を実行し、モデルを第1モデルから新しい第2モデルに更新する。特定の第1の装置200で第2モデルの認識結果を確認後、工場内の全ての第1の検査装置200のモデルを新しい第2モデルに置き換える。これにより、工場内の全ての第1の検査装置200について、常に更新された新しいモデルにより認識対象を認識することができるようになる。このため、認識対象の画像認識が正しく行われない場合であっても、短期間で効率良く認識対象を認識できるようにすることができる。また、工場外に情報を持ち出すことなく認識対象を認識することができるようになる。
従来は、特許文献1に記載されているように、針跡等の認識対象をカメラにより撮像して画像として認識することは行われていた。しかし、認識対象の画像認識を行うためのソフトウエアの更新については特許文献1には何ら記載されていない。
一般的に、この種の認識対象の画像認識においては、例えば新しいデバイスの検査時や、経時変化、ゴミの存在、コントラストの違い等により、認識対象が変化すると、従前のソフトウエアでは対応することができず、画像認識が正しく行えない認識結果不良となる場合がある。
例えば、認識対象が針跡の場合、ソフトウエアが図6Aの画像において、電極パッド501に形成された針跡502を針跡として認識可能であっても、図6Bのように針跡502の他にゴミ503が存在すると正しい針跡を認識できずに認識結果不良となり得る。また、認識対象が針先である場合、典型的には図7Aのような形状であっても、経時変化やコントラストの違いにより、画像では、例えば図7B~7Gのように一部が消えることがある。その他、局部的に薄くなったり、先端の摩耗等により特定の部分が大きくなる等、画像上種々の形態が生じる。このため、認識結果不良となりやすい。また、新しいデバイスではデバイスの電極パッドの形状が変わる場合があり、その場合は、電極パッドとして認識することができなくなる。
従来は、このような事態が生じ、認識結果不良となった場合、画像収集から改善案検討、ソフトウエアの設計・製作・評価・実装までを、サービス部門および技術部門の関係者が行う必要がある。また、認識結果不良から改善したソフトウエアが稼働するまでに長期間が必要であった。
これに対し、本実施形態に係る画像認識システム100では、上述したように、認識対象の画像認識が正しく行われない場合であっても、機械学習により短期間で効率良く、認識対象を認識できるようにすることができる。また、工場外に情報を持ち出すことなく認識対象を認識できるようにすることができるので、情報漏洩を防止する効果も得られる。また、工場内の全ての第1の検査装置200に対して、同じモデルで認識対象の認識を行うことができ、工場内で同じレベルで認識対象を認識することができる。
なお、画像認識システム100の変形例として、図8に示すような、モデル更新部30で第2モデルに更新した後、単に複数の第1の検査装置200にモデルを送信する検査装置を特定せずに第2モデルを送信する機能を有する画像認識システム100´であってもよい。この場合は、第1の検査装置200において認識結果が良好でない場合に、モデルを第1モデルに戻す機構を別途設けるか、オペレータがモデルを第1に戻すことにより対応することが可能である。
<第2の実施形態>
次に、第2の実施形態について説明する。
図9は、第2の実施形態に係る画像認識システムの一例を備えた検査システムを概略的に示すブロック図である。
検査システム401は、工場内に設けられた上述の複数の第1の検査装置200と、1または複数の第2の検査装置300と、第1の検査装置200および第2の検査装置300の認識対象を含む画像データにおける認識対象の認識レベルを向上させるための画像認識システム101とを備える。
第2の検査装置300は、基本構成は第1の検査装置200と同じであるが、画像認識部のソフトウエアが、認識対象の特徴部を認識する機械学習で得られたモデルを用いないものである点が第1の検査装置200とは異なっている。
本実施形態に係る画像認識システム101は、図9に示すように、画像データ収集部10と、機械学習を実行する学習実行部20と、モデル更新部30と、第1の送信部40と、認識結果判定部50と、第2の送信部60と、推定画像データ収集部110と、推定部120と、データ処理部130とを有する。
学習実行部20と、モデル更新部30と、第1の送信部40と、認識結果判定部50と、第2の送信部60は、第1の実施形態と同様に構成される。
推定画像データ収集部110は、第2の検査装置300から、認識対象を含む画像データを収集する。推定画像データ収集部110が収集する画像データとしては、第2の検査装置300の画像認識部で認識できなかった画像データであってよい。
推定部120は、推定画像データ収集部110から認識対象を含む画像データを受信し、画像データについて前記認識対象の推定を行う。具体的には、推定部120は、上述した第1モデルを用いて認識対象の推定を行う。第2の検査装置300は、画像認識部のソフトウエアが、認識対象の特徴部を認識するモデルを用いないものであるため、推定部120にて第1の検査装置200と同様の第1モデルを用いて認識対象の推定を行う。推定部120は、モデル更新部30から情報を受け取り、第1モデルを第2モデルに更新することが可能となっている。これにより、推定部120でも第2モデルを用いて認識対象の推定を行うことが可能になる。
データ処理部130は、推定部120において認識対象を推定(認識)した結果を、画像データの送信元の第2の検査装置300に送信する。データ処理部130は、推定部120において認識対象を推定(認識)できなかった場合には、認識対象の推定結果を画像データの送信元の第2の検査装置300に送信するとともに、画像データ収集部10にその画像データを蓄積させる。第2の検査装置300に送信される推定結果は数値データ(認識対象が針跡の場合は、針跡の位置・サイズ等)である。なお、推定部120において認識対象を推定(認識)できた場合には、その画像データ自体は推定画像データ収集部110から廃棄される。
次に、第2の実施形態の画像認識システム101における画像認識方法について説明する。図10は、第2の実施形態の画像認識システム101における画像認識方法を説明するためのフローチャートである。
工場内に設置された第2の検査装置300から、推定画像データ収集部110に画像データを収集する(ST11)。このときの収集する画像データとしては、第2の検査装置300の画像認識部で認識できなかった画像データであってよい。
推定画像データ収集部110で収集した画像データについて推定部120にて認識対象の推定を行う(ST12)。この工程は、上述した第1モデルを用いて認識対象の推定を行うことができる。これにより、第2の検査装置300の認識対象の認識を第1の検査装置200と同じレベルで行うことができる。このST12は、モデル更新部30でモデルを第1モデルから第2モデルに更新した際には、モデル更新部30から情報を受け取り、第1モデルを第2モデルに更新して行うことができる。
ST12において、認識対象を推定できた場合には画像データの送信元の第2の検査装置300にその結果を送信する。また、認識対象を推定できなかった場合には、画像データ送信元の第2検査装置300にその結果を送信するとともに、画像データ収集部10にその画像データを蓄積させる(ST13)。これにより、第2の検査装置300からもモデル更新のための画像データを収集することができる。ST13において、第2の検査装置300に送信されるのは数値データ(認識対象が針跡の場合は、針跡の位置・サイズ等)である。なお、認識対象を推定できた場合には、その画像データ自体は推定画像データ収集部110から廃棄される。
本実施形態では、これらの工程に加えて第1の実施形態のST1~ST7を実施する。図10ではST11~ST13をST1~ST7の上に記載しているが、ST1~ST7とST11~13の順番は限定されず、ST1~ST7を先に行っても、ST1~7とST11~13とを同時並行的に行ってもよい。
本実施形態の画像認識システム101によれば、第1の実施形態の画像認識システム100と同様に、画像データ収集部10への認識対象を含む画像データの収集、追加の機械学習、モデルの更新を経て、全ての第1の検査装置200のモデルを第2モデルに置き換える。これにより、工場内の全ての第1の検査装置200について、常に更新された新しいモデルにより認識対象を認識することができる。このため、認識対象の画像認識が正しく行われない場合であっても、短期間で効率良く、かつ工場外に情報を持ち出すことなく認識対象を認識できるようにすることができる。また、これに加えて、工場内に機械学習で得られたモデルを用いない第2の検査装置300が存在する場合にも、認識対象の認識レベルを第1の検査装置200のみの場合に近いレベルとすることができる。さらに、第2の検査装置300において推定部120で推定できなかった認識対象を含む画像データをも画像データ収集部10に収集して、追加の機械学習のための画像データとして用いてモデルのグレードアップに資することができる。
なお、画像認識システム101の変形例として、図11に示すような、モデル更新部30で第2モデルに更新した後、単に複数の第1の検査装置200にモデルを送信する検査装置を特定せずに第2モデルを送信する機能を有する画像認識システム101´であってもよい。この場合は、第1の検査装置200において認識結果が良好でない場合に、モデルを第1モデルに戻す機構を別途設けるか、オペレータがモデルを第1に戻すことにより対応することが可能である。
<第3の実施形態>
次に、第3の実施形態について説明する。
図12は、第3の実施形態に係る画像認識システムの一例を示すブロック図である。本実施形態では第2の実施形態と同様、検査装置として第1の検査装置200と第2の検査装置300とが混在している。
本実施形態に係る画像認識システム102は、図12に示すように、画像データ収集部10と、推定画像収集部110と、推定部120と、データ処理部130とを有している。すなわち、画像認識システム102は、第2の実施形態の画像認識システム101から、学習実行部20、モデル更新部30、第1の送信部40、認識結果判定部50、第2の送信部60を除いたものである。
本実施形態に係る画像認識システム102では、第2の実施形態の画像認識システム101と同様、工場内に設置された第2の検査装置300から、推定画像データ収集部110に画像データを収集する。このときの収集する画像データとしては、第2の検査装置300の画像認識部で認識できなかった画像データであってよい。推定画像データ収集部110で収集した画像データについて推定部120にて、上述した第1モデルを用いて認識対象の推定を行う。そして、データ処理部130にて、認識対象の推定結果を画像データの送信元の第2の検査装置300に送信する。データ処理部130は、推定部120において認識対象を推定できなかった場合には、画像データの送信元の第2の検査装置300に推定結果を送信するとともに、画像データ収集部10にその画像データを蓄積させる。画像データ収集部10には、第1の検査装置200からも、認識対象を認識できなかった画像データが収集される。
したがって、工場内の検査装置が第1モデルを用いて機械学習を利用する第1の検査装置200と、機械学習を利用しない第2の検査装置300とが混在する場合に、第2の検査装置300も第1の検査装置200と同等のレベルで認識対象を認識できる。また、第1の検査装置200と第2の検査装置300の両方から、画像データ蓄積部10に、第1モデルでは認識対象を認識できなかった画像データを蓄積することができる。このため、これら画像データを別途設けられた機械学習実行部に供することにより、モデルを更新することができ、認識対象の認識レベルを向上させることができる。
なお、図13に示す画像認識システム103は、構成は画像認識システム102と同様であるが、工場内の検査装置が全て第2の検査装置300の場合である。この場合にも同様に、第2の検査装置300も第1の検査装置200と同等のレベルで認識対象を認識できる。また、第2の検査装置300から画像データ収集部10に、第1モデルでは認識対象を認識できなかった画像データを蓄積することができる。このため、これら画像データを別途設けられた機械学習実行部に供することにより、モデルを更新することができ、認識対象の認識レベルを向上させることができる。
以上、実施形態について説明したが、今回開示された実施形態は、全ての点で例示であって制限的なものではないと考えられるべきである。上記の実施形態は、添付の特許請求の範囲およびその主旨を逸脱することなく、様々な形態で省略、置換、変更されてもよい。
例えば、上記実施形態の検査装置はあくまで例示であり、画像認識により認識対象を認識する操作を含む検査装置であれば適用可能である。
また、上記実施形態では、認識対象として、電極パッド、プローブの電極パッドへの針跡、プローブの針先を例示したが、これに限るものではない。
10;画像データ収集部
20;学習実行部
30;モデル更新部
40;第1の送信部
50;認識結果判定部
60;第2の送信部
100,100´,101,101´、102,103;画像認識システム
200;第1の検査装置
300;第2の検査装置
400,401;検査システム

Claims (18)

  1. 工場内に設置された複数の検査装置から、認識対象を含む画像データを収集する画像データ収集部と、
    事前の機械学習で得られた、前記認識対象の特徴部を認識する第1モデルに対し、前記画像データ収集部に収集された画像データにより追加の機械学習を実行する学習実行部と、
    前記学習実行部による前記機械学習の結果に基づいて、前記認識対象の前記特徴部を認識するモデルを前記第1モデルから第2モデルへ更新するモデル更新部と、
    前記工場内に設置された前記複数の検査装置のうち特定の検査装置に前記第2モデルを送信する第1の送信部と、
    前記特定の検査装置において、前記第2モデルを用いて前記認識対象の認識を行った認識結果を受信し判定する認識結果判定部と、
    前記認識結果判定部による判定結果により、前記第2モデルを前記検査装置へ送信する第2の送信部と、
    を有する、画像認識システム。
  2. 前記画像データ収集部には、前記認識対象を正しく認識できなかった画像データが収集される、請求項1に記載の画像認識システム。
  3. 前記第2モデルが送信された前記検査装置は、前記認識対象の前記特徴部を認識するモデルが前記第1モデルから前記第2モデルに更新される、請求項1または請求項2に記載の画像認識システム。
  4. 前記工場内に設置された複数の検査装置は、事前の機械学習により得られた前記認識対象の特徴部を認識するモデルを用いて前記認識対象の認識を行う第1の検査装置を含み、前記第2モデルが送信される前記検査装置は前記第1の検査装置である、請求項1から請求項3のいずれか一項に記載の画像認識システム。
  5. 前記検査装置において前記認識対象を認識できなかった画像データを少なくとも受信し、前記画像データについて前記認識対象の推定を行う推定部と、
    前記推定部において前記認識対象の推定結果を前記画像データの送信元の前記検査装置に送信し、前記推定部において前記認識対象を推定できなかった場合には前記画像データ収集部にその画像データを蓄積させるデータ処理部と、
    をさらに有する、請求項1から請求項4のいずれか1項に記載の画像認識システム。
  6. 前記工場内に設置された複数の検査装置は、前記認識対象の特徴部を認識するモデルを用いない第2の検査装置を含み、
    前記推定部は、前記第2の検査装置において前記認識対象を認識できなかった画像データを少なくとも受信し、前記認識対象の推定を行う、請求項5に記載の画像認識システム。
  7. 前記推定部は、前記画像データについて前記第1モデルを用いて前記認識対象の推定を行う、請求項5または請求項6に記載の画像認識システム。
  8. 前記推定部に用いられる前記第1モデルは、前記モデル更新部で更新された前記第2モデルに更新可能である、請求項5から請求項7のいずれか一項に記載の画像認識システム。
  9. 前記検査装置は、複数のデバイスが形成されたウエハに対し、プローブカードの各プローブをデバイスの電極パッドと接触させて電気的特性の検査を行うものであり、前記認識対象は、前記電極パッド、前記電極パッドに対し前記プローブが付けた針跡、および、前記プローブの針先のうち少なくとも1種である、請求項1から請求項8のいずれか一項に記載の画像認識システム。
  10. 画像データ収集部と、学習実行部と、モデル更新部と、第1の送信部と、認識結果判定部と、第2の送信部と、を有する画像認識システムにより画像認識を行う画像認識方法であって、
    工場内に設置された複数の検査装置から、認識対象を含む画像データが前記画像データ収集部に収集される工程と、
    前記学習実行部により、事前の機械学習で得られた、前記認識対象の特徴部を認識する第1モデルに対し、前記収集された画像データにより追加の機械学習を実行する工程と、
    前記モデル更新部により、前記機械学習の結果に基づいて、前記認識対象の前記特徴部を認識するモデルを前記第1モデルから第2モデルへ更新する工程と、
    前記第1の送信部により、前記工場内に設置された前記複数の検査装置のうち特定の検査装置に前記第2モデルを送信する工程と、
    前記特定の検査装置により、前記第2モデルを用いて前記認識対象の認識を行う工程と、
    前記認識結果判定部により、前記特定の検査装置において認識を行った認識結果を判定する工程と、
    前記第2の送信部により、前記判定する工程の判定結果により、前記第2モデルを前記検査装置へ送信する工程と、
    を有する、画像認識方法。
  11. 前記認識対象を含む画像データが前記画像データ収集部に収集される工程は、前記認識対象を正しく認識できなかった画像データ収集される、請求項10に記載の画像認識方法。
  12. 前記第2モデルが送信された前記検査装置は、前記認識対象の前記特徴部を認識するモデルが前記第1モデルから前記第2モデルに更新される、請求項10または請求項11に記載の画像認識方法。
  13. 前記工場内に設置された複数の検査装置は、事前の機械学習により得られた前記認識対象の特徴部を認識するモデルを用いて前記認識対象の認識を行う第1の検査装置を含み、前記第2モデルが送信される前記検査装置は前記第1の検査装置である、請求項10から請求項12のいずれか一項に記載の画像認識方法。
  14. 前記画像認識システムは、推定部と、データ処理部とをさらに有し、
    前記推定部により、前記検査装置において前記認識対象を認識できなかった画像データについて前記認識対象の推定を行う工程と、
    前記データ処理部により、前記認識対象の推定結果を前記画像データの送信元の前記検査装置に送信し、前記認識対象を推定できなかった場合には、前記画像データ収集部にその画像データを蓄積させる工程と、
    をさらに有する、請求項10から請求項13のいずれか一項に記載の画像認識方法。
  15. 前記工場内に設置された複数の検査装置は、前記認識対象の特徴部を認識するモデルを用いない第2の検査装置を含み、
    前記認識対象の推定を行う工程は、前記第2の検査装置において前記認識対象を認識できなかった画像データについて前記認識対象の推定を行う、請求項14に記載の画像認識方法。
  16. 前記認識対象の推定を行う工程は、前記画像データについて前記第1モデルを用いて前記認識対象の推定を行う、請求項14または請求項15に記載の画像認識方法。
  17. 前記認識対象の推定を行う工程に用いられる前記第1モデルは、前記モデルを更新する工程で更新された前記第2モデルに更新可能である、請求項14から請求項16のいずれか一項に記載の画像認識方法。
  18. 前記検査装置は、複数のデバイスが形成されたウエハに対し、プローブカードの各プローブをデバイスの電極パッドと接触させて電気的特性の検査を行うものであり、前記認識対象は、前記電極パッド、前記電極パッドに対し前記プローブが付けた針跡、および、前記プローブの針先のうち少なくとも1種である、請求項10から請求項17のいずれか一項に記載の画像認識方法。
JP2019012630A 2019-01-29 2019-01-29 画像認識システムおよび画像認識方法 Active JP7262232B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2019012630A JP7262232B2 (ja) 2019-01-29 2019-01-29 画像認識システムおよび画像認識方法
CN202010052590.8A CN111563872B (zh) 2019-01-29 2020-01-17 图像识别系统和图像识别方法
TW109101886A TWI832958B (zh) 2019-01-29 2020-01-20 影像辨識系統及影像辨識方法
KR1020200007860A KR102315595B1 (ko) 2019-01-29 2020-01-21 화상 인식 시스템 및 화상 인식 방법
US16/750,336 US20200242747A1 (en) 2019-01-29 2020-01-23 Image recognition system and image recognition method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019012630A JP7262232B2 (ja) 2019-01-29 2019-01-29 画像認識システムおよび画像認識方法

Publications (2)

Publication Number Publication Date
JP2020119476A JP2020119476A (ja) 2020-08-06
JP7262232B2 true JP7262232B2 (ja) 2023-04-21

Family

ID=71731500

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019012630A Active JP7262232B2 (ja) 2019-01-29 2019-01-29 画像認識システムおよび画像認識方法

Country Status (5)

Country Link
US (1) US20200242747A1 (ja)
JP (1) JP7262232B2 (ja)
KR (1) KR102315595B1 (ja)
CN (1) CN111563872B (ja)
TW (1) TWI832958B (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021149329A1 (ja) 2020-01-20 2021-07-29 学校法人昭和大学 Hic−5インヒビターの新規用途

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002269563A (ja) 2001-03-08 2002-09-20 Matsushita Electric Ind Co Ltd 顔画像照合システム
JP2012208710A (ja) 2011-03-29 2012-10-25 Panasonic Corp 属性推定装置
JP2017199074A (ja) 2016-04-25 2017-11-02 ファナック株式会社 製品の異常に関連する変数の判定値を設定する生産システム
JP2018147261A (ja) 2017-03-06 2018-09-20 Kddi株式会社 モデル統合装置、モデル統合システム、方法およびプログラム

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3434976B2 (ja) * 1996-06-28 2003-08-11 三菱電機株式会社 画像処理装置
JP4628665B2 (ja) 2002-10-28 2011-02-09 大日本スクリーン製造株式会社 針痕読取装置および針痕読取方法
US8396582B2 (en) * 2008-03-08 2013-03-12 Tokyo Electron Limited Method and apparatus for self-learning and self-improving a semiconductor manufacturing tool
JP5385752B2 (ja) * 2009-10-20 2014-01-08 キヤノン株式会社 画像認識装置、その処理方法及びプログラム
US9536178B2 (en) * 2012-06-15 2017-01-03 Vufind, Inc. System and method for structuring a large scale object recognition engine to maximize recognition accuracy and emulate human visual cortex
CN103411974B (zh) * 2013-07-10 2017-02-08 杭州赤霄科技有限公司 基于云端大数据的平面材料检测远程系统及检测方法
US9990587B2 (en) * 2015-01-22 2018-06-05 Preferred Networks, Inc. Machine learning heterogeneous edge device, method, and system
KR102601848B1 (ko) * 2015-11-25 2023-11-13 삼성전자주식회사 데이터 인식 모델 구축 장치 및 방법과 데이터 인식 장치
CN107292223A (zh) * 2016-04-13 2017-10-24 芋头科技(杭州)有限公司 一种实时手势检测的在线验证方法及系统
TWI765895B (zh) * 2016-06-20 2022-06-01 美商蝴蝶網路公司 用於協助使用者操作超音波裝置的自動化影像獲取之系統和方法
US11237119B2 (en) * 2017-01-10 2022-02-01 Kla-Tencor Corporation Diagnostic methods for the classifiers and the defects captured by optical tools
JP6795788B2 (ja) * 2017-01-24 2020-12-02 株式会社安川電機 産業機器用の画像認識装置及び画像認識方法
US20190019096A1 (en) * 2017-01-27 2019-01-17 Mitsubishi Hitachi Power Systems, Ltd. Estimator, estimation method, program and storage medium where program stored for model parameter estimation and model parameter estimation system
GB201704373D0 (en) * 2017-03-20 2017-05-03 Rolls-Royce Ltd Surface defect detection
US10878342B2 (en) * 2017-03-30 2020-12-29 Intel Corporation Cloud assisted machine learning
JP6549644B2 (ja) * 2017-06-27 2019-07-24 ファナック株式会社 機械学習装置、ロボット制御システム及び機械学習方法
JP6705777B2 (ja) * 2017-07-10 2020-06-03 ファナック株式会社 機械学習装置、検査装置及び機械学習方法
CN107886500A (zh) * 2017-10-13 2018-04-06 北京邮电大学 一种基于机器视觉和机器学习的产品生产监控方法及系统

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002269563A (ja) 2001-03-08 2002-09-20 Matsushita Electric Ind Co Ltd 顔画像照合システム
JP2012208710A (ja) 2011-03-29 2012-10-25 Panasonic Corp 属性推定装置
JP2017199074A (ja) 2016-04-25 2017-11-02 ファナック株式会社 製品の異常に関連する変数の判定値を設定する生産システム
JP2018147261A (ja) 2017-03-06 2018-09-20 Kddi株式会社 モデル統合装置、モデル統合システム、方法およびプログラム

Also Published As

Publication number Publication date
US20200242747A1 (en) 2020-07-30
KR102315595B1 (ko) 2021-10-21
CN111563872A (zh) 2020-08-21
TWI832958B (zh) 2024-02-21
CN111563872B (zh) 2023-11-21
KR20200094089A (ko) 2020-08-06
TW202101625A (zh) 2021-01-01
JP2020119476A (ja) 2020-08-06

Similar Documents

Publication Publication Date Title
KR101071013B1 (ko) 검사 방법 및 이 검사 방법을 기록한 프로그램 기록 매체
US8068662B2 (en) Method and system for determining a defect during charged particle beam inspection of a sample
WO2018087932A1 (ja) 保存画像の再分類システム及び再分類方法
TW201925761A (zh) 缺陷檢查方法
TW201712774A (zh) 診斷半導體晶圓之方法以及系統
JP7262232B2 (ja) 画像認識システムおよび画像認識方法
TWI763183B (zh) 晶圓測試系統及其方法
US11113804B2 (en) Quality estimation device, quality estimation method, and quality estimation program
CN111146103A (zh) 晶圆的检测方法及检测设备
JP4842782B2 (ja) 欠陥レビュー方法および装置
US8436633B2 (en) Method to determine needle mark and program therefor
US20140055160A1 (en) Apparatus and method for inspection of marking
JP2005150224A (ja) プローブ情報を用いた半導体検査装置及び検査方法
KR20150117153A (ko) 패턴 신뢰성 검사 방법 및 이를 이용한 반도체 소자 테스트 방법
US8577123B2 (en) Method and system for evaluating contact elements
JP2006128452A (ja) プローブカード及びプローバー装置、半導体装置の製造方法
Desineni et al. The Grand Pareto: A methodology for identifying and quantifying yield detractors in volume semiconductor manufacturing
JP2004309413A (ja) Lsi検査方法及び欠陥検査データ分析装置
JP2004342676A (ja) 半導体ウエハ検査方法および半導体ウエハ検査装置
KR100615574B1 (ko) 반도체 소자 제조용 잉킹시스템 및 그 방법
CN114659799A (zh) 车辆检查方法及车辆检查系统
TWI597492B (zh) 圖案缺陷檢查方法
JP2008170172A (ja) 位置検出方法及び記録媒体
JP5707127B2 (ja) 半導体装置の不良解析方法
CN116908179A (zh) 晶圆检测系统

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211006

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20221017

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221025

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221205

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230314

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230411

R150 Certificate of patent or registration of utility model

Ref document number: 7262232

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150