JP7262232B2 - 画像認識システムおよび画像認識方法 - Google Patents
画像認識システムおよび画像認識方法 Download PDFInfo
- Publication number
- JP7262232B2 JP7262232B2 JP2019012630A JP2019012630A JP7262232B2 JP 7262232 B2 JP7262232 B2 JP 7262232B2 JP 2019012630 A JP2019012630 A JP 2019012630A JP 2019012630 A JP2019012630 A JP 2019012630A JP 7262232 B2 JP7262232 B2 JP 7262232B2
- Authority
- JP
- Japan
- Prior art keywords
- model
- recognition
- image data
- unit
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01R—MEASURING ELECTRIC VARIABLES; MEASURING MAGNETIC VARIABLES
- G01R31/00—Arrangements for testing electric properties; Arrangements for locating electric faults; Arrangements for electrical testing characterised by what is being tested not provided for elsewhere
- G01R31/28—Testing of electronic circuits, e.g. by signal tracer
- G01R31/2851—Testing of integrated circuits [IC]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N20/00—Machine learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
- G06T7/001—Industrial image inspection using an image reference approach
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
- G06T7/75—Determining position or orientation of objects or cameras using feature-based methods involving models
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/10—Character recognition
- G06V30/19—Recognition using electronic means
- G06V30/192—Recognition using electronic means using simultaneous comparisons or correlations of the image signals with a plurality of references
- G06V30/194—References adjustable by an adaptive method, e.g. learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30108—Industrial image inspection
- G06T2207/30148—Semiconductor; IC; Wafer
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/06—Recognition of objects for industrial automation
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Software Systems (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- Data Mining & Analysis (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Medical Informatics (AREA)
- Multimedia (AREA)
- Quality & Reliability (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Databases & Information Systems (AREA)
- Computer Hardware Design (AREA)
- Microelectronics & Electronic Packaging (AREA)
- Image Analysis (AREA)
Description
まず、第1の実施形態について説明する。
図1は、第1の実施形態に係る画像認識システムの一例を備えた検査システムを概略的に示すブロック図である。
次に、第2の実施形態について説明する。
図9は、第2の実施形態に係る画像認識システムの一例を備えた検査システムを概略的に示すブロック図である。
次に、第3の実施形態について説明する。
図12は、第3の実施形態に係る画像認識システムの一例を示すブロック図である。本実施形態では第2の実施形態と同様、検査装置として第1の検査装置200と第2の検査装置300とが混在している。
20;学習実行部
30;モデル更新部
40;第1の送信部
50;認識結果判定部
60;第2の送信部
100,100´,101,101´、102,103;画像認識システム
200;第1の検査装置
300;第2の検査装置
400,401;検査システム
Claims (18)
- 工場内に設置された複数の検査装置から、認識対象を含む画像データを収集する画像データ収集部と、
事前の機械学習で得られた、前記認識対象の特徴部を認識する第1モデルに対し、前記画像データ収集部に収集された画像データにより追加の機械学習を実行する学習実行部と、
前記学習実行部による前記機械学習の結果に基づいて、前記認識対象の前記特徴部を認識するモデルを前記第1モデルから第2モデルへ更新するモデル更新部と、
前記工場内に設置された前記複数の検査装置のうち特定の検査装置に前記第2モデルを送信する第1の送信部と、
前記特定の検査装置において、前記第2モデルを用いて前記認識対象の認識を行った認識結果を受信し判定する認識結果判定部と、
前記認識結果判定部による判定結果により、前記第2モデルを前記検査装置へ送信する第2の送信部と、
を有する、画像認識システム。 - 前記画像データ収集部には、前記認識対象を正しく認識できなかった画像データが収集される、請求項1に記載の画像認識システム。
- 前記第2モデルが送信された前記検査装置は、前記認識対象の前記特徴部を認識するモデルが前記第1モデルから前記第2モデルに更新される、請求項1または請求項2に記載の画像認識システム。
- 前記工場内に設置された複数の検査装置は、事前の機械学習により得られた前記認識対象の特徴部を認識するモデルを用いて前記認識対象の認識を行う第1の検査装置を含み、前記第2モデルが送信される前記検査装置は前記第1の検査装置である、請求項1から請求項3のいずれか一項に記載の画像認識システム。
- 前記検査装置において前記認識対象を認識できなかった画像データを少なくとも受信し、前記画像データについて前記認識対象の推定を行う推定部と、
前記推定部において前記認識対象の推定結果を前記画像データの送信元の前記検査装置に送信し、前記推定部において前記認識対象を推定できなかった場合には前記画像データ収集部にその画像データを蓄積させるデータ処理部と、
をさらに有する、請求項1から請求項4のいずれか1項に記載の画像認識システム。 - 前記工場内に設置された複数の検査装置は、前記認識対象の特徴部を認識するモデルを用いない第2の検査装置を含み、
前記推定部は、前記第2の検査装置において前記認識対象を認識できなかった画像データを少なくとも受信し、前記認識対象の推定を行う、請求項5に記載の画像認識システム。 - 前記推定部は、前記画像データについて前記第1モデルを用いて前記認識対象の推定を行う、請求項5または請求項6に記載の画像認識システム。
- 前記推定部に用いられる前記第1モデルは、前記モデル更新部で更新された前記第2モデルに更新可能である、請求項5から請求項7のいずれか一項に記載の画像認識システム。
- 前記検査装置は、複数のデバイスが形成されたウエハに対し、プローブカードの各プローブをデバイスの電極パッドと接触させて電気的特性の検査を行うものであり、前記認識対象は、前記電極パッド、前記電極パッドに対し前記プローブが付けた針跡、および、前記プローブの針先のうち少なくとも1種である、請求項1から請求項8のいずれか一項に記載の画像認識システム。
- 画像データ収集部と、学習実行部と、モデル更新部と、第1の送信部と、認識結果判定部と、第2の送信部と、を有する画像認識システムにより画像認識を行う画像認識方法であって、
工場内に設置された複数の検査装置から、認識対象を含む画像データが前記画像データ収集部に収集される工程と、
前記学習実行部により、事前の機械学習で得られた、前記認識対象の特徴部を認識する第1モデルに対し、前記収集された画像データにより追加の機械学習を実行する工程と、
前記モデル更新部により、前記機械学習の結果に基づいて、前記認識対象の前記特徴部を認識するモデルを前記第1モデルから第2モデルへ更新する工程と、
前記第1の送信部により、前記工場内に設置された前記複数の検査装置のうち特定の検査装置に前記第2モデルを送信する工程と、
前記特定の検査装置により、前記第2モデルを用いて前記認識対象の認識を行う工程と、
前記認識結果判定部により、前記特定の検査装置において認識を行った認識結果を判定する工程と、
前記第2の送信部により、前記判定する工程の判定結果により、前記第2モデルを前記検査装置へ送信する工程と、
を有する、画像認識方法。 - 前記認識対象を含む画像データが前記画像データ収集部に収集される工程は、前記認識対象を正しく認識できなかった画像データが収集される、請求項10に記載の画像認識方法。
- 前記第2モデルが送信された前記検査装置は、前記認識対象の前記特徴部を認識するモデルが前記第1モデルから前記第2モデルに更新される、請求項10または請求項11に記載の画像認識方法。
- 前記工場内に設置された複数の検査装置は、事前の機械学習により得られた前記認識対象の特徴部を認識するモデルを用いて前記認識対象の認識を行う第1の検査装置を含み、前記第2モデルが送信される前記検査装置は前記第1の検査装置である、請求項10から請求項12のいずれか一項に記載の画像認識方法。
- 前記画像認識システムは、推定部と、データ処理部とをさらに有し、
前記推定部により、前記検査装置において前記認識対象を認識できなかった画像データについて前記認識対象の推定を行う工程と、
前記データ処理部により、前記認識対象の推定結果を前記画像データの送信元の前記検査装置に送信し、前記認識対象を推定できなかった場合には、前記画像データ収集部にその画像データを蓄積させる工程と、
をさらに有する、請求項10から請求項13のいずれか一項に記載の画像認識方法。 - 前記工場内に設置された複数の検査装置は、前記認識対象の特徴部を認識するモデルを用いない第2の検査装置を含み、
前記認識対象の推定を行う工程は、前記第2の検査装置において前記認識対象を認識できなかった画像データについて前記認識対象の推定を行う、請求項14に記載の画像認識方法。 - 前記認識対象の推定を行う工程は、前記画像データについて前記第1モデルを用いて前記認識対象の推定を行う、請求項14または請求項15に記載の画像認識方法。
- 前記認識対象の推定を行う工程に用いられる前記第1モデルは、前記モデルを更新する工程で更新された前記第2モデルに更新可能である、請求項14から請求項16のいずれか一項に記載の画像認識方法。
- 前記検査装置は、複数のデバイスが形成されたウエハに対し、プローブカードの各プローブをデバイスの電極パッドと接触させて電気的特性の検査を行うものであり、前記認識対象は、前記電極パッド、前記電極パッドに対し前記プローブが付けた針跡、および、前記プローブの針先のうち少なくとも1種である、請求項10から請求項17のいずれか一項に記載の画像認識方法。
Priority Applications (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019012630A JP7262232B2 (ja) | 2019-01-29 | 2019-01-29 | 画像認識システムおよび画像認識方法 |
CN202010052590.8A CN111563872B (zh) | 2019-01-29 | 2020-01-17 | 图像识别系统和图像识别方法 |
TW109101886A TWI832958B (zh) | 2019-01-29 | 2020-01-20 | 影像辨識系統及影像辨識方法 |
KR1020200007860A KR102315595B1 (ko) | 2019-01-29 | 2020-01-21 | 화상 인식 시스템 및 화상 인식 방법 |
US16/750,336 US20200242747A1 (en) | 2019-01-29 | 2020-01-23 | Image recognition system and image recognition method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019012630A JP7262232B2 (ja) | 2019-01-29 | 2019-01-29 | 画像認識システムおよび画像認識方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020119476A JP2020119476A (ja) | 2020-08-06 |
JP7262232B2 true JP7262232B2 (ja) | 2023-04-21 |
Family
ID=71731500
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019012630A Active JP7262232B2 (ja) | 2019-01-29 | 2019-01-29 | 画像認識システムおよび画像認識方法 |
Country Status (5)
Country | Link |
---|---|
US (1) | US20200242747A1 (ja) |
JP (1) | JP7262232B2 (ja) |
KR (1) | KR102315595B1 (ja) |
CN (1) | CN111563872B (ja) |
TW (1) | TWI832958B (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2021149329A1 (ja) | 2020-01-20 | 2021-07-29 | 学校法人昭和大学 | Hic−5インヒビターの新規用途 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002269563A (ja) | 2001-03-08 | 2002-09-20 | Matsushita Electric Ind Co Ltd | 顔画像照合システム |
JP2012208710A (ja) | 2011-03-29 | 2012-10-25 | Panasonic Corp | 属性推定装置 |
JP2017199074A (ja) | 2016-04-25 | 2017-11-02 | ファナック株式会社 | 製品の異常に関連する変数の判定値を設定する生産システム |
JP2018147261A (ja) | 2017-03-06 | 2018-09-20 | Kddi株式会社 | モデル統合装置、モデル統合システム、方法およびプログラム |
Family Cites Families (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3434976B2 (ja) * | 1996-06-28 | 2003-08-11 | 三菱電機株式会社 | 画像処理装置 |
JP4628665B2 (ja) | 2002-10-28 | 2011-02-09 | 大日本スクリーン製造株式会社 | 針痕読取装置および針痕読取方法 |
US8396582B2 (en) * | 2008-03-08 | 2013-03-12 | Tokyo Electron Limited | Method and apparatus for self-learning and self-improving a semiconductor manufacturing tool |
JP5385752B2 (ja) * | 2009-10-20 | 2014-01-08 | キヤノン株式会社 | 画像認識装置、その処理方法及びプログラム |
US9536178B2 (en) * | 2012-06-15 | 2017-01-03 | Vufind, Inc. | System and method for structuring a large scale object recognition engine to maximize recognition accuracy and emulate human visual cortex |
CN103411974B (zh) * | 2013-07-10 | 2017-02-08 | 杭州赤霄科技有限公司 | 基于云端大数据的平面材料检测远程系统及检测方法 |
US9990587B2 (en) * | 2015-01-22 | 2018-06-05 | Preferred Networks, Inc. | Machine learning heterogeneous edge device, method, and system |
KR102601848B1 (ko) * | 2015-11-25 | 2023-11-13 | 삼성전자주식회사 | 데이터 인식 모델 구축 장치 및 방법과 데이터 인식 장치 |
CN107292223A (zh) * | 2016-04-13 | 2017-10-24 | 芋头科技(杭州)有限公司 | 一种实时手势检测的在线验证方法及系统 |
TWI765895B (zh) * | 2016-06-20 | 2022-06-01 | 美商蝴蝶網路公司 | 用於協助使用者操作超音波裝置的自動化影像獲取之系統和方法 |
US11237119B2 (en) * | 2017-01-10 | 2022-02-01 | Kla-Tencor Corporation | Diagnostic methods for the classifiers and the defects captured by optical tools |
JP6795788B2 (ja) * | 2017-01-24 | 2020-12-02 | 株式会社安川電機 | 産業機器用の画像認識装置及び画像認識方法 |
US20190019096A1 (en) * | 2017-01-27 | 2019-01-17 | Mitsubishi Hitachi Power Systems, Ltd. | Estimator, estimation method, program and storage medium where program stored for model parameter estimation and model parameter estimation system |
GB201704373D0 (en) * | 2017-03-20 | 2017-05-03 | Rolls-Royce Ltd | Surface defect detection |
US10878342B2 (en) * | 2017-03-30 | 2020-12-29 | Intel Corporation | Cloud assisted machine learning |
JP6549644B2 (ja) * | 2017-06-27 | 2019-07-24 | ファナック株式会社 | 機械学習装置、ロボット制御システム及び機械学習方法 |
JP6705777B2 (ja) * | 2017-07-10 | 2020-06-03 | ファナック株式会社 | 機械学習装置、検査装置及び機械学習方法 |
CN107886500A (zh) * | 2017-10-13 | 2018-04-06 | 北京邮电大学 | 一种基于机器视觉和机器学习的产品生产监控方法及系统 |
-
2019
- 2019-01-29 JP JP2019012630A patent/JP7262232B2/ja active Active
-
2020
- 2020-01-17 CN CN202010052590.8A patent/CN111563872B/zh active Active
- 2020-01-20 TW TW109101886A patent/TWI832958B/zh active
- 2020-01-21 KR KR1020200007860A patent/KR102315595B1/ko active IP Right Grant
- 2020-01-23 US US16/750,336 patent/US20200242747A1/en not_active Abandoned
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002269563A (ja) | 2001-03-08 | 2002-09-20 | Matsushita Electric Ind Co Ltd | 顔画像照合システム |
JP2012208710A (ja) | 2011-03-29 | 2012-10-25 | Panasonic Corp | 属性推定装置 |
JP2017199074A (ja) | 2016-04-25 | 2017-11-02 | ファナック株式会社 | 製品の異常に関連する変数の判定値を設定する生産システム |
JP2018147261A (ja) | 2017-03-06 | 2018-09-20 | Kddi株式会社 | モデル統合装置、モデル統合システム、方法およびプログラム |
Also Published As
Publication number | Publication date |
---|---|
US20200242747A1 (en) | 2020-07-30 |
KR102315595B1 (ko) | 2021-10-21 |
CN111563872A (zh) | 2020-08-21 |
TWI832958B (zh) | 2024-02-21 |
CN111563872B (zh) | 2023-11-21 |
KR20200094089A (ko) | 2020-08-06 |
TW202101625A (zh) | 2021-01-01 |
JP2020119476A (ja) | 2020-08-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR101071013B1 (ko) | 검사 방법 및 이 검사 방법을 기록한 프로그램 기록 매체 | |
US8068662B2 (en) | Method and system for determining a defect during charged particle beam inspection of a sample | |
WO2018087932A1 (ja) | 保存画像の再分類システム及び再分類方法 | |
TW201925761A (zh) | 缺陷檢查方法 | |
TW201712774A (zh) | 診斷半導體晶圓之方法以及系統 | |
JP7262232B2 (ja) | 画像認識システムおよび画像認識方法 | |
TWI763183B (zh) | 晶圓測試系統及其方法 | |
US11113804B2 (en) | Quality estimation device, quality estimation method, and quality estimation program | |
CN111146103A (zh) | 晶圆的检测方法及检测设备 | |
JP4842782B2 (ja) | 欠陥レビュー方法および装置 | |
US8436633B2 (en) | Method to determine needle mark and program therefor | |
US20140055160A1 (en) | Apparatus and method for inspection of marking | |
JP2005150224A (ja) | プローブ情報を用いた半導体検査装置及び検査方法 | |
KR20150117153A (ko) | 패턴 신뢰성 검사 방법 및 이를 이용한 반도체 소자 테스트 방법 | |
US8577123B2 (en) | Method and system for evaluating contact elements | |
JP2006128452A (ja) | プローブカード及びプローバー装置、半導体装置の製造方法 | |
Desineni et al. | The Grand Pareto: A methodology for identifying and quantifying yield detractors in volume semiconductor manufacturing | |
JP2004309413A (ja) | Lsi検査方法及び欠陥検査データ分析装置 | |
JP2004342676A (ja) | 半導体ウエハ検査方法および半導体ウエハ検査装置 | |
KR100615574B1 (ko) | 반도체 소자 제조용 잉킹시스템 및 그 방법 | |
CN114659799A (zh) | 车辆检查方法及车辆检查系统 | |
TWI597492B (zh) | 圖案缺陷檢查方法 | |
JP2008170172A (ja) | 位置検出方法及び記録媒体 | |
JP5707127B2 (ja) | 半導体装置の不良解析方法 | |
CN116908179A (zh) | 晶圆检测系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20211006 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20221017 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20221025 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20221205 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230314 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230411 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7262232 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |