JPWO2018216075A1 - 画像処理装置、多重通信システム及び画像処理方法 - Google Patents
画像処理装置、多重通信システム及び画像処理方法 Download PDFInfo
- Publication number
- JPWO2018216075A1 JPWO2018216075A1 JP2019519818A JP2019519818A JPWO2018216075A1 JP WO2018216075 A1 JPWO2018216075 A1 JP WO2018216075A1 JP 2019519818 A JP2019519818 A JP 2019519818A JP 2019519818 A JP2019519818 A JP 2019519818A JP WO2018216075 A1 JPWO2018216075 A1 JP WO2018216075A1
- Authority
- JP
- Japan
- Prior art keywords
- image data
- information
- machine learning
- image processing
- machine
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000004891 communication Methods 0.000 title claims abstract description 69
- 238000003672 processing method Methods 0.000 title claims abstract description 6
- 238000010801 machine learning Methods 0.000 claims abstract description 78
- 238000003384 imaging method Methods 0.000 claims abstract description 56
- 230000010365 information processing Effects 0.000 claims abstract description 17
- 238000001514 detection method Methods 0.000 claims description 13
- 230000006870 function Effects 0.000 claims description 11
- 238000000034 method Methods 0.000 description 14
- 238000007689 inspection Methods 0.000 description 11
- 230000008569 process Effects 0.000 description 7
- 239000000758 substrate Substances 0.000 description 6
- 238000004519 manufacturing process Methods 0.000 description 5
- 238000004458 analytical method Methods 0.000 description 4
- 230000008859 change Effects 0.000 description 4
- 239000013307 optical fiber Substances 0.000 description 4
- 238000010586 diagram Methods 0.000 description 3
- 238000013135 deep learning Methods 0.000 description 2
- 230000002950 deficient Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000005286 illumination Methods 0.000 description 2
- 238000005452 bending Methods 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 125000004122 cyclic group Chemical group 0.000 description 1
- 230000003111 delayed effect Effects 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 230000007257 malfunction Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000000059 patterning Methods 0.000 description 1
- APTZNLHMIGJTEW-UHFFFAOYSA-N pyraflufen-ethyl Chemical compound C1=C(Cl)C(OCC(=O)OCC)=CC(C=2C(=C(OC(F)F)N(C)N=2)Cl)=C1F APTZNLHMIGJTEW-UHFFFAOYSA-N 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 230000000630 rising effect Effects 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 238000011144 upstream manufacturing Methods 0.000 description 1
- 239000013598 vector Substances 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
-
- H—ELECTRICITY
- H05—ELECTRIC TECHNIQUES NOT OTHERWISE PROVIDED FOR
- H05K—PRINTED CIRCUITS; CASINGS OR CONSTRUCTIONAL DETAILS OF ELECTRIC APPARATUS; MANUFACTURE OF ASSEMBLAGES OF ELECTRICAL COMPONENTS
- H05K13/00—Apparatus or processes specially adapted for manufacturing or adjusting assemblages of electric components
- H05K13/08—Monitoring manufacture of assemblages
Landscapes
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Operations Research (AREA)
- Manufacturing & Machinery (AREA)
- Microelectronics & Electronic Packaging (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Supply And Installment Of Electrical Components (AREA)
- Image Analysis (AREA)
Abstract
Description
また、本明細書は、画像処理装置を備える多重通信システム、及び画像処理方法を開示する。
図1は、本実施形態の対基板作業システム10の構成を示している。本実施形態の対基板作業システム10は、複数の部品装着機11と、検査装置12と、ホストコンピュータ13と、学習用PC14と、を備えている。複数の部品装着機11は、例えば、並列に配置して互いに連結されており、回路基板に電子部品を実装する生産ラインを構成している。検査装置12は、複数の部品装着機11によって電子部品を実装された回路基板の実装状態を検査する。
次に、部品装着機11の構成について説明する。図2は、部品装着機11の構成を示すブロックである。図2に示すように、部品装着機11は、装置本体21、装着ヘッド22、X軸スライダ23、Y軸スライダ24等を備えている。部品装着機11は、例えば、装置本体21の装着制御用ボード32の制御に基づいて、生産ラインを搬送される回路基板に対し、装着ヘッド22の吸着ノズルに保持された電子部品を装着する作業を実施する。
上記したように、多重通信装置25は、画像データGD1にヘッダ情報HDを付加した画像データGD2を、学習用PC14に向けて送信する。図4は、ヘッダ情報HD付きの画像データGD2の一例として、IPSカメラ41の画像データGD1にヘッダ情報HDを付加したデータ構成を示している。図4に示すように、画像データGD2には、幅情報61等の各種情報がヘッダ情報HDとして付加されている。本実施形態のヘッダ情報HDは、例えば、幅情報61、高さ情報62、カメラ番号(カメラNo)64、トリガカウント情報65、I/O情報IO、誤り検出符号(チェックサムなど)68、及びエンコーダ情報ED1,ED2,ED3,ED4,ED5である。
(4−1.装着前後の自動分類)
次に、学習用PC14による画像データGD2の処理について説明する。図5及び図6は、画像データGD2の分類処理のフローを示している。まず、図5のステップ(以下、単に「S」と表記する)11において、学習用PC14は、生産ラインに配置された複数の多重通信装置25(部品装着機11)から受信した画像データGD2を記憶装置14Aに蓄積する。
次に、エラー履歴情報ERに基づいて画像データGD2を分類する処理について説明する。学習用PC14は、上記したS13の処理により分類した画像データGD2について、撮像時にエラーが発生していたか否かの基準に基づいて、さらに詳細に分類する。図1に示すように、部品装着機11(装着制御用ボード32)の各々は、作業中に発生したエラーについての情報であるエラー履歴情報ERを学習用PC14へ送信する。また、検査装置12は、実装後の回路基板72の検査において不良であると判定した情報(実装不良の電子部品75の位置情報など)をエラー履歴情報ERとして学習用PC14へ送信する。学習用PC14は、受信したエラー履歴情報ERを記憶装置14Aに保存する(図6のS15)。
以上、詳細に説明した上記実施形態によれば以下の効果を奏する。
本実施形態の画像処理装置(対基板作業システム10)は、回路基板72(ワーク)に対する作業を行う部品装着機11(作業機)の作業状態を撮像する撮像装置(IPSカメラ41、マークカメラ51)と、IPSカメラ41等によって撮像された画像データGD1に対し、画像データGD1を撮像した際の部品装着機11(作業機)の状態を示すヘッダ情報HD(機械学習用分類情報)を付加して出力する多重通信装置25(機械学習用分類情報付加部)と、多重通信装置25からヘッダ情報HDを付加した画像データGD2を入力し、ヘッダ情報HDに基づいて画像データGD2に対する処理を行う学習用PC14(機械学習用分類情報処理部)と、を備える。
なお、本願は、上記実施形態に限定されるものではなく、当業者の知識に基づいて種々の変更、改良を施した形態で実施することが可能である。
例えば、上記実施形態では、分類した画像データGD2を用いて学習用PC14による機械学習を行い、画像処理の精度を向上させたが、これに限らない。例えば、ユーザが、自動で分類された画像データGD2を確認し、装置本体21による画像処理の設定(特徴点の抽出など)を手動で変更してもよい。この場合、予め自動で分類がなされているため、ユーザの作業負担を軽減できる。
また、本願の機械学習用分類情報処理部(学習用PC14)による処理は、機械学習用分類情報(ヘッダ情報HD)に基づいた画像データGD2の分類処理に限らない。例えば、学習用PC14は、エンコーダ情報EDに基づいて、吸着ノズル78の位置の誤差を検出して吸着ノズル78の位置ずれを補正してもよい。結果として、吸着ノズル78の位置ずれが抑制されることで、画像処理の精度を向上させることができる。
また、上記実施形態では、機械学習を実施する学習用PC14を、装置本体21とは別に設けたが、これに限らない。例えば、装着制御用ボード32が、装着作業の統括に加えて機械学習を実施してもよい。
また、本願における駆動部の位置情報は、部品装着機11(作業機)の駆動源として機能するモータ(サーボモータ43など)のエンコーダ情報EDに限らず、例えば、部品装着機11の各部位を駆動するアクチュエーター(駆動部)の出力軸の位置情報でもよい。
また、本願における機械学習用分類情報は、ヘッダ情報HDに限らず、例えば、画像データGD1のフッタに付け加えた情報でもよい。
また、本願におけるトリガ情報は、撮像回数を示すトリガカウント情報65に限らず、例えば、画像データGD1を特定できる他のトリガ情報(撮像を開始する際の作業工程名、吸着ノズル78や電子部品75ごとの撮像の順番を示す情報)でもよい。
また、上記実施形態では、機械学習用分類情報に基づく画像処理を行う対象の作業機として部品装着機11を採用したが、これに限らない。例えば、作業後の回路基板に対する検査を行う検査装置12を画像処理の対象の作業機として採用してもよい。また、例えば、FA分野で使用される他の作業用ロボットを画像処理の対象の作業機として採用してもよい。
Claims (10)
- ワークに対する作業を行う作業機の作業状態を撮像する撮像装置と、
前記撮像装置によって撮像された画像データに対し、前記画像データを撮像した際の前記作業機の状態を示す機械学習用分類情報を付加して出力する機械学習用分類情報付加部と、
前記機械学習用分類情報付加部から前記機械学習用分類情報を付加した前記画像データを入力し、前記機械学習用分類情報に基づいて前記画像データに対する処理を行う機械学習用分類情報処理部と、
を備える、画像処理装置。 - 前記機械学習用分類情報処理部は、前記画像データを前記機械学習用分類情報に基づいて分類し、分類した前記画像データを機械学習の教師データとして用いて機械学習のアルゴリズムを適用する、請求項1に記載の画像処理装置。
- 前記機械学習用分類情報は、前記作業機の駆動源として機能する駆動部の位置情報である、請求項1又は2に記載の画像処理装置。
- 前記機械学習用分類情報は、前記作業機の駆動源として機能するモータのエンコーダ情報、前記撮像装置へ撮像指示を行った順番を識別するトリガ情報、及び前記作業機が備える検出装置のI/O情報のうち、少なくとも1つの情報である、請求項1又は2に記載の画像処理装置。
- 前記機械学習用分類情報は、前記作業機の駆動源として機能する複数のモータのエンコーダ情報を含み、
前記機械学習用分類情報処理部は、前記撮像装置の撮像位置に関連する情報として前記複数のモータの前記エンコーダ情報に基づいて前記画像データを分類する、請求項1又は2に記載の画像処理装置。 - 前記作業機は、前記ワークに対する作業を行う可動部と、前記画像データを入力し前記画像データに対する画像処理を行う画像処理部と、前記画像処理部の画像処理の結果に基づいて前記可動部を制御する制御部と、を備え、
前記画像処理部は、前記機械学習用分類情報処理部とは別に設けられる、請求項1乃至5の何れかに記載の画像処理装置。 - 前記機械学習用分類情報処理部によって処理された前記画像データを保存する記憶装置を、さらに備える、請求項1乃至6の何れかに記載の画像処理装置。
- 前記機械学習用分類情報処理部は、前記機械学習用分類情報に加え、前記作業機において発生したエラーの履歴を示すエラー履歴情報に基づいて前記画像データを分類し、分類した前記画像データを機械学習の教師データとして用いて機械学習のアルゴリズムを適用する、請求項1乃至7の何れかに記載の画像処理装置。
- 請求項1乃至8の何れかに記載の画像処理装置を備え、
前記画像データを他の作業データと多重化して伝送する、多重通信システム。 - ワークに対する作業を行う作業機の作業状態を撮像するステップと、
撮像された画像データに対し、前記画像データを撮像した際の前記作業機の状態を示す機械学習用分類情報を付加して出力するステップと、
前記機械学習用分類情報を付加した前記画像データを入力し、前記機械学習用分類情報に基づいて前記画像データに対する処理を行うステップと、
を含む画像処理方法。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2017/019049 WO2018216075A1 (ja) | 2017-05-22 | 2017-05-22 | 画像処理装置、多重通信システム及び画像処理方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2018216075A1 true JPWO2018216075A1 (ja) | 2019-12-12 |
JP6824398B2 JP6824398B2 (ja) | 2021-02-03 |
Family
ID=64395350
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019519818A Active JP6824398B2 (ja) | 2017-05-22 | 2017-05-22 | 画像処理装置、多重通信システム及び画像処理方法 |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP6824398B2 (ja) |
WO (1) | WO2018216075A1 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7503370B2 (ja) | 2019-07-01 | 2024-06-20 | 株式会社小松製作所 | 学習済みの作業分類推定モデルの製造方法、コンピュータによって実行される方法、および作業機械を含むシステム |
JP7394852B2 (ja) * | 2019-07-04 | 2023-12-08 | 株式会社Fuji | 部品実装システム |
WO2023195173A1 (ja) * | 2022-04-08 | 2023-10-12 | 株式会社Fuji | 部品実装システム及び画像分類方法 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH04139592A (ja) * | 1990-10-01 | 1992-05-13 | Fujitsu Ltd | ニューロコンピュータへの自動教示方式 |
JP2008130865A (ja) * | 2006-11-22 | 2008-06-05 | Fuji Mach Mfg Co Ltd | 部品吸着姿勢判別方法及び部品吸着姿勢判別システム |
JP2011159699A (ja) * | 2010-01-29 | 2011-08-18 | Hitachi High-Tech Instruments Co Ltd | 異常検出装置を備えた部品実装装置 |
JP2012212323A (ja) * | 2011-03-31 | 2012-11-01 | Sony Corp | 情報処理装置、情報処理方法、及び、プログラム |
-
2017
- 2017-05-22 WO PCT/JP2017/019049 patent/WO2018216075A1/ja active Application Filing
- 2017-05-22 JP JP2019519818A patent/JP6824398B2/ja active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH04139592A (ja) * | 1990-10-01 | 1992-05-13 | Fujitsu Ltd | ニューロコンピュータへの自動教示方式 |
JP2008130865A (ja) * | 2006-11-22 | 2008-06-05 | Fuji Mach Mfg Co Ltd | 部品吸着姿勢判別方法及び部品吸着姿勢判別システム |
JP2011159699A (ja) * | 2010-01-29 | 2011-08-18 | Hitachi High-Tech Instruments Co Ltd | 異常検出装置を備えた部品実装装置 |
JP2012212323A (ja) * | 2011-03-31 | 2012-11-01 | Sony Corp | 情報処理装置、情報処理方法、及び、プログラム |
Also Published As
Publication number | Publication date |
---|---|
JP6824398B2 (ja) | 2021-02-03 |
WO2018216075A1 (ja) | 2018-11-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4587877B2 (ja) | 部品実装装置 | |
JP6310058B2 (ja) | 画像処理装置および基板生産システム | |
WO2018216075A1 (ja) | 画像処理装置、多重通信システム及び画像処理方法 | |
CN108142000B (zh) | 基板作业系统及元件安装装置 | |
JP2014060249A (ja) | ダイボンダ、および、ダイの位置認識方法 | |
JP2014072409A (ja) | 部品検査方法及び装置 | |
CN107006148B (zh) | 元件安装装置及元件安装系统 | |
JP2012234488A (ja) | 基準マークモデルテンプレート作成方法 | |
KR101051106B1 (ko) | 전자부품 실장장치 및 전자부품 실장방법 | |
JP6411663B2 (ja) | 部品実装装置 | |
JP6956272B2 (ja) | トレース支援装置 | |
JPWO2017081773A1 (ja) | 基板用の画像処理装置および画像処理方法 | |
US11330751B2 (en) | Board work machine | |
US10771672B2 (en) | Detachable-head-type camera and work machine | |
JP6131315B2 (ja) | 通信システム及び電子部品装着装置 | |
US12082345B2 (en) | Component mounting machine | |
JP7153127B2 (ja) | 良否判定装置および良否判定方法 | |
CN116114390B (zh) | 错误原因推定装置以及错误原因推定方法 | |
JP7094366B2 (ja) | 検査設定装置および検査設定方法 | |
JP7153126B2 (ja) | 良否判定装置および良否判定方法 | |
US11751371B2 (en) | Component mounting device | |
JP7473735B2 (ja) | 異物検出装置および異物検出方法 | |
WO2023012981A1 (ja) | 部品実装システム | |
JP6748715B2 (ja) | 部品実装位置演算システム及び部品実装位置演算方法 | |
JP2023115818A (ja) | 実装システム、及び実装方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190821 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200923 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20201105 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20201215 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210112 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6824398 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |