JP2023133160A - 検査システム、aiモデルデータの管理方法及び、aiモデルデータセット - Google Patents
検査システム、aiモデルデータの管理方法及び、aiモデルデータセット Download PDFInfo
- Publication number
- JP2023133160A JP2023133160A JP2023023185A JP2023023185A JP2023133160A JP 2023133160 A JP2023133160 A JP 2023133160A JP 2023023185 A JP2023023185 A JP 2023023185A JP 2023023185 A JP2023023185 A JP 2023023185A JP 2023133160 A JP2023133160 A JP 2023133160A
- Authority
- JP
- Japan
- Prior art keywords
- model
- data
- inspection
- performance
- information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000007689 inspection Methods 0.000 title claims abstract description 176
- 238000000034 method Methods 0.000 title claims abstract description 44
- 238000004519 manufacturing process Methods 0.000 claims abstract description 139
- 238000012360 testing method Methods 0.000 claims abstract description 122
- 230000002950 deficient Effects 0.000 claims description 51
- 230000008569 process Effects 0.000 claims description 18
- 238000007726 management method Methods 0.000 description 60
- 238000003860 storage Methods 0.000 description 23
- 229910000679 solder Inorganic materials 0.000 description 14
- 238000010586 diagram Methods 0.000 description 13
- 238000012545 processing Methods 0.000 description 10
- 238000013523 data management Methods 0.000 description 6
- 230000007547 defect Effects 0.000 description 6
- 238000012549 training Methods 0.000 description 6
- 230000008676 import Effects 0.000 description 5
- 238000012795 verification Methods 0.000 description 5
- 238000003825 pressing Methods 0.000 description 4
- 240000004050 Pentaglottis sempervirens Species 0.000 description 3
- 235000004522 Pentaglottis sempervirens Nutrition 0.000 description 3
- 239000000470 constituent Substances 0.000 description 3
- 239000006071 cream Substances 0.000 description 3
- 230000008859 change Effects 0.000 description 2
- 238000013480 data collection Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 241000894007 species Species 0.000 description 2
- 239000003086 colorant Substances 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000003631 expected effect Effects 0.000 description 1
- 238000010438 heat treatment Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 238000005476 soldering Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
- 238000011179 visual inspection Methods 0.000 description 1
Images
Classifications
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
- Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
- Y02P90/30—Computing systems specially adapted for manufacturing
Landscapes
- Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
Abstract
【課題】生産ラインに対し、より容易に適切なAIモデルを適用することを可能とする技術を提供する。【解決手段】製品の生産ライン(100)において、前記製品の画像データに基づく検査をAIモデルを用いて実行する検査システム(1)であって、製品の検査に用いられる一または複数のAIモデルの管理に関わる情報を表示する管理情報表示部を(10c)有し、管理情報表示部(10c)は、AIモデルの仕様に関する仕様情報と、該AIモデルの各種データに対する性能に関する性能情報とを表示可能であり、性能情報は、AIモデルの量産適用前のモデルテストに対する性能と、量産に適用した際の性能とを含む。【選択図】図8
Description
本発明は、製品の生産において製品の良否を検査する検査システム、AIモデルデータの管理方法及び、AIモデルデータセットに関する。
製品の生産ラインにおいては、ラインの中間工程や最終工程に製品の検査装置を配置し、不良の検出や不良品の仕分けなどが行われている。例えば、部品実装基板の生産ラインにおいては一般的に、プリント配線基板にクリームはんだを印刷する装置(印刷装置)、クリームはんだが印刷された基板に部品を実装する装置(マウント装置)、部品実装後の基板を加熱して部品を基板にはんだ付けするする装置(リフロー装置)が含まれる。そして、各生産装置の後に配置された検査装置を含む検査システムにおいて、各生産装置における作業が予定通り正しく行われているか否かの検査が行われる。そして、検査システムにおいて各検査結果の情報が収集管理され、不良率の変化に対し適切・迅速に対応することを可能とし、生産ライン全体としての生産性の向上に寄与している。
上記のような検査システムでは製品等の検査対象を撮像し、事前に学習させたAIモデルにその画像を入力することで、当該製品についての良否を検査するような工程が導入されている。ここで、生産ラインで量産される製品の品質は絶えず変化しており、その変化が大きくなるとAIモデルが製品の良否を正しく判定することができなくなるため、見過ぎや見逃しのリスクが大きくなる。このような場合には、新しく得られた学習データを用いてAIモデルを再学習させ、品質の変化に応じた最適なAIモデルを使用する必要がある。
このような状況に関して、画像判定用のモデルに新たな良品画像、不良品画像を学習させることでこれまでになかった新たな特徴を持つデータに対しても適切に判定するモデルを生成可能とする技術が公知である(特許文献1参照)。しかしながら、AIモデルの性能(=見過ぎ率、見逃し率)は単純に学習データを増やせば賢くなるというわけではなく、学習データとテストデータの母集団の特徴に乖離があると過学習につながる恐れがある。
過学習は様々なレベルで発生すると考えられており、例えば以下のようなパターンがある。
(1)学習データには高い性能を発揮するが、テストデータ、ライブラリーデータ、実際の量産データに対しては高い性能が出せないパターン
(2)学習データ、テストデータには高い性能を発揮するが、ライブラリーデータ、実際の量産データに対しては高い性能が出せないパターン
(3)学習データ、テストデータ、ライブラリーデータには高い性能を発揮するが、実際の量産データに対しては高い性能が出せないパターン
このように、特定の母集団のデータに対する性能と、幅広い量産データに対する性能に乖離が存在することで、学習済みAIモデルが、量産において、想定した通りの効果を発揮できない場合があった。そして、このような問題に対して、量産時において、より適切なAIモデルを生産ラインに適用可能とするシステムに対する要請が高まっていた。
(1)学習データには高い性能を発揮するが、テストデータ、ライブラリーデータ、実際の量産データに対しては高い性能が出せないパターン
(2)学習データ、テストデータには高い性能を発揮するが、ライブラリーデータ、実際の量産データに対しては高い性能が出せないパターン
(3)学習データ、テストデータ、ライブラリーデータには高い性能を発揮するが、実際の量産データに対しては高い性能が出せないパターン
このように、特定の母集団のデータに対する性能と、幅広い量産データに対する性能に乖離が存在することで、学習済みAIモデルが、量産において、想定した通りの効果を発揮できない場合があった。そして、このような問題に対して、量産時において、より適切なAIモデルを生産ラインに適用可能とするシステムに対する要請が高まっていた。
本発明は上記実情に鑑みなされたものであり、その目的とするところは、生産ラインに対し、より容易に適切なAIモデルを適用することを可能とする技術を提供することである。
前記の目的を達成するために、本開示は以下の構成を採用する。即ち、
製品の生産ラインにおいて、前記製品の画像データに基づく検査をAIモデルを用いて実行する検査システムであって、
前記製品の検査に用いられる一または複数のAIモデルの管理に関わる情報を表示する管理情報表示部を有し、
前記管理情報表示部は、前記AIモデルの仕様に関する仕様情報と、該AIモデルの各種データに対する性能に関する性能情報とを表示可能であり、
前記性能情報は、前記AIモデルの量産適用前のモデルテストに対する性能と、量産に適用した際の性能とを含むことを特徴とする。
製品の生産ラインにおいて、前記製品の画像データに基づく検査をAIモデルを用いて実行する検査システムであって、
前記製品の検査に用いられる一または複数のAIモデルの管理に関わる情報を表示する管理情報表示部を有し、
前記管理情報表示部は、前記AIモデルの仕様に関する仕様情報と、該AIモデルの各種データに対する性能に関する性能情報とを表示可能であり、
前記性能情報は、前記AIモデルの量産適用前のモデルテストに対する性能と、量産に適用した際の性能とを含むことを特徴とする。
これによれば、ユーザーは、AIモデルの仕様情報と性能情報を俯瞰しながら、例えば、AIモデルの量産適用前のモデルテストに対する性能と、量産に適用した際の性能に乖離がある場合は原因を分析することができる。そして、AIモデルを別モデルに変更したり、新たな画像データで学習・評価した上で適用できるようにするなど、生産ラインに対し、より容易に適切なAIモデルを適用することが可能となる。
また、本開示においては、前記管理情報表示部は、前記性能情報として、前記AIモデルの量産適用前のモデルテストに対する性能と、量産に適用した際の性能と、量産への適用状況とを、一画面で表示することとしてもよい。これによれば、ユーザーは、当該一画面を見るたけで、AIモデルの変更、再学習等の方針を迅速に決定することが可能となる。
また、本開示においては、前記AIモデルの量産適用前のモデルテストは、テストデータに対するモデルテストまたは、ライブラリーデータに対するモデルテストの少なくとも何れかを含むこととしてもよい。これによれば、ばらつき、期間の異なるデータについての性能を迅速に把握することができるので、このことによっても、AIモデルの変更、再学習等の方針を迅速に決定することが可能となる。
また、本開示においては、前記性能は、前記AIモデルを使用しない検査における良品を前記AIモデルが不良品と判定した数に基づく見過ぎ指標と、前記AIモデルを使用しない検査における不良品(実不良)を前記AIモデルが良品と判定した数に基づく見逃し指標とを含むこととしてもよい。これによれば、AIモデルによる判定が厳し過ぎるのか甘すぎるのかを、即座に認識することが可能であるとともに、モデルが過学習していないかというモデルの妥当性を判断することが可能である。なお、「AIモデルを使用しない検査」は目視検査であってもよい。あるいは、良否の判定精度の高い他の検査であってもよい。例えば、判定精度が高い場合にはルールベース検査であってもよい。
また、本開示においては、前記性能情報は、前記AIモデルの量産適用前のモデルテストおよび量産における各検査画像と、該検査画像についての前記AIモデルによる良否の判定結果と、該検査画像についてのAI出力値とをさらに含むこととしてもよい。これによれば、個別の検査画像に対してAIモデルがどのような判定をしたのかを確認することができ、AIモデルの変更、再学習等の方針をより適切に決定することが可能となる。
また、本開示においては、前記性能情報は、前記AIモデルの、前記検査画像についてのAI出力値のヒストグラムをさらに含むこととしてもよい。これによっても、AIモデルの検査画像についての判断の傾向をより容易に確認することが可能である。
また、本開示においては、前記管理情報表示部は、前記性能情報を、前記製品に対する検査項目毎に表示可能とすることとしてもよい。これによれば、各検査項目についてのAIモデルの成績を確認することができ、AIモデルの変更、再学習等の方針をよりきめ細やかに決定することが可能となる。
また、本開示においては、前記管理情報表示部は、前記仕様情報及び前記性能情報の表示を、検査対象部品の品番グループ毎の表示と、複数の品番グループについて纏めた表示とで切替可能としてもよい。これによれば、各品番グループについてのAIモデルの性能を詳細に確認しつつ、異なる品番グループ間での、AIモデルの移設や交換についてより容易に検討することが可能となる。ここで、品番グループとは、部品サイズや部品色が似ている品番を一つにまとめた集まりを示す。この品番グループ内の品番は、同一の検査基準、色パラメータで検査することになるので、それぞれの品番でティーチングする必要がなくなり、ティーチングを効率化することが可能となる。
また、本開示においては、前記管理情報表示部は、複数の品番グループについて纏めた表示の表示画面において、一の品番グループに適用されているAIモデルを、他の品番グループへ適用する処理を実行可能としてもよい。これによれば、ユーザーは、管理情報表示部の表示画面を見ながら、即座に、一の品番グループに適用されているAIモデルを、他の品番グループへ適用することが可能となる。
また、本開示においては、前記仕様情報は、前記AIモデルのネットワーク情報、学習時の学習データの情報、前記AIモデルのロット番号の少なくとも何れかを含むこととしてもよい。これによれば、ユーザーは、より容易に、AIモデルの基本的な情報、素性を確認することができる。
また、本開示は、製品の生産ラインにおいて、前記製品の画像データに基づく検査をAIモデルを用いて実行する検査システムのための、AIモデルデータの管理方法であって、
前記AIモデルデータを、該AIモデルデータの仕様に関する仕様情報と、該AIモデルの各種データに対する性能に関する性能情報と紐づけて管理し、
前記性能情報は、前記AIモデルの量産適用前のモデルテストに対する性能と、量産に適用した際の性能とを含むことを特徴とする、AIモデルデータの管理方法であってもよい。なお、ここで、管理するとは、情報を記憶して保存することの他、例えば、リアルタイムに画像データに基づく検査を行い、当該画像データに対する性能情報を表示することも含む。
前記AIモデルデータを、該AIモデルデータの仕様に関する仕様情報と、該AIモデルの各種データに対する性能に関する性能情報と紐づけて管理し、
前記性能情報は、前記AIモデルの量産適用前のモデルテストに対する性能と、量産に適用した際の性能とを含むことを特徴とする、AIモデルデータの管理方法であってもよい。なお、ここで、管理するとは、情報を記憶して保存することの他、例えば、リアルタイムに画像データに基づく検査を行い、当該画像データに対する性能情報を表示することも含む。
また、本開示は、前記AIモデルの量産適用前のモデルテストは、テストデータに対するモデルテストまたは、ライブラリーデータに対するモデルテストの少なくとも何れかを含むことを特徴とする、上記のAIモデルデータの管理方法であってもよい。
また、本開示は、前記性能は、前記AIモデルを使用しない検査における良品を前記AIモデルが不良品と判定した数に基づく見過ぎ指標と、前記AIモデルを使用しない検査における不良品を前記AIモデルが良品と判定した数に基づく見逃し指標とを含む事を特徴とする、上記のAIモデルデータの管理方法であってもよい。
また、本開示は、前記性能情報は、前記AIモデルの量産適用前のモデルテストおよび量産における各検査画像と、該検査画像についての前記AIモデルによる良否の判定結果と、該検査画像についてのAI出力値とをさらに含む事を特徴とする、上記のAIモデルデータの管理方法であってもよい。
また、本開示は、前記仕様情報は、前記AIモデルのネットワーク情報、学習時の学習データの情報、前記AIモデルのロット番号の少なくとも何れかを含むことを特徴とする、上記のAIモデルデータの管理方法であってもよい。
また、本開示は、製品の生産ラインにおいて、前記製品の画像データに基づく検査をAIモデルを用いて実行する検査システムのための、一又は複数のAIモデルデータを有する、AIモデルデータセットであって、
前記AIモデルデータと紐づけられた、該AIモデルデータの仕様に関する仕様情報と、該AIモデルの各種データに対する性能に関する性能情報とを含み、
前記性能情報は、各検査画像と、該検査画像についての前記AIモデルによる良否の判定結果とを含むことを特徴とする、AIモデルデータセットであってもよい。
前記AIモデルデータと紐づけられた、該AIモデルデータの仕様に関する仕様情報と、該AIモデルの各種データに対する性能に関する性能情報とを含み、
前記性能情報は、各検査画像と、該検査画像についての前記AIモデルによる良否の判定結果とを含むことを特徴とする、AIモデルデータセットであってもよい。
また、本開示は、前記性能は、前記AIモデルを使用しない検査における良品を前記AIモデルが不良品と判定した数に基づく見過ぎ指標と、前記AIモデルを使用しない検査における不良品を前記AIモデルが良品と判定した数に基づく見逃し指標とを含む事を特徴とする、上記のAIモデルデータセットであってもよい。
また、本開示は、前記性能情報は、前記検査画像についてのAI出力値とをさらに含む事を特徴とする、上記のAIモデルデータセットであってもよい。
また、本開示は、前記仕様情報は、前記AIモデルのネットワーク情報、学習時の学習データの情報、前記AIモデルのロット番号の少なくとも何れかを含むことを特徴とする、上記のAIモデルデータセットであってもよい。
なお、上記構成および処理の各々は技術的な矛盾が生じない限り互いに組み合わせて本発明を構成することができる。
本発明によれば、生産ラインに対し、より容易に適切なAIモデルを適用することが可能となる。
<適用例>
本発明が適用される対象の一例である生産ライン100は、図1に示すように、はんだ印刷装置100a、はんだ印刷後検査装置100b、マウンタ100c、マウント後検査装置100d、リフロー炉100e、リフロー後検査装置100fを含む。生産ライン100における各装置は、LANなどのネットワークを介してティーチング端末10に接続されている。各検査装置100b、100d、100fは各工程の出口でプリント基板の状態を検査し、不良あるいは不良のおそれを自動的に検出する。
本発明が適用される対象の一例である生産ライン100は、図1に示すように、はんだ印刷装置100a、はんだ印刷後検査装置100b、マウンタ100c、マウント後検査装置100d、リフロー炉100e、リフロー後検査装置100fを含む。生産ライン100における各装置は、LANなどのネットワークを介してティーチング端末10に接続されている。各検査装置100b、100d、100fは各工程の出口でプリント基板の状態を検査し、不良あるいは不良のおそれを自動的に検出する。
なお、生産ライン100の各検査装置における検査は、予め学習されたAIモデルを用いて行われる。AIモデルは、ティーチング端末10を用いて、事前に学習データを用いて学習される。その後、テストデータ、ライブラリーデータ、量産データに基づいて性能評価される。
ここで、AIモデルは、学習データの狭いばらつき、期間に係るデータを用いて学習させるため、必ずしも、広いばらつき、期間の範囲に係る量産データに対する検査において、充分な性能を発揮するとは限らない。それに対し、本適用例は、複数のAIモデルについて、AIモデル生成時における仕様情報と、テストデータ、ライブラリーデータ、量産データに対してどのような性能を発揮したかの性能情報を、ユーザーが俯瞰的に確認することを可能とし、最適なAIモデルを、より容易に量産に適用できるようにしたものである。
図8には、本適用例におけるAIモデル管理画面21の一例を示す。AIモデル管理画面21には、AI使用履歴表示エリア22が設けられている。AI使用履歴表示エリア22は、各AIモデルの量産における使用履歴が表示されるエリアである。AI使用履歴表示エリア22の左端22bには、量産で使用したAIモデルのモデル名が記載されている。各々のモデル名が記載された行には、当該モデルが使用された期間が棒グラフで表示される。AI使用履歴表示エリア22によって、量産において各モデルが用いられた期間の履歴情報を示すことが可能である。
また、AIモデル管理画面21は、AI使用履歴表示エリア22の右側に、性能表示エリア23を有する。この性能表示エリア23の左欄23aには、各AIモデルについて、テストデータに対する性能が表示される。また、性能表示エリア23の右欄23bには、各AIモデルについて、ライブラリーデータに対する性能が表示される。より具体的には、テストデータ使用時の見過ぎ率と見逃し率、ライブラリーデータ使用時の見過ぎ率と見逃し率が棒グラフで表示される。
また、AI使用履歴表示エリア22の下側には、量産性能表示エリア24が設けられている。量産性能表示エリア24は、AI使用履歴表示エリア22に示される各稼働日における、その日に使用されているAIモデルの、量産データに対する性能が表示される。より具体的には、見過ぎ率と見逃し率が折れ線グラフで表示されている。
また、AIモデル管理画面21における右端には、各AIモデルのモデル名に対応して詳細表示ボタン21dが設けられている。この詳細表示ボタン21dを押すことで、各AIモデルの詳細情報が表示される。図9には、詳細表示ボタン21dを押すことで表示される第1詳細表示画面31aの例を示す。第1詳細表示画面31aには、表示モード選択エリア32が表示され、この表示モード選択エリア32では、詳細表示画面における表示内容を選択することが可能である。図9では、表示モード選択エリア32において基本情
報が選択されている。よって、第1詳細表示画面31aは、基本情報を示す画面となっている。
報が選択されている。よって、第1詳細表示画面31aは、基本情報を示す画面となっている。
図9に示すように、第1詳細表示画面31aには、基本情報表示エリア33が設けられている。この基本情報表示エリア33においては、対象のAIモデルのモデル名、生成日時、検査する画像の画像サイズ、使用するネットワーク名、学習データ名、学習データの回収期間、検査対象の製品のロット番号、コメントが記載されている。
本適用例では、このように、ユーザーが、各AIモデルの基本情報(仕様情報)と、各テスト及び量産においてどのような性能を発揮しているかの性能情報を、俯瞰的に容易に確認することが可能である。その結果、量産に適用するAIモデルを変更する、再学習させる等の判断を、より容易またはより高精度で行うことが可能である。
以下、図面に基づいて、本発明の実施の形態について説明する。ただし、以下の各例に記載されている構成要素については、特に記載がない限りは、この発明の範囲をそれらのみに限定する趣旨のものではない。
<実施例>
本開示に係る発明が適用される対象の一例である生産ライン100を図1に示す。上述のように、生産ライン100は、例えばはんだ印刷装置100a、はんだ印刷後検査装置100b、マウンタ100c、マウント後検査装置100d、リフロー炉100e、リフロー後検査装置100fを含む。はんだ印刷装置100aは、プリント基板上の電極部はんだペーストを印刷する装置である。マウンタ100cは、プリント基板に実装すべき多数の電子部品をはんだペーストの上に載置するための装置である。また、リフロー炉100eは、プリント基板上に載置された電子部品を基板上のプリント配線にはんだ接合するための加熱装置である。そして、各検査装置100b、100d、100fは各工程の出口でプリント基板の状態を検査し、不良あるいは不良のおそれを自動的に検出する。
本開示に係る発明が適用される対象の一例である生産ライン100を図1に示す。上述のように、生産ライン100は、例えばはんだ印刷装置100a、はんだ印刷後検査装置100b、マウンタ100c、マウント後検査装置100d、リフロー炉100e、リフロー後検査装置100fを含む。はんだ印刷装置100aは、プリント基板上の電極部はんだペーストを印刷する装置である。マウンタ100cは、プリント基板に実装すべき多数の電子部品をはんだペーストの上に載置するための装置である。また、リフロー炉100eは、プリント基板上に載置された電子部品を基板上のプリント配線にはんだ接合するための加熱装置である。そして、各検査装置100b、100d、100fは各工程の出口でプリント基板の状態を検査し、不良あるいは不良のおそれを自動的に検出する。
上述したはんだ印刷後検査装置100b、マウント後検査装置100d、リフロー後検査装置100f(以下、これらをまとめて検査装置30ともいう。)は、LANなどのネットワークを介してティーチング端末10及び、データベース20(以下、簡単にDB20ともいう。)に接続されている。ティーチング端末10は、CPU(プロセッサ)、主記憶装置(メモリ)、補助記憶装置(ハードディスクなど)、入力装置(キーボード、マウス、コントローラ、タッチパネルなど)、出力装置(ディスプレイ、プリンタ、スピーカなど)などを具備する汎用的なコンピュータシステムにより構成されてもよい。あるいは、タブレット端末など可搬性を有するコンピュータシステムにより構成されてもよい。
なお、生産ライン100の検査装置30における検査は、予め学習された学習済AIモデル(以下、単にAIモデルともいう。)を用いて行われる。AIモデルは、DB20に格納されており、適宜選択されて検査装置30における検査に使用される。また、AIモデルは、ティーチング端末10を用いて、事前に学習データに基づいて検査装置30においてプリント基板の良不良を判定可能なように学習される。その後AIモデルは、テストデータ、ライブラリーデータ、量産データに基づいて性能評価される。
図2(a)、(b)には、学習データ、テストデータ、ライブラリーデータ、量産データの各データの特性を示す。図2(a)、(b)の横軸はデータが収集される期間、縦軸はデータのばらつきの範囲である。ここで、学習データはAIに学習させる際に用いられた画像データであり、非常に短い期間の量産データの中から選択したデータであり、期間、ばらつきの範囲は狭い範囲に留まる。また、テストデータは、学習済AIモデルのテストに使用されるデータであり、データの取り方にもよるが、一般的にばらつき、期間の範
囲は狭いと言える。ライブラリーデータは、さらに広範囲の量産データに基づくデータであり、例えば、別ロットの製品、別拠点で生産した製品のデータを含んだ、広い母集団から収集したデータである。また、量産データは、実際の量産過程において取得されたデータであり、ばらつき、期間ともに充分に広い範囲を有するデータである。なお、学習データ、テストデータ、ライブラリーデータの各データの関係には様々なパターンがあり、図2(a)に示すように各データが独立している場合もあるが、図2(b)に示すように、例えば学習データとライブラリーデータが重なったり、テストデータとライブラリーデータが重なるなど、各データが一部または全部重複する場合もある。
囲は狭いと言える。ライブラリーデータは、さらに広範囲の量産データに基づくデータであり、例えば、別ロットの製品、別拠点で生産した製品のデータを含んだ、広い母集団から収集したデータである。また、量産データは、実際の量産過程において取得されたデータであり、ばらつき、期間ともに充分に広い範囲を有するデータである。なお、学習データ、テストデータ、ライブラリーデータの各データの関係には様々なパターンがあり、図2(a)に示すように各データが独立している場合もあるが、図2(b)に示すように、例えば学習データとライブラリーデータが重なったり、テストデータとライブラリーデータが重なるなど、各データが一部または全部重複する場合もある。
ここで、AIモデルには、まず母集団としてのデータのばらつき、期間の範囲が狭い学習データを用いて学習させるため、必ずしも、データのばらつき、期間の範囲が広い量産データに対する検査において、充分な性能を発揮するとは限らない。何れの検査に対して、何れのAIモデルが適しているかどうかは、適用してみないと分からない部分があり、場合によっては、AIモデルの交換、再学習が必要になる。このように、各生産ラインにける検査精度を早期に高めることは、容易ではない。
そこで、本開示においては、複数のAIモデルについて、生成時の仕様や、どのような学習データを用いて学習したかを示す仕様情報と、テストデータ、ライブラリーデータ、量産データに対してどのような性能を発揮したかの性能情報とを、ユーザーが俯瞰的に閲覧可能とした。そのことで、最適なAIモデルを、より容易に量産に適用できるようにした。
次に、本開示における検査システム1を用いた処理の手順の一例を、図3のフローチャートを用いて説明する。本フローが開始すると、先ず、ユーザーは、ステップS101においては、ティーチング端末10において、AIモデルを用いた検査の対象となる部品の品番グループを選択する。そして、ステップS102においては、AIモデルを用いた検査の対象となる不良内容に相当する検査ロジックを選択する。そうすると、ステップS103においては、ティーチング端末10に、ステップS101及びステップS102で選択された品番グループ、検査ロジックに対して用いられているAIモデルの情報を表示したAIモデル管理画面21(後述)が表示される。
そして、ステップS104においては、ユーザーは、AIモデル管理画面21を見ながら、新たにAIモデルを生成するか否かを判断する。新たにAIモデルを生成する場合には、ステップS105に進み、新たなAIモデルの生成を行う。一方、新たにAIモデルを生成しない場合には、ステップS106に進む。
次に、ステップS106においては、ユーザーは、システム外からAIモデルをインポートするか否かを判断する。ユーザーがシステム外からAIモデルをインポートすると判断した場合には、ステップS107に進み、外部からAIモデルをインポートする。システム外からAIモデルをインポートしないと判断した場合には、ステップS108に進む。
ステップS108においては、ユーザーが、テストデータ、ライブラリーデータに対して、全てのAIモデルをテストするか否かを判断する。ここで、ユーザーが全てのAIモデルをテストすると判断した場合には、ステップS109に進む。全てのAIモデルをテストしないと判断した場合には、ステップS112に進む。
ステップS109においては、AIモデル管理画面21にリストアップされている全てのAIモデルをテストデータ、ライブラリーデータに対してテストする。ステップS109の処理が終了するとステップS110に進む。ステップS110においては、テストデ
ータ、ライブラリーデータに対するテスト結果がAIモデル管理画面21に表示されるとともに、テスト結果がテスト日時とともに保存される。なお、この時に保存されたテスト結果は、次回にS103でAIモデル管理画面が表示された際に表示される。ステップS111においては、ユーザーは、量産検査に使用するAIモデルを変更するか否かを判断する。量産検査に用いるAIモデルを変更すると判断した場合には、ステップS112に進み、量産検査に用いるAIモデルを変更する。一方、量産検査に用いるAIモデルを変更しない場合には、ステップS113に進み、量産検査を実施する。ステップS113の処理が終了すると本ルーチンを一旦終了する。
ータ、ライブラリーデータに対するテスト結果がAIモデル管理画面21に表示されるとともに、テスト結果がテスト日時とともに保存される。なお、この時に保存されたテスト結果は、次回にS103でAIモデル管理画面が表示された際に表示される。ステップS111においては、ユーザーは、量産検査に使用するAIモデルを変更するか否かを判断する。量産検査に用いるAIモデルを変更すると判断した場合には、ステップS112に進み、量産検査に用いるAIモデルを変更する。一方、量産検査に用いるAIモデルを変更しない場合には、ステップS113に進み、量産検査を実施する。ステップS113の処理が終了すると本ルーチンを一旦終了する。
<機能ブロック図>
図4には、本開示に係る検査システム1の機能ブロック図を示す。検査システム1は、ティーチング端末10、DB20、検査装置30を含む。ティーチング端末10は、AIモデルを生成した際の、学習データや生成日時等の情報を表示するAIモデル生成情報表示部10a、AIモデルを生成するAIモデル生成部10bを有する。また、ティーチング端末10は、AIモデルの量産への適用の履歴情報および、テストデータや量産データに対する性能情報を表示する機能を有するAIモデル管理情報表示部10c、AIモデルに様々な画像データを提供してテストさせるAIモデルテスト処理部10dを有する。AIモデル管理情報表示部10cは、本実施例における管理情報表示部に相当する。
図4には、本開示に係る検査システム1の機能ブロック図を示す。検査システム1は、ティーチング端末10、DB20、検査装置30を含む。ティーチング端末10は、AIモデルを生成した際の、学習データや生成日時等の情報を表示するAIモデル生成情報表示部10a、AIモデルを生成するAIモデル生成部10bを有する。また、ティーチング端末10は、AIモデルの量産への適用の履歴情報および、テストデータや量産データに対する性能情報を表示する機能を有するAIモデル管理情報表示部10c、AIモデルに様々な画像データを提供してテストさせるAIモデルテスト処理部10dを有する。AIモデル管理情報表示部10cは、本実施例における管理情報表示部に相当する。
DB20は、AIモデル本体及び検査閾値を格納するAIモデル本体・閾値格納部20a、生成したAIモデルの仕様情報である学習データ、生成日時等の情報を格納するAIモデル管理情報格納部20b、量産データの性能の情報を格納する量産結果情報格納部20cを有する。また、DB20は、AIモデルの学習に用いる画像データを格納する学習データ用画像格納部20d、AIモデルのテスト用の画像データを格納するテストデータ用画像格納部20e、AIモデルのライブラリーテスト用の画像データを格納するライブラリーデータ用画像格納部20f、を有する。なお、学習データ用画像格納部20d、テストデータ用画像格納部20e、ライブラリーデータ用画像格納部20fには、画像データの不良種(不良名称)も格納されている。見逃し率は、検査ロジックの対象としている不良種のサンプルを見逃した率として算出されるため、不良種の画像データが必要となる。
また、検査装置30は、量産時に取得された画像データを用いて検査を行う量産検査部30aを有する。
(AIモデル生成フェイズ)
図4には、AIモデルを生成するフェイズにおける検査システム1の情報の授受について矢印で表示されている。AIモデル生成のフェイズにおいては、まず、学習データ用画像格納部20dからAIモデル生成部10bに対して、AIモデルの学習用の学習データをインプットする。そして、AIモデル生成部10bにおいて、AIモデルに学習させることで学習済のAIモデルを生成する。AIモデル生成部10bからAIモデル生成情報表示部10aに、生成したAIモデルに関する情報をインプットし、AIモデル生成情報表示部10aにおいて、生成したAIモデルの情報を表示する。そして、AIモデル生成情報表示部10aは、AIモデル本体・閾値格納部20aに、生成したAIモデルをインプットする。また、生成したAIモデルの学習データ、生成日時等の情報をAIモデル管理情報格納部20bにインプットする。なお、ここで、AIモデル管理情報格納部20bにインプットされる情報は、本実施例において仕様情報に相当し、AIモデルデータと紐づけて記憶される。
図4には、AIモデルを生成するフェイズにおける検査システム1の情報の授受について矢印で表示されている。AIモデル生成のフェイズにおいては、まず、学習データ用画像格納部20dからAIモデル生成部10bに対して、AIモデルの学習用の学習データをインプットする。そして、AIモデル生成部10bにおいて、AIモデルに学習させることで学習済のAIモデルを生成する。AIモデル生成部10bからAIモデル生成情報表示部10aに、生成したAIモデルに関する情報をインプットし、AIモデル生成情報表示部10aにおいて、生成したAIモデルの情報を表示する。そして、AIモデル生成情報表示部10aは、AIモデル本体・閾値格納部20aに、生成したAIモデルをインプットする。また、生成したAIモデルの学習データ、生成日時等の情報をAIモデル管理情報格納部20bにインプットする。なお、ここで、AIモデル管理情報格納部20bにインプットされる情報は、本実施例において仕様情報に相当し、AIモデルデータと紐づけて記憶される。
(AIモデルテストフェイズ)
次に、図5を用いて、AIモデルテストフェイズにおける、検査システム1の情報の授
受について説明する。AIモデルテストフェイズにおいては、テストデータ用画像格納部20eから、AIモデルテスト処理部10dに、モデルテストに使用するテストデータをインプットする。また、ライブラリーデータ用画像格納部20fから、AIモデルテスト処理部10dに、モデルテストに使用するライブラリーデータをインプットする。さらに、AIモデル本体・閾値格納部20aから、AIモデルテスト処理部10dに、モデルテストを実施すべきAIモデルをインプットする。
次に、図5を用いて、AIモデルテストフェイズにおける、検査システム1の情報の授
受について説明する。AIモデルテストフェイズにおいては、テストデータ用画像格納部20eから、AIモデルテスト処理部10dに、モデルテストに使用するテストデータをインプットする。また、ライブラリーデータ用画像格納部20fから、AIモデルテスト処理部10dに、モデルテストに使用するライブラリーデータをインプットする。さらに、AIモデル本体・閾値格納部20aから、AIモデルテスト処理部10dに、モデルテストを実施すべきAIモデルをインプットする。
また、AIモデルテスト処理部10dから、AIモデル管理情報表示部10cに、テストデータ、ライブラリーデータに対するモデルテストの結果をインプットし、AIモデル管理情報表示部10cにおいて、テストの結果を表示する。その際、AIモデル管理情報格納部20bからAIモデル管理情報表示部10cに、学習データ、AIモデルの生成日時等、AIモデルの情報を送付し表示する。さらに、量産結果情報格納部20cからAIモデル管理情報表示部10cに、実際の量産結果に基づくAIモデルの性能をインプットし、表示する。
(量産検査フェイズ)
次に、図6を用いて、量産検査フェイズにおける、検査システム1の情報の授受について説明する。量産検査フェイズにおいては、データベース20のAIモデル本体・閾値格納部20aから、検査装置30に対して、選択されたAIモデル本体及び量産検査における検査閾値がインプットされる。そして、量産検査部30aにおいて、選択されたAIモデルを使用して量産検査を実施する。そして、量産検査部30aから量産結果情報格納部20cに、量産検査結果データをインプットする。量産結果情報格納部20cにおいては、使用されたAIモデルと紐付けて量産検査結果データを蓄積する。
次に、図6を用いて、量産検査フェイズにおける、検査システム1の情報の授受について説明する。量産検査フェイズにおいては、データベース20のAIモデル本体・閾値格納部20aから、検査装置30に対して、選択されたAIモデル本体及び量産検査における検査閾値がインプットされる。そして、量産検査部30aにおいて、選択されたAIモデルを使用して量産検査を実施する。そして、量産検査部30aから量産結果情報格納部20cに、量産検査結果データをインプットする。量産結果情報格納部20cにおいては、使用されたAIモデルと紐付けて量産検査結果データを蓄積する。
図7に示す表示は、検査装置30における検査の各検査項目の良否判定に係る閾値を設定する設定用画面表示11である。この中で、例えば検査項目としてのぬれ性についてはAIによる検査であることが表示されている。そして、閾値表示窓の右側に設けられたAI検査ロジックの設定ボタン11aをクリックすることで、後述のAIモデル管理画面21を表示させることが可能である。
次に、図8に示すのは、AIモデル管理情報表示部10cによって表示されるAIモデル管理画面21の一例である。このAIモデル管理画面21では、上端には、検査ロジック表示エリア21aが配置されている。ここでは、何れの検査項目に対するAIモデルの管理画面なのかが記載される。図8の例では、ハンダのぬれ性について使用されるAIモデルの管理画面であることが示されている。また、AIモデル管理画面21における検査ロジック表示エリア21aの下側の左端には、いずれの部品についての検査に係るAIモデルなのかを示す、品番グループ表示エリア21bが設けられている。
この例では、R1005という品番グループについての管理情報であることが示されている。また、品番グループ表示エリア21bの右側には、表示切替ボタンエリア21cが設けられている。この表示切替ボタンエリア21cは、品番グループ単位のAIモデル管理画面か、複数の品番グループを含む全体のAIモデル管理画面かを切り替えるためのボタンを表示する。この例では、品番グループ単位の欄が濃く表示されており、品番グループ単位のAIモデル管理画面が選択されていることを示す。
また、AIモデル管理画面21には、AI使用履歴表示エリア22が設けられている。AI使用履歴表示エリア22は、各AIモデルの量産における使用履歴が表示されるエリアである。AI使用履歴表示エリア22の左端22bには、量産で使用したAIモデルのモデル名が記載されている。各々のモデル名が記載された行には、当該モデルが使用された期間が棒グラフで表示される。AI使用履歴表示エリア22の上端の行には、AIモデ
ルを使用した日付が記載された日付エリア22aが設けられている。この、AI使用履歴表示エリア22によって、量産において各モデルが用いられた期間の履歴情報を示すことが可能である。この履歴情報は、本実施例において量産への適用状況に相当する。なお、AI使用履歴表示エリア22の左上端のモデル名欄のボタンをクリックすることで、ソートメニューが表示され、AI使用履歴表示エリア22の表示方法を選択できる。例えば、量産検査に使用した実績のあるAIモデルのみを表示したり、モデル生成日時が新しいほど上側に表示される等のソート機能を有する。
ルを使用した日付が記載された日付エリア22aが設けられている。この、AI使用履歴表示エリア22によって、量産において各モデルが用いられた期間の履歴情報を示すことが可能である。この履歴情報は、本実施例において量産への適用状況に相当する。なお、AI使用履歴表示エリア22の左上端のモデル名欄のボタンをクリックすることで、ソートメニューが表示され、AI使用履歴表示エリア22の表示方法を選択できる。例えば、量産検査に使用した実績のあるAIモデルのみを表示したり、モデル生成日時が新しいほど上側に表示される等のソート機能を有する。
また、AIモデル管理画面21は、AI使用履歴表示エリア22の右側に、性能表示エリア23を有する。この性能表示エリア23の左欄23aには、各AIモデルについて、テストデータに対する性能が表示される。また、性能表示エリア23の右欄23bには、各AIモデルについて、ライブラリーデータに対する性能が表示される。より具体的には、テストデータ使用時の見過ぎ率と見逃し率、ライブラリーデータ使用時の見過ぎ率と見逃し率が棒グラフで表示される。なお、性能表示エリア23における性能データは、AIモデル管理画面21を表示させた状態で、リアルタイムに実行したテストの結果であってもよいし、過去に行ったテストの結果であってもよい。性能表示エリア23の上側には、モデルテストの実行日時が表示されている。この性能表示エリア23に表示される情報は、本実施例において性能情報に相当し、AIモデルの量産適用前のモデルテストに対する性能に相当する。また、本実施例で示す見過ぎ率は、見過ぎ指標に相当し、見逃し率は、見逃し指標に相当する。
また、AI使用履歴表示エリア22の下側には、量産性能表示エリア24が設けられている。量産性能表示エリア24は、AI使用履歴表示エリア22に示される各稼働日における、その日に使用されているAIモデルの、量産データに対する性能が表示される。より具体的には、見過ぎ率と見逃し率が折れ線グラフで表示されている。この量産性能表示エリア24に表示される情報は、本実施例において性能情報に相当し、量産に適用した際の性能に相当する。
また、AIモデル管理画面21における右端には、各AIモデルのモデル名に対応して詳細表示ボタン21dが設けられている。この詳細表示ボタン21dを押すことで、各AIモデルの詳細情報が表示される。図9には、詳細表示ボタン21dを押すことで表示される第1詳細表示画面31aの例を示す。第1詳細表示画面31aには、表示モード選択エリア32が表示され、この表示モード選択エリア32では、詳細表示画面における表示内容を選択することが可能である。図9では、表示モード選択エリア32において基本情報が選択されている。よって、第1詳細表示画面31aは、基本情報を示す画面となっている。
図9に示すように、第1詳細表示画面31aには、基本情報表示エリア33が設けられている。この基本情報表示エリア33においては、対象のAIモデルのモデル名、生成日時、検査する画像の画像サイズ、使用するネットワーク名、学習データ名、学習データの回収期間、検査対象の製品のロット番号、コメントが記載されている。本実施例において、基本情報表示エリア33に示される情報は仕様情報に相当する。なお、図9の基本情報表示エリア33における学習データ名の欄には、学習に使用された学習データの数についてのより詳細な情報にアクセスするための詳細ボタン33aが設けられている。この詳細ボタン33aをクリックすることで、図10(a)、図10(b)に示すような、各品番についての学習に用いられた学習データの数の情報を閲覧することが可能である。
図10(a)は、詳細表示中の学習モデルにおける学習が、教師なし学習である場合について、学習時に使用された学習データの数を品番毎に表示した、学習データ数表示画面330である。この学習データ数表示画面330には、学習時に使用された学習データ数
が品番毎にリスト表示される、学習データ数エリア330aが設けられている。
が品番毎にリスト表示される、学習データ数エリア330aが設けられている。
ここでは、良品データのみで学習モデルの学習が可能であるので、表示されている学習データ数は、良品データの数である。このように、各品番について各々どれ位の数の学習データが使用されたかをリスト化することで、品番毎に学習データ数の偏りがないか、各品番についての学習データ数が充分か等を迅速に確認することが可能である。
なお、学習データ数エリア330aにおいては、学習データ数が極端に少ない品番については、表示色を変える等の強調表示を行ってもよい。例えば、図10Aの例では、品番Dについての学習データ数が極端に少ないため、本学習モデルは品番Dについて充分な性能が出ない可能性があることが理解される。この強調表示の方法としては、表示色を変える方法の他、文字の太さや大きさを変える方法、リストの欄の色を変える等の方法を採用しても構わない。また、強調表示を行う条件としては、例えば、学習データ数エリア330a内の各品番に対するデータ数の最大値に対し、所定比率(例えば10%)以下のデータ数しかないこと等が例示できる。
次に、図10(b)には、詳細表示中の学習モデルの学習が、教師あり学習である場合について、学習時に使用された学習データの数を、品番毎に表示した学習データ数表示画面331を示す。この学習データ数表示画面331では、学習時に使用された学習データ数及び検証データ数が品番毎に表示される、学習データ数エリア331aが設けられている。この学習データ数エリア331aにおいては、学習データ数及び検証データ数の各々について、良品データ数と不良品データ数に分けて表示される。
これによれば、詳細表示中の学習モデルの教師あり学習時において、どれ位の数の学習データ及び検証データが使用されたかを、品番毎に、良品データ数と不良品データ数に分けて確認することが可能であり、学習データの素性についてより詳細に確認することが可能である。なお、この場合、必ずしも検証データ数を表示する必要はない。また、検証データ数については、学習時のデータの他、テストデータやライブラリーデータのデータ数を表示しても構わない。
次に、図11を用いて、表示モード選択エリア32において「テストデータに対するモデルテスト結果」が選択された場合に表示される、第2詳細表示画面31bについて説明する。この第2詳細表示画面31bにおいては、表示モード選択エリア32の下側中央に、テストデータに対するモデルテスト結果の詳細を示す表であるテスト結果表34が配置されている。
このテスト結果表34の左端には、モデルテストに使用した画像データの種類(すなわち、良品の画像データか、不良品の画像データか、グレー品の画像データか)が示されている。また、上段には、各種類の画像データをAIモデルが良品判定した数、不良判定した数、見過ぎ率または見逃し率が記載されている。また、第2詳細表示画面31bの下段の左側には、実際の各画像データの夫々が、AIモデルによってどのように判定されたかを示す画像表示エリア35が配置されている。
この画像表示エリア35においては、左端には、実際の画像データが表示され、当該画像データの行における各列には、当該画像データをヒートマップ化した画像データ、目視による良否の別、AIモデルによる判定結果、その際のAI出力値を表示している。また、第2詳細表示画面31bの下段の右側には、横軸を、各画像データをテストした際のAI出力値としたヒストグラムを、良否の閾値とともに表示したヒストグラムエリア36が設けられている。この第2詳細表示画面31bによって、対象のAIモデルのテスト結果を詳細に確認することが可能である。
ここで、表示モード選択エリア32において「ライブラリーデータに対するモデルテスト結果」が選択された場合に表示される、第3詳細表示画面は、基本的に第2詳細表示画面31bと同等の構成であるので、説明は省略する。
図12には、表示モード選択エリア32において「量産結果」が選択された場合に表示される、第4詳細表示画面31cを示す。この第4詳細表示画面31cも基本構成は第2詳細表示画面31bと同等であるが、この例においては、量産対応であるが故に、モデル使用期間と、検査済基板IDとを表示する量産情報エリア37が設けられている点で、第2詳細表示画面31bとは異なる。
次に、図8の説明に一旦戻るが、AIモデル管理画面21の右下の領域には、モデル生成ボタン21e、モデルテストボタン21f、インポートボタン21g、モデル適用ボタン21hが設けられている。モデル生成ボタン21eをクリックすることで、新たなAIモデルの生成を開始することが可能である。モデルテストボタン21fをクリックすることで、リアルタイムに、例えばテストデータやライブラリーデータを用いて、特定のAIモデルを用いたテストを実施することが可能である。また、インポートボタン21gをクリックすることで、新たなAIモデルを外部からインポートすることが可能である。さらに、モデル適用ボタン21hをクリックすることで、現時点で量産に適用されていないAIモデルを、量産に適用させることが可能である。
なお、表示切替ボタンエリア21cにおいては、これまで説明した、品番グループ単位の表示の他、全体としての表示を選択することができる。図13には、表示切替ボタンエリア21cにおいては全体を選択した場合の表示画面である、AIモデル全体管理画面41を示す。このAIモデル全体管理画面41には、生産ライン100における複数の品番グループへのAIモデルの適用状態を示す、品番グループ状況表示エリア45が設けられている。品番グループ状況表示エリア45の左端45aには、品番グループの名称が列挙されている。
そして、各品番グループの部品に対して、AIモデルによる検査がONしているか否か、閾値、AIモデル名及び、当該AIモデルによる量産時の性能(見過ぎ率または見逃し率)が掲載されている。なお、AIによる検査がONであるにも拘らずAIモデルが定義されていない場合には、検査エラーの原因となるため、その行は、行自体の色を変える等してユーザーに報知することが可能となっている。図13においては、品番グループ状況表示エリア45の該当する行にハッチングが施されている。
また、品番グループ状況表示エリア45の各品番グループの行の右側には、簡単な操作で、成績の良いモデルのAIモデルを、他の品番グループに展開可能とする、品番グループ展開ボタン45bが設けられている。このボタンをクリックした後に、展開先の品番グループを設定することで、当該AIモデルの他品番グループへの展開が可能である。
なお、上記の実施例においては、本発明を、ブリント基板の生産ライン100に適用した例について説明したが、本発明は他の種類の生産ラインに適用可能であることは当然である。また、本発明は、AIモデル管理画面21、第1詳細表示画面31a~第4詳細表示画面31cを表示可能とする、AIモデルデータ、仕様情報、性能情報を含む、データセットとして捉えることも可能である。さらに、このデータセットは、性能情報の基となる検査画像、あるいは、AIモデルデータによるリアルタイムな検査を可能とする検査画像を含むようにしてもよい。
なお、以下には本発明の構成要件と実施例の構成とを対比可能とするために、本発明の
構成要件を図面の符号付きで付記しておく。
<付記1>
製品の生産ライン(100)において、前記製品の画像データに基づく検査をAIモデルを用いて実行する検査システム(1)であって、
前記製品の検査に用いられる一または複数のAIモデルの管理に関わる情報を表示する管理情報表示部(10c)を有し、
前記管理情報表示部(10c)は、前記AIモデルの仕様に関する仕様情報と、該AIモデルの各種データに対する性能に関する性能情報とを表示可能であり、
前記性能情報は、前記AIモデルの量産適用前のモデルテストに対する性能と、量産に適用した際の性能とを含むことを特徴とする、検査システム。
<付記2>
前記管理情報表示部(10c)は、前記性能情報として、前記AIモデルの量産適用前のモデルテストに対する性能と、量産に適用した際の性能と、量産への適用状況とを、一画面で表示することを特徴とする、請求項1に記載の検査システム。
<付記3>
前記AIモデルの量産適用前のモデルテストは、テストデータに対するモデルテストまたは、ライブラリーデータに対するモデルテストの少なくとも何れかを含むことを特徴とする、請求項1または2に記載の検査システム。
<付記4>
前記性能は、前記AIモデルを使用しない検査における良品を前記AIモデルが不良品と判定した数に基づく見過ぎ指標と、前記AIモデルを使用しない検査における不良品を前記AIモデルが良品と判定した数に基づく見逃し指標とを含むことを特徴とする、請求項1から3のいずれか一項に記載の検査システム。
<付記5>
前記性能情報は、前記AIモデルの量産適用前のモデルテストおよび量産における各検査画像と、該検査画像についての前記AIモデルによる良否の判定結果と、該検査画像についてのAI出力値とをさらに含むことを特徴とする、請求項1から4のいずれか一項に記載の検査システム。
<付記6>
前記性能情報は、前記AIモデルの、前記検査画像についてのAI出力値のヒストグラムをさらに含むことを特徴とする、請求項5に記載の検査システム。
<付記7>
前記管理情報表示部(10c)は、前記性能情報を、前記製品に対する検査項目毎に表示可能とすることを特徴とする、請求項1から6のいずれか一項に記載の検査システム。<付記8>
前記管理情報表示部(10c)は、前記仕様情報及び前記性能情報の表示を、検査対象部品の品番グループ毎の表示と、複数の品番グループについて纏めた表示とで切替可能とすることを特徴とする、請求項1から7のいずれか一項に記載の検査システム。
<付記9>
前記管理情報表示部(10c)は、複数の品番グループについて纏めた表示の表示画面において、一の品番グループに適用されているAIモデルを、他の品番グループへ適用する処理を実行可能とすることを特徴とする、請求項8に記載の検査システム。
<付記10>
前記仕様情報は、前記AIモデルのネットワーク情報、学習時の学習データの情報、前記AIモデルのロット番号の少なくとも何れかを含むことを特徴とする、請求項1から9のいずれか一項に記載の検査システム。
<付記11>
製品の生産ライン(100)において、前記製品の画像データに基づく検査をAIモデルを用いて実行する検査システム(1)のための、AIモデルデータの管理方法であって、
前記AIモデルデータを、該AIモデルデータの仕様に関する仕様情報と、該AIモデルの各種データに対する性能に関する性能情報と紐づけて管理し、
前記性能情報は、前記AIモデルの量産適用前のモデルテストに対する性能と、量産に適用した際の性能とを含むことを特徴とする、AIモデルデータの管理方法。
<付記12>
前記AIモデルの量産適用前のモデルテストは、テストデータに対するモデルテストまたは、ライブラリーデータに対するモデルテストの少なくとも何れかを含むことを特徴とする、請求項11に記載のAIモデルデータの管理方法。
<付記13>
前記性能は、前記AIモデルを使用しない検査における良品を前記AIモデルが不良品と判定した数に基づく見過ぎ指標と、前記AIモデルを使用しない検査における不良品を前記AIモデルが良品と判定した数に基づく見逃し指標とを含むことを特徴とする、請求項11または12に記載のAIモデルデータの管理方法。
<付記14>
前記性能情報は、前記AIモデルの量産適用前のモデルテストおよび量産における各検査画像と、該検査画像についての前記AIモデルによる良否の判定結果と、該検査画像についてのAI出力値とをさらに含むことを特徴とする、請求項11から13のいずれか一項に記載のAIモデルデータの管理方法。
<付記15>
前記仕様情報は、前記AIモデルのネットワーク情報、学習時の学習データの情報、前記AIモデルのロット番号の少なくとも何れかを含むことを特徴とする、請求項11から14のいずれか一項に記載のAIモデルデータの管理方法。
<付記16>
製品の生産ライン(100)において、前記製品の画像データに基づく検査をAIモデルを用いて実行する検査システム(1)のための、一又は複数のAIモデルデータを有する、AIモデルデータセットであって、
前記AIモデルデータと紐づけられた、該AIモデルデータの仕様に関する仕様情報と、該AIモデルの各種データに対する性能に関する性能情報とを含み、
前記性能情報は、各検査画像と、該検査画像についての前記AIモデルによる良否の判定結果とを含むことを特徴とする、AIモデルデータセット。
<付記17>
前記性能は、前記AIモデルを使用しない検査における良品を前記AIモデルが不良品と判定した数に基づく見過ぎ指標と、前記AIモデルを使用しない検査における不良品を前記AIモデルが良品と判定した数に基づく見逃し指標とを含むことを特徴とする、請求項16に記載のAIモデルデータセット。
<付記18>
前記性能情報は、前記検査画像についてのAI出力値とをさらに含むことを特徴とする、請求項16または17に記載のAIモデルデータセット。
<付記19>
前記仕様情報は、前記AIモデルのネットワーク情報、学習時の学習データの情報、前記AIモデルのロット番号の少なくとも何れかを含むことを特徴とする、請求項16から18のいずれか一項に記載のAIモデルデータセット。
構成要件を図面の符号付きで付記しておく。
<付記1>
製品の生産ライン(100)において、前記製品の画像データに基づく検査をAIモデルを用いて実行する検査システム(1)であって、
前記製品の検査に用いられる一または複数のAIモデルの管理に関わる情報を表示する管理情報表示部(10c)を有し、
前記管理情報表示部(10c)は、前記AIモデルの仕様に関する仕様情報と、該AIモデルの各種データに対する性能に関する性能情報とを表示可能であり、
前記性能情報は、前記AIモデルの量産適用前のモデルテストに対する性能と、量産に適用した際の性能とを含むことを特徴とする、検査システム。
<付記2>
前記管理情報表示部(10c)は、前記性能情報として、前記AIモデルの量産適用前のモデルテストに対する性能と、量産に適用した際の性能と、量産への適用状況とを、一画面で表示することを特徴とする、請求項1に記載の検査システム。
<付記3>
前記AIモデルの量産適用前のモデルテストは、テストデータに対するモデルテストまたは、ライブラリーデータに対するモデルテストの少なくとも何れかを含むことを特徴とする、請求項1または2に記載の検査システム。
<付記4>
前記性能は、前記AIモデルを使用しない検査における良品を前記AIモデルが不良品と判定した数に基づく見過ぎ指標と、前記AIモデルを使用しない検査における不良品を前記AIモデルが良品と判定した数に基づく見逃し指標とを含むことを特徴とする、請求項1から3のいずれか一項に記載の検査システム。
<付記5>
前記性能情報は、前記AIモデルの量産適用前のモデルテストおよび量産における各検査画像と、該検査画像についての前記AIモデルによる良否の判定結果と、該検査画像についてのAI出力値とをさらに含むことを特徴とする、請求項1から4のいずれか一項に記載の検査システム。
<付記6>
前記性能情報は、前記AIモデルの、前記検査画像についてのAI出力値のヒストグラムをさらに含むことを特徴とする、請求項5に記載の検査システム。
<付記7>
前記管理情報表示部(10c)は、前記性能情報を、前記製品に対する検査項目毎に表示可能とすることを特徴とする、請求項1から6のいずれか一項に記載の検査システム。<付記8>
前記管理情報表示部(10c)は、前記仕様情報及び前記性能情報の表示を、検査対象部品の品番グループ毎の表示と、複数の品番グループについて纏めた表示とで切替可能とすることを特徴とする、請求項1から7のいずれか一項に記載の検査システム。
<付記9>
前記管理情報表示部(10c)は、複数の品番グループについて纏めた表示の表示画面において、一の品番グループに適用されているAIモデルを、他の品番グループへ適用する処理を実行可能とすることを特徴とする、請求項8に記載の検査システム。
<付記10>
前記仕様情報は、前記AIモデルのネットワーク情報、学習時の学習データの情報、前記AIモデルのロット番号の少なくとも何れかを含むことを特徴とする、請求項1から9のいずれか一項に記載の検査システム。
<付記11>
製品の生産ライン(100)において、前記製品の画像データに基づく検査をAIモデルを用いて実行する検査システム(1)のための、AIモデルデータの管理方法であって、
前記AIモデルデータを、該AIモデルデータの仕様に関する仕様情報と、該AIモデルの各種データに対する性能に関する性能情報と紐づけて管理し、
前記性能情報は、前記AIモデルの量産適用前のモデルテストに対する性能と、量産に適用した際の性能とを含むことを特徴とする、AIモデルデータの管理方法。
<付記12>
前記AIモデルの量産適用前のモデルテストは、テストデータに対するモデルテストまたは、ライブラリーデータに対するモデルテストの少なくとも何れかを含むことを特徴とする、請求項11に記載のAIモデルデータの管理方法。
<付記13>
前記性能は、前記AIモデルを使用しない検査における良品を前記AIモデルが不良品と判定した数に基づく見過ぎ指標と、前記AIモデルを使用しない検査における不良品を前記AIモデルが良品と判定した数に基づく見逃し指標とを含むことを特徴とする、請求項11または12に記載のAIモデルデータの管理方法。
<付記14>
前記性能情報は、前記AIモデルの量産適用前のモデルテストおよび量産における各検査画像と、該検査画像についての前記AIモデルによる良否の判定結果と、該検査画像についてのAI出力値とをさらに含むことを特徴とする、請求項11から13のいずれか一項に記載のAIモデルデータの管理方法。
<付記15>
前記仕様情報は、前記AIモデルのネットワーク情報、学習時の学習データの情報、前記AIモデルのロット番号の少なくとも何れかを含むことを特徴とする、請求項11から14のいずれか一項に記載のAIモデルデータの管理方法。
<付記16>
製品の生産ライン(100)において、前記製品の画像データに基づく検査をAIモデルを用いて実行する検査システム(1)のための、一又は複数のAIモデルデータを有する、AIモデルデータセットであって、
前記AIモデルデータと紐づけられた、該AIモデルデータの仕様に関する仕様情報と、該AIモデルの各種データに対する性能に関する性能情報とを含み、
前記性能情報は、各検査画像と、該検査画像についての前記AIモデルによる良否の判定結果とを含むことを特徴とする、AIモデルデータセット。
<付記17>
前記性能は、前記AIモデルを使用しない検査における良品を前記AIモデルが不良品と判定した数に基づく見過ぎ指標と、前記AIモデルを使用しない検査における不良品を前記AIモデルが良品と判定した数に基づく見逃し指標とを含むことを特徴とする、請求項16に記載のAIモデルデータセット。
<付記18>
前記性能情報は、前記検査画像についてのAI出力値とをさらに含むことを特徴とする、請求項16または17に記載のAIモデルデータセット。
<付記19>
前記仕様情報は、前記AIモデルのネットワーク情報、学習時の学習データの情報、前記AIモデルのロット番号の少なくとも何れかを含むことを特徴とする、請求項16から18のいずれか一項に記載のAIモデルデータセット。
1・・・検査システム
10・・・ティーチング端末
10c・・・AIモデル管理情報表示部
10d・・・AIモデルテスト処理部
20・・・DB
21・・・AIモデル管理画面
30・・・検査装置
31a・・・第1詳細表示画面
31b・・・第2詳細表示画面
31c・・・第4詳細表示画面
41・・・AIモデル全体管理画面
100・・・生産ライン
10・・・ティーチング端末
10c・・・AIモデル管理情報表示部
10d・・・AIモデルテスト処理部
20・・・DB
21・・・AIモデル管理画面
30・・・検査装置
31a・・・第1詳細表示画面
31b・・・第2詳細表示画面
31c・・・第4詳細表示画面
41・・・AIモデル全体管理画面
100・・・生産ライン
Claims (19)
- 製品の生産ラインにおいて、前記製品の画像データに基づく検査をAIモデルを用いて実行する検査システムであって、
前記製品の検査に用いられる一または複数のAIモデルの管理に関わる情報を表示する管理情報表示部を有し、
前記管理情報表示部は、前記AIモデルの仕様に関する仕様情報と、該AIモデルの各種データに対する性能に関する性能情報とを表示可能であり、
前記性能情報は、前記AIモデルの量産適用前のモデルテストに対する性能と、量産に適用した際の性能とを含むことを特徴とする、検査システム。 - 前記管理情報表示部は、前記性能情報として、前記AIモデルの量産適用前のモデルテストに対する性能と、量産に適用した際の性能と、量産への適用状況とを、一画面で表示することを特徴とする、請求項1に記載の検査システム。
- 前記AIモデルの量産適用前のモデルテストは、テストデータに対するモデルテストまたは、ライブラリーデータに対するモデルテストの少なくとも何れかを含むことを特徴とする、請求項1に記載の検査システム。
- 前記性能は、前記AIモデルを使用しない検査における良品を前記AIモデルが不良品と判定した数に基づく見過ぎ指標と、前記AIモデルを使用しない検査における不良品を前記AIモデルが良品と判定した数に基づく見逃し指標とを含むことを特徴とする、請求項1に記載の検査システム。
- 前記性能情報は、前記AIモデルの量産適用前のモデルテストおよび量産における各検査画像と、該検査画像についての前記AIモデルによる良否の判定結果と、該検査画像についてのAI出力値とをさらに含むことを特徴とする、請求項1に記載の検査システム。
- 前記性能情報は、前記AIモデルの、前記検査画像についてのAI出力値のヒストグラムをさらに含むことを特徴とする、請求項5に記載の検査システム。
- 前記管理情報表示部は、前記性能情報を、前記製品に対する検査項目毎に表示可能とすることを特徴とする、請求項1から6のいずれか一項に記載の検査システム。
- 前記管理情報表示部は、前記仕様情報及び前記性能情報の表示を、検査対象部品の品番グループ毎の表示と、複数の品番グループについて纏めた表示とで切替可能とすることを特徴とする、請求項1から6のいずれか一項に記載の検査システム。
- 前記管理情報表示部は、複数の品番グループについて纏めた表示の表示画面において、一の品番グループに適用されているAIモデルを、他の品番グループへ適用する処理を実行可能とすることを特徴とする、請求項8に記載の検査システム。
- 前記仕様情報は、前記AIモデルのネットワーク情報、学習時の学習データの情報、前記AIモデルのロット番号の少なくとも何れかを含むことを特徴とする、請求項1から6のいずれか一項に記載の検査システム。
- 製品の生産ラインにおいて、前記製品の画像データに基づく検査をAIモデルを用いて実行する検査システムのための、AIモデルデータの管理方法であって、
前記AIモデルデータを、該AIモデルデータの仕様に関する仕様情報と、該AIモデルの各種データに対する性能に関する性能情報と紐づけて管理し、
前記性能情報は、前記AIモデルの量産適用前のモデルテストに対する性能と、量産に適用した際の性能とを含むことを特徴とする、AIモデルデータの管理方法。 - 前記AIモデルの量産適用前のモデルテストは、テストデータに対するモデルテストまたは、ライブラリーデータに対するモデルテストの少なくとも何れかを含むことを特徴とする、請求項11に記載のAIモデルデータの管理方法。
- 前記性能は、前記AIモデルを使用しない検査における良品を前記AIモデルが不良品と判定した数に基づく見過ぎ指標と、前記AIモデルを使用しない検査における不良品を前記AIモデルが良品と判定した数に基づく見逃し指標とを含むことを特徴とする、請求項11に記載のAIモデルデータの管理方法。
- 前記性能情報は、前記AIモデルの量産適用前のモデルテストおよび量産における各検査画像と、該検査画像についての前記AIモデルによる良否の判定結果と、該検査画像についてのAI出力値とをさらに含むことを特徴とする、請求項11に記載のAIモデルデータの管理方法。
- 前記仕様情報は、前記AIモデルのネットワーク情報、学習時の学習データの情報、前記AIモデルのロット番号の少なくとも何れかを含むことを特徴とする、請求項11から14のいずれか一項に記載のAIモデルデータの管理方法。
- 製品の生産ラインにおいて、前記製品の画像データに基づく検査をAIモデルを用いて実行する検査システムのための、一又は複数のAIモデルデータを有する、AIモデルデータセットであって、
前記AIモデルデータと紐づけられた、該AIモデルデータの仕様に関する仕様情報と、該AIモデルの各種データに対する性能に関する性能情報とを含み、
前記性能情報は、各検査画像と、該検査画像についての前記AIモデルによる良否の判定結果とを含むことを特徴とする、AIモデルデータセット。 - 前記性能は、前記AIモデルを使用しない検査における良品を前記AIモデルが不良品と判定した数に基づく見過ぎ指標と、前記AIモデルを使用しない検査における不良品を前記AIモデルが良品と判定した数に基づく見逃し指標とを含むことを特徴とする、請求項16に記載のAIモデルデータセット。
- 前記性能情報は、前記検査画像についてのAI出力値とをさらに含むことを特徴とする、請求項16に記載のAIモデルデータセット。
- 前記仕様情報は、前記AIモデルのネットワーク情報、学習時の学習データの情報、前記AIモデルのロット番号の少なくとも何れかを含むことを特徴とする、請求項16から18のいずれか一項に記載のAIモデルデータセット。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
TW112107688A TW202336685A (zh) | 2022-03-10 | 2023-03-03 | 檢查系統以及人工智慧模型資料的管理方法 |
CN202310205796.3A CN116739967A (zh) | 2022-03-10 | 2023-03-03 | 检查系统以及ai模型数据的管理方法 |
DE102023105625.5A DE102023105625A1 (de) | 2022-03-10 | 2023-03-07 | Prüfsystem, verfahren zum verwalten von ki-modelldaten, ki-modelldatensatz |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2022037530 | 2022-03-10 | ||
JP2022037530 | 2022-03-10 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2023133160A true JP2023133160A (ja) | 2023-09-22 |
Family
ID=88065529
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2023023185A Pending JP2023133160A (ja) | 2022-03-10 | 2023-02-17 | 検査システム、aiモデルデータの管理方法及び、aiモデルデータセット |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2023133160A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7473274B1 (ja) | 2023-12-19 | 2024-04-23 | 株式会社フィードフォース | 情報処理システム、プログラム及び情報処理方法 |
-
2023
- 2023-02-17 JP JP2023023185A patent/JP2023133160A/ja active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7473274B1 (ja) | 2023-12-19 | 2024-04-23 | 株式会社フィードフォース | 情報処理システム、プログラム及び情報処理方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Marques et al. | Improving operator evaluation skills for defect classification using training strategy supported by attribute agreement analysis | |
Sousa et al. | Quality management: universal or context dependent? | |
US7006878B2 (en) | Computer-implemented method for analyzing a problem statement based on an integration of Six Sigma, Lean Manufacturing, and Kaizen analysis techniques | |
US20060287843A1 (en) | Process management apparatus, and process management method | |
JP2023133160A (ja) | 検査システム、aiモデルデータの管理方法及び、aiモデルデータセット | |
CN111401722B (zh) | 智能决策方法和智能决策系统 | |
CN108694265A (zh) | 设计布局的失效风险的智能型预诊断系统及方法 | |
US20070092857A1 (en) | Method and apparatus for supporting training, and computer product | |
Hua et al. | Validation of digital twins: challenges and opportunities | |
CN114842275B (zh) | 电路板缺陷判别方法、训练方法、装置、设备及存储介质 | |
CN113012097B (zh) | 图像复检方法、计算机装置及存储介质 | |
JP2009134623A (ja) | 工程改善支援装置、工程改善支援方法、工程改善支援用プログラム、および工程改善支援用プログラムを記録した記録媒体 | |
JP7440823B2 (ja) | 情報処理装置、情報処理方法及びプログラム | |
CN116955071A (zh) | 故障分类方法、装置、设备及存储介质 | |
TW202336685A (zh) | 檢查系統以及人工智慧模型資料的管理方法 | |
CN116739967A (zh) | 检查系统以及ai模型数据的管理方法 | |
CN115266744A (zh) | 生产线产品的检测系统及方法 | |
JP2020009815A (ja) | 検査方法、検査システム及びプログラム | |
JP2006059276A (ja) | ソースコード評価システム | |
CN115080342A (zh) | 一种电源板卡试验数据自动处理方法及系统 | |
CN117828499B (zh) | Pcba异常件确定方法、系统、存储介质及电子设备 | |
CN117217476B (zh) | 一种产线测试资源自动化配置方法 | |
JP2023134059A (ja) | 検査ロジック調整支援装置 | |
JP2023134060A (ja) | 検査ロジック調整装置 | |
Madhani et al. | Measurement of human trust in a hybrid inspection for varying error patterns |