JP2013541779A - ウェブベースの材料のばらつきを検出するための、不均一性の厳しさ度の連続的なチャート化 - Google Patents

ウェブベースの材料のばらつきを検出するための、不均一性の厳しさ度の連続的なチャート化 Download PDF

Info

Publication number
JP2013541779A
JP2013541779A JP2013534933A JP2013534933A JP2013541779A JP 2013541779 A JP2013541779 A JP 2013541779A JP 2013534933 A JP2013534933 A JP 2013534933A JP 2013534933 A JP2013534933 A JP 2013534933A JP 2013541779 A JP2013541779 A JP 2013541779A
Authority
JP
Japan
Prior art keywords
training
image
severity
images
software
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
JP2013534933A
Other languages
English (en)
Other versions
JP2013541779A5 (ja
Inventor
ジェイ.リブニック エバン
エル.ホッフェルト デイビッド
エイチ.ジャスティス デレク
サピロ ギラーモ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
3M Innovative Properties Co
Original Assignee
3M Innovative Properties Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 3M Innovative Properties Co filed Critical 3M Innovative Properties Co
Publication of JP2013541779A publication Critical patent/JP2013541779A/ja
Publication of JP2013541779A5 publication Critical patent/JP2013541779A5/ja
Ceased legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/89Investigating the presence of flaws or contamination in moving material, e.g. running paper or textiles
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/89Investigating the presence of flaws or contamination in moving material, e.g. running paper or textiles
    • G01N21/8914Investigating the presence of flaws or contamination in moving material, e.g. running paper or textiles characterised by the material examined
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B65CONVEYING; PACKING; STORING; HANDLING THIN OR FILAMENTARY MATERIAL
    • B65HHANDLING THIN OR FILAMENTARY MATERIAL, e.g. SHEETS, WEBS, CABLES
    • B65H43/00Use of control, checking, or safety devices, e.g. automatic devices comprising an element for sensing a variable
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/213Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
    • G06F18/2137Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods based on criteria of topology preservation, e.g. multidimensional scaling or self-organising maps
    • G06F18/21375Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods based on criteria of topology preservation, e.g. multidimensional scaling or self-organising maps involving differential geometry, e.g. embedding of pattern manifold
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/44Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • G06V10/443Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components by matching or filtering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • G06V10/758Involving statistics of pixels or of feature values, e.g. histogram matching
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/7715Feature extraction, e.g. by transforming the feature space, e.g. multi-dimensional scaling [MDS]; Mappings, e.g. subspace methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30124Fabrics; Textile; Paper

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Software Systems (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Databases & Information Systems (AREA)
  • Medical Informatics (AREA)
  • Computing Systems (AREA)
  • Biochemistry (AREA)
  • Immunology (AREA)
  • Analytical Chemistry (AREA)
  • Chemical & Material Sciences (AREA)
  • Textile Engineering (AREA)
  • Pathology (AREA)
  • Quality & Reliability (AREA)
  • Data Mining & Analysis (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Evolutionary Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

製造したウェブ材料で不均一欠陥の存在を検出して、各欠陥の厳しさ度を示す出力を提供するためのコンピュータ化検査システムについて記載する。このシステムは、不均一欠陥の厳しさ度をリアルタイムで連続的スケールによって示す出力を提供する。トレーニングソフトウェアは、複数のトレーニングサンプルを処理してモデルを生成する。各トレーニングサンプルには、不均一欠陥に関する離散的な定格ラベルセットの1つを割り当てさえすればよい。トレーニングソフトウェアは、トレーニング画像の連続的なランク付けを表すモデルを生成し、検査システムは、このモデルを用いて、トレーニングサンプルに割り当てられた離散的な定格ラベルに出力を制限することなく、ウェブ材料の厳しさ度を連続的スケールでリアルタイムに計算する。

Description

(関連出願の相互参照)
本出願は、2010年10月19日に出願された、米国特許仮出願第61/394,655号の利益を請求し、その開示の全文を本明細書に参考として組み込む。
(発明の分野)
本発明は、移動するウェブを検査するためのコンピュータシステムのような自動検査システムに関する。
移動するウェブ材料を分析するためのコンピュータ化検査システムは、現代の製造業務に欠かせないことが明らかになっている。生産ラインの目的は、完全に均一で、ばらつきのない材料を生産することである。しかしながら、不均一性は、ウェブベースの材料を製造する際によく見られる問題である。この不均一性は、いずれかの数のプロセス変数又は配合誤差によって生じることがある。このため、光学検査センサ(例えばカメラ)によって取得されたデジタル画像に基づき、製造した製品の品質を自動的に分類できる画像ベースの検査システムを配備するのがますます一般的になっている。取得された各デジタル画像(すなわち「サンプル」)に対して、そのサンプル又はその一部が最も単純なケースにおいて許容可能か又は許容不可能かを示す定格を割り当てようと試みるアルゴリズム(「クラシファイア」と称されることが多い)を適用する検査システムもある。
これらの検査システムは、製造した材料の単一の区域に各欠陥が局在化している「点」欠陥を識別しようと試みることが多い。しかしながら、「不均一」欠陥、つまり「不均一性」と称される他のタイプの欠陥が存在する場合があり、この場合には、そのウェブ材料は広い面積にわたって不均一なばらつきを呈する。このような不均一性の例としては、斑点、びびり、バンディング、及び縞が挙げられる。これらのような不均一タイプの欠陥は、その名のとおり分散しており、局在化していない。その結果、このような欠陥は、局在化している点欠陥よりも、コンピュータ化検査システムで検出及び定量化するのが難しい場合がある。したがって、作業者又は品質管理エンジニアが、まばらにサンプリングしたウェブサンプルを手作業によってオフラインで、すなわち生産の完了後に検査せざるを得ない場合がある。
一般に、本開示は、不均一欠陥の存在を検出して、各欠陥の厳しさ度を示す出力を提供するためのコンピュータ化検査システムについて説明する。更には、本開示の技法は、不均一性の厳しさ度の連続的なチャート化をもたらす出力を提供することができる。換言すれば、本開示のコンピュータ化検査システムは、「許容可能」若しくは「許容不可能」、又は「1」、「3」、若しくは「5」のような離散的な定格ラベルに制約されずに、サンプルの、より連続的なランク付けを行うことができる。例えば、本開示のコンピュータ化検査システムは、所定のサンプルの不均一性の厳しさ度の、連続的スケールによる測定値(0〜10のスケールにおける1.63など)を生成するアルゴリズムを適用することができる。
1つの実施形態では、装置は、プロセッサと、複数のトレーニングサンプルを記憶するメモリとを含む。それらの画像のそれぞれには、それらのトレーニング画像内に存在する不均一欠陥に対する離散的な定格ラベルセットの1つが割り当てられている。このプロセッサ上で実行されるトレーニングソフトウェアは、各トレーニング画像の特徴ベクトルをその各トレーニング画像のピクセル値から計算することによって、複数のトレーニング画像のそれぞれから特徴を抽出する特徴抽出モジュールを含む。このトレーニングソフトウェアは、トレーニング画像の特徴ベクトルのそれぞれを多次元空間内の点として表現する。このトレーニングは、トレーニング画像の連続的なランク付けを計算し、それらのトレーニング画像のそれぞれには、様々なタイプの欠陥に関して、不均一性のランク値が連続的スケールで割り当てられる。
別の実施形態では、コンピュータ化検査システムは、トレーニング画像の連続的なランク付けを多次元特徴空間内の複数の点として表現するモデルを記憶するメモリを含む。多次元空間内の点のそれぞれは、トレーニング画像の別の点に関する特徴ベクトルに相当する。このコンピュータ化検査システムは、製造したウェブ材料から取得された新たな画像を処理するソフトウェアを実行して、その新たな画像から特徴を抽出するサーバを含む。このソフトウェアは、トレーニング画像のモデルに基づき、ウェブ材料の不均一欠陥の厳しさ度を連続的スケールで計算する。このコンピュータ化検査システムは、この厳しさ度をユーザーに出力するためのユーザーインターフェースを含む。
別の実施形態では、方法は、コンピュータ上でソフトウェアを実行して、トレーニング画像のそれぞれの数値記述子をそのそれぞれのトレーニング画像のピクセル値から計算することによって、複数のトレーニング画像のそれぞれから特徴を抽出する工程を含み、これらの画像のそれぞれには、そのトレーニング画像内に存在する不均一欠陥の離散的な定格ラベルセットの1つが割り当てられている。この方法は、トレーニング画像の数値記述子を定格ソフトウェアで処理して、トレーニング画像に割り当てられた離散的な定格ラベルに基づき、トレーニング画像の連続的なランク付けを計算する工程を更に含む。この方法は、製造したウェブ材料から取得された新たな画像を処理して、その新たな画像から特徴を抽出し、トレーニング画像の連続的なランク付けに基づき、そのウェブの不均一欠陥の厳しさ度を計算する工程と、ユーザーインターフェースを表示して、厳しさ度をユーザーに出力する工程を含む。
これらの技法は、1つ以上の利点をもたらすことができる。一例として、作業者により詳細な情報が提供されるほど、不均一性の原因に関する理解をもたらすのにより有用となり得る。欠陥の厳しさ度が連続的スケールによるリアルタイムの出力である、不均一性の厳しさ度の連続的なチャート化によって、時間の経過とともに生じる不均一性の量及び厳しさ度を、作業者がより明確に可視化でき、これは、「良」及び「不良」のような離散的な出力よりも有益である場合がある。このように、特定の不均一欠陥について作業者に示される出力は、トレーニングサンプルに割り当てられた離散的な定格ラベルに制約されない。
加えて、コンピュータ化検査システムがこの技法を適用して、ウェブ製造施設内のプロセスエンジニアのようなユーザーに、不均一性の存在とそれらの厳しさ度に関してリアルタイムでのフィードバックを提供し、それによって、ユーザーが、プロセス条件を調節することによって、出現しつつある不均一性に迅速に対処して、大幅に生産を遅延させることなく、又は、使用不能な材料を大量に生産することなく問題を改善することができる。換言すれば、この技法の適用によって、不具合が生じたときにその不具合を検出する機能を作業者に付与して、廃棄物の量を低減することができる。
更に、これらの技法は、連続的なランク付けモデルを適用して、サンプルの連続的なランク付けを実現できるとともに、入力として、不均一性が、例えば「1」、「3」、及び「5」というレベルのように、大まかに離散化したスケールでしか分からないトレーニング画像セットから、その連続的なランク付けモデルを構築することができる。
更に、本明細書に記載されている、不均一性の厳しさ度の連続的なチャート化の技法には、ウェブ上で製造されるいずれの材料も含む、多くの生産ラインにおける利用可能性と有用性を有する。この技法は、不透明であるか、反射照明を必要とする製品内の不均一性を識別及び定格するのにも有用である。しかしながら、この技法は、いずれの特定の製造した材料又は画像様式にも制限されない。
本発明の1つ以上の実施形態の詳細を添付図面及び以下の説明に示す。本発明の他の特徴、目的、及び利点は、説明及び図面、並びに特許請求の範囲から明らかとなるであろう。
本明細書に記載されている技法が適用され得る例示的なウェブ製造及び変換システムを示すブロック図である。 例示的なウェブ製造工場における、検査システムの例示的な実施形態を示すブロック図である。 本明細書に記載されているシステムの例示的な操作を示すフローチャートである。 「マニホールド」と称される連続的な3次元(3D)表面を示しており、これを参照にすると、連続的なランク付けモデルを生成するトレーニングソフトウェアが適用するアルゴリズムが容易に理解される。 トレーニング画像から抽出した特徴ベクトルをトレーニングソフトウェアが処理して、トレーニング画像の連続的なランク付けを構築し、連続的なランク付けモデルを生成する例示的なプロセスをより詳細に示すフローチャートである。 チャート化モジュールが連続的なランク付けモデルをリアルタイムで用いて、不均一欠陥の存在を検出し、各欠陥の厳しさ度の連続的なチャート化を行う例示的なプロセスをより詳細に示すフローチャートである。 2次元特徴空間におけるk−最も近い近傍探索の論理的表現を示すグラフ。 ハッシングアルゴリズムを用いる、k−最も近い近傍探索の第2の技法を示す。
図1は、本明細書に記載されている技法が適用され得る例示的なシステム2を示すブロック図である。ウェブ製造プラント(工場)6A〜6N(ウェブ製造工場6)は、ウェブ材料をウェブロール7の形状で製造及び移送する製造現場を表している。ウェブ製造工場6は、地理的に分散していてもよく、ウェブ製造工場のそれぞれは、1つ以上の製造加工ラインを有してもよい。一般に、ウェブロール7は、製造工場6のうちのいずれかによって製造してよく、また追加の処理のためにウェブ製造工場間で移送してよい。完成したウェブロール10は、製品12A〜12N(製品12)に変換するために、加工現場8A〜8N(加工現場8)に移送される。図1に示されているように、変換制御システム4、ウェブ製造工場6A〜6M(ウェブ製造工場6)、及び加工サイト(現場)8A〜8N(加工現場8)は、ウェブ材料の製造と製品12への変換に関連する情報(例えば欠陥情報)を交換するためにコンピュータネットワーク9によって相互接続されている。
一般に、ウェブロール7、10は、既製のウェブ材料を含んでもよく、そのウェブ材料は、ある方向には一定の寸法を、またその直交方向には所定の又は不定の長さを有する任意のシート状材料であってよい。ウェブ材料の例には、金属、紙、織布、不織布、ガラス、ポリマーフィルム、フレキシブル回路又はこれらの組み合せが含まれるが、これらに限られない。金属には、鋼又はアルミニウムなどの材料を挙げることができる。織布には一般的に、様々な織物が挙げられる。不織布には、紙、濾材又は絶縁材料などが挙げられる。フィルムには、例えば積層体及びコーティングされたフィルムを含む無色(クリア)かつ不透明なポリマーフィルムが挙げられる。
加工現場8は、完成したウェブロール10をウェブ製造工場6から受領し、顧客14A〜14N(顧客14)に販売するための製品12に組み込む目的で、完成したウェブロール10を個別のシートに変換してよい。加工システムは、製品と関連付けられた等級レベルのような様々な基準に基づき、所定の完成したウェブロール10をどの製品14に変換するかを決定することができる。すなわち、どのシートをどの製品12に組み込むべきかという選択プロセスは、各シートが満たしている具体的な等級レベルに基づいてよい。本明細書に記載する技法に従えば、加工現場8はまた、完成したウェブロール10の異常、すなわち潜在的な欠陥に関するデータを受領してもよい。最終的に、加工現場8は、完成したウェブロール10を個々のシートに変換してもよく、それらのシートは、顧客14A〜14N(顧客14)への販売のために、製品12に組み込まれてもよい。
製品12に組み込むための個々のシートに変換する準備のできた完成したウェブロール10を生産するために、未完成のウェブロール7は、1つのウェブ製造工場、例えばウェブ製造工場6Aにて、あるいは多数の製造工場にて、多数の加工ラインによる処理を受けることが必要となり得る。各プロセスに関して、ウェブロールは典型的に、ウェブがそこから製造プロセスの中へ送られるソースロールとして使用される。各プロセスの後、ウェブは典型的に、ウェブロール7に再度収集されて、別の製品ラインに移動されるか又は別の製造工場に移送され、次にウェブはそこで広げられ、処理され、かつ再度ロールに収集される。最終的に完成したウェブロール10が製造されるまでこのプロセスが繰り返される。多数の応用例で、各ウェブロール7のウェブ材料は、1つ以上のウェブ製造工場6の1つ以上の生産ラインで多数のコーティングを施されることがある。このコーティングは一般に、最初の製造プロセスの場合にはベースウェブ材料の露出表面に、後の製造プロセスの場合には既に施されたコーティングの露出表面に施される。コーティングの例には、接着剤、ハードコート、低接着性裏面コーティング、金属化コーティング、中性密度コーティング、電気的に導電性若しくは非導電性コーティング、又はこれらの組み合せが挙げられる。
ウェブロール7の所定の1つの各製造プロセスの間、1つ以上の検査システムがウェブの異常情報を取得する。例えば、図2に示されているように、生産ラインのための検査システムは、ウェブが処理されるとき、例えば、1つ以上のコーティングがウェブに塗布されるとき、連続的に移動するウェブに近接して配置される1つ以上の画像取集装置を含んでもよい。画像収集装置は、連続的に移動するウェブの連続的な部分を走査してデジタル画像を得る。検査システムは、1つ以上のアルゴリズムによって画像を分析して、ウェブが変換される最終製品12によっては、実際の「欠陥」を表す場合があるいわゆる「局所的な」異常情報を生成する分析コンピュータを含む。検査システムは例えば、各欠陥が単一の区域に局在化している「点」欠陥に関する異常情報を生成してもよい。別の例として、検査システムは、ウェブ材料が点欠陥の面積よりも広い面積にわたって不均一なばらつきを呈する「不均一」欠陥、つまり「不均一性」に関する異常情報を生成してもよい。このような不均一性の例としては、斑点、びびり、バンディング、及び縞が挙げられる。
ウェブ製造工場6内の分析コンピュータは、不均一欠陥の存在を検出するとともに、各欠陥の厳しさ度を示す出力を提供するためのアルゴリズムを適用してもよい。更には、本技法は、不均一性の厳しさ度の連続的なチャート化を行う出力を提供することができる。分析コンピュータは、ウェブを製造するときにリアルタイムで、又は、ウェブに関してすべての画像データが取得された後にオフラインで、アルゴリズムを適用してもよい。例えば、コンピュータ化検査システムは、ウェブ製造工場6内のプロセスエンジニアのようなユーザーに、不均一性の存在とそれらの厳しさ度に関して、リアルタイムでのフィードバックを提供し、それによって、ユーザーが、プロセス条件を調節することによって、出現しつつある不均一性に迅速に対処して、大幅に生産を遅延させることなく、又は、使用不能な材料を大量に生産することなく問題を改善することができる。コンピュータ化検査システムは、連続的スケールによるか、又は、より正確にサンプリングしたスケールによる、所定のサンプルの不均一性の厳しさ度の測定値(0〜10のスケールにおける1.63など)を生成するアルゴリズムを適用してもよい。不均一性の厳しさ度の連続的なチャート化によって、時間の経過とともに生じる不均一性の量及び厳しさ度を、作業者がより明確に可視化でき、これは、「良」及び「不良」のような離散的な出力よりも有益である場合がある。例えば、コンピュータ化検査システムは、不均一性の原因に関する理解をもたらし得る詳細な情報を作業者に提供することができる。
この連続的なチャート化プロセス中に、分析コンピュータは、トレーニングデータに基づき構築した連続的なランク付けモデルを適用することによって、取得されたデジタル画像を処理する。このトレーニングデータは典型的には、アルゴリズムの「トレーニングフェーズ」中に処理され、そのトレーニングデータに最もよく一致するように、連続的なランク付けモデルが構築される。すなわち、トレーニングフェーズ、及び連続的なランク付けモデルの構築後、連続的なランク付けモデルをトレーニングデータに適用することによって、高い確率でトレーニングデータをラベル付けすることになる。連続的なランク付けモデルをトレーニングデータから構築したら、分析コンピュータは、処理の「分類フェーズ」中に、潜在的にはリアルタイムで、新たに製造した製品から取得されたサンプルに連続的なランク付けモデルを適用し、「許容可能」若しくは「許容不可能」、又は、「1」、「3」、若しくは「5」のような離散的な定格ラベルに制約されずに、不均一性の厳しさ度の連続的なチャート化を行う。コンピュータ化検査システムは、サンプルの連続的なランク付けを提供することができる。例えば、コンピュータ化検査システムは、アルゴリズムを適用して、0〜10のスケールにおける1.63のような連続的スケールで、ウェブ材料内の不均一欠陥に関する厳しさ度の測定値を生成することができる。更には、サンプルの連続的なランク付けを実現させる目的で用いる連続的なランク付けモデルは、不均一性の厳しさ度が大まかに離散化したスケールでしか分からないトレーニング画像セットから構築することができる。
いくつかの実施形態では、所定の製造したウェブのデジタル画像の分析は、変換制御システム4によってオフラインで行ってもよい。所定のウェブに対する分類に基づき、変換制御システム4は、各ウェブロール10に関する変換計画を選択及び生成することができる。ある製品(例えば製品12A)では、ある特定の不均一性が欠陥につながる場合がある一方で、別の製品(例えば製品12B)では、その異常が欠陥につながらない場合もあるという点で、デジタル画像の分析と厳しさ度の決定は、用途特有のものであってよい。各変換計画は、最終的に顧客14に販売され得る製品12を作製するために、対応する完成したウェブロール10を処理する規定の指示を表すものである。例えば、ウェブロール10は、最終製品、例えばノートブックコンピュータのディスプレイ用途の特定サイズのシートに変換してよい。別の例として、この同じウェブロール10は、携帯電話のディスプレイに適用するための最終製品に変換されてもよい。変換制御システム4は、異常に適用され得る様々な欠陥検出アルゴリズムを考慮して、ウェブの最大利用率のような特定のパラメータをどの製品が最良に達成するかを識別することができる。
図2は、図1の例示的なウェブ製造工場6A内のウェブ加工ライン21の一部内に位置する検査システムの例示的な実施形態を示すブロック図である。この例示的な実施形態では、ウェブ20の一区間が、2つの支持ロール22、24の間に配置されている。画像収集装置26A〜26N(画像収集装置26)は、連続的に移動するウェブ20にごく近接して配置されており、連続的に移動するウェブ20の連続的な部分を走査して画像データを得る。収集コンピュータ27は、画像収集装置26から画像データを収集し、その画像データを分析コンピュータ28に送信する。
画像収集装置26は、移動するウェブ20の連続的な部分を読取ることができ、並びにデジタルデータストリームの形態で出力を提供することができる従来の画像デバイスであってもよい。図2に示されているように、画像収集装置26は、デジタルデータストリームを直接提供するカメラ又は追加のアナログ−デジタルコンバータを有するアナログカメラであってもよい。例えばレーザースキャナなどの他のセンサが、画像収集装置として利用されてもよい。ウェブの連続的な部分は、データが単一のラインの連続によって得られているということを示す。単一のラインは、センサ要素又はピクセルの一列に位置する、連続して移動するウェブの領域を含む。画像を収集するのに好適な装置の例には、ダルサ社(Dalsa)(カナダ国オンタリオ州ワーテルロー(Waterlo))のPiranha Models、又はアトメル社(Atmel)(カリフォルニア州サンホセ(San Jose))のModel Aviva SC2 CLなどのラインスキャンカメラが挙げられる。更なる例には、サーフェイス・インスペクション・システムズ社(Surface Inspection Systems GmbH)(ドイツ、ミュンヘン(Munich))からの、アナログ−デジタルコンバータと連結したレーザースキャナが挙げられる。
画像データは任意で、画像の収得を補助する光学アセンブリを用いて収集してもよい。この組立体はカメラの一部であってもよいか、又はカメラから分離されているかのいずれか一方でもよい。光学的組立体は、撮像プロセス中に反射光、透過光又は反射透過光(transflected light)を利用する。反射光は、例えば、表面のスクラッチなどウェブ表面の変形によって生じた欠陥の検出に、しばしば好適である。
いくつかの実施形態では、基準マークコントローラ30が基準マークリーダ29を制御して、ロール及び位置の情報をウェブ20から集める。例えば、基準マークコントローラ30は、バーコード又は他のしるしをウェブ20から読み取るための1つ以上の写真光学センサを有していてもよい。加えて、基準マークコントローラ30は、ウェブ20及び/又はローラ22、24と係合した1つ以上の高精度エンコーダから位置信号を受信してもよい。この位置信号に基づいて、基準マークコントローラ30は、検出された各基準マークに対する位置情報を判定する。基準マークコントローラ30は、検出された異常との関連付けのために、ロール及び位置情報を分析コンピュータ28に伝える。
分析コンピュータ28は、収集コンピュータ27から次々と送られてくる画像データを処理する。一例として、本明細書に記載されている技法によれば、不均一性チャート化コンピュータモジュール39(「チャート化モジュール39」)は、分析コンピュータ28上で実行され、トレーニングデータ35に基づき構築された連続的なランク付けモデル34(「モデル34」)を用いるアルゴリズムを適用して、不均一欠陥の存在を検出するとともに、各欠陥の厳しさ度の連続的なチャート化を提供する。
トレーニングデータ35は典型的には、1人以上のエキスパート38によって定格を割り当てられた代表的なサンプルデジタル画像の大規模セットからなる。トレーニングには、事前に自動的にランク付けしたデータを用いることもできる。デジタル画像は例えば、ウェブ20、又はウェブ加工ライン21によって事前に製造した別のウェブから採取したサンプルを示すものであってもよい。トレーニングサーバ36は、エキスパート38が、サンプルを示すデジタル画像の大規模な集合体に、効率的かつ一貫して定格(すなわちラベル)を割り当てるのを補助するように、エキスパート定格コンピュータツール37(「定格ツール37」)を提供するソフトウェアを実行するための動作環境を提供することができる。例示的なエキスパート定格ツール37の更なる詳細は、米国特許仮出願第61/394,428(Ribinickら、表題「COMPUTER−AIDED ASSIGNMENT OF RATINGS TO DIGITAL SAMPLES OF A MANUFACTURED WEB PRODUCT」、2010年10月19日出願)に見出すことができる。
チャート化モジュール39は少なくとも部分的に、1つ以上のハードウェアマイクロプロセッサ、デジタルシグナルプロセッサ(DSP)、特定用途向け集積回路(ASIC)、フィールドプログラマブルゲートアレイ(FPGA)、又はその他の同等の集積若しくは個別論理回路、及びこのようなコンポーネントを組み合わせたものを含む、分析コンピュータ28の1つ以上のプロセッサによって実行されるソフトウェア命令として実行されてよい。このソフトウェア命令は、ランダムアクセスメモリ(RAM)、リードオンリーメモリ(ROM)、プログラマブルリードオンリーメモリ(PROM)、消去可能なプログラマブルリードオンリーメモリ(EPROM)、電子的に消去可能なプログラマブルリードオンリーメモリ(EEPROM)、フラッシュメモリ、ハードディスク、CD−ROM、フロッピーディスク、カセット、磁気媒体、光媒体、又はその他のコンピュータ読み取り可能な記憶媒体のようなコンピュータ読み取り可能な非一時的媒体内に記憶してよい。分析コンピュータ28及びチャート化モジュール39、並びにトレーニングサーバ36及び定格ツール37は、例示目的で、製造工場6A内に配置されているように示されているが、製造工場の外、例えば中枢部又は加工現場に位置していてもよい。例えば、分析コンピュータ28及びトレーニングサーバ36は、変換制御システム4内で動作してもよい。別の例では、チャート化モジュール39及び定格ツール37は、単一の計算プラットフォーム上で実行されても、同じソフトウェアシステムに統合されていてもよい。
トレーニングデータ35を構築したら、トレーニングモジュール41がそのトレーニングデータを処理して、ウェブ材料20に関して収集コンピュータ27から受信した画像データのリアルタイム分析のために、チャート化モジュール39によって後で用いられるのに備えて、連続的なランク付けモデル34を生成する。このようにして、連続的なランク付けモデル34に従って、ウェブ材料20の領域の新たな画像を分類することができる。検出できる例示的な欠陥としては、斑点、びびり、バンディング、及び縞のような不均一性、並びに、染み、引っかき傷、及び油たれなどの点欠陥が挙げられる。
分析コンピュータ28は、ウェブ20に関するロール識別情報、各異常に関する位置情報を含む、ウェブ20に関する異常情報をデータベース32内に記憶する。例えば、分析コンピュータ28は、基準マークコントローラ30によって生成された位置データを用いて、加工ラインの座標系内の各異常の空間位置又は画像領域を測定することができる。すなわち、基準マークコントローラ30から得た位置データに基づき、分析コンピュータ28は、現在の加工ラインで用いられている座標系内の各異常に関するx、y、及び場合によりzの位置又は範囲を測定する。例えば、座標系は、x次元が、ウェブ20を横断する距離を表し、y次元がウェブの長さに沿った距離を示し、z次元がウェブの高さを表すように定義されてもよく、これはコーティング、材料又はウェブに既に適用された他の層の数に基づいてもよい。更に、x、y、z座標系の原点は、加工ライン内のある物理的な箇所で規定されてもよく、典型的には、ウェブ20の初期供給点の配置に関連付けられる。データベース32は、1つ以上のデータベースサーバを実行するデータストレージファイル又は1つ以上のデータベース管理システム(DBMS)を含む、様々な形態の任意の数で実行されてもよい。データベース管理システムは、例えば、リレーショナル(RDBMS)、階層的(HDBMS)、多次元(MDBMS)、オブジェクト指向(ODBMS若しくはOODBMS)又はオブジェクトリレーショナル(ORDBMS)データベース管理システムであってもよい。一例として、データベース32は、SQLサーバ(SQL Server)(商標)によってマイクロソフト社(Microsoft Corporation)から提供されているリレーショナルデータベースとして実行される。
処理が終わったら、分析コンピュータ28は、データベース32で収集したデータを変換制御システム4にネットワーク9を介して送信してもよい。例えば、分析コンピュータ28は、連続的なランク付けモデル34に従って後で行われるオフラインでの詳細分析に備えて、ロール情報、並びに、異常情報及び各異常に関するそれぞれのサブ画像を変換制御システム4に伝達することができる。例えば、この情報は、データベース32と変換制御システム4との間のデータベース同期によって通信されてもよい。いくつかの実施形態では、製品12のうちの、各異常によって欠陥が発生し得る製品を、解析用コンピュータ28ではなく変換制御システム4が判定してもよい。完成したウェブロール10に関するデータをデータベース32で収集したら、そのデータを加工現場8に伝達し、及び/又は、そのデータを用いて、除去可能な若しくは水で落とせるマークによって直接ウェブの表面上にて、あるいは、ウェブ上の異常にマークを付ける前又はその間にウェブに付けることができるカバーシート上にて、ウェブロール上の異常にマークを付けることができる。
図3は、トレーニングモジュール41及びチャート化モジュール39の動作の概略を示すフローチャートである。一般に、このプロセスは、トレーニングフェーズ45と、オンライン推定フェーズ47という2つの一般的処理フェーズを含む。
最初に、トレーニングモジュール41が、トレーニングデータ35を入力として、典型的には、厳しさ度ランクが、場合によって大まかに離散化したスケールで既知である画像セットの形状で受領する(50)。すなわち、トレーニングデータ35は、ウェブ20から採取したサンプルを示すデジタル画像であってよく、エキスパート定格コンピュータツール37(「定格ツール37」)は、米国特許仮出願第61/394,428号に記載されている方法で、デジタル画像のそれぞれに離散的な定格53を割り当てられている場合がある。
次に、トレーニングモジュール41の特徴抽出ソフトウェアモジュールが各画像を処理して、特徴を抽出する(52)。特徴の抽出は、各画像に固有の関連情報のコンパクトな数値表現として、各画像の数値記述子をもたらす。特徴は、トレーニングセット内の画像間の関係に関する有用な情報を保持し、同時に、情報価値のない画像特徴を削除する任意の方法で抽出することができる。一般的な特徴抽出技法の例としては、画像とフィルターセットを畳み込み、フィルター処理した画像の統計値を計算するか、色又は強度のヒストグラムに基づき特徴を抽出する技法が挙げられる。場合によっては、ピクセル値を特徴として用いることができるが、この場合、典型的には画像全体を記憶する必要があるので、記述子はコンパクトではない。一般に、得られた特徴は、対応する画像中の関連情報のコンパクトな記述として取り扱う。
本明細書に記載されている技法は、任意の特定の特徴抽出法とともに用いることに限定されず、他のタイプの特徴がより適切である用途に容易に適用することができる。一般に、画像から抽出した特徴は、特定のタイプの不均一性に関して、画像についての識別情報を含む点で記述的である。したがって、特徴を抽出したら、各画像に対応する特徴ベクトルは、その画像に含まれる関連情報の大半を表現する。
特にその情報が質感に関するものであるときに、関連画像情報をコンパクトな形状でカプセル化する1つの例示的方法は、画像全体にわたるピクセル特徴の小規模な共分散行列を計算することである。この小規模な共分散行列(例えば5×5)を抽出したら、画像を直接処理する代わりに、これらの行列のみに基づき、画像間のペアワイズ比較を効率的に行うことができる。例えば、グレースケール画像は、I(x,y)としてピクセル座標x及びyによってインデックス化した2次元アレイとして定義される。各ピクセル位置(x,y)では、特徴ベクトルは、ピクセルの強度値、並びに、そのピクセルにおける一次導関数及び二次導関数に基づき抽出する。
Figure 2013541779
画像導関数(グラジエント)は、単に、各ピクセルにおける強度値間の前方差分又は中心差分を計算することによって概算することができる。高次導関数、又はフィルター処理した画像の結果を含む他の特徴を、(式1)中のベクトルに組み込むことができる。同様に、すべての導関数を含める必要はなく、例えば、所与の方向の導関数から、特定の欠陥に関する情報が得られない場合には、その導関数は(式1)から除去することができる。最後に、これらのピクセル特徴の共分散行列を画像全体にわたって計算する。
Figure 2013541779
式中、Nは画像中のピクセルの数である。
Figure 2013541779
また、上記μは、ピクセル特徴の平均である。後の処理工程では、画像間のペアワイズ距離を計算するのが有用である場合がある。これらの共分散行列記述子の場合、ペアワイズ距離は、以下のように計算する。
Figure 2013541779
式中、λ(CI1;CI2)は、2つの共分散行列のi番目に生成された固有値である。更なる詳細は、O.Tuzel,F.Porkli,and P.Meer.「Region Covariance:A Fast Descriptor for Detection and Classification.」Proceedings of the European Conference on Computer Vision,2006に見出すことができる。
各トレーニング画像に関する特徴の抽出後、トレーニングモジュール41は特徴ベクトルを処理して、トレーニング画像の連続的なランク付けを学び、不均一性の厳しさ度に基づき、連続的なランク付けモデル34を生成する(54)。トレーニングフェーズ45の間、トレーニングモジュール41は、不均一性の厳しさ度に基づき、トレーニング画像の連続的なランク付けを学ぶ。最初に、各トレーニング画像について既知なのは、対応するサンプルが、特定のタイプの不均一性について「良」若しくは「不良」であるか、又は「1」、「3」、若しくは「5」であるかを示すエキスパート定格のみである。これらのエキスパート定格は、トレーニング画像の多くの場合の大まかな順序付けを行う。すなわち、トレーニング画像を2つ若しくは3つの離散的なカテゴリー、又は、作業者がそのような情報を提供できる場合には、これよりも多いカテゴリーにランク付けすることができる。トレーニングモデル41は、この大まかな順序付けを入力として用いるとともに、トレーニング画像を特定の不均一性に関して連続的スケールに沿って最高から最低までランク付けする、連続的なランク付けを学ぶ。良好なランク付けでは、エキスパート定格、例えば、「不良」とラベル付けされた画像よりも厳しさ度ランクの低い画像に「良」を割り当てることに可能な限り留意する必要があるが、場合によっては、トレーニングモジュール41が、離散的なラベルによって示される大まかなランク付けに反することが完全に防止されるわけではない。それは、トレーニングデータの手作業によるラベル付けの主観性が原因で、エキスパート定格に誤りがある可能性があるとともに、実際、誤りがあるのが一般的であるからである。
オンライン推定フェーズ47の間、チャート化モジュール39は、習得した連続的なランク付けモデル34をリアルタイムで生産ライン上で適用する。製造しているウェブの新たな画像を取得するとき(56)、トレーニング画像の場合と同じ方法で、特徴を抽出する(58)。続いて、トレーニングフェーズ45から得た連続的なランク付けモデル34を用いて、トレーニング画像との構造比較に基づき、新たな画像に厳しさ度定格を割り当てる(60)。
図4は、「マニホールド」80と称される連続的な3次元(3D)表面を示しており、これを参照すると、連続的なランク付けモデル34を生成するトレーニングモジュール41が適用するアルゴリズムが容易に理解される。各画像と関連付けられた特徴ベクトルは、高次元空間内の単一の点と考えることができる。しかしながら、すべての画像は、同じタイプの材料であり、同じ撮像デバイス又はその他のセンサによって、同じ撮像条件及び形状下で撮影されるので、自由度の基礎数は、埋め込む特徴空間の次元よりも低いことがある。したがって、マニホールド80(すなわち連続的な3D表面)又はマニホールド群にある高次元点の1つであって、この空間に埋め込まれているが、固有の次元(自由度)が空間全体よりも低い場合のある、高次元点として各トレーニング画像を見るのが有用である。2次元オブジェクトが組み込まれた3次元空間の単純なケースについて、例示の例が図4に示されているが、実際には、特徴ベクトルの次元は一般にもっと高い。高次元空間に埋め込まれたマニホールドに関する更なる例示的な詳細は、H.S.Seung and Daniel D.Lee,「Cognition:The Manifold Ways of Perception」,Science,vol.290,no.5500,pp.2268〜2269,Dec.22,2000に記載されている。
図4に関する1つの単純な例として、すべてのトレーニング画像が、様々なレベルのダウンウェブのびびりを有する同じウェブ材料を示すトレーニング画像セット。この単純なケースでは、各トレーニング画像が、様々な質感に関する特徴を取得する高次元特徴ベクトルによって示すことができても、この場合、この画像セット内に、びびりのレベルに対応する基礎的自由度が1つしかない場合がある。したがって、これらのトレーニング画像は、1次元マニホールドにある点、例えば、図4の高次元空間内の曲線軌道を蛇行する線として見ることができる。
特徴ベクトルの、マニホールド上の点としてのこの表現の1つの利点は、トレーニングモジュール41のアルゴリズムが、トレーニングデータ内の最も関連がありかつ有用な情報のみを使用するために、トレーニングデータ内のこの基礎構造を利用する点である。更には、比較的高次元特徴ベクトルから学ぶときに、より低次元空間内への埋め込みが有用であることがある。アルゴリズムは、マニホールドへの埋め込みを行うために存在し、この埋め込みは、本明細書では、基礎構造を保持しながら、高次元データの低次元表現を回復させるタスクに関する用語である。このようなアルゴリズムのいくつかの例としては、自己組織化(コホネン)マップ、多次元尺度構成法、イソマップ、及び局所線形埋め込みが挙げられる。1つの例示的なアルゴリズムは拡散マップであり、これについては後で更に詳細に説明する。拡散マップに関する更なる詳細は、S.Lafon and A.B.Lee,「Diffusion Maps and Coarse−Graining:A United Framework for Dimensionality Reduction,Graph Partitioning,and Data Set Parameterization,IEEE Transactions on Pattern Analysis and Machine Intellifence,vol.28,no.9,pp,1393〜1403,Sep.2006に見出すことができる。
各トレーニング画像の、特徴空間内のマニホールド上の点としての表現を考えると、トレーニングモジュール41のアルゴリズムは、特徴空間の周囲において離散的なランダムウォークを行う。このランダムウォークの間、各タイムステップにおいて、ランダムウォーカーは、マニホールドから離れることなく、マニホールド上の1つの点から別の点に移動することができる。この文脈においては、アルゴリズムは、マニホールド上の1つの点からすべての他の点へ遷移する確率を計算する。一般に、この遷移確率は典型的には、マニホールド内の近い点ほど高く、遠い点ほど低い。しかしながら、このアルゴリズムはエキスパート定格を考慮して、離散的なラベルが異なる点間の遷移に対してペナルティを課す。続いて、これらの遷移確率を用いて、各点に由来するエキスパート定格をすべての周囲点に拡大して、各点が最終的に、他の点に由来する離散的なラベルの一部となるようにし、これにより、連続面に沿ったトレーニング画像の1つに対応する各点について連続的な厳しさ度値を計算することが可能になる。抽出された特徴と、得られた(エキスパート)ランク付けの両方とも、この段階で利用する。
図5は、トレーニングモジュール41が特徴ベクトルを処理して、トレーニング画像の連続的なランク付けを学ぶとともに、連続的なランク付けモデル34を生成する例示的なプロセスをより詳細に示すフローチャートである。
まず、トレーニングモジュール41が、N×N(Nはトレーニングサンプルの数である)のサイズの類似度行列Kを計算する(工程100)。例えば、N個のトレーニング画像の連続的なランク付けを学ぶには、特徴ベクトルセットをX、X,...,Xとして定義するとともに、対応するエキスパート定格C、C,...,Cとして定義する。離散的な定格のそれぞれを「1」、「3」、又は「5」、すなわち
Figure 2013541779
と仮定する(この場合、「1」は、許容可能であるサンプルであり、「5」は、明らかに許容不可能であるサンプルである)。エキスパート定格は、これよりも細かく離散化することも、これよりも粗く離散化することもでき、アルゴリズムは、この特定的な例に限定されない。特徴ベクトルを考慮して、トレーニングモジュール41は、N×Nのサイズの類似度行列Kを計算し、この場合、各要素は、例えば下記の式によって得られる。
Figure 2013541779
類似度行列によって、特徴空間内の各トレーニングサンプル対間の類似度の測定値が得られ、(式5)とは異なる他の式、例えば多項式を用いることもできる。バンド幅パラメータσは、一対の点の間の距離が長くなるにつれて、指数関数がどの程度速く減衰するかを定義する。実際、局所的なパラメータσは、そのk−最も近い近傍までの距離の中央値のようなヒューリスティックに従って、各トレーニングサンプルについて推定する。この場合、式(5)の分母は、サンプルx及びxに対応する局所的なバンド幅の積になる。
類似度行列で用いる距離は、特徴に応じて、(5)の例のように、単にユークリッド距離であることも、共分散距離又はカルバック−ライブラー距離のようなより高度な式であることもできる。
次に、類似度行列から、下記の式に従って、遷移確率を計算することができる(工程102)。
Figure 2013541779
これは、点間の類似度のみに基づき、特徴空間内のランダムウォークでxからxに遷移する確率に相当する。これは類似度行列Kの正規化であり、その列が、有効な確率分布となる(すなわち合計して1になる)ようにする。
エキスパート定格によって付与された離散的なラベルを考慮するために、トレーニングモジュール41は、xからxへの遷移の事前確率を計算する。
Figure 2013541779
式中、σρは、この事前確率項に関するバンド幅パラメータである(工程103)。p(i,j)の式は、遠い部分であるエキスパート定格に対してより重いペナルティを課し、そのためこの状況において、離散的なラベルに割り当てられる数値の選択が重要となる。
続いて、トレーニングモジュール41は、p(i,j)とp(i,j)の積によって各トレーニングサンプル対について総遷移確率を計算する(工程104)。
Figure 2013541779
自動拡散行列の構成成分と、エキスパート定格に違反したことに対するペナルティは、他の方法で組み合わせてもよい。集合的に、総遷移確率p(i,j)は行列Pを形成する。P内の各エントリは、1つのタイムステップ内で、対応する点対間を遷移する確率を表す。
トレーニングモジュール41は、行列Pをt乗することによって、タイムステップtでのランダムウォーク遷移確率を拡大する(工程105)。
Figure 2013541779
(i,j)は、タイムステップtにおいてxからxに遷移する確率に相当する。タイムステップtの数は物理的意味を有さないが、ソフトウェアアプリケーション内でユーザーが設定できる構成可能パラメータである。
これらの遷移確率に基づき、トレーニングモジュール41は拡散距離を計算する(工程106)。このような距離のそれぞれは、マニホールド上の各点対間の相違度の測定値である。2つの点の遷移確率分布が似ている場合には、その2つの点に、低い拡散距離を割り当てる(すなわち、拡散空間内の非常に近くにあると言われる)。換言すれば、行列Pの各列が互いに似ている場合には、その2つの点に、低い拡散距離を割り当てる。一例では、下記の等価式に従って、2乗拡散距離を計算する。
Figure 2013541779
式中、
Figure 2013541779
、すなわちΨは固有ベクトル、λはPの固有値である。これによって、行列Pを明示的にt乗するのと関連するリソースの使用を回避することができる。このようなリソースの使用は、多数のトレーニングサンプルが利用可能である場合に、計算上費用のかかる操作となり得るものである。固有ベクトルを計算するための迅速な技法、具体的には、最大固有値に対応する第1の固有ベクトルを計算するために開発された技法を用いることができる。
サンプル対間の相違度に比例するこれらの拡散距離は、トレーニングモジュール41によって、下記の式に従って、類似度に比例する重みに変換する(工程108)。
Figure 2013541779
式中、σは別のバンド幅パラメータであり、ηは単に、重み行列Wの列の合計が1になるようにする正規化定数である。最後に、トレーニングモジュール41は、各トレーニングサンプルxについて不均一性の厳しさ度ランク値を下記の式により計算することによって、連続的なランク付けモデル34(「モデル34」)を生成する(工程110)。
Figure 2013541779
得られたランク値rは、すべてのトレーニング画像のエキスパート定格の加重平均である。しかしながら、エキスパート定格が、高度に離散的であってよくても(例えば「1」、「3」、又は「5」)、ランク値は、連続的な細かいスケールによるものである。更には、全体的に連続的であるランク付けを付与するように、アルゴリズムパラメータをユーザーインターフェースによって調節することができる。(式12)における重みは、自動的な画像/特徴比較とエキスパートランクを組み合わせる拡散距離プロセスによって得られる。重みを正規化する他の方法、例えば指数重み関数も考慮することができる。
図5に関して上記したプロセスは、エキスパート定格における不正確なラベルを無効にすることができる。すなわち、エキスパートが誤って、特定の画像を例えば「5」ではなく「1」とラベル付けした場合、上記のプロセスは、この点に、別の「5」点に近いランク値を割り当てることができる。これは主に、式(8)の積における2つの異なる項の影響によるものである。第2の項が離散的なラベルを考慮する一方で、第1の項は、マニホールド上のデータの固有構造のみに基づいている。これらの項の比較影響は、それらの各バンド幅パラメータによって制御される。σを大きい値に設定する場合、遷移確率に対する事前確率項の影響は非常に小さくなる。
更に、複数のエキスパートを組み合わせることもできる。この場合、トレーニングモジュール41は、それらのエキスパートのそれぞれに関する類似度行列の計算において追加の重みを用いる。異なるエキスパートの信頼性は、同じ方法で評価することができる。
図6は、チャート化モジュール39が連続的なランク付けモデル34(「モデル34」)をリアルタイムで用いて、不均一欠陥の存在を検出し、各欠陥の厳しさ度の連続的なチャート化を行う例示的なプロセスをより詳細に示すフローチャートである。
製造しているウェブの新たな画像を取得するとき(120)、トレーニング画像の場合と同じ方法で、特徴を抽出する(122)。具体的には、トレーニングサンプルX、X,...,Xの特徴ベクトルを、トレーニングフェーズr、r,...,rで学んだ、対応するランク値とともに考えると、リアルタイムチャート化モジュール39の関数は、新たな画像(本明細書ではクエリーサンプルと称する)から抽出した新たな特徴ベクトルXについてランク値を推定するものである。
最初に、チャート化モジュール39が、所与の欠陥について、k−最も近い近傍のX位置をトレーニングサンプルX、X,...,Xの中から探す(124)。1つの実施形態では、チャート化モジュール39は、特徴空間内のユークリッド距離を用いて、最も近い近傍を見つける(下記の式によって与えられる)。
Figure 2013541779
チャート化モジュール39は、ユーザーが最も近い近傍の数kを構成可能パラメータとして特定できるインターフェースを表示してもよい。図7は、2次元特徴空間におけるk−最も近い近傍探索の論理的表現を示すグラフである。この例では、特徴空間内のクエリー点135について、6個の最も近い近傍が特定されている。
いくつかの技法を用いて、k−最も近い近傍の位置を探してもよい。1つの技法は、トレーニングセット内のX(クエリー点)から各サンプルX、X,...,Xまでの距離を計算することによって、全数探索を行うものである。しかしながら、このタイプの全数探索は、特にトレーニングサンプルの数が大きく、特徴空間が高次元である場合、計算上費用がかかることがある。2つの他の技法について説明する。1つは完全一致探索である。すなわち、この技法は、同じ結果を全数探索として戻すが、より効率的な方法で行うものである。もう1つは近似探索である。いずれの技法も、全数探索と比べて、計算オーバーヘッドの点で顕著な改善をもたらす。任意のk−最も近い近傍探索法を用いることができ、上記2つの例は、これらを代表するものに過ぎない。
より効率的なk−最も近い近傍(kNN)探索を行っても、全数探索と同じ結果をもたらす1つの技法は、まずトレーニングサンプルX、X,...,Xを「ボールツリー」として体系化するものである。このボールツリーは、特徴空間における近接度に基づき、トレーニングサンプルを階層的グループに体系化するデータ構造である。ツリーの最低レベルでは、各「リーフ」ノードに、すぐ近くにある1つ又は複数のサンプルが含まれることになる。チャート化モジュール39がツリーの上部に進むと、グループにはより多くの点が含まれるが、依然として近接度に基づきグループ化される。最後に、ツリーの最上部では、「ルート」ノードに、このトレーニングセット内のすべての点が含まれる。この構造化は、トレーニングサンプルについて1回だけ計算され、クエリーのために何度も使われることになる点に留意されたい。ボールツリーの利用に関する更なる詳細は、A.W.Moore,「The Anchors Hierarchy:Using the Triangle Inequality to Survive High Dimensional Data」,Proceedings of the 12th Conference on Uncertainty in Artificial Intelligence,pp.397〜405,2000に記載されている。
トレーニングサンプルをこの階層的ボールツリー内に体系化したら、トレーニングサンプルを効率的に検索して、新たなクエリー点のkNNを正確に見つけることができる。この検索を行うためのアルゴリズムは帰納的であることができ、効率的に検索するために、トレーニングデータの固有構造を利用する。例えば、クエリー点Xがボールツリー内の1つの特定のノードに近いことが分かっている場合、チャート化モジュール39は、時間を浪費して、遠くの別のノード内のクエリー点のkNNの検索を続けることはない。検索時においてこのように効率性が向上した場合の、計算にかかるコストは、トレーニングサンプルのみを含むので、オフラインで構築できるツリーを構築することの複雑さによるものである。
第2の例として、更なる計算の効率化は、近似kNN探索を用いることによって実現することができ、この探索は、全数探索の結果に近い結果をもたらすように設計されている(ただし、全く同じであることが保証されているわけではない)。このようなアプローチの1つは、局所性鋭敏型ハッシュ(LSH)である。上述のように、チャート化モジュール39は、迅速なkNN探索を可能にするために、トレーニングサンプルを特徴空間内の構造に基づき体系化する。このケースでは、トレーニングサンプルをインデックス化するいくつかのハッシュテーブルを形成する。各ハッシュテーブルは、トレーニングサンプルのランダム投射を引いて、各サンプルの1次元表現を得てから、このライン沿いのサンプルを離散的なグループセットに入れることによって形成される。この手順を繰り返し、いくつかのハッシュテーブルを形成し、これらのハッシュテーブルに基づき、1つの点の近似kNNを迅速に高確率で見つけることができる。この実例としては、3つのトレーニングサンプル141A、141B、及び141Cのそれぞれとクエリーサンプル142がハッシュされている3つのハッシュテーブル140の単純なケースについて、図8に示されている。このケースでは、得られたハッシュテーブルのインデックス化によって、クエリーサンプルの2つの最も近い近傍141A、141Bが正確に識別される。局所性鋭敏型ハッシュ(LSH)に関する更なる詳細は、「Locality−sensitive hashing:A.Andoni and P.Indyk,\Near−Optimal Hashing Algorithms for Approximate Nearest Neighbor in High Dimensions」,Communications of the ACM,vol.51,no.1,pp.117〜122,Jan.2008に記載されている。
図6のフローチャートに戻ると、k−最も近い近傍の識別後、チャート化モジュール39が、クエリー点について、クエリー点をそのk−最も近い近傍の線形結合として最も良く表す再構成重みを計算する(126)。この重みは、プラスであることもマイナスであることもでき、下記の誤差を最小化することによって計算することができる。
Figure 2013541779
式中、wは再構成重みであり、Ωはk−最も近い近傍セットである。誤差関数(14)は、閉形式で最小化することができる。再構成重みを閉形式で計算することもできる。
次に、チャート化モジュール39が、特定の欠陥についてクエリー点の厳しさ度ランク値を、その欠陥に関するk−最も近い近傍のランク値の加重平均として計算する(128)。1つの例では、厳しさ度ランク値は、下記のように計算することができる。
Figure 2013541779
上述のように、クエリー点の不均一性厳しさ度ランク値は、連続的スケールによるものである。このアプローチによって、トレーニングセット内の最も似ている画像のランク値に近いランク値をクエリー点が得ることが可能になる。最も近い近傍法の代わりに、他のアウトオブサンプル法を用いることができると考えられる。
最後に、チャート化モジュール39が、計算した厳しさ度ランク値を作業者に出力する(130)。この出力は、欠陥に関する厳しさ度ランクの傾向を示すために、チャートのアップデートという形を取ってよいか、あるいはチャート化モジュール39は単に、厳しさ度ランク値を単一の数字として出力してもよい。例えば、チャート化モジュール39は、ウェブ材料の不均一欠陥の経時的な厳しさ度をグラフ化するために、新たな各画像を処理するたびにチャートをアップデートしてよい。本開示のコンピュータ化検査システム又はその他のコンポーネントは、後に、製造プロセスに関するプロセス制御パラメータの変更を指定するユーザーからの入力を受信してもよく、その入力に応じてそのプロセス制御パラメータを調節してもよい。
本発明の様々な実施形態について説明してきた。これらの及び他の実施形態は、以下の特許請求の範囲に含まれる。

Claims (13)

  1. コンピュータ上でソフトウェアを実行して、複数のトレーニング画像のそれぞれの数値記述子を前記それぞれのトレーニング画像のピクセル値から計算することによって、前記トレーニング画像のそれぞれから特徴を抽出する工程であって、前記画像のそれぞれに、前記トレーニング画像内に存在する不均一欠陥の離散的な定格ラベルセットの1つが割り当てられている、工程と、
    前記トレーニング画像の前記数値記述子を定格ソフトウェアで処理して、前記トレーニング画像に割り当てられた前記離散的な定格ラベルに基づき、前記トレーニング画像の連続的なランク付けを計算する工程と、
    製造したウェブ材料から取得された新たな画像を処理して、前記新たな画像から特徴を抽出し、前記トレーニング画像の前記連続的なランク付けに基づき、前記ウェブの前記不均一欠陥の厳しさ度を計算する工程と、を含む方法。
  2. ユーザーインターフェースを表示して、前記厳しさ度をユーザーに出力する工程を更に含む、請求項1に記載の方法。
  3. ユーザーインターフェースを表示する工程が、チャートをアップデートして、前記ウェブ材料の前記不均一欠陥の経時的な前記厳しさ度をグラフ化することを含む、請求項2に記載の方法。
  4. 入力を前記ユーザーから受信する工程と、
    前記入力に応じて、前記製造したウェブ材料に関するプロセス制御パラメータを調節する工程と、を更に含む、請求項2に記載の方法。
  5. 前記トレーニング画像のそれぞれの数値記述子を計算処理する工程が、多次元特徴空間内の特徴ベクトルを計算することを含む、請求項1に記載の方法。
  6. 前記トレーニング画像の前記数値記述子を前記定格ソフトウェアで処理して、前記トレーニング画像の連続的なランク付けを計算する工程が、
    前記トレーニング画像の前記特徴ベクトルのそれぞれを前記多次元空間内の点として示すことと、
    前記多次元空間内の各点から前記特徴ベクトルによって表される他の各点までの遷移確率を計算することであって、異なる定格ラベルが割り当てられたトレーニング画像を表す2点間の遷移に対するペナルティを含めることを含む、計算することと、
    前記遷移確率に基づき、各点間のペアワイズ距離を計算することであって、前記距離のそれぞれが、前記点によって表される前記トレーニング画像間の相違度の測定値を示す、計算することと、
    前記トレーニング画像のそれぞれの不均一性の厳しさ度ランクを、前記多次元特徴空間を用いて、前記トレーニング画像によって表される点と他の各点との間の前記ペアワイズ距離の関数として計算することと、を含む、請求項5に記載の方法。
  7. 新たな画像を処理する工程が、
    前記新たな画像について多次元特徴空間内の特徴ベクトルを計算することと、
    前記ソフトウェアを用いて、前記多次元特徴空間内で前記トレーニング画像についての複数の最も近い近傍点を識別することと、
    前記新たな画像に関する前記特徴ベクトルを前記複数の最も近い近傍点の線形結合として最も良く表す、再構成重みセットを計算することと、
    前記多次元空間内の前記複数の最も近い近傍点によって表される前記トレーニング画像の前記不均一性のランク値の加重平均に基づき、前記新たな画像の前記不均一欠陥の前記厳しさ度を計算することと、を含む、請求項6に記載の方法。
  8. プロセッサと、
    複数のトレーニングサンプルを記憶するメモリであって、画像のそれぞれに、トレーニング画像内に存在する不均一欠陥に関する離散的な定格ラベルセットの1つが割り当てられている、メモリと、
    前記プロセッサ上で実行するトレーニングソフトウェアであって、複数のトレーニング画像のそれぞれの特徴ベクトルを、前記それぞれのトレーニング画像のピクセル値から計算することによって、前記複数のトレーニング画像のそれぞれから特徴を抽出する特徴抽出モジュールを含む、ソフトウェアと、を含み、
    前記トレーニングソフトウェアが、前記トレーニング画像の前記特徴ベクトルのそれぞれを多次元空間内の点として示し、前記トレーニング画像の連続的なランク付けを計算し、前記トレーニング画像のそれぞれには、不均一性の厳しさ度ランク値が連続的スケールで割り当てられる、装置。
  9. 前記トレーニングソフトウェアが、前記多次元空間内の各点から、前記特徴ベクトルによって表される他の各点への遷移確率を計算し、前記トレーニングソフトウェアが、異なる定格ラベルが割り当てられたトレーニング画像を表す2点間の遷移に相当する前記遷移確率におけるペナルティを含む、請求項8に記載の装置。
  10. 前記トレーニングソフトウェアが、前記遷移確率に基づき、各点間のペアワイズ距離を計算し、前記距離のそれぞれが、前記点によって表される前記トレーニング画像間の相違度の測定値を示すとともに、前記トレーニング画像のそれぞれの前記不均一性の厳しさ度ランク値を、前記多次元特徴空間を用いて、前記トレーニング画像によって表される点と他の各点との間の前記ペアワイズ距離の関数として計算する、請求項8に記載の装置。
  11. トレーニング画像の連続的なランク付けを多次元特徴空間内の複数の点として表すモデルを記憶するメモリであって、前記多次元空間内の各点が、前記トレーニング画像の別の点に関する特徴ベクトルに相当する、メモリと、
    ソフトウェアを実行するサーバであって、前記ソフトウェアが、製造したウェブ材料から取得された新たな画像を処理して、前記新たな画像から特徴を抽出し、前記トレーニング画像の前記モデルに基づき、前記ウェブ材料に関する不均一欠陥の厳しさ度を連続的スケールで計算する、サーバと、
    前記厳しさ度をユーザーに出力するユーザーインターフェースと、を含む、コンピュータ化検査システム。
  12. 前記ソフトウェアが、前記新たな画像について多次元特徴空間内の特徴ベクトルを計算し、複数の点を有する多次元特徴空間内の複数の最も近い近傍点を識別し、前記新たな画像に関する前記特徴ベクトルを前記複数の最も近い近傍点の線形結合として最も良く示す、再構成重みセットを計算し、かつ前記多次元空間内の前記複数の最も近い近傍点によって表される前記トレーニング画像の不均一性のランク値の加重平均に基づき、前記ウェブ材料に関する前記不均一欠陥の前記厳しさ度を計算する、請求項11に記載のコンピュータ化検査システム。
  13. コンピュータ読み取り可能な非一時的媒体であって、該媒体に含まれるソフトウェア命令で、コンピュータプロセッサに、
    コンピュータ上でソフトウェアを実行して、複数のトレーニング画像のそれぞれの数値記述子を前記それぞれのトレーニング画像のピクセル値から計算することによって、前記トレーニング画像のそれぞれから特徴を抽出し、前記画像のそれぞれに、前記トレーニング画像内に存在する不均一欠陥の離散的な定格ラベルセットの1つを割り当てさせ、
    前記トレーニング画像の前記数値記述子をランク付けソフトウェアで処理して、前記トレーニング画像に割り当てられた前記離散的な定格ラベルに基づき、前記トレーニング画像の連続的なランク付けを計算させ、
    製造したウェブ材料から取得された新たな画像を処理して、前記新たな画像から特徴を抽出し、前記トレーニング画像の前記連続的なランク付けに基づき、前記ウェブの前記不均一欠陥の厳しさ度を計算させ、
    ユーザーインターフェースを表示して、前記厳しさ度をユーザーに出力させる、媒体。
JP2013534933A 2010-10-19 2011-10-04 ウェブベースの材料のばらつきを検出するための、不均一性の厳しさ度の連続的なチャート化 Ceased JP2013541779A (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US39465510P 2010-10-19 2010-10-19
US61/394,655 2010-10-19
PCT/US2011/054673 WO2012054225A2 (en) 2010-10-19 2011-10-04 Continuous charting of non-uniformity severity for detecting variability in web-based materials

Publications (2)

Publication Number Publication Date
JP2013541779A true JP2013541779A (ja) 2013-11-14
JP2013541779A5 JP2013541779A5 (ja) 2014-10-30

Family

ID=45975802

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013534933A Ceased JP2013541779A (ja) 2010-10-19 2011-10-04 ウェブベースの材料のばらつきを検出するための、不均一性の厳しさ度の連続的なチャート化

Country Status (8)

Country Link
US (1) US20130208978A1 (ja)
EP (1) EP2630473A2 (ja)
JP (1) JP2013541779A (ja)
KR (1) KR20130139287A (ja)
CN (1) CN103180724A (ja)
BR (1) BR112013008307A2 (ja)
SG (1) SG189226A1 (ja)
WO (1) WO2012054225A2 (ja)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140031964A1 (en) * 2012-07-27 2014-01-30 Geoffrey Rajay Sidhu Method and system for manufacturing an article
US9923892B1 (en) * 2013-06-14 2018-03-20 Whitehat Security, Inc. Enhanced automatic response culling with signature generation and filtering
TWI506461B (zh) * 2013-07-16 2015-11-01 Univ Nat Taiwan Science Tech 人體動作的辨識方法與裝置
CN105683704B (zh) * 2013-10-31 2019-03-01 3M创新有限公司 材料的多尺度均匀度分析
KR102333992B1 (ko) * 2015-03-12 2021-12-02 한국전자통신연구원 응급 정신상태 예측 장치 및 방법
US9778973B2 (en) * 2015-10-28 2017-10-03 International Business Machines Corporation Early diagnosis of hardware, software or configuration problems in data warehouse system utilizing grouping of queries based on query parameters
GB201519801D0 (en) * 2015-11-10 2015-12-23 Rolls Royce Plc Pass fail sentencing of hollow components
US10181185B2 (en) * 2016-01-11 2019-01-15 Kla-Tencor Corp. Image based specimen process control
DE102016220757A1 (de) * 2016-10-21 2018-04-26 Texmag Gmbh Vertriebsgesellschaft Verfahren und Vorrichtung zur Materialbahnbeobachtung und Materialbahninspektion
US11650166B2 (en) * 2017-05-31 2023-05-16 Nipro Corporation Method for evaluation of glass container
TWI649659B (zh) * 2017-10-27 2019-02-01 財團法人工業技術研究院 自動光學檢測影像分類方法、系統及含有該方法之電腦可讀取媒體
CN108227664A (zh) * 2018-02-05 2018-06-29 华侨大学 基于样本数据训练的产品质量控制设备及质量控制方法
US11315231B2 (en) 2018-06-08 2022-04-26 Industrial Technology Research Institute Industrial image inspection method and system and computer readable recording medium

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6539106B1 (en) * 1999-01-08 2003-03-25 Applied Materials, Inc. Feature-based defect detection
US6999614B1 (en) * 1999-11-29 2006-02-14 Kla-Tencor Corporation Power assisted automatic supervised classifier creation tool for semiconductor defects
WO2001041068A1 (fr) * 1999-11-29 2001-06-07 Olympus Optical Co., Ltd. Systeme de detection de defaut
JP2003344300A (ja) * 2002-05-21 2003-12-03 Jfe Steel Kk 表面欠陥判別方法
JP4118703B2 (ja) * 2002-05-23 2008-07-16 株式会社日立ハイテクノロジーズ 欠陥分類装置及び欠陥自動分類方法並びに欠陥検査方法及び処理装置
JP2008175588A (ja) * 2007-01-16 2008-07-31 Kagawa Univ 外観検査装置
JP5255953B2 (ja) * 2008-08-28 2013-08-07 株式会社日立ハイテクノロジーズ 欠陥検査方法及び装置

Also Published As

Publication number Publication date
CN103180724A (zh) 2013-06-26
KR20130139287A (ko) 2013-12-20
EP2630473A2 (en) 2013-08-28
SG189226A1 (en) 2013-05-31
US20130208978A1 (en) 2013-08-15
BR112013008307A2 (pt) 2019-09-24
WO2012054225A3 (en) 2012-07-05
WO2012054225A2 (en) 2012-04-26

Similar Documents

Publication Publication Date Title
JP2013541779A (ja) ウェブベースの材料のばらつきを検出するための、不均一性の厳しさ度の連続的なチャート化
JP5898221B2 (ja) 製造されたウェブ製品のデジタルサンプルに対する評価のコンピュータ支援割り当て
US9002072B2 (en) System for detection of non-uniformities in web-based materials
US9031312B2 (en) Rapid processing and detection of non-uniformities in web-based materials
Çelik et al. Development of a machine vision system: real-time fabric defect detection and classification with neural networks
Medina et al. Automated visual classification of frequent defects in flat steel coils
Garfo et al. Defect detection on 3d print products and in concrete structures using image processing and convolution neural network
JP2021515885A (ja) 照明条件を設定する方法、装置、システム及びプログラム並びに記憶媒体
CN113222982A (zh) 基于改进的yolo网络的晶圆表面缺陷检测方法及系统
Ekambaram et al. Identification of defects in casting products by using a convolutional neural network
Guldur et al. Automated classification of detected surface damage from point clouds with supervised learning
US20240071059A1 (en) Active Learning Management System for Automated Inspection Systems
CN115830302A (zh) 一种多尺度特征提取融合配电网设备定位识别方法
Dhivya et al. Detection of structural defects in fabric parts using a novel edge detection method
CN117372433B (zh) 厚度参数的控制方法、装置、设备及存储介质
Hunger et al. Data acqusition challenges in AI-driven surface inspection: a proven solution proposal on coated sheet metal parts
CN118037091A (zh) 一种基于计算机视觉技术的智能化报工质检方法及系统
CN118135179A (zh) 切割板件的级联识别方法、装置、计算机设备和存储介质

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140910

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140910

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20150626

A761 Written withdrawal of application

Free format text: JAPANESE INTERMEDIATE CODE: A761

Effective date: 20150706

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20150707

AA92 Notification that decision to refuse application was cancelled

Free format text: JAPANESE INTERMEDIATE CODE: A971092

Effective date: 20150721