WO2022190636A1 - 支援装置および方法 - Google Patents

支援装置および方法 Download PDF

Info

Publication number
WO2022190636A1
WO2022190636A1 PCT/JP2022/001374 JP2022001374W WO2022190636A1 WO 2022190636 A1 WO2022190636 A1 WO 2022190636A1 JP 2022001374 W JP2022001374 W JP 2022001374W WO 2022190636 A1 WO2022190636 A1 WO 2022190636A1
Authority
WO
WIPO (PCT)
Prior art keywords
abnormality
type
class
learning
defect
Prior art date
Application number
PCT/JP2022/001374
Other languages
English (en)
French (fr)
Inventor
博幸 枦山
Original Assignee
オムロン株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by オムロン株式会社 filed Critical オムロン株式会社
Priority to EP22766604.7A priority Critical patent/EP4287115A1/en
Priority to US18/547,573 priority patent/US20240144661A1/en
Priority to KR1020237027130A priority patent/KR20230129522A/ko
Priority to CN202280014207.7A priority patent/CN116848551A/zh
Publication of WO2022190636A1 publication Critical patent/WO2022190636A1/ja

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/776Validation; Performance evaluation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/89Investigating the presence of flaws or contamination in moving material, e.g. running paper or textiles
    • G01N21/892Investigating the presence of flaws or contamination in moving material, e.g. running paper or textiles characterised by the flaw, defect or object feature examined
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/243Classification techniques relating to the number of classes
    • G06F18/2431Multiple classes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/774Generating sets of training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30164Workpiece; Machine component

Definitions

  • the abnormality detection unit 53 uses the threshold values for detecting abnormal locations held in the detection threshold storage unit 52 to detect abnormal locations included in the inspection object 2 .
  • the detection threshold storage unit 52 holds a threshold indicating the degree of change in pixel values that should be determined to be abnormal, and the abnormality detection unit 53 detects the degree of change in pixel values of the image output from the imaging device 4. If the threshold is exceeded, it is judged to be abnormal.
  • the threshold value held in the detection threshold storage unit is set by a user or the like according to inspection standards and the like according to the type, application, material, and the like of the object 2 to be inspected.
  • FIG. 4 is a diagram explaining the discrimination processing of a single-class AI processor.
  • FIG. 4 illustrates an example of discrimination using a single-class AI processor.
  • the single defect type discriminated by the single-class AI processor A9 is "A”
  • the single-class AI processor is limited to "defect image (A) + correct defect type (A)”.
  • Set data is learned as learning data (A10).
  • a single class AI processor that discriminates a single defect type "A” is a process of extracting a feature amount from set data limited to "defect image (A) + correct defect type (A)" Modeling is learned to determine the type from the extracted features.
  • the defect type of the defect image can be identified as "insect”.
  • the defect type of the defect image can be identified as "foreign matter”. This is because the defect type of the defect image is the defect type learned by each single-class AI processor from the set data it was made to learn.
  • the degree of change in the luminance value of the abnormal portion occurring in the sheet product, and , the feature quantity analysis of the abnormal location can be performed from the size, and the feature quantity pattern to which the single-class AI processing is applied can be selected. For this reason, the feature amount related to the determination of the defect type of the abnormal portion detected in the sheet product can be reduced in advance, so the processing load related to the determination using the single-class AI processing can be relatively reduced.
  • discrimination by a plurality of single-class AI processes can be applied to the same defect image. Therefore, by combining the discrimination results of the single-class AI processors, it is possible to improve the discrimination accuracy for the defect type learned by each single-class AI. In addition, it is also possible to combine the determination results of the single-class AI processor and exclude the feature amount of the defect location from the determination target of the defect type. In this way, by combining and arbitrating the determination results of the single-class AI processing, the processing load related to defect type determination can be reduced, and the processing time can be shortened during online processing. According to the present embodiment, it is possible to provide a technology that can stably discriminate various types of defects occurring in sheet products using AI processing.
  • FIG. 7 is a flowchart showing an example of defect type determination processing provided by the inspection support apparatus 10 according to the first modification.
  • the flow shown in FIG. 7 exemplifies a form in which feature amount classification is further applied to defect types determined using single-class AI processing. By the processing of this flow, it is possible to rank the sheet products for which the defect type has been determined by the single-class AI processing by identifying the product type.
  • the processing from step S101 to step S108 is the same as that of the first embodiment, so the description is omitted.
  • step S103 pattern classification (step S103) is performed on the feature amount calculated from the abnormal point (defect point). It is also possible to select a single-class AI processor to be applied to determine whether the defect type can be determined or not, and to determine the defect type. By the process of Modified Example 2, it is possible to optimize the determination process for the defect type.
  • FIG. 8 is a flowchart showing an example of defect type determination processing provided by the inspection support device 10 according to the second modification.
  • the processing from step S101 to step S102 is the same as that of the first embodiment, so description thereof will be omitted.
  • step S111 depending on the calculated feature amount, whether or not to apply AI processing to discriminate the defect type, and if AI processing is applied to discriminate the defect type, which single-class AI processor is used. A selection is made. Specifically, the determination of whether or not the defect is possible and the selection of the single-class AI processor are performed based on the defect area, which is the density average value of the abnormal location, which is the calculated feature amount.
  • step S111 the processing load related to defect type determination can be reduced, and the defect type determination process can be optimized.
  • the processing explained as being performed by one device may be shared and performed by a plurality of devices. Alternatively, processes described as being performed by different devices may be performed by one device. In a computer system, it is possible to flexibly change what kind of hardware configuration realizes each function.
  • the processing device 5 of the first embodiment may include the configuration of the examination support device 10 . Further, even if the processing device 5 includes the feature quantity classification processing unit 20, the single class AI processing unit 30, the feature quantity classification DB 13, and the learning data DB 14, and performs the functions of the examination support device 10 in this embodiment, good.
  • a computer-readable recording medium is a recording medium that stores information such as data and programs by electrical, magnetic, optical, mechanical, or chemical action and can be read by a computer, etc.
  • Examples of such recording media that can be removed from a computer or the like include memories such as flexible disks, magneto-optical disks, CD-ROMs, CD-R/Ws, DVDs, Blu-ray disks, DATs, 8 mm tapes, and flash memories.
  • a hard disk, a ROM, and the like as recording media fixed to a computer or the like.
  • 1 Inspection support system 2 Inspection object (sheet, sheet product), 3a Visible light source, 3b Visible light source for transmitted light, 4 Imaging device, 5 Processing device, 10 Inspection support device, 11 Control unit, 12 Detection data DB, 13 feature quantity classification DB, 14 learning data DB, 20 feature quantity classification processing unit, 30 single class AI processing unit, 30a-30n single class AI processing unit, 101 processor, 102 main storage device, 13 auxiliary storage device, 14 communication IF, 15 Input/output IF, 106 connection bus

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Software Systems (AREA)
  • Medical Informatics (AREA)
  • Databases & Information Systems (AREA)
  • Computing Systems (AREA)
  • Quality & Reliability (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Pathology (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Biochemistry (AREA)
  • Immunology (AREA)
  • Textile Engineering (AREA)
  • Data Mining & Analysis (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • General Engineering & Computer Science (AREA)
  • Image Analysis (AREA)
  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
  • Load-Engaging Elements For Cranes (AREA)

Abstract

シート製品に生じた欠陥の多種類な欠陥種別を、AI処理を用いて安定的に判別可能な技術を提供する。異常の種類を判定する判定検査を支援する支援装置であって、撮像画像から被検査物に生じた異常の特徴量を算出するとともに、算出された特徴量を複数のクラスに分類し、複数のクラスの中から、学習判別部を用いて異常の種別が判別される処理対象のクラスを1つ以上に選定する分類処理部と、異常を誘因する要素画像と、要素画像を正解とする異常の種別とを組み合わせたセットデータにより、判別対象の異常が正解とする種別であるか、または、正解とする種別以外であるか、を判別する判別基準が学習された学習判別器を異常の種別毎に備える学習判別部と、を備え、学習判別部は、異常の種別毎に判別基準が学習された学習判別器の個別の判別結果に基づいて、分類処理部によって選定された処理対象のクラスについての異常の種別を判別する。

Description

支援装置および方法
 本発明は、シート状の被検査物の異常箇所を検出する技術に関する。
 シート状物品(以下、「シート製品」、単に「シート」とも言う)を製造又は加工するための生産ラインでは、可視光や紫外光をシートに照射しその透過光又は反射光をカメラで撮像することにより得られる画像を用いて、シート上の異常箇所(異物混入、汚れ、シワなど)を検出する検査装置が利用されている(例えば特許文献1参照)。
 従来の検査装置では、シート上の異常箇所の検出はできるものの、検出したものがどのような種類の異常であるかを細かく判別することはできなかった。そのため、従来は、異常箇所が検出されたシートは破棄するか、ランク落ち品とするか、目視による詳細検査にまわすという取扱いをせざるを得ない。しかしながら、実際には、シートに発生し得る異常(以下、シート上に発生する異常を「欠陥」ともいう)には様々なものが存在し、製品の種類、用途、材質などによっては、不良としなくてもよいものもある。
 近年の、情報処理技術の進展に伴い、AI(例えば、機械学習、深層学習等)を用いて検出されたシート上の欠陥がどのような種類の欠陥であるかを分類(多クラス分類)し、従来は人手によって行われていたシート製品の出荷判断につながる目視検査を置換える試みがなされている。多クラス分類を行うAI(以下、「多クラス分類AI」ともいう)では、例えば、予め学習させた欠陥画像および正解の欠陥種別に基づいて、欠陥箇所の画像に対する気泡、穴、虫、異物、しわ、繊維といった多種類の欠陥種別が識別される。しかしながら、多クラス分類AIの欠陥種別の識別には、AIの学習用に「欠陥画像+正解の欠陥種別」のセットデータを、全ての欠陥種別毎に要するため、検出頻度の低い欠陥種別を識別できない場合がある。このため、例えば、学習させた虫の画像とは異なる特徴を持った虫等の画像では異物や穴と識別される場合もある。さらに、多クラス分類を行う過程において、アルゴリズム内のネットワーク構造やパラメータを最適化するためのチューニングを要するといった技術的な課題がある。また、多クラス分類AIの欠陥種別の識別は、新たな学習データを用いて再学習させると、結果出力が安定しないといった側面があり、最終的な出荷判断には目視検査が行われているのが現状である。
特開2010-8174号公報(特許第4950951号公報)
 本発明は、上記のような事情に鑑みてなされたものであり、その目的は、シート製品に生じた欠陥の多種類な欠陥種別を、AI処理を用いて安定的に判別可能な技術を提供することにある。
 上記の課題を解決するための開示の技術の一形態は、
 被検査物の撮像画像から前記被検査物に生じた異常を検出し、前記検出された異常の種類を判定する判定検査を支援する支援装置であって、
 前記撮像画像から前記被検査物に生じた異常の特徴量を算出するとともに、前記算出された特徴量を複数のクラスに分類し、前記複数のクラスの中から、学習判別部を用いて異常の種別が判別される処理対象のクラスを1つ以上に選定する分類処理部と、
 前記異常を誘因する要素画像と、前記要素画像を正解とする異常の種別とを組み合わせたセットデータにより、判別対象の異常が前記正解とする種別であるか、または、前記正解とする種別以外であるか、を判別する判別基準が学習された学習判別器を前記異常の種別毎に備える学習判別部と、を備え、
 前記学習判別部は、前記異常の種別毎に判別基準が学習された学習判別器の個別の判別結果に基づいて、前記分類処理部によって選定された処理対象のクラスについての異常の種別を判別する、
 ことを特徴とする。
 これにより、支援装置である検査支援装置10は、単クラスAI処理による欠陥種別の判別前の前処理として、単クラスAI処理が適用される1つ以上の特徴量パターンが選別できる。シート製品に検出された異常箇所の欠陥種別の判別に係る特徴量を事前に減らすことができるため、単クラスAI処理を用いた判別に係る処理負担が相対的に軽減できる。そして、学習判別器である複数の単クラスAI処理器(30aから30n)を学習判別部である単クラスAI処理部30に備えることができる。単クラスAI処理器では、単一の欠陥種別を判別するためのデータセット(「欠陥画像+正解の欠陥種別」)を学習データとして準備すればよく、多クラス分類を行うAI処理器のように全ての欠陥種別に対する「欠陥画像+正解の欠陥種別」のセットデータを大量にデータベースに蓄積することを必要としない。また、単クラスAI処理においては、例えば、単一の欠陥種別とそれ以外が判別できればよいので、多クラスAI処理のように複雑なネットワーク構造を構築する必要がなく、パラメータの高度なチューニングも必要としない。このため、作業者には高度なスキルが要求されることもない。さらに、判別される欠陥種別は単一であるため、新たなセットデータを学習させても他の欠陥種別の判別に影響することはなく、再学習後においても安定した判別結果を得ることができる。検査支援装置10によれば、シート製品に生じた欠陥の多種類な欠陥種別を、AI処理を用いて安定的に判別可能な技術が提供できる。
 また、開示の技術の一形態においては、前記学習判別部は、第1異常を判別する判別基準が学習された第1学習判別器と、第2異常を判別する判別基準が学習された第2学習判別器を有し、前記複数のクラスの中の一つのクラスを処理対象として、前記第1学習判別器の判別結果が第1異常を判別し、かつ、前記第2学習判別器の判別結果が第2異常以外の種別を判別するときには、前記クラスの異常の種別を前記第1異常と判別する、ようにしてもよい。単クラスAI処理器の判別結果を組合せて、各単クラスAIに学習させた欠陥種別に対する判別精度を高めることが可能になる。
 また、開示の技術の一形態においては、前記複数のクラスの中の一つのクラスを処理対象として、前記第1学習判別器の判別結果が第1異常以外の種別を判別し、かつ、前記第2学習判別器の判別結果が第2異常を判別するときには、前記クラスの異常の種別を前記第2異常と判別する、ようにしてもよい。このような形態であっても、単クラスAI処理器の判別結果を組合せて、各単クラスAIに学習させた欠陥種別に対する判別精度を高めることが可能になる。
 また、開示の技術の一形態においては、前記複数のクラスの中の一つのクラスを処理対象として、前記第1学習判別器の判別結果が第1異常を判別し、かつ、前記第2学習判別器の判別結果が第2異常を判別するとき、または、前記第1学習判別器の判別結果が第1異常以外の種別を判別し、かつ、前記第2学習判別器の判別結果が第2異常以外の種別を判別するときには、前記クラスの異常の種別の判別を指定された処理に引き渡す、ようにしてもよい。これにより、単クラスAI処理器の判別結果を組合せて、欠陥種別の判別対象から当該欠陥箇所の特徴量を除外することが可能になる。単クラスAI処理による判別結果を組合せて調停できるため、欠陥種別の判別に係る処理負担を軽減でき、オンライン時における処理時間の短縮が可能になる。単クラスAI処理器の判別結果を組合せて、各単クラスAIに学習させた欠陥種別に対する判別精度を高めることが可能になる。
 また、開示の技術の一形態においては、分類処理部は、前記異常の種別が判別されたクラスの特徴量をさらに複数のサブクラスに分類する、ようにしてもよい。これにより、単クラスAI処理を用いて判別された欠陥種別の特徴量をさらにサブクラスに分類できるため、単クラスAI処理によって欠陥種別が判別されたシート製品の製品種別を識別するランク付けが可能になる。
 また、開示の技術の他の一形態は、
 被検査物の撮像画像から前記被検査物に生じた異常を検出し、前記検出された異常の種類を判定する判定検査を支援する支援装置のコンピュータが実行する方法であって、
 前記撮像画像から前記被検査物に生じた異常の特徴量を算出するとともに、前記算出された特徴量を複数のクラスに分類し、前記複数のクラスの中から、所定のクラスを選定することと、
 前記異常の種別毎に、前記異常を誘因する要素画像と、前記要素画像を正解とする異常の種別とを組み合わせたセットデータにより、判別対象の異常が前記正解とする種別であるか、または、前記正解とする種別以外であるか、を判別する判別基準を学習することと、
 前記学習された前記異常の種別毎の判別基準により判別された個別の判別結果に基づいて、前記所定のクラスについての異常の種別を判別することと、
 を含むことを特徴とする。
 このような形態であっても、支援装置である検査支援装置10は、学習判別器である複数の単クラスAI処理器(30aから30n)を学習判別部である単クラスAI処理部30に備えることができる。単クラスAI処理器では、単一の欠陥種別を判別するためのデータセット(「欠陥画像+正解の欠陥種別」)を学習データとして準備すればよく、多クラス分類を行うAI処理器のように全ての欠陥種別に対する「欠陥画像+正解の欠陥種別」のセットデータを大量にデータベースに蓄積することを必要としない。また、単クラスAI処理においては、例えば、単一の欠陥種別とそれ以外が判別できればよいので、多クラスAI処理のように複雑なネットワーク構造を構築する必要がなく、パラメータの高度なチューニングも必要としない。このため、作業者には高度なスキルが要求されることもない。さらに、判別される欠陥種別は単一であるため、新たなセットデータを学習させても他の欠陥種別の判別に影響することはなく、再学習後においても安定した判別結果を得ることができる。検査支援装置10によれば、シート製品に生じた欠陥の多種類な欠陥種別を、AI処理を用いて安定的に判別可能な技術が提供できる。
 本発明によれば、シート製品に生じた欠陥の多種類な欠陥種別を、AI処理を用いて安定的に判別可能な技術が提供できる。
本発明の実施例1に係る検査支援システムの概略構成を示すブロック図である。 本発明の実施例1に係る検査支援装置のハードウェア構成の一例を示す図である。 比較例の多クラス分類を行うAIを用いた欠陥種別の判別処理を説明する図である。 本発明の実施例1に係る単クラスAI処理器の判別処理を説明する図である。 本発明の実施例1に係る検査支援装置の欠陥種別の判定処理の一例を示すフローチャートである。 本発明の実施例1における判別結果の調停を説明する図である。 本発明の変形例1に係る検査支援装置の欠陥種別の判定処理の一例を示すフローチャートである。 本発明の変形例2に係る検査支援装置の欠陥種別の判定処理の一例を示すフローチャートである。
〔適用例〕
 以下、本発明の適用例について、図面を参照しつつ説明する。
 図1は、本発明の適用例に係る検査支援システム1の概略構成を示すブロック図である。本適用例における検査支援システム1は、シート状物品(以下、「シート製品」、単に「シート」とも言う)の撮像画像から検出された異常箇所の、どのような種類の異常であるかの判別を支援するシステムである。検査支援システム1により、シート製品に生じ得る異常(以下、「欠陥」ともいう)を引き起こす要因(例えば、異物混入、汚れ、シワ等)の種類が単クラスAI処理器(30aから30n)を用いて個別に判別される。
 本発明の適用例に係る検査支援システム1は、通信ネットワークNを介して処理装置5と接続される検査支援装置10を備える。検査支援装置10は、通信ネットワークNに接続された処理装置5の、異常(以下、シートから検出された異常を「欠陥」ともいう)の種類を判別する機能の支援を行うコンピュータである。検査支援装置10は、制御部11に、特徴量分類処理部20と、単クラスAI処理部30を備える。また、検査支援装置10は、検出データDB(データベース)12と、特徴量分類DB13と、学習データDB14を備える。検出データDB12には、オフライン処理用として、通信ネットワークNを介して処理装置5から送信された、異常検出が存在すると判定された撮像画像が格納される。特徴量分類DBには、特徴量の分類に関する分類基準が格納される。学習データDB14には、各単クラスAI処理器の学習のための「欠陥画像+正解の欠陥種別」がセットになったセットデータが格納される。
 本発明の適用例に係る検査支援装置10においては、特徴量分類処理部20は、特徴量分類DB13に格納された分類基準に基づいて、検出された欠陥箇所の特徴量を複数のクラスに分類する。そして、単クラスAI処理部30は、特徴量分類処理部20によって分類された特徴量が属するクラス毎の単一の欠陥種別を判別する単クラスAI処理器(30aから30n)を複数に備える。単クラスAI処理部30は、特徴量分類処理部20によって分類された特徴量が属する一部のクラスに対して、単クラスAI処理部(30aから30n)を用いて、当該クラスに分類された欠陥種別を識別する。
 図4に示すように、本適用例に係る単クラスAI処理器の判別では、分類対象の画像に含まれる欠陥種別が、セットデータによって学習された欠陥種別と、当該欠陥種別以外に判別された場合の分類外とに判別される。ここで、多クラス分類AIでは、図3に示すように、分類対象の画像に含まれる欠陥種別が、セットデータによって学習された複数の欠陥種別毎に分類されることになる。このため、図3の丸囲み1に示すように、AIの学習用に「欠陥画像+正解の欠陥種別」のセットデータを、全ての欠陥種別毎に用意する必要があるため、6種類の欠陥種別を分類するための大量の学習データがデータベースに蓄積されることになる。また、丸囲み2に示すように、切り出された欠陥箇所の画像から、6種類の欠陥種別を分類するための特徴量の抽出、および種別判別のモデリングに至る複雑なネットワーク構造を構築する必要があり、ネットワークを接続するノード間の重みづけといったパラメータの高度なチューニングを必要とする。このようなスキルを有する技術者が確保されない場合には、多クラス分類AIの適用が困難な場合があった。さらに、学習の都度、欠陥種別に至るまでの上記特徴量の抽出やモデリング等の基準が変化する。例えば、欠陥種別「しわ」の新たな「欠陥画像+正解の欠陥種別」を学習させたときに、他の種類の欠陥種別を判定するための基準に影響してしまうため、学習前は安定して「しわ」と判別されていた欠陥画像が「繊維」や「異物」と判定される頻度が増え、不安定化する場合もあった。
 本適用例に係る単クラスAI処理器では、単一の欠陥種別を判別するためのデータセット(「欠陥画像+正解の欠陥種別」)を学習データとして準備すればよく、多クラス分類を行うAI処理器のように全ての欠陥種別に対する「欠陥画像+正解の欠陥種別」のセットデータを大量にデータベースに蓄積することを必要としない。また、単クラスAI処理においては、例えば、単一の欠陥種別とそれ以外が判別できればよいので、多クラスAI処理のように複雑なネットワーク構造を構築する必要がなく、パラメータの高度なチューニングも必要としない。このため、作業者には高度なスキルが要求されることもない。さらに、判別される欠陥種別は単一であるため、新たなセットデータを学習させても他の欠陥種別の判別に影響することはなく、再学習後においても安定した判別結果を得ることができる。本適用例に係る検査支援装置10によれば、シート製品に生じた欠陥の多種類な欠陥種別を、AI処理を用いて安定的に判別可能な技術が提供できる。
〔実施例1〕
 以下では、本発明の具体的な実施の形態について、図面を用いてより詳細に説明する。
<システム構成>
 図1は、本発明の実施例に係る検査支援システム1の概略構成を示すブロック図である。本実施例における検査支援システム1は、シート状物品(以下、「シート製品」、単に「シート」とも言う)の撮像画像から検出された異常箇所の、どのような種類の異常であるかの判別を支援するシステムである。検査支援システム1により、シート製品に生じ得る異常(以下、「欠陥」ともいう)を引き起こす要因(例えば、異物混入、汚れ、シワ等)の種類が単クラスAI処理器(30aから30n)を用いて個別に判別される。本実施例に係る検査支援システム1は、シート検査装置を構成する処理装置5と通信ネットワークNを介して相互に接続される検査支援装置10を備える。通信ネットワークNは、有線、無線のネットワークである。通信ネットワークNは、接続される機器との接続方式に応じて適宜の構成が採用できる。通信ネットワークNには、複数のシート検査装置、複数の検査支援装置10が接続し得る。
 図1に示すように、シート検査装置は、照明系として、被検査物2の上面(第1の面)に可視光を照射する可視光源3aと、被検査物2の下面(第2の面)に可視光を照射する透過光用可視光源3bとを有する。また、シート検査装置は、測定系として撮像装置4を有する。可視光源3aと透過用可視光源3bは被検査物2の同じ位置(ただし、光の当たる面は異なる)に光を照射するように配置され、かつ、撮像装置4は、可視光源3aから照射され被検査物2の上面で反射した光と、透過用可視光源3bから照射され被検査物2を直進透過した光により、被検査物2を撮像できるように配置されている。照明系および測定系は、被検査物2の幅全体を撮像装置4で撮像可能なように、被検査物2の幅に合わせて、被検査物2の幅方向に複数の撮像装置4を備える構成としてもよい。シート検査装置は、撮像装置4の出力信号に基づいて、被検査物2に含まれる異常箇所の検出と異常の種類判別を行う処理装置5を有している。シート検査装置は、撮像装置4によって得られた画像に基づいて被検査物2に含まれる異常箇所を検出し、検出した異常の種類を判別し、その結果を出力する機能を有する。
 被検査物2は、例えばシート状に形成されており、図1の矢印方向に搬送されている。被検査物2として、紙、フィルム、樹脂、セルロース等が例示できる。また、被検査物2は、二次電池に使用するセパレータ、液晶に使用される光学シート等であってもよい。なお、図1に示す形態では、照明系及び測定系を固定し、被検査物2を移動させているが、これに代えて、被検査物2を固定し、照明系及び測定系を移動させてもよい。照明系には、LED等の波長領域が制限されたものを用いるか、または、波長フィルタを用いて波長領域を制限したものを用いることができる。また、測定系には、例えば受光素子を直列に配置したCCDイメージセンサを備えた撮像装置(カメラ)を用いることができる。夫々の受光素子では、受光量に応じて光が電荷に変換される。各受光素子から出力される電荷が、出力信号(撮像データ)として処理装置5に入力される。
 処理装置5は、信号処理部51と、検出閾値記憶部52と、異常検出部53と、判定閾値記憶部54と、判定部55と、出力部56とを機能要素に含む。信号処理部51では、撮像装置4から出力される撮像データの信号に対してホワイトシェーディング処理が施され、撮像装置4を構成する受光素子ごとの出力レベルのばらつき等が補正される。例えば、4096画素といった1ライン分の画素の位置毎に定められた補正係数を該当する画素に掛け合わせて光学レンズ等の収差によって生じる出力レベルのばらつきを均す処理等が行われる。また、信号処理部51は、ホワイトシェーディング後の出力輝度値を、被検査物2に異常が無い状態での出力輝度値(通常値)で除算した値である輝度比を用いて撮像画像の輝度値を求めるとしてもよい。
 異常検出部53は、検出閾値記憶部52に保持された異常箇所を検出するための閾値を用いて、被検査物2に含まれる異常箇所を検出する。例えば、検出閾値記憶部52には、異常と判定すべき画素値の変化の度合いを示す閾値が保持され、異常検出部53は、撮像装置4から出力された画像の画素値の変化の度合いが閾値を超える場合に異常と判定する。なお、検出閾値記憶部に保持される閾値は、被検査物2の種類、用途、材質などに応じた検査基準等に従ってユーザ等により設定される。判定部55は、判定閾値記憶部54に保持された異常の種類を判別する処理に用いる複数の閾値に基づいて、異常箇所が検出されたときにその異常の種類を判別する。出力部58は、異常箇所に関する情報を出力する機能である。情報の出力先は、典型的にはLCD等の表示装置であるが、プリンタに情報を出力したり、スピーカからメッセージやアラームを報知したり、外部の情報処理装置に情報を出力することもできる。本実施例においては、出力部58は、処理装置5に接続された通信ネットワークNを介して、異常箇所に関する情報を検査支援装置10に送信する。
 本実施例に係る検査支援装置10は、通信ネットワークNに接続された処理装置5の、異常(以下、シートから検出された異常を「欠陥」ともいう)の種類を判別する機能の支援を行うコンピュータである。検査支援装置10は、制御部11に、特徴量分類処理部20と、単クラスAI処理部30を備える。また、検査支援装置10は、検出データDB(データベース)12と、特徴量分類DB13と、学習データDB14を備える。検出データDB12には、オフライン処理用として、通信ネットワークNを介して処理装置5から送信された、異常検出が存在すると判定された撮像画像が格納される。特徴量分類DBには、特徴量の分類に関する分類基準が格納される。学習データDB14には、各単クラスAI処理器の学習のための「欠陥画像+正解の欠陥種別」がセットになったセットデータが格納される。なお、細破線の矩形枠90で示すように、処理装置5が当該検査支援装置の機能を構成に含む形態であってもよい。
 詳細を後述するように、特徴量分類処理部20は、特徴量分類DB13に格納された分類基準に基づいて、検出された欠陥箇所の特徴量を複数のクラスに分類する。そして、単クラスAI処理部30は、特徴量分類処理部20によって分類された特徴量が属するクラス毎の単一の欠陥種別を判別する単クラスAI処理器(30aから30n)を複数に備える。単クラスAI処理部30は、特徴量分類処理部20によって分類された特徴量が属する一部のクラスに対して、単クラスAI処理部(30aから30n)を用いて、当該クラスに分類された欠陥種別を識別する。本実施例に係る検査支援装置10は、出力部58から送信された異常箇所に関する情報に基づいて、上記判別機能をオフラインまたはオンラインにより処理装置5に提供する。
<装置構成>
 図2は、本実施例に係る検査支援装置10のハードウェア構成の一例を示す図である。図2に示すように、検査支援装置10は、接続バス106によって相互に接続されたプロセッサ101、主記憶装置102、補助記憶装置103、通信IF104、入出力IF105を構成要素に含むコンピュータである。主記憶装置102および補助記憶装置103は、検査支援装置10が読み取り可能な記録媒体である。主記憶装置102および補助記憶装置103は、検査支援装置10のメモリを構成する。上記の構成要素はそれぞれ複数に設けられてもよいし、一部の構成要素を設けないようにしてもよい。
 プロセッサ101は、検査支援装置10全体の制御を行う中央処理演算装置である。プロセッサ101は、例えば、CPU(Central Processing Unit)やDSP(Digital Signal Processor)等である。プロセッサ101は、例えば、補助記憶装置103に記憶されたプログラムを主記憶装置102の作業領域に実行可能に展開し、当該プログラムの実行を通じて周辺機器の制御を行うことで所定の目的に合致した機能を提供する。本実施例においては、プログラムの実行を通じて特徴量分類処理部20、単クラスAI処理部30(30aから30n)、検出データDB12、特徴量分類DB13、学習データDB14の各機能が提供される。各DBは、例えば、検査支援装置10のプロセッサ101によって実行されるデータベース管理システム(DBMS)のプログラムが、補助記憶装置103等に記憶されるデータを管理することで構築されるリレーショナルデータベースである。なお、一部または全部の機能が、ASIC(Application Specific Integrated Circuit)、GPU(Graphics Processing Unit)等によって提供されてもよい。同様にして、一部または全部の機能が、FPGA(Field-Programmable Gate Array)、数値演算プロセッサ、ベクトルプロセッサ、画像処理プロセッサ等の専用LSI(large scale integration)、その他のハードウェア回路で実現されてもよい。また、検査支援装置10は、単一の物理的構成で実現されてもよく、互いに連携する複数台のコンピュータの構成によって実現されてもよい。
 主記憶装置102は、プロセッサ101が実行するプログラム、当該プロセッサが処理するデータ等を記憶する。主記憶装置102は、フラッシュメモリ、RAM(Random Access Memory)やROM(Read Only Memory)を含む。補助記憶装置103は、各種のプログラムおよび各種のデータを読み書き自在に記録媒体に格納する。補助記憶装置103は、外部記憶装置とも呼ばれる。補助記憶装置103には、例えば、OS(Operating System)、各種プログラム、各種テーブル等が格納される。OSは、例えば、通信IF104を介して接続される外部装置等とのデータの受け渡しを行う通信インターフェースプログラムを含む。外部装置等は、例えば、通信ネットワークNに接続された処理装置5、情報処理端末等のコンピュータ、外部記憶装置等である。
 補助記憶装置103は、主記憶装置102を補助する記憶領域として使用され、プロセッサ101が実行するプログラム、プロセッサ101が処理するデータ等を記憶する。補助記憶装置103は、不揮発性半導体メモリ(フラッシュメモリ、EPROM(Erasable Programmable ROM))を含むシリコンディスク、ソリッドステートドライブ装置、ハードディスクドライブ(HDD、Hard Disk Drive)装置等である。また、補助記憶装置103として、CDドライブ装置、DVDドライブ装置、BDドライブ装置といった着脱可能な記録媒体の駆動装置が例示される。着脱可能な記録媒体として、CD、DVD、BD、USB(Universal Serial Bus)メモリ、SD(Secure Digital)メモリカード等が例示される。
 通信IF104は、検査支援装置10を通信ネットワークNに接続させるためのインターフェースである。通信IF104は、通信ネットワークNとの接続方式に応じて適宜の構成を採用できる。入出力IF105は、検査支援装置10に接続される機器との間でデータの入出力を行うインターフェースである。入出力IF105には、例えば、キーボード、タッチパネルやマウス等のポインティングデバイス、マイクロフォン等の入力デバイスが接続される。検査支援装置10は、入出力IF105を介し、入力デバイスを操作する操作者からの操作指示等を受け付ける。また、入出力IF105には、例えば、LCD、ELパネル、有機ELパネル等の表示デバイス、プリンタ、スピーカ等の出力デバイスが接続される。検査支援装置10は、入出力IF105を介し、プロセッサ101で処理されるデータや情報、主記憶装置102、補助記憶装置103に記憶されるデータや情報を出力する。
<処理構成>
 先ず、比較例として、図3を用いて多クラス分類を行うAIを用いた、欠陥種別の判別処理について説明する。図3に示すように、シート製品に異常箇所が検出され、当該異常がどのような種類によるかを判別する多クラス分類AIを採用する場合には、カメラである撮像装置から画像の取り込みが行われ(A1)、画像内における異常箇所(欠陥箇所)の位置が特定される(A2)。画像内の欠陥箇所の位置は、例えば、画像の左上角部を原点として、右下角部に至る2次元座標(X、Y)として表すことができる。例えば、既に説明した異常検出部53と同様の方法を用いて画像の画素値の変化の度合いが閾値を超える箇所を特定し、当該箇所を内包する(当該箇所が内接する矩形領域等)部分領域の画像の切り出しを行う(A3)。そして、切り出された欠陥箇所の画像に多クラス分類を行うAI処理が適用される(A4)。
 多クラス分類AIは、データベースに蓄積された「欠陥画像+正解の欠陥種別」のセットデータが全ての欠陥種別について予め学習が成されている(A5)。多クラス分類AIでは、予め学習させた欠陥画像と正解の欠陥種別によって、各種別に対する特徴量の抽出過程と当該抽出された特徴量から種別を判別するためのモデリングが自動的に行われ(A6)、このモデリングによる分類結果が出力される(A7)。図3の例では、欠陥がどのような種類の異常であるかを示す6種類(気泡、穴、虫、異物、しわ、繊維)の判別結果が出力される。多クラス分類AIを用いることで、シート製品に生じた欠陥がどのような種類の異常であるかを示す6種類の判別(多クラス判別)が可能になる。
 しかしながら、多クラス分類AIでは、丸囲み1に示すように、AIの学習用に「欠陥画像+正解の欠陥種別」のセットデータを、全ての欠陥種別毎に用意する必要があるため、6種類の欠陥種別を分類するための大量の学習データがデータベースに蓄積される。なお、出現頻度が低い欠陥種別においては、上記データセットを十分に用意することができず、分類判定の学習が不完全な状態で行わざるを得ない場合があった。また、丸囲み2に示すように、切り出された欠陥箇所の画像から、6種類の欠陥種別を分類するための特徴量の抽出、および種別判別のモデリングに至る複雑なネットワーク構造を構築する必要があり、ネットワークを接続するノード間の重みづけといったパラメータの高度なチューニングを必要とする。このようなスキルを有する技術者が確保されない場合には、多クラス分類AIの適用が困難な場合があった。さらに、学習の都度、欠陥種別に至るまでの上記特徴量の抽出やモデリング等の基準が変化する。例えば、欠陥種別「しわ」の新たな「欠陥画像+正解の欠陥種別」を学習させたときに、他の種類の欠陥種別を判定するための基準に影響してしまうため、学習前は安定して「しわ」と判別されていた欠陥画像が「繊維」や「異物」と判定される頻度が増え、不安定化する場合もあった。
 本実施例に係る検査支援装置10は、単クラスAI処理部30を処理機能として備える。単クラスAI処理部30を構成する各単クラスAI処理器は、個別の欠陥種別を判別するためのAIである。各単クラスAI処理器には、単一の欠陥種別を判別するためのセットデータが学習データとして用いられ、セットデータで指定される正解の欠陥種別が学習される。
 図4は、単クラスAI処理器の判別処理を説明する図である。図4には、単クラスAI処理器を用いた判別例が例示される。単クラスAI処理器A9によって判別される単一の欠陥種別を“A”とすると、当該単クラスAI処理器には、「欠陥画像(A)+正解の欠陥種別(A)」に限定されたセットデータが学習データとして学習される(A10)。単一の欠陥種別を“A”を判別する単クラスAI処理器は、「欠陥画像(A)+正解の欠陥種別(A)」に限定されたセットデータから、特徴量を抽出する過程と当該抽出された特徴量から種別を決定づけるためのモデリングを学習する。そして、単一の欠陥種別“A”を判別する単クラスAI処理器は、学習した特徴量を抽出する過程と当該抽出された特徴量から種別を決定づけるためのモデリングを自動的に行い、欠陥箇所の画像(A8)に対して、「A」であるか「Not A」であるかの判別を行う。例えば、“A”が“しわ”である場合には、単クラスAI処理器の判別結果は、「しわ」と、しわ以外と判別された「分類外」の2値に分類される。このように、本実施例に係る単クラスAI処理器の判別では、分類対象の画像に含まれる欠陥種別が、セットデータによって学習された欠陥種別と、当該欠陥種別以外に判別された場合の分類外とに判別される。
 本実施例においては、単クラスAI処理器を複数に用いて欠陥箇所の画像に対する欠陥種別の判別が行われる。単クラスAI処理器では、図4で説明したように、単一の欠陥種別を判別するためのデータセット(「欠陥画像+正解の欠陥種別」)を学習データとして準備すればよく、多クラス分類を行うAI処理器のように全ての欠陥種別に対する「欠陥画像+正解の欠陥種別」のセットデータを大量にデータベースに蓄積することを必要としない。また、単クラスAI処理においては、例えば、単一の欠陥種別とそれ以外が判別できればよいので、多クラスAI処理のように複雑なネットワーク構造を構築する必要がなく、パラメータの高度なチューニングも必要としない。このため、作業者には高度なスキルが要求されることもない。さらに、判別される欠陥種別は単一であるため、新たなセットデータを学習させても他の欠陥種別の判別に影響することはなく、再学習後においても安定した判別結果を得ることができる。
 図5は、本実施例に係る検査支援装置10で提供される欠陥種別の判定処理の一例を示すフローチャートである。本実施例のフローにおいては、単クラスAI処理による欠陥種別の判別前の前処理として、シート製品に生じた異常箇所の輝度値の変化の度合い、および、大きさから当該異常箇所の特徴量分析が行われる。特徴量分析の結果、異常箇所の特徴量が複数のパターンに分類され、分類された複数パターンの中から単クラスAI処理を用いて欠陥種別を判別するためのパターンが選別される。そして本フローでは、選別された特徴量パターンに対する単クラスAI判別処理が行われ、各単クラスAI判別に関連付けされた個別の欠陥種別が判別される。図5に示す本フローの処理は、特徴量分類処理部20と、複数の単クラスAI処理器(30aから30n)により構成された単クラスAI処理部30の協働により提供される。
 処理の開始後、カメラである撮像装置4から画像の取り込みが行われ(ステップS101)、画像内における異常箇所(欠陥箇所)についての特徴量が算出される(ステップS102)。特徴量の算出では、例えば、シート製品に生じた異常箇所の画像から輝度値の変化の度合い、および、大きさが求められる。例えば、異常検出部53と同様の方法を用いて画像の画素値の変化の度合いが閾値を超える箇所を特定し、当該箇所を内包する内接矩形領域の面積の算出により大きさが求められる。また、当該内接矩形の平均輝度値の算出から、欠陥箇所の輝度値の変化の度合いが求められる。ステップS103では、算出された特徴量についての区分け(特徴量分類)が行われる。例えば、算出された平均輝度値から、予め設定された閾値以上の「明」、および当該閾値未満の「暗」が区分けされる。同様にして、算出された内接矩形領域の面積により、「大」、「中」、「小」と相対的な大きさが区分けされる。区分けの結果、欠陥箇所の特徴量が、平均輝度値と大きさの組合せた、「明小」、「明中」、「明大」、「暗小」、「暗中」、「暗大」の6パターンに分類される(ステップS104)。なお、欠陥箇所の特徴量の分類は、平均輝度値と大きさ以外の指標を用いて分類するとしてもよく、平均輝度値と大きさに他の指標を組合せて分類するとしてもよい。例えば、欠陥箇所の色、偏光等の光学的特徴を用いて分類してもよい。単クラスAIによる欠陥種別の単一判別が適用可能なパターンに分類できればよい。
 ステップS105においては、分類されたパターンの中から単クラスAI処理を用いて欠陥種別を判別するための1つ以上のパターンが選別される。例えば、図5に示されるように、「暗小」、「暗中」のパターンが単クラスAI処理による欠陥種別を適用するパターンとして選定される。このような選定の基準は、予めシート製品の検査を行うユーザにより設定できる。図5の例では、欠陥箇所の特徴量として「明小」、「明中」に分類されるパターンの欠陥種別は「気泡」、「明大」に分類されるパターンの欠陥種別は「穴」、「暗大」に分類されるパターンの欠陥種別は「繊維」であることが経験的な知見により判別される。このため、ステップS105では、「暗小」、「暗中」に分類されたパターンが、単クラスAI処理による欠陥種別の判別を行うために選別される。選別されたパターンでは、欠陥箇所の切り出しが行われると、処理はステップS106に進む。なお、ステップS106からステップS108の処理は、単クラスAI処理部30により提供される。
 ステップS106では、複数の単クラスAI処理を用いた欠陥種別の判別が行われる。例えば、判別される欠陥種別が「虫」、「異物」、「しわ」の場合では、それぞれの欠陥種別を判別する単クラスAI処理器30a、30b、30cを用いて切り出された欠陥箇所の画像に対する判別処理が行われる。単クラスAI処理器30aでは、「欠陥画像+正解の欠陥種別(虫)」のセットデータを用いた学習が行われ、欠陥箇所の画像に対する欠陥種別「虫」、「虫」以外の欠陥種別との判別が行われる。単クラスAI処理器30bでは、「欠陥画像+正解の欠陥種別(異物)」のセットデータを用いた学習が行われ、欠陥箇所の画像に対する欠陥種別「異物」、「異物」以外の欠陥種別との判別が行われる。単クラスAI処理器30cでは、「欠陥画像+正解の欠陥種別(しわ)」のセットデータを用いた学習が行われ、欠陥箇所の画像に対する欠陥種別「しわ」、「しわ」以外の欠陥種別との判別が行われる。なお、以下では、特徴量の分類パターン「暗小」から切り出された欠陥箇所の画像には、欠陥種別「虫」を判別する単クラスAI処理器30aと、欠陥種別「異物」を判別する単クラスAI処理器30bが適用され、「暗中」のそれには欠陥種別「しわ」を判別する単クラスAI処理器30cが適用されるとして説明する。
 ステップS107では、同一の欠陥画像に対し、複数の単クラスAI処理器による判別が適用された場合における判別結果の調停が行われる。図6(a)及び図6(b)は、ステップS107における判別結果の調停を説明する図である。本フローにおいては、特徴量の分類パターン「暗小」から切り出された欠陥箇所の画像には、欠陥種別「虫」を判別する単クラスAI処理器30aと、欠陥種別「異物」を判別する単クラスAI処理器30bが適用される。同一の欠陥画像に対する各処理器の判別結果は、図6(a)に示すように、4通りの組み合わせになる。すなわち、「虫」と「異物」、「虫」と「異物以外」、「異物」と「虫以外」、「異物以外」と「虫以外」の組合せが得られる。
 ここで、欠陥種別「虫」を判別する単クラスAI処理器30aが「虫」を判別し、欠陥種別「異物」を判別する単クラスAI処理器30bが「異物以外」と判定する場合には、欠陥画像の欠陥種別は「虫」と特定できる。同様にして、欠陥種別「虫」を判別する単クラスAI処理器30aが「虫以外」を判別し、欠陥種別「異物」を判別する単クラスAI処理器30bが「異物」と判定する場合には、欠陥画像の欠陥種別は「異物」と特定できる。欠陥画像の欠陥種別はそれぞれの単クラスAI処理器が、自身に学ばせられたセットデータによって学習した欠陥種別であるからである。
 しかしながら、欠陥種別「虫」を判別する単クラスAI処理器30aが「虫」を判別し、欠陥種別「異物」を判別する単クラスAI処理器30bが「異物」と判定する場合には、欠陥画像の欠陥種別は「虫」であるか「異物」であるかを特定できない。このようなケースは、例えば、学習データが十分にそろっていない場合に起こり得る。ステップS107においては、このような判別結果を調停するための基準が予め設定されている。本フローにおいては、「A」と「A以外」を判別する単クラスAI処理器と、「B」と「B以外」を判別する単クラスAI処理器が、それぞれが学習した欠陥種別を判別する場合には、図6(a)に示すように、目視による要確認と判定する。このような基準はシート製品の検査を行うユーザによって予め設定される。なお、欠陥種別「虫」を判別する単クラスAI処理器30aが「虫以外」を判別し、欠陥種別「異物」を判別する単クラスAI処理器30bが「異物以外」と判定する場合には、欠陥種別の判別対象から当該欠陥箇所の特徴量を除外する分類以外と判定される。
 また、図6(b)に示すように、特徴量の分類パターン「暗中」から切り出された欠陥箇所の画像には、欠陥種別「しわ」を判別する単クラスAI処理器30cが適用され、しわの学習データから学習されたAI処理内の判別基準によって「しわ」および「しわ以外」が判別されることになる。ステップS107においては、単クラスAI処理器30cによる欠陥種別の判別が「しわ以外」の場合には、予めユーザによって設定された基準に従って、欠陥種別の判別対象から当該欠陥箇所の特徴量を除外する「分類外」と判別させる。このように、判別結果に対する調停機能を持たせることにより、欠陥種別の判別に係る処理負担を軽減でき、オンライン時における処理時間の短縮が可能になる。
 ステップS108においては、単クラスAI処理器30a、30b、30cを用いて判別された欠陥種別が出力される。すなわち、特徴量の分類パターン「暗小」から切り出された欠陥箇所の画像から判別された「虫」、「異物」、および、特徴量の分類パターン「暗小」から切り出された欠陥箇所の画像から判別された「しわ」が出力される。判別結果は、例えば、オンラインで接続される処理装置5に出力してもよく、オフラインにおいては、検査支援装置10の備える表示パネル等に表示するとしてもよい。ステップS108の処理後、本ルーチンを一旦終了する。
 以上、説明したように、本実施例に係る検査支援装置10においては、単クラスAI処理による欠陥種別の判別前の前処理として、シート製品に生じた異常箇所の輝度値の変化の度合い、および、大きさから当該異常箇所の特徴量分析を行い、単クラスAI処理が適用される特徴量パターンが選別できる。このため、シート製品に検出された異常箇所の欠陥種別の判別に係る特徴量を事前に減らすことができるため、単クラスAI処理を用いた判別に係る処理負担が相対的に軽減できる。
 本実施例に係る検査支援装置10においては、欠陥種別の判別に単クラスAI処理を用いることができる。単クラスAI処理器では、図4で説明したように、単一の欠陥種別を判別するためのデータセット(「欠陥画像+正解の欠陥種別」)を学習データとして準備すればよく、多クラス分類を行うAI処理器のように全ての欠陥種別に対する「欠陥画像+正解の欠陥種別」のセットデータを大量にデータベースに蓄積することを必要としない。また、単クラスAI処理においては、例えば、単一の欠陥種別とそれ以外が判別できればよいので、多クラスAI処理のように複雑なネットワーク構造を構築する必要がなく、パラメータの高度なチューニングも必要としない。このため、作業者には高度なスキルが要求されることもない。さらに、判別される欠陥種別は単一であるため、新たなセットデータを学習させても他の欠陥種別の判別に影響することはなく、再学習後においても安定した判別結果を得ることができる。
 また、本実施例に係る検査支援装置10においては、同一の欠陥画像に対し、複数の単クラスAI処理による判別が適用できる。このため、単クラスAI処理器の判別結果を組合せて、各単クラスAIに学習させた欠陥種別に対する判別精度を高めることが可能になる。また、単クラスAI処理器の判別結果を組合せて、欠陥種別の判別対象から当該欠陥箇所の特徴量を除外することもできる。このように、単クラスAI処理による判別結果を組合せて調停することで、欠陥種別の判別に係る処理負担を軽減でき、オンライン時における処理時間の短縮が可能になる。本実施例によれば、シート製品に生じた欠陥の多種類な欠陥種別をAI処理を用いて安定的に判別可能な技術が提供できる。
〔変形例1〕
 図7は、変形例1に係る検査支援装置10で提供される欠陥種別の判定処理の一例を示すフローチャートである。図7に示すフローにおいては、単クラスAI処理を用いて判別された欠陥種別に対し、さらに特徴量分類が適用される形態が例示される。本フローの処理により、単クラスAI処理によって欠陥種別が判別されたシート製品の製品種別を識別するランク付けが可能になる。なお、図7に示すフローにおいては、ステップS101からステップS108の処理は実施例1と同様であるので、説明が省略される。
 ステップS109では、欠陥種別「異物」に判別された異常箇所を有するシート製品のランク付けを目的として、特徴量分類が行われ、当該分類の結果が出力される(ステップS110)。ステップS109では、欠陥種別「異物」に判別された異常箇所に対して、ステップS103の特徴量分類より細やかな分類が行わる。具体的には、欠陥箇所から切り出された画像における欠陥面積が算出される。そして、この欠陥面積に基づいて、欠陥種別「異物」と判別された異常箇所を有する製品のランク付けの指標が分類される(ステップS110)。
 例えば、第1閾値(例えば、10000)を超えるときには「異物大」に分類し、第1閾値以下でかつ第2閾値(例えば、100)以上のときには「異物中」に分類する。同様にして、第2閾値未満のときには「異物小」に分類される。このような閾値はシート製品の検査を行うユーザによって予め設定される。なお、ステップS110においては、3段階の分類例を例示するが、異常箇所を有するシート製品のランク付けに資する分類であれば2段階でもよく、5段階でもよい。さらに、ステップS109はルールベースの分類として特徴量分類を行うが、当該処理にAI処理を用いてもよいことは言うまでもない。ステップS110の処理後、本ルーチンは一旦終了する。
〔変形例2〕
 実施例1、変形例1では、異常箇所(欠陥箇所)から算出された特徴量に対してパターン分類(ステップS103)を行うとしたが、算出された特徴量を使用して、AI処理による欠陥種別の判別の可否、欠陥種別の判別に適用される単クラスAI処理器の選定を行うとしてもよい。変形例2の処理により、欠陥種別に対する判別処理の最適化を図ることができる。
 図8は、変形例2に係る検査支援装置10で提供される欠陥種別の判定処理の一例を示すフローチャートである。図8のフローにおいて、ステップS101からステップS102の処理は、実施例1と同様であるため説明が省略される。ステップS111では、算出された特徴量に応じて、欠陥種別の判別にAI処理を適用するか否か、欠陥種別の判別にAI処理を適用する場合には、どの単クラスAI処理器を使用するかの選定が行われる。具体的には、算出された特徴量である、異常箇所の濃度平均値である欠陥面積により上記可否判定、単クラスAI処理器の選定が行われる。
 ステップS111においては、例えば、欠陥面積が第1閾値を超える場合には、欠陥種別の判別にAI処理を適用しないと判定し、ステップS112の処理に進む。また、欠陥面積が第1閾値以下であり、かつ第2閾値以上の場合には、欠陥種別の判別にAI処理を適用すると判定し、欠陥種別「虫」を判別する単クラスAI処理器30a、欠陥種別「異物」を判別する単クラスAI処理器30bを選定しステップS113の処理に進む。同様にして、欠陥面積が第2閾値未満の場合では、欠陥種別の判別にAI処理を適用すると判定し、欠陥種別「しわ」を判別する単クラスAI処理器30cを選定しステップS114の処理に進む。ここで、第1閾値および第2閾値は変形例1と同様の閾値である。
 ステップS111の処理により、欠陥種別の判別に係る処理負担が軽減できるとともに、欠陥種別に対する判別処理の最適化を図ることができる。
 なお、ステップS112では、実施例1のステップS103からS104と同様の特徴量分類処理が行われ、欠陥種別「気泡」、「穴」、「繊維」のそれぞれが識別される。また、ステップS113では、欠陥種別「虫」を判別する単クラスAI処理器30a、欠陥種別「異物」を判別する単クラスAI処理器30bによる、実施例1のステップS105からステップS108の処理が行われ、欠陥種別「虫」、「異物」が判別される。同様にして、ステップS114では、欠陥種別「しわ」を判別する単クラスAI処理器30cによる、実施例1のステップS105からステップS108の処理が行われ、欠陥種別「しわ」が判別される。ステップS114の処理後、本ルーチンが一旦終了される。
 以上、説明したように、変形例2に形態においても、シート製品に生じた異常箇所から算出された特徴量を使用して、単クラスAI処理を用いた判別に係る処理負担が相対的に軽減できる。
(その他)
 上記の実施形態はあくまでも一例であって、本実施の形態の開示はその要旨を逸脱しない範囲内で適宜変更して実施し得る。本開示において説明した処理や手段は、技術的な矛盾が生じない限りにおいて、自由に組合せて実施することができる。
 また、1つの装置が行うものとして説明した処理が、複数の装置によって分担して実行されてもよい。あるいは、異なる装置が行うものとして説明した処理が、1つの装置によって実行されても構わない。コンピュータシステムにおいて、各機能をどのようなハードウェア構成によって実現するかは柔軟に変更可能である。例えば、細破線の矩形枠90に示すように、実施例1の処理装置5が検査支援装置10の構成を含むとしてもよい。また、処理装置5が、特徴量分類処理部20と、単クラスAI処理部30と、特徴量分類DB13と、学習データDB14とを含み、本実施形態における検査支援装置10の機能を行うとしてもよい。
 《コンピュータが読み取り可能な記録媒体》
 情報処理装置その他の機械、装置(以下、コンピュータ等)に上記何れかの機能を実現させるプログラムをコンピュータ等が読み取り可能な記録媒体に記録することができる。そして、コンピュータ等に、この記録媒体のプログラムを読み込ませて実行させることにより、その機能を提供させることができる。
 ここで、コンピュータ等が読み取り可能な記録媒体とは、データやプログラム等の情報を電気的、磁気的、光学的、機械的、または化学的作用によって蓄積し、コンピュータ等から読み取ることができる記録媒体をいう。このような記録媒体のうちコンピュータ等から取り外し可能なものとしては、例えばフレキシブルディスク、光磁気ディスク、CD-ROM、CD-R/W、DVD、ブルーレイディスク、DAT、8mmテープ、フラッシュメモリなどのメモリカード等がある。また、コンピュータ等に固定された記録媒体としてハードディスクやROM等がある。
 なお、以下には本発明の構成要件と実施例の構成とを対比可能とするために、本発明の構成要件を図面の符号付きで記載しておく。
<付記1>
 被検査物(2)の撮像画像から前記被検査物(2)に生じた異常を検出し、前記検出された異常の種類を判定する判定検査を支援する支援装置(10)であって、
 前記撮像画像から前記被検査物(2)に生じた異常の特徴量を算出するとともに、前記算出された特徴量を複数のクラスに分類し、前記複数のクラスの中から、学習判別部(30)を用いて異常の種別が判別される処理対象のクラスを1つ以上に選定する分類処理部(20)と、
 前記異常を誘因する要素画像と、前記要素画像を正解とする異常の種別とを組み合わせたセットデータにより、判別対象の異常が前記正解とする種別であるか、または、前記正解とする種別以外であるか、を判別する判別基準が学習された学習判別器(30aから30n)を前記異常の種別毎に備える学習判別部(30)と、を備え、
 前記学習判別部(30)は、前記異常の種別毎に判別基準が学習された学習判別器(30aから30n)の個別の判別結果に基づいて、前記分類処理部(20)によって選定された処理対象のクラスについての異常の種別を判別する、
 ことを特徴とする支援装置(10)。
1   検査支援システム、2   被検査物(シート、シート製品)、3a  可視光源、3b  透過光用可視光源、4  撮像装置、5  処理装置、10  検査支援装置、11  制御部、12  検出データDB、13  特徴量分類DB、14  学習データDB、20  特徴量分類処理部、30  単クラスAI処理部、30a-30n  単クラスAI処理器、101  プロセッサ、102  主記憶装置、13  補助記憶装置、14  通信IF、15  入出力IF、106  接続バス

Claims (6)

  1.  被検査物の撮像画像から前記被検査物に生じた異常を検出し、前記検出された異常の種類を判定する判定検査を支援する支援装置であって、
     前記撮像画像から前記被検査物に生じた異常の特徴量を算出するとともに、前記算出された特徴量を複数のクラスに分類し、前記複数のクラスの中から、学習判別部を用いて異常の種別が判別される処理対象のクラスを1つ以上に選定する分類処理部と、
     前記異常を誘因する要素画像と、前記要素画像を正解とする異常の種別とを組み合わせたセットデータにより、判別対象の異常が前記正解とする種別であるか、または、前記正解とする種別以外であるか、を判別する判別基準が学習された学習判別器を前記異常の種別毎に備える学習判別部と、を備え、
     前記学習判別部は、前記異常の種別毎に判別基準が学習された学習判別器の個別の判別結果に基づいて、前記分類処理部によって選定された処理対象のクラスについての異常の種別を判別する、
     ことを特徴とする支援装置。
  2.  前記学習判別部は、第1異常を判別する判別基準が学習された第1学習判別器と、第2異常を判別する判別基準が学習された第2学習判別器を有し、
     前記複数のクラスの中の一つのクラスを処理対象として、前記第1学習判別器の判別結果が第1異常を判別し、かつ、前記第2学習判別器の判別結果が第2異常以外の種別を判別するときには、前記クラスの異常の種別を前記第1異常と判別する、ことを特徴とする請求項1に記載の支援装置。
  3.  前記複数のクラスの中の一つのクラスを処理対象として、前記第1学習判別器の判別結果が第1異常以外の種別を判別し、かつ、前記第2学習判別器の判別結果が第2異常を判別するときには、前記クラスの異常の種別を前記第2異常と判別する、ことを特徴とする請求項2に記載の支援装置。
  4.  前記複数のクラスの中の一つのクラスを処理対象として、前記第1学習判別器の判別結果が第1異常を判別し、かつ、前記第2学習判別器の判別結果が第2異常を判別するとき、または、前記第1学習判別器の判別結果が第1異常以外の種別を判別し、かつ、前記第2学習判別器の判別結果が第2異常以外の種別を判別するときには、前記クラスの異常の種別の判別を指定された処理に引き渡す、ことを特徴とする請求項2または3に記載の支援装置。
  5.  分類処理部は、前記異常の種別が判別されたクラスの特徴量をさらに複数のサブクラスに分類する、ことを特徴とする請求項1から4の何れか一項に記載の支援装置。
  6.  被検査物の撮像画像から前記被検査物に生じた異常を検出し、前記検出された異常の種類を判定する判定検査を支援する支援装置のコンピュータが実行する方法であって、
     前記撮像画像から前記被検査物に生じた異常の特徴量を算出するとともに、前記算出された特徴量を複数のクラスに分類し、前記複数のクラスの中から、所定のクラスを選定することと、
     前記異常の種別毎に、前記異常を誘因する要素画像と、前記要素画像を正解とする異常の種別とを組み合わせたセットデータにより、判別対象の異常が前記正解とする種別であるか、または、前記正解とする種別以外であるか、を判別する判別基準を学習することと、
     前記学習された前記異常の種別毎の判別基準により判別された個別の判別結果に基づいて、前記所定のクラスに対する異常の種別を判別することと、
     を含むことを特徴とする方法。
PCT/JP2022/001374 2021-03-12 2022-01-17 支援装置および方法 WO2022190636A1 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
EP22766604.7A EP4287115A1 (en) 2021-03-12 2022-01-17 Support device and method
US18/547,573 US20240144661A1 (en) 2021-03-12 2022-01-17 Support device and method
KR1020237027130A KR20230129522A (ko) 2021-03-12 2022-01-17 지원 장치 및 방법
CN202280014207.7A CN116848551A (zh) 2021-03-12 2022-01-17 辅助装置以及方法

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2021040335A JP2022139796A (ja) 2021-03-12 2021-03-12 支援装置および方法
JP2021-040335 2021-03-12

Publications (1)

Publication Number Publication Date
WO2022190636A1 true WO2022190636A1 (ja) 2022-09-15

Family

ID=83226603

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2022/001374 WO2022190636A1 (ja) 2021-03-12 2022-01-17 支援装置および方法

Country Status (7)

Country Link
US (1) US20240144661A1 (ja)
EP (1) EP4287115A1 (ja)
JP (1) JP2022139796A (ja)
KR (1) KR20230129522A (ja)
CN (1) CN116848551A (ja)
TW (1) TWI823261B (ja)
WO (1) WO2022190636A1 (ja)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010008174A (ja) 2008-06-25 2010-01-14 Panasonic Electric Works Co Ltd 光透過性フィルムの欠陥検出装置及び光透過性フィルムの切断装置
JP2012026982A (ja) * 2010-07-27 2012-02-09 Panasonic Electric Works Sunx Co Ltd 検査装置
JP2019159959A (ja) * 2018-03-14 2019-09-19 オムロン株式会社 検査システム、識別システム、及び学習データ生成装置
JP2021033564A (ja) * 2019-08-22 2021-03-01 株式会社Ye Digital 画像分類方法、画像分類装置および画像分類プログラム

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWM567355U (zh) * 2018-06-16 2018-09-21 台灣海博特股份有限公司 Multispectral image analysis system architecture
TWI663960B (zh) * 2019-01-17 2019-07-01 China Medical University Hospital 足畸形檢測模型、足畸形檢測系統及足畸形檢測方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010008174A (ja) 2008-06-25 2010-01-14 Panasonic Electric Works Co Ltd 光透過性フィルムの欠陥検出装置及び光透過性フィルムの切断装置
JP4950951B2 (ja) 2008-06-25 2012-06-13 パナソニック株式会社 光透過性フィルムの欠陥検出装置及び光透過性フィルムの切断装置
JP2012026982A (ja) * 2010-07-27 2012-02-09 Panasonic Electric Works Sunx Co Ltd 検査装置
JP2019159959A (ja) * 2018-03-14 2019-09-19 オムロン株式会社 検査システム、識別システム、及び学習データ生成装置
JP2021033564A (ja) * 2019-08-22 2021-03-01 株式会社Ye Digital 画像分類方法、画像分類装置および画像分類プログラム

Also Published As

Publication number Publication date
EP4287115A1 (en) 2023-12-06
JP2022139796A (ja) 2022-09-26
CN116848551A (zh) 2023-10-03
TW202300898A (zh) 2023-01-01
KR20230129522A (ko) 2023-09-08
TWI823261B (zh) 2023-11-21
US20240144661A1 (en) 2024-05-02

Similar Documents

Publication Publication Date Title
US11526979B2 (en) Method of defect classification and system thereof
US8625906B2 (en) Image classification standard update method, program, and image classification device
JP4616864B2 (ja) 外観検査方法及びその装置および画像処理評価システム
US9607233B2 (en) Classifier readiness and maintenance in automatic defect classification
JP4908995B2 (ja) 欠陥分類方法及びその装置並びに欠陥検査装置
JP6113024B2 (ja) 分類器取得方法、欠陥分類方法、欠陥分類装置およびプログラム
CN109946303A (zh) 检查装置和方法
WO2007074770A1 (ja) 画像解析によって欠陥検査を行う欠陥検査装置
KR101477665B1 (ko) 불균일한 텍스쳐 표면의 불량 검출방법
CN113095438A (zh) 晶圆缺陷分类方法及其装置、系统、电子设备和存储介质
WO2022130762A1 (ja) 欠陥検査装置、欠陥検査方法および製造方法
CN109462999B (zh) 通过数据平衡基于学习的视觉检查方法以及利用其的视觉检查装置
JP2019190891A (ja) 検査管理システム、検査管理装置及び検査管理方法
KR20220022091A (ko) 검사 레시피의 자동 최적화
KR101929669B1 (ko) 엔트로피를 이용하여 이미지를 분석하는 방법 및 장치
Choi et al. Deep learning based defect inspection using the intersection over minimum between search and abnormal regions
WO2022190636A1 (ja) 支援装置および方法
CN114226262A (zh) 瑕疵检测方法、瑕疵分类方法及其系统
JP2013205320A (ja) 検査条件決定方法、検査方法および検査装置
JP7293907B2 (ja) 外観検査管理システム、外観検査管理装置、外観検査管理方法及びプログラム
CN112129768A (zh) 外观检查管理系统、装置、方法以及存储介质
JP2006135700A (ja) 画像検査装置、画像検査方法、制御プログラムおよび可読記憶媒体
JP2002048722A (ja) 欠陥検査装置
JP2009019997A (ja) 欠点検査装置および欠点検査方法
CN117147570A (zh) 基于机器视觉的制造控制方法、装置、设备及存储介质

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 22766604

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 20237027130

Country of ref document: KR

Kind code of ref document: A

WWE Wipo information: entry into national phase

Ref document number: 202280014207.7

Country of ref document: CN

Ref document number: 1020237027130

Country of ref document: KR

WWE Wipo information: entry into national phase

Ref document number: 18547573

Country of ref document: US

WWE Wipo information: entry into national phase

Ref document number: 2022766604

Country of ref document: EP

ENP Entry into the national phase

Ref document number: 2022766604

Country of ref document: EP

Effective date: 20230901

NENP Non-entry into the national phase

Ref country code: DE