JPWO2020137151A1 - 学習済みモデルの生成方法、学習済みモデル、表面欠陥検出方法、鋼材の製造方法、合否判定方法、等級判定方法、表面欠陥判定プログラム、合否判定プログラム、判定システム、及び鋼材の製造設備 - Google Patents

学習済みモデルの生成方法、学習済みモデル、表面欠陥検出方法、鋼材の製造方法、合否判定方法、等級判定方法、表面欠陥判定プログラム、合否判定プログラム、判定システム、及び鋼材の製造設備 Download PDF

Info

Publication number
JPWO2020137151A1
JPWO2020137151A1 JP2020509542A JP2020509542A JPWO2020137151A1 JP WO2020137151 A1 JPWO2020137151 A1 JP WO2020137151A1 JP 2020509542 A JP2020509542 A JP 2020509542A JP 2020509542 A JP2020509542 A JP 2020509542A JP WO2020137151 A1 JPWO2020137151 A1 JP WO2020137151A1
Authority
JP
Japan
Prior art keywords
defect
image
determination
periodic
absence
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2020509542A
Other languages
English (en)
Other versions
JP6973623B2 (ja
Inventor
腰原 敬弘
敬弘 腰原
紘明 大野
紘明 大野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
JFE Steel Corp
Original Assignee
JFE Steel Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by JFE Steel Corp filed Critical JFE Steel Corp
Publication of JPWO2020137151A1 publication Critical patent/JPWO2020137151A1/ja
Application granted granted Critical
Publication of JP6973623B2 publication Critical patent/JP6973623B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • G06T7/001Industrial image inspection using an image reference approach
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/89Investigating the presence of flaws or contamination in moving material, e.g. running paper or textiles
    • G01N21/892Investigating the presence of flaws or contamination in moving material, e.g. running paper or textiles characterised by the flaw, defect or object feature examined
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/89Investigating the presence of flaws or contamination in moving material, e.g. running paper or textiles
    • G01N21/892Investigating the presence of flaws or contamination in moving material, e.g. running paper or textiles characterised by the flaw, defect or object feature examined
    • G01N21/8922Periodic flaws
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/44Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • G06V10/443Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components by matching or filtering
    • G06V10/449Biologically inspired filters, e.g. difference of Gaussians [DoG] or Gabor filters
    • G06V10/451Biologically inspired filters, e.g. difference of Gaussians [DoG] or Gabor filters with interaction between the filter responses, e.g. cortical complex cells
    • G06V10/454Integrating the filters into a hierarchical structure, e.g. convolutional neural networks [CNN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • G01N2021/8883Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges involving the calculation of gauges, generating models
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • G01N2021/8887Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges based on image processing techniques
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/89Investigating the presence of flaws or contamination in moving material, e.g. running paper or textiles
    • G01N21/8914Investigating the presence of flaws or contamination in moving material, e.g. running paper or textiles characterised by the material examined
    • G01N2021/8918Metal
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/89Investigating the presence of flaws or contamination in moving material, e.g. running paper or textiles
    • G01N21/892Investigating the presence of flaws or contamination in moving material, e.g. running paper or textiles characterised by the flaw, defect or object feature examined
    • G01N2021/8924Dents; Relief flaws
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/048Activation functions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/06Recognition of objects for industrial automation

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Software Systems (AREA)
  • Evolutionary Computation (AREA)
  • Chemical & Material Sciences (AREA)
  • Pathology (AREA)
  • Biochemistry (AREA)
  • Immunology (AREA)
  • Analytical Chemistry (AREA)
  • Artificial Intelligence (AREA)
  • Computing Systems (AREA)
  • Textile Engineering (AREA)
  • Data Mining & Analysis (AREA)
  • General Engineering & Computer Science (AREA)
  • Mathematical Physics (AREA)
  • Medical Informatics (AREA)
  • Biomedical Technology (AREA)
  • Molecular Biology (AREA)
  • Signal Processing (AREA)
  • Quality & Reliability (AREA)
  • Computational Linguistics (AREA)
  • Multimedia (AREA)
  • Biophysics (AREA)
  • Biodiversity & Conservation Biology (AREA)
  • Databases & Information Systems (AREA)
  • Image Analysis (AREA)
  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
  • Image Processing (AREA)

Abstract

学習済みモデルの生成方法は、鋼材表面の欠陥部の分布を示した画像であり、かつ同一画像サイズの欠陥マップと、該欠陥マップに予め付与された周期性欠陥の有無と、を含む教師画像を用いて、鋼材表面の欠陥部の分布を示した画像であり、かつ画像サイズが前記同一画像サイズである欠陥マップを入力値、該欠陥マップ内における周期性欠陥の有無に関する値を出力値とする学習済みモデルを機械学習により生成する。

Description

本発明は、学習済みモデルの生成方法、学習済みモデル、表面欠陥検出方法、鋼材の製造方法、合否判定方法、等級判定方法、表面欠陥判定プログラム、合否判定プログラム、判定システム、及び鋼材の製造設備に関する。
鋼板の製造ラインでは、製品表面の品質保証や品質管理のため、表面欠陥の検査が行われている。近年は判定システムの導入が進んでおり、検査の自動化や省力化が図られている。近年導入されている鋼材判定システムは、主に照明、カメラによる光学系と画像処理系とからなる検査システムが主流である。これらは、欠陥部において光が散乱することで生じる受光光量の差に基づいて欠陥を検出している。
圧延鋼板の場合、ロール表面の付着物、あるいは欠陥が鋼板に転写されて、鋼板の表面に欠陥が発生する場合がある。これらの欠陥は、長尺な鋼板である鋼帯では、その全長に渡って周期性をもって発生するので、周期性欠陥と呼ばれる。周期性欠陥は、その発生原因から一旦発生すると大量発生につながる。周期性欠陥は、極めて有害であるにもかかわらず、個々の欠陥は非常に微小なため、その検出は容易ではない。さらに、鋼帯の通板速度が速い高速ラインでは、周期性欠陥の検出が一層困難になる。
また、通板中に鋼板が蛇行すると周期性欠陥の幅方向(鋼板の流れ方向に直交する方向)における位置が大きく動くため、周期性欠陥を流れ方向に周期性のある欠陥として検出することが困難になることが知られている。
さらに、製造工程の都合により、実際に周期性欠陥が発生しているラインより下流のラインで周期性欠陥を検査する必要が生じることがある。例えば、酸洗ラインにおける周期性欠陥を冷間圧延後のCAL(Continuous Annealing Line:連続焼鈍ライン)において検査する場合が該当する。このように、検査ラインと欠陥発生ラインとが異なる場合、欠陥発生ラインにおいて発生した鋼板の蛇行の影響を、検査ラインにおいて検出した欠陥部の位置情報から判断することはさらに困難となる。
鋼板が蛇行した場合でも周期性欠陥を検出する方法として、幅方向に許容幅を設定する方法が知られている。具体的には、欠陥を検出した場合に、その欠陥から幅方向に一定の許容幅を設定し、この許容幅内において周期的に発生する(例えば3つ以上)欠陥を周期性欠陥と判定することにより、鋼板が蛇行した場合であっても周期性欠陥を検出することができる。
特許文献1には、幅方向の受光信号について鋼板の流れ方向における自己相関係数を演算して周期性欠陥を検出する方法が提案されている。
特許文献2では、欠陥の種別毎に欠陥の評価値と、該欠陥種が周期性欠陥種であるか否かとが予め設定される。さらに、周期性欠陥種に対しては、評価値の合計値の閾値が予め設定される。そして、欠陥を検出する信号レベル(欠陥検出の閾値)をノイズレベル近くに設定し、検出した欠陥の欠陥種を決定し、該欠陥種が周期性欠陥と判断された場合には、該欠陥が同じピッチで一定回数以上連続して発生し、その評価値の合計値が予め設定された評価値の合計値の閾値以上になったときに、該欠陥を周期性欠陥であると判定する方法が提案されている。
特許文献3には、被検体を磁化し、被検体から漏洩する磁束を磁気センサで検出する漏洩磁束法において、計測した信号の2次元マップに基づいて、欠陥と同程度の大きさの複数の小領域をロールピッチ相当で等間隔に配置し、その領域間の相関演算を行うことにより周期性欠陥を検出する方法が提案されている。
特開昭58−156842号公報 特開平7−198627号公報 特開2009−265087号公報
許容幅を設定する方法、及び特許文献2に記載の方法は、欠陥の幅方向の位置に着目し、欠陥の幅方向のずれ量を評価しているので、鋼板の蛇行の影響を大きく受ける。その結果、鋼板の蛇行により幅方向の位置のずれ量が大きくなった場合、周期性欠陥と判定できないことがある。一方、幅方向のずれに対する許容量を大きくすると、周期性欠陥ではない欠陥を周期性欠陥として検出(過検出)してしまう。
特許文献1に記載の方法は、幅方向の全信号を記憶し、この信号を検出すべきロールピッチの全てについて自己相関をとる演算を必要とすることから、極めて多大な記憶容量と演算時間とを要する。また、特許文献1に記載の方法において、感度を調整して多量に欠陥が検出された場合には、過検出となり、その中で自己相関演算によって多数の周期性欠陥として認識されてしまい、真の周期性欠陥が分からなくなってしまう可能性がある。
特許文献3に記載の方法は、特許文献1、2と異なり漏洩磁束法に関する技術であるが、この方法でも複数の小領域は幅方向の同じ位置に等間隔で位置するため、鋼板が大きく蛇行する場合には、周期性欠陥を検出できない。
本発明は、上記課題に鑑みてなされたものであって、鋼板が蛇行していても周期性欠陥を高精度で検出することができる学習済みモデルの生成方法、学習済みモデル、表面欠陥検出方法、鋼材の製造方法、合否判定方法、等級判定方法、表面欠陥判定プログラム、合否判定プログラム、判定システム、及び鋼材の製造設備を提供することを目的とする。
上述した課題を解決し、目的を達成するために、本発明の一態様に係る学習済みモデルの生成方法は、鋼材表面の欠陥部の分布を示した画像であり、かつ同一画像サイズの欠陥マップと、該欠陥マップに予め付与された周期性欠陥の有無と、を含む教師画像を用いて、鋼材表面の欠陥部の分布を示した画像であり、かつ画像サイズが前記同一画像サイズである欠陥マップを入力値、該欠陥マップ内における周期性欠陥の有無に関する値を出力値とする学習済みモデルを機械学習により生成する。
また、本発明の一態様に係る学習済みモデルの生成方法は、前記入力値として用いる前記欠陥マップの画像サイズが、前記同一画像サイズと異なる場合、該欠陥マップの画像サイズを前記同一画像サイズに変換して前記入力値とする。
また、本発明の一態様に係る学習済みモデルの生成方法は、鋼材表面の欠陥部の分布を示した画像であり、かつ前記教師画像と同一画像サイズである欠陥マップと、該欠陥マップに予め付与された周期性欠陥の有無とを含むテスト画像を用いて生成される学習済みモデルの生成方法であって、前記テスト画像の前記欠陥マップを前記学習済みモデルに入力し、該テスト画像における周期性欠陥の有無に関する値を出力させ、該周期性欠陥の有無に関する値に基づいて、前記テスト画像における周期性欠陥の有無を判定し、前記判定された周期性欠陥の有無と前記予め付与された周期性欠陥の有無とを比較して正答率を算出し、前記算出された正答率に応じて、前記学習済みモデルの生成条件を調整する。
また、本発明の一態様に係る学習済みモデルの生成方法は、前記学習済みモデルの生成条件の調整は、前記同一画像サイズを画像サイズが異なる他の同一画像サイズへ変更することである。
また、本発明の一態様に係る学習済みモデルの生成方法は、前記同一画像サイズとして、互いに画像サイズが異なる複数種類の同一画像サイズを設定し、前記設定された各同一画像サイズの前記教師画像と前記テスト画像との組を用いて、前記正答率を前記複数種類の同一画像サイズ毎に算出し、前記算出された正答率が最も高い同一画像サイズの教師画像とテスト画像とを用いて、学習済みモデルを生成する。
また、本発明の一態様に係る学習済みモデルは、鋼材の表面の欠陥部の分布を示した画像であり、かつ同一画像サイズの欠陥マップが、判定画像として入力される入力層と、前記判定画像に対する周期性欠陥の有無に関する値を出力する出力層と、前記判定画像と同一画像サイズである欠陥マップを入力、前記欠陥マップに対する周期性欠陥の有無に関する値を出力とする教師画像を用いて、パラメータが学習された中間層とを備え、前記同一画像サイズである判定画像を入力層に入力し、前記中間層にて計算し、前記出力層から周期性欠陥の有無に関する値を出力するよう、コンピュータを機能させる。
また、本発明の一態様に係る表面欠陥検出方法は、鋼材の表面を撮像した撮像データを取得するステップと、前記撮像データに基づいて、欠陥部の分布を示す欠陥マップを作成するステップと、前記欠陥マップの画像サイズを同一画像サイズに変換して、前記欠陥マップごとに判定画像を作成するステップと、前記判定画像を学習済みモデルに入力して、周期性欠陥の有無に関する値を出力させ、該周期性欠陥の有無に関する値に基づいて、前記判定画像に対する周期性欠陥の有無を判定するステップと、を含む。
また、本発明の一態様に係る表面欠陥検出方法は、前記学習済みモデルは、前記判定画像が入力された際に、前記周期性欠陥の有無に関する値を出力するように、前記判定画像と同一画像サイズの教師画像を用いて機械学習が施されたものである。
また、本発明の一態様に係る鋼材の製造方法は、表面欠陥検出方法を用いて、鋼材の表面の周期性欠陥を検出し、該検出結果に応じて製造条件を制御して鋼材を製造する。
また、本発明の一態様に係る合否判定方法は、鋼材の表面を撮像した撮像データを取得するステップと、前記撮像データに基づいて、欠陥部の分布を示す欠陥マップを作成するステップと、前記欠陥マップの画像サイズを同一画像サイズに変換して、前記欠陥マップごとに判定画像を作成するステップと、前記判定画像を学習済みモデルに入力して、周期性欠陥の有無に関する値を出力させ、該周期性欠陥の有無に関する値に基づいて、前記鋼材に対する合否を判定するステップと、を含む。
また、本発明の一態様に係る鋼材の合否判定方法は、前記学習済みモデルは、前記判定画像が入力された際に、前記周期性欠陥の有無に関する値を出力するように、前記判定画像と同一画像サイズの教師画像を用いて機械学習が施されたものである。
また、本発明の一態様に係る鋼材の製造方法は、合否判定方法を利用して、鋼材の合否を判定し、該判定結果に応じて製造条件を制御して鋼材を製造する。
また、本発明の一態様に係る等級判定方法は、鋼材の表面を撮像した撮像データを取得するステップと、前記撮像データに基づいて、欠陥部の分布を示す欠陥マップを作成するステップと、前記欠陥マップの画像サイズを同一画像サイズに変換して、前記欠陥マップごとに判定画像を作成するステップと、前記判定画像を学習済みモデルに入力して、周期性欠陥の有無に関する値を出力させ、該周期性欠陥の有無に関する値に基づいて、前記判定画像に対する周期性欠陥の有無を判定するステップと、前記欠陥部に基づいて、前記判定画像の欠陥混入率を計算するステップと、前記計算された欠陥混入率と、前記判定画像に対する周期性欠陥の有無の判定結果とに基づいて、前記判定画像に対応する前記鋼材の等級を判定するステップと、を含む。
また、本発明の一態様に係る等級判定方法は、鋼材の表面を撮像した撮像データを取得するステップと、前記撮像データに基づいて、欠陥部の分布を示す欠陥マップを作成するステップと、前記欠陥マップの画像サイズを同一画像サイズに変換して、前記欠陥マップごとに判定画像を作成するステップと、前記判定画像を学習済みモデルに入力して、周期性欠陥の有無に関する値を出力させ、該周期性欠陥の有無に関する値に基づいて、前記鋼材に対する合否を判定するステップと、前記欠陥部に基づいて、前記判定画像の欠陥混入率を計算するステップと、前記計算された欠陥混入率と、前記鋼材に対する合否の判定結果とに基づいて、前記判定画像に対応する前記鋼材の等級を判定するステップと、を含む。
また、本発明の一態様に係る鋼材の製造方法は、等級判定方法を利用して、鋼材を等級ごとに分別する分別ステップを含む。
また、本発明の一態様に係る表面欠陥判定プログラムは、鋼材の表面を撮像した撮像データを取得するステップと、前記撮像データに基づいて、欠陥部の分布を示す欠陥マップを作成するステップと、前記欠陥マップの画像サイズを同一画像サイズに変換して、前記欠陥マップごとに判定画像を作成するステップと、前記判定画像を学習済みモデルに入力して、周期性欠陥の有無に関する値を出力させ、該周期性欠陥の有無に関する値に基づいて、前記判定画像に対する周期性欠陥の有無を判定するステップと、を含む処理をコンピュータに実行させる。
また、本発明の一態様に係る合否判定プログラムは、鋼材の表面を撮像した撮像データを取得するステップと、前記撮像データに基づいて、欠陥部の分布を示す欠陥マップを作成するステップと、前記欠陥マップの画像サイズを同一画像サイズに変換して、前記欠陥マップごとに判定画像を作成するステップと、前記判定画像を学習済みモデルに入力して、周期性欠陥の有無に関する値を出力させ、該周期性欠陥の有無に関する値に基づいて、前記鋼材に対する合否を判定するステップと、を含む処理をコンピュータに実行させる。
また、本発明の一態様に係る判定システムは、鋼材の表面を撮像した撮像データに基づいて、欠陥部の分布を示す欠陥マップを作成する欠陥マップ作成部と、前記欠陥マップの画像サイズを同一画像サイズに変換して、前記欠陥マップごとに判定画像を作成するサイズ変換部と、機械学習済みの学習済みモデルに対して、前記判定画像を入力し、周期性欠陥の有無に関する値を出力する周期性欠陥判定部と、前記周期性欠陥の有無に関する値に基づいて、前記判定画像に対する周期性欠陥の有無を判定する、及び/または、前記鋼材の合否を判定する判定部と、を備え、前記学習済みモデルは、前記判定画像が入力された際に、前記周期性欠陥の有無に関する値を出力するように、前記判定画像と同一画像サイズの教師画像を用いて機械学習が施されたものである。
また、本発明の一態様に係る鋼材の製造設備は、判定システムを備える。
本発明によれば、鋼板が蛇行していても周期性欠陥を高精度で検出することができる学習済みモデルの生成方法、学習済みモデル、表面欠陥検出方法、鋼材の製造方法、合否判定方法、等級判定方法、表面欠陥判定プログラム、合否判定プログラム、判定システム、及び鋼材の製造設備を実現することができる。
図1は、本発明の実施の形態1に係る鋼材判定システムの構成を示す模式図である。 図2は、学習済みモデルの構成を示す模式図である。 図3は、学習済みモデルを生成する流れを示すフローチャートである。 図4は、欠陥マップの一例を示す図である。 図5は、欠陥マップの一例を示す図である。 図6は、画像サイズを変換する前の欠陥マップの一例を示す図である。 図7は、画像サイズを変換した後の欠陥マップの一例を示す図である。 図8は、本実施の形態で用いたCNNの例を説明するための図である。 図9は、用意した教師画像用欠陥マップ及びテスト画像用欠陥マップの枚数の一例を示す図である。 図10は、テスト判定結果の一例を示す図である。 図11は、テスト判定結果の他の一例を示す図である。 図12は、従来技術によるテスト判定結果の一例を示す図である。 図13は、同一画像サイズを60×120画素に設定した際の、教師画像及びテスト画像に対する正答率の変化を示すグラフである。 図14は、同一画像サイズを120×240画素に設定した際の、教師画像及びテスト画像に対する正答率の変化を示すグラフである。 図15は、同一画像サイズを240×480画素に設定した際の、教師画像及びテスト画像に対する正答率の変化を示すグラフである。 図16は、図13〜図15において、テスト画像に対する最高正答率と同一画像サイズとの関係をプロットしたグラフである。 図17は、図16のプロット点の正答率の値及び最高正答率の時のエポック数を示す表である。 図18は、鋼材の周期性欠陥の有無を判定する流れを示すフローチャートである。 図19は、図18の判定画像作成処理を示すフローチャートである。 図20は、図18の判定を示すフローチャートである。 図21は、周期性欠陥を含む欠陥マップの一例を示す図である。 図22は、周期性欠陥を含まない欠陥マップの一例を示す図である。 図23は、図18の判定を示すフローチャートである。 図24は、図18の判定を示すフローチャートである。 図25は、本発明の実施の形態2に係る鋼材判定システムの構成を示す模式図である。 図26は、図18の判定を示すフローチャートである。 図27は、図18の判定を示すフローチャートである。
以下、図面を参照して、本発明の一実施形態である学習済みモデルの生成方法、学習済みモデル、表面欠陥検出方法、鋼材の製造方法、合否判定方法、等級判定方法、表面欠陥判定プログラム、合否判定プログラム、判定システム、及び鋼材の製造設備について説明する。はじめに、判定システムの概要を説明する。続いて、この判定システムで用いる表面欠陥を検出するための学習済みモデルについて説明する。その後、この学習済みモデルの生成方法を説明する。そして、学習済みモデルを用いた表面欠陥検出方法、その表面欠陥検出方法を用いた鋼材の製造方法、合否判定方法、その合否判定方法を用いた鋼材の製造方法、鋼材の製造設備、及び等級判定方法を順に説明する。
本発明は、周期性欠陥を有する可能性がある鋼材であれば、鋼材一般に対して適用できるが、以下においては鋼板Pを例に説明する。鋼板Pは、例えば、冷延鋼板、表面処理鋼板、酸洗鋼板、熱延鋼板、電磁鋼板等の蛇行の影響を受ける可能性のある工程を経て製造された鋼板である。さらに、本発明は、長尺な鋼板である鋼帯にも適用することができる。鋼帯に対して適用する場合には、長い範囲で発生しやすい周期性欠陥により製品品質が大きく損なわれることを防ぐ効果が特に顕著である。
(実施の形態1)
〔鋼材判定システム〕
図1は、本発明の実施の形態1に係る鋼材判定システムの構成を示す模式図である。図1に示すように、本発明の実施の形態1に係る鋼材判定システム1は、照明装置2と、撮像装置3と、画像処理部4と、鋼材判定部5と、を備えている。
鋼材判定システム1は、後述する学習済みモデルを用いて鋼板Pの表面に周期性欠陥があるか否かを判定する鋼板Pの判定システムである。
照明装置2は、光源として、鋼材判定システム1の検査対象である鋼板Pの表面を照明する。照明装置2は、鋼材判定システム1に用いられる光源であればよく、例えば、LED光源、白熱光源、ストロボ、またはメタハラ光源である。
撮像装置3は、照明装置2によって照明された鋼板Pの表面を撮像し、その後、得られた鋼板P表面の画像の電子データを画像処理部4に伝送する。撮像装置3は、1次元撮像素子を有する所謂ラインセンサカメラまたは2次元撮像素子を有する所謂エリアカメラのいずれでもよいが、いずれの場合にも鋼板Pの搬送に同期して撮像が行われる。撮像装置3がラインセンサカメラである場合、照明装置2として連続点灯照明が用いられる。撮像装置3がエリアカメラである場合には、照明装置2として鋼板Pが一定距離進む毎に閃光を発するフラッシュ照明が用いられる。撮像装置3に用いられる撮像素子は、CCD(Charge Coupled Device)であってよいが、CMOS(Complementary Metal Oxide Semiconductor)であってもよい。また、撮像装置3は、照明の正反射、拡散反射のいずれを撮像してもよい。図1では、1組の光源とカメラとを図示しているが、光源及びカメラはそれぞれ複数であってもよい。例えば、1組の光源とカメラとを正反射で配置し、もう1組の光源とカメラとを拡散反射で配置する2組の光学系でもよい。さらに、2組の光源とカメラとをそれぞれ拡散反射で配置してもよいし、3組以上の光源とカメラとを組み合わせてもよい。また、鋼板Pの幅方向を複数に分割し、複数組の光源とカメラとに分けて撮像し、後で画像を合成してもよい。なお、通常、光源とカメラとの間には、色ガラスフィルタ、IRカットフィルタ、偏光フィルタ等、種々の光学素子が配置されるが、図1では省略した。
画像処理部4は、撮像装置3から伝送された鋼板P表面の画像のデータを解析して鋼板P表面に表面欠陥があればそれらを検出し、且つ、それら表面欠陥の種別や有害度を判定して、その情報を鋼材判定部5に出力する。
画像処理部4は、データ取得部41、画像補正部42、欠陥検出部43、欠陥判定部44、及び欠陥マップ作成部45を内部に備えている。画像処理部4は、CPU(Central Processing Unit)等の各種演算回路、メモリやハードディスク等の記憶装置を用いて実現される。画像処理部4内の各ブロックは、演算回路によって実行されるプログラムによって実現される。すなわち、画像処理部4は、このプログラムの実行を通じて、データ取得部41、画像補正部42、欠陥検出部43、欠陥判定部44、及び欠陥マップ作成部45として機能する。
鋼材判定部5は、サイズ変換部51、周期性欠陥判定部52、及び判定部53を内部に備えている。鋼材判定部5は、CPU等の各種演算回路、メモリやハードディスク等の記憶装置を用いて実現される。鋼材判定部5内の各ブロックは、演算回路によって実行されるプログラムによって実現される。すなわち、鋼材判定部5は、このプログラムの実行を通じて、サイズ変換部51、周期性欠陥判定部52、及び判定部53として機能する。また、鋼材判定部5は、液晶または有機EL(Electro Luminescence)等からなる表示パネルを有する表示部55を備える。
鋼材判定システム1は、必要に応じて機械学習部6を備えてもよい。機械学習部6は、サイズ変換部61、モデル作成部62、及び正答率算出部63を内部に備えている。機械学習部6は、CPU等の各種演算回路、メモリやハードディスク等の記憶装置を用いて実現される。機械学習部6内の各ブロックは、演算回路によって実行されるプログラムによって実現される。すなわち、機械学習部6は、このプログラムの実行を通じて、サイズ変換部61、モデル作成部62、及び正答率算出部63として機能する。また、機械学習部6は、液晶または有機EL等からなる表示パネルを有する表示部65を備える。
画像処理部4、鋼材判定部5、及び機械学習部6は、それぞれ別のコンピュータからなる構成であってよい。この場合、画像処理部4、鋼材判定部5、及び機械学習部6は、それぞれマウス及びキーボード等の図示しない入力部や表示部を有する。なお、図1には、鋼材判定部5の表示部55及び機械学習部6の表示部65を図示しているが、入力部や画像処理部4の表示部は図示していない。
また、図1においては、画像処理部4と鋼材判定部5とは、電気的に接続されている。そのため、画像処理部4で作成された後述する欠陥マップや欠陥部等の電子データは、画像処理部4から鋼材判定部5へ伝送されることが可能となっている。
また、機械学習部6は、必要な時に、画像処理部4と鋼材判定部5とのそれぞれに電気的に接続できるようになっている。例えば、学習済みモデルの再学習が必要となった場合、画像処理部4から欠陥マップのバックアップデータと、鋼材判定部5から欠陥マップに対応する周期性欠陥の有無の電子データとを、それぞれ機械学習部6へ入力することができる。そして、機械学習部6で再学習が施された学習済みモデルは、電子データとして、機械学習部6から鋼材判定部5へ出力することができる。
また、機械学習部6のモデル作成部62は、クラウドコンピューティングを利用したものでもよい。この場合、モデル作成部62は、サイズ変換部61と正答率算出部63とへ、ネット(例えば、インターネットやローカルエリアネットワーク等)を通じて接続される。また、この場合、サイズ変換部61と正答率算出部63も、同じまたは別のクラウドコンピューティングを利用したものであってもよい。逆に、サイズ変換部61と正答率算出部63とを備えることを不要としてもよい。また、学習済みモデルがベンダー(ユーザへ製品を提供している会社)やメーカー等からクラウドコンピューティング等を利用して提供される場合、機械学習部6のモデル作成部62を設けなくてもよい。この場合、さらに、サイズ変換部61と正答率算出部63とを設けないのであれば、鋼材判定システム1は、機械学習部6を備えないシステムとなる。
また、画像処理部4、鋼材判定部5、及び機械学習部6は、1つのコンピュータからなる構成であってもよく、画像処理部4、鋼材判定部5、及び機械学習部6のうち、いずれか2つが1つのコンピュータからなる構成であってもよい。鋼材判定部5及び機械学習部6が1つのコンピュータからなる構成の場合には、サイズ変換部51とサイズ変換部61とは、同一の部であってよい。また、表示部65,55も同一の部であってもよい。
また逆に、画像処理部4、鋼材判定部5、及び機械学習部6は、それぞれが1つ以上のコンピュータからなる構成であってもよい。演算回路への負荷が高い処理を行う場合においては、1つ以上のコンピュータから構成することが望ましい。特に、後述する学習済みモデルを生成する機械学習部6は、1つ以上のコンピュータから構成することが望ましい。また、このコンピュータには、クラウドコンピューティングを利用したものも含まれる。
〔学習済みモデル〕
次に、本発明に係る実施の形態1が、周期性欠陥を検出するために用いる学習済みモデルについて説明する。本発明の学習済みモデルは、人工知能ソフトウエアの一部であるプログラムモジュールとしての利用が想定されており、CPU及び記憶装置を備えるコンピュータ(本明細書内においては、鋼材判定部5)にて用いられる。学習済みモデルは、教師画像の欠陥マップの画像サイズと同一画像サイズである欠陥マップを入力値、その欠陥マップにおける周期性欠陥の有無に関する値を出力値とする学習済みモデルである。欠陥マップは、有害な欠陥であると判定された欠陥部の2次元分布を示した画像である。言い換えれば、欠陥マップは、欠陥部が点によりプロットされた画像である。
図2は、学習済みモデルの構成を示す模式図である。図2における学習済みモデルは、入力層71と中間層72と出力層73と、を備える。ここで、入力層71には、鋼板Pの表面の欠陥部の分布を示した画像であり、かつ教師画像と同一画像サイズの欠陥マップが、判定画像として入力される。中間層72は、判定画像と同一画像サイズである欠陥マップを入力、欠陥マップに対する周期性欠陥の有無に関する値を出力とする教師画像を用いて、パラメータが学習されている。出力層73からは、判定画像に対する周期性欠陥の有無に関する値が出力される。
そして、学習済みモデルは、教師画像と同一画像サイズである判定画像を入力層71に入力し、中間層72にて計算し、出力層73から周期性欠陥の有無に関する値を出力するようコンピュータを機能させる。なお、判定画像は、周期性欠陥の有無を判定される対象となる画像であり、鋼板Pの表面の欠陥部の2次元分布を示した画像であり、かつ教師画像と同一画像サイズの欠陥マップある。教師画像については後述する。また、以下において、同一画像サイズとは、判定画像、教師画像、及び後述するテスト画像の欠陥マップの画像サイズを同じサイズに統一する際の画像サイズである。なお、以上に説明した学習済みモデルは、その機能から、分類器(Classifier)と言い換えることもできる。
〔学習済みモデルの生成方法〕
次に、この学習済みモデルの生成方法を説明する。なお、学習済みモデルの生成は、1度行えばよく、生成した学習済みモデルを用いて、繰り返し鋼板Pの表面の周期性欠陥を検出することができる。また、本発明の学習済みモデルは、CPU及び記憶装置を備えるコンピュータ(本明細書内においては、機械学習部6)にて生成される。また、このコンピュータには、クラウドコンピューティングを利用したものも含まれる。
図3は、学習済みモデルを生成する流れを示すフローチャートである。図3の最初の処理において、矢印が2つあるが、これはステップS1〜S3の処理と、ステップS4、S5の処理とを、並行して行ってよいことを示している。以降のフローチャートにおいても、2本の矢印は同様の処理を意味する。また、矢印の分岐も同様の処理を意味する。なお、ステップS1〜S3の処理を行った後にステップS4、S5の処理を行ってもよい。また、ステップS1とステップS4との処理、ステップS2とステップS4との処理をそれぞれまとめて行い、その後にステップS3の処理を行ってもよい。
図3に示すように、まず、欠陥マップと、その欠陥マップに予め付与された周期性欠陥の有無と、を教師画像用のデータ組として複数用意する(ステップS1)。教師画像用欠陥マップは、長さや幅が異なる鋼板Pの表面を予め撮像した撮像データから作成される。
図4、図5は、欠陥マップの一例を示す図である。図4、図5において、黒く表示された部分が欠陥部である。図4は、周期性欠陥を有しない欠陥マップの一例であり、図5は、周期性欠陥Dを有する欠陥マップの一例である。予め用意した全ての欠陥マップには、それぞれ対応する周期性欠陥の有無が予め作成されており、各欠陥マップとその欠陥マップにおける周期性欠陥の有無とがそれぞれ対応づけられている。
続いて、サイズ変換部61は、教師画像用のデータ組に含まれる各欠陥マップの画像サイズを、同一画像サイズに変換するサイズ変換処理を行う(ステップS2)。この処理を行うことにより、欠陥マップとその欠陥マップに予め付与された周期性欠陥の有無とを含む教師画像が用意される。
鋼板Pは、製造条件ごとに長さ、幅が異なるため、その鋼板Pに対応する欠陥マップも長さ、幅が異なるものとなっている。図6は、画像サイズを変換する前の欠陥マップの一例を示す図である。図6に示すように、例えば、長さ100m、幅1500mmの鋼板B1を撮像して作成された欠陥マップと、長さ75m、幅900mmの鋼板B2を撮像して作成された欠陥マップがあるとする。鋼板B1及び鋼板B2には、周期間隔8m、蛇行量460mmの同程度の周期、蛇行量の周期性欠陥が発生したとする。なお、同一の製造装置を用いて同時期に鋼板を製造すると、発生する周期性欠陥は、同程度の周期、蛇行量となりやすい。
図7は、画像サイズを変換した後の欠陥マップの一例を示す図である。図7に示すように、サイズ変換部61は、鋼板B1に対応する欠陥マップと、鋼板B2に対応する欠陥マップとをそれぞれ120×240画素の画像サイズ(同一画像サイズ)に変換する。すると、サイズ変換後の欠陥マップC1には、周期間隔19画素、蛇行量37画素の周期性欠陥が発生しており、サイズ変換後の欠陥マップC2には、周期間隔26画素、蛇行量61画素の周期性欠陥が発生していることとなる。すなわち、サイズ変換部61が欠陥マップを同一サイズに変換することにより、異なる周期、蛇行量の周期性欠陥を含む教師画像を用いて機械学習するのと同様の効果が得られる。このように、サイズ変換部61が、教師画像用欠陥マップの画像サイズを同一サイズに変換して教師画像とすることにより、多くのバリエーションの周期性欠陥を含む教師画像を用いて機械学習するのと同等の効果が得られるため、効率よく機械学習を行うことができる。
なお、初回の同一画像サイズは、適当に設定した画像サイズを用いてよい。また、教師画像の欠陥マップの画像サイズが統一されていないまま機械学習を行い、後述する正答率の結果に基づいて好適な画像サイズを決定してから、サイズ変換部61により教師画像の欠陥マップを同一画像サイズに変換してもよい。また、同一画像サイズとして、互いに画像サイズが異なる複数種類の同一画像サイズを設定し、設定した各同一画像サイズにおいて後述する正答率を算出し、算出された正答率が予め定めた閾値以上か最も高くなる画像サイズを決定し、決定した同一画像サイズで学習済みモデルを生成してもよい。
なお、いずれの場合においても、サイズ変換部61を用いずに、他のコンピュータ等を用いて、予め欠陥マップの画像サイズが同一画像サイズにされた教師画像を用意してもよい。
一方、ステップS4において、ステップS1と同様に、鋼板P表面の欠陥部の2次元分布を示した画像である欠陥マップと、その欠陥マップに付与された周期性欠陥の有無と、をテスト画像用のデータ組として複数用意する。テスト画像用欠陥マップも、前述の教師画像用欠陥マップと同じく、長さや幅が異なる鋼板Pの表面を予め撮像した撮像データから作成される。
続いて、ステップS5において、ステップS2と同様に、サイズ変換部61は、テスト画像用のデータ組に含まれる各欠陥マップの画像サイズを、前述の教師画像の欠陥マップと同一画像サイズに変換するサイズ変換処理を行う。この処理を行うことにより、欠陥マップとその欠陥マップに予め付与された周期性欠陥の有無とを含むテスト画像が用意される。
教師画像を用意した後、モデル作成部62は、ステップS2で用意した教師画像を用いて、学習済みモデルを機械学習により生成するモデル作成処理を行う(ステップS3)。換言すると、モデル作成部62が入力値として用いる欠陥マップの画像サイズが、同一画像サイズと異なる場合、ステップS2の処理によって、サイズ変換部61が欠陥マップの画像サイズを同一画像サイズに変換してから入力値とする。
本実施の形態で用いられる機械学習は、深層学習(Deep Learnig(ディープラーニング))が望ましく、その中でも、特に、畳み込みニューラルネットワーク(Convolutional Neural Networks、以下、省略してCNNと称する。)を用いることがより望ましい。これら深層学習を用いる場合、特にCNNを用いる場合は、2層以上のニューラルネットワークを備えていればよい。CNNを用いる場合、学習済みモデルまたは分類器は、畳み込みニューラルネットワークシステムと言い換えることができる。
本実施の形態にて用いたCNNの例を、図8を用いて詳細に説明する。図8は、欠陥部の2次元分布画像である欠陥マップと、周期性欠陥の有無に関する値とを結びつけるニューラルネットワークモデルを、CNNを用いて実現した例である。
まず、入力層71には、入力データとして、120×240画素の欠陥マップが入力される。
次に、中間層72として、第1畳み込み層7201からドロップアウト層7213までを備える。
まず、第1畳み込み層7201では、欠陥マップの特徴を抽出し、120×240×128chのデータが作成される。
続いて、第1活性化関数7202では、Rectifier Linear Unit(ReLU)が適用される。
さらに、第1プーリング層7203では、重要な情報を残しながらサイズを縮小して、120×240×256chのデータが作成される。
その後、第2畳み込み層7204、第2活性化関数7205、及び第2プーリング層7206では、第1畳み込み層7201、第1活性化関数7202、及び第1プーリング層7203と同様の処理が行われ、60×120×256chのデータが作成される。
さらに、第3畳み込み層7207、第3活性化関数7208、及び第3プーリング層7209においても同様の処理が行われ、30×60×16chのデータが作成される。
そして、第1全結合層7210では、ノードの結合の重み付けを行い、15×30×16chのデータが作成される。
さらに、第4活性化関数7211では、ReLUが適用される。
その後、第2全結合層7212では、ノードの結合の重み付けを行い、16chのデータが作成される。そして、ドロップアウト層7213を経由して過学習を防ぐ。
最後に、出力層73から出力データとして、入力した欠陥マップに対して周期性欠陥の有無に関する値を出力する。周期性欠陥の有無に関する値とは、入力した欠陥マップが、周期性欠陥が無い確率x%、周期性欠陥が有る確率y%である。
複数の教師画像を用いた機械学習が完了した後、テスト画像の欠陥マップを、ステップS3において作成した学習済みモデルに入力する(ステップS6)。すると、学習済みモデルは、入力したテスト画像における周期性欠陥の有無に関する値を出力する。さらに、正答率算出部63は、学習済みモデルが出力した周期性欠陥の有無に関する値に基づいて、テスト画像における周期性欠陥の有無を判定する。その後、正答率算出部63は、各テスト画像について、判定された周期性欠陥の有無と、ステップS4において予め付与された周期性欠陥の有無とを比較して、正答率を算出する。
ここで、図9で準備した全欠陥マップを用いて得られた、複数種類の同一画像サイズと正答率の例を説明する。この説明により、教師画像の欠陥マップ、テスト画像の欠陥マップ及び後述する判定画像の欠陥マップの画像サイズを同一画像サイズとすることの技術的重要性が、明確になる。
図9は、用意した教師画像用欠陥マップ及びテスト画像用欠陥マップの枚数の一例を示す図である。図9に示すように、まず、長さや幅が異なる鋼板Pの表面を予め撮像した撮像データから作成した1544枚の欠陥マップ(全欠陥マップ)を用意した。これらの欠陥マップは、予め人により周期性欠陥の有無が判定されており、周期性欠陥が無いと判定された欠陥マップが1102枚、周期性欠陥が有ると判定された欠陥マップが442枚である。
全欠陥マップのうち、ランダムに選択した80%(1230枚)の欠陥マップは、教師画像用欠陥マップに用いた。教師画像用欠陥マップとそれらに付与された周期性欠陥の有無のデータとのデータ組は、機械学習によって学習済みモデルを作成するために用いられる。なお、教師画像用欠陥マップに用いた1230枚の欠陥マップには、周期性欠陥が無いと判定された欠陥マップが881枚、周期性欠陥が有ると判定された欠陥マップが349枚それぞれ含まれている。
一方、全欠陥マップのうち、残りの20%(314枚)の欠陥マップをテスト画像用欠陥マップに用いた。テスト画像用欠陥マップとそれらに付与された周期性欠陥の有無のデータとのデータ組は、前述の教師画像を用いて作成された学習済みモデルの正答率を確認するテストを行う際に用いられる。なお、テスト画像用欠陥マップに用いた314枚の欠陥マップには、周期性欠陥が無いと判定された欠陥マップが221枚、周期性欠陥が有ると判定された欠陥マップが93枚それぞれ含まれている。
図10と図11は、テスト判定結果の一例を示す図である。図10は、サイズ変換部61において、教師画像及びテスト画像の欠陥マップの画像サイズを、240×480画素の同一画像サイズとした場合の判定結果である。正答率は、(周期性欠陥なしを周期性欠陥なしと判定した数+周期性欠陥ありを周期性欠陥ありと判定した数)/(テスト画像の総数)と定義することができ、正答率=(209+80)/314=92.0%と算出することができる。また、過検率は、(周期性なしを周期性ありと判定した数)/(テスト画像の総数)と定義することができ、過検率=12/314=3.8%と算出することができる。
図11は、サイズ変換部61において、教師画像及びテスト画像の欠陥マップの画像サイズを、120×240画素の同一画像サイズとした場合の判定結果である。正答率は、(211+82)/314=93.3%と算出することができる。また、過検率は、10/314=3.2%と算出することができる。
図3に戻り、算出された正答率が閾値以上であった場合(ステップS7:Yes)、機械学習部6は、学習済みモデルの生成を終了する。例えば、正答率の閾値が90%である場合、図10に示す同一画像サイズを240×480画素に設定した場合においても、図11に示す同一画像サイズを120×240画素に設定した場合においても、ステップS7の条件が満たされる。
一方、算出された正答率が閾値より小さかった場合(ステップS7:No)、ステップS2及びステップS5に戻り、サイズ変換部61が、同一画像サイズにされている教師画像及びテスト画像の欠陥マップの画像サイズを、現在の同一画像サイズとは画像サイズが異なる他の同一画像サイズへ変更する。なお、画像サイズの変更の仕方は特に限定されない。例えば、現在の同一画像サイズより大きい画像サイズと小さい画像サイズとの双方の画像サイズを新たな同一画像サイズとして設定し、双方の画像サイズにおいて正答率を算出し、正答率が高くなる方向に画像サイズを繰り返し変更して、正答率が閾値以上となる画像サイズを検出すればよい。また、表示部65に、算出された正答率や、図10や図11のような教師画像及びテスト画像の情報等を表示させ、それらの情報からユーザが変更する画像サイズを入力してもよい。
なお、図10及び図11に示した正答率の計算例において、正答率、過検率ともに120×240画素の方がより画像サイズが大きい240×480画素よりも改善している。一般に、機械学習において、画像サイズが大きいほど位置情報の分解能が高くなり判定の精度がよくなるが、情報量が多くなるため計算の負担が大きくなる。しかしながら、上述した結果においては、画像サイズが小さい120×240画素の方が判定の精度がよい。これは、画像サイズを大きくしすぎると、隣り合う周期性欠陥を連続的なものととらえにくくなるためと考えられる。ただし、画像サイズを小さくし過ぎると、隣り合う周期性欠陥を区別できなくなるため好ましくない。なお、画像サイズと正答率との関係については、後で説明する。
また、画像サイズは、120×240画素、または240×480画素に限られない。発明者が試したところ、鋼板Pの幅方向が60〜600画素、長さ方向が120〜1200画素の範囲が、計算量と欠陥の位置情報の分解能のバランスとから適切な画像サイズの範囲であると考えられるが、幅方向が60〜180画素、長さ方向が120〜360画素とすると計算時間が短くなりより好適であると考えられる。
また、上述した例では、同一画像サイズを繰り返し変更する例を説明したが、これに限られない。例えば、同一画像サイズとして、互いに画像サイズが異なる複数種類の同一画像サイズを設定し、設定した各同一画像サイズにおいて正答率を算出し、算出された正答率が予め定められた閾値以上か最も高くなる画像サイズにおいて、学習済みモデルを生成してもよい。例えば、互いに画像サイズが異なる複数種類の同一画像サイズとして、図10及び図11で説明した240×480画素及び120×240画素を設定したとすると、より正答率が高い120×240画素において学習済みモデルが作成される。
また、本発明との比較のため、従来技術を用いた場合の正答率及び過検率を算出した。従来技術として、欠陥を検出した場合に、その欠陥から幅方向に一定の許容幅を設けて、この許容幅内において周期的に発生する欠陥を周期性欠陥と判定する判定方法を用いた。以下の判定において、許容幅は5mmとした。図12は、従来技術によるテスト判定結果の一例を示す図である。図12に示すように、正答率は、(844+401)/1544=80.6%、過検率は、258/1544=16.7%である。この結果と学習済みモデルによる判定結果とを対比すると、学習済みモデルによって、正答率、過検率ともに大幅に改善されていることを確認することができる。
ここで、画像サイズと正答率との関係に対する知見について、図13〜図17を参照しながら説明する。本検討では、30×60画素、60×120画素、120×240画素、240×480画素、480×960画素の5種類の画像サイズを同一画像サイズとした。この5種類の同一画像サイズ毎に、上述した学習モデルの生成方法によって学習済みモデルを作成し、それぞれの正答率を確認した。その結果、同一画像サイズが大きい程、判定の精度(すなわち正答率)がよくなるわけでないことが明らかになった。
各画像サイズの正答率の確認方法は、次の通りである。本検討では、教師画像(教師画像用欠陥マップとそれらに付与された周期性欠陥の有無のデータとのデータ組)及びテスト画像(テスト画像用欠陥マップとそれらに付与された周期性欠陥の有無のデータとのデータ組)に、図9で準備した全欠陥マップを用いた。枚数と内訳は、図9に示されたとおりである。すなわち、教師画像用欠陥マップが1230枚、テスト画像用欠陥マップが314枚である。さらに、教師画像用欠陥マップの内、周期性欠陥が無いと判定された欠陥マップが881枚、周期性欠陥が有ると判定された欠陥マップが349枚である。一方、テスト画像用欠陥マップの内、周期性欠陥が無いと判定された欠陥マップが221枚、周期性欠陥が有ると判定された欠陥マップが93枚である。
続いて、これらの教師画像を用いて同一画像サイズ毎に、上述した学習済みモデルの生成方法によって学習済みモデルを作成した。次に、同一画像サイズ毎に作成された学習済みモデルに対し、同じ同一画像サイズのテスト画像を用いて、周期性欠陥の有無を推定させた。これら教師画像による学習過程とテスト画像の推定過程において、エポック数を最大100まで変化させた場合の損失関数と正答率も合わせて算出した。
図13〜図15は、同一画像サイズを60×120画素、120×240画素、240×480画素にそれぞれ設定した際の正答率の例を示すグラフである。図13〜図15において、縦軸は正答率、横軸はエポック数である。グラフ中の点線が、テスト画像に対する正答率である。参考までに、同じグラフ中に実線で、教師画像に対する正答率も載せておく。
算出したテスト画像に対する正答率の内、同一画像サイズ毎の最高値を、その同一画像サイズにおける正答率とした。図16は、上述の方法で求めた正答率を、同一画像サイズを横軸にしてプロットしたグラフである。また、図17は、上述の方法で求めた正答率を数値で示している。また、図17に併記したエポック数は、テスト画像の最高正答率時におけるエポック数を示している。図16及び図17に示すように、5種類の同一画像サイズのうち、同一画像サイズを120×240画素に設定した場合の正答率が最も高かった。つまり、同一画像サイズが大きい程、判定の精度(すなわち正答率)が良くなるわけでないことが分かる。従って、学習済みモデルを生成する際、及び学習済みモデルを使用する際には、入力値となる画像の画像サイズをただ単に大きくするのではなく、正答率が許容できる範囲に入ると予想される画像サイズを選択し、同一画像サイズとして使用することが、技術的に好ましい。また、正答率が許容範囲に入ると予想される画像サイズの中でも、より高い正答率の画像サイズを選択して使用することが、非常に好ましい。
以上説明した学習済みモデルの生成方法によれば、教師画像及びテスト画像の欠陥マップが同一画像サイズとなるように画像サイズを変更してから、機械学習が施された学習済みモデルを生成するため、正答率の高い学習済みモデル(または分類器、さらに限定された場合は畳み込みニューラルネットワークシステム)を得ることができる。さらに、正答率が閾値以上になるように学習済みモデルの生成条件を調整して機械学習が施された学習済みモデルを生成するため、より正答率の高い学習済みモデルを得ることができる。ここで、学習済みモデルの生成条件の調整の具体的な方法としては、ニューラルネットワーク(本実施の形態においてはCNN)の中間層数を増やす、中間層の組み合わせ方を変える、及び教師画像をさらに増やして再学習させる等、公知の方法を用いることができる。また、本発明独自の方法としては、教師画像及びテスト画像の欠陥マップの同一画像サイズを別の同一画像サイズへ変換する方法を、用いることができる。さらに、この学習済みモデルを用いて欠陥マップを判定することにより、鋼材表面の周期性欠陥が大きく蛇行していても、人力によらず自動的に高精度で検出することができる。
〔鋼材の表面欠陥検出方法〕
次に、図18〜図22を参照して、作成した学習済みモデルを用いた鋼材の表面欠陥検出方法を詳細に説明する。
図18は、鋼材の周期性欠陥の有無を判定する流れを示すフローチャートである。図18に示すように、まず、照明装置2から鋼板Pの表面に照明光を照射し、撮像装置3が、照明光が照射された鋼板Pの表面を撮像する(ステップS21)。撮像装置3が撮像した電子データである撮像データは、画像処理部4に出力される。
続いて、画像処理部4は、判定画像を生成する判定画像作成処理を行う(ステップS22)。判定画像は、学習済みモデルによって周期性欠陥の有無等を判定される対象となる画像である。
図19は、図18の判定画像作成処理を示すフローチャートである。図19に示すように、画像処理部4は、撮像装置3が出力した撮像データに対して前処理を行う(ステップS31)。データ取得部41は、撮像装置3と接続し、撮像装置3が撮像した像を電子データとして、画像処理部4が取り込めるようにする。まず、データ取得部41は、内部に一時記憶領域を有し、撮像装置3から伝送された鋼板P表面の撮像データを順次一時記憶領域にバッファリングする。そして、データ取得部41は、撮像装置3がエリアセンサやCCDであり、撮像データが所定の大きさの2次元画像である場合、2次元画像データを画像補正部42に出力する。また、データ取得部41は、撮像装置3がラインセンサであり、撮像データが一次元データである場合、所定の長さの撮像データを結合させた2次元画像データにして画像補正部42に出力する。画像補正部42は、データ取得部41が出力した2次元画像データに対して、エッジ検出、輝度むらの補正(シェーディング補正)、輝度調整等の画像補正を行う。
続いて、欠陥検出部43は、予め鋼板Pの材料や種類等に基づいて定められた閾値を用いて、各2次元画像データにおいて輝度値が閾値以上の点を欠陥候補部として抽出し、その幅、長さ、位置、輝度の最大値、最小値、平均輝度などの特徴量を計算する欠陥検出処理を行う(ステップS32)。
その後、欠陥判定部44は、ステップS3で算出された欠陥候補部ごとの特徴量に基づいて、有害/無害の判定、大きさ、欠陥の種別、及び重篤度等を判定する欠陥判定処理を行う(ステップS33)。なお、以下において、欠陥候補部のうち、欠陥判定部44が有害であると判定した欠陥候補部を欠陥部という。また、欠陥部のデータには、少なくとも欠陥の種別、重篤度、大きさ、座標が含まれる。
さらに、欠陥マップ作成部45は、欠陥判定部44が判定した欠陥部データから、欠陥部の2次元分布を示す欠陥マップを作成する(ステップS34)。
その後、単数または複数の判定対象となる欠陥マップは、鋼材判定部5へ伝達される。
そして、鋼材判定部5のサイズ変換部51は、各欠陥マップの画像サイズを教師画像と同一画像サイズに変換するサイズ変換処理を行う(ステップS35)。具体的には、判定対象となる欠陥マップの画像サイズが、予め設定された同一画像サイズよりも大きかった場合、サイズ変換部51は、画像サイズを小さくして同一画像サイズと同じとする。逆に、判定対象となる欠陥マップの画像サイズが、予め設定された同一画像サイズよりも小さかった場合は、画像サイズを大きくして同一画像サイズと同じとする。なお、教師画像と同一画像サイズとは、学習済みモデルを作成する際の教師画像の欠陥マップの画像サイズであり、教師画像の欠陥マップの画像サイズから、予め設定される。言い換えれば、ステップS35においては、使用される学習済みモデルを作成する際に選択された教師画像及びテスト画像の欠陥マップの同一画像サイズが、判定画像の欠陥マップにも用いられる。
以上説明した処理によって、教師画像及びテスト画像と同一画像サイズの欠陥マップである判定画像が作成される。判定画像は、周期性欠陥の有無を判定する対象となる画像であるから、この時点では周期性結果の有無は未知(未判定)である。そして、判定画像は、この後の処理により、学習済みモデルによって周期性の有無が判定される。
鋼材判定部5のサイズ変換部51は、前述したステップS2、S4におけるサイズ変換部61と機能は同一であるが、役割は異なる。ステップS35におけるサイズ変換部51は、互いに異なった画像サイズの欠陥マップを、予め設定された同一画像サイズに固定し、統一するのが役割である。前述のサイズ変換部61の場合は、学習済みモデルの正答率を上げるために、特定の同一画像サイズに固定されている教師画像とテスト画像とを、別の同一画像サイズへ変更するのが役割である。
図18に戻り、鋼材判定部5は、判定画像に対する判定を行う(ステップS23)。判定は、鋼材判定部5が行う処理であり、ここでは、鋼板Pの周期性欠陥の有無等を判定する処理である。
図20は、図18の判定ステップS23を示すフローチャートである。図20中の、周期性欠陥判定部52は、判定画像が周期性欠陥を有する画像であるか否かを判定する周期性欠陥判定処理を行う(ステップS41)。具体的には、周期性欠陥判定部52は、判定画像を学習済みモデルに入力し、周期性欠陥の有無に関する値を出力する。周期性欠陥の有無に関する値とは、判定画像が周期性欠陥が無い画像である確率x%、及び判定画像が周期性欠陥が有る画像である確率y%である。
続いて、判定部53は、判定画像に対する判定を行う判定処理を行う(ステップS42)。判定処理は、判定部53が行う処理であり、ここでは、判定部53が、判定画像が周期性欠陥を有する画像であるか否かを判定する処理である。具体的には、判定部53は、周期性欠陥判定部52が算出した確率xに基づいて、判定画像が周期性欠陥が無い画像であるか否かを判定する(ステップS421)。判定部53は、周期性欠陥判定部52が算出した判定画像が周期性欠陥が無い画像である確率x%が閾値以上である場合に、判定画像が周期性欠陥が無い画像であると判定し、確率x%が閾値より小さい場合に、判定画像が周期性欠陥が有る画像であると判定する。なお、判定部53は、周期性欠陥判定部52が算出した確率y、または確率x及び確率yの双方を用いて、判定画像が周期性欠陥が無い画像であるか否かを判定してもよい。
図18に戻り、鋼材判定部5は、例えば表示部55に判定結果を表示することや、判定結果を記憶装置に記憶することにより、判定結果を出力し(ステップS24)、一連の処理を終了する。
以上説明した鋼材の表面欠陥検出方法によれば、学習済みモデル(または分類器、さらに限定された場合は畳み込みニューラルネットワークシステム)を用いることにより、鋼板Pが蛇行している場合であっても、周期性欠陥の有無を、人の目視によらず自動的に高精度で判定することができる。
次に、従来技術と本発明の鋼材の表面欠陥検出方法との比較結果について説明する。図21は、周期性欠陥を含む欠陥マップの一例を示す図である。図21の(a)〜(c)は、いずれも周期性欠陥を含む欠陥マップであり、鋼材の表面欠陥検出方法及び従来技術のいずれによっても周期性欠陥を含むと判定された。
図22は、周期性欠陥を含まない欠陥マップの一例を示す図である。図22の(a)、(b)は、いずれも周期性欠陥を含まない欠陥マップであり、鋼材の表面欠陥検出方法には、周期性欠陥を含まないと判定され、従来技術には、周期性欠陥を含むと判定された。すなわち、鋼材の表面欠陥検出方法は、従来技術では検出できなかった周期性欠陥を検出することができたことを実証することできた。
なお、上述した鋼材の表面欠陥検出方法を用いて、鋼材の表面の周期性欠陥を検出し、その検出結果に応じて製造条件を制御することにより、鋼材を製造する鋼材の製造方法としてもよい。表面欠陥検出方法以外の鋼材の製造方法は、公知のものや既存のものを利用することができる。製造条件の制御として、例えば、周期性欠陥の原因と考えられる圧延ロールや搬送用のロールを洗浄または交換する。その結果、周期性欠陥を速やかに発見することができ、製造された鋼材の品質が低下することを防止することができる。鋼材の中でも鋼板、特に、長尺な鋼板である鋼帯を製造する場合には、長い範囲で発生しやすい周期性欠陥により製品品質が大きく損なわれることを防ぐ効果が顕著である。
〔鋼材の合否判定方法〕
次に、図23を参照して、作成した学習済みモデルを用いた鋼材の合否判定方法を詳細に説明する。鋼板Pの合否判定方法では、図20に示すステップS42に代えて、図23に示すS42の処理を行う。ステップS21、S22、及びS24の処理は、上述した処理と同様の処理であるから説明を省略する。
図23は、図18の判定ステップS23を示すフローチャートである。図23に示すように、ステップS41、S421の処理は、上述した処理と同様の処理であるから説明を省略する。ステップS42において、判定部53は、判定画像に対応する鋼板Pが合格であるか否かを判定する(ステップS422)。判定部53は、判定画像が周期性欠陥が無い画像であると判定されている場合、その判定画像に対応する鋼板Pを合格と判定し、判定画像が周期性欠陥が有る画像であると判定されている場合、その判定画像に対応する鋼板Pを不合格と判定する。
なお、上述した鋼材の合否判定方法を用いて、鋼材の合否を判定し、その判定結果に応じて製造条件を制御することにより、鋼材を製造する鋼材の製造方法としてもよい。合否判定方法以外の鋼材の製造方法は、公知のものや既存のものを利用することができる。製造条件の制御として、例えば、判定が不合格である原因と考えられる圧延ロールや搬送用のロールを洗浄または交換する。その結果、周期性欠陥を有することにより判定が不合格である鋼材を速やかに発見することができ、製造された鋼材の品質が低下することを防止することができる。鋼材の中でも鋼板、特に、長尺な鋼板である鋼帯を製造する場合には、長い範囲で発生しやすい周期性欠陥により製品品質が大きく損なわれることを防ぐ効果が顕著である。
〔鋼材の合否判定方法の変形例1〕
図24は、図18の判定ステップS23を示すフローチャートである。図24に示すように、ステップS41の処理は、上述した処理と同様の処理であるから説明を省略する。ステップS42において、判定部53は、周期性欠陥判定部52が算出した確率x及び確率yに基づいて、判定画像に対応する鋼板Pが合格であるか否かを判定する(ステップS423)。判定部53は、周期性欠陥判定部52が算出した判定画像が周期性欠陥が無い画像である確率x%がA%以上である場合(ステップS423:Yes)、その判定画像に対応する鋼板Pを合格と判定し、確率x%がA%より小さい場合(ステップS423:No)、その判定画像に対応する鋼板Pを不合格と判定する。このように、判定画像が周期性欠陥が無い画像であるか否かの判定を行わずに、直接鋼板Pの合否を判定してもよい。
(実施の形態2)
図25は、本発明の実施の形態2に係る鋼材判定システムの構成を示す模式図である。図25に示すように、実施の形態2に係る鋼材判定システム1において、鋼材判定部5は、欠陥混入率計算部54を備える。照明装置2、撮像装置3、画像処理部4、鋼材判定部5、機械学習部6、データ取得部41、画像補正部42、欠陥検出部43、欠陥判定部44、欠陥マップ作成部45、サイズ変換部51,61、周期性欠陥判定部52、判定部53、表示部55,65、モデル作成部62、及び正答率算出部63は、実施の形態1で説明したものと同じであるから、説明を省略する。
〔鋼材の合否判定方法の変形例2〕
図26は、図18の判定ステップS23を示すフローチャートである。図26に示すように、ステップS41、S421の処理は、上述した処理と同様の処理であるから説明を省略する。また、図26の最初の処理において、矢印が2つに記載されているが、これはステップS41の処理と、ステップS43の処理とを、並行して行ってよいことを示している。
ステップS43において、欠陥混入率計算部54は、欠陥混入率を算出する欠陥混入率判定処理を行う。欠陥混入率は、欠陥マップにおける単位面積あたりの欠陥部の個数に基づいて算出される値である。
ステップS424において、判定部53が、判定画像が対応する鋼板Pを合格と判定した場合(ステップS424:Yes)、判定部53は、その判定画像に対応する欠陥マップの欠陥混入率がZ%以下であるか否かを判定する(ステップS425)。判定部53が、欠陥混入率がZ%以下であると判定した場合(ステップS425:Yes)、判定部53は、その判定画像に対応する鋼板Pを合格と判定する。一方、判定部53が、欠陥混入率がZ%より大きいと判定した場合(ステップS425:No)、判定部53は、その判定画像に対応する鋼板Pを不合格と判定する。
〔鋼材の合否判定方法の変形例3〕
また、変形例3として、図26のステップS421とS424とに代えて、図24のステップS423を用いてもよい。つまり、ステップS423において、判定部53は、周期性欠陥の無い画像である確率x%がA%以上(ステップS423:Yes)と判定した判定画像を、ステップS425へ進め、確率x%がA%より小さい(ステップS423:No)と判定された判定画像に対応する鋼板Pを不合格と判定する。この場合は、1ステップ分処理が減るので、より迅速に処理が行えることが期待できる。
なお、上述した鋼材の合否判定方法を用いて、鋼材の合否を判定し、その判定結果に応じて製造条件を制御することにより、鋼材を製造する鋼材の製造方法としてもよい。合否判定方法以外の鋼材の製造方法は、公知のものや既存のものを利用することができる。製造条件の制御として、例えば、判定が不合格である原因と考えられる圧延ロールや搬送用のロールを洗浄または交換する。その結果、周期性欠陥を有することにより判定が不合格である鋼材を速やかに発見することができ、製造された鋼材の品質が低下することを防止することができる。上述した変形例1〜3を用いる場合には、加えて、圧延ロールや搬送用ロールの洗浄または交換をすぐに行う必要があるのか否かを判断できる。この結果、より効率的な制御、例えば、許容できない欠陥の発生を直ちに抑制するなど、が可能となる。鋼材の中でも鋼板、特に、長尺な鋼板である鋼帯を製造する場合には、長い範囲で発生しやすい周期性欠陥により製品品質が大きく損なわれることを防ぐ効果が顕著である。
以上説明した鋼材の合否判定方法によれば、周期性欠陥の有無だけでなく、周期性欠陥の混入率を踏まえて鋼板Pの合否を判定することができる。
〔鋼材の等級判定方法〕
次に、図27を参照して、作成した学習済みモデルを用いた鋼材の等級判定方法を詳細に説明する。鋼板Pの等級判定方法では、図26に示すステップS42に代えて、図27に示すS42の処理を行う。ステップS21、S22、及びS24の処理は、上述した処理と同様の処理であるから説明を省略する。
図27は、図18の判定ステップS23を示すフローチャートである。図27に示すように、ステップS41、S43、S421の処理は、上述した処理と同様の処理であるから説明を省略する。
ステップS424において、判定部53が、判定画像が対応する鋼板Pを合格と判定した場合(ステップS424:Yes)、判定部53は、その判定画像に対応する欠陥マップの欠陥混入率がZ1%以下であるか否かを判定する(ステップS426)。判定部53が、欠陥混入率がZ1%以下であると判定した場合(ステップS426:Yes)、判定部53は、その判定画像に対応する欠陥マップの欠陥混入率がZ2%以下であるか否かを判定する(ステップS427)。判定部53が、欠陥混入率がZ2%以下であると判定した場合(ステップS427:Yes)、判定部53は、その判定画像に対応する欠陥マップの欠陥混入率がZ3%以下であるか否かを判定する(ステップS428)。判定部53が、欠陥混入率がZ3%以下であると判定した場合(ステップS428:Yes)、判定部53は、その判定画像に対応する鋼板Pの等級が1級であると判定する。
ステップS428において、判定部53が、欠陥混入率がZ3%より大きいと判定した場合(ステップS428:No)、判定部53は、その判定画像に対応する鋼板Pの等級が2級であると判定する。
ステップS427において、判定部53が、欠陥混入率がZ2%より大きいと判定した場合(ステップS427:No)、判定部53は、その判定画像に対応する鋼板Pの等級が3級であると判定する。
ステップS426において、判定部53が、欠陥混入率がZ1%より大きいと判定した場合(ステップS426:No)、判定部53は、その判定画像に対応する鋼板Pを不合格と判定する。
以上説明した鋼材の等級判定方法によれば、周期性欠陥を有する鋼板Pを不合格にするとともに、周期性欠陥を有しない鋼板Pを欠陥混入率に基づいて等級を分類することができる。この場合においても、学習済みモデル(または分類器、さらに限定された場合は畳み込みニューラルネットワークシステム)を用いているため、鋼板Pが蛇行している場合であっても、周期性欠陥の有無を高精度に判定して、鋼板Pの等級を判定することができる。
なお、上述した鋼材の等級判定方法では、ステップS421の後、ステップS422において鋼板Pの合否を判定したがこれに限られない。ステップS421の後、判定部53は、ステップS424で判定画像に対する周期性欠陥の有無を判定し、周期性欠陥が無いと判定された場合にステップS426〜428の鋼板Pの等級の分類をまとめて1度に行い、周期性欠陥が有ると判定された場合に鋼板Pを不合格と判定してもよい。
また、上述した鋼材の等級判定方法では、判定部53がステップS424、S426、S427、S428の処理を順に行う処理を説明したが、これに限られない。判定部53は、周期性欠陥の有無及び欠陥混入率が入力されると、鋼板Pの合否及び等級を出力するテーブルを有していてもよい。この場合、判定部53に周期性欠陥の有無及び欠陥混入率を入力すると、判定部53は、鋼板Pが合格かつ欠陥混入率がZ3以下である場合には1級、鋼板Pが合格かつ欠陥混入率がZ3より大きくZ2以下である場合には2級、鋼板Pが合格かつ欠陥混入率がZ2より大きくZ1以下である場合には3級、鋼板Pが不合格または欠陥混入率がZ1より大きい場合には不合格とする判定を出力する。
また、変形例として、図27のステップS421とS424とに代えて、図24のステップS423を用いてもよい。つまり、ステップS423において、判定部53は、周期性欠陥の無い画像である確率x%がA%以上(ステップS423:Yes)と判定した判定画像を、ステップS426へ進め、確率x%がA%より小さい(ステップS423:No)と判定された判定画像に対応する鋼板Pを不合格と判定する。この場合は、1ステップ分処理が減るので、より迅速に処理が行えることが期待できる。
なお、鋼材の製造方法は、上述した鋼材の等級判定方法を用いて、鋼材の等級を判定し、その判定結果を用いて等級毎に鋼材を分別する分別ステップを備えることができる。等級判定方法以外の鋼材の製造方法は、公知のものや既存のものを利用することができる。この場合、鋼材を等級別に分別することができる。その結果、種類は同じだが等級の異なる鋼材を適切な用途先へと出荷することができる。この場合でも、不合格の鋼材が任意の量を超えるようであれば、製造条件を制御してもよい。製造条件の制御として、例えば、判定が不合格である原因と考えられる圧延ロールや搬送用のロールを洗浄または交換する。その結果、周期性欠陥を有することにより判定が不合格である鋼材を速やかに発見することができ、製造された鋼材の品質が低下することを防止することができる。鋼材の中でも鋼板、特に、長尺な鋼板である鋼帯を製造する場合には、長い範囲で発生しやすい周期性欠陥により製品品質が大きく損なわれることを防ぐ効果が顕著である。
なお、鋼材の製造設備は、上述した鋼材判定システムを備えることができる。鋼材判定システム以外の鋼材の製造設備は、公知のものや既存のものを利用することができる。その結果、周期性欠陥を有する鋼材を速やかに発見することができ、製造された鋼材の品質が低下することを防止することができる。また、上述した鋼材判定システムは、少なくとも1つ以上のロールを備えた製造設備に備えられた場合に、より高い効果が得られる。何故ならば、上記効果に加え、鋼材に周期性欠陥が発生する原因と考えられる圧延ロールや搬送用のロールを洗浄または交換する時期についても、周期性欠陥を有する鋼材の発生量に基づいて判断することが容易となるためである。これら鋼材の製造設備の中でも鋼板の製造設備、特に、長尺な鋼板である鋼帯を製造する設備の場合には、特に高い効果を得られる。何故ならば、上記効果に加え、長い範囲で発生しやすい周期性欠陥により製品品質が大きく損なわれることを防ぐ効果が顕著であるためである。
以上、本発明者らによってなされた発明を適用した実施の形態について説明したが、本実施形態による本発明の開示の一部をなす記述及び図面により本発明は限定されることはない。すなわち、本実施形態に基づいて当業者等によりなされる他の実施の形態、実施例、及び運用技術等は全て本発明の範疇に含まれる。
1 鋼材判定システム
2 照明装置
3 撮像装置
4 画像処理部
5 鋼材判定部
6 機械学習部
41 データ取得部
42 画像補正部
43 欠陥検出部
44 欠陥判定部
45 欠陥マップ作成部
51、61 サイズ変換部
52 周期性欠陥判定部
53 判定部
54 欠陥混入率計算部
55、65 表示部
62 モデル作成部
63 正答率算出部
71 入力層
72 中間層
73 出力層
D 周期性欠陥
P 鋼板

Claims (19)

  1. 鋼材表面の欠陥部の分布を示した画像であり、かつ同一画像サイズの欠陥マップと、該欠陥マップに予め付与された周期性欠陥の有無と、を含む教師画像を用いて、
    鋼材表面の欠陥部の分布を示した画像であり、かつ画像サイズが前記同一画像サイズである欠陥マップを入力値、該欠陥マップ内における周期性欠陥の有無に関する値を出力値とする学習済みモデルを機械学習により生成する、学習済みモデルの生成方法。
  2. 前記入力値として用いる前記欠陥マップの画像サイズが、前記同一画像サイズと異なる場合、該欠陥マップの画像サイズを前記同一画像サイズに変換して前記入力値とする、請求項1に記載の学習済みモデルの生成方法。
  3. 鋼材表面の欠陥部の分布を示した画像であり、かつ前記教師画像と同一画像サイズである欠陥マップと、該欠陥マップに予め付与された周期性欠陥の有無とを含むテスト画像を用いて生成される学習済みモデルの生成方法であって、
    前記テスト画像の前記欠陥マップを前記学習済みモデルに入力し、該テスト画像における周期性欠陥の有無に関する値を出力させ、該周期性欠陥の有無に関する値に基づいて、前記テスト画像における周期性欠陥の有無を判定し、
    前記判定された周期性欠陥の有無と前記予め付与された周期性欠陥の有無とを比較して正答率を算出し、
    前記算出された正答率に応じて、前記学習済みモデルの生成条件を調整する、請求項1または2に記載の学習済みモデルの生成方法。
  4. 前記学習済みモデルの生成条件の調整は、前記同一画像サイズを画像サイズが異なる他の同一画像サイズへ変更することである、請求項3に記載の学習済みモデルの生成方法。
  5. 前記同一画像サイズとして、互いに画像サイズが異なる複数種類の同一画像サイズを設定し、
    前記設定された各同一画像サイズの前記教師画像と前記テスト画像との組を用いて、前記正答率を前記複数種類の同一画像サイズ毎に算出し、
    前記算出された正答率が最も高い同一画像サイズの教師画像とテスト画像とを用いて、学習済みモデルを生成する、請求項3に記載の学習済みモデルの生成方法。
  6. 鋼材の表面の欠陥部の分布を示した画像であり、かつ同一画像サイズの欠陥マップが、判定画像として入力される入力層と、
    前記判定画像に対する周期性欠陥の有無に関する値を出力する出力層と、
    前記判定画像と同一画像サイズである欠陥マップを入力、前記欠陥マップに対する周期性欠陥の有無に関する値を出力とする教師画像を用いて、パラメータが学習された中間層とを備え、
    前記同一画像サイズである判定画像を入力層に入力し、前記中間層にて計算し、前記出力層から周期性欠陥の有無に関する値を出力するよう、
    コンピュータを機能させるための学習済みモデル。
  7. 鋼材の表面を撮像した撮像データを取得するステップと、
    前記撮像データに基づいて、欠陥部の分布を示す欠陥マップを作成するステップと、
    前記欠陥マップの画像サイズを同一画像サイズに変換して、前記欠陥マップごとに判定画像を作成するステップと、
    前記判定画像を学習済みモデルに入力して、周期性欠陥の有無に関する値を出力させ、該周期性欠陥の有無に関する値に基づいて、前記判定画像に対する周期性欠陥の有無を判定するステップと、
    を含む、表面欠陥検出方法。
  8. 前記学習済みモデルは、前記判定画像が入力された際に、前記周期性欠陥の有無に関する値を出力するように、前記判定画像と同一画像サイズの教師画像を用いて機械学習が施された、請求項7に記載の表面欠陥検出方法。
  9. 請求項7または8に記載の表面欠陥検出方法を用いて、鋼材の表面の周期性欠陥を検出し、該検出結果に応じて製造条件を制御して鋼材を製造する、鋼材の製造方法。
  10. 鋼材の表面を撮像した撮像データを取得するステップと、
    前記撮像データに基づいて、欠陥部の分布を示す欠陥マップを作成するステップと、
    前記欠陥マップの画像サイズを同一画像サイズに変換して、前記欠陥マップごとに判定画像を作成するステップと、
    前記判定画像を学習済みモデルに入力して、周期性欠陥の有無に関する値を出力させ、該周期性欠陥の有無に関する値に基づいて、前記鋼材に対する合否を判定するステップと、
    を含む、合否判定方法。
  11. 前記学習済みモデルは、前記判定画像が入力された際に、前記周期性欠陥の有無に関する値を出力するように、前記判定画像と同一画像サイズの教師画像を用いて機械学習が施された、請求項10に記載の合否判定方法。
  12. 請求項10または11に記載の合否判定方法を利用して、鋼材の合否を判定し、該判定結果に応じて製造条件を制御して鋼材を製造する、鋼材の製造方法。
  13. 鋼材の表面を撮像した撮像データを取得するステップと、
    前記撮像データに基づいて、欠陥部の分布を示す欠陥マップを作成するステップと、
    前記欠陥マップの画像サイズを同一画像サイズに変換して、前記欠陥マップごとに判定画像を作成するステップと、
    前記判定画像を学習済みモデルに入力して、周期性欠陥の有無に関する値を出力させ、該周期性欠陥の有無に関する値に基づいて、前記判定画像に対する周期性欠陥の有無を判定するステップと、
    前記欠陥部に基づいて、前記判定画像の欠陥混入率を計算するステップと、
    前記計算された欠陥混入率と、前記判定画像に対する周期性欠陥の有無の判定結果とに基づいて、前記判定画像に対応する前記鋼材の等級を判定するステップと、
    を含む、等級判定方法。
  14. 鋼材の表面を撮像した撮像データを取得するステップと、
    前記撮像データに基づいて、欠陥部の分布を示す欠陥マップを作成するステップと、
    前記欠陥マップの画像サイズを同一画像サイズに変換して、前記欠陥マップごとに判定画像を作成するステップと、
    前記判定画像を学習済みモデルに入力して、周期性欠陥の有無に関する値を出力させ、該周期性欠陥の有無に関する値に基づいて、前記鋼材に対する合否を判定するステップと、
    前記欠陥部に基づいて、前記判定画像の欠陥混入率を計算するステップと、
    前記計算された欠陥混入率と、前記鋼材に対する合否の判定結果とに基づいて、前記判定画像に対応する前記鋼材の等級を判定するステップと、
    を含む、等級判定方法。
  15. 請求項13または14に記載の等級判定方法を利用して、鋼材を等級ごとに分別する分別ステップを含む鋼材の製造方法。
  16. 鋼材の表面を撮像した撮像データを取得するステップと、
    前記撮像データに基づいて、欠陥部の分布を示す欠陥マップを作成するステップと、
    前記欠陥マップの画像サイズを同一画像サイズに変換して、前記欠陥マップごとに判定画像を作成するステップと、
    前記判定画像を学習済みモデルに入力して、周期性欠陥の有無に関する値を出力させ、該周期性欠陥の有無に関する値に基づいて、前記判定画像に対する周期性欠陥の有無を判定するステップと、
    を含む処理をコンピュータに実行させるための表面欠陥判定プログラム。
  17. 鋼材の表面を撮像した撮像データを取得するステップと、
    前記撮像データに基づいて、欠陥部の分布を示す欠陥マップを作成するステップと、
    前記欠陥マップの画像サイズを同一画像サイズに変換して、前記欠陥マップごとに判定画像を作成するステップと、
    前記判定画像を学習済みモデルに入力して、周期性欠陥の有無に関する値を出力させ、該周期性欠陥の有無に関する値に基づいて、前記鋼材に対する合否を判定するステップと、
    を含む処理をコンピュータに実行させるための合否判定プログラム。
  18. 鋼材の表面を撮像した撮像データに基づいて、欠陥部の分布を示す欠陥マップを作成する欠陥マップ作成部と、
    前記欠陥マップの画像サイズを同一画像サイズに変換して、前記欠陥マップごとに判定画像を作成するサイズ変換部と、
    機械学習済みの学習済みモデルに対して、前記判定画像を入力し、周期性欠陥の有無に関する値を出力する周期性欠陥判定部と、
    前記周期性欠陥の有無に関する値に基づいて、前記判定画像に対する周期性欠陥の有無を判定する、及び/または、前記鋼材の合否を判定する判定部と、を備え、
    前記学習済みモデルは、前記判定画像が入力された際に、前記周期性欠陥の有無に関する値を出力するように、前記判定画像と同一画像サイズの教師画像を用いて機械学習が施された、判定システム。
  19. 請求項18に記載の判定システムを備えた鋼材の製造設備。
JP2020509542A 2018-12-25 2019-10-31 学習済みモデルの生成方法、学習済みモデル、表面欠陥検出方法、鋼材の製造方法、合否判定方法、等級判定方法、表面欠陥判定プログラム、合否判定プログラム、判定システム、及び鋼材の製造設備 Active JP6973623B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2018241213 2018-12-25
JP2018241213 2018-12-25
PCT/JP2019/042848 WO2020137151A1 (ja) 2018-12-25 2019-10-31 学習済みモデルの生成方法、学習済みモデル、表面欠陥検出方法、鋼材の製造方法、合否判定方法、等級判定方法、表面欠陥判定プログラム、合否判定プログラム、判定システム、及び鋼材の製造設備

Publications (2)

Publication Number Publication Date
JPWO2020137151A1 true JPWO2020137151A1 (ja) 2021-02-18
JP6973623B2 JP6973623B2 (ja) 2021-12-01

Family

ID=71127917

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020509542A Active JP6973623B2 (ja) 2018-12-25 2019-10-31 学習済みモデルの生成方法、学習済みモデル、表面欠陥検出方法、鋼材の製造方法、合否判定方法、等級判定方法、表面欠陥判定プログラム、合否判定プログラム、判定システム、及び鋼材の製造設備

Country Status (7)

Country Link
US (1) US20220044383A1 (ja)
EP (1) EP3904868A4 (ja)
JP (1) JP6973623B2 (ja)
KR (1) KR102636470B1 (ja)
CN (1) CN113260854A (ja)
MX (1) MX2021007733A (ja)
WO (1) WO2020137151A1 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112275807B (zh) * 2020-09-30 2022-11-18 首钢集团有限公司 一种热轧带钢轮廓边部平台的检测方法及装置
DE102021122939B4 (de) 2021-09-06 2023-06-01 Bayerische Motoren Werke Aktiengesellschaft Verfahren zum Beurteilen einer Oberfläche eines Karosseriebauteils sowie Verfahren zum Trainieren eines künstlichen neuronalen Netzes
JP2023042738A (ja) * 2021-09-15 2023-03-28 株式会社日立ハイテク 欠陥検査システム及び欠陥検査方法
KR20230073720A (ko) 2021-11-19 2023-05-26 부산대학교 산학협력단 딥러닝 모델을 이용한 냉연강판에서의 표면결함 자동분류를 위한 장치 및 방법
KR102471441B1 (ko) * 2021-12-20 2022-11-28 주식회사 아이코어 딥 러닝을 기반으로 고장을 검출하는 비전 검사 시스템

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010185868A (ja) * 2009-01-15 2010-08-26 Nippon Steel Corp 連続欠陥判定方法、連続欠陥判定装置及びプログラム
CN108242054A (zh) * 2018-01-09 2018-07-03 北京百度网讯科技有限公司 一种钢板缺陷检测方法、装置、设备和服务器

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS58156842A (ja) 1982-03-15 1983-09-17 Toshiba Corp ロ−ル疵検出装置
JPH07198627A (ja) 1994-01-06 1995-08-01 Nippon Steel Corp 金属表面欠陥検査装置
JP3507695B2 (ja) * 1998-04-30 2004-03-15 日本電信電話株式会社 カオスニューラルネットワークを用いた信号検出方法及び装置
KR100838723B1 (ko) * 2001-12-05 2008-06-16 주식회사 포스코 스트립표면 결함부의 검출 및 평점산출장치
JP4414658B2 (ja) * 2003-02-14 2010-02-10 株式会社メック 欠陥検査装置および欠陥検査方法
JP2004354250A (ja) * 2003-05-29 2004-12-16 Nidek Co Ltd 欠陥検査装置
JP5453861B2 (ja) 2008-03-31 2014-03-26 Jfeスチール株式会社 周期性欠陥検出装置及びその方法
JP2010139317A (ja) * 2008-12-10 2010-06-24 Mitsubishi Materials Corp 軸物工具表面の欠陥検査方法および装置
KR101271795B1 (ko) * 2011-08-10 2013-06-07 주식회사 포스코 주편 하면 검사 시스템 및 검사 방법
JP6447637B2 (ja) * 2015-06-25 2019-01-09 Jfeスチール株式会社 表面欠陥検出装置、表面欠陥検出方法、及び鋼材の製造方法
JP2018005640A (ja) * 2016-07-04 2018-01-11 タカノ株式会社 分類器生成装置、画像検査装置、及び、プログラム
WO2018165753A1 (en) * 2017-03-14 2018-09-20 University Of Manitoba Structure defect detection using machine learning algorithms
CN108021938A (zh) * 2017-11-29 2018-05-11 中冶南方工程技术有限公司 一种冷轧带钢表面缺陷在线检测方法以及检测系统

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010185868A (ja) * 2009-01-15 2010-08-26 Nippon Steel Corp 連続欠陥判定方法、連続欠陥判定装置及びプログラム
CN108242054A (zh) * 2018-01-09 2018-07-03 北京百度网讯科技有限公司 一种钢板缺陷检测方法、装置、设备和服务器

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
KOPACZKA ET AL.: "Automated Enhancement and Detection of Stripe Defects in Large Circular Weft Knitted Fabrics", 2016 IEEE 21ST INTERNATIONAL CONFERENCE ON EMERGING TECHNOLOGIES AND FACTORY AUTOMATION (ETFA), JPN6020002369, 2016, ISSN: 0004543977 *

Also Published As

Publication number Publication date
EP3904868A1 (en) 2021-11-03
KR20210091309A (ko) 2021-07-21
EP3904868A4 (en) 2023-01-25
JP6973623B2 (ja) 2021-12-01
CN113260854A (zh) 2021-08-13
WO2020137151A1 (ja) 2020-07-02
KR102636470B1 (ko) 2024-02-13
MX2021007733A (es) 2021-08-05
US20220044383A1 (en) 2022-02-10

Similar Documents

Publication Publication Date Title
JP6973623B2 (ja) 学習済みモデルの生成方法、学習済みモデル、表面欠陥検出方法、鋼材の製造方法、合否判定方法、等級判定方法、表面欠陥判定プログラム、合否判定プログラム、判定システム、及び鋼材の製造設備
Çelik et al. Development of a machine vision system: real-time fabric defect detection and classification with neural networks
JP2007132757A (ja) 外観検査方法および同装置
JP2008175549A (ja) 欠陥検出装置および欠陥検出方法
JP6753553B1 (ja) 表面欠陥検出方法、表面欠陥検出装置、鋼材の製造方法、鋼材の品質管理方法、鋼材の製造設備、表面欠陥判定モデルの生成方法、及び表面欠陥判定モデル
JPWO2019216303A1 (ja) 検査装置、検査方法、学習方法、及びプログラム
JP2010133846A (ja) 外観検査装置
JPH06148098A (ja) 表面欠陥検査装置
JP7415286B2 (ja) カラーフィルタ検査装置、検査装置、カラーフィルタ検査方法および検査方法
JP2019532426A (ja) 複数の処理システムの同期
RU2796806C2 (ru) Способ формирования обучаемой модели, обучаемая модель, способ контроля поверхностных дефектов, способ производства стали, способ определения соответствия/несоответствия, способ определения сорта, программа определения поверхностных дефектов, программа определения соответствия/несоответствия, система определения и оборудование для производства стали
TWI753424B (zh) 外觀檢查管理系統、外觀檢查管理裝置、外觀檢查管理方法以及程式
JPH10123066A (ja) 特異点検出装置及び方法
KR20150074942A (ko) 스캡 결함 검출 장치 및 방법
CN115668290A (zh) 使用深度学习来检查片材物品
WO2015159352A1 (ja) ウェブ検査装置、ウェブ検査方法、ウェブ検査プログラム
JPWO2020158630A1 (ja) 検出装置、学習器、コンピュータプログラム、検出方法及び学習器の生成方法
JP2007198803A (ja) 外観検査システム
CN112763511B (zh) 显示面板的线路缺陷的检测方法
Bukhari et al. Automated PCB Inspection System.
JP4889018B2 (ja) 外観検査方法
JP7447874B2 (ja) 鋼板の蛇行量推定モデルの生成方法、鋼板の蛇行量推定方法、鋼板の蛇行制御方法、及び鋼板の製造方法
JP2014135007A (ja) フラットパネルディスプレイの自動ムラ検出装置および自動ムラ検出方法
JP2001266122A (ja) 色ムラ欠陥検査方法及び装置
JP4382210B2 (ja) 周期性パターンの検査方法及び装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200218

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210105

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210226

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210706

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210825

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20211005

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20211018

R150 Certificate of patent or registration of utility model

Ref document number: 6973623

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150