JP2020106467A - 欠陥検査装置、欠陥検査方法、及びそのプログラム - Google Patents
欠陥検査装置、欠陥検査方法、及びそのプログラム Download PDFInfo
- Publication number
- JP2020106467A JP2020106467A JP2018247105A JP2018247105A JP2020106467A JP 2020106467 A JP2020106467 A JP 2020106467A JP 2018247105 A JP2018247105 A JP 2018247105A JP 2018247105 A JP2018247105 A JP 2018247105A JP 2020106467 A JP2020106467 A JP 2020106467A
- Authority
- JP
- Japan
- Prior art keywords
- defect
- image
- determination
- feature
- inspection apparatus
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000007547 defect Effects 0.000 title claims abstract description 381
- 238000007689 inspection Methods 0.000 title claims abstract description 254
- 238000000034 method Methods 0.000 title claims description 78
- 238000000605 extraction Methods 0.000 claims abstract description 80
- 238000001514 detection method Methods 0.000 claims description 17
- 230000008569 process Effects 0.000 description 60
- 238000013527 convolutional neural network Methods 0.000 description 55
- 238000012545 processing Methods 0.000 description 53
- 238000005259 measurement Methods 0.000 description 47
- 230000002950 deficient Effects 0.000 description 27
- 238000004364 calculation method Methods 0.000 description 24
- 238000007781 pre-processing Methods 0.000 description 24
- 230000006870 function Effects 0.000 description 17
- 238000012805 post-processing Methods 0.000 description 16
- 238000010586 diagram Methods 0.000 description 15
- 238000009826 distribution Methods 0.000 description 13
- 238000003384 imaging method Methods 0.000 description 11
- 238000004519 manufacturing process Methods 0.000 description 11
- 238000003860 storage Methods 0.000 description 9
- 239000000284 extract Substances 0.000 description 7
- 238000002360 preparation method Methods 0.000 description 7
- 210000002569 neuron Anatomy 0.000 description 5
- 238000011176 pooling Methods 0.000 description 4
- 238000004891 communication Methods 0.000 description 3
- 238000013139 quantization Methods 0.000 description 3
- 238000013528 artificial neural network Methods 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000004913 activation Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 238000012217 deletion Methods 0.000 description 1
- 230000037430 deletion Effects 0.000 description 1
- 238000011478 gradient descent method Methods 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/84—Systems specially adapted for particular applications
- G01N21/88—Investigating the presence of flaws or contamination
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/136—Segmentation; Edge detection involving thresholding
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/60—Analysis of geometric attributes
- G06T7/62—Analysis of geometric attributes of area, perimeter, diameter or volume
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/90—Determination of colour characteristics
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30108—Industrial image inspection
- G06T2207/30164—Workpiece; Machine component
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Computational Linguistics (AREA)
- Biomedical Technology (AREA)
- Data Mining & Analysis (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Biophysics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Quality & Reliability (AREA)
- Geometry (AREA)
- Chemical & Material Sciences (AREA)
- Analytical Chemistry (AREA)
- Biochemistry (AREA)
- Immunology (AREA)
- Pathology (AREA)
- Image Analysis (AREA)
- Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
Abstract
Description
本発明の一側面に係る欠陥検査装置は、検査対象物の検査画像を所得する取得部と、検査画像に対して、学習用の画像データを用いて1以上の特徴を抽出するように事前学習した学習済みの識別器を適用することで、1以上の特徴抽出画像を生成する画像生成部と、検査対象物における検出対象部位の有無を判定するための1以上の判定用パラメータと、特徴抽出画像に基づいて生成される2値化画像と、に基づいて欠陥に対応する領域を特定する検査部と、事前学習済みの特徴に基づいて欠陥に対応する領域を特定する場合に、特徴に対応する学習用の画像データの数が閾値未満であるときは、ユーザからの事後調整を前提として判定用パラメータを仮設定し、事前学習済みの特徴以外の特徴に基づいて欠陥に対応する領域を特定する場合に、ユーザからの指定に応じて判定用パラメータを設定する設定部を備える。これにより、欠陥の有無を判別するための判定用パラメータを適切かつ簡易に設定し、欠陥検出の誤判定を抑制できる。
まず、図1を用いて、本発明が適用される場面の一例について説明する。図1は、本実施形態に係る欠陥検査システム1の適用場面の一例を模式図である。本実施の形態に係る欠陥検査システム1は、検査対象を撮像することにより生成される入力画像に対して欠陥検査を行う際に、欠陥として抽出する特徴に応じて適切な判定用パラメータが設定されるように作業者(以下「ユーザ」ともいう。)を補助することができる。なお、検査対象は、例えば、製造過程にある、部品、製品等のワーク(Work piece)等を含む。
<1.欠陥検査装置100のハードウェア構成>
次に、本実施の形態に係る欠陥検査システム1に含まれる欠陥検査装置100のハードウェア構成について説明する。
次に、図3及び図4を参照して、本実施形態に係る欠陥検査システム1に含まれる欠陥検査装置100の機能構成について説明する。なお、図3においてCNNエンジン156が画像生成部に該当し、後処理部170(特に判定部162)が検査部に該当する。
入力バッファ152は、カメラ102により撮像された入力画像を一旦格納する。プロセッサ110がストレージ130に入力画像を記憶することで、入力バッファ152が実現される。入力バッファ152には、前処理部154および設定部166からのアクセスが可能である。
前処理部154は、入力バッファ152に格納される入力画像に対して必要な前処理を実行する。本実施形態に係る前処理部154は、検査工程の立ち上げ時(以下「準備工程」ともいう。)において前処理フィルタを生成する。前処理フィルタは例えば入力画像を変換するためのパラメータ(フィルタパラメータ)である。なお、前処理フィルタの具体例としては、明度補正、カラーグレー変換、後述する入力画像の拡大縮小、等が挙げられる。なお、前処理フィルタは、入力画像に態様により適宜適用すればよい。
・入力画像に含まれる欠陥に対応する領域の特徴量の幅が、内部パラメータに対応した特徴量の範囲に含まれるように、入力画像を拡大縮小する。
・入力画像に含まれる欠陥でない領域の特徴が、内部パラメータで抽出される特徴量に納まらないように入力画像を拡大縮小する。
CNNエンジン156は、事前学習された複数のクラスを有するCNNエンジン156を入力画像に適用することで、複数のクラスに対応する複数の特徴抽出画像をそれぞれ生成する特徴抽出画像生成機能を提供する。CNNエンジン156にてそれぞれ生成された複数の特徴抽出画像は後処理部170へ出力されるとともに、設定部166からのアクセスも可能になっている。
CNNエンジン156は、画像が入力された場合に、入力された画像があらかじめ指定された複数のクラス(分類:n)に属する確率prob(n)を出力するように構成されている。確率は、予め指定された複数のクラス(分類)ごとに算出される。本実施形態におけるCNNエンジン156は、事前学習により、入力画像が、いずれのクラスに属する画像であるかの確率prob(n)と、当該クラスに属する特徴抽出画像(特徴抽出画像1,特徴抽出画像2,・・・,特徴抽出画像N)を出力する(図4のS3)。本実施の形態において、複数のクラスは、背景、黒点、白点、黒線、白線、の5つのクラスである。カメラ102などにより撮像された入力画像がCNNエンジン156に入力されることで、これらのクラス「白点」、「黒点」、「白線」、「黒線」に分類される特徴を抽出した特徴抽出画像がそれぞれ生成される。図4に示す特徴抽出画像においては、各特徴を示す領域と他の領域との濃度差が大きくなるように表示されている。なお、濃度差を大きく表示する例として、他の領域よりも明るく表示する態様や、他の領域よりも暗くする態様を含み得るが、これらに限られず、所定の特徴を示す領域を区別可能な態様であればいかなる態様でもよい。
後処理部170は、CNNエンジン156から出力される複数の特徴抽出画像の少なくとも一部の特徴抽出画像に対して、後処理を行うことで計測結果画像を生成する。具体的には、後処理部170は、CNNエンジン156が出力した複数の特徴抽出画像のうち、指定された1つまたは複数の特徴抽出画像を選択し、後処理を実行することにより、計測結果画像を出力する(図4のS4)。1つまたは特徴抽出画像の選択は、図3に示すように設定部166を介してユーザによる指定を受け付けてもよい。なお、後処理部170は計測結果画像と併せて計測結果を出力してもよい。計測結果は、入力画像に対して欠陥検査処理を実行したときに得られる判定結果(例えば、欠陥の有無、欠陥パターンの大きさ、欠陥パターンの位置など)を含む。
2値化処理とは、判定部162が判定用パラメータに含まれる2値化レベルに従って、特徴抽出画像、または、複数の特徴抽出画像について画像演算部160が画像処理を施した画像(以下、「中間画像」という。)から2値化画像を生成する処理である。より詳細には、2値化処理として、判定部162は、まず、画像演算部160が出力した中間画像に対して判定用パラメータに含まれる2値化レベルに基づいて、2値化画像を生成する。2値化レベルとは、例えば、画素の強度に関する閾値である。例えば、判定部162が特徴抽出画像の濃度を白と黒の2値で表す2値化画像を生成する場合を例に説明する。この場合、もとの特徴抽出画像の濃度は連続した値を有するところ、判定部162は、2値化レベル以上の強度を有する画素をすべて黒に変換し、2値化レベル未満の強度を有する画素をすべて白に変換することで、特徴抽出画像を2値化した2値化画像を生成する。なお、強度と黒白との対応関係はこれに限定されず、逆でもよい。
設定部166は、判定部162が判定処理に用いる判定用パラメータを設定し、判定部162に出力する。本実施形態に係る設定部166は判定用パラメータを設定するモードとして、以下の3種類を有している。
・手動モード
・半自動モード
・全自動モード
手動モードでは、設定部166は、判定条件の設定として、判定項目の選択と選択された判定項目に設定する判定閾値(上限と下限)との設定をユーザから受け付ける。また、設定部166は手動モードでは2値化レベルの設定もユーザから受け付ける。設定部166は、受け付けた2値化レベルと判定条件とを判定パラメータとして判定部162に出力する。
半自動モードでは、設定部166は、判定用パラメータを仮設定したのち、ユーザからパラメータの調整を受け付けるモードであり、ユーザが判定用パラメータを調整自在な状態で判定用パラメータの仮設定を自動的に実行する設定モードである。図6を用いて半自動モードにおける設定部166の処理の一例について説明する。
全自動モードでは、設定部166は、入力画像に対して、欠陥として検出する領域(以下「欠陥領域」ともいう。)の指定をユーザから受け付け、当該指定された欠陥領域に基づいて判定用パラメータを自動設定する。図7乃至図9を用いて全自動モードにおける設定部166の処理の一例について説明する。
まず、設定部166はユーザから入力画像に対する欠陥領域の特定を受け付ける(S201)。図8は特定された欠陥領域の一例を示す図である。図8においては、矩形GTが欠陥領域に対応する。なお、欠陥領域は矩形に限定されず、面積をもった任意の形状でよい。
欠陥領域が指定されると、CNNエンジン156が特徴抽出画像を生成する。このとき設定部166は、判定用パラメータを初期設定する(S202)。判定用パラメータの初期設定は、例えば2値化レベルの初期化、判定項目の選択、及び選択された判定項目に対応する判定閾値の初期化である。設定部166は、CNNエンジン156の学習に使用した学習データセットに含まれる学習用画像に含まれる欠陥の特徴に基づいて2値化レベル、判定条件を含む判定用パラメータを仮設定してもよい。また、設定部166は、CNNエンジン156が獲得した内部パラメータに基づいて2値化レベル、判定条件を含む判定用パラメータを仮設定してもよい。なお、2値化レベル及び判定項目については、事前にユーザから指定を受け付ける構成でもよい。これによって判定用パラメータの設定処理を高速化することができる。判定部162は、初期設定された判定用パラメータに含まれる2値化レベルに基づいて、2値化画像を生成する。さらに判定部162は、初期設定された判定用パラメータに含まれる判定項目と判定閾値とに基づいて計測結果画像を生成する。
2値化画像において、特徴領域に白色の画素が対応する場合、非特徴領域は黒色の画素が対応する。この場合、欠陥領域内の画素の色の濃度は、欠陥領域内の白色の画素数であり、欠陥領域外の画素の色の濃度は、欠陥領域外の白色の画素数として、両濃度の差をスコアを算出することができる。
それぞれの画素の色に対応する濃度値(例えば、白色に対して1、黒色に対して0)が予め設定されている場合、各対象領域内の画素についての濃度値の合計値を第1の画像スコアとして算出してもよい。
上述のとおり、計測結果画像は、2値化画像に含まれる第1特徴領域から、第2特徴領域を抽出した画像である。したがって、欠陥領域内で適切に第2特徴領域が抽出される場合(すなわち欠陥に対する見逃しが起きない場合)には、欠陥領域内の濃度は大きくなる。他方、欠陥領域外で第2特徴領域が抽出されない場合(すなわち見過ぎが起きない場合)には、欠陥領域外の濃度は小さくなる。つまり、判定用パラメータが最も適切に設定された場合には、欠陥領域内の濃度と欠陥領域外の濃度の差(スコア)が最大になる。よって、設定部166は、スコアを算出し比較することで、適切な判定用パラメータを探索することができる。
次に、図10A乃至10Dを参照して本実施の形態に係る欠陥検査装置100が提供し、表示部に出力されるユーザインターフェイス画面のいくつかの例を説明する。
次に、本実施の形態に係る欠陥検査システム1における動作例について説明する。本実施の形態に係る欠陥検査システム1においては、画像計測処理に係る判定用パラメータを設定するための準備工程と、現実に対象のワークを撮像して画像計測処理を実行する運用工程とが存在する。なお、準備工程の処理シーケンスと、運用工程の処理シーケンスとは、前述の入力部を用いて、ユーザが選択することができる。また、運用工程の処理シーケンスにおいて、検査結果(例えば、欠陥の有無、欠陥に対応する領域の大きさ、当該領域の位置などの情報をいう。)の内容に応じて、設定された前処理フィルタを更新する処理を実行するようにしてもよい。例えば、運用工程の処理シーケンスにおいて、未検出の欠陥が所定回数生じた場合に、前述の判定用パラメータを、いずれかの設定モードで更新するようにしてもよい。
本実施の形態に係る欠陥検査装置100は、事前学習された識別器が出力する結果を用いて欠陥の有無を検査する際に、欠陥の有無を判別するための判定用パラメータを適切かつ簡易に設定することができる。このような欠陥検査装置100では、判定用パラメータが適切に設定できるようになることで、誤判定が減少する。特にノイズを減らすことができるので、欠陥ではないのに欠陥と認識してしまう誤検出が減少する。さらに、判定用パラメータを簡易に設定できるので、欠陥検査装置の設定工数、立上げ工数が削減できる。
(付記1)
検査対象物の検査画像を所得する取得部(114)と、
前記検査画像に対して、学習用の画像データを用いて1以上の特徴を抽出するように事前学習した学習済みの識別器を適用することで、1以上の特徴抽出画像を生成する画像生成部(156)と、
前記検査対象物における検出対象部位の有無を判定するための1以上の判定用パラメータと、前記特徴抽出画像に基づいて生成される2値化画像と、に基づいて欠陥に対応する領域を特定する検査部(170)と、
事前学習済みの特徴に基づいて欠陥に対応する領域を特定する場合に、特徴に対応する学習用の画像データの数が閾値未満であるときは、ユーザからの事後調整を前提として判定用パラメータを仮設定し、事前学習済みの特徴以外の特徴に基づいて欠陥に対応する領域を特定する場合に、ユーザからの指定に応じて判定用パラメータを設定する設定部(166)と、
を備える欠陥検査装置(100)。
(付記2)
付記1に記載の欠陥検査装置(100)であって、
事前学習済みの特徴に基づいて欠陥に対応する領域を特定する場合に、特徴に対応する学習用の画像データの数が閾値以上であるときは、設定部(166)は、判定用パラメータを自動設定する、欠陥検査装置(100)。
(付記3)
付記1又は2に記載の欠陥検査装置(100)であって、
設定部(166)は、欠陥に対応する領域が特定された2値化画像である設定用画像を用いて、設定用画像の画素の色の濃度に基づく画像スコアを算出し、領域の内部の画像スコアと領域の外部の画像スコアとの差が相対的に大きくなるように判定用パラメータを更新する、欠陥検査装置(100)。
(付記4)
前記2値化画像は白色の画素と黒色の画素とから構成され、
前記白色の画素と前記黒色の画素とのそれぞれに濃度値が対応付けられており
前記設定部(166)は、前記領域内に含まれる複数の画素について、色の濃度値の合計値を第1の画像スコアとして算出し、前記領域外に含まれる複数の画素について、色の濃度値の合計値を第2の画像スコアとして算出し、第1の画像スコアと第2の画像スコアとの差が最大となるように判定用パラメータを更新する、
付記3に記載の欠陥検査装置(100)。
(付記5)
前記検査部(170)は、更新した前記判定用パラメータと、前記2値化画像と、に基づいて欠陥の有無を判定し、判定結果を出力する、
付記3又は4に記載の欠陥検査装置(100)。
(付記6)
前記検査部(170)は、前記判定結果として、少なくとも、更新した前記判定用パラメータに基づいて欠陥を特定した前記2値化画像を出力する、
付記5に記載の欠陥検査装置(100)。
(付記7)
前記判定用パラメータは、前記2値化画像を生成するための2値化レベルを含む、
付記1から6のいずれか一項に記載の欠陥検査装置(100)。
(付記8)
前記判定用パラメータは、前記欠陥を判定するための1以上の判定項目と、前記判定項目の各々に対して設定される判定閾値とを含む、
付記1から7のいずれか一項に記載の欠陥検査装置(100)。
(付記9)
前記欠陥を判定するための1以上の判定項目は、前記2値化画像における同色の画素の塊で表現される所定の領域の面積、外接矩形の幅及び/又は高さ、周囲長、縦横比、円形度の少なくとも1つを含み、前記判定閾値は、これらの判定項目の各々に対して設定される上限値及び/又は下限値を含む、
付記8に記載の欠陥検査装置(100)。
(付記10)
前記判定項目と前記判定閾値とは、前記画像生成部又は前記検査部の学習時に用いられる学習用の画像データに含まれる欠陥の特徴に基づいて決定される、
付記8又は9に記載の欠陥検査装置(100)。
(付記11)
前記領域の指定を受け付ける表示部(104)をさらに備え、
前記検査部(170)は、予め定められた前記判定用パラメータに基づいて、欠陥と判定される領域を特定するとともに、特定した領域を前記検査画像とともに前記表示部(104)に対して出力し、
前記設定部(166)は、前記表示部を介して受け付けた前記領域の指定に基づいて前記設定用画像を生成する、
付記1から10のいずれか一項に記載の欠陥検査装置(100)。
(付記12)
前記検査部(170)は、
前記2値化画像において、欠陥を判定するための1以上の特徴量の各々に対して設定された判定閾値に基づいて、前記2値化画像のうち、欠陥と判定される領域を特定し、特定した領域をユーザに提示し、
前記設定部(166)は、
前記ユーザから、前記検査部(170)で欠陥と判定された領域であるが、欠陥として判定されるべきでない領域、及び/又は、前記検査部で欠陥と判定されなかった領域であるが、欠陥として判定されるべきである領域の指定を受け付け、当該指定に基づいて、前記判定閾値を更新する
請求項1から11のいずれか一項に記載の欠陥検査装置(100)。
(付記13)
前記判定用パラメータは、前記欠陥を判定するための1以上の判定項目と、前記判定項 目の各々に対して設定される判定閾値とを含み、
前記欠陥を判定するための1以上の判定項目と前記判定閾値は、前記ユーザの指定に基づいて決定される、付記12に記載の欠陥検査装置(100)。
(付記14)
コンピュータ(100)が、
検査対象物の検査画像を所得するステップと、
前記検査画像に対して、学習用の画像データを用いて1以上の特徴を抽出するように事前学習した学習済みの識別器を適用することで、1以上の特徴抽出画像を生成するステップと、
前記検査対象物における検出対象部位の有無を判定するための1以上の判定用パラメータと、前記特徴抽出画像に基づいて生成される2値化画像と、に基づいて欠陥に対応する領域を特定するステップと、
事前学習済みの特徴に基づいて欠陥に対応する領域を特定する場合に、特徴に対応する学習用の画像データの数が閾値未満であるときは、ユーザからの事後調整を前提として判定用パラメータを仮設定し、事前学習済みの特徴以外の特徴に基づいて欠陥に対応する領域を特定する場合に、ユーザからの指定に応じて判定用パラメータを設定するステップと
を実行する欠陥検査方法。
(付記15)
コンピュータ(100)に、
検査対象物の検査画像を所得するステップと、
前記検査画像に対して、学習用の画像データを用いて1以上の特徴を抽出するように事前学習した学習済みの識別器を適用することで、1以上の特徴抽出画像を生成するステップと、
前記検査対象物における検出対象部位の有無を判定するための1以上の判定用パラメータと、前記特徴抽出画像に基づいて生成される2値化画像と、に基づいて欠陥に対応する領域を特定するステップと、
事前学習済みの特徴に基づいて欠陥に対応する領域を特定する場合に、特徴に対応する学習用の画像データの数が閾値未満であるときは、ユーザからの事後調整を前提として判定用パラメータを仮設定し、事前学習済みの特徴以外の特徴に基づいて欠陥に対応する領域を特定する場合に、ユーザからの指定に応じて判定用パラメータを設定するステップと
を実行させるプログラム。
2 ベルトコンベア
4 ワーク
6 撮像視野
8 上位ネットワーク
10 欠陥検査装置
12 データベース装置
100 欠陥検査装置
102 カメラ
104 ディスプレイ
106 キーボード
108 マウス
110 プロセッサ
112 メインメモリ
114 カメラインターフェイス
116 入力インターフェイス
118 表示インターフェイス
120 通信インターフェイス
122 内部バス
130 ストレージ
132 画像処理プログラム
136 判定用パラメータ
138 入力画像
140 計測結果
152 入力バッファ
154 前処理部
156 エンジン
158 選択部
160 画像演算部
162 判定部
166 設定部
170 後処理部
300 自動設定画面
700 手動設定画面
710 値化レベル設定部
711 値化レベルコントローラ
712 値化レベル表示欄
720 判定条件設定部
721 判定項目選択欄
722 判定閾値設定欄
730 計測結果画像表示部
800 半自動設定画面
830 第3特徴領域選択部
900 自動設定画面
901 図形登録領域
902 座標入力領域
903 表示領域
911 図形ボタン
Claims (15)
- 検査対象物の検査画像を取得する取得部と、
前記検査画像に対して、学習用の画像データを用いて1以上の特徴を抽出するように事前学習した学習済みの識別器を適用することで、1以上の特徴抽出画像を生成する画像生成部と、
前記検査対象物における欠陥有無を判定するための1以上の判定用パラメータと、前記特徴抽出画像に基づいて生成される2値化画像と、に基づいて欠陥に対応する領域を特定する検査部と、
事前学習済みの前記特徴に基づいて欠陥に対応する領域を特定する場合に、前記特徴に対応する学習用の画像データの数が閾値未満であるときは、ユーザからの事後調整を前提として前記判定用パラメータを仮設定し、事前学習済みの前記特徴以外の特徴に基づいて欠陥に対応する領域を特定する場合に、ユーザからの指定に応じて前記判定用パラメータを設定する設定部と、
を備える欠陥検査装置。 - 請求項1に記載の欠陥検査装置であって、
事前学習済みの前記特徴に基づいて欠陥に対応する領域を特定する場合に、前記特徴に対応する学習用の画像データの数が閾値以上であるときは、前記設定部は、前記判定用パラメータを自動設定する、欠陥検査装置。 - 請求項1又は2に記載の欠陥検査装置であって、
前記設定部は、前記欠陥に対応する領域が特定された前記2値化画像である設定用画像を用いて、前記設定用画像の画素の色の濃度に基づく画像スコアを算出し、前記領域の内部の画像スコアと前記領域の外部の画像スコアとの差が相対的に大きくなるように前記判定用パラメータを更新する、欠陥検査装置。 - 請求項3に記載の欠陥検査装置であって、
前記2値化画像は白色の画素と黒色の画素とから構成され、
前記白色の画素と前記黒色の画素とのそれぞれに濃度値が対応付けられており、
前記設定部は、前記領域内に含まれる複数の画素について、前記濃度値の合計値を第1の画像スコアとして算出し、前記領域外の含まれる複数の画素について、前記濃度値の合計値を第2の画像スコアとして算出し、第1の画像スコアと第2の画像スコアとの差が最大となるように判定用パラメータを更新する、欠陥検査装置。 - 請求項3又は4に記載の欠陥検査装置であって、
前記検査部は、更新した前記判定用パラメータと、前記2値化画像と、に基づいて欠陥の有無を判定し、判定結果を出力する、欠陥検査装置。 - 請求項5に記載の欠陥検査装置であって、
前記検査部は、前記判定結果として、少なくとも、更新した前記判定用パラメータに基づいて欠陥を特定した前記2値化画像を出力する、欠陥検査装置。 - 請求項1乃至6のうち何れか1項に記載の欠陥検査装置であって、
前記判定用パラメータは、前記2値化画像を生成するための2値化レベルを含む、欠陥検査装置。 - 請求項1乃至7のうち何れか1項に記載の欠陥検査装置であって、
前記判定用パラメータは、前記欠陥を判定するための1以上の判定項目と、前記判定項目の各々に対して設定される判定閾値とを含む、欠陥検査装置。 - 請求項8に記載の欠陥検査装置であって、
前記欠陥を判定するための1以上の判定項目は、前記2値化画像における同色の画素の塊で表現される所定の領域の面積、外接矩形の幅及び/又は高さ、周囲長、縦横比、円形度の少なくとも1つを含み、前記判定閾値は、これらの判定項目の各々に対して設定される上限値及び/又は下限値を含む、欠陥検査装置。 - 請求項8又は9に記載の欠陥検査装置であって、
前記判定項目と前記判定閾値とは、前記画像生成部又は前記検査部の学習時に用いられる学習用の画像データに含まれる欠陥の特徴に基づいて決定される、欠陥検査装置。 - 請求項1乃至10のうち何れか1項に記載の欠陥検査装置であって、
前記領域の指定を受け付ける表示部をさらに備え、
前記検査部は、予め定められた前記判定用パラメータに基づいて、欠陥と判定される領域を特定するとともに、特定した領域を前記検査画像とともに前記表示部に対して出力し、
前記設定部は、前記表示部を介して受け付けた前記領域の指定に基づいて前記設定用画像を生成する、欠陥検査装置。 - 請求項1乃至11のうち何れか1項に記載の欠陥検査装置であって、
前記検査部は、
前記2値化画像において、欠陥を判定するための1以上の特徴量の各々に対して設定された判定閾値に基づいて、前記2値化画像のうち、欠陥と判定される領域を特定し、特定した領域をユーザに提示し、
前記設定部は、
前記ユーザから、前記検査部で欠陥と判定された領域であるが、欠陥として判定されるべきでない領域、及び/又は、前記検査部で欠陥と判定されなかった領域であるが、欠陥として判定されるべきである領域の指定を受け付け、当該指定に基づいて、前記判定閾値を更新する、欠陥検査装置。 - 請求項12に記載の欠陥検査装置であって、
前記判定用パラメータは、前記欠陥を判定するための1以上の判定項目と、前記判定項目の各々に対して設定される判定閾値とを含み、
前記欠陥を判定するための1以上の判定項目と前記判定閾値は、前記ユーザの指定に基づいて決定される、欠陥検査装置。 - コンピュータが、
検査対象物の検査画像を取得するステップと、
前記検査画像に対して、学習用の画像データを用いて1以上の特徴を抽出するように事前学習した学習済みの識別器を適用することで、1以上の特徴抽出画像を生成するステップと、
前記検査対象物における検出対象部位の有無を判定するための1以上の判定用パラメータと、前記特徴抽出画像に基づいて生成される2値化画像と、に基づいて欠陥に対応する領域を特定するステップと、
事前学習済みの前記特徴に基づいて欠陥に対応する領域を特定する場合に、前記特徴に対応する学習用の画像データの数が閾値未満であるときは、ユーザからの事後調整を前提として前記判定用パラメータを仮設定し、事前学習済みの前記特徴以外の特徴に基づいて欠陥に対応する領域を特定する場合に、ユーザからの指定に応じて前記判定用パラメータを設定するステップと、
を実行する欠陥検査方法。 - コンピュータに、
検査対象物の検査画像を取得するステップと、
前記検査画像に対して、学習用の画像データを用いて1以上の特徴を抽出するように事前学習した学習済みの識別器を適用することで、1以上の特徴抽出画像を生成するステップと、
前記検査対象物における検出対象部位の有無を判定するための1以上の判定用パラメータと、前記特徴抽出画像に基づいて生成される2値化画像と、に基づいて欠陥に対応する領域を特定するステップと、
事前学習済みの前記特徴に基づいて欠陥に対応する領域を特定する場合に、前記特徴に対応する学習用の画像データの数が閾値未満であるときは、ユーザからの事後調整を前提として前記判定用パラメータを仮設定し、事前学習済みの前記特徴以外の特徴に基づいて欠陥に対応する領域を特定する場合に、ユーザからの指定に応じて前記判定用パラメータを設定するステップと、
を実行させるプログラム。
Priority Applications (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018247105A JP6869490B2 (ja) | 2018-12-28 | 2018-12-28 | 欠陥検査装置、欠陥検査方法、及びそのプログラム |
EP19904649.1A EP3904866A4 (en) | 2018-12-28 | 2019-11-13 | DEFECT INSPECTION DEVICE, DEFECT INSPECTION METHOD AND ASSOCIATED PROGRAM |
PCT/JP2019/044604 WO2020137222A1 (ja) | 2018-12-28 | 2019-11-13 | 欠陥検査装置、欠陥検査方法、及びそのプログラム |
US17/270,426 US11830174B2 (en) | 2018-12-28 | 2019-11-13 | Defect inspecting device, defect inspecting method, and storage medium |
CN201980053565.7A CN112567229A (zh) | 2018-12-28 | 2019-11-13 | 缺陷检查装置、缺陷检查方法及其程序 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018247105A JP6869490B2 (ja) | 2018-12-28 | 2018-12-28 | 欠陥検査装置、欠陥検査方法、及びそのプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020106467A true JP2020106467A (ja) | 2020-07-09 |
JP6869490B2 JP6869490B2 (ja) | 2021-05-12 |
Family
ID=71128988
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018247105A Active JP6869490B2 (ja) | 2018-12-28 | 2018-12-28 | 欠陥検査装置、欠陥検査方法、及びそのプログラム |
Country Status (5)
Country | Link |
---|---|
US (1) | US11830174B2 (ja) |
EP (1) | EP3904866A4 (ja) |
JP (1) | JP6869490B2 (ja) |
CN (1) | CN112567229A (ja) |
WO (1) | WO2020137222A1 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022153827A1 (ja) * | 2021-01-12 | 2022-07-21 | オムロン株式会社 | 物品検出方法、装置、及び電子機器 |
Families Citing this family (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7214432B2 (ja) * | 2018-10-22 | 2023-01-30 | キヤノン株式会社 | 画像処理方法、画像処理プログラム、記録媒体、画像処理装置、生産システム、物品の製造方法 |
JP7281041B2 (ja) * | 2018-11-29 | 2023-05-25 | 京セラドキュメントソリューションズ株式会社 | 種類判別システム |
CN111435432B (zh) * | 2019-01-15 | 2023-05-26 | 北京市商汤科技开发有限公司 | 网络优化方法及装置、图像处理方法及装置、存储介质 |
US20210241450A1 (en) * | 2020-01-30 | 2021-08-05 | Electronics And Telecommunications Research Institute | Method and apparatus for detecting dimension error |
CN112862770B (zh) * | 2021-01-29 | 2023-02-14 | 珠海迪沃航空工程有限公司 | 一种基于人工智能的缺陷分析诊断系统、方法、装置 |
TWI795921B (zh) * | 2021-09-24 | 2023-03-11 | 鴻海精密工業股份有限公司 | 圖像檢測方法、電腦裝置及儲存介質 |
CN113960071B (zh) * | 2021-10-23 | 2022-08-23 | 朗升柯式印刷(深圳)有限公司 | 用于彩印产品的品质检测方法及检测系统 |
CN114332081B (zh) * | 2022-03-07 | 2022-06-14 | 泗水县亿佳纺织厂 | 基于图像处理的纺织品表面异常判定方法 |
CN114764790B (zh) * | 2022-03-31 | 2023-05-12 | 河北鹰眼智能科技有限公司 | 一种基于霍夫圆检测的齿轮断齿检测方法 |
CN114998216A (zh) * | 2022-05-06 | 2022-09-02 | 湖北文理学院 | 透明件表面缺陷快速检测方法及装置 |
CN115984662B (zh) * | 2023-03-21 | 2023-08-04 | 广东省科技基础条件平台中心 | 一种多模态数据预训练及识别方法、装置、设备及介质 |
CN116823924B (zh) * | 2023-08-24 | 2023-12-12 | 杭州百子尖科技股份有限公司 | 缺陷区域面积的确定方法、装置、电子设备以及存储介质 |
Citations (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0869533A (ja) * | 1994-06-14 | 1996-03-12 | Nippon Telegr & Teleph Corp <Ntt> | 画像検査/認識方法、これに用いる参照データ作成方法およびこれらの装置 |
JPH09147056A (ja) * | 1995-11-22 | 1997-06-06 | Hitachi Ltd | マーク外観検査方法とその装置 |
JP2000230909A (ja) * | 1999-02-10 | 2000-08-22 | Japan Tobacco Inc | 断熱材の欠陥検査装置 |
JP2004334683A (ja) * | 2003-05-09 | 2004-11-25 | Sharp Corp | フィルタの設計方法、フィルタ、欠陥検査方法および欠陥検査装置 |
JP2005025503A (ja) * | 2003-07-02 | 2005-01-27 | Sharp Corp | フィルタの設計方法、フィルタ、欠陥検査方法および欠陥検査装置 |
JP2007017264A (ja) * | 2005-07-07 | 2007-01-25 | Sharp Corp | 画像処理アルゴリズム評価方法および装置、画像処理アルゴリズム生成方法および装置、プログラムならびにプログラム記録媒体 |
JP2007200246A (ja) * | 2006-01-30 | 2007-08-09 | Sharp Corp | 画像処理アルゴリズムの評価方法、生成方法、装置、プログラムおよび記録媒体 |
WO2012011579A1 (ja) * | 2010-07-23 | 2012-01-26 | 独立行政法人産業技術総合研究所 | 病理組織画像の領域分割画像データ作成システム及び病理組織画像の特徴抽出システム |
JP2013167596A (ja) * | 2012-02-17 | 2013-08-29 | Honda Motor Co Ltd | 欠陥検査装置、欠陥検査方法及びプログラム |
CN106875381A (zh) * | 2017-01-17 | 2017-06-20 | 同济大学 | 一种基于深度学习的手机外壳缺陷检测方法 |
US20170220836A1 (en) * | 2016-01-28 | 2017-08-03 | University Of The West Indies | Fingerprint classification system and method using regular expression machines |
JP2018116391A (ja) * | 2017-01-17 | 2018-07-26 | みずほ情報総研株式会社 | 画像処理システム、画像処理方法及び画像処理プログラム |
JP2018190329A (ja) * | 2017-05-11 | 2018-11-29 | オムロン株式会社 | 画像処理装置、画像処理プログラム、画像処理システム |
JP2018190282A (ja) * | 2017-05-10 | 2018-11-29 | キヤノン株式会社 | 検査装置、検査方法およびコンピュータプログラム |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4379913B2 (ja) * | 2003-10-24 | 2009-12-09 | 横河電機株式会社 | 画質検査装置 |
JP2006098152A (ja) * | 2004-09-29 | 2006-04-13 | Dainippon Screen Mfg Co Ltd | 欠陥検出装置および欠陥検出方法 |
JP5413012B2 (ja) * | 2009-07-21 | 2014-02-12 | 富士ゼロックス株式会社 | 画像欠陥診断システム、画像形成装置、およびプログラム |
WO2011155123A1 (ja) * | 2010-06-07 | 2011-12-15 | 株式会社 日立ハイテクノロジーズ | 観察画像の分類基準の最適化方法、および画像分類装置 |
JP5608575B2 (ja) * | 2011-01-19 | 2014-10-15 | 株式会社日立ハイテクノロジーズ | 画像分類方法および画像分類装置 |
JP2017049974A (ja) | 2015-09-04 | 2017-03-09 | キヤノン株式会社 | 識別器生成装置、良否判定方法、およびプログラム |
JP7015001B2 (ja) | 2018-03-14 | 2022-02-02 | オムロン株式会社 | 欠陥検査装置、欠陥検査方法、及びそのプログラム |
-
2018
- 2018-12-28 JP JP2018247105A patent/JP6869490B2/ja active Active
-
2019
- 2019-11-13 US US17/270,426 patent/US11830174B2/en active Active
- 2019-11-13 CN CN201980053565.7A patent/CN112567229A/zh active Pending
- 2019-11-13 WO PCT/JP2019/044604 patent/WO2020137222A1/ja unknown
- 2019-11-13 EP EP19904649.1A patent/EP3904866A4/en active Pending
Patent Citations (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0869533A (ja) * | 1994-06-14 | 1996-03-12 | Nippon Telegr & Teleph Corp <Ntt> | 画像検査/認識方法、これに用いる参照データ作成方法およびこれらの装置 |
JPH09147056A (ja) * | 1995-11-22 | 1997-06-06 | Hitachi Ltd | マーク外観検査方法とその装置 |
JP2000230909A (ja) * | 1999-02-10 | 2000-08-22 | Japan Tobacco Inc | 断熱材の欠陥検査装置 |
JP2004334683A (ja) * | 2003-05-09 | 2004-11-25 | Sharp Corp | フィルタの設計方法、フィルタ、欠陥検査方法および欠陥検査装置 |
JP2005025503A (ja) * | 2003-07-02 | 2005-01-27 | Sharp Corp | フィルタの設計方法、フィルタ、欠陥検査方法および欠陥検査装置 |
JP2007017264A (ja) * | 2005-07-07 | 2007-01-25 | Sharp Corp | 画像処理アルゴリズム評価方法および装置、画像処理アルゴリズム生成方法および装置、プログラムならびにプログラム記録媒体 |
JP2007200246A (ja) * | 2006-01-30 | 2007-08-09 | Sharp Corp | 画像処理アルゴリズムの評価方法、生成方法、装置、プログラムおよび記録媒体 |
WO2012011579A1 (ja) * | 2010-07-23 | 2012-01-26 | 独立行政法人産業技術総合研究所 | 病理組織画像の領域分割画像データ作成システム及び病理組織画像の特徴抽出システム |
JP2013167596A (ja) * | 2012-02-17 | 2013-08-29 | Honda Motor Co Ltd | 欠陥検査装置、欠陥検査方法及びプログラム |
US20170220836A1 (en) * | 2016-01-28 | 2017-08-03 | University Of The West Indies | Fingerprint classification system and method using regular expression machines |
CN106875381A (zh) * | 2017-01-17 | 2017-06-20 | 同济大学 | 一种基于深度学习的手机外壳缺陷检测方法 |
JP2018116391A (ja) * | 2017-01-17 | 2018-07-26 | みずほ情報総研株式会社 | 画像処理システム、画像処理方法及び画像処理プログラム |
JP2018190282A (ja) * | 2017-05-10 | 2018-11-29 | キヤノン株式会社 | 検査装置、検査方法およびコンピュータプログラム |
JP2018190329A (ja) * | 2017-05-11 | 2018-11-29 | オムロン株式会社 | 画像処理装置、画像処理プログラム、画像処理システム |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2022153827A1 (ja) * | 2021-01-12 | 2022-07-21 | オムロン株式会社 | 物品検出方法、装置、及び電子機器 |
Also Published As
Publication number | Publication date |
---|---|
US20210183052A1 (en) | 2021-06-17 |
EP3904866A4 (en) | 2022-11-02 |
EP3904866A1 (en) | 2021-11-03 |
WO2020137222A1 (ja) | 2020-07-02 |
JP6869490B2 (ja) | 2021-05-12 |
US11830174B2 (en) | 2023-11-28 |
CN112567229A (zh) | 2021-03-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7015001B2 (ja) | 欠陥検査装置、欠陥検査方法、及びそのプログラム | |
WO2020137222A1 (ja) | 欠陥検査装置、欠陥検査方法、及びそのプログラム | |
US10776909B2 (en) | Defect inspection apparatus, defect inspection method, and non-transitory computer readable medium | |
JP5546317B2 (ja) | 外観検査装置、外観検査用識別器の生成装置及び外観検査用識別器生成方法ならびに外観検査用識別器生成用コンピュータプログラム | |
EP3480735B1 (en) | Inspection apparatus, data generation apparatus, data generation method, and data generation program | |
US10824906B2 (en) | Image processing device, non-transitory computer readable storage medium, and image processing system | |
US9075026B2 (en) | Defect inspection device and defect inspection method | |
CN112088387A (zh) | 检测成像物品缺陷的系统和方法 | |
US20070258640A1 (en) | Inspection apparatus | |
CN113168687A (zh) | 图像评价装置和方法 | |
JPH08101915A (ja) | 不良検査方法およびその装置 | |
JP2014126445A (ja) | 位置合せ装置、欠陥検査装置、位置合せ方法、及び制御プログラム | |
CN115861259A (zh) | 一种基于模板匹配的引线框架表面缺陷检测方法及装置 | |
KR20230036650A (ko) | 영상 패치 기반의 불량 검출 시스템 및 방법 | |
JP3279099B2 (ja) | マーク認識装置およびマーク認識方法 | |
WO2021119946A1 (en) | Food inspection solution | |
US20230077332A1 (en) | Defect Inspection System and Defect Inspection Method | |
US20230316492A1 (en) | Teacher data generating method and generating device | |
WO2022181304A1 (ja) | 検査システムおよび検査プログラム | |
US20230419470A1 (en) | Method for detecting defects in a 3d printer | |
CN118154562A (zh) | 一种基于yolo7的深度学习的金属表面在线缺陷检测系统 | |
JPH10143673A (ja) | 画像処理装置 | |
CN117495846A (zh) | 图像检测方法、装置、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20201211 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210315 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210328 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6869490 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |