JP4603512B2 - 異常領域検出装置および異常領域検出方法 - Google Patents

異常領域検出装置および異常領域検出方法 Download PDF

Info

Publication number
JP4603512B2
JP4603512B2 JP2006167961A JP2006167961A JP4603512B2 JP 4603512 B2 JP4603512 B2 JP 4603512B2 JP 2006167961 A JP2006167961 A JP 2006167961A JP 2006167961 A JP2006167961 A JP 2006167961A JP 4603512 B2 JP4603512 B2 JP 4603512B2
Authority
JP
Japan
Prior art keywords
pixel
feature data
abnormality
data
normal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2006167961A
Other languages
English (en)
Other versions
JP2007334766A (ja
Inventor
展之 大津
卓也 南里
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
National Institute of Advanced Industrial Science and Technology AIST
Original Assignee
National Institute of Advanced Industrial Science and Technology AIST
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by National Institute of Advanced Industrial Science and Technology AIST filed Critical National Institute of Advanced Industrial Science and Technology AIST
Priority to JP2006167961A priority Critical patent/JP4603512B2/ja
Priority to US12/304,552 priority patent/US20100021067A1/en
Priority to PCT/JP2007/061871 priority patent/WO2007145235A1/ja
Publication of JP2007334766A publication Critical patent/JP2007334766A/ja
Application granted granted Critical
Publication of JP4603512B2 publication Critical patent/JP4603512B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • G06T7/001Industrial image inspection using an image reference approach
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/213Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
    • G06F18/2135Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods based on approximation criteria, e.g. principal component analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/42Global feature extraction by analysis of the whole pattern, e.g. using frequency domain transformations or autocorrelation
    • G06V10/431Frequency domain transformation; Autocorrelation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/7715Feature extraction, e.g. by transforming the feature space, e.g. multi-dimensional scaling [MDS]; Mappings, e.g. subspace methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30141Printed circuit board [PCB]

Description

本発明は、画像を取り込んで自動的に通常とは異なる領域を検出する異常領域検出装置および異常領域検出方法に関するものである。
従来、例えばフレキシブル配線基板のフィルムの欠陥検査において、線が断線している場合は通電により検出可能であるが、製品の欠陥の原因となる恐れのある線の細りなどは通電では検出できない。従って、細り等の異常は目視、あるいは画像を用いて検出する必要がある。
目視の場合には、線が微細であるため、画像を拡大する目視検査装置等を利用する必要がある。また欠陥の製造工程へのフィードバックを行うために、欠陥の座標、程度を出力する必要があり、手間がかかるので大量の製品を全て検査することが困難であるという問題点があった。
そこで、今日では、多くの製品検査において画像を用いた異常検査の自動化がなされている。検査手法としては、例えば製品ごとに登録された基準画像との照合を行うパターンマッチング手法が採用されている。
一方、画像データから特定の図形等を検出したり、登録されている画像との一致/不一致を判定するために各種の技術が提案されている。本発明者らが出願した下記の特許文献1には、2次元画像に対する高次局所自己相関特徴(以下、HLACデータとも記す)を用いた学習適応型画像認識・計測方式の技術が開示されている。
特許第2982814号公報
上記した従来の異常領域検出手法であるパターンマッチング手法においては対象に対する汎用性や学習効果が無く、かつ位置や方向を合わせる必要があり、処理時間が長く、精度が悪いという問題点があった。また、フレキシブル配線基板の導体部はフィルム上に印刷された樹脂であり、粒状であるため、画像から直線のエッジ等の図形を検出し難く、欠陥の検出が難しいという問題点があった。
一方で、高次局所自己相関特徴を用いた学習適応型画像認識方式においては、対象(欠陥領域)が画像のどの位置にあっても同じ検出結果となる位置不変性があり、対象(欠陥領域)の位置を特定できないので、欠陥検査に適用できないという問題点があった。
本発明の目的は、上記したような従来例の問題点を解決し、高次局所自己相関特徴を用いて異常の有無と共に位置を高い精度で検出できる高速かつ汎用的な異常領域検出装置および異常領域検出方法を提供する点にある。
本発明の異常領域検出装置は、画像データから画素毎に高次局所自己相関によって特徴データを抽出する特徴データ抽出手段と、所定の距離だけ離れた画素毎に、その画素を含む所定の範囲の画素群について前記特徴データ抽出手段によって抽出された前記特徴データを加算する画素対応特徴データ生成手段と、正常領域を示す部分空間に対する前記画素対応特徴データ生成手段により生成された特徴データの異常さを示す指標を計算する指標計算手段と、前記指標が所定値よりも大きい場合に異常と判定する異常判定手段と、前記異常判定手段が異常と判定した画素位置を異常とする判定結果を出力する出力手段とを備えたことを主要な特徴とする。
また、前記した異常領域検出装置において、前記特徴データ抽出手段は、変位幅の異なる複数の高次局所自己相関特徴データを抽出する点にも特徴がある。また、前記した異常領域検出装置において、前記部分空間に対する異常さを示す指標は特徴データの前記部分空間との距離あるいは角度の情報のいずれかを含んでいる点にも特徴がある。
また、前記した異常領域検出装置において、更に、特徴データ抽出手段によって抽出された特徴データから主成分分析手法により主成分ベクトルに基づく正常領域を示す部分空間を求める主成分部分空間生成手段を備えた点にも特徴がある。また、前記した異常領域検出装置において、前記主成分部分空間生成手段は、逐次的主成分分析手法により主成分ベクトルに基づく部分空間を求める点にも特徴がある。
また、前記した異常領域検出装置において、更に、前記画素対応特徴データ生成手段によって生成された画素対応特徴データから得られる部分空間と前記部分空間との正準角に基づく類似度の指標を求め、クラスタリング手法を用いて画素毎にクラス分けするクラス分け手段を備え、前記主成分部分空間生成手段は、クラス毎に前記特徴データを加算してクラス対応の部分空間を求め、前記指標計算手段は、前記画素対応特徴データ生成手段により生成された特徴データの前記クラス対応の部分空間に対する異常さを示す指標を計算する点にも特徴がある。
本発明の異常領域検出方法は、画像データから画素毎に高次局所自己相関によって特徴データを抽出するステップ、所定の距離だけ離れた画素毎に、その画素を含む所定の範囲の画素群について前記特徴データを加算するステップ、正常領域を示す部分空間に対する前記特徴データの異常さを示す指標を計算するステップ、前記指標が所定値よりも大きい場合に異常と判定するステップ、異常と判定された画素位置を異常とする判定結果を出力するステップを含むことを主要な特徴とする。
本発明によれば、以下のような効果がある。
(1)画素対応に異常判定が可能であり、異常領域の位置を正確に検出可能である。
(2)従来は対象が多数存在していると異常検出精度が低下してしまうが、画素を中心とする所定の範囲を適切に選択すれば、検出対象が多数あっても異常領域の判定精度が低下することがない。
(3)特徴抽出や異常判定のための計算量が少なく、かつ計算量は対象に依らず一定であるので、高速に処理可能である。
(4)正常領域を陽に定義することなく統計的に学習しているため、設計の段階で正常領域とは何かについて定義する必要がなく、監視対象に則した検出を行うことができる。さらに、監視対象についての仮定が不要であり、さまざまな監視対象に対しても、正常、異常を判別でき、汎用性が高い。また、異常判定と同時に正常領域の部分空間を更新することにより、正常領域の変化に追従していくことができる。
(5)対象の種類が複数種あっても位置によってクラス分けすることにより、検出精度が更に向上する。また、クラス分けを予め処理してもよいし、クラス分け処理を異常判定と同時に自動的に更新することも可能である。
本明細書においては、異常領域を「正常領域ではないもの」として定義する。正常領域は、領域特徴の統計的な分布を考えた場合に分布の集中する領域であるものとすれば、統計的な分布として教師無しで学習可能である。そして、その分布から大きく逸脱する領域を異常領域とする。
異常領域検出の具体的な手法としては、高次局所自己相関特徴による領域特徴空間の中で正常領域特徴の部分空間を生成し、その部分空間からの距離あるいは角度を指標として異常領域を検出する。正常領域部分空間の生成には例えば主成分分析手法を用い、例えば累積寄与率0.99の主成分ベクトルにより主成分部分空間を構成する。
ここで、高次局所自己相関特徴には、対象の切りだしが不要で画面内において加法性があるという性質がある。この加法性により、正常領域部分空間を構成すると、画面内に正常な配線が何本あっても特徴ベクトルは正常領域部分空間の中に収まることになり、その中の一カ所でも異常領域が存在すると、部分空間から飛び出して異常値として検出できる。線を個々にトラッキングし、切り出す必要がないため、計算量は線の数に比例することなく一定となり、高速に計算可能である。
また、本発明においては、対象の位置を検出するために、所定の距離(1画素以上の任意の距離)だけ離れた画素毎に、この画素を含む(中心とする)所定の領域のHLACデータを積算した画素対応HLAC特徴データを求め、このデータと正常領域部分空間との距離あるいは角度によって異常判定を行う。この処理によって画素毎の正常/異常の判定が可能である。
画像データからの領域特徴の抽出には、高次局所自己相関(HLAC) 特徴を用いる。HLAC特徴の第k成分は次の数式1で与えられる。
Figure 0004603512
ここで、I(r)は画像を表し、変数r(参照点)とN個の局所変位 N k は、画面内の座標x,yを成分として持つ二次元のベクトルである。BN kは、N個の局所変位を列成分とした局所変位行列である。さらに、積分範囲はW×Hの画像領域とし、W,Hは画像の幅と高さを表す。
また、本発明では、HLAC特徴に対して近傍領域を3×3に限らずさらに広い領域の高次相関も抽出する。そこで、行列Rを用いて、下記のように定式化される立体高次局所自己相関特徴を考える。
Figure 0004603512
この特徴は、画像I(r)に対して、画像平面内のスケールを水平方向に1/λx倍、垂直方向に1/λy倍縮小した画像Iamp(r,R)=I(Rr)から抽出した特徴量に比例する特徴量となる。即ちIamp(r,R)に対して抽出されるCHLAC特徴hamp(Br,R)は以下のようになる。
Figure 0004603512
従って、行列Rを用いてより広い範囲の相関をとった特徴量は、元の画像を縮小した画像から抽出したHLAC特徴量のλxλy倍であることが分かる。実際に、ある対象からより多くの相関特徴を抽出しようと考えた場合、対象や画像に応じて画像のスケールを適切に変化させる必要があるが、これらのパラメータによって、対象の特徴がうまく抽出できるようにスケールを調整することができる。
そこで、スケールに対してロバストにするために、スケールの異なる特徴(λx,λy)をベクトルの成分に追加し、それを新たな特徴として用いる。例えば、(λx,λy)=(1,1)で抽出した特徴と(λx,λy)=(2,2)で抽出した特徴を組み合わせることで35×2次元のスケールにロバストな特徴を得る。
図1は、本発明による異常領域検出装置の構成を示すブロック図である。デジタルカメラ10は例えば検査対象となる製品の画像データを出力する。顕微鏡に組み込まれたカメラであってもよい。デジタルカメラ10はモノクロでもよいしカラーカメラであってもよい。コンピュータ11は例えばUSB等の画像を取り込むための入力端子を備えた周知のパソコン(PC)であってもよい。本発明は、パソコンなどの周知の任意のコンピュータ11に後述する処理のプログラムを作成してインストールして起動することにより実現される。
モニタ装置12はコンピュータ11の周知の出力装置であり、例えば異常領域が検出されたことをオペレータに表示するために使用される。キーボード13およびマウス14は、オペレータが入力に使用する周知の入力装置である。なお、デジタルカメラ10は任意の通信網を介してコンピュータ11と接続されていてもよいし、メモリカードを介してコンピュータ11にデータを転送してもよい。
図2は、本発明による異常領域検出処理の概要を示す説明図である。例えば360画素×240画素、256階調グレースケールの入力画像データ(a)について、まず変位幅1、即ち変位幅が画素幅と等しく設定して、画素毎に画素対応HLACデータを計算する(b)。HLACデータについては後述する。次に、変位幅を2、即ち画素幅の2倍に設定して同じように画素毎に画素対応HLACデータを計算する(b)。この処理を変位幅の最大値(例えば3)まで繰り返す。この結果、変位幅毎の画素対応HLACデータ(c)が得られる。
次に、変位幅毎にHLACデータ(c)を加算(g)して求めた特徴データの集合を全HLAC特徴データ(h)とする。そして、全HLAC特徴データ(h)から主成分分析あるいは逐次的主成分分析によって主成分部分空間を求める(i)。通常、画像のほとんどの領域は正常な領域であるので、この主成分部分空間は正常領域の特徴を表している。
一方、変位幅毎の画素対応HLACデータ(c)から、変位幅毎に、注目画素を移動させながら、注目画素を中心とする所定領域(例えば10×10)のHLACデータを加算する処理を行い(e)、画素対応HLAC特徴データ(f)を得る。最後に、画素毎に正常部分空間と画素対応HLAC特徴データとの距離あるいは角度によって異常判定を行い(j)、異常と判定された画素位置を異常領域として表示、出力する(k)。
なお、本発明においては、正常領域の部分空間生成処理(g)、(i)を予め画像の全領域あるいはランダムにまたは規則的にサンプリングした一部の領域について実行し、得られた正常領域の部分空間情報に基づき異常判定処理(j)を行ってもよい。
以下に、処理の詳細について説明する。図5は、本発明の異常検出処理の内容を示すフローチャートである。なお、例えば256階調のグレースケール画像データが既に読み込まれているものとする。S10においては、変位幅λを1にセットする。S11においては、画像の画素毎に、変位幅λに基づく画素対応HLACデータを生成し、保存する。この処理の詳細については後述する。
図3は、2次元画素空間における自己相関処理座標を示す説明図である。本発明においては、注目する参照画素を中心とする3×3=9画素の正方形の内部の画素について相関を取る(λ=1の場合)。マスクパターンは、相関を取る画素の組合せを示す情報であり、正方形の中心である注目画素(参照点)は必ず選択され、周りが局所変位を表す。マスクパターンによって選択された画素のデータが相関値の計算に使用される。
図4は、自己相関マスクパターンの内容を示す説明図である。図4(1)は注目画素のみの最も簡単な0次のマスクパターン(1個)である。(2)は2つの画素が選択されている1次マスクパターン例(計5個)であり、枠内の数はその画素値を乗算する回数を示している。(3)以降の行は3つの画素が選択されている3次マスクパターン例(計29個)である。注目画素を移動した場合に重複するパターンを除くと、濃淡画像に対するマスクパターン、即ちHLAC特徴の成分の数は合計35個ある。即ち、1つの2次元データに対する高次局所自己相関特徴ベクトルは35次元となる。
S12においては、注目画素を移動させながら、注目画素を中心とする所定領域、例えば10×10の領域のHLACデータを加算して、λ対応画素対応HLAC特徴データを生成する。この処理の詳細については後述する。S13においては、全ての画素対応HLACデータを加算し、λ対応全HLAC特徴データを保存する。
S14においては、λに1を加算する。S15においては、λが最高値(例えば3)を越えたか否かが判定され、判定結果が否定の場合にはSS11に移行するが、肯定の場合にはSS16に移行する。S16においては、λ対応画素対応HLAC特徴データおよびλ対応全HLAC特徴データのそれぞれについて、全λについてまとめる。従って、λの最高値が3である場合には画素対応HLAC特徴データおよび全HLAC特徴データの次元は35×3=105次元となる。
S17においては、主成分分析あるいは逐次的主成分分析手法により全HLAC特徴データから主成分ベクトルを求め、正常領域の部分空間とする。主成分分析手法自体は周知であるので概略を説明する。まず、正常領域の部分空間を構成するために、全HLAC特徴データから主成分分析により主成分ベクトルを求める。M次元のHLAC特徴ベクトルxを以下のように表す。
Figure 0004603512
なお、M=35である。また、主成分ベクトルを列に並べた行列U(固有ベクトル)を以下のように表す。
Figure 0004603512
主成分ベクトルを列に並べた行列Uは、以下のように求める。自己相関行列Rを次式に示す。
Figure 0004603512
行列Uはこの自己相関行列Rを用いて、次の式の固有値問題より求まる。
Figure 0004603512
固有値行列Λを次式で表す。
Figure 0004603512
第K固有値までの累積寄与率αKは、以下のように表される。
Figure 0004603512
そこで、累積寄与率αKが所定値(例えばαK=0.99)となる次元までの固有ベクトルu1,...,uKにより張られる空間を、正常領域の部分空間として適用する。なお、累積寄与率αKの最適値は監視対象や検出精度にも依存するので実験等により決定する。以上の計算を行うことにより、正常領域と対応する部分空間が生成される。
次に、固有値問題を解かず、共分散行列を求めずに、インクリメンタルに部分空間を求める逐次主成分分析手法を説明する。実世界への応用では大量のデータを扱うため、全てのデータを保持しておくことは難しい。そこで、逐次的に通常領域の部分空間を学習、更新する。
逐次的な主成分分析として考えられる手法としては、まず、ステップごとに固有値問題を解くことが考えられる。固有値問題に必要な自己相関行列Rは、次のように更新される。
Figure 0004603512
ここでR(n)はnステップ目の自己相関行列であり、x(n)はnステップ目の入力ベクトルである。これは、前記した主成分分析手法に忠実ではあるが、ステップごとに固有値問題を解かなければならないため、計算量が多いという問題がある。そこで、固有値問題を解くことなく相関行列を求めずに固有ベクトルを逐次更新する手法であるCCIPCAを適用する。CCIPCAの内容については、下記の非特許文献1に開示されている。
Juyang Weng, Yilu Zhang and Wey-Shiuan Hwang, "Candid Covariance-Free Incremental Principal Component Analysis",IEEE Transactions on Pattern Analysis and Machine Intelligence,Vol.25, No.8, pp.1034-1040, 2003。
このアルゴリズムでは、ステップごとに固有値問題を解く必要がないため、非常に高速な手法となっている。また、この手法では、固有値の収束はあまり良くないが、固有ベクトルの収束は速いという性質を持つ。第1固有ベクトルと第1固有値は、次のように更新される。
Figure 0004603512
ここで、固有ベクトルはv/‖v‖であり、固有値は‖v‖である。この更新則では、nが無限大のときにv(n)→±λ11となることが証明されている。ここでλ1は、サンプルの相関行列Rの最大固有値であり、e1はそれに対応する固有ベクトルである。第n固有ベクトルと第n固有値については、第1固有ベクトルと第1固有値からGram-Schmidtの直交化法に則って漸化的に更新され、真の固有値、固有ベクトルに収束することが示されている。詳しい更新アルゴリズムは次のようになる。
Figure 0004603512
本発明においては、CCIPCAで求める固有ベクトルについて全次元のM個を求めるのではなく、上限値を決める。固有値問題を解く場合には、固有値を求めてから累積寄与率を求め、累積寄与率が例えば0.99999を越える次元まで取るということを行うが、CCIPCAでは、次の二つの理由で上限値を設ける。第一に、従来の方法では計算量が大きいという点である。寄与率を求めるためには、全ての固有値を推定しなければならず、その計算時間は特徴抽出の計算時間を含めない場合でもパソコンで数十秒もかかってしまう。一方、次元を定数の例えば4として計算すると数ミリ秒で計算出来る。
2つ目の理由は、このCCIPCA手法においては固有値の収束が遅いという点である。数千フレームのデータ数に対してCCIPCA手法を用いた場合、最終的に通常領域部分空間の次元は二百程度であり、収束値である4に全く収束していないことが分かる。これらの理由により部分空間の次元を一定として求める。このパラメータのおおよその値は、ある時間幅の入力ベクトルに対して一度固有値問題を解くことによって求めることができる。
S18においては、S16にて求めた画素対応HLAC特徴データとS17で求めた部分空間との距離d⊥を求める。
図8は、HLAC特徴の部分空間の性質を示す説明図である。図8は、説明を簡単にするために、HLAC特徴データ空間を2次元(実際には26×3次元)とし、正常領域の部分空間を1次元(実施例では例えば累積寄与率0.99とすると3〜12次元程度)としたものであり、正常領域のHLAC特徴データが監視対象の個数ごとの集団を形成している。
主成分分析によって求められた正常領域部分空間Sは正常領域のHLAC特徴データを含む形で近傍に存在している。これに対して異常領域のHLAC特徴データAは、正常領域部分空間Sとの垂直距離d⊥が大きくなる。従って、HLAC特徴データと通常領域の部分空間との垂直距離d⊥を測ることによって、容易に異常領域を検出することができる。
距離d⊥は以下のように求める。主成分直交基底UK =[u1,...,uK] によって張られた正常部分空間への射影子Pおよびそれに対する直交補空間への射影子P⊥は下記のようになる。
Figure 0004603512
U’は行列Uの転置行列であり、IMはM次の単位行列である。直交補空間での2乗距離、即ち、部分空間Uへの垂線の2乗距離d2⊥は、次のように表すことができる。
Figure 0004603512
本実施例においては、この垂直距離d⊥を異常であるか否かの指標として採用可能である。但し、上記した垂直距離d⊥はスケール(特徴ベクトルのノルム)により変化する指標である。従って、スケールの違いによって異なる判定結果が出る恐れがある。そこで、他の指標として、以下に示す、よりスケールロバストな指標を採用してもよい。
まず部分空間Sとの角度、即ちsinθを指標とする場合を考える。しかし、この指標はノイズなどのスケールが非常に小さい特徴に対しても非常に大きな値が出る指標であり、あまり適切な指標ではない。そこで、スケールが小さい場合でも小さい値とするために、この指標を次のように変更する。
Figure 0004603512
ここでcは正の定数である。この指標により異常判定値はスケールに対して補正され、ノイズにも強い指標となる。この指標は、図8のグラフ上では原点から−cだけ横軸方向にずらした点からの角度を測ることを意味する。
S19においては、距離d⊥が所定の閾値を越えたか否かが判定され、判定結果が否定の場合にはS20に移行するが、肯定の場合にはS21に移行する。S20においては正常と判定する。また、S21においては異常と判定する。S22においては、全ての画素について判定処理が完了したか否かが判定され、判定結果が否定の場合にはS18に移行するが、肯定の場合にはS23に移行する。S23においては、判定結果を出力する。
図6は、S11の画素対応HLACデータ生成処理の内容を示すフローチャートである。S30においては、相関パターン対応特徴値をクリアする。S31においては、未処理の画素(参照点)を1つ選択する。S32においては、未処理のパターンを1つ選択する。S33においては、相関パターンおよび変位幅λに基づいて、前記した数式1を用いてパターンと対応する位置の画素輝度値を乗算して相関値を計算する。なお、この処理は前記した数式1におけるf(r)f(r+a1)…f(r+aN)の演算に相当する。
S34においては、相関値を相関パターン対応に保存する。S35においては、全てのパターンについて処理が完了したか否かが判定され、判定結果が否定の場合にはS32に移行するが、肯定の場合にはS36に移行する。S36においては、相関値群を画素対応に保存する。S37においては、全ての画素について処理が完了したか否かが判定され、判定結果が否定の場合にはS31に移行するが、肯定の場合にはS38に移行する。S38においては、相関値群の集合を画素対応HLACデータとして出力する。
図7は、S12のHLAC特徴データ生成処理の内容を示すフローチャートである。S40においては、未処理の画素(参照点)を1つ選択する。選択方法は全ての画素をスキャンしてもよいが、画像のXY座標上で2画素以上の所定の距離だけ離れた画素ごとに選択(サンプリング)するようにしてもよい。このようにすれば、処理量が軽減される。
S41においては、参照点を中心とする所定の領域の画素対応HLACデータを加算する。所定の領域は例えば注目画素を含む(中心とする)10×10であってもよい。なお、この処理は、前記した数式1において、注目画素を所望の範囲だけ移動(スキャン)させて相関値を足し合わせる(次元毎に相関値を加算する)積分操作に相当する。
S42においては、加算されたデータを画素対応に保存する。S43においては、全ての画素について処理が完了したか否かが判定され、判定結果が否定の場合にはS40に移行するが、肯定の場合にはS44に移行する。S44においては、特徴加算値の集合を画素対応HLAC特徴データとして出力する。
図9は、入力画像および異常判定結果を表す画像を示す説明図である。図9(a)は入力された濃淡画像を表し、図9(b)は、本発明の方式により処理した画素ごとの異常指標値を最大値を255、最小値を0として正規化した濃淡画像を表す。中央の欠陥部分の指標値が大きく(白く)なっており、欠陥が検出されていることが判る。
実施例1においては、画像全体から正常領域の部分空間を求めているが、実施例2においては、例えば直線状の配線のある領域と丸いパターンが多数存在する領域とが混在しているような場合に、領域を直線状の配線のある領域と丸いパターンが多数存在する領域とにクラス分けし、各クラス毎に正常領域の部分空間を求めて異常判定を行う。このようにすることにより、判定精度が向上する。
まず、主成分分析手法あるいは逐次的主成分分析手法により全HLACデータおよび画素対応HLAC特徴データからそれぞれ主成分ベクトルを求める。次に、求めた2つの主成分ベクトルの正準角を求め、正準角に基づく類似度によって画素をクラスに分ける。
正準角とは、統計学において二つの部分空間のなす角度を意味し、M次元部分空間とN次元部分空間の間にはN(≦M)個の正準角が定義できる。第2正凖角θ2は最小正準角θ1に直交する方向において測った最小角、同様に第3正準角θ3はθ2とθ1に直交した方向で測った最小角となる。F次元特徴空間における部分空間L1とL2の基底ベクトルをΦi、Ψi、これらから計算されるF×Fの射影行列を下記に示す。
Figure 0004603512
12あるいはP21のi番目に大きい固有値λがcos2θiとなる。M次元部分空間L1とN次元部分空間L2の関係はN個の正準角により完全に規定される。二つの部分空間が完全に一致している場合にはN個の正準角はすべて0度となる。両者が離れるにつれて下位の正準角から大きくなり、両者が完全に直交するときにすべての角度が90度となる。このように複数の正準角は二つの部分空間の構造的な類似度を表す。そこでn(≦N)個の正準角を用いて類似度S[n]を以下のように定義し、この指標を用いる。
Figure 0004603512
次に、正準角の類似度によって求めた指標値について、Mean Shift法を用いてクラスタリングを行う。Mean Shift法の内容については下記の非特許文献2に開示されている。Mean Shift法は、クラス数を与えないクラスタリング手法であり、どの程度の近傍を近いものとするかのスケールパラメータを設定する必要がある。本実施例においては、0から1の間の値しか持たない正準角の類似度を指標としているため、およそ0.1程度のスケールパラメータとする。
Dorin Comaniciu and Peter Meer. Mean shift:A robust approach toward feature space analysis.IEEE Transactions on Pattern Analysis and Machine Intelligence,Vol.24, No.5, pp.603-619, 2002。
最後に、クラス毎に画素対応HLACデータを加算し、加算されたHLAC特徴データから前記したような主成分分析手法あるいは逐次主成分分析手法でクラス毎の主成分ベクトルを求め、クラス毎の正常領域の部分空間とする。そして、画素対応HLAC特徴データと、判定されたクラスと対応する正常領域の部分空間との距離によって異常判定を行う。
以上、異常領域の検出を行う実施例について説明したが、本発明には以下のような変形例も考えられる。実施例においては、正常領域の部分空間を更新しながら異常領域の検出を行う例を開示したが、学習フェーズによって予め正常領域の部分空間を生成しておき、固定した部分空間を使用して異常領域の検出を行ってもよい。更に、ランダムサンプリングなどによって少量のデータを前もって学習しておいてもよい。
実施例においては、画素毎に特徴データを生成する例を開示したが、位置が近接する特徴データほど類似している。従って、例えば図9に示す処理を所定の距離だけ離れた画素毎に行うことにより、処理負荷が軽くなり、より高速に領域させることができる。但しこの方法は場所を特定する、あるいは検出精度という課題とトレードオフであり、各課題に対して適切な設定が必要である。
実施例においては、スケールを制御するパラメータであるλとして画素の整数倍の値を使用する例を開示したが、λとしては小数点以下も含む任意の実数値を採用可能である。但し、実数値の場合には画素値の補間演算が必要である。また、画像を小数点以下も含む任意の倍率で拡大縮小処理してから特徴抽出するようにしてもよい。
本発明による異常領域検出装置の構成を示すブロック図である。 本発明による異常領域検出処理の概要を示す説明図である。 2次元画素空間における自己相関処理座標を示す説明図である。 自己相関マスクパターンの内容を示す説明図である。 本発明の異常検出処理の内容を示すフローチャートである。 画素対応HLACデータ生成処理の内容を示すフローチャートである。 HLAC特徴データ生成処理の内容を示すフローチャートである。 HLAC特徴の部分空間の性質を示す説明図である。 入力画像および異常判定結果を表す画像を示す説明図である。
符号の説明
10…デジタルカメラ
11…コンピュータ
12…モニタ装置
13…キーボード
14…マウス

Claims (1)

  1. 画像データから画素毎に、予め定められた複数の相関パターンのそれぞれに基づいてパターンと対応する複数位置の画素輝度値同士を乗算することによって相関パターンの数と対応するデータの集合を生成する高次局所自己相関によって特徴データを抽出する特徴データ抽出手段と、
    前記画像データの所定の距離だけ離れた画素毎に、その画素を含む所定の範囲の画素群について前記特徴データ抽出手段によって抽出された前記特徴データを加算して画素対応特徴データを生成する画素対応特徴データ生成手段と、
    前記特徴データ抽出手段によって抽出された特徴データから主成分分析手法により主成分ベクトルに基づき正常領域を示す部分空間を求める正常部分空間生成手段と、
    前記正常領域を示す部分空間に対する前記画素対応特徴データの異常さを示す指標であって、前記画素対応特徴データと前記正常領域を示す部分空間との角度の情報を含んでいる指標として、xを特徴データのベクトル、P⊥をxの正常部分空間に対する直交補空間への射影子、cは正の定数としたときに、下記の数式15の値を採用する指標計算手段と、
    Figure 0004603512
    前記指標が所定値よりも大きい場合に異常と判定する異常判定手段と、
    前記異常判定手段が異常と判定した画素位置を異常とする判定結果を出力する出力手段と
    を備えたことを特徴とする異常領域検出装置。
JP2006167961A 2006-06-16 2006-06-16 異常領域検出装置および異常領域検出方法 Active JP4603512B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2006167961A JP4603512B2 (ja) 2006-06-16 2006-06-16 異常領域検出装置および異常領域検出方法
US12/304,552 US20100021067A1 (en) 2006-06-16 2007-06-13 Abnormal area detection apparatus and abnormal area detection method
PCT/JP2007/061871 WO2007145235A1 (ja) 2006-06-16 2007-06-13 異常領域検出装置および異常領域検出方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006167961A JP4603512B2 (ja) 2006-06-16 2006-06-16 異常領域検出装置および異常領域検出方法

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2010186217A Division JP4728444B2 (ja) 2010-08-23 2010-08-23 異常領域検出装置および異常領域検出方法

Publications (2)

Publication Number Publication Date
JP2007334766A JP2007334766A (ja) 2007-12-27
JP4603512B2 true JP4603512B2 (ja) 2010-12-22

Family

ID=38831749

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006167961A Active JP4603512B2 (ja) 2006-06-16 2006-06-16 異常領域検出装置および異常領域検出方法

Country Status (3)

Country Link
US (1) US20100021067A1 (ja)
JP (1) JP4603512B2 (ja)
WO (1) WO2007145235A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008287478A (ja) * 2007-05-17 2008-11-27 National Institute Of Advanced Industrial & Technology 異常検出装置および異常検出方法

Families Citing this family (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4368767B2 (ja) * 2004-09-08 2009-11-18 独立行政法人産業技術総合研究所 異常動作検出装置および異常動作検出方法
JP4215781B2 (ja) * 2006-06-16 2009-01-28 独立行政法人産業技術総合研究所 異常動作検出装置および異常動作検出方法
JP4429298B2 (ja) * 2006-08-17 2010-03-10 独立行政法人産業技術総合研究所 対象個数検出装置および対象個数検出方法
JP4654347B2 (ja) * 2007-12-06 2011-03-16 株式会社融合技術研究所 異常動作監視装置
US8150165B2 (en) * 2008-04-11 2012-04-03 Recognition Robotics, Inc. System and method for visual recognition
US9576217B2 (en) 2008-04-11 2017-02-21 Recognition Robotics System and method for visual recognition
JP5408139B2 (ja) 2008-10-09 2014-02-05 日本電気株式会社 異常検知システム、異常検知方法及び異常検知プログラム
JP5131863B2 (ja) * 2009-10-30 2013-01-30 独立行政法人産業技術総合研究所 Hlac特徴量抽出方法、異常検出方法及び装置
WO2011077696A1 (ja) * 2009-12-22 2011-06-30 パナソニック株式会社 動作解析装置および動作解析方法
JP6112291B2 (ja) * 2012-12-11 2017-04-12 パナソニックIpマネジメント株式会社 診断支援装置および診断支援方法
WO2016088758A1 (ja) * 2014-12-01 2016-06-09 国立研究開発法人産業技術総合研究所 超音波検査システム及び超音波検査方法
JP6510931B2 (ja) * 2015-08-19 2019-05-08 株式会社神戸製鋼所 データ解析方法
JP6794737B2 (ja) * 2015-12-01 2020-12-02 株式会社リコー 情報処理装置、情報処理方法、プログラムおよび検査システム
EP3176751B1 (en) * 2015-12-01 2020-12-30 Ricoh Company, Ltd. Information processing device, information processing method, computer-readable recording medium, and inspection system
CN108737406B (zh) * 2018-05-10 2020-08-04 北京邮电大学 一种异常流量数据的检测方法及系统
CN109211917A (zh) * 2018-08-20 2019-01-15 苏州富鑫林光电科技有限公司 一种通用复杂表面缺陷检测方法
CN110060247B (zh) * 2019-04-18 2022-11-25 深圳市深视创新科技有限公司 应对样本标注错误的鲁棒深度神经网络学习方法
JP7146092B2 (ja) * 2019-07-25 2022-10-03 三菱電機株式会社 検査装置及び方法、並びにプログラム及び記録媒体
CN116337868B (zh) * 2023-02-28 2023-09-19 靖江安通电子设备有限公司 一种表面缺陷检测方法及检测系统

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09171552A (ja) * 1995-10-18 1997-06-30 Fuji Xerox Co Ltd 画像認識装置
JPH10111930A (ja) * 1996-10-07 1998-04-28 Konica Corp 画像処理方法及び画像処理装置
JP2000030065A (ja) * 1998-07-14 2000-01-28 Toshiba Corp パターン認識装置及びその方法
JP2003162718A (ja) * 2001-11-22 2003-06-06 Toshiba Corp 画像処理方法及びプログラム
JP2005092346A (ja) * 2003-09-12 2005-04-07 National Institute Of Advanced Industrial & Technology 3次元データからの特徴抽出方法および装置
JP2005209155A (ja) * 2003-12-10 2005-08-04 Nissan Motor Co Ltd 動き検出装置及び動き検出方法
JP2006079272A (ja) * 2004-09-08 2006-03-23 National Institute Of Advanced Industrial & Technology 異常動作検出装置および異常動作検出方法
JP2006098152A (ja) * 2004-09-29 2006-04-13 Dainippon Screen Mfg Co Ltd 欠陥検出装置および欠陥検出方法

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP0363828B1 (en) * 1988-10-11 1999-01-07 Kabushiki Kaisha Ouyo Keisoku Kenkyusho Method and apparatus for adaptive learning type general purpose image measurement and recognition
US6466685B1 (en) * 1998-07-14 2002-10-15 Kabushiki Kaisha Toshiba Pattern recognition apparatus and method
JP2000090277A (ja) * 1998-09-10 2000-03-31 Hitachi Denshi Ltd 基準背景画像更新方法及び侵入物体検出方法並びに侵入物体検出装置
JP4226730B2 (ja) * 1999-01-28 2009-02-18 株式会社東芝 物体領域情報生成方法及び物体領域情報生成装置並びに映像情報処理方法及び情報処理装置
WO2001067749A2 (en) * 2000-03-07 2001-09-13 Sarnoff Corporation Camera pose estimation
US7522186B2 (en) * 2000-03-07 2009-04-21 L-3 Communications Corporation Method and apparatus for providing immersive surveillance
US7016884B2 (en) * 2002-06-27 2006-03-21 Microsoft Corporation Probability estimate for K-nearest neighbor
JP3954484B2 (ja) * 2002-12-12 2007-08-08 株式会社東芝 画像処理装置およびプログラム
JP3970877B2 (ja) * 2004-12-02 2007-09-05 独立行政法人産業技術総合研究所 追跡装置および追跡方法
US7739284B2 (en) * 2005-04-20 2010-06-15 International Business Machines Corporation Method and apparatus for processing data streams
US7760911B2 (en) * 2005-09-15 2010-07-20 Sarnoff Corporation Method and system for segment-based optical flow estimation
JP4215781B2 (ja) * 2006-06-16 2009-01-28 独立行政法人産業技術総合研究所 異常動作検出装置および異常動作検出方法
JP4429298B2 (ja) * 2006-08-17 2010-03-10 独立行政法人産業技術総合研究所 対象個数検出装置および対象個数検出方法

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09171552A (ja) * 1995-10-18 1997-06-30 Fuji Xerox Co Ltd 画像認識装置
JPH10111930A (ja) * 1996-10-07 1998-04-28 Konica Corp 画像処理方法及び画像処理装置
JP2000030065A (ja) * 1998-07-14 2000-01-28 Toshiba Corp パターン認識装置及びその方法
JP2003162718A (ja) * 2001-11-22 2003-06-06 Toshiba Corp 画像処理方法及びプログラム
JP2005092346A (ja) * 2003-09-12 2005-04-07 National Institute Of Advanced Industrial & Technology 3次元データからの特徴抽出方法および装置
JP2005209155A (ja) * 2003-12-10 2005-08-04 Nissan Motor Co Ltd 動き検出装置及び動き検出方法
JP2006079272A (ja) * 2004-09-08 2006-03-23 National Institute Of Advanced Industrial & Technology 異常動作検出装置および異常動作検出方法
JP2006098152A (ja) * 2004-09-29 2006-04-13 Dainippon Screen Mfg Co Ltd 欠陥検出装置および欠陥検出方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008287478A (ja) * 2007-05-17 2008-11-27 National Institute Of Advanced Industrial & Technology 異常検出装置および異常検出方法

Also Published As

Publication number Publication date
WO2007145235A1 (ja) 2007-12-21
US20100021067A1 (en) 2010-01-28
JP2007334766A (ja) 2007-12-27

Similar Documents

Publication Publication Date Title
JP4603512B2 (ja) 異常領域検出装置および異常領域検出方法
JP4728444B2 (ja) 異常領域検出装置および異常領域検出方法
JP4215781B2 (ja) 異常動作検出装置および異常動作検出方法
CN107111872B (zh) 信息处理装置、信息处理方法、及存储介质
US20100067799A1 (en) Globally invariant radon feature transforms for texture classification
DE102015103022A1 (de) Verfahren und Vorrichtung zum Erkennen eines bekannten Objekts in einem Sehfeld eines dreidimensionalen Maschinensichtsystems
JP4376145B2 (ja) 画像分類学習処理システム及び画像識別処理システム
JP5956814B2 (ja) 外観検査装置、外観検査方法及びコンピュータプログラム
CN108182449A (zh) 一种高光谱图像分类方法
JP7027978B2 (ja) 検査装置、検査方法、及び検査プログラム
US11915406B2 (en) Generating training data usable for examination of a semiconductor specimen
Kiruthika et al. Matching of different rice grains using digital image processing
US8594416B2 (en) Image processing apparatus, image processing method, and computer program
Pramunendar et al. Fish classification based on underwater image interpolation and back-propagation neural network
JP7046768B2 (ja) 情報推定装置及び情報推定方法
Wang et al. Local defect detection and print quality assessment
CN111221996A (zh) 仪表屏幕视觉检测方法和系统
CN114445410A (zh) 基于图像识别的电路板检测方法、计算机及可读存储介质
JP4915678B2 (ja) 特徴抽出装置および特徴抽出方法
JP2000099727A (ja) 外観画像分類装置およびその方法
CN114202665A (zh) 一种图像相似度确定方法及装置、设备、存储介质
WO2015136716A1 (ja) 画像処理装置、画像センサ、画像処理方法
JP2020071716A (ja) 異常判定方法、特徴量算出方法、外観検査装置
Yang et al. Image quality assessment via multiple features
JP4863121B2 (ja) 画像特徴抽出装置および画像特徴抽出方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080327

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100330

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100531

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100622

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100823

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20100823

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20100825

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100928

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20101001

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131008

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4603512

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131008

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250