本開示は、表面性状検出方法及び表面性状検出装置に関し、さらに詳しくは、照明装置より照明される検査対象物を撮像装置により撮像して得られた画像より、検査対象物の表面性状を検出する方法及びその装置に関するものである。
以下、本開示に係る表面性状検出方法及び表面性状検出装置の一実施形態について、図1~図19に基いて説明する。
まず、検査対象物9について説明する。本実施形態では、検査対象物9は、建材であり、更に詳しくは、ドア用の化粧板である。検査対象物9としてのドア用の化粧板は、厚さ2.6mmのMDF(Medium Density Fiberboard)の表面に、オレフィン製加飾シートをウレタン系反応型ホットメルト(Poly Urethane Reactive Hot Melt)接着剤を用いたプレス加工により貼り合わせたものである。
次に、表面性状検出装置1について説明する。図1に示すように、表面性状検出装置1は、照明装置12と、撮像装置11と、を備える。
撮像装置11は、レンズと、平面形状の撮像面を有しレンズにより撮像面に結像した像を電気信号(画像信号)に変換する(つまり撮像する)撮像素子とを有する、いわゆる周知のデジタルカメラである。レンズは例えば両面凸レンズである。撮像素子としては、CCD(Charge Coupled Device)イメージセンサやCMOS(Complementary Metal Oxide Semiconductor)イメージセンサなどの周知のイメージセンサを用いることができる。また、撮像装置11はいわゆるエリアセンサカメラであって、撮像素子において画素は二次元的に配列されている。
照明装置12は、検査対象物9を照明する。照明装置12は、全体として線状の光源を有し、光源は、撮像装置11に対する検査対象物9の相対的な移動方向91と表面90(撮像面)の法線方向92とに直交する方向93に長手方向を向けている。ここで、「線状」とは、長手方向の長さが短手方向の長さと比べて長い(比率でいうと例えば10倍以上が好ましい)ことをいうものであり、幅は0でなくてもよい。また、照明装置12は、例えば撮像装置11と共通の台座(図示せず)に対して固定されることで、撮像装置11に対する相対的な位置を固定されている。照明装置12の光源としては、例えば、直線状に配列された複数個の発光ダイオードを備える発光ダイオードアレイを用いることができる。照明装置12は、撮像装置11の画角から外れた位置に配置され、光源から直接撮像装置11に向けて出光されないようになっている。
照明装置12は、できるだけ線光源に近く(つまり、発光部の長手方向に直交する幅がなるべく細く、発光体が直線状に配列されており)、かつ、輝度ができるだけ高いことが望ましい。例えば、照明装置12として上記のような発光ダイオードアレイが用いられる場合、できるだけ輝度が高く且つ小さい発光ダイオードが、できるだけ短い間隔で配置されていることが望ましい。
図2Aに示すように、表面性状検出装置1は、搬送装置13を備える。搬送装置13としては、例えば、検査対象物9が載置される周知のベルトコンベアや可動ステージを用いることができる。または、搬送装置13は、検査対象物9を移動させる代わりに、撮像装置11と照明装置12とを移動させるロボットアーム等であってもよい。
また、本実施形態は、撮像装置11が出力した画像のデータを処理する画像処理装置14を備える。図2Aでは画像処理装置14は撮像装置11と分離して配置されているが、撮像装置11と一体的に設けられてもよい。
撮像装置11が出力した画像のデータは、CameraLink、USB(登録商標)、GigabitEthernet(登録商標)等の通信インターフェースを介して画像処理装置14に送信される。画像処理装置14は、通信インターフェースを介して送られてきた画像のデータを、画像処理装置14自体が内蔵するメモリまたはストレージ上に蓄積するとともに、同じく内蔵する演算装置により、蓄積された画像に対して任意の処理を実行できる機能を有する。
画像処理装置14は、撮像装置11と照明装置12とに対する検査対象物9の相対的な位置が異なる複数のタイミングでそれぞれ撮像装置11から画像を取得する。画像処理装置14は、得られた複数枚の画像の画素値の2値化や連結領域の抽出といった周知技術を用いることができ、上記のような画像処理装置14は例えばFPGA(field-programmable gate array)を用いて周知技術で実現することができる。
表面性状検出装置1は、制御装置15を備える。制御装置15は、例えばマイクロコンピュータを有し、ROM(Read Only Memory)等の記憶部に記憶されたプログラムを実行することで、各要素の動作を制御する。このような制御装置15としては、公知の様々なものが適宜利用可能であり、詳細な説明は省略する。制御装置15は、撮像装置11、照明装置12、搬送装置13及び画像処理装置14を制御する。
以下に、表面性状検出装置1による検査対象物9の表面性状検出方法について説明する。検査対象物9の表面性状としては、例えば、光沢、反射率、色調又は面方向(面の法線方向)が挙げられるが、これらに限定されない。
表面性状検出方法は、照明ステップと、撮像ステップと、関係曲線導出ステップと、二次曲線近似ステップと、表面性状検出ステップと、を備える。
照明ステップは、検査対象物9を照明装置12により照明し、検査対象物9の表面90の一部の領域(例えば後述する領域95~97)が照明装置12から所定の入射角度でかつ入射角度が連続的又は断続的に変化するように照明されるステップである。照明装置12、搬送装置13及び制御装置15が、照明ステップを実行する照明ステップ処理装置を構成する。
撮像ステップは、検査対象物9の一部の領域を撮像装置11により連続的又は断続的に撮像して、異なる入射角度で照明された領域を撮像した複数の画像2を得るステップである。撮像装置11、画像処理装置14及び制御装置15が、撮像ステップを実行する撮像ステップ処理装置を構成する。
照明ステップと撮像ステップは、一部又は全部が時間的に重複する。照明ステップ及び撮像ステップについて説明する。
図3Aに示すように、検査対象物9の撮像面(表面90)の一部に、概ね円錐状をした凸部94が形成されている。この凸部94の移動方向91の下流側(図3Aにおける左側)の斜面(表面60)の一部の領域95に注目する。領域95の移動方向91に沿う方向における位置をxとする。また、領域95の面方向をδ1とする。図3Aは、照明装置12より所定の入射角度で領域95に入射された光が領域95で正反射して、撮像装置11に入射される状態を示す。図3Aに示す状態で撮像装置11により撮像された画像2を図3Bに示す。図3B中の符号21は、画像2における凸部94に対応する部分を示し、符号22は、画像2において表面90で反射した照明装置12(光源)の像を示す。
図3Aに示す状態において、領域95は位置x1に位置している。領域95は位置x1に位置している時、領域95における入射角度と反射角度は等しく、撮像装置11で撮像される画像2の領域95に対応する部分の輝度は最大となる。撮像装置11で撮像される画像2の領域95に対応する部分の輝度は、領域95の位置xにより異なる。すなわち、撮像装置11で撮像される画像2の領域95に対応する部分の輝度は、領域95の位置xの関数となる。また、照明装置12からの光の領域95への入射角度は、領域95の位置xと一対一に対応することから、撮像装置11で撮像される画像2の領域95に対応する部分の輝度は、照明装置12からの光の領域95への入射角度の関数としても成立する。
同様に、図4Aに示す状態において、凸部94の頂点となる領域96は位置x2に位置している。領域96は位置x2に位置している時、領域96における入射角度と反射角度は等しく、撮像装置11で撮像される画像2の領域96に対応する部分の輝度は最大となる。図4Aに示す状態で撮像装置11により撮像された画像2を図4Bに示す。撮像装置11で撮像される画像2の領域96に対応する部分の輝度は、領域96の位置x(又は照明装置12からの光の領域96への入射角度)の関数となる。
同様に、図5Aに示す状態において、凸部94の移動方向91の上流側(図5Aにおける右側)の斜面(表面60)の一部の領域97は位置x3に位置している。領域97は位置x3に位置している時、領域97における入射角度と反射角度は等しく、撮像装置11で撮像される画像2の領域97に対応する部分の輝度は最大となる。図5Aに示す状態で撮像装置11により撮像された画像2を図5Bに示す。撮像装置11で撮像される画像2の領域97に対応する部分の輝度は、領域97の位置x(又は照明装置12からの光の領域97への入射角度)の関数となる。
輝度としては、撮像装置11がモノクロ画像を撮像するものである場合には、画素値(領域が複数の画素を含む場合には、例えば画素値の平均値)が採用可能である。また、撮像装置11がカラー画像を撮像するものである場合には、輝度としてRGBの画素値のうちのいずれか(領域が複数の画素を含む場合には、例えばRGBのいずれかの画素値の平均値)が採用可能である。
関係曲線導出ステップは、画像2の任意の領域における輝度と、画像2の撮像時の入射角度又は領域の位置との対応関係を複数の画像2について得て、輝度と入射角度又は領域の位置との関係曲線を得るステップである。関係曲線導出ステップは、関係曲線導出処理装置により実行される。本実施形態では、制御装置15が一機能として関係曲線導出ステップを実行可能である。すなわち、制御装置15が関係曲線導出処理装置としての機能を有している。
図3B、図4B及び図5Bに示すように、撮像ステップにおいて異なる入射角度で照明された領域を撮像した複数の画像2が得られる。得られた複数の画像2において、例えば領域95については、図3Bに示す画像2における領域95に対応する部分の輝度が最大となり、図4Bに示す画像2における領域95に対応する部分の輝度はこれよりも小さくなる。このように、検査対象物9の表面90の各領域において、輝度と入射角度(又は領域の位置x)の関係曲線が得られる。
輝度は、撮像装置11と照明装置12と撮像される検査対象物9の表面90との間の幾何学的な位置関係と、照明装置12からの光の強度や色合い等と、検査対象物9の表面性状とに応じて定まると考えることができる。このうち、照明装置12からの光の強度や色合い等については、照明装置12からの光を一定とすることで照明装置12からの光の変化の影響を除外することが可能となる。この結果、輝度は、撮像装置11と照明装置12と撮像される検査対象物9の表面90との間の幾何学的な位置関係と、検査対象物9の表面性状とに応じて定まると考えられる。
更に、各領域における表面性状は一定(不変)であるため、各領域毎に、輝度と入射角度(又は領域の位置x)の関係曲線が得られる。しかしながら、異なる領域における輝度と入射角度(又は領域の位置x)の関係曲線は、異なる領域の表面性状が互いに異なる場合、異なる関係曲線となると考えられる。
二次曲線近似ステップは、関係曲線を、下記[数1]で示される入射角度の所定の二次関数により表現される二次曲線に近似するステップである。
[数1]において、Vは輝度、xは入射角度と一対一の関係にある領域の位置、αは二次の項の係数、βは一次の項の係数、γは定数項を示す。[数1]は領域毎に定まる。すなわち、α、β及びγの組み合わせは、領域毎、すなわち表面性状によって定まる。
二次曲線近似ステップは、二次曲線近似処理装置により実行される。本実施形態では、制御装置15が一機能として二次曲線近似ステップを実行可能である。すなわち、制御装置15が二次曲線近似処理装置としての機能を有している。
二次曲線近似ステップでは、輝度と入射角度(又は領域の位置x)の関係曲線を、最小自乗法により、所定の二次関数により表現される二次曲線に近似する。なお、関係曲線を二次曲線に近似する手法としては、最小自乗法以外の手法が採用されてもよく、特に限定されない。
図6に、二次曲線近似ステップにより近似された二次曲線の例を示す。二次曲線31は、表面90が完全な鏡面でなく、かつ、模様があって白色に近く、かつ光沢が大きい領域における関係曲線から近似された二次曲線である。二次曲線32は、表面90が完全な鏡面でなく、かつ、模様がなくて黒色に近く、かつ光沢が大きい領域における関係曲線から近似された二次曲線である。二次曲線33は、表面90が完全な鏡面でなく、かつ、模様があって白色に近く、かつ光沢が小さい領域における関係曲線から近似された二次曲線である。二次曲線31~33に対応する表面90の領域は、それぞれ面方向が異なっている。
次に、表面性状検出ステップについて説明する。表面性状検出ステップは、所定の二次関数の二次の項の係数α、一次の項の係数β又は定数項γのうちの少なくとも一個を用いて、領域の表面性状を検出するステップである。表面性状検出ステップは、表面性状検出処理装置により実行される。本実施形態では、制御装置15が一機能として表面性状検出ステップを実行可能である。すなわち、制御装置15が表面性状検出処理装置としての機能を有している。
図6に示すように、二次曲線31と二次曲線32とを比較すると、最大輝度は異なるものの、曲線の曲がり具合はほぼ同じである。二次曲線31と二次曲線32とに対応するそれぞれの領域は「模様があって白色に近く」か「模様がなくて黒色に近く」かが異なる。検査対象物9の表面90の一領域が完全な鏡面でなく、この領域に模様があって白色に近い場合、領域で正反射した光に加えて乱反射した光も撮像装置11に撮像される。このため、二次曲線31と二次曲線32とにおける最大輝度の違いには、領域の色調の違いが反映される。また、二次曲線31と二次曲線32とにおいて、[数1]における二次の項の係数αはほぼ同じであると考えられ、二次曲線31と二次曲線32とにおける最大輝度の違いは、定数項γの違いとして表れる。
このことから、撮像装置11がモノクロ画像を撮像するものである場合、表面性状検出ステップにおいて、所定の二次関数の定数項γを基に、表面性状としての反射率を検出することができる。
また、撮像装置11がカラー画像を撮像するものである場合、表面性状検出ステップにおいて、RGBの各色毎に二次曲線を求め、二次曲線を表す所定の二次関数の定数項γを基に、表面性状としての色調を検出することができる。なお、色調は、RGBのそれぞれの値の比として表される。
次に、二次曲線31と二次曲線33とを比較すると、最大輝度はほぼ同じであるものの、曲線の曲がり具合は異なる。二次曲線31と二次曲線33とに対応するそれぞれの領域は光沢が「大きい」か「小さい」かが異なる。このため、二次曲線31と二次曲線32とにおける曲線の曲がり具合の違いには、領域の光沢の違いが反映される。また、二次曲線における曲線の曲がりは、[数1]における二次の項の係数αの違いとして表れる。
このことから、表面性状検出ステップにおいて、所定の二次関数の二次の項の係数αを基に、表面性状としての光沢を検出することができる。
次に、二次曲線31~二次曲線33を比較すると、最大輝度となる位置xがそれぞれ異なる。二次曲線31~二次曲線33における最大輝度となる位置xの違いは、領域の面方向に応じて決まる。図7に、二次曲線31の導関数310、二次曲線32の導関数320及び二次曲線33の導関数330を示す。導関数310~330の値は、位置xが下記[数2]で示されるρの場合に、0となる。
領域の最大輝度となる位置xが、この領域が平坦な場合(すなわち面方向が表面90の法線方向と一致する場合)に最大輝度となる位置xとずれる量から、この領域の面方向が求められる。
このことから、表面性状検出ステップにおいて、所定の二次関数の導関数を求め、導関数の値が0となる入射角度(位置x)を基に、表面性状としての領域の面方向を検出することができる。
図8に、この導関数を基に得られた検査対象物9の表面90の面方向を表した画像の例を示す。これは、各領域の面方向が垂直上向きである場合を灰色とし、領域の面方向が垂直上向きから一方向に傾くほど濃い黒色とすると共に、領域の面方向が垂直上向きから一方向と反対方向に傾くほど濃い白色とする処理を施した画像である。
図9に、二次の項の係数αを基に得られた検査対象物9の表面90の光沢を表した画像の例を示す。これは、各領域の光沢が大きいほど濃い白色とする処理を施した画像である。この画像は、表面性状検出方法が更に備える分布画像作成ステップにおいて作成される。
分布画像作成ステップは、各領域毎に所定の二次関数の二次の項の係数αを表示する二次の項の係数の分布画像と、各領域毎に所定の二次関数の定数項γを表示する定数項の分布画像の少なくとも一つを作成するステップである。分布画像作成ステップは、分布画像作成処理装置により実行される。本実施形態では、制御装置15が一機能として分布画像作成ステップを実行可能である。すなわち、制御装置15が分布画像作成処理装置としての機能を有している。
これにより、撮像装置11により撮像された画像7から光沢が抽出され、光沢を特定しやすくなる。図9に示す画像は、分布画像作成ステップにおいて作成される、各領域毎に所定の二次関数の二次の項の係数αを表示する二次の項の係数の分布画像により構成され、各領域毎に所定の二次関数の定数項γを表示する定数項の分布画像は用いられない。
図10に、検査対象物9の表面90の反射率を表した画像の例を示す。この画像も、表面性状検出方法が更に備える分布画像作成ステップにおいて作成される。図10に示す画像は、分布画像作成ステップにおいて作成される、各領域毎に所定の二次関数の定数項γを表示する定数項の分布画像により構成され、各領域毎に所定の二次関数の二次の項の係数αを表示する二次の項の係数の分布画像は用いられない。
これにより、撮像装置11により撮像された画像7から模様が抽出され、模様が特定しやすくなる。
次に、機械学習について説明する。表面性状検出方法は、機械学習ステップと、色目判定ステップと、を更に備える。機械学習ステップは、機械学習装置16に表面性状と色目判定の基準との関係を機械学習させるステップである。色目判定ステップは、機械学習ステップにおいて機械学習を行った機械学習装置16に、表面性状検出ステップにおいて検出された表面性状を用いて色目判定を行わせるステップである。
機械学習としては、公知の様々な技術が適宜利用可能であり、特に限定されない。本実施形態の機械学習装置16について、図2Bに示すニューラルネットワークの概念図に基づいて概略説明する。
機械学習装置16は、機械学習(特に深層学習)を行う。機械学習装置16は、深層学習の中でも画像の分類に優れた畳み込みニューラルネットワークを用いる。図2B中の符号161は入力層、162は第一畳み込み層、163は第一プーリング層、164は第二畳み込み層、165は第二プーリング層、166は全結合層、167は全結合層、168は出力層を示す。
入力層161において、検査対象物9の表面90の光沢を表した画像と、検査対象物9の表面90の輝度を表した画像の2チャンネルについて、0~1の数値に正規化されたマトリクス状の数値データに変換されて、結果が第一畳み込み層162に入力される。第一畳み込み層162において、入力された結果に基づいて畳み込み演算が行われて、結果が第一プーリング層163に入力される。第一プーリング層163において、入力された結果に基づいてマックスプーリング処理が行われて、結果が第二畳み込み層164に入力される。第二畳み込み層164において、入力された結果に基づいて畳み込み演算が行われて、結果が第二プーリング層165に入力される。第二プーリング層165において、入力された結果に基づいてマックスプーリング処理が行われて、結果が全結合層166に入力される。全結合層166において、入力された結果に基づいて結合処理が行われて、結果が全結合層167に入力される。全結合層167において、入力された結果に基づいて結合処理が行われて、結果が出力層168に入力される。出力層168において、色目種別のそれぞれについてどの色であるらしいかを示す0~1の数値N個が出力される(推論処理)。このような畳み込みニューラルネットワークによる推論処理は、画像処理装置14で行われる。すなわち、画像処理装置14が機械学習装置16としての機能を有する。
例えば、検査対象物9の表面90が木目模様を有する場合、表面90の部分によって模様のパターンや色合いが大きく異なるので、機械学習ステップにおいて、機械学習(深層学習)は表面90の様々な部分からサンプリングした多数の画像を用いて行われる。色目判定ステップにおいても、撮像された画像の複数箇所に対して推論を行い、複数の結果を統合して最終的な色目種別を判定する。なお、複数の結果を統合する場合、出力層の出力値をサンプリングした回数分平均する方法や、1回の推論ごとに判定を行って多数決により決定するなどの方法がある。
この色目判定ステップは、機械学習ステップで学習した教師データと、検査対象物から得られた入力データが類似しているかを推論して色目を判定するステップである。そのため、機械学習装置16に入力する検査対象物のデータのフォーマットや画素エリア、畳み込みニューラルネットワークによる推論処理の方法等は、機械学習ステップで学習させたときと一致させて判定を行う。
なお、本実施形態では、検査対象物9の表面90の光沢を表した画像と、検査対象物9の表面90の輝度を表した画像の2チャンネルを用いているが、撮像装置11がカラー画像を撮像するものである場合には、光沢を表した画像と、RGBのRの画素値を表した画像、Gの画素値を表した画像及びBの画素値を表した画像の4チャンネルを用いる。また、カラー画像としてRGBではなくLab画像などのチャンネル構成の画像を用いてもよい。また、表面90に深彫り模様のある検査対象物9であれば、面方向を表す画像を入力に加えることで、色目判定の信頼性を向上させることができる。
次に、図11~図13に基づいて、検査対象物9の表面90の面方向を表した画像(図11参照)を用いる例について説明する。図11に示す面方向を表した画像は、凹凸欠陥41及びマーキング42を含む。機械学習ステップにおいて、図11に示す画像の各領域の面方向の平均値と標準偏差を求める。求められた平均値及び標準偏差に基づいて、領域の面方向が平均値±3×標準偏差以内を正常部(白色部分)、正常部でない部分が規定の面積、寸法未満である部分を良品候補部(灰色部分)、正常部でない部分が規定の面積、寸法を超える部分を欠陥候補部(黒色部分)として表示した画像を図12に示す。図12における欠陥候補部43に対応する部分を図11に示す面方向を表した画像から切り出した拡大画像を図13Aに示す。同様に欠陥候補部44に対応する部分の拡大画像を図13Bに、欠陥候補部45に対応する部分の拡大画像を図13Cに、欠陥候補部46に対応する部分の拡大画像を図13Dに示す。
図13A及び図13Bは、色目判定の基準が不合格である欠陥部を示し、図13C及び図13Dは良品部を示す。このような画像を多数収集し、良品部には良品ラベル(数値0)を付与し、欠陥部には欠陥ラベル(数値1)を付与して、深層学習を行うことにより、学習した欠陥ラベル画像に類似したものは欠陥部、そうでないものは良品部として分類することができる。これにより、特徴量を求めて欠陥規格と比較する従来方式とは異なり、人間の目視判定により近い良否判定が可能になる。
次に、図14及び図15に基づいて、機械学習の別例について説明する。上記機械学習の例では、欠陥部の抽出は、人間が行っていたのに対し、この別例では、欠陥部の抽出も上述したニューラルネットワークを用いるもので、機械学習ステップは、尤度分布作成ステップと、特異部分抽出ステップと、色目判定学習ステップと、を有している。尤度分布作成ステップは、機械学習装置16に、第一の機械学習を行わせて表面性状についての尤度分布を作成するステップである。特異部分抽出ステップは、尤度分布の特異部分を抽出するステップである。色目判定学習ステップは、機械学習装置16に第二の機械学習を行わせて色目判定の基準を学習させるステップである。
別例で用いられる画像は、上記機械学習の例と同じである(図11参照)。まず、尤度分布作成ステップにおいて、第一の機械学習を行わせ、画像を上下等間隔の正方格子に区切り、正方格子ごとに切り出した画像に対して上述したニューラルネットワークによる推論が行われ、図14に示す尤度分布が作成される。尤度分布では、不良ラベルの尤度(0~1の間の数値)を領域毎に算出し、黒いほど欠陥である可能性(尤度)が高い。図14において尤度が高い部分がある一定の面積を有する欠陥候補部51に対応する部分を図11に示す面方向を表した画像から切り出した拡大画像を図15Aに示す。同様に欠陥候補部52に対応する部分の拡大画像を図15Bに、欠陥候補部53に対応する部分の拡大画像を図15Cに、欠陥候補部54に対応する部分の拡大画像を図15Dに示す。このように欠陥候補部51~54を抽出し、その部分を切り出して第二の機械学習を行わせることにより、撮像した画像に入り込むノイズ等の攪乱に対する耐性が向上し、精度の高い良否判定が可能になる。
なお、画像全域にわたってニューラルネットワークによる推論を行う処理は逐次処理型の通常のCPU(Central Processing Unit)を有する処理装置では負荷が非常に大きくなる。このため、並列処理型のGPGPU(General-Purpose computing on Graphics Processing Units)処理装置を用いることが好ましい。
また、このように多数回の推論を行うための第一の機械学習においてニューラルネットワークにて用いられるデータのサイズは、第二の機械学習において用いられるデータのサイズよりも小さくしたり、中間層の規模を小さくしたりすることで、処理を高速化しやすくなる。このデータのサイズの調整方法としては、例えば撮像したデータの縮小率を変更して用いる。例えば第一の機械学習では、元の画像を1/4に縮小して16×16画素の範囲を切り出してニューラルネットワークの入力とし、尤度の高い部分に対しては、64×64画素サイズを入力とする。また、中間層の規模の調整としては、ニューラルネットワークの畳み込み層の数を調整する。
ただし、このように規模の小さいニューラルネットワークは誤判定を起こす可能性が大きい。そこで、第一の機械学習において用いられるニューラルネットワークに比べて、入力画像の画素数や中間層の規模を大きくした、精度の高い第二の機械学習において用いられるニューラルネットワークを別途構成することが好ましい。これにより、色目判定の良否の判定正解率を高めることができる。
なお、第一の機械学習におけるニューラルネットワークにて用いられるデータのサイズを、第二の機械学習において用いられるデータのサイズよりも小さくしたり、中間層の規模を小さくした場合、色目判定ステップにおいても、学習したときと同じデータのサイズや中間層の規模でニューラルネットワークに入力して、判定を行う。
図16A~図16Hに、面方向を表す画像と光沢を表す画像の2チャンネルを持つ画像の例を示す。検査対象物9の表面90の一の領域の面方向を表す画像を図16Aに、光沢を表す画像を図16Bに示す。同様に、表面90の他の領域の面方向を表す画像を図16Cに、光沢を表す画像を図16Dに、更に他の領域の面方向を表す画像を図16Eに、光沢を表す画像を図16Fに、更に他の領域の面方向を表す画像を図16Gに、光沢を表す画像を図16Hに示す。
従来一般的に用いられる面方向の計測装置では、強い濃淡模様のある検査対象物9の表面90を撮像する場合、レンズの精度限界により、生成される画像において、強い濃淡模様に対応する像にボケ足を伴う偽凹凸が発生しやすかった。これに対して、更に光沢を表す画像のチャンネルを併用することによって、より精度よく欠陥部であるか否か(特に、偽凹凸であるか否か)判定することができる。
また、第一の機械学習において用いられる画像は、第二の機械学習において用いられる画像と縮尺が異なることが好ましい。欠陥部のサイズに大きなバラつきがある場合には、縮尺の異なる複数のチャンネルを持つ画像を入力とすることで、判定の制度(正解率)を高めやすくなる。欠陥部のサイズに10倍程度のバラつきがある場合に使う欠陥ラベルの画像の例を図17A~図17Hに示す。図17A、図17C、図17E、図17Gは、欠陥候補部の周囲およそ40mm四方に相当する画像を示す。図17Bは、図17Aに示される欠陥候補部の中央のおよそ10mm四方に相当する拡大画像を示し、同様に、図17Dは、図17Cの拡大画像であり、図17Fは、図17Eの拡大画像であり、図17Hは、図17Gの拡大画像である。このようにすることで、サイズに大きなバラつきのある欠陥部を両方とも精度よく判定しやすくなる。
図18A~図18Iに、検査対象物9の表面90の画像の更なる別例を示す。図18A~図18Cは、光沢が低くほぼ均一で模様がほとんどない漆喰調の色目の領域の画像を示す。図18D~図18Fは、黒っぽい模様とともに光沢が大きく変化しているウオルナット調の色目の領域の画像を示す。図18G~図18Iは、黒っぽいが模様が強くなく、光沢が高くて全面に細かいシボ目(光沢の低い部分)があるソフトウオルナット調の色目の領域の画像を示す。図18A、図18D及び図18Gは、領域の面方向を表す画像であり、図18B、図18E及び図18Hは、領域の光沢を表す画像であり、図18C、図18F及び図18Iは、領域の輝度を表す画像である。なお、図18A、図18D及び図18Gにおいては、各領域の面方向が垂直上向きである場合を灰色とし、領域の面方向が垂直上向きから一方向に傾くほど濃い黒色とすると共に、領域の面方向が垂直上向きから一方向と反対方向に傾くほど濃い白色とする処理を施した画像である。図18A、図18D及び図18Gにおいて中央に見えるのは、突起状の異物欠陥である。
図19A~図19Dに、更なる別例として、図18A~図18Iとよく似た色目であるが、表面90のシボ目が異なる検査対象物9の表面90の画像を示す。図19A及び図19Bは、滑らかに光沢が変化する風合いの加工が施されメープル調のシートの画像であり、図19C及び図19Dは、高光沢で細かい掻き傷状のシボ目が形成されているソフトオーク調のシートの画像である。図19A及び図19Cは、領域の光沢を表す画像であり、図19B及び図19Dは、領域の輝度を表す画像である。図19B及び図19Dに示す輝度を表す画像は、互いに同じように見えるが、図19A及び図19Cは、領域の光沢を表す画像は違うことが目視でも判る。
(変形例)
検査対象物9は、ドア用の化粧板ではなくてもよく、他の建材や建材以外であってもよく、検査対象物9の用途、材質、大きさ、形状等は限定されない。
照明装置12の光源としては、発光ダイオードではなく、冷陰極蛍光管等であってもよく、特に限定されない。
この一部の領域95は、一画素に対応する領域であることが好ましいが、複数の画素に対応する領域であってもよい。
関係曲線導出処理装置、二次曲線近似処理装置、表面性状検出処理装置及び分布画像作成処理装置は、制御装置15とは別の専用の装置として、表面性状検出装置1に備えられてもよい。
以上、述べた実施形態および変形例から明らかなように、第1の態様の表面性状検出方法は、照明ステップと、撮像ステップと、関係曲線導出ステップと、二次曲線近似ステップと、表面性状検出ステップと、を備える。照明ステップは、検査対象物9を照明装置12により照明し、検査対象物9の表面の一部の領域が照明装置12から所定の入射角度でかつ入射角度が連続的又は断続的に変化するように照明されるステップである。撮像ステップは、領域を撮像装置11により連続的又は断続的に撮像して、異なる入射角度で照明された領域を撮像した複数の画像を得るステップである。関係曲線導出ステップは、画像の領域における輝度と当該画像の撮像時の入射角度又は領域の位置との対応関係を複数の画像について得て輝度と入射角度又は領域の位置との関係曲線を得るステップである。二次曲線近似ステップは、関係曲線を入射角度又は前記領域の位置の所定の二次関数により表現される二次曲線に近似するステップである。表面性状検出ステップは、所定の二次関数の二次の項の係数α、一次の項の係数β又は定数項γのうちの少なくとも一個を用いて、領域の表面性状を検出するステップである。
第1の態様によれば、検査対象物の表面性状を精度よく検出しやすい。
第2の態様では、第1の態様との組み合わせにより実現され得る。第2の態様では、表面性状検出ステップにおいて、所定の二次関数の二次の項の係数αを基に、表面性状としての光沢を検出する。
第2の態様によれば、光沢の違いが二次の項の係数αの違いとして表れるため、二次の項の係数αを基に、表面性状としての光沢を検出しやすくなる。
第3の態様では、第1又は第2の態様との組み合わせにより実現され得る。第3の態様では、撮像装置11はモノクロ画像を撮像するものである。表面性状検出ステップにおいて、所定の二次関数の定数項γを基に、表面性状としての反射率を検出する。
第3の態様によれば、反射率の違いが定数項γの違いとして表れるため、定数項γを基に、表面性状としての反射率を検出しやすくなる。
第4の態様では、第1又は第2の態様との組み合わせにより実現され得る。第4の態様では、撮像装置11はカラー画像を撮像するものである。表面性状検出ステップにおいて、所定の二次関数の定数項γを基に、表面性状としての色調を検出する。
第4の態様によれば、色調の違いが定数項γの違いとして表れるため、定数項γを基に、表面性状としての色調を検出しやすくなる。
第5の態様では、第1~第4のいずれかの態様との組み合わせにより実現され得る。第5の態様では、表面性状検出ステップにおいて、所定の二次関数の導関数を求め、導関数の値が0となる入射角度又は領域の位置を基に、表面性状としての領域の面方向を検出する。
第5の態様によれば、表面性状としての面方向を検出しやすくなる。
第6の態様では、第1~第5のいずれかの態様との組み合わせにより実現され得る。第6の態様では、表面性状検出方法は、分布画像作成ステップを更に備える。分布画像作成ステップは、各領域毎に所定の二次関数の二次の項の係数αを表示する二次の項の係数の分布画像と、各領域毎に所定の二次関数の定数項γを表示する定数項の分布画像と、を作成するステップである。
第6の態様によれば、二次の項の係数の分布画像では撮像装置11により撮像された画像7から光沢が抽出され、定数項の分布画像では撮像装置11により撮像された画像7から模様が抽出され、光沢と模様の特定がしやすくなる。
第7の態様では、第1~第6のいずれかの態様との組み合わせにより実現され得る。第7の態様では、表面性状検出方法は、機械学習ステップと、色目判定ステップと、を更に備える。機械学習ステップは、機械学習装置16に表面性状と色目判定の基準との関係を機械学習させるステップである。色目判定ステップは、機械学習ステップにおいて機械学習を行った機械学習装置16に、表面性状検出ステップにおいて検出された表面性状を用いて色目判定を行わせるステップである。
第7の態様によれば、機械学習により、精度よく色目判定を行いやすくなる。
第8の態様では、第7の態様との組み合わせにより実現され得る。第8の態様では、機械学習ステップは、尤度分布作成ステップと、特異部分抽出ステップと、色目判定学習ステップと、を有する。尤度分布作成ステップは、機械学習装置16に第一の機械学習を行わせて表面性状についての尤度分布を作成するステップである。特異部分抽出ステップは、尤度分布の特異部分を抽出するステップである。色目判定学習ステップは、機械学習装置16に第二の機械学習を行わせて色目判定の基準を学習させるステップである。
第8の態様によれば、より精度よく色目判定を行いやすくなる。
第9の態様では、第8の態様との組み合わせにより実現され得る。第9の態様では、第一の機械学習において用いられる画像は、第二の機械学習において用いられる画像と縮尺が異なる。
第9の態様によれば、サイズに大きなバラつきのある表面性状を両方とも精度よく判定しやすくなる。
第10の態様では、第8の態様との組み合わせにより実現され得る。第10の態様では、第一の機械学習において用いられるデータのサイズは、第二の機械学習において用いられるデータのサイズよりも小さい。
第10の態様によれば、色目判定の良否の判定正解率を高めやすくなる。
第11の態様の表面性状検出装置1は、第1~第10のいずれかの態様の表面性状検出方法に用いられる表面性状検出装置1であって、照明装置12と、撮像装置11と、関係曲線導出処理装置と、二次曲線近似処理装置と、表面性状検出処理装置と、を備える。関係曲線導出処理装置は、関係曲線導出ステップを実行する。二次曲線近似処理装置は、二次曲線近似ステップを実行する。表面性状検出処理装置は、表面性状検出ステップを実行する。
第11の態様によれば、検査対象物の表面性状を精度よく検出しやすい。