JP2008051558A - Visual inspection method and device - Google Patents
Visual inspection method and device Download PDFInfo
- Publication number
- JP2008051558A JP2008051558A JP2006225780A JP2006225780A JP2008051558A JP 2008051558 A JP2008051558 A JP 2008051558A JP 2006225780 A JP2006225780 A JP 2006225780A JP 2006225780 A JP2006225780 A JP 2006225780A JP 2008051558 A JP2008051558 A JP 2008051558A
- Authority
- JP
- Japan
- Prior art keywords
- evaluation value
- curved surface
- calculated
- continuous curved
- luminance level
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Image Analysis (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
- Image Processing (AREA)
Abstract
Description
本発明は、検査対象を撮影して得られた画像データから検査対象の外観検査を行う外観検査方法及び外観検査装置に関する。 The present invention relates to an appearance inspection method and an appearance inspection apparatus for performing an appearance inspection of an inspection object from image data obtained by photographing the inspection object.
液晶ディスプレイ等の表示装置は、その外観にプラスチック製のキャビネットが用いられている。キャビネットは、射出成形によって製造されており、製造のばらつきによってキャビネットの外観にウエルド現象等の外観上の欠陥が生じる。そこで、検査者が目視による感応検査を行ない、不良であるか否かの判定を行っていた。 A display device such as a liquid crystal display uses a plastic cabinet for its appearance. The cabinet is manufactured by injection molding, and defects in appearance such as a weld phenomenon occur in the appearance of the cabinet due to manufacturing variations. In view of this, an inspector performs a visual sensitivity inspection to determine whether or not it is defective.
しかしながら、目視による感応検査では検査者の直感によって判定されることから、検査者によって検査結果が異なるという問題があった。また、同じ検査者でも、検査日時によって検査結果が異なるという問題があった。このように、目視による感応検査では定量的な判定を行うことが極めて困難である。 However, since the visual sensitive inspection is determined by the inspector's intuition, there is a problem that the inspection result varies depending on the inspector. In addition, even for the same inspector, there is a problem that the inspection result varies depending on the inspection date and time. As described above, it is very difficult to make a quantitative determination by visual inspection.
ところで、近年、テレビカメラで撮像された映像信号に基づいて検査対象画素の欠陥レベルを算出する欠陥レベル算出部と予め定められた基準レベルに基づいて、閾値と比較し良否判定する構成の映像検査装置が開示されている(例えば、特許文献1参照。)。
しかしながら、特許文献1に開示された技術は画素欠陥を検査するための検査技術に関するものであり、ウエルド現象の様な外観上の欠陥を検査する外観検査に適用することは不可能である。
However, the technique disclosed in
本発明は斯かる事情に鑑みてなされたものであり、検査対象を撮像して得られた画像に基づいて、輝度レベルを連続曲面として表現し、表現した連続曲面に基づいて算出される評価値にて検査対象の外観を評価することにより、ウエルド現象等の外観上の欠陥を評価することが可能な外観検査方法及び外観検査装置の提供を主たる目的とする。 The present invention has been made in view of such circumstances, and based on an image obtained by imaging an inspection object, the luminance level is expressed as a continuous curved surface, and the evaluation value calculated based on the expressed continuous curved surface An object of the present invention is to provide an appearance inspection method and an appearance inspection apparatus capable of evaluating defects in appearance such as a weld phenomenon by evaluating the appearance of an inspection object.
また本発明は、評価値を算出する数式に係る重み係数をニューラルネットワークを用いた学習にて更新することにより、評価の精度を向上させることが可能な外観検査方法及び外観検査装置の提供を他の目的とする。 The present invention also provides an appearance inspection method and an appearance inspection apparatus capable of improving the accuracy of evaluation by updating a weighting factor relating to a mathematical expression for calculating an evaluation value through learning using a neural network. The purpose.
本発明は、検査対象を撮像して得られた画像の複数色のうちの少なくとも一色の輝度レベルを示す画像データに基づいて前記検査対象の外観検査を行う外観検査方法において、前記画像データに含まれる各撮像画素間の位置における輝度レベルを、各撮像画素の位置における輝度レベルに基づいて補間し、撮像面に対する輝度レベルを示す連続曲面を算出する連続曲面算出ステップと、算出された連続曲面に基づいて評価値を算出する評価値算出ステップと、算出された評価値に基づいて前記検査対象の定量的判定を行う判定ステップとを有することを特徴とする。 The present invention relates to an appearance inspection method for performing an appearance inspection of an inspection object based on image data indicating a luminance level of at least one of a plurality of colors of an image obtained by imaging the inspection object. A continuous curved surface calculating step of interpolating a luminance level at a position between each imaging pixel based on a luminance level at the position of each imaging pixel and calculating a continuous curved surface indicating a luminance level with respect to the imaging surface; And an evaluation value calculating step for calculating an evaluation value based on the evaluation value, and a determination step for performing a quantitative determination of the inspection object based on the calculated evaluation value.
本発明は、前記評価値は複数のパラメータを含み、前記評価値算出ステップは、各パラメータに該パラメータに対応する重み係数をそれぞれ乗算し、乗算された値を加算した加算値に基づいて前記検査対象の評価値を算出することを特徴とする。 In the present invention, the evaluation value includes a plurality of parameters, and the evaluation value calculation step includes multiplying each parameter by a weighting factor corresponding to the parameter, and adding the multiplied value to the inspection value. The evaluation value of the object is calculated.
本発明は、予め設定された評価値を有する複数の標準サンプルを用いて、各パラメータに対応する重み係数をニューラルネットワークによる学習に基づいて更新する重み係数更新ステップを更に有することを特徴とする。 The present invention further includes a weighting factor updating step of updating a weighting factor corresponding to each parameter based on learning by a neural network using a plurality of standard samples having preset evaluation values.
本発明は、前記評価値算出ステップは、前記連続曲面算出ステップにて算出された連続曲面における最小曲率値を算出し、算出された最小曲率値を前記パラメータの1つとする最小曲率値算出ステップを含むことを特徴とする。 In the present invention, the evaluation value calculating step includes a minimum curvature value calculating step of calculating a minimum curvature value on the continuous curved surface calculated in the continuous curved surface calculating step, and using the calculated minimum curvature value as one of the parameters. It is characterized by including.
本発明は、前記評価値算出ステップは、輝度レベルが所定値の仮想平面を想定し、該仮想平面と前記連続曲面とが交差する交差領域を導出する交差領域導出ステップと、導出された交差領域の面積を算出し、算出された面積を前記パラメータの1つとする面積算出ステップとを含むことを特徴とする。 According to the present invention, the evaluation value calculation step assumes a virtual plane having a predetermined luminance level, and derives an intersection region deriving step for deriving an intersection region where the virtual plane intersects the continuous curved surface, and the derived intersection region And an area calculating step using the calculated area as one of the parameters.
本発明は、前記評価値算出ステップは、輝度レベルが所定値の仮想平面を想定し、該仮想平面と前記連続曲面とが交差する交差領域を導出する交差領域導出ステップと、導出された交差領域と前記連続曲面とで囲まれた体積を算出し、算出された体積を前記パラメータの1つとする体積算出ステップとを含むことを特徴とする。 According to the present invention, the evaluation value calculation step assumes a virtual plane having a predetermined luminance level, and derives an intersection region deriving step for deriving an intersection region where the virtual plane intersects the continuous curved surface, and the derived intersection region And a volume calculating step of calculating a volume surrounded by the continuous curved surface and using the calculated volume as one of the parameters.
本発明は、前記評価値算出ステップは、輝度レベルが所定値の仮想平面を想定し、該仮想平面と前記連続曲面とが交差する交差領域を導出する交差領域導出ステップと、導出された交差領域における最大の線分長を算出し、算出された最大の線分長を前記パラメータの1つとする線分長算出ステップとを含むことを特徴とする。 According to the present invention, the evaluation value calculation step assumes a virtual plane having a predetermined luminance level, and derives an intersection region deriving step for deriving an intersection region where the virtual plane intersects the continuous curved surface, and the derived intersection region And calculating a maximum line segment length in step (a), and calculating a line segment length using the calculated maximum line segment length as one of the parameters.
本発明は、検査対象を撮像して得られた画像の複数色のうちの少なくとも一色の輝度レベルを示す画像データに基づいて前記検査対象の外観検査を行う外観検査装置において、前記画像データに含まれる各撮像画素間の位置における輝度レベルを、各撮像画素の位置における輝度レベルに基づいて補間し、撮像面に対する輝度レベルを示す連続曲面を算出する連続曲面算出手段と、算出された連続曲面に基づいて評価値を算出する評価値算出手段と、算出された評価値に基づいて前記検査対象の定量的判定を行う判定手段とを備えることを特徴とする。 The present invention relates to an appearance inspection apparatus that performs an appearance inspection of an inspection object based on image data indicating a luminance level of at least one of a plurality of colors of an image obtained by imaging the inspection object, and is included in the image data A continuous curved surface calculating means for interpolating a luminance level at a position between each imaging pixel based on a luminance level at the position of each imaging pixel and calculating a continuous curved surface indicating a luminance level with respect to the imaging surface; and a calculated continuous curved surface An evaluation value calculating unit that calculates an evaluation value based on the evaluation value and a determination unit that quantitatively determines the inspection object based on the calculated evaluation value are provided.
本発明は、前記評価値は複数のパラメータを含み、前記評価値算出手段は、各パラメータに該パラメータに対応する重み係数をそれぞれ乗算し、乗算された値を加算した加算値に基づいて前記検査対象の評価値を算出するようにしてあることを特徴とする。 In the present invention, the evaluation value includes a plurality of parameters, and the evaluation value calculation means multiplies each parameter by a weighting factor corresponding to the parameter, and adds the multiplied value to the inspection value. An evaluation value of the object is calculated.
本発明は、予め設定された評価値を有する複数の標準サンプルを用いて、各パラメータに対応する重み係数をニューラルネットワークによる学習に基づいて更新する重み係数更新手段を更に備えることを特徴とする。 The present invention is characterized by further comprising weight coefficient updating means for updating a weight coefficient corresponding to each parameter based on learning by a neural network using a plurality of standard samples having preset evaluation values.
本発明にあっては、検査対象を撮像し、撮像された画像の複数色のうちの少なくとも一色の輝度レベルを示す画像データを取得する。画像データには各撮像画素の位置における輝度レベルが含まれており、各撮像画素間の位置における輝度レベルを、画像データに含まれる各撮像画素の位置における輝度レベルに基づいて補間する。そして、各撮像画素及び各撮像画素間の位置における輝度レベルに基づいて、撮像面に対する輝度レベルを示す連続曲面を算出する。このように、画像データは撮像面に対して不連続であるので、各撮像画素の間を補間して連続曲面とする。そして、算出された連続曲面に基づいて評価値を算出し、算出された評価値に基づいて検査対象の定量的判定を行う。 In the present invention, the inspection target is imaged, and image data indicating the luminance level of at least one of the plurality of colors of the captured image is acquired. The image data includes the luminance level at the position of each imaging pixel, and the luminance level at the position between the imaging pixels is interpolated based on the luminance level at the position of each imaging pixel included in the image data. Then, based on the luminance level at each imaging pixel and the position between each imaging pixel, a continuous curved surface indicating the luminance level with respect to the imaging surface is calculated. Thus, since the image data is discontinuous with respect to the imaging surface, interpolation is performed between the imaging pixels to form a continuous curved surface. Then, an evaluation value is calculated based on the calculated continuous curved surface, and a quantitative determination of the inspection object is performed based on the calculated evaluation value.
本発明にあっては、評価値が複数のパラメータからなり、各パラメータに該パラメータに対応する重み係数をそれぞれ乗算し、乗算された値を加算した加算値に基づいて検査対象の定量的判定を行う。 In the present invention, the evaluation value is composed of a plurality of parameters, each parameter is multiplied by a weighting factor corresponding to the parameter, and the quantitative determination of the inspection object is performed based on the added value obtained by adding the multiplied values. Do.
本発明にあっては、予め設定された評価値の複数の標準サンプルを用いて、各パラメータに対応する重み係数を、ニューラルネットワークを用いた学習によって更新する。 In the present invention, the weighting coefficient corresponding to each parameter is updated by learning using a neural network using a plurality of standard samples of evaluation values set in advance.
本発明にあっては、連続曲面における最小曲率値を算出し、算出された最小曲率値を評価値のパラメータの1つとする。最小曲率値は、輝度レベルの変化量の大きさを示す指標であることから、この最小曲率値を評価値のパラメータとすることにより、輝度レベルの変化が大きい不具合を見つけることが可能となる。 In the present invention, the minimum curvature value in the continuous curved surface is calculated, and the calculated minimum curvature value is set as one of the evaluation value parameters. Since the minimum curvature value is an index indicating the magnitude of the change amount of the luminance level, it is possible to find a problem with a large change in the luminance level by using the minimum curvature value as a parameter of the evaluation value.
本発明にあっては、輝度レベルが所定値の仮想平面を想定し、想定した仮想平面と連続曲面とが交差する交差領域を導出し、導出された交差領域の面積を算出する。そして、算出された交差領域の面積を評価値のパラメータの1つとする。交差領域の面積は、例えば、輝度レベルが所定レベルを超過する領域の面積であることから、面積が大きな不具合を見つけることが可能となる。 In the present invention, a virtual plane having a predetermined luminance level is assumed, an intersection area where the assumed virtual plane and the continuous curved surface intersect is derived, and the area of the derived intersection area is calculated. Then, the calculated area of the intersecting region is set as one of evaluation value parameters. Since the area of the intersection region is, for example, the area of the region where the luminance level exceeds a predetermined level, it is possible to find a problem with a large area.
本発明にあっては、輝度レベルが所定値の仮想平面を想定し、想定した仮想平面と連続曲面とが交差する交差領域を導出し、導出された交差領域と連続曲面とで囲まれた体積を算出する。そして、算出された体積を評価値のパラメータの1つとする。交差領域と連続曲面とで囲まれた体積は、例えば、輝度レベルが所定レベルを超過する領域の面積と超過度合とが組み合わされた指標であることから、面積が大きく、また超過度合が大きな不具合を見つけることが可能となる。 In the present invention, assuming a virtual plane having a predetermined luminance level, a crossing area where the assumed virtual plane and the continuous curved surface intersect is derived, and the volume surrounded by the derived crossing region and the continuous curved surface Is calculated. The calculated volume is set as one of evaluation value parameters. The volume enclosed by the intersecting area and the continuous curved surface is, for example, an index combining the area and the excess degree of the area where the luminance level exceeds the predetermined level, so the area is large and the excess degree is large. Can be found.
本発明にあっては、輝度レベルが所定値の仮想平面を想定し、想定した仮想平面と連続曲面とが交差する交差領域を導出し、導出された交差領域における最大の線分長を算出する。そして、算出された最大の線分長を評価値のパラメータの1つとする。交差領域における最大の線分長は、輝度レベルが所定レベルを超過する長さであることから、長さが長い不具合を見つけることが可能となる。 In the present invention, a virtual plane having a predetermined luminance level is assumed, an intersection area where the assumed virtual plane and the continuous curved surface intersect is derived, and the maximum line segment length in the derived intersection area is calculated. . The calculated maximum line length is set as one of the evaluation value parameters. Since the maximum line segment length in the intersection region is a length where the luminance level exceeds a predetermined level, it is possible to find a defect with a long length.
本発明の外観検査方法及び外観検査装置は、検査対象を撮像して得られた画像の複数色のうちの少なくとも一色の輝度レベルを示す画像データに基づき、画像データに含まれる各撮像画素間の位置における輝度レベルを、各撮像画素の位置における輝度レベルに基づいて補間し、撮像面に対する輝度レベルを連続曲面として算出し、算出した連続曲面に基づいて評価値を算出し、算出した評価値に基づいて検査対象の定量的判定を行う。 The appearance inspection method and the appearance inspection apparatus according to the present invention are based on image data indicating a luminance level of at least one of a plurality of colors of an image obtained by imaging an inspection object, and between each imaging pixel included in the image data. The luminance level at the position is interpolated based on the luminance level at the position of each imaging pixel, the luminance level for the imaging surface is calculated as a continuous curved surface, the evaluation value is calculated based on the calculated continuous curved surface, and the calculated evaluation value Based on this, a quantitative determination of the inspection object is performed.
この構成により、本発明では、検査対象の外観を、輝度レベルに基づく連続曲面として表現し、連続曲面の特徴を数値化することができるので、ウエルド現象等の外観上の欠陥を、検査者の直感に頼ることなく、一定の基準に基づき定量的に評価することが可能である等、優れた効果を奏する。 With this configuration, in the present invention, the appearance of the inspection object can be expressed as a continuous curved surface based on the luminance level, and the features of the continuous curved surface can be quantified. There is an excellent effect such that it is possible to evaluate quantitatively based on a certain standard without depending on intuition.
また本発明の外観検査方法等は、数値化した連続曲面の特徴として、最小曲率値、輝度レベルが所定値の仮想平面と交差する交差領域の面積、交差領域及び連続曲面にて形成される閉空間の体積、交差領域上の最大の線分長等の複数のパラメータを用い、各パラメータに対応する重み係数を夫々のパラメータに乗じた上で加算することで評価値を算出することにより、外観上の欠陥について様々な特徴をその軽重に応じて適正に評価することが可能である等、優れた効果を奏する。 In addition, the appearance inspection method of the present invention is characterized in that, as a characteristic of a continuous curved surface that is quantified, a minimum curvature value, an area of a crossing region that intersects a virtual plane having a predetermined luminance level, a crossing region, and a closed curved surface formed by a continuous curved surface. By using multiple parameters such as the volume of space and the maximum line segment length on the intersecting area, multiplying each parameter by the weighting coefficient corresponding to each parameter, and adding the evaluation value to calculate the appearance There are excellent effects such as being able to properly evaluate various characteristics of the above defects according to their weight.
さらに本発明の外観検査方法等は、ニューラルネットワークによる学習に基づいて重み係数を更新することにより、重み係数の適正化を行うことが可能である等、優れた効果を奏する。 Furthermore, the appearance inspection method of the present invention has an excellent effect that the weighting factor can be optimized by updating the weighting factor based on learning by a neural network.
以下、本発明をその実施の形態を示す図面に基づいて詳述する。 Hereinafter, the present invention will be described in detail with reference to the drawings illustrating embodiments thereof.
(実施の形態1)
図1は、本発明の実施の形態1に係る外観検査装置の構成例を示すブロック図である。図1中1は、本発明の実施の形態1に係る外観検査装置であり、外観検査装置1は、CPUで構成された制御部10を備えている。制御部10は、ROM11、RAM12、撮像部13、画像メモリ14、画像処理部15、判定部16、入力部17及び出力部18と接続され、これら各部を制御し、ROM11に予め格納されているコンピュータプログラムに従って種々の機能を実行する。外観検査装置1は、液晶ディスプレイに用いられるプラスチック製のキャビネット等の検査対象50の外観を検査する装置であり、射出成形により製造されるキャビネット表面のウエルド現象等の不具合の有無の検査を行うことが可能である。
(Embodiment 1)
FIG. 1 is a block diagram showing a configuration example of an appearance inspection apparatus according to
RAM12は、DRAM、SDRAM等のメモリを用いて構成され、制御部10によるコンピュータプログラムの実行時に発生する一時的なデータを記憶する。
The
撮像部13は、CCD等の撮像素子を有し、検査対象50を撮像して画像データを生成する。生成された画像データは、画像メモリ14に格納され、制御部10の指示によって各種の処理が行なわれる。図2は、本発明の実施の形態1に係る外観検査装置1が生成する画像データの一例を示す説明図である。図2は、画像メモリ14に格納された画像データを示しており、画像データは、撮像部13が有する各撮像素子に対応する夫々の位置に、輝度レベルを示すL11,L21,…,Lmn等の値を離散値として含んでいる。これらの輝度データは、各撮像画素の位置におけるL* 値、R(red)成分、G(Green)成分、B(Blue)成分等の複数色のうちの少なくとも一色の輝度レベルを示している。なお図中X軸は、撮像した画像の横軸を示し、Y軸は、撮像した画像の縦軸を示している。
The
画像処理部15は、連続曲面算出部15a、最小曲率値算出部15b、交差領域導出部15c、面積算出部15d、体積算出部15e及び線分長算出部15fを備えている。
The
連続曲面算出部15aは、撮像部13によって撮像され、画像メモリ14に格納された画像データに含まれる各撮像画素の位置における輝度レベルを補間して、各撮像画素間の位置における輝度レベルを算出し、各撮像画素及び各撮像画素間の位置における輝度レベルに基づいて、撮像面に対する輝度レベルを示す連続曲面を算出する。図3は、本発明の実施の形態1に係る外観検査装置1にて算出される連続曲面の一例を模式的に示す三次元グラフである。図2を用いて説明した様に画像データは、撮像部13の各撮像素子に対応する離散的な位置の輝度レベルを示す不連続なデータであるので、各撮像画素間の位置における輝度レベルを算出して補間することにより、図3に示す様な連続したデータの集合である連続曲面Sが算出される。なお図3中のX軸及びY軸は、図2のX軸及びY軸と対応しており、Z軸は輝度レベルを示している。即ち連続曲面Sとは、撮像面上の各位置の輝度レベルを高低として表す仮想的な面である。なお補間処理としては、最小二乗法、スプライン法等の公知技術が用いられる。
The continuous curved surface calculation unit 15a calculates the luminance level at the position between the respective imaging pixels by interpolating the luminance level at the position of each imaging pixel included in the image data captured by the
図4は、本発明の実施の形態1に係る外観検査装置1にて算出された輝度レベルのX軸方向の変化の一例を示すグラフである。図4中のX軸及びZ軸は、図3のX軸及びZ軸と対応している。最小曲率値算出部15aは、図4に示す様に、連続曲面算出部15aにて算出された連続曲面Sに対する二階微分等の処理を行うことにより、最小曲率値Aを算出する。なお最小曲率値Aの位置が、画像データを構成する輝度レベルの最大の変化点を示している。最小曲率値Aは、輝度レベルの変化量の大きさを示す指標であることから、最小曲率値Aに基づいて輝度レベルの変化の大きさとして反映する不具合を検出することが可能である。
FIG. 4 is a graph showing an example of the change in the X-axis direction of the luminance level calculated by the
図5は、本発明の実施の形態1に係る外観検査装置1にて算出された輝度レベルのX軸方向及びY軸方向の変化の一例を示すグラフである。図5中のX軸、Y軸及びZ軸は、図3のX軸、Y軸及びZ軸と対応している。交差領域導出部15cは、図5に示す様に、輝度レベルが所定値の仮想平面Pを想定し、仮想平面Pと連続曲面算出部15aにて算出された連続曲面Sとが交差する交差領域Rを導出する。なお輝度レベルの所定値は、例えば輝度レベルの変化の平均値、偏差、分散等の統計値に基づいて設定される。
FIG. 5 is a graph illustrating an example of changes in the X-axis direction and the Y-axis direction of the luminance level calculated by the
面積導出部15dは、図5に示す様に、交差領域導出部15cにて導出された交差領域Rの面積Bを算出する。また、体積算出部15eは、図5に示す様に、交差領域導出部15cにて導出された交差領域Rと連続曲面算出部15aにて算出された連続曲面Sとで囲まれた閉空間の体積Cを算出する。さらに、線分長算出部15fは、図5に示す様に、交差領域導出部15cにて導出された交差領域Rにおける最大の線分長Dを算出する。交差領域Rの面積Bは、輝度レベルが所定値を超過する領域の面積を示す指標であることから、面積Bに基づいて面積が大きな不具合を検出することが可能である。交差領域Rと連続曲面Sとで囲まれた閉空間の体積Cは、輝度レベルが所定値を超過する領域の面積と超過の程度とを組み合わせた指標であることから、体積Cに基づいて面積が大きく、かつ程度が大きい不具合を検出することが可能である。交差領域Rにおける最大の線分長Dは、輝度レベルが所定値を超過する長さを示す指標であることから、線分長Dに基づいて長い不具合を検出することが可能である。
As shown in FIG. 5, the
判定部16は、画像処理部の15の各算出部により算出された最小曲率値A、面積B、体積C及び線分長Dの各パラメータに対応するω1、ω2、ω3及びω4として示される重み係数を設定し、各パラメータに、対応する重み係数を夫々乗算し、得られた各値を加算した加算値を評価値H(H=ω1×A+ω2×B+ω3×C+ω4×D)として算出する評価値算出部16aを備えている。重み係数は、例えば、予めユーザなどによって設定され、判定部16に内蔵された図示しないメモリに記憶されている。
The
また、判定部16は、評価値算出部16aにて算出された評価値Hに基づいて検査対象50の定量的判定を行う。例えば、良/不良を分別する閾値Hthを上述したメモリに記憶させておき、算出された評価値Hと閾値Hthとを比較することによって検査対象50の良/不良を判定する。
Moreover, the
入力部17は、キーボード、押釦、マウス等の外部からの入力を受け付けるデバイスである。出力部18は、モニタ、LED、スピーカ等の外部への出力を行うデバイスである。
The
次に、上述のように構成された本発明の実施の形態1に係る外観検査装置1の動作について説明する。図6は、本発明の実施の形態1に係る外観検査装置1の検査処理の一例を示すフローチャートである。
Next, the operation of the
先ず、外観検査装置1が備える制御部10は撮像部13を制御し、検査対象50を撮像して輝度レベルを示す画像データを生成させる(ステップS1)。なお、生成された画像データは画像メモリ14に格納される。そして、画像データのうちの検査を行う領域(検査領域)を指定する(ステップS2)。検査領域を指定する領域を予め設定しておくことで、S2の処理を省略することが可能である。
First, the
次に、制御部10は画像処理部15を制御し、画像データに含まれる各撮像画素の位置における輝度レベルを補間して、各撮像画素間の位置における輝度レベルを算出し、各撮像画素及び各撮像画素間の位置における輝度レベルに基づいて、撮像面に対する輝度レベルを示す連続曲面Sを算出する(ステップS3)。算出された連続曲面Sを示すデータはRAM12に記憶される。そして、制御部10は画像処理部15を制御し、RAM12に記憶された連続曲面Sの最小曲率値Aを算出する(ステップS4)。
Next, the
また、制御部10は画像処理部15を制御し、輝度レベルが所定値の仮想平面Pを想定し(ステップS5)、仮想平面Pと連続曲面Sとが交差する交差領域Rを導出する(ステップS6)。そして、交差領域Rの面積Bを算出するとともに(ステップS7)、交差領域Rと連続曲面Sとで囲まれた閉空間の体積Cを算出する(ステップS8)。さらに、交差領域Rにおける最大の線分長Dを算出する(ステップS9)。
Further, the
次に、算出されたパラメータ(最小曲率値A、面積B、体積C、線分長D)に、各パラメータに対応する重み係数(ω1、ω2、ω3、ω4)を夫々乗算し、乗算にて得られた夫々の値を加算した加算値を評価値Hとして算出する(ステップS10)。そして、算出された評価値Hと閾値Hthとを比較し、検査対象50の良/不良を判定し(ステップS11)、判定結果を出力部18から出力する。例えば評価値Hが閾値Hthより大きい場合、検査対象50は不良であると判定する。
Next, the calculated parameters (minimum curvature value A, area B, volume C, line segment length D) are respectively multiplied by weighting factors (ω1, ω2, ω3, ω4) corresponding to each parameter, and multiplication is performed. An added value obtained by adding the obtained values is calculated as an evaluation value H (step S10). Then, the calculated evaluation value H and the threshold value Hth are compared to determine whether the
以上のように、実施の形態1によれば、検査対象50を撮像して得られた画像データに基づいて、良/不良を定量的に判定することができるので、従来の目視による感応検査の様な検査者及び検査日時によって検査結果が相違するという虞がない。従って不良品が良品と判定されて出荷されるという誤り又は良品が不良品と判定されて破棄されるという誤りを抑えることが可能である。
As described above, according to the first embodiment, it is possible to quantitatively determine good / bad based on the image data obtained by imaging the
(実施の形態2)
実施の形態1では、重み係数(ω1、ω2、ω3、ω4)が、予め例えばユーザによって設定され、判定部16に内蔵された図示しないメモリに記憶されていたが、予め設定された評価値を有する複数の標準サンプルを用いて、各パラメータに対応する重み係数(ω1、ω2、ω3、ω4)をニューラルネットワーク等の学習法によって更新するようにしてもよく、そうしたものが実施の形態2である。
(Embodiment 2)
In the first embodiment, the weighting coefficients (ω1, ω2, ω3, ω4) are set in advance by, for example, the user and stored in a memory (not shown) built in the
図7は、本発明の実施の形態2に係る外観検査装置の構成例を示すブロック図である。本発明の実施の形態2に係る外観検査装置は、実施の形態1にて示した外観検査装置1に、重み係数更新部20が追加された構成を有する。なおその他の構成については、実施の形態1と同様であるので、実施の形態1と同一符号を付し、その説明を省略する。
FIG. 7 is a block diagram showing a configuration example of an appearance inspection apparatus according to Embodiment 2 of the present invention. The appearance inspection apparatus according to the second embodiment of the present invention has a configuration in which a weight
重み係数更新部20は、複数の標準サンプルを用いて、各パラメータに対応する重み係数をニューラルネットワーク等の学習法にて更新する機能を有している。標準サンプルは、予めベテランの検査者、検査管理者等の信頼性の高い判定を行う一又は複数の検査者により、その評価値Hが予め決定されているサンプルである。標準サンプルとしては、評価値Hが異なるサンプル及び同一の評価値Hで、評価値Hを構成するパラメータ(本例では、最小曲率値A、面積B、体積C、線分長D)が異なるサンプルが用いられる。
The weight
そして実施の形態1にて説明した検査対象50の検査処理と同様の方法により、各標準サンプルに対して、画像処理部15が備える各算出部にて最小曲率値A、面積B、体積C、線分長D等のパラメータを算出する。各標準サンプルの評価値Hは、予め決定されているので、決定されている評価値Hと比較して妥当な値をとる様に重み係数を、ニューラルネットワーク等の学習法にて算出し、算出した重み係数を検査時の重み係数とすべく更新処理を行う。
Then, by the same method as the inspection process of the
次に、上述のように構成された本発明の実施の形態2に係る外観検査装置1の重み係数更新処理の動作について説明する。なお検査対象50に対して各種パラメータを算出する処理は実施の形態1のフローチャートを用いて説明した処理と同様である。図8は、本発明の実施の形態2に係る外観検査装置1の重み係数更新処理の一例を示すフローチャートである。
Next, the operation of the weight coefficient update process of the
先ず、外観検査装置1が備える制御部10は撮像部13を制御し、標準サンプルを撮像して輝度レベルを示す画像データを生成させる(ステップS21)。なお、生成された画像データは画像メモリ14に格納される。そして、画像データのうちの検査を行う領域(検査領域)を指定する(ステップS22)。検査領域を指定する領域を予め設定しておくことで、S22の処理を省略することが可能である。
First, the
次に、制御部10は画像処理部15を制御し、画像データに含まれる各撮像画素の位置における輝度レベルを補間して、各撮像画素間の位置における輝度レベルを算出し、各撮像画素及び各撮像画素間の位置における輝度レベルに基づいて、撮像面に対する輝度レベルを示す連続曲面Sを算出する(ステップS23)。算出された連続曲面Sを示すデータはRAM12に記憶される。そして、制御部10は画像処理部15を制御し、RAM12に記憶された連続曲面Sの最小曲率値Aを算出する(ステップS24)。
Next, the
また、制御部10は画像処理部15を制御し、輝度レベルが所定値の仮想平面Pを想定し(ステップS25)、仮想平面Pと連続曲面Sとが交差する交差領域Rを導出する(ステップS26)。そして、交差領域Rの面積Bを算出するとともに(ステップS27)、交差領域Rと連続曲面Sとで囲まれた体積Cを算出する(ステップS28)。さらに、交差領域Rにおける最大の線分長Dを算出する(ステップS29)。
Further, the
次に、制御部10は画像処理部15を制御し、ステップS21〜S29の処理にて算出した各パラメータと、当該標準サンプルに対して予め決定されている評価値Hとに基づき、各パラメータに対応する重み係数を、ニューラルネットワークにて算出し(ステップS30)、算出した重み係数に基づいて、記憶している各重み係数を更新する(ステップS31)。ステップS30にて用いる評価値Hは、入力部17から逐次受け付け、又は予め受け付けてRAM12に記憶しておいた値を読み出して用いる。そして評価値Hを教師信号として、ニューラルネットワーク等の学習法により各パラメータの重要度及び関連性を算出し、重み係数を算出する。
Next, the
そしてステップS21〜S31の処理を全ての標準サンプルに対して実行し、処理を終了する。 And the process of step S21-S31 is performed with respect to all the standard samples, and a process is complete | finished.
以上のように、実施の形態2によれば、予め評価値が設定された複数の標準サンプルを撮像して得られた画像データに基づいて各パラメータを算出し、各標準サンプルの評価値が妥当な値となるように、重み係数をニューラルネットワーク等の学習法によって算出し、算出された重み係数を検査時の重み係数とすべく更新することから、各パラメータに対する重み係数をユーザが設定する必要がなくなる。つまり、良/不良を判定するときの判定基準となる評価値を与えることによって、外観検査装置が、各標準サンプルの評価値が妥当となるように、自動的に重み係数を算出して更新することから、ユーザに対する負担を大幅に軽減させることができる。 As described above, according to the second embodiment, each parameter is calculated based on image data obtained by imaging a plurality of standard samples in which evaluation values are set in advance, and the evaluation value of each standard sample is valid. Since the weighting coefficient is calculated by a learning method such as a neural network so that the value becomes a new value and the calculated weighting coefficient is updated to be the weighting coefficient at the time of inspection, the user needs to set the weighting coefficient for each parameter. Disappears. In other words, by giving an evaluation value as a criterion for determining good / bad, the appearance inspection apparatus automatically calculates and updates the weighting coefficient so that the evaluation value of each standard sample is valid. Therefore, the burden on the user can be greatly reduced.
前記実施の形態1及び2では、最小曲率値、面積、体積及び線分長をパラメータとする形態を示したが、本発明はこれに限らず、様々なパラメータを設定することが可能であり、またより多くのパラメータを用いる場合、上述した単純なモデルではなく、より複雑な様々なモデルを用いることが可能であり、学習法を利用した最適な重み係数、更には結合荷重等の設定が重要となる。例えば下記の様な数式にて示されるモデルが各種重み係数等の設定に用いられる。 In the first and second embodiments, the mode using the minimum curvature value, area, volume, and line segment length as parameters is shown, but the present invention is not limited to this, and various parameters can be set. In addition, when using more parameters, it is possible to use various models that are more complex than the simple model described above, and it is important to set the optimal weighting factor using the learning method, and further, the connection weight, etc. It becomes. For example, a model represented by the following mathematical formula is used for setting various weighting factors.
ak =f(ΣPi ωki)
H=f(Σai Vi )
但し、f():シグモイド関数
Pi :パラメータ
ωki:重み係数
Vi :結合加重
H:評価値
ak = f (ΣPi ωki)
H = f (Σai Vi)
Where f (): sigmoid function
Pi: Parameter
ωki: Weight coefficient
Vi: Join weight
H: Evaluation value
また前記実施の形態1及び2では、表示装置のキャビネットの外観に発生するウエルド現象を検査対象としたが、検査対象はこれに限定されるものではなく、例えば、液晶表示装置に表示部のムラ(液晶ギャップのばらつき、配向膜の乾燥のばらつきなどに起因)を検査対象としてもよい。この場合、グレースケール表示を行うことでムラを顕在化させ、その状態を撮像部にて撮像して画像データを取得する。また、評価値を構成する各パラメータは、ウエルド現象を評価する場合の一例であり、ウエルド現象の評価を他のパラメータを用いて行ってもよい。他の現象を評価する場合は、その現象を定量的に評価できるように、各パラメータを適宜決定する。 In the first and second embodiments, the weld phenomenon that occurs in the appearance of the cabinet of the display device is an inspection target. However, the inspection target is not limited to this. The inspection object may be (due to variations in liquid crystal gap, variations in alignment film drying, etc.). In this case, non-uniformity is revealed by performing gray scale display, and the state is captured by the imaging unit to acquire image data. Each parameter constituting the evaluation value is an example in the case of evaluating the weld phenomenon, and the evaluation of the weld phenomenon may be performed using other parameters. When evaluating another phenomenon, each parameter is appropriately determined so that the phenomenon can be quantitatively evaluated.
さらに本発明は、複数色の色成分の刺激値を示す複数の輝度レベルを総合的に検査する形態に展開することも可能である。 Furthermore, the present invention can be developed in a form of comprehensively inspecting a plurality of luminance levels indicating stimulus values of a plurality of color components.
10 制御部
13 撮像部
14 画像メモリ
15 画像処理部
15a 連続曲面算出部
15b 最小曲率値算出部
15c 交差領域導出部
15d 面積算出部
15e 体積算出部
15f 線分長算出部
16 判定部
16a 評価値算出部
20 重み係数更新部
DESCRIPTION OF
Claims (10)
前記画像データに含まれる各撮像画素間の位置における輝度レベルを、各撮像画素の位置における輝度レベルに基づいて補間し、撮像面に対する輝度レベルを示す連続曲面を算出する連続曲面算出ステップと、
算出された連続曲面に基づいて評価値を算出する評価値算出ステップと、
算出された評価値に基づいて前記検査対象の定量的判定を行う判定ステップと
を有することを特徴とする外観検査方法。 In an appearance inspection method for performing an appearance inspection of the inspection object based on image data indicating a luminance level of at least one of a plurality of colors of an image obtained by imaging the inspection object,
A continuous curved surface calculating step of interpolating a luminance level at a position between each imaging pixel included in the image data based on a luminance level at a position of each imaging pixel and calculating a continuous curved surface indicating a luminance level with respect to the imaging surface;
An evaluation value calculating step for calculating an evaluation value based on the calculated continuous curved surface;
An appearance inspection method comprising: a determination step of performing a quantitative determination of the inspection object based on the calculated evaluation value.
前記評価値算出ステップは、
各パラメータに該パラメータに対応する重み係数をそれぞれ乗算し、乗算された値を加算した加算値に基づいて前記検査対象の評価値を算出する
ことを特徴とする請求項1に記載の外観検査方法。 The evaluation value includes a plurality of parameters,
The evaluation value calculating step includes:
The appearance inspection method according to claim 1, wherein each parameter is multiplied by a weighting factor corresponding to the parameter, and an evaluation value of the inspection object is calculated based on an addition value obtained by adding the multiplied values. .
ことを特徴とする請求項2に記載の外観検査方法。 The weight coefficient update step of updating a weight coefficient corresponding to each parameter based on learning by a neural network using a plurality of standard samples having a preset evaluation value. Visual inspection method.
前記連続曲面算出ステップにて算出された連続曲面における最小曲率値を算出し、算出された最小曲率値を前記パラメータの1つとする最小曲率値算出ステップを含む
ことを特徴とする請求項2又は請求項3に記載の外観検査方法。 The evaluation value calculating step includes:
The minimum curvature value calculation step which calculates the minimum curvature value in the continuous curved surface calculated in the continuous curved surface calculation step and uses the calculated minimum curvature value as one of the parameters is included. Item 3. The appearance inspection method according to Item 3.
輝度レベルが所定値の仮想平面を想定し、該仮想平面と前記連続曲面とが交差する交差領域を導出する交差領域導出ステップと、
導出された交差領域の面積を算出し、算出された面積を前記パラメータの1つとする面積算出ステップと
を含むことを特徴とする請求項2乃至請求項4のいずれか1つに記載の外観検査方法。 The evaluation value calculating step includes:
Assuming a virtual plane whose luminance level is a predetermined value, an intersecting area deriving step for deriving an intersecting area where the virtual plane intersects the continuous curved surface;
The visual inspection according to claim 2, further comprising: calculating an area of the derived intersection region, and calculating an area using the calculated area as one of the parameters. Method.
輝度レベルが所定値の仮想平面を想定し、該仮想平面と前記連続曲面とが交差する交差領域を導出する交差領域導出ステップと、
導出された交差領域と前記連続曲面とで囲まれた体積を算出し、算出された体積を前記パラメータの1つとする体積算出ステップと
を含むことを特徴とする請求項2乃至請求項4のいずれか1つに記載の外観検査方法。 The evaluation value calculating step includes:
Assuming a virtual plane whose luminance level is a predetermined value, an intersecting area deriving step for deriving an intersecting area where the virtual plane intersects the continuous curved surface;
5. A volume calculation step of calculating a volume surrounded by the derived intersection area and the continuous curved surface, and using the calculated volume as one of the parameters. 5. The visual inspection method according to claim 1.
輝度レベルが所定値の仮想平面を想定し、該仮想平面と前記連続曲面とが交差する交差領域を導出する交差領域導出ステップと、
導出された交差領域における最大の線分長を算出し、算出された最大の線分長を前記パラメータの1つとする線分長算出ステップと
を含むことを特徴とする請求項2乃至請求項4のいずれか1つに記載の外観検査方法。 The evaluation value calculating step includes:
Assuming a virtual plane whose luminance level is a predetermined value, an intersecting area deriving step for deriving an intersecting area where the virtual plane intersects the continuous curved surface;
5. A line segment length calculating step of calculating a maximum line segment length in the derived intersection region and using the calculated maximum line segment length as one of the parameters. An appearance inspection method according to any one of the above.
前記画像データに含まれる各撮像画素間の位置における輝度レベルを、各撮像画素の位置における輝度レベルに基づいて補間し、撮像面に対する輝度レベルを示す連続曲面を算出する連続曲面算出手段と、
算出された連続曲面に基づいて評価値を算出する評価値算出手段と、
算出された評価値に基づいて前記検査対象の定量的判定を行う判定手段と
を備えることを特徴とする外観検査装置。 In an appearance inspection apparatus that performs an appearance inspection of the inspection object based on image data indicating a luminance level of at least one of a plurality of colors of an image obtained by imaging the inspection object,
Continuous curved surface calculating means for interpolating the luminance level at the position between each imaging pixel included in the image data based on the luminance level at the position of each imaging pixel, and calculating a continuous curved surface indicating the luminance level with respect to the imaging surface;
Evaluation value calculating means for calculating an evaluation value based on the calculated continuous curved surface;
An appearance inspection apparatus comprising: a determination unit configured to quantitatively determine the inspection target based on the calculated evaluation value.
前記評価値算出手段は、
各パラメータに該パラメータに対応する重み係数をそれぞれ乗算し、乗算された値を加算した加算値に基づいて前記検査対象の評価値を算出するようにしてある
ことを特徴とする請求項8に記載の外観検査装置。 The evaluation value includes a plurality of parameters,
The evaluation value calculation means includes
9. The evaluation value of the inspection object is calculated based on an addition value obtained by multiplying each parameter by a weighting factor corresponding to the parameter and adding the multiplied values. Visual inspection equipment.
ことを特徴とする請求項9に記載の外観検査装置。 The weight coefficient update means for updating the weight coefficient corresponding to each parameter based on learning by a neural network using a plurality of standard samples having preset evaluation values. Visual inspection equipment.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006225780A JP2008051558A (en) | 2006-08-22 | 2006-08-22 | Visual inspection method and device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006225780A JP2008051558A (en) | 2006-08-22 | 2006-08-22 | Visual inspection method and device |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2008051558A true JP2008051558A (en) | 2008-03-06 |
Family
ID=39235766
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2006225780A Pending JP2008051558A (en) | 2006-08-22 | 2006-08-22 | Visual inspection method and device |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2008051558A (en) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013235403A (en) * | 2012-05-09 | 2013-11-21 | Nippon Hoso Kyokai <Nhk> | Gradation restoration apparatus and program of the same |
JP2015169642A (en) * | 2014-03-11 | 2015-09-28 | 株式会社神戸製鋼所 | Defect classification apparatus and maintenance method thereof |
CN106127780A (en) * | 2016-06-28 | 2016-11-16 | 华南理工大学 | A kind of curved surface defect automatic testing method and device thereof |
CN107132026A (en) * | 2017-04-11 | 2017-09-05 | 上海汇尔通信息技术有限公司 | The method of testing and system for the minimum display device backlight illumination that scanning device is supported |
WO2019194064A1 (en) * | 2018-04-02 | 2019-10-10 | 日本電産株式会社 | Image processing device, image processing method, appearance inspection system, and appearance inspection method |
EP3885101A1 (en) * | 2020-03-24 | 2021-09-29 | Sumitomo Heavy Industries, Ltd. | Molding product inspection device and injection molding system |
-
2006
- 2006-08-22 JP JP2006225780A patent/JP2008051558A/en active Pending
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013235403A (en) * | 2012-05-09 | 2013-11-21 | Nippon Hoso Kyokai <Nhk> | Gradation restoration apparatus and program of the same |
JP2015169642A (en) * | 2014-03-11 | 2015-09-28 | 株式会社神戸製鋼所 | Defect classification apparatus and maintenance method thereof |
CN106127780A (en) * | 2016-06-28 | 2016-11-16 | 华南理工大学 | A kind of curved surface defect automatic testing method and device thereof |
CN107132026A (en) * | 2017-04-11 | 2017-09-05 | 上海汇尔通信息技术有限公司 | The method of testing and system for the minimum display device backlight illumination that scanning device is supported |
CN107132026B (en) * | 2017-04-11 | 2019-04-30 | 上海汇尔通信息技术有限公司 | The test method and system for the minimum display equipment backlight illumination that scanning device is supported |
WO2019194064A1 (en) * | 2018-04-02 | 2019-10-10 | 日本電産株式会社 | Image processing device, image processing method, appearance inspection system, and appearance inspection method |
EP3885101A1 (en) * | 2020-03-24 | 2021-09-29 | Sumitomo Heavy Industries, Ltd. | Molding product inspection device and injection molding system |
JP2021151744A (en) * | 2020-03-24 | 2021-09-30 | 住友重機械工業株式会社 | Molded product inspection system and injection molding system |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20090096778A1 (en) | Method and apparatus of detecting image-sticking of display device | |
US20130170734A1 (en) | Visual Inspection Device, Visual Inspection Method, And Computer Program | |
JP2008051558A (en) | Visual inspection method and device | |
EP2202687A2 (en) | Image quality evaluation device and method | |
JP5176014B2 (en) | Display multi-angle measuring system and method | |
CN110232885A (en) | A kind of brightness of display screen measurement method, system and terminal | |
JPWO2007004517A1 (en) | Surface inspection device | |
CN112153371A (en) | Image quality detection method, device, storage medium and product detection method | |
US8958639B2 (en) | Method for establishing evaluation standard parameters and method for evaluating the quality of a display image | |
US8989488B2 (en) | Method for establishing an evaluation standard parameter and method for evaluating the quality of a display image | |
KR102189951B1 (en) | System and method for inspection of ship painting condition using image analysis | |
JP7148858B2 (en) | Image processing device, image processing method and image processing program | |
CN111369513A (en) | Abnormity detection method, abnormity detection device, terminal equipment and storage medium | |
JP5321939B2 (en) | Image quality inspection apparatus and image quality inspection method | |
WO2022130814A1 (en) | Index selection device, information processing device, information processing system, inspection device, inspection system, index selection method, and index selection program | |
JP2005326323A (en) | Image quality inspection device | |
JP3015615B2 (en) | Surface strain quantitative evaluation device | |
Tong et al. | Testing color dif ference evaluation methods for color digital images | |
KR101420331B1 (en) | Brightness ununiformity measuring method for display panel | |
JP7372072B2 (en) | Image processing device, image processing method, image processing program, and image inspection system | |
JP2006078380A (en) | Display method for defect inspection using image processor | |
CN105527072B (en) | A method of the in-orbit focal length of remote sensor is obtained based on remote sensing images | |
TW202331643A (en) | Image processing and detection method, computer device, and storage medium | |
JP2004101338A (en) | Image processing method and image processing apparatus as well as program of the image processing method | |
CN113658183B (en) | Workpiece quality inspection method and device and computer equipment |