JP2022007302A - Surface inspection device, mobile terminal and program - Google Patents
Surface inspection device, mobile terminal and program Download PDFInfo
- Publication number
- JP2022007302A JP2022007302A JP2020110200A JP2020110200A JP2022007302A JP 2022007302 A JP2022007302 A JP 2022007302A JP 2020110200 A JP2020110200 A JP 2020110200A JP 2020110200 A JP2020110200 A JP 2020110200A JP 2022007302 A JP2022007302 A JP 2022007302A
- Authority
- JP
- Japan
- Prior art keywords
- image
- inspected
- unit
- surface inspection
- captured images
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
Abstract
Description
本開示は、表面検査装置、モバイル端末、及び、プログラムに関する。 The present disclosure relates to surface inspection devices, mobile terminals, and programs.
被検査体、例えば自動車のボディに存在するキズ、塗装剥がれ等の欠陥を検出する技術の開発が進められている。例えば特許文献1には、検査画像を表示する照明装置と、当該照明装置により照明された被検査体を複数回撮影することで、複数の撮影画像を得るカメラと、当該複数の撮影画像に基づいて、被検査体の欠陥の有無を検査する検査手段と、を備える画像検査装置、が開示されている。
The development of technology for detecting defects such as scratches and paint peeling existing on the body to be inspected, for example, the body of an automobile, is underway. For example,
特許文献1に開示される画像検査装置は、主に据置き型として利用されるものと推察され、可搬性あるいは携帯性に乏しいものと推察される。画像検査装置を容易に持ち運ぶことができれば、より手軽に被検査体の表面を検査することができると考えられる。
The image inspection apparatus disclosed in
本開示は、上記課題に鑑みてなされたものであり、その目的は、主に、より手軽に被検査体の表面を検査することができる表面検査装置を提供することにある。 The present disclosure has been made in view of the above problems, and an object thereof is mainly to provide a surface inspection apparatus capable of inspecting the surface of an inspected object more easily.
上記目的を達成するための、本開示の一実施態様に係る表面検査装置は、携帯性を有する表面検査装置であって、検査画像を表示する表示部と、前記検査画像が投影された被検査体の表面を撮影することによって、複数の撮影画像を取得する撮影部と、前記複数の撮影画像に基づいて、前記被検査体の表面に存在する欠陥を明瞭化した処理画像を生成する演算部と、を備える。 The surface inspection device according to an embodiment of the present disclosure for achieving the above object is a portable surface inspection device, which has a display unit for displaying an inspection image and a subject to be inspected on which the inspection image is projected. A photographing unit that acquires a plurality of captured images by photographing the surface of the body, and a calculation unit that generates a processed image that clarifies defects existing on the surface of the object to be inspected based on the plurality of captured images. And.
上記構成の表面検査装置は、携帯性を有しているため、より手軽に被検査体の表面を検査することができる。 Since the surface inspection device having the above configuration has portability, the surface of the object to be inspected can be inspected more easily.
(第1の実施形態)
以下、図面を参照しながら、第1の実施形態による表面検査装置1の構造及び構成について説明する。表面検査装置1には、例えば、市販されるスマートフォンが利用される。
(First Embodiment)
Hereinafter, the structure and configuration of the
まず、図1に示される表面検査装置1の正面図を参照して、表面検査装置1の外観構造を説明する。
First, the appearance structure of the
表面検査装置1は、主に、所定の画像を表示する表示部12と、被写体を撮影することができる撮影部13と、表示部12及び撮影部13を収容する筐体11と、を有する。筐体11の側面には、表面検査装置1の動作又は表示部12による表示のON/OFFを制御する電源ボタン141p,撮影部13による被写体の撮影を制御するシャッターボタン141s等の操作ボタン141が設けられている。なお、表面検査装置1は、一般的なスマートフォンであり、通話のためのマイク142及びスピーカ143を具備する。
The
次に、図2に示される表面検査装置1のブロック図を参照して、表面検査装置1のハードウェア構成及び機能構成を説明する。
Next, the hardware configuration and the functional configuration of the
表面検査装置1は、表示部12,撮影部13,操作ボタン141,マイク142及びスピーカ143に加え、さらに、CPU(Central Processing Unit)15,RAM(Random Access Memory)16,ROM(Read Only Memory)17及び通信部18を備える。これらのハードウェアユニットは、プリント配線基板の上に載置されるか、または、プリント配線基板に設けられるコネクタを介して当該プリント配線基板と電気的に接続されて、筐体11のなかに収容される。
The
CPU(演算部)15は、各種演算処理を行い、表面検査装置1の全体動作を統括制御する。CPU15は、ROM17に記憶される制御プログラムを読み出し、RAM16にロードして、各種機能に関する演算,各種ハードウェアユニットの制御等を行う。CPU15は、制御プログラムにしたがって、例えば、表示部12に所望の画像を表示し、また、撮影部13により被写体を撮影する。さらに、CPU15は、撮影部13により撮影された画像,ROM17に記憶される画像等の加工及び合成に係る処理を行う。
The CPU (calculation unit) 15 performs various arithmetic processing and controls the overall operation of the
RAM16は、例えば、アプリケーションプログラム,ハードウェアユニットに設定される数値情報等を一時的に記憶する。RAM16には、例えば、SRAM(Static RAM),DRAM(Dynamic RAM)等の揮発性メモリが用いられる。
The
ROM17は、例えば、撮影部13により撮影された画像,被写体の表面検査に係るプログラム171等を長期的に記憶する。ROM17には、例えば、マスクROM,EEPROM(Electrically Erasable Programmable ROM)等の不揮発性メモリが用いられる。
The
通信部18は、アンテナ182を介して、携帯電話基地局と無線通信を行う通信モジュール181を含む。通信モジュール181は、高周波回路,ベースバンド回路等を含む。
The
通信モジュール181は、CPU15からの通信信号を変調し、アンテナ182を介して当該変調された高周波信号を携帯電話基地局に送信する。当該通信信号は、例えば、マイク142により検出された音声信号である。
The
また、通信モジュール181は、アンテナ182を介して受信した高周波信号を復調し、当該復調された通信信号をCPU15に転送する。当該通信信号は、例えば、CPU15により音声信号に変換され、スピーカ143から出力される。
Further, the
なお、通信部18は、CPU15が実行する制御プログラムを、基地局を介して所定のサーバからダウンロードすることができる。当該制御プログラムには、後述の検査処理を記述するプログラム171が含まれる。
The
表示部12は、所定の画像を表示する表示素子121を含む。表示素子121には、例えば、LCD(Liquid Crystal Display)素子,有機EL(Electro―Luminescence)素子等が用いられる。または、LCD素子,有機EL素子等にタッチセンサを重ねて配置したタッチパネルデバイスを用いてもよい。
The
表示部12は、CPU15から出力される画像信号に基づいて、当該画像信号が表す画像を表示素子121に表示する。または、CPU15からの制御信号に基づいて、ROM17に記憶される画像データが表す画像を、表示素子121に表示する。
The
撮影部13は、例えば、光信号を電気信号に変換する撮像素子(光電変換素子)131,撮像素子131上に被写体の光学像を結像する光学系132等を含む。撮像素子131には、CCD(Charge Coupled Device)又はCMOS(Complementary Metal Oxide Semiconductor)イメージセンサが用いられる。光学系132は、凸レンズ,凹レンズ等の光学レンズを含み、例えば焦点距離が24mm以下の超広角レンズを構成する。
The photographing
撮影部13は、CPU15からの制御信号に基づいて、撮像素子131により取得された画像データをROM17に記憶する。CPU15は、ユーザによりシャッターボタン141sが操作されたタイミングで、撮影部13に当該制御信号を送信する。なお、撮影部13は、被写体に対するピント,ブレ等の状態を解析して,自律的に、撮像素子131により取得される画像データをROM17に記憶してもよい。
The photographing
なお、表面検査装置1は、各ハードウェアユニットに電力を供給する蓄電池19をさらに備える。蓄電池19には、例えばリチウムイオン電池が用いられる。
The
続いて、CPU(演算部)15の機能構成について説明する。本実施形態において、CPU15は、主に、撮影部13により取得された複数の撮影画像を加工及び合成する手段として機能する。具体的には、撮影部13により取得された複数の撮影画像を合成することによって差分画像を生成する差分画像生成手段151、当該差分画像を加工することによって第1加工画像及び第2加工画像を生成する第1加工画像生成手段152及び第2加工画像生成手段153、並びに、当該第1加工画像及び当該第2加工画像に基づいて二値画像を生成する二値画像生成手段154、として機能する。これらの画像生成手段151~154として機能するCPU15は、後述する検査処理のステップS131~S134をそれぞれ実行して、各種の処理画像を生成する。
Subsequently, the functional configuration of the CPU (calculation unit) 15 will be described. In the present embodiment, the
次に、図3に示されるフローチャートを参照して、CPU15が実行する検査処理を説明する。本検査処理を記述するプログラム171は、ROM17に記憶されており、例えば、ユーザによる開始の操作によって実行される。
Next, the inspection process executed by the
CPU15は、第1表示処理ステップS110において、表示部12に、検査画像Pαを表示させる。検査画像Pαを表す画像データは、例えばROM17に記憶されている。
In the first display processing step S110, the
図4に、表示部12に検査画像Pαが表示される様子を示す。検査画像Pαは、例えば、第1の方向Xに延伸する明領域W及び暗領域Bが第2の方向Yに周期的に配列する縞状パターンが、第2の方向Yに一定の速さで移動(スクロール)する動画である。
FIG. 4 shows how the inspection image Pα is displayed on the
なお、明領域Wとは、輝度が相対的に高い領域であり、ここでは白を表示する領域とする。また、暗領域Bとは、輝度が相対的に低い領域であり、ここでは黒を表示する領域とする。 The bright region W is a region where the brightness is relatively high, and here, it is a region where white is displayed. Further, the dark region B is an region where the brightness is relatively low, and here, it is a region where black is displayed.
図3に戻って、CPU15による検査処理の説明を続ける。ユーザによりシャッターボタン141sが操作されると、ステップS120に移行する。
Returning to FIG. 3, the description of the inspection process by the
CPU15は、撮影処理ステップS120において、撮影部13に、検査画像Pαが投影された被検査体Kの表面を撮影させる。これによって、被検査体Kの表面を写す複数の撮影画像Pβ
1~Pβ
N(N:1より大きい任意の整数)を取得する。撮影画像Pβ
1~Pβ
Nは、例えばモノクロ写真である。
In the photographing process step S120, the
図5に、撮影部13により、被検査体Kの表面を撮影する様子を示す。表示部12に検査画像Pαを表示させた状態で、表面検査装置1を被検査体Kに近づけると、表示部12に表示される検査画像Pαが被検査体Kの表面に投影される。
FIG. 5 shows a state in which the surface of the inspected body K is photographed by the photographing
検査画像Pαは、縞状パターンが一方向に移動する動画である。このため、検査画像Pαが投影された被検査体Kの表面を異なる時点において複数回撮影すると、被検査体Kの表面において明領域Wが投影される領域WK及び暗領域Bが投影される領域BKの位置が異なる複数の撮影画像Pβ 1~Pβ Nを得ることができる。 The inspection image P α is a moving image in which the striped pattern moves in one direction. Therefore, when the surface of the inspected body K on which the inspection image Pα is projected is photographed a plurality of times at different time points, the area W K and the dark area B on which the bright region W is projected are projected on the surface of the inspected body K. It is possible to obtain a plurality of captured images P β 1 to P β N in which the positions of the regions BK are different.
図3に戻って、CPU15による検査処理の説明を続ける。
Returning to FIG. 3, the description of the inspection process by the
CPU15は、画像生成処理ステップS130において、複数の撮影画像Pβ
1~Pβ
Nに基づいて、被検査体Kの表面に存在す欠陥Kdを明瞭化した処理画像を生成する。画像生成処理ステップS130は、例えば、複数の撮影画像Pβ
1~Pβ
Nに基づいて差分画像Pγを生成するステップS131(図6)と、差分画像Pγに基づいて第1加工画像Pδ
1及び第2加工画像Pδ
2を生成するステップS132(図7),S133(図8)と、第1加工画像Pδ
1及び第2加工画像Pδ
2に基づいて二値画像Pεを生成するステップS134(図9)と、を含む。
In the image generation processing step S130, the
図6に、差分画像生成ステップS131において、複数の撮影画像Pβ 1~Pβ Nに基づいて差分画像Pγを生成する様子を示す。ここで、複数の撮影画像Pβ 1~Pβ N及び差分画像Pγは、n×m(n,m:1より大きい任意の整数)の行列状に配列された複数の画素により構成されるものとする。なお、第i行第j列(i:1以上n以下の任意の整数,j:1以上m以下の任意の整数)に位置する画素を[i,j]と表すこととする。また、各画素の明るさ(明度)を表す値を輝度値と呼ぶこととする。 FIG. 6 shows how the difference image P γ is generated based on a plurality of captured images P β 1 to P β N in the difference image generation step S131. Here, the plurality of captured images P β 1 to P β N and the difference image P γ are composed of a plurality of pixels arranged in a matrix of n × m (arbitrary integer larger than n, m: 1). It shall be. It should be noted that the pixels located in the i-th row and j-th column (an arbitrary integer of i: 1 or more and n or less, and an arbitrary integer of j: 1 or more and m or less) are represented as [i, j]. Further, a value representing the brightness (brightness) of each pixel is referred to as a luminance value.
差分画像Pγの[i,j]に位置する画素の輝度値は、複数の撮影画像Pβ 1~Pβ Nの[i,j]に位置する画素(差分画像Pγにおいて輝度値を設定しようとする画素と同じ位置の画素)のうち、最も明るい画素の輝度値から最も暗い画素の輝度値を差し引いた輝度値に基づいて設定される。具体的には、例えば、差分画像Pγの[1,1]に位置する画素の輝度値は、複数の撮影画像Pβ 1~Pβ Nの[1,1]に位置する画素のうち、最も明るい画素(例えば撮影画像Pβ 1における[1,1]の画素)の輝度値から、最も暗い画素(例えば撮影画像Pβ Nにおける[1,1]の画素)の輝度値を差し引いた輝度値に基づいて設定される。差分画像Pγの[1,1]の画素から[n,m]の画素まで、同様の処理を行って、差分画像Pγの全画素の輝度値を設定する。 The brightness value of the pixel located at [i, j] of the difference image P γ is the pixel located at [i, j] of the plurality of captured images P β 1 to P β N (the brightness value is set in the difference image P γ ). It is set based on the brightness value obtained by subtracting the brightness value of the darkest pixel from the brightness value of the brightest pixel among the pixels at the same position as the pixel to be tried. Specifically, for example, the brightness value of the pixel located in [1, 1] of the difference image P γ is the pixel located in [1, 1] of the plurality of captured images P β 1 to P β N. Brightness obtained by subtracting the brightness value of the darkest pixel (for example, the pixel of [1,1] in the captured image P β N ) from the brightness value of the brightest pixel (for example, the pixel of [1, 1] in the captured image P β 1 ). Set based on the value. The same processing is performed from the pixel of [1,1] to the pixel of [n, m] of the difference image P γ to set the luminance value of all the pixels of the difference image P γ .
被検査体Kの表面に欠陥Kdが存在する場合、差分画像Pγにおいて、欠陥Kdに対応する領域(画素群)の輝度値は、通常、その周囲の輝度値よりも低くなる。これによって、肉眼では視認し難い欠陥Kdでも、差分画像Pγにおいて明瞭に欠陥を認識することができる。 When the defect Kd is present on the surface of the object K to be inspected, the luminance value of the region (pixel group) corresponding to the defect Kd in the difference image Pγ is usually lower than the luminance value around the defect Kd. As a result, even a defect Kd that is difficult to see with the naked eye can be clearly recognized in the difference image Pγ .
しかし、差分画像Pγでは、意匠としての被検査体Kの表面形状(起伏)によって、欠陥と見誤り得る像が現れることがある。また、差分画像Pγでは、欠陥と、光電変換,信号処理等の際に混入する信号ノイズに起因する像と、が見分け難い場合もある。このため、以下の画像処理が実行される。 However, in the difference image P γ , an image that can be mistaken for a defect may appear depending on the surface shape (undulations) of the object K to be inspected as a design. Further, in the difference image P γ , it may be difficult to distinguish between a defect and an image caused by signal noise mixed in during photoelectric conversion, signal processing, or the like. Therefore, the following image processing is executed.
図7に、第1加工画像生成ステップS132において、差分画像Pγに基づいて第1加工画像Pδ 1を生成する様子を示す。ここで、第1加工画像Pδ 1は、n×mの行列状に配列された複数の画素により構成されるものとする。 FIG. 7 shows how the first processed image P δ 1 is generated based on the difference image P γ in the first processed image generation step S132. Here, it is assumed that the first processed image P δ 1 is composed of a plurality of pixels arranged in a matrix of n × m.
CPU15は、第1加工画像Pδ
1を、p個(p:1より大きい任意の整数)のグループ(画素群)に区分けする。例えば、16×16の正方行列状の画素群を単位画素群として、第1加工画像Pδ
1を、画素が重ならないように、p個(例えば100個)の単位画素群に区分する。
The
そして、p個の画素群に区分される第1加工画像Pδ 1における第q番目(q:1以上p以下の任意の整数)の画素群Gqに含まれる複数の画素各々の輝度値を、対応する差分画像Pγの画素群Gq(第1加工画像Pδ 1の輝度値設定画素群と同じ位置の画素群)に含まれる複数の画素の輝度値に基づいて画一化した輝度値に設定する。具体的には、例えば[1,1]の画素を含む第1の画素群G1に含まれる256(16×16)個の画素各々の輝度値を、対応する差分画像Pγの画素群G1に含まれる256個の画素の輝度値の平均の輝度値に設定する。第1加工画像Pδ 1の第1の画素群G1から第pの画素群Gpまで、同様の処理を行って、第1加工画像Pδ 1の全画素の輝度値を設定する。 Then, the brightness value of each of the plurality of pixels included in the qth (arbitrary integer of q: 1 or more and p or less) pixel group Gq in the first processed image P δ 1 divided into p pixel groups is set. , The brightness standardized based on the brightness values of a plurality of pixels included in the pixel group G q of the corresponding difference image P γ (the pixel group at the same position as the brightness value setting pixel group of the first processed image P δ 1 ). Set to a value. Specifically, for example, the luminance values of each of the 256 (16 × 16) pixels included in the first pixel group G1 including the pixels of [1,1] are set to the pixel group G of the corresponding difference image Pγ . It is set to the average luminance value of the luminance values of 256 pixels included in 1 . The same processing is performed from the first pixel group G1 to the first pixel group Gp of the first processed image P δ 1 to set the luminance values of all the pixels of the first processed image P δ 1 .
第1加工画像Pδ 1を構成する画素各々の輝度値は、差分画像Pγの比較的広い範囲の画素の輝度値を画一化した輝度値に設定される。このため、第1加工画像Pδ 1においては、一般にサイズが小さい欠陥Kdに対応する像及び信号ノイズに起因する像は現れにくく、第1加工画像Pδ 1は、主に、被検査体Kの起伏に起因した明るさの分布を反映した画像となる。 The luminance value of each of the pixels constituting the first processed image P δ 1 is set to the luminance value that standardizes the luminance values of the pixels in a relatively wide range of the difference image P γ . Therefore, in the first processed image P δ 1 , an image corresponding to a defect Kd having a small size and an image caused by signal noise are generally unlikely to appear, and the first processed image P δ 1 is mainly an object K to be inspected. The image reflects the distribution of brightness caused by the undulations of.
図8に、第2加工画像生成ステップS133において、差分画像Pγに基づいて第2加工画像Pδ 2を生成する様子を示す。ここで、第2加工画像Pδ 2は、n×mの行列状に配列された複数の画素により構成されるものとする。 FIG. 8 shows how the second processed image P δ 2 is generated based on the difference image P γ in the second processed image generation step S133. Here, it is assumed that the second processed image P δ 2 is composed of a plurality of pixels arranged in a matrix of n × m.
CPU15は、第2加工画像Pδ
2を、u個(u:pより大きい任意の整数)のグループ(画素群)に区分けする。例えば、4×4の正方行列状の画素群を単位画素群として、第2加工画像Pδ
2を、画素が重ならないように、u個(例えば1600個)の単位画素群に区分する。
The
そして、u個の画素群に区分される第2加工画像Pδ 2における第v番目(v:1以上u以下の任意の整数)の画素群gvに含まれる複数の画素各々の輝度値を、対応する差分画像Pγの画素群gv(第2加工画像Pδ 2の輝度値設定画素群と同じ位置の画素群)に含まれる複数の画素の輝度値に基づいて画一化した輝度値に設定する。具体的には、例えば[1,1]の画素を含む第1の画素群g1に含まれる16(4×4)個の画素各々の輝度値を、対応する差分画像Pγの画素群g1に含まれる16個の画素の輝度値の平均の輝度値に設定する。第2加工画像Pδ 2の第1の画素群g1から第uの画素群guまで、同様の処理を行って、第2加工画像Pδ 2の全画素の輝度値を設定する。 Then, the brightness value of each of the plurality of pixels included in the v -th (arbitrary integer of v: 1 or more and u or less) pixel group gv in the second processed image P δ 2 divided into u pixel groups is set. , The brightness standardized based on the brightness values of a plurality of pixels included in the pixel group g v of the corresponding difference image P γ (the pixel group at the same position as the brightness value setting pixel group of the second processed image P δ 2 ). Set to a value. Specifically, for example, the luminance values of each of the 16 (4 × 4) pixels included in the first pixel group g 1 including the pixels of [1, 1] are set to the pixel group g of the corresponding difference image P γ . It is set to the average luminance value of the luminance values of the 16 pixels included in 1 . The same processing is performed from the first pixel group g1 of the second processed image P δ 2 to the uth pixel group gu to set the luminance values of all the pixels of the second processed image P δ 2 .
第2加工画像Pδ 2を構成する画素各々の輝度値は、差分画像Pγの比較的狭い範囲に含まれる画素の輝度値を画一化した輝度値に設定される。このため、第2加工画像Pδ 2においては、一般にサイズが小さい欠陥Kdに対応する像も発現して、第2加工画像Pδ 2は、被検査体Kの起伏に加え、欠陥Kdに起因した明るさの分布を反映した画像となる。なお、第2加工画像Pδ 2においても、信号ノイズに起因する像は現れにくい。 The luminance value of each pixel constituting the second processed image P δ 2 is set to a luminance value that standardizes the luminance values of the pixels included in a relatively narrow range of the difference image P γ . Therefore, in the second processed image P δ 2 , an image corresponding to the defect Kd, which is generally small in size, is also expressed, and the second processed image P δ 2 is caused by the defect Kd in addition to the undulations of the inspected body K. The image reflects the distribution of the brightness. Even in the second processed image P δ 2 , an image caused by signal noise is unlikely to appear.
図9に、二値画像生成ステップS134において、第1加工画像Pδ 1及び第2加工画像Pδ 2に基づいて二値画像Pεを生成する様子を示す。ここで、二値画像Pεは、n×mの行列状に配列された複数の画素により構成されるものとする。 FIG. 9 shows how the binary image P ε is generated based on the first processed image P δ 1 and the second processed image P δ 2 in the binary image generation step S134. Here, it is assumed that the binary image P ε is composed of a plurality of pixels arranged in a matrix of n × m.
二値画像Pεを構成する画素の輝度値は、第1加工画像Pδ 1を構成する画素の輝度値と第2加工画像Pδ 2を構成する画素の輝度値との比率に応じて、最大輝度値(白)か最小輝度値(黒)のいずれかに設定される。すなわち、二値画像Pεの[i,j]に位置する画素の輝度値は、第1加工画像Pδ 1の[i,j]に位置する画素の輝度値Bij 1に対する第2加工画像Pδ 2の[i,j]に位置する画素の輝度値Bij 2の比率(Bij 2/Bij 1)が、閾値未満である場合には黒に設定され、閾値以上である場合には白に設定される。具体的には、例えば、二値画像Pεの[1,1]に位置する画素の輝度値は、第1加工画像Pδ 1の[1,1]に位置する画素の輝度値B11 1に対する第2加工画像Pδ 2の[1,1]に位置する画素の輝度値B11 2の比率(B11 2/B11 1)が閾値未満である場合には黒に設定され、当該閾値以上である場合には白に設定される。二値画像Pεの[1,1]の画素から[n,m]の画素まで、同様の処理を行って、二値画像Pεの全画素の輝度値を設定する。 The luminance value of the pixels constituting the binary image P ε depends on the ratio of the luminance value of the pixel constituting the first processed image P δ 1 to the luminance value of the pixel constituting the second processed image P δ 2 . It is set to either the maximum brightness value (white) or the minimum brightness value (black). That is, the luminance value of the pixel located at [i, j] of the binary image P ε is the second processed image with respect to the luminance value B ij 1 of the pixel located at [i, j] of the first processed image P δ 1 . When the ratio of the luminance value B ij 2 (B ij 2 / B ij 1 ) of the pixel located at [i, j] of P δ 2 is less than the threshold value, it is set to black, and when it is equal to or more than the threshold value. Is set to white. Specifically, for example, the luminance value of the pixel located at [1, 1] of the binary image P ε is the luminance value B 11 1 of the pixel located at [1, 1] of the first processed image P δ 1 . When the ratio ( B 112 / B 11 1 ) of the luminance value B 112 of the pixel located at [1, 1 ] of the second processed image P δ 2 is less than the threshold value, it is set to black and the threshold value is set. If it is the above, it is set to white. The same processing is performed from the pixel of [1,1] to the pixel of [n, m] of the binary image P ε to set the luminance value of all the pixels of the binary image P ε .
第1加工画像Pδ 1は、主に被検査体Kの起伏に起因した明るさの分布を反映した画像である。第2加工画像Pδ 2は、主に被検査体Kの起伏及び欠陥Kdに起因した明るさの分布を反映した画像である。このため、第1加工画像Pδ 1を構成する画素の輝度値B1に対して第2加工画像Pδ 2を構成する画素の輝度値B2を除算する(B2/B1)ことにより、被検査体Kの起伏の影響が低減され、欠陥Kdがより明瞭化された(強調された)画像を得ることができる。 The first processed image P δ 1 is an image that mainly reflects the distribution of brightness caused by the undulations of the inspected body K. The second processed image P δ 2 is an image that mainly reflects the distribution of brightness caused by the undulations of the inspected body K and the defect Kd. Therefore, by dividing the luminance value B 2 of the pixels constituting the second processed image P δ 2 from the luminance value B 1 of the pixels constituting the first processed image P δ 1 (B 2 / B 1 ). , The influence of the undulations of the object K to be inspected is reduced, and an image in which the defect Kd is more clarified (emphasized) can be obtained.
図3に戻って、CPU15による検査処理の説明を続ける。
Returning to FIG. 3, the description of the inspection process by the
CPU15は、第2表示処理ステップS140において、表示部12に、例えば二値画像Pεを表示させる。なお、このとき、撮影画像Pβ
1~Pβ
N,差分画像Pγ等を併せて表示させてもよい。
In the second display processing step S140, the
図10に、表示部12に二値画像Pε(そこに写される欠陥像Pd)が表示される様子を示す。肉眼では視認し難い欠陥Kdを、二値画像Pεでは明瞭に認識することができる。
FIG. 10 shows how the binary image P ε (defect image Pd copied therein) is displayed on the
このように、本実施形態による表面検査装置1は携帯性を有しているので、据置き型の検査装置よりも手軽に、被検査体Kの表面に存在しうる欠陥Kdを確認することができる。また、一般的なスマートフォンを表面検査装置1として利用できるので、誰でも簡単に、被検査体Kの表面に存在しうる欠陥Kdを検査することができる。
As described above, since the
(第1の変形例)
第1の実施形態において、被検査体Kの表面を撮影する際、撮影部13のブレ(振動)をできるだけ抑制して、より明瞭な撮影画像Pβ
1~Pβ
Nを取得することが好ましい。以下、第1の変形例として、ブレを抑えるためのアタッチメントを装着した表面検査装置について説明する。
(First modification)
In the first embodiment, when the surface of the object to be inspected K is photographed, it is preferable to suppress blurring (vibration) of the
図11に、撮影部13により、被検査体Kの表面を撮影する様子を示す。本変形例では、筐体11に、被検査体Kとの相対位置を固定するアタッチメント111が取り付けられている。なお、アタッチメント111は、表示部12及び撮影部13を塞がずに、筐体11に取り付けることができる。アタッチメント111は、例えば樹脂により形成されており、一般的な樹脂成型方法により、所望の形状で作製することができる。
FIG. 11 shows a state in which the surface of the inspected body K is photographed by the photographing
表面検査装置1にこのようなアタッチメント111を装着して、アタッチメント111を被検査体Kに接触させることにより、その表面を安定的に撮影することができる。その結果、ブレが抑制された、明瞭な撮影画像Pβ
1~Pβ
Nを得ることができる。
By attaching such an
(第2の変形例)
第1の変形例によるアタッチメント111に限らず、いわゆる光学式ブレ補正処理により、明瞭な撮影画像Pβ
1~Pβ
Nを取得してもよい。以下、第2の変形例として、撮影部13がブレ補正機構を備える表面検査装置について説明する。
(Second modification)
Not limited to the
図12に、ブレ補正機構を備える撮影部13の構成を示す。本変形例において、撮影部13は、撮像素子131及び光学系132に加え、さらに、加速度センサ,ジャイロセンサ等を含む慣性センサ133と、撮像素子131又は光学系132を移動させる移動機構134と、を備える。
FIG. 12 shows the configuration of the photographing
慣性センサ133は、撮影の際の撮影部13あるいは表面検査装置1自体のブレを検出して、CPU15に当該ブレに関する情報を送信する。CPU15は、当該情報に基づいて移動機構134を制御し、当該ブレを相殺するように撮像素子131又は光学系132の位置を調整する。
The
このようなブレ補正処理により、明瞭な撮影画像Pβ 1~Pβ Nを得てもよい。 By such a blur correction process, clear captured images P β 1 to P β N may be obtained.
(第3の変形例)
第1の変形例又は第2の変形例のように、撮影の際の撮影部13のブレはできるだけ抑制されることが好ましい。しかし、撮影部13のブレにより不明瞭な撮影画像Pβ
1~Pβ
Nが得られても、当該撮影画像Pβ
1~Pβ
Nに、いわゆる電子式ブレ補正処理を施して、明瞭な画像を得てもよい。以下、第3の変形例として、撮影画像Pβ
1~Pβ
Nに電子的なブレ補正処理を施す手段を有する表面検査装置について説明する。
(Third modification example)
As in the first modification or the second modification, it is preferable that the blurring of the photographing
図13に、CPU15の機能ブロック図を示す。CPU15は、上述した画像生成手段151~154に加え、さらにブレ補正画像生成手段155として機能する。
FIG. 13 shows a functional block diagram of the
ブレ補正画像生成手段155としてのCPU15は、撮影部13により取得された複数の撮影画像Pβ
1~Pβ
Nにブレ補正処理を施して、複数のブレ補正画像を生成する。ブレ補正処理には、既知の重ね合わせ方式,画像復元方式等を採用することができる。なお、本変形例において、差分画像生成手段151は、複数のブレ補正画像に基づいて、差分画像Pγを生成する。
The
このようなブレ補正処理により、被検査体Kの明瞭な画像を得てもよい。 By such a blur correction process, a clear image of the object K to be inspected K may be obtained.
(第2の実施形態)
第1の実施形態では、検査画像及び処理画像(二値画像あるいは差分画像)が共通の表示素子121に表示されていた。しかし、検査画像及び処理画像は、別々の表示デバイスに表示されてもよい。第2の実施形態では、検査画像が表示素子121に表示され、処理画像が外部モニタに表示される例を説明する。
(Second embodiment)
In the first embodiment, the inspection image and the processed image (binary image or difference image) are displayed on the
図14に、第2の実施形態よる表面検査装置1aのハードウェア構成を示す。本実施形態では、表示部12は、検査画像Pαを表示する表示素子121と、処理画像(例えば二値画像)を表示する外部モニタ122と、を備える。
FIG. 14 shows the hardware configuration of the
外部モニタ122には、例えばLCDモニタが用いられる。外部モニタ122は、例えば、CPU15から出力される画像信号に基づいて、当該画像信号が表す画像を表示する。なお、外部モニタ122は、例えばHDMI(登録商標)ケーブルを介してCPU15から画像信号を受信してもよいし、例えば、Bluetooth(登録商標),Wi-Fi(登録商標)等の近距離無線通信規格に基づいて、無線通信によりCPU15から画像信号を受信してもよい。
For the
(その他の変形例)
以上説明した実施形態及び変形例では、表面検査装置1,1aとしてスマートフォンを想定した。しかし、表面検査装置1,1aは、スマートフォンに限られず、表示機能,撮影機能及び画像を加工及び合成する機能を備えたモバイル端末であればどのようなデバイスでもかまわない。例えば、ノート型パソコン,タブレット端末、ウェアラブル端末等のモバイル端末が、スマートフォンと代替できるデバイスとして利用することができる。また、少なくともCPU,RAM及びROMを含むマイクロコンピュータと、5~10インチ程度の画面サイズの表示素子と、例えば100万画素以上の撮影画素数を有する撮像素子と、を組み立てて、携帯性を有する独自の表面検査装置1,1aを作製してもよい。
(Other variants)
In the embodiments and modifications described above, a smartphone is assumed as the
なお、携帯性を有する表面検査装置1,1aとは、以下のいずれかの構成を有する表面検査装置をいうものとする。つまり、第1の構成として、各ハードウェアユニットが単一の筐体11に収められているものとする。また、第2の構成として、各ハードウェアユニットが蓄電池19により駆動されるものとする。また、第3の構成として、外部機器と無線通信を行う手段、具体的には近距離無線通信規格に基づく無線通信手段,通信部18等を有しているものとする。最後に、第4の構成として、ユーザが容易に持ち運べる重量、例えば3kg以下の重量であるものとする。
In addition, the
また、被検査体Kの表面に存在する欠陥Kdを明瞭化する検査処理は、第1の実施形態による検査処理に限られない。肉眼では視認し難い欠陥Kdを明瞭に認識できる画像処理であれば、どのような加工及び合成に係る処理であってもかまわない。 Further, the inspection process for clarifying the defect Kd existing on the surface of the object K to be inspected is not limited to the inspection process according to the first embodiment. Any kind of processing and compositing may be used as long as the image processing can clearly recognize the defect Kd that is difficult to see with the naked eye.
また、そのような画像処理を、CPU15ではなく、外部の演算装置が行ってもよい。例えば、撮影部13により取得された撮影画像Pβを所定のサーバに転送し、当該サーバにより画像処理が行われた画像を表示部12に表示してもよい。
Further, such image processing may be performed by an external arithmetic unit instead of the
さらに、検査画像は、第1の実施形態による検査画像Pα(図4)に限られない。例えば、特許文献1に記載される、表示部の全表示領域が明領域である検査画像でもよいし、周期が異なる2種以上の縞状パターンを含む検査画像であってもよい。
Further, the inspection image is not limited to the inspection image Pα (FIG. 4) according to the first embodiment. For example, an inspection image described in
なお、上述の実施形態及び変形例では、CPU15が、各種機能に関する演算,各種ハードウェアユニットの制御等をソフトウェア的に行う例を説明した。しかし、それらの演算及び制御が、例えば専用の論理回路によってハードウェア的に行われてもよい。
In the above-described embodiment and modification, an example in which the
以上、実施形態及びその変形例に沿って、本開示を説明したが、本開示はこれらに制限されるものではない。種々変更、改良、組み合わせ等が可能なことは当業者に自明であろう。 Although the present disclosure has been described above with reference to the embodiments and variations thereof, the present disclosure is not limited thereto. It will be obvious to those skilled in the art that various changes, improvements, combinations, etc. are possible.
1 表面検査装置
11 筐体
111 アタッチメント
12 表示部
121 表示素子
122 外部モニタ
13 撮影部
131 撮像素子
132 光学系
133 慣性センサ
134 移動機構
141 操作ボタン
141p 電源ボタン
141s シャッターボタン
142 マイク
143 スピーカ
15 CPU(演算部)
151 差分画像生成手段
152 第1加工画像生成手段
153 第2加工画像生成手段
154 二値画像生成手段
155 ブレ補正画像生成手段
16 RAM
17 ROM
171 プログラム
18 通信部
181 通信モジュール
182 アンテナ
19 蓄電池
1
151 Difference image generation means 152 First processed image generation means 153 Second processed image generation means 154 Binary image generation means 155 Image stabilization image generation means 16 RAM
17 ROM
171
Claims (12)
検査画像を表示する表示部と、
前記検査画像が投影された被検査体の表面を撮影することによって、複数の撮影画像を取得する撮影部と、
前記複数の撮影画像に基づいて、前記被検査体の表面に存在する欠陥を明瞭化した処理画像を生成する演算部と、
を備える表面検査装置。 A portable surface inspection device
A display unit that displays inspection images and
An imaging unit that acquires a plurality of captured images by photographing the surface of the object to be inspected on which the inspection image is projected, and a photographing unit.
A calculation unit that generates a processed image that clarifies defects existing on the surface of the object to be inspected based on the plurality of captured images.
A surface inspection device equipped with.
請求項1に記載の表面検査装置。 The display unit includes a single display element for displaying the inspection image and the processed image.
The surface inspection apparatus according to claim 1.
請求項1または2に記載の表面検査装置。 Further comprising a single housing for accommodating the display unit, the photographing unit and the arithmetic unit.
The surface inspection apparatus according to claim 1 or 2.
請求項3に記載の表面検査装置。 Further provided with an attachment attached to the housing and fixing the relative position of the housing with respect to the object to be inspected.
The surface inspection apparatus according to claim 3.
請求項1から4のいずれか1項に記載の表面検査装置。 A storage battery for supplying electric power to the display unit, the photographing unit, and the arithmetic unit is further provided.
The surface inspection apparatus according to any one of claims 1 to 4.
請求項1から5のいずれか1項に記載の表面検査装置。 Further equipped with means for wireless communication with external devices,
The surface inspection apparatus according to any one of claims 1 to 5.
撮像素子と、
前記撮像素子に被写体の光学像を結像する光学系と、
前記撮像素子及び前記光学系の振動を計測する慣性センサと、
前記慣性センサにより計測された振動に関する情報に基づいて、前記撮像素子又は前記光学系を移動させる移動機構と、
を含む、請求項1から6のいずれか1項に記載の表面検査装置。 The photographing unit
Image sensor and
An optical system that forms an optical image of a subject on the image sensor,
An inertial sensor that measures the vibration of the image sensor and the optical system,
A moving mechanism that moves the image sensor or the optical system based on the information about vibration measured by the inertial sensor.
The surface inspection apparatus according to any one of claims 1 to 6, comprising the above.
請求項1から7のいずれか1項に記載の表面検査装置。 The calculation unit generates the processed image based on an image obtained by subjecting each of the plurality of captured images to image stabilization.
The surface inspection apparatus according to any one of claims 1 to 7.
請求項1から8のいずれか1項に記載の表面検査装置。 The inspection image is a moving image in which the pattern moves in one direction.
The surface inspection apparatus according to any one of claims 1 to 8.
請求項9に記載の表面検査装置。 The pattern is a striped pattern consisting of a light region and a dark region.
The surface inspection apparatus according to claim 9.
前記検査画像が投影された被検査体の表面を撮影することによって、複数の撮影画像を取得する撮像素子と、
前記複数の撮影画像に基づいて、前記被検査体の表面に存在しうる欠陥を明瞭化した処理画像を生成する画像生成手段と、
を備え、
前記処理画像が前記表示素子に表示される、モバイル端末。 A display element that displays inspection images and
An image sensor that acquires a plurality of captured images by photographing the surface of the object to be inspected on which the inspection image is projected, and
An image generation means for generating a processed image in which defects that may exist on the surface of the inspected object are clarified based on the plurality of captured images.
Equipped with
A mobile terminal in which the processed image is displayed on the display element.
前記表示素子に検査画像を表示する第1表示処理と、
前記撮像素子により前記検査画像が投影された被検査体の表面を撮影することによって、複数の撮影画像を取得する撮影処理と、
前記複数の撮影画像に基づいて、前記被検査体の表面に存在しうる欠陥を明瞭化した処理画像を生成する画像生成処理と、
前記処理画像を前記表示素子に表示する第2表示処理と、
を実行させるプログラム。 For computers of mobile terminals equipped with display elements and image sensors
The first display process for displaying the inspection image on the display element, and
An imaging process for acquiring a plurality of captured images by photographing the surface of the object to be inspected on which the inspection image is projected by the image sensor.
An image generation process for generating a processed image in which defects that may exist on the surface of the inspected object are clarified based on the plurality of captured images, and an image generation process.
A second display process for displaying the processed image on the display element, and
A program to execute.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020110200A JP2022007302A (en) | 2020-06-26 | 2020-06-26 | Surface inspection device, mobile terminal and program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020110200A JP2022007302A (en) | 2020-06-26 | 2020-06-26 | Surface inspection device, mobile terminal and program |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2022007302A true JP2022007302A (en) | 2022-01-13 |
Family
ID=80111094
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020110200A Pending JP2022007302A (en) | 2020-06-26 | 2020-06-26 | Surface inspection device, mobile terminal and program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2022007302A (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11754508B2 (en) | 2021-05-13 | 2023-09-12 | William R. Butler | Portable light system for performing quality control |
-
2020
- 2020-06-26 JP JP2020110200A patent/JP2022007302A/en active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11754508B2 (en) | 2021-05-13 | 2023-09-12 | William R. Butler | Portable light system for performing quality control |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10924677B2 (en) | Electronic device and method for providing notification related to image displayed through display and image stored in memory based on image analysis | |
US11558553B2 (en) | Electronic device for stabilizing image and method for operating same | |
WO2020032473A2 (en) | Electronic device for blurring image obtained by combining plural images based on depth information and method for driving the electronic device | |
US9230310B2 (en) | Imaging systems and methods for location-specific image flare mitigation | |
US11671701B2 (en) | Electronic device for recommending composition and operating method thereof | |
KR102318013B1 (en) | Electronic device composing a plurality of images and method | |
US20200322534A1 (en) | Apparatus and method for estimating optical image stabilization motion | |
JP2011029810A (en) | Imaging device, imaging method, imaging control program, and portable terminal device | |
WO2020130654A1 (en) | Camera module having multi-cell structure and portable communication device including the same | |
WO2020080845A1 (en) | Electronic device and method for obtaining images | |
CN115601244A (en) | Image processing method and device and electronic equipment | |
US20240119566A1 (en) | Image processing method and apparatus, and electronic device | |
JP2015177308A (en) | Portable terminal device, image correction method, and image correction program | |
WO2014098143A1 (en) | Image processing device, imaging device, image processing method, and image processing program | |
JP2022007302A (en) | Surface inspection device, mobile terminal and program | |
CN114731372A (en) | Electronic device and method for correcting image during camera switching | |
KR20200092762A (en) | Electronic device and method for recognizing occlusion of camera thereof | |
CN115134514B (en) | Image acquisition method, device and storage medium | |
JP5504895B2 (en) | Mobile terminal, photometry area selection method, photometry area selection program, and program recording medium | |
CN108810416B (en) | Image processing method and terminal equipment | |
WO2021246736A1 (en) | Image processing apparatus and image processing method | |
WO2022025574A1 (en) | Electronic device comprising image sensor and image signal processor, and method therefor | |
JP6739314B2 (en) | Imaging device, control method thereof, program, and storage medium | |
CN117542325A (en) | Compensation device, method, equipment and storage medium of display panel | |
CN116325777A (en) | Electronic device and method for acquiring light quantity |