JP2021117158A - Three-dimensional shape measuring device, three-dimensional shape measuring method, and program - Google Patents

Three-dimensional shape measuring device, three-dimensional shape measuring method, and program Download PDF

Info

Publication number
JP2021117158A
JP2021117158A JP2020011900A JP2020011900A JP2021117158A JP 2021117158 A JP2021117158 A JP 2021117158A JP 2020011900 A JP2020011900 A JP 2020011900A JP 2020011900 A JP2020011900 A JP 2020011900A JP 2021117158 A JP2021117158 A JP 2021117158A
Authority
JP
Japan
Prior art keywords
dimensional shape
measurement target
image
shape measuring
illumination light
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2020011900A
Other languages
Japanese (ja)
Other versions
JP7424074B2 (en
Inventor
心平 藤井
Shinpei Fujii
心平 藤井
貴茂 田中
Takashige Tanaka
貴茂 田中
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Omron Corp
Original Assignee
Omron Corp
Omron Tateisi Electronics Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Omron Corp, Omron Tateisi Electronics Co filed Critical Omron Corp
Priority to JP2020011900A priority Critical patent/JP7424074B2/en
Priority to CN202080090516.3A priority patent/CN114867984A/en
Priority to DE112020006630.4T priority patent/DE112020006630T5/en
Priority to PCT/JP2020/046677 priority patent/WO2021153056A1/en
Publication of JP2021117158A publication Critical patent/JP2021117158A/en
Application granted granted Critical
Publication of JP7424074B2 publication Critical patent/JP7424074B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • G01B11/2518Projection by scanning of the object
    • G01B11/2527Projection by scanning of the object with phase change by in-plane movement of the patern
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • G01B11/2531Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object using several gratings, projected with variable angle of incidence on the object, and one detection device

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Image Analysis (AREA)

Abstract

To provide a technique, in three-dimensional shape measurement employing a color highlight system, to accurately determine the direction of an inclination included in an object to be measured.SOLUTION: A three-dimensional shape measuring device has illumination means, photographing means, and measuring means. The photographing means acquires a plurality of images different in angle around the vertical axis with respect to the object to be measured in a photographing direction of the photographing means or an illumination direction of illumination light, the plurality of images different in mode of reflection including any one of the intensity or the wavelength of the illumination light at a predetermined part of the object to be measured. The measuring means measures the three-dimensional shape of the predetermined part based on the plurality of images acquired by the photographing means.SELECTED DRAWING: Figure 1

Description

本発明は、三次元形状の測定装置、三次元形状計測方法及びプログラムに関する。 The present invention relates to a three-dimensional shape measuring device, a three-dimensional shape measuring method and a program.

従来から、プリント基板に実装された部品のはんだ接合状態を検査する技術分野等において、いわゆるカラーハイライト方式による三次元形状の計測方法が知られている。カラーハイライト方式とは、複数の色(波長)の光を互いに異なる入射角で基板に照射し、はんだ表面にその法線方向に応じた色特徴(カメラから見て正反射方向にある光源の色)が現れるようにした状態で撮像を行うことにより、はんだ表面の三次元形状を二次元の色相情報として捉える方法である。 Conventionally, in the technical field of inspecting the solder joint state of parts mounted on a printed circuit board, a method of measuring a three-dimensional shape by a so-called color highlighting method has been known. The color highlight method irradiates the substrate with light of multiple colors (wavelengths) at different incident angles, and the color characteristics of the solder surface according to its normal direction (a light source in the normal reflection direction when viewed from the camera). This is a method of capturing the three-dimensional shape of the solder surface as two-dimensional hue information by performing imaging with the color) appearing.

例えば、特許文献1には、上記カラーハイライト方式による鏡面物体の三次元形状計測と、いわゆる位相シフト法による拡散物体の三次元形状計測を組み合わせた基板検査装置が開示されている。なお、位相シフト法とは、パターン光を物体表面に投影したときのパターンの歪みを解析することにより物体表面の三次元形状を復元する手法の一つである。 For example, Patent Document 1 discloses a substrate inspection apparatus that combines three-dimensional shape measurement of a mirrored object by the color highlighting method and three-dimensional shape measurement of a diffused object by a so-called phase shift method. The phase shift method is one of the methods for restoring the three-dimensional shape of the object surface by analyzing the distortion of the pattern when the pattern light is projected onto the object surface.

特開2016−11857号公報Japanese Unexamined Patent Publication No. 2016-11857

ところで上記のカラーハイライト方式による三次元形状の計測においては、計測対象の表面の傾斜がどの程度であるかについては、二次元の色相情報としてある程度の精度で計測可能であるが、当該傾斜の「方向」については、二次元では判別できないという問題がある。即ち、プリント基板の検査でいうと、はんだ表面の傾斜が、電極に対して積み上がっている(いわゆるぬれ上がっている)のか、或いは、電極に対して低くなっている(いわゆる不濡れの状態)のかが、二次元の色相情報からは精度良く判定することが困難となる。 By the way, in the measurement of the three-dimensional shape by the above color highlighting method, it is possible to measure the inclination of the surface of the measurement target with a certain degree of accuracy as two-dimensional hue information. There is a problem that the "direction" cannot be determined in two dimensions. That is, in the inspection of the printed circuit board, the inclination of the solder surface is either piled up with respect to the electrode (so-called wet state) or low with respect to the electrode (so-called non-wetting state). It is difficult to accurately determine whether or not the solder is from the two-dimensional hue information.

本発明は、上記のような実情に鑑みてなされたものであり、三次元形状計測において、計測対象に含まれる傾斜の方向を精度良く判別する技術を提供することを目的とする。 The present invention has been made in view of the above circumstances, and an object of the present invention is to provide a technique for accurately discriminating the direction of inclination included in a measurement target in three-dimensional shape measurement.

前記の目的を達成するために、本発明は以下の構成を採用する。 In order to achieve the above object, the present invention adopts the following configuration.

本発明に係る三次元形状計測装置は、計測対象に対して照明光を照射する照明手段と、前記計測対象を撮影する撮影手段と、前記撮影手段によって撮影された画像から得られる前記照明光の反射光の波長の相違に基づいて、前記計測対象の三次元形状を計測する計測手段と、を有する三次元形状計測装置において、前記撮影手段は、前記撮影手段の撮影方向又は前記照明光の照射方向の、前記計測対象に対する鉛直軸回りの角度が異なる複数の画像であって、前記計測対象の所定の部位における前記反射光の強度又は波長のいずれかを含む反射の態様が異なる、前記複数の画像を取得し、前記計測手段は、前記撮影手段が取得した前記複数の画像に基づいて、前記所定の部位の三次元形状を計測する、ことを特徴とする。 The three-dimensional shape measuring device according to the present invention includes an illumination means for irradiating a measurement target with illumination light, a photographing means for photographing the measurement object, and the illumination light obtained from an image photographed by the photographing means. In a three-dimensional shape measuring device having a measuring means for measuring the three-dimensional shape of the measurement target based on a difference in the wavelength of the reflected light, the photographing means is the photographing direction of the photographing means or the irradiation of the illumination light. A plurality of images having different directions and angles around the vertical axis with respect to the measurement target, and different modes of reflection including either the intensity or the wavelength of the reflected light at a predetermined portion of the measurement target. An image is acquired, and the measuring means measures the three-dimensional shape of the predetermined portion based on the plurality of images acquired by the photographing means.

なお、ここでいう「計測」には、計算により測定することも含む(以下同じ)。また、
ここでいう「照明手段」は、その手段の本来の用途に関わらず、計測対象を照明する光を照射可能な光源を広く含む。このような構成により、単一の画像から前記計測対象の三次元形状を計測することに比べて、精度良く計測対象の三次元形状を計測することができる。
The term "measurement" here includes measurement by calculation (the same applies hereinafter). also,
The "illumination means" here includes a wide range of light sources capable of irradiating light that illuminates the measurement target, regardless of the original use of the means. With such a configuration, it is possible to measure the three-dimensional shape of the measurement target with higher accuracy than measuring the three-dimensional shape of the measurement target from a single image.

また、前記所定の部位とは、前記計測対象において傾斜を含む部位であって、前記計測手段は、前記反射光の前記反射の態様がそれぞれ異なる複数の画像を構成する各画素における所定の特徴量の各画像間の相違に基づいて、前記所定の部位の傾斜の方向を計測するものであってもよい。 Further, the predetermined portion is a portion including an inclination in the measurement target, and the measurement means has a predetermined feature amount in each pixel constituting a plurality of images having different modes of reflection of the reflected light. The direction of inclination of the predetermined portion may be measured based on the difference between the respective images.

なお、ここでいう「傾斜」は、水平面に対して直線で定義される傾きだけでなく、曲線によって定義される広義の意味合いの傾きを含む意味である。また、当該傾斜を含んでなる斜面も、平面だけでなく曲面を含む広義の意味合いの斜面を含む意味に解する。以下、本明細書中においては同様の意味に解する。 The term "slope" here means not only the slope defined by a straight line with respect to the horizontal plane but also the slope in a broad sense defined by a curve. Further, the slope including the slope is also understood to include a slope in a broad sense including not only a flat surface but also a curved surface. Hereinafter, the same meaning will be used in the present specification.

このような構成であると、計測対象に含まれる傾斜の方向を計測することが可能になるため、当該傾斜部分の三次元形状を精度良く計測することができる。なお、所定の特徴量としては、各画素の輝度などを例示することができる。 With such a configuration, it is possible to measure the direction of the inclination included in the measurement target, so that the three-dimensional shape of the inclined portion can be measured with high accuracy. As the predetermined feature amount, the brightness of each pixel and the like can be exemplified.

また、前記撮影手段は、前記計測対象を中心とする一の円周上の複数の異なる位置から、前記計測対象を撮影することによって、前記撮影方向の前記計測対象に対する鉛直軸回りの角度が異なる複数の画像を取得するものであってもよい。このような構成であると、前記照明手段が前記計測対象の周囲を囲んで、前記計測対象全体に照明光が照射されている状態で、前記計測対象の所定の部位における前記反射光の反射の態様が異なる複数の画像を取得することができる。 Further, the photographing means takes a picture of the measurement target from a plurality of different positions on one circumference centered on the measurement target, so that the angle of the vertical axis in the shooting direction with respect to the measurement target is different. It may acquire a plurality of images. With such a configuration, the reflected light is reflected at a predetermined portion of the measurement target in a state where the lighting means surrounds the measurement target and the entire measurement target is irradiated with the illumination light. It is possible to acquire a plurality of images having different aspects.

また、前記円周上に複数の撮影手段を設け、前記照明光が照射されている計測対象を複数の方向から同時に撮影するようにすると、前記複数の画像を取得するための時間を短縮することができる。 Further, if a plurality of photographing means are provided on the circumference and the measurement target irradiated with the illumination light is simultaneously photographed from a plurality of directions, the time for acquiring the plurality of images can be shortened. Can be done.

また、前記照明手段が、前記計測対象を中心とする一の円周上の複数の異なる位置から、前記計測対象に対して前記照明光を照射することによって、前記撮影手段は、前記照明光の照射方向の前記計測対象に対する鉛直軸回りの角度が異なる複数の画像を取得するものであってもよい。このような構成によると、撮影手段を前記計測対象の直上に一つ設けるだけでも前記計測対象の所定の部位における前記反射光の反射の態様が異なる複数の画像を取得することができる。このため、撮影手段に係る構成を簡略化することができる。 Further, the illuminating means irradiates the measuring object with the illuminating light from a plurality of different positions on one circumference centered on the measuring object, so that the photographing means can obtain the illuminating light. A plurality of images having different angles around the vertical axis with respect to the measurement target in the irradiation direction may be acquired. According to such a configuration, it is possible to acquire a plurality of images having different modes of reflection of the reflected light at a predetermined portion of the measurement target even if only one photographing means is provided directly above the measurement target. Therefore, the configuration related to the photographing means can be simplified.

また、前記照明手段が、前記計測対象を中心とする円周方向に移動可能に配置されて、前記計測対象を中心とする一の円周上の複数の異なる位置から前記計測対象に対して照明光を照射することによって、前記撮影手段は、前記照明光の照射方向の前記計測対象に対する鉛直軸回りの角度が異なる複数の画像を取得するものであってもよい。 Further, the lighting means is arranged so as to be movable in the circumferential direction centered on the measurement target, and illuminates the measurement target from a plurality of different positions on one circumference centered on the measurement target. By irradiating the light, the photographing means may acquire a plurality of images having different angles around the vertical axis with respect to the measurement target in the irradiation direction of the illumination light.

このような構成によると、円周上の所望の位置から前記計測対象に前記照明光を照射させることができ、計測対象の所定の部位の向き及び形状に関わらず、三次元形状の計測のために最適な方向から照明光を照射することができる。 According to such a configuration, the measurement target can be irradiated with the illumination light from a desired position on the circumference, and the three-dimensional shape can be measured regardless of the orientation and shape of the predetermined portion of the measurement target. It is possible to irradiate the illumination light from the optimum direction.

また、前記照明手段は、前記計測対象を中心として円環状に配置され、前記円環を複数に分割して形成される複数の範囲毎に前記照明光の発光強度を調整可能に構成されており、前記撮影手段は、前記複数の範囲のうち少なくとも一の範囲から前記計測対象に対して前記照明光が照射された際の画像と、その他の範囲から前記計測対象に対して前記照明光
が照射された際の画像とを取得することにより、前記照明光の照射方向の前記計測対象に対する鉛直軸回りの角度が異なる複数の画像を取得するものであってもよい。
Further, the lighting means is arranged in an annular shape around the measurement target, and is configured so that the emission intensity of the illumination light can be adjusted for each of a plurality of ranges formed by dividing the ring into a plurality of areas. The photographing means irradiates the measurement target with an image when the measurement target is irradiated with the illumination light from at least one of the plurality of ranges, and irradiates the measurement target with the illumination light from the other ranges. A plurality of images having different angles around the vertical axis with respect to the measurement target in the irradiation direction of the illumination light may be acquired by acquiring the images at the time of acquisition.

なお、ここでいう「発光強度」には強度が0であること、即ち発光していないことも含まれ、発光強度の調整には発光のON/OFFも含まれる。このような構成であると、前記計測対象の周囲を覆うように前記照明手段を配置して領域を区切ればよいため、照明手段を移動可能に配置するよりも装置構成を簡略化することができる。 It should be noted that the "emission intensity" here includes the fact that the intensity is 0, that is, that it does not emit light, and the adjustment of the emission intensity also includes ON / OFF of light emission. With such a configuration, the lighting means may be arranged so as to cover the periphery of the measurement target to divide the area, so that the device configuration can be simplified as compared with arranging the lighting means so as to be movable. can.

また、前記三次元形状装置は、前記計測対象に対して、所定のパターン光を投影する投影手段をさらに有しており、前記撮影手段は、前記パターン光が投影された前記計測対象のパターン投影画像をさらに取得し、前記計測手段は、前記計測対象の所定の部位における前記反射光の前記反射の態様が異なる複数の画像及び前記パターン投影画像に基づいて、前記所定の部位の三次元形状を計測するものであってもよい。 Further, the three-dimensional shape device further has a projection means for projecting a predetermined pattern light onto the measurement target, and the photographing means projects the pattern of the measurement target on which the pattern light is projected. The image is further acquired, and the measuring means obtains a three-dimensional shape of the predetermined portion based on a plurality of images in which the mode of reflection of the reflected light at the predetermined portion of the measurement target is different and the pattern projection image. It may be the one to be measured.

このような構成であると、前記所定の部位に鏡面構造ではない構造が存在する場合であっても、位相シフト法により当該構造の三次元形状を計測することができる。また、前記複数の画像に基づく三次元形状の計測と組み合わせることにより、計測の精度を向上させることができる。 With such a configuration, even when a structure other than the mirror surface structure exists in the predetermined portion, the three-dimensional shape of the structure can be measured by the phase shift method. Further, the accuracy of the measurement can be improved by combining with the measurement of the three-dimensional shape based on the plurality of images.

また、前記照明手段は、鉛直方向から水平方向の間における複数の異なる角度から、それぞれ異なる波長の照明光を前記計測対象に対して照射し、前記計測手段は、前記撮影手段が取得した少なくとも一の画像における、前記異なる波長の照明光のそれぞれの反射光の前記反射の態様から、前記所定の部位の傾斜の程度を計測する、ものであってもよい。このような構成であると、いわゆるカラーハイライト方式によって前記所定の部位における傾斜の程度を計測することが可能になるため、傾斜の程度(有無を含む)と傾斜の方向の計測により、精度の高い三次元計測を行ことができる。 Further, the illuminating means irradiates the measurement target with illumination light having a different wavelength from a plurality of different angles between the vertical direction and the horizontal direction, and the measuring means is at least one acquired by the photographing means. The degree of inclination of the predetermined portion may be measured from the mode of reflection of the reflected light of the illumination light having different wavelengths in the image. With such a configuration, the degree of inclination at the predetermined portion can be measured by the so-called color highlighting method. Therefore, the degree of inclination (including the presence or absence) and the direction of inclination can be measured to obtain accuracy. High 3D measurement can be performed.

また、前記三次元形状計測装置は、前記撮影手段が取得した前記複数の画像から作成される合成画像を表示する画像表示手段をさらに有しており、前記合成画像は少なくとも前記所定の部位における前記傾斜の方向の違いを、異なる色及び/又は模様により表示分けする画像処理が施された画像であってもよい。また、前記合成画像は、前記所定の部位における前記傾斜の程度及び方向の違いを、異なる色及び/又は模様により表示分けする画像処理が施された画像であってもよい。 Further, the three-dimensional shape measuring device further includes an image display means for displaying a composite image created from the plurality of images acquired by the photographing means, and the composite image is the said at least in the predetermined portion. The image may be an image processed to display and separate the difference in the inclination direction according to different colors and / or patterns. In addition, the composite image may be an image that has undergone image processing to display and separate the difference in the degree and direction of the inclination in the predetermined portion according to different colors and / or patterns.

従来から、例えばカラーハイライト方式を用いた三次元形状計測装置において、その照明光の反射の態様を画像として表示させる技術が知られており、これによってユーザーは計測対象の傾斜の程度の違いを、視覚的に認識することが可能となっている。しかしながら、当該技術によっても、計測対象の傾斜の方向は識別できないものであったため、例えば当該画像に基づいて計測装置のティーチング、検査基準の設定などを行う際には、安全よりの(即ち、厳しい)パラメータ設定が行われていた。 Conventionally, for example, in a three-dimensional shape measuring device using a color highlighting method, a technique for displaying the reflection mode of the illumination light as an image has been known, and the user can change the degree of inclination of the measurement target by this. , It is possible to visually recognize. However, even with this technology, the direction of inclination of the measurement target could not be identified. Therefore, for example, when teaching a measuring device or setting an inspection standard based on the image, it is safer (that is, stricter). ) Parameters were set.

一方、上記したような画像表示手段を有する三次元形状計測装置の構成によると、ユーザーは画像を参照することによって、前記計測対象における傾斜の方向を視覚的に識別することが可能になる。即ち、傾斜を有する箇所について、より多くの要素で識別することが可能になり、当該識別された要素ごとにパラメータを設定することが可能になる。これにより、三次元形状計測装置の設定(例えば検査基準)をより高い精度で調整することも可能になる。 On the other hand, according to the configuration of the three-dimensional shape measuring device having the image display means as described above, the user can visually identify the direction of inclination in the measurement target by referring to the image. That is, it becomes possible to identify a portion having an inclination by more elements, and it is possible to set a parameter for each of the identified elements. This also makes it possible to adjust the settings of the three-dimensional shape measuring device (for example, inspection standards) with higher accuracy.

また、前記合成画像は、合成の元となる各画像における前記計測対象の同一の箇所を示す画素の所定の特徴量の値を比較し、当該値が最も大きい画像から前記画素を選別して合
成されたものであってもよい。
In addition, the composite image is synthesized by comparing the values of predetermined feature amounts of pixels indicating the same location of the measurement target in each image that is the source of synthesis, and selecting the pixels from the image having the largest value. It may be the one that has been done.

また、本発明に係る三次元形状の計測方法は、計測対象に対して照明光を照射する、照射ステップと、前記照明光の照射方向又は撮影方向の、前記計測対象に対する鉛直軸回りの角度が異なる複数の画像であって、前記計測対象の所定の部位における前記照明光の反射光の強度又は波長のいずれかを含む反射の態様が異なる前記複数の画像を取得する撮影ステップと、前記撮影ステップにおいて取得した前記複数の画像に基づいて、前記所定の部位の三次元形状を計測する計測ステップと、を有する。 Further, in the three-dimensional shape measuring method according to the present invention, the irradiation step of irradiating the measurement target with illumination light and the angle of the irradiation direction or imaging direction of the illumination light around the vertical axis with respect to the measurement target are set. A photographing step of acquiring a plurality of different images having different modes of reflection including either the intensity or the wavelength of the reflected light of the illumination light at a predetermined portion to be measured, and the photographing step. It has a measurement step of measuring the three-dimensional shape of the predetermined portion based on the plurality of images acquired in the above.

また、前記所定の部位とは、前記計測対象において傾斜を含む部位であって、前記計測ステップでは、前記反射光の前記反射の態様がそれぞれ異なる複数の画像を構成する各画素における所定の特徴量の差に基づいて、前記所定の部位の傾斜の方向を計測するものであってもよい。 Further, the predetermined portion is a portion including an inclination in the measurement target, and in the measurement step, a predetermined feature amount in each pixel constituting a plurality of images having different modes of reflection of the reflected light. The direction of inclination of the predetermined portion may be measured based on the difference between the two.

また、前記照射ステップにおいて、前記計測対象を中心とする一の円周上の複数の異なる位置から、前記計測対象に対して前記照明光を照射することによって、前記撮影ステップにおいて、前記反射光の照射方向の前記計測対象に対する鉛直軸回りの角度が異なる複数の画像を取得するようにしてもよい。 Further, in the irradiation step, by irradiating the measurement target with the illumination light from a plurality of different positions on one circumference centered on the measurement target, the reflected light is transmitted in the photographing step. A plurality of images having different angles around the vertical axis with respect to the measurement target in the irradiation direction may be acquired.

また、前記撮影ステップにおいて、前記計測対象を中心とする一の円周上の複数の異なる位置から前記計測対象を撮影することによって、前記撮影方向の前記計測対象に対する鉛直軸回りの角度が異なる複数の画像を取得するようにしてもよい。 Further, in the photographing step, by photographing the measurement target from a plurality of different positions on one circumference centered on the measurement target, a plurality of angles around the vertical axis in the shooting direction with respect to the measurement target are different. You may try to acquire the image of.

また、前記計測方法は前記計測対象に対して、所定のパターン光を投影する投影ステップ、をさらに有しており、前記撮影ステップでは、前記パターン光が投影された前記計測対象のパターン投影画像をさらに取得し、前記計測ステップでは、前記計測対象の所定の部位における前記反射光の前記反射の態様が異なる複数の画像及び前記パターン投影画像に基づいて、前記所定の部位の三次元形状を計測するようにしてもよい。 Further, the measurement method further includes a projection step of projecting a predetermined pattern light onto the measurement target, and in the shooting step, the pattern projection image of the measurement target on which the pattern light is projected is displayed. Further acquired, in the measurement step, the three-dimensional shape of the predetermined portion is measured based on a plurality of images in which the mode of reflection of the reflected light at the predetermined portion of the measurement target is different and the pattern projection image. You may do so.

また、前記照明ステップでは、鉛直方向から水平方向の間における複数の異なる角度から、それぞれ異なる波長の照明光を前記計測対象に対して照射し、前記計測ステップでは、前記撮影ステップにおいて取得した少なくとも一の画像における、前記異なる波長の照明光のそれぞれの反射光の前記反射の態様から、前記所定の部位の傾斜の程度を計測する、ものであってもよい。 Further, in the illumination step, illumination light having a different wavelength is irradiated to the measurement target from a plurality of different angles between the vertical direction and the horizontal direction, and in the measurement step, at least one acquired in the photographing step is applied. The degree of inclination of the predetermined portion may be measured from the mode of reflection of the reflected light of the illumination light having different wavelengths in the image.

前記撮影ステップにおいて取得した前記複数の画像を合成して作成される合成画像を表示する、合成画像表示ステップ、をさらに有しており、前記合成画像は、少なくとも前記所定の部位における前記傾斜の方向の違いを、異なる色及び/又は模様により表示分けする画像処理が施された画像であってもよい。また、前記合成画像は、前記所定の部位における前記傾斜の程度及び方向の違いを、異なる色及び/又は模様により表示分けする画像処理が施された画像であってもよい。また、前記合成画像は、合成の元となる各画像における前記計測対象の同一の箇所を示す画素の所定の特徴量の値を比較し、当該値が最も大きい画像から前記画素を選別して合成されたものであってもよい。 It further includes a composite image display step of displaying a composite image created by synthesizing the plurality of images acquired in the shooting step, and the composite image is in the direction of the inclination at least in the predetermined portion. The image may be an image that has undergone image processing to display and separate the differences according to different colors and / or patterns. In addition, the composite image may be an image that has undergone image processing to display and separate the difference in the degree and direction of the inclination in the predetermined portion according to different colors and / or patterns. In addition, the composite image is synthesized by comparing the values of predetermined feature amounts of pixels indicating the same location of the measurement target in each image that is the source of synthesis, and selecting the pixels from the image having the largest value. It may be the one that has been done.

また、本発明は、上記の方法を三次元形状計測装置に実行させるためのプログラム、そのようなプログラムを非一時的に記録したコンピュータ読取可能な記録媒体として捉えることもできる。 Further, the present invention can be regarded as a program for causing the three-dimensional shape measuring device to execute the above method, and as a computer-readable recording medium in which such a program is recorded non-temporarily.

また、上記構成及び処理の各々は技術的な矛盾が生じない限り互いに組み合わせて本発明を構成することができる。 Further, each of the above configurations and treatments can be combined with each other to construct the present invention as long as no technical contradiction occurs.

本発明によれば、三次元形状計測において、計測対象に含まれる傾斜の方向を精度良く判別する技術を提供することができる。 According to the present invention, it is possible to provide a technique for accurately discriminating the direction of inclination included in a measurement target in three-dimensional shape measurement.

図1は、本発明の適用例に係る三次元形状計測装置の構成を示す模式図である。FIG. 1 is a schematic view showing a configuration of a three-dimensional shape measuring device according to an application example of the present invention. 図2は、本発明の適用例に係る三次元形状計測装置の三次元形状計測処理の流れを示すフローチャートである。FIG. 2 is a flowchart showing a flow of three-dimensional shape measurement processing of the three-dimensional shape measuring device according to the application example of the present invention. 図3は、実施形態1に係る基板検査装置のハードウェア構成を示す模式図である。FIG. 3 is a schematic view showing a hardware configuration of the substrate inspection apparatus according to the first embodiment. 図4は、実施形態1に係る情報処理装置の機能を説明するブロック図である。FIG. 4 is a block diagram illustrating a function of the information processing apparatus according to the first embodiment. 図5は、実施形態1に係る照明装置の構成を説明する平面図である。FIG. 5 is a plan view illustrating the configuration of the lighting device according to the first embodiment. 図6Aは、計測対象となる基板のはんだ付け部を説明する側面図である。図6Bは、基板のはんだ付け部の第1のカラーハイライト画像である。図6Cは、基板のはんだ付け部の第2のカラーハイライト画像である。図6Dは、基板のはんだ付け部の第3のカラーハイライト画像である。図6Eは、基板のはんだ付け部のカラーハイライト合成画像である。FIG. 6A is a side view for explaining the soldered portion of the substrate to be measured. FIG. 6B is a first color highlight image of the soldered portion of the substrate. FIG. 6C is a second color highlight image of the soldered portion of the substrate. FIG. 6D is a third color highlight image of the soldered portion of the substrate. FIG. 6E is a color highlight composite image of the soldered portion of the substrate. 図7は、実施形態1に係る基板検査装置の基板検査処理の流れを示すフローチャートである。FIG. 7 is a flowchart showing the flow of the substrate inspection process of the substrate inspection apparatus according to the first embodiment. 図8は、実施形態1の変形例に係る検査ユニットの概略構成を示す模式図である。FIG. 8 is a schematic diagram showing a schematic configuration of an inspection unit according to a modified example of the first embodiment. 図9は、実施形態2に係る基板検査装置のハードウェア構成を示す模式図である。FIG. 9 is a schematic view showing a hardware configuration of the substrate inspection apparatus according to the second embodiment. 図10は、実施形態2に係る基板検査装置の基板検査処理の流れを示すフローチャートである。FIG. 10 is a flowchart showing the flow of the substrate inspection process of the substrate inspection apparatus according to the second embodiment.

以下、図面を参照して、本発明の実施例について説明する。 Hereinafter, examples of the present invention will be described with reference to the drawings.

<適用例>
(適用例の構成)
本発明は例えば、図1に示すような三次元形状計測装置に適用することができる。図1は本適用例に係る三次元形状計測装置9の概略構成を概略模式図である。三次元形状計測装置9は、計測対象Oの三次元形状を測定する装置であり、図1に示すように主な構成として照明手段としての照明装置91、撮影手段としてのカメラ92、計測手段としての情報処理装置93(例えばコンピュータ)、を有している。
<Application example>
(Configuration of application example)
The present invention can be applied to, for example, a three-dimensional shape measuring device as shown in FIG. FIG. 1 is a schematic schematic diagram of a schematic configuration of a three-dimensional shape measuring device 9 according to this application example. The three-dimensional shape measuring device 9 is a device for measuring the three-dimensional shape of the measurement target O, and as shown in FIG. 1, the main configuration is a lighting device 91 as a lighting means, a camera 92 as a photographing means, and a measuring means. It has an information processing device 93 (for example, a computer).

照明装置91は、計測対象に対して複数の異なる波長の光を照射可能に構成されており、本適用例においては赤色光源911R、緑色光源911G、青色光源911Bの3つの異なる光源を備えている。赤色光源911R、緑色光源911G、青色光源911Bはそれぞれ異なる高さ(図中のZ軸方向)に配置されており、これによって計測対象Oに対する光の入射角がそれぞれ異なるようになっている。なお、以下では照明装置91から照射される各光源からの光をまとめてRGB照明光ともいう。照明装置91は、計測対象Oに対して、図中Z軸回りの異なる位置からRGB照明光が照射されるように構成される。 The lighting device 91 is configured to be capable of irradiating a measurement target with light of a plurality of different wavelengths, and in this application example, includes three different light sources of a red light source 911R, a green light source 911G, and a blue light source 911B. .. The red light source 911R, the green light source 911G, and the blue light source 911B are arranged at different heights (in the Z-axis direction in the drawing), so that the incident angles of light with respect to the measurement target O are different from each other. In the following, the light from each light source emitted from the lighting device 91 is collectively referred to as RGB illumination light. The lighting device 91 is configured to irradiate the measurement target O with RGB illumination light from different positions around the Z axis in the drawing.

カメラ92は、RGB照明光が照射された状態の計測対象Oを撮影し、デジタル画像を出力する撮影手段である。なお、以下では、撮影手段によって撮影された画像を観測画像
とも表記する。カメラ92は例えば、光学系とイメージセンサを有して構成される。
The camera 92 is a photographing means that photographs the measurement target O in a state of being irradiated with RGB illumination light and outputs a digital image. In the following, the image taken by the photographing means is also referred to as an observation image. The camera 92 includes, for example, an optical system and an image sensor.

情報処理装置93は、照明装置91、カメラ92及び搬送機構の制御、カメラ92から取り込まれた画像に対する処理、三次元形状計測などの機能を有しており、本発明における計測手段に該当する。情報処理装置93は、CPU(Central Processing Unit)、R
AM(Random Access Memory)、不揮発性の記憶装置(例えば、ハードディスクドライブ、フラッシュメモリなど)、入力装置(例えば、キーボード、マウス、タッチパネルなど)、表示装置(例えば、液晶ディスプレイなど)を備えるコンピュータにより構成することができる。
The information processing device 93 has functions such as control of a lighting device 91, a camera 92 and a transport mechanism, processing of an image captured from the camera 92, and three-dimensional shape measurement, and corresponds to the measuring means in the present invention. The information processing device 93 includes a CPU (Central Processing Unit) and R.
Consists of a computer equipped with an AM (Random Access Memory), a non-volatile storage device (eg, hard disk drive, flash memory, etc.), an input device (eg, keyboard, mouse, touch panel, etc.), and a display device (eg, liquid crystal display, etc.) can do.

なお、照明装置91及びカメラ92の構成は、計測対象Oにおいて傾斜を有する部位OPでのRGB照明光の反射の態様が異なる複数の画像をカメラ92で撮影できるようになっていれば、自由に構成することができる。例えば、カメラ92を計測対象Oの直上に配置し、照明装置91を、計測対象Oを中心した図中Z軸回りの環状に配置した上で複数の領域に分割し、領域毎に各光源の発光のON/OFFを調整可能にしてもよい。 The configuration of the lighting device 91 and the camera 92 can be freely arranged as long as the camera 92 can capture a plurality of images in which the reflection mode of the RGB illumination light at the inclined portion OP in the measurement target O is different. Can be configured. For example, the camera 92 is arranged directly above the measurement target O, the lighting device 91 is arranged in an annular shape around the Z axis in the figure centered on the measurement target O, and then divided into a plurality of regions, and each light source is divided into a plurality of regions. The ON / OFF of the light emission may be adjustable.

このようにして、一の領域からRGB照明光を照射している際には他の領域の光源の発光をOFF(又は発光強度を弱く)した状態で計測対象Oをカメラ92で撮影し、発光する領域を切り替えて更に撮影を行えば、計測対象Oにおいて傾斜を有する部位OPでのRGB照明光の反射の態様が異なる複数の画像を撮影することができる。 In this way, when the RGB illumination light is emitted from one region, the measurement target O is photographed by the camera 92 with the light emission of the light source in the other region turned off (or the emission intensity is weakened), and the light is emitted. If the area to be measured is switched and further photographing is performed, it is possible to acquire a plurality of images having different modes of reflection of the RGB illumination light at the portion OP having an inclination in the measurement target O.

また、照明装置91を環状とせずに、移動機構を設けて図中Z軸回りの円周方向に移動可能としておくこともできる。この際には、所望の位置に照明装置91を移動させて計測対象OにRGB照明光を照射し、それぞれの位置でカメラ92による撮影を行うことで、計測対象Oにおいて傾斜を有する部位OPでのRGB照明光の反射の態様が異なる複数の画像を撮影することができる。 Further, instead of making the lighting device 91 annular, it is also possible to provide a moving mechanism so that the lighting device 91 can move in the circumferential direction around the Z axis in the drawing. At this time, by moving the lighting device 91 to a desired position, irradiating the measurement target O with RGB illumination light, and taking a picture with the camera 92 at each position, the measurement target O has an inclined portion OP. It is possible to take a plurality of images having different modes of reflection of the RGB illumination light.

また、カメラ92を計測対象Oの直上に配置せずに、計測対象Oの中心に向けて傾斜を付けて配置し、移動機構を設けて図中Z軸回りの円周方向に移動可能としておくこともできる。また、移動機構を設けずに図中Z軸回りの円周方向の異なる位置に、カメラ92を複数配置するのであってもよい。 Further, the camera 92 is not arranged directly above the measurement target O, but is arranged with an inclination toward the center of the measurement target O, and a movement mechanism is provided so that the camera 92 can move in the circumferential direction around the Z axis in the drawing. You can also do it. Further, a plurality of cameras 92 may be arranged at different positions in the circumferential direction around the Z axis in the drawing without providing the moving mechanism.

以上のような構成を有する三次元形状計測装置9において計測対象Oの三次元形状の測定を行う際には、照明装置91からRGB照明光を照射された状態の計測対象Oの画像をカメラ92によって複数撮影し、撮影された画像を情報処理装置93がカラーハイライト方式などの方法により画像処理することで、計測対象Oの三次元形状を計測する。 When the three-dimensional shape measuring device 9 having the above configuration measures the three-dimensional shape of the measurement target O, the camera 92 captures an image of the measurement target O in a state of being irradiated with RGB illumination light from the lighting device 91. The three-dimensional shape of the measurement target O is measured by the information processing apparatus 93 processing the captured images by a method such as a color highlighting method.

(制御装置の機能)
続いて、情報処理装置93の三次元形状計測に関わる機能を説明する。情報処理装置93は、三次元形状計測に関わる機能モジュールとして、画像取得部931、特徴量抽出部932、特徴量比較部933、合成データ作成部934、三次元形状計測部935、を有している。
(Function of control device)
Subsequently, the functions related to the three-dimensional shape measurement of the information processing apparatus 93 will be described. The information processing device 93 has an image acquisition unit 931, a feature amount extraction unit 932, a feature amount comparison unit 933, a composite data creation unit 934, and a three-dimensional shape measurement unit 935 as functional modules related to three-dimensional shape measurement. There is.

画像取得部931はカメラ92から三次元形状計測に用いる複数の観測画像を取り込む機能であり、例えば、計測対象Oに照射されるRGB照明光の向きが、計測対象Oを中心と円周上で180度異なる態様の二枚の画像を取得する。本適用例では一方の観測画像を観測画像a、他方の画像を観測画像bという。 The image acquisition unit 931 is a function of capturing a plurality of observation images used for three-dimensional shape measurement from the camera 92. For example, the direction of the RGB illumination light applied to the measurement target O is on the circumference around the measurement target O. Two images with different aspects by 180 degrees are acquired. In this application example, one observed image is referred to as an observed image a, and the other image is referred to as an observed image b.

特徴量抽出部932は取得された各観測画像から、当該観測画像の各画素が有する特徴量(例えば輝度値)を抽出する。本適用例では、観測画像aから抽出される特徴量データ
を特徴量データa、観測画像bから抽出される特徴量データを特徴量データbとして説明する。
The feature amount extraction unit 932 extracts the feature amount (for example, the brightness value) possessed by each pixel of the observed image from each acquired observation image. In this application example, the feature amount data extracted from the observation image a will be described as the feature amount data a, and the feature amount data extracted from the observation image b will be described as the feature amount data b.

特徴量比較部933は、特徴量抽出部932によって抽出された特徴量データaと特徴量データbとを比較する。より具体的には、各観測画像において計測対象Oの同一の箇所を表す画素同士の特徴量の値を比較し、その値が大きい方の画素は観測画像aと観測画像bのいずれの画像の画素かを特定する。ここで、特徴量が輝度であった場合、より明るい、即ちより多くの光がカメラ92に入光した方の画像が特定されることになる。そして、計測対象Oにおいて傾斜を有する箇所がある場合には、当該傾斜に対向する方向からRGB照明光が照射されている際の画像の画素の方がより明るくなるため、ここから当該傾斜の向きを特定することが可能になる。 The feature amount comparison unit 933 compares the feature amount data a extracted by the feature amount extraction unit 932 with the feature amount data b. More specifically, in each observation image, the value of the feature amount of the pixels representing the same location of the measurement target O is compared, and the pixel with the larger value is either the observation image a or the observation image b. Identify if it is a pixel. Here, when the feature amount is luminance, a brighter image, that is, an image in which more light enters the camera 92 is specified. Then, when there is a portion having an inclination in the measurement target O, the pixels of the image when the RGB illumination light is irradiated from the direction facing the inclination become brighter, so that the direction of the inclination is from here. Can be identified.

合成データ作成部934は、観測画像aと観測画像bから、三次元形状計測用の合成データを作成する。具体的には、観測画像aと観測画像bから、特徴量比較部933によって特定された特徴量の値の大きい方の画素同士を、いずれの画像の画素であるかの情報と紐付けて合成し、三次元形状のプロファイルデータを作成する。これにより、計測対象Oにおいて傾斜を有する箇所の向きが特定された三次元形状計測用のプロファイルデータを得る事ができる。 The composite data creation unit 934 creates composite data for three-dimensional shape measurement from the observation image a and the observation image b. Specifically, from the observed image a and the observed image b, the pixels having the larger feature amount value specified by the feature amount comparison unit 933 are combined with the information on which image the pixel is, and synthesized. Then, create the profile data of the three-dimensional shape. As a result, it is possible to obtain profile data for three-dimensional shape measurement in which the orientation of the inclined portion of the measurement target O is specified.

三次元形状計測部935は、合成データ作成部934によって作成された合成データに基づいて計測対象Oの三次元形状を計測する。 The three-dimensional shape measurement unit 935 measures the three-dimensional shape of the measurement target O based on the composite data created by the composite data creation unit 934.

(三次元形状計測処理の流れ)
次に、図2を参照して、本適用例における三次元形状計測の手順について説明する。まず、情報処理装置93は照明装置91を制御し、計測対象Oを中心とする円周上の第一の方向から、計測対象Oに対してRGB照明光を照射する(ステップS901)。次に、情報処理装置93は、カメラ92を制御して、第一の方向からRGB照明光が照射されている状態の計測対象Oを撮影し、第1画像を取得する(ステップS902)。
(Flow of 3D shape measurement processing)
Next, the procedure of three-dimensional shape measurement in this application example will be described with reference to FIG. First, the information processing device 93 controls the lighting device 91 and irradiates the measurement target O with RGB illumination light from the first direction on the circumference centered on the measurement target O (step S901). Next, the information processing device 93 controls the camera 92 to take a picture of the measurement target O in a state where the RGB illumination light is irradiated from the first direction, and acquires the first image (step S902).

次に、情報処理装置93は照明装置91を制御し、前記第一の方向と計測対象Oを挟んで対向する第二の方向から、計測対象Oに対してRGB照明光を照射する(ステップS903)。次に、情報処理装置93は、カメラ92を制御して、第二の方向からRGB照明光が照射されている状態の計測対象Oを撮影し、第2画像を取得する(ステップS904)。 Next, the information processing device 93 controls the lighting device 91, and irradiates the measurement target O with RGB illumination light from the first direction and the second direction facing the measurement target O with the measurement target O in between (step S903). ). Next, the information processing device 93 controls the camera 92 to take a picture of the measurement target O in a state where the RGB illumination light is irradiated from the second direction, and acquires a second image (step S904).

次に、情報処理装置93は、取得した第1画像及び、第2画像から、各画像の画素が有する特徴量を抽出し(ステップS905)、当該抽出した特徴量を比較してより大きな特徴量を有する画素を用いて三次元形状計測用の合成データを作成する(S906)。そして、作成した合成データに基づいて、計測対象Oの三次元形状を計測し(ステップS907)、一連の処理を終了する。なお、計測結果を図示しない表示装置に表示するようにしてもよい。 Next, the information processing apparatus 93 extracts the feature amount possessed by the pixels of each image from the acquired first image and the second image (step S905), compares the extracted feature amount, and makes a larger feature amount. Synthetic data for three-dimensional shape measurement is created using the pixels having (S906). Then, based on the created composite data, the three-dimensional shape of the measurement target O is measured (step S907), and a series of processes is completed. The measurement result may be displayed on a display device (not shown).

以上のような、本適用例に係る三次元形状計測装置9の構成により、計測対象Oにおいて傾斜を有する部位OPがあった場合に、当該傾斜の程度に加えて、傾斜の方向特定した三次元形状プロファイルデータに基づいて、高精度な三次元形状の計測を行うことが可能になる。 With the configuration of the three-dimensional shape measuring device 9 according to the present application example as described above, when there is a portion OP having an inclination in the measurement target O, in addition to the degree of the inclination, the three-dimensional shape in which the direction of the inclination is specified. Based on the shape profile data, it becomes possible to measure a three-dimensional shape with high accuracy.

<実施形態1>
次に、本発明を実施するための形態の他の例である基板検査装置1について説明する。ただし、この実施形態に記載されている構成部品の寸法、材質、形状、その相対配置など
は、特に記載がない限りは、この発明の範囲をそれらのみに限定する趣旨のものではない。
<Embodiment 1>
Next, the substrate inspection apparatus 1 which is another example of the embodiment for carrying out the present invention will be described. However, unless otherwise specified, the dimensions, materials, shapes, relative arrangements, and the like of the components described in this embodiment are not intended to limit the scope of the present invention to those.

(基板検査装置のハードウェア構成)
図3を参照して、本発明の実施形態に係る基板検査装置の全体構成について説明する。図3は基板検査装置のハードウェア構成を示す模式図である。この基板検査装置1は、表面実装ラインにおける基板外観検査(例えば、リフロー後のはんだ接合状態の検査など)に利用される。
(Hardware configuration of board inspection equipment)
The overall configuration of the substrate inspection apparatus according to the embodiment of the present invention will be described with reference to FIG. FIG. 3 is a schematic view showing the hardware configuration of the substrate inspection device. This substrate inspection device 1 is used for substrate appearance inspection (for example, inspection of solder joint state after reflow) in a surface mounting line.

基板検査装置1は、主な構成として、ステージ10、計測ユニット11、制御装置12、情報処理装置13、表示装置14を備える。計測ユニット11は、カメラ110、照明装置111、パターン投影装置(プロジェクタ)112を有している。 The substrate inspection device 1 mainly includes a stage 10, a measurement unit 11, a control device 12, an information processing device 13, and a display device 14. The measurement unit 11 includes a camera 110, a lighting device 111, and a pattern projection device (projector) 112.

ステージ10は、基板Kを保持し、検査対象となる部品KBやはんだKHをカメラ110の計測位置に位置合わせするための機構である。図3に示すようにステージ10に平行にX軸とY軸をとり、ステージ10と垂直にZ軸をとった場合、ステージ10は少なくともX方向とY方向の2軸の並進が可能である。カメラ110は、光軸がZ軸と平行になるように配置されており、ステージ10上の基板Kを鉛直上方から撮像する。カメラ110で撮像された画像データは情報処理装置13に取り込まれる。 The stage 10 is a mechanism for holding the substrate K and aligning the component KB and the solder KH to be inspected at the measurement position of the camera 110. As shown in FIG. 3, when the X-axis and the Y-axis are taken parallel to the stage 10 and the Z-axis is taken perpendicular to the stage 10, the stage 10 can translate at least two axes in the X direction and the Y direction. The camera 110 is arranged so that the optical axis is parallel to the Z axis, and images the substrate K on the stage 10 from vertically above. The image data captured by the camera 110 is taken into the information processing device 13.

照明装置111(111R,111G,111B)は、基板Kに対し異なる色(波長)の照明光を照射する照明手段である。図3は照明装置111のXZ断面を模式的に示したものであり、実際には、同じ色の光を全方位(Z軸回りの全方向)から照明可能なように照明装置111は円環状又はドーム形状を呈している。プロジェクタ112は、基板Kに対し所定のパターンをもつパターン光を投影するパターン投影手段である。プロジェクタ112は、照明装置111の中腹に設けられた開口を通してパターン光を投射する。プロジェクタ112の数は一つでもよいが複数のプロジェクタ112を設けてもよい。本実施形態では、異なる方位(対角の位置)に2つのプロジェクタ112を配置している。照明装置111とプロジェクタ112はいずれもカメラ110で基板Kを撮影するときに用いられる照明系であるが、照明装置111ははんだなどの鏡面物体の表面形状を計測する目的で用いられ、プロジェクタ112は部品などの拡散物体の表面形状を計測する目的で用いられる。 The illumination device 111 (111R, 111G, 111B) is an illumination means for irradiating the substrate K with illumination light of a different color (wavelength). FIG. 3 schematically shows an XZ cross section of the illuminating device 111. In reality, the illuminating device 111 is annular so that light of the same color can be illuminated from all directions (all directions around the Z axis). Or it has a dome shape. The projector 112 is a pattern projection means that projects pattern light having a predetermined pattern onto the substrate K. The projector 112 projects pattern light through an opening provided in the middle of the lighting device 111. The number of projectors 112 may be one, but a plurality of projectors 112 may be provided. In this embodiment, two projectors 112 are arranged in different directions (diagonal positions). Both the lighting device 111 and the projector 112 are lighting systems used when the substrate K is photographed by the camera 110, but the lighting device 111 is used for the purpose of measuring the surface shape of a mirror object such as solder, and the projector 112 is It is used for the purpose of measuring the surface shape of diffused objects such as parts.

制御装置12は、基板検査装置1の動作を制御する制御手段であり、ステージ10の移動制御、照明装置111の点灯及び調光制御、プロジェクタ112の点灯制御やパターン変更、カメラ110の撮像制御などを担っている。 The control device 12 is a control means for controlling the operation of the substrate inspection device 1, such as movement control of the stage 10, lighting and dimming control of the lighting device 111, lighting control and pattern change of the projector 112, and imaging control of the camera 110. Is responsible for.

情報処理装置13は、カメラ110から取り込まれた画像データを用いて、部品KBやはんだKHに関する各種の計測値を取得したり、部品KBのはんだ接合の状態を検査する機能を有する装置である。表示装置14は、情報処理装置13で得られた計測値や検査結果を表示する装置である。情報処理装置13は、例えば、CPU、RAM、不揮発性の記憶装置、入力装置を有する汎用のコンピュータにより構成することができる。なお、図3では、制御装置12と情報処理装置13と表示装置14を別のブロックで示したが、これらは別体の装置で構成してもよいし、単一の装置で構成してもよい。 The information processing device 13 is a device having a function of acquiring various measured values related to the component KB and the solder KH and inspecting the state of the solder joint of the component KB by using the image data captured from the camera 110. The display device 14 is a device that displays the measured values and inspection results obtained by the information processing device 13. The information processing device 13 can be composed of, for example, a general-purpose computer having a CPU, RAM, a non-volatile storage device, and an input device. Although the control device 12, the information processing device 13, and the display device 14 are shown in separate blocks in FIG. 3, they may be configured by separate devices or may be configured by a single device. good.

(機能構成)
図4は、情報処理装置13が提供する検査処理に関わる機能モジュールの構成を示すブロック図である。これらの機能モジュールは、情報処理装置13のCPUが補助記憶装置に格納されたプログラムを読み込み実行することにより実現されるものである。ただし、全部又は一部の機能をASICやFPGAなどの回路で構成してもよい。
(Functional configuration)
FIG. 4 is a block diagram showing a configuration of a functional module related to inspection processing provided by the information processing apparatus 13. These functional modules are realized by the CPU of the information processing device 13 reading and executing a program stored in the auxiliary storage device. However, all or part of the functions may be configured by a circuit such as an ASIC or FPGA.

画像取得部131は、カメラ110から画像データを取り込む機能モジュールである。はんだ形状計測部132は、二次元の画像データからはんだなどの鏡面物体部分の三次元形状を復元する機能モジュールであり、部品形状計測部133は、二次元の画像データから部品などの拡散物体部分の三次元形状を復元する機能モジュールである。各々の復元処理で用いる画像データ及び復元アルゴリズムについては後述する。 The image acquisition unit 131 is a function module that acquires image data from the camera 110. The solder shape measuring unit 132 is a functional module that restores the three-dimensional shape of a mirrored object part such as solder from two-dimensional image data, and the part shape measuring unit 133 is a diffused object part such as a part from two-dimensional image data. It is a functional module that restores the three-dimensional shape of. The image data and the restoration algorithm used in each restoration process will be described later.

検査部134は、はんだ形状計測部132と部品形状計測部133で得られた三次元形状データを基に、はんだKHや部品KBの形状に関わる各種指標を計測し、これらの計測値を用いてはんだ接合の状態を検査する機能モジュールである。検査プログラム記憶部135は、検査部134における検査の項目や条件などを定義した検査プログラムを格納する機能モジュールである。検査プログラムには、例えば、検査対象のランドの位置及びサイズ、部品のサイズ、計測する指標の種類、指標ごとの判定基準値(良品と不良品を判定するための閾値や値域)などが定義されている。出力処理部136は、検査部134で得られた計測値や検査結果、部品KBやはんだKHの三次元形状などを表示装置14などへ外部出力する機能モジュールである。 The inspection unit 134 measures various indexes related to the shapes of the solder KH and the component KB based on the three-dimensional shape data obtained by the solder shape measurement unit 132 and the component shape measurement unit 133, and uses these measured values. It is a functional module that inspects the state of solder joints. The inspection program storage unit 135 is a functional module that stores an inspection program that defines inspection items and conditions in the inspection unit 134. In the inspection program, for example, the position and size of the land to be inspected, the size of the part, the type of the index to be measured, the judgment reference value for each index (threshold value and range for judging non-defective product and defective product), etc. are defined. ing. The output processing unit 136 is a functional module that externally outputs the measured values and inspection results obtained by the inspection unit 134, the three-dimensional shape of the parts KB and the solder KH, and the like to the display device 14 and the like.

以下、はんだKH(鏡面物体)の三次元形状の復元方法と、部品KB(拡散物体)の三次元形状の復元方法をそれぞれ説明した後、情報処理装置13の検査処理の流れについて説明する。 Hereinafter, a method for restoring the three-dimensional shape of the solder KH (mirror object) and a method for restoring the three-dimensional shape of the component KB (diffusing object) will be described, and then the flow of the inspection process of the information processing apparatus 13 will be described.

(はんだの三次元形状計測)
はんだKHの三次元形状の計測には、いわゆるカラーハイライト方式で得られる画像を利用する。カラーハイライト方式とは、複数の色(即ち、波長)の光を互いに異なる入射角で基板に照射し、はんだ表面にその法線方向に応じた色特徴(即ち、カメラから見て正反射方向にある光源の色)が現れるようにした状態で撮影を行うことにより、はんだ表面の三次元形状を二次元の色相情報として捉える方法である。画像の中から、R、G、Bの光源色が現れている領域のみを抽出して、R、G、Bの各領域の形状、幅、順番に基づいて、はんだ三次元形状を復元することができる。なお、三次元形状の復元には公知の手法を用いることができるため、ここでは詳しい説明を省略する。
(Three-dimensional shape measurement of solder)
An image obtained by the so-called color highlighting method is used to measure the three-dimensional shape of the solder KH. The color highlighting method irradiates a substrate with light of a plurality of colors (that is, wavelengths) at different incident angles, and causes the solder surface to have color characteristics according to its normal direction (that is, a normal reflection direction when viewed from a camera). This is a method of capturing the three-dimensional shape of the solder surface as two-dimensional hue information by taking a picture with the color of the light source in the above appearing. Extracting only the region where the light source colors of R, G, and B appear from the image, and restoring the three-dimensional solder shape based on the shape, width, and order of each region of R, G, and B. Can be done. Since a known method can be used for the restoration of the three-dimensional shape, detailed description thereof will be omitted here.

まず、図5を参照して、カラーハイライト方式に用いる照明装置111の構成を説明する。図5は、照明装置111の各光源111R、111G、111Bの配置関係を模式的に示す平面概略図である。照明装置111は、赤色光源111R、緑色光源111G、青色光源111Bの3つの円環状の光源を、カメラ110の光軸を中心として同心円状に配置した構造を有している。各光源111R、111G、111Bは、赤色光、緑色光、青色光の順に基板Kに対する入射角が大きくなるよう、仰角及び向きが調整されている。このような照明装置111は、例えば、ドーム形状の拡散板の外側にR、G、B各色のLEDを円環状に配列することで形成できる。 First, the configuration of the lighting device 111 used in the color highlighting method will be described with reference to FIG. FIG. 5 is a schematic plan view schematically showing the arrangement relationship of the light sources 111R, 111G, and 111B of the lighting device 111. The lighting device 111 has a structure in which three annular light sources, a red light source 111R, a green light source 111G, and a blue light source 111B, are arranged concentrically around the optical axis of the camera 110. The elevation angles and orientations of the light sources 111R, 111G, and 111B are adjusted so that the incident angles with respect to the substrate K increase in the order of red light, green light, and blue light. Such a lighting device 111 can be formed, for example, by arranging LEDs of each color R, G, and B in an annular shape on the outside of a dome-shaped diffuser plate.

また、図5に示すように、照明装置111は四等分され、第1照明領域111a、第2照明領域111b、第3照明領域111c、第4照明領域111dの4つの領域に分かれている。そして赤色光源111R、緑色光源111G、青色光源111Bは、それぞれの領域ごとに発光の強度(ON/OFFを含む、以下同じ)が調節可能となっている。このように照明装置111が4つの領域に分かれていることによって、発光させる領域の組み合わせにより8つの方向から基板Kに照明光を照射することが可能になる。具体的には、4つの領域のうち、1の領域のみを点灯する場合の4方向と、隣接する2つの領域を点灯する場合の4方向である。なお、点灯する領域の組み合わせ数については、全点灯の場合を含めて13となる。 Further, as shown in FIG. 5, the illuminating device 111 is divided into four equal parts, which are divided into four regions: a first illuminating region 111a, a second illuminating region 111b, a third illuminating region 111c, and a fourth illuminating region 111d. The intensity of light emission (including ON / OFF, the same applies hereinafter) of the red light source 111R, the green light source 111G, and the blue light source 111B can be adjusted for each region. Since the illumination device 111 is divided into four regions in this way, it is possible to irradiate the substrate K with illumination light from eight directions by combining the regions to emit light. Specifically, of the four regions, there are four directions in which only one region is lit and four directions in which two adjacent regions are lit. The number of combinations of lighting areas is 13 including the case of all lighting.

照明装置111を点灯した状態で、基板Kをカメラ110で撮影をすると、鏡面物体であるはんだKHの部分に、その法線方向(傾斜角)に応じた色特徴が現れる。例えば、部品電極から離れるにつれてはんだKHの傾斜が緩やかになっていくような場合には、はんだKHの領域にB→G→Rという色相の変化が現れる。R、G、B各色の領域の形状、幅、現れる順番などは、はんだKHの表面形状に依存して変化する。 When the substrate K is photographed by the camera 110 with the lighting device 111 turned on, a color feature corresponding to the normal direction (tilt angle) appears in the portion of the solder KH which is a mirror object. For example, when the inclination of the solder KH becomes gentler as the distance from the component electrodes increases, a change in hue of B → G → R appears in the region of the solder KH. The shape, width, appearance order, etc. of the regions of each of R, G, and B change depending on the surface shape of the solder KH.

図6を参照して、本実施形態に係る照明装置111を点灯した状態で、カメラ110で基板を撮影した際に取得できるはんだ部分の画像について説明する。図6Aは、基板K上の部品KBの電極部分とこれに接合されるはんだ部分(以下、はんだ付け部という)を側面から見た図である。図6Aに示すように、当該事例のはんだKHは部品KBから延びる電極に対して充分に馴染んでおらず、接触面積が少なくなっている(即ち、不濡れの状態になっている)。 With reference to FIG. 6, an image of a solder portion that can be obtained when a substrate is photographed by the camera 110 with the lighting device 111 according to the present embodiment turned on will be described. FIG. 6A is a side view of an electrode portion of a component KB on a substrate K and a solder portion (hereinafter, referred to as a soldered portion) joined to the electrode portion. As shown in FIG. 6A, the solder KH of the case is not sufficiently familiar with the electrode extending from the component KB, and the contact area is small (that is, it is in a non-wetting state).

図6Bは、照明装置111の全領域で照明を点灯して撮影した場合のはんだ付け部の画像である。図6Bには、R、G、Bの各色の領域が示されている。図6Bに示す画像からは、はんだと電極の接合部に傾斜(によって定義される斜面)が存在することが推測できるが、この斜面がどちらを向いているのか(即ち、濡れあがっているのか、不濡れの状態なのか)までは判別することができない。なお、部品KB本体や電極の表面では拡散反射が支配的となるため、R、G、Bのような光源色ではなく、白色光で照明したときと同じ物体自体の色が現れる。 FIG. 6B is an image of the soldered portion when the lighting is turned on in the entire area of the lighting device 111 and the image is taken. FIG. 6B shows regions of each color of R, G, and B. From the image shown in FIG. 6B, it can be inferred that there is a slope (a slope defined by) at the joint between the solder and the electrode, but which direction this slope is facing (that is, whether it is wet). It is not possible to determine whether it is in a non-wet state). Since diffuse reflection is dominant on the surface of the component KB body and the electrode, the color of the object itself as when illuminated with white light appears instead of the light source color such as R, G, and B.

ここで、本実施形態の照明装置111は、4つに分かれた領域ごとに光源のON/OFFが可能であるため、照明装置111のうち、図6のはんだKH端部側の領域(第2照明領域111b及び、第4照明領域111d)のみを点灯させてはんだ付け部を撮影すると、図6Cのような画像(以下、第1カラーハイライト画像という)が取得できる。 Here, since the lighting device 111 of the present embodiment can turn on / off the light source for each of the four divided regions, the region of the lighting device 111 on the solder KH end side (second) of FIG. When only the illumination area 111b and the fourth illumination area 111d) are turned on and the soldered portion is photographed, an image as shown in FIG. 6C (hereinafter referred to as a first color highlight image) can be obtained.

また、照明装置111のうち、図6における部品KB側の領域(第1照明領域111a及び、第3照明領域111c)のみを点灯させてはんだ付け部を撮影すると、図6Dのような画像(以下、第2カラーハイライト画像という)を取得することができる。 Further, when the soldered portion of the lighting device 111 is photographed by lighting only the area on the component KB side (first lighting area 111a and third lighting area 111c) in FIG. 6, an image as shown in FIG. 6D (hereinafter, , Second color highlight image) can be acquired.

そして、情報処理装置13は、第1カラーハイライト画像および第2カラーハイライト画像のデータから各画素の有する輝度値を抽出し、より輝度値の大きいほうの画素を合成することで、合成データを作成する。なお、当該合成データの性質、及び合成データ作成の処理については、適用例において説明したものと同様であるため、詳細な説明は省略する。要するに、当該合成データを用いることで、はんだKHと電極の接合部の斜面の方向を判別することが可能になる。 Then, the information processing device 13 extracts the brightness value of each pixel from the data of the first color highlight image and the second color highlight image, and synthesizes the pixel having the larger brightness value to synthesize the composite data. To create. Since the properties of the composite data and the process of creating the composite data are the same as those described in the application example, detailed description thereof will be omitted. In short, by using the composite data, it is possible to determine the direction of the slope of the joint between the solder KH and the electrode.

図6Eは、このようにして作成された合成データに基づいて作成された合成画像(以下、カラーハイライト合成画像という)の例を示している。カラーハイライト合成画像では、第1カラーハイライト画像のR、G、Bの領域の画素を採用した箇所は、そのまま赤色(R)、緑色(G)、青色(B)で表示し、第2カラーハイライト画像のR、G、Bの領域の画素を採用した箇所は、マゼンダ(M)、イエロー(Y)、シアン(C)で表現されている。なお、合成画像における色の選択は全くの任意であり、これら6色に限られるわけではないが、異なる色系統でありながらも類似する色を使用することによって、傾斜の程度が同一であることと、元となった画像が違う(即ち傾斜の向きが違う)ことを直感的に把握することができる。 FIG. 6E shows an example of a composite image (hereinafter, referred to as a color highlight composite image) created based on the composite data created in this way. In the color highlight composite image, the parts where the pixels in the R, G, and B regions of the first color highlight image are adopted are displayed as they are in red (R), green (G), and blue (B), and the second The portion of the color highlight image in which the pixels in the R, G, and B regions are adopted is represented by magenta (M), yellow (Y), and cyan (C). The color selection in the composite image is completely arbitrary and is not limited to these six colors, but the degree of inclination is the same by using similar colors even though they have different color systems. Then, it is possible to intuitively grasp that the original image is different (that is, the direction of inclination is different).

このようなカラーハイライト合成画像は、例えば表示装置14で表示可能にしておけば、ユーザーはカラーハイライト合成画像を見て、はんだ付け部の状態を容易に把握することが可能になる。 If such a color highlight composite image can be displayed on the display device 14, for example, the user can easily grasp the state of the soldered portion by looking at the color highlight composite image.

(部品の三次元形状計測)
一方、拡散物体である部品KBの三次元形状の計測には、位相シフト法を利用する。位相シフト法とは、パターン光を物体表面に投影したときのパターンの歪みを解析することにより物体表面の三次元形状を復元する手法の一つである。具体的には、プロジェクタ112を用いて、所定のパターン(例えば、輝度が正弦波状に変化する縞状パターン)を基板に投影した状態でカメラ110で撮影を行う。そうすると基板Kの表面には、その凹凸に応じたパターンの歪みが現れる(なお、はんだKHの部分では鏡面反射が支配的となるため、パターンはほとんど観測できない。)。この処理を、パターン光の輝度変化の位相を変化させながら複数回繰り返すことで、輝度特徴の異なる複数枚の画像(以下、パターン解析画像いう)が得られる。各画像の同一画素の輝度は縞状パターンの変化と同一の周期で変化するはずであるから、各画素の輝度の変化に対して正弦波を当てはめることで、各画素の位相が分かる。そして、所定の基準位置(テーブル表面、基板表面など)の位相に対する位相差を求めることで、その基準位置からの距離(即ち、高さ)を算出することができる。
(Three-dimensional shape measurement of parts)
On the other hand, the phase shift method is used to measure the three-dimensional shape of the component KB, which is a diffusion object. The phase shift method is one of the methods for restoring the three-dimensional shape of the object surface by analyzing the distortion of the pattern when the pattern light is projected onto the object surface. Specifically, the projector 112 is used to project a predetermined pattern (for example, a striped pattern in which the brightness changes in a sinusoidal shape) onto a substrate, and the camera 110 takes a picture. Then, the distortion of the pattern corresponding to the unevenness appears on the surface of the substrate K (note that the pattern can hardly be observed because the specular reflection is dominant in the solder KH portion). By repeating this process a plurality of times while changing the phase of the brightness change of the pattern light, a plurality of images having different brightness characteristics (hereinafter, referred to as a pattern analysis image) can be obtained. Since the brightness of the same pixel in each image should change in the same cycle as the change in the striped pattern, the phase of each pixel can be known by applying a sine wave to the change in the brightness of each pixel. Then, by obtaining the phase difference with respect to the phase of a predetermined reference position (table surface, substrate surface, etc.), the distance (that is, height) from the reference position can be calculated.

(検査処理の流れ)
次に、図7を用いて、基板検査装置1で行われる検査処理の流れを説明する。図7は、検査処理の流れを示すフローチャートである。
(Flow of inspection process)
Next, the flow of the inspection process performed by the substrate inspection apparatus 1 will be described with reference to FIG. 7. FIG. 7 is a flowchart showing the flow of the inspection process.

まず、制御装置12が検査プログラムに従ってステージ10を制御し、検査対象の部品KBおよびはんだKHを計測位置(カメラ110の視野)に移動させる(ステップS101)。そして、制御装置12が照明装置111の一部の領域を点灯し(ステップS102)、赤色光、緑色光、青色光を照射した状態でカメラ110で撮影を行う(ステップS103)。得られた画像データ(第1カラーハイライト画像)は、画像取得部131により情報処理装置13に取り込まれる。 First, the control device 12 controls the stage 10 according to the inspection program, and moves the component KB and the solder KH to be inspected to the measurement position (the field of view of the camera 110) (step S101). Then, the control device 12 lights a part of the area of the lighting device 111 (step S102), and takes a picture with the camera 110 while irradiating the red light, the green light, and the blue light (step S103). The obtained image data (first color highlight image) is taken into the information processing device 13 by the image acquisition unit 131.

照明装置111の消灯後、さらに、照明装置111の先の発光領域と対向する領域を制御装置12が点灯し(ステップS104)、ハイライト照明光を照射した状態でカメラ110での撮影を行う(ステップS105)。ここで得られた画像データ(第2カラーハイライト画像)は、画像取得部131により情報処理装置13に取り込まれる。 After the lighting device 111 is turned off, the control device 12 further lights the area facing the light emitting region ahead of the lighting device 111 (step S104), and the camera 110 takes a picture while irradiating the highlight illumination light (step S104). Step S105). The image data (second color highlight image) obtained here is taken into the information processing device 13 by the image acquisition unit 131.

次に、制御装置12がプロジェクタ112からパターン光を投影し(ステップS106)、カメラ110で撮像を行う(ステップS107)。位相シフト法を利用する場合、パターン光の位相を変えながらステップS106及びS107の処理が複数回実行される。得られた複数枚の画像データは、画像取得部131により情報処理装置13に取り込まれる。なお、本実施形態では、照明装置111での撮影を先に実行したが、プロジェクタ112での撮影を先に実行しても構わない。また、カメラ110の視野外に他の検査対象が存在する場合には、ステップS101〜S107の処理を繰り返し実行してもよい。 Next, the control device 12 projects the pattern light from the projector 112 (step S106), and the camera 110 takes an image (step S107). When the phase shift method is used, the processes of steps S106 and S107 are executed a plurality of times while changing the phase of the pattern light. The obtained plurality of image data are taken into the information processing device 13 by the image acquisition unit 131. In the present embodiment, the shooting with the lighting device 111 is executed first, but the shooting with the projector 112 may be executed first. Further, when another inspection target exists outside the field of view of the camera 110, the processes of steps S101 to S107 may be repeatedly executed.

以降は、情報処理装置13で行われる処理となる。はんだ形状計測部132は、ステップS103及びステップS105で得られた画像から、各画素の輝度値を抽出して前記の合成データを作成し、当該合成データに基づいてはんだKH(及び部品KBの電極)の三次元形状を復元する(ステップS108)。復元された三次元形状のデータは、例えば、はんだKH領域内の各画素の高さ(Z位置)を画素値で表現した画像データ(高さマップと呼ぶ)の形式で保存される。一方、部品形状計測部133は、ステップS107で得られたパターン画像から、位相シフト法により、部品KBの三次元形状を復元する(ステップS109)。部品KBの三次元形状データについても高さマップの形式で保存される。これらの高さマップを合成することで、鏡面物体であるはんだKHと拡散物体である部品KBの両方の高さ情報を表す全体の高さマップを得ることができる。 After that, the processing is performed by the information processing device 13. The solder shape measuring unit 132 extracts the brightness value of each pixel from the images obtained in steps S103 and S105 to create the above-mentioned composite data, and based on the composite data, the solder KH (and the electrode of the component KB) ) Is restored (step S108). The restored three-dimensional shape data is stored, for example, in the form of image data (called a height map) in which the height (Z position) of each pixel in the solder KH region is expressed by a pixel value. On the other hand, the component shape measuring unit 133 restores the three-dimensional shape of the component KB from the pattern image obtained in step S107 by the phase shift method (step S109). The three-dimensional shape data of the part KB is also saved in the height map format. By synthesizing these height maps, it is possible to obtain an overall height map representing the height information of both the solder KH, which is a mirror object, and the component KB, which is a diffusion object.

そして、検査部134が、全体の高さマップと検査プログラムの閾値とによって、基板Kの検査を実施する(ステップS110)。検査が終了すると、表示装置14は、検査の結果、及びステップS108で作成した合成データを視覚的に表現したカラーハイライト合成画像を表示し(ステップS111)、一連の処理を終了する。 Then, the inspection unit 134 inspects the substrate K based on the overall height map and the threshold value of the inspection program (step S110). When the inspection is completed, the display device 14 displays the result of the inspection and the color highlight composite image visually representing the composite data created in step S108 (step S111), and ends the series of processes.

以上述べた本実施形態の基板検査装置によれば、鏡面物体であるはんだの三次元形状と、拡散物体である部品電極とを、それぞれに適した方法で復元するので、はんだと部品電極の両方について精度の高い三次元形状データを得ることができる。また、はんだの三次元形状の復元にあたっては、複数のカラーハイライト画像を用いて合成データを作成することで、傾斜を有する場所の当該傾斜面の向きを特定して三次元形状を復元するため、はんだの斜面の形状を精度よく復元できる。 According to the substrate inspection apparatus of the present embodiment described above, the three-dimensional shape of the solder, which is a mirror object, and the component electrode, which is a diffused object, are restored by a method suitable for each, so that both the solder and the component electrode are restored. It is possible to obtain highly accurate three-dimensional shape data. In addition, when restoring the three-dimensional shape of solder, by creating composite data using multiple color highlight images, the orientation of the inclined surface at the location with the inclination can be specified and the three-dimensional shape can be restored. , The shape of the solder slope can be restored accurately.

(変形例)
なお、上記実施形態1では、照明装置111は、Z軸を中心とした円環状に形成されていたが、必ずしもこのような構成である必要はない。図8は、本実施形態の変形例に係る計測ユニット21の概略構成を示す説明図である。本変形例に係る計測ユニット21は、照明装置211及び、プロジェクタ212を移動させる手段である移動機構25を備えている。なお、本変形例において、実施形態1と同様の構成については同一の符号を用い、詳細な説明は省略する。
(Modification example)
In the first embodiment, the lighting device 111 is formed in an annular shape centered on the Z axis, but it does not necessarily have to have such a configuration. FIG. 8 is an explanatory diagram showing a schematic configuration of a measurement unit 21 according to a modified example of the present embodiment. The measurement unit 21 according to this modification includes a lighting device 211 and a moving mechanism 25 which is a means for moving the projector 212. In this modification, the same reference numerals are used for the same configurations as in the first embodiment, and detailed description thereof will be omitted.

本変形例における移動機構25は、制御装置12によって制御されるモータ(図示せず)によって駆動される中空円筒状の回転機構251と、回転機構251に組み付けられて照明装置211を支持する基準板252と、を備えている。回転機構251は、筐体251aと回転体251bからなり、筐体251aの上部が装置フレーム26に固定されている。なお、図8は移動機構25の内部構造が把握しやすくするために部分断面図となっているが、実際のカメラ110は、回転機構251の中空内に配置され、側面からは視認できない。 The moving mechanism 25 in this modification is a hollow cylindrical rotating mechanism 251 driven by a motor (not shown) controlled by the control device 12, and a reference plate assembled to the rotating mechanism 251 to support the lighting device 211. 252 and. The rotation mechanism 251 includes a housing 251a and a rotating body 251b, and the upper portion of the housing 251a is fixed to the device frame 26. Note that FIG. 8 is a partial cross-sectional view to make it easier to grasp the internal structure of the moving mechanism 25, but the actual camera 110 is arranged in the hollow of the rotating mechanism 251 and cannot be visually recognized from the side surface.

回転機構251は、例えばギアによってモータの回転が伝達されることにより、Z軸方向に延びる回転軸を中心として360度の範囲内で回転体251bが回転するように構成されている。この回転体251bが回転すると、回転機構251に組み付けられた基準板252も回転し、これによって基準板252に係止されている照明装置211及びプロジェクタ212は、円筒状の回転機構251の回転軸を中心とした円周上を回転移動することになる。すなわち、回転機構251の回転軸と同軸上に基板Kが配置されている場合、照明装置211及びプロジェクタ212は基板Kを中心として、XY軸により定義される平面上を回転移動する。本変形例のその他のハードウェア構成、処理などは実施形態1のものと同様であるため、図示及び説明は省略する。 The rotation mechanism 251 is configured such that the rotating body 251b rotates within a range of 360 degrees about a rotation axis extending in the Z-axis direction by transmitting the rotation of the motor by, for example, a gear. When the rotating body 251b rotates, the reference plate 252 assembled to the rotating mechanism 251 also rotates, whereby the lighting device 211 and the projector 212 locked to the reference plate 252 rotate the rotating shaft of the cylindrical rotating mechanism 251. It will rotate around the circumference. That is, when the substrate K is arranged coaxially with the rotation axis of the rotation mechanism 251, the lighting device 211 and the projector 212 rotate around the substrate K on a plane defined by the XY axes. Since other hardware configurations, processes, and the like of this modification are the same as those of the first embodiment, illustration and description thereof will be omitted.

このような構成により、照明装置211及びプロジェクタ212を基板Kを中心とする円周の任意の位置に配置して、照明光の照射、パターンの投影を行うことができるため、複数のカラーハイライト画像およびパターン投影画像を取得することができる。また、基板Kの部品及びはんだの向きに関わらず、三次元形状の計測のために最適な方向から照明光、パターンを照射することができる。 With such a configuration, the illumination device 211 and the projector 212 can be arranged at arbitrary positions on the circumference centered on the substrate K to irradiate the illumination light and project the pattern, so that a plurality of color highlights can be obtained. Images and pattern projection images can be acquired. Further, regardless of the orientation of the parts of the substrate K and the solder, the illumination light and the pattern can be irradiated from the optimum direction for the measurement of the three-dimensional shape.

<実施形態2>
続けて、第2の実施形態について説明する。図9は本実施形態に係る基板検査装置3の概略構成図である。図9に示すように、基板検査装置3は概略、検査ユニット31、制御装置32、情報処理装置33、表示装置34を備えている。基板検査装置3は、実施形態1の基板検査装置1と比べて、カメラの台数と配置位置、及びプロジェクタがない点、に
おいて異なっている。即ち、その他の制御装置32、情報処理装置33、表示装置34の構成については、実施形態1の基板検査装置1と略同様であるため詳細な説明は省略する。
<Embodiment 2>
Subsequently, the second embodiment will be described. FIG. 9 is a schematic configuration diagram of the substrate inspection device 3 according to the present embodiment. As shown in FIG. 9, the substrate inspection device 3 roughly includes an inspection unit 31, a control device 32, an information processing device 33, and a display device 34. The substrate inspection device 3 is different from the substrate inspection device 1 of the first embodiment in that the number of cameras, the arrangement position, and the absence of a projector. That is, since the configurations of the other control device 32, the information processing device 33, and the display device 34 are substantially the same as those of the substrate inspection device 1 of the first embodiment, detailed description thereof will be omitted.

検査ユニット31は、ステージ30、カメラ310a、310b、照明装置311、移動機構35、装置フレーム36、を含んで構成される。移動機構35は、回転機構351(筐体351a、回転体351b)、基準板352を備える構成であるが、上述した実施形態1の変形例の移動機構と同様の構成であるため、詳細な説明は省略する。ステージ30、装置フレーム36についても同様である。 The inspection unit 31 includes a stage 30, cameras 310a and 310b, a lighting device 311 and a moving mechanism 35, and a device frame 36. The moving mechanism 35 has a configuration including a rotating mechanism 351 (housing 351a, rotating body 351b) and a reference plate 352, but since it has the same configuration as the moving mechanism of the modified example of the first embodiment described above, a detailed description thereof will be given. Is omitted. The same applies to the stage 30 and the device frame 36.

カメラ310a、310b、は移動機構35の基準板352に、それぞれ基板Kを撮影するようにして、基準板352の対角の位置に配置される。また、照明装置311は、基板Kに対し異なる波長の照明光を照射する照明手段であり、実際には、同じ波長の光を全方位(Z軸回りの全方向)から照明可能なように照明装置111は円環状又はドーム形状を呈している。なお、本実施形態に係る照明装置311は、分割された領域を有するわけではなく、RGB照明光の照射は、全体で一括して行われる。 The cameras 310a and 310b are arranged on the reference plate 352 of the moving mechanism 35 at diagonal positions of the reference plate 352 so as to photograph the substrate K, respectively. Further, the illuminating device 311 is an illuminating means for irradiating the substrate K with illumination light having different wavelengths, and actually illuminates the substrate K so that the light having the same wavelength can be illuminated from all directions (all directions around the Z axis). The device 111 has an annular or dome shape. The lighting device 311 according to the present embodiment does not have a divided region, and the RGB illumination light is irradiated collectively as a whole.

即ち、実施形態1では、カメラを計測対象の鉛直上方に固定し、RGB照明光の照射の方向を変えて複数回撮影を行うことで、RGB照明光の反射の態様が異なる複数の画像を取得していたが、本実施形態では、撮影の方向が異なる画像を複数取得することでRGB照明光の反射の態様が異なる複数の画像を取得する。 That is, in the first embodiment, by fixing the camera vertically above the measurement target and performing multiple shootings by changing the irradiation direction of the RGB illumination light, a plurality of images having different reflection modes of the RGB illumination light are acquired. However, in the present embodiment, a plurality of images having different modes of reflection of RGB illumination light are acquired by acquiring a plurality of images having different shooting directions.

次に、図10用いて、基板検査装置3で行われる検査処理の流れを説明する。図10は、検査処理の流れを示すフローチャートである。 Next, the flow of the inspection process performed by the substrate inspection apparatus 3 will be described with reference to FIG. FIG. 10 is a flowchart showing the flow of the inspection process.

まず、制御装置32が検査プログラムに従ってステージ30を制御し、検査対象の部品およびはんだを計測位置に移動させる(ステップS201)。そして、制御装置32が照明装置311を点灯し(ステップS202)、赤色光、緑色光、青色光を照射した状態で、移動機構35を制御して2台のカメラ310a、310bを適切な位置に移動させる(ステップS203)。そして、2台のカメラで同時に撮影を行う(ステップS204)。得られた複数の画像データ(カラーハイライト画像)は、情報処理装置33に取り込まれる。 First, the control device 32 controls the stage 30 according to the inspection program to move the parts to be inspected and the solder to the measurement position (step S201). Then, in a state where the control device 32 lights the lighting device 311 (step S202) and irradiates the red light, the green light, and the blue light, the moving mechanism 35 is controlled to position the two cameras 310a and 310b at appropriate positions. Move (step S203). Then, shooting is performed simultaneously with the two cameras (step S204). The obtained plurality of image data (color highlight images) are taken into the information processing device 33.

そして、情報処理装置33は、複数のカラーハイライト画像から特徴量を抽出して合成データを作成し(ステップS205)、当該合成データに基づいて検査を実行する(ステップS206)。そして、検査の結果、合成データから作成した合成画像などを表示装置に表示して(ステップS207)、一連の処理を終了する。なお、複数のカラーハイライト画像から合成データを作成する処理は、実施形態1と同様であるため、説明は省略する。 Then, the information processing apparatus 33 extracts the feature amount from the plurality of color highlight images, creates composite data (step S205), and executes the inspection based on the composite data (step S206). Then, as a result of the inspection, a composite image or the like created from the composite data is displayed on the display device (step S207), and a series of processes is completed. Since the process of creating composite data from a plurality of color highlight images is the same as that of the first embodiment, the description thereof will be omitted.

本実施形態に係る検査装置3によれば、合成データを作成するためのカラーハイライト画像の撮影を一度で済ますことができるため、検査に係る時間を短縮させることができる。 According to the inspection device 3 according to the present embodiment, since the color highlight image for creating the composite data can be taken at one time, the time required for the inspection can be shortened.

なお、本実施形態に係る基板検査装置3では、プロジェクタを備えない構成であったが、プロジェクタを備え、パターン投影画像を取得するようにしてもよい。 Although the substrate inspection device 3 according to the present embodiment is not provided with a projector, it may be provided with a projector to acquire a pattern projection image.

<その他>
上記各実施形態は、本発明を例示的に説明するものに過ぎず、本発明は上記の具体的な形態には限定されない。本発明はその技術的思想の範囲内で種々の変形が可能である。例
えば、上記の各実施形態ではカラーハイライト方式で計測対象における傾斜の程度を計測する装置を前提としていたが、傾斜の方向を計測するのには、波長の異なる複数の照明光を照射する必要はない。このため、例えば、計測対象を中心として対向する方向の一方のみから所望の波長の光を照射した画像と、もう一方のみから同様の照明光を照射した画像とを取得して、これらの特徴量を比較することで、計測対象における傾斜の方向を計測することができる。
<Others>
Each of the above embodiments is merely an example of the present invention, and the present invention is not limited to the above specific embodiment. The present invention can be modified in various ways within the scope of its technical idea. For example, in each of the above embodiments, it is assumed that the device measures the degree of inclination of the measurement target by the color highlight method, but in order to measure the direction of inclination, it is necessary to irradiate a plurality of illumination lights having different wavelengths. There is no. Therefore, for example, an image in which light of a desired wavelength is irradiated from only one of the directions facing each other with the measurement target as the center is acquired, and an image in which the same illumination light is irradiated from only the other is acquired, and these feature quantities are obtained. By comparing, the direction of inclination in the measurement target can be measured.

具体的には、例えばプロジェクタからパターンを含まない光を計測対象に照射し、当該光が照射された複数の画像に基づいて計測対象の傾斜の方向を計測するようにしてもよい。即ち、プロジェクタから計測対象に対して照射されるパターンを含まない光を本願発明の「照明光」とすることができる。このような場合には、プロジェクタを、位相シフト法による計測のためのパターン光の投影手段と、計測対象の傾斜方向計測のための照明手段とを兼ねる構成とすることができる。なお、これらにカラーハイライト画像を組み合わせて、傾斜の程度を併せて計測することも当然可能である。 Specifically, for example, a projector may irradiate a measurement target with light that does not include a pattern, and the direction of inclination of the measurement target may be measured based on a plurality of images irradiated with the light. That is, the light that does not include the pattern emitted from the projector to the measurement target can be regarded as the "illumination light" of the present invention. In such a case, the projector can be configured to serve as both a pattern light projection means for measurement by the phase shift method and an illumination means for measuring the tilt direction of the measurement target. Of course, it is also possible to combine these with a color highlight image and measure the degree of inclination as well.

また、上記の実施形態1においてはカラーハイライト画像に基づいて鏡面物体の三次元形状を、パターン投影画像に基づいて拡散物体の三次元形状をそれぞれ計測するようにしていたが、必ずしもこのようにする必要はなく、各画像に基づいて計測対象全体の形状を計測するためのプロファイルデータ2つを作成したうえで、これらのデータを合成するようにしてもよい。 Further, in the above-described first embodiment, the three-dimensional shape of the mirrored object is measured based on the color highlight image, and the three-dimensional shape of the diffused object is measured based on the pattern projection image. It is not necessary to do so, and two profile data for measuring the shape of the entire measurement target may be created based on each image, and then these data may be combined.

また、実施形態1においても、プロジェクタを備えない装置構成としてもよい。カラーハイライト方式のみで計測対象の三次元形状の計測を行うことで、装置構成を簡略化することができ、検査のための時間を短縮することができる。また、プロジェクタとカラーハイライト用の光源とは別に、さらに照明手段を設ける装置構成としてもよい。 Further, also in the first embodiment, the device configuration may be such that the projector is not provided. By measuring the three-dimensional shape of the measurement target only by the color highlighting method, the device configuration can be simplified and the inspection time can be shortened. Further, a device configuration may be configured in which a lighting means is further provided separately from the projector and the light source for color highlighting.

また、上述のように照明装置に用いる光源に用いる波長も、R、G、Bに限定されるわけではなく、任意の波長の光を採用することができる。また、表示装置に表示される画像も、上記実施形態では、照明光に合わせて、赤色(R)、緑色(G)、青色(B)、マゼンダ(M)、イエロー(Y)、シアン(C)で表示分けされるものであったが、これに限られるわけではない。例えば、カラーハイライト方式によらない計測装置にも本発明を適用することができるが、その場合には上記の色分けには意味はないため、異なる色、及び/又は模様による表示分けが行われてもよい。 Further, as described above, the wavelength used for the light source used in the lighting device is not limited to R, G, and B, and light of any wavelength can be adopted. Further, in the above embodiment, the image displayed on the display device also has red (R), green (G), blue (B), magenta (M), yellow (Y), and cyan (C) according to the illumination light. ), But it is not limited to this. For example, the present invention can be applied to a measuring device that does not use the color highlighting method, but in that case, since the above color coding is meaningless, display classification by different colors and / or patterns is performed. You may.

<付記>
本発明の一の態様は、計測対象(O)に対して照明光を照射する照明手段(91)と、前記計測対象を撮影する撮影手段(92)と、前記撮影手段によって撮影された画像から得られる前記照明光の反射光の波長の相違に基づいて、前記計測対象の三次元形状を計測する計測手段(93)と、を有する三次元形状計測装置において、前記撮影手段は、前記撮影手段の撮影方向又は前記照明光の照射方向の、前記計測対象に対する鉛直軸回りの角度が異なる複数の画像であって、前記計測対象の所定の部位における前記反射光の強度又は波長のいずれかを含む反射の態様が異なる、前記複数の画像を取得し、前記計測手段は、前記撮影手段が取得した前記複数の画像に基づいて、前記所定の部位の三次元形状を計測する、ことを特徴とする、三次元形状計測装置である。
<Additional notes>
One aspect of the present invention is from an illuminating means (91) that irradiates the measurement object (O) with illumination light, a photographing means (92) that photographs the measurement object, and an image captured by the photographing means. In a three-dimensional shape measuring device having a measuring means (93) for measuring the three-dimensional shape of the measurement target based on the difference in the wavelength of the reflected light of the obtained illumination light, the photographing means is the photographing means. A plurality of images having different angles around the vertical axis with respect to the measurement target in the photographing direction or the irradiation direction of the illumination light, and include either the intensity or the wavelength of the reflected light at a predetermined portion of the measurement target. The plurality of images having different modes of reflection are acquired, and the measuring means measures the three-dimensional shape of the predetermined portion based on the plurality of images acquired by the photographing means. , A three-dimensional shape measuring device.

また、本発明の他の一の態様は、計測対象に対して照明光を照射する、照射ステップ(S901,S903)と、前記照明光の照射方向又は撮影方向の、前記計測対象に対する鉛直軸回りの角度が異なる複数の画像であって、前記計測対象の所定の部位における前記照明光の反射光の強度又は波長のいずれかを含む反射の態様が異なる前記複数の画像を取得する撮影ステップ(S902,S904)と、前記撮影ステップにおいて取得した前記
複数の画像に基づいて、前記所定の部位の三次元形状を計測する計測ステップ(S907)と、を有する三次元形状の計測方法である。
In addition, another aspect of the present invention is an irradiation step (S901, S903) in which the measurement target is irradiated with illumination light, and a vertical axis of the illumination light irradiation direction or imaging direction with respect to the measurement target. A photographing step (S902) of acquiring a plurality of images having different angles of the above and having different modes of reflection including either the intensity or the wavelength of the reflected light of the illumination light at a predetermined portion of the measurement target. , S904), and a measurement step (S907) for measuring the three-dimensional shape of the predetermined portion based on the plurality of images acquired in the photographing step.

1、3・・・基板検査装置
9・・・三次元形状計測装置
10、30・・・ステージ
11、31・・・検査ユニット
110、310、92・・・カメラ
111、211、311、91・・・照明装置
12、32・・・制御装置
13、33、93・・・情報処理装置
14、34・・・表示装置
25、35・・・移動機構
K・・・基板
O・・・測定対象物
1, 3 ... Board inspection device 9 ... Three-dimensional shape measuring device 10, 30 ... Stage 11, 31 ... Inspection unit 110, 310, 92 ... Camera 111, 211, 311, 91 ...・ ・ Lighting device 12, 32 ・ ・ ・ Control device 13, 33, 93 ・ ・ ・ Information processing device 14, 34 ・ ・ ・ Display device 25, 35 ・ ・ ・ Movement mechanism K ・ ・ ・ Board O ・ ・ ・ Measurement target Stuff

Claims (21)

計測対象に対して照明光を照射する照明手段と、
前記計測対象を撮影する撮影手段と、
前記撮影手段によって撮影された画像から得られる前記照明光の反射光の波長の相違に基づいて、前記計測対象の三次元形状を計測する計測手段と、を有する三次元形状計測装置において、
前記撮影手段は、前記撮影手段の撮影方向又は前記照明光の照射方向の、前記計測対象に対する鉛直軸回りの角度が異なる複数の画像であって、前記計測対象の所定の部位における前記反射光の強度又は波長のいずれかを含む反射の態様が異なる、前記複数の画像を取得し、
前記計測手段は、前記撮影手段が取得した前記複数の画像に基づいて、前記所定の部位の三次元形状を計測する、
ことを特徴とする、三次元形状計測装置。
Lighting means that irradiates the measurement target with illumination light,
A shooting means for shooting the measurement target and
In a three-dimensional shape measuring device having a measuring means for measuring the three-dimensional shape of the measurement target based on the difference in wavelength of the reflected light of the illumination light obtained from the image taken by the photographing means.
The photographing means is a plurality of images having different angles around the vertical axis with respect to the measurement target in the shooting direction of the shooting means or the irradiation direction of the illumination light, and the reflected light at a predetermined portion of the measurement target. Obtaining the plurality of images having different modes of reflection, including either intensity or wavelength,
The measuring means measures the three-dimensional shape of the predetermined portion based on the plurality of images acquired by the photographing means.
A three-dimensional shape measuring device characterized by this.
前記所定の部位とは、前記計測対象において傾斜を含む部位であって、
前記計測手段は、前記反射光の前記反射の態様がそれぞれ異なる複数の画像を構成する各画素における所定の特徴量の各画像間の相違に基づいて、前記所定の部位の傾斜の方向を計測する、
ことを特徴とする、請求項1に記載の三次元形状計測装置。
The predetermined portion is a portion including an inclination in the measurement target, and is
The measuring means measures the direction of inclination of the predetermined portion based on the difference between each image of a predetermined feature amount in each pixel constituting a plurality of images having different modes of reflection of the reflected light. ,
The three-dimensional shape measuring device according to claim 1, wherein the three-dimensional shape measuring device is characterized in that.
前記撮影手段は、前記計測対象を中心とする一の円周上の複数の異なる位置から、前記計測対象を撮影することによって、前記撮影方向の前記計測対象に対する鉛直軸回りの角度が異なる複数の画像を取得する、
ことを特徴とする、請求項1又は2に記載の三次元形状計測装置。
By photographing the measurement object from a plurality of different positions on one circumference centered on the measurement object, the photographing means has a plurality of angles around the vertical axis in the photographing direction with respect to the measurement object. Get an image,
The three-dimensional shape measuring device according to claim 1 or 2, wherein the three-dimensional shape measuring device is characterized in that.
前記照明手段が、前記計測対象を中心とする一の円周上の複数の異なる位置から、前記計測対象に対して前記照明光を照射することによって、
前記撮影手段は、前記照明光の照射方向の前記計測対象に対する鉛直軸回りの角度が異なる複数の画像を取得する、
ことを特徴とする、請求項1又は2に記載の三次元形状計測装置。
By irradiating the measurement target with the illumination light from a plurality of different positions on one circumference centered on the measurement target, the lighting means irradiates the measurement target with the illumination light.
The photographing means acquires a plurality of images having different angles around the vertical axis with respect to the measurement target in the irradiation direction of the illumination light.
The three-dimensional shape measuring device according to claim 1 or 2, wherein the three-dimensional shape measuring device is characterized in that.
前記照明手段が、前記計測対象を中心とする円周方向に移動可能に配置されて、前記計測対象を中心とする一の円周上の複数の異なる位置から前記計測対象に対して照明光を照射することによって、
前記撮影手段は、前記照明光の照射方向の前記計測対象に対する鉛直軸回りの角度が異なる複数の画像を取得する、
ことを特徴とする、請求項4に記載の三次元形状計測装置。
The illuminating means is movably arranged in the circumferential direction around the measurement target, and illuminates the measurement target from a plurality of different positions on one circumference centered on the measurement target. By irradiating
The photographing means acquires a plurality of images having different angles around the vertical axis with respect to the measurement target in the irradiation direction of the illumination light.
The three-dimensional shape measuring device according to claim 4, wherein the three-dimensional shape measuring device is characterized in that.
前記照明手段は、前記計測対象を中心として円環状に配置され、前記円環を複数に分割して形成される複数の範囲毎に前記照明光の発光強度を調整可能に構成されており、
前記撮影手段は、前記複数の範囲のうち少なくとも一の範囲から前記計測対象に対して前記照明光が照射された際の画像と、その他の範囲から前記計測対象に対して前記照明光が照射された際の画像とを取得することにより、前記照明光の照射方向の前記計測対象に対する鉛直軸回りの角度が異なる複数の画像を取得する、
ことを特徴とする、請求項4に記載の三次元形状計測装置。
The lighting means is arranged in an annular shape around the measurement target, and is configured so that the emission intensity of the illumination light can be adjusted for each of a plurality of ranges formed by dividing the ring into a plurality of areas.
The photographing means irradiates the measurement target with the illumination light from at least one of the plurality of ranges, and the illumination light from the other ranges. By acquiring the image at the time, a plurality of images having different angles around the vertical axis with respect to the measurement target in the irradiation direction of the illumination light are acquired.
The three-dimensional shape measuring device according to claim 4, wherein the three-dimensional shape measuring device is characterized in that.
前記計測対象に対して、所定のパターン光を投影する投影手段をさらに有しており、
前記撮影手段は、前記パターン光が投影された前記計測対象のパターン投影画像をさらに取得し、
前記計測手段は、前記計測対象の所定の部位における前記反射光の前記反射の態様が異なる複数の画像及び前記パターン投影画像に基づいて、前記所定の部位の三次元形状を計測する、
ことを特徴とする、請求項1から6のいずれか一項に記載の三次元形状計測装置。
It further has a projection means for projecting a predetermined pattern light onto the measurement target.
The photographing means further acquires the pattern projection image of the measurement target on which the pattern light is projected, and further obtains the pattern projection image.
The measuring means measures the three-dimensional shape of the predetermined portion based on a plurality of images in which the mode of reflection of the reflected light at the predetermined portion of the measurement target is different and the pattern projection image.
The three-dimensional shape measuring device according to any one of claims 1 to 6, wherein the three-dimensional shape measuring device is characterized in that.
前記照明手段は、鉛直方向から水平方向の間における複数の異なる角度から、それぞれ異なる波長の照明光を前記計測対象に対して照射し、
前記計測手段は、前記撮影手段が取得した少なくとも一の画像における、前記異なる波長の照明光のそれぞれの反射光の前記反射の態様から、前記所定の部位の傾斜の程度を計測する、
ことを特徴とする、請求項2に記載の三次元形状計測装置。
The illuminating means irradiates the measurement target with illumination light having a different wavelength from a plurality of different angles between the vertical direction and the horizontal direction.
The measuring means measures the degree of inclination of the predetermined portion from the mode of reflection of the reflected light of the illumination light having different wavelengths in at least one image acquired by the photographing means.
The three-dimensional shape measuring device according to claim 2, wherein the three-dimensional shape measuring device is characterized in that.
前記撮影手段が取得した前記複数の画像から作成される合成画像を表示する画像表示手段をさらに有しており、
前記合成画像は、少なくとも前記所定の部位における前記傾斜の方向の違いを、異なる色及び/又は模様により表示分けする画像処理が施された画像である、
ことを特徴とする、請求項2に記載の三次元形状計測装置。
It further has an image display means for displaying a composite image created from the plurality of images acquired by the photographing means.
The composite image is an image that has undergone image processing that displays and separates the difference in the direction of inclination at least in the predetermined portion by different colors and / or patterns.
The three-dimensional shape measuring device according to claim 2, wherein the three-dimensional shape measuring device is characterized in that.
前記撮影手段が取得した前記複数の画像から作成される合成画像を表示する画像表示手段をさらに有しており、
前記合成画像は、前記所定の部位における前記傾斜の程度及び方向の違いを、異なる色及び/又は模様により表示分けする画像処理が施された画像である、
ことを特徴とする、請求項8に記載の三次元形状計測装置。
It further has an image display means for displaying a composite image created from the plurality of images acquired by the photographing means.
The composite image is an image that has undergone image processing to display and separate the difference in the degree and direction of the inclination in the predetermined portion by different colors and / or patterns.
The three-dimensional shape measuring device according to claim 8, wherein the three-dimensional shape measuring device is characterized in that.
前記合成画像は、合成の元となる各画像における前記計測対象の同一の箇所を示す画素の所定の特徴量の値を比較し、当該値が最も大きい画像から前記画素を選別して合成されたものである、
ことを特徴とする、請求項9又は10に記載の三次元形状計測装置。
The composite image was synthesized by comparing the values of predetermined feature amounts of pixels indicating the same location of the measurement target in each image that is the source of synthesis, and selecting the pixels from the image having the largest value. Is a thing,
The three-dimensional shape measuring device according to claim 9 or 10, wherein the three-dimensional shape measuring device is characterized in that.
計測対象に対して照明光を照射する照射ステップと、
前記照明光の照射方向又は撮影方向の、前記計測対象に対する鉛直軸回りの角度が異なる複数の画像であって、前記計測対象の所定の部位における前記照明光の反射光の強度又は波長のいずれかを含む反射の態様が異なる前記複数の画像を取得する撮影ステップと、
前記撮影ステップにおいて取得した前記複数の画像に基づいて、前記所定の部位の三次元形状を計測する計測ステップと、
を有する三次元形状計測方法。
An irradiation step that irradiates the measurement target with illumination light,
A plurality of images having different angles around the vertical axis with respect to the measurement target in the irradiation direction or the photographing direction of the illumination light, and either the intensity or the wavelength of the reflected light of the illumination light at a predetermined portion of the measurement target. A shooting step of acquiring the plurality of images having different modes of reflection including
A measurement step for measuring the three-dimensional shape of the predetermined portion based on the plurality of images acquired in the photographing step, and a measurement step.
Three-dimensional shape measurement method having.
前記所定の部位とは、前記計測対象において傾斜を含む部位であって、
前記計測ステップでは、前記反射光の前記反射の態様がそれぞれ異なる複数の画像を構成する各画素における所定の特徴量の各画像間の相違に基づいて、前記所定の部位の傾斜の方向を計測する、
ことを特徴とする、請求項12に記載の三次元形状計測方法。
The predetermined portion is a portion including an inclination in the measurement target, and is
In the measurement step, the direction of inclination of the predetermined portion is measured based on the difference between each image of a predetermined feature amount in each pixel constituting a plurality of images having different modes of reflection of the reflected light. ,
The three-dimensional shape measuring method according to claim 12, wherein the three-dimensional shape measuring method is characterized in that.
前記照射ステップにおいて、前記計測対象を中心とする一の円周上の複数の異なる位置から、前記計測対象に対して前記照明光を照射することによって、
前記撮影ステップにおいて、前記照明光の照射方向の前記計測対象に対する鉛直軸回りの角度が異なる複数の画像を取得する、
ことを特徴とする、請求項12又は13に記載の三次元形状計測方法。
In the irradiation step, by irradiating the measurement target with the illumination light from a plurality of different positions on one circumference centered on the measurement target, the measurement target is irradiated with the illumination light.
In the shooting step, a plurality of images having different angles around the vertical axis with respect to the measurement target in the irradiation direction of the illumination light are acquired.
The three-dimensional shape measuring method according to claim 12 or 13, wherein the three-dimensional shape measuring method is characterized in that.
前記撮影ステップにおいて、前記計測対象を中心とする一の円周上の複数の異なる位置
から前記計測対象を撮影することによって、前記撮影方向の前記計測対象に対する鉛直軸回りの角度が異なる複数の画像を取得する、
ことを特徴とする、請求項12又は13に記載の三次元形状計測方法。
In the shooting step, by shooting the measurement target from a plurality of different positions on one circumference centered on the measurement target, a plurality of images having different angles around the vertical axis with respect to the measurement target in the shooting direction. To get,
The three-dimensional shape measuring method according to claim 12 or 13, wherein the three-dimensional shape measuring method is characterized in that.
前記計測対象に対して、所定のパターン光を投影する投影ステップ、をさらに有しており、
前記撮影ステップでは、前記パターン光が投影された前記計測対象のパターン投影画像をさらに取得し、
前記計測ステップでは、前記計測対象の所定の部位における前記反射光の前記反射の態様が異なる複数の画像及び前記パターン投影画像に基づいて、前記所定の部位の三次元形状を計測する、
ことを特徴とする、請求項12から15のいずれか一項に記載の三次元形状計測方法。
It further has a projection step of projecting a predetermined pattern of light onto the measurement target.
In the shooting step, the pattern projection image of the measurement target on which the pattern light is projected is further acquired.
In the measurement step, the three-dimensional shape of the predetermined portion is measured based on a plurality of images in which the mode of reflection of the reflected light at the predetermined portion to be measured differs and the pattern projection image.
The three-dimensional shape measuring method according to any one of claims 12 to 15, characterized in that.
前記照射ステップでは、鉛直方向から水平方向の間における複数の異なる角度から、それぞれ異なる波長の照明光を前記計測対象に対して照射し、
前記計測ステップでは、前記撮影ステップにおいて取得した少なくとも一の画像における、前記異なる波長の照明光のそれぞれの反射光の前記反射の態様から、前記所定の部位の傾斜の程度を計測する、
ことを特徴とする、請求項13に記載の三次元形状計測方法。
In the irradiation step, the measurement target is irradiated with illumination light having a different wavelength from a plurality of different angles between the vertical direction and the horizontal direction.
In the measurement step, the degree of inclination of the predetermined portion is measured from the mode of reflection of the reflected light of the illumination light having different wavelengths in at least one image acquired in the photographing step.
The three-dimensional shape measuring method according to claim 13, wherein the three-dimensional shape measuring method is characterized in that.
前記撮影ステップにおいて取得した前記複数の画像を合成して作成される合成画像を表示する、合成画像表示ステップ、をさらに有しており、
前記合成画像は、少なくとも前記所定の部位における前記傾斜の方向の違いを、異なる色及び/又は模様により表示分けする画像処理が施された画像である、
ことを特徴とする、請求項13に記載の三次元形状計測方法。
It further includes a composite image display step of displaying a composite image created by synthesizing the plurality of images acquired in the shooting step.
The composite image is an image that has undergone image processing that displays and separates the difference in the direction of inclination at least in the predetermined portion by different colors and / or patterns.
The three-dimensional shape measuring method according to claim 13, wherein the three-dimensional shape measuring method is characterized in that.
前記撮影ステップにおいて取得した前記複数の画像を合成して作成される合成画像を表示する、合成画像表示ステップ、をさらに有しており、
前記合成画像は、前記所定の部位における前記傾斜の程度及び方向の違いを、異なる色及び/又は模様により表示分けする画像処理が施された画像である、
ことを特徴とする、請求項17に記載の三次元形状計測方法。
It further includes a composite image display step of displaying a composite image created by synthesizing the plurality of images acquired in the shooting step.
The composite image is an image that has undergone image processing to display and separate the difference in the degree and direction of the inclination in the predetermined portion by different colors and / or patterns.
The three-dimensional shape measuring method according to claim 17, wherein the three-dimensional shape measuring method is characterized in that.
前記合成画像は、合成の元となる各画像における前記計測対象の同一の箇所を示す画素の所定の特徴量の値を比較し、当該値が最も大きい画像から前記画素を選別して合成されたものである、
ことを特徴とする、請求項18又は19に記載の三次元形状計測方法。
The composite image was synthesized by comparing the values of predetermined feature amounts of pixels indicating the same location of the measurement target in each image that is the source of synthesis, and selecting the pixels from the image having the largest value. Is a thing,
The three-dimensional shape measuring method according to claim 18 or 19, wherein the three-dimensional shape measuring method is characterized in that.
請求項12から20のいずれか一項に記載の各ステップを、三次元形状計測装置に実行させるためのプログラム。 A program for causing a three-dimensional shape measuring device to execute each step according to any one of claims 12 to 20.
JP2020011900A 2020-01-28 2020-01-28 3D shape measurement device, 3D shape measurement method and program Active JP7424074B2 (en)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2020011900A JP7424074B2 (en) 2020-01-28 2020-01-28 3D shape measurement device, 3D shape measurement method and program
CN202080090516.3A CN114867984A (en) 2020-01-28 2020-12-15 Three-dimensional shape measurement device, three-dimensional shape measurement method, and program
DE112020006630.4T DE112020006630T5 (en) 2020-01-28 2020-12-15 DEVICE FOR MEASUREMENT OF THREE-DIMENSIONAL FORM, METHOD FOR MEASUREMENT OF THREE-DIMENSIONAL FORM AND PROGRAM
PCT/JP2020/046677 WO2021153056A1 (en) 2020-01-28 2020-12-15 Three-dimensional shape measuring device, three-dimensional shape measuring method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020011900A JP7424074B2 (en) 2020-01-28 2020-01-28 3D shape measurement device, 3D shape measurement method and program

Publications (2)

Publication Number Publication Date
JP2021117158A true JP2021117158A (en) 2021-08-10
JP7424074B2 JP7424074B2 (en) 2024-01-30

Family

ID=77079284

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020011900A Active JP7424074B2 (en) 2020-01-28 2020-01-28 3D shape measurement device, 3D shape measurement method and program

Country Status (4)

Country Link
JP (1) JP7424074B2 (en)
CN (1) CN114867984A (en)
DE (1) DE112020006630T5 (en)
WO (1) WO2021153056A1 (en)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001324450A (en) * 2000-03-06 2001-11-22 View Engineering Inc Method and system for illuminating object with focused light at varying angles of incidence and multi-color light source for use therein
JP2003172709A (en) * 2001-12-06 2003-06-20 Asia Electronics Inc Inspection device
US20050238237A1 (en) * 2004-04-23 2005-10-27 3D-Shape Gmbh Method and apparatus for determining the shape and the local surface normals of specular surfaces
JP2018081048A (en) * 2016-11-18 2018-05-24 オムロン株式会社 Three-dimensional shape measurement device
JP2018112479A (en) * 2017-01-12 2018-07-19 リコーエレメックス株式会社 Visual inspection system
JP2019120643A (en) * 2018-01-10 2019-07-22 オムロン株式会社 Image processing system

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3878033B2 (en) * 2002-02-28 2007-02-07 シーケーディ株式会社 3D measuring device
KR101190122B1 (en) * 2008-10-13 2012-10-11 주식회사 고영테크놀러지 Apparatus and method for measuring three dimension shape using multi-wavelength
JP5170154B2 (en) * 2010-04-26 2013-03-27 オムロン株式会社 Shape measuring apparatus and calibration method
JP2016008901A (en) * 2014-06-25 2016-01-18 コニカミノルタ株式会社 Shape measurement device
JP6303867B2 (en) 2014-06-27 2018-04-04 オムロン株式会社 Substrate inspection apparatus and control method thereof

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001324450A (en) * 2000-03-06 2001-11-22 View Engineering Inc Method and system for illuminating object with focused light at varying angles of incidence and multi-color light source for use therein
JP2003172709A (en) * 2001-12-06 2003-06-20 Asia Electronics Inc Inspection device
US20050238237A1 (en) * 2004-04-23 2005-10-27 3D-Shape Gmbh Method and apparatus for determining the shape and the local surface normals of specular surfaces
JP2018081048A (en) * 2016-11-18 2018-05-24 オムロン株式会社 Three-dimensional shape measurement device
JP2018112479A (en) * 2017-01-12 2018-07-19 リコーエレメックス株式会社 Visual inspection system
JP2019120643A (en) * 2018-01-10 2019-07-22 オムロン株式会社 Image processing system

Also Published As

Publication number Publication date
DE112020006630T5 (en) 2022-11-17
JP7424074B2 (en) 2024-01-30
CN114867984A (en) 2022-08-05
WO2021153056A1 (en) 2021-08-05

Similar Documents

Publication Publication Date Title
JP5170154B2 (en) Shape measuring apparatus and calibration method
JP6626335B2 (en) Structured light projector and three-dimensional scanner including such a projector
US10262431B2 (en) Three-dimensional measurement device
KR20160007361A (en) Image capturing method using projecting light source and image capturing device using the method
CN105372259B (en) Measurement apparatus, base board checking device and its control method, storage media
US10796428B2 (en) Inspection system and inspection method
JP6791631B2 (en) Image generation method and inspection equipment
JP5432864B2 (en) Inspection apparatus and inspection method
US8837809B2 (en) Method for detecting a bridge connecting failure
JP2019148438A (en) Image processing system and setting method
CN113483892B (en) Multispectral image measurement system and multispectral image measurement method
WO2021084773A1 (en) Image processing system, setting method, and program
CN112815846A (en) 2D and 3D composite high-precision vision device and measuring method
WO2021153056A1 (en) Three-dimensional shape measuring device, three-dimensional shape measuring method, and program
JP5867123B2 (en) Three-dimensional shape measuring apparatus and calibration method
WO2021153057A1 (en) Three-dimensional shape measurement device, three-dimensional shape measurement method, and program
KR101876391B1 (en) Apparatus for inspecting three dimension Using multi-channel image of single color light Moire
KR20170124509A (en) Inspection system and inspection method
WO2021053852A1 (en) Appearance inspection device, appearance inspection device calibration method, and program
JP2019161526A (en) Image processing system, image processing apparatus, and image processing program
CN114746716B (en) Shape restoration method and image measurement device
JP7247032B2 (en) inspection equipment
WO2012073981A1 (en) Visual inspection device and printed solder inspection device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20221107

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231003

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231201

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231219

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240101

R150 Certificate of patent or registration of utility model

Ref document number: 7424074

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150