JP2021117158A - Three-dimensional shape measuring device, three-dimensional shape measuring method, and program - Google Patents
Three-dimensional shape measuring device, three-dimensional shape measuring method, and program Download PDFInfo
- Publication number
- JP2021117158A JP2021117158A JP2020011900A JP2020011900A JP2021117158A JP 2021117158 A JP2021117158 A JP 2021117158A JP 2020011900 A JP2020011900 A JP 2020011900A JP 2020011900 A JP2020011900 A JP 2020011900A JP 2021117158 A JP2021117158 A JP 2021117158A
- Authority
- JP
- Japan
- Prior art keywords
- dimensional shape
- measurement target
- image
- shape measuring
- illumination light
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 73
- 238000005259 measurement Methods 0.000 claims abstract description 196
- 238000005286 illumination Methods 0.000 claims abstract description 91
- 239000002131 composite material Substances 0.000 claims description 50
- 239000003086 colorant Substances 0.000 claims description 14
- 230000001678 irradiating effect Effects 0.000 claims description 14
- 230000015572 biosynthetic process Effects 0.000 claims description 4
- 238000003786 synthesis reaction Methods 0.000 claims description 4
- 230000002194 synthesizing effect Effects 0.000 claims description 4
- 238000000691 measurement method Methods 0.000 claims description 2
- 238000007689 inspection Methods 0.000 description 55
- 239000000758 substrate Substances 0.000 description 51
- 229910000679 solder Inorganic materials 0.000 description 44
- 230000010365 information processing Effects 0.000 description 31
- 230000007246 mechanism Effects 0.000 description 22
- 230000008569 process Effects 0.000 description 18
- 230000008859 change Effects 0.000 description 8
- 230000006870 function Effects 0.000 description 8
- 230000010363 phase shift Effects 0.000 description 8
- 238000010586 diagram Methods 0.000 description 6
- 239000000284 extract Substances 0.000 description 5
- 230000004048 modification Effects 0.000 description 5
- 238000012986 modification Methods 0.000 description 5
- 238000003384 imaging method Methods 0.000 description 4
- 238000000605 extraction Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000002950 deficient Effects 0.000 description 2
- 238000009792 diffusion process Methods 0.000 description 2
- 238000009736 wetting Methods 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 230000007723 transport mechanism Effects 0.000 description 1
- 238000011282 treatment Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/24—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/24—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
- G01B11/25—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
- G01B11/2518—Projection by scanning of the object
- G01B11/2527—Projection by scanning of the object with phase change by in-plane movement of the patern
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/24—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
- G01B11/25—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
- G01B11/2531—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object using several gratings, projected with variable angle of incidence on the object, and one detection device
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Image Analysis (AREA)
Abstract
Description
本発明は、三次元形状の測定装置、三次元形状計測方法及びプログラムに関する。 The present invention relates to a three-dimensional shape measuring device, a three-dimensional shape measuring method and a program.
従来から、プリント基板に実装された部品のはんだ接合状態を検査する技術分野等において、いわゆるカラーハイライト方式による三次元形状の計測方法が知られている。カラーハイライト方式とは、複数の色(波長)の光を互いに異なる入射角で基板に照射し、はんだ表面にその法線方向に応じた色特徴(カメラから見て正反射方向にある光源の色)が現れるようにした状態で撮像を行うことにより、はんだ表面の三次元形状を二次元の色相情報として捉える方法である。 Conventionally, in the technical field of inspecting the solder joint state of parts mounted on a printed circuit board, a method of measuring a three-dimensional shape by a so-called color highlighting method has been known. The color highlight method irradiates the substrate with light of multiple colors (wavelengths) at different incident angles, and the color characteristics of the solder surface according to its normal direction (a light source in the normal reflection direction when viewed from the camera). This is a method of capturing the three-dimensional shape of the solder surface as two-dimensional hue information by performing imaging with the color) appearing.
例えば、特許文献1には、上記カラーハイライト方式による鏡面物体の三次元形状計測と、いわゆる位相シフト法による拡散物体の三次元形状計測を組み合わせた基板検査装置が開示されている。なお、位相シフト法とは、パターン光を物体表面に投影したときのパターンの歪みを解析することにより物体表面の三次元形状を復元する手法の一つである。
For example,
ところで上記のカラーハイライト方式による三次元形状の計測においては、計測対象の表面の傾斜がどの程度であるかについては、二次元の色相情報としてある程度の精度で計測可能であるが、当該傾斜の「方向」については、二次元では判別できないという問題がある。即ち、プリント基板の検査でいうと、はんだ表面の傾斜が、電極に対して積み上がっている(いわゆるぬれ上がっている)のか、或いは、電極に対して低くなっている(いわゆる不濡れの状態)のかが、二次元の色相情報からは精度良く判定することが困難となる。 By the way, in the measurement of the three-dimensional shape by the above color highlighting method, it is possible to measure the inclination of the surface of the measurement target with a certain degree of accuracy as two-dimensional hue information. There is a problem that the "direction" cannot be determined in two dimensions. That is, in the inspection of the printed circuit board, the inclination of the solder surface is either piled up with respect to the electrode (so-called wet state) or low with respect to the electrode (so-called non-wetting state). It is difficult to accurately determine whether or not the solder is from the two-dimensional hue information.
本発明は、上記のような実情に鑑みてなされたものであり、三次元形状計測において、計測対象に含まれる傾斜の方向を精度良く判別する技術を提供することを目的とする。 The present invention has been made in view of the above circumstances, and an object of the present invention is to provide a technique for accurately discriminating the direction of inclination included in a measurement target in three-dimensional shape measurement.
前記の目的を達成するために、本発明は以下の構成を採用する。 In order to achieve the above object, the present invention adopts the following configuration.
本発明に係る三次元形状計測装置は、計測対象に対して照明光を照射する照明手段と、前記計測対象を撮影する撮影手段と、前記撮影手段によって撮影された画像から得られる前記照明光の反射光の波長の相違に基づいて、前記計測対象の三次元形状を計測する計測手段と、を有する三次元形状計測装置において、前記撮影手段は、前記撮影手段の撮影方向又は前記照明光の照射方向の、前記計測対象に対する鉛直軸回りの角度が異なる複数の画像であって、前記計測対象の所定の部位における前記反射光の強度又は波長のいずれかを含む反射の態様が異なる、前記複数の画像を取得し、前記計測手段は、前記撮影手段が取得した前記複数の画像に基づいて、前記所定の部位の三次元形状を計測する、ことを特徴とする。 The three-dimensional shape measuring device according to the present invention includes an illumination means for irradiating a measurement target with illumination light, a photographing means for photographing the measurement object, and the illumination light obtained from an image photographed by the photographing means. In a three-dimensional shape measuring device having a measuring means for measuring the three-dimensional shape of the measurement target based on a difference in the wavelength of the reflected light, the photographing means is the photographing direction of the photographing means or the irradiation of the illumination light. A plurality of images having different directions and angles around the vertical axis with respect to the measurement target, and different modes of reflection including either the intensity or the wavelength of the reflected light at a predetermined portion of the measurement target. An image is acquired, and the measuring means measures the three-dimensional shape of the predetermined portion based on the plurality of images acquired by the photographing means.
なお、ここでいう「計測」には、計算により測定することも含む(以下同じ)。また、
ここでいう「照明手段」は、その手段の本来の用途に関わらず、計測対象を照明する光を照射可能な光源を広く含む。このような構成により、単一の画像から前記計測対象の三次元形状を計測することに比べて、精度良く計測対象の三次元形状を計測することができる。
The term "measurement" here includes measurement by calculation (the same applies hereinafter). also,
The "illumination means" here includes a wide range of light sources capable of irradiating light that illuminates the measurement target, regardless of the original use of the means. With such a configuration, it is possible to measure the three-dimensional shape of the measurement target with higher accuracy than measuring the three-dimensional shape of the measurement target from a single image.
また、前記所定の部位とは、前記計測対象において傾斜を含む部位であって、前記計測手段は、前記反射光の前記反射の態様がそれぞれ異なる複数の画像を構成する各画素における所定の特徴量の各画像間の相違に基づいて、前記所定の部位の傾斜の方向を計測するものであってもよい。 Further, the predetermined portion is a portion including an inclination in the measurement target, and the measurement means has a predetermined feature amount in each pixel constituting a plurality of images having different modes of reflection of the reflected light. The direction of inclination of the predetermined portion may be measured based on the difference between the respective images.
なお、ここでいう「傾斜」は、水平面に対して直線で定義される傾きだけでなく、曲線によって定義される広義の意味合いの傾きを含む意味である。また、当該傾斜を含んでなる斜面も、平面だけでなく曲面を含む広義の意味合いの斜面を含む意味に解する。以下、本明細書中においては同様の意味に解する。 The term "slope" here means not only the slope defined by a straight line with respect to the horizontal plane but also the slope in a broad sense defined by a curve. Further, the slope including the slope is also understood to include a slope in a broad sense including not only a flat surface but also a curved surface. Hereinafter, the same meaning will be used in the present specification.
このような構成であると、計測対象に含まれる傾斜の方向を計測することが可能になるため、当該傾斜部分の三次元形状を精度良く計測することができる。なお、所定の特徴量としては、各画素の輝度などを例示することができる。 With such a configuration, it is possible to measure the direction of the inclination included in the measurement target, so that the three-dimensional shape of the inclined portion can be measured with high accuracy. As the predetermined feature amount, the brightness of each pixel and the like can be exemplified.
また、前記撮影手段は、前記計測対象を中心とする一の円周上の複数の異なる位置から、前記計測対象を撮影することによって、前記撮影方向の前記計測対象に対する鉛直軸回りの角度が異なる複数の画像を取得するものであってもよい。このような構成であると、前記照明手段が前記計測対象の周囲を囲んで、前記計測対象全体に照明光が照射されている状態で、前記計測対象の所定の部位における前記反射光の反射の態様が異なる複数の画像を取得することができる。 Further, the photographing means takes a picture of the measurement target from a plurality of different positions on one circumference centered on the measurement target, so that the angle of the vertical axis in the shooting direction with respect to the measurement target is different. It may acquire a plurality of images. With such a configuration, the reflected light is reflected at a predetermined portion of the measurement target in a state where the lighting means surrounds the measurement target and the entire measurement target is irradiated with the illumination light. It is possible to acquire a plurality of images having different aspects.
また、前記円周上に複数の撮影手段を設け、前記照明光が照射されている計測対象を複数の方向から同時に撮影するようにすると、前記複数の画像を取得するための時間を短縮することができる。 Further, if a plurality of photographing means are provided on the circumference and the measurement target irradiated with the illumination light is simultaneously photographed from a plurality of directions, the time for acquiring the plurality of images can be shortened. Can be done.
また、前記照明手段が、前記計測対象を中心とする一の円周上の複数の異なる位置から、前記計測対象に対して前記照明光を照射することによって、前記撮影手段は、前記照明光の照射方向の前記計測対象に対する鉛直軸回りの角度が異なる複数の画像を取得するものであってもよい。このような構成によると、撮影手段を前記計測対象の直上に一つ設けるだけでも前記計測対象の所定の部位における前記反射光の反射の態様が異なる複数の画像を取得することができる。このため、撮影手段に係る構成を簡略化することができる。 Further, the illuminating means irradiates the measuring object with the illuminating light from a plurality of different positions on one circumference centered on the measuring object, so that the photographing means can obtain the illuminating light. A plurality of images having different angles around the vertical axis with respect to the measurement target in the irradiation direction may be acquired. According to such a configuration, it is possible to acquire a plurality of images having different modes of reflection of the reflected light at a predetermined portion of the measurement target even if only one photographing means is provided directly above the measurement target. Therefore, the configuration related to the photographing means can be simplified.
また、前記照明手段が、前記計測対象を中心とする円周方向に移動可能に配置されて、前記計測対象を中心とする一の円周上の複数の異なる位置から前記計測対象に対して照明光を照射することによって、前記撮影手段は、前記照明光の照射方向の前記計測対象に対する鉛直軸回りの角度が異なる複数の画像を取得するものであってもよい。 Further, the lighting means is arranged so as to be movable in the circumferential direction centered on the measurement target, and illuminates the measurement target from a plurality of different positions on one circumference centered on the measurement target. By irradiating the light, the photographing means may acquire a plurality of images having different angles around the vertical axis with respect to the measurement target in the irradiation direction of the illumination light.
このような構成によると、円周上の所望の位置から前記計測対象に前記照明光を照射させることができ、計測対象の所定の部位の向き及び形状に関わらず、三次元形状の計測のために最適な方向から照明光を照射することができる。 According to such a configuration, the measurement target can be irradiated with the illumination light from a desired position on the circumference, and the three-dimensional shape can be measured regardless of the orientation and shape of the predetermined portion of the measurement target. It is possible to irradiate the illumination light from the optimum direction.
また、前記照明手段は、前記計測対象を中心として円環状に配置され、前記円環を複数に分割して形成される複数の範囲毎に前記照明光の発光強度を調整可能に構成されており、前記撮影手段は、前記複数の範囲のうち少なくとも一の範囲から前記計測対象に対して前記照明光が照射された際の画像と、その他の範囲から前記計測対象に対して前記照明光
が照射された際の画像とを取得することにより、前記照明光の照射方向の前記計測対象に対する鉛直軸回りの角度が異なる複数の画像を取得するものであってもよい。
Further, the lighting means is arranged in an annular shape around the measurement target, and is configured so that the emission intensity of the illumination light can be adjusted for each of a plurality of ranges formed by dividing the ring into a plurality of areas. The photographing means irradiates the measurement target with an image when the measurement target is irradiated with the illumination light from at least one of the plurality of ranges, and irradiates the measurement target with the illumination light from the other ranges. A plurality of images having different angles around the vertical axis with respect to the measurement target in the irradiation direction of the illumination light may be acquired by acquiring the images at the time of acquisition.
なお、ここでいう「発光強度」には強度が0であること、即ち発光していないことも含まれ、発光強度の調整には発光のON/OFFも含まれる。このような構成であると、前記計測対象の周囲を覆うように前記照明手段を配置して領域を区切ればよいため、照明手段を移動可能に配置するよりも装置構成を簡略化することができる。 It should be noted that the "emission intensity" here includes the fact that the intensity is 0, that is, that it does not emit light, and the adjustment of the emission intensity also includes ON / OFF of light emission. With such a configuration, the lighting means may be arranged so as to cover the periphery of the measurement target to divide the area, so that the device configuration can be simplified as compared with arranging the lighting means so as to be movable. can.
また、前記三次元形状装置は、前記計測対象に対して、所定のパターン光を投影する投影手段をさらに有しており、前記撮影手段は、前記パターン光が投影された前記計測対象のパターン投影画像をさらに取得し、前記計測手段は、前記計測対象の所定の部位における前記反射光の前記反射の態様が異なる複数の画像及び前記パターン投影画像に基づいて、前記所定の部位の三次元形状を計測するものであってもよい。 Further, the three-dimensional shape device further has a projection means for projecting a predetermined pattern light onto the measurement target, and the photographing means projects the pattern of the measurement target on which the pattern light is projected. The image is further acquired, and the measuring means obtains a three-dimensional shape of the predetermined portion based on a plurality of images in which the mode of reflection of the reflected light at the predetermined portion of the measurement target is different and the pattern projection image. It may be the one to be measured.
このような構成であると、前記所定の部位に鏡面構造ではない構造が存在する場合であっても、位相シフト法により当該構造の三次元形状を計測することができる。また、前記複数の画像に基づく三次元形状の計測と組み合わせることにより、計測の精度を向上させることができる。 With such a configuration, even when a structure other than the mirror surface structure exists in the predetermined portion, the three-dimensional shape of the structure can be measured by the phase shift method. Further, the accuracy of the measurement can be improved by combining with the measurement of the three-dimensional shape based on the plurality of images.
また、前記照明手段は、鉛直方向から水平方向の間における複数の異なる角度から、それぞれ異なる波長の照明光を前記計測対象に対して照射し、前記計測手段は、前記撮影手段が取得した少なくとも一の画像における、前記異なる波長の照明光のそれぞれの反射光の前記反射の態様から、前記所定の部位の傾斜の程度を計測する、ものであってもよい。このような構成であると、いわゆるカラーハイライト方式によって前記所定の部位における傾斜の程度を計測することが可能になるため、傾斜の程度(有無を含む)と傾斜の方向の計測により、精度の高い三次元計測を行ことができる。 Further, the illuminating means irradiates the measurement target with illumination light having a different wavelength from a plurality of different angles between the vertical direction and the horizontal direction, and the measuring means is at least one acquired by the photographing means. The degree of inclination of the predetermined portion may be measured from the mode of reflection of the reflected light of the illumination light having different wavelengths in the image. With such a configuration, the degree of inclination at the predetermined portion can be measured by the so-called color highlighting method. Therefore, the degree of inclination (including the presence or absence) and the direction of inclination can be measured to obtain accuracy. High 3D measurement can be performed.
また、前記三次元形状計測装置は、前記撮影手段が取得した前記複数の画像から作成される合成画像を表示する画像表示手段をさらに有しており、前記合成画像は少なくとも前記所定の部位における前記傾斜の方向の違いを、異なる色及び/又は模様により表示分けする画像処理が施された画像であってもよい。また、前記合成画像は、前記所定の部位における前記傾斜の程度及び方向の違いを、異なる色及び/又は模様により表示分けする画像処理が施された画像であってもよい。 Further, the three-dimensional shape measuring device further includes an image display means for displaying a composite image created from the plurality of images acquired by the photographing means, and the composite image is the said at least in the predetermined portion. The image may be an image processed to display and separate the difference in the inclination direction according to different colors and / or patterns. In addition, the composite image may be an image that has undergone image processing to display and separate the difference in the degree and direction of the inclination in the predetermined portion according to different colors and / or patterns.
従来から、例えばカラーハイライト方式を用いた三次元形状計測装置において、その照明光の反射の態様を画像として表示させる技術が知られており、これによってユーザーは計測対象の傾斜の程度の違いを、視覚的に認識することが可能となっている。しかしながら、当該技術によっても、計測対象の傾斜の方向は識別できないものであったため、例えば当該画像に基づいて計測装置のティーチング、検査基準の設定などを行う際には、安全よりの(即ち、厳しい)パラメータ設定が行われていた。 Conventionally, for example, in a three-dimensional shape measuring device using a color highlighting method, a technique for displaying the reflection mode of the illumination light as an image has been known, and the user can change the degree of inclination of the measurement target by this. , It is possible to visually recognize. However, even with this technology, the direction of inclination of the measurement target could not be identified. Therefore, for example, when teaching a measuring device or setting an inspection standard based on the image, it is safer (that is, stricter). ) Parameters were set.
一方、上記したような画像表示手段を有する三次元形状計測装置の構成によると、ユーザーは画像を参照することによって、前記計測対象における傾斜の方向を視覚的に識別することが可能になる。即ち、傾斜を有する箇所について、より多くの要素で識別することが可能になり、当該識別された要素ごとにパラメータを設定することが可能になる。これにより、三次元形状計測装置の設定(例えば検査基準)をより高い精度で調整することも可能になる。 On the other hand, according to the configuration of the three-dimensional shape measuring device having the image display means as described above, the user can visually identify the direction of inclination in the measurement target by referring to the image. That is, it becomes possible to identify a portion having an inclination by more elements, and it is possible to set a parameter for each of the identified elements. This also makes it possible to adjust the settings of the three-dimensional shape measuring device (for example, inspection standards) with higher accuracy.
また、前記合成画像は、合成の元となる各画像における前記計測対象の同一の箇所を示す画素の所定の特徴量の値を比較し、当該値が最も大きい画像から前記画素を選別して合
成されたものであってもよい。
In addition, the composite image is synthesized by comparing the values of predetermined feature amounts of pixels indicating the same location of the measurement target in each image that is the source of synthesis, and selecting the pixels from the image having the largest value. It may be the one that has been done.
また、本発明に係る三次元形状の計測方法は、計測対象に対して照明光を照射する、照射ステップと、前記照明光の照射方向又は撮影方向の、前記計測対象に対する鉛直軸回りの角度が異なる複数の画像であって、前記計測対象の所定の部位における前記照明光の反射光の強度又は波長のいずれかを含む反射の態様が異なる前記複数の画像を取得する撮影ステップと、前記撮影ステップにおいて取得した前記複数の画像に基づいて、前記所定の部位の三次元形状を計測する計測ステップと、を有する。 Further, in the three-dimensional shape measuring method according to the present invention, the irradiation step of irradiating the measurement target with illumination light and the angle of the irradiation direction or imaging direction of the illumination light around the vertical axis with respect to the measurement target are set. A photographing step of acquiring a plurality of different images having different modes of reflection including either the intensity or the wavelength of the reflected light of the illumination light at a predetermined portion to be measured, and the photographing step. It has a measurement step of measuring the three-dimensional shape of the predetermined portion based on the plurality of images acquired in the above.
また、前記所定の部位とは、前記計測対象において傾斜を含む部位であって、前記計測ステップでは、前記反射光の前記反射の態様がそれぞれ異なる複数の画像を構成する各画素における所定の特徴量の差に基づいて、前記所定の部位の傾斜の方向を計測するものであってもよい。 Further, the predetermined portion is a portion including an inclination in the measurement target, and in the measurement step, a predetermined feature amount in each pixel constituting a plurality of images having different modes of reflection of the reflected light. The direction of inclination of the predetermined portion may be measured based on the difference between the two.
また、前記照射ステップにおいて、前記計測対象を中心とする一の円周上の複数の異なる位置から、前記計測対象に対して前記照明光を照射することによって、前記撮影ステップにおいて、前記反射光の照射方向の前記計測対象に対する鉛直軸回りの角度が異なる複数の画像を取得するようにしてもよい。 Further, in the irradiation step, by irradiating the measurement target with the illumination light from a plurality of different positions on one circumference centered on the measurement target, the reflected light is transmitted in the photographing step. A plurality of images having different angles around the vertical axis with respect to the measurement target in the irradiation direction may be acquired.
また、前記撮影ステップにおいて、前記計測対象を中心とする一の円周上の複数の異なる位置から前記計測対象を撮影することによって、前記撮影方向の前記計測対象に対する鉛直軸回りの角度が異なる複数の画像を取得するようにしてもよい。 Further, in the photographing step, by photographing the measurement target from a plurality of different positions on one circumference centered on the measurement target, a plurality of angles around the vertical axis in the shooting direction with respect to the measurement target are different. You may try to acquire the image of.
また、前記計測方法は前記計測対象に対して、所定のパターン光を投影する投影ステップ、をさらに有しており、前記撮影ステップでは、前記パターン光が投影された前記計測対象のパターン投影画像をさらに取得し、前記計測ステップでは、前記計測対象の所定の部位における前記反射光の前記反射の態様が異なる複数の画像及び前記パターン投影画像に基づいて、前記所定の部位の三次元形状を計測するようにしてもよい。 Further, the measurement method further includes a projection step of projecting a predetermined pattern light onto the measurement target, and in the shooting step, the pattern projection image of the measurement target on which the pattern light is projected is displayed. Further acquired, in the measurement step, the three-dimensional shape of the predetermined portion is measured based on a plurality of images in which the mode of reflection of the reflected light at the predetermined portion of the measurement target is different and the pattern projection image. You may do so.
また、前記照明ステップでは、鉛直方向から水平方向の間における複数の異なる角度から、それぞれ異なる波長の照明光を前記計測対象に対して照射し、前記計測ステップでは、前記撮影ステップにおいて取得した少なくとも一の画像における、前記異なる波長の照明光のそれぞれの反射光の前記反射の態様から、前記所定の部位の傾斜の程度を計測する、ものであってもよい。 Further, in the illumination step, illumination light having a different wavelength is irradiated to the measurement target from a plurality of different angles between the vertical direction and the horizontal direction, and in the measurement step, at least one acquired in the photographing step is applied. The degree of inclination of the predetermined portion may be measured from the mode of reflection of the reflected light of the illumination light having different wavelengths in the image.
前記撮影ステップにおいて取得した前記複数の画像を合成して作成される合成画像を表示する、合成画像表示ステップ、をさらに有しており、前記合成画像は、少なくとも前記所定の部位における前記傾斜の方向の違いを、異なる色及び/又は模様により表示分けする画像処理が施された画像であってもよい。また、前記合成画像は、前記所定の部位における前記傾斜の程度及び方向の違いを、異なる色及び/又は模様により表示分けする画像処理が施された画像であってもよい。また、前記合成画像は、合成の元となる各画像における前記計測対象の同一の箇所を示す画素の所定の特徴量の値を比較し、当該値が最も大きい画像から前記画素を選別して合成されたものであってもよい。 It further includes a composite image display step of displaying a composite image created by synthesizing the plurality of images acquired in the shooting step, and the composite image is in the direction of the inclination at least in the predetermined portion. The image may be an image that has undergone image processing to display and separate the differences according to different colors and / or patterns. In addition, the composite image may be an image that has undergone image processing to display and separate the difference in the degree and direction of the inclination in the predetermined portion according to different colors and / or patterns. In addition, the composite image is synthesized by comparing the values of predetermined feature amounts of pixels indicating the same location of the measurement target in each image that is the source of synthesis, and selecting the pixels from the image having the largest value. It may be the one that has been done.
また、本発明は、上記の方法を三次元形状計測装置に実行させるためのプログラム、そのようなプログラムを非一時的に記録したコンピュータ読取可能な記録媒体として捉えることもできる。 Further, the present invention can be regarded as a program for causing the three-dimensional shape measuring device to execute the above method, and as a computer-readable recording medium in which such a program is recorded non-temporarily.
また、上記構成及び処理の各々は技術的な矛盾が生じない限り互いに組み合わせて本発明を構成することができる。 Further, each of the above configurations and treatments can be combined with each other to construct the present invention as long as no technical contradiction occurs.
本発明によれば、三次元形状計測において、計測対象に含まれる傾斜の方向を精度良く判別する技術を提供することができる。 According to the present invention, it is possible to provide a technique for accurately discriminating the direction of inclination included in a measurement target in three-dimensional shape measurement.
以下、図面を参照して、本発明の実施例について説明する。 Hereinafter, examples of the present invention will be described with reference to the drawings.
<適用例>
(適用例の構成)
本発明は例えば、図1に示すような三次元形状計測装置に適用することができる。図1は本適用例に係る三次元形状計測装置9の概略構成を概略模式図である。三次元形状計測装置9は、計測対象Oの三次元形状を測定する装置であり、図1に示すように主な構成として照明手段としての照明装置91、撮影手段としてのカメラ92、計測手段としての情報処理装置93(例えばコンピュータ)、を有している。
<Application example>
(Configuration of application example)
The present invention can be applied to, for example, a three-dimensional shape measuring device as shown in FIG. FIG. 1 is a schematic schematic diagram of a schematic configuration of a three-dimensional shape measuring device 9 according to this application example. The three-dimensional shape measuring device 9 is a device for measuring the three-dimensional shape of the measurement target O, and as shown in FIG. 1, the main configuration is a
照明装置91は、計測対象に対して複数の異なる波長の光を照射可能に構成されており、本適用例においては赤色光源911R、緑色光源911G、青色光源911Bの3つの異なる光源を備えている。赤色光源911R、緑色光源911G、青色光源911Bはそれぞれ異なる高さ(図中のZ軸方向)に配置されており、これによって計測対象Oに対する光の入射角がそれぞれ異なるようになっている。なお、以下では照明装置91から照射される各光源からの光をまとめてRGB照明光ともいう。照明装置91は、計測対象Oに対して、図中Z軸回りの異なる位置からRGB照明光が照射されるように構成される。
The
カメラ92は、RGB照明光が照射された状態の計測対象Oを撮影し、デジタル画像を出力する撮影手段である。なお、以下では、撮影手段によって撮影された画像を観測画像
とも表記する。カメラ92は例えば、光学系とイメージセンサを有して構成される。
The
情報処理装置93は、照明装置91、カメラ92及び搬送機構の制御、カメラ92から取り込まれた画像に対する処理、三次元形状計測などの機能を有しており、本発明における計測手段に該当する。情報処理装置93は、CPU(Central Processing Unit)、R
AM(Random Access Memory)、不揮発性の記憶装置(例えば、ハードディスクドライブ、フラッシュメモリなど)、入力装置(例えば、キーボード、マウス、タッチパネルなど)、表示装置(例えば、液晶ディスプレイなど)を備えるコンピュータにより構成することができる。
The
Consists of a computer equipped with an AM (Random Access Memory), a non-volatile storage device (eg, hard disk drive, flash memory, etc.), an input device (eg, keyboard, mouse, touch panel, etc.), and a display device (eg, liquid crystal display, etc.) can do.
なお、照明装置91及びカメラ92の構成は、計測対象Oにおいて傾斜を有する部位OPでのRGB照明光の反射の態様が異なる複数の画像をカメラ92で撮影できるようになっていれば、自由に構成することができる。例えば、カメラ92を計測対象Oの直上に配置し、照明装置91を、計測対象Oを中心した図中Z軸回りの環状に配置した上で複数の領域に分割し、領域毎に各光源の発光のON/OFFを調整可能にしてもよい。
The configuration of the
このようにして、一の領域からRGB照明光を照射している際には他の領域の光源の発光をOFF(又は発光強度を弱く)した状態で計測対象Oをカメラ92で撮影し、発光する領域を切り替えて更に撮影を行えば、計測対象Oにおいて傾斜を有する部位OPでのRGB照明光の反射の態様が異なる複数の画像を撮影することができる。
In this way, when the RGB illumination light is emitted from one region, the measurement target O is photographed by the
また、照明装置91を環状とせずに、移動機構を設けて図中Z軸回りの円周方向に移動可能としておくこともできる。この際には、所望の位置に照明装置91を移動させて計測対象OにRGB照明光を照射し、それぞれの位置でカメラ92による撮影を行うことで、計測対象Oにおいて傾斜を有する部位OPでのRGB照明光の反射の態様が異なる複数の画像を撮影することができる。
Further, instead of making the
また、カメラ92を計測対象Oの直上に配置せずに、計測対象Oの中心に向けて傾斜を付けて配置し、移動機構を設けて図中Z軸回りの円周方向に移動可能としておくこともできる。また、移動機構を設けずに図中Z軸回りの円周方向の異なる位置に、カメラ92を複数配置するのであってもよい。
Further, the
以上のような構成を有する三次元形状計測装置9において計測対象Oの三次元形状の測定を行う際には、照明装置91からRGB照明光を照射された状態の計測対象Oの画像をカメラ92によって複数撮影し、撮影された画像を情報処理装置93がカラーハイライト方式などの方法により画像処理することで、計測対象Oの三次元形状を計測する。
When the three-dimensional shape measuring device 9 having the above configuration measures the three-dimensional shape of the measurement target O, the
(制御装置の機能)
続いて、情報処理装置93の三次元形状計測に関わる機能を説明する。情報処理装置93は、三次元形状計測に関わる機能モジュールとして、画像取得部931、特徴量抽出部932、特徴量比較部933、合成データ作成部934、三次元形状計測部935、を有している。
(Function of control device)
Subsequently, the functions related to the three-dimensional shape measurement of the
画像取得部931はカメラ92から三次元形状計測に用いる複数の観測画像を取り込む機能であり、例えば、計測対象Oに照射されるRGB照明光の向きが、計測対象Oを中心と円周上で180度異なる態様の二枚の画像を取得する。本適用例では一方の観測画像を観測画像a、他方の画像を観測画像bという。
The
特徴量抽出部932は取得された各観測画像から、当該観測画像の各画素が有する特徴量(例えば輝度値)を抽出する。本適用例では、観測画像aから抽出される特徴量データ
を特徴量データa、観測画像bから抽出される特徴量データを特徴量データbとして説明する。
The feature
特徴量比較部933は、特徴量抽出部932によって抽出された特徴量データaと特徴量データbとを比較する。より具体的には、各観測画像において計測対象Oの同一の箇所を表す画素同士の特徴量の値を比較し、その値が大きい方の画素は観測画像aと観測画像bのいずれの画像の画素かを特定する。ここで、特徴量が輝度であった場合、より明るい、即ちより多くの光がカメラ92に入光した方の画像が特定されることになる。そして、計測対象Oにおいて傾斜を有する箇所がある場合には、当該傾斜に対向する方向からRGB照明光が照射されている際の画像の画素の方がより明るくなるため、ここから当該傾斜の向きを特定することが可能になる。
The feature
合成データ作成部934は、観測画像aと観測画像bから、三次元形状計測用の合成データを作成する。具体的には、観測画像aと観測画像bから、特徴量比較部933によって特定された特徴量の値の大きい方の画素同士を、いずれの画像の画素であるかの情報と紐付けて合成し、三次元形状のプロファイルデータを作成する。これにより、計測対象Oにおいて傾斜を有する箇所の向きが特定された三次元形状計測用のプロファイルデータを得る事ができる。
The composite
三次元形状計測部935は、合成データ作成部934によって作成された合成データに基づいて計測対象Oの三次元形状を計測する。
The three-dimensional
(三次元形状計測処理の流れ)
次に、図2を参照して、本適用例における三次元形状計測の手順について説明する。まず、情報処理装置93は照明装置91を制御し、計測対象Oを中心とする円周上の第一の方向から、計測対象Oに対してRGB照明光を照射する(ステップS901)。次に、情報処理装置93は、カメラ92を制御して、第一の方向からRGB照明光が照射されている状態の計測対象Oを撮影し、第1画像を取得する(ステップS902)。
(Flow of 3D shape measurement processing)
Next, the procedure of three-dimensional shape measurement in this application example will be described with reference to FIG. First, the
次に、情報処理装置93は照明装置91を制御し、前記第一の方向と計測対象Oを挟んで対向する第二の方向から、計測対象Oに対してRGB照明光を照射する(ステップS903)。次に、情報処理装置93は、カメラ92を制御して、第二の方向からRGB照明光が照射されている状態の計測対象Oを撮影し、第2画像を取得する(ステップS904)。
Next, the
次に、情報処理装置93は、取得した第1画像及び、第2画像から、各画像の画素が有する特徴量を抽出し(ステップS905)、当該抽出した特徴量を比較してより大きな特徴量を有する画素を用いて三次元形状計測用の合成データを作成する(S906)。そして、作成した合成データに基づいて、計測対象Oの三次元形状を計測し(ステップS907)、一連の処理を終了する。なお、計測結果を図示しない表示装置に表示するようにしてもよい。
Next, the
以上のような、本適用例に係る三次元形状計測装置9の構成により、計測対象Oにおいて傾斜を有する部位OPがあった場合に、当該傾斜の程度に加えて、傾斜の方向特定した三次元形状プロファイルデータに基づいて、高精度な三次元形状の計測を行うことが可能になる。 With the configuration of the three-dimensional shape measuring device 9 according to the present application example as described above, when there is a portion OP having an inclination in the measurement target O, in addition to the degree of the inclination, the three-dimensional shape in which the direction of the inclination is specified. Based on the shape profile data, it becomes possible to measure a three-dimensional shape with high accuracy.
<実施形態1>
次に、本発明を実施するための形態の他の例である基板検査装置1について説明する。ただし、この実施形態に記載されている構成部品の寸法、材質、形状、その相対配置など
は、特に記載がない限りは、この発明の範囲をそれらのみに限定する趣旨のものではない。
<
Next, the
(基板検査装置のハードウェア構成)
図3を参照して、本発明の実施形態に係る基板検査装置の全体構成について説明する。図3は基板検査装置のハードウェア構成を示す模式図である。この基板検査装置1は、表面実装ラインにおける基板外観検査(例えば、リフロー後のはんだ接合状態の検査など)に利用される。
(Hardware configuration of board inspection equipment)
The overall configuration of the substrate inspection apparatus according to the embodiment of the present invention will be described with reference to FIG. FIG. 3 is a schematic view showing the hardware configuration of the substrate inspection device. This
基板検査装置1は、主な構成として、ステージ10、計測ユニット11、制御装置12、情報処理装置13、表示装置14を備える。計測ユニット11は、カメラ110、照明装置111、パターン投影装置(プロジェクタ)112を有している。
The
ステージ10は、基板Kを保持し、検査対象となる部品KBやはんだKHをカメラ110の計測位置に位置合わせするための機構である。図3に示すようにステージ10に平行にX軸とY軸をとり、ステージ10と垂直にZ軸をとった場合、ステージ10は少なくともX方向とY方向の2軸の並進が可能である。カメラ110は、光軸がZ軸と平行になるように配置されており、ステージ10上の基板Kを鉛直上方から撮像する。カメラ110で撮像された画像データは情報処理装置13に取り込まれる。
The
照明装置111(111R,111G,111B)は、基板Kに対し異なる色(波長)の照明光を照射する照明手段である。図3は照明装置111のXZ断面を模式的に示したものであり、実際には、同じ色の光を全方位(Z軸回りの全方向)から照明可能なように照明装置111は円環状又はドーム形状を呈している。プロジェクタ112は、基板Kに対し所定のパターンをもつパターン光を投影するパターン投影手段である。プロジェクタ112は、照明装置111の中腹に設けられた開口を通してパターン光を投射する。プロジェクタ112の数は一つでもよいが複数のプロジェクタ112を設けてもよい。本実施形態では、異なる方位(対角の位置)に2つのプロジェクタ112を配置している。照明装置111とプロジェクタ112はいずれもカメラ110で基板Kを撮影するときに用いられる照明系であるが、照明装置111ははんだなどの鏡面物体の表面形状を計測する目的で用いられ、プロジェクタ112は部品などの拡散物体の表面形状を計測する目的で用いられる。
The illumination device 111 (111R, 111G, 111B) is an illumination means for irradiating the substrate K with illumination light of a different color (wavelength). FIG. 3 schematically shows an XZ cross section of the illuminating
制御装置12は、基板検査装置1の動作を制御する制御手段であり、ステージ10の移動制御、照明装置111の点灯及び調光制御、プロジェクタ112の点灯制御やパターン変更、カメラ110の撮像制御などを担っている。
The
情報処理装置13は、カメラ110から取り込まれた画像データを用いて、部品KBやはんだKHに関する各種の計測値を取得したり、部品KBのはんだ接合の状態を検査する機能を有する装置である。表示装置14は、情報処理装置13で得られた計測値や検査結果を表示する装置である。情報処理装置13は、例えば、CPU、RAM、不揮発性の記憶装置、入力装置を有する汎用のコンピュータにより構成することができる。なお、図3では、制御装置12と情報処理装置13と表示装置14を別のブロックで示したが、これらは別体の装置で構成してもよいし、単一の装置で構成してもよい。
The
(機能構成)
図4は、情報処理装置13が提供する検査処理に関わる機能モジュールの構成を示すブロック図である。これらの機能モジュールは、情報処理装置13のCPUが補助記憶装置に格納されたプログラムを読み込み実行することにより実現されるものである。ただし、全部又は一部の機能をASICやFPGAなどの回路で構成してもよい。
(Functional configuration)
FIG. 4 is a block diagram showing a configuration of a functional module related to inspection processing provided by the
画像取得部131は、カメラ110から画像データを取り込む機能モジュールである。はんだ形状計測部132は、二次元の画像データからはんだなどの鏡面物体部分の三次元形状を復元する機能モジュールであり、部品形状計測部133は、二次元の画像データから部品などの拡散物体部分の三次元形状を復元する機能モジュールである。各々の復元処理で用いる画像データ及び復元アルゴリズムについては後述する。
The
検査部134は、はんだ形状計測部132と部品形状計測部133で得られた三次元形状データを基に、はんだKHや部品KBの形状に関わる各種指標を計測し、これらの計測値を用いてはんだ接合の状態を検査する機能モジュールである。検査プログラム記憶部135は、検査部134における検査の項目や条件などを定義した検査プログラムを格納する機能モジュールである。検査プログラムには、例えば、検査対象のランドの位置及びサイズ、部品のサイズ、計測する指標の種類、指標ごとの判定基準値(良品と不良品を判定するための閾値や値域)などが定義されている。出力処理部136は、検査部134で得られた計測値や検査結果、部品KBやはんだKHの三次元形状などを表示装置14などへ外部出力する機能モジュールである。
The
以下、はんだKH(鏡面物体)の三次元形状の復元方法と、部品KB(拡散物体)の三次元形状の復元方法をそれぞれ説明した後、情報処理装置13の検査処理の流れについて説明する。
Hereinafter, a method for restoring the three-dimensional shape of the solder KH (mirror object) and a method for restoring the three-dimensional shape of the component KB (diffusing object) will be described, and then the flow of the inspection process of the
(はんだの三次元形状計測)
はんだKHの三次元形状の計測には、いわゆるカラーハイライト方式で得られる画像を利用する。カラーハイライト方式とは、複数の色(即ち、波長)の光を互いに異なる入射角で基板に照射し、はんだ表面にその法線方向に応じた色特徴(即ち、カメラから見て正反射方向にある光源の色)が現れるようにした状態で撮影を行うことにより、はんだ表面の三次元形状を二次元の色相情報として捉える方法である。画像の中から、R、G、Bの光源色が現れている領域のみを抽出して、R、G、Bの各領域の形状、幅、順番に基づいて、はんだ三次元形状を復元することができる。なお、三次元形状の復元には公知の手法を用いることができるため、ここでは詳しい説明を省略する。
(Three-dimensional shape measurement of solder)
An image obtained by the so-called color highlighting method is used to measure the three-dimensional shape of the solder KH. The color highlighting method irradiates a substrate with light of a plurality of colors (that is, wavelengths) at different incident angles, and causes the solder surface to have color characteristics according to its normal direction (that is, a normal reflection direction when viewed from a camera). This is a method of capturing the three-dimensional shape of the solder surface as two-dimensional hue information by taking a picture with the color of the light source in the above appearing. Extracting only the region where the light source colors of R, G, and B appear from the image, and restoring the three-dimensional solder shape based on the shape, width, and order of each region of R, G, and B. Can be done. Since a known method can be used for the restoration of the three-dimensional shape, detailed description thereof will be omitted here.
まず、図5を参照して、カラーハイライト方式に用いる照明装置111の構成を説明する。図5は、照明装置111の各光源111R、111G、111Bの配置関係を模式的に示す平面概略図である。照明装置111は、赤色光源111R、緑色光源111G、青色光源111Bの3つの円環状の光源を、カメラ110の光軸を中心として同心円状に配置した構造を有している。各光源111R、111G、111Bは、赤色光、緑色光、青色光の順に基板Kに対する入射角が大きくなるよう、仰角及び向きが調整されている。このような照明装置111は、例えば、ドーム形状の拡散板の外側にR、G、B各色のLEDを円環状に配列することで形成できる。
First, the configuration of the
また、図5に示すように、照明装置111は四等分され、第1照明領域111a、第2照明領域111b、第3照明領域111c、第4照明領域111dの4つの領域に分かれている。そして赤色光源111R、緑色光源111G、青色光源111Bは、それぞれの領域ごとに発光の強度(ON/OFFを含む、以下同じ)が調節可能となっている。このように照明装置111が4つの領域に分かれていることによって、発光させる領域の組み合わせにより8つの方向から基板Kに照明光を照射することが可能になる。具体的には、4つの領域のうち、1の領域のみを点灯する場合の4方向と、隣接する2つの領域を点灯する場合の4方向である。なお、点灯する領域の組み合わせ数については、全点灯の場合を含めて13となる。
Further, as shown in FIG. 5, the illuminating
照明装置111を点灯した状態で、基板Kをカメラ110で撮影をすると、鏡面物体であるはんだKHの部分に、その法線方向(傾斜角)に応じた色特徴が現れる。例えば、部品電極から離れるにつれてはんだKHの傾斜が緩やかになっていくような場合には、はんだKHの領域にB→G→Rという色相の変化が現れる。R、G、B各色の領域の形状、幅、現れる順番などは、はんだKHの表面形状に依存して変化する。
When the substrate K is photographed by the
図6を参照して、本実施形態に係る照明装置111を点灯した状態で、カメラ110で基板を撮影した際に取得できるはんだ部分の画像について説明する。図6Aは、基板K上の部品KBの電極部分とこれに接合されるはんだ部分(以下、はんだ付け部という)を側面から見た図である。図6Aに示すように、当該事例のはんだKHは部品KBから延びる電極に対して充分に馴染んでおらず、接触面積が少なくなっている(即ち、不濡れの状態になっている)。
With reference to FIG. 6, an image of a solder portion that can be obtained when a substrate is photographed by the
図6Bは、照明装置111の全領域で照明を点灯して撮影した場合のはんだ付け部の画像である。図6Bには、R、G、Bの各色の領域が示されている。図6Bに示す画像からは、はんだと電極の接合部に傾斜(によって定義される斜面)が存在することが推測できるが、この斜面がどちらを向いているのか(即ち、濡れあがっているのか、不濡れの状態なのか)までは判別することができない。なお、部品KB本体や電極の表面では拡散反射が支配的となるため、R、G、Bのような光源色ではなく、白色光で照明したときと同じ物体自体の色が現れる。
FIG. 6B is an image of the soldered portion when the lighting is turned on in the entire area of the
ここで、本実施形態の照明装置111は、4つに分かれた領域ごとに光源のON/OFFが可能であるため、照明装置111のうち、図6のはんだKH端部側の領域(第2照明領域111b及び、第4照明領域111d)のみを点灯させてはんだ付け部を撮影すると、図6Cのような画像(以下、第1カラーハイライト画像という)が取得できる。
Here, since the
また、照明装置111のうち、図6における部品KB側の領域(第1照明領域111a及び、第3照明領域111c)のみを点灯させてはんだ付け部を撮影すると、図6Dのような画像(以下、第2カラーハイライト画像という)を取得することができる。
Further, when the soldered portion of the
そして、情報処理装置13は、第1カラーハイライト画像および第2カラーハイライト画像のデータから各画素の有する輝度値を抽出し、より輝度値の大きいほうの画素を合成することで、合成データを作成する。なお、当該合成データの性質、及び合成データ作成の処理については、適用例において説明したものと同様であるため、詳細な説明は省略する。要するに、当該合成データを用いることで、はんだKHと電極の接合部の斜面の方向を判別することが可能になる。
Then, the
図6Eは、このようにして作成された合成データに基づいて作成された合成画像(以下、カラーハイライト合成画像という)の例を示している。カラーハイライト合成画像では、第1カラーハイライト画像のR、G、Bの領域の画素を採用した箇所は、そのまま赤色(R)、緑色(G)、青色(B)で表示し、第2カラーハイライト画像のR、G、Bの領域の画素を採用した箇所は、マゼンダ(M)、イエロー(Y)、シアン(C)で表現されている。なお、合成画像における色の選択は全くの任意であり、これら6色に限られるわけではないが、異なる色系統でありながらも類似する色を使用することによって、傾斜の程度が同一であることと、元となった画像が違う(即ち傾斜の向きが違う)ことを直感的に把握することができる。 FIG. 6E shows an example of a composite image (hereinafter, referred to as a color highlight composite image) created based on the composite data created in this way. In the color highlight composite image, the parts where the pixels in the R, G, and B regions of the first color highlight image are adopted are displayed as they are in red (R), green (G), and blue (B), and the second The portion of the color highlight image in which the pixels in the R, G, and B regions are adopted is represented by magenta (M), yellow (Y), and cyan (C). The color selection in the composite image is completely arbitrary and is not limited to these six colors, but the degree of inclination is the same by using similar colors even though they have different color systems. Then, it is possible to intuitively grasp that the original image is different (that is, the direction of inclination is different).
このようなカラーハイライト合成画像は、例えば表示装置14で表示可能にしておけば、ユーザーはカラーハイライト合成画像を見て、はんだ付け部の状態を容易に把握することが可能になる。
If such a color highlight composite image can be displayed on the
(部品の三次元形状計測)
一方、拡散物体である部品KBの三次元形状の計測には、位相シフト法を利用する。位相シフト法とは、パターン光を物体表面に投影したときのパターンの歪みを解析することにより物体表面の三次元形状を復元する手法の一つである。具体的には、プロジェクタ112を用いて、所定のパターン(例えば、輝度が正弦波状に変化する縞状パターン)を基板に投影した状態でカメラ110で撮影を行う。そうすると基板Kの表面には、その凹凸に応じたパターンの歪みが現れる(なお、はんだKHの部分では鏡面反射が支配的となるため、パターンはほとんど観測できない。)。この処理を、パターン光の輝度変化の位相を変化させながら複数回繰り返すことで、輝度特徴の異なる複数枚の画像(以下、パターン解析画像いう)が得られる。各画像の同一画素の輝度は縞状パターンの変化と同一の周期で変化するはずであるから、各画素の輝度の変化に対して正弦波を当てはめることで、各画素の位相が分かる。そして、所定の基準位置(テーブル表面、基板表面など)の位相に対する位相差を求めることで、その基準位置からの距離(即ち、高さ)を算出することができる。
(Three-dimensional shape measurement of parts)
On the other hand, the phase shift method is used to measure the three-dimensional shape of the component KB, which is a diffusion object. The phase shift method is one of the methods for restoring the three-dimensional shape of the object surface by analyzing the distortion of the pattern when the pattern light is projected onto the object surface. Specifically, the
(検査処理の流れ)
次に、図7を用いて、基板検査装置1で行われる検査処理の流れを説明する。図7は、検査処理の流れを示すフローチャートである。
(Flow of inspection process)
Next, the flow of the inspection process performed by the
まず、制御装置12が検査プログラムに従ってステージ10を制御し、検査対象の部品KBおよびはんだKHを計測位置(カメラ110の視野)に移動させる(ステップS101)。そして、制御装置12が照明装置111の一部の領域を点灯し(ステップS102)、赤色光、緑色光、青色光を照射した状態でカメラ110で撮影を行う(ステップS103)。得られた画像データ(第1カラーハイライト画像)は、画像取得部131により情報処理装置13に取り込まれる。
First, the
照明装置111の消灯後、さらに、照明装置111の先の発光領域と対向する領域を制御装置12が点灯し(ステップS104)、ハイライト照明光を照射した状態でカメラ110での撮影を行う(ステップS105)。ここで得られた画像データ(第2カラーハイライト画像)は、画像取得部131により情報処理装置13に取り込まれる。
After the
次に、制御装置12がプロジェクタ112からパターン光を投影し(ステップS106)、カメラ110で撮像を行う(ステップS107)。位相シフト法を利用する場合、パターン光の位相を変えながらステップS106及びS107の処理が複数回実行される。得られた複数枚の画像データは、画像取得部131により情報処理装置13に取り込まれる。なお、本実施形態では、照明装置111での撮影を先に実行したが、プロジェクタ112での撮影を先に実行しても構わない。また、カメラ110の視野外に他の検査対象が存在する場合には、ステップS101〜S107の処理を繰り返し実行してもよい。
Next, the
以降は、情報処理装置13で行われる処理となる。はんだ形状計測部132は、ステップS103及びステップS105で得られた画像から、各画素の輝度値を抽出して前記の合成データを作成し、当該合成データに基づいてはんだKH(及び部品KBの電極)の三次元形状を復元する(ステップS108)。復元された三次元形状のデータは、例えば、はんだKH領域内の各画素の高さ(Z位置)を画素値で表現した画像データ(高さマップと呼ぶ)の形式で保存される。一方、部品形状計測部133は、ステップS107で得られたパターン画像から、位相シフト法により、部品KBの三次元形状を復元する(ステップS109)。部品KBの三次元形状データについても高さマップの形式で保存される。これらの高さマップを合成することで、鏡面物体であるはんだKHと拡散物体である部品KBの両方の高さ情報を表す全体の高さマップを得ることができる。
After that, the processing is performed by the
そして、検査部134が、全体の高さマップと検査プログラムの閾値とによって、基板Kの検査を実施する(ステップS110)。検査が終了すると、表示装置14は、検査の結果、及びステップS108で作成した合成データを視覚的に表現したカラーハイライト合成画像を表示し(ステップS111)、一連の処理を終了する。
Then, the
以上述べた本実施形態の基板検査装置によれば、鏡面物体であるはんだの三次元形状と、拡散物体である部品電極とを、それぞれに適した方法で復元するので、はんだと部品電極の両方について精度の高い三次元形状データを得ることができる。また、はんだの三次元形状の復元にあたっては、複数のカラーハイライト画像を用いて合成データを作成することで、傾斜を有する場所の当該傾斜面の向きを特定して三次元形状を復元するため、はんだの斜面の形状を精度よく復元できる。 According to the substrate inspection apparatus of the present embodiment described above, the three-dimensional shape of the solder, which is a mirror object, and the component electrode, which is a diffused object, are restored by a method suitable for each, so that both the solder and the component electrode are restored. It is possible to obtain highly accurate three-dimensional shape data. In addition, when restoring the three-dimensional shape of solder, by creating composite data using multiple color highlight images, the orientation of the inclined surface at the location with the inclination can be specified and the three-dimensional shape can be restored. , The shape of the solder slope can be restored accurately.
(変形例)
なお、上記実施形態1では、照明装置111は、Z軸を中心とした円環状に形成されていたが、必ずしもこのような構成である必要はない。図8は、本実施形態の変形例に係る計測ユニット21の概略構成を示す説明図である。本変形例に係る計測ユニット21は、照明装置211及び、プロジェクタ212を移動させる手段である移動機構25を備えている。なお、本変形例において、実施形態1と同様の構成については同一の符号を用い、詳細な説明は省略する。
(Modification example)
In the first embodiment, the
本変形例における移動機構25は、制御装置12によって制御されるモータ(図示せず)によって駆動される中空円筒状の回転機構251と、回転機構251に組み付けられて照明装置211を支持する基準板252と、を備えている。回転機構251は、筐体251aと回転体251bからなり、筐体251aの上部が装置フレーム26に固定されている。なお、図8は移動機構25の内部構造が把握しやすくするために部分断面図となっているが、実際のカメラ110は、回転機構251の中空内に配置され、側面からは視認できない。
The moving
回転機構251は、例えばギアによってモータの回転が伝達されることにより、Z軸方向に延びる回転軸を中心として360度の範囲内で回転体251bが回転するように構成されている。この回転体251bが回転すると、回転機構251に組み付けられた基準板252も回転し、これによって基準板252に係止されている照明装置211及びプロジェクタ212は、円筒状の回転機構251の回転軸を中心とした円周上を回転移動することになる。すなわち、回転機構251の回転軸と同軸上に基板Kが配置されている場合、照明装置211及びプロジェクタ212は基板Kを中心として、XY軸により定義される平面上を回転移動する。本変形例のその他のハードウェア構成、処理などは実施形態1のものと同様であるため、図示及び説明は省略する。
The
このような構成により、照明装置211及びプロジェクタ212を基板Kを中心とする円周の任意の位置に配置して、照明光の照射、パターンの投影を行うことができるため、複数のカラーハイライト画像およびパターン投影画像を取得することができる。また、基板Kの部品及びはんだの向きに関わらず、三次元形状の計測のために最適な方向から照明光、パターンを照射することができる。
With such a configuration, the
<実施形態2>
続けて、第2の実施形態について説明する。図9は本実施形態に係る基板検査装置3の概略構成図である。図9に示すように、基板検査装置3は概略、検査ユニット31、制御装置32、情報処理装置33、表示装置34を備えている。基板検査装置3は、実施形態1の基板検査装置1と比べて、カメラの台数と配置位置、及びプロジェクタがない点、に
おいて異なっている。即ち、その他の制御装置32、情報処理装置33、表示装置34の構成については、実施形態1の基板検査装置1と略同様であるため詳細な説明は省略する。
<Embodiment 2>
Subsequently, the second embodiment will be described. FIG. 9 is a schematic configuration diagram of the
検査ユニット31は、ステージ30、カメラ310a、310b、照明装置311、移動機構35、装置フレーム36、を含んで構成される。移動機構35は、回転機構351(筐体351a、回転体351b)、基準板352を備える構成であるが、上述した実施形態1の変形例の移動機構と同様の構成であるため、詳細な説明は省略する。ステージ30、装置フレーム36についても同様である。
The
カメラ310a、310b、は移動機構35の基準板352に、それぞれ基板Kを撮影するようにして、基準板352の対角の位置に配置される。また、照明装置311は、基板Kに対し異なる波長の照明光を照射する照明手段であり、実際には、同じ波長の光を全方位(Z軸回りの全方向)から照明可能なように照明装置111は円環状又はドーム形状を呈している。なお、本実施形態に係る照明装置311は、分割された領域を有するわけではなく、RGB照明光の照射は、全体で一括して行われる。
The
即ち、実施形態1では、カメラを計測対象の鉛直上方に固定し、RGB照明光の照射の方向を変えて複数回撮影を行うことで、RGB照明光の反射の態様が異なる複数の画像を取得していたが、本実施形態では、撮影の方向が異なる画像を複数取得することでRGB照明光の反射の態様が異なる複数の画像を取得する。 That is, in the first embodiment, by fixing the camera vertically above the measurement target and performing multiple shootings by changing the irradiation direction of the RGB illumination light, a plurality of images having different reflection modes of the RGB illumination light are acquired. However, in the present embodiment, a plurality of images having different modes of reflection of RGB illumination light are acquired by acquiring a plurality of images having different shooting directions.
次に、図10用いて、基板検査装置3で行われる検査処理の流れを説明する。図10は、検査処理の流れを示すフローチャートである。
Next, the flow of the inspection process performed by the
まず、制御装置32が検査プログラムに従ってステージ30を制御し、検査対象の部品およびはんだを計測位置に移動させる(ステップS201)。そして、制御装置32が照明装置311を点灯し(ステップS202)、赤色光、緑色光、青色光を照射した状態で、移動機構35を制御して2台のカメラ310a、310bを適切な位置に移動させる(ステップS203)。そして、2台のカメラで同時に撮影を行う(ステップS204)。得られた複数の画像データ(カラーハイライト画像)は、情報処理装置33に取り込まれる。
First, the
そして、情報処理装置33は、複数のカラーハイライト画像から特徴量を抽出して合成データを作成し(ステップS205)、当該合成データに基づいて検査を実行する(ステップS206)。そして、検査の結果、合成データから作成した合成画像などを表示装置に表示して(ステップS207)、一連の処理を終了する。なお、複数のカラーハイライト画像から合成データを作成する処理は、実施形態1と同様であるため、説明は省略する。 Then, the information processing apparatus 33 extracts the feature amount from the plurality of color highlight images, creates composite data (step S205), and executes the inspection based on the composite data (step S206). Then, as a result of the inspection, a composite image or the like created from the composite data is displayed on the display device (step S207), and a series of processes is completed. Since the process of creating composite data from a plurality of color highlight images is the same as that of the first embodiment, the description thereof will be omitted.
本実施形態に係る検査装置3によれば、合成データを作成するためのカラーハイライト画像の撮影を一度で済ますことができるため、検査に係る時間を短縮させることができる。
According to the
なお、本実施形態に係る基板検査装置3では、プロジェクタを備えない構成であったが、プロジェクタを備え、パターン投影画像を取得するようにしてもよい。
Although the
<その他>
上記各実施形態は、本発明を例示的に説明するものに過ぎず、本発明は上記の具体的な形態には限定されない。本発明はその技術的思想の範囲内で種々の変形が可能である。例
えば、上記の各実施形態ではカラーハイライト方式で計測対象における傾斜の程度を計測する装置を前提としていたが、傾斜の方向を計測するのには、波長の異なる複数の照明光を照射する必要はない。このため、例えば、計測対象を中心として対向する方向の一方のみから所望の波長の光を照射した画像と、もう一方のみから同様の照明光を照射した画像とを取得して、これらの特徴量を比較することで、計測対象における傾斜の方向を計測することができる。
<Others>
Each of the above embodiments is merely an example of the present invention, and the present invention is not limited to the above specific embodiment. The present invention can be modified in various ways within the scope of its technical idea. For example, in each of the above embodiments, it is assumed that the device measures the degree of inclination of the measurement target by the color highlight method, but in order to measure the direction of inclination, it is necessary to irradiate a plurality of illumination lights having different wavelengths. There is no. Therefore, for example, an image in which light of a desired wavelength is irradiated from only one of the directions facing each other with the measurement target as the center is acquired, and an image in which the same illumination light is irradiated from only the other is acquired, and these feature quantities are obtained. By comparing, the direction of inclination in the measurement target can be measured.
具体的には、例えばプロジェクタからパターンを含まない光を計測対象に照射し、当該光が照射された複数の画像に基づいて計測対象の傾斜の方向を計測するようにしてもよい。即ち、プロジェクタから計測対象に対して照射されるパターンを含まない光を本願発明の「照明光」とすることができる。このような場合には、プロジェクタを、位相シフト法による計測のためのパターン光の投影手段と、計測対象の傾斜方向計測のための照明手段とを兼ねる構成とすることができる。なお、これらにカラーハイライト画像を組み合わせて、傾斜の程度を併せて計測することも当然可能である。 Specifically, for example, a projector may irradiate a measurement target with light that does not include a pattern, and the direction of inclination of the measurement target may be measured based on a plurality of images irradiated with the light. That is, the light that does not include the pattern emitted from the projector to the measurement target can be regarded as the "illumination light" of the present invention. In such a case, the projector can be configured to serve as both a pattern light projection means for measurement by the phase shift method and an illumination means for measuring the tilt direction of the measurement target. Of course, it is also possible to combine these with a color highlight image and measure the degree of inclination as well.
また、上記の実施形態1においてはカラーハイライト画像に基づいて鏡面物体の三次元形状を、パターン投影画像に基づいて拡散物体の三次元形状をそれぞれ計測するようにしていたが、必ずしもこのようにする必要はなく、各画像に基づいて計測対象全体の形状を計測するためのプロファイルデータ2つを作成したうえで、これらのデータを合成するようにしてもよい。 Further, in the above-described first embodiment, the three-dimensional shape of the mirrored object is measured based on the color highlight image, and the three-dimensional shape of the diffused object is measured based on the pattern projection image. It is not necessary to do so, and two profile data for measuring the shape of the entire measurement target may be created based on each image, and then these data may be combined.
また、実施形態1においても、プロジェクタを備えない装置構成としてもよい。カラーハイライト方式のみで計測対象の三次元形状の計測を行うことで、装置構成を簡略化することができ、検査のための時間を短縮することができる。また、プロジェクタとカラーハイライト用の光源とは別に、さらに照明手段を設ける装置構成としてもよい。 Further, also in the first embodiment, the device configuration may be such that the projector is not provided. By measuring the three-dimensional shape of the measurement target only by the color highlighting method, the device configuration can be simplified and the inspection time can be shortened. Further, a device configuration may be configured in which a lighting means is further provided separately from the projector and the light source for color highlighting.
また、上述のように照明装置に用いる光源に用いる波長も、R、G、Bに限定されるわけではなく、任意の波長の光を採用することができる。また、表示装置に表示される画像も、上記実施形態では、照明光に合わせて、赤色(R)、緑色(G)、青色(B)、マゼンダ(M)、イエロー(Y)、シアン(C)で表示分けされるものであったが、これに限られるわけではない。例えば、カラーハイライト方式によらない計測装置にも本発明を適用することができるが、その場合には上記の色分けには意味はないため、異なる色、及び/又は模様による表示分けが行われてもよい。 Further, as described above, the wavelength used for the light source used in the lighting device is not limited to R, G, and B, and light of any wavelength can be adopted. Further, in the above embodiment, the image displayed on the display device also has red (R), green (G), blue (B), magenta (M), yellow (Y), and cyan (C) according to the illumination light. ), But it is not limited to this. For example, the present invention can be applied to a measuring device that does not use the color highlighting method, but in that case, since the above color coding is meaningless, display classification by different colors and / or patterns is performed. You may.
<付記>
本発明の一の態様は、計測対象(O)に対して照明光を照射する照明手段(91)と、前記計測対象を撮影する撮影手段(92)と、前記撮影手段によって撮影された画像から得られる前記照明光の反射光の波長の相違に基づいて、前記計測対象の三次元形状を計測する計測手段(93)と、を有する三次元形状計測装置において、前記撮影手段は、前記撮影手段の撮影方向又は前記照明光の照射方向の、前記計測対象に対する鉛直軸回りの角度が異なる複数の画像であって、前記計測対象の所定の部位における前記反射光の強度又は波長のいずれかを含む反射の態様が異なる、前記複数の画像を取得し、前記計測手段は、前記撮影手段が取得した前記複数の画像に基づいて、前記所定の部位の三次元形状を計測する、ことを特徴とする、三次元形状計測装置である。
<Additional notes>
One aspect of the present invention is from an illuminating means (91) that irradiates the measurement object (O) with illumination light, a photographing means (92) that photographs the measurement object, and an image captured by the photographing means. In a three-dimensional shape measuring device having a measuring means (93) for measuring the three-dimensional shape of the measurement target based on the difference in the wavelength of the reflected light of the obtained illumination light, the photographing means is the photographing means. A plurality of images having different angles around the vertical axis with respect to the measurement target in the photographing direction or the irradiation direction of the illumination light, and include either the intensity or the wavelength of the reflected light at a predetermined portion of the measurement target. The plurality of images having different modes of reflection are acquired, and the measuring means measures the three-dimensional shape of the predetermined portion based on the plurality of images acquired by the photographing means. , A three-dimensional shape measuring device.
また、本発明の他の一の態様は、計測対象に対して照明光を照射する、照射ステップ(S901,S903)と、前記照明光の照射方向又は撮影方向の、前記計測対象に対する鉛直軸回りの角度が異なる複数の画像であって、前記計測対象の所定の部位における前記照明光の反射光の強度又は波長のいずれかを含む反射の態様が異なる前記複数の画像を取得する撮影ステップ(S902,S904)と、前記撮影ステップにおいて取得した前記
複数の画像に基づいて、前記所定の部位の三次元形状を計測する計測ステップ(S907)と、を有する三次元形状の計測方法である。
In addition, another aspect of the present invention is an irradiation step (S901, S903) in which the measurement target is irradiated with illumination light, and a vertical axis of the illumination light irradiation direction or imaging direction with respect to the measurement target. A photographing step (S902) of acquiring a plurality of images having different angles of the above and having different modes of reflection including either the intensity or the wavelength of the reflected light of the illumination light at a predetermined portion of the measurement target. , S904), and a measurement step (S907) for measuring the three-dimensional shape of the predetermined portion based on the plurality of images acquired in the photographing step.
1、3・・・基板検査装置
9・・・三次元形状計測装置
10、30・・・ステージ
11、31・・・検査ユニット
110、310、92・・・カメラ
111、211、311、91・・・照明装置
12、32・・・制御装置
13、33、93・・・情報処理装置
14、34・・・表示装置
25、35・・・移動機構
K・・・基板
O・・・測定対象物
1, 3 ... Board inspection device 9 ... Three-dimensional
Claims (21)
前記計測対象を撮影する撮影手段と、
前記撮影手段によって撮影された画像から得られる前記照明光の反射光の波長の相違に基づいて、前記計測対象の三次元形状を計測する計測手段と、を有する三次元形状計測装置において、
前記撮影手段は、前記撮影手段の撮影方向又は前記照明光の照射方向の、前記計測対象に対する鉛直軸回りの角度が異なる複数の画像であって、前記計測対象の所定の部位における前記反射光の強度又は波長のいずれかを含む反射の態様が異なる、前記複数の画像を取得し、
前記計測手段は、前記撮影手段が取得した前記複数の画像に基づいて、前記所定の部位の三次元形状を計測する、
ことを特徴とする、三次元形状計測装置。 Lighting means that irradiates the measurement target with illumination light,
A shooting means for shooting the measurement target and
In a three-dimensional shape measuring device having a measuring means for measuring the three-dimensional shape of the measurement target based on the difference in wavelength of the reflected light of the illumination light obtained from the image taken by the photographing means.
The photographing means is a plurality of images having different angles around the vertical axis with respect to the measurement target in the shooting direction of the shooting means or the irradiation direction of the illumination light, and the reflected light at a predetermined portion of the measurement target. Obtaining the plurality of images having different modes of reflection, including either intensity or wavelength,
The measuring means measures the three-dimensional shape of the predetermined portion based on the plurality of images acquired by the photographing means.
A three-dimensional shape measuring device characterized by this.
前記計測手段は、前記反射光の前記反射の態様がそれぞれ異なる複数の画像を構成する各画素における所定の特徴量の各画像間の相違に基づいて、前記所定の部位の傾斜の方向を計測する、
ことを特徴とする、請求項1に記載の三次元形状計測装置。 The predetermined portion is a portion including an inclination in the measurement target, and is
The measuring means measures the direction of inclination of the predetermined portion based on the difference between each image of a predetermined feature amount in each pixel constituting a plurality of images having different modes of reflection of the reflected light. ,
The three-dimensional shape measuring device according to claim 1, wherein the three-dimensional shape measuring device is characterized in that.
ことを特徴とする、請求項1又は2に記載の三次元形状計測装置。 By photographing the measurement object from a plurality of different positions on one circumference centered on the measurement object, the photographing means has a plurality of angles around the vertical axis in the photographing direction with respect to the measurement object. Get an image,
The three-dimensional shape measuring device according to claim 1 or 2, wherein the three-dimensional shape measuring device is characterized in that.
前記撮影手段は、前記照明光の照射方向の前記計測対象に対する鉛直軸回りの角度が異なる複数の画像を取得する、
ことを特徴とする、請求項1又は2に記載の三次元形状計測装置。 By irradiating the measurement target with the illumination light from a plurality of different positions on one circumference centered on the measurement target, the lighting means irradiates the measurement target with the illumination light.
The photographing means acquires a plurality of images having different angles around the vertical axis with respect to the measurement target in the irradiation direction of the illumination light.
The three-dimensional shape measuring device according to claim 1 or 2, wherein the three-dimensional shape measuring device is characterized in that.
前記撮影手段は、前記照明光の照射方向の前記計測対象に対する鉛直軸回りの角度が異なる複数の画像を取得する、
ことを特徴とする、請求項4に記載の三次元形状計測装置。 The illuminating means is movably arranged in the circumferential direction around the measurement target, and illuminates the measurement target from a plurality of different positions on one circumference centered on the measurement target. By irradiating
The photographing means acquires a plurality of images having different angles around the vertical axis with respect to the measurement target in the irradiation direction of the illumination light.
The three-dimensional shape measuring device according to claim 4, wherein the three-dimensional shape measuring device is characterized in that.
前記撮影手段は、前記複数の範囲のうち少なくとも一の範囲から前記計測対象に対して前記照明光が照射された際の画像と、その他の範囲から前記計測対象に対して前記照明光が照射された際の画像とを取得することにより、前記照明光の照射方向の前記計測対象に対する鉛直軸回りの角度が異なる複数の画像を取得する、
ことを特徴とする、請求項4に記載の三次元形状計測装置。 The lighting means is arranged in an annular shape around the measurement target, and is configured so that the emission intensity of the illumination light can be adjusted for each of a plurality of ranges formed by dividing the ring into a plurality of areas.
The photographing means irradiates the measurement target with the illumination light from at least one of the plurality of ranges, and the illumination light from the other ranges. By acquiring the image at the time, a plurality of images having different angles around the vertical axis with respect to the measurement target in the irradiation direction of the illumination light are acquired.
The three-dimensional shape measuring device according to claim 4, wherein the three-dimensional shape measuring device is characterized in that.
前記撮影手段は、前記パターン光が投影された前記計測対象のパターン投影画像をさらに取得し、
前記計測手段は、前記計測対象の所定の部位における前記反射光の前記反射の態様が異なる複数の画像及び前記パターン投影画像に基づいて、前記所定の部位の三次元形状を計測する、
ことを特徴とする、請求項1から6のいずれか一項に記載の三次元形状計測装置。 It further has a projection means for projecting a predetermined pattern light onto the measurement target.
The photographing means further acquires the pattern projection image of the measurement target on which the pattern light is projected, and further obtains the pattern projection image.
The measuring means measures the three-dimensional shape of the predetermined portion based on a plurality of images in which the mode of reflection of the reflected light at the predetermined portion of the measurement target is different and the pattern projection image.
The three-dimensional shape measuring device according to any one of claims 1 to 6, wherein the three-dimensional shape measuring device is characterized in that.
前記計測手段は、前記撮影手段が取得した少なくとも一の画像における、前記異なる波長の照明光のそれぞれの反射光の前記反射の態様から、前記所定の部位の傾斜の程度を計測する、
ことを特徴とする、請求項2に記載の三次元形状計測装置。 The illuminating means irradiates the measurement target with illumination light having a different wavelength from a plurality of different angles between the vertical direction and the horizontal direction.
The measuring means measures the degree of inclination of the predetermined portion from the mode of reflection of the reflected light of the illumination light having different wavelengths in at least one image acquired by the photographing means.
The three-dimensional shape measuring device according to claim 2, wherein the three-dimensional shape measuring device is characterized in that.
前記合成画像は、少なくとも前記所定の部位における前記傾斜の方向の違いを、異なる色及び/又は模様により表示分けする画像処理が施された画像である、
ことを特徴とする、請求項2に記載の三次元形状計測装置。 It further has an image display means for displaying a composite image created from the plurality of images acquired by the photographing means.
The composite image is an image that has undergone image processing that displays and separates the difference in the direction of inclination at least in the predetermined portion by different colors and / or patterns.
The three-dimensional shape measuring device according to claim 2, wherein the three-dimensional shape measuring device is characterized in that.
前記合成画像は、前記所定の部位における前記傾斜の程度及び方向の違いを、異なる色及び/又は模様により表示分けする画像処理が施された画像である、
ことを特徴とする、請求項8に記載の三次元形状計測装置。 It further has an image display means for displaying a composite image created from the plurality of images acquired by the photographing means.
The composite image is an image that has undergone image processing to display and separate the difference in the degree and direction of the inclination in the predetermined portion by different colors and / or patterns.
The three-dimensional shape measuring device according to claim 8, wherein the three-dimensional shape measuring device is characterized in that.
ことを特徴とする、請求項9又は10に記載の三次元形状計測装置。 The composite image was synthesized by comparing the values of predetermined feature amounts of pixels indicating the same location of the measurement target in each image that is the source of synthesis, and selecting the pixels from the image having the largest value. Is a thing,
The three-dimensional shape measuring device according to claim 9 or 10, wherein the three-dimensional shape measuring device is characterized in that.
前記照明光の照射方向又は撮影方向の、前記計測対象に対する鉛直軸回りの角度が異なる複数の画像であって、前記計測対象の所定の部位における前記照明光の反射光の強度又は波長のいずれかを含む反射の態様が異なる前記複数の画像を取得する撮影ステップと、
前記撮影ステップにおいて取得した前記複数の画像に基づいて、前記所定の部位の三次元形状を計測する計測ステップと、
を有する三次元形状計測方法。 An irradiation step that irradiates the measurement target with illumination light,
A plurality of images having different angles around the vertical axis with respect to the measurement target in the irradiation direction or the photographing direction of the illumination light, and either the intensity or the wavelength of the reflected light of the illumination light at a predetermined portion of the measurement target. A shooting step of acquiring the plurality of images having different modes of reflection including
A measurement step for measuring the three-dimensional shape of the predetermined portion based on the plurality of images acquired in the photographing step, and a measurement step.
Three-dimensional shape measurement method having.
前記計測ステップでは、前記反射光の前記反射の態様がそれぞれ異なる複数の画像を構成する各画素における所定の特徴量の各画像間の相違に基づいて、前記所定の部位の傾斜の方向を計測する、
ことを特徴とする、請求項12に記載の三次元形状計測方法。 The predetermined portion is a portion including an inclination in the measurement target, and is
In the measurement step, the direction of inclination of the predetermined portion is measured based on the difference between each image of a predetermined feature amount in each pixel constituting a plurality of images having different modes of reflection of the reflected light. ,
The three-dimensional shape measuring method according to claim 12, wherein the three-dimensional shape measuring method is characterized in that.
前記撮影ステップにおいて、前記照明光の照射方向の前記計測対象に対する鉛直軸回りの角度が異なる複数の画像を取得する、
ことを特徴とする、請求項12又は13に記載の三次元形状計測方法。 In the irradiation step, by irradiating the measurement target with the illumination light from a plurality of different positions on one circumference centered on the measurement target, the measurement target is irradiated with the illumination light.
In the shooting step, a plurality of images having different angles around the vertical axis with respect to the measurement target in the irradiation direction of the illumination light are acquired.
The three-dimensional shape measuring method according to claim 12 or 13, wherein the three-dimensional shape measuring method is characterized in that.
から前記計測対象を撮影することによって、前記撮影方向の前記計測対象に対する鉛直軸回りの角度が異なる複数の画像を取得する、
ことを特徴とする、請求項12又は13に記載の三次元形状計測方法。 In the shooting step, by shooting the measurement target from a plurality of different positions on one circumference centered on the measurement target, a plurality of images having different angles around the vertical axis with respect to the measurement target in the shooting direction. To get,
The three-dimensional shape measuring method according to claim 12 or 13, wherein the three-dimensional shape measuring method is characterized in that.
前記撮影ステップでは、前記パターン光が投影された前記計測対象のパターン投影画像をさらに取得し、
前記計測ステップでは、前記計測対象の所定の部位における前記反射光の前記反射の態様が異なる複数の画像及び前記パターン投影画像に基づいて、前記所定の部位の三次元形状を計測する、
ことを特徴とする、請求項12から15のいずれか一項に記載の三次元形状計測方法。 It further has a projection step of projecting a predetermined pattern of light onto the measurement target.
In the shooting step, the pattern projection image of the measurement target on which the pattern light is projected is further acquired.
In the measurement step, the three-dimensional shape of the predetermined portion is measured based on a plurality of images in which the mode of reflection of the reflected light at the predetermined portion to be measured differs and the pattern projection image.
The three-dimensional shape measuring method according to any one of claims 12 to 15, characterized in that.
前記計測ステップでは、前記撮影ステップにおいて取得した少なくとも一の画像における、前記異なる波長の照明光のそれぞれの反射光の前記反射の態様から、前記所定の部位の傾斜の程度を計測する、
ことを特徴とする、請求項13に記載の三次元形状計測方法。 In the irradiation step, the measurement target is irradiated with illumination light having a different wavelength from a plurality of different angles between the vertical direction and the horizontal direction.
In the measurement step, the degree of inclination of the predetermined portion is measured from the mode of reflection of the reflected light of the illumination light having different wavelengths in at least one image acquired in the photographing step.
The three-dimensional shape measuring method according to claim 13, wherein the three-dimensional shape measuring method is characterized in that.
前記合成画像は、少なくとも前記所定の部位における前記傾斜の方向の違いを、異なる色及び/又は模様により表示分けする画像処理が施された画像である、
ことを特徴とする、請求項13に記載の三次元形状計測方法。 It further includes a composite image display step of displaying a composite image created by synthesizing the plurality of images acquired in the shooting step.
The composite image is an image that has undergone image processing that displays and separates the difference in the direction of inclination at least in the predetermined portion by different colors and / or patterns.
The three-dimensional shape measuring method according to claim 13, wherein the three-dimensional shape measuring method is characterized in that.
前記合成画像は、前記所定の部位における前記傾斜の程度及び方向の違いを、異なる色及び/又は模様により表示分けする画像処理が施された画像である、
ことを特徴とする、請求項17に記載の三次元形状計測方法。 It further includes a composite image display step of displaying a composite image created by synthesizing the plurality of images acquired in the shooting step.
The composite image is an image that has undergone image processing to display and separate the difference in the degree and direction of the inclination in the predetermined portion by different colors and / or patterns.
The three-dimensional shape measuring method according to claim 17, wherein the three-dimensional shape measuring method is characterized in that.
ことを特徴とする、請求項18又は19に記載の三次元形状計測方法。 The composite image was synthesized by comparing the values of predetermined feature amounts of pixels indicating the same location of the measurement target in each image that is the source of synthesis, and selecting the pixels from the image having the largest value. Is a thing,
The three-dimensional shape measuring method according to claim 18 or 19, wherein the three-dimensional shape measuring method is characterized in that.
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020011900A JP7424074B2 (en) | 2020-01-28 | 2020-01-28 | 3D shape measurement device, 3D shape measurement method and program |
CN202080090516.3A CN114867984A (en) | 2020-01-28 | 2020-12-15 | Three-dimensional shape measurement device, three-dimensional shape measurement method, and program |
DE112020006630.4T DE112020006630T5 (en) | 2020-01-28 | 2020-12-15 | DEVICE FOR MEASUREMENT OF THREE-DIMENSIONAL FORM, METHOD FOR MEASUREMENT OF THREE-DIMENSIONAL FORM AND PROGRAM |
PCT/JP2020/046677 WO2021153056A1 (en) | 2020-01-28 | 2020-12-15 | Three-dimensional shape measuring device, three-dimensional shape measuring method, and program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020011900A JP7424074B2 (en) | 2020-01-28 | 2020-01-28 | 3D shape measurement device, 3D shape measurement method and program |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2021117158A true JP2021117158A (en) | 2021-08-10 |
JP7424074B2 JP7424074B2 (en) | 2024-01-30 |
Family
ID=77079284
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020011900A Active JP7424074B2 (en) | 2020-01-28 | 2020-01-28 | 3D shape measurement device, 3D shape measurement method and program |
Country Status (4)
Country | Link |
---|---|
JP (1) | JP7424074B2 (en) |
CN (1) | CN114867984A (en) |
DE (1) | DE112020006630T5 (en) |
WO (1) | WO2021153056A1 (en) |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001324450A (en) * | 2000-03-06 | 2001-11-22 | View Engineering Inc | Method and system for illuminating object with focused light at varying angles of incidence and multi-color light source for use therein |
JP2003172709A (en) * | 2001-12-06 | 2003-06-20 | Asia Electronics Inc | Inspection device |
US20050238237A1 (en) * | 2004-04-23 | 2005-10-27 | 3D-Shape Gmbh | Method and apparatus for determining the shape and the local surface normals of specular surfaces |
JP2018081048A (en) * | 2016-11-18 | 2018-05-24 | オムロン株式会社 | Three-dimensional shape measurement device |
JP2018112479A (en) * | 2017-01-12 | 2018-07-19 | リコーエレメックス株式会社 | Visual inspection system |
JP2019120643A (en) * | 2018-01-10 | 2019-07-22 | オムロン株式会社 | Image processing system |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3878033B2 (en) * | 2002-02-28 | 2007-02-07 | シーケーディ株式会社 | 3D measuring device |
KR101190122B1 (en) * | 2008-10-13 | 2012-10-11 | 주식회사 고영테크놀러지 | Apparatus and method for measuring three dimension shape using multi-wavelength |
JP5170154B2 (en) * | 2010-04-26 | 2013-03-27 | オムロン株式会社 | Shape measuring apparatus and calibration method |
JP2016008901A (en) * | 2014-06-25 | 2016-01-18 | コニカミノルタ株式会社 | Shape measurement device |
JP6303867B2 (en) | 2014-06-27 | 2018-04-04 | オムロン株式会社 | Substrate inspection apparatus and control method thereof |
-
2020
- 2020-01-28 JP JP2020011900A patent/JP7424074B2/en active Active
- 2020-12-15 DE DE112020006630.4T patent/DE112020006630T5/en active Pending
- 2020-12-15 WO PCT/JP2020/046677 patent/WO2021153056A1/en active Application Filing
- 2020-12-15 CN CN202080090516.3A patent/CN114867984A/en active Pending
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001324450A (en) * | 2000-03-06 | 2001-11-22 | View Engineering Inc | Method and system for illuminating object with focused light at varying angles of incidence and multi-color light source for use therein |
JP2003172709A (en) * | 2001-12-06 | 2003-06-20 | Asia Electronics Inc | Inspection device |
US20050238237A1 (en) * | 2004-04-23 | 2005-10-27 | 3D-Shape Gmbh | Method and apparatus for determining the shape and the local surface normals of specular surfaces |
JP2018081048A (en) * | 2016-11-18 | 2018-05-24 | オムロン株式会社 | Three-dimensional shape measurement device |
JP2018112479A (en) * | 2017-01-12 | 2018-07-19 | リコーエレメックス株式会社 | Visual inspection system |
JP2019120643A (en) * | 2018-01-10 | 2019-07-22 | オムロン株式会社 | Image processing system |
Also Published As
Publication number | Publication date |
---|---|
DE112020006630T5 (en) | 2022-11-17 |
JP7424074B2 (en) | 2024-01-30 |
CN114867984A (en) | 2022-08-05 |
WO2021153056A1 (en) | 2021-08-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5170154B2 (en) | Shape measuring apparatus and calibration method | |
JP6626335B2 (en) | Structured light projector and three-dimensional scanner including such a projector | |
US10262431B2 (en) | Three-dimensional measurement device | |
KR20160007361A (en) | Image capturing method using projecting light source and image capturing device using the method | |
CN105372259B (en) | Measurement apparatus, base board checking device and its control method, storage media | |
US10796428B2 (en) | Inspection system and inspection method | |
JP6791631B2 (en) | Image generation method and inspection equipment | |
JP5432864B2 (en) | Inspection apparatus and inspection method | |
US8837809B2 (en) | Method for detecting a bridge connecting failure | |
JP2019148438A (en) | Image processing system and setting method | |
CN113483892B (en) | Multispectral image measurement system and multispectral image measurement method | |
WO2021084773A1 (en) | Image processing system, setting method, and program | |
CN112815846A (en) | 2D and 3D composite high-precision vision device and measuring method | |
WO2021153056A1 (en) | Three-dimensional shape measuring device, three-dimensional shape measuring method, and program | |
JP5867123B2 (en) | Three-dimensional shape measuring apparatus and calibration method | |
WO2021153057A1 (en) | Three-dimensional shape measurement device, three-dimensional shape measurement method, and program | |
KR101876391B1 (en) | Apparatus for inspecting three dimension Using multi-channel image of single color light Moire | |
KR20170124509A (en) | Inspection system and inspection method | |
WO2021053852A1 (en) | Appearance inspection device, appearance inspection device calibration method, and program | |
JP2019161526A (en) | Image processing system, image processing apparatus, and image processing program | |
CN114746716B (en) | Shape restoration method and image measurement device | |
JP7247032B2 (en) | inspection equipment | |
WO2012073981A1 (en) | Visual inspection device and printed solder inspection device |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20221107 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20231003 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20231201 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20231219 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20240101 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7424074 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |