KR101981533B1 - Calibration method of 3 dimensional shape detection system - Google Patents
Calibration method of 3 dimensional shape detection system Download PDFInfo
- Publication number
- KR101981533B1 KR101981533B1 KR1020180043965A KR20180043965A KR101981533B1 KR 101981533 B1 KR101981533 B1 KR 101981533B1 KR 1020180043965 A KR1020180043965 A KR 1020180043965A KR 20180043965 A KR20180043965 A KR 20180043965A KR 101981533 B1 KR101981533 B1 KR 101981533B1
- Authority
- KR
- South Korea
- Prior art keywords
- pattern
- correction
- projecting
- correction value
- unit
- Prior art date
Links
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/24—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
- G01B11/25—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
- G01B11/2504—Calibration devices
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/24—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
- G01B11/25—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
- G01B11/2518—Projection by scanning of the object
Landscapes
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Length Measuring Devices By Optical Means (AREA)
Abstract
Description
전자 집적회로 및 이산된 전자 부품을 갖는 회로 기판은 잘 알려져 있다. 회로 기판은 집적회로 칩, 저항기 또는 캐패시터(capacitors)와 같은 전자 부품의 리드(lead)를 수용하기 위하여 소정의 전도성 경로(conductor paths) 및 패드(pads)를 갖도록 제공된다. 회로 기판의 조립 공정 동안, 솔더 페이스트 석출물(solder paste deposits)은 회로 기판 상의 적절한 위치에 놓여진다. 솔더 페이스트 석출물은 대개 기판 위에 스텐실(stencil) 스크린을 놓고, 스텐실 개구부(openings)를 통하여 솔더 페이스트를 도포하고, 스텐실을 기판으로부터 제거함으로써 도포된다.Circuit boards with electronic integrated circuits and discrete electronic components are well known. The circuit board is provided with certain conductive paths and pads for receiving leads of electronic components such as integrated circuit chips, resistors or capacitors. During the assembly process of the circuit board, solder paste deposits are placed at the appropriate locations on the circuit board. Solder paste deposits are usually applied by placing a stencil screen over the substrate, applying the solder paste through the stencil openings, and removing the stencil from the substrate.
그 후, 회로 기판의 전자 부품은 각각의 솔더 페이스트 석출물 위에 놓인 전자 부품의 리드와 함께 집어서 놓는(pick and place) 기계로 기판 위로 배치된다. 모든 부품이 기판 위에 배치된 후, 회로 기판은 오븐을 통과하여 솔더 페이스트 석출물을 녹여서 부품과 기판 사이에 전기적 및/또는 기계적인 연결을 형성한다. The electronic components of the circuit board are then placed on the substrate with a pick and place machine with the leads of the electronic components placed on each solder paste deposit. After all the components have been placed on the substrate, the circuit board passes through an oven to melt the solder paste deposits to form electrical and / or mechanical connections between the components and the substrate.
전자 산업에서 소형화가 더 강조됨에 따라, 솔더 페이스트 석출물 및 전자 부품의 사이즈 및 이들이 기판 위에 놓여야만 하는 정확도는 점차 더 작아지고 더 엄격해졌다. 솔더 페이스트 석출물의 높이는 50 마이크론으로 작아질 수 있고, 솔더 페이스트 브릭(brick)의 깊이는 대개 설계 깊이 및 사이즈의 1% 내에서 측정되어야 한다.As miniaturization has become more and more emphasized in the electronics industry, the size of solder paste deposits and electronic components and the accuracy with which they must be placed on a substrate has become smaller and more stringent. The height of the solder paste precipitate can be as small as 50 microns, and the depth of the solder paste brick is usually measured within 1% of the design depth and size.
저항기 및 캐패시터과 같은 이산적인 전자 부품은 200x400 마이크론 정도로 작을 수 있고, 마이크로 볼 그리드 어레이 부품 위의 리드는 300 마이크론 보다 작은 중심-중심 간격을 가질 수 있다. 솔더 브릭 사이의 중심-중심 간격은 때때로 200 마이크론의 작은 사이즈를 가질 수 있다. Discrete electronic components such as resistors and capacitors can be as small as 200x400 microns and leads on the microball grid array components can have a center-to-center spacing of less than 300 microns. The center-to-center spacing between solder bricks can sometimes be as small as 200 microns.
솔더 페이스트의 양이 너무 적으면 전자 부품의 리드와 회로 기판의 패드 사이에 전기적인 연결이 이루어지지 않을 수있다. 페이스트가 너무 많으면 부품의 리드들 사이에 브리지(bridging) 및 단락(short-circuiting)이 야기될 수도 있다. 배치 후, 부품이 적절하게 배치되었는지 확인하기 위해 부품을 검사하는 것도 중요하다. 오배치된 부품, 누락된 부품, 또는 낮은 솔더 조인트는 부품의 배치 및 솔더 페이스트의 리플로우 공정 동안 발생하는 전형적인 결함이다. 리플로우 공정 후에, 모든 부품이 적절하게 납땜되고 회로 기판과 연결되는지를 확실히 하기 위해서, 자동화된 광학 검사 시스템을 이용하여 부품의 적절한 배치 및 리플로우된 솔더 접합의 품질을 검사할 수 있다. 현재의 광학 검사 시스템은 불량을 검출하기 위해 회로 기판의 2D 비디오 이미지를 사용한다. 그러나, 회로 기판의 3D 깊이 이미지를 검출하는 광학 검사 시스템은 융기된(lifted) 리드, 패키지 동일 평면성(coplanarity) 및 부품의 일어섬(tombstones) 및 빌보드(billboards)와 같은 배치 불량의 검출을 가능하게 하거나 또는 개선할 수 있다. If the amount of the solder paste is too small, electrical connection between the lead of the electronic component and the pad of the circuit board may not be made. Too much paste may cause bridging and short-circuiting between the leads of the part. After placement, it is also important to inspect the parts to ensure that they are properly positioned. Owing parts, missing parts, or low solder joints are typical defects that occur during part placement and solder paste reflow processes. After the reflow process, an automated optical inspection system can be used to inspect the proper placement of components and the quality of reflowed solder joints to ensure that all components are properly soldered and connected to the circuit board. Current optical inspection systems use 2D video images of circuit boards to detect defects. However, optical inspection systems that detect 3D depth images of circuit boards may enable detection of placement defects such as lifted leads, package coplanarity and component tombstones and billboards, Or improved.
3D 깊이 이미지를 검출하는 기술은 구조광 방식이 잘 알려져 있다. 구조광 방식은 특수하게 설계된 광학 패턴을 깊이 정보를 생성하기 위한 객체에 투사한 후, 카메라를 통하여 광학 패턴이 투사된 영상 정보를 획득한다. 획득된 영상에서 투사된 광학 패턴 디코딩을 수행하여 영상과 투사한 구조광 패턴 사이의 대응점을 찾아낸다. 대응점을 찾은 뒤에는 삼각측량법을 통하여 깊이 정보를 계산한다. Structured optical systems are well known for detecting 3D depth images. The structured optical system projects a specially designed optical pattern onto an object for generating depth information, and then acquires image information on which the optical pattern is projected through the camera. The projected optical pattern decoding is performed on the acquired image to find a corresponding point between the image and the projected structural light pattern. After finding the corresponding points, depth information is calculated by triangulation method.
도 1c는 도 1a와 같은 형태의 구조광 패턴을 도 1b와 같은 대상 객체(100)에 조사한 영상을 촬상한 것을 나타낸다. 도 1c에서 보는 것처럼 대상 객체(100) 내에 깊이의 변화가 있는 부분에 대해서는 왜곡이 발생하여 동일한 선상의 패턴(패턴 D와 패턴 D', 패턴 E와 패턴 E')이 분리되며, 분리된 패턴 D와 패턴 D', 패턴 E와 패턴 E' 사이에는 시차가 발생한 것을 알 수 있다. 그리고 촬상된 영상을 통하여 시차의 크기에 해당하는 픽셀의 개수도 알 수 있다. 예를 들어, 패턴 D와 패턴 D' 사이와 패턴 E와 패턴 E' 사이에는 각각 20 픽셀만큼 이격되어 패턴이 분리된 것을 알 수 있다. FIG. 1C shows an image obtained by irradiating a structured light pattern of the type shown in FIG. 1A onto a
이를 구체적으로 설명하기 위하여 도 2를 참조하면, b는 적외선 조명(210)과 흑백 센서 내의 렌즈(220) 간의 거리인 베이스라인(baseline)을 의미한다.2, b denotes a baseline, which is the distance between the
기준면(230)은 특정 객체의 깊이를 측정하는데 있어서 기준으로 정해지는 임의의 면을 의미한다. ZO는 센서와 기준면(230) 사이의 거리에 해당하며, 미리 정해질 수 있다.The
f는 초점 거리이며, 흑백 센서 내의 렌즈(220)와 촬상 장치의 이미지 면(250) 사이의 거리에 해당한다. f is the focal length and corresponds to the distance between the
3차원 깊이 측정에 있어 특정 기준이 되는 기준 이미지는, 임의의 기준면(230)에 대하여 적외선 조명(210)에서 구조광을 투사하고, 상기 기준면에서 반사되는 구조광을 흑백 센서에서 감지하여 이미지화한 영상을 의미할 수 있다.The reference image, which is a specific reference in the measurement of the three-dimensional depth, is configured to project the structured light in the
기준 이미지를 획득하기 위하여, 적외선 조명(210)에서 미리 정해진 거리 ZO만큼 떨어진 기준면(230)으로 구조광이 투사된다. 투사된 구조광은 기준면(230)에서 반사되어 흑백 센서에서 감지된다.In order to obtain a reference image, the structured light is projected onto a
상기 기준면(230)에 투사되어 감지된 구조광의 패턴에 대한 이미지가 상기 기준 이미지가 되며, 이 경우, 상기 기준 이미지는 미리 생성되어 메모리에 저장될 수 있다.An image of the pattern of the structured light projected on the
이후 객체(240)의 3차원 깊이를 측정하기 위하여, 상기 기준 이미지를 획득할 때 이용되었던 것과 동일한 패턴을 가지는 구조광이 객체(240)로 투사될 수 있다. 도 2에서 객체(240)는 하나의 면처럼 도시되었으나, 이는 설명의 편의를 위한 것으로, 실제로는 객체(240)를 이루는 각 면에 구조광이 투사될 것이다.In order to measure the three-dimensional depth of the
객체(240)에서 반사된 구조광이 흑백 센서에서 이미지로 획득되면, 상기 기준 이미지를 기준으로 하여, 상기 획득된 이미지에서 각각 대응되는 패턴들의 위치 이동을 측정할 수 있다. 이러한 패턴의 위치 이동은 도 2에서 d에 해당되며, 이는 기준 이미지를 기준으로 하여 객체(240)의 k 점에 대응하는 시차(disparity)를 의미한다.When the structured light reflected by the
일 예에 따라, 도 2에서 삼각형의 닮은꼴을 이용하면, D/b=(ZO-ZK)/ZO, d/f=D/ZK의 관계에 있음을 알 수 있다.According to an example, it can be seen that the relationship of D / b = (ZO-ZK) / ZO, d / f = D / ZK is obtained by using the resemblance of triangle in FIG.
상기 두 식을 정리하면 아래와 같은 수학식으로 정리 될 수 있다. The above two formulas can be summarized by the following equations.
Zk = Z0 / (1 + (Z0 x d) / (f x b))Z k =
상기 수학식에서 f는 초점 거리, b는 베이스라인, ZO는 기준면(230)까지의 거리로서, 미리 정해질 수 있다. 따라서, 객체(240)의 임의의 점 k에 대한 시차 d가 획득된 이미지에서 측정되면, 객체(240)까지의 거리인 3차원 깊이 ZK를 산출할 수 있다.In the above equation, f is a focal length, b is a base line, and ZO is a distance to the
이러한, 구조광 방식의 3차원 깊이 측정 기술을 광학 검사 시스템과 같이 크기가 작은 객체에 적용하기 위해서는 패턴의 간격을 조밀하게 하여 패턴 해상도를 증가 시키고, 회로 부품의 배치 상태에 따라 지역별로 서로 다른 해상도의 패턴을 조사 할 수 있는 방안이 필요하게 된다.In order to apply the three-dimensional depth measurement technique of the structured light method to an object having a small size such as an optical inspection system, it is necessary to increase the pattern resolution by densely spacing the patterns, It is necessary to have a way to investigate the pattern of.
또한, 고해상도 패턴으로 전체를 처리하기에는 처리시간이 많이 소요되므로 처리 시간을 단축시키기 위해 저해상도 패턴으로 관심 영역인 회로 부품의 위치를 확인하고 정밀한 측정을 위해 관심 영역을 이동시키고 관심 영역별 최적 고해상도 패턴을 선정하여 측정 할 수 있는 방안이 필요하게 된다.In order to shorten the processing time, it is necessary to check the position of the circuit component, which is a region of interest, in order to shorten the processing time, to move the region of interest for precise measurement and to determine the optimal high- It is necessary to select a measurement method.
또한, 3차원 형상 측정의 정밀성을 개선하기 위해 작은 시스템 장애를 일으키는 다양한 원인을 보상하는 것이 더욱 중요해진다. 따라서 3차원 형상 측정 시스템에 대한 보정이 점점 중요해지고 있다.In addition, in order to improve the precision of the three-dimensional shape measurement, it becomes more important to compensate for various causes of small system failures. Therefore, the correction for the three-dimensional shape measuring system is becoming more and more important.
3차원 형상 측정 시스템의 보정 방법은 렌즈의 기하 왜곡(distortion), 경사(obliquity)/키스톤(keystone) 효과, 상하 이동 오차 및 가시거리(line of sight) 오차를 포함하는 프로젝터 및 카메라의 일반적인 광학적 비이상성(optical non-idealities)을 보상해야 한다. 이 비이상성의 일부는 측정 정확도에 영향을 줄 만큼 시간에 따라 눈에 띄게 변하지 않을 것이다. 그러나 다른 비이상성은 몇 분에서 며칠 동안 눈에 띄게 드리프트(drift)하여 측정 성능에 영향을 줄 수 있다. 예를 들어, 가시거리는 환경 변화에 따른 열 팽창에 의해 눈에 띄게 변할 수 있다.The correction method of the three-dimensional shape measurement system is based on the general optical ratio of the projector and the camera including the geometric distortion of the lens, the obliquity / keystone effect, the vertical movement error, and the line of sight error Optical non-idealities must be compensated. Some of this non-ideality will not change noticeably over time to affect measurement accuracy. Other non-idealities, however, can drift noticeably over a few minutes to several days, affecting measurement performance. For example, the visual distance may change noticeably due to thermal expansion due to environmental changes.
본 발명은 전술한 문제를 해결하기 위해, 복수의 패턴 투사부 및 하나 이상의 카메라를 가지는 3차원 형상 측정 시스템의 보정 방법을 제공하는 것을 목적으로 한다.SUMMARY OF THE INVENTION It is an object of the present invention to provide a method of correcting a three-dimensional shape measuring system having a plurality of pattern projecting units and at least one camera.
또한, 보정용 대상 객체인 회로 부품의 위치나 정확한 깊이 값을 이미 알고 있는 회로 기판의 영역별로 고해상도 패턴을 활용한 정밀 보정과 저해상도 패턴을 활용한 간단 보정을 포함한 효율적인 보정 방법을 제공하는 것을 그 목적으로 한다. Also, it is an object of the present invention to provide an efficient correction method including a precise correction using a high-resolution pattern and a simple correction using a low-resolution pattern for each area of a circuit board, do.
상기 또는 다른 목적을 달성하기 위해 본 발명의 일 측면에 따르면, 제1 패턴 투사부로 보정용 대상 객체에 저해상도 제1 광학 패턴을 투사하는 단계, 카메라로 상기 제1 패턴 투사부의 제1 패턴 이미지를 획득하는 단계, 상대적 위치를 알고 있는 제2 패턴 투사부의 위치 정보를 기반하여 상기 제1 패턴 이미지를 좌표 변환하여 제2 패턴 이미지를 생성하는 단계, 상기 제2 패턴 투사부로 상기 보정용 대상 객체에 상기 저해상도 제1 광학 패턴을 투사하는 단계, 상기 카메라로 상기 제2 패턴 투사부의 제3 패턴 이미지를 획득하는 단계, 상기 제2 패턴 이미지와 상기 제3 패턴 이미지를 비교하여 제1 보정값을 생성하는 단계, 상기 제1 보정값을 임계치와 비교하여 정밀 보정 여부를 판단하는 단계, 상기 정밀 보정 단계는 상기 보정용 대상 객체 내의 목표 객체가 위치한 하나 이상의 관심 영역별로 고해상도 제2 광학 패턴을 투사하여 깊이 지도를 생성하는 단계, 이미 알고 있는 상기 목표 객체의 깊이 값과 상기 깊이 지도를 비교하여 제2 보정값을 생성하는 단계, 제2 보정값을 활용하여 시스템을 보정하는 단계를 포함하는 3차원 형상 측정 시스템의 보정 방법을 제공한다.According to an aspect of the present invention, there is provided an image processing method including the steps of projecting a low-resolution first optical pattern onto a target object for correction with a first pattern projection unit, acquiring a first pattern image of the first pattern projection unit with a camera Generating a second pattern image by performing coordinate transformation on the first pattern image based on the position information of the second pattern projection unit that knows a relative position of the first pattern image, The method comprising the steps of projecting an optical pattern, acquiring a third pattern image of the second pattern projection section with the camera, generating a first correction value by comparing the second pattern image and the third pattern image, 1 correction value to a threshold value to determine whether or not precise correction is to be performed; Generating a depth map by projecting a high resolution second optical pattern for each of at least one region of interest, generating a second correction value by comparing the depth value of the target object with an already known depth map; And a step of correcting the system by utilizing the three-dimensional shape measuring system.
상기 보정용 대상 객체는 회로 기판이고, 상기 목표 객체는 회로 부품이고, 카메라는 적외선 카메라이다. The target object for correction is a circuit board, the target object is a circuit part, and the camera is an infrared camera.
상기 보정용 대상 객체에 저해상도 제1 광학 패턴을 투사하는 단계는 복수의 패턴 투사부를 미리 지정된 측정 위치로 상하 이동시켜 광학 패턴을 투사할 수 있다.The step of projecting the low-resolution first optical pattern on the object to be corrected may project the optical pattern by vertically moving the plurality of pattern projecting units to predetermined measurement positions.
상기 제1 보정값을 생성하는 단계는 상기 제1 패턴 투사부를 제외한 나머지 패턴 투사부를 순차적으로 제2 패턴 투사부로 지정하여 각각의 제1 보정값을 생성하도록 반복실시하여 상기 제1 패턴 투사부의 보정값 매트릭스를 생성할 수 있다.Wherein the generating of the first correction value is performed by sequentially designating the remaining pattern projecting units other than the first pattern projecting unit as the second pattern projecting unit to repeatedly generate the first correction values, You can create a matrix.
상기 제1 패턴 투사부를 순차적으로 변경하여 각각의 패턴 투사부의 보정값 매트릭스를 생성하고, 이중 최적의 보정값 매트릭스를 상기 제1 보정값으로 지정할 수 있다.The first pattern projection unit may be sequentially changed to generate a correction value matrix of each pattern projection unit, and the optimal correction value matrix may be designated as the first correction value.
패턴 투사부를 상하 이동시켜 상기 측정 위치를 변경하여 다양한 측정 위치에서 시스템을 보정할 수 있다.The pattern projection unit can be moved up and down to change the measurement position to correct the system at various measurement positions.
상기 제1 보정값을 임계치와 비교하는 단계는 임계치보다 작은 경우 상기 제1 보정값을 활용하여 상기 패턴 투사부의 간단 보정을 실시하고, 임계치보다 큰경우 상기 제2 보정값을 활용하여 상기 패턴 투사부의 정밀 보정을 실시할 수 있다.Wherein the step of comparing the first correction value with a threshold value includes a step of performing simple correction of the pattern projecting unit by utilizing the first correction value when the first correction value is smaller than a threshold value, Precision correction can be performed.
상기 정밀 보정은 카메라의 정밀 보정을 실시하는 단계를 더 포함할 수 있다.The precision correction may further include performing a precision correction of the camera.
상기 정밀 보정 내지 상기 간단 보정의 실시 횟수는 서로 다르게 할 수 있다.The number of times of performing the precision correction or the simple correction may be different from each other.
상기 관심 영역은 상기 목표 객체의 크기에 의해 지정할 수 있다.The region of interest may be specified by the size of the target object.
상기 간단 보정과 상기 정밀 보정이 실시되는 상기 보정용 대상 객체의 상기 관심 영역은 서로 다르게 지정할 수 있다.The region of interest of the object for correction to which the simple correction and the precision correction are performed may be designated differently.
상하 이동에 의해 보정용 대상 객체에 포함된 목표 객체의 위치에 해당하는 관심 영역을 제어하는 하나 이상의 패턴 투사부, 저해상도 제1 광학 패턴을 상기 보정용 대상 객체에 투사하는 하나 이상의 제1 광학 필터부, 고해상도 제2 광학 패턴을 생성하고, 상기 관심 영역에 상기 고해상도 제2 광학 패턴이 투사되도록 투사 영역을 제어하는 하나 이상의 제2 광학 필터부, 상기 보정용 대상 객체에 투사된 광학 패턴 이미지를 획득하는 카메라, 상기 패턴 투사부와 상기 카메라를 제어하고, 보정값을 산출하는 제어부를 포함하고, 상기 제어부는 상기 패턴 투사부 중 지정된 제1 패턴 투사부의 패턴 이미지를 알고 있는 제2 패턴 투사부의 위치 정보에 의해 좌표 변환된 패턴 이미지와 상기 제2 패턴 투사부의 패턴이미지를 비교하여 제1 보정값을 산출하고, 상기 제1 보정값을 임계치와 비교하여 정밀 보정 실시 여부를 판단하고, 상기 투사 영역에 고해상도 제2 광학 패턴을 투사하여 산출된 깊이 지도와 이미 알고 있는 상기 목표 객체의 깊이 값을 비교하여 제2 보정값을 산출하고, 상기 제2 보정값을 활용하여 시스템을 보정하는 3차원 형상 측정 시스템을 제공한다.At least one first optical filter unit for projecting a first low-resolution optical pattern onto the target object for correction, a second high-resolution projection unit for projecting the high-resolution first optical pattern onto the target object for correction, At least one second optical filter unit for generating a second optical pattern and controlling the projection area so that the high-resolution second optical pattern is projected onto the ROI, a camera for acquiring an optical pattern image projected on the object for correction, And a control unit for controlling the pattern projection unit and the camera to calculate a correction value, wherein the control unit controls the coordinate transformation unit to perform coordinate transformation on the basis of the position information of the second pattern projection unit that knows the pattern image of the first pattern projection unit, And comparing the pattern image of the second pattern projecting unit with the pattern image of the second pattern projecting unit to calculate a first correction value, A second correction value is compared with a threshold value to determine whether or not precise correction is to be performed, and a depth map calculated by projecting the second high-resolution optical pattern in the projection area is compared with a depth value of the target object that is already known, And correcting the system by utilizing the second correction value.
상기 보정용 대상 객체는 회로 기판이고, 상기 목표 객체는 회로 부품이고, 상기 카메라는 적외선 카메라이다.The target object for correction is a circuit board, the target object is a circuit part, and the camera is an infrared camera.
상기 제어부는 상기 제1 보정값을 임계치와 비교하여 임계치보다 작은 경우 상기 제1 보정값을 활용하여 상기 패턴 투사부의 간단 보정을 실시하고, 임계치보다 큰경우 상기 제2 보정값을 활용하여 상기 패턴 투사부의 상기 정밀 보정을 실시할 수 있다.Wherein the control unit compares the first correction value with a threshold value to perform a simple correction of the pattern projection unit using the first correction value when the first correction value is smaller than a threshold value and if the second correction value is larger than the threshold value, The above-described precision correction can be performed.
상기 제어부는 상기 정밀 보정을 실시하는 경우 카메라의 정밀 보정을 실시할 수 있다.The control unit may perform accurate correction of the camera when performing the precision correction.
상기 제어부는 상기 정밀 보정 및 상기 간단 보정의 실시 횟수를 다르게 제어할 수 있다.The control unit may control the number of times of the precision correction and the simple correction differently.
상기 제어부는 상기 간단 보정과 상기 정밀 보정이 실시되는 상기 관심 영역은 서로 다르게 지정할 수 있다.The control unit may designate the region of interest in which the simple correction and the precision correction are performed differently.
본 발명은 보정용 대상 객체의 영역별로 저해상도 패턴 및 고해상도 패턴을 활용하여 보정 값을 생성하여 시스템을 보정하여, 처리 시간을 단축하고 보정 정밀도를 향상 시킬 수 있다.According to the present invention, a correction value is generated by utilizing a low-resolution pattern and a high-resolution pattern for each region of a target object for correction, thereby correcting the system, shortening the processing time and improving the correction accuracy.
또한 본 발명은 패턴 투사부별로 보정값을 산출하고 이중 최적의 보정값을 사용하여 보정하므로 보정의 정밀도를 향상 시킬 수 있다.Further, the present invention can improve the accuracy of correction by calculating the correction value for each pattern projection unit and correcting it using the optimal optimal correction value.
도 1a는 종래 기술의 구조광 투사 패턴이다.
도 1b는 종래 기술의 깊이 측정을 위한 대상 객체이다.
도 1c는 종래 기술의 깊이 측정을 위해 획득된 이미지이다.
도 2는 종래 기술의 구조광을 활용한 깊이 측정 방법을 설명하기 위한 개념도 이다.
도 3은 본 발명의 일 실시 예에 따른 3차원 형상 측정 시스템의 블록도이다,
도 4는 본 발명의 일 실시 예에 따른 제1 광확 페턴을 투사한 이미지이다.
도 5는 본 발명의 일 실시 예에 따른 제2 광학 패턴을 투사한 이미지이다.
도 6은 본 발명의 일 실시 예에 따른 제2 광학 패턴의 일례인 랜텀 스페클 패턴의 사례이다.
도 7은 본 발명의 일 실시 예에 따른 제2 광학 패턴을 생성하고 제어하기 위한 광학 필터의 블록도이다.
도 8은 본 발명의 일 실시 예에 따른 3차원 형상 측정 방법에 대한 흐름도이다.
도 9는 본 발명의 일 실시 예에 따른 제1 광학 패턴을 생성하는 가동형 프리즘이다.
도 10은 본 발명의 일 실시 예에 따른 제1 광학 패턴을 생성하는 마이크로 미러이다.
도 11은 본 발명의 일 실시 예에 따른 패턴 이미지 좌표 변환을 활용한 3차원 형상 측정 시스템을 보정하는 방법에 대한 흐름도 이다.
도 12는 본 발명의 일 실시 예에 따른 고해상도 내지 저해상도 패턴을 이용한 깊이값을 활용한 3차원 형상 측정 시스템을 보정하는 방법에 대한 흐름도 이다.
도 13은 7 파라미터 좌표 변환을 설명하기 위한 개념도 이다.1A is a prior art structured light projection pattern.
1B is a target object for depth measurement of the prior art.
1C is an image obtained for depth measurement of the prior art.
2 is a conceptual diagram for explaining a depth measurement method using the structured light of the prior art.
3 is a block diagram of a three-dimensional shape measuring system according to an embodiment of the present invention,
4 is an image projecting a first light pattern according to an embodiment of the present invention.
5 is an image projecting a second optical pattern according to an embodiment of the present invention.
6 is an example of a lant speckle pattern, which is an example of a second optical pattern according to an embodiment of the present invention.
7 is a block diagram of an optical filter for generating and controlling a second optical pattern in accordance with an embodiment of the present invention.
8 is a flowchart illustrating a method of measuring a three-dimensional shape according to an embodiment of the present invention.
Fig. 9 is a movable prism for generating a first optical pattern according to an embodiment of the present invention.
10 is a micro-mirror for generating a first optical pattern according to an embodiment of the present invention.
11 is a flowchart of a method of correcting a three-dimensional shape measurement system utilizing pattern image coordinate transformation according to an embodiment of the present invention.
12 is a flowchart illustrating a method of calibrating a 3D shape measuring system using a depth value using a high-resolution pattern and a low-resolution pattern according to an exemplary embodiment of the present invention.
13 is a conceptual diagram for explaining the 7 parameter coordinate transformation.
이하, 첨부된 도면을 참조하여 본 명세서에 개시된 실시 예를 상세히 설명하되, 도면 부호에 관계없이 동일하거나 유사한 구성요소는 동일한 참조 번호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다. 이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다. 또한, 본 명세서에 개시된 실시예를 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 명세서에 개시된 실시 예의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다. 또한, 첨부된 도면은 본 명세서에 개시된 실시 예를 쉽게 이해할 수 있도록 하기 위한 것일 뿐, 첨부된 도면에 의해 본 명세서에 개시된 기술적 사상이 제한되지 않으며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다. Hereinafter, embodiments of the present invention will be described in detail with reference to the accompanying drawings, wherein like reference numerals are used to designate identical or similar elements, and redundant description thereof will be omitted. The suffix " module " and " part " for the components used in the following description are given or mixed in consideration of ease of specification, and do not have their own meaning or role. In the following description of the embodiments of the present invention, a detailed description of related arts will be omitted when it is determined that the gist of the embodiments disclosed herein may be blurred. It is to be understood that both the foregoing general description and the following detailed description are exemplary and explanatory and are intended to provide further explanation of the invention as claimed. , ≪ / RTI > equivalents, and alternatives.
제1, 제2 등과 같이 서수를 포함하는 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되지는 않는다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다.Terms including ordinals, such as first, second, etc., may be used to describe various elements, but the elements are not limited to these terms. The terms are used only for the purpose of distinguishing one component from another.
어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다.It is to be understood that when an element is referred to as being "connected" or "connected" to another element, it may be directly connected or connected to the other element, . On the other hand, when an element is referred to as being "directly connected" or "directly connected" to another element, it should be understood that there are no other elements in between.
단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. The singular expressions include plural expressions unless the context clearly dictates otherwise.
본 출원에서, "포함한다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.In the present application, the terms "comprises", "having", and the like are used to specify that a feature, a number, a step, an operation, an element, a component, But do not preclude the presence or addition of one or more other features, integers, steps, operations, elements, components, or combinations thereof.
도 3을 참조하면, 도 3은 본 발명과 관련된 3차원 측정 시스템을 설명하기 위한 블록도이다Referring to FIG. 3, FIG. 3 is a block diagram illustrating a three-dimensional measurement system related to the present invention
상기 시스템(300)는 적외선 카메라(301), RGB 카메라(302), 패턴 투사부(303), 광학 필터부(304), 회로 기판(305) 등을 포함할 수 있다. 도 3에 도시된 구성요소들은 3차원 측정 시스템을 구현하는데 있어서 필수적인 것은 아니어서, 본 명세서 상에서 설명되는 3차원 측정 시스템은 위에서 열거된 구성요소들 보다 많거나, 또는 적은 구성요소들을 가질 수 있다. The
패턴 투사부(303)은 적외선 레이저 광원에서 출사되는 빛을 광학 필터부(304)를 통해 객체에 따라 다양한 패턴을 생성하여 회로 기판(305)에 패턴을 투사 할 수 있고, 하나 이상이 포함되며, 상하 이동에 따라 패턴이 조사되는 영역을 제어 한다.The
IR(적외선) 카메라(301)는 측정 객체인 회로 기판(305)에 투사된 제1 광학 패턴(401)의 이미지를 촬상하여 제어부(306)에서 패턴의 변화량을 측정하여 깊이 정보를 생성한다.The infrared (IR)
RGB(칼라) 카메라(302)는 측정 객체인 회로 기판(305)의 이미지를 측정하고, 제어부(306)에서 이미지 상의 회로 부품(402)의 엣지를 판단하고, 회로 부품(402)의 위치를 판단한다.The
도 4는 본 발명과 관련된 3차원 측정 시스템의 측정 객체인 회로 기판에 제1 광학 패턴이 조사된 이미지를 설명하기 위한 도면이다. 도 4를 참조하면, 회로 기판(305) 상에 복수 개의 회로 부품(402)이 배치 되어 있고 3차원 깊이 측정을 위한 제1 광학 패턴(401)이 조사된 이미지이다.4 is a view for explaining an image in which a first optical pattern is irradiated on a circuit board which is a measurement object of a three-dimensional measurement system related to the present invention. Referring to FIG. 4, a plurality of
제1 광학 패턴(401)은 적외선 영역에 해당되며, 회로 기판(305) 전체에 패턴을 투사 할 수 있지만, 격자 형태 등 주기성을 가지는 패턴으로 공간 해상도를 높이는데 한계가 있다. 따라서 회로 부품(402)의 정확한 엣지 부분의 정확한 깊이 정보를 얻을 수 없다.The first
도 5를 참조하면, 도 5는 본 발명과 관련된 3차원 측정 시스템의 측정 객체인 회로 기판에 최적의 제2 광학 패턴이 조사된 이미지를 설명하기 위한 도면이다.Referring to FIG. 5, FIG. 5 is a view for explaining an image in which a second optimal optical pattern is irradiated onto a circuit board, which is a measurement object of the three-dimensional measurement system related to the present invention.
회로 기판(305) 상에 복수 개의 회로 부품(402)이 배치 되어 있고 3차원 깊이 측정을 위한 제2 광학 패턴(501)이 조사된 이미지이다.Is an image in which a plurality of
제2 광학 패턴(501)은 적외선 영역에 해당되며, 광학 필터부(304)로 빛의 진행 방향을 제어하여 회로 부품(402)의 위치별로 최적의 패턴을 투사 할 수 있고, 비주기성을 가지는 랜덤 스페클 패턴(Random Speckle Pattern)으로 공간 해상도를 높일 수 있다. 따라서 회로 부품(402)의 정확한 엣지 부분의 정확한 깊이 정보를 얻을 수 있다.The second
도 6은 제2 광학 패턴으로 객체에 투사되는 랜덤 스페클 패턴(Random Speckle Pattern)의 사례 이다.6 is an example of a random speckle pattern projected onto an object in a second optical pattern.
도 7은 광학 필터부(304)의 상세 구성도 이다. 도 7을 참고하면 광학 필터부(304)는 확산판(Diffuser, 701)과 전기적으로 제어 가능한 회절 렌즈(Electrically Controlled Diffractive Lens, 702)를 포함한다.Fig. 7 is a detailed configuration diagram of the
확산판(701)은 적외선 레이저 광원으로부터의 레이저 광을 확산시켜 랜덤 스페클 패턴(Random Speckle Pattern)을 생성한다. 또한, 레이저 광원의 스팟 크기(Spot Size)를 조절하여 랜덤 스페클 패턴(Random Speckle Pattern)의 패턴 크기를 조절 할 수 있다. 따라서 회로 부품의 위치나 형상에 따라 최적의 패턴을 선정 할 수 있다.The
회절 렌즈(702)는 랜덤 스페클 패턴(Random Speckle Pattern)의 진행 방향을 변경 할 수 있고 내부에 포함된 액정 소자를 전기적으로 제어하여 필요한 투사 영역에만 패턴이 투사 되도록 투사 영역을 제어할 수 있다.The
도 8은 본 발명의 실시 예에 따른 3차원 형상 측정 시스템의 3차원 형상 측정 방법을 나타낸 흐름도이다. RGB 카메라(302)를 활용해 객체인 회로 기판의 2D 이미지를 획득할 수 있다(801). 일 실시예로, 도 8로 예시된 과정들은 제어부가 다른 객체를 제어하여 수행될 수 있다.8 is a flowchart illustrating a method of measuring a three-dimensional shape of a three-dimensional shape measuring system according to an embodiment of the present invention. The
획득한 2D 이미지를 활용하여 엣지 검출을 위한 이미지 프로세싱을 통해 객체 후보군을 도출할 수 있다(802).An object candidate group can be derived through image processing for edge detection using the acquired 2D image (802).
하나 이상의 패턴 투사부에서 제1 광학 패턴(401)을 객체에 투사한다(803). 제1 광학 패턴(401)은 적외선 영역으로 회로 기판(305) 전체에 투사 가능하지만, 격자 형태 등 주기성을 가지는 패턴으로 공간 해상도를 높이는 데는 한계가 있다. 제1 패턴의 투사는 광학 필터부에 설치된 마이크로 미러(Micro Mirror, 도 10 참조) 및 가동형 프리즘(Prism, 도 9 참조) 중 어느 하나의 광학 소자를 활용하여 적외선 레이저 광원으로부터 입사된 빛의 진행 방향을 제어하여 객체 상에 제1 광학 패턴(401)을 스캐닝 할 수 있다.At least one pattern projection unit projects the first
IR 카메라(301)를 활용해 회로 기판에 제1 광학 패턴이 투사된 이미지를 획득하고, 투사된 패턴 대비 획득한 이미지상의 패턴이 이동한 거리를 측정하여 삼각 측량법에 의해 해당 영역별 깊이 정보를 포함하는 깊이 지도를 산출할 수 있다(804). The image obtained by projecting the first optical pattern onto the circuit board is obtained by using the
객체 후보군과 깊이 지도를 활용하여 회로 부품의 위치를 파악할 수 있다(805). 엣지 검출에 의해 구해진 객체 후보군 중 일부는 기판상에 형성된 마크(Mark)등으로 높이를 가지지 않을 수 있다. 따라서 객체 후보군 해당 영역의 깊이 정보를 가지고 회로 부품(402) 여부를 판단하고 2D 이미지상의 위치 정보를 파악 할 수 있다.The position of the circuit components can be determined by using the object candidate group and the depth map (805). Some of the object candidates obtained by edge detection may not have a height due to a mark or the like formed on the substrate. Accordingly, it is possible to determine whether the
회로 부품(402)별로 최적의 제2 광학 패턴을 선정 한다(806). 회로 부품의 위치, 크기 및 형상 중 어느 하나 이상에 따라 필요한 공간 해상도를 선정하고 레이저 광원의 스팟 크기를 제어하여 랜덤 스페클 패턴(Random Speckle Pattern)의 크기를 조절하여 필요한 공간 해상도를 확보 한다. 일 실시예로 제2 광학 패턴의 해상도는 제1 광학 패턴의 해상도보다 높을 수 있다.The optimum second optical pattern is selected for each circuit component 402 (806). The necessary spatial resolution is selected according to at least one of the position, size and shape of the circuit components, and the spot size of the laser light source is controlled to adjust the size of the random speckle pattern to secure the required spatial resolution. In one embodiment, the resolution of the second optical pattern may be higher than the resolution of the first optical pattern.
하나 이상의 패턴 투사부(303)를 상하 이동하여 패턴 투사 영역을 회로 부품(402) 주변으로 이동 시킨다(807). 특정 각도로 설치된 하나 이상의 패턴 투사부(303)를 상하 이동시켜 패턴이 투사 되는 영역을 이동 시킨다. 이때, 복수의 패턴 투사부(303)의 투사 영역이 해당 회로 부품(402) 주변에 중첩되도록 이동 시킬 수 있다. The
광학 필터부(304)를 제어하여 패턴의 투사 영역을 회로 부품(402)의 위치와 일치시킨다(808). 광학 필터부(304)내의 회절 렌즈(702)의 액정 부분을 전기적으로 제어하여, 회로 부품(402)의 위치에만 패턴이 조사 되도록 제어할 수 있다. 회로 부품별(402)로 선정된 최적의 제2 광학 패턴을 회로 부품(402)의 위치에 따라 지정된 투사 영역에 투사한다(809).The
IR 카메라(301)에 의해 획득된 이미지로 정밀 깊이 지도를 산출한다(810). 투사된 랜덤 스페클 패턴(Random Speckle Pattern)과 획득된 이미지를 비교하여 상대적인 패턴 이동량을 결정하고 깊이 정보를 산출한다. 복수의 패턴 투사부(303)의 투사 영역이 해당 회로 부품(402) 주변에 중첩되도록 이동시킨 경우, 패턴 투사부(303) 별로 패턴의 투사 시점과 이미지 획득 시점을 동기화하여 해당 투사 영역의 깊이 정보를 복수회 산출하여 형상 측정의 정확도를 향상 시킬 수 있다. 이 경우 회로 부품(402)과의 거리가 가까운 패턴 투사부(303)의 경우 다른 패턴 부사부에 비해 깊이 해상도가 높으므로 우선적으로 반영하여 깊이 정보를 생성할 수 있다.A precision depth map is calculated from the image obtained by the IR camera 301 (810). The relative random pattern variation is determined by comparing the projected random speckle pattern with the acquired image, and the depth information is calculated. When the projection area of the plurality of
정밀 깊이 지도를 기준 깊이 정보를 가지는 정상적인 회로 기판(305)의 정보와 비교하여 회로 기판(305)의 불량 여부를 체크 한다(811). The precision depth map is compared with the information of the
도 11은 본 발명의 실시 예에 따른 이미지 패턴의 좌표 변환을 활용한 3차원 형상 측정 시스템의 보정 방법을 나타낸 흐름도이다. 이는 일 실시예로, 도 11에 예시된 과정들은 제어부가 다른 객체를 제어하여 수행될 수 있다.11 is a flowchart illustrating a method of correcting a three-dimensional shape measurement system utilizing coordinate transformation of an image pattern according to an embodiment of the present invention. This is an embodiment, and the processes illustrated in FIG. 11 can be performed by the control unit controlling other objects.
복수의 패턴 투사부(303)를 보정용 측정 위치로 상하 이동시킨다(1101). 이때 각각의 패턴 투사부(303)는 동일한 높이에 있거나, 깊이 해상도를 올리기 위해 제1 패턴 투사부(303)로 지정된 패턴 투사부(303)는 상대적으로 낮은 높이에 위치 시킬 수 있다.The plurality of
임의의 패턴 투사부(303)를 제1 패턴 투사부(303)로 지정하고 보정용 대상 객체인 회로부품(402)별 정확한 깊이값을 알고 있는 회로 기판(305)에 제1 광학 패턴을 투사하고(1102), 적외선 카메라를 통해 제1 패턴이미지를 획득한다(1103). 일 실시예로, 제1 광학 패턴은 주기적인 격자 형태의 저해상도 패턴일 수 있으며, 이 외에도 다양한 형태의 패턴을 활용 할 수 있다.The first optical pattern is projected onto the
제1 패턴 투사부와 상대적인 위치 정보를 알고 있는 지정된 제2 패턴 투사부의 위치 정보를 활용하여 제1 패턴 투사부에 의한 패턴 이미지를 회전 등 좌표 변환 시킨 제2 패턴 이미지를 산출한다(1104). 이미지의 좌표 변환은 제1 패턴 투사부와 제2 패턴 투사부사이의 7 파라미터인 delta X, delta Y, delta Z, X Rotation, Y Rotation, Z Rotation, Scale를 포함한 매트릭스로 좌표 변환 한다. (1104) a second pattern image obtained by performing coordinate transformation on the pattern image by the first pattern projecting unit using the position information of the designated second pattern projecting unit that knows the relative position information with respect to the first pattern projecting unit. The coordinates of the image are transformed into a matrix including delta X, delta Y, delta Z, X Rotation, Y Rotation, Z Rotation, and Scale, which are seven parameters of the first pattern projection part and the second pattern projection part.
7 파마미터 좌표 변환 매트릭스는 도 13과 같이 (X2, Y2, Z2) 좌표계를 a 만큼 이동하여(X1, Y1, Z1) 좌료계로 변환하는 경우 아래의 수학식과 같이 정의 된다.The seven-parameter coordinate transformation matrix is defined as shown in the following equation when the (X2, Y2, Z2) coordinate system is shifted by a (X1, Y1, Z1)
여기에서 R(ω,φ,κ)는 회전 매트릭스(Rotation Matrix)이고, λ는 스케일 팩터(Scale Factor)이고, (Tx, Ty, Tz)는 이동량(Translation) 이다.Where R (?,?,?) Is a rotation matrix,? Is a scale factor, and (Tx, Ty, Tz) is a translation.
지정된 제2 패턴 투사부에서 보정용 대상 객체로 제1 광학 패턴을 투사하고(1105), 적외선 카메라를 활용해 제3 패턴 이미지를 획득한다(1106).A first optical pattern is projected from a designated second pattern projection unit to a target object for correction (1105), and a third pattern image is acquired using an infrared camera (1106).
이미 알고 있는 상대적 위치 정보에 의해 이미지 변환된 제2 패턴 이미지와 실제 패턴 투사에 의해 획득된 제3 패턴 이미지를 비교하여 제1 패턴 투사부와 제2 패턴 투사부 사이의 보정값을 산출한다(1107). 이때 보정값은 패턴 투사부 사이의 위치 및 패턴 투사 광학계의 특성치, 이미지 획득 광학계의 특성치, 이미지 센서의 특성치 중 어느 하나 일수 있다. 패턴 투사부 사이의 위치에 해당하는 보정값은 비교된 이미지에서 파악된 7 파라미터인 delta X, delta Y, delta Z, X Rotation, Y Rotation, Z Rotation, Scale를 포함한한 매트릭스이다.The second pattern image that is image-converted by the known relative position information is compared with the third pattern image obtained by the actual pattern projection, and the correction value between the first pattern projection unit and the second pattern projection unit is calculated 1107 ). At this time, the correction value may be any one of the position between the pattern projection units, the characteristic value of the pattern projection optical system, the characteristic value of the image acquisition optical system, and the characteristic value of the image sensor. The correction value corresponding to the position between the pattern projection units is a matrix including the delta X, delta Y, delta Z, X Rotation, Y Rotation, Z Rotation, and Scale, which are seven parameters identified in the compared image.
제1 패턴 투사부에 대하여 보정값을 구한 제2 패턴 투사부 외에 다른 패턴 투사부와의 보정값을 구하기 위해 제1, 제2 패턴 투사부 외에 다른 패턴 투사부를 제2 패턴 투사부로 지정하고(1108), 제1 패턴 투사부 외에 나머지 다른 패턴 투사부가 모두 비교되어 보정값 생성이 완료 되었는지 판단 하고(1109), 보정값 생성이 안되었으면 (1104) 에서 (1107)까지의 단계를 반복하여 제1 패턴 투사부와 다른 패턴 투사부 사이의 보정값을 구하여 나머지 모든 패턴 투사부와의 보정값을 구하여 제1 패턴 투사부에 대한 보정값 매트릭스를 생성한다(1110).In order to obtain the correction value for the pattern projection unit other than the second pattern projection unit obtained by obtaining the correction value for the first pattern projection unit, a pattern projection unit other than the first and second pattern projection units is designated as the second pattern projection unit 1108 (Step 1109). If the correction value has not been generated,
제1 패턴 투사부에 대한 보정값 매트릭스가 생성되면 제1 패턴 투사부를 다른 패턴 투사부로 지정하고 (1111), (1102)에서 (1109)까지 단계를 반복하여 새로 지정된 제1 패턴 투사부 관련 보정값 매트릭스를 생성한다.When a correction value matrix for the first pattern projection unit is generated, the first pattern projection unit is designated as another
모든 패턴 투사부에 대한 보정값 매트릭스 생성이 완료되면 각각을 서로 비교하여 최소의 보정값을 가지는 최적의 패턴 투사부를 선정한다(1113). 이때 최소의 보정값은 일 실시예로 다양한 조건의 최적의 보정값을 선택할 수 있다.When generation of the correction value matrix for all the pattern projection units is completed, the optimal pattern projection unit having the minimum correction value is selected (1113). In this case, the minimum correction value may be an optimum correction value in various conditions.
최적의 보정값을 제1 보정값으로 지정하고 패턴 투사부 내지 카메라를 보정한다(1114). 일 실시예로 통상 이동이 가능한 패턴 투사부를 위치를 보정하는게 용이하나, 보정값이 패턴 투사부만으로 보정되기 힘든 경우 카메라 위치, 광학 특성, 센서 특성, 이미지 프로세싱 등의 관련 특성치를 보정 할 수 있다. 또한 다른 실시예로 패턴 투사부의 기구적인 이동없이 카메라의 이미지 프로세싱만으로 보정이 가능할 수도 있다. 패턴 투사부의 위치 보정은 7 파라미터인 delta X, delta Y, delta Z, X Rotation, Y Rotation, Z Rotation, Scale를 사용한다.The optimum correction value is designated as the first correction value and the pattern projection unit and the camera are corrected (1114). In one embodiment, it is easy to correct the position of the pattern projection unit that is normally movable. However, if the correction value is difficult to be corrected only by the pattern projection unit, the related characteristic values such as the camera position, optical characteristics, sensor characteristics, and image processing can be corrected. In another embodiment, correction may be possible only by image processing of the camera without mechanical movement of the pattern projection unit. The position correction of the pattern projection section uses the seven parameters delta X, delta Y, delta Z, X Rotation, Y Rotation, Z Rotation, and Scale.
(1101) 단계에서 지정된 측정 위치에서 보정이 완료된 경우, 패턴 투사부를 다른 측정 위치로 이동시키고(1116), 지정된 측정 위치에서 보정이 완료 되었는지 판단하고(1117) 보정이 완료되지 않은 지정된 측정 위치가 남았다면, 변경된 측정 위치로 이동 후 (1101)에서 (1116)까지의 단계를 반복하고 모든 지정된 측정 위치에서 보정이 완료 되었다면 패턴 이미지의 보정단계를 완료한다(1118).If the correction is completed at the measurement position designated at the
도 12는 본 발명의 실시 예에 따른 최적의 보정값 매트릭스가 임계치보다 큰 경우 고해상도의 제2 광학 패턴을 사용하여 정밀 보정을 하는 도 11의 (1114) 단계의 보정 방법의 상세 흐름도이다. 이는 일 실시예로 도 12에 예시된 과정들은 제어부가 다른 객체를 제어하여 수행될 수 있다. FIG. 12 is a detailed flowchart of the correction method of
(1201) 단계에서, 제1 보정값이 임계치보다 작으면 저해상도 제1 광학 패턴을 사용하여 (1113) 단계에서 선정된 제1 보정값을 사용하여 패턴 투사부를 간단히 보정한다. 제1 보정값이 임계치보다 크면 고해상도 제2 광학 패턴을 활용하여 제2 보정값을 선정하여 패턴 투사부와 카메라부를 정밀 보정한다.If the first correction value is smaller than the threshold value in step 1201, the pattern projection unit is simply corrected using the first correction value selected in
최적의 보정값 매트릭스가 임계치보다 큰 경우, 패턴 투사부를 미리 알고 있는 보정용 대상 객체의 목표 객체인 회로 부품 중 고해상도 측정이 가능한 회로 부품의 위치를 관심 영역으로 선정하고 해당 관심 영역으로 패턴 투사부를 상하 이동하고, 광학 필터를 제어하여 투사 영역을 제어하여(1202) 고해상도의 제2 광학 패턴을 투사한다(1203).When the optimum correction value matrix is larger than the threshold value, the position of the circuit component capable of high resolution measurement among the circuit components, which is the target object of the target object for correction, which knows the pattern projection part in advance, is selected as the region of interest and the pattern projection portion is moved up and down , Controls the optical filter to control the projection area (1202), and projects the second optical pattern of high resolution (1203).
적외선 카메라를 통해 깊이 지도를 생성하고(1204), 이미 알고 있는 목표 객체인 회로 부품의 깊이값과 비교하여(1205) 제1 보정값을 보완하는 제2 보정값을 생성한다(1206). 이때 제2 보정값은 패턴 투사부 또는 카메라의 위치 및 패턴 투사 광학계의 특성치, 이미지 획득 광학계의 특성치, 이미지 센서의 특성치 중 어느 하나 일수 있다. 패턴 투사부 또는 카메라의 위치에 해당하는 제2 보정값은 비교된 이미지에서 파악된 7 파라미터인 delta X, delta Y, delta Z, X Rotation, Y Rotation, Z Rotation, Scale를 포함한다. 또한 제2 보정값은 상기 수식과 같이 7 파라미터를 포함하는 매트릭스로 구성될 수 있다.A depth map is generated 1204 using an infrared camera, and a
생성된 제2 보정값에 따라 패턴 투사부를 고해상도의 정밀 보정을 한다(1207). 제1 보정값이 임계치보다 크므로 카메라도 고해상도의 정밀 보정을 한다(1208). The pattern projection unit is precisely corrected with high resolution according to the generated second correction value (1207). Since the first correction value is larger than the threshold value, the camera also performs precision correction with high resolution (1208).
제1 보정값이 임계치보다 작은 경우 제1 보정값을 활용하여 각각의 패턴 투사부의 위치를 간단 보정한다(1215). 이때 보정값은 패턴 투사부 또는 카메라의 위치 및 패턴 투사 광학계의 특성치, 이미지 획득 광학계의 특성치, 이미지 센서의 특성치 중 어느 하나 일수 있다. 패턴 투사부의 위치 보정은 7 파라미터인 delta X, delta Y, delta Z, X Rotation, Y Rotation, Z Rotation, Scale를 포함한다.If the first correction value is smaller than the threshold value, the position of each pattern projection unit is corrected using the first correction value (1215). At this time, the correction value may be any one of a pattern projection unit, a position of a camera, a characteristic value of a pattern projection optical system, a characteristic value of an image acquisition optical system, and a characteristic value of an image sensor. The position correction of the pattern projection section includes seven parameters delta X, delta Y, delta Z, X Rotation, Y Rotation, Z Rotation, and Scale.
고해상도 정밀 보정 영역과 저해상도 간단 보정 영역은 서로 다르게 할 수 있다. 예를 들면 회로 부품의 크기가 패턴의 크기에 비해 상대적으로 작은 경우 고해상도 정밀 보정 영역으로 지정할 수 있다, The high-resolution precise correction region and the low-resolution simple correction region can be different. For example, if the size of the circuit component is relatively small compared to the size of the pattern, it can be designated as a high resolution precision correction area,
보정의 반복 주기도 상대적으로 계산량이 적은 간단 보정의 실시 횟수를 정밀 보정의 실시 횟수 대비 더 자주 실시할 수 있다.The repetition period of the correction can be carried out more often than the number of times of performing the simple correction with a relatively small amount of calculation compared to the number of times of the precise correction.
전술한 본 발명은, 프로그램이 기록된 매체에 컴퓨터가 읽을 수 있는 코드로서 구현하는 것이 가능하다. 컴퓨터가 읽을 수 있는 매체는, 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록장치를 포함한다. 컴퓨터가 읽을 수 있는 매체의 예로는, HDD(Hard Disk Drive), SSD(Solid State Disk), SDD(Silicon Disk Drive), ROM, RAM, CD-ROM, 자기 테이프, 플로피 디스크, 광 데이터 저장 장치 등이 있으며, 또한 캐리어 웨이브(예를 들어, 인터넷을 통한 전송)의 형태로 구현되는 것도 포함한다. 또한, 상기 컴퓨터는 제어부를 포함할 수도 있다. The present invention described above can be embodied as computer-readable codes on a medium on which a program is recorded. The computer readable medium includes all kinds of recording devices in which data that can be read by a computer system is stored. Examples of the computer readable medium include a hard disk drive (HDD), a solid state disk (SSD), a silicon disk drive (SDD), a ROM, a RAM, a CD-ROM, a magnetic tape, a floppy disk, , And may also be implemented in the form of a carrier wave (e.g., transmission over the Internet). In addition, the computer may include a control unit.
따라서, 상기의 상세한 설명은 모든 면에서 제한적으로 해석되어서는 아니되고 예시적인 것으로 고려되어야 한다. 본 발명의 범위는 첨부된 청구항의 합리적 해석에 의해 결정되어야 하고, 본 발명의 등가적 범위 내에서의 모든 변경은 본 발명의 범위에 포함된다Accordingly, the above description should not be construed in a limiting sense in all respects and should be considered illustrative. It is intended that the scope of the invention be determined by rational interpretation of the appended claims and that all changes which come within the meaning and range of equivalency of the invention are intended to be embraced therein
100 : 대상 객체 210 : 적외선 조명
220 : 흑백 센서 내의 렌즈(220) 230 : 기준면
240 : 객체 250 : 촬상 장치의 이미지 면
300 : 3차원 형상 측정 시스템 301 : 칼라 카메라
302 : 적외선 카메라 303 : 패턴 투사부
304 : 광학 필터부 305 : 회로 기판
306 : 제어부 401 : 제1 광학 패턴
402 : 회로 부품 501 : 제2 광학 패턴
701 : 확산판 702 : 회절렌즈100: Target object 210: Infrared illumination
220:
240: Object 250: Image plane of the imaging device
300: Three-dimensional shape measuring system 301: Color camera
302: infrared camera 303: pattern projection unit
304: Optical filter unit 305: Circuit board
306: control unit 401: first optical pattern
402: circuit component 501: second optical pattern
701: diffusion plate 702: diffraction lens
Claims (17)
카메라로 상기 제1 패턴 투사부의 제1 패턴 이미지를 획득하는 단계;
상대적 위치를 알고 있는 제2 패턴 투사부의 위치 정보에 기반하여 상기 제1 패턴 이미지를 좌표 변환하여 제2 패턴 이미지를 생성하는 단계;
상기 제2 패턴 투사부로 상기 보정용 대상 객체에 상기 저해상도 제1 광학 패턴을 투사하는 단계;
상기 카메라로 상기 제2 패턴 투사부의 제3 패턴 이미지를 획득하는 단계;
상기 제2 패턴 이미지와 상기 제3 패턴 이미지를 비교하여 제1 보정값을 생성하는 단계 및
상기 제1 보정값을 임계치와 비교하여 정밀 보정 여부를 판단하는 단계를 포함하며,
상기 정밀 보정 단계는 상기 보정용 대상 객체 내의 목표 객체가 위치한 하나 이상의 관심 영역별로 고해상도 제2 광학 패턴을 투사하여 깊이 지도를 생성하는 단계;
이미 알고 있는 상기 목표 객체의 깊이 값과 상기 깊이 지도를 비교하여 제2 보정값을 생성하는 단계 및
제2 보정값을 활용하여 시스템을 보정하는 단계를 포함하는 3차원 형상 측정 시스템의 보정 방법.Projecting a low-resolution first optical pattern onto a target object for correction with a first pattern projection unit;
Obtaining a first pattern image of the first pattern projection unit with a camera;
Generating a second pattern image by performing coordinate transformation on the first pattern image based on positional information of a second pattern projection unit having a known relative position;
Projecting the first low-resolution optical pattern onto the object to be corrected with the second pattern projection unit;
Obtaining a third pattern image of the second pattern projection unit with the camera;
Comparing the second pattern image and the third pattern image to generate a first correction value, and
Comparing the first correction value with a threshold value to determine whether the correction is precise,
Generating a depth map by projecting a high-resolution second optical pattern for each of at least one ROI in which the target object in the target object for correction is located;
Comparing the depth value of the target object already known with the depth map to generate a second correction value; and
And correcting the system using a second correction value.
상기 보정용 대상 객체는 회로 기판이고, 목표 객체는 회로 부품이고, 카메라는 적외선 카메라인 3차원 형상 측정 시스템의 보정 방법.The method of claim 1, wherein
Wherein the correction target object is a circuit board, the target object is a circuit component, and the camera is an infrared camera.
상기 보정용 대상 객체에 상기 저해상도 제1 광학 패턴을 투사하는 단계는 복수의 패턴 투사부를 미리 지정된 측정 위치로 상하 이동시켜 광학 패턴을 투사하는 3차원 형상 측정 시스템의 보정 방법.The method of claim 1, wherein
Wherein projecting the first low-resolution optical pattern onto the object to be corrected comprises projecting the optical pattern by vertically moving the plurality of pattern projecting portions to a predetermined measurement position.
상기 제1 보정값을 생성하는 단계는 상기 제1 패턴 투사부를 제외한 나머지 패턴 투사부를 순차적으로 제2 패턴 투사부로 지정하여 각각의 제1 보정값을 생성하도록 반복 실시하여 상기 제1 패턴 투사부의 보정값 매트릭스를 생성하는 3차원 형상 측정 시스템의 보정 방법.The method of claim 1, wherein
Wherein the generating of the first correction value is performed by sequentially designating the remaining pattern projecting units other than the first pattern projecting unit as the second pattern projecting unit to repeatedly generate the first correction values, A method for calibrating a three-dimensional shape measuring system for generating a matrix.
상기 제1 보정값을 생성하는 단계는,
상기 제1 패턴 투사부를 순차적으로 변경하여 각각의 패턴 투사부의 보정값 매트릭스를 생성하고, 이중 최적의 보정값 매트릭스를 상기 제1 보정값으로 지정하는 3차원 형상 측정 시스템의 보정 방법.5. The method of claim 4,
Wherein the generating the first correction value comprises:
Wherein the first pattern projection unit is sequentially changed to generate a correction value matrix of each pattern projection unit, and the optimum correction value matrix is designated as the first correction value.
패턴 투사부를 상하 이동시켜 상기 측정 위치를 변경하여 서로 다른 측정 위치에서 시스템을 보정하는 3차원 형상 측정 시스템의 보정 방법.The method of claim 3, wherein
And correcting the system at different measurement positions by changing the measurement position by moving the pattern projection unit up and down.
상기 제1 보정값을 임계치와 비교하는 단계는 임계치보다 작은 경우 상기 제1 보정값을 활용하여 상기 패턴 투사부의 간단 보정을 실시하고, 임계치보다 큰 경우 상기 제2 보정값을 활용하여 상기 패턴 투사부의 정밀 보정을 실시하는 3차원 형상 측정 시스템의 보정 방법.The method of claim 1, wherein
Wherein the step of comparing the first correction value with a threshold value includes a step of performing simple correction of the pattern projecting unit by utilizing the first correction value when the first correction value is smaller than a threshold value, A method of correcting a three-dimensional shape measurement system that performs precision correction.
상기 정밀 보정은 카메라의 정밀 보정을 실시하는 단계를 더 포함하는 3차원 형상 측정 시스템의 보정 방법.The method of claim 7, wherein
Wherein the precision correction further comprises performing a precision correction of the camera.
상기 정밀 보정 내지 상기 간단 보정의 실시 횟수는 서로 다르게 하는 3차원 형상 측정 시스템의 보정 방법.The method of claim 7, wherein
Wherein the number of times of performing the precision correction or the simple correction is different from each other.
상기 관심 영역은 상기 목표 객체의 크기에 의해 지정되는 3차원 형상 측정 시스템의 보정 방법.The method of claim 1, wherein
Wherein the region of interest is specified by the size of the target object.
상기 간단 보정과 상기 정밀 보정이 실시되는 상기 보정용 대상 객체의 상기 관심 영역은 서로 다르게 지정하는 3차원 형상 측정 시스템의 보정 방법.The method of claim 7, wherein
Wherein the region of interest of the object for correction to be subjected to the simple correction and the precision correction is differently specified.
저해상도 제1 광학 패턴을 상기 보정용 대상 객체에 투사하는 하나 이상의 제1 광학 필터부;
고해상도 제2 광학 패턴을 생성하고, 상기 관심 영역에 상기 고해상도 제2 광학 패턴이 투사되도록 투사 영역을 제어하는 하나 이상의 제2 광학 필터부;
상기 보정용 대상 객체에 투사된 광학 패턴 이미지를 획득하는 카메라;
상기 패턴 투사부와 상기 카메라를 제어하고, 보정값을 산출하는 제어부를 포함하고, 상기 제어부는
상기 패턴 투사부 중 지정된 제1 패턴 투사부의 패턴 이미지를 알고 있는 제2 패턴 투사부의 위치 정보에 의해 좌표 변환된 패턴 이미지와 상기 제2 패턴 투사부의 패턴 이미지를 비교하여 제1 보정값을 산출하고, 상기 제1 보정값을 임계치와 비교하여 정밀 보정 실시 여부를 판단하고, 상기 투사 영역에 고해상도 제2 광학 패턴을 투사하여 산출된 깊이 지도와 이미 알고 있는 상기 목표 객체의 깊이 값을 비교하여 제2 보정값을 산출하고, 상기 제2 보정값을 활용하여 시스템을 보정하는 3차원 형상 측정 시스템.One or more pattern projecting units for controlling a region of interest corresponding to a position of a target object included in a target object for correction by up-and-down movement;
At least one first optical filter unit for projecting a low-resolution first optical pattern onto the object to be corrected;
At least one second optical filter unit for generating a high-resolution second optical pattern and controlling the projection area so that the high-resolution second optical pattern is projected onto the area of interest;
A camera for acquiring an optical pattern image projected on the object for correction;
And a control unit for controlling the pattern projection unit and the camera and calculating a correction value, wherein the control unit
Calculating a first correction value by comparing the pattern image of the second pattern projecting unit with the pattern image of the second pattern projecting unit, the pattern image being coordinate-converted by the position information of the second pattern projecting unit that knows the pattern image of the designated first pattern projecting unit among the pattern projecting units, Comparing the first correction value with a threshold value to determine whether or not precise correction is to be performed, comparing a depth map calculated by projecting the second high-resolution optical pattern to the projection area, and a depth value of the target object, And correcting the system by utilizing the second correction value.
상기 보정용 대상 객체는 회로 기판이고, 목표 객체는 회로 부품이고, 상기 카메라는 적외선 카메라인 3차원 형상 측정 시스템.The method of claim 12, wherein
Wherein the object to be corrected is a circuit board, the target object is a circuit component, and the camera is an infrared camera.
상기 제어부는 상기 제1 보정값을 임계치와 비교하여 임계치보다 작은 경우 상기 제1 보정값을 활용하여 상기 패턴 투사부의 간단 보정을 실시하고, 임계치보다 큰 경우 상기 제2 보정값을 활용하여 상기 패턴 투사부의 상기 정밀 보정을 실시하는 3차원 형상 측정 시스템.The method of claim 12, wherein
Wherein the control unit compares the first correction value with a threshold value to perform a simple correction of the pattern projection unit using the first correction value when the first correction value is smaller than a threshold value and if the second correction value is larger than the threshold value, Dimensional shape measurement system for performing the above-mentioned precision correction.
상기 제어부는 상기 정밀 보정을 실시하는 경우 카메라의 정밀 보정을 실시하는 3차원 형상 측정 시스템.The method of claim 14, wherein
Wherein the controller performs precision correction of the camera when performing the precision correction.
상기 제어부는 상기 정밀 보정 및 상기 간단 보정의 실시 횟수를 다르게 제어하는 3차원 형상 측정 시스템.The method of claim 14, wherein
Wherein the control unit controls the number of times of the precision correction and the simple correction differently.
상기 제어부는 상기 간단 보정과 상기 정밀 보정이 실시되는 상기 관심 영역은 서로 다르게 지정하는 3차원 형상 측정 시스템.The method of claim 14, wherein
Wherein the control unit specifies the region of interest in which the simple correction and the precision correction are performed differently.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020180043965A KR101981533B1 (en) | 2018-04-16 | 2018-04-16 | Calibration method of 3 dimensional shape detection system |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020180043965A KR101981533B1 (en) | 2018-04-16 | 2018-04-16 | Calibration method of 3 dimensional shape detection system |
Publications (1)
Publication Number | Publication Date |
---|---|
KR101981533B1 true KR101981533B1 (en) | 2019-05-23 |
Family
ID=66680931
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020180043965A KR101981533B1 (en) | 2018-04-16 | 2018-04-16 | Calibration method of 3 dimensional shape detection system |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR101981533B1 (en) |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101659302B1 (en) * | 2015-04-10 | 2016-09-23 | 주식회사 고영테크놀러지 | Three-dimensional shape measurement apparatus |
KR101705762B1 (en) * | 2015-09-02 | 2017-02-14 | 주식회사 미르기술 | Method for Correcting tilt of 3D shape measuring device |
-
2018
- 2018-04-16 KR KR1020180043965A patent/KR101981533B1/en active IP Right Grant
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101659302B1 (en) * | 2015-04-10 | 2016-09-23 | 주식회사 고영테크놀러지 | Three-dimensional shape measurement apparatus |
KR101705762B1 (en) * | 2015-09-02 | 2017-02-14 | 주식회사 미르기술 | Method for Correcting tilt of 3D shape measuring device |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR101121691B1 (en) | Three-dimensional measurement device | |
EP0563829B1 (en) | Device for inspecting printed cream solder | |
US10563977B2 (en) | Three-dimensional measuring device | |
US9885669B2 (en) | Method of inspecting a substrate | |
KR101118195B1 (en) | Three-dimensional measurement device | |
US10126252B2 (en) | Enhanced illumination control for three-dimensional imaging | |
CN103201617B (en) | Substrate inspecting method | |
US9423242B2 (en) | Board-warping measuring apparatus and board-warping measuring method thereof | |
KR102011910B1 (en) | 3 dimensional shape detection apparatus and method | |
CN104937367A (en) | Multi-camera sensor for three-dimensional imaging of a circuit board | |
JP7174768B2 (en) | 3D measuring device | |
WO2016199439A1 (en) | Three-dimensional measurement device | |
JP5787258B2 (en) | Method and apparatus for measuring the position of a contact element of an electronic component | |
JP5096852B2 (en) | Line width measuring apparatus and inspection method of line width measuring apparatus | |
KR101981533B1 (en) | Calibration method of 3 dimensional shape detection system | |
JP4030726B2 (en) | Solder printing inspection device | |
US11930600B2 (en) | Three-dimensional measurement apparatus and three-dimensional measurement method | |
JP2001124700A (en) | Calibration method of inspection machine with line sensor camera | |
JP2010181299A (en) | Three-dimensional measuring instrument | |
JPH0611321A (en) | Method for inspecting solder printing | |
JP2002098513A (en) | Lens frame form measuring device | |
JP2002081924A (en) | Three-dimensional measuring device | |
JP2017096866A (en) | Three-dimensional measuring device | |
JP2024070012A (en) | Image inspection of semiconductor element | |
JP6729248B2 (en) | Inspection device, inspection method, inspection program, and object manufacturing method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
GRNT | Written decision to grant |