KR20240049958A - Multi-camera lens defect screening method and system using stitching condition - Google Patents

Multi-camera lens defect screening method and system using stitching condition Download PDF

Info

Publication number
KR20240049958A
KR20240049958A KR1020220129486A KR20220129486A KR20240049958A KR 20240049958 A KR20240049958 A KR 20240049958A KR 1020220129486 A KR1020220129486 A KR 1020220129486A KR 20220129486 A KR20220129486 A KR 20220129486A KR 20240049958 A KR20240049958 A KR 20240049958A
Authority
KR
South Korea
Prior art keywords
camera
straight line
image
defect
intersection
Prior art date
Application number
KR1020220129486A
Other languages
Korean (ko)
Inventor
이익현
김민식
Original Assignee
(주)캠시스
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by (주)캠시스 filed Critical (주)캠시스
Priority to KR1020220129486A priority Critical patent/KR20240049958A/en
Publication of KR20240049958A publication Critical patent/KR20240049958A/en

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01MTESTING STATIC OR DYNAMIC BALANCE OF MACHINES OR STRUCTURES; TESTING OF STRUCTURES OR APPARATUS, NOT OTHERWISE PROVIDED FOR
    • G01M11/00Testing of optical apparatus; Testing structures by optical methods not otherwise provided for
    • G01M11/02Testing optical properties
    • G01M11/0242Testing optical properties by measuring geometrical properties or aberrations
    • G01M11/0278Detecting defects of the object to be tested, e.g. scratches or dust
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01MTESTING STATIC OR DYNAMIC BALANCE OF MACHINES OR STRUCTURES; TESTING OF STRUCTURES OR APPARATUS, NOT OTHERWISE PROVIDED FOR
    • G01M11/00Testing of optical apparatus; Testing structures by optical methods not otherwise provided for
    • G01M11/02Testing optical properties
    • G01M11/0242Testing optical properties by measuring geometrical properties or aberrations
    • G01M11/0257Testing optical properties by measuring geometrical properties or aberrations by analyzing the image formed by the object to be tested
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/80Geometric correction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • G06T7/001Industrial image inspection using an image reference approach
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/13Edge detection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/81Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/265Mixing

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Geometry (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Quality & Reliability (AREA)
  • Studio Devices (AREA)

Abstract

스티칭 조건을 이용한 멀티카메라 렌즈 불량 선별 방법 및 시스템이 개시된다. 본 발명의 일 실시예에 따른 스티칭 조건을 이용한 멀티카메라의 렌즈 불량을 선별하는 시스템은, 검사 패턴을 상기 멀티카메라가 촬영한 카메라 영상을 획득하고, 왜곡 보정하는 영상 획득부; 왜곡 보정된 카메라 영상을 스티칭 기법으로 결합하여 합성 영상을 생성하는 스티칭 적용부; 상기 합성 영상에 포함되는 패턴 이미지의 교차점과 상기 검사 패턴의 교차점을 비교하는 교차점 검사부; 상기 합성 영상에 대해 지정된 영상 처리 기법으로 직선을 도출하여 직선의 기울기를 검사하는 직선 검사부; 및 상기 교차점 검사부에의 비교 결과 교차점의 수가 상이하거나 상기 직선 검사부에서의 검사 결과 상기 직선의 기울기가 기준값 이상일 경우 렌즈 불량이 있는 것으로 결과 출력하는 불량 선별부를 포함할 수 있다.A method and system for selecting defective multicamera lenses using stitching conditions are disclosed. A system for selecting lens defects of a multi-camera using stitching conditions according to an embodiment of the present invention includes an image acquisition unit that acquires an inspection pattern from a camera image captured by the multi-camera and corrects distortion; A stitching application unit that generates a composite image by combining distortion-corrected camera images using a stitching technique; an intersection inspection unit that compares an intersection of a pattern image included in the composite image with an intersection of the inspection pattern; a straight line inspection unit that derives a straight line from the synthesized image using a designated image processing technique and checks the slope of the straight line; and a defect selection unit that outputs a result that there is a lens defect if the number of intersection points is different as a result of comparison in the intersection inspection unit or if the slope of the straight line is greater than a reference value as a result of inspection in the straight line inspection unit.

Description

스티칭 조건을 이용한 멀티카메라 렌즈 불량 선별 방법 및 시스템{Multi-camera lens defect screening method and system using stitching condition}Multi-camera lens defect screening method and system using stitching condition {Multi-camera lens defect screening method and system using stitching condition}

본 발명은 멀티카메라 렌즈 불량 선별 방법 및 시스템에 관한 것으로, 보다 상세하게는 스티칭 조건을 이용한 멀티카메라 렌즈 불량 선별 방법 및 시스템에 관한 것이다. The present invention relates to a method and system for selecting defective multi-camera lenses, and more specifically, to a method and system for selecting defective multi-camera lenses using stitching conditions.

기술 발전에 따라 카메라의 공급량이 증가하고 멀티카메라가 상용화되면서 이를 이용한 카메라 영상 결합(스티칭 혹은 파노라마) 기술 또한 발전되었다. 이에 따라 카메라별 이물 부착(얼룩) 및 스크래치 등 원자재의 불량에 대한 신뢰성 있는 카메라 제품을 제공하기 위한 검사결과가 필요하게 되었다. As technology advances, the supply of cameras increases and multi-cameras become commercialized, camera image combining (stitching or panorama) technology using them has also been developed. Accordingly, inspection results for each camera for defects in raw materials such as foreign matter adhesion (stains) and scratches have become necessary to provide reliable camera products.

휴대폰 카메라의 경우 모듈 자체의 불량 혹은 사용자의 관리 미흡으로 인해 불량 발생이 있을 수 있다. 이물이 있을 경우 정상적인 이미지가 출력되지 않으므로 멀티카메라의 품질을 저하시키는 원인이 된다. In the case of mobile phone cameras, defects may occur due to defects in the module itself or insufficient management by the user. If there is a foreign object, normal images are not output, which causes the quality of the multi-camera to deteriorate.

또한, 이물이나 얼룩으로 인한 렌즈 불량의 경우 스티칭 기능이 정상적으로 동작하지 않거나 이미지 합성의 결과가 틀어지는 문제가 발생하여 정상적인 결과물을 얻을 수 없다. Additionally, in the case of lens defects due to foreign substances or stains, the stitching function may not operate properly or the image composition results may be distorted, making it impossible to obtain normal results.

종래에는 멀티카메라 촬영 시 얼룩, 스크래치, 이물 부착과 같은 불량이 발생한 경우 육안으로 확인하는 방법을 사용하였다. 또한, 대부분 렌즈상 스크래치, 얼룩 등의 원인에 대한 자동 판정의 기준을 파악하지 못하여 검출 효율이 낮은 문제점을 안고 있었다. Conventionally, when defects such as stains, scratches, or adhesion of foreign substances occurred during multi-camera shooting, a method of visually checking was used. In addition, most of them had the problem of low detection efficiency because they could not identify the criteria for automatic determination of the causes of scratches and stains on the lens.

한국등록특허 제10-2184950호 (2020.11.25. 등록) - 파노라마 이미지화를 위한 시스템Korean Patent No. 10-2184950 (registered on November 25, 2020) - System for panoramic imaging

본 발명은 멀티카메라의 스티칭 기능을 통해 렌즈의 이물 흡착 또는 지문과 같은 얼룩으로 인한 불량에 대해 카메라 상태 정보를 사용자에게 알려주고, 카메라 간의 보간 방식과 스티칭 결과를 활용한 이물 추적 검사의 기준을 마련하고 신뢰성 있는 데이터를 제공해 줄 수 있는 스티칭 조건을 이용한 멀티카메라 렌즈 불량 선별 방법 및 시스템을 제공하기 위한 것이다. The present invention provides the user with camera status information about defects caused by adsorption of foreign substances on the lens or stains such as fingerprints through the stitching function of a multi-camera, establishes a standard for foreign matter tracking inspection using the interpolation method between cameras and stitching results, and The purpose is to provide a method and system for selecting defective multicamera lenses using stitching conditions that can provide reliable data.

본 발명의 다른 목적들은 이하에 서술되는 바람직한 실시예를 통하여 보다 명확해질 것이다.Other objects of the present invention will become clearer through the preferred embodiments described below.

본 발명의 일 측면에 따르면, 스티칭 조건을 이용한 멀티카메라의 렌즈 불량을 선별하는 시스템으로서, 검사 패턴을 상기 멀티카메라가 촬영한 카메라 영상을 획득하고, 왜곡 보정하는 영상 획득부; 왜곡 보정된 카메라 영상을 스티칭 기법으로 결합하여 합성 영상을 생성하는 스티칭 적용부; 상기 합성 영상에 포함되는 패턴 이미지의 교차점과 상기 검사 패턴의 교차점을 비교하는 교차점 검사부; 상기 합성 영상에 대해 지정된 영상 처리 기법으로 직선을 도출하여 직선의 기울기를 검사하는 직선 검사부; 및 상기 교차점 검사부에의 비교 결과 교차점의 수가 상이하거나 상기 직선 검사부에서의 검사 결과 상기 직선의 기울기가 기준값 이상일 경우 렌즈 불량이 있는 것으로 결과 출력하는 불량 선별부를 포함하는 멀티카메라 렌즈 불량 선별 시스템이 제공된다. According to one aspect of the present invention, there is a system for selecting lens defects of a multi-camera using stitching conditions, comprising: an image acquisition unit that acquires an inspection pattern from a camera image captured by the multi-camera and corrects distortion; A stitching application unit that generates a composite image by combining distortion-corrected camera images using a stitching technique; an intersection inspection unit that compares an intersection of a pattern image included in the composite image with an intersection of the inspection pattern; a straight line inspection unit that derives a straight line from the synthesized image using a designated image processing technique and checks the slope of the straight line; and a defect sorting unit that outputs a result indicating that there is a lens defect when the number of intersections is different as a result of comparison with the intersection point inspection unit or when the slope of the straight line is greater than a reference value as a result of the inspection by the straight line inspection unit. A multi-camera lens defect screening system is provided. .

상기 영상 획득부는 상기 카메라 영상에서 틀어짐 발생 시 주변부 밝기에 대한 보간을 진행한 후 왜곡 보정을 수행할 수 있다.When distortion occurs in the camera image, the image acquisition unit may perform distortion correction after interpolating the brightness of the peripheral area.

상기 직선 검사부는 시-토마시 검출 알고리즘을 이용하여 코너점을 추출하고, 상기 코너점을 토대로 거리당 상대 차 비율을 환산하여 보간하며, 보간된 합성 영상을 기준으로 엣지 검출 기법을 통해 직진 성분 매칭을 진행하여 상기 직선의 기울에 따른 틸트량을 환산할 수 있다.The straight line inspection unit extracts corner points using the Si-Tomas detection algorithm, converts and interpolates the relative difference ratio per distance based on the corner points, and performs straight component matching through an edge detection technique based on the interpolated composite image. Proceeding, the tilt amount according to the slope of the straight line can be converted.

상기 불량 선별부는 불량 확정된 픽셀의 컬러값을 추출하고, 밝기에 따른 비율차와 상기 틸트량을 기준으로 특성값을 도출하여 상기 렌즈 불량을 이물, 얼룩 혹은 정상으로 구분하여 판정할 수 있다.The defect selection unit extracts the color value of a pixel that is confirmed to be defective, derives characteristic values based on the ratio difference according to brightness and the tilt amount, and can classify the lens defect as a foreign matter, stain, or normal.

상기 불량 선별부는 하기 수학식에 따라 상기 렌즈 불량을 구분하되,The defect selection unit classifies the lens defects according to the following equation,

여기서, C는 시-토마시 검출 좌표이고, D는 시-토마시 검출 좌표 간의 상대 거리이며, R은 보간 결과이고, Here, C is the Si-Tomas detection coordinate, D is the relative distance between Si-Tomas detection coordinates, and R is the interpolation result,

시-토마시 검출 좌표 보간 구간 내 좌표가 있는 경우를 토대로 검출 좌표(C)를 선택하고, 이를 통한 엣지 라인(E)이 있는 경우를 기준으로 매칭 포인트(M)를 설정하며, 설정된 매칭 포인트(M)를 기반으로 시-토마시 검출 좌표(C)의 차로 틸트량(T)를 확인하고, The detection coordinates (C) are selected based on the case where there are coordinates within the Si-Tomas detection coordinate interpolation section, the matching point (M) is set based on the case where there is an edge line (E) through this, and the set matching point (M ), check the tilt amount (T) as the difference between Si-Tomasi detection coordinates (C),

불량 확정된 픽셀의 컬러값 및 밝기값(R, G, B, Y 값)을 추출하고, 밝기에 따른 비율차(컬러차액)(U)와 틸트량(T)을 기준으로 특성값(A)을 도출하며,Extract the color and brightness values (R, G, B, Y values) of pixels that are confirmed to be defective, and characterize the characteristic values (A) based on the ratio difference (color difference) (U) and tilt amount (T) according to brightness. Derives

상기 불량 선별부는 특성값(A)이 1을 넘는 경우 이물로 판정하고, 0.5 ~ 1 까지는 얼룩으로 판정하며, 0.5 이하인 경우에는 정상 판정할 수 있다.If the characteristic value (A) exceeds 1, the defect screening unit determines it as a foreign matter, if the characteristic value (A) exceeds 1, it determines it as a stain, and if it is 0.5 or less, it can be judged as normal.

한편 본 발명의 다른 측면에 따르면, 스티칭 조건을 이용한 멀티카메라의 렌즈 불량을 선별하는 방법으로서, 영상 획득부에서 검사 패턴을 상기 멀티카메라가 촬영한 카메라 영상을 획득하는 단계; 상기 카메라 영상에 대해 왜곡 보정을 수행하는 단계; 스티칭 적용부에서 왜곡 보정된 카메라 영상을 스티칭 기법으로 결합하여 합성 영상을 생성하는 단계; 교차점 검사부에서 상기 합성 영상에 포함되는 패턴 이미지의 교차점과 상기 검사 패턴의 교차점을 비교하는 단계; 직선 검사부에서 상기 합성 영상에 대해 지정된 영상 처리 기법으로 직선을 도출하여 직선의 기울기를 검사하는 단계; 및 불량 선별부에서는 상기 교차점 검사부에의 비교 결과 교차점의 수가 상이하거나 상기 직선 검사부에서의 검사 결과 상기 직선의 기울기가 기준값 이상일 경우 렌즈 불량이 있는 것으로 결과 출력하는 불량 선별 단계를 포함하는 멀티카메라 렌즈 불량 선별 방법이 제공된다. Meanwhile, according to another aspect of the present invention, there is a method of selecting a lens defect of a multi-camera using stitching conditions, comprising: acquiring a camera image of an inspection pattern captured by the multi-camera in an image acquisition unit; performing distortion correction on the camera image; Generating a composite image by combining distortion-corrected camera images in a stitching application unit using a stitching technique; Comparing, in an intersection inspection unit, an intersection of a pattern image included in the composite image and an intersection of the inspection pattern; In a straight line inspection unit, deriving a straight line using a designated image processing technique for the composite image and inspecting the slope of the straight line; and a defect screening step in which the defect screening unit outputs a result as a lens defect if the number of intersections is different as a result of comparison with the intersection inspection unit or the slope of the straight line is greater than a reference value as a result of inspection in the straight line inspection unit. A screening method is provided.

상기 왜곡 보정 수행 단계에서, 상기 카메라 영상에서 틀어짐 발생 시 주변부 밝기에 대한 보간을 진행한 후 왜곡 보정을 수행할 수 있다.In the distortion correction performing step, when distortion occurs in the camera image, distortion correction may be performed after interpolation of peripheral brightness is performed.

상기 직선의 기울기 검사 단계는, 시-토마시 검출 알고리즘을 이용하여 코너점을 추출하는 단계와; 상기 코너점을 토대로 거리당 상대 차 비율을 환산하여 보간하는 단계와; 보간된 합성 영상을 기준으로 엣지 검출 기법을 통해 직진 성분 매칭을 진행하여 상기 직선의 기울에 따른 틸트량을 환산하는 단계를 포함할 수 있다.The step of checking the slope of the straight line includes extracting a corner point using a Si-Tomasi detection algorithm; Converting and interpolating the relative difference ratio per distance based on the corner point; The method may include converting a tilt amount according to the inclination of the straight line by performing straight component matching using an edge detection technique based on the interpolated composite image.

상기 불량 선별 단계는, 불량 확정된 픽셀의 컬러값을 추출하는 단계와; 밝기에 따른 비율차와 상기 틸트량을 기준으로 특성값을 도출하여 상기 렌즈 불량을 이물, 얼룩 혹은 정상으로 구분하여 판정하는 단계를 포함할 수 있다.The defect selection step includes extracting color values of pixels determined to be defective; It may include the step of deriving characteristic values based on the ratio difference according to brightness and the tilt amount and classifying the lens defect as foreign matter, stain, or normal.

상기 불량 선별 단계에서는 하기 수학식에 따라 상기 렌즈 불량을 구분하되, In the defect selection step, the lens defects are classified according to the following equation,

여기서, C는 시-토마시 검출 좌표이고, D는 시-토마시 검출 좌표 간의 상대 거리이며, R은 보간 결과이고, Here, C is the Si-Tomas detection coordinate, D is the relative distance between Si-Tomas detection coordinates, and R is the interpolation result,

시-토마시 검출 좌표 보간 구간 내 좌표가 있는 경우를 토대로 검출 좌표(C)를 선택하고, 이를 통한 엣지 라인(E)이 있는 경우를 기준으로 매칭 포인트(M)를 설정하며, 설정된 매칭 포인트(M)를 기반으로 시-토마시 검출 좌표(C)의 차로 틸트량(T)를 확인하고, The detection coordinates (C) are selected based on the case where there are coordinates within the Si-Tomas detection coordinate interpolation section, the matching point (M) is set based on the case where there is an edge line (E) through this, and the set matching point (M ), check the tilt amount (T) as the difference between Si-Tomasi detection coordinates (C),

불량 확정된 픽셀의 컬러값 및 밝기값(R, G, B, Y 값)을 추출하고, 밝기에 따른 비율차(컬러차액)(U)와 틸트량(T)을 기준으로 특성값(A)을 도출하며,Extract the color and brightness values (R, G, B, Y values) of pixels that are confirmed to be defective, and characterize the characteristic values (A) based on the ratio difference (color difference) (U) and tilt amount (T) according to brightness. Derives

상기 불량 선별부는 특성값(A)이 1을 넘는 경우 이물로 판정하고, 0.5 ~ 1 까지는 얼룩으로 판정하며, 0.5 이하인 경우에는 정상 판정할 수 있다.If the characteristic value (A) exceeds 1, the defect screening unit determines it as a foreign matter, if the characteristic value (A) exceeds 1, it determines it as a stain, and if it is 0.5 or less, it can be judged as normal.

전술한 것 외의 다른 측면, 특징, 이점이 이하의 도면, 청구범위 및 발명의 상세한 설명으로부터 명확해질 것이다.Other aspects, features and advantages in addition to those described above will become apparent from the following drawings, claims and detailed description of the invention.

본 발명의 실시예에 따르면, 멀티카메라의 스티칭 기능을 통해 렌즈의 이물 흡착 또는 지문과 같은 얼룩으로 인한 불량에 대해 카메라 상태 정보를 사용자에게 알려주고, 카메라 간의 보간 방식과 스티칭 결과를 활용한 이물 추적 검사의 기준을 마련하고 신뢰성 있는 데이터를 제공해 줄 수 있는 효과가 있다. According to an embodiment of the present invention, through the stitching function of a multi-camera, camera status information is notified to the user about defects caused by foreign matter adsorption on the lens or stains such as fingerprints, and foreign matter tracking inspection is performed using an interpolation method between cameras and stitching results. It has the effect of establishing standards and providing reliable data.

도 1은 본 발명의 일 실시예에 따른 스티칭 기능을 이용한 멀티카메라 렌즈 불량 선별 시스템의 구성 블록도,
도 2는 본 발명의 일 실시예에 따른 스티칭 기능을 이용한 멀티카메라 렌즈 불량 선별 방법의 순서도,
도 3은 멀티카메라 왜곡 보정 과정과 실패 사례의 예시도,
도 4는 직선 검사부에서 수행되는 코너점 추출 및 직선 추출의 예시도,
도 5는 틸트량 산출 개념도,
도 6은 정상 렌즈(OK)와 불량 렌즈(NG)의 렌즈 곡면상 투과율의 비교 그래프.
1 is a block diagram of a multi-camera lens defect screening system using a stitching function according to an embodiment of the present invention;
Figure 2 is a flowchart of a method for selecting defective multi-camera lenses using a stitching function according to an embodiment of the present invention;
Figure 3 is an example of a multi-camera distortion correction process and failure case,
Figure 4 is an example of corner point extraction and straight line extraction performed in the straight line inspection unit;
Figure 5 is a conceptual diagram of calculating the tilt amount,
Figure 6 is a graph comparing the transmittance on the lens curve of a normal lens (OK) and a defective lens (NG).

본 발명은 다양한 변경을 가할 수 있고 여러 가지 실시예를 가질 수 있는 바, 특정 실시예들을 도면에 예시하고 상세하게 설명하고자 한다. 그러나 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.Since the present invention can make various changes and have various embodiments, specific embodiments will be illustrated in the drawings and described in detail. However, this is not intended to limit the present invention to specific embodiments, and should be understood to include all changes, equivalents, and substitutes included in the spirit and technical scope of the present invention.

어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다. When a component is said to be “connected” or “connected” to another component, it is understood that it may be directly connected or connected to the other component, but that other components may exist in between. It should be. On the other hand, when it is mentioned that a component is “directly connected” or “directly connected” to another component, it should be understood that there are no other components in between.

제1, 제2 등의 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되어서는 안 된다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다. Terms such as first, second, etc. may be used to describe various components, but the components should not be limited by the terms. The above terms are used only for the purpose of distinguishing one component from another.

본 명세서에서 사용한 용어는 단지 특정한 실시예를 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 명세서에서, "포함하다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.The terms used herein are only used to describe specific embodiments and are not intended to limit the invention. Singular expressions include plural expressions unless the context clearly dictates otherwise. In this specification, terms such as “comprise” or “have” are intended to designate the presence of features, numbers, steps, operations, components, parts, or combinations thereof described in the specification, but are not intended to indicate the presence of one or more other features. It should be understood that it does not exclude in advance the possibility of the existence or addition of elements, numbers, steps, operations, components, parts, or combinations thereof.

또한, 각 도면을 참조하여 설명하는 실시예의 구성 요소가 해당 실시예에만 제한적으로 적용되는 것은 아니며, 본 발명의 기술적 사상이 유지되는 범위 내에서 다른 실시예에 포함되도록 구현될 수 있으며, 또한 별도의 설명이 생략될지라도 복수의 실시예가 통합된 하나의 실시예로 다시 구현될 수도 있음은 당연하다.In addition, the components of the embodiments described with reference to each drawing are not limited to the corresponding embodiments, and may be implemented to be included in other embodiments within the scope of maintaining the technical spirit of the present invention, and may also be included in separate embodiments. Even if the description is omitted, it is natural that a plurality of embodiments may be re-implemented as a single integrated embodiment.

또한, 첨부 도면을 참조하여 설명함에 있어, 도면 부호에 관계없이 동일한 구성 요소는 동일하거나 관련된 참조부호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다. 본 발명을 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다. In addition, when describing with reference to the accompanying drawings, identical or related reference numbers will be assigned to identical or related elements regardless of the drawing symbols, and overlapping descriptions thereof will be omitted. In describing the present invention, if it is determined that a detailed description of related known technologies may unnecessarily obscure the gist of the present invention, the detailed description will be omitted.

도 1은 본 발명의 일 실시예에 따른 스티칭 기능을 이용한 멀티카메라 렌즈 불량 선별 시스템의 구성 블록도이고, 도 2는 본 발명의 일 실시예에 따른 스티칭 기능을 이용한 멀티카메라 렌즈 불량 선별 방법의 순서도이며, 도 3은 멀티카메라 왜곡 보정 과정과 실패 사례의 예시도이고, 도 4는 직선 검사부에서 수행되는 코너점 추출 및 직선 추출의 예시도이며, 도 5는 틸트량 산출 개념도이고, 도 6은 정상 렌즈(OK)와 불량 렌즈(NG)의 렌즈 곡면상 투과율의 비교 그래프이다. Figure 1 is a block diagram of a multi-camera lens defect sorting system using a stitching function according to an embodiment of the present invention, and Figure 2 is a flow chart of a multi-camera lens defect sorting method using a stitching function according to an embodiment of the present invention. , Figure 3 is an example of a multi-camera distortion correction process and a failure case, Figure 4 is an example of corner point extraction and straight line extraction performed in the straight line inspection unit, Figure 5 is a conceptual diagram of calculating the tilt amount, and Figure 6 is a normal This is a comparison graph of the transmittance on the curved surface of the lens (OK) and the defective lens (NG).

본 발명의 일 실시예에 따른 스티칭 기능을 이용한 멀티카메라 렌즈 불량 선별 시스템 및 방법은 멀티카메라를 구성하는 각 단일카메라에서 촬영된 영상을 스티칭 기능을 이용하여 결합한 합성영상에 대해 틸트량을 활용하여 렌즈 불량을 구분할 수 있는 것을 특징으로 한다. A multi-camera lens defect screening system and method using a stitching function according to an embodiment of the present invention uses a tilt amount for a composite image in which images taken from each single camera constituting the multi-camera are combined using a stitching function to select a lens defect. It is characterized by being able to distinguish defects.

도 1을 참조하면, 본 실시예에 따른 스티칭 기능을 이용한 멀티카메라 렌즈 불량 선별 시스템(100)은 검사 대상이 되는 멀티카메라(50)로부터 획득한 영상에 대해 왜곡 보정을 통해 스티칭 기능을 적용하여 하나의 합성영상을 만들고, 합성영상에 대해 지정된 영상 처리 기법을 적용해 직진 성분에 대비되는 틸트량을 산출하여 멀티카메라(50)를 구성하는 복수의 카메라(51, 52) 중 렌즈 불량 여부 및 불량 카메라를 선별해낸다. Referring to FIG. 1, the multi-camera lens defect screening system 100 using the stitching function according to this embodiment applies the stitching function through distortion correction to the image acquired from the multi-camera 50 to be inspected. Create a composite image and apply a designated image processing technique to the composite image to calculate the amount of tilt compared to the straight component to determine whether the lens is defective and whether the camera is defective among the plurality of cameras 51 and 52 constituting the multicamera 50. selects.

멀티카메라(50)는 둘 이상의 카메라(51, 52)를 포함할 수 있다. The multi-camera 50 may include two or more cameras 51 and 52.

멀티카메라(50)는 스마트폰과 같은 하나의 사용자 단말에 광학줌 카메라, 광각 카메라, TOF 카메라 등이 하나의 모듈로 구비된 타입으로 구현될 수 있다. 또는 멀티카메라(50)는 서로 이격된 위치에 배치되는 둘 이상의 영상 획득 장치(예컨대, CCTV)를 그룹핑하여 지칭할 수도 있다. The multi-camera 50 may be implemented as a type in which an optical zoom camera, a wide-angle camera, a TOF camera, etc. are provided as a single module in one user terminal, such as a smartphone. Alternatively, the multi-camera 50 may refer to a grouping of two or more image acquisition devices (eg, CCTV) disposed at locations spaced apart from each other.

이하에서는 2개의 카메라(제1 카메라(51)와 제2 카메라(52))가 멀티카메라(50)에 포함되는 경우를 가정하여 설명하기로 한다. 이는 발명의 이해와 설명의 편의를 위한 것으로, 3개 이상의 카메라가 멀티카메라에 포함될 수도 있음은 물론이다. Hereinafter, the description will be made assuming that two cameras (the first camera 51 and the second camera 52) are included in the multi-camera 50. This is for convenience of understanding and explanation of the invention, and of course, three or more cameras may be included in a multi-camera.

멀티카메라(50)에 포함되는 제1 카메라(51)와 제2 카메라(52)의 상대적인 위치관계에 대한 정보는 미리 정해져 있거나 카메라 파라미터로 획득되어 있을 수 있다. Information about the relative positional relationship between the first camera 51 and the second camera 52 included in the multi-camera 50 may be predetermined or obtained as camera parameters.

멀티카메라 렌즈 불량 선별 시스템(100)은 영상 획득부(110), 스티칭 적용부(120), 교차점 검사부(130), 직선 검사부(140), 불량 선별부(150)를 포함할 수 있다. The multi-camera lens defect screening system 100 may include an image acquisition unit 110, a stitching application unit 120, an intersection inspection unit 130, a straight line inspection unit 140, and a defect selection unit 150.

영상 획득부(110)는 멀티카메라(50)에서 촬영한 영상을 획득한다. 멀티카메라 렌즈 불량 선별 시스템(100)은 멀티카메라(50)와 유선 또는 무선으로 연결되어 있어, 멀티카메라(50)에서 촬영한 영상(카메라 영상)을 실시간으로 혹은 주기적으로 혹은 요청에 상응하여 획득할 수 있다. The image acquisition unit 110 acquires the image captured by the multi-camera 50. The multi-camera lens defect screening system 100 is connected to the multi-camera 50 by wire or wirelessly, and can acquire images (camera images) captured by the multi-camera 50 in real time, periodically, or in response to requests. You can.

영상 획득부(110)에서 획득한 카메라 영상은 제1 카메라(51)에서 촬영한 제1 영상과 제2 카메라(52)에서 촬영한 제2 영상을 포함할 수 있다. 제1 영상과 제2 영상은 각 카메라의 위치 및 방향에 따라 동일한 피사체에 대해서도 다른 시점에서 촬영된 영상일 수 있다. The camera image acquired by the image acquisition unit 110 may include a first image captured by the first camera 51 and a second image captured by the second camera 52. The first image and the second image may be images taken from different viewpoints of the same subject depending on the location and direction of each camera.

스티칭 적용부(120)는 왜곡 보정 계수를 이용하여 카메라 영상의 왜곡을 보정하고, 왜곡 보정된 영상을 결합함으로써 파노라마 영상인 합성 영상을 생성할 수 있다. The stitching application unit 120 may correct distortion of the camera image using a distortion correction coefficient and generate a composite image, which is a panoramic image, by combining the distortion-corrected images.

본 실시예에서는 스티칭 적용을 위한 왜곡 보정 계수가 요구되므로, 이를 구하기 위해 1차적으로 미리 지정된 패턴(예를 들어, 간격이 일정한 격자 패턴)이 촬영되게 할 수 있다. 이 경우 제1 영상과 제2 영상 각각에 패턴 전체가 촬영되도록 하며, 영상의 중심점을 기준으로 할 때 어느 하나의 영상에서라도 패턴 전체가 촬영되지 않은 경우에는 멀티카메라(50)에 속하는 카메라(들)의 위치 및 방향 중 적어도 하나를 변경하여 재촬영이 이루어지게 할 수 있다. In this embodiment, since a distortion correction coefficient is required for stitching application, a pre-designated pattern (for example, a grid pattern with regular intervals) can be primarily photographed to obtain this. In this case, the entire pattern is captured in each of the first and second images, and if the entire pattern is not captured in any one image based on the center point of the image, the camera(s) belonging to the multi-camera 50 Reshooting can be performed by changing at least one of the position and direction of .

왜곡 보정 계수 산출 과정 중에 패턴 영상에 대한 틀어짐 검증 과정에서 정상적인 결과가 도출되지 않은 경우, 밝기 보간 과정을 수행할 수 있다. 이는 촬영된 위치에 따라 밝기 차가 발생할 수 있기 때문이다. 제1 영상과 제2 영상 중 하나 이상에 대해 주변부 밝기 편차에 대한 밝기 보간을 진행할 경우 패턴 영상에 대한 틀어짐이 제거될 수 있다. If normal results are not obtained in the distortion verification process for the pattern image during the distortion correction coefficient calculation process, a brightness interpolation process may be performed. This is because differences in brightness may occur depending on the location where the photo was taken. When brightness interpolation for the peripheral brightness deviation is performed on one or more of the first image and the second image, the distortion of the pattern image can be removed.

주변부 밝기 편차에 대한 보간은 하기 수학식 1과 같이 이루어질 수 있다. Interpolation for the peripheral brightness deviation can be performed as shown in Equation 1 below.

[수학식 1][Equation 1]

여기서, i, j는 행렬을 나타내고, P는 픽셀 단위의 위치를 배열로 표현한 것이며, n은 픽셀 단위에서 주변 평균화를 위해 그룹핑할 픽셀 개수로서, 사용자가 설정 가능한 주변 평균화 개수이다. 그리고 L은 매트릭스의 평균값이다. Here, i, j represent a matrix, P represents the pixel position as an array, and n is the number of pixels to be grouped for peripheral averaging in the pixel unit, which is the number of peripheral averaging that can be set by the user. And L is the average value of the matrix.

스티칭 적용부(120)에서는 밝기 보간이 이루어진 왜곡 보정 결과를 이용하여 합성 영상을 생성하고, 후단에서 멀티카메라(50)에 대한 검증을 시행할 수 있다. The stitching application unit 120 can generate a composite image using the distortion correction result with brightness interpolation, and verify the multi-camera 50 at a later stage.

스티칭 적용 시 SURF 알고리즘에 따른 영상 처리 기법이 적용될 수 있으며, 서로 결합되는 두 카메라 영상 간에는 결합을 위한 매칭점이 결정될 수 있다. When applying stitching, an image processing technique according to the SURF algorithm can be applied, and a matching point for combining can be determined between two camera images that are combined with each other.

틀어짐을 검증하는 과정에서 직선 검사부(140)는 점대점 관계에서 직선이 맞는지 틀리는지 선 연결 후 기울기의 차이 발생 유무를 확인할 수 있으며, 이 경우 직선의 교차점이 되는 X가 매칭점 성분일 수 있다. In the process of verifying the distortion, the straight line inspection unit 140 can check whether a straight line is correct or incorrect in a point-to-point relationship and whether there is a difference in slope after connecting the lines. In this case, X, which is the intersection point of the straight lines, may be a matching point component.

교차점 검사부(130)는 이러한 교차점에 대한 검사를 수행할 수 있다. The intersection inspection unit 130 can perform inspection of these intersections.

[수학식 2][Equation 2]

여기서, B는 블랙 검출 픽셀 포인트이고, Max는 최대크기 값이며, X는 교차점이다. Here, B is the black detection pixel point, Max is the maximum size value, and X is the intersection point.

P 픽셀의 경우 행렬로 되어 있으며, Max 값의 경우 P에 표현되는 최대의 값, 즉 패턴이 흰/검으로 되어 있을 경우 255의 값이 Max 값으로 표현될 수 있다. 즉, 수학식 2는 패턴의 교차점을 추적하는 것으로, X 값 추출을 위해서는 X = 1 이라는 값을 만족해야 하며, X의 패턴 교차점과 실제 교차점이 맞는지 확인할 수 있다. In the case of P pixels, it is a matrix, and in the case of the Max value, the maximum value expressed in P, that is, if the pattern is white/black, the value of 255 can be expressed as the Max value. In other words, Equation 2 tracks the intersection of patterns. In order to extract the value of X, the value X = 1 must be satisfied, and it can be checked whether the pattern intersection of

실제 패턴에서의 교차점 카운트(Pattern Count)와 영상에서의 교차점 카운트(X)가 맞지 않을 경우 렌즈 불량으로 선별될 수 있다. 이 경우 불량 선별부(150)는 렌즈 불량으로 판정하고 그 결과를 출력할 수 있다. 해당 렌즈 불량이 이물에 의한 불량일 경우 클리닝을 진행하고 재매칭이 수행되게 할 수 있다. If the intersection count (Pattern Count) in the actual pattern and the intersection count (X) in the image do not match, the lens may be classified as defective. In this case, the defect selection unit 150 may determine that the lens is defective and output the result. If the lens defect is caused by a foreign substance, cleaning can be performed and rematching can be performed.

교차점 검사를 통과한 경우, 다음으로 직선 검사부(140)는 점대점 연결선이 기울기를 가지고 있는지 여부에 따라 렌즈 불량을 구분할 수 있다. If the intersection test is passed, the straight line tester 140 can classify lens defects depending on whether the point-to-point connection line has a slope.

불량이 아닌 것으로 판정된 멀티카메라의 카메라 파라미터를 기준으로 코너 검출 기법을 적용하여 합성 영상에서 코너점을 검출할 수 있다. 코너 검출 기법으로는 예를 들어 시-토마시(Shi & Tomasi) 검출 기법이 적용될 수 있다. 시-토마시 검출 기법은 해리스 코너 알고리즘에서 임계값을 추가한 코너 검출 기법이다. Corner points can be detected in a composite image by applying a corner detection technique based on the camera parameters of the multi-camera that has been determined not to be defective. For example, the Shi & Tomasi detection technique may be applied as a corner detection technique. The Si-Tomas detection technique is a corner detection technique that adds a threshold to the Harris corner algorithm.

코너점을 토대로 거리당 상대 차 비율을 환산하여 보간할 수 있다(기울기 : Y = ax + b). Based on the corner point, the relative difference ratio per distance can be converted and interpolated (slope: Y = ax + b).

[수학식 3][Equation 3]

여기서, C는 시-토마시 검출 좌표이며, 행렬의 결과로 출력되고 왼쪽 상단부터 1~n차수로 증가한다. D는 시-토마시 검출 좌표 간의 상대 거리이며, R은 보간 결과로서, 거리 상의 차이는 5% 오차 이내로 계산한다는 의미이다. Here, C is the Si-Tomasi detection coordinate, which is output as a matrix result and increases from 1 to n orders from the upper left. D is the relative distance between Si-Tomasi detection coordinates, and R is the interpolation result, meaning that the difference in distance is calculated within a 5% error.

보간된 영상을 기준으로 엣지 검출 알고리즘을 통해 직진성분(직선) 매칭을 진행하고, 틸트량(틸트비율)을 환산한다. Based on the interpolated image, straight component (straight line) matching is performed using an edge detection algorithm, and the tilt amount (tilt ratio) is converted.

[수학식 4][Equation 4]

시-토마시 검출 좌표 보간 구간(R) 내 좌표가 있는 경우를 토대로 검출 좌표(C)를 선택하고, 이를 통한 엣지 라인이 있는 경우를 기준으로 매칭 포인트(M)를 설정한다. E는 엣지 추출 값(0, 255)이다. The detection coordinates (C) are selected based on the case where there is a coordinate within the Si-Tomas detection coordinate interpolation interval (R), and the matching point (M) is set based on the case where there is an edge line through this. E is the edge extraction value (0, 255).

설정된 매칭 포인트(M)를 기반으로 시-토마시 검출 좌표(C)의 차로 틸트량(T)을 확인할 수 있다(도 5 참조). Based on the set matching point (M), the tilt amount (T) can be confirmed by the difference between the Si-Tomasi detection coordinates (C) (see FIG. 5).

비율차에 의한 불량으로 확정될 경우, 틸트 비율 및 컬러값에 따른 불량을 구분할 수 있다. If it is confirmed that the defect is due to a ratio difference, the defect can be distinguished according to the tilt ratio and color value.

[수학식 5][Equation 5]

여기서, R, G, B는 컬러값이며, Y는 밝기 값, U는 컬러차액, A는 특성 결과이다. Here, R, G, and B are color values, Y is the brightness value, U is the color difference, and A is the characteristic result.

수학식 5에 따르면, 불량 확정된 픽셀의 컬러값 및 밝기값(R, G, B, Y 값)을 추출한다. 그리고 밝기에 따른 비율차(컬러차액)(U)와 틸트량(T)을 기준으로 특성값(A)을 도출한다. According to Equation 5, the color value and brightness value (R, G, B, Y value) of the pixel determined to be defective are extracted. And the characteristic value (A) is derived based on the ratio difference (color difference) (U) and tilt amount (T) according to brightness.

불량 선별부(150)는 비율 값에 대응하여 특성결과 값이 1이 넘는 경우 이물로 판정할 수 있다. 그리고 0.5 ~ 1까지는 얼룩으로 선정하여 클리닝을 요청할 수 있다. 0.5 이하의 경우에는 정상 판정하지만, 렌즈 차액으로 사용자 판정에 따를 수 있다. 렌즈 차액은 렌즈별 변화율로, 렌즈의 깍임, 위치에 따라 다른 결과를 가질 수 있다. The defect selection unit 150 may determine it to be a foreign body if the characteristic result value corresponding to the ratio value is greater than 1. Additionally, you can select stains from 0.5 to 1 and request cleaning. If it is 0.5 or less, it is judged as normal, but the user's judgment can be determined based on the lens difference. The lens difference is the rate of change for each lens, and may have different results depending on the angle and location of the lens.

정규분석 결과로는 0.5 이하 수치값은 정상이지만, 렌즈의 편차량이 있어 정상 보간에는 문제가 있다고 판정할 수 있다. As a result of regular analysis, numerical values below 0.5 are normal, but due to the lens's deviation, it can be determined that there is a problem with normal interpolation.

멀티카메라(50)의 렌즈 불량을 선별하기 위해 렌즈 곡면의 상대 비율로 연산할 수도 있다. 도 6에서와 같이 2개의 정상품과 2개의 불량 시료를 비교해서 볼 경우, 렌즈의 곡면상 투과율이 차이가 나는 것을 확인할 수 있다. In order to select lens defects of the multi-camera 50, calculation may be made based on the relative ratio of the lens curved surface. As shown in Figure 6, when comparing two normal products and two defective samples, it can be seen that there is a difference in transmittance on the curved surface of the lens.

하지만, 사용자 단말의 오토 화이트 밸런스(AWB, Auto White Balance), 렌즈 세이딩 보상(LSC, Lens Shading Correction)과 같은 데이터가 입혀지면서 불량 유형의 분석이 어려워질 수 있다. However, as data such as the user terminal's auto white balance (AWB) and lens shading correction (LSC) are input, analysis of the type of defect may become difficult.

따라서, 본 실시예에서와 같이 코너점을 추출하고 왜곡량을 기준으로 검사하는 것이 불량 유형 분석에는 더 효율적일 수 있다. Therefore, extracting corner points and inspecting them based on the amount of distortion, as in this embodiment, may be more efficient in analyzing defect types.

이하 도 2를 참조하여, 멀티카메라 렌즈 불량 선별 시스템에서 수행되는 멀티카메라 렌즈 불량 선별 방법에 대해서 설명하기로 한다. Hereinafter, with reference to FIG. 2, a multi-camera lens defect selection method performed in the multi-camera lens defect selection system will be described.

스티칭 조건을 적용하기 위해 미리 지정된 패턴이 촬영 영역 내에 마련되어 있을 수 있다. 패턴은 흰색과 검은색 사각형이 교차 반복되는 격자 패턴으로, 각 격자의 간격은 일정할 수 있다. In order to apply stitching conditions, a pre-designated pattern may be provided in the photographing area. The pattern is a grid pattern in which white and black squares alternate and repeat, and the spacing between each grid can be constant.

영상 획득부(110)는 멀티카메라(50)로부터 패턴을 촬영한 카메라 영상을 획득할 수 있다(단계 S200). 카메라 영상은 멀티카메라(50)의 각 카메라(제1 카메라(51)와 제2 카메라(52))에서 각각 촬영한 복수의 단일 카메라 영상일 수 있다. The image acquisition unit 110 may acquire a camera image of a pattern from the multi-camera 50 (step S200). The camera image may be a plurality of single camera images each captured by each camera (the first camera 51 and the second camera 52) of the multi-camera 50.

카메라 영상은 멀티카메라(50)의 각 카메라가 가지는 특성(위치, 방향 등)에 의해 동일한 패턴을 촬영한 경우에도 왜곡이 발생하므로, 위치별 카메라 왜곡 보정을 수행할 수 있다(단계 S205). 이처럼 카메라 파라미터를 이용한 왜곡 보정을 통해 각 카메라 영상에 대한 왜곡 보정 계수를 산출할 수 있다. Distortion occurs in camera images even when the same pattern is photographed due to the characteristics (position, direction, etc.) of each camera of the multi-camera 50, so camera distortion correction can be performed for each location (step S205). In this way, the distortion correction coefficient for each camera image can be calculated through distortion correction using camera parameters.

왜곡 보정을 수행할 경우 전체 영상의 비율값을 토대로 적용하게 된다. 해당 왜곡 보정의 수치는 전체 범위를 토대로 진행되므로, 틸트의 결과가 반영될 경우 찌그러지는 형태의 보정 결과를 가져오게 된다. 도 3을 참조하면, 위치 별 카메라 왜곡 보정과, 왜곡 보정 실패 사례가 도시되어 있다.When performing distortion correction, it is applied based on the ratio value of the entire image. Since the distortion correction value is based on the entire range, if the tilt result is reflected, the correction result will be distorted. Referring to Figure 3, camera distortion correction for each location and examples of distortion correction failure are shown.

왜곡 보정이 정상 진행되었지만 틸트량이 발생하는 경우는 육안상 차이점이 적거나 인지하지 못한 경우에 대해서이며, 실제로 렌즈 상단의 얼룩이 있을 경우 빛의 투과량의 차이가 약간 있는 정도로 표현된다. 따라서, 왜곡 보정이 되었다고 해서 정상적인 결과가 출력된다고 볼 수는 없다. If distortion correction is performed normally but tilt occurs, the difference is small or unrecognizable to the naked eye. In fact, if there is a stain on the top of the lens, it is expressed as a slight difference in the amount of light transmission. Therefore, it cannot be said that normal results are output even though distortion correction has been performed.

따라서, 왜곡 보정 불량이 발생한 경우 세이딩(Shading) 데이터를 이용하여 카메라 영상에 대해 영상 보정을 수행할 수도 있다. Therefore, when a distortion correction defect occurs, image correction may be performed on the camera image using shading data.

스티칭 적용부(120)는 패턴 영상에 대해 왜곡 보정을 수행하고 스티칭을 적용하여 파노라마 영상인 합성 영상을 생성할 수 있다(단계 S210). 여기서, 스티칭 적용 시 SURF 알고리즘에 따른 영상 합성 기법이 이용될 수 있다. The stitching application unit 120 may perform distortion correction on the pattern image and apply stitching to generate a composite image that is a panoramic image (step S210). Here, when applying stitching, an image synthesis technique according to the SURF algorithm can be used.

SURF 알고리즘을 이용한 매칭점에 따른 편차량을 계산하고, 타 카메라와의 편차량이 기준값 이상일 경우 불량 여부를 판단할 수 있다. The amount of deviation according to the matching point is calculated using the SURF algorithm, and if the amount of deviation from other cameras is greater than the standard value, it is possible to determine whether the camera is defective.

교차점 검사부(130)는 합성 영상에서 출력되는 패턴 이미지에서 교차점의 개수를 카운트하고, 실제 패턴이 가지는 교차점의 개수를 비교하여 검사를 수행할 수 있다. 만약 교차점의 수가 동일하지 않을 경우, 불량 선별부(150)는 렌즈 불량이 있는 것으로 검사 결과를 출력할 수 있다. The intersection inspection unit 130 may perform the inspection by counting the number of intersections in the pattern image output from the composite image and comparing the number of intersections with the number of intersections in the actual pattern. If the number of intersection points is not the same, the defect selection unit 150 may output an inspection result indicating that there is a lens defect.

정상 판정된 경우, 직선 검사부(140)는 합성 영상에 대해 시-토마시 검출 알고리즘을 이용하여 코너점을 추출한다(단계 S215). 도 4를 참조하면, 예시 이미지에 대해 시-토마시 검출을 수행하고, 소벨 및 허프만 변환을 수행한 결과가 도시되어 있다. If it is determined to be normal, the straight line inspection unit 140 extracts corner points from the synthesized image using the Si-Tomasi detection algorithm (step S215). Referring to Figure 4, the results of performing Si-Tomas detection and Sobel and Huffman transformation on an example image are shown.

코너점 추출과 함께 합성 영상의 색상채널에 대한 분석도 수행할 수 있다. 이는 추후 틸트량과 더불어 컬러값을 활용한 불량 구분을 하기 위함이다. In addition to extracting corner points, analysis of the color channel of the synthetic image can also be performed. This is to later distinguish defects using the color value along with the tilt amount.

직선 검사부(140)는 코너점의 위치를 토대로 매칭 구간을 선정하고 거리당 상대 차 비율을 환산하여 보간한다(단계 S220). 보간된 영상을 기준으로 엣지 검출을 시행하여(단계 S225), 직진 성분을 이용한 기울기 차이(틸트량)를 확인한다(단계 S230). The straight line inspection unit 140 selects a matching section based on the position of the corner point, converts the relative difference ratio per distance, and interpolates (step S220). Edge detection is performed based on the interpolated image (step S225), and the tilt difference (tilt amount) using the straight component is confirmed (step S230).

불량 선별부(150)는 틸트 비율 차이에 의한 불량일 경우에는 특성 분리를 위한 컬러값을 추출하며, 값에 따른 굴곡도를 기준으로 항목간 상세 결과를 추출할 수 있다(단계 S230). If the defect is a defect due to a difference in tilt ratio, the defect selection unit 150 extracts a color value for characteristic separation and can extract detailed results between items based on the curvature according to the value (step S230).

틸트 비율 차이가 발생한 위치를 토대로 하여, 합성영상에 이용된 멀티카메라(50)에 속하는 카메라들(제1 카메라(51) 및 제2 카메라(52)) 중 어느 카메라의 렌즈에서 불량이 발생하였는지를 파악할 수도 있다. 따라서, 렌즈 불량을 확인해야 할 대상을 1/2로 줄이고, 보다 빠른 확인 작업이 이루어지게 할 수 있다. Based on the location where the tilt ratio difference occurred, it is possible to determine which of the cameras (the first camera 51 and the second camera 52) belonging to the multi-camera 50 used in the composite image had a defect in the lens of the camera. It may be possible. Therefore, the number of subjects that need to be checked for lens defects can be reduced by half and the check can be performed more quickly.

본 실시예에 따른 스티칭 조건을 이용한 멀티카메라 렌즈 불량 선별 시스템 및 방법에 의하면, 멀티카메라를 이용한 이물 추적이 가능하게 되고, 특성 분리에 따른 불량 개선 여지를 파악할 수 있다. According to the multi-camera lens defect screening system and method using stitching conditions according to this embodiment, foreign matter tracking using a multi-camera is possible, and room for improvement of defects according to characteristic separation can be identified.

렌즈에서의 문제에 따른 불량 발생 시 그 원인에 대한 문제 파악이 빨라지게되어 작업자의 편의성이 증대하게 된다. When a defect occurs due to a problem with the lens, the cause of the problem can be identified quickly, increasing operator convenience.

해상도 증가와 렌즈 화각에 대한 크기가 증가함에 따라 검출에 대한 기준을 변경하여 간이 검사가 가능할 수 있다. As resolution increases and the size of the lens angle of view increases, simple inspection may be possible by changing the detection criteria.

전술한 스티칭 조건을 이용한 멀티카메라 렌즈 불량 선별 방법은, 컴퓨터에 의해 실행되는 애플리케이션이나 프로그램 모듈과 같은 컴퓨터에 의해 실행가능한 명령어를 포함하는 기록매체의 형태로도 구현될 수 있다. 컴퓨터 판독 가능 매체는 컴퓨터에 의해 액세스될 수 있는 임의의 가용 매체일 수 있고, 휘발성 및 비휘발성 매체, 분리형 및 비분리형 매체를 모두 포함한다. 또한, 컴퓨터 판독 가능 매체는 컴퓨터 저장 매체를 포함할 수 있다. 컴퓨터 저장 매체는 컴퓨터 판독 가능 명령어, 데이터 구조, 프로그램 모듈 또는 기타 데이터와 같은 정보의 저장을 위한 임의의 방법 또는 기술로 구현된 휘발성 및 비휘발성, 분리형 및 비분리형 매체를 모두 포함한다. The method for selecting defective multi-camera lenses using the above-described stitching conditions can also be implemented in the form of a recording medium containing instructions executable by a computer, such as an application or program module executed by a computer. Computer-readable media can be any available media that can be accessed by a computer and includes both volatile and non-volatile media, removable and non-removable media. Additionally, computer-readable media may include computer storage media. Computer storage media includes both volatile and non-volatile, removable and non-removable media implemented in any method or technology for storage of information such as computer-readable instructions, data structures, program modules, or other data.

전술한 스티칭 조건을 이용한 멀티카메라 렌즈 불량 선별 방법은, 단말기에 기본적으로 설치된 애플리케이션(이는 단말기에 기본적으로 탑재된 플랫폼이나 운영체제 등에 포함된 프로그램을 포함할 수 있음)에 의해 실행될 수 있고, 사용자가 애플리케이션 스토어 서버, 애플리케이션 또는 해당 서비스와 관련된 웹 서버 등의 애플리케이션 제공 서버를 통해 마스터 단말기에 직접 설치한 애플리케이션(즉, 프로그램)에 의해 실행될 수도 있다. 이러한 의미에서, 전술한 스티칭 조건을 이용한 멀티카메라 렌즈 불량 선별 방법은 단말기에 기본적으로 설치되거나 사용자에 의해 직접 설치된 애플리케이션(즉, 프로그램)으로 구현되고 단말기 등의 컴퓨터로 읽을 수 있는 기록매체에 기록될 수 있다.The multi-camera lens defect screening method using the above-mentioned stitching conditions can be executed by an application installed by default on the terminal (this may include programs included in the platform or operating system, etc. installed by default on the terminal), and the user can use the application. It may also be executed by an application (i.e. program) installed directly on the master terminal through an application providing server such as a store server, application, or web server related to the service. In this sense, the multi-camera lens defect screening method using the above-described stitching conditions is implemented as an application (i.e., program) installed by default in the terminal or directly installed by the user and can be recorded on a computer-readable recording medium such as the terminal. You can.

상기에서는 본 발명의 바람직한 실시예를 참조하여 설명하였지만, 해당 기술 분야에서 통상의 지식을 가진 자라면 하기의 특허 청구의 범위에 기재된 본 발명의 사상 및 영역으로부터 벗어나지 않는 범위 내에서 본 발명을 다양하게 수정 및 변경시킬 수 있음을 이해할 수 있을 것이다.Although the present invention has been described above with reference to preferred embodiments, those skilled in the art can vary the present invention without departing from the spirit and scope of the present invention as set forth in the claims below. You will understand that it can be modified and changed.

50: 멀티카메라 100: 멀티카메라 렌즈 불량 선별 시스템
110: 영상 획득부 120: 스티칭 적용부
130: 교차점 검사부 140: 직선 검사부
150: 불량 선별부
50: Multicamera 100: Multicamera lens defect screening system
110: Image acquisition unit 120: Stitching application unit
130: intersection inspection section 140: straight line inspection section
150: Defect sorting unit

Claims (10)

스티칭 조건을 이용한 멀티카메라의 렌즈 불량을 선별하는 시스템으로서,
검사 패턴을 상기 멀티카메라가 촬영한 카메라 영상을 획득하고, 왜곡 보정하는 영상 획득부;
왜곡 보정된 카메라 영상을 스티칭 기법으로 결합하여 합성 영상을 생성하는 스티칭 적용부;
상기 합성 영상에 포함되는 패턴 이미지의 교차점과 상기 검사 패턴의 교차점을 비교하는 교차점 검사부;
상기 합성 영상에 대해 지정된 영상 처리 기법으로 직선을 도출하여 직선의 기울기를 검사하는 직선 검사부; 및
상기 교차점 검사부에의 비교 결과 교차점의 수가 상이하거나 상기 직선 검사부에서의 검사 결과 상기 직선의 기울기가 기준값 이상일 경우 렌즈 불량이 있는 것으로 결과 출력하는 불량 선별부를 포함하는 멀티카메라 렌즈 불량 선별 시스템.
A system for selecting lens defects of a multi-camera using stitching conditions,
an image acquisition unit that acquires a camera image captured by the multi-camera and corrects distortion of the inspection pattern;
A stitching application unit that generates a composite image by combining distortion-corrected camera images using a stitching technique;
an intersection inspection unit that compares an intersection of a pattern image included in the composite image with an intersection of the inspection pattern;
a straight line inspection unit that derives a straight line from the synthesized image using a designated image processing technique and checks the slope of the straight line; and
A multi-camera lens defect screening system comprising a defect sorting unit that outputs a result as if there is a lens defect when the number of intersection points is different as a result of comparison by the intersection point inspection unit or when the slope of the straight line is greater than a reference value as a result of inspection by the straight line inspection unit.
제1항에 있어서,
상기 영상 획득부는 상기 카메라 영상에서 틀어짐 발생 시 주변부 밝기에 대한 보간을 진행한 후 왜곡 보정을 수행하는 것을 특징으로 하는 멀티카메라 렌즈 불량 선별 시스템.
According to paragraph 1,
The image acquisition unit performs distortion correction after interpolating the brightness of the peripheral area when distortion occurs in the camera image.
제1항에 있어서,
상기 직선 검사부는 시-토마시 검출 알고리즘을 이용하여 코너점을 추출하고, 상기 코너점을 토대로 거리당 상대 차 비율을 환산하여 보간하며, 보간된 합성 영상을 기준으로 엣지 검출 기법을 통해 직진 성분 매칭을 진행하여 상기 직선의 기울에 따른 틸트량을 환산하는 것을 특징으로 하는 멀티카메라 렌즈 불량 선별 시스템.
According to paragraph 1,
The straight line inspection unit extracts corner points using the Si-Tomas detection algorithm, converts and interpolates the relative difference ratio per distance based on the corner points, and performs straight component matching through an edge detection technique based on the interpolated composite image. A multi-camera lens defect screening system characterized by converting the tilt amount according to the slope of the straight line.
제3항에 있어서,
상기 불량 선별부는 불량 확정된 픽셀의 컬러값을 추출하고, 밝기에 따른 비율차와 상기 틸트량을 기준으로 특성값을 도출하여 상기 렌즈 불량을 이물, 얼룩 혹은 정상으로 구분하여 판정하는 것을 특징으로 하는 멀티카메라 렌즈 불량 선별 시스템.
According to paragraph 3,
The defect selection unit extracts the color value of the pixel that has been confirmed to be defective, derives characteristic values based on the ratio difference according to brightness and the tilt amount, and determines the lens defect to be classified as foreign matter, stain, or normal. Multi-camera lens defect screening system.
제4항에 있어서,
상기 불량 선별부는 하기 수학식에 따라 상기 렌즈 불량을 구분하되,


여기서, C는 시-토마시 검출 좌표이고, D는 시-토마시 검출 좌표 간의 상대 거리이며, R은 보간 결과이고,


시-토마시 검출 좌표 보간 구간 내 좌표가 있는 경우를 토대로 검출 좌표(C)를 선택하고, 이를 통한 엣지 라인(E)이 있는 경우를 기준으로 매칭 포인트(M)를 설정하며, 설정된 매칭 포인트(M)를 기반으로 시-토마시 검출 좌표(C)의 차로 틸트량(T)를 확인하고,


불량 확정된 픽셀의 컬러값 및 밝기값(R, G, B, Y 값)을 추출하고, 밝기에 따른 비율차(컬러차액)(U)와 틸트량(T)을 기준으로 특성값(A)을 도출하며,
상기 불량 선별부는 특성값(A)이 1을 넘는 경우 이물로 판정하고, 0.5 ~ 1 까지는 얼룩으로 판정하며, 0.5 이하인 경우에는 정상 판정하는 것을 특징으로 하는 멀티카메라 렌즈 불량 선별 시스템.
According to paragraph 4,
The defect selection unit classifies the lens defects according to the following equation,


Here, C is the Si-Tomas detection coordinate, D is the relative distance between Si-Tomas detection coordinates, and R is the interpolation result,


The detection coordinates (C) are selected based on the case where there are coordinates within the Si-Tomas detection coordinate interpolation section, the matching point (M) is set based on the case where there is an edge line (E) through this, and the set matching point (M ), check the tilt amount (T) as the difference between Si-Tomasi detection coordinates (C),


Extract the color and brightness values (R, G, B, Y values) of pixels that are confirmed to be defective, and characterize the characteristic values (A) based on the ratio difference (color difference) (U) and tilt amount (T) according to brightness. Derives
A multi-camera lens defect screening system characterized in that the defect selection unit determines a foreign matter if the characteristic value (A) exceeds 1, determines it as a stain if the characteristic value (A) is between 0.5 and 1, and determines it as normal if the characteristic value (A) is less than 0.5.
스티칭 조건을 이용한 멀티카메라의 렌즈 불량을 선별하는 방법으로서,
영상 획득부에서 검사 패턴을 상기 멀티카메라가 촬영한 카메라 영상을 획득하는 단계;
상기 카메라 영상에 대해 왜곡 보정을 수행하는 단계;
스티칭 적용부에서 왜곡 보정된 카메라 영상을 스티칭 기법으로 결합하여 합성 영상을 생성하는 단계;
교차점 검사부에서 상기 합성 영상에 포함되는 패턴 이미지의 교차점과 상기 검사 패턴의 교차점을 비교하는 단계;
직선 검사부에서 상기 합성 영상에 대해 지정된 영상 처리 기법으로 직선을 도출하여 직선의 기울기를 검사하는 단계; 및
불량 선별부에서는 상기 교차점 검사부에의 비교 결과 교차점의 수가 상이하거나 상기 직선 검사부에서의 검사 결과 상기 직선의 기울기가 기준값 이상일 경우 렌즈 불량이 있는 것으로 결과 출력하는 불량 선별 단계를 포함하는 멀티카메라 렌즈 불량 선별 방법.
As a method of selecting lens defects of a multicamera using stitching conditions,
Acquiring a camera image of the inspection pattern captured by the multi-camera in an image acquisition unit;
performing distortion correction on the camera image;
Generating a composite image by combining distortion-corrected camera images in a stitching application unit using a stitching technique;
Comparing, in an intersection inspection unit, an intersection of a pattern image included in the composite image and an intersection of the inspection pattern;
In a straight line inspection unit, deriving a straight line using a designated image processing technique for the composite image and inspecting the slope of the straight line; and
In the defect screening unit, if the number of intersection points is different as a result of comparison with the intersection inspection unit or the slope of the straight line is greater than a reference value as a result of inspection in the straight line inspection unit, a defect screening step of outputting a result as a lens defect is a multi-camera lens defect screening step. method.
제6항에 있어서,
상기 왜곡 보정 수행 단계에서, 상기 카메라 영상에서 틀어짐 발생 시 주변부 밝기에 대한 보간을 진행한 후 왜곡 보정을 수행하는 것을 특징으로 하는 멀티카메라 렌즈 불량 선별 방법.
According to clause 6,
In the distortion correction performing step, when distortion occurs in the camera image, interpolation of peripheral brightness is performed and then distortion correction is performed.
제6항에 있어서,
상기 직선의 기울기 검사 단계는,
시-토마시 검출 알고리즘을 이용하여 코너점을 추출하는 단계와;
상기 코너점을 토대로 거리당 상대 차 비율을 환산하여 보간하는 단계와;
보간된 합성 영상을 기준으로 엣지 검출 기법을 통해 직진 성분 매칭을 진행하여 상기 직선의 기울에 따른 틸트량을 환산하는 단계를 포함하는 것을 특징으로 하는 멀티카메라 렌즈 불량 선별 방법.
According to clause 6,
The slope test step of the straight line is,
extracting corner points using a Si-Tomasi detection algorithm;
Converting and interpolating the relative difference ratio per distance based on the corner point;
A multi-camera lens defect screening method comprising the step of performing straight component matching using an edge detection technique based on the interpolated composite image and converting the tilt amount according to the slope of the straight line.
제8항에 있어서,
상기 불량 선별 단계는, 불량 확정된 픽셀의 컬러값을 추출하는 단계와; 밝기에 따른 비율차와 상기 틸트량을 기준으로 특성값을 도출하여 상기 렌즈 불량을 이물, 얼룩 혹은 정상으로 구분하여 판정하는 단계를 포함하는 것을 특징으로 하는 멀티카메라 렌즈 불량 선별 방법.
According to clause 8,
The defect selection step includes extracting color values of pixels determined to be defective; A multi-camera lens defect screening method comprising deriving characteristic values based on the ratio difference according to brightness and the tilt amount and classifying the lens defect as foreign matter, stain, or normal.
제9항에 있어서,
상기 불량 선별 단계에서는 하기 수학식에 따라 상기 렌즈 불량을 구분하되,


여기서, C는 시-토마시 검출 좌표이고, D는 시-토마시 검출 좌표 간의 상대 거리이며, R은 보간 결과이고,


시-토마시 검출 좌표 보간 구간 내 좌표가 있는 경우를 토대로 검출 좌표(C)를 선택하고, 이를 통한 엣지 라인(E)이 있는 경우를 기준으로 매칭 포인트(M)를 설정하며, 설정된 매칭 포인트(M)를 기반으로 시-토마시 검출 좌표(C)의 차로 틸트량(T)를 확인하고,


불량 확정된 픽셀의 컬러값 및 밝기값(R, G, B, Y 값)을 추출하고, 밝기에 따른 비율차(컬러차액)(U)와 틸트량(T)을 기준으로 특성값(A)을 도출하며,
상기 불량 선별부는 특성값(A)이 1을 넘는 경우 이물로 판정하고, 0.5 ~ 1 까지는 얼룩으로 판정하며, 0.5 이하인 경우에는 정상 판정하는 것을 특징으로 하는 멀티카메라 렌즈 불량 선별 방법.
According to clause 9,
In the defect selection step, the lens defects are classified according to the following equation,


Here, C is the Si-Tomas detection coordinate, D is the relative distance between Si-Tomas detection coordinates, and R is the interpolation result,


The detection coordinates (C) are selected based on the case where there are coordinates within the Si-Tomas detection coordinate interpolation section, the matching point (M) is set based on the case where there is an edge line (E) through this, and the set matching point (M ), check the tilt amount (T) as the difference between Si-Tomasi detection coordinates (C),


Extract the color and brightness values (R, G, B, Y values) of pixels that are confirmed to be defective, and characterize the characteristic values (A) based on the ratio difference (color difference) (U) and tilt amount (T) according to brightness. Derives
A multi-camera lens defect selection method, characterized in that the defect selection unit determines a foreign matter if the characteristic value (A) exceeds 1, determines it as a stain if the characteristic value (A) is between 0.5 and 1, and determines it as normal if the characteristic value (A) is less than 0.5.
KR1020220129486A 2022-10-11 2022-10-11 Multi-camera lens defect screening method and system using stitching condition KR20240049958A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020220129486A KR20240049958A (en) 2022-10-11 2022-10-11 Multi-camera lens defect screening method and system using stitching condition

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020220129486A KR20240049958A (en) 2022-10-11 2022-10-11 Multi-camera lens defect screening method and system using stitching condition

Publications (1)

Publication Number Publication Date
KR20240049958A true KR20240049958A (en) 2024-04-18

Family

ID=90844492

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020220129486A KR20240049958A (en) 2022-10-11 2022-10-11 Multi-camera lens defect screening method and system using stitching condition

Country Status (1)

Country Link
KR (1) KR20240049958A (en)

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102184950B1 (en) 2018-12-14 2020-12-01 엑시스 에이비 A system for panoramic imaging

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102184950B1 (en) 2018-12-14 2020-12-01 엑시스 에이비 A system for panoramic imaging

Similar Documents

Publication Publication Date Title
KR101172629B1 (en) Method of processing image and apparatus for the same
CN109100363B (en) Method and system for distinguishing defects of attached foreign matters from dust
US6876763B2 (en) Image resolution improvement using a color mosaic sensor
US20040037457A1 (en) Detecting and classifying blemishes on the transmissive surface of an image sensor package
CN104392416A (en) Video stitching method for sports scene
Iuliani et al. Image splicing detection based on general perspective constraints
US20200250806A1 (en) Information processing apparatus, information processing method, and storage medium
US8861885B2 (en) Directional noise filtering
US7535501B1 (en) Testing of digital cameras
CN115240023A (en) Training method of defect detection network, defect detection method and related equipment
US9094617B2 (en) Methods and systems for real-time image-capture feedback
CN114187363A (en) Method and device for obtaining radial distortion parameter value and mobile terminal
JP4244046B2 (en) Image processing method and image processing apparatus
JP6960252B2 (en) Maintenance management method for image analyzers and railway equipment parts
KR20240049958A (en) Multi-camera lens defect screening method and system using stitching condition
CN110443750B (en) Method for detecting motion in a video sequence
JP6623545B2 (en) Inspection system, inspection method, program, and storage medium
JP2009264876A (en) Inspection system of product quality, and its method
CN115775245A (en) Coil winding detection method and device, electronic equipment and storage medium
CN114219758A (en) Defect detection method, system, electronic device and computer readable storage medium
Aminova et al. Overview of digital forensics algorithms in DSLR cameras
KR102655139B1 (en) Camera module false feature classification method and system according to image segmentation inspection
KR102262793B1 (en) Camera module inspection device and method through edge detection
RU2774058C1 (en) Method for definition (recognition) of the fact of presentation of digital copy of the document in screen reshoot
JP2007139431A (en) Inspection method of color irregularity flaw and inspection device therefor