KR102302541B1 - 레이블 데이터 변형을 이용한 인공지능 기반 제품 품질 검사 시스템 및 방법 - Google Patents

레이블 데이터 변형을 이용한 인공지능 기반 제품 품질 검사 시스템 및 방법 Download PDF

Info

Publication number
KR102302541B1
KR102302541B1 KR1020200082916A KR20200082916A KR102302541B1 KR 102302541 B1 KR102302541 B1 KR 102302541B1 KR 1020200082916 A KR1020200082916 A KR 1020200082916A KR 20200082916 A KR20200082916 A KR 20200082916A KR 102302541 B1 KR102302541 B1 KR 102302541B1
Authority
KR
South Korea
Prior art keywords
image
rescaling
images
labeling
quality inspection
Prior art date
Application number
KR1020200082916A
Other languages
English (en)
Inventor
윤종필
정대웅
정승현
Original Assignee
한국생산기술연구원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국생산기술연구원 filed Critical 한국생산기술연구원
Priority to KR1020200082916A priority Critical patent/KR102302541B1/ko
Application granted granted Critical
Publication of KR102302541B1 publication Critical patent/KR102302541B1/ko

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • G01N2021/8887Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges based on image processing techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Data Mining & Analysis (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Computational Linguistics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Signal Processing (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Biochemistry (AREA)
  • Immunology (AREA)
  • Pathology (AREA)
  • Quality & Reliability (AREA)
  • Image Analysis (AREA)

Abstract

본 발명은 리스케일링과 머지를 이용하여 새로운 데이터를 증강시킬 수 있게 하는 레이블 데이터 변형을 이용한 인공지능 기반 제품 품질 검사 시스템 및 방법에 관한 것으로서, 복수개의 원본 영상들을 하나의 머지 영상으로 머지(Merge)하는 영상 머지 모듈; 및 상기 영상 머지 모듈에서 머지된 상기 머지 영상을 딥러닝 방식으로 학습시켜서 제품의 품질을 검사하는 품질 검사 모듈;을 포함할 수 있다.

Description

레이블 데이터 변형을 이용한 인공지능 기반 제품 품질 검사 시스템 및 방법{System and method of defect inspection using transformation of label data based on deep learning}
본 발명은 레이블 데이터 변형을 이용한 인공지능 기반 제품 품질 검사 시스템에 관한 것으로서, 보다 상세하게는 리스케일링과 머지를 이용하여 새로운 데이터를 증강시킬 수 있게 하는 레이블 데이터 변형을 이용한 인공지능 기반 제품 품질 검사 시스템 및 방법에 관한 것이다.
최근 스마트 팩토리 구현을 위한 다양한 기술들이 집중적으로 연구되고 있다. 예컨대, 스마트 팩토리 구현을 위해서는 원료량, 원료 품질, 제조 공정 데이터(온도, 습도 등), 설비 운전 조건 등의 다양한 공정 데이터가 필요하고, 그 결과로 나타나는 제품의 품질 데이터가 데이터베이스화 되어야 한다. 즉, 공장의 인풋(input)과 아웃풋(output) 간의 상관 관계를 분석하여 품질을 예측하고, 대량 결함 발생을 사전에 방지하며, 설비 고장을 사전에 예측하여 선제적으로 대응할 수 있어야 한다.
이러한, 스마트 팩토리 구현을 위해 제품의 결함을 실시간 검사하고 제품 품질을 판정하는 결함 검사 시스템은 핵심 기술 중 하나이다.
일반적으로 결함 검사를 위한 비전 시스템의 구성은 다음과 같다.
제품의 상태를 영상화 하는 조명과 카메라로 구성된 광학 모듈, 영상에서 결함의 위치와 종류를 자동 판단하는 인식 모듈, 그리고 마지막으로 제품의 영상과 판단 결과를 저장하는 데이터베이스로 크게 3가지를 포함하여 구성될 수 있다.
특히, 이중에서도 영상에서 결함의 위치와 종류를 판단하는 인식 모듈이 결함 검사 성능에 영향을 미치는 주요 요소이다. 종래에는 정상과 결함을 판단하기 위해, 개발자의 경험적 판단으로 룰베이스(rule-base) 방법에 의존하여 특징의 주요 인자를 추출하는 알고리즘 개발 방법으로 시스템을 개발하였지만, 이러한 방법은 개발 기간이 길어지고, 제품과 결함에 따라 매번 주요 인자 추출 알고리즘을 개발해야하는 단점과 그에 따른 인식 성능 저하가 나타났다. 따라서 최근에는 결함 검출 및 분류를 위한 특징 추출을 스스로 할 수 있는 딥러닝 기술을 이용하여 인식 알고리즘을 개발하는 추세이다.
그러나, 딥러닝 기술을 이용한 결함 분류 알고리즘 개발 시 산업체 특성상 결함 데이터의 수가 적을 수 있다. 따라서 파라미터가 많은 딥(Deep)한 인공지능 모델로 결함 분류 시스템을 개발하면 학습한 데이터에만 분류 정확도가 높고, 실제 데이터에 대해서는 분류 정확도가 낮은 과적합 문제(Over-fitting)가 발생할 수 있다.
따라서, 실제 제조업에 딥러닝을 적용하기 위해서는 적의 데이터만으로 학습할 수 있는 새로운 기술이 필요하다. 일반적인 가짜 데이터를 추가하는 데이터 어그멘테이션(data augmentation)방법은 학습 데이터를 회전, 노이즈 추가, 이동 등의 영상처리를 방법을 이용하여 적은 수의 데이터를 빅데이터로 변환한다. 하지만 이러한 방법은 성능 향상에 한계가 있었다.
본 발명은 상기와 같은 문제점을 포함하여 여러 문제점들을 해결하기 위한 것으로서, 적은 수의 데이터 만으로도 우수한 결함 탐상 성능을 확보할 수 있는 새로운 데이터 어그멘테이션(data augmentation) 방식을 이용하여 개발된 딥러닝을 활용한 결함 검사 기술은 다양한 제품의 내외부 결함 검사, 품질 정량화의 핵심 기술로 사용될 수 있고, 영상에서 특정 대상을 자동으로 검사하는 기술은 결함 검사 뿐만 아니라, 비파괴 검사와 같은 진단 분야에도 사용될 수 있으며, 스마트 팩토리(Smart Factory) 구현의 필수기술로, 생산 조업 조건에 따른 설비의 상태를 판정하고 설비 상태에 따른 제품의 품질을 예측하여 생산 조건을 최적화하는 기술에도 응용할 수 있게 하는 레이블 데이터 변형을 이용한 인공지능 기반 제품 품질 검사 시스템 및 방법을 제공하는 것을 목적으로 한다. 그러나 이러한 과제는 예시적인 것으로, 이에 의해 본 발명의 범위가 한정되는 것은 아니다.
상기 과제를 해결하기 위한 본 발명의 사상에 따른 레이블 데이터 변형을 이용한 인공지능 기반 제품 품질 검사 시스템은, 복수개의 원본 영상들을 하나의 머지 영상으로 머지(Merge)하는 영상 머지 모듈; 및 상기 영상 머지 모듈에서 머지된 상기 머지 영상을 딥러닝 방식으로 학습시켜서 제품의 품질을 검사하는 품질 검사 모듈;을 포함할 수 있다.
또한, 본 발명에 따르면, 상기 영상 머지 모듈은, 상기 원본 영상들 각각을 범주형 변수 하나만 True값으로 나타내고 나머지는 False값으로 나타내는 원핫 인코딩(one-hot encoding) 방식으로 개별 레이블링하는 개별 원핫 인코딩 레이블링부; 머지될 클라스(class)별로 각각의 상기 원본 영상들을 정해진 리스케일링(rescaling) 비율에 따라 리스케일링하는 리스케일링부; 리스케일링된 복수개의 리스케일링 영상들이 서로 다른 위치에 배치되도록 복수개의 상기 리스케일링 영상들을 하나의 머지 영상(Merge)으로 머지하는 영상 머지부; 및 상기 머지 영상을 통합 원핫 인코딩 방식으로 통합 레이블링하는 통합 원핫 인코딩 레이블링부;를 포함할 수 있다.
또한, 본 발명에 따르면, 상기 원본 영상들의 상기 범주형 변수를 1(1배수)로 정의하는 경우, 상기 원본 영상들의 레이블링 개별 백터값들은, 각 원본 영상별로 범주형 변수의 위치가 [1,0,0,0...], [0,1,0,0...], [0,0,1,0...], [0,0,0,1...]과 같이 서로 다르고, 상기 리스케일링 영상들 각각의 리스케일링 비율이 A배수, B배수, C배수, D배수라면, 상기 머지 영상의 레이블링 통합 백터값은, [A, B, C, D...]으로 통합 레이블링될 수 있다.
또한, 본 발명에 따르면, 상기 머지 영상은, 상기 리스케일링 영상들 중에서 리스케일링 비율이 상대적으로 큰 순서에 따라서 상위에 배치되고, 상기 리스케일링 비율이 상대적으로 작은 순서에 따라 하위에 복수개가 좌우로 배치될 수 있다.
또한, 본 발명에 따르면, 상기 품질 검사 모듈은, 적어도 컨볼루션 레이어, 풀링 레이어, 활성화 함수 및 이들의 조합들 중 어느 하나 이상을 포함하여 결함 특징맵을 추출하는 결함 특징 추출부; 및 적어도 디컨볼루션 레이어, 언풀링 레이어, 활성화 함수 및 이들의 조합들 중 어느 하나 이상을 포함하여 상기 결함 특징맵을 결함 복원 영상으로 복원하는 결함 복원부;를 포함할 수 있다.
한편, 상기 과제를 해결하기 위한 본 발명의 사상에 따른 레이블 데이터 변형을 이용한 인공지능 기반 제품 품질 검사 방법은, (a) 복수개의 원본 영상들을 하나의 머지 영상으로 머지하는 단계; 및 (b) 머지된 상기 머지 영상을 딥러닝 방식으로 학습시켜서 제품의 품질을 검사하는 단계;를 포함할 수 있다.
또한, 본 발명에 따르면, 상기 (a) 단계는, (a-1) 상기 원본 영상들 각각을 범주형 변수 하나만 True값으로 나타내고 나머지는 False값으로 나타내는 원핫 인코딩(one-hot encoding) 방식으로 개별 레이블링하는 단계; (a-2) 머지될 클라스(class)별로 각각의 상기 원본 영상들을 정해진 리스케일링(rescaling) 비율에 따라 리스케일링하는 단계; (a-3) 리스케일링된 복수개의 리스케일링 영상들이 서로 다른 위치에 배치되도록 복수개의 상기 리스케일링 영상들을 하나의 머지 영상(Merge)으로 머지하는 단계; 및 (a-4) 상기 머지 영상을 통합 원핫 인코딩 방식으로 통합 레이블링하는 단계;를 포함할 수 있다.
또한, 본 발명에 따르면, 상기 원본 영상들의 상기 범주형 변수를 1(1배수)로 정의하는 경우, 상기 원본 영상들의 레이블링 개별 백터값들은, 각 원본 영상별로 범주형 변수의 위치가 [1,0,0,0...], [0,1,0,0...], [0,0,1,0...], [0,0,0,1...]과 같이 서로 다르고, 상기 리스케일링 영상들 각각의 리스케일링 비율이 A배수, B배수, C배수, D배수라면, 상기 머지 영상의 레이블링 통합 백터값은, [A, B, C, D...]으로 통합 레이블링될 수 있다.
또한, 본 발명에 따르면, 상기 머지 영상은, 상기 리스케일링 영상들 중에서 리스케일링 비율이 상대적으로 큰 순서에 따라서 상위에 배치되고, 상기 리스케일링 비율이 상대적으로 작은 순서에 따라 하위에 복수개가 좌우로 배치될 수 있다.
또한, 본 발명에 따르면, 상기 (b) 단계는, (b-1) 적어도 컨볼루션 레이어, 풀링 레이어, 활성화 함수 및 이들의 조합들 중 어느 하나 이상을 이용하여 결함 특징맵을 추출하는 단계; 및 (b-2) 적어도 디컨볼루션 레이어, 언풀링 레이어, 활성화 함수 및 이들의 조합들 중 어느 하나 이상을 이용하여 상기 결함 특징맵을 결함 복원 영상으로 복원하는 단계;를 포함할 수 있다.
상기한 바와 같이 이루어진 본 발명의 여러 실시예들에 따르면, 적은 수의 데이터 만으로도 우수한 결함 탐상 성능을 확보할 수 있는 새로운 데이터 어그멘테이션(data augmentation) 방식을 이용하여 개발된 딥러닝을 활용한 결함 검사 기술은 다양한 제품의 내외부 결함 검사, 품질 정량화의 핵심 기술로 사용될 수 있고, 영상에서 특정 대상을 자동으로 검사하는 기술은 결함 검사 뿐만 아니라, 비파괴 검사와 같은 진단 분야에도 사용될 수 있으며, 스마트 팩토리(Smart Factory) 구현의 필수기술로, 생산 조업 조건에 따른 설비의 상태를 판정하고 설비 상태에 따른 제품의 품질을 예측하여 생산 조건을 최적화하는 기술에도 응용할 수 있는 효과를 갖는 것이다. 물론 이러한 효과에 의해 본 발명의 범위가 한정되는 것은 아니다.
도 1은 본 발명의 일부 실시예들에 따른 레이블 데이터 변형을 이용한 인공지능 기반 제품 품질 검사 시스템을 개념적으로 나타내는 블록도이다.
도 2는 도 1의 레이블 데이터 변형을 이용한 인공지능 기반 제품 품질 검사 시스템의 영상 머지 모듈을 나타내는 개념도이다.
도 3은 도 1의 레이블 데이터 변형을 이용한 인공지능 기반 제품 품질 검사 시스템의 영상 머지 모듈에서 입력되는 원본 영상 및 출력되는 머지 영상의 일례들을 나타내는 개념도이다.
도 4는 도 1의 레이블 데이터 변형을 이용한 인공지능 기반 제품 품질 검사 시스템의 품질 검사 모듈을 개념적으로 나타내는 개념도이다.
도 5는 본 발명의 일부 실시예들에 따른 레이블 데이터 변형을 이용한 인공지능 기반 제품 품질 검사 방법을 나타내는 순서도이다.
도 6은 본 발명의 일부 다른 실시예들에 따른 레이블 데이터 변형을 이용한 인공지능 기반 제품 품질 검사 방법을 나타내는 순서도이다.
이하, 첨부된 도면을 참조하여 본 발명의 바람직한 여러 실시예들을 상세히 설명하기로 한다.
본 발명의 실시예들은 당해 기술 분야에서 통상의 지식을 가진 자에게 본 발명을 더욱 완전하게 설명하기 위하여 제공되는 것이며, 하기 실시예는 여러 가지 다른 형태로 변형될 수 있으며, 본 발명의 범위가 하기 실시예에 한정되는 것은 아니다. 오히려 이들 실시예들은 본 개시를 더욱 충실하고 완전하게 하고, 당업자에게 본 발명의 사상을 완전하게 전달하기 위하여 제공되는 것이다. 또한, 도면에서 각 층의 두께나 크기는 설명의 편의 및 명확성을 위하여 과장된 것이다.
본 명세서에서 사용된 용어는 특정 실시예를 설명하기 위하여 사용되며, 본 발명을 제한하기 위한 것이 아니다. 본 명세서에서 사용된 바와 같이, 단수 형태는 문맥상 다른 경우를 분명히 지적하는 것이 아니라면, 복수의 형태를 포함할 수 있다. 또한, 본 명세서에서 사용되는 경우 "포함한다(comprise)" 및/또는 "포함하는(comprising)"은 언급한 형상들, 숫자, 단계, 동작, 부재, 요소 및/또는 이들 그룹의 존재를 특정하는 것이며, 하나 이상의 다른 형상, 숫자, 동작, 부재, 요소 및/또는 그룹들의 존재 또는 부가를 배제하는 것이 아니다.
이하, 본 발명의 실시예들은 본 발명의 이상적인 실시예들을 개략적으로 도시하는 도면들을 참조하여 설명한다. 도면들에 있어서, 예를 들면, 제조 기술 및/또는 공차(tolerance)에 따라, 도시된 형상의 변형들이 예상될 수 있다. 따라서, 본 발명 사상의 실시예는 본 명세서에 도시된 영역의 특정 형상에 제한된 것으로 해석되어서는 아니 되며, 예를 들면 제조상 초래되는 형상의 변화를 포함하여야 한다.
도 1은 본 발명의 일부 실시예들에 따른 레이블 데이터 변형을 이용한 인공지능 기반 제품 품질 검사 시스템(100)을 개념적으로 나타내는 블록도이다.
먼저, 도 1에 도시된 바와 같이, 본 발명의 일부 실시예들에 따른 레이블 데이터 변형을 이용한 인공지능 기반 제품 품질 검사 시스템(100)은, 크게 영상 머지 모듈(10) 및 품질 검사 모듈(20)을 포함할 수 있다.
예컨대, 도 1에 도시된 바와 같이, 상기 영상 머지 모듈(10)은, 복수개의 원본 영상(1)들을 하나의 머지 영상(3)으로 머지(Merge)하는 모듈로서, 복수개를 하나로 머지하기 위하여 각각의 원본 영상(1)들을 개별적으로 리스케일링하고, 이들을 서로 병합하여 하나로 머지할 수 있도록 프로그램된 제어 모듈일 수 있다.
또한, 예컨대, 도 1에 도시된 바와 같이, 상기 품질 검사 모듈(20)은, 상기 영상 머지 모듈(10)에서 머지된 상기 머지 영상(3)을 딥러닝 방식으로 학습시켜서 제품의 품질을 검사하는 모듈로서, 예를 들면, 상기 품질 검사 모듈(20)은 기계 학습 모드 및 개체 검출 모드의 2개 모드로 동작할 수 있다.
예를 들면, 기계 학습 모드에서는 상기 품질 검사 모듈(20)이 상기 머지 영상(3)을 학습 데이터(GTD, Ground Truth Data)로 하여 개체 분류에 대한 학습을 수행할 수 있다.
이때, 상기 품질 검사 모듈(20)은 영상에 대한 학습을 수행할 수 있는 신경망 회로(Neural Network), 예를 들어 CNN(Convolutional Neural Network)을 포함하여 기계 학습 및 영상 내의 특정 개체의 분류를 수행할 수 있다.
또한, 학습 데이터는 레이블링(labeling)된 GTD(Ground Truth Data)를 통하여 개체 분류 모듈을 기계 학습시킬 수 있다. 예를 들어 학습 데이터는 특정 개체의 복수의 종류의 분류명과 연결된 결함 영상을 포함할 수 있다.
도 2는 도 1의 레이블 데이터 변형을 이용한 인공지능 기반 제품 품질 검사 시스템(100)의 영상 머지 모듈(10)을 나타내는 개념도이다.
더욱 구체적으로 예를 들면, 도 2에 도시된 바와 같이, 상기 영상 머지 모듈(10)은, 상기 원본 영상(1)들 각각을 범주형 변수 하나만 True값으로 나타내고 나머지는 False값으로 나타내는 원핫 인코딩(one-hot encoding) 방식으로 개별 레이블링하는 개별 원핫 인코딩 레이블링부(11)와, 머지될 클라스(class)별로 각각의 상기 원본 영상(1)들을 정해진 리스케일링(rescaling) 비율에 따라 리스케일링하는 리스케일링부(12)와, 리스케일링된 복수개의 리스케일링 영상(2)들이 서로 다른 위치에 배치되도록 복수개의 상기 리스케일링 영상(2)들을 하나의 머지 영상(3)(Merge)으로 머지하는 영상 머지부(13) 및 상기 머지 영상(3)을 통합 원핫 인코딩 방식으로 통합 레이블링하는 통합 원핫 인코딩 레이블링부(14)를 포함할 수 있다.
여기서, 예컨대, 도 2에 도시된 바와 같이, 상기 개별 원핫 인코딩 레이블링부(11)가 상기 원본 영상(1)들의 상기 범주형 변수를 1(1배수)로 정의하는 경우, 상기 원본 영상(1)들의 레이블링 개별 백터값들은, 각 원본 영상별로 범주형 변수의 위치, 즉, [1,0,0,0...], [0,1,0,0...], [0,0,1,0...], [0,0,0,1...]과 같이 열의 위치가 서로 다르게 레이블될 수 있고, 상기 리스케일링부(12)에서, 상기 리스케일링 영상(2)들 각각의 리스케일링 비율이 A배수, B배수, C배수, D배수라면, 상기 통합 원핫 인코딩 레이블링부(14)에서 상기 머지 영상(3)의 레이블링 통합 백터값은, [A, B, C, D...]으로 통합 레이블링될 수 있다.
따라서, 이러한 통합 백터값을 통해서 복수개의 상기 원본 영상(1)들 각각의 리스케일링 배율을 알 수 있고, 이러한 각 원본 영상의 리스케일링 배율은 제품의 품질 검사의 정확도와 정밀도를 높이는 방향으로 가중치를 변경하면서 반복적으로 학습될 수 있다.
도 3은 도 1의 레이블 데이터 변형을 이용한 인공지능 기반 제품 품질 검사 시스템(100)의 영상 머지 모듈(10)에서 입력되는 원본 영상(1) 및 출력되는 머지 영상(3)의 일례들을 나타내는 개념도이다.
여기서, 예컨대, 도 3에 도시된 바와 같이, 상기 머지 영상(3)은, 상기 리스케일링 영상(2)들 중에서 리스케일링 비율이 상대적으로 큰 순서에 따라서 상위에 배치되고, 상기 리스케일링 비율이 상대적으로 작은 순서에 따라 하위에 복수개가 좌우로 배치될 수 있다.
따라서, 이러한 상기 머지 영상(3)은 후술될 상기 품질 검사 모듈(20)에 의해 학습될 수 있고, 상기 머지 영상(3)에서 머지된 상기 리스케일링 비율이나 하나로 머지된 상기 원본 영상의 종류나 형태 및 다양한 조합 역시, 제품의 품질 검사의 정확도와 정밀도를 높이는 방향으로 가중치를 변경하면서 반복적으로 학습될 수 있다.
도 4는 도 1의 레이블 데이터 변형을 이용한 인공지능 기반 제품 품질 검사 시스템(100)의 품질 검사 모듈(20)을 개념적으로 나타내는 개념도이다.
도 4에 도시된 바와 같이, 본 발명의 일부 실시예들에 따른 레이블 데이터 변형을 이용한 인공지능 기반 제품 품질 검사 시스템(100)의 상기 품질 검사 모듈(20)은, 적어도 컨볼루션 레이어(211), 풀링 레이어(212), 활성화 함수(213) 및 이들의 조합들 중 어느 하나 이상을 포함하여 결함 특징맵을 추출하는 결함 특징 추출부(21) 및 적어도 디컨볼루션 레이어(221), 언풀링 레이어(222), 활성화 함수(223) 및 이들의 조합들 중 어느 하나 이상을 포함하여 상기 결함 특징맵을 결함 복원 영상으로 복원하는 결함 복원부(22)를 포함할 수 있다.
여기서, 예컨대, 상기 결함 특징 추출부(21)의 상기 컨볼루션 레이어(211)(convolution layer)는, 필터로 입력값을 컨볼루션하여 보다 작은 사이즈의 특징맵을 추출할 수 있는 계층이고, 상기 풀링 레이어(212)는, 특징맵에서 풀링 커널 크기만큼의 데이터를 더 작은 사이즈의 데이터로 서브샘플링할 수 있는 계층이며, 상기 활성화 함수(213)는 컨볼루션 연산 이후에 추가적으로 데이터를 활성화하는 함수일 수 있다.
또한, 예컨대, 상기 결함 복원부(22)의 상기 디컨볼루션 레이어(221)는, 필터로 입력값을 디컨볼루션하여 보다 큰 사이즈의 특징맵을 추출할 수 있는 계층이고, 상기 언풀링 레이어(222)는, 특징맵에서 풀링 커널 크기만큼의 데이터를 더 큰 사이즈의 데이터로 업샘플링할 수 있는 계층이며, 상기 활성화 함수(223)는, 컨볼루션 연산 이후에 추가적으로 데이터를 활성화하는 함수일 수 있다.
예를 들면, 도 4에 도시된 바와 같이, 상기 결함 특징 추출부(21)의 상기 컨볼루션 레이어(211)는 제 1 컨볼루션 레이어와 제 2 컨볼루션 레이어 등을 포함할 수 있다. 이 경우, 상기 제 2 컨볼루션 레이어는 상기 제 1 컨볼루션 레이어의 후방에 존재한다. 즉, 상기 제 2 컨볼루션 레이어는 상기 제 1 컨볼루션 레이어의 출력을 이용할 수 있다.
보다 구체적으로, 상기 제 1 컨볼루션 레이어는 입력된 원본 영상의 사이즈 보다 작은 사이즈의 컨볼루션 필터 커널에 기초하여 특징맵(Feature Map)을 추출할 수 있다. 예컨대, 상기 컨볼루션 필터 커널은 원본 사이즈보다 작은 크기의 행렬이다. 이 때, 상기 제 1 컨볼루션 레이어는 컨볼루션 필터 커널을 이동시켜 가면서 원본 영상에 곱하여 특징맵을 추출할 수 있다. 이 때, 컨볼루션 연산을 완료한 후에, 데이터 활성화를 위하여 추가적으로 상기 활성화 함수(213), 예를 들어, ReLU 등에 통과시킬 수 있다.
이러한, 상기 컨볼루션 레이어를 통과한 후에는 데이터 및 연산량을 줄이기 위하여 상기 풀링 레이어(212)를 통과할 수 있다.
이 경우, 상기 풀링 레이어(212)는 특징맵에서 풀링 커널(예를 들어 n x m) 크기만큼의 데이터를 더 작은 사이즈의 데이터로 서브샘플링(Subsampling)할 수 있다.
이와 같이, 상기 결함 특징 추출부(21)의 CNN은 복수의 컨볼루션 레이어(211) 및 풀링 레이어(212)를 반복적으로 통과시켜 연산을 수행할 수 있다.
또한, 예컨대, 상기 결함 복원부(22)의 상기 디컨볼루션 레이어(221)는 제 1 디컨볼루션 레이어와 제 2 디컨볼루션 레이어 등을 포함할 수 있다. 이 경우, 상기 제 2 디컨볼루션 레이어는 상기 제 1 디컨볼루션 레이어의 후방에 존재한다. 즉, 상기 제 2 디컨볼루션 레이어는 상기 제 1 디컨볼루션 레이어의 출력을 이용할 수 있다.
보다 구체적으로, 상기 제 1 디컨볼루션 레이어는 입력된 특징맵의 사이즈 보다 넓은 사이즈의 특징맵을 추출할 수 있다. 이 때, 상기 제 1 디컨볼루션 레이어는 디컨볼루션 필터 커널을 이동시켜 가면서 원본 영상에 곱하여 특징맵을 추출할 수 있다. 이 때, 디컨볼루션 연산을 완료한 후에, 데이터 활성화를 위하여 추가적으로 상기 활성화 함수(223), 예를 들어, ReLU 등에 통과시킬 수 있다.
이러한, 상기 디컨볼루션 레이어를 통과한 후에는 데이터 및 연산량을 늘리기 위하여 상기 언풀링 레이어(222)를 통과할 수 있다.
이 경우, 상기 언풀링 레이어(222)는 특징맵에서 언풀링 커널 크기만큼의 데이터를 더 큰 사이즈의 데이터로 업샘플링(Upsampling)할 수 있다.
이와 같이, 상기 결함 복원부(22)의 CNN은 복수의 디컨볼루션 레이어(221) 및 언풀링 레이어(222)를 반복적으로 통과시켜 연산을 수행할 수 있다.
그러므로, 상기 결함 특징 추출부(21)와 상기 결함 복원부(22)를 이용하여 상술된 복수개의 페어 데이터들인 N개의 상기 제 N 복원 영상(Na) 및 N개의 상기 제 N 이진 영상(Nb)를 반복적으로 학습시켜서 최종적으로 제품의 결함을 높은 정확도와 정밀도로 판별할 수 있다.
도 5는 본 발명의 일부 실시예들에 따른 레이블 데이터 변형을 이용한 인공지능 기반 제품 품질 검사 방법을 나타내는 순서도이다.
도 1 내지 도 5에 도시된 바와 같이, 본 발명의 일부 실시예들에 따른 레이블 데이터 변형을 이용한 인공지능 기반 제품 품질 검사 방법은, (a) 복수개의 원본 영상(1)들을 하나의 머지 영상으로 머지하는 단계 및 (b) 머지된 상기 머지 영상(3)을 딥러닝 방식으로 학습시켜서 제품의 품질을 검사하는 단계를 포함할 수 있다.
도 6은 본 발명의 일부 다른 실시예들에 따른 레이블 데이터 변형을 이용한 인공지능 기반 제품 품질 검사 방법을 나타내는 순서도이다.
도 1 내지 도 6에 도시된 바와 같이, 본 발명의 일부 다른 실시예들에 따른 레이블 데이터 변형을 이용한 인공지능 기반 제품 품질 검사 방법은, (a) 복수개의 원본 영상(1)들을 하나의 머지 영상으로 머지하는 단계 및 (b) 머지된 상기 머지 영상(3)을 딥러닝 방식으로 학습시켜서 제품의 품질을 검사하는 단계를 포함할 수 있고, 상기 (a) 단계는, (a-1) 상기 원본 영상(1)들 각각을 범주형 변수 하나만 True값으로 나타내고 나머지는 False값으로 나타내는 원핫 인코딩(one-hot encoding) 방식으로 개별 레이블링하는 단계와, (a-2) 머지될 클라스(class)별로 각각의 상기 원본 영상(1)들을 정해진 리스케일링(rescaling) 비율에 따라 리스케일링하는 단계와, (a-3) 리스케일링된 복수개의 리스케일링 영상(2)이 서로 다른 위치에 배치되도록 복수개의 상기 리스케일링 영상(2)을 하나의 머지 영상(3)으로 머지(Merge)하는 단계 및 (a-4) 상기 머지 영상(3)을 통합 원핫 인코딩 방식으로 통합 레이블링하는 단계를 포함할 수 있다.
또한, 상기 (b) 단계는, (b-1) 적어도 컨볼루션 레이어(211), 풀링 레이어(212), 활성화 함수(213) 및 이들의 조합들 중 어느 하나 이상을 이용하여 결함 특징맵을 추출하는 단계 및 (b-2) 적어도 디컨볼루션 레이어(221), 언풀링 레이어(222), 활성화 함수(223) 및 이들의 조합들 중 어느 하나 이상을 이용하여 상기 결함 특징맵을 결함 복원 영상으로 복원하는 단계를 포함할 수 있다.
여기서, 도 1 내지 도 6에 도시된 바와 같이, 상기 원본 영상(1)들의 상기 범주형 변수를 1(1배수)로 정의하는 경우, 상기 원본 영상(1)들의 레이블링 개별 백터값들은, 각 원본 영상별로 범주형 변수의 위치가 [1,0,0,0...], [0,1,0,0...], [0,0,1,0...], [0,0,0,1...]과 같이 서로 다르고, 상기 리스케일링 영상(2)들 각각의 리스케일링 비율이 A배수, B배수, C배수, D배수라면, 상기 머지 영상(3)의 레이블링 통합 백터값은, [A, B, C, D...]으로 레이블링될 수 있다.
또한, 상기 머지 영상(3)은, 상기 리스케일링 영상(2)들 중에서 리스케일링 비율이 상대적으로 큰 순서에 따라서 상위에 배치되고, 상기 리스케일링 비율이 상대적으로 작은 순서에 따라 하위에 복수개가 좌우로 배치될 수 있다.
그러나, 이러한 상기 머지 영상(3)은 도면에 반드시 국한되지 않고 매우 다양한 위치에 다양한 리스케링 배율로 다양한 개수의 영상들이 머지될 수 있다.
그러므로, 적은 수의 데이터 만으로도 우수한 결함 탐상 성능을 확보할 수 있는 새로운 데이터 어그멘테이션(data augmentation) 방식을 이용하여 개발된 딥러닝을 활용한 결함 검사 기술은 다양한 제품의 내외부 결함 검사, 품질 정량화의 핵심 기술로 사용될 수 있고, 영상에서 특정 대상을 자동으로 검사하는 기술은 결함 검사 뿐만 아니라, 비파괴 검사와 같은 진단 분야에도 사용될 수 있으며, 스마트 팩토리(Smart Factory) 구현의 필수기술로, 생산 조업 조건에 따른 설비의 상태를 판정하고 설비 상태에 따른 제품의 품질을 예측하여 생산 조건을 최적화하는 기술에도 응용할 수 있다.
본 발명은 도면에 도시된 실시예를 참고로 설명되었으나 이는 예시적인 것에 불과하며, 당해 기술분야에서 통상의 지식을 가진 자라면 이로부터 다양한 변형 및 균등한 다른 실시예가 가능하다는 점을 이해할 것이다. 따라서 본 발명의 진정한 기술적 보호 범위는 첨부된 특허청구범위의 기술적 사상에 의하여 정해져야 할 것이다.
1: 원본 영상
2: 리스케일링 영상
3: 머지 영상
10: 영상 머지 모듈
11: 개별 원핫 인코딩 레이블링부
12: 리스케일링부
13: 영상 머지부
14: 통합 원핫 인코딩 레이블링부
20: 품질 검사 모듈
21: 결함 특징 추출부
211: 컨볼루션 레이어
212: 풀링 레이어
213: 활성화 함수
22: 결함 복원부
221: 디컨볼루션 레이어
222: 언풀링 레이어
223: 활성화 함수
100: 인공지능 기반 제품 품질 검사 시스템

Claims (10)

  1. 복수개의 원본 영상들을 하나의 머지 영상으로 머지(Merge)하는 영상 머지 모듈; 및
    상기 영상 머지 모듈에서 머지된 상기 머지 영상을 딥러닝 방식으로 학습시켜서 제품의 품질을 검사하는 품질 검사 모듈;
    을 포함하고,
    상기 영상 머지 모듈은,
    상기 원본 영상들 각각을 범주형 변수 하나만 True값으로 나타내고 나머지는 False값으로 나타내는 원핫 인코딩(one-hot encoding) 방식으로 개별 레이블링하는 개별 원핫 인코딩 레이블링부;
    머지될 클라스(class)별로 각각의 상기 원본 영상들을 정해진 리스케일링(rescaling) 비율에 따라 리스케일링하는 리스케일링부;
    리스케일링된 복수개의 리스케일링 영상들이 서로 다른 위치에 배치되도록 복수개의 상기 리스케일링 영상들을 하나의 머지 영상(Merge)으로 머지하는 영상 머지부; 및
    상기 머지 영상을 통합 원핫 인코딩 방식으로 통합 레이블링하는 통합 원핫 인코딩 레이블링부;
    를 포함하는, 레이블 데이터 변형을 이용한 인공지능 기반 제품 품질 검사 시스템.
  2. 삭제
  3. 제 1 항에 있어서,
    상기 원본 영상들의 상기 범주형 변수를 1(1배수)로 정의하는 경우,
    상기 원본 영상들의 레이블링 개별 백터값들은, 각 원본 영상별로 범주형 변수의 위치가 [1,0,0,0...], [0,1,0,0...], [0,0,1,0...], [0,0,0,1...]과 같이 서로 다르고,
    상기 리스케일링 영상들 각각의 리스케일링 비율이 A배수, B배수, C배수, D배수라면,
    상기 머지 영상의 레이블링 통합 백터값은, [A, B, C, D...]으로 통합 레이블링되는, 레이블 데이터 변형을 이용한 인공지능 기반 제품 품질 검사 시스템.
  4. 제 3 항에 있어서,
    상기 머지 영상은,
    상기 리스케일링 영상들 중에서 리스케일링 비율이 상대적으로 큰 순서에 따라서 상위에 배치되고, 상기 리스케일링 비율이 상대적으로 작은 순서에 따라 하위에 복수개가 좌우로 배치되는, 레이블 데이터 변형을 이용한 인공지능 기반 제품 품질 검사 시스템.
  5. 제 1 항에 있어서,
    상기 품질 검사 모듈은,
    적어도 컨볼루션 레이어, 풀링 레이어, 활성화 함수 및 이들의 조합들 중 어느 하나 이상을 포함하여 결함 특징맵을 추출하는 결함 특징 추출부; 및
    적어도 디컨볼루션 레이어, 언풀링 레이어, 활성화 함수 및 이들의 조합들 중 어느 하나 이상을 포함하여 상기 결함 특징맵을 결함 복원 영상으로 복원하는 결함 복원부;
    를 포함하는, 레이블 데이터 변형을 이용한 인공지능 기반 제품 품질 검사 시스템.
  6. (a) 복수개의 원본 영상들을 하나의 머지 영상으로 머지하는 단계; 및
    (b) 머지된 상기 머지 영상을 딥러닝 방식으로 학습시켜서 제품의 품질을 검사하는 단계;
    를 포함하고,
    상기 (a) 단계는,
    (a-1) 상기 원본 영상들 각각을 범주형 변수 하나만 True값으로 나타내고 나머지는 False값으로 나타내는 원핫 인코딩(one-hot encoding) 방식으로 개별 레이블링하는 단계;
    (a-2) 머지될 클라스(class)별로 각각의 상기 원본 영상들을 정해진 리스케일링(rescaling) 비율에 따라 리스케일링하는 단계;
    (a-3) 리스케일링된 복수개의 리스케일링 영상들이 서로 다른 위치에 배치되도록 복수개의 상기 리스케일링 영상들을 하나의 머지 영상(Merge)으로 머지하는 단계; 및
    (a-4) 상기 머지 영상을 통합 원핫 인코딩 방식으로 통합 레이블링하는 단계;
    를 포함하는, 레이블 데이터 변형을 이용한 인공지능 기반 제품 품질 검사 방법.
  7. 삭제
  8. 제 6 항에 있어서,
    상기 원본 영상들의 상기 범주형 변수를 1(1배수)로 정의하는 경우,
    상기 원본 영상들의 레이블링 개별 백터값들은, 각 원본 영상별로 범주형 변수의 위치가 [1,0,0,0...], [0,1,0,0...], [0,0,1,0...], [0,0,0,1...]과 같이 서로 다르고,
    상기 리스케일링 영상들 각각의 리스케일링 비율이 A배수, B배수, C배수, D배수라면,
    상기 머지 영상의 레이블링 통합 백터값은, [A, B, C, D...]으로 통합 레이블링되는, 레이블 데이터 변형을 이용한 인공지능 기반 제품 품질 검사 방법.
  9. 제 8 항에 있어서,
    상기 머지 영상은,
    상기 리스케일링 영상들 중에서 리스케일링 비율이 상대적으로 큰 순서에 따라서 상위에 배치되고, 상기 리스케일링 비율이 상대적으로 작은 순서에 따라 하위에 복수개가 좌우로 배치되는, 레이블 데이터 변형을 이용한 인공지능 기반 제품 품질 검사 방법.
  10. 제 6 항에 있어서,
    상기 (b) 단계는,
    (b-1) 적어도 컨볼루션 레이어, 풀링 레이어, 활성화 함수 및 이들의 조합들 중 어느 하나 이상을 이용하여 결함 특징맵을 추출하는 단계; 및
    (b-2) 적어도 디컨볼루션 레이어, 언풀링 레이어, 활성화 함수 및 이들의 조합들 중 어느 하나 이상을 이용하여 상기 결함 특징맵을 결함 복원 영상으로 복원하는 단계;
    를 포함하는, 레이블 데이터 변형을 이용한 인공지능 기반 제품 품질 검사 방법.
KR1020200082916A 2020-07-06 2020-07-06 레이블 데이터 변형을 이용한 인공지능 기반 제품 품질 검사 시스템 및 방법 KR102302541B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020200082916A KR102302541B1 (ko) 2020-07-06 2020-07-06 레이블 데이터 변형을 이용한 인공지능 기반 제품 품질 검사 시스템 및 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020200082916A KR102302541B1 (ko) 2020-07-06 2020-07-06 레이블 데이터 변형을 이용한 인공지능 기반 제품 품질 검사 시스템 및 방법

Publications (1)

Publication Number Publication Date
KR102302541B1 true KR102302541B1 (ko) 2021-09-16

Family

ID=77926616

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020200082916A KR102302541B1 (ko) 2020-07-06 2020-07-06 레이블 데이터 변형을 이용한 인공지능 기반 제품 품질 검사 시스템 및 방법

Country Status (1)

Country Link
KR (1) KR102302541B1 (ko)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101911061B1 (ko) * 2018-03-26 2018-10-23 주식회사 대곤코퍼레이션 비지도 학습기반 영역별 자가부호기를 이용한 제품 불량판별 시스템 및 비지도 학습기반 영역별 자가부호기를 이용한 제품 불량판별 방법
JP2020024201A (ja) * 2018-08-02 2020-02-13 東レ株式会社 欠点検査方法および欠点検査装置
KR20200018247A (ko) * 2018-08-09 2020-02-19 한국전자통신연구원 멀티 모달 입력 기반의 뉴럴 네트워크를 이용한 물질 분석 방법 및 이를 위한 장치
KR102109451B1 (ko) * 2020-02-05 2020-05-12 정한규 크랙 보수 및 도장 공사를 위한 제어 방법 및 장치
KR20200060372A (ko) * 2017-09-22 2020-05-29 사우디 아라비안 오일 컴퍼니 단열재 하부부식(cui)을 식별하기 위해 신경망을 이용한 서모그래피 이미지 처리

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20200060372A (ko) * 2017-09-22 2020-05-29 사우디 아라비안 오일 컴퍼니 단열재 하부부식(cui)을 식별하기 위해 신경망을 이용한 서모그래피 이미지 처리
KR101911061B1 (ko) * 2018-03-26 2018-10-23 주식회사 대곤코퍼레이션 비지도 학습기반 영역별 자가부호기를 이용한 제품 불량판별 시스템 및 비지도 학습기반 영역별 자가부호기를 이용한 제품 불량판별 방법
JP2020024201A (ja) * 2018-08-02 2020-02-13 東レ株式会社 欠点検査方法および欠点検査装置
KR20200018247A (ko) * 2018-08-09 2020-02-19 한국전자통신연구원 멀티 모달 입력 기반의 뉴럴 네트워크를 이용한 물질 분석 방법 및 이를 위한 장치
KR102109451B1 (ko) * 2020-02-05 2020-05-12 정한규 크랙 보수 및 도장 공사를 위한 제어 방법 및 장치

Similar Documents

Publication Publication Date Title
EP3465174B1 (en) Generating simulated images from input images for semiconductor applications
CN111819676B (zh) 训练用于低分辨率图像中的缺陷检测的神经网络
KR102422093B1 (ko) 이미지 기반 표본 프로세스 제어
CN108108768B (zh) 基于卷积神经网络的光伏玻璃缺陷分类方法及装置
US10043261B2 (en) Generating simulated output for a specimen
US10769761B2 (en) Generating high resolution images from low resolution images for semiconductor applications
TWI834916B (zh) 基於機器學習的取樣缺陷檢測
KR20200004825A (ko) 디스플레이 장치 품질 검사 방법, 장치, 전자 장치 및 저장 매체
US20190287238A1 (en) Defect detection, classification, and process window control using scanning electron microscope metrology
CN110189288A (zh) 生成可用于半导体样本的检查的训练集的方法和其系统
CN110766660A (zh) 基于融合深度学习模型的集成电路缺陷图像识别分类系统
US11694327B2 (en) Cross layer common-unique analysis for nuisance filtering
TW202041850A (zh) 使用疊層去除雜訊自動編碼器之影像雜訊降低
CN111126433A (zh) 一种工厂pcb板缺陷检测中正负样本数据平衡方法
KR20230048110A (ko) 딥 러닝 기반 결함 검출
CN117540779A (zh) 一种基于双源知识蒸馏的轻量化金属表面缺陷检测方法
CN116703885A (zh) 一种基于Swin Transformer的表面缺陷检测方法及系统
Chang et al. A Novel Multicategory Defect Detection Method Based on the Convolutional Neural Network Method for TFT‐LCD Panels
CN110785709B (zh) 从低分辨率图像产生高分辨率图像以用于半导体应用
KR102302541B1 (ko) 레이블 데이터 변형을 이용한 인공지능 기반 제품 품질 검사 시스템 및 방법
EP4154078A1 (en) Wafer level spatial signature grouping using transfer learning
KR102302540B1 (ko) 데이터 페어 생성 기술을 이용한 딥러닝 기반 제품 결함 검사 시스템 및 방법
KR102475851B1 (ko) 입출력 데이터 생성 및 변형을 이용한 딥러닝 기반 제품 결함 검사 시스템 및 방법
CN116596851A (zh) 一种基于知识蒸馏和异常模拟的工业瑕疵检测方法
KR102434442B1 (ko) 검사 대상의 결함 검사를 고속으로 수행하는 방법 및 이를 수행하는 장치들

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right
GRNT Written decision to grant