KR102523770B1 - 딥러닝을 활용한 머신 비전 기반의 전장 부품의 품질 관리 시스템 및 방법 - Google Patents

딥러닝을 활용한 머신 비전 기반의 전장 부품의 품질 관리 시스템 및 방법 Download PDF

Info

Publication number
KR102523770B1
KR102523770B1 KR1020210072161A KR20210072161A KR102523770B1 KR 102523770 B1 KR102523770 B1 KR 102523770B1 KR 1020210072161 A KR1020210072161 A KR 1020210072161A KR 20210072161 A KR20210072161 A KR 20210072161A KR 102523770 B1 KR102523770 B1 KR 102523770B1
Authority
KR
South Korea
Prior art keywords
image
difference image
neural network
difference
deep learning
Prior art date
Application number
KR1020210072161A
Other languages
English (en)
Other versions
KR20220163696A (ko
Inventor
장성욱
Original Assignee
동의대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 동의대학교 산학협력단 filed Critical 동의대학교 산학협력단
Priority to KR1020210072161A priority Critical patent/KR102523770B1/ko
Priority to PCT/KR2021/016237 priority patent/WO2022255566A1/ko
Publication of KR20220163696A publication Critical patent/KR20220163696A/ko
Application granted granted Critical
Publication of KR102523770B1 publication Critical patent/KR102523770B1/ko

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/22Matching criteria, e.g. proximity measures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/001
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/25Determination of region of interest [ROI] or a volume of interest [VOI]

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Computing Systems (AREA)
  • Molecular Biology (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Computational Linguistics (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Health & Medical Sciences (AREA)
  • Image Analysis (AREA)

Abstract

딥러닝을 활용한 머신 비전 기반의 전장 부품의 품질 관리 시스템 및 방법이 개시된다. 본 발명은 상기 전장 부품 중 미리 선별된 양품 및 미리 선별된 불량품을 각각 촬영하는 카메라 및 상기 양품을 촬영한 제1 이미지 및 상기 불량품을 촬영한 제2 이미지를 상기 카메라로부터 수신하고, 상기 제1 이미지 및 상기 제2 이미지를 기초로 제1 차이 이미지를 생성하고, 현장 작업자의 주관적인 양품 판별 기준을 미리 학습한 제1 심층 신경망에 따라 생성된 상기 제1 차이 이미지에 대한 마스킹 입력을 수신하며, 상기 마스킹 입력을 기초로 상기 제1 차이 이미지를 마스크 처리하여 제2 차이 이미지를 생성하는 컴퓨팅 장치를 포함하되, 상기 컴퓨팅 장치는 상기 제1 이미지 및 상기 제2 이미지를 제2 심층 신경망에 입력값으로 정의하고, 상기 제2 차이 이미지를 상기 심층 신경망의 출력값으로 정의하여 상기 심층 신경망을 딥러닝 학습시키고, 상기 제2 차이 이미지의 잔존 이미지 요소의 크기를 결함값으로 산출하고 상기 결함값의 분포를 통해 검사 기준값을 산출하며, 상기 검사 기준값을 기초로 상기 부품을 양품과 불량품으로 분류함으로써 품질을 관리할 수 있다.

Description

딥러닝을 활용한 머신 비전 기반의 전장 부품의 품질 관리 시스템 및 방법{MACHINE VISION-BASED QUALITY MANAGEMENT SYSTEM AND METHOD FOR ELECTRIC PARTS USING DEEP LEARNING}
본 발명은 딥러닝을 활용한 딥러닝을 활용한 머신 비전 기반의 전장 부품의 품질 관리 시스템 및 방법에 관한 것이다. 보다 상세하게는, 딥러닝을 활용한 머신 비전을 통하여 전장 부품의 정밀성을 판단하는 등 품질을 측정하고 관리할 수 있는 시스템 및 방법에 대한 것이다.
알고리즘(algorithm)은 주어진 문제를 논리적으로 해결하기 위해 필요한 절차, 방법, 명령어들을 모아놓은 것으로서, 최근 머신 러닝 알고리즘의 비약적인 발전에 따라, 많은 분야에서 응용되어 사용되고 있다.
특히, 머신 러닝 알고리즘은 딥러닝 알고리즘에 기초하여 미리 학습되어 생성된 분석모델이 마련되어 있을 수 있다. 상기 딥러닝 알고리즘에는 CNN(Convolutional Neural Network)이 포함될 수 있다.
고정밀 전장 장치에 있어서, 각 전장 장치의 부품들의 품질 관리는 매우 중요한 과정이다. 특히, 고정밀 전장 장치에 있어서, 각 장치를 구성하는 부품의 품질뿐만 아니라 치수 관리 역시 매우 중요한 요소이다.
이에, 종래 기술은 JP6753553B1과 같이 각 조명 빛의 반사광을 활용하여 이미지에서 추출된 빛이 반사되는 부분의 중복 정도에 따라 검사 대상 부위의 표면 결함 등을 검출하는 내용들을 포함하고 있다.
이처럼, 종래 기술은 별도의 센서 등을 추가로 구비하여야만 타겟의 품질을 판단할 수 있는 문제점을 가지고 있었다. 최근, 딥러닝 기술 및 비전 인식 알고리즘의 비약적인 발달로, 별도의 센서 없이 카메라만으로 부품의 품질을 측정하고, 이를 통하여 품질을 관리할 수 있는 시스템 및 방법의 필요성이 제기되고 있다.
JP 6753553 B1 (공개일: 2020-09-09)
본 발명의 목적은 딥러닝을 활용한 머신 비전을 활용하여, 다른 센서의 사용없이 카메라만으로 전장 부품의 정밀한 품질을 측정하고 이를 통하여 부품의 품질을 관리할 수 있는 시스템 및 방법을 제공하는 것이다.
또한, 본 발명의 목적은 불량 요소에 대한 마스킹 작업을 미리 학습한 제1 심층 신경망을 활용하여, 차이 이미지에 대한 불량 요소를 자동으로 마스킹하고, 이를 통하여 부품의 품질을 관리할 수 있는 시스템 및 방법을 제공하는 것이다.
또한, 본 발명의 목적은 최적화된 응용 필터를 도입하여 딥러닝을 활용한 머신 비전을 통한 차이 이미지를 보다 정확하게 생성하고, 오염물질 및 염분에 강한 내오염성 렌즈를 포함하는 카메라를 통하여 이미지를 생성함으로써, 어떠한 환경에서도 선명한 이미지를 생성하여, 보다 딥러닝을 활용한 머신 비전을 수행하도록 하는 딥러닝을 활용한 머신 비전 기반의 기계 부품의 품질 관리 시스템 및 방법을 제공하는 것이다.
상술한 문제점들을 해결하기 위하여, 본 발명은 딥러닝을 활용한 머신 비전 기반의 전장 부품의 품질 관리 시스템에 있어서, 상기 전장 부품 중 미리 선별된 양품 및 미리 선별된 불량품을 각각 촬영하는 카메라 및 상기 양품을 촬영한 제1 이미지 및 상기 불량품을 촬영한 제2 이미지를 상기 카메라로부터 수신하고, 상기 제1 이미지 및 상기 제2 이미지를 기초로 제1 차이 이미지를 생성하고, 현장 작업자의 주관적인 양품 판별 기준을 미리 학습한 제1 심층 신경망에 따라 생성된 상기 제1 차이 이미지에 대한 마스킹 입력을 수신하며, 상기 마스킹 입력을 기초로 상기 제1 차이 이미지를 마스크 처리하여 제2 차이 이미지를 생성하는 컴퓨팅 장치를 포함하되, 상기 컴퓨팅 장치는, 상기 제1 이미지 및 상기 제2 이미지를 제2 심층 신경망에 입력값으로 정의하고, 상기 제2 차이 이미지를 상기 심층 신경망의 출력값으로 정의하여 상기 심층 신경망을 딥러닝 학습시키고, 상기 제2 차이 이미지의 잔존 이미지 요소의 크기를 결함값으로 산출하고 상기 결함값의 분포를 통해 검사 기준값을 산출하며, 상기 검사 기준값을 기초로 상기 부품을 양품과 불량품으로 분류함으로써 품질을 관리할 수 있다.
또한, 상기 컴퓨팅 장치는 상기 제1 차이 이미지를 확대한 제1 확대 이미지를 생성하고, 상기 제1 심층 신경망으로부터 상기 제1 확대 이미지에 대한 마스킹 입력을 수신할 수 있다.
또한, 상기 컴퓨팅 장치는, 현장 작업자로부터 관심 영역을 수신하고, 상기 관심 영역을 중심으로 상기 제1 확대 이미지를 생성할 수 있다.
또한, 상기 카메라는, 상기 제1 이미지를 획득하는 카메라 모듈을 포함하고, 상기 카메라 모듈은, 측벽에 관통홀을 포함하는 하우징 및 상기 관통홀에 설치된 렌즈를 포함할 수 있다.
또한, 상기 컴퓨팅 장치는, 상기 제1 이미지 및 상기 제2 이미지 중 적어도 하나의 이미지에 이미지 보정 필터를 적용하여 적어도 하나의 보정된 이미지를 생성하고, 상기 적어도 하나의 보정된 이미지를 기초로 상기 제1 차이 이미지를 생성할 수 있다.
또한, 상술한 문제점들을 해결하기 위하여, 본 발명은 딥러닝을 활용한 머신 비전 기반의 전장 부품의 품질 관리 방법에 있어서, 상기 부품 중 미리 선별된 양품을 촬영한 제1 이미지 및 상기 부품 중 미리 선별된 불량품을 촬영한 제2 이미지를 수신하는 단계, 상기 제1 이미지 및 상기 제2 이미지를 기초로 제1 차이 이미지를 생성하는 단계, 상기 제1 차이 이미지 중 관심 영역에 대한 사용자 입력을 수신하는 단계, 상기 제1 차이 이미지에서 상기 관심 영역을 확대한 제1 확대 이미지를 생성하는 단계, 작업자로부터 현장 작업자의 주관적인 양품 판별 기준을 미리 학습한 제1 심층 신경망에 따라 상기 제1 확대 이미지를 구성하는 이미지 요소들 중 불량으로 판단되는 이미지 요소를 선택받아 마스킹 입력을 수신하는 단계, 상기 마스킹 입력에 의해 선택된 이미지 요소를 제외한 나머지 이미지 요소를 상기 제1 확대 이미지에서 마스크 처리하여 현장 작업자가 불량 판별에서 중요하게 생각하는 요소만을 남긴 마스크 처리된 제2 차이 이미지를 생성하는 단계, 상기 제1 이미지와 상기 제2 이미지를 입력으로 하고 상기 제2 차이 이미지를 출력하도록 하여 제2 심층 신경망이 입출력 데이터간 상관관계를 추가로 딥러닝 학습시키는 단계, 상기 제2 차이 이미지의 잔존 이미지 요소의 크기를 결함값으로 산출하고 상기 제2 차이 이미지의 결함값 분포를 통해 검사 기준값을 산출하는 단계 및 상기 검사 기준값을 기초로 검사 대상 부품을 분류하는 단계를 포함할 수 있다.
상술한 문제점들을 해결하기 위하여, 본 발명은 명령어들을 저장하는 비일시적 컴퓨터 판독가능 매체로서, 상기 명령어들은 프로세서에 의해 실행될 때, 상기 프로세서로 하여금 상술한 방법을 수행하게 하는, 비일시적 컴퓨터 판독가능 매체일 수 있다.
본 발명은 품질을 관리함과 동시에 부품의 치수를 정밀하게 측정함으로써 부품을 효과적으로 관리할 수 있는 효과를 가진다.
또한, 본 발명은 이미지에서 불량 요소에 대한 마스킹 입력 작업을 심층 신경망 학습을 통하여 자동으로 진행하여 시간 및 비용을 현저히 절감할 수 있는 효과를 가진다 .
또한, 본 발명은 품질의 치수를 카메라 이미지만으로 측정하기 위하여 기준 오브젝트를 함께 촬영함으로써 보다 용이하게 부품의 치수를 정밀하게 측정할 수 있는 효과를 가진다.
또한, 본 발명은 최적화된 응용 필터를 도입하여 비전 인식시 차이 이미지를 보다 정확하게 생성하고, 오염물질 및 염분에 강한 내오염성 렌즈를 포함하는 카메라를 통하여 이미지를 생성함으로써, 어떠한 환경에서도 선명한 이미지를 생성하여, 보다 정확한 비전 인식 알고리즘을 수행할 수 있는 효과를 가진다.
또한, 본 발명은 딥러닝을 활용한 머신 비전을 통하여 별도의 센서를 구비하지 않고서 카메라만으로도 부품의 품질을 측정하고 이를 통하여 부품의 품질을 관리할 수 있는 효과를 가진다.
본 발명에 따라 얻을 수 있는 효과는 이상에서 언급한 효과로 제한되지 않으며, 언급하지 않은 또 다른 효과들은 아래의 기재로부터 본 명세서가 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.
도 1은 본 발명에 따른 딥러닝을 활용한 머신 비전 기반의 전장 부품의 품질 관리 시스템을 나타낸 것이다.
도 2는 본 발명에 따른 컴퓨팅 장치를 나타낸 도면이다.
도 3은 본 발명에 따른 메모리를 기능적 요소로 나타낸 것이다.
도 4 내지 도 6은 본 발명에 따른 딥러닝을 활용한 머신 비전 기반의 전장 부품의 품질 관리 시스템의 실시예를 나타낸 것이다.
도 7은 본 발명에 따른 검사 기준값을 나타낸 그래프이다.
도 8은 본 발명에 따른 카메라에 포함된 카메라 모듈을 나타낸 도면이다.
도 9는 본 발명에 따른 이미지 보정 필터의 예시를 나타낸 도면이다.
도 10은 본 발명에 따른 HSV 3차원 그래프를 나타낸 도면이다.
도 11은 하나의 색상의 HSV값을 나타낸 예시를 나타낸 도면이다.
도 12는 본 발명에 따른 딥러닝을 활용한 머신 비전 기반의 전장 부품의 품질 관리 방법을 나타낸 것이다.
도 13은 본 발명에 따른 S140 및 S150 단계를 나타낸 것이다.
본 명세서에 관한 이해를 돕기 위해 상세한 설명의 일부로 포함되는, 첨부 도면은 본 명세서에 대한 실시예를 제공하고, 상세한 설명과 함께 본 명세서의 기술적 특징을 설명한다.
이하, 첨부된 도면을 참조하여 본 명세서에 개시된 실시 예를 상세히 설명하되, 도면 부호에 관계없이 동일하거나 유사한 구성요소는 동일한 참조 번호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다.
또한, 본 명세서에 개시된 실시 예를 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 명세서에 개시된 실시 예의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다.
또한, 첨부된 도면은 본 명세서에 개시된 실시 예를 쉽게 이해할 수 있도록 하기 위한 것일 뿐, 첨부된 도면에 의해 본 명세서에 개시된 기술적 사상이 제한되지 않으며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.
제1, 제2 등과 같이 서수를 포함하는 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되지는 않는다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다.
단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다.
본 출원에서, "포함한다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
이하, 상술한 내용들을 바탕으로 본 명세서의 바람직한 일 실시예에 따른, 딥러닝을 활용한 머신 비전 기반의 전장 부품의 품질 관리 시스템에 관하여 상세히 설명하면 다음과 같다.
도 1은 본 발명에 따른 딥러닝을 활용한 머신 비전 기반의 전장 부품의 품질 관리 시스템을 나타낸 것이다. 본 발명에 따른 전장 부품은 전자 부품, 기계 부품을 포함하는 개념일 수 있다.
도 1에 따르면, 본 발명에 따른 딥러닝을 활용한 머신 비전 기반의 전장 부품의 품질 관리 시스템은 카메라(100) 및 컴퓨팅 장치(200)를 포함할 수 있다. 본 발명에 따른 카메라(100)는 부품 중 미리 선별된 양품 및 미리 선별된 불량품을 각각 촬영할 수 있다. 촬영을 통하여, 카메라(100)는 양품을 촬영한 제1 이미지를 생성하고, 불량품을 촬영한 제2 이미지를 생성할 수 있다.
본 발명에 따른 컴퓨팅 장치(200)는 제1 이미지 및 제2 이미지를 카메라(100)로부터 수신하고, 제1 이미지 및 제2 이미지를 기초로 제1 차이 이미지를 생성할 수 있다.
제1 차이 이미지를 생성하기 위하여, 컴퓨팅 장치(200)는 제1 이미지 및 제2 이미지 중 적어도 하나의 이미지에 이미지 보정 필터를 적용하여 적어도 하나의 보정된 이미지를 생성하고, 생성된 적어도 하나의 보정된 이미지를 기초로 제1 차이 이미지를 생성할 수 있다. 부품의 이미지별 공통점과 차이점을 추출해야 하므로, 이미지 보정 필터를 통하여 보다 비전 인식의 효율성을 높일 수 있다. 이에 대한 구체적인 설명은 후술한다.
또한, 컴퓨팅 장치(200)는, 현장 작업자의 주관적인 양품 판별 기준에 따라 제1 차이 이미지에 대한 마스킹 입력을 수신하며, 마스킹 입력을 기초로 제1 차이 이미지를 마스크 처리하여 제2 차이 이미지를 생성할 수 있다.
또한, 컴퓨팅 장치(200)는 사용자 입력부(300)와 연결되고, 사용자 입력부(300)는 사용자 또는 현장 작업자로부터 마스킹 및/또는 관심 영역에 대한 정보를 수신할 수 있다. 컴퓨팅 장치(200)는 마스킹 및/또는 관심 영역에 대한 정보를 사용자 입력부(300)를 통하여 수신할 수 있다.
또한, 컴퓨팅 장치(200)는 사용자 입력부(300)를 통하여 수신한 마스킹 정보들을 제1 심층 심경망에 입력하여 학습시키고, 이를 기초로 동일한 전장 부품을 촬영한 이미지에서 현장 작업자의 주관적인 양품 판별 기준을 적용한 마스킹 입력을 자동으로 수행할 수 있다.
또한, 컴퓨팅 장치(200)는 제1 이미지 및 제2 이미지를 심층 신경망에 입력값으로 정의하고, 제2 차이 이미지를 제2 심층 신경망의 출력값으로 정의하여 제2 심층 신경망을 딥러닝 학습시키고, 제2 차이 이미지의 잔존 이미지 요소의 크기를 결함값으로 산출하고 결함값의 분포를 통해 검사 기준값을 산출하며, 검사 기준값을 기초로 부품을 양품과 불량품으로 분류함으로써 품질을 관리할 수 있다.
또한, 컴퓨팅 장치(200)는 제1 차이 이미지를 확대한 제1 확대 이미지를 생성하고, 현장 작업자의 주관적인 양품 판별 기준에 따라 제1 확대 이미지에 대한 마스킹 입력을 수신할 수 있다. 이때, 컴퓨팅 장치(200)는 현장 작업자로부터 관심 영역을 수신하고, 관심 영역을 중심으로 제1 확대 이미지를 생성할 수 있다. 또한, 컴퓨팅 장치(200)는 제1 확대 이미지에 제1 심층 신경망에 따른 마스킹 입력을 자동으로 수행할 수 있다.
또한, 컴퓨팅 장치(200)는 후술할 본 발명의 바람직한 또 다른 일 실시예에 따른 딥러닝 기반의 결함값 분포에 기초한 부품의 품질 관리 방법을 수행하는 주체일 수 있다.
도 2는 본 발명에 따른 컴퓨팅 장치를 나타낸 도면이다.
도 2에 따르면, 본 발명에 따른 컴퓨팅 장치(200)는 프로세서(210), 메모리(220) 및 통신 모듈(230)를 포함할 수 있다.
프로세서(210)는 메모리(220)에 저장된 명령어를 실행하여 다른 구성들을 제어할 수 있다. 프로세서(210)는 메모리(220)에 저장된 명령어를 수행할 수 있다.
프로세서(210)는, 연산을 수행하고 다른 장치를 제어할 수 있는 구성이다. 주로, 중앙 연산 장치(CPU), 어플리케이션 프로세서(AP), 그래픽스 처리 장치(GPU) 등을 의미할 수 있다. 또한, CPU, AP 또는 GPU는 그 내부에 하나 또는 그 이상의 코어들을 포함할 수 있으며, CPU, AP 또는 GPU는 작동 전압과 클락 신호를 이용하여 작동할 수 있다. 다만, CPU 또는 AP는 직렬 처리에 최적화된 몇 개의 코어로 구성된 반면, GPU는 병렬 처리용으로 설계된 수 천 개의 보다 소형이고 효율적인 코어로 구성될 수 있다.
프로세서(210)는 위에서 살펴본 구성요소들을 통해 입력 또는 출력되는 신호, 데이터, 정보 등을 처리하거나 메모리(220)에 저장된 응용 프로그램을 구동함으로써, 사용자에게 적절한 정보 또는 기능을 제공 또는 처리할 수 있다.
메모리(220)는 서버(200)의 다양한 기능을 지원하는 데이터를 저장한다. 메모리(220)는 서버(200)에서 구동되는 다수의 응용 프로그램(application program 또는 애플리케이션(application)), 서버(200)의 동작을 위한 데이터들, 명령어들을 저장할 수 있다. 이러한 응용 프로그램 중 적어도 일부는, 무선 통신을 통해 외부 서버(200)로부터 다운로드 될 수 있다. 또한 응용 프로그램은, 메모리(220)에 저장되고, 서버(200)에 설치되어, 프로세서(210)에 의하여 상기 서버(200)의 동작(또는 기능)을 수행하도록 구동될 수 있다.
메모리(220)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), SSD 타입(Solid State Disk type), SDD 타입(Silicon Disk Drive type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(random access memory; RAM), SRAM(static random access memory), 롬(read-only memory; ROM), EEPROM(electrically erasable programmable read-only memory), PROM(programmable read-only memory), 자기 메모리, 자기 디스크 및 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다. 또한, 메모리(220)는 인터넷(internet)상에서 저장 기능을 수행하는 웹 스토리지(web storage)를 포함할 수도 있다.
통신 모듈(230)은 외부 서버 또는 카메라(100)와 통신하기 위한 구성일 수 있다. 통신 모듈(230)의 경우, 안테나를 통해 기지국 또는 통신 기능을 포함하는 외부 서버 또는 카메라(100)와 정보의 송수신을 실행한다. 통신 모듈(230)은 변조부, 복조부, 신호 처리부 등을 포함할 수 있다.
무선 통신은, 통신사들이 기존에 설치해둔 통신 시설과 그 통신 시설의 주파수를 사용하는 무선 통신망을 사용한 통신을 말할 수 있다. 이때, 통신 모듈(230)은 CDMA(code division multiple access), FDMA(frequency division multiple access), TDMA(time division multiple access), OFDMA(orthogonal frequency division multiple access), SC-FDMA(single carrier frequency division multiple access) 등과 같은 다양한 무선 통신 시스템에 사용될 수 있으며, 뿐만 아니라, 통신 모듈(230)은 3GPP(3rd generation partnership project) LTE(long term evolution) 등에도 사용될 수 있다. 또한, 최근 상용화 중인 5G 통신 뿐만 아니라, 추후 상용화가 예정되어 있는 6G 등도 사용될 수 있다. 다만, 본 명세서는 이와 같은 무선 통신 방식에 구애됨이 없이 기설치된 통신망을 활용할 수 있다.
또한, 근거리 통신(short range communication) 기술로 블루투스(Bluetooth), BLE(Bluetooth Low Energy), 비콘(Beacon), RFID(Radio Frequency Identification), NFC(Near Field Communication), 적외선 통신(Infrared Data Association; IrDA), UWB(Ultra Wideband), ZigBee 등이 이용될 수 있다.
도 3은 본 발명에 따른 메모리를 기능적 요소로 나타낸 것이다.
도 3에 따르면, 본 발명에 따른 메모리(210)는 관심 영역 수신 모듈(211), 마스킹 입력 수신 모듈(212), 제1 차이 이미지 생성 모듈(213), 확대 이미지 생성 모듈(214), 제2 차이 이미지 생성 모듈(215), 부품 사이즈 측정 모듈(216), 및 해상도 보정 모듈 (217)을 포함할 수 있다.
관심 영역 수신 모듈(211)은 사용자 입력부를 통하여 제1 차이 이미지에서 현장 작업자가 확대하여 보고싶은 부분에 대하여 입력한 정보를 수신할 수 있다. 관심 영역 수신 모듈(211)은 수신한 정보를 기초로 관심 영역을 생성하고, 이를 제1 확대 이미지 생성 모듈(214)로 전송할 수 있다. 관심 영역은 제1 이미지와 제2 이미지 사이의 차이점을 중심으로 선택될 수 있다.
마스킹 입력 수신 모듈(212)은 사용자 입력부를 통하여 제1 차이 이미지에서 현장 작업자가 주관적인 양품 판별 기준에 따라 특정 이미지 요소에 대하여 마스킹 입력한 것을 수신할 수 있다. 마스킹 입력 수신 모듈(212)는 수신한 입력을 제2 차이 이미지 생성 모듈(215)로 전송할 수 있다.
제1 차이 이미지 생성 모듈(213)은 상술한 제1 이미지 및 제2 이미지를 기초로 제1 차이 이미지를 생성할 수 있다. 제1 차이 이미지는 제1 이미지와 제2 이미지의 공통된 부분을 제외한 이미지로서, 제1 이미지와 제2 이미지의 차이점만을 남겨둔 이미지를 의미할 수 있다.
확대 이미지 생성 모듈(214)은 제1 차이 이미지에서 관심 영역을 중심으로 확대된 이미지를 생성할 수 있다. 제1 확대 이미지는 미리 설정된 배율로 제1 차이 이미지를 확대할 수 있다.
제2 차이 이미지 생성 모듈(215)은 현장 작업자의 주관적인 양품 판별 기준에 따라 제1 차이 이미지에 대한 마스킹 입력을 수신하며, 마스킹 입력을 기초로 제1 차이 이미지를 마스크 처리하여 제2 차이 이미지를 생성할 수 있다.
부품 사이즈 측정 모듈(216)은 이미지에서 기준 사이즈를 가지는 기준 객체를 함께 촬영하고, 기준 객체와 이미지 내에서의 길이 차이를 기초로 부품의 사이즈를 측정할 수 있다. 이처럼, 본 발명에 따른 컴퓨팅 장치(200)는 부품의 사이즈를 자동으로 측정하여 품질 관리에 도움을 줄 수 있다.
해상도 보정 모듈 (217)은 확대 이미지 생성시 해상도가 줄어드는 경우 해상도를 높여 현장 작업자가 마스킹을 입력하기 쉽도록하는 구성일 수 있다. 해상도 보정 모듈 (217)은 해상도 업스케일링 알고리즘을 활용할 수 있다.
또한, 본 발명에 따른 메모리(210)는 마스킹 입력 학습 모듈(218)을 더 포함할 수 있다. 마스킹 입력 학습 모듈(218)은 현장 작업자의 마스킹 입력을 미리 저장한 DB와, DB를 학습하고 회기 분석하여 유사한 마스킹 입력을 수행할 수 있는 모듈일 수 있다. 마스킹 입력 학습 모듈(218)은 본 발명의 실시예에 따른 현장 작업자의 주관적인 양품 판별 기준을 미리 학습함으로써, 현장 학습자 없이도 마스킹 입력을 대신 수행할 수 있다. 마스킹 입력 학습 모듈(218)은 심층 신경망으로서, 현장 학습자의 주관적 판단기준을 학습한 DB를 포함할 수 있다. 마스킹 입력 학습 모듈(218)은 학습내용을 바탕으로 회기 분석을 통하여 이미지 속 불량 부분에 대한 마스킹을 입력할 수 있다.
일 예로, 제1 심층 신경망과 이를 통한 품질 관리에 따른 예시를 살펴보면 다음과 같을 수 있다.
일 예시에 따르면, 능숙한 현장 작업자에게 전장 부품을 촬영한 복수의 이미지들이 제공될 수 있다. 능숙한 현장 작업자들은 외관만을 관찰하여 해당 전장 부품들의 불량 요소를 체크할 수 있다. 본 발명에 따른 제1 심층 신경망은 해당 전장 부품들의 불량 요소가 체크된 복수의 이미지들을 입력값으로 하여 현장 작업자의 주관저인 판별 기준에 대한 패턴을 학습할 수 있다. 이처럼, 학습된 제1 심층 신경망는 동일한 전장 부품에 대한 이미지에 대하여 학습된 패턴을 적용하여 불량 요소를 식별하고 마스킹 입력을 수행할 수 있다. 또한, 본 발명은 마찬가지의 과정을 확대된 이미지에 동일하게 수행할 수 있다.
도 4 내지 도 6은 본 발명에 따른 딥러닝 기반의 결함값 분포에 기초한 부품의 품질관리 시스템의 실시예를 나타낸 것이다.
도 4에 따르면, 본 발명에 따른 딥러닝 기반의 결함값 분포에 기초한 부품의 품질관리 시스템은, 제1 이미지에서 제2 이미지를 뺀 제1 차이 이미지를 생성할 수 있다. 제1 차이 이미지는 제2 이미지에 포함된 특징 요소들을 포함할 수 있다. 본 발명에 따른 딥러닝 기반의 결함값 분포에 기초한 부품의 품질관리 시스템은 제1 차이 이미지의 특징 요소들 중 작업자로부터 불량으로 판단되는 요소를 마스킹을 통하여 선택받을 수 있다.
도 5에 따르면, 본 발명에 따른 딥러닝 기반의 결함값 분포에 기초한 부품의 품질관리 시스템은 제1 차이 이미지에서 마스킹을 통하여 선택된 불량으로 판단되는 요소만을 남겨둔 제2 차이 이미지를 생성할 수 있다. 제2 차이 이미지는 제1 차이 이미지에서 불량으로 판단되는 요소 외의 다른 요소들을 마스크 처리하여 가린 이미지를 의미할 수 있다.
도 5에 따르면, 본 발명에 따른 딥러닝 기반의 결함값 분포에 기초한 부품의 품질관리 시스템은 제1 확대 이미지를 생성하고, 생성된 제1 확대 이미지에 마스킹 입력을 수신하여, 이를 기초로 제2 차이 이미지를 생성할 수 있다.
도 6에 따르면, 본 발명의 심층신경망(Deep Neural Network)은, 하나 이상의 컴퓨터 내에 하나 이상의 레이어(Layer)를 구축하여 복수의 데이터를 바탕으로 판단을 수행하는 시스템 또는 네트워크를 의미한다. 예를 들어, 심층신경망은 컨볼루션 풀링 층(Convolutional Pooling Layer), 로컬 접속 층(a locallyconnectedlayer) 및 완전 연결 층(fully-connected layer)을 포함하는 층들의 세트로 구현될 수 있다. 일 예로, 심층신경망의 전체적인 구조는 컨볼루션 풀링 층에 로컬 접속 층이 이어지고, 로컬 접속 층에 완전 연결 층이 이러지는 형태인 나선형 신경망(즉, Convolutional Neural Network; CNN) 구조로 이루어질 수 있다. 또한 심층신경망은, 예를 들어, 각 레이어의 노드들에 자신을 가르키는 엣지(edge)가 포함됨에 따라 재귀적으로 연결되는 순환형 신경망(Recurrent Neural Network; RNN) 구조로 형성될 수도 있다. 심층신경망은 다양한 판단기준(즉, 제1 이미지, 제2 이미지와 제2 차이 이미지)을 포함할 수 있고, 입력되는 영상 분석을 통해 새로운 판단기준을 추가할 수 있다. 다만, 본 발명의 실시예에 따른 심층신경망의 구조는 이에 한정되지 아니하고, 다양한 구조의 신경망으로 형성될 수 있다.
본 발명의 실시예에서 심층신경망을 포함하는 양품 선별 시스템으로, 하나의 컴퓨터 내에서 구현될 수도 있고 복수의 컴퓨터가 연결되어 네트워크망을 통해 구현될 수도 있다.
즉, 본 발명의 심층신경망(Deep Neural Network)은, 제1 이미지 및 제2 이미지를 입력으로 하고 제2 차이 이미지를 출력으로 하여 이들의 상관관계를 학습할 수 있다.
도 7은 본 발명에 따른 검사 기준값을 나타낸 그래프이다.
도 7에 따르면, 제2 차이 이미지의 결함값들은 다양한 분포를 나타낼 수 있다. 일 예로, 양품의 결함값의 분포가 결함값 크기 기준 0 내지 10에 대부분 분포하고 있고 불량품의 결함값의 분포가 결함값 크기 기준 90 이상에 대부분 분포하고 있는 경우 결함값들의 분포에서 양품과 불량품의 경계값의 중간값인 결함값 크기 기준 50을 학습된 검사 기준값으로 할 수 있다.
즉, 본 발명에 따른 딥러닝 기반의 결함값 분포에 기초한 부품의 품질관리 시스템은, 제1 이미지 및 제2 이미지의 결함값을 전달받고, 전달받은 결함값을 검사 기준값과 비교하여 부품을 양품과 불량품으로 분류할 수 있다.
도 8은 본 발명에 따른 카메라에 포함된 카메라 모듈을 나타낸 도면이다.
도 8에 따르면, 본 발명에 따른 카메라(100)는 카메라 모듈(1320)을 포함할 수 있다. 카메라 모듈(1320)은 광 이미지로부터 영상 이미지를 생성할 수 있다. 카메라 모듈(1320)은 측벽에 관통홀을 포함하는 하우징(1324), 관통홀에 설치된 렌즈(1321) 및 렌즈(1321)를 구동하는 구동부(1323)를 포함할 수 있다. 관통홀은 렌즈(1321)의 직경에 대응되는 크기로 형성될 수 있다. 렌즈(1321)는 관통홀에 삽입될 수 있다.
구동부(1323)는 렌즈(1321)를 전방 또는 후방으로 움직이도록 제어하는 구성일 수 있다. 렌즈(1321)와 구동부(1323)는 종래 알려진 방식으로 연결되고 렌즈(1321)는 종래 알려진 방식으로 구동부(1323)에 의하여 제어될 수 있다.
다양한 영상 이미지를 수득하기 위해서는 렌즈(1321)가 카메라 모듈(1320) 또는 하우징(1324)의 외부로 노출될 필요가 있다.
특히, 본 발명에 따른 카메라는 외부 영역을 직접 설치되어야 하므로 내오염성이 강한 렌즈가 필요하다. 따라서, 본 발명은 렌즈를 코팅하는 코팅층을 제안하여, 이러한 문제점을 해결하고자 하였다.
바람직하게 상기 렌즈(1321)는 그 표면에 하기의 화학식 1로 표시되는 아크릴계 화합물; 유기 용매, 무기 입자 및 분산제가 포함되는 코팅조성물로 코팅된 것일 수 있다.
[화학식 1]
Figure 112021064360051-pat00001
여기서,
n 및 m은 서로 동일하거나 상이하며, 각각 독립적으로 1 내지 100의 정수이며, L1은 바이페닐렌기이다.
상기 코팅조성물로 렌즈(1321)가 코팅된 경우 우수한 발수성 및 내오염성을 나타낼 수 있기 때문에 외부 환경에 설치된 렌즈(1321)가 오염 환경 및 염분에 장기간 노출되더라도, 깨끗하고 선명한 외부 영상을 수집할 수 있다.
상기 무기 입자는 실리카, 알루미나 및 이들의 혼합물로 이루어진 군으로부터 선택될 수 있다. 상기 무기 입자의 평균 직경은 70 내지 100㎛이지만, 상기 예시에 국한되지 않는다. 상기 무기 입자는 렌즈(1321) 표면에 코팅층(1322)으로 형성 후, 물리적인 강도를 향상시키고, 점도를 일정 범위로 유지시켜 성형성을 높일 수 있다.
상기 유기 용매는 메틸에틸케톤(MEK), 톨루엔 및 이들의 혼합으로 이루어진 군으로부터 선택되며, 바람직하게는 메틸에틸케톤을 사용할 수 있으나, 상기 예시에 국한되지 않는다.
상기 분산제로는 폴리에스테르 계열의 분산제를 사용할 수 있고, 구체적으로 2-메톡시프로필 아세테이트 및 1-메톡시-2-프로필 아세테이트의 공중합체로 이루어진 폴리에스테르 계열의 분산안정제로서 TEGO-Disperse 670 (제조사: EVONIK)을 사용할 수 있으나, 상기 예시에 국한되지 않고 통상의 기술자에게 자명한 분산제는 제한 없이 모두 사용 가능하다.
상기 코팅 조성물은 기타 첨가제로 안정화제를 추가로 포함할 수 있고, 상기 안정화제는 자외선 흡수제, 산화방지제 등을 포함할 수 있으나, 상기 예시에 국한되지 않고 제한 없이 사용 가능하다.
상기 코팅층(1322)을 형성하기 위한, 코팅 조성물은 보다 구체적으로 상기 화학식 1로 표시되는 아크릴계 화합물; 유기 용매, 무기 입자 및 분산제를 포함할 수 있다.
상기 코팅 조성물은 유기용매 100 중량부에 대하여, 상기 화학식 1로 표시되는 아크릴계 화합물 40 내지 60 중량부, 무기 입자 20 내지 40 중량부 및 분산제 5 내지 15 중량부를 포함할 수 있다. 상기 범위에 의하는 경우 각 구성 성분의 상호 작용에 의한 발수 효과가 임계적 의의가 있는 정도의 상승효과가 발현되며, 상기 범위를 벗어나는 경우 상승효과가 급격히 저하되거나 거의 없게 된다.
보다 바람직하게, 상기 코팅 조성물의 점도는 1500 내지 1800cP이며, 상기 점도가 1500cP 미만인 경우에는 렌즈(1321) 표면에 도포하면, 흘러내려 코팅층(1322)의 형성이 용이하지 않은 문제가 있고, 1800cP를 초과하는 경우에는 균일한 코팅층(1322)의 형성이 용이하지 않은 문제가 있다.
[제조예 1: 코팅층의 제조]
1. 코팅 조성물의 제조
메틸에틸케톤에 하기 화학식 1로 표시되는 아크릴계 화합물, 무기입자 및 분산제를 혼합하여, 코팅 조성물을 제조하였다:
[화학식 1]
Figure 112021064360051-pat00002
여기서,
n 및 m은 서로 동일하거나 상이하며, 각각 독립적으로 1 내지 100의 정수이며, L1은 바이페닐렌기이다.
상기 대전방지 조성물의 보다 구체적인 조성은 하기 표 1와 같다.
TX1 TX2 TX3 TX4 TX5
유기용매 100 100 100 100 100
아크릴계 화합물 30 40 50 60 70
무기입자 10 20 30 40 50
분산제 1 5 10 15 20
(단위 중량부)
2. 코팅층의 제조
렌즈(1321)의 일면에 상기 DX1 내지 DX5의 코팅 조성물을 도포 후, 경화시켜 코팅층(1322)을 형성하였다.
[실험예]
1. 표면 외관에 대한 평가
코팅 조성물의 점도 차이로 인해, 코팅층(1322)을 제조한 이후, 균일한 표면이 형성되었는지 여부에 대해 관능 평가를 진행하였다. 균일한 코팅층(1322)을 형성하였는지 여부에 대한 평가를 진행하였고, 하기와 같은 기준에 의해 평가를 진행하였다.
○: 균일한 코팅층 형성
×: 불균일한 코팅층의 형성
TX1 TX2 TX3 TX4 TX5
관능 평가 Х Х
코팅층(1322)을 형성할 때, 일정 점도 미만인 경우에는 렌즈(1321)의 표면에서 흐름이 발생하여, 경화 공정 이후, 균일한 코팅층(1322)의 형성이 어려운 경우가 다수 발생하였다. 이에 따라, 생산 수율이 낮아지는 문제가 발생할 수 있다. 또한, 점도가 너무 높은 경우에도, 조성물의 균일 도포가 어려워 균일한 코팅층(1322)의 형성이 불가하였다.
2. 발수각의 측정
상기 렌즈(1321) 표면에 코팅층(1322)을 형성한 이후, 발수각을 측정한 결과는 하기 표 3과 같다.
전진 접촉각 (“) 정지 접촉각 (“) 후진 접촉각 (“)
TX1 117.1±2.9 112.1±4.1 < 10
TX2 132.4±1.5 131.5±2.7 141.7±3.4
TX3 138.9±3.0 138.9±2.7 139.8±3.7
TX4 136.9±2.0 135.6±2.6 140.4±3.4
TX5 116.9±0.7 115.4±3.0 < 10
상기 표 3에 나타낸 바와 같이, TX1 내지 TX5의 코팅 조성물을 이용하여 코팅층(1322)을 형성한 이후, 접촉각을 측정한 결과를 확인하였다. TX1 및 TX5는 후진 접촉각이 10도 미만으로 측정되었다. 즉, 코팅 조성물을 제조하기 위한 최적의 범위를 벗어나게 되는 경우, 물방울이 피닝(Pinning)되는 현상이 발생하는 것을 확인하였다. 반면 TX2 내지 4에서는 피닝 현상이 발생하지 않음을 확인하여 우수한 방수 효과를 나타낼 수 있음을 확인하였다.
3. 내오염성 평가
설비 외부에 상기 실시예에 따른 코팅층(1322)을 형성한 렌즈(1321)를 모형카메라에 부착하고, 4일 간 외부(실외) 환경에 노출되도록 하였다. 비교예(Con)로는 코팅층(1322)이 형성되지 않은 동일한 렌즈(1321)를 사용하였으며, 각 실시예에 모형카메라는 동일한 위치에 부착하였다.
그 뒤 실험 전후의 렌즈(1321)의 오염 및 부식 정도를 유관으로 평가하였고, 객관적인 비교를 위하여 코팅층(1322)이 형성되지 않은 비교예와 비교하여 그 결과를 1 내지 10의 지수로 평가하여 하기의 표 5에 나타내었다. 하기의 지수는 그 숫자가 낮을수록 내오염성이 우수한 것이다.
Con TX1 TX2 TX3 TX4 TX5
내오염성 10 7 3 3 3 8
(단위: 지수)
상기 표 4를 참조하면, 렌즈(1321)에 코팅층(1322)을 형성하는 경우 외부 환경에 카메라를 설치하면서 렌즈(1321)가 외부로 노출되도록 하여도 높은 내오염성을 오랜 기간 분석하기 용이한 형태로 이미지 데이터를 수집할 수 있다는 점을 알 수 있다. 특히 TX2 내지 TX4에 의하는 경우 코팅층(1322)에 의한 내오염성이 매우 우수하다는 점을 확인할 수 있다.
도 9는 본 발명에 따른 이미지 보정 필터의 예시를 나타낸 도면이다.
도 9에 따르면, 필터의 종류와 기능이 나타나 있다. 즉, CNN 알고리즘은 복수의 레이어를 사용하는 학습 알고리즘일 수 있다. 또한, CNN 알고리즘은 이미지 분류 정확도를 최대화하는 필터를 자동으로 학습할 수 있으며, 합성곱 계층과 폴링 계층이라고 하는 새로운 층을 풀리 커넥티드 계층 이전에 추가함으로써 원본 이미지에 필터링 기법을 적용한 뒤에 필터링된 이미지에 대해 분류 연산을 수행할 수 있다. CNN 알고리즘은 합성곱 계층 (convolutional layer)과 풀링 계층 (pooling layer)이라고 하는 새로운 층을 fully-connected 계층 이전에 추가함으로써 원본 이미지에 필터링 기법을 적용한 뒤에 필터링된 이미에 대해 분류 연산이 수행되도록 구성될 수 있다.
이때, CNN 알고리즘을 사용한 이미지 필터에 대한 연산식은 아래의 수학식 1과 같다.
[수학식 1]
Figure 112021064360051-pat00003
(단,
Figure 112021064360051-pat00004
: 행렬로 표현된 필터링된 이미지의 i번째 행, j번째 열의 픽셀,
Figure 112021064360051-pat00005
: 필터,
Figure 112021064360051-pat00006
: 이미지,
Figure 112021064360051-pat00007
: 필터의 높이 (행의 수),
Figure 112021064360051-pat00008
: 필터의 너비 (열의 수)이다. )
바람직하게는, CNN 알고리즘을 사용한 이미지 필터에 대한 연산식은 아래의 수학식 2과 같다.
[수학식 2]
Figure 112021064360051-pat00009
(단,
Figure 112021064360051-pat00010
: 행렬로 표현된 필터링된 이미지의 i번째 행, j번째 열의 픽셀,
Figure 112021064360051-pat00011
: 응용 필터
Figure 112021064360051-pat00012
: 이미지,
Figure 112021064360051-pat00013
: 응용 필터의 높이 (행의 수),
Figure 112021064360051-pat00014
: 응용 필터의 너비 (열의 수)이다.)
바람직하게는,
Figure 112021064360051-pat00015
는 응용 필터로서 제1 차이 이미지를 생성하기 위하여 제1 이미지 및/또는 제2 이미지에 적용되는 필터일 수 있다. 특히, 전장 부품의 경우 (1) 색상의 차이와 (2) 형태의 차이를 기초로 품질을 매길 수 있어, 색상 및 형태를 효과적으로 인지하기 위한 응용 필터가 필요할 수 있다. 이러한 필요성을 충족하기 위하여 응용 필터
Figure 112021064360051-pat00016
는 아래의 수학식 3에 의하여 연산될 수 있다.
[수학식 3]
Figure 112021064360051-pat00017
(단,
Figure 112021064360051-pat00018
: 필터,
Figure 112021064360051-pat00019
: 계수,
Figure 112021064360051-pat00020
: 응용 필터)
바람직하게는, 본 발명에 따른 응용 필터
Figure 112021064360051-pat00021
는 부품의 종류에 따라 나뉘어 제1 이미지 및/또는 제2 이미지에 적용될 수 있다. 이때, 각
Figure 112021064360051-pat00022
에 따른 필터는 도 9에 따른 엣지 인식 필터(Edge detection), 샤픈 필터(sharpen) 및 박스 블러 필터(Box blur) 중 어느 하나의 행렬일 수 있다.
바람직하게,
Figure 112021064360051-pat00023
를 구하는 연산식은 아래의 수학식 4와 같다. 이때,
Figure 112021064360051-pat00024
는 필터의 효율을 높이기 위하여 사용되는 하나의 상수로서 해석될 수 있고, 그 단위는 무시될 수 있다.
[수학식 4]
Figure 112021064360051-pat00025
단, 이미지 촬영에 사용된 카메라의 렌즈의 직경(지름)은 mm 단위이고, 렌즈의 f값은 렌즈의 조리개값(F number)이며, HSV 평균값은 부품의 이미지에 따른 색좌표를 HSV 그래프를 통하여 크기값으로 변환한 값을 평균한 값을 의미할 수 있다. HSV값에 대한 구체적인 내용은 아래와 같다.
도 10은 본 발명에 따른 HSV 3차원 그래프를 나타낸 도면이고, 도 11은 하나의 색상의 HSV값을 나타낸 예시를 나타낸 도면이다.
도 10 및 도 11에 따르면, 본 발명에 따른 HSV 그래프는 지각적인 특성이 반영된 색 공간을 의미할 수 있다. H(Hue, 0~360°)는 색조를 의미할 수 있고, S(Saturation, 0~100%)는 채도를 의미할 수 있으며, V(Value, 0~100%)는 명도를 의미할 수 있다. 색조, 채도 및 명도 값을 HSV 값이라고 할 수 있으며, 이는 Adobe illustrator cc 2019 등 그래픽 툴을 이용하여 쉽게 추출될 수 있다.
본 발명에 따른 HSV 평균값은 도 10의 HSV 3차원 좌표를 통하여 획득될 수 있다. 즉, 본 발명에 따른 HSV 평균값은 도 11과 같은 그래픽 툴을 통하여 획득된 HSV 값을 기초로 계산될 수 있다. HSV 3차원 좌표상의 원점좌표를 기준점으로 측정된 HSV 좌표의 거리값은 상술한 HSV 평균값을 구성할 수 있다. 즉, 본 발명에 따른 이미지는 부품에 대한 이미지를 포함하고, 부품의 이미지의 HSV 색상좌표는 일정 영역에서 분포될 수 있다. 따라서, 본 발명에 따른 HSV 평균값은 일정 영역의 색상에 대한 HSV 좌표들의 평균을 이용한 평균 좌표를 기초로 계산된 원점좌표와의 거리값을 의미할 수 있다.
다만, 부품의 경우 부위별 색상의 차이가 많을 수 있어, 본 발명은 부품의 분할된 영역별로 HSV 평균값을 구하고, 분할된 영역별로 서로 다른 응용 필터를 적용할 수 있다.
[실험예]
본 발명에 따른 CNN 알고리즘을 사용하여 생성된 이미지에 대하여, 본 발명의 응용 필터 F'를 적용하는 경우에 생성된 제1 차이 이미지의 정확도를 분석한 결과는 하기 표 1와 같았다. 이때, 정확도는 제1 차이 이미지에 나타난 차이 요소들과 전문가가 직접 선택한 차이 요소들과의 일치성을 수치로서 나타낸 것이다.
필터 적용 없음 필터
Figure 112021064360051-pat00026
적용
필터
Figure 112021064360051-pat00027
적용
정확도 49 62 87
(단위: %)
상기 표 5는 본 발명에 따른 제1 차이 이미지의 차이 요소들과 전문가가 직접 선택한 차이 요소들과의 일치성을 수치로 나타낸 정확도를 각 케이스별로 나타낸 것이다. 표 5는 총 1 종의 전장 부품에 대하여 100개의 샘플을 기초로 수행한 결과를 정리한 것이며, 정확도는 반올림한 수치이다. 이때, 일반 필터
Figure 112021064360051-pat00028
는 도 9의 엣지 인식 필터(Edge detection)로 실험되었다.
표 5에서 확인할 수 있는 것과 같이, 필터 적용 없이 제1 차이 이미지를 만드는 경우보다 일반 필터
Figure 112021064360051-pat00029
를 적용하는 것이 더 높은 정확도를 나타내었다. 또한, 일반 필터
Figure 112021064360051-pat00030
를 적용하는 것보다, 본 발명에 따른 응용 필터
Figure 112021064360051-pat00031
를 적용하는 것이 현저히 높은 정확도를 나타내었다.
이하, 상술한 내용들을 바탕으로 본 명세서의 바람직한 또 다른 일 실시예에 따른, 딥러닝 기반의 결함값 분포에 기초한 부품의 품질 관리 방법에 관하여 상세히 설명하면 다음과 같다.
도 12는 본 발명에 따른 딥러닝 기반의 결함값 분포에 기초한 부품의 품질 관리 방법을 나타낸 것이다.
도 12에 따르면, 본 발명에 따른 딥러닝 기반의 결함값 분포에 기초한 부품의 품질 관리 방법은 미리 선별된 양품을 촬영한 제1 이미지 및 미리 선별된 불량품을 촬영한 제2 이미지를 수신하는 단계(S110), 제1 이미지 및 제2 이미지를 기초로 제1 차이 이미지를 생성하는 단계(S120), 제1 차이 이미지 중 관심 영역에 대한 사용자 입력을 수신하는 단계(S130), 제1 차이 이미지에서 관심 영역을 확대한 제1 확대 이미지를 생성하는 단계(S140), 작업자로부터 현장 작업자의 주관적인 양품 판별 기준을 미리 학습한 제1 심층 신경망에 따라 제1 확대 이미지를 구성하는 이미지 요소들 중 불량으로 판단되는 이미지 요소를 선택받아 마스킹 입력을 수신하는 단계(S150), 마스킹 입력에 의해 선택된 이미지 요소를 제외한 나머지 이미지 요소를 제1 확대 이미지에서 마스크 처리하여 현장 작업자가 불량 판별에서 중요하게 생각하는 요소만을 남긴 마스크 처리된 제2 차이 이미지를 생성하는 단계(S160), 제1 이미지와 제2 이미지를 입력으로 하고 제2 차이 이미지를 출력하도록 하여 제2 심층 신경망이 입출력 데이터간 상관관계를 추가로 딥러닝 학습하는 단계(S170), 제2 차이 이미지의 잔존 이미지 요소의 크기를 결함값으로 산출하고 제2 차이 이미지의 결함값 분포를 통해 검사 기준값을 산출하는 단계(S180) 및 검사 기준값을 기초로 검사 대상 농산물을 분류하는 단계(S180)를 포함할 수 있다.
본 발명에 따른 딥러닝 기반의 결함값 분포에 기초한 부품의 품질 관리 방법은 상술한 일 실시예에 따른 딥러닝 기반의 결함값 분포에 기초한 부품의 품질 관리 시스템의 컴퓨팅 장치에 의하여 수행되는 모든 과정을 포함할 수 있다.
도 13은 본 발명에 따른 S140 및 S150 단계를 나타낸 것이다.
도 13에 따르면, 본 발명에 따른 S140 및 S150 단계는 현장 작업자로부터 관심 영역에 대한 정보를 수신하는 단계(S151), 관심 영역을 기초로 제1 차이 이미지를 확대하는 단계(S152), 확대된 이미지의 해상도를 업 스케일링하는 단계(S153) 및 업 스케일링된 확대 이미지를 기초로 현장 작업자로부터 마스킹 입력을 수신하는 단계(S154)를 포함할 수 있다.
이상 상술한 각 단계들은 본 발명의 일 실시예에 따른 시스템에서 설명한 내용으로 자명하게 이해될 수 있으며, 그에 의하여 뒷받침될 수 있다.
전술한 본 발명은, 프로그램이 기록된 매체에 컴퓨터가 읽을 수 있는 코드로서 모델링하는 것이 가능하다. 컴퓨터가 읽을 수 있는 매체는, 컴퓨터 시스템에 의하여 읽힐 수 있는 데이터가 저장되는 모든 종류의 기록장치를 포함한다. 컴퓨터가 읽을 수 있는 매체의 예로는, HDD(Hard Disk Drive), SSD(Solid State Disk), SDD(Silicon Disk Drive), ROM, RAM, CD-ROM, 자기 테이프, 플로피 디스크, 광 데이터 저장 장치 등이 있으며, 또한 캐리어 웨이브(예를 들어, 인터넷을 통한 전송)의 형태로 모델링되는 것도 포함한다. 따라서, 상기의 상세한 설명은 모든 면에서 제한적으로 해석되어서는 아니되고 예시적인 것으로 고려되어야 한다. 본 명세서의 범위는 첨부된 청구항의 합리적 해석에 의해 결정되어야 하고, 본 명세서의 등가적 범위 내에서의 모든 변경은 본 명세서의 범위에 포함된다.
앞에서 설명된 본 발명의 어떤 실시 예들 또는 다른 실시 예들은 서로 배타적이거나 구별되는 것은 아니다. 앞서 설명된 본 발명의 어떤 실시 예들 또는 다른 실시 예들은 각각의 구성 또는 기능이 병용되거나 조합될 수 있다.
상기의 상세한 설명은 모든 면에서 제한적으로 해석되어서는 아니되고 예시적인 것으로 고려되어야 한다. 본 발명의 범위는 첨부된 청구항의 합리적 해석에 의해 결정되어야 하고, 본 발명의 등가적 범위 내에서의 모든 변경은 본 발명의 범위에 포함된다.
100: 카메라
200: 컴퓨팅 장치
300: 사용자 입력부

Claims (7)

  1. 딥러닝을 활용한 머신 비전 기반의 전장 부품의 품질 관리 시스템에 있어서,
    상기 전장 부품 중 미리 선별된 양품 및 미리 선별된 불량품을 각각 촬영하는 카메라; 및
    상기 양품을 촬영한 제1 이미지 및 상기 불량품을 촬영한 제2 이미지를 상기 카메라로부터 수신하고, 상기 제1 이미지 및 상기 제2 이미지를 기초로 제1 차이 이미지를 생성하고, 현장 작업자의 주관적인 양품 판별 기준을 미리 학습한 제1 심층 신경망에 따라 생성된 상기 제1 차이 이미지에 대한 마스킹 입력을 수신하며, 상기 마스킹 입력을 기초로 상기 제1 차이 이미지를 마스크 처리하여 제2 차이 이미지를 생성하는 컴퓨팅 장치;를 포함하되,
    상기 컴퓨팅 장치는,
    상기 제1 이미지 및 상기 제2 이미지를 제2 심층 신경망에 입력값으로 정의하고, 상기 제2 차이 이미지를 상기 심층 신경망의 출력값으로 정의하여 상기 심층 신경망을 딥러닝 학습시키고, 상기 제2 차이 이미지의 잔존 이미지 요소의 크기를 결함값으로 산출하고 상기 결함값의 분포를 통해 검사 기준값을 산출하며, 상기 검사 기준값을 기초로 상기 부품을 양품과 불량품으로 분류함으로써 품질을 관리하고,
    상기 컴퓨팅 장치는, 상기 제1 차이 이미지를 확대한 제1 확대 이미지를 생성하고, 상기 제1 심층 신경망으로부터 상기 제1 확대 이미지에 대한 마스킹 입력을 수신하는 것이고, 현장 작업자로부터 관심 영역을 수신하고, 상기 관심 영역을 중심으로 상기 제1 확대 이미지를 생성하는 것이고, 상기 제1 이미지 및 상기 제2 이미지 중 적어도 하나의 이미지에 하기의 식 2에 따른 이미지 보정 필터를 적용하여 적어도 하나의 보정된 이미지를 생성하고, 상기 적어도 하나의 보정된 이미지를 기초로 상기 제1 차이 이미지를 생성하는 것인
    딥러닝을 활용한 머신 비전 기반의 전장 부품의 품질 관리 시스템.
    [식 2]
    Figure 112022129954952-pat00045

    (단,
    Figure 112022129954952-pat00046
    : 행렬로 표현된 필터링된 이미지의 i번째 행, j번째 열의 픽셀,
    Figure 112022129954952-pat00047
    : 응용 필터로서 하기의 식 3이 적용된 것이다.
    Figure 112022129954952-pat00048
    : 이미지,
    Figure 112022129954952-pat00049
    : 응용 필터의 높이 (행의 수),
    Figure 112022129954952-pat00050
    : 응용 필터의 너비 (열의 수)이다.)
    [식 3]
    Figure 112022129954952-pat00051

    (단,
    Figure 112022129954952-pat00052
    : 필터,
    Figure 112022129954952-pat00053
    : 계수,
    Figure 112022129954952-pat00054
    : 응용 필터)
  2. 삭제
  3. 삭제
  4. 제1항에 있어서,
    상기 카메라는,
    상기 제1 이미지를 획득하는 카메라 모듈을 포함하고,
    상기 카메라 모듈은,
    측벽에 관통홀을 포함하는 하우징; 및
    상기 관통홀에 설치된 렌즈;를 포함하는 것인,
    딥러닝을 활용한 머신 비전 기반의 전장 부품의 품질 관리 시스템.
  5. 삭제
  6. 딥러닝을 활용한 머신 비전 기반의 전장 부품의 품질 관리 방법에 있어서,
    상기 부품 중 미리 선별된 양품을 촬영한 제1 이미지 및 상기 부품 중 미리 선별된 불량품을 촬영한 제2 이미지를 수신하는 단계;
    상기 제1 이미지 및 상기 제2 이미지를 기초로 제1 차이 이미지를 생성하는 단계;
    상기 제1 차이 이미지 중 관심 영역에 대한 사용자 입력을 수신하는 단계;
    상기 제1 차이 이미지에서 상기 관심 영역을 확대한 제1 확대 이미지를 생성하는 단계;
    작업자로부터 현장 작업자의 주관적인 양품 판별 기준을 미리 학습한 제1 심층 신경망에 따라 상기 제1 확대 이미지를 구성하는 이미지 요소들 중 불량으로 판단되는 이미지 요소를 선택받아 마스킹 입력을 수신하는 단계;
    상기 마스킹 입력에 의해 선택된 이미지 요소를 제외한 나머지 이미지 요소를 상기 제1 확대 이미지에서 마스크 처리하여 현장 작업자가 불량 판별에서 중요하게 생각하는 요소만을 남긴 마스크 처리된 제2 차이 이미지를 생성하는 단계;
    상기 제1 이미지와 상기 제2 이미지를 입력으로 하고 상기 제2 차이 이미지를 출력하도록 하여 제2 심층 신경망이 입출력 데이터간 상관관계를 추가로 딥러닝 학습시키는 단계;
    상기 제2 차이 이미지의 잔존 이미지 요소의 크기를 결함값으로 산출하고 상기 제2 차이 이미지의 결함값 분포를 통해 검사 기준값을 산출하는 단계; 및
    상기 검사 기준값을 기초로 검사 대상 부품을 분류하는 단계;를 포함하고,
    상기 제1 이미지 및 상기 제2 이미지 중 적어도 하나의 이미지는 하기의 식2에 따른 이미지 보정 필터를 적용하여 적어도 하나의 보정된 이미지를 생성된 것이고, 상기 적어도 하나의 보정된 이미지를 기초로 상기 제1 차이 이미지를 생성된 것인
    딥러닝을 활용한 머신 비전 기반의 전장 부품의 품질 관리 방법.
    [식 2]
    Figure 112022129954952-pat00055

    (단,
    Figure 112022129954952-pat00056
    : 행렬로 표현된 필터링된 이미지의 i번째 행, j번째 열의 픽셀,
    Figure 112022129954952-pat00057
    : 응용 필터로서 하기의 식 3이 적용된 것이다.
    Figure 112022129954952-pat00058
    : 이미지,
    Figure 112022129954952-pat00059
    : 응용 필터의 높이 (행의 수),
    Figure 112022129954952-pat00060
    : 응용 필터의 너비 (열의 수)이다.)
    [식 3]
    Figure 112022129954952-pat00061

    (단,
    Figure 112022129954952-pat00062
    : 필터,
    Figure 112022129954952-pat00063
    : 계수,
    Figure 112022129954952-pat00064
    : 응용 필터)
  7. 명령어들을 저장하는 비일시적 컴퓨터 판독가능 매체로서,
    상기 명령어들은 프로세서에 의해 실행될 때, 상기 프로세서로 하여금 제6항의 방법을 수행하게 하는, 비일시적 컴퓨터 판독가능 매체.
KR1020210072161A 2021-06-03 2021-06-03 딥러닝을 활용한 머신 비전 기반의 전장 부품의 품질 관리 시스템 및 방법 KR102523770B1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020210072161A KR102523770B1 (ko) 2021-06-03 2021-06-03 딥러닝을 활용한 머신 비전 기반의 전장 부품의 품질 관리 시스템 및 방법
PCT/KR2021/016237 WO2022255566A1 (ko) 2021-06-03 2021-11-09 딥러닝 기반 타겟의 품질 관리 방법 및 이를 이용한 시스템

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020210072161A KR102523770B1 (ko) 2021-06-03 2021-06-03 딥러닝을 활용한 머신 비전 기반의 전장 부품의 품질 관리 시스템 및 방법

Publications (2)

Publication Number Publication Date
KR20220163696A KR20220163696A (ko) 2022-12-12
KR102523770B1 true KR102523770B1 (ko) 2023-04-19

Family

ID=84391412

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020210072161A KR102523770B1 (ko) 2021-06-03 2021-06-03 딥러닝을 활용한 머신 비전 기반의 전장 부품의 품질 관리 시스템 및 방법

Country Status (1)

Country Link
KR (1) KR102523770B1 (ko)

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017107541A (ja) * 2015-12-01 2017-06-15 株式会社リコー 情報処理装置、情報処理方法、プログラムおよび検査システム

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102171491B1 (ko) * 2017-12-21 2020-10-29 동의대학교 산학협력단 딥러닝을 이용한 양품 선별 방법
CN113196040A (zh) 2018-11-30 2021-07-30 杰富意钢铁株式会社 表面缺陷检测方法、表面缺陷检测装置、钢材的制造方法、钢材的品质管理方法、钢材的制造设备、表面缺陷判定模型的生成方法及表面缺陷判定模型

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017107541A (ja) * 2015-12-01 2017-06-15 株式会社リコー 情報処理装置、情報処理方法、プログラムおよび検査システム

Also Published As

Publication number Publication date
KR20220163696A (ko) 2022-12-12

Similar Documents

Publication Publication Date Title
JP5198476B2 (ja) 合焦位置を決定する方法及びビジョン検査システム
JP6794737B2 (ja) 情報処理装置、情報処理方法、プログラムおよび検査システム
CN105588840B (zh) 一种电子元件定位方法及装置
KR102521386B1 (ko) 치수 계측 장치, 치수 계측 방법 및 반도체 제조 시스템
CN105900418B (zh) Oled堆叠膜的质量评估的系统、设备和方法
CN112352149A (zh) 用于自动分析空气样品的系统和方法
CA2532530A1 (en) Image processing method and system for microfluidic devices
CN107369176B (zh) 一种柔性ic基板氧化面积检测系统及方法
CN113920096A (zh) 一种集成电路金属封装缺陷检测方法
KR20180090756A (ko) 비전 시스템에서 컬러 이미지에 대해 컬러 후보 포즈들의 점수화를 위한 시스템 및 방법
CN104254757A (zh) 图像处理系统、图像处理方法以及图像处理程序
CN103389310A (zh) 一种基于辐射标定的亚像素光学元件损伤在线检测方法
CN110146017A (zh) 工业机器人重复定位精度测量方法
CN113538392A (zh) 晶圆的检测方法、设备及存储介质
CN113705564B (zh) 一种指针式仪表识别读数方法
KR102523770B1 (ko) 딥러닝을 활용한 머신 비전 기반의 전장 부품의 품질 관리 시스템 및 방법
KR102592502B1 (ko) 딥러닝 기반의 결함값 분포에 기초한 부품의 품질 관리 시스템 및 방법
JP2021039457A (ja) 画像処理方法、エッジモデル作成方法、ロボットシステム、および物品の製造方法
KR102524374B1 (ko) 영상 분석 모델을 이용한 농산물의 자동 분류 방법 및 시스템
KR102524453B1 (ko) 인공지능을 이용한 수산물의 품질 등급 측정 방법 및 시스템
Liu et al. Industrial Printing Image Defect Detection Using Multi‐Edge Feature Fusion Algorithm
CN113822104A (zh) 基于多候选虚拟标尺的人工智能水面检测系统
Milecki et al. The application of a vision system to detect trajectory points for soldering robot programming
CN116188502B (zh) 光伏板红外图像分割方法、存储介质以及电子设备
KR20240023893A (ko) 비전인식 기반 양식장 어류 건강 관리 시스템 및 방법

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant