KR102516482B1 - Defect detection device - Google Patents

Defect detection device Download PDF

Info

Publication number
KR102516482B1
KR102516482B1 KR1020220037338A KR20220037338A KR102516482B1 KR 102516482 B1 KR102516482 B1 KR 102516482B1 KR 1020220037338 A KR1020220037338 A KR 1020220037338A KR 20220037338 A KR20220037338 A KR 20220037338A KR 102516482 B1 KR102516482 B1 KR 102516482B1
Authority
KR
South Korea
Prior art keywords
defect
defective
area
product
pattern
Prior art date
Application number
KR1020220037338A
Other languages
Korean (ko)
Other versions
KR20220160470A (en
Inventor
김병규
최영주
박혜진
Original Assignee
(주)프로젝트노아
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by (주)프로젝트노아 filed Critical (주)프로젝트노아
Priority to PCT/KR2022/007517 priority Critical patent/WO2022250481A1/en
Publication of KR20220160470A publication Critical patent/KR20220160470A/en
Application granted granted Critical
Publication of KR102516482B1 publication Critical patent/KR102516482B1/en

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B07SEPARATING SOLIDS FROM SOLIDS; SORTING
    • B07CPOSTAL SORTING; SORTING INDIVIDUAL ARTICLES, OR BULK MATERIAL FIT TO BE SORTED PIECE-MEAL, e.g. BY PICKING
    • B07C5/00Sorting according to a characteristic or feature of the articles or material being sorted, e.g. by control effected by devices which detect or measure such characteristic or feature; Sorting by manually actuated devices, e.g. switches
    • B07C5/34Sorting according to other particular properties
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B07SEPARATING SOLIDS FROM SOLIDS; SORTING
    • B07CPOSTAL SORTING; SORTING INDIVIDUAL ARTICLES, OR BULK MATERIAL FIT TO BE SORTED PIECE-MEAL, e.g. BY PICKING
    • B07C5/00Sorting according to a characteristic or feature of the articles or material being sorted, e.g. by control effected by devices which detect or measure such characteristic or feature; Sorting by manually actuated devices, e.g. switches
    • B07C5/36Sorting apparatus characterised by the means used for distribution
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/95Investigating the presence of flaws or contamination characterised by the material or shape of the object to be examined
    • G01N21/956Inspecting patterns on the surface of objects
    • G01N21/95607Inspecting patterns on the surface of objects using a comparative method
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • G01N2021/8854Grading and classifying of flaws
    • G01N2021/8861Determining coordinates of flaws
    • G01N2021/8864Mapping zones of defects
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • G01N2021/8854Grading and classifying of flaws
    • G01N2021/888Marking defects
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • G01N2021/8883Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges involving the calculation of gauges, generating models
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • G01N2021/8887Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges based on image processing techniques
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/95Investigating the presence of flaws or contamination characterised by the material or shape of the object to be examined
    • G01N21/956Inspecting patterns on the surface of objects
    • G01N21/95607Inspecting patterns on the surface of objects using a comparative method
    • G01N2021/95615Inspecting patterns on the surface of objects using a comparative method with stored comparision signal
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N2201/00Features of devices classified in G01N21/00
    • G01N2201/12Circuits of general importance; Signal processing
    • G01N2201/129Using chemometrical methods
    • G01N2201/1296Using chemometrical methods using neural networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]

Abstract

본 발명은, 디스플레이 모듈, 생산 공정에서 생산된 제품의 영상을 출력하는 카메라 모듈 및 상기 영상에서 분할한 복수의 제품 영역 중 설정된 제품 불량 영역과 매칭되는 특정 불량 영역을 검출하고, 상기 특정 불량 영역에 대한 불량 패턴 정보를 생성하여 상기 디스플레이 모듈에 디스플레이하는 제어 모듈을 포함하는 불량 검출 장치를 제공한다.The present invention detects a display module, a camera module that outputs an image of a product produced in a production process, and a specific defective area that matches a set defective product area among a plurality of product areas divided from the image, and detects the specific defective area Provided is a defect detection device including a control module generating defect pattern information for the object and displaying the defect pattern information on the display module.

Description

불량 검출 장치{Defect detection device}Defect detection device {Defect detection device}

본 발명은 불량 검출 장치에 관한 것으로서, 더욱 상세하게는, 딥러닝을 기반으로 생산 공정에서 생산된 제품의 불량을 검출하기 용이한 불량 검출 장치에 관한 것이다.The present invention relates to a defect detection device, and more particularly, to a defect detection device that facilitates detection of defects in a product produced in a production process based on deep learning.

종래의 계층적 DNN(Deep Neural Network) 기반 얼굴 표정을 통한 감정인식 기술(IEEE Access 2019, 7)에 게재되어 비디오 기반 감정인식 시스템 구축 등에 활용되고 있는 딥러닝 기술은, 실시간 대화형 시스템에서 상대방의 표정을 읽어 낼 수 있다. 이 기술은 공개된 표정 인식 데이터셋 4종(CK+, JAFFE, FERA, AffectNet)에서 실험을 거쳐 그 성능을 확인되었다. Deep learning technology, which has been published in conventional hierarchical deep neural network (DNN)-based facial expression recognition technology (IEEE Access 2019, 7) and is used for building a video-based emotion recognition system, is You can read facial expressions. The performance of this technology was confirmed through experiments on four publicly available facial expression recognition datasets (CK+, JAFFE, FERA, and AffectNet).

일반적인 딥러닝 식별기 구조는 학습 데이터를 입력하면 전처리와 LBP(Local Binary Pattern)과정을 거치고, 피처 기반 CNN을 거쳐 특징 벡터를 추출한다. In a typical deep learning discriminator structure, when learning data is input, it goes through preprocessing and LBP (Local Binary Pattern), and then extracts feature vectors through feature-based CNN.

또한, 입력 데이터로부터 오토인코딩을 이용하여 neutral image를 생성한다. neutral image와 특징 벡터에 기초한 감정 쌍을 CNN 기법으로 지오메트릭 특징 벡터를 생성한 후, 가중치를 고려하여 감정을 분류할 수 있다.In addition, a neutral image is generated using auto-encoding from the input data. Emotions can be classified by considering weights after generating geometric feature vectors from emotion pairs based on neutral images and feature vectors using CNN techniques.

한편, 칫솔 제조시, 행해지는 불량 검수는 칫솔모 끝부분과 칫솔모가 심어진 부분, 칫솔 손잡이 등 다양한 부분의 검수가 요구된다. 특히 플라스틱 칫솔과 비교하여 대나무 칫솔의 불량은 더욱 다양하게 나타나는데, 대나무 칫솔 제조공정에서 원자재의 불량(치수, 깨짐, 뜯김, 색상)뿐만 아니라, 최종 제품의 불량(식모, 깨짐, 뜯김, 색상)을 높은 정확도로 판별해 내야 한다. On the other hand, when manufacturing a toothbrush, defective inspection performed requires inspection of various parts such as the tip of the bristles, the part where the bristles are planted, and the handle of the toothbrush. In particular, compared to plastic toothbrushes, defects in bamboo toothbrushes are more diverse. It must be determined with high accuracy.

이러한 이유로 칫솔 불량 검수의 자동화의 필요성이 높아졌으나, 현재 일부 항목(원자재 및 최종 제품의 치수)만 검수할 수 있다거나 검수 성공률(칫솔 헤드에 발생한 크랙, 식모 품질 검수) 이 낮다는 문제점이 발생하였다. For this reason, the need for automation of toothbrush defect inspection has increased, but currently only some items (raw materials and dimensions of the final product) can be inspected or the inspection success rate (crack on the toothbrush head, hair quality inspection) is low. .

또한, 검수 과정에서 판별과 함께 중요한 부분이 후처리하는 과정으로, 판별된 제품 중 후처리하여 양품이 되도록 하여 최종 불량률을 낮추게 하는 후처리 자동화도 함께 요구하며, 이러한 문제를 해결하기 위한 연구를 진행하고 있다.In addition, in the process of post-processing an important part along with discrimination in the inspection process, post-processing automation is also required to reduce the final defect rate by post-processing the identified products to make them good products, and research to solve these problems is being conducted. are doing

본 발명의 목적은, 딥러닝을 기반으로 생산 공정에서 생산된 제품의 불량을 검출하기 용이한 불량 검출 장치를 제공함에 있다.An object of the present invention is to provide a defect detection device that can easily detect defects in a product produced in a production process based on deep learning.

본 발명의 목적들은 이상에서 언급한 목적으로 제한되지 않으며, 언급되지 않은 본 발명의 다른 목적 및 장점들은 하기의 설명에 의해서 이해될 수 있고, 본 발명의 실시예에 의해 보다 분명하게 이해될 것이다. 또한, 본 발명의 목적 및 장점들은 특허 청구 범위에 나타낸 수단 및 그 조합에 의해 실현될 수 있음을 쉽게 알 수 있을 것이다.The objects of the present invention are not limited to the above-mentioned objects, and other objects and advantages of the present invention not mentioned above can be understood by the following description and will be more clearly understood by the examples of the present invention. It will also be readily apparent that the objects and advantages of the present invention may be realized by means of the instrumentalities and combinations indicated in the claims.

본 발명에 따른 불량 검출 장치는, 디스플레이 모듈, 생산 공정에서 생산된 제품의 영상을 출력하는 카메라 모듈 및 상기 영상에서 분할한 복수의 제품 영역 중 설정된 제품 불량 영역과 매칭되는 특정 불량 영역을 검출하고, 상기 특정 불량 영역에 대한 불량 패턴 정보를 생성하여 상기 디스플레이 모듈에 디스플레이하는 제어 모듈을 포함할 수 있다.The defect detection apparatus according to the present invention detects a display module, a camera module that outputs an image of a product produced in a production process, and a specific defect area that matches a set product defect area among a plurality of product areas divided from the image, and a control module generating defective pattern information for the specific defective area and displaying the defective pattern information on the display module.

상기 제어 모듈은, 상기 특정 불량 영역을 검출하는 검출기, 상기 특정 불량 영역에서 확인한 불량 패턴을 설정된 기준 불량 패턴에 분류하는 분류기 및 상기 불량 패턴을 기반으로 상기 불량 패턴 정보를 생성하는 정보 출력기를 포함할 수 있다.The control module may include a detector for detecting the specific defective area, a classifier for classifying the defective pattern identified in the specific defective area into a set reference defective pattern, and an information output unit for generating the defective pattern information based on the defective pattern. can

상기 검출기는, 상기 영상을 컨볼루션 신경망에 적용하여 상기 제품의 부위에 대응하는 상기 복수의 제품 영역으로 분할하고, 상기 제품 불량 영역과 매칭되는 상기 특정 불량 영역을 검출할 수 있다.The detector may apply the image to a convolutional neural network to divide the image into the plurality of product areas corresponding to parts of the product, and detect the specific defective area matching the defective product area.

상기 검출기는, R-CNN 검출기일 수 있다.The detector may be an R-CNN detector.

상기 분류기는, 상기 특정 불량 영역에서 불량에 대한 종류, 위치 및 색상 중 적어도 하나를 포함하는 상기 불량 패턴을 확인하고, 상기 기준 불량 패턴에 분류할 수 있다.The classifier may identify the defect pattern including at least one of the type, location, and color of the defect in the specific defect area, and classify the defect pattern into the reference defect pattern.

상기 분류기로부터 상기 불량 패턴이 입력되는 경우, 상기 정보 출력기는, 상기 불량 패턴에 포함된 불량에 대한 종류, 위치 및 색상 중 적어도 하나와, 상기 제품에 대한 사후 처리 정보를 상기 디스플레이 모듈에 디스플레이할 수 있다.When the defect pattern is input from the classifier, the information output unit may display, on the display module, at least one of the type, location, and color of the defect included in the defect pattern and post-processing information on the product. there is.

상기 사후 처리 정보는, 상기 제품이 폐기 제품이면 폐기 처리 결과 또는 재생 가능 제품이면 재생 처리 결과일 수 있다.The post-processing information may be a waste treatment result if the product is a waste product or a recycling treatment result if the product is a renewable product.

상기 정보 출력기는, 상기 사후 처리 정보에 따라 상기 제품을 폐기 장치 또는 재생 장치로 배출할 수 있다.The information output unit may discharge the product to a disposal device or a regeneration device according to the post-processing information.

본 발명에 따른 불량 검출 장치는, 생산 공정에서 생산된 제품의 불량을 심층 신경망을 통해 학습한 제품 불량 영역과 비교하여 자동 검출하도록 함으로써, 불량 제품을 추출하기 용이한 이점이 있다.The defect detection apparatus according to the present invention has an advantage of easily extracting defective products by automatically detecting defects of products produced in the production process by comparing them with defective product areas learned through a deep neural network.

한편, 본 발명의 효과는 이상에서 언급한 효과들로 제한되지 않으며, 이하에서 설명할 내용으로부터 통상의 기술자에게 자명한 범위 내에서 다양한 효과들이 포함될 수 있다.On the other hand, the effects of the present invention are not limited to the effects mentioned above, and various effects may be included within a range apparent to those skilled in the art from the contents to be described below.

도 1은 본 발명에 따른 불량 검출 장치의 제어 구성을 나타낸 제어 블록도이다.
도 2는 본 발명에 따른 불량 검출 장치에서 촬영한 영상을 나타낸 일 예를 나타낸 예시도이다.
도 3은 본 발명에 따른 불량 검출 장치에서 불량 제품을 나타낸 예시도이다.
1 is a control block diagram showing a control configuration of a failure detection device according to the present invention.
2 is an exemplary view showing an example of an image captured by a defect detection device according to the present invention.
3 is an exemplary view showing a defective product in the defect detection device according to the present invention.

본 발명은 다양한 변경을 가할 수 있고 여러 가지 실시예를 가질 수 있는 바, 특정 실시예들을 도면에 예시하고 상세하게 설명하고자 한다. 그러나 이는 본 발명을 특정한 실시 형태에 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다. 각 도면을 설명하면서 유사한 참조부호를 유사한 구성요소에 대해 사용하였다.Since the present invention can make various changes and have various embodiments, specific embodiments are illustrated in the drawings and described in detail. However, this is not intended to limit the present invention to specific embodiments, and should be understood to include all modifications, equivalents, or substitutes included in the spirit and technical scope of the present invention. Like reference numerals have been used for like elements throughout the description of each figure.

제1, 제2, A, B 등의 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되어서는 안 된다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다. 예를 들어, 본 발명의 권리 범위를 벗어나지 않으면서 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소도 제1 구성요소로 명명될 수 있다. 및/또는 이라는 용어는 복수개의 관련된 기재된 항목들의 조합 또는 복수개의 관련된 기재된 항목들 중의 어느 항목을 포함한다.Terms such as first, second, A, and B may be used to describe various components, but the components should not be limited by the terms. These terms are only used for the purpose of distinguishing one component from another. For example, a first element may be termed a second element, and similarly, a second element may be termed a first element, without departing from the scope of the present invention. The term and/or includes a combination of a plurality of related recited items or any one of a plurality of related recited items.

어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다.It is understood that when an element is referred to as being "connected" or "connected" to another element, it may be directly connected or connected to the other element, but other elements may exist in the middle. It should be. On the other hand, when an element is referred to as “directly connected” or “directly connected” to another element, it should be understood that no other element exists in the middle.

본 출원에서 사용한 용어는 단지 특정한 실시예를 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수개의 표현을 포함한다. 본 출원에서, "포함하다" 또는 "가지다" 등의 용어는 명세서 상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.Terms used in this application are only used to describe specific embodiments, and are not intended to limit the present invention. Expressions in the singular number include plural expressions unless the context clearly dictates otherwise. In this application, the terms "include" or "have" are intended to designate that there is a feature, number, step, operation, component, part, or combination thereof described in the specification, but one or more other features It should be understood that the presence or addition of numbers, steps, operations, components, parts, or combinations thereof is not precluded.

다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가지고 있다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥상 가지는 의미와 일치하는 의미를 가지는 것으로 해석되어야 하며, 본 출원에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.Unless defined otherwise, all terms used herein, including technical or scientific terms, have the same meaning as commonly understood by one of ordinary skill in the art to which the present invention belongs. Terms such as those defined in commonly used dictionaries should be interpreted as having a meaning consistent with the meaning in the context of the related art, and unless explicitly defined in this application, it should not be interpreted in an ideal or excessively formal meaning. don't

이하, 본 발명에 따른 바람직한 실시예를 첨부된 도면을 참조하여 상세하게 설명한다.Hereinafter, preferred embodiments according to the present invention will be described in detail with reference to the accompanying drawings.

도 1은 본 발명에 따른 불량 검출 장치의 제어 구성을 나타낸 제어 블록도이다.1 is a control block diagram showing a control configuration of a failure detection device according to the present invention.

도 1을 참조하면, 불량 검출 장치(100)는 디스플레이 모듈(110), 카메라 모듈(120) 및 제어 모듈(130)을 포함할 수 있다.Referring to FIG. 1 , the defect detection device 100 may include a display module 110 , a camera module 120 and a control module 130 .

디스플레이 모듈(110)은 카메라 모듈(120)에서 촬영된 영상(M) 및 제어 모듈(130)에서 출력된 불량 패턴 정보(F)를 디스플레이할 수 있다.The display module 110 may display the image M photographed by the camera module 120 and the defective pattern information F output from the control module 130 .

상기 영상(M)은 생산 공정에서 생산된 제품의 영상일 수 있으며, 이에 한정을 두지 않는다.The image M may be an image of a product produced in a production process, but is not limited thereto.

실시 예에서, 불량 검출 장치(100)는 생산 공정에서 생산된 제품이 양품인지 불량품인지 확인하는 것으로 설명하지만, 제품을 생산하기 이전의 원자재가 양품인지 불량품인지 확인할 수 있으며, 이에 한정을 두지 않는다.In the embodiment, the defect detection device 100 is described as confirming whether a product produced in a production process is a good product or a defective product.

카메라 모듈(120)은 영상(M)을 촬영하여, 디스플레이 모듈(110) 및 제어 모듈(130)로 출력할 수 있다.The camera module 120 may capture an image M and output the image to the display module 110 and the control module 130 .

여기서, 카레라 모듈(120)는 이미지 센서 또는 비전 센서일 수 있으며, 이에 한정을 두지 않는다.Here, the Carrera module 120 may be an image sensor or a vision sensor, but is not limited thereto.

제어 모듈(130)은 검출기(132), 분류기(134) 및 정보 출력기(136)를 포함할 수 있다.The control module 130 may include a detector 132 , a classifier 134 and an information outputter 136 .

검출기(132)는 영상(M)에서 제품이 포함된 복수의 제품 영역으로 분할할 수 있다.The detector 132 may divide the image M into a plurality of product areas including products.

이후, 검출기(132)는 복수의 제품 영역 중 설정된 제품 불량 영역과 매칭되는 특정 불량 영역을 검출할 수 있다.Thereafter, the detector 132 may detect a specific defective area that matches the set defective product area among a plurality of product areas.

즉, 검출기(132)는 영상(M)을 컨볼루션 신경망에 적용하여 상기 제품의 부위에 대응하는 상기 복수의 제품 영역으로 분할하고, 상기 제품 불량 영역과 매칭되는 상기 특정 불량 영역을 검출할 수 있다.That is, the detector 132 applies the image M to a convolutional neural network to divide the product into the plurality of product areas corresponding to the parts of the product, and detect the specific defective area matching the defective product area. .

여기서, 검출기(132)는 R-CNN 검출기일 수 있다. R-CNN 검출기는 영상 내의 영상 영역을 분류하는 객체 검출 프레임워크로써, 슬라이딩 윈도우를 사용하여 각 영역을 불하는 대신 사물을 포함할 가능성이 있는 영역, 즉 상술한 상기 복수의 제품 영역만을 처리할 수 있다.Here, the detector 132 may be an R-CNN detector. The R-CNN detector is an object detection framework that classifies image areas in an image. Instead of using a sliding window to classify each area, it can process only areas that may contain objects, that is, the above-mentioned plurality of product areas. there is.

이때, 검출기(132)는 전이 학습 워크플로우를 따르며, 전이 학습에서는 ImageNet와 같은 대규모의 영상 모음에 대해 훈련된 신경망을 새로운 분류 또는 검출 작업의 시작점으로 사용할 수 있다. At this time, the detector 132 follows a transfer learning workflow, and in transfer learning, a neural network trained on a large-scale image collection such as ImageNet can be used as a starting point for a new classification or detection task.

상기 제품 불량 영역은 제품의 부위별로 다양한 불량에 대한 비교 영상 영역으로, 신경망을 통행 사전 훈련될 수 있다.The product defect area is a comparison image area for various defects for each part of the product, and can be pre-trained through a neural network.

분류기(134)는 상기 특정 불량 영역에서 확인한 불량 패턴을 설정된 기준 불량 패턴에 분류할 수 있다.The classifier 134 may classify the defective pattern identified in the specific defective area into a set reference defective pattern.

즉, 분류기(134)는 상기 특정 불량 영역에서 불량에 대한 종류, 위치 및 색상 중 적어도 하나를 포함하는 상기 불량 패턴을 확인하고, 상기 기준 불량 패턴에 분류할 수 있다.That is, the classifier 134 may identify the defect pattern including at least one of the type, location, and color of the defect in the specific defect area, and classify the defect pattern into the reference defect pattern.

정보 출력기(136)는 상기 불량 패턴을 기반으로 상기 불량 패턴 정보를 생성할 수 있다.The information output unit 136 may generate the defective pattern information based on the defective pattern.

즉, 정보 출력기(136)는 상기 불량 패턴의 유무로써, 상기 제품이 양품인지 불량품인지 확인할 수 있다.That is, the information output unit 136 can determine whether the product is a good product or a defective product based on the presence or absence of the defective pattern.

정보 출력기(136)는 상기 불량 패턴이 입력되는 경우, 상기 불량 패턴에 불량에 대한 종류, 위치 및 색상 중 적어도 하나와, 상기 제품에 대한 사후 처리 정보를 디스플레이 모듈(110)에 디스플레이할 수 있다.When the defective pattern is input, the information output unit 136 may display on the display module 110 at least one of the type, location, and color of the defective pattern and post-processing information for the product.

상기 사후 처리 정보는 상기 제품이 폐기 제품이면 폐기 처리 결과 또는 재생 가능 제품이면 재생 처리 결과일 수 있으며, 이에 한정을 두지 않는다.The post-processing information may be a waste treatment result if the product is a waste product or a recycling treatment result if the product is a renewable product, but is not limited thereto.

정보 출력기(136)는 상기 사후 처리 정보에 따라 상기 제품을 폐기 장치 또는 재생 장치로 배출할 수 있으며, 이에 한정을 두지 않는다.The information output unit 136 may discharge the product to a disposal device or a recycling device according to the post-processing information, but is not limited thereto.

도 2는 본 발명에 따른 불량 검출 장치에서 촬영한 영상을 나타낸 일 예를 나타낸 예시도 및 도 3은 본 발명에 따른 불량 검출 장치에서 불량 제품을 나타낸 예시도이다.2 is an exemplary view showing an example of an image captured by the defect detection device according to the present invention, and FIG. 3 is an exemplary view showing a defective product in the defect detection device according to the present invention.

도 2 및 도 3에 나타낸 영상은 칫솔을 나타내면, 칫솔에 대한 불량을 검출하기 위해 불량 검출 장치가 적용된 것으로 설명한다.If the images shown in FIGS. 2 and 3 show a toothbrush, it will be described that a defect detection device is applied to detect defects in the toothbrush.

도 2는 대나무 칫솔의 나무의 색상 및 줄기 무늬를 나타내는 예시도일 수 있다. 2 may be an exemplary view showing the color and stem pattern of a tree of a bamboo toothbrush.

도 2에 나타낸 바와 같이, 대나무 칫솔의 경우, 나무의 색상 및 줄기 무늬 등을 포함하는 재료의 특성과 제품의 특성에 따라 불량을 판별해야 하는 영역의 색상 및 판별 대상 내 판별 부위의 초점거리가 다르고, 칫솔모가 식모된 모양은 무작위성을 나타내기 때문에 식모 판별 뿐만 아니라 다른 영역 판별에도 영향을 끼쳐 단순 비전 검수로 전체 검수가 어려울 수 있다.As shown in FIG. 2, in the case of a bamboo toothbrush, the color of the area where defects are to be determined and the focal length of the discrimination area within the discrimination target are different depending on the characteristics of the material and the product, including the color and pattern of the tree, etc. However, since the shape of the implanted bristles shows randomness, it affects not only the identification of implanted hairs but also the determination of other areas, and it may be difficult to perform an overall inspection with a simple vision inspection.

이때, 불량 검출 장치(100)는 칫솔모 및 칫솔대 등 제품의 부위별로 제품 영역을 분할하고, 분할한 제품 영역과 설정된 제품 불량 영역을 비교하여, 불량 영역을 검출할 수 있다.At this time, the defect detection apparatus 100 may divide product areas for each part of the product, such as a toothbrush head and a toothbrush head, and compare the divided product areas with a set defective product area to detect a defective area.

이와 같은, 불량 검출 장치(100)는 제품의 원가경쟁력 및 판매 채널 다양화할 수 있는 이점이 있다. As such, the defect detection device 100 has advantages of cost competitiveness of products and diversification of sales channels.

먼저, 도 3은 도 2에 나타낸 불량 검출 장치(100)에서 검출한 불량 영역에 대응하는 칫솔의 불량의 종류 및 형태를 설명한다.First, FIG. 3 describes the types and shapes of defects of the toothbrush corresponding to the defect area detected by the defect detection device 100 shown in FIG. 2 .

도 3(a)는 식모 불량을 나타낸 예이고. 칫솔의 머리부분의 일부에 검은 점과 같이 칫솔모량이 불량한 것을 알 수 있다. Figure 3 (a) is an example showing a hair transplant failure. It can be seen that the amount of bristles of the toothbrush is poor, such as a black dot on a part of the head of the toothbrush.

도 3(b)는 옆 헤드 깨짐을 나타낸 예이고, 대나무 칫솔의 경우, 헤드 깨짐이 발생할 가능성이 있다. 3 (b) is an example of side head breakage, and in the case of a bamboo toothbrush, head breakage may occur.

도 3(c)는 식모 불량의 다른 예이고, 칫솔모의 길이 또는 방향이 일정하지 않음을 알 수 있다. 3(c) is another example of poor hair transplantation, and it can be seen that the length or direction of bristles is not constant.

도 3(d)는 실금불량의 예이고, 도 3(e)는 줄 크랙 불량이며, 도 3(f)는 크랙 불량의 예이다. FIG. 3(d) is an example of incontinence defect, FIG. 3(e) is a line crack defect, and FIG. 3(f) is an example of a crack defect.

이와 같이 본 발명의 불량 검출 장치(100)에서 불량은 식모, 옆 헤드 깨짐, 식모 불량, 실금 불량, 줄 크랙 불량, 크랙 불량으로 구분할 수 있다. 다른 변형예에서, 불량은 실금, 줄크랙, 크랙을 하나의 크랙 불량으로 구분하여, 식모량, 옆 헤드 깨짐, 식모 길이, 크랙 불량으로 구분할 수 있다. As described above, in the defect detection device 100 of the present invention, defects can be classified into hair transplantation, side head breakage, hair transplant defects, incontinence defects, line crack defects, and crack defects. In another modification, defects may be divided into incontinence, line cracks, and cracks as one crack defect, and may be classified into hair transplant amount, side head breakage, hair transplant length, and crack defects.

이상에서 실시 예들에 설명된 특징, 구조, 효과 등은 본 발명의 적어도 하나의 실시 예에 포함되며, 반드시 하나의 실시 예에만 한정되는 것은 아니다. 나아가, 각 실시 예에서 예시된 특징, 구조, 효과 등은 실시 예들이 속하는 분야의 통상의 지식을 가지는 자에 의해 다른 실시 예들에 대해서도 조합 또는 변형되어 실시 가능하다. 따라서 이러한 조합과 변형에 관계된 내용들은 본 발명의 범위에 포함되는 것으로 해석되어야 할 것이다.Features, structures, effects, etc. described in the embodiments above are included in at least one embodiment of the present invention, and are not necessarily limited to only one embodiment. Furthermore, the features, structures, effects, etc. illustrated in each embodiment can be combined or modified with respect to other embodiments by a person having ordinary knowledge in the field to which the embodiments belong. Therefore, contents related to these combinations and variations should be construed as being included in the scope of the present invention.

또한, 이상에서 실시 예를 중심으로 설명하였으나 이는 단지 예시일 뿐 본 발명을 한정하는 것이 아니며, 본 발명이 속하는 분야의 통상의 지식을 가진 자라면 본 실시 예의 본질적인 특성을 벗어나지 않는 범위에서 이상에 예시되지 않은 여러가지의 변형과 응용이 가능함을 알 수 있을 것이다. 예를 들어, 실시 예에 구체적으로 나타난 각 구성 요소는 변형하여 실시할 수 있는 것이다. 그리고 이러한 변형과 응용에 관계된 차이점들은 첨부된 청구 범위에서 규정하는 본 발명의 범위에 포함되는 것으로 해석되어야 할 것이다.In addition, although the above has been described with reference to the embodiments, these are only examples and do not limit the present invention, and those skilled in the art to which the present invention belongs can exemplify the above to the extent that does not deviate from the essential characteristics of the present embodiment. It will be appreciated that various modifications and applications that have not been made are possible. For example, each component specifically shown in the embodiment can be modified and implemented. And differences related to these modifications and applications should be construed as being included in the scope of the present invention as defined in the appended claims.

Claims (8)

대나무 칫솔의 불량을 검출하기 위한 불량 검출 장치에 있어서,
디스플레이 모듈;
생산 공정에서 생산된 상기 대나무 칫솔의 영상을 출력하는 카메라 모듈; 및
상기 영상을 복수의 제품 영역들로 분할하고, 상기 복수의 제품 영역들 중 설정된 제품 불량 영역과 매칭되는 특정 불량 영역을 검출하고, 상기 특정 불량 영역에 대한 불량 패턴 정보를 생성하여 상기 디스플레이 모듈에 디스플레이하는 제어 모듈을 포함하고,
상기 제어 모듈은,
상기 영상을 R-CNN 을 활용한 컨볼루션 신경망에 적용하여 상기 대나무 칫솔을 칫솔모와 칫솔대에 대응하는 복수의 제품 영역으로 분할하고 상기 제품 불량 영역과 매칭되는 특정 불량 영역을 검출하는 검출기;
상기 특정 불량 영역이 상기 칫솔모에 포함되는 영역인 경우 상기 특정 불량 영역에서 식모 불량, 옆 헤드 깨짐, 실금 불량, 크랙 불량을 포함하는 불량에 대한 종류, 상기 칫솔모 내에서 불량이 발생한 위치 및 불량을 판별해야 하는 영역의 색상에 대한 정보를 포함하는 불량 패턴을 확인하고, 상기 불량 패턴을 기준 불량 패턴에 분류하는 분류기; 및
상기 분류기로부터 상기 불량 패턴이 입력되면, 상기 불량 패턴을 기반으로 상기 불량 패턴에 포함된 불량에 대한 종류, 상기 칫솔모 내에서 불량이 발생한 위치 및 불량을 판별해야 하는 영역의 색상에 대한 정보를 포함하는 상기 불량 패턴 정보를 생성하는 정보 출력기를 포함하고,
상기 특정 불량 영역이 상기 칫솔대에 포함되는 영역인 경우 상기 분류기는 상기 특정 불량 영역에서 실금 불량, 크랙 불량을 포함하는 불량에 대한 종류, 상기 칫솔대 내에서 불량이 발생한 위치 및 불량을 판별해야 하는 영역의 색상에 대한 정보를 포함하는 불량 패턴을 확인하고, 상기 불량 패턴을 기준 불량 패턴에 분류하는 것을 특징으로 하는,
불량 검출 장치.
A defect detection device for detecting defects in a bamboo toothbrush,
display module;
A camera module outputting an image of the bamboo toothbrush produced in the production process; and
The image is divided into a plurality of product areas, a specific defective area matching a set defective product area is detected among the plurality of product areas, and defect pattern information for the specific defective area is generated and displayed on the display module. Including a control module that
The control module,
a detector for dividing the bamboo toothbrush into a plurality of product areas corresponding to bristles and a toothbrush head by applying the image to a convolutional neural network using R-CNN and detecting a specific defective area matching the defective product area;
If the specific defective area is an area included in the bristle, determine the type of defect including defective hair transplantation, side head breakage, incontinence defect, and crack defect in the specific defective area, the location of the defect within the bristle, and the defect a classifier that checks a defective pattern including information on the color of an area to be performed, and classifies the defective pattern into a reference defective pattern; and
When the defective pattern is input from the classifier, based on the defective pattern, information about the type of defect included in the defective pattern, the location of the defect within the bristles, and the color of an area to determine the defect An information output unit generating the defective pattern information;
If the specific defect area is an area included in the toothbrush handle, the classifier determines the type of defects including incontinence defects and crack defects in the specific defect area, the location of defects in the toothbrush handle, and the area to determine the defects. Characterized in that a defective pattern including information about color is identified and the defective pattern is classified into a reference defective pattern.
defect detection device.
삭제delete 삭제delete 삭제delete 삭제delete 제 1 항에 있어서,
상기 정보 출력기는,
상기 대나무 칫솔에 대한 사후 처리 정보를 상기 디스플레이 모듈에 디스플레이하고,
상기 사후 처리 정보는,
상기 대나무 칫솔이 폐기 제품이면 폐기 처리 결과 또는 재생 가능 제품이면 재생 처리 결과인 불량 검출 장치.
According to claim 1,
The information output device,
display post-processing information on the bamboo toothbrush on the display module;
The post-processing information,
If the bamboo toothbrush is a waste product, it is a waste product, or if it is a renewable product, it is a waste detection device.
삭제delete 삭제delete
KR1020220037338A 2021-05-26 2022-03-25 Defect detection device KR102516482B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
PCT/KR2022/007517 WO2022250481A1 (en) 2021-05-26 2022-05-26 Defect detection device

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR20210067334 2021-05-26
KR1020210067334 2021-05-26

Publications (2)

Publication Number Publication Date
KR20220160470A KR20220160470A (en) 2022-12-06
KR102516482B1 true KR102516482B1 (en) 2023-04-04

Family

ID=84407446

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020220037338A KR102516482B1 (en) 2021-05-26 2022-03-25 Defect detection device

Country Status (1)

Country Link
KR (1) KR102516482B1 (en)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102235747B1 (en) * 2020-06-23 2021-04-01 김숙례 Apparatu and system of managing press product
KR102242996B1 (en) * 2019-11-27 2021-04-21 케이비아이동국실업 주식회사 Method for atypical defects detect in automobile injection products

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101802843B1 (en) * 2016-04-27 2017-11-29 주식회사 아신기술 Automated Vision Inspection System
CN108961238A (en) * 2018-07-02 2018-12-07 北京百度网讯科技有限公司 Display screen quality determining method, device, electronic equipment and storage medium
KR102271418B1 (en) * 2019-06-17 2021-07-01 라온피플 주식회사 Method and system for auto training for product inspection

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102242996B1 (en) * 2019-11-27 2021-04-21 케이비아이동국실업 주식회사 Method for atypical defects detect in automobile injection products
KR102235747B1 (en) * 2020-06-23 2021-04-01 김숙례 Apparatu and system of managing press product

Also Published As

Publication number Publication date
KR20220160470A (en) 2022-12-06

Similar Documents

Publication Publication Date Title
Singh et al. Face detection and recognition system using digital image processing
CN107463888B (en) Face emotion analysis method and system based on multi-task learning and deep learning
Ismael et al. Face recognition using Viola-Jones depending on Python
Prakash et al. Face recognition with convolutional neural network and transfer learning
Ijjina et al. Facial expression recognition using kinect depth sensor and convolutional neural networks
Emeršič et al. Pixel-wise ear detection with convolutional encoder-decoder networks
GB2591178A (en) Machine learning based imaging method of determining authenticity of a consumer good
Benkaddour et al. Human age and gender classification using convolutional neural network
Shukla et al. Face recognition using convolutional neural network in machine learning
Cavazza et al. Active regression with adaptive Huber loss
Iswarya et al. Fake Logo Detection
Karahan et al. Age and gender classification from facial features and object detection with machine learning
Myvizhi et al. Extensive analysis of deep learning-based deepfake video detection
KR102516482B1 (en) Defect detection device
Ji et al. Multi-label relation modeling in facial action units detection
Rajalaxmi et al. Deepfake Detection using Inception-ResNet-V2 Network
WO2022250481A1 (en) Defect detection device
Bevilacqua et al. Face detection by means of skin detection
Sabharwal et al. A comparative analysis of various deep learning models for facial recognition
Savadatti et al. Theoretical Analysis of Viola-Jones Algorithm Based Image and Live-Feed Facial Recognition
Ghosh et al. Transfer learning based Facial Emotion Detection for Animated Characters
Ouyang et al. A facial expression recognition method by fusing multiple sparse representation based classifiers
Kharchevnikova et al. Video-based age and gender recognition in mobile applications
Shreedevi et al. An improved local binary pattern algorithm for face recognition applications
Dash et al. 16 usage of convolutional neural networks in real‐time facial emotion detection

Legal Events

Date Code Title Description
AMND Amendment
E601 Decision to refuse application
AMND Amendment
X701 Decision to grant (after re-examination)
GRNT Written decision to grant