KR101679650B1 - 홀 내부의 결함 검출방법 - Google Patents

홀 내부의 결함 검출방법 Download PDF

Info

Publication number
KR101679650B1
KR101679650B1 KR1020140154381A KR20140154381A KR101679650B1 KR 101679650 B1 KR101679650 B1 KR 101679650B1 KR 1020140154381 A KR1020140154381 A KR 1020140154381A KR 20140154381 A KR20140154381 A KR 20140154381A KR 101679650 B1 KR101679650 B1 KR 101679650B1
Authority
KR
South Korea
Prior art keywords
defect
image
hole
difference
defects
Prior art date
Application number
KR1020140154381A
Other languages
English (en)
Other versions
KR20160054846A (ko
Inventor
강동중
박성훈
임채석
김홍현
Original Assignee
부산대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 부산대학교 산학협력단 filed Critical 부산대학교 산학협력단
Priority to KR1020140154381A priority Critical patent/KR101679650B1/ko
Publication of KR20160054846A publication Critical patent/KR20160054846A/ko
Application granted granted Critical
Publication of KR101679650B1 publication Critical patent/KR101679650B1/ko

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/95Investigating the presence of flaws or contamination characterised by the material or shape of the object to be examined
    • G01N21/954Inspecting the inner surface of hollow bodies, e.g. bores
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • G01N2021/8854Grading and classifying of flaws
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/95Investigating the presence of flaws or contamination characterised by the material or shape of the object to be examined
    • G01N21/954Inspecting the inner surface of hollow bodies, e.g. bores
    • G01N2021/9548Scanning the interior of a cylinder

Abstract

본 발명은 기계 부품에 가공된 홀(hole)의 내면에 발생한 결함을 신뢰성 있게 검출하는 방법에 관한 것이다.
본 발명에 따른 홀 내부의 결함 검출방법은, 홀 내부에 대한 다수의 영상으로부터 다수의 결함별로 영상특징을 이용하여 적어도 하나의 결함분류모델을 구축하는 단계; 촬영부를 통해 측정하고자 하는 홀 내부에 대한 영상을 촬영하는 단계; 상기 촬영된 영상에서 결함검출을 위한 관심영역을 설정하는 단계; 상기 구축된 결함분류모델을 이용하여 상기 설정된 관심영역의 영상으로부터 상기 홀 내부의 결함을 1차 검출하는 단계; 상기 1차 검출된 결함의 영역에 대한 영상의 음영을 반전시키는 단계; 상기 음영이 반전된 영상으로부터 결함과 배경 간 픽셀의 밝기값 차이를 추출하는 단계; 및 상기 밝기값 차이를 이용하여 결함을 2차 검출하는 단계; 를 포함한다.

Description

홀 내부의 결함 검출방법{METHOD FOR DETECTING DEFECT OF HOLE INSIDE}
본 발명은 홀 내부의 결함 검출방법에 관한 것으로서, 특히 기계 부품에 가공된 홀(hole)의 내면에 발생한 결함을 신뢰성 있게 검출하는 방법에 관한 것이다.
일반적으로 자동차 부품과 같은 기계 부품은 다양한 방법으로 제조되거나 가공된다. 이러한 기계 부품의 제조 및 가공과정에서 발생하는 결함은 안전의 문제이므로 이를 검출하는 것이 매우 중요한 사안이다.
특히, 자동차의 변속기와 같은 정밀 부품에서의 작은 결함은 차량 주행 시 변속기의 이상을 발생시켜 자칫 큰 인명사고를 유발할 수 있다. 따라서, 이러한 기계 부품은 완제품으로 조립되기 전에 결함을 검사하는 것은 필수적인 항목이다.
종래에 홀(hole)이 가공된 기계 부품의 내면에 발생한 결함을 검출하는 경우에 내시경 등과 같은 검출장치를 이용하여 홀의 내부면을 검사하는 방법을 사용하고 있다. 그러나, 종래의 검출장치에서는 홀 내벽의 불량이나 마멸 정도를 검출하는 범위가 부분적이라 부정확하고 검출장치가 고가인 단점이 있다.
이러한 문제를 해결하기 위해 홀 내부면의 불량이나 마멸정도를 꼬깔형 반사면을 통해 반사시킨 후 반사된 홀 내벽을 촬영하여 모니터링함으로써 제품의 검출범위를 확장시키도록 하는 검사장치가 제시되었다.
하지만, 이러한 검사장치에서는 홀 내벽을 직접 촬영하는 것이 아니라 반사된 면을 촬영하여 검사하므로 미세한 결함을 검출하는데는 한계가 있다. 또한, 홀의 내부에 내시경이나 카메라를 삽입하여 검사하므로 조명이나 영상의 왜곡 등의 문제로 미세결함을 정확하게 검사하기에는 불가능하다는 문제점이 있다.
이에, 해당 기술분야에서는 기계 부품에 형성된 홀의 내부에 발생한 미세한 결함을 정확하게 검출할 수 있는 기술의 개발이 요구되고 있다.
한국등록특허 제10-0478696호 일본공개특허 제2007-286605호
본 발명의 상기한 종래기술의 문제점과 기술개발의 요구에 부응하여 제안된 것으로서, 기계 부품에 가공된 홀의 내부면에 발생한 결함을 신뢰성 있게 검출하는 방법을 제공하는데 목적이 있다.
본 발명에 따른 홀 내부의 결함 검출방법은,
홀 내부에 대한 다수의 영상으로부터 다수의 결함별로 픽셀의 밝기값의 차이를 수치화하여 결함에 대한 영상특징으로 추출하고 상기 추출된 결함별 영상특징에 따라 각각의 결함을 분류하여 적어도 하나의 결함분류모델을 구축하는 단계; 촬영부를 통해 측정하고자 하는 홀 내부에 대한 영상을 촬영하는 단계; 상기 촬영된 영상에서 결함검출을 위한 관심영역을 설정하는 단계; 상기 구축된 결함분류모델을 이용하여 상기 설정된 관심영역의 영상으로부터 상기 홀 내부의 결함을 1차 검출하는 단계; 상기 1차 검출된 결함의 영역에 대한 영상의 음영을 반전시키는 단계; 상기 음영이 반전된 영상으로부터 결함과 배경 간 픽셀의 밝기값 차이를 추출하는 단계; 및 상기 밝기값 차이를 이용하여 결함을 2차 검출하는 단계; 를 포함한다.
본 발명에서, 상기 결함분류모델을 구축하는 단계는, 상기 다수의 영상을 스캔하여 상기 스캔된 영상에서 검은 영역의 픽셀밝기값의 합과 흰 영역의 픽셀밝기값 합의 차이를 수치화하는 단계; 상기 수치를 이용하여 결함별 영상특징을 추출하는 단계; 및 상기 수치화된 결함별 영상특징을 이용하여 N개의 분류기로 구성된 케스케이드 분류기(cascade classifier)를 생성하는 단계; 를 포함한다.
본 발명에서, 상기 케스케이드 분류기를 생성하는 단계는, 제1분류기부터 제N분류기까지 순차적으로 각각 기설정된 결함분류기준에 따라 결함을 학습하되, 상기 제1분류기는 상대적으로 결함에서의 픽셀밝기값의 차이가 상대적으로 가장 큰 수치를 갖는 결함을 학습하고 상기 제N분류기로 갈수록 상대적으로 결함에서의 픽셀밝기값의 차이가 상대적으로 가장 작은 수치를 갖는 결함을 학습한다.
본 발명에서, 상기 결함분류모델을 생성하는 단계 이후에, 상기 영상을 중심을 기준으로 4분할하는 단계; 상기 4분할된 영상에서 2개씩 분할영역을 결합하여 2개의 결함분류모델로 구현하는 단계; 를 더 포함한다.
본 발명에서, 상기 2개의 결함분류모델을 생성하는데 사용되는 결함은 형태와 종류 및 영상특징이 서로 다르다.
본 발명에서, 상기 관심영역을 설정하는 단계는, 상기 홀 내부의 영상에서 상기 홀의 길이방향의 주축을 검출하는 단계; 상기 검출된 홀의 주축을 중심으로 다른 지름의 두 원을 설정하는 단계; 및 상기 두 원의 사이를 관심영역으로 설정하는 단계; 를 포함한다.
본 발명에서, 상기 홀의 길이방향의 주축을 검출하는 단계는, 상기 영상에서 다수의 원 간의 각 중심좌표를 서로 비교하는 단계; 상기 다수의 원의 중심좌표와의 거리가 기설정된 기준치를 초과하는 원을 제거하는 단계; 및 남은 원의 중심좌표를 평균하여 상기 홀의 주축을 예측하는 단계; 를 포함한다.
본 발명에서, 상기 1차 결함 검출단계는, 상기 관심영역의 영상으로부터 결함의 영상특징을 추출하고 상기 결함분류모델에 상기 추출된 영상특징과 동일한 영상특징이 저장되어 있는지 확인하여 저장되어 있으면 상기 추출된 영상특징의 결함을 상기 홀 내부의 결함으로 1차 검출한다.
본 발명에서, 제1항에 있어서, 상기 상기 1차 결함 검출단계 이후에, 상기 영상에서 결함으로 검출된 영역에 제1필터를 설치하고 상기 제1필터로부터 좌측 및 우측에 기설정된 픽셀만큼 이격되도록 각각 제2필터 및 제3필터를 설정하는 단계; 상기 제1필터와 제2필터 간의 픽셀값의 차이와, 상기 제1필터와 제3필터 간의 픽셀값의 차이를 구하는 단계; 및 상기 차이가 발생하는 경우 제1값을 설정하고 차이가 발생하지 않으면 제2값을 설정하는 단계; 를 더 포함한다.
본 발명에서, 상기 제1,2,3 필터의 설치단계, 상기 필터 간의 픽셀값의 차이 계산단계 및 제1,2값의 설정단계는 상기 촬영된 홀 내부의 영상에서 수평방향 또는 수직방향으로 이동하면서 반복하여 수행되는 홀 내부의 결함 검출방법.
본 발명에서, 상기 결함분류모델을 구축하는 단계는, 상기 다수의 영상을 스캔하여 상기 스캔된 영상에서 검은 영역의 픽셀밝기값의 합과 결함인 검은 영역의 픽셀밝기값 합의 차이를 수치화하고 상기 수치를 결함별 영상특징으로 설정하는 단계; 상기 수치화된 결함별 영상특징을 이용하여 N개의 분류기로 구성된 케스케이드 분류기(cascade classifier)를 통해 상기 결함을 분류하는 단계; 및 상기 분류된 결함 및 상기 결함의 영상특징을 상기 결함분류모델에 저장하는 단계를 포함한다.
본 발명에서, 상기 결함을 분류하는 단계는, 제1분류기부터 제N분류기까지 순차적으로 각각 기설정된 결함분류기준에 따라 결함을 분류하되, 상기 제1분류기는 상대적으로 결함에서의 픽셀밝기값의 차이가 상대적으로 가장 큰 수치를 갖는 결함을 분류하고 상기 제N분류기로 갈수록 상대적으로 결함에서의 픽셀밝기값의 차이가 상대적으로 가장 작은 수치를 갖는 결함을 분류한다.
본 발명에서, 상기 결함 및 영상특징을 상기 결함분류모델에 저장하는 단계 이후에, 상기 영상을 중심을 기준으로 4분할하는 단계; 상기 4분할된 영상에서 2개씩 분할영역을 결합하여 2개의 결함분류모델로 구현하는 단계; 를 더 포함한다.
본 발명에서, 상기 2개의 결함분류모델에 저장되는 결함은 형태와 종류 및 영상특징이 서로 다르다.
본 발명에서, 상기 관심영역을 설정하는 단계는, 상기 홀 내부의 영상에서 상기 홀의 길이방향의 주축을 검출하는 단계; 상기 검출된 홀의 주축을 중심으로 다른 지름의 두 원을 설정하는 단계; 및 상기 두 원의 사이를 관심영역으로 설정하는 단계; 를 포함한다.
본 발명에서, 상기 홀의 길이방향의 주축을 검출하는 단계는, 상기 영상에서 다수의 원 간의 각 중심좌표를 서로 비교하는 단계; 상기 다수의 원의 중심좌표와의 거리가 기설정된 기준치를 초과하는 원을 제거하는 단계; 및 남은 원의 중심좌표를 평균하여 상기 홀의 주축을 예측하는 단계; 를 포함한다.
본 발명에서, 상기 결함을 검출하는 단계 이후에, 상기 영상에서 결함으로 검출된 영역에 제1필터를 설치하고 상기 제1필터로부터 좌측 및 우측에 기설정된 픽셀만큼 이격되도록 각각 제2필터 및 제3필터를 설정하는 단계; 상기 제1필터와 제2필터 간의 픽셀값의 차이와, 상기 제1필터와 제3필터 간의 픽셀값의 차이를 구하는 단계; 및 상기 차이가 발생하는 경우 제1값을 설정하고 차이가 발생하지 않으면 제2값을 설정하는 단계; 를 더 포함한다.
본 발명에서, 상기 제1,2,3 필터의 설치단계, 상기 필터 간의 픽셀값의 차이 계산단계 및 제1,2값의 설정단계는 상기 촬영된 홀 내부의 영상에서 수평방향 또는 수직방향으로 이동하면서 반복하여 수행된다.
본 발명에 의하면 고가의 검출장치가 없어도 기계 부품의 홀 내부에 형성된 결함을 용이하게 검출할 수 있어 기계 부품을 완제품으로 조립하기 전에 해당 부품을 교체할 수 있어 안전사고를 미연에 방지할 수 있다.
또한, 본 발명에 의하면 홀의 내부면에 발생한 미세한 결함도 정확하게 검출할 수 있으며, 이로써 균일한 품질 관리가 가능하다.
또한, 본 발명에 의하면 홀 내부면의 미세결함을 자동으로 검사할 수 있으므로 검사로 인한 시간 및 비용을 절감할 수 있고, 전 부품에 대한 전수검사가 가능하다는 효과가 있다.
도 1은 본 발명에 따른 홀 내부의 결함 검출장치의 구성도,
도 2는 본 발명에 따른 결함 검출장치가 홀 내부에 삽입된 예시도,
도 3은 본 발명에 따른 홀 내부의 결함 검출방법을 보이는 흐름도,
도 4는 본 발명에 따른 결함분류모델을 구축하는 과정을 보이는 흐름도,
도 5는 본 발명에 따른 결함분류모델의 케스케이드 분류기의 구성도,
도 6은 본 발명에 따른 4분면 분할에 의한 분류모델을 사용한 예시도,
도 7은 본 발명에 따른 관심영역에 대한 영상의 예시도이다.
도 8은 본 발명에 따른 결함영역에 대한 반전효과를 나타낸 도면,
도 9는 본 발명에 따른 결함의 폭을 이용한 결함영역을 스캔한 예시도.
이하, 본 발명의 일부 실시 예들을 예시적인 도면을 통해 상세히 설명한다. 각 도면의 구성요소들에 참조부호를 부가함에 있어서, 동일한 구성요소들에 대해서는 비록 다른 도면상에 표시되더라도 가능한 한 동일한 부호를 가지도록 하고 있음에 유의해야 한다. 또한, 본 발명의 실시 예를 설명함에 있어, 관련된 공지 구성 또는 기능에 대한 구체적인 설명이 본 발명의 실시 예에 대한 이해를 방해한다고 판단되는 경우에는 그 상세한 설명은 생략한다.
또한, 본 발명의 실시 예의 구성요소를 설명하는 데 있어서, 제 1, 제 2, A, B, (a), (b) 등의 용어를 사용할 수 있다. 이러한 용어는 그 구성요소를 다른 구성 요소와 구별하기 위한 것일 뿐, 그 용어에 의해 해당 구성요소의 본질이나 차례 또는 순서 등이 한정되지 않는다. 어떤 구성요소가 다른 구성요소에 "연결", "결합" 또는 "접속"된다고 기재된 경우, 그 구성요소는 그 다른 구성요소에 직접적으로 연결되거나 접속될 수 있지만, 각 구성요소 사이에 또 다른 구성요소가 "연결", "결합" 또는 "접속"될 수도 있다고 이해되어야 할 것이다.
도 1은 본 발명에 따른 홀 내부의 결함 검출장치의 구성도이고, 도 2는 본 발명의 결함 검출장치가 홀 내부에 삽입된 예시도이다.
도 1 및 도 2를 참조하면, 본 발명에 따른 홀 내부의 결함 검출장치(100)는 촬영부(101), 이동부(102), 영상처리부(103), 저장부(104) 및 제어부(105)를 포함하여 구성된다.
촬영부(101)는 기계 부품(10)의 홀(11)의 내부에 삽입되어 해당 홀(11)의 내부면(12)을 촬영한다. 이러한 촬영부(101)는 예컨대 내시경 카메라를 포함할 수 있다. 또한, 촬영부(101)는 넓은 범위의 영역을 촬영할 수 있도록 구현된 렌즈와 촬영시 홀(11)의 내부를 조명할 수 있도록 구현된 조명을 포함할 수 있다. 특히, 본 발명에 따른 촬영부(101)는 콘미러(cone mirror)(13)가 부착되어 홀(11)의 내부에 삽입된 후 360도 방향의 내면을 동시에 촬영할 수 있도록 구성된다.
이동부(102)는 홀(11)의 내부에 촬영부(101)를 삽입시킬 뿐만 아니라 홀(11)의 내부 전 범위를 촬영할 수 있도록 촬영부(101)를 홀(11)의 내부에서 이동가능하도록 한다. 예컨대, 이러한 이동부(102)는 실린더로 구현될 수도 있다.
영상처리부(103)는 촬영부(101)에서 촬영된 홀(11) 내부의 영상을 소정의 이미지 처리(image processing)을 이용하여 결함을 추출한다. 특히, 본 발명의 영상처리부(103)는 다양한 결함이 발생된 홀에 대한 다수의 영상으로부터 결함의 영상특징을 추출하여 결함분류의 기준이 되는 결함분류모델을 구축할 수 있다. 따라서, 이러한 결함분류모델에 저장된 결함의 분류기준은 피측정체의 결함 판정에 있어 기준이 된다.
저장부(104)는 촬영부(101)에서 촬영된 홀(11) 내부의 영상을 저장한다. 특히, 본 발명에서 저장부(104)는 다양한 종류의 결함과 그 특징이 저장된 적어도 하나의 분류모델을 저장한다. 이러한 분류모델은 다양한 결함을 갖는 홀(11) 내부에 대한 다수의 영상의 각 결함별로 종류, 방향, 크기, 굵기 등에 대한 영상특징을 저장하고 있다. 이는 향후에 촬영되는 홀(11)의 영상으로부터 영상처리부(1030)가 결함을 추출한 경우 이러한 분류모델에 저장된 결함과 비교하여 결함여부를 정확하게 판단하기 위한 것이다. 본 발명에 따른 분류모델에는 미세한 결함까지 그 영상특징이 저장되어 있다.
제어부(105)는 영상처리부(103)에서 추출된 결함과 적어도 하나의 분류모델에 저장된 결함의 동일성을 비교함으로써 결함여부를 판단하도록 한다.
도 3은 본 발명에 따른 홀 내부의 결함 검출방법을 보이는 흐름도이다.
도 3을 참조하면, 본 발명의 실시 예에 따른 홀 내부의 결함 검출방법에서는 먼저 다양한 종류의 결함 및 이들 각 결함별로 영상특징이 저장된 적어도 하나의 결함분류모델을 구축한다(S101). 이러한 결함분류모델의 구축은 도 4 내지 도 6을 참조하여 설명하기로 한다. 도 4는 본 발명에 따른 결함분류모델의 구축과정을 보이는 흐름도이고, 도 5는 본 발명에 따른 결함분류모델의 케스케이드 분류기의 구성도이며, 도 6은 본 발명에 따른 4분면 분할에 의한 분류모델을 사용한 예시도이다.
먼저, 도 4를 참조하면, 본 발명에 따른 결함분류모델을 구축하기 위해서는 다양한 종류의 결함이 포함된 다수의 영상을 준비한다. 각 영상으로부터 결함에 조명이 가해질 때 빛의 산란에 의해 영상의 픽셀의 밝기값이 결함이 존재하는 영역에서는 결함이 없는 영역보다 상대적으로 높은 값을 유지한다. 즉, 다시 말하면 결함에서 빛이 산란되므로 결함이 존재하는 부분의 영상은 그 픽셀의 밝기값이 상대적으로 크고, 반대로 결함이 존재하지 않은 부분의 영상은 그 픽셀의 밝기값이 상대적으로 작다. 이러한 픽셀의 밝기값의 정도를 이용하여 결함을 분류할 수 있다. 본 발명에서는 각 영상의 전 영역을 슬라이딩 방식으로 스캔하면서 스캔된 영상에서 흰 영역의 픽셀들의 밝기값 합과 검은 영역의 픽셀들의 밝기값 합의 차이를 수치화한다(S201). 즉, 결함이 존재하는 영역에 대해서는 밝기값의 차이가 명확하게 발생하는 반면에, 결함이 존재하지 않은 영역에 대해서는 밝기값의 차이가 0에 가깝게 산출되므로 이러한 밝기값의 차이를 수치화하여 결함에 대한 영상특징으로 추출하는 것이다.
이어, 다수의 영상에 대해 수치화된 영상특징을 추출한다(S203). 즉, 상기와 같기 검은 영역의 픽셀밝기값의 합과 흰 영역의 픽셀밝기값 합 간의 차이를 수치화하여 그 수치를 다양한 결함별 영상특징으로 설정하는 것이다. 이러한 영상특징을 이용하여 도 5에서와 같이 교사학습(Supervised learning)의 종류인 케스케이드 분류기(Cascade classifier)(41~43)를 이용하여 분류모델을 생성한다(S205). 도 5에서는 N개의 분류기가 사용된 예를 도시한다. 이들 N개의 분류기는 영상에서 수치화된 영상특징을 이용하여 학습되는데, 각 분류기(41,42,43)마다 결함분류 기준이 다르게 설정된다. 예컨대, 제1 분류기(41)는 결함영역에서의 밝기값의 차이가 상대적으로 가장 큰 수치로 추출되는 경우에만 결함으로 분류되도록 학습한다. 이는 상대적으로 선명한 결함을 분류모델에 분류하기 위한 것이다. 제2 분류기(42)는 결함영역에서의 밝기값의 차이가 두 번째로 큰 수치로 추출되는 경우에만 결함으로 분류되도록 한다. 이와 같은 원리로 제3,4,...N 분류기로 갈수록 결함영역에서의 밝기값의 차이가 상대적으로 작은 수치로 추출되는 결함을 분류하도록 한다. 이는 제N 분류기(43)로 갈수록 상대적으로 더 미세한 결함을 분류할 수 있도록 하기 위한 것이다. 따라서, 제N 분류기(43)로 갈수록 결함영역에서의 밝기값의 차이는 0에 가까운 수치로 나타난다. 이를 통해 최종적으로 완성된 하나의 분류기가 형성된다. 본 발명의 실시 예에서는 N개의 약한 분류기를 케스케이드 형태로 결합하여 최종적으로 하나의 강한 분류기를 형성하도록 한다.
이와 같이 제1 분류기(41)부터 가장 선명한 결함을 분류하는 모델로 생성되고, 이후 제N 분류기(43)로 갈수록 더 미세한 결함을 분류하는 모델로 생성되도록 한다. 이는 우선 제1 분류기(41)에서 자신의 결함분류 기준에 맞게 선명한 결함을 추출하고 추출되지 않은 경우에는 제2 분류기(42)에서 역시 자신의 결함분류 기준에 맞게 결함을 추출한다. 제2 분류기(42)에서도 추출되지 않으면 제3,4,...,N 분류기까지 결함이 추출될 때까지 차례로 추출하도록 한다. 이와 같이 N개의 약한 분류모델이 합쳐져 하나의 강한 분류모델을 구축하도록 하는 것이다. 여기서, 약한 분류기는 상대적으로 선명한 결함을 분류하는 분류기이고, 강한 분류기는 상대적으로 미세한 결함을 분류하는 분류기를 말한다.
나아가, 상기와 같이 분류모델은 적어도 하나 이상 구축될 수 있다. 상기와 같이 준비된 다수의 영상별로 4분면(51,52,53,54)으로 분할한 후, 예컨대 도 6과 같이 1,3분면(51,53)에 대한 분류모델과 2,4분면(52,54)에 대한 분류모델로 구축할 수 있다. 물론, 1,2분면(51,52)과 3,4분면(53,54)의 분류모델로도 구축이 가능하다. 이러한 사분면의 분할은 1,2,3,4분면(51~54)마다 나타나는 결함의 특징이 다르기 때문이다. 예컨대, 1,4분면(51,54)은 세로모양의 결함이 많이 나타나고 2,3분면(52,53)은 대각선 모양의 결함이 많이 나타나는 경우 1,4분면과 2,3분면 각각에 대한 분류모델을 별개로 구축함으로써 검사하고자 하는 영상의 결함과 분류모델에 저장된 결함을 서로 비교할 때 결함의 형태와 종류가 유사한 것끼리 비교함으로써 검사결과의 신뢰성을 높일 수 있는 것이다. 또한, 이러한 사분면의 분할 분류모델은 영상 전체 영역에서 발생하는 모든 결함을 하나의 분류모델에 저장하면 해당 영상마다 다양한 종류의 결함을 일일이 비교함에 따른 시간낭비와 검사의 부정확성을 줄이기 위한 것으로서 분류모델을 두 영역의 쌍으로 구분함으로써 각 분할영역마다 나타나는 결함의 특징에 따라 분류모델의 결함과 비교하도록 하기 위한 것이다.
다시, 도 3을 참조하면 상기 S101 단계에서 결함분류모델이 구축된 상태에서 촬영부(101)를 통해 홀(11)의 내부에 대한 영상을 촬영한다(S103). 이와 같이 촬영된 홀 내부의 영상으로부터 결함을 검출하고자 하는 관심영역을 설정한다(S105). 본 발명에서는 결함분류모델을 이용하여 보다 효율적인 결함을 검출하기 위해서는 결함을 검출하고자 하는 관심영역의 설정이 선행되어야 한다. 이를 구체적으로 설명하면, 관심영역의 설정은 전체 영상에서 실질적으로 검출에 필요한 부분만을 지정함으로써 검사실행 시간을 단축하고 검출의 정확도를 높이는데 효율적이다. 본 발명에서는 일례로 원통 형상의 홀 내부의 벽면을 관심영역으로 설정하여 결함을 검출하는 예에 대하여 설명하기로 한다. 도 7은 본 발명에 따른 관심영역에 대한 영상의 예시도이다. 도 7의 예시에서 서로 지름이 다른 바깥쪽의 큰 원(61)과 안쪽의 작은 원(62) 사이의 영역이 관심영역으로 지정된 영역이다. 만약, 검출하고자 하는 원통 형상의 홀과 촬영부(101)의 축이 동심이 동일하다고 보장할 수 있다면 관심영역은 단순히 고정된 두 개의 원 내부 영역으로 설정할 수 있다. 그러나, 홀의 내부를 측정하기 위해 사용하고 있는 내시경 카메라 등의 촬영부(101)는 예컨대 긴 렌즈의 특성상 약간의 유격만으로도 영상에서의 왜곡이 심해지므로 기구학적인 정밀도를 가정하기에는 무리가 있다. 따라서, 본 발명에서는 영상으로부터 능동적으로 관심영역을 설정하게 된다.
이러한 왜곡의 주된 원인은 원통 홀의 중심과 촬영부(101), 즉 카메라의 편심에 의해 발생한다. 편심을 고려한 관심영역을 설정하기 위해 영상에서 원통의 길이방향의 주축을 찾아야 한다. 먼저, 원통 내부 영상에는 원형으로 가공된 영역이 있으므로 본 발명에서는 예컨대, Hough Circle Transform을 이용하여 원통의 길이방향의 주축을 검출한다. 이 원들의 중점은 대부분 원통의 주축과 일치하나 측면의 구멍 가공과 같이 그렇지 않은 원들은 중점의 좌표에 제한 조건을 주어 제거한다. 즉, 원통의 주축과 일치하지 않은 원들을 제거하기 위하여 다수의 원들 간에 각각의 중심좌표를 서로 비교하여 다수의 원들의 중심좌표와의 거리가 기설정된 기준치를 초과하는 원들은 제거하도록 한다. 이는 대부분의 원들은 원통 홀의 주축과 일치하거나 약간 어긋나지만 측면에 가공된 원은 그 중심축이 홀의 주축과 거의 수직으로 형성되므로 중심좌표는 큰 차이를 보인다. 이러한 원들은 제거하는 것이다. 이후에 남은 원들은 거의 원통 홀의 주축과 거의 일치하므로 이들 원들의 중심좌표에 대한 평균값을 구함으로써 원통의 주축을 예측할 수 있다. 관심영역은 이렇게 구한 주축을 중점으로 하는 두 개의 원 내부의 영역이 되는 것이다.
다시 도 3을 참조하면, 상기와 같이 관심영역이 설정되면 상기에서 구축된 결함분류모델을 이용하여 관심영역의 영상으로부터 1차 결함을 검출한다(S107). 이러한 1차 결함 검출은 관심영역의 영상으로부터 결함의 영상특징을 추출한 후 결함분류모델에 상기 추출된 영상특징과 동일한 영상특징이 저장되어 있는지 확인하여 저장되어 있으면 그 결함을 1차 결함으로 검출하는 것이다.
계속해서, 결함의 오검출 확률을 줄이기 위해 영상처리부(103)에서 관심영역의 영상의 음영을 반전시킨다(S109). 구체적으로는, 관심영역을 검사하여 결함이 검출된 영역에 대하여 음영을 반전시키는 것이 바람직하다. 이는 관심영역의 결함부와 주변의 배경부는 픽셀의 밝기값이 다르므로 이를 이용하기 위한 것으로서, 결함분류모델을 이용한 1차 결함 검출방법으로 검출된 결함을 재차 검증하여 오검출을 줄이고 검사의 신뢰성을 높이기 위한 것이다. 예컨대, 도 8에 도시된 결함영역에 대한 반전효과를 나타낸 예시도에서 알 수 있듯이, (a)의 약한 결함의 경우 결함(71)와 배경(72)의 픽셀의 밝기값의 차이가 6~10 정도가 되고 강한 결함의 경우 결함(73)와 배경(74)의 픽셀의 밝기값의 차이가 20~30 정도가 됨을 실험을 통해 파악되었다.
이와 같이 음영이 반전된 영상으로부터 결함(71,73)과 배경(72,74) 간 픽셀의 밝기값 차이를 추출하고(S111), 그 추출된 밝기값의 차이를 이용하여 관심영역의 결함을 검출한다(S113). 이는 예컨대 밝기값의 차이가 기설정된 임계치보다 큰 경우에는 결함으로 검출하도록 설정할 수 있다. 왜냐하면 밝기차가 적다는 것은 결함와 배경의 밝기가 비슷하다는 것이므로 결함이 아닐 가능성이 높기 때문이다.
이와 같이, 본 발명에서는 결함분류모델을 구축하고 그 결함분류모델을 이용하여 영상으로부터 1차 결함을 검출하고, 오검출을 줄이고 검사의 신뢰성을 높이기 위해 관심영역 영상의 음영을 반전시켜 결함과 배경 간의 픽셀밝기값의 차이를 이용하여 2차 결함을 검출하도록 한다.
도 9는 본 발명에 따른 결함의 폭을 이용한 결함영역을 스캔한 예시도이다.
도 9를 참조하면, 본 발명에 따른 결함 검출방법에서는 검출한 결함을 재차 검증하도록 할 수 있다. 도 8에서 결함(81)에 설정된 제1필터(801)와 상기 제1필터(801)로부터 좌측 및 우측의 배경(82)에 기설정된 픽셀만큼 이격되도록 각각 제2필터(802) 및 제3필터(803)를 설정한다. 공지의 제1-3필터(801,802,803)은 픽셀값을 검출하는데 사용된다. 이에 제1필터(801)와 제2필터(802) 간의 픽셀값의 차이와, 제1필터(801)와 제3필터(803) 간의 픽셀값의 차이를 구해서 차이가 발생한다면 1로 설정하고 차이가 발생하지 않으면 0으로 설정한다. 이러한 방식으로 결함이 발생한 영역을 지역적으로 필터를 설정하여 수평 또는 수직 방향으로 스캔함으로써 검출된 결함을 검증할 수 있게 된다. 도 9에는 수직방향으로 스캔한 예를 도시하고 있지만, 수평방향 또는 사선방향으로도 동일하게 스캔할 수 있음은 당연할 것이다. 이로써 결함이 검출된 전 영역에 대하여 결함을 검증할 수 있다.
이상에서 설명한 바와 같이, 본 발명에서는 바람직하게는 원통 형상의 홀의 내면을 촬영부로 촬영하고 그 촬영된 영상으로부터 소정의 이미지 처리를 통해 결함을 검출한다. 이를 위하여 다수의 영상 샘플로부터 결함과 그의 영상특징을 저장한 결함분류모델을 구축한 후에, 검출된 결함과 결함분류모델의 결함을 비교하여 홀 내면의 결함으로 결정하도록 한다. 이때, 본 발명에서는 결함분류모델의 구축과정과 신뢰성이 높은 결함검출 프로세스를 제공함으로써 가공된 기계부품의 내면에 발생한 결함을 효율적으로 검출하여 조립전에 이를 교체할 수 있도록 하여 안전사고를 미연에 방지할 수 있고, 결함검출 시간을 단축하며 비용측면에서도 양호하다는 장점이 있다.
이상에서, 본 발명의 실시 예를 구성하는 모든 구성 요소들이 하나로 결합하거나 결합하여 동작하는 것으로 설명되었다고 해서, 본 발명이 반드시 이러한 실시 예에 한정되는 것은 아니다. 즉, 본 발명의 목적 범위 안에서라면, 그 모든 구성 요소들이 하나 이상으로 선택적으로 결합하여 동작할 수도 있다. 또한, 이상에서 기재된 "포함하다", "구성하다" 또는 "가지다" 등의 용어는, 특별히 반대되는 기재가 없는 한, 해당 구성 요소가 내재할 수 있음을 의미하는 것이므로, 다른 구성 요소를 제외하는 것이 아니라 다른 구성 요소를 더 포함할 수 있는 것으로 해석되어야 한다. 기술적이거나 과학적인 용어를 포함한 모든 용어들은, 다르게 정의되지 않는 한, 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미가 있다. 사전에 정의된 용어와 같이 일반적으로 사용되는 용어들은 관련 기술의 문맥상의 의미와 일치하는 것으로 해석되어야 하며, 본 발명에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.
이상의 설명은 본 발명의 기술 사상을 예시적으로 설명한 것에 불과한 것으로서, 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자라면 본 발명의 본질적인 특성에서 벗어나지 않는 범위에서 다양한 수정 및 변형이 가능할 것이다. 따라서, 본 발명에 개시된 실시 예들은 본 발명의 기술 사상을 한정하기 위한 것이 아니라 설명하기 위한 것이고, 이러한 실시 예에 의하여 본 발명의 기술 사상의 범위가 한정되는 것은 아니다. 본 발명의 보호 범위는 아래의 청구범위에 의하여 해석되어야 하며, 그와 동등한 범위 내에 있는 모든 기술 사상은 본 발명의 권리범위에 포함되는 것으로 해석되어야 할 것이다.
10 : 기계 부품 11 : 홀
12 : 홀 내부면 13 : 콘미러(cone mirror)
41,42,43 : 분류기(classifier)
101 : 촬영부 102 : 이동부
103 : 영상처리부 104 : 저장부
105 : 제어부

Claims (10)

  1. 홀 내부에 대한 다수의 영상으로부터 다수의 결함별로 픽셀의 밝기값의 차이를 수치화하여 결함에 대한 영상특징으로 추출하고 상기 추출된 결함별 영상특징에 따라 각각의 결함을 분류하여 적어도 하나의 결함분류모델을 구축하는 단계;
    촬영부를 통해 측정하고자 하는 홀 내부에 대한 영상을 촬영하는 단계;
    상기 촬영된 영상에서 결함검출을 위한 관심영역을 설정하는 단계;
    상기 구축된 결함분류모델을 이용하여 상기 설정된 관심영역의 영상으로부터 상기 홀 내부의 결함을 1차 검출하는 단계;
    상기 1차 검출된 결함의 영역에 대한 영상의 음영을 반전시키는 단계;
    상기 음영이 반전된 영상으로부터 결함과 배경 간 픽셀의 밝기값 차이를 추출하는 단계; 및
    상기 밝기값 차이를 이용하여 결함을 2차 검출하는 단계; 를 포함하는 홀 내부의 결함 검출방법.
  2. 제1항에 있어서, 상기 결함분류모델을 구축하는 단계는,
    상기 다수의 영상을 스캔하여 상기 스캔된 영상에서 검은 영역의 픽셀밝기값의 합과 흰 영역의 픽셀밝기값 합의 차이를 수치화하는 단계;
    상기 수치를 이용하여 결함별 영상특징을 추출하는 단계; 및
    상기 수치화된 결함별 영상특징을 이용하여 N개의 분류기로 구성된 케스케이드 분류기(cascade classifier)를 생성하는 단계; 를 포함하는 홀 내부의 결함 검출방법.
  3. 제2항에 있어서, 상기 케스케이드 분류기를 생성하는 단계는,
    제1분류기부터 제N분류기까지 순차적으로 각각 기설정된 결함분류기준에 따라 결함을 학습하되, 상기 제1분류기는 상대적으로 결함에서의 픽셀밝기값의 차이가 상대적으로 가장 큰 수치를 갖는 결함을 학습하고 상기 제N분류기로 갈수록 상대적으로 결함에서의 픽셀밝기값의 차이가 상대적으로 가장 작은 수치를 갖는 결함을 학습하는 홀 내부의 결함 검출방법.
  4. 제2항에 있어서, 상기 결함분류모델을 생성하는 단계 이후에,
    상기 영상을 중심을 기준으로 4분할하는 단계; 및
    상기 4분할된 영상에서 2개씩 분할영역을 결합하여 2개의 결함분류모델로 구현하는 단계; 를 더 포함하는 홀 내부의 결함 검출방법.
  5. 제4항에 있어서, 상기 2개의 결함분류모델을 생성하는데 사용되는 결함은 형태와 종류 및 영상특징이 서로 다른 것을 특징으로 하는 홀 내부의 결함 검출방법.
  6. 제1항에 있어서, 상기 관심영역을 설정하는 단계는,
    상기 홀 내부의 영상에서 상기 홀의 길이방향의 주축을 검출하는 단계;
    상기 검출된 홀의 주축을 중심으로 다른 지름의 두 원을 설정하는 단계; 및
    상기 두 원의 사이를 관심영역으로 설정하는 단계; 를 포함하는 홀 내부의 결함 검출방법.
  7. 제6항에 있어서, 상기 홀의 길이방향의 주축을 검출하는 단계는,
    상기 영상에서 다수의 원 간의 각 중심좌표를 서로 비교하는 단계;
    상기 다수의 원의 중심좌표와의 거리가 기설정된 기준치를 초과하는 원을 제거하는 단계; 및
    남은 원의 중심좌표를 평균하여 상기 홀의 주축을 예측하는 단계; 를 포함하는 홀 내부의 결함 검출방법.
  8. 제1항에 있어서, 상기 1차 결함 검출단계는,
    상기 관심영역의 영상으로부터 결함의 영상특징을 추출하고 상기 결함분류모델에 상기 추출된 영상특징과 동일한 영상특징이 저장되어 있는지 확인하여 저장되어 있으면 상기 추출된 영상특징의 결함을 상기 홀 내부의 결함으로 1차 검출하는 홀 내부의 결함 검출방법.
  9. 제1항에 있어서, 상기 상기 1차 결함 검출단계 이후에,
    상기 영상에서 결함으로 검출된 영역에 제1필터를 설치하고 상기 제1필터로부터 좌측 및 우측에 기설정된 픽셀만큼 이격되도록 각각 제2필터 및 제3필터를 설정하는 단계;
    상기 제1필터와 제2필터 간의 픽셀값의 차이와, 상기 제1필터와 제3필터 간의 픽셀값의 차이를 구하는 단계; 및
    상기 차이가 발생하는 경우 제1값을 설정하고 차이가 발생하지 않으면 제2값을 설정하는 단계; 를 더 포함하는 홀 내부의 결함 검출방법.
  10. 제9항에 있어서,
    상기 제1,2,3 필터의 설치단계, 상기 필터 간의 픽셀값의 차이 계산단계 및 제1,2값의 설정단계는 상기 촬영된 홀 내부의 영상에서 수평방향 또는 수직방향으로 이동하면서 반복하여 수행되는 홀 내부의 결함 검출방법.
KR1020140154381A 2014-11-07 2014-11-07 홀 내부의 결함 검출방법 KR101679650B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020140154381A KR101679650B1 (ko) 2014-11-07 2014-11-07 홀 내부의 결함 검출방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020140154381A KR101679650B1 (ko) 2014-11-07 2014-11-07 홀 내부의 결함 검출방법

Publications (2)

Publication Number Publication Date
KR20160054846A KR20160054846A (ko) 2016-05-17
KR101679650B1 true KR101679650B1 (ko) 2016-11-25

Family

ID=56109461

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020140154381A KR101679650B1 (ko) 2014-11-07 2014-11-07 홀 내부의 결함 검출방법

Country Status (1)

Country Link
KR (1) KR101679650B1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108320278A (zh) * 2018-01-09 2018-07-24 北京百度网讯科技有限公司 产品缺陷检测定位方法、装置、设备及计算机可读介质

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108242054A (zh) 2018-01-09 2018-07-03 北京百度网讯科技有限公司 一种钢板缺陷检测方法、装置、设备和服务器
CN108389179B (zh) * 2018-01-15 2020-10-13 湖南大学 一种基于机器视觉的罐盖表面缺陷检测方法
KR102152405B1 (ko) * 2018-04-10 2020-09-04 주식회사 다원시스 플라즈마 모니터링 장치 및 방법
WO2019219956A1 (en) * 2018-05-18 2019-11-21 Ab Sandvik Materials Technology Tube inspection system
KR102342337B1 (ko) * 2019-01-24 2021-12-23 가천대학교 산학협력단 딥러닝 신경망을 이용한 디스플레이 패널 불량 진단 시스템 및 방법
TWI791910B (zh) * 2019-10-16 2023-02-11 由田新技股份有限公司 用於孔狀結構之檢測資訊呈現方法、檢測方法、及檢測設備
CN113066079A (zh) * 2021-04-19 2021-07-02 北京滴普科技有限公司 木材缺陷自动检测方法、系统及其存储介质
CN115585736B (zh) * 2021-06-22 2023-11-28 清华大学 基于双目视觉的内螺纹牙型几何参数测量方法及装置
CN114078127B (zh) * 2022-01-20 2022-05-17 广州里工实业有限公司 物件的缺陷检测及计数方法、装置、设备和存储介质

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108320278A (zh) * 2018-01-09 2018-07-24 北京百度网讯科技有限公司 产品缺陷检测定位方法、装置、设备及计算机可读介质

Also Published As

Publication number Publication date
KR20160054846A (ko) 2016-05-17

Similar Documents

Publication Publication Date Title
KR101679650B1 (ko) 홀 내부의 결함 검출방법
KR101832081B1 (ko) 표면 결함 검출 방법 및 표면 결함 검출 장치
WO2017141611A1 (ja) 欠陥検出装置、欠陥検出方法およびプログラム
JP6922539B2 (ja) 表面欠陥判定方法および表面欠陥検査装置
US10043257B2 (en) Method and device for the quality evaluation of a component produced by means of an additive manufacturing method
KR20170024024A (ko) 결함 정량화 방법, 결함 정량화 장치 및 결함 평가값 표시 장치
KR102027986B1 (ko) 비전 카메라를 이용한 비드 인식 장치 및 그 방법
CN112334761B (zh) 缺陷判别方法、缺陷判别装置及记录介质
JP2019027826A (ja) 欠陥検査方法及び欠陥検査装置
KR20210064365A (ko) 결함 검사 장치, 결함 검사 방법
JP2010112802A (ja) 木材の外観検査装置、木材の外観検査方法
JP2007212283A (ja) 外観検査装置及び外観検査方法
JP6812118B2 (ja) 欠陥検出装置、欠陥検出方法およびプログラム
KR101889833B1 (ko) 패턴 측정 장치 및 컴퓨터 프로그램
Chiou et al. Flaw detection of cylindrical surfaces in PU-packing by using machine vision technique
JP2007248051A (ja) 対象物表面の欠陥検査方法
JP2002257736A (ja) ハニカム構造体の端面検査方法及び装置
CN117198909A (zh) 一种晶圆的缺陷检测装置以及方法、可读存储介质
JP5257063B2 (ja) 欠陥検出方法および欠陥検出装置
WO2019138930A1 (ja) 錠剤検査方法および錠剤検査装置
JP2005283267A (ja) 貫通穴計測装置及び方法並びに貫通穴計測用プログラム
JP2017142219A (ja) 画像検査装置、画像検査プログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器
JP6670428B2 (ja) プリフォームの検査方法及び検査装置
JP2004132773A (ja) 青果物の光沢検査装置
JP6811540B2 (ja) 欠陥検出装置、欠陥検出方法およびプログラム

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20191030

Year of fee payment: 4