KR20210109766A - Artificial tooth color reproduction device using Deep Learning - Google Patents

Artificial tooth color reproduction device using Deep Learning Download PDF

Info

Publication number
KR20210109766A
KR20210109766A KR1020200024774A KR20200024774A KR20210109766A KR 20210109766 A KR20210109766 A KR 20210109766A KR 1020200024774 A KR1020200024774 A KR 1020200024774A KR 20200024774 A KR20200024774 A KR 20200024774A KR 20210109766 A KR20210109766 A KR 20210109766A
Authority
KR
South Korea
Prior art keywords
artificial tooth
color
distribution information
pigment
color distribution
Prior art date
Application number
KR1020200024774A
Other languages
Korean (ko)
Other versions
KR102318713B1 (en
Inventor
김현삼
Original Assignee
김현삼
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 김현삼 filed Critical 김현삼
Priority to KR1020200024774A priority Critical patent/KR102318713B1/en
Publication of KR20210109766A publication Critical patent/KR20210109766A/en
Application granted granted Critical
Publication of KR102318713B1 publication Critical patent/KR102318713B1/en

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61CDENTISTRY; APPARATUS OR METHODS FOR ORAL OR DENTAL HYGIENE
    • A61C13/00Dental prostheses; Making same
    • A61C13/08Artificial teeth; Making same
    • A61C13/082Cosmetic aspects, e.g. inlays; Determination of the colour
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/103Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
    • A61B5/1032Determining colour for diagnostic purposes
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/45For evaluating or diagnosing the musculoskeletal system or teeth
    • A61B5/4538Evaluating a particular part of the muscoloskeletal system or a particular medical condition
    • A61B5/4542Evaluating the mouth, e.g. the jaw
    • A61B5/4547Evaluating teeth
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61CDENTISTRY; APPARATUS OR METHODS FOR ORAL OR DENTAL HYGIENE
    • A61C13/00Dental prostheses; Making same
    • A61C13/08Artificial teeth; Making same
    • A61C13/083Porcelain or ceramic teeth
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/20ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Public Health (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Biomedical Technology (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Dentistry (AREA)
  • Epidemiology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Veterinary Medicine (AREA)
  • Pathology (AREA)
  • Surgery (AREA)
  • Primary Health Care (AREA)
  • Physics & Mathematics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Ceramic Engineering (AREA)
  • Chemical & Material Sciences (AREA)
  • Physical Education & Sports Medicine (AREA)
  • Orthopedic Medicine & Surgery (AREA)
  • Rheumatology (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Image Analysis (AREA)

Abstract

Disclosed is a color reproduction device of an artificial tooth using deep learning, which is capable of shortening the time for manufacturing an artificial tooth. The color reproduction device of an artificial tooth using deep learning according to the present invention comprises: an image processing unit which receives an image of a natural tooth for color reproduction of an artificial tooth, and obtains a reference image through pre-processing of the received image; a color distribution information generation unit which extracts a part or the entirety of pixel information with respect to a reference image, generates a pixel information matrix for the pixel information, and classifies pixels of the pixel information matrix according to a similarity algorithm so as to group the reference image into at least two regions and generates color distribution information with respect to the reference image; and a pigment spraying unit which selects a pigment to be applied or penetrating to the artificial tooth according artificial tooth material information and the color distribution information, and sprays the selected pigment on a part or the entirety of a surface of the artificial tooth.

Description

딥러닝을 이용한 인공치아의 색 재현 장치{Artificial tooth color reproduction device using Deep Learning} Artificial tooth color reproduction device using Deep Learning

본 발명은 딥러닝을 이용한 인공치아의 색 재현 장치에 관한 것으로서, 보다 상세하게는 딥러닝 기반의 색 정보 획득 알고리즘에 의해서 자연치아로부터 색 정보를 획득하고, 획득한 색 정보에 기초하여 인공치아에 안료를 도포시켜 색을 재현시키는 딥러닝을 이용한 인공치아의 색 재현 장치에 관한 것이다.The present invention relates to a color reproduction apparatus for artificial teeth using deep learning, and more particularly, color information is obtained from natural teeth by a color information acquisition algorithm based on deep learning, and based on the obtained color information, it is applied to artificial teeth. It relates to a color reproduction device for artificial teeth using deep learning that reproduces colors by applying pigments.

인공치아의 제작하는 과정에서 최근 각광을 받고 있는 재료는 지르코니아(zirconia)이다. 지르코니아는 고온의 열처리에서도 전체 부피가 축소되는 비율이 낮아서 최근 인공치아의 재료로 많이 사용되고 있다.In the process of manufacturing artificial teeth, a material that has recently been in the spotlight is zirconia. Zirconia has been widely used as a material for artificial teeth in recent years because its overall volume shrinkage rate is low even in high-temperature heat treatment.

다만, 지르코니아는 색을 입히는 작업, 이른바 컬러링 과정에서 안료를 흡수하기 때문에 목표 색을 재현하기 위해서는 열 처리를 한 결과물과 기준 사진을 육안으로 대비하여 그 차이를 비교할 수 밖에 없었다.However, since zirconia absorbs pigments in the process of coloring, the so-called coloring process, in order to reproduce the target color, it was necessary to compare the difference between the result of heat treatment and the reference photograph with the naked eye.

이처럼 종래의 방식은 작업자의 숙련도에 따라 인공치아의 제작 결과물에 품질의 차이가 있었고, 또한 반복적인 컬러링 작업 등으로 인하여 많은 작업 시간이 소요되는 등 대량 생산이 사실상 어려운 문제점이 있었다.As such, in the conventional method, there was a difference in quality in the production result of artificial teeth according to the skill of the operator, and there was a problem in that mass production was practically difficult, such as taking a lot of work time due to repetitive coloring work.

특허문헌 1 : 한국등록특허 제10-1767270호(공고일 : 2017년 08월 04일)Patent Document 1: Korean Patent No. 10-1767270 (Announcement Date: August 04, 2017) 특허문헌 2 : 한국공개특허 제10-2008-0070070호(공개일 : 2008년 07월 29일)Patent Document 2: Korea Patent Publication No. 10-2008-0070070 (published on July 29, 2008) 특허문헌 3 : 한국등록특허 제10-1656106호(공고일 : 2016년 09월 08일)Patent Document 3: Korean Patent Registration No. 10-1656106 (Announcement Date: September 08, 2016)

상술한 문제점을 해결 하기 위해서 안출된 본 발명은 자연치아로부터 색 정보를 정확하게 획득하고, 획득된 자연치아의 색 정보를 인공치아의 재료와 안료의 특징을 고려하여 동일하게 재현시킬 수 있도록 딥러닝을 이용한 인공치아의 색 재현 장치를 제공하는 것을 목적으로 한다.The present invention, which was devised to solve the above problems, accurately acquires color information from natural teeth, and uses deep learning to reproduce the obtained color information in the same way in consideration of the characteristics of materials and pigments of artificial teeth. An object of the present invention is to provide an apparatus for color reproduction of artificial teeth used.

본 발명의 일 실시 예에 따른 딥러닝을 이용한 인공치아의 색 재현 장치는인공치아의 색 재현을 위한 자연치아에 대한 이미지를 수신하고, 수신된 이미지에 대한 전처리를 통해서 레퍼런스 이미지를 획득하는 이미지 처리부; 상기 레퍼런스 이미지에 대한 일부 또는 전부의 픽셀 정보를 추출하고, 상기 픽셀 정보에 대한 픽셀 정보 매트릭스를 생성하고, 상기 픽셀 정보 매트릭스의 픽셀에 대해서 유사도 알고리즘에 따라 분류하여 상기 레퍼런스 이미지를 적어도 2개 이상의 영역으로 그룹화하여 상기 레퍼런스 이미지에 대한 색 분포 정보를 생성하는 색 분포 정보 생성부; 및 인공치아 재료 정보와 상기 색 분포 정보에 따라 인공치아에 도포시키거나 침투시키는 안료를 선택하고, 선택된 안료를 인공치아의 표면의 일부 또는 전부에 분사하는 안료 분사부;를 포함한다.An apparatus for color reproduction of artificial teeth using deep learning according to an embodiment of the present invention is an image processing unit that receives an image of a natural tooth for color reproduction of an artificial tooth, and obtains a reference image through pre-processing of the received image ; Extracting some or all of pixel information for the reference image, generating a pixel information matrix for the pixel information, and classifying the pixels of the pixel information matrix according to a similarity algorithm to divide the reference image into at least two regions a color distribution information generation unit generating color distribution information for the reference image by grouping them into ; and a pigment spraying unit that selects a pigment to be applied or permeated to the artificial tooth according to the artificial tooth material information and the color distribution information, and sprays the selected pigment to some or all of the surface of the artificial tooth.

이 경우에, 상기 이미지 처리부는, 상기 수신된 이미지 중 자연치아 부분을 추출하여 상기 레퍼런스 이미지로 변환하는 전처리를 실행한다.In this case, the image processing unit performs pre-processing of extracting a natural tooth part from the received image and converting it into the reference image.

한편, 상기 색 분포 정보 생성부는, 상기 레퍼런스 이미지를 복수 개의 메인 블록으로 나누고, 상기 복수 개의 메인 블록에 포함되는 복수 개의 픽셀에 대한 평균값을 연산하고, 상기 복수 개의 메인 블록에 평균값을 할당하여 상기 픽셀 정보 매트릭스를 생성한다.Meanwhile, the color distribution information generating unit divides the reference image into a plurality of main blocks, calculates an average value for a plurality of pixels included in the plurality of main blocks, and allocates an average value to the plurality of main blocks to obtain the pixel. Create an information matrix.

이 경우에, 상기 색 분포 정보 생성부는, 상기 복수 개의 메인 블록 중 적어도 하나의 메인 블록을 복수 개의 서브 블록으로 나누고, 상기 복수 개의 서브 블록에 포함되는 복수 개의 픽셀에 대한 평균값을 연산하고, 상기 복수 개의 서브 블록에 평균값을 할당하여 상기 픽셀 정보 매트릭스를 생성한다.In this case, the color distribution information generating unit divides at least one main block among the plurality of main blocks into a plurality of sub-blocks, calculates an average value of a plurality of pixels included in the plurality of sub-blocks, and The pixel information matrix is generated by allocating an average value to sub-blocks.

한편, 상기 색 분포 정보 생성부는, 상기 복수 개의 메인 블록에 할당된 상기 평균값을 상호 비교하여 차이값이 기준값보다 낮으면 해당 메인 블록을 통합하는 상기 유사도 알고리즘에 의해서 상기 색 분포 정보를 생성한다.Meanwhile, the color distribution information generating unit compares the average values allocated to the plurality of main blocks and generates the color distribution information by the similarity algorithm that integrates the corresponding main blocks when the difference value is lower than a reference value.

한편, 상기 안료 분사부는, 인공치아를 안착시키는 배드 부재; 상기 배드 부재에 놓인 상기 인공치아의 위치를 감지하는 위치 감지 부재; 상기 인공치아에 안료를 토출시키는 토출 부재; 및 상기 인공치아의 위치 정보와 상기 색 분포 정보를 이용하여 상기 토출 부재를 제어하는 제어 부재;를 포함한다.On the other hand, the pigment spraying unit, a bad member for seating the artificial tooth; a position sensing member for detecting the position of the artificial tooth placed on the bed member; a discharging member discharging the pigment to the artificial tooth; and a control member configured to control the ejection member using the position information of the artificial tooth and the color distribution information.

본 발명의 다양한 실시 예에 따르면, 자연치아로부터 색 정보를 정확하게 획득하고, 획득된 자연치아의 색 정보를 인공치아의 재료와 안료의 특징을 고려하여 동일하게 재현시킬 수 있으므로, 인공치아의 제조 시간을 단축시키고, 제조 단가를 낮출 수 있으며, 고품질의 인공치아를 대량으로 생산할 수 있는 효과를 발휘한다.According to various embodiments of the present invention, since color information can be accurately obtained from natural teeth and the obtained color information can be reproduced in the same way in consideration of the characteristics of materials and pigments of artificial teeth, the manufacturing time of artificial teeth It is possible to shorten the process, lower the manufacturing cost, and exhibit the effect of mass production of high-quality artificial teeth.

도 1은 본 발명의 일 실시 예에 따른 딥러닝을 이용한 인공치아의 색 재현 장치를 예시적으로 설명하는 블럭도,
도 2는 도 1에 도시된 레퍼런스 이미지를 획득하는 이미지 전처리 프로세스를 예시적으로 설명하는 도면,
도 3은 도 1에 도시된 색 분포 정보 생성부에 의해서 색 분포 정보를 획득하는 프로세스를 예시적으로 설명하는 도면,
도 4는 도 3에 도시된 색 분포 정보에 따라 안료를 도포하는 일 예를 예시적으로 설명하는 도면, 그리고,
도 5는 본 발명의 다른 실시 예에 따른 딥러닝을 이용한 인공치아의 색 재현 방법을 예시적으로 설명하는 플로우챠트도.
1 is a block diagram exemplarily illustrating an apparatus for color reproduction of artificial teeth using deep learning according to an embodiment of the present invention;
FIG. 2 is a diagram exemplarily explaining an image pre-processing process for obtaining the reference image shown in FIG. 1;
FIG. 3 is a view exemplarily explaining a process of obtaining color distribution information by the color distribution information generating unit shown in FIG. 1;
4 is a view exemplarily explaining an example of applying a pigment according to the color distribution information shown in FIG. 3;
5 is a flowchart illustrating an example of a color reproduction method of an artificial tooth using deep learning according to another embodiment of the present invention.

이하에서 도면을 참고하여 본 발명의 바람직한 실시예에 대해서 예시적으로 설명한다. 이하의 설명은 본 발명의 기술적 사상을 이해하기 위한 범위에서 바람직한 예를 설명한 것으로, 이러한 예시에 한정되는 것은 아니다. 또한, 본 발명의 기술적 사상의 범위에서 다양하게 설계 변경될 수도 있다.Hereinafter, a preferred embodiment of the present invention will be exemplarily described with reference to the drawings. The following description describes preferred examples within the scope for understanding the technical spirit of the present invention, and is not limited to these examples. In addition, various design changes may be made within the scope of the technical spirit of the present invention.

도 1은 본 발명의 일 실시 예에 따른 딥러닝을 이용한 인공치아의 색 재현 장치를 예시적으로 설명하는 블럭도이다. 도 1을 참고하면, 색 재현 장치(100)는 이미지 처리부(110), 색 분포 정보 생성부(130) 및 안료 분사부(150)를 포함한다. 1 is a block diagram illustrating an apparatus for color reproduction of artificial teeth using deep learning according to an embodiment of the present invention. Referring to FIG. 1 , the color reproduction apparatus 100 includes an image processing unit 110 , a color distribution information generation unit 130 , and a pigment ejection unit 150 .

이미지 처리부(110)는 자연 치아에 대한 이미지 파일을 입력받아서 이에 대한 레퍼런스 이미지 파일을 생성한다. 구체적으로, 이미지 처리부(110)는 그레이카드와 자연 치아를 포함하는 작업 대상 이미지 파일을 수신한다. 이미지 처리부(110)는 수신된 이미지에 대한 전처리(pre-process)를 통해서 레퍼런스 이미지를 획득한다.The image processing unit 110 receives an image file of a natural tooth and generates a reference image file therefor. Specifically, the image processing unit 110 receives a work target image file including a gray card and natural teeth. The image processing unit 110 obtains a reference image through pre-processing on the received image.

색 분포 정보 생성부(130)는 레퍼런스 이미지에 대한 일부 또는 전부의 픽셀 정보를 추출한다. 색 분포 정보 생성부(130)는 추출된 픽셀 정보에 대한 픽셀 정보 매트릭스를 생성한다. 색 분포 정보 생성부(130)는 픽셀 정보 매트릭스의 픽셀에 대해서 유사도 알고리즘에 따라 분류하여 레퍼런스 이미지를 적어도 2개 이상의 영역으로 그룹화하여 레퍼런스 이미지에 대한 색 분포 정보를 생성한다.The color distribution information generating unit 130 extracts some or all of pixel information for the reference image. The color distribution information generating unit 130 generates a pixel information matrix for the extracted pixel information. The color distribution information generating unit 130 classifies the pixels of the pixel information matrix according to a similarity algorithm and groups the reference image into at least two or more regions to generate color distribution information for the reference image.

안료 분사부(150)는 인공치아 재료 정보와 색 분포 정보 생성부(130)에서 생성된 색 분포 정보에 따라 안료를 선택한다. 안료 분사부(150)는 선택된 안료를 인공치아에 도포시키거나 침투시킨다. 안료 분사부(150)는 잉크젯 방식으로 구현될 수 있다. 예를 들어, 안료 분사부(150)는 안료를 미채색 인공치아의 표면에 분사하여 이미지를 표현하는 방식입니다. 안료 분사부(150)는 4색 안료(블랙, 레드, 블루, 옐로우)를 사용할 수 있으나, 자연치아의 경우에는 화이트밸런스와 명도, 채도를 조절하여 색을 재현하게 되므로, 4색 안료를 사용하지 않고, 블랙 안료의 명도, 채도를 조절하여 채색할 수도 있다. 안료 분사부(150)는 안료의 색상 수가 많을수록 자연치아의 색과 동일한 색의 재현이 가능하다. 또한, 안료 분사부(150)는 기존의 잉크제 프린터에 적용되는 방식을 그대로 채용할 수 있으므로, 소음이 적고 인쇄품질이 선명하다. 이러한 안료 분사부(150)는 피에조 방식, 서멀젯 방식, 버블젯 방식 등 다양한 방식으로 구현될 수 있다.The pigment injection unit 150 selects a pigment according to the artificial tooth material information and the color distribution information generated by the color distribution information generation unit 130 . The pigment injection unit 150 applies or penetrates the selected pigment to the artificial tooth. The pigment ejection unit 150 may be implemented by an inkjet method. For example, the pigment spraying unit 150 is a method of expressing an image by spraying a pigment on the surface of an uncolored artificial tooth. The pigment injection unit 150 can use four color pigments (black, red, blue, yellow), but in the case of natural teeth, the color is reproduced by adjusting the white balance, brightness, and saturation, so do not use four color pigments. Alternatively, the color may be colored by adjusting the brightness and saturation of the black pigment. The pigment injection unit 150 can reproduce the same color as that of natural teeth as the number of colors of the pigment increases. In addition, since the pigment ejection unit 150 can adopt the method applied to the existing ink-based printer as it is, the noise is low and the print quality is clear. The pigment spraying unit 150 may be implemented in various ways such as a piezo method, a thermal jet method, a bubble jet method, and the like.

도 2는 도 1에 도시된 레퍼런스 이미지를 획득하는 이미지 전처리 프로세스를 예시적으로 설명하는 도면이다. 도 2를 참고하면, 분석 이미지는 자연치아 영역과 명도/채도의기준이 되는 그레이카드 영역으로 구분된다. 자연치아 영역에는 재현 대상이 되는 치아 이미지가 포함되어 있다. 또한, 그레이 카드 영역은 기준 픽셀값에 대한 정보를 획득할 수 있다. 이미지 처리부(110)는 이미지 전처리를 통해서 재현 대상 치아 이미지 영역을 레퍼런스 이미지로 획득한다. 이때, 이미지 처리부(110)는 래퍼런스 이미지와 함께 그레이카드 영역에서 기준 픽셀값에 대한 정보로 함께 추출한다. 이미지 처리부(110)는 기준 픽셀값에 기반하여 래퍼런스 이미지에 대한 픽셀값도 대응하여 비교할 수 있다. 래퍼런스 이미지에 대한 픽셀값을 이용하여 색 분포 정보를 생성하는 과정에 대해서는 이하에서 별도로 설명한다.FIG. 2 is a diagram exemplarily explaining an image pre-processing process for obtaining the reference image shown in FIG. 1 . Referring to FIG. 2 , the analysis image is divided into a natural tooth area and a gray card area serving as a standard for brightness/saturation. The natural tooth area contains the tooth image to be reproduced. Also, the gray card area may obtain information about the reference pixel value. The image processing unit 110 acquires a reproduction target tooth image region as a reference image through image preprocessing. In this case, the image processing unit 110 extracts the reference image together with information about the reference pixel value from the gray card area. The image processing unit 110 may also compare the pixel values of the reference image correspondingly based on the reference pixel values. A process of generating color distribution information using pixel values of a reference image will be separately described below.

도 3은 도 1에 도시된 색 분포 정보 생성부에 의해서 색 분포 정보를 획득하는 프로세스를 예시적으로 설명하는 도면이다. 도 3을 참고하면, 색 분포 정보 생성부(130)는 레퍼런스 이미지에 대한 모든 픽셀에 대한 RGB값을 획득한다(도 3의 (a) 참조). 색 분포 정보 생성부(130)는 래퍼런스 이미지에 대해서 기 결정된 크기의 매트릭스 필터를 적용하여 2개 이상의 픽셀을 포함하는 복수의 사각 영역으로 그룹화한다(도 3의 (b) 참조). 복수의 사각 영역에 포함되는 픽셀들의 평균값을 연산하고, 이웃 사각 영역과 비교하여 값의 변화가 급격히 변화하는 경계를 구분함으로써, 제거 영역과 남는 영역을 구획한다(도 3의 (c) 참조). 색 분포 정보 생성부(130)는 남은 영역에 대해서 픽셀 단위로 값을 비교하여 적어도 2개의 그룹으로 영역을 구분한다(도 3의 (d) 참조). 색 분포 정보 생성부(130)는 남은 영역에 대해서 적어도 2개 이상의 그룹으로 그룹화하는 알고리즘에 대해서 인접 픽셀간에 RGB값을 비교하여 차이값이 임계값 이하이면 동일한 픽셀로 판단하여 동일한 그룹으로 포함시키고, 차이값이 임계값 이상이면 서로 이질적인 픽셀로 판단하여 다른 그룹으로 구분시킨다.FIG. 3 is a diagram exemplarily illustrating a process of obtaining color distribution information by the color distribution information generating unit shown in FIG. 1 . Referring to FIG. 3 , the color distribution information generating unit 130 obtains RGB values for all pixels of a reference image (see FIG. 3A ). The color distribution information generator 130 applies a matrix filter of a predetermined size to the reference image and groups the reference image into a plurality of rectangular regions including two or more pixels (refer to FIG. 3B ). The removal area and the remaining area are divided by calculating the average value of the pixels included in the plurality of rectangular areas, and dividing the boundary where the value change rapidly changes compared to the neighboring rectangular areas (refer to FIG. 3(c) ). The color distribution information generator 130 divides the remaining regions into at least two groups by comparing values in pixel units (refer to FIG. 3(d) ). The color distribution information generating unit 130 compares RGB values between adjacent pixels with respect to an algorithm for grouping into at least two groups for the remaining area, and if the difference value is less than or equal to a threshold value, it is determined as the same pixel and included in the same group, If the difference value is greater than or equal to the threshold, it is determined that the pixels are different from each other and divided into different groups.

도 4는 도 3에 도시된 색 분포 정보에 따라 안료를 도포하는 일 예를 예시적으로 설명하는 도면이다. 도 4를 참고하면, 도 3에서 2개의 영역으로 구분되면 제1 영역에는 어두운 안료를 도포하고, 제2 영역에는 밝은 안료를 도포한다. 이때 어두운 안료와 밝은 안료의 명도값은 상대적으로 결정되며, 상술한 색 분포 정보에 기초하여 제1 영역에는 제1 기본 색조 값이 정해지고, 제2 영역에는 제2 기본 색조 값이 정해진다. 이렇게 제1 영역과 제2 영역의 색조를 컬러링하는 작업만으로도 충분히 자연치아의 색조 특성에 근접한 인공치아의 채색이 가능하다.4 is a view exemplarily explaining an example of applying a pigment according to the color distribution information shown in FIG. 3 . Referring to FIG. 4 , when divided into two regions in FIG. 3 , a dark pigment is applied to the first region, and a bright pigment is applied to the second region. In this case, the brightness values of the dark pigment and the light pigment are relatively determined, and based on the above-described color distribution information, a first basic hue value is determined in the first region and a second basic hue value is determined in the second region. In this way, it is possible to color the artificial teeth sufficiently close to the color tone characteristics of natural teeth only by coloring the color tones of the first area and the second area.

하지만, 자연치아의 세부적인 색 특징을 재현하기 위해서는 2차적으로 강조 색조를 위한 스테인 작업이 요구된다. 도 4에서 제1 강조 색조 영역, 제2 강조 색조 영역, 제3 강조 색조 영역을 스테인을 통해서 재현함으로써, 자연치아의 질감, 세부적인 특징을 보다 자세하게 재현할 수 있다. 제1 내지 3 강조 색조 영역에 도포되는 안료는 색 분포 정보에서 주변 픽셀값과 두드러지는 차이값을 보이는 픽셀을 강조 색조 영역으로 결정한다. 강조 색조 영역으로 결정된 픽셀들에 대해서는 해당 영역을 표현하기 위해서 스테인 작업용 안료를 선택한다. 스테인 작업을 위한 안료는 컬러링 작업을 위한 안료와는 구분되는 안료이다. 스테인 작업은 지르코니아에 컬러링 작업을 한 뒤, 열처리를 하고, 열처리된 결과물을 냉각시킨 뒤, 표면에 바르는 안료이다. 스테인 안료는 지르코니아의 내부로 침투되는 흡수율이 높지 않은 안료를 사용한다. However, in order to reproduce the detailed color characteristics of natural teeth, secondary staining is required for highlighting tones. In FIG. 4 , the texture and detailed characteristics of natural teeth can be reproduced in more detail by reproducing the first emphasized tone region, the second emphasized tone region, and the third emphasized tone region through staining. As for the pigments applied to the first to third accentuated tone regions, a pixel showing a significant difference value from neighboring pixel values in color distribution information is determined as an accentuated tone region. For the pixels determined as an accent color region, a staining pigment is selected to express the corresponding region. Pigments for staining are different from pigments for coloring. Staining is a pigment applied to the surface after coloring the zirconia, heat-treating, and cooling the heat-treated product. The stain pigment uses a pigment that does not have a high absorption rate that penetrates into the interior of the zirconia.

도 5는 본 발명의 다른 실시 예에 따른 딥러닝을 이용한 인공치아의 색 재현 방법을 예시적으로 설명하는 플로우챠트도이다. 도 5를 참고하면, 인공치아의 색 재현 방법은 자연치아 이미지 파일(JPEG, BMP, PNG, AI 등 다양한 이미지 확장자 지원 가능)을 수신하는 단계(S510), 수신된 자연치아 이미지 파일을 전처리하여 레퍼런스 이미지를 획득하는 단계(S520), 레퍼런스 이미지에 대한 픽셀 정보 매트릭스를 생성하는 단계(S530), 픽셀 정보 매트릭스에 유사도 알고리즘을 적용하여 래퍼런스 이미지를 복수의 영역으로 그룹화하여 색 분포 정보를 생성하는 단계(S540), 색분포 정보와 인공치아의 주재료인 지르코니아에 대한 정보를 이용하여 컬러링 안료, 스테인 안료를 선택하는 단계(S550), 선택된 안료를 색 분포 정보에 따라 인공치아의 표면에 분사하는 단계(S560)를 포함한다.5 is a flowchart illustrating an example of a color reproduction method of an artificial tooth using deep learning according to another embodiment of the present invention. Referring to Figure 5, the color reproduction method of artificial teeth is a step of receiving a natural tooth image file (available to support various image extensions such as JPEG, BMP, PNG, AI, etc.) (S510), the received natural tooth image file is pre-processed for reference Acquiring an image (S520), generating a pixel information matrix for a reference image (S530), applying a similarity algorithm to the pixel information matrix to group the reference image into a plurality of regions to generate color distribution information ( S540), selecting a coloring pigment and a stain pigment using the color distribution information and information on zirconia, which is the main material of the artificial tooth (S550), spraying the selected pigment on the surface of the artificial tooth according to the color distribution information (S560) ) is included.

단계(S510)에서는 그레이카드를 이용하여 작업 대상 자연치아에 대한 이미지 파일을 촬상하여 이미지 파일 정보를 획득하거나 이미 획득된 이미지 파일을 입력받아서 사용할 수도 있다. In step S510, image file information of the natural tooth to be worked may be captured by using a gray card to obtain image file information or may be used by receiving an already acquired image file.

단계(S520)에서는 이미지 파일 중 작업 대상의 기준이 되는 자연치아 부분을 포함하는 레퍼런스 이미지 영역을 추출한다. 이때, 그레이카드 영역이 레퍼런스 이미지에서 제외될 수 있으므로, 그레이카드 영역의 픽셀로부터 기준 픽셀값을 추출하고, 이하에서 설명하는 색 분포 정보를 생성하는데 레퍼런스 값으로 활용한다.In step S520 , a reference image region including a natural tooth part serving as a reference for a work target is extracted from the image file. In this case, since the gray card area may be excluded from the reference image, a reference pixel value is extracted from the pixels of the gray card area and used as a reference value to generate color distribution information to be described below.

단계(S530)에서는 자연치아 영역에 대한 부분만을 획득하기 위하여, 레퍼런스 이미지 전체에 대해서 픽셀 매트릭스를 생성한다. 인접한 픽셀 간에 값을 비교하여 차이값이 기준치보다 크면 서로 다른 픽셀로 구분하고, 차이값이 기준치보다 작으면 같은 픽셀로 통합시킨다. 이러한 픽셀 매트리스 값을 유사도 알고리즘에 의해서 처리함으로써 자연치아 영역만을 추출할 수 있다.In step S530, a pixel matrix is generated for the entire reference image in order to obtain only a portion of the natural tooth region. Values are compared between adjacent pixels, and if the difference value is greater than the reference value, it is divided into different pixels, and if the difference value is less than the reference value, it is integrated into the same pixel. By processing these pixel matrix values by a similarity algorithm, only the natural tooth region can be extracted.

단계(S540)에서는 자연치아 부분에 대한 색 분포값을 비교하여 적어도 2개 이상의 영역으로 구분한다. 색분포값을 비교할 경우에는 픽셀 매트리스 정보를 이용하여 유사도 알고리즘을 적용하여 2개의 그룹으로 구획하게 된다. 여기서 사용되는 유사도 알고리즘은 기계학습에 의한 지도 학습 또는 비지도 학습에 의해서 구현될 수 있다. 지도학습 알고리즘으로는 K-최근접 이웃, 선형 회귀, 로지스틱 회귀, 서포트 벡터 머신, 결정 트리와 랜덤 포레스트, 신경망 등의 알고리즘을 적용할 수 있다. 비지도학습 알고리즘으로는 K-평균, 계층군집분석, 기댓값 최대화 등을 적용할 수 있다.In step S540, color distribution values for natural tooth portions are compared and divided into at least two or more regions. When color distribution values are compared, a similarity algorithm is applied using pixel matrix information to divide into two groups. The similarity algorithm used here may be implemented by supervised learning or unsupervised learning by machine learning. As supervised learning algorithms, algorithms such as K-nearest neighbors, linear regression, logistic regression, support vector machines, decision trees and random forests, and neural networks can be applied. As unsupervised learning algorithms, K-means, hierarchical cluster analysis, and expected value maximization can be applied.

단계(S550)에서는 지르코니아의 색 정보를 기초로하여 색 분포 정보를 구현하기 위한 적절한 지르코니아 정보, 안료 정보, 채색 방식 등을 결정한다. 색 분포 정보는 밝은 영역, 중간 영역, 어두운 영역으로 구분되고, 밝은 영역을 이용하여 지르코니아의 종류를 결정하고, 중간 영역을 이용하여 안료 정보를 결정하며, 어두운 영역을 이용하여 채색 방식을 결정한다.In step S550, based on the color information of zirconia, appropriate zirconia information, pigment information, coloring method, etc. for implementing color distribution information is determined. The color distribution information is divided into a bright region, a middle region, and a dark region, and the type of zirconia is determined using the bright region, the pigment information is determined using the middle region, and the coloring method is determined using the dark region.

단계(S560)에서는 선택된 지르코니아에 컬러링 안료, 스테인 안료를 이용하여 결정된 채색 방식에 따라 안료를 분사한다. 채색 방식에 대해서는 정밀도에 따라 다양한 방법론이 선택될 수 있다. 낮은 정밀도, 중간 정밀도, 높은 정밀도 등에 따라 채색 방식(컬러링, 스테인)이 정해지고, 안료가 도포되는 영역과 비도포되는 영역과 중첩되는 영역 등이 결정된다.In step S560, the pigment is sprayed on the selected zirconia according to a coloring method determined using a coloring pigment and a stain pigment. For the coloring method, various methodologies may be selected according to precision. The coloring method (coloring, staining) is determined according to low precision, medium precision, and high precision, and the area to which the pigment is applied and the area to be overlapped with the area not to be applied are determined.

한편, 본 발명의 실시 예를 구성하는 모든 구성 요소들이 하나로 결합하거나 결합하여 동작하는 것으로 설명되었다고 해서, 본 발명이 반드시 이러한 실시 예에 한정되는 것은 아니다. 즉, 본 발명의 목적 범위 안에서라면, 그 모든 구성 요소들이 하나 이상으로 선택적으로 결합하여 동작할 수도 있다. 또한, 그 모든 구성요소들이 각각 하나의 독립적인 하드웨어로 구현될 수 있지만, 각 구성 요소들의 그 일부 또는 전부가 선택적으로 조합되어 하나 또는 복수 개의 하드웨어에서 조합된 일부 또는 전부의 기능을 수행하는 프로그램 모듈을 갖는 컴퓨터 프로그램으로서 구현될 수도 있다. 그 컴퓨터 프로그램을 구성하는 코드들 및 코드 세그먼트들은 본 발명의 기술 분야의 당업자에 의해 용이하게 추론될 수 있을 것이다. 이러한 컴퓨터 프로그램은 컴퓨터가 읽을 수 있는 비일시적 저장매체(non-transitory computer readable media)에 저장되어 컴퓨터에 의하여 읽혀지고 실행됨으로써, 본 발명의 실시 예를 구현할 수 있다.On the other hand, even though it has been described that all components constituting an embodiment of the present invention operate by being combined or combined into one, the present invention is not necessarily limited to this embodiment. That is, within the scope of the object of the present invention, all the components may operate by selectively combining one or more. In addition, all of the components may be implemented as one independent hardware, but some or all of the components are selectively combined to perform some or all functions of the combined components in one or a plurality of hardware program modules It may be implemented as a computer program having Codes and code segments constituting the computer program can be easily deduced by those skilled in the art of the present invention. Such a computer program is stored in a computer-readable non-transitory computer readable media, read and executed by the computer, thereby implementing an embodiment of the present invention.

여기서 비일시적 판독 가능 기록매체란, 레지스터, 캐시(cache), 메모리 등과 같이 짧은 순간 동안 데이터를 저장하는 매체가 아니라, 반영구적으로 데이터를 저장하며, 기기에 의해 판독(reading)이 가능한 매체를 의미한다. 구체적으로, 상술한 프로그램들은 CD, DVD, 하드 디스크, 블루레이 디스크, USB, 메모리 카드, ROM 등과 같은 비일시적 판독가능 기록매체에 저장되어 제공될 수 있다.Here, the non-transitory readable recording medium refers to a medium that stores data semi-permanently and can be read by a device, rather than a medium that stores data for a short moment, such as a register, cache, memory, etc. . Specifically, the above-described programs may be provided by being stored in a non-transitory readable recording medium such as a CD, DVD, hard disk, Blu-ray disk, USB, memory card, ROM, and the like.

이상에서는 본 발명의 바람직한 실시 예에 대하여 도시하고 설명하였지만, 본 발명은 상술한 특정의 실시 예에 한정되지 아니하며, 청구범위에 청구하는 본 발명의 요지를 벗어남이 없이 당해 발명이 속하는 기술분야에서 통상의 지식을 가진 자에 의해 다양한 변형실시가 가능한 것은 물론이고, 이러한 변형실시들은 본 발명의 기술적 사상이나 전망으로부터 개별적으로 이해되어서는 안 될 것이다.In the above, preferred embodiments of the present invention have been illustrated and described, but the present invention is not limited to the specific embodiments described above, and it is common in the technical field to which the present invention pertains without departing from the gist of the present invention as claimed in the claims. Various modifications may be made by those having the knowledge of, of course, and these modifications should not be individually understood from the technical spirit or perspective of the present invention.

100 : 딥러닝을 이용한 인공치아의 색 재현 장치
110 : 이미지 처리부
130 : 색 분호 정보 생성부
150 : 안료 분사부
100: Apparatus for color reproduction of artificial teeth using deep learning
110: image processing unit
130: color division information generation unit
150: pigment injection unit

Claims (6)

딥러닝을 이용한 인공치아의 색 재현 장치에 있어서,
인공치아의 색 재현을 위한 자연치아에 대한 이미지를 수신하고, 수신된 이미지에 대한 전처리를 통해서 레퍼런스 이미지를 획득하는 이미지 처리부;
상기 레퍼런스 이미지에 대한 일부 또는 전부의 픽셀 정보를 추출하고, 상기 픽셀 정보에 대한 픽셀 정보 매트릭스를 생성하고, 상기 픽셀 정보 매트릭스의 픽셀에 대해서 유사도 알고리즘에 따라 분류하여 상기 레퍼런스 이미지를 적어도 2개 이상의 영역으로 그룹화하여 상기 레퍼런스 이미지에 대한 색 분포 정보를 생성하는 색 분포 정보 생성부; 및
인공치아 재료 정보와 상기 색 분포 정보에 따라 인공치아에 도포시키거나 침투시키는 안료를 선택하고, 선택된 안료를 인공치아의 표면의 일부 또는 전부에 분사하는 안료 분사부;를 포함하는 딥러닝을 이용한 인공치아의 색 재현 장치.
In the color reproduction apparatus of artificial teeth using deep learning,
an image processing unit for receiving an image of a natural tooth for color reproduction of an artificial tooth, and obtaining a reference image through pre-processing of the received image;
Extracting some or all pixel information for the reference image, generating a pixel information matrix for the pixel information, and classifying the pixels of the pixel information matrix according to a similarity algorithm to divide the reference image into at least two regions a color distribution information generation unit generating color distribution information for the reference image by grouping into ; and
Artificial teeth using deep learning including; a pigment spraying unit that selects a pigment to be applied or penetrated to an artificial tooth according to the artificial tooth material information and the color distribution information, and sprays the selected pigment to some or all of the surface of the artificial tooth A device for color reproduction of teeth.
제1 항에 있어서,
상기 이미지 처리부는,
상기 수신된 이미지 중 자연치아 부분을 추출하여 상기 레퍼런스 이미지로 변환하는 전처리를 실행하는 것을 특징으로 하는 딥러닝을 이용한 인공치아의 색 재현 장치.
The method of claim 1,
The image processing unit,
Color reproduction apparatus for artificial teeth using deep learning, characterized in that pre-processing of extracting a portion of a natural tooth from the received image and converting it into the reference image is executed.
제1 항에 있어서,
상기 색 분포 정보 생성부는,
상기 레퍼런스 이미지를 복수 개의 메인 블록으로 나누고, 상기 복수 개의 메인 블록에 포함되는 복수 개의 픽셀에 대한 평균값을 연산하고, 상기 복수 개의 메인 블록에 평균값을 할당하여 상기 픽셀 정보 매트릭스를 생성하는 것을 특징으로 하는 딥러닝을 이용한 인공치아의 색 재현 장치.
The method of claim 1,
The color distribution information generating unit,
dividing the reference image into a plurality of main blocks, calculating an average value for a plurality of pixels included in the plurality of main blocks, and allocating an average value to the plurality of main blocks to generate the pixel information matrix A color reproduction device for artificial teeth using deep learning.
제3 항에 있어서,
상기 색 분포 정보 생성부는,
상기 복수 개의 메인 블록 중 적어도 하나의 메인 블록을 복수 개의 서브 블록으로 나누고, 상기 복수 개의 서브 블록에 포함되는 복수 개의 픽셀에 대한 평균값을 연산하고, 상기 복수 개의 서브 블록에 평균값을 할당하여 상기 픽셀 정보 매트릭스를 생성하는 것을 특징으로 하는 딥러닝을 이용한 인공치아의 색 재현 장치.
4. The method of claim 3,
The color distribution information generating unit,
The pixel information by dividing at least one main block among the plurality of main blocks into a plurality of sub-blocks, calculating an average value for a plurality of pixels included in the plurality of sub-blocks, and assigning an average value to the plurality of sub-blocks A color reproduction device for artificial teeth using deep learning, characterized in that it generates a matrix.
제3 항 또는 제4 항에 있어서,
상기 색 분포 정보 생성부는,
상기 복수 개의 메인 블록에 할당된 상기 평균값을 상호 비교하여 차이값이 기준값보다 낮으면 해당 메인 블록을 통합하는 상기 유사도 알고리즘에 의해서 상기 색 분포 정보를 생성하는 것을 특징으로 하는 딥러닝을 이용한 인공치아의 색 재현 장치.
5. The method of claim 3 or 4,
The color distribution information generating unit,
Artificial teeth using deep learning, characterized in that by comparing the average values assigned to the plurality of main blocks with each other and generating the color distribution information by the similarity algorithm that integrates the corresponding main blocks when the difference value is lower than the reference value color reproduction device.
제1 항에 있어서,
상기 안료 분사부는,
인공치아를 안착시키는 배드 부재;
상기 배드 부재에 놓인 상기 인공치아의 위치를 감지하는 위치 감지 부재;
상기 인공치아에 안료를 토출시키는 토출 부재; 및
상기 인공치아의 위치 정보와 상기 색 분포 정보를 이용하여 상기 토출 부재를 제어하는 제어 부재;를 포함하는 딥러닝을 이용한 인공치아의 색 재현 장치.



The method of claim 1,
The pigment spraying unit,
a bed member for seating artificial teeth;
a position sensing member for detecting the position of the artificial tooth placed on the bed member;
a discharging member discharging the pigment to the artificial tooth; and
and a control member for controlling the ejection member using the position information of the artificial tooth and the color distribution information.



KR1020200024774A 2020-02-28 2020-02-28 Artificial tooth color reproduction device using Deep Learning KR102318713B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020200024774A KR102318713B1 (en) 2020-02-28 2020-02-28 Artificial tooth color reproduction device using Deep Learning

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020200024774A KR102318713B1 (en) 2020-02-28 2020-02-28 Artificial tooth color reproduction device using Deep Learning

Publications (2)

Publication Number Publication Date
KR20210109766A true KR20210109766A (en) 2021-09-07
KR102318713B1 KR102318713B1 (en) 2021-10-27

Family

ID=77797289

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020200024774A KR102318713B1 (en) 2020-02-28 2020-02-28 Artificial tooth color reproduction device using Deep Learning

Country Status (1)

Country Link
KR (1) KR102318713B1 (en)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20080070070A (en) 2005-12-19 2008-07-29 올림푸스 가부시키가이샤 Dental colorimetry apparatus
KR20140097378A (en) * 2011-11-17 2014-08-06 스트라타시스 엘티디. System and method for fabricating a body part model using multi-material additive manufacturing
KR101656106B1 (en) 2009-06-03 2016-09-08 케어스트림 헬스 인코포레이티드 Apparatus for dental surface shape and shade imaging
JP2017018152A (en) * 2015-07-07 2017-01-26 Juki株式会社 Color measuring device, color measuring method and program
KR101767270B1 (en) 2010-07-13 2017-08-10 케어스트림 헬스 인코포레이티드 Dental shade mapping

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20080070070A (en) 2005-12-19 2008-07-29 올림푸스 가부시키가이샤 Dental colorimetry apparatus
KR101656106B1 (en) 2009-06-03 2016-09-08 케어스트림 헬스 인코포레이티드 Apparatus for dental surface shape and shade imaging
KR101767270B1 (en) 2010-07-13 2017-08-10 케어스트림 헬스 인코포레이티드 Dental shade mapping
KR20140097378A (en) * 2011-11-17 2014-08-06 스트라타시스 엘티디. System and method for fabricating a body part model using multi-material additive manufacturing
JP2017018152A (en) * 2015-07-07 2017-01-26 Juki株式会社 Color measuring device, color measuring method and program

Also Published As

Publication number Publication date
KR102318713B1 (en) 2021-10-27

Similar Documents

Publication Publication Date Title
JP4838387B2 (en) Information code and information code decoding method
JP4838704B2 (en) Image forming apparatus and control method thereof
US20150332607A1 (en) System for Producing Tactile Images
JP5014475B2 (en) Image processing apparatus and image processing method
CN105407251B (en) Image processing apparatus and image processing method
CN106210435B (en) It is a kind of for handling the device and method of image data
CN106142560A (en) Image processing apparatus, image processing system and image processing method
JP5634154B2 (en) Image processing apparatus and image processing method
WO2017012642A1 (en) Methods of detecting moire artifacts
KR102318713B1 (en) Artificial tooth color reproduction device using Deep Learning
US9652699B2 (en) Image processing apparatus and image processing method
US10430974B2 (en) Image processing apparatus, image processing method, and storage medium
JP4208481B2 (en) Two-dimensional code reading method, two-dimensional code reading system, and article with a two-dimensional code used therein
WO2016098301A1 (en) Image processing apparatus and image processing method
US20080198172A1 (en) Color information encoding in monochrome printing
CN113348092B (en) Method for printing verification marks by amplitude modulation grid printing
KR102035914B1 (en) Image processing apparatus, image processing method and storage medium
CN103369197B (en) Image processing apparatus and image processing method
JPH037112B2 (en)
JP5386820B2 (en) Information reading apparatus and program
JPH0314077A (en) Method and device for pattern recognition
JP2014128901A (en) Image processing device and image processing method
EP1768049B1 (en) Process and system for reproduction of documents by segmentation and selective enhancement of images and texts
TWI530914B (en) Data-bearing encoding system and decoding system utilizing halftone cell dot number modulation
JP2024044254A (en) Detection device, model generation device, detection method and detection program

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right
GRNT Written decision to grant