KR102208087B1 - Apparatus and method for Auto classification of skin disease - Google Patents

Apparatus and method for Auto classification of skin disease Download PDF

Info

Publication number
KR102208087B1
KR102208087B1 KR1020190024142A KR20190024142A KR102208087B1 KR 102208087 B1 KR102208087 B1 KR 102208087B1 KR 1020190024142 A KR1020190024142 A KR 1020190024142A KR 20190024142 A KR20190024142 A KR 20190024142A KR 102208087 B1 KR102208087 B1 KR 102208087B1
Authority
KR
South Korea
Prior art keywords
skin
image
pixel
pixel values
glcm
Prior art date
Application number
KR1020190024142A
Other languages
Korean (ko)
Other versions
KR20190104001A (en
Inventor
김명남
조진호
구정모
나승대
Original Assignee
경북대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 경북대학교 산학협력단 filed Critical 경북대학교 산학협력단
Publication of KR20190104001A publication Critical patent/KR20190104001A/en
Application granted granted Critical
Publication of KR102208087B1 publication Critical patent/KR102208087B1/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • G06T7/0014Biomedical image inspection using an image reference approach
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06K9/00147
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/40Image enhancement or restoration by the use of histogram techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/69Microscopic objects, e.g. biological cells or cellular parts
    • G06V20/698Matching; Classification
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/70ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for mining of medical data, e.g. analysing previous cases of other patients
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30088Skin; Dermal

Abstract

피부 질환을 촬영한 영상의 화소 특징, 영상으로부터 변환된 회색도 동시발생 행렬(GLCM)과 회색도 연속길이 행렬(GLRLM)로부터 추출된 GLCM 특징 및 GLRLM 특징을 기반으로 흑색종 등의 피부 질환을 높은 정확도로 자동 분류할 수 있는 피부 질환 자동 분류 장치 및 방법, 기록 매체가 개시된다. 본 발명의 실시예에 따른 피부 질환 자동 분류 방법은, 피부 병변을 촬영한 영상에서 화소들의 밝기값들의 히스토그램을 산출하고, 상기 히스토그램을 통계분석하여 화소 특징을 추출하는 단계; 상기 영상의 화소값들을 상기 화소값들 간의 인접성을 나타내는 회색도 동시발생 행렬(GLCM; Gray-Level Co-occurrence Matrix)로 변환하는 단계; 상기 회색도 동시발생 행렬의 화소값들을 기반으로 GLCM 특징을 추출하는 단계; 상기 영상의 화소값들을 상기 화소값들의 연속길이를 나타내는 회색도 연속길이 행렬(GLRLM; Gray Level RunLength Matrix)로 변환하는 단계; 상기 회색도 연속길이 행렬의 화소값들을 기반으로 GLRLM 특징을 추출하는 단계; 및 상기 화소 특징, 상기 GLCM 특징 및 상기 GLRLM 특징을 기계학습 모델에 적용하여 피부 질환을 분류하는 단계를 포함한다.Skin diseases such as melanoma are high based on the pixel characteristics of images of skin diseases, the GLCM characteristics and GLRLM characteristics extracted from the gray level co-occurrence matrix (GLCM) and the gray level continuous length matrix (GLRLM) converted from the image. Disclosed are an apparatus, a method, and a recording medium for automatic classification of skin diseases capable of automatic classification with accuracy. According to an exemplary embodiment of the present invention, a method for automatically classifying skin diseases includes: calculating a histogram of brightness values of pixels in an image of a skin lesion, and statistically analyzing the histogram to extract pixel features; Converting the pixel values of the image into a gray-level co-occurrence matrix (GLCM) representing proximity between the pixel values; Extracting GLCM features based on pixel values of the gray level co-occurrence matrix; Converting the pixel values of the image into a gray level run length matrix (GLRLM) representing a continuous length of the pixel values; Extracting a GLRLM feature based on the pixel values of the gray level continuous length matrix; And classifying a skin disease by applying the pixel feature, the GLCM feature, and the GLRLM feature to a machine learning model.

Description

피부 질환 자동 분류 장치 및 피부 질환 자동 분류 방법{Apparatus and method for Auto classification of skin disease}Apparatus and method for Auto classification of skin disease {Apparatus and method for Auto classification of skin disease}

본 발명은 피부 질환 자동 분류 장치 및 방법에 관한 것으로, 보다 상세하게는 피부 질환을 촬영한 영상의 화소 특징, 영상으로부터 변환된 회색도 동시발생 행렬(GLCM)과 회색도 연속길이 행렬(GLRLM)로부터 추출된 GLCM 특징 및 GLRLM 특징을 기반으로 흑색종 등의 피부 질환을 높은 정확도로 자동 분류할 수 있는 피부 질환 자동 분류 장치 및 피부 질환 자동 분류 방법에 관한 것이다.The present invention relates to an apparatus and method for automatic classification of skin diseases, and more particularly, from pixel characteristics of an image photographing skin diseases, a gray level co-occurrence matrix (GLCM) and a gray level continuous length matrix (GLRLM) converted from the image. The present invention relates to a skin disease automatic classification device and a skin disease automatic classification method capable of automatically classifying skin diseases such as melanoma with high accuracy based on the extracted GLCM features and GLRLM features.

최근 생활환경의 변화 및 의료기술의 발전으로 인간의 수명이 점차 연장되고 있으며, 이로 인해 실버 의료 기술이 각광받고 있다. 따라서 고령화 사회에서 면역력 저하로 인하여 발생하는 질환에 대한 조기 대응이 중요하게 되었다. 특히, 노인성 피부질환은 조기 발견이 어렵고, 치료시기를 놓치게 되는 경우 악성 질환으로 진행되어 치료가 어려워지기도 한다. 흑색종(melanoma)은 이러한 노인성 피부질환에서 가장 많이 발생하는 질환중 하나로, 초기에 모반증(nevus)과 유사한 양상(modality)을 가진다. 이 때문에 흑색종은 발병 초기에 발견되기 어려우며 모반증으로 오인되는 경우가 많다. 흑색종은 피부의 진피층에서부터 근육까지 악성 종양이 퍼지는 질환으로서 모반증과 다르게 환부에서 나타나는 양상이 혈관 기형, 멜라닌 색소의 침착 및 기형적인 형태와 같은 증상이 나타나게 된다. 가장 악성도가 높은 악성 흑색종의 경우 가려움이나 통증 같은 자각 증상이 없으며 평범한 검은 반점으로 보이는 특징이 있다.Due to the recent change in living environment and the development of medical technology, the lifespan of humans is gradually extending, and for this reason, silver medical technology is in the spotlight. Therefore, early response to diseases caused by decreased immunity has become important in an aging society. In particular, early detection of senile skin diseases is difficult, and if the treatment timing is missed, it may progress to a malignant disease, making treatment difficult. Melanoma (melanoma) is one of the most common diseases of such senile skin diseases, and has a modality similar to that of nevus in the early stage. For this reason, melanoma is difficult to detect early on and is often mistaken for nevus. Melanoma is a disease in which a malignant tumor spreads from the dermal layer of the skin to the muscles, and unlike nevus, symptoms such as vascular malformations, melanin pigment deposition and malformed forms appear in the affected area. Malignant melanoma with the highest degree of malignancy has no subjective symptoms such as itching or pain, and is characterized as a normal black spot.

Abbasi 등은 의사들이 육안으로 임상적인 경험을 기반으로 흑색종을 판별하는 ABCD(Asymmetry, Border, Color, Diameter) 방법을 개발하였다. 그러나 이 방법은 병변(lesion) 부위의 형태를 육안으로 판별하는 방식으로서 전문의의 주관적 판단이 개입되기 때문에 같은 영상이라도 전문의 마다 다르게 진단할 수 있는 단점이 있다. Bowling 등은 기존의 육안으로 확인하던 ABCD 방법을 피부경(dermoscopy)을 이용하여 좀 더 세밀하게 관찰함으로써 발생할 수 있는 오류를 줄이는 방법을 사용하였다. 그러나 기존의 피부경은 일반 카메라에 현미경의 광학렌즈를 부착하는 방식으로서 질환 영역을 확대하여 볼 수 있으나 질환을 판별하는 방식은 기존의 육안으로 판독하는 방식을 사용하는 문제가 있다. 함 등은 피부경 영상에서 SVM(support vector machine)을 이용하여 흑색종과 모반증에 대한 자동 분류를 시도하였으나, 환자 개인마다 발생하는 피부상태와 모발, 광원들을 고려하지 않아 정확한 검출에 어려움이 있었다.Abbasi et al. developed ABCD (Asymmetry, Border, Color, Diameter) method, which allows doctors to detect melanoma based on clinical experience with the naked eye. However, this method is a method of visually discriminating the shape of a lesion area, and because subjective judgment of a specialist is involved, there is a disadvantage that even the same image can be diagnosed differently for each specialist. Bowling et al. used a method to reduce possible errors by observing the ABCD method, which was confirmed with the naked eye, in more detail using a dermoscopy. However, the conventional dermatoscope is a method of attaching an optical lens of a microscope to a general camera, and the disease area can be enlarged and viewed, but there is a problem of using the conventional method of reading with the naked eye. Ham et al. attempted to automatically classify melanoma and nevus using SVM (support vector machine) in dermatoscope images, but it was difficult to accurately detect the skin condition, hair, and light source that occur for each patient .

본 발명은 피부 질환을 촬영한 영상의 화소 특징, 영상으로부터 변환된 회색도 동시발생 행렬(GLCM)과 회색도 연속길이 행렬(GLRLM)로부터 추출된 GLCM 특징 및 GLRLM 특징을 기반으로 흑색종 등의 피부 질환을 높은 정확도로 자동 분류할 수 있는 피부 질환 자동 분류 장치 및 방법, 기록 매체를 제공하기 위한 것이다.The present invention relates to skin such as melanoma based on the pixel features of an image photographing skin diseases, the GLCM features and GLRLM features extracted from the gray level co-occurrence matrix (GLCM) and the gray level continuous length matrix (GLRLM) converted from the image. It is to provide an apparatus and method for automatic classification of skin diseases, and a recording medium capable of automatically classifying diseases with high accuracy.

본 발명이 해결하고자 하는 과제는 이상에서 언급된 과제로 제한되지 않는다. 언급되지 않은 다른 기술적 과제들은 이하의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.The problem to be solved by the present invention is not limited to the problems mentioned above. Other technical problems that are not mentioned will be clearly understood by those of ordinary skill in the art from the following description.

본 발명의 일 측면에 따른 피부 질환 자동 분류 방법은, 피부 병변을 촬영한 영상에서 화소들의 밝기값들의 히스토그램을 산출하고, 상기 히스토그램을 통계분석하여 화소 특징을 추출하는 단계; 상기 영상의 화소값들을 상기 화소값들 간의 인접성을 나타내는 회색도 동시발생 행렬(GLCM; Gray-Level Co-occurrence Matrix)로 변환하는 단계; 상기 회색도 동시발생 행렬의 화소값들을 기반으로 GLCM 특징을 추출하는 단계; 상기 영상의 화소값들을 상기 화소값들의 연속길이를 나타내는 회색도 연속길이 행렬(GLRLM; Gray Level RunLength Matrix)로 변환하는 단계; 상기 회색도 연속길이 행렬의 화소값들을 기반으로 GLRLM 특징을 추출하는 단계; 및 상기 화소 특징, 상기 GLCM 특징 및 상기 GLRLM 특징을 기계학습 모델에 적용하여 피부 질환을 분류하는 단계를 포함한다.According to an aspect of the present invention, a method for automatically classifying skin diseases includes: calculating a histogram of brightness values of pixels in an image of a skin lesion, and statistically analyzing the histogram to extract pixel features; Converting the pixel values of the image into a gray-level co-occurrence matrix (GLCM) representing proximity between the pixel values; Extracting GLCM features based on pixel values of the gray level co-occurrence matrix; Converting the pixel values of the image into a gray level run length matrix (GLRLM) representing a continuous length of the pixel values; Extracting a GLRLM feature based on the pixel values of the gray level continuous length matrix; And classifying a skin disease by applying the pixel feature, the GLCM feature, and the GLRLM feature to a machine learning model.

상기 화소 특징은 상기 영상의 화소값들의 평균, 표준편차, 스큐(skew), 커토시스(kurtosis), 엔트로피(entropy) 및 제곱평균제곱근(root mean square)을 포함할 수 있다.The pixel characteristics may include an average of pixel values of the image, a standard deviation, a skew, a curtosis, an entropy, and a root mean square.

상기 GLCM 특징은 상기 회색도 동시발생 행렬의 화소값들의 자가상관관계(auto-correlation), 대조도(contrast), 상관관계(correlation), 비유사도(dissimilarity), 에너지(energy) 및 동질성(homogeneity)을 포함할 수 있다.The GLCM features are auto-correlation, contrast, correlation, dissimilarity, energy, and homogeneity of pixel values of the gray level co-occurrence matrix. It may include.

상기 GLRLM 특징은 상기 회색도 연속길이 행렬의 화소값들을 기반으로 추출되는 SRE(Short Run Emphasis), LRE(Long Run Emphasis), GLNU(Gray Level Non-Uniformity), RP(Run Percentage), RLNU(Run Length Non-Uniformity) 및 HGLRE(High Gray Level Run Emphasis)를 포함할 수 있다.The GLRLM feature is SRE (Short Run Emphasis), LRE (Long Run Emphasis), GLNU (Gray Level Non-Uniformity), RP (Run Percentage), RLNU (Run Percentage) extracted based on the pixel values of the gray level matrix. Length Non-Uniformity) and High Gray Level Run Emphasis (HGLRE).

상기 기계학습 모델은 서포트 벡터 머신(SVM; Support Vector Machine) 모델을 포함할 수 있다.The machine learning model may include a support vector machine (SVM) model.

본 발명의 실시예에 따른 피부 질환 자동 분류 방법은, 피부경(dermoscopy)을 이용하여 상기 피부 병변을 촬영하여 피부경 영상을 획득하는 단계; 상기 피부경 영상을 이진 영상으로 변환하고, 상기 이진 영상에서 상기 피부 병변보다 작은 크기의 객체를 검출하는 단계; 상기 피부 병변과 상기 객체의 크기 차이를 기반으로 모발 및 피부각질을 포함하는 잡음을 제거하는 단계; 및 상기 피부경 영상에서 정상 피부의 화소값을 0으로 변환하여 피부 병변 만을 포함하는 관심 영역을 추출하는 단계를 더 포함할 수 있다.A method for automatically classifying skin diseases according to an embodiment of the present invention includes: obtaining a dermatoscope image by photographing the skin lesion using a dermoscopy; Converting the dermatoscope image to a binary image, and detecting an object having a size smaller than that of the skin lesion in the binary image; Removing noise including hair and dead skin cells based on the difference in size between the skin lesion and the object; And converting a pixel value of normal skin to 0 in the dermatoscope image to extract a region of interest including only skin lesions.

본 발명의 실시예에 따른 피부 질환 자동 분류 방법은, 흑색종 영상들 및 모반증 영상들을 포함하는 학습 영상 데이터를 기반으로 상기 화소 특징, 상기 GLCM 특징 및 상기 GLRLM 특징을 학습하여 상기 기계학습 모델을 생성하는 단계를 더 포함할 수 있다. 상기 피부 질환을 분류하는 단계는 학습된 상기 기계학습 모델을 기반으로 상기 피부 병변을 흑색종과 모반증 중 어느 하나로 분류하는 단계를 포함할 수 있다.In the method for automatically classifying skin diseases according to an embodiment of the present invention, based on learning image data including melanoma images and nevus images, the machine learning model is learned by learning the pixel characteristics, the GLCM characteristics, and the GLRLM characteristics. It may further include the step of generating. Classifying the skin disease may include classifying the skin lesion into either melanoma or nevus based on the learned machine learning model.

본 발명의 다른 측면에 따르면, 상기 피부 질환 자동 분류 방법을 실행하기 위한 프로그램이 기록된 컴퓨터로 판독 가능한 기록 매체가 제공된다.According to another aspect of the present invention, there is provided a computer-readable recording medium in which a program for executing the method for automatically classifying skin diseases is recorded.

본 발명의 또 다른 측면에 따르면, 적어도 하나의 프로세서를 포함하는 피부 질환 자동 분류 장치에 있어서, 상기 적어도 하나의 프로세서는, 피부 병변을 촬영한 영상에서 화소들의 밝기값들의 히스토그램을 산출하고, 상기 히스토그램을 통계분석하여 화소 특징을 추출하고; 상기 영상의 화소값들을 상기 화소값들 간의 인접성을 나타내는 회색도 동시발생 행렬(GLCM; Gray-Level Co-occurrence Matrix)로 변환하고; 상기 회색도 동시발생 행렬의 화소값들을 기반으로 GLCM 특징을 추출하고; 상기 영상의 화소값들을 상기 화소값들의 연속길이를 나타내는 회색도 연속길이 행렬(GLRLM; Gray Level RunLength Matrix)로 변환하고; 상기 회색도 연속길이 행렬의 화소값들을 기반으로 GLRLM 특징을 추출하고; 그리고 상기 화소 특징, 상기 GLCM 특징 및 상기 GLRLM 특징을 기계학습 모델에 적용하여 피부 질환을 분류하도록 구성된다.According to another aspect of the present invention, in an apparatus for automatically classifying skin diseases including at least one processor, the at least one processor calculates a histogram of brightness values of pixels in an image photographing a skin lesion, and the histogram To extract pixel features by statistical analysis; Converting the pixel values of the image into a gray-level co-occurrence matrix (GLCM) representing the proximity between the pixel values; Extracting GLCM features based on pixel values of the gray level co-occurrence matrix; Converting pixel values of the image into a gray level run length matrix (GLRLM) representing a continuous length of the pixel values; Extracting GLRLM features based on the pixel values of the gray level continuous length matrix; And applying the pixel feature, the GLCM feature, and the GLRLM feature to a machine learning model to classify skin diseases.

상기 적어도 하나의 프로세서는, 피부경(dermoscopy)에 의해 상기 피부 병변을 촬영한 피부경 영상을 이진 영상으로 변환하고; 상기 이진 영상에서 상기 피부 병변보다 작은 크기의 객체를 검출하고; 상기 피부 병변과 상기 객체의 크기 차이를 기반으로 모발 및 피부각질을 포함하는 잡음을 제거하고; 그리고 상기 피부경 영상에서 정상 피부의 화소값을 0으로 변환하여 피부 병변 만을 포함하는 관심 영역을 추출하도록 구성될 수 있다.The at least one processor converts a dermatoscope image photographed of the skin lesion into a binary image by dermoscopy; Detecting an object having a size smaller than that of the skin lesion in the binary image; Removing noise including hair and dead skin cells based on the difference in size between the skin lesion and the object; In addition, it may be configured to convert a pixel value of normal skin to 0 in the dermatoscope image to extract a region of interest including only skin lesions.

상기 적어도 하나의 프로세서는, 흑색종 영상들 및 모반증 영상들을 포함하는 학습 영상 데이터를 이용하여 상기 화소 특징, 상기 GLCM 특징 및 상기 GLRLM 특징을 학습하여 상기 기계학습 모델을 생성하고; 그리고 상기 학습 영상 데이터를 이용하여 학습된 상기 기계학습 모델을 기반으로 상기 피부 병변을 흑색종과 모반증 중 어느 하나로 분류하도록 구성될 수 있다.The at least one processor generates the machine learning model by learning the pixel feature, the GLCM feature, and the GLRLM feature using training image data including melanoma images and nevus images; In addition, it may be configured to classify the skin lesion as either melanoma or nevus based on the machine learning model learned using the training image data.

본 발명의 실시예에 의하면, 피부 질환을 촬영한 영상의 화소 특징, 영상으로부터 변환된 회색도 동시발생 행렬(GLCM)과 회색도 연속길이 행렬(GLRLM)로부터 추출된 GLCM 특징 및 GLRLM 특징을 기반으로 흑색종 등의 피부 질환을 높은 정확도로 자동 분류할 수 있는 피부 질환 자동 분류 장치 및 방법, 기록 매체가 제공된다.According to an embodiment of the present invention, based on the pixel features of an image photographing skin diseases, the GLCM features and GLRLM features extracted from the gray level co-occurrence matrix (GLCM) and the gray level continuous length matrix (GLRLM) converted from the image A skin disease automatic classification apparatus, method, and recording medium capable of automatically classifying skin diseases such as melanoma with high accuracy are provided.

본 발명의 효과는 상술한 효과들로 제한되지 않는다. 언급되지 않은 효과들은 본 명세서 및 첨부된 도면으로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확히 이해될 수 있을 것이다.The effect of the present invention is not limited to the above-described effects. Effects not mentioned will be clearly understood by those of ordinary skill in the art from the present specification and the accompanying drawings.

도 1은 본 발명의 실시예에 따른 피부 질환 자동 분류 방법의 개략적인 흐름도이다.
도 2는 본 발명의 실시예에 따른 피부 질환 자동 분류 장치의 구성도이다.
도 3은 본 발명의 실시예에 따른 피부 질환 자동 분류 방법의 흐름도이다.
도 4는 도 3의 단계 S30의 구체적인 흐름도이다.
도 5는 피부경 영상에서 추출된 객체들의 크기 분포도의 예시도이다.
도 6은 본 발명의 실시예에 따라 피부경 영상을 전처리하는 과정의 예시도이다.
도 7은 본 발명의 실시예에 따른 피부 질환 자동 분류 장치를 구성하는 피부질환 분류부의 구성도이다.
도 8은 본 발명의 실시예에 따라 영상으로부터 변환된 회색도 동시발생 행렬(GLCM)의 예시도이다.
도 9는 본 발명의 실시예에 따라 영상으로부터 변환된 회색도 연속길이 행렬(GLRLM)의 예시도이다.
도 10은 본 발명의 실시예에 따라 기계학습에 사용된 흑색종 영상들(a)과 모반증 영상들(b)의 예시도이다.
도 11은 본 발명의 실시예에 따른 피부 질환 자동 분류 방법의 피부 질환 분류 정확도 성능을 보여주는 도면이다.
1 is a schematic flowchart of a method for automatically classifying skin diseases according to an embodiment of the present invention.
2 is a block diagram of an apparatus for automatically classifying skin diseases according to an embodiment of the present invention.
3 is a flowchart of a method for automatically classifying skin diseases according to an embodiment of the present invention.
4 is a detailed flowchart of step S30 of FIG. 3.
5 is an exemplary diagram of a size distribution diagram of objects extracted from a dermatoscope image.
6 is an exemplary diagram of a process of pre-processing a dermatoscope image according to an embodiment of the present invention.
7 is a block diagram of a skin disease classification unit constituting an automatic skin disease classification apparatus according to an embodiment of the present invention.
8 is an exemplary diagram of a gray level co-occurrence matrix (GLCM) converted from an image according to an embodiment of the present invention.
9 is an exemplary diagram of a gray level continuous length matrix (GLRLM) transformed from an image according to an embodiment of the present invention.
10 is an exemplary diagram of melanoma images (a) and nevus images (b) used for machine learning according to an embodiment of the present invention.
11 is a diagram showing accuracy performance of skin disease classification in a method for automatically classifying skin diseases according to an embodiment of the present invention.

본 발명의 다른 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술하는 실시예를 참조하면 명확해질 것이다. 그러나 본 발명은 이하에서 개시되는 실시예에 한정되지 않으며, 본 발명은 청구항의 범주에 의해 정의될 뿐이다. 만일 정의되지 않더라도, 여기서 사용되는 모든 용어들(기술 혹은 과학 용어들을 포함)은 이 발명이 속한 종래 기술에서 보편적 기술에 의해 일반적으로 수용되는 것과 동일한 의미를 갖는다. 공지된 구성에 대한 일반적인 설명은 본 발명의 요지를 흐리지 않기 위해 생략될 수 있다. 본 발명의 도면에서 동일하거나 상응하는 구성에 대하여는 가급적 동일한 도면부호가 사용된다. 본 발명의 이해를 돕기 위하여, 도면에서 일부 구성은 다소 과장되거나 축소되어 도시될 수 있다.Other advantages and features of the present invention, and a method of achieving them will become apparent with reference to embodiments to be described later in detail together with the accompanying drawings. However, the present invention is not limited to the embodiments disclosed below, and the present invention is only defined by the scope of the claims. Even if not defined, all terms (including technical or scientific terms) used herein have the same meaning as commonly accepted by universal technology in the prior art to which this invention belongs. General descriptions of known configurations may be omitted so as not to obscure the subject matter of the present invention. In the drawings of the present invention, the same reference numerals are used as much as possible for the same or corresponding configurations. In order to help the understanding of the present invention, some configurations in the drawings may be somewhat exaggerated or reduced.

본 출원에서 사용한 용어는 단지 특정한 실시예를 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 출원에서, "포함하다", "가지다" 또는 "구비하다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.The terms used in the present application are only used to describe specific embodiments, and are not intended to limit the present invention. Singular expressions include plural expressions unless the context clearly indicates otherwise. In the present application, terms such as "comprise", "have" or "have" are intended to designate the presence of features, numbers, steps, actions, components, parts, or a combination thereof described in the specification. It is to be understood that the possibility of the presence or addition of other features, numbers, steps, actions, components, parts, or combinations thereof, or any further features, is not excluded in advance.

본 명세서 전체에서 사용되는 '~부'는 적어도 하나의 기능이나 동작을 처리하는 단위로서, 예를 들어 소프트웨어, FPGA 또는 ASIC과 같은 하드웨어 구성요소를 의미할 수 있다. 그렇지만 '~부'가 소프트웨어 또는 하드웨어에 한정되는 의미는 아니다. '~부'는 어드레싱할 수 있는 저장 매체에 있도록 구성될 수도 있고 하나 또는 그 이상의 프로세서들을 재생시키도록 구성될 수도 있다.The'~ unit' used throughout this specification is a unit that processes at least one function or operation, and may mean, for example, a hardware component such as software, FPGA, or ASIC. However,'~ part' is not limited to software or hardware. The'~ unit' may be configured to be in an addressable storage medium, or may be configured to reproduce one or more processors.

일 예로서 '~부'는 소프트웨어 구성요소들, 객체지향 소프트웨어 구성요소들, 클래스 구성요소들 및 태스크 구성요소들과 같은 구성요소들과, 프로세스들, 함수들, 속성들, 프로시저들, 서브루틴들, 프로그램 코드의 세그먼트들, 드라이버들, 펌웨어, 마이크로 코드, 회로, 데이터, 데이터베이스, 데이터 구조들, 테이블들, 어레이들 및 변수들을 포함할 수 있다. 구성요소와 '~부'에서 제공하는 기능은 복수의 구성요소 및 '~부'들에 의해 분리되어 수행될 수도 있고, 다른 추가적인 구성요소와 통합될 수도 있다.As an example,'~ unit' refers to components such as software components, object-oriented software components, class components, and task components, processes, functions, properties, procedures, and subs. Routines, segments of program code, drivers, firmware, microcode, circuits, data, databases, data structures, tables, arrays, and variables. The components and functions provided by the'~ unit' may be performed separately by a plurality of elements and the'~ units', or may be integrated with other additional elements.

본 발명의 실시예에 따른 피부 질환 자동 분류 방법은 영상 처리에 의해 피부 질환에 대한 특징들을 추출하고, 추출된 특징들을 기반으로 기계학습 기법의 알고리즘을 통하여 흑색종 등의 피부 질환을 객관적으로 자동 분류할 수 있다. 도 1은 본 발명의 실시예에 따른 피부 질환 자동 분류 방법의 개략적인 흐름도이다. 도 1을 참조하면, 먼저 피부경(dermoscopy)에 의해 피부 병변을 촬영하여 피부경 영상(dermoscopy image)을 획득하고(S1), 피부경 영상을 전처리한 후(S2), 관심 영역(ROI)을 추출한다(S3). 그리고 나서, 영상의 관심 영역에서 흑색종 등의 피부 질환에 관련된 영상 특징들을 추출한다(S4~S5).In the automatic classification method for skin diseases according to an embodiment of the present invention, features of skin diseases are extracted by image processing, and skin diseases such as melanoma are objectively and automatically classified through an algorithm of a machine learning technique based on the extracted features. can do. 1 is a schematic flowchart of a method for automatically classifying skin diseases according to an embodiment of the present invention. Referring to FIG. 1, first, a skin lesion is photographed by a dermoscopy to obtain a dermoscopy image (S1), and after preprocessing the dermatoscope image (S2), a region of interest (ROI) is Extract (S3). Then, image features related to skin diseases such as melanoma are extracted from the region of interest of the image (S4 to S5).

영상 특징들은 화소(pixel) 자체의 정보를 이용한 1차 통계분석에 의해 추출되는 화소 특징들과, 영상으로부터 행렬형태로 변환된 GLCM(Gray-Level Co-occurrence Matrix) 및 GLRLM(Gray Level RunLength Matrix)으로부터 추출된 GLCM 특징들 및 GLRLM 특징들을 포함할 수 있다. 추출된 특징들(화소 특징들, GLCM 특징들 및 GLRLM 특징들)은 서포트 벡터 머신(Support Vector Machine) 등의 기계학습 판별 알고리즘에 적용되어 피부 질환을 분류하는데 활용될 수 있다. 본 발명의 실시예에 의하면, 특히 모반증과 흑색종을 정확하게 자동 분류할 수 있다.Image features include pixel features extracted by first-order statistical analysis using information of the pixel itself, gray-level co-occurrence matrix (GLCM) and gray level run length matrix (GLLM) converted from image to matrix form. It may include GLCM features and GLRLM features extracted from. The extracted features (pixel features, GLCM features, and GLRLM features) may be applied to a machine learning discrimination algorithm such as a support vector machine and used to classify skin diseases. According to an embodiment of the present invention, in particular, it is possible to accurately and automatically classify nevus and melanoma.

도 2는 본 발명의 실시예에 따른 피부 질환 자동 분류 장치의 구성도이다. 도 2를 참조하면, 본 발명의 실시예에 따른 피부 질환 자동 분류 장치(100)는 제어부(110), 학습부(120), 영상 획득부(130), 영상 전처리부(140), 피부질환 분류부(150) 및 저장부(160)를 포함할 수 있다. 제어부(110)는 적어도 하나의 프로세서를 포함하고, 학습부(120), 영상 획득부(130), 영상 전처리부(140), 피부질환 분류부(150) 및 저장부(160)를 제어하여 피부 질환 자동 분류를 위한 기능(프로그램)을 실행시킨다.2 is a block diagram of an apparatus for automatically classifying skin diseases according to an embodiment of the present invention. Referring to FIG. 2, the apparatus 100 for automatically classifying skin diseases according to an embodiment of the present invention includes a control unit 110, a learning unit 120, an image acquisition unit 130, an image preprocessor 140, and a skin disease classification. A unit 150 and a storage unit 160 may be included. The control unit 110 includes at least one processor, and controls the learning unit 120, the image acquisition unit 130, the image preprocessing unit 140, the skin disease classification unit 150, and the storage unit 160 to Execute a function (program) for automatic disease classification.

도 3은 본 발명의 실시예에 따른 피부 질환 자동 분류 방법의 흐름도이다. 도 2 및 도 3을 참조하면, 학습부(120)는 흑색종 영상들 및 모반증 영상들을 포함하는 학습 영상 데이터를 이용하여 피부 질환의 특징들을 학습할 수 있다(S10). 실시예에서, 학습부(120)는 공인된 피부질환 데이터베이스의 영상을 이용하여 흑색종에서 나타나는 특징들을 추출하고, 흑색종과 모반증을 분류하기 위한 기계학습 모델을 생성할 수 있다. 학습부(120)는 피부질환 데이터베이스의 영상의 화소값들로부터 히스토그램을 산출하고, 히스토그램을 통계 분석하여 화소 특징들을 추출할 수 있다. 또한, 학습부(120)는 피부질환 데이터베이스의 영상을 GLCM 및 GLRLM으로 각각 변환한 후, GLCM과 GLRLM으로부터 GLCM 특징들 및 GLRLM 특징들을 추출할 수 있다. 학습부(120)는 추출된 화소 특징들, GLCM 특징들 및 GLRLM 특징들을 학습하여, 기계학습 모델을 생성할 수 있다. 학습부(120)에 의해 생성된 기계학습 모델은 이후의 피부 질환 분류에 활용하기 위하여 저장부(160)에 저장될 수 있다.3 is a flowchart of a method for automatically classifying skin diseases according to an embodiment of the present invention. 2 and 3, the learning unit 120 may learn features of a skin disease by using learning image data including melanoma images and nevus images (S10). In an embodiment, the learning unit 120 may extract features appearing in melanoma by using an image of an authorized skin disease database and generate a machine learning model for classifying melanoma and nevus. The learning unit 120 may calculate a histogram from pixel values of an image of the skin disease database, and statistically analyze the histogram to extract pixel features. In addition, the learning unit 120 may convert the image of the skin disease database into GLCM and GLRLM, respectively, and then extract GLCM features and GLRLM features from the GLCM and GLRLM. The learning unit 120 may generate a machine learning model by learning the extracted pixel features, GLCM features, and GLRLM features. The machine learning model generated by the learning unit 120 may be stored in the storage unit 160 to be used for classification of skin diseases in the future.

영상 획득부(130)는 피부 병변 부위를 촬영하여 영상을 획득할 수 있다(S20). 실시예에서, 영상 획득부(130)는 흑색종으로 의심되는 피부 병변을 촬영하여 피부경 영상을 획득하는 피부경(dermoscopy)을 포함할 수 있다. 영상 획득부(130)에 의해 획득된 영상은 저장부(160)에 저장될 수 있다.The image acquisition unit 130 may acquire an image by photographing a skin lesion (S20). In an embodiment, the image acquisition unit 130 may include a dermoscopy for capturing a skin lesion suspected of melanoma to obtain a dermoscopy image. The image acquired by the image acquisition unit 130 may be stored in the storage unit 160.

피부경 영상은 촬영하는 전문의마다 영상의 초점과 질병의 위치가 영상 내에서 다르게 나타날 수 있다. 또한, 환자의 피부 상태와 모발로 인하여 영상에서 질환을 제외한 다양한 잡음이 발생하게 된다. 이러한 잡음은 영상에서 특징들을 추출하는데 오류를 발생시킬 수 있다. 이러한 문제점을 방지하기 위하여, 영상 전처리부(140)는 피부경 영상을 이진 영상으로 변환한 후, 모발 및 피부각질 등의 잡음을 제거하고(S30), 피부경 영상에서 피부 병변 만을 포함하는 관심 영역을 추출할 수 있다. 영상 전처리부(140)에 의해 전처리된 영상은 저장부(160)에 저장될 수 있다.For dermatoscope images, the focus of the image and the location of the disease may appear differently within the image for each specialist. In addition, various noises excluding diseases are generated in the image due to the patient's skin condition and hair. Such noise may cause an error in extracting features from an image. In order to prevent this problem, the image preprocessor 140 converts the dermatoscope image into a binary image, and then removes noise such as hair and dead skin cells (S30), and the region of interest including only skin lesions in the dermatoscope image Can be extracted. The image preprocessed by the image preprocessor 140 may be stored in the storage unit 160.

도 4는 도 3의 단계 S30의 구체적인 흐름도이다. 도 2 및 도 4를 참조하면, 영상 전처리부(140)는 피부경 영상을 이진 영상으로 변환한다(S32). 실시예에서, Otsu 기법 등에 의해, 피부경 영상의 화소값들의 히스토그램에서 유사한 값을 가지는 객체들의 집합을 추출하여, 분할 영역간의 분산을 최대화시키는 문턱치값을 만들 수 있다. 전체 분산은 클래스 내의 분산과 클래스들 간의 분산의 합으로 나타낼 수 있으며, 하기의 수식 (1) 내지 (3)과 같이 표현될 수 있다.4 is a detailed flowchart of step S30 of FIG. 3. 2 and 4, the image preprocessor 140 converts a dermatoscope image into a binary image (S32). In an embodiment, a set of objects having similar values may be extracted from a histogram of pixel values of a dermatoscope image using the Otsu technique or the like, and a threshold value for maximizing variance between divided regions may be created. The total variance can be expressed as the sum of the variance within the class and the variance between classes, and can be expressed as Equations (1) to (3) below.

[수식 (1) 내지 (3)][Equations (1) to (3)]

Figure 112019021418831-pat00001
Figure 112019021418831-pat00001

수식 (1) 내지 (3)에서,

Figure 112019021418831-pat00002
는 클래스 내의 분산,
Figure 112019021418831-pat00003
는 클래스들 간 분산,
Figure 112019021418831-pat00004
는 클래스
Figure 112019021418831-pat00005
에 화소가 포함될 확률의 가중치,
Figure 112019021418831-pat00006
는 클래스의 평균값이다. 이진 영상에는 피부 질환 분류의 정확성을 떨어뜨리는 불필요한 정보인 잡음이 제거되지 않고 포함될 수 있다. 잡음은 주로 환자의 모발이나 피부 각질 등의 피부 상태에 의하여 발생하게 된다. 이러한 잡음은 피부 병변 부위의 특징을 추출하는데 오류를 발생시키며, 정확도를 저하시키는 문제점을 발생시킨다.In formulas (1) to (3),
Figure 112019021418831-pat00002
Is the variance within the class,
Figure 112019021418831-pat00003
Is the variance between classes,
Figure 112019021418831-pat00004
The class
Figure 112019021418831-pat00005
The weight of the probability that a pixel is included in
Figure 112019021418831-pat00006
Is the average value of the class. The binary image can be included without removing noise, which is unnecessary information that degrades the accuracy of classification of skin diseases. Noise is mainly caused by skin conditions such as the patient's hair or dead skin cells. Such noise causes an error in extracting features of a skin lesion area, and causes a problem of deteriorating accuracy.

이러한 문제점을 보완하기 위하여, 영상 전처리부(140)는 전처리 과정에서 획득한 이진 영상을 기반으로 잡음을 제거한다. 잡음 정보는 영상에서 피부 질환과 비교하여 크기 정보가 상대적으로 작은 것이 특징이므로, 영상 전처리부(140)는 이러한 잡음의 크기 특징을 이용하여 잡음을 제거하고, 잡음이 제거된 영상을 기반으로 관심 영역을 추출할 수 있다.In order to compensate for this problem, the image preprocessor 140 removes noise based on the binary image acquired in the preprocessing process. Since noise information is characterized in that the size information is relatively small compared to skin diseases in the image, the image preprocessor 140 removes the noise using the size characteristic of the noise, and based on the image from which the noise is removed, the region of interest Can be extracted.

도 5는 피부경 영상에서 추출된 객체들의 크기 분포도의 예시도이다. 통상적으로 모발, 피부각질 등의 크기는 피부 병변(Lesion component)(예를 들어, 흑색종)의 크기보다 작기 때문에, 피부 병변과의 크기 차이가 설정값을 초과하는 작은 크기의 객체들을 피부경 영상에서 제거함으로써, 모발이나 피부각질 등의 잡음(noise)을 제거할 수 있다. 피부 병변의 경우 영상에서 가장 많은 화소들을 포함하고 있으며, 상대적으로 잡음은 병변보다 작은 크기의 구성요소를 가지게 된다.5 is an exemplary diagram of a size distribution diagram of objects extracted from a dermatoscope image. Typically, the size of the hair, skin keratin, etc. is smaller than the size of the skin lesion (Lesion component) (eg, melanoma), so dermatoscope images of small objects whose size difference with the skin lesion exceeds the set value. By removing it from, noise such as hair or dead skin cells can be removed. In the case of a skin lesion, the image contains the largest number of pixels, and relatively noise has a component having a size smaller than that of the lesion.

영상 전처리부(140)는 피부 병변 부위 이외의 모발, 정상피부, 피부각질과 같은 잡음을 제거하기 위하여 전처리 과정에서 획득한 이진 영상을 기반으로 구성요소들(객체들)의 크기를 비교할 수 있다. 즉, 영상 전처리부(140)는 이진 영상에서 피부 병변보다 작은 크기의 객체들(예를 들어, 모발, 피부각질 등)을 검출할 수 있다(S34). 영상 전처리부(140)는 피부 병변과 객체 간의 크기 차이를 기반으로 모발 및 피부각질을 포함하는 잡음을 제거한다(S36).The image preprocessor 140 may compare the sizes of components (objects) based on the binary image acquired in the preprocessing process in order to remove noise such as hair, normal skin, and dead skin cells other than the skin lesion. That is, the image preprocessor 140 may detect objects (eg, hair, dead skin cells, etc.) having a size smaller than that of a skin lesion in the binary image (S34). The image preprocessor 140 removes noise including hair and dead skin cells based on the difference in size between the skin lesion and the object (S36).

도 6은 본 발명의 실시예에 따라 피부경 영상을 전처리하는 과정의 예시도이다. 도 6의 (a)는 피부경 영상으로부터 변환된 이진 영상, (b)는 잡음 제거된 이진 영상, (c)는 피부 병변 경계를 추출한 결과, (d)는 관심 영역 추출 결과이다. 도 6의 (b)에서, 모발이나 피부각질 등에 의해 발생하는 잡음이 효과적으로 제거된 것을 확인할 수 있다.6 is an exemplary diagram of a process of pre-processing a dermatoscope image according to an embodiment of the present invention. 6A is a binary image converted from a dermatoscope image, (b) a binary image with noise removed, (c) a result of extracting a skin lesion boundary, and (d) a result of extracting a region of interest. In (b) of FIG. 6, it can be seen that noise generated by hair or dead skin cells has been effectively removed.

이진 영상에서 잡음이 제거되면, 영상 전처리부(140)는 잡음이 제거된 영상을 이용하여 피부 병변 부위에 대한 정보를 추출하고, 추출한 정보를 기반으로 정상 피부에 대한 정보를 최소화하는 영상 재구성을 진행한다. 실시예에서, 영상 전처리부(140)는 피부경 영상에서 정상 피부의 화소값을 0으로 변환하여 피부 병변 만을 포함하는 관심 영역을 추출할 수 있다(S38).When noise is removed from the binary image, the image preprocessor 140 extracts information on the skin lesion area using the image from which the noise is removed, and performs image reconstruction to minimize information on normal skin based on the extracted information. do. In an embodiment, the image preprocessor 140 may extract a region of interest including only skin lesions by converting a pixel value of normal skin to 0 in the dermatoscope image (S38).

실시예에서, 영상 전처리부(140)는 영상의 피부 병변 부위에 대한 경계선을 추출하고, 추출한 경계선을 기반으로 피부 병변 부위에 대한 크기를 계산할 수 있다. 영상 전처리부(140)는 계산된 피부 병변 부위의 크기를 기반으로 병변 부위에서부터 정상 피부에 대한 정보를 제거하고, 피부 병변 부위를 제외한 영역에서 특징이 추출되는 것을 방지하기 위하여 피부 병변 부위를 제외한 나머지 영역(정상 피부)의 화소 값을 0으로 변환하여 도 6의 (d)에 도시된 바와 같이 관심 영역을 추출할 수 있다. 이에 따라, 정상 피부와 잡음으로 발생하는 특징들의 오류를 최소화할 수 있다.In an embodiment, the image preprocessor 140 may extract a boundary line for a skin lesion portion of the image, and calculate a size of the skin lesion portion based on the extracted boundary line. The image preprocessor 140 removes information on normal skin from the lesion area based on the calculated size of the skin lesion area, and prevents features from being extracted from the area other than the skin lesion area. By converting the pixel value of the region (normal skin) to 0, the region of interest may be extracted as shown in (d) of FIG. 6. Accordingly, errors in features caused by normal skin and noise can be minimized.

종래에 전문의는 임상적인 경험을 기반으로 육안으로 피부경 영상을 확인하여 ABCD 방법 등에 의해 질환을 진단하게 되는데, 이러한 주관적인 진단은 오류를 발생시킬 수 있는 문제점이 있다. 이러한 문제점을 보완하기 위하여 본 발명의 실시예에서는 피부경 영상에서 화소 정보를 모두 활용하고, 화소 군집의 유사성을 기반으로 2개의 변환 행렬들을 생성하고, 변환 행렬들로부터 특징들을 추출하여 피부 질환을 분류한다.Conventionally, a specialist diagnoses a disease by using the ABCD method or the like by checking a dermatoscopy image with the naked eye based on clinical experience, and such subjective diagnosis has a problem that may cause an error. In order to compensate for this problem, in an embodiment of the present invention, all pixel information in a dermatoscope image is utilized, two transformation matrices are generated based on the similarity of the pixel cluster, and features are extracted from the transformation matrices to classify skin diseases. do.

도 7은 본 발명의 실시예에 따른 피부 질환 자동 분류 장치를 구성하는 피부질환 분류부의 구성도이다. 도 2, 도 3 및 도 7을 참조하면, 피부질환 분류부(150)는 피부경 영상의 화소들의 밝기값들과 히스토그램, 영상 정보로부터 생성된 2개의 변환 매트릭스들(GLCM, GLRLM)을 통하여, 관심 영역에서 피부 질환과 관련된 다양한 특징들(화소 특징들, GLCM 특징들 및 GLRLM 특징들)을 추출하고(S40~S90), 추출된 특징들을 학습부(120)에 의해 학습된 기계학습 모델(예를 들어, 서포트 벡터 머신 모델)에 적용하여 흑색종 등의 피부 질환을 분류할 수 있다(S100). 실시예에서, 피부질환 분류부(150)는 히스토그램 산출부(151), 화소 특징 추출부(152), GLCM 변환부(153), GLCM 특징 추출부(154), GLRLM 변환부(155), GLRLM 특징 추출부(156) 및 분류기(157)를 포함할 수 있다.7 is a block diagram of a skin disease classification unit constituting an automatic skin disease classification apparatus according to an embodiment of the present invention. 2, 3, and 7, the skin disease classification unit 150 uses brightness values of pixels of a dermatoscope image, a histogram, and two transformation matrices (GLCM, GLRLM) generated from image information, From the region of interest, various features (pixel features, GLCM features, and GLRLM features) are extracted (S40 to S90), and the extracted features are learned by the learning unit 120 as a machine learning model (e.g. For example, a support vector machine model) may be applied to classify skin diseases such as melanoma (S100). In an embodiment, the skin disease classification unit 150 includes a histogram calculation unit 151, a pixel feature extraction unit 152, a GLCM conversion unit 153, a GLCM feature extraction unit 154, a GLRLM conversion unit 155, and GLRLM. A feature extraction unit 156 and a classifier 157 may be included.

히스토그램 산출부(151)는 피부 병변을 촬영한 영상의 관심 영역에서 화소들의 밝기값들의 히스토그램(Histogram)을 산출한다(S40). 화소 특징 추출부(152)는 화소들의 밝기값들의 히스토그램을 1차 통계분석하여 화소 특징들을 추출한다(S50). 화소 정보만을 이용한 화소 특징들은 화소 고유의 정보와 화소 정보의 빈도수를 이용하는 히스토그램에 관련된 특징들로, 영상의 전체적인 정보를 나타내는 중요한 특징으로 활용될 수 있다.The histogram calculator 151 calculates a histogram of brightness values of pixels in an ROI of an image photographing a skin lesion (S40). The pixel feature extractor 152 extracts pixel features by first statistically analyzing the histogram of brightness values of the pixels (S50). Pixel features using only pixel information are features related to pixel-specific information and a histogram using the frequency of the pixel information, and can be used as important features representing overall information of an image.

실시예에서, 화소 특징 추출부(152)는 영상의 화소값들의 평균, 표준편차, 스큐(skew), 커토시스(kurtosis), 엔트로피(entropy) 및 제곱평균제곱근(root mean square)을 포함하는 화소 특징들을 추출할 수 있다. 수식 (4) 내지 (7)은 피부 병변에 대한 특징 추출에 사용되는 화소 특징들의 수식이다.In an embodiment, the pixel feature extraction unit 152 includes a pixel including an average, standard deviation, skew, kurtosis, entropy, and root mean square of pixel values of an image. Features can be extracted. Equations (4) to (7) are equations of pixel features used for feature extraction for skin lesions.

[수식 (4) 내지 (7)][Equations (4) to (7)]

Figure 112019021418831-pat00007
Figure 112019021418831-pat00007

수식 (4) 내지 (7)에서,

Figure 112019021418831-pat00008
는 관심 영역 안의 화소 정보(화소값),
Figure 112019021418831-pat00009
는 관심 영역 안의 화소에 대한 히스토그램, N은 화소 개수, Ent는 히스토그램의 엔트로피, Kur는 화소값들의 커토시스, RMS는 화소값들의 제곱평균제곱근, STD는 화소값들의 표준편차이다.In equations (4) to (7),
Figure 112019021418831-pat00008
Is the pixel information (pixel value) in the region of interest,
Figure 112019021418831-pat00009
Is the histogram of the pixels in the region of interest, N is the number of pixels, Ent is the entropy of the histogram, Kur is the curtosis of the pixel values, RMS is the root mean square of the pixel values, and STD is the standard deviation of the pixel values.

수식(4)의 엔트로피(entropy)는 무질서도의 척도로서, 영상 내의 픽셀들의 히스토그램들의 빈도에 관한 특징을 나타낸다. 수식 (5)의 커토시스(kurtosis)는 영상 내의 화소값들의 분포가 특정 값에 얼마나 많이 분포하는지를 확률분포로 알 수 있는 척도를 나타낸다. 수식 (6)과 (7)의 제곱평균제곱근(root mean square)과 표준편차(standard deviation)는 화소값들의 변화 크기에 대한 통계적 척도와 행렬 내의 값들의 산포도에 관련된 화소 특징으로 사용될 수 있다.The entropy of Equation (4) is a measure of the degree of disorder and indicates a characteristic of the frequency of histograms of pixels in an image. The curtosis of Equation (5) represents a measure of how much the distribution of pixel values in an image is distributed to a specific value by a probability distribution. The root mean square and standard deviation of Equations (6) and (7) can be used as a statistical measure of the magnitude of change of pixel values and a pixel feature related to the scatter of values in a matrix.

GLCM 변환부(153)는 화소의 연속성에 관련된 특징을 추출하기 위하여, 영상의 관심 영역 내 화소값들을 화소값들 간의 인접성을 나타내는 회색도 동시발생 행렬(GLCM; Gray-Level Co-occurrence Matrix)로 변환한다(S60). 도 8은 본 발명의 실시예에 따라 영상으로부터 변환된 회색도 동시발생 행렬(GLCM)의 예시도이다.The GLCM converter 153 converts the pixel values in the region of interest of the image into a gray-level co-occurrence matrix (GLCM) representing the proximity between the pixel values in order to extract a feature related to the continuity of the pixels. Convert (S60). 8 is an exemplary diagram of a gray level co-occurrence matrix (GLCM) converted from an image according to an embodiment of the present invention.

GLCM은 인접한 화소들의 화소값들의 빈도를 나타낸 것으로, N×N 크기(N은 전체 화소값들의 개수임)를 갖는 행렬이다. GLCM 변환부(153)는 X번째(X는 N 이하의 정수) 화소값, Y번째(Y는 N 이하의 정수) 화소값에 해당하는 인접 화소군이 발견될 때마다 (X, Y) 픽셀의 값을 1씩 증가시켜 GLCM을 생성할 수 있다. 도 8의 예에서, 화소값 '1'을 가지는 화소들이 연속된 빈도가 1이므로 GLCM의 1행 1열의 성분은 1이고, 화소값 '2'(GLCM의 2번째 행)를 가지는 화소와 화소값 '1'(GLCM의 1번째 열)을 가지는 화소가 연속된 빈도가 2이므로 GLCM의 2행 1열의 성분이 2가 된다. 이렇게 변환된 GLCM을 사용하여, 관심 영역 내의 영상에서 어느 한 화소와 인접 화소와의 연속성에 대한 분석이 가능하게 된다.The GLCM represents the frequency of pixel values of adjacent pixels, and is a matrix having a size of N×N (N is the number of total pixel values). Whenever an adjacent pixel group corresponding to an X-th (X is an integer of N or less) pixel value and a Y-th (Y is an integer of N or less) pixel value is found, the GLCM conversion unit 153 You can generate GLCM by increasing the value by 1. In the example of FIG. 8, since the continuous frequency of the pixels having the pixel value '1' is 1, the component of the first row and the first column of the GLCM is 1, and the pixel and the pixel value having the pixel value '2' (the second row of GLCM) Since the continuous frequency of the pixels having '1' (the first column of the GLCM) is 2, the component of the second row and one column of the GLCM is 2. By using the converted GLCM, it is possible to analyze the continuity between a pixel and an adjacent pixel in the image in the region of interest.

GLCM 특징 추출부(154)는 회색도 동시발생 행렬(GLCM)의 화소값들을 기반으로 GLCM 특징들을 추출한다(S70). 실시예에서, GLCM 특징 추출부(154)는 회색도 동시발생 행렬(GLCM)의 화소값들의 자가상관관계(auto-correlation), 대조도(대비도)(contrast), 상관관계(correlation), 비유사도(dissimilarity), 에너지(energy) 및 동질성(균질성)(homogeneity)을 포함하는 GLCM 특징들을 추출할 수 있다. 실시예에서, GLCM 특징 추출부(154)는 하기의 수식 (8) 내지 (10)에 따라 GLCM에서 GLCM 특징들을 추출할 수 있다.The GLCM feature extraction unit 154 extracts GLCM features based on the pixel values of the gray level co-occurrence matrix GLCM (S70). In an embodiment, the GLCM feature extraction unit 154 includes auto-correlation, contrast (contrast), correlation, and analogy of pixel values of the gray level co-occurrence matrix (GLCM). GLCM features including dissimilarity, energy, and homogeneity can be extracted. In an embodiment, the GLCM feature extractor 154 may extract GLCM features from the GLCM according to Equations (8) to (10) below.

[수식 (8) 내지 (10)][Equations (8) to (10)]

Figure 112019021418831-pat00010
Figure 112019021418831-pat00010

수식 (8) 내지 (10)에서, Cont는 GLCM의 화소값들의 대조도, Corr은 GLCM의 상관관계, Homo는 GLCM의 동질성,

Figure 112019021418831-pat00011
Figure 112019021418831-pat00012
는 행렬의 위치,
Figure 112019021418831-pat00013
는 GLCM의 화소값,
Figure 112019021418831-pat00014
는 GLCM으로 변환되기 전의 영상의 화소값,
Figure 112019021418831-pat00015
Figure 112019021418831-pat00016
의 평균값,
Figure 112019021418831-pat00017
는 GLCM에서 행에 대한 확률,
Figure 112019021418831-pat00018
Figure 112019021418831-pat00019
의 평균값,
Figure 112019021418831-pat00020
는 GLCM에서 열에 대한 확률,
Figure 112019021418831-pat00021
Figure 112019021418831-pat00022
의 표준편차,
Figure 112019021418831-pat00023
Figure 112019021418831-pat00024
의 표준편차이다.In Equations (8) to (10), Cont is the contrast of GLCM pixel values, Corr is the correlation of GLCM, Homo is the homogeneity of GLCM,
Figure 112019021418831-pat00011
Wow
Figure 112019021418831-pat00012
Is the position of the matrix,
Figure 112019021418831-pat00013
Is the pixel value of GLCM,
Figure 112019021418831-pat00014
Is the pixel value of the image before being converted to GLCM,
Figure 112019021418831-pat00015
Is
Figure 112019021418831-pat00016
Mean value of,
Figure 112019021418831-pat00017
Is the probability for a row in GLCM,
Figure 112019021418831-pat00018
Is
Figure 112019021418831-pat00019
Mean value of,
Figure 112019021418831-pat00020
Is the probability for the column in GLCM,
Figure 112019021418831-pat00021
Is
Figure 112019021418831-pat00022
Standard deviation of,
Figure 112019021418831-pat00023
Is
Figure 112019021418831-pat00024
Is the standard deviation of

수식(8)의 대조도(contrast)는 영상 내의 화소의 대비도가 얼마인지에 대한 척도의 특징으로 사용된다. 수식(9)의 상관관계(correlation)는 영상 내의 화소 값들이 서로 얼마나 유사한지에 대한 척도의 특징으로 사용된다. 수식 (10)의 동질성(homogeneity)은 영상의 화소들에 얼마나 유사한 화소값들이 분포되어 있는지에 대한 척도의 특징으로 사용된다.The contrast of Equation (8) is used as a feature of a measure of how much the contrast of pixels in the image is. The correlation of Equation (9) is used as a feature of a measure of how similar pixel values in an image are to each other. The homogeneity of Equation (10) is used as a feature of a measure of how similar pixel values are distributed among the pixels of an image.

GLRLM 변환부(155)는 영상의 화소값들을 화소값들의 연속길이를 나타내는 회색도 연속길이 행렬(GLRLM; Gray Level RunLength Matrix)로 변환한다(S80). 도 9는 본 발명의 실시예에 따라 영상으로부터 변환된 회색도 연속길이 행렬(GLRLM)의 예시도이다. GLRLM은 특정 밝기 값을 가진 화소가 얼마나 길게 연속적으로 동일한 값으로 유지되는지(군집성)에 관한 행렬로, 관심 영역 내의 영상에서 화소값이 연속하여 나타나는 빈도를 누적하여 생성될 수 있다. GLRLM의 행은 화소값들이고, 열은 화소값의 연속 횟수이다. GLRLM 변환부(153)는 x번째(x는 N 이하의 정수) 화소값이 y번 연속하여 나타날 때마다, (x, y) 픽셀의 값을 1씩 증가시켜 GLRLM을 생성할 수 있다. 도 9의 예에서, 화소값 '1'(GLRLM의 1행)을 가지는 화소가 연속하여 2번(GLRLM의 2열) 출현한 빈도가 1이므로, 1행 2열 성분값이 1이고, 화소값 '4'(GLRLM의 4행)를 가지는 화소가 연속하여 3번(GLRLM의 3열) 출현한 빈도가 1이므로, 4행 3열 성분값이 1이 된다.The GLRLM conversion unit 155 converts the pixel values of the image into a gray level run length matrix (GLRLM) representing the continuous length of the pixel values (S80). 9 is an exemplary diagram of a gray level continuous length matrix (GLRLM) transformed from an image according to an embodiment of the present invention. The GLRLM is a matrix regarding how long pixels having a specific brightness value are continuously maintained at the same value (clusterability), and can be generated by accumulating the frequency of successive appearances of pixel values in an image in an ROI. Rows of GLRLM are pixel values, and columns are the number of consecutive pixel values. The GLRLM conversion unit 153 may generate the GLRLM by increasing the value of the (x, y) pixel by 1 whenever the x-th (x is an integer less than or equal to N) pixel values appear y times consecutively. In the example of FIG. 9, since the frequency in which the pixel value '1' (1 row of GLRLM) appears twice in succession (2 columns of GLRLM) is 1, the component value of column 1 and column 2 is 1, and the pixel value Since the frequency in which the pixel having '4' (4 rows of GLRLM) appears three times in succession (three columns of GLRLM) is 1, the component value of the 4 rows and 3 columns is 1.

GLRLM 특징 추출부(156)는 회색도 연속길이 행렬의 화소값들을 기반으로 GLRLM 특징들을 추출한다(S90). 실시예에서, GLRLM 특징 추출부(156)는 회색도 연속길이 행렬(GLRLM)의 화소값들을 기반으로 SRE(Short Run Emphasis), LRE(Long Run Emphasis), GLNU(Gray Level Non-Uniformity), RP(Run Percentage), RLNU(Run Length Non-Uniformity) 및 HGLRE(High Gray Level Run Emphasis)를 포함하는 GLRLM 특징들을 추출할 수 있다.The GLRLM feature extraction unit 156 extracts GLRLM features based on the pixel values of the gray level continuous length matrix (S90). In an embodiment, the GLRLM feature extraction unit 156 is based on the pixel values of the gray level continuous length matrix (GLRLM), SRE (Short Run Emphasis), LRE (Long Run Emphasis), GLNU (Gray Level Non-Uniformity), RP GLRLM features including (Run Percentage), Run Length Non-Uniformity (RLNU), and High Gray Level Run Emphasis (HGLRE) can be extracted.

분류기(157)는 화소 특징들, GLCM 특징들 및 GLRLM 특징들을 기계학습 모델에 적용하여 피부 질환을 분류한다(S100). 실시예에서, 기계학습 모델은 서포트 벡터 머신(SVM; Support Vector Machine) 모델을 포함할 수 있다. 본 발명의 실시예에 의하면, 육안으로 판단하기 어려운 객관적 피부 질환 특징들을 추출하여 피부 질환의 분류에 활용함으로써, 높은 정확도로 흑색종, 모반증 등의 피부 질환을 분류할 수 있으며, 주관적 판단을 배제하고 객관적으로 피부 질환을 분류할 수 있다.The classifier 157 classifies a skin disease by applying pixel features, GLCM features, and GLRLM features to a machine learning model (S100). In an embodiment, the machine learning model may include a Support Vector Machine (SVM) model. According to an embodiment of the present invention, by extracting objective skin disease features that are difficult to determine with the naked eye and using it for classification of skin diseases, skin diseases such as melanoma and nevus can be classified with high accuracy, and subjective judgment is excluded. And objectively classify skin diseases.

본 발명의 실시예에 따른 피부 질환 자동 분류 방법의 피부 질환 분류 성능 및 유효성을 평가하기 위하여, DerMIS와 Dermquest의 공인된 흑색종 데이터 43개와 76개의 영상에 대하여 학습과 테스트를 진행하고, MATLAB R2017a(MathWorks) 환경에서 실험을 수행하여, 동일한 학습데이터와 시험데이터를 이용하여 피부 분류 정확도를 종래 방식과 비교하였다. SVM 학습을 위해, 학습데이터를 전처리하고 관심 영역을 추출한 후, 관심 영역의 영상을 이용하여 화소와 GLCM과 GLRLM 변환을 수행하고, 변환된 행렬들에서 특징 값들을 추출하였다. 도 10은 본 발명의 실시예에 따라 기계학습에 사용된 흑색종 영상들(a)과 모반증 영상들(b)의 예시도이다.In order to evaluate the skin disease classification performance and effectiveness of the automatic skin disease classification method according to an embodiment of the present invention, learning and testing were conducted on 43 and 76 images of DerMIS and Dermquest certified melanoma data, and MATLAB R2017a ( MathWorks) environment, and the skin classification accuracy was compared with the conventional method using the same learning data and test data. For SVM learning, after preprocessing the training data and extracting the region of interest, pixel, GLCM, and GLRLM transformation were performed using the image of the region of interest, and feature values were extracted from the transformed matrices. 10 is an exemplary diagram of melanoma images (a) and nevus images (b) used for machine learning according to an embodiment of the present invention.

Figure 112019021418831-pat00025
Figure 112019021418831-pat00025

표 1은 학습데이터에 사용된 흑색종(Melanoma)과 모반증(Nevus)에 대한 특징 값들(Pixel features, GLCM features, GLRLM features)을 나타낸다. 표 1로부터, 흑색종과 모반증이 지니는 특징으로 인하여 화소 정보에서 육안으로는 크게 보이지 않던 차이점들이 변환 행렬들(GLCM, GLRLM)로부터 추출된 특징 값들에서 나타나는 것을 확인할 수 있다. 이러한 특징 값들을 이용하여 임의의 테스트 영상을 이용하여 SVM 분류기를 통해 피부 질환 분류를 수행하였다.Table 1 shows the feature values (Pixel features, GLCM features, GLRLM features) for melanoma and nevus used in the training data. From Table 1, it can be seen that differences in pixel information that are not visible to the naked eye due to features of melanoma and nevus appear in feature values extracted from transformation matrices (GLCM, GLRLM). Skin disease classification was performed through an SVM classifier using random test images using these feature values.

도 11은 본 발명의 실시예에 따른 피부 질환 자동 분류 방법의 피부 질환 분류 정확도 성능을 보여주는 도면이다. 도 11에서 Alpha는 ABCD 방법만을 이용하여 흑색종과 모반증을 분류하였을 때의 분류 정확도, Beta는 ABCD 방법과 화소 기반의 특징을 이용한 경우의 분류 정확도, Theta는 ABCD 방법과 화소 특징들 및 GLCM 특징들을 이용한 경우의 분류 정확도, Delta는 ABCD 방법과 화소 특징들, GLCM 특징들 및 GLRLM 특징들을 모두 적용한 경우의 분류 정확도이다.11 is a diagram showing accuracy performance of skin disease classification in a method for automatically classifying skin diseases according to an embodiment of the present invention. In FIG. 11, Alpha is the classification accuracy when melanoma and nevus are classified using only the ABCD method, Beta is the classification accuracy when using the ABCD method and pixel-based features, and Theta is the ABCD method and pixel features and GLCM features. Classification accuracy in the case of using the ``, Delta'' is the classification accuracy in the case of applying all of the ABCD method, pixel features, GLCM features and GLRLM features.

본 발명의 실시예에 의하면, 육안으로 확인이 어려운 화소의 미세한 정보(화소 특징들)와 인접 화소들의 유사성을 기반으로 한 변환 행렬들 및 변환 행렬들에서 추출한 GLCM/GLRLM 특징들을 적용하여 흑색종의 분류 정확도가 향상되는 것을 확인할 수 있다. 본 발명의 실시예에 따른 피부 질환 자동 분류 방법은 피부 질환 판별에 있어서 정량적이고 객관적인 분석 및 진단에 활용될 수 있으며, 특히 흑색종과 같은 피부 질환에 대한 조기 발견 시스템에 유용하게 활용될 수 있다. 또한, 본 발명의 실시예에 따른 피부 질환 자동 분류 방법은 흑색종 이외의 다른 피부 질환에 대해서도 조직 검사와 같은 침습적인 진단을 진행하기 전에 효과적으로 질환에 대한 정보를 제공하는데 활용될 수 있다.According to an embodiment of the present invention, by applying subtle information (pixel features) of a pixel that is difficult to see with the naked eye, transformation matrices based on similarity of adjacent pixels, and GLCM/GLRLM features extracted from the transformation matrices. It can be seen that the classification accuracy is improved. The automatic classification method for skin diseases according to an embodiment of the present invention may be used for quantitative and objective analysis and diagnosis in determining skin diseases, and in particular, may be usefully used in an early detection system for skin diseases such as melanoma. In addition, the method for automatically classifying skin diseases according to an embodiment of the present invention can be used to effectively provide information on diseases before invasive diagnosis such as a biopsy is performed even for skin diseases other than melanoma.

본 발명의 실시예에 따른 피부 질환 자동 분류 방법은 예를 들어 컴퓨터에서 실행될 수 있는 프로그램으로 작성 가능하고, 컴퓨터로 읽을 수 있는 기록매체를 이용하여 상기 프로그램을 동작시키는 범용 디지털 컴퓨터에서 구현될 수 있다. 컴퓨터로 읽을 수 있는 기록매체는 SRAM(Static RAM), DRAM(Dynamic RAM), SDRAM(Synchronous DRAM) 등과 같은 휘발성 메모리, ROM(Read Only Memory), PROM(Programmable ROM), EPROM(Electrically Programmable ROM), EEPROM(Electrically Erasable and Programmable ROM), 플래시 메모리 장치, PRAM(Phase-change RAM), MRAM(Magnetic RAM), RRAM(Resistive RAM), FRAM(Ferroelectric RAM)과 같은 불휘발성 메모리, 플로피 디스크, 하드 디스크 또는 광학적 판독 매체 예를 들어 시디롬, 디브이디 등과 같은 형태의 저장매체일 수 있으나, 이에 제한되지는 않는다.The method for automatically classifying skin diseases according to an embodiment of the present invention may be implemented in a general-purpose digital computer that operates the program using, for example, a program that can be executed on a computer and operates the program using a computer-readable recording medium. . Computer-readable recording media include volatile memories such as SRAM (Static RAM), DRAM (Dynamic RAM), SDRAM (Synchronous DRAM), Read Only Memory (ROM), Programmable ROM (PROM), Electrically Programmable ROM (EPROM), Nonvolatile memory such as Electrically Erasable and Programmable ROM (EEPROM), flash memory device, phase-change RAM (PRAM), magnetic RAM (MRAM), resistive RAM (RRAM), ferroelectric RAM (FRAM), floppy disk, hard disk, or The optical reading medium may be, for example, a storage medium in the form of a CD-ROM or a DVD, but is not limited thereto.

이상의 실시예들은 본 발명의 이해를 돕기 위하여 제시된 것으로, 본 발명의 범위를 제한하지 않으며, 이로부터 다양한 변형 가능한 실시예들도 본 발명의 범위에 속하는 것임을 이해하여야 한다. 본 발명의 기술적 보호범위는 청구범위의 기술적 사상에 의해 정해져야 할 것이며, 본 발명의 기술적 보호범위는 청구범위의 문언적 기재 그 자체로 한정되는 것이 아니라 실질적으로는 기술적 가치가 균등한 범주의 발명까지 미치는 것임을 이해하여야 한다.It should be understood that the above embodiments have been presented to aid the understanding of the present invention, and do not limit the scope of the present invention, and various deformable embodiments are also within the scope of the present invention. The technical protection scope of the present invention should be determined by the technical spirit of the claims, and the technical protection scope of the present invention is not limited to the literal description of the claims per se, but the invention of the scope of which the technical value is substantially equal. It should be understood that it reaches to.

100: 피부 질환 자동 분류 장치
110: 제어부
120: 학습부
130: 영상 획득부
140: 영상 전처리부
150: 피부질환 분류부
151: 히스토그램 산출부
152: 화소 특징 추출부
153: GLCM 변환부
154: GLCM 추출부
155: GLRLM 변환부
156: GLRLM 특징 추출부
157: 분류기
160: 저장부
100: automatic classification device for skin diseases
110: control unit
120: Learning Department
130: image acquisition unit
140: image preprocessor
150: skin disease classification unit
151: histogram calculation unit
152: pixel feature extraction unit
153: GLCM conversion unit
154: GLCM extraction unit
155: GLRLM conversion unit
156: GLRLM feature extraction unit
157: classifier
160: storage unit

Claims (15)

피부경(dermoscopy)을 이용하여 피부 병변을 촬영하여 피부경 영상을 획득하는 단계;
상기 피부경 영상을 이진 영상으로 변환하고, 상기 이진 영상에서 상기 피부 병변보다 작은 크기의 객체를 검출하는 단계;
상기 피부 병변과 상기 객체의 크기 차이를 기반으로 모발 및 피부각질을 포함하는 잡음을 제거하는 단계;
상기 피부경 영상에서 정상 피부의 화소값을 0으로 변환하여 피부 병변 만을 포함하는 관심 영역을 추출하는 단계;
상기 관심 영역에서 화소들의 밝기값들의 히스토그램을 산출하고, 상기 히스토그램을 통계분석하여 화소 특징을 추출하는 단계;
상기 영상의 화소값들을 상기 화소값들 간의 인접성을 나타내는 회색도 동시발생 행렬(GLCM; Gray-Level Co-occurrence Matrix)로 변환하는 단계;
상기 회색도 동시발생 행렬의 화소값들을 기반으로 GLCM 특징을 추출하는 단계;
상기 영상의 화소값들을 상기 화소값들의 연속길이를 나타내는 회색도 연속길이 행렬(GLRLM; Gray Level RunLength Matrix)로 변환하는 단계;
상기 회색도 연속길이 행렬의 화소값들을 기반으로 GLRLM 특징을 추출하는 단계; 및
상기 화소 특징, 상기 GLCM 특징 및 상기 GLRLM 특징을 기계학습 모델에 적용하여 피부 질환을 분류하는 단계를 포함하는 피부 질환 자동 분류 방법.
Obtaining a dermatoscope image by photographing a skin lesion using a dermoscopy;
Converting the dermatoscope image to a binary image, and detecting an object having a size smaller than that of the skin lesion in the binary image;
Removing noise including hair and dead skin cells based on the difference in size between the skin lesion and the object;
Extracting a region of interest including only skin lesions by converting a pixel value of normal skin to 0 in the dermatoscope image;
Calculating a histogram of brightness values of pixels in the region of interest, and statistically analyzing the histogram to extract pixel features;
Converting the pixel values of the image into a gray-level co-occurrence matrix (GLCM) representing proximity between the pixel values;
Extracting GLCM features based on pixel values of the gray level co-occurrence matrix;
Converting the pixel values of the image into a gray level run length matrix (GLRLM) representing a continuous length of the pixel values;
Extracting a GLRLM feature based on the pixel values of the gray level continuous length matrix; And
And classifying a skin disease by applying the pixel feature, the GLCM feature, and the GLRLM feature to a machine learning model.
제1항에 있어서,
상기 화소 특징은 상기 영상의 화소값들의 평균, 표준편차, 스큐(skew), 커토시스(kurtosis), 엔트로피(entropy) 및 제곱평균제곱근(root mean square)을 포함하는 피부 질환 자동 분류 방법.
The method of claim 1,
The pixel feature is an automatic classification method for skin diseases including a mean, standard deviation, skew, curtosis, entropy, and root mean square of pixel values of the image.
제1항에 있어서,
상기 GLCM 특징은 상기 회색도 동시발생 행렬의 화소값들의 자가상관관계(auto-correlation), 대조도(contrast), 상관관계(correlation), 비유사도(dissimilarity), 에너지(energy) 및 동질성(homogeneity)을 포함하는 피부 질환 자동 분류 방법.
The method of claim 1,
The GLCM features are auto-correlation, contrast, correlation, dissimilarity, energy, and homogeneity of pixel values of the gray level co-occurrence matrix. Automatic classification method for skin diseases comprising a.
제1항에 있어서,
상기 GLRLM 특징은 상기 회색도 연속길이 행렬의 화소값들을 기반으로 추출되는 SRE(Short Run Emphasis), LRE(Long Run Emphasis), GLNU(Gray Level Non-Uniformity), RP(Run Percentage), RLNU(Run Length Non-Uniformity) 및 HGLRE(High Gray Level Run Emphasis)를 포함하는 피부 질환 자동 분류 방법.
The method of claim 1,
The GLRLM feature is SRE (Short Run Emphasis), LRE (Long Run Emphasis), GLNU (Gray Level Non-Uniformity), RP (Run Percentage), RLNU (Run Percentage) extracted based on the pixel values of the gray level matrix. Automatic classification method for skin diseases including Length Non-Uniformity) and High Gray Level Run Emphasis (HGLRE).
제1항에 있어서,
상기 기계학습 모델은 서포트 벡터 머신(SVM; Support Vector Machine) 모델을 포함하는 피부 질환 자동 분류 방법.
The method of claim 1,
The machine learning model is a method for automatically classifying skin diseases including a support vector machine (SVM) model.
삭제delete 제1항에 있어서,
흑색종 영상들 및 모반증 영상들을 포함하는 학습 영상 데이터를 기반으로 상기 화소 특징, 상기 GLCM 특징 및 상기 GLRLM 특징을 학습하여 상기 기계학습 모델을 생성하는 단계를 더 포함하고,
상기 피부 질환을 분류하는 단계는 학습된 상기 기계학습 모델을 기반으로 상기 피부 병변을 흑색종과 모반증 중 어느 하나로 분류하는 단계를 포함하는 피부 질환 자동 분류 방법.
The method of claim 1,
Generating the machine learning model by learning the pixel feature, the GLCM feature, and the GLRLM feature based on training image data including melanoma images and nevus images,
Classifying the skin disease comprises the step of classifying the skin lesion into one of melanoma and nevus based on the learned machine learning model.
제1항 내지 제5항 및 제7항 중 어느 한 항의 피부 질환 자동 분류 방법을 실행하기 위한 프로그램이 기록된 컴퓨터로 판독 가능한 기록 매체.A computer-readable recording medium in which a program for executing the automatic classification method for skin diseases according to any one of claims 1 to 5 is recorded. 적어도 하나의 프로세서를 포함하는 피부 질환 자동 분류 장치에 있어서,
상기 적어도 하나의 프로세서는,
피부경(dermoscopy)에 의해 피부 병변을 촬영한 피부경 영상을 이진 영상으로 변환하고;
상기 이진 영상에서 상기 피부 병변보다 작은 크기의 객체를 검출하고;
상기 피부 병변과 상기 객체의 크기 차이를 기반으로 모발 및 피부각질을 포함하는 잡음을 제거하고;
상기 피부경 영상에서 정상 피부의 화소값을 0으로 변환하여 피부 병변 만을 포함하는 관심 영역을 추출하고;
상기 관심 영역에서 화소들의 밝기값들의 히스토그램을 산출하고, 상기 히스토그램을 통계분석하여 화소 특징을 추출하고;
상기 영상의 화소값들을 상기 화소값들 간의 인접성을 나타내는 회색도 동시발생 행렬(GLCM; Gray-Level Co-occurrence Matrix)로 변환하고;
상기 회색도 동시발생 행렬의 화소값들을 기반으로 GLCM 특징을 추출하고;
상기 영상의 화소값들을 상기 화소값들의 연속길이를 나타내는 회색도 연속길이 행렬(GLRLM; Gray Level RunLength Matrix)로 변환하고;
상기 회색도 연속길이 행렬의 화소값들을 기반으로 GLRLM 특징을 추출하고; 그리고
상기 화소 특징, 상기 GLCM 특징 및 상기 GLRLM 특징을 기계학습 모델에 적용하여 피부 질환을 분류하도록 구성되는 피부 질환 자동 분류 장치.
In the skin disease automatic classification apparatus comprising at least one processor,
The at least one processor,
Converting a dermatoscopy image taken of a skin lesion by dermoscopy into a binary image;
Detecting an object having a size smaller than that of the skin lesion in the binary image;
Removing noise including hair and dead skin cells based on the difference in size between the skin lesion and the object;
Converting a pixel value of normal skin to 0 in the dermatoscope image to extract a region of interest including only skin lesions;
Calculating a histogram of brightness values of pixels in the region of interest and statistically analyzing the histogram to extract pixel features;
Converting the pixel values of the image into a gray-level co-occurrence matrix (GLCM) representing the proximity between the pixel values;
Extracting GLCM features based on pixel values of the gray level co-occurrence matrix;
Converting pixel values of the image into a gray level run length matrix (GLRLM) representing a continuous length of the pixel values;
Extracting GLRLM features based on the pixel values of the gray level continuous length matrix; And
An automatic skin disease classification apparatus configured to classify skin diseases by applying the pixel characteristics, the GLCM characteristics, and the GLRLM characteristics to a machine learning model.
제9항에 있어서,
상기 화소 특징은 상기 영상의 화소값들의 평균, 표준편차, 스큐(skew), 커토시스(kurtosis), 엔트로피(entropy) 및 제곱평균제곱근(root mean square)을 포함하는 피부 질환 자동 분류 장치.
The method of claim 9,
The pixel feature is an automatic skin disease classification apparatus including a mean, standard deviation, skew, curtosis, entropy, and root mean square of the pixel values of the image.
제9항에 있어서,
상기 GLCM 특징은 상기 회색도 동시발생 행렬의 화소값들의 자가상관관계(auto-correlation), 대조도(contrast), 상관관계(correlation), 비유사도(dissimilarity), 에너지(energy) 및 동질성(homogeneity)을 포함하는 피부 질환 자동 분류 장치.
The method of claim 9,
The GLCM features are auto-correlation, contrast, correlation, dissimilarity, energy, and homogeneity of pixel values of the gray level co-occurrence matrix. Automatic classification device for skin diseases comprising a.
제9항 내지 제11항 중 어느 한 항에 있어서,
상기 GLRLM 특징은 상기 회색도 연속길이 행렬의 화소값들을 기반으로 추출되는 SRE(Short Run Emphasis), LRE(Long Run Emphasis), GLNU(Gray Level Non-Uniformity), RP(Run Percentage), RLNU(Run Length Non-Uniformity) 및 HGLRE(High Gray Level Run Emphasis)를 포함하는 피부 질환 자동 분류 장치.
The method according to any one of claims 9 to 11,
The GLRLM feature is SRE (Short Run Emphasis), LRE (Long Run Emphasis), GLNU (Gray Level Non-Uniformity), RP (Run Percentage), RLNU (Run Percentage) extracted based on the pixel values of the gray level matrix. Automatic classification device for skin diseases including Length Non-Uniformity) and High Gray Level Run Emphasis (HGLRE).
제9항 내지 제11항 중 어느 한 항에 있어서,
상기 기계학습 모델은 서포트 벡터 머신(SVM; Support Vector Machine) 모델을 포함하는 피부 질환 자동 분류 장치.
The method according to any one of claims 9 to 11,
The machine learning model is an automatic skin disease classification apparatus including a support vector machine (SVM) model.
삭제delete 제9항 내지 제11항 중 어느 한 항에 있어서,
상기 적어도 하나의 프로세서는,
흑색종 영상들 및 모반증 영상들을 포함하는 학습 영상 데이터를 이용하여 상기 화소 특징, 상기 GLCM 특징 및 상기 GLRLM 특징을 학습하여 상기 기계학습 모델을 생성하고; 그리고
상기 학습 영상 데이터를 이용하여 학습된 상기 기계학습 모델을 기반으로 상기 피부 병변을 흑색종과 모반증 중 어느 하나로 분류하도록 구성되는 피부 질환 자동 분류 장치.
The method according to any one of claims 9 to 11,
The at least one processor,
Generating the machine learning model by learning the pixel feature, the GLCM feature, and the GLRLM feature using training image data including melanoma images and nevus images; And
An automatic skin disease classification apparatus configured to classify the skin lesion into either melanoma or nevus based on the machine learning model learned using the training image data.
KR1020190024142A 2018-02-28 2019-02-28 Apparatus and method for Auto classification of skin disease KR102208087B1 (en)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020180024342 2018-02-28
KR20180024342 2018-02-28

Publications (2)

Publication Number Publication Date
KR20190104001A KR20190104001A (en) 2019-09-05
KR102208087B1 true KR102208087B1 (en) 2021-01-27

Family

ID=67805902

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020190024142A KR102208087B1 (en) 2018-02-28 2019-02-28 Apparatus and method for Auto classification of skin disease

Country Status (2)

Country Link
KR (1) KR102208087B1 (en)
WO (1) WO2019168381A1 (en)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102416828B1 (en) * 2020-12-28 2022-07-05 주식회사 래디센 Method and system for real-time automatic X-ray Raw Image reading
KR102481763B1 (en) 2022-03-31 2022-12-26 한국외국어대학교 연구산학협력단 Apparatus and method for skin lesion classification

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7347365B2 (en) * 2003-04-04 2008-03-25 Lumidigm, Inc. Combined total-internal-reflectance and tissue imaging systems and methods
KR100948406B1 (en) * 2007-11-13 2010-03-19 성균관대학교산학협력단 Chicken carcass quality grade automatic decision and weight measuring system
KR101436988B1 (en) * 2013-01-23 2014-09-05 경일대학교산학협력단 Method and Apparatus of Skin Pigmentation Detection Using Projection Transformed Block Coefficient
KR101812406B1 (en) * 2016-03-16 2017-12-27 동국대학교 산학협력단 The method and system for diagnosing skin disease

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
Classifying Cyst and Tumor Lesion Using Support Vector Machine Based on Dental Panoramic Images Texture Features, 2013.02.*

Also Published As

Publication number Publication date
WO2019168381A1 (en) 2019-09-06
KR20190104001A (en) 2019-09-05

Similar Documents

Publication Publication Date Title
Amin et al. A review on recent developments for detection of diabetic retinopathy
JP5980555B2 (en) Image processing apparatus, operation method of image processing apparatus, and image processing program
Lee et al. Detection of neovascularization based on fractal and texture analysis with interaction effects in diabetic retinopathy
Derwin et al. A novel automated system of discriminating Microaneurysms in fundus images
Marques et al. On the role of texture and color in the classification of dermoscopy images
CN110838114B (en) Pulmonary nodule detection method, device and computer storage medium
Noya et al. Automated angiodysplasia detection from wireless capsule endoscopy
KR102208087B1 (en) Apparatus and method for Auto classification of skin disease
Hatanaka et al. Improvement of automated detection method of hemorrhages in fundus images
Munia et al. Automatic diagnosis of melanoma using linear and nonlinear features from digital image
Sudarshan et al. An integrated index for automated detection of infarcted myocardium from cross-sectional echocardiograms using texton-based features (Part 1)
CN114170473A (en) Method and system for classifying dMMR subtypes based on pathological images
Kumar et al. Automatic detection of red lesions in digital color retinal images
Sindhu et al. Automatic detection of colonic polyps and tumor in wireless capsule endoscopy images using hybrid patch extraction and supervised classification
Arnold et al. Indistinct frame detection in colonoscopy videos
Chandrappa et al. A novel approach to glaucoma screening using optic nerve head through image fusion and fractal geometry
Thamizhvani et al. Identification of Skin Tumours using Statistical and Histogram Based Features.
Sindhu et al. A novel method for automatic detection of inflammatory bowel diseases in wireless capsule endoscopy images
CN112950601A (en) Method, system and storage medium for screening pictures for esophageal cancer model training
Giancardo et al. Bright retinal lesions detection using color fundus images containing reflective features
Millenia et al. Melanoma Detection using Convolutional Neural Network with Transfer Learning on Dermoscopic and Macroscopic Images
Dongye et al. An improved U-Net method with high-resolution feature maps for retinal blood vessel segmentation
Audytra et al. Application of dynamic segmentation in stroke detection software with ANN
KR102183073B1 (en) Apparatus and method for selecting tomography image for dementia decision
CN116206759B (en) Mental health assessment device, equipment and storage medium based on image analysis

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant