KR102283443B1 - 광 간섭 단층 영상 기반의 고위험 병변 진단 시스템 및 이의 진단 방법 - Google Patents

광 간섭 단층 영상 기반의 고위험 병변 진단 시스템 및 이의 진단 방법 Download PDF

Info

Publication number
KR102283443B1
KR102283443B1 KR1020190095168A KR20190095168A KR102283443B1 KR 102283443 B1 KR102283443 B1 KR 102283443B1 KR 1020190095168 A KR1020190095168 A KR 1020190095168A KR 20190095168 A KR20190095168 A KR 20190095168A KR 102283443 B1 KR102283443 B1 KR 102283443B1
Authority
KR
South Korea
Prior art keywords
risk
region
lesion
oct
feature
Prior art date
Application number
KR1020190095168A
Other languages
English (en)
Other versions
KR20210016861A (ko
Inventor
강수진
민현석
Original Assignee
재단법인 아산사회복지재단
울산대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 재단법인 아산사회복지재단, 울산대학교 산학협력단 filed Critical 재단법인 아산사회복지재단
Priority to KR1020190095168A priority Critical patent/KR102283443B1/ko
Priority to US17/633,113 priority patent/US20220335601A1/en
Priority to PCT/KR2020/010331 priority patent/WO2021025459A1/ko
Publication of KR20210016861A publication Critical patent/KR20210016861A/ko
Application granted granted Critical
Publication of KR102283443B1 publication Critical patent/KR102283443B1/ko

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0059Measuring for diagnostic purposes; Identification of persons using light, e.g. diagnosis by transillumination, diascopy, fluorescence
    • A61B5/0062Arrangements for scanning
    • A61B5/0066Optical coherence imaging
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/02Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
    • A61B5/02007Evaluating blood vessel condition, e.g. elasticity, compliance
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/02Detecting, measuring or recording pulse, heart rate, blood pressure or blood flow; Combined pulse/heart-rate/blood pressure determination; Evaluating a cardiovascular condition not otherwise provided for, e.g. using combinations of techniques provided for in this group with electrocardiography or electroauscultation; Heart catheters for measuring blood pressure
    • A61B5/02007Evaluating blood vessel condition, e.g. elasticity, compliance
    • A61B5/02021Determining capillary fragility
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7235Details of waveform analysis
    • A61B5/7264Classification of physiological signals or data, e.g. using neural networks, statistical classifiers, expert systems or fuzzy systems
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7235Details of waveform analysis
    • A61B5/7264Classification of physiological signals or data, e.g. using neural networks, statistical classifiers, expert systems or fuzzy systems
    • A61B5/7267Classification of physiological signals or data, e.g. using neural networks, statistical classifiers, expert systems or fuzzy systems involving training the classification device
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7271Specific aspects of physiological measurement analysis
    • A61B5/7275Determining trends in physiological measurement data; Predicting development of a medical condition based on physiological measurements, e.g. determining a risk factor
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7271Specific aspects of physiological measurement analysis
    • A61B5/7278Artificial waveform generation or derivation, e.g. synthesising signals from measured signals
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/74Details of notification to user or communication with user or patient ; user input means
    • A61B5/7475User input or interface means, e.g. keyboard, pointing device, joystick
    • A61B5/748Selection of a region of interest, e.g. using a graphics tablet
    • A61B5/7485Automatic selection of region of interest
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • G06T7/0014Biomedical image inspection using an image reference approach
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/20ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B2576/00Medical imaging apparatus involving image processing or analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • G06T2207/10101Optical tomography; Optical coherence tomography [OCT]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30048Heart; Cardiac
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30096Tumor; Lesion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30101Blood vessel; Artery; Vein; Vascular

Landscapes

  • Health & Medical Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Medical Informatics (AREA)
  • Public Health (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Physics & Mathematics (AREA)
  • Pathology (AREA)
  • Biophysics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Veterinary Medicine (AREA)
  • Animal Behavior & Ethology (AREA)
  • Surgery (AREA)
  • Molecular Biology (AREA)
  • Artificial Intelligence (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physiology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Psychiatry (AREA)
  • Theoretical Computer Science (AREA)
  • Signal Processing (AREA)
  • Data Mining & Analysis (AREA)
  • Epidemiology (AREA)
  • Primary Health Care (AREA)
  • Software Systems (AREA)
  • Evolutionary Computation (AREA)
  • Mathematical Physics (AREA)
  • General Physics & Mathematics (AREA)
  • Databases & Information Systems (AREA)
  • Vascular Medicine (AREA)
  • Cardiology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Fuzzy Systems (AREA)
  • Quality & Reliability (AREA)
  • Image Analysis (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)

Abstract

본 발명은 딥 러닝을 통한 인공지능 모델을 이용하여 취약성 죽상반과 같은 고위험 병변을 진단하기 위한 OCT 기반 시스템을 제공하는 것을 목적으로 한다. 본 발명의 관상동맥의 고위험 병변을 진단하는 딥러닝 기반 진단 방법은 환자의 관상동맥 병변에 대한 OCT(Optical Coherence Tomography) 영상을 획득하고, OCT 영상에서 얇은 막(thin cap)에 관한 제1 특징을 추출하고, 제1 특징을 기초로 OCT 영상에 포함된 관심영역을 설정하고, 관심 영역이 고위험 병변을 포함하는지 여부를 판단할 수 있다.

Description

광 간섭 단층 영상 기반의 고위험 병변 진단 시스템 및 이의 진단 방법{High-risk diagnosis system based on Optical Coherence Tomography and the diagnostic method thereof}
본 발명은 기계 학습 알고리즘을 활용하여 인간 두뇌의 인지, 판단 등의 기능을 모사하는 인공 지능(Artificial Intelligence, AI) 시스템 및 그 응용에 관한 것이다.
구체적으로, 본 발명은 광 간섭 단층 영상을 기반으로 관상 동맥 상 고위험 병변을 진단하는 시스템에 관한 것이다.
근래에는 인간 수준의 지능을 구현하는 인공 지능 시스템이 다양한 분야에서 이용되고 있다. 인공 지능 시스템은 기존의 룰(rule) 기반 스마트 시스템과 달리 기계가 스스로 학습하고 판단하며 똑똑해지는 시스템이다. 인공 지능 시스템은 사용할수록 인식률이 향상되고 사용자 취향을 보다 정확하게 이해할 수 있게 되어, 기존 룰 기반 스마트 시스템은 점차 딥러닝 기반 인공 지능 시스템으로 대체되고 있다. 인공 지능 기술은 기계학습(예로, 딥러닝) 및 기계학습을 활용한 요소 기술들로 구성된다.
한편, 죽상경화증은 주로 혈관의 가장 안쪽을 덮고 있는 내막(endothelium)에 콜레스테롤이 침착하고 내피세포의 증식이 일어난 결과 ‘죽종(atheroma)’이 형성되는 혈관질환을 말한다. 죽종 내부는 죽처럼 묽어지고 그 주변 부위는 단단한 섬유성 막인 ‘경화반’으로 둘러싸이게 되는데, 죽상 경화반이 불안정하게 되면 파열되어 혈관 내에 혈전(thrombus; 피떡)이 생긴다. 또한, 죽종 안으로 출혈이 일어나는 경우 혈관 내부의 지름이 급격하게 좁아지거나 혈관이 아예 막히게 되고, 그 결과 말초로의 혈액순환에 장애가 생긴다.
심장혈관 내 죽상 경화반(죽상반)의 파열과 이에 수반되는 혈전의 생성은 급성 관상동맥 증후군을 일으키는 주된 원인이다. 상술한 죽상 경화반 중 특히 파열되기 쉬운 취약성 죽상반(예로, TCFA, thin cap fibroatheroma)을 진단하여 심근 경색이나 급사 등 예후를 예측하는 역할이 매우 중요하다.
그러나 TCFA를 정확히 감별하는 것은 전문가의 판독 훈련을 요하며, 혈관당 수백개의 단면 영상을 하나하나 판독하여야 하므로 많은 시간이 소요된다. 또한, 종래에는 심혈관 시술 중 신속하고 정확하게 TCFA에 대한 정량적 정보를 얻는데 한계가 있어왔다.
본 발명은 상술한 필요성에 따른 것으로, 딥 러닝을 통한 인공지능 모델을 이용하여 취약성 죽상반과 같은 고위험 병변을 진단하기 위한 OCT 기반 시스템을 제공하는 것을 목적으로 한다.
그러나 이러한 과제는 예시적인 것으로, 이에 의해 본 발명의 범위가 한정되는 것은 아니다.
본 발명의 일 실시 예에 따른 관상동맥의 고위험 병변을 진단하는 딥러닝 기반 진단 방법에 있어서, 환자의 관상동맥 병변에 대한 OCT(Optical Coherence Tomography) 영상을 획득하는 영상획득 단계; 상기 OCT 영상에서 얇은 막(thin cap)에 관한 제1 특징을 추출하는 특징추출 단계; 상기 제1 특징을 기초로 상기 OCT 영상에 포함된 관심영역을 설정하는 관심 영역설정 단계; 및 상기 관심 영역이 고위험 병변을 포함하는지 여부를 판단하는 고위험판단 단계;를 포함하는 진단 방법.
또한, 상기 제1 특징은 FCT(fibrous cap thickness)에 대한 정보를 포함하고, 상기 특징추출 단계는, 상기 OCT 영상에서 괴사중심에 관한 제2 특징을 추출하는 단계;를 더 포함하고, 상기 고위험판단 단계는 상기 제1 특징 및 상기 제2 특징을 기초로 상기 관심 영역이 TCFA(thin cap fibroatheroma)를 포함하는지 판단할 수 있다.
또한, 상기 관심 영역설정 단계는 상기 관심 영역에 대응하는 마커를 표시할 수 있다.
또한, 상기 진단 방법은, 상기 OCT 영상이 고위험 병변을 포함하는 것으로 판단된 경우, 상기 고위험 병변에 대응하는 영역을 표시하는 병변표시 단계;를 더 포함하고 상기 고위험 병변에 대응하는 영역은 TCFA(thin cap fibroatheroma)를 포함하는 영역일 수 있다.
또한, 상기 병변표시 단계는 Grad-CAM 및 Guided Grad-CAM 중 적어도 하나를 이용하여 수행할 수 있다.
한편, 관상동맥의 고위험 병변을 진단하는 진단 장치에 있어서, 환자의 관상동맥 병변에 대한 OCT(Optical Coherence Tomography) 영상을 획득하는 영상 획득부; 상기 OCT 영상에서 얇은 막(thin cap)에 관한 제1 특징을 추출하는 특징 추출부; 상기 제1 특징을 기초로 상기 OCT 영상에 포함된 관심영역을 설정하는 관심 영역 설정부; 및 상기 관심 영역이 고위험 병변을 포함하는지 여부를 판단하는 고위험 판단부;를 포함할 수 있다.
전술한 것 외의 다른 측면, 특징, 이점은 이하의 발명을 실시하기 위한 구체적인 내용, 청구범위 및 도면으로부터 명확해질 것이다.
상기한 바와 같이 이루어진 본 발명의 일 실시예에 따르면, 높은 해상도를 가진 OCT 영상을 통해 관상동맥 죽상경화반(콜레스테롤 덩어리)의 미세 구조 평가가 가능하다.
즉, 본 발명의 OCT를 통한 딥러닝 고위험 병변 진단 장치는 보다 더 작은 굵기의 관을 사용하여 거의 막혀버린 관상동맥에서도 죽상 경화반의 평가가 가능하고, 높은 해상도를 보임으로써 혈전을 보다 정확하게 구별해낼 수 있다는 효과가 있다.
또한, OCT를 이용함으로써, 관상동맥 중재 시술 후 생길 수 있는 문제점인 혈전증이나 재협착이 생기지 않도록 해주며 시술 후의 혈관 반응을 보다 정확하게 평가할 수 있다.
한편, 본 발명은 많은 표본의 OCT 영상을 딥러닝의 학습 데이터(또는 훈련 샘플)로 사용하기 때문에 신속하고, 정확한 취약성 죽상 경화반의 진단이 가능하며, 파열되기 쉬운 죽상경화반을 미리 알아내어 관상동맥 질환 치료에 큰 도움이 될 수 있다.
물론 이러한 효과에 의해 본 발명의 범위가 한정되는 것은 아니다.
도 1은 본 발명의 일 실시예예 따른 고위험 병변 진단 시스템을 도시한 시스템도이다.
도 2는 본 발명의 일 실시예에 따른 고위험 병변 진단 장치(100)의 구성요소를 설명하기 위한 간단한 블록도이다.
도 3은 본 발명의 일 실시예에 따른 프로세서의 내부 구성을 블록도로 나타낸 것이다.
도 4 는 본 발명의 일 실시예에 따른 OCT 영상 데이터를 이용한 고위험 병변 진단 방법을 설명하기 위한 흐름도이다.
도 5는 본 발명의 일 실시예에 따른 인공지능 모델을 학습시키기 위한 샘플 및 기준 특성(baseline characteristics)을 설명하기 위한 도면이다.
도 6은 본 발명의 일 실시예에 따른 CNN 기반의 인공지능 모델에 OCT 영상 데이터를 학습 데이터로 입력한 경우 수행되는 프로세스를 설명하기 위한 도면이다.
도 7a 내지 도 8b는 본 발명의 일 실시예에 따른 인공지능 모델에 의해 관심 영역 및 Grad-CAM이 표시된 OCT 영상을 도시한 도면이다.
도 9은 본 발명의 일 실시예에 따른 인공지능 모델의 고위험성 병변 진단 성능을 설명하기 위한 도면이다.
도 10은 본 발명의 다양한 실시예에 따른 학습부 및 인식부를 나타내는 블록도이다.
이하, 본 개시의 다양한 실시예가 첨부된 도면과 연관되어 기재된다. 본 개시의 다양한 실시예는 다양한 변경을 가할 수 있고 여러 가지 실시예를 가질 수 있는바, 특정 실시예들이 도면에 예시되고 관련된 상세한 설명이 기재되어 있다. 그러나 이는 본 개시의 다양한 실시예를 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 개시의 다양한 실시예의 사상 및 기술 범위에 포함되는 모든 변경 및/또는 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 구성요소에 대해서는 유사한 참조 부호가 사용되었다.
본 개시의 다양한 실시예에서 사용될 수 있는 "포함한다" 또는 "포함할 수 있다" 등의 표현은 개시(disclosure)된 해당 기능, 동작 또는 구성요소 등의 존재를 가리키며, 추가적인 하나 이상의 기능, 동작 또는 구성요소 등을 제한하지 않는다. 또한, 본 개시의 다양한 실시예에서, "포함하다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
본 개시의 다양한 실시예에서 "또는" 등의 표현은 함께 나열된 단어들의 어떠한, 그리고 모든 조합을 포함한다. 예를 들어, "A 또는 B"는, A를 포함할 수도, B를 포함할 수도, 또는 A 와 B 모두를 포함할 수도 있다.
본 개시의 다양한 실시예에서 사용된 "제1", "제2", "첫째", 또는 "둘째" 등의 표현들은 다양한 실시예들의 다양한 구성요소들을 수식할 수 있지만, 해당 구성요소들을 한정하지 않는다. 예를 들어, 상기 표현들은 해당 구성요소들의 순서 및/또는 중요도 등을 한정하지 않는다. 상기 표현들은 한 구성요소를 다른 구성요소와 구분하기 위해 사용될 수 있다. 예를 들어, 제1 사용자 기기와 제2 사용자 기기는 모두 사용자 기기이며, 서로 다른 사용자 기기를 나타낸다. 예를 들어, 본 개시의 다양한 실시예의 권리 범위를 벗어나지 않으면서 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소도 제1 구성요소로 명명될 수 있다.
어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 상기 어떤 구성요소와 상기 다른 구성요소 사이에 새로운 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 상기 어떤 구성요소와 상기 다른 구성요소 사이에 새로운 다른 구성요소가 존재하지 않는 것으로 이해될 수 있어야 할 것이다.
본 개시의 실시 예에서 "모듈", "유닛", "부(part)" 등과 같은 용어는 적어도 하나의 기능이나 동작을 수행하는 구성요소를 지칭하기 위한 용어이며, 이러한 구성요소는 하드웨어 또는 소프트웨어로 구현되거나 하드웨어 및 소프트웨어의 결합으로 구현될 수 있다. 또한, 복수의 "모듈", "유닛", "부(part)" 등은 각각이 개별적인 특정한 하드웨어로 구현될 필요가 있는 경우를 제외하고는, 적어도 하나의 모듈이나 칩으로 일체화되어 적어도 하나의 프로세서로 구현될 수 있다.
본 개시의 다양한 실시예에서 사용한 용어는 단지 특정일 실시예를 설명하기 위해 사용된 것으로, 본 개시의 다양한 실시예를 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다.
다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 본 개시의 다양한 실시예가 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가지고 있다.
일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥상 가지는 의미와 일치하는 의미를 가지는 것으로 해석되어야 하며, 본 개시의 다양한 실시예에서 명백하게 정의되지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.
이하에서, 첨부된 도면을 이용하여 본 발명의 다양한 실시 예들에 대하여 구체적으로 설명한다.
도 1은 본 발명의 일 실시예예 따른 고위험 병변 진단 시스템을 도시한 시스템도이다.
고위험 병변 진단 장치(100)는 환자의 관상동맥에 발생한 허혈 병변을 예측 및 진단하기 위한 장치이다.
고위험 병변인지 여부는 얇은 막 섬유죽상반(이하, TCFA; Thin-cap fibroatheroma)가 있는지에 의해 확인 가능하다. 구체적으로, TCFA의 존재 유무는 부정적 심장 결과와 관련하여 FFR 등과 같은 다른 지표와 별도의 예측 인자이다. 특히, TCFA 함유 병변은 관상동맥 중재시술 중에 있어서 말단혈관폐색(distal embolization)의 리스크 증가 및 수술 부위 심근 경색(periprocedural myocardial infarction)과 연관성을 가진다.
이때, TCFA는 거대한 괴사중심(necrotic core), 거품대식세포(foamy macropharge) 침윤(infiltration) 및 섬유 막(fibrous cap)의 두께가 65um 이하의 두께를 특징으로 한다.
한편, 본 발명의 고위험 병변 진단 장치(100)는 TCFA 함유 병변 여부를 식별하기 위한 섬유성 캡 두께(이하 FCT; Fibrous cap thickness)에 대한 정보를 포함하는 광 간섭 단층 영상(이하 OCT; Optical coherence tomography)을 이용할 수 있다.
구체적으로 본 발명의 고위험 병변 진단 장치(100)는 딥러닝(예로 CNN; Convolution Neural Network)을 활용한 역전파를 통해 자동으로 OCT 세분화, 조직 분류 및 죽종(atheroma) 검출을 수행할 수 있다. 이에 따라, 고위험 병변 진단 장치(100)는 해당 병변이 TCFA를 포함하는 고위험 병변인지 여부를 진단할 수 있다.
본 발명의 OCT(Optical Coherence Tomography, OCT)는 기존의 혈관 내 초음파보다 약 10배나 좋은 해상도를 가지고 있어서 관상동맥 죽상경화반(콜레스테롤 덩어리)의 미세 구조 평가가 가능하다.
종래의 혈관 내 초음파방식으로는 미세 구조의 죽상경화반을 평가하는데 한계가 있다. 본 발명의 OCT를 통한 딥러닝 고위험 병변 진단 장치(100)는 보다 더 작은 굵기의 관을 사용하여 거의 막혀버린 관상동맥에서도 죽상 경화반의 평가가 가능하고, 높은 해상도를 보임으로써 혈전을 보다 정확하게 구별해낼 수 있다는 효과가 있다.
관상동맥 병변의 정확한 평가와 혈전 및 불안정형 죽상동맥 경화반의 발견할 수 있다는 점 이 외 OCT의 특장점은 관상동맥 중재 시술 후 생길 수 있는 문제점인 혈전증이나 재협착이 생기지 않도록 해주며 시술 후의 혈관 반응을 보다 정확하게 평가할 수 있다.
서버(200)는 인공지능 모델을 학습 및 갱신하고, 인공지능 모델을 통한 예측을 수행하기 위한 적어도 하나의 외부 서버이다.
본 발명의 일 실시예에 따른 서버(200)는 OCT 영상에 대한 혈관 경계 영상을 추출하기 위한 인공지능 모델을 포함할 수 있다.
이때, 인공지능 모델은 OCT 영상이 입력되면, 관상동맥 병변이 TCFA를 포함하는 고위험 병변인지 여부에 대하여 출력할 수 있다. 이때, 인공지능 모델은 OCT 영상 상의 형태학적 특징, 계산적 특징 및 임상적 특징을 고려할 수 있다.
인공지능 모델은 OCT 영상에 포함된 병변이 TCFA인지 유사(mimic) TCFA인지 여부를 구분하는 것에 대해 집중적인 학습이 수행된 것일 수 있다. 이에 대해 자세한 내용은 추후에 설명하기로 한다.
도 1에서는 고위험 병변 진단 장치(100)와 서버(200)가 별도의 구성으로 구현된 것을 도시하였으나, 본 발명의 일 실시예에 따르면 하나의 구성으로 구현된 것일 수 있다. 즉, 일 실시예에 따르면, 고위험 병변 진단 장치(100)가 인공지능 모델을 직접 학습, 갱신하는 온 디바이스(on-device) AI 장치일 수 있다. 이하에서는 설명의 편의를 위하여 고위험 병변 진단 장치(100)가 온 디바이스 AI 장치인 것을 전제로 설명한다.
도 2는 본 발명의 일 실시예에 따른 고위험 병변 진단 장치(100)의 구성요소를 설명하기 위한 간단한 블록도이다.
도 2를 참조하면, 고위험 병변 진단 장치(100)는 영상 획득부(110), 영상 처리부(120), 메모리(130), 통신부(140) 및 상술한 구성요소와 전기적으로 연결되어 제어하는 프로세서(150)를 포함할 수 있다.
영상 획득부(110)는 다양한 소스를 통해 OCT 영상 데이터를 획득할 수 있다. 예로, 영상 획득부(110)는 상용 스캐너로 구현되어 관상동맥 내를 스캐닝하여 OCT 영상을 획득할 수 있다. 영상 획득부(110)를 통해 획득된 영상 데이터는 영상 처리부(120)에서 처리될 수 있다.
영상 처리부(120)는 영상 획득부(110)를 통해 획득한 영상 데이터에 대한 처리를 수행할 수 있다. 영상 처리부(120)에서는 영상 데이터에 대한 디코딩, 스케일링, 노이즈 필터링, 프레임 레이트 변환 또는 해상도 변환 등과 같은 다양한 이미지 처리를 수행할 수 있다.
메모리(130)는 프로세서(150)의 처리 또는 제어를 위한 프로그램 등 고위험 병변 진단 장치(100) 전반의 동작을 위한 다양한 데이터를 저장할 수 있다. 메모리(130)는 고위험 병변 진단 장치(100)에서 구동되는 다수의 응용 프로그램(application program 또는 애플리케이션(application)), 고위험 병변 진단 장치(100)의 동작을 위한 데이터들, 명령어들을 저장할 수 있다. 이러한 응용 프로그램 중 적어도 일부는, 무선 통신을 통해 외부 서버로부터 다운로드 될 수 있다.
또한, 이러한 응용 프로그램 중 적어도 일부는, 고위험 병변 진단 장치(100)의 기본적인 기능을 위하여 출고 당시부터 고위험 병변 진단 장치(100) 상에 존재할 수 있다. 응용 프로그램은, 메모리(130)에 저장되고, 프로세서(150)에 의하여 고위험 병변 진단 장치(100)의 동작(또는 기능)을 수행하도록 구동될 수 있다. 특히, 메모리(130)는 일 예로, 프로세서(150)에 포함된 롬(ROM), 램(RAM) 등의 내부 메모리로 구현되거나, 프로세서(150)와 별도의 메모리로 구현될 수도 있다.
통신부(140)는 다양한 유형의 통신방식에 따라 다양한 유형의 외부 장치와 통신을 수행하는 구성일 수 있다. 통신부(140)는 와이파이칩, 블루투스 칩, 무선 통신 칩, NFC 칩 중 적어도 하나를 포함할 수 있다. 프로세서(150)는 통신부(140)를 이용하여 서버(200) 또는 각종 외부 장치와 통신을 수행할 수 있다.
특히, 와이파이 칩이나 블루투스 칩을 이용하는 경우에는 SSID 및 세션 키 등과 같은 각종 연결 정보를 먼저 송수신하여, 이를 이용하여 통신 연결한 후 각종 정보들을 송수신할 수 있다. 무선통신 칩은 IEEE, Zigbee, 3G(3rd Generation), 3GPP(3rd Generation Partnership Project), LTE(Long Term Evolution) 등과 같은 다양한 통신 규격에 따라 통신을 수행하는 칩을 의미한다. NFC 칩은 135kHz, 13.56MHz, 433MHz, 860~960MHz, 2.45GHz 등과 같은 다양한 RF-ID 주파수 대역들 중에서 13.56MHz 대역을 사용하는 NFC(Near Field Communication) 방식으로 동작하는 칩을 의미한다.
프로세서(150)는 고위험 병변 진단 장치(100)를 전반적으로 제어하기 위한 구성이다. 구체적으로, 프로세서(150)는 고위험 병변 진단 장치(100)의 메모리(130)에 저장된 각종 프로그램을 이용하여 고위험 병변 진단 장치(100)의 전반적인 동작을 제어한다. 예를 들어, 프로세서(150)는 CPU, 램(RAM), 롬(ROM), 시스템 버스를 포함할 수 있다. 여기서, 롬은 시스템 부팅을 위한 명령어 세트가 저장되는 구성이고, CPU는 롬에 저장된 명령어에 따라 고위험 병변 진단 장치(100)의 메모리에 저장된 운영체제를 램에 복사하고, O/S를 실행시켜 시스템을 부팅시킨다. 부팅이 완료되면, CPU는 메모리(130)에 저장된 각종 애플리케이션을 램에 복사하고, 실행시켜 각종 동작을 수행할 수 있다. 이상에서는 프로세서(150)가 하나의 CPU만을 포함하는 것으로 설명하였지만, 구현 시에는 복수의 CPU(또는 DSP, SoC 등)으로 구현될 수 있다.
본 발명의 일 실시 예에 따라, 프로세서(150)는 디지털 신호를 처리하는 디지털 시그널 프로세서(digital signal processor(DSP), 마이크로 프로세서(microprocessor), TCON(Time controller)으로 구현될 수 있다. 다만, 이에 한정되는 것은 아니며, 중앙처리장치(central processing unit(CPU)), MCU(Micro Controller Unit), MPU(micro processing unit), 컨트롤러(controller), 어플리케이션 프로세서(application processor(AP)), 또는 커뮤니케이션 프로세서(communication processor(CP)), ARM 프로세서 중 하나 또는 그 이상을 포함하거나, 해당 용어로 정의될 수 있다. 또한, 프로세서(150)는 프로세싱 알고리즘이 내장된 SoC(System on Chip), LSI(large scale integration)로 구현될 수도 있고, FPGA(Field Programmable gate array) 형태로 구현될 수도 있다.
도 3은 본 발명의 일 실시예에 따른 프로세서의 내부 구성을 블록도로 나타낸 것이다.
도 3을 참조하면, 본 발명의 프로세서(150)는 특징 추출부(151), 관심영역 설정부(152), 고위험병변 판단부(153) 및 병변 표시부(154)를 포함할 수 있다.
본 발명의 특징 추출부(151), 관심영역 설정부(152), 고위험병변 판단부(153) 및 병변 표시부(154)는 메모리(130)에 저장되어 프로세서(150)에 의해 구동되는 별도의 소프트웨어 모듈을 통해 구현될 수 있다. 소프트웨어 모듈들 각각은 본 명세서에서 설명되는 하나 이상의 기능 및 동작을 수행할 수 있다. 또한, 각각의 구성은 별도의 모듈로 구현될 수도 있고, 하나의 모듈로 구현된 것일 수도 있다.
한편, 상술한 바와 같이 본 발명의 또 다른 실시예에 따르면, 특징 추출부(151), 관심영역 설정부(152), 고위험병변 판단부(153) 및 병변 표시부(154)는 서버(200)에 포함된 프로세서(미도시)에 포함된 구성일 수 있음은 물론이다.
도 4 는 본 발명의 일 실시예에 따른 OCT 영상 데이터를 이용한 고위험 병변 진단 방법을 설명하기 위한 흐름도이다.
이하에서는, 도 2 내지 도 4 를 함께 참조하여 본 발명의 진단 방법을 설명하기로 한다.
본 발명의 영상 획득부(110)는 OCT 영상 데이터를 획득할 수 있다(S410). OCT 영상은 니트로 글리세린을 투여 후 카테터를 20mm/s의 속도로 풀백(pullback)하면서 획득된 것일 수 있다. 이때, 병변은 최대 두께가 0.5mm 이상인 플라크를 포함할 수 있다.
이때, OCT는 비침습적인 영상기법으로서 백색광 간섭계로부터 얻은 신호를 분석하여 생체시료의 내부 구조를 현미경에 근접하는 높은 해상도로 획득할 수 있다.
또한, OCT 영상 데이터는 커다란 지질핵(large lipid -rich core), 죽상경화반을 덮고 있는 얇은 섬유성 막(thin fibrous cap, 두께< 65um), 염증이 활발할 때 나타나는 대식세포가 섬유성 막에 포함되는지 여부(macrophages localized in the fibrous cap) 및 혈관신생(neovascularization) 등에 대한 정보를 포함할 수 있다.
특징 추출부(151)는 획득한 OCT 영상 데이터에서 얇은 막(thin cap)에 대한 특징을 추출할 수 있다(S420). 다만, 이는 일 예에 불과하고 특징 추출부(151)는 괴사중심(necrotic core)에 대한 특징을 추출할 수 있다.
구체적으로 특징 추출부(151)는 복수의 OCT 영상을 학습 데이터로 OCT 영상에 포함된 복수의 특징을 추출하도록 훈련된 인공지능 모델을 통해 특징을 추출할 수 있다. 이때, 인공지능 모델은 CNN(Convolution Neural Network)일 수 있으나, 이는 일 실시예에 불과할 뿐, GAN (Generative Adversarial Network), DNN(Deep Neural Network), RNN(Recurrent Neural Network), BRDNN(Bidirectional Recurrent Deep Neural Network)등과 같은 다양한 신경망을 이용할 수 있다.
관심영역 설정부(152)는 특징 추출부(151)에서 얇은 막에 대한 특징을 기초로 관심 영역을 설정할 수 있고(S420), 고위험 병변 판단부(153)는 얇은 막에 대한 특징뿐만 아니라 괴사중심(necrotic core)에 대한 특징 등에 대한 정보를 기초로 TCFA(Thin Cap Fibroatheroma)를 포함하는 고위험 병변인지 여부를 판단할 수 있다(S430).
병변 표시부(153)는 OCT 영상에 포함된 관심 영역을 표시할 수 있고, 나아가 TCFA(thin cap fibroatheroma)를 포함하는 영역을 표시할 수 있다. 이때, 병변 표시부(153)는 Grad-CAM(Gradient-weighted Class Activation Mapping) 및 Guided Grad-CAM 중 적어도 하나를 이용하여 표시를 수행할 수 있다.
이때, Grad-CAM은 CAM의 일반화된 버전으로, CNN에서 마지막 컨볼루션 레이어에 들어오는 그래디언트(gradient) 정보를 사용해서 타겟 레이블에 대해 각 뉴런이 가지는 중요도를 이해한다. CAM은 글로벌 평균 풀링(Global Average Pooling)을 사용하는 인공지능 모델에서만 적용 가능하나, Grad-CAM은 전혀 문제가 없다. Grad-CAM은 특징맵별로 평균을 내기 때문에 피쳐맵 수를 길이로 하는 벡터를 얻게 되고, 이에 따라 히트맵 계산이 가능해진다.
Grad-CAM은 CNN과 같은 인공지능 모델이 해당 리뷰가 긍정(혹은 부정)이라고 판단한 원인을 역전파(backpropagation) 기반 필터 가중치와 컨볼루션 아웃풋 값을 이용해 각 엔트리에 스코어를 부여하는 방식이다. 컨볼루션 아웃풋 값이 결과를 판단하기 위한 소스를 제공할 때, 필터 가중치는 클래스에 의존해 컨볼루션이 제공한 재료에 하이라이팅을 하는 역할을 수행하는 것이다. 즉, Grad CAM은 시각화할 영역에 학습이 되는 과정을 역으로 이용해 모델을 해석할 수 있다.
도 5는 본 발명의 일 실시예에 따른 인공지능 모델을 학습시키기 위한 샘플 및 기준 특성(baseline characteristics)을 설명하기 위한 도면이다.
2010년 5월에서 2016년 5월까지 602명의 환자에 대하여 관상 동맥 병변을 조사했고, OCT 데이터를 획득하였다. 이때, 모든 환자는 혈관 조영 협착의 30 % -85 %를 가진 적어도 하나의 병변을 가지고 있었다. 이후 환자를 무작위로 4:1의 비율로 훈련 샘플(n = 480) 또는 테스트 샘플(n = 122) 로 배정하였다. 또한, 2016년 2월 1일부터 2017년 11월 30일까지 사전 OCT를 시행 한 65명의 중복되지 않은 환자의 데이터를 추가로 사용했다.
훈련 샘플 480개에서 35,678개의 OCT 영상 프레임을 획득하였고, 테스트 샘플 122개에서 9,722 OCT 영상 프레임을 획득하였다. 각각의 OCT 영상 프레임은 0.4mm 간격을 가지며, TCFA의 존재 유무에 따라 분류하였다.
구체적으로, 괴사중심이 90도 이상, FCT가 65um를 TCFA의 임계값으로 지정하였다. 괴사중심과 석회화 모두 신호가 약한 영역을 특징으로 하나, 신호가 약한 영역에서의 확산과 날카로운 여백에 의해 각각 차별화 된다. 대식세포의 축적은 대식세포 표면 밴드 뒤 깊은 층에 꼬리 그림자가 있는 풍부한 반점 위치를 통해 식별될 수 있다.
도 6은 본 발명의 일 실시예에 따른 CNN 기반의 인공지능 모델에 OCT 영상 데이터를 학습 데이터로 입력한 경우 수행되는 프로세스를 설명하기 위한 도면이다.
본 발명의 고위험 병변 진단 장치(100) 내의 CNN 기반의 어플리케이션에 OCT 영상(610)이 입력되면, 고위험 병변 진단 장치(100)는 CNN에 포함된 제1 레이어를 통해 입력영상에 대한 특징 맵을 획득할 수 있다.
이때, 제1 레이어는 서버(200)에서 복수의 영상을 통해 학습된 결과는 바탕으로 설정된 가중치(weight) 또는 컨볼루션 필터를 이용하여 입력된 영상의 특징 맵을 생성하는 컨볼루션 레이어일 수 있으나, 이에 한정하지 않고 상술한 프로세스는 고위험 병변 진단 장치(100) 내에서 수행될 수 있다. 즉, 고위험 병변 진단 장치(100)내에 인공지능 모델이 임베디드 시스템으로 구성되는 경우 특징 맵을 압축하여 저장 용량을 줄일 필요가 있다. 복수의 특징 맵을 압축하여 저장하기 위해, 고위험 병변 진단 장치(100)는 생성된 특징 맵을 룩업 테이블을 통해 변환 및 압축(encoding)할 수 있다. 고위험 병변 진단 장치(100)는 인코딩하여 저장 용량이 감소된 특징 맵(620)을 메모리에 저장할 수 있으며, 필요한 경우 메모리에 저장된 특징 맵을 디코딩할 수 있다. 이때 메모리는 고위험 병변 진단 장치(100)에 포함된 메모리일 수도 있고, 외부 장치 또는 외부 서버에 포함된 메모리일 수도 있다.
한편, 본 발명의 인공지능 모델은 OCT 영상(610)을 컨볼루션하여 획득한 특징맵(620)을 기초로 완전 연결 레이어(fully connected layer)를 통해 분류 결과(630)를 출력할 수 있다. 예를 들어, 인공지능 모델은 경화죽상반이 없는 OCT 영상인 경우 0을 출력하고, 경화죽상반이 있으나 고위험 병변이 아닌 경우 1을 출력할 수 있고, TCFA가 존재하는 고위험 병변인 경우 2를 출력할 수 있다. 다만, 이는 일 예에 불과하고, 일 예에 따르면 TCFA가 존재하지 않는 경우 0을, TCFA가 존재하는 고위험 병변인 경우 1을 출력할 수 있다.
TCFA를 포함하는 OCT 영상을 구분하기 위해서 모든 CNN의 모든 레이어는 전체 네트워크를 통한 역 전파를 통해 미세 조정될 수 있다. 구체적으로, 아담 옵티마이저(Adam optimizer)를 이용하여 초기 학습율을 0.0002로 조정하고, 무작위 추출, 가우시안 노이즈, 탄성 변형, 수직/수평 플립을 사용하였다.
도 7a 내지 도 8b는 본 발명의 일 실시예에 따른 인공지능 모델에 의해 관심 영역 및 Grad-CAM이 표시된 OCT 영상을 도시한 도면이다.
도 7a 및 도 8a의 OCT 영상을 참조하면, 고위험 병변 장치(100)는 관심 영역에 대응하는 마커를 표시할 수 있다. 구체적으로, 혈관 루멘 안쪽에서 바깥쪽으로 표시된 흰색 화살표 및 붉은색 화살표는 인공지능 모델이 혈관 중 얇은 막(thin cap)으로 구성된 부분을 표시한 것이다. 또한, 흰색 별표(*) 는 괴사중심(necrotic core)를 표시한 것이다.
이때, 인공지능 모델은 막의 두께가 65um 이하인 부분을 얇은 막에 대한 특징(feature)로 추출되도록 학습된 것일 수 있으나, 이에 한정하지 않는다.
도 7a의 OCT 영상을 참조하면, 흰색 화살표로 표시된 부분은 얇은 막(thin cap)으로 구성된 부분이며, 흰색 별표로 표시된 부분에 괴사중심이 존재하는 것을 알 수 있다. 상술한 바와 같이, 취약성 경화죽상반(예로, TCFA)의 형태학적 특징은 커다란 지질핵(large lipid -rich core) 또는 괴사중심(nectoric core)을 덮고 있는 얇은 섬유성 막(thin fibrous cap)의 경우이다.
이에 따라, 본 발명의 고위험 병변 진단 장치(100)는 흰색 화살표(얇은 막)와 흰색 별표(괴사중심)가 동시에 표시된 부분이 TCFA가 존재하는 것으로 판단할 수 있다.
도 7b는 도 7a와 같은 관심 영역을 기초로 TCFA가 존재하는 부분에 대하여 Grad-CAM을 표시한 것을 도시한다.
본 발명의 고위험 병변 진단 장치(100)는 TCFA의 유무를 표시하기 위해 시각화 기술인 Grad-CAM(gradient-weighted class activation mapping)을 사용할 수 있다. 컨볼루션 레이어의 공간 위치의 중요성을 평가하기 위해 그라디언트를 사용하였고, Grad-CAM은 OCT 이미지의 관심 영역에 하이라이트를 제공하는 위치 맵을 재생성할 수 있다. 임계값이 0.8보다 크면 붉은색으로 코딩되어 핵심 영역으로 간주한다.
본 발명의 인공지능 모델은 그래디언트(gradient) 중 붉은 코드 영역일수록 주의해야할 고위험 병변으로 표시할 수 있다. 도 7b에서는 3시 내지 4시 방향에 TCFA와 같은 고위험 병변이 존재함을 확인할 수 있다.
도 8a의 OCT 영상에서도 마찬가지로, 흰색 화살표 또는 붉은색 화살표로 표시된 부분은 얇은 막(thin cap)으로 구성된 부분이며, 흰색 별표로 표시된 부분에 괴사중심이 존재하는 것을 알 수 있다. 혈관 루멘 바깥 방향에서 안쪽 방향으로 향하는 흰색 화살표는 괴사 중심(necrotic core)이 아닌 석회화(calcification) 된 부분을 의미한다.
상술한 바와 같이, 취약성 경화죽상반(예로, TCFA)의 형태학적 특징은 커다란 지질핵(large lipid -rich core) 또는 괴사중심(nectoric core)을 덮고 있는 얇은 섬유성 막(thin fibrous cap)의 경우이다. 즉, 얇은 막(thin cap)으로 구성되어 있더라도 석회화(calcification) 부분을 덮는 경우에는, TCFA로 분류하지 않는다.
즉, 도 8a의 OCT 영상에서 붉은색 화살표가 가리키는 부분(5시 내지 7시 방향)은 얇은 막으로 구성되어 있지만, 석회화(calcification) 된 부분을 덮고 있는 부분으로 TCFA로 분류하지 않는다. 반면, 흰색 화살표가 가리키는 부분(9시 내지 11시 방향)은 얇은 막으로 구성되면서도, 괴사중심(necrotic core)를 포함하고 있어 TCFA로 분류된다.
도 8b는 도 8a와 같은 관심 영역을 기초로 TCFA가 존재하는 부분에 대하여 Grad-CAM을 표시한 것을 도시한다. 본 발명의 인공지능 모델은 그래디언트(gradient) 중 붉은 코드 영역일수록 주의해야할 고위험 병변으로 표시할 수 있다. 도 8b에서는 9시 내지 11시 방향에 TCFA와 같은 고위험 병변이 존재함을 확인할 수 있다.
도 9은 본 발명의 일 실시예에 따른 인공지능 모델의 고위험성 병변 진단 성능을 설명하기 위한 도면이다.
도 9를 참조하면, 훈련 샘플에서 5겹 교차 유효성 검증을 수행한 딥러닝 모델 또는 인공지능 모델은 병변이 있는 경우, 전체 정확도(overall accuracy)가 91.6 ± 1.7 %, 민감도(sensitivity)가 88.7 ± 3.4 %이고, 특이도(specificity)가 91.8 ± 2.0 % (AUC 0.96 ± 0.01)로 나타났다. 테스트 샘플에서 병변이 있는 경우, 전체 정확도(overall accuracy)는 92.8 % (AUC 0.96)였고, 전체 풀백 이미지의 경우, 전체 정확도(overall accuracy)는 91.3 % (AUC 0.96)를 나타낸다. 각 혈관의 단면 수준 성능을 평균한 경우, 민감도(sensitivity)는 94.5 ± 14.6% 였고, 특이도(specificity)는 92.8 ± 9.2 %였고, 전체 정확도(overall accuracy)는 92.9 ± 7.9 %였다.
TCFA가 존재하는 것으로 분류된 영상 중 활성화된 맵은 대부분 괴사중심 위에 있는 TFC에 위치하였다. 딥러닝 과정에서 그래디언트 기반의 Grad CAM 분석은 예측을 위한 대상 영역을 차별화 시각 맵(class-discriminative visualization map)을 제공할 수 있다. 레드 코딩된(red-coded) 활성화 맵은 대부분 지질 코어를 덮는 얇은 막에 위치하고 있으며, 이를 통해 TCFA 함유 병변을 식별할 수 있다.
도 10은 본 발명의 다양한 실시예에 따른 학습부 및 인식부를 나타내는 블록도이다.
도 10을 참조하면, 프로세서(1000)는 학습부(1010) 및 인식부(1020) 중 적어도 하나를 포함할 수 있다. 도 10의 프로세서(1000)는 도 2의 허혈 병변 진단 장치(100)의 프로세서(150) 또는 서버(200)의 프로세서(미도시)에 대응될 수 있다.
학습부(1010)는 소정의 상황 판단을 위한 기준을 갖는 인식 모델을 생성 또는 학습시킬 수 있다. 학습부(1010)는 수집된 학습 데이터를 이용하여 판단 기준을 갖는 인식 모델을 생성할 수 있다.
일 예로, 학습부(1010)는 다양한 OCT 영상을 학습 데이터로서 이용하여 OCT 영상에 포함된 혈관의 내강에 TCFA가 존재하는지 판단하는 기준을 갖는 객체 인식 모델을 생성, 학습 또는 갱신시킬 수 있다.
또 다른 예로, 학습부(1010)는 다양한 TCFA의 형태학적 특징, 임상적 특징을 학습 데이터로서 이용하여 입력된 영상에 대한 TCFA 존재 여부를 판단하는 기준을 갖는 모델을 생성, 학습 또는 갱신시킬 수 있다.
인식부(1020)는 소정의 데이터를 학습된 인식 모델의 입력 데이터로 사용하여, 목표하는 데이터를 추정할 수 있다.
일 예로, 인식부(1020) 다양한 OCT 영상을 학습된 인식 모델의 입력 데이터로 사용하여 영상에 포함된 TCFA에 대한 Grad-CAM 표시 영상을 획득(또는, 추정, 추론)할 수 있다.
다른 예로, 인식부(1020)는 다양한 OCT에 포함된 TCFA 특징, 임상적 특징을 학습된 인식 모델에 적용하여 TCFA 존재 여부를 추정(또는, 결정, 추론)할 수 있다.
학습부(1010)의 적어도 일부 및 인식부(1020)의 적어도 일부는, 소프트웨어 모듈로 구현되거나 적어도 하나의 하드웨어 칩 형태로 제작되어 전자 장치에 탑재될 수 있다. 예를 들어, 학습부(1010) 및 인식부(1020) 중 적어도 하나는 인공 지능(AI; artificial intelligence)을 위한 전용 하드웨어 칩 형태로 제작될 수도 있고, 또는 기존의 범용 프로세서(예: CPU 또는 application processor) 또는 그래픽 전용 프로세서(예: GPU)의 일부로 제작되어 전술한 각종 전자 장치 또는 객체 인식 장치에 탑재될 수도 있다. 이때, 인공 지능을 위한 전용 하드웨어 칩은 확률 연산에 특화된 전용 프로세서로서, 기존의 범용 프로세서보다 병렬처리 성능이 높아 기계 학습과 같은 인공 지능 분야의 연산 작업을 빠르게 처리할 수 있다.
학습부(1010) 및 인식부(1020)가 소프트웨어 모듈(또는, 인스트럭션(instruction) 포함하는 프로그램 모듈)로 구현되는 경우, 소프트웨어 모듈은 컴퓨터로 읽을 수 있는 판독 가능한 비일시적 판독 가능 기록매체(non-transitory computer readable media)에 저장될 수 있다. 이 경우, 소프트웨어 모듈은 OS(Operating System)에 의해 제공되거나, 소정의 애플리케이션에 의해 제공될 수 있다. 또는, 소프트웨어 모듈 중 일부는 OS(Operating System)에 의해 제공되고, 나머지 일부는 소정의 애플리케이션에 의해 제공될 수 있다.
이 경우, 학습부(1010) 및 인식부(1020)는 하나의 전자 장치에 탑재될 수도 있으며, 또는 별개의 전자 장치들에 각각 탑재될 수도 있다. 예를 들어, 학습부(1010) 및 인식부(1020) 중 하나는 고위험 병변 진단 장치(100)에 포함되고, 나머지 하나는 서버(200)에 포함될 수 있다. 또한, 학습부(1010) 및 인식부(1020)는 유선 또는 무선으로 통하여, 학습부(1010)가 구축한 모델 정보를 인식부(1020)로 제공할 수도 있고, 인식부(1020)로 입력된 데이터가 추가 학습 데이터로서 학습부(1010)로 제공될 수도 있다.
한편, 상술한 본 발명의 다양한 실시 예들에 따른 방법들은, 기존 고위험 병변 진단 장치(100)에 설치 가능한 어플리케이션 형태로 구현될 수 있다.
또한, 상술한 본 발명의 다양한 실시 예들에 따른 방법들은, 기존 고위험 병변 진단 장치(100)에 대한 소프트웨어 업그레이드, 또는 하드웨어 업그레이드 만으로도 구현될 수 있다.
또한, 상술한 본 발명의 다양한 실시예들은 고위험 병변 진단 장치(100)에 구비된 임베디드 서버, 또는 고위험 병변 진단 장치(100)의 외부 서버를 통해 수행되는 것도 가능하다.
한편, 본 발명의 일 실시예에 따르면, 이상에서 설명된 다양한 실시예들은 소프트웨어(software), 하드웨어(hardware) 또는 이들의 조합을 이용하여 컴퓨터(computer) 또는 이와 유사한 장치로 읽을 수 있는 기록매체(computer readable recording medium)에 저장된 명령어를 포함하는 소프트웨어로 구현될 수 있다. 일부 경우에 있어 본 명세서에서 설명되는 실시예들이 프로세서 자체로 구현될 수 있다. 소프트웨어적인 구현에 의하면, 본 명세서에서 설명되는 절차 및 기능과 같은 실시 예들은 별도의 소프트웨어 모듈들로 구현될 수 있다. 소프트웨어 모듈들 각각은 본 명세서에서 설명되는 하나 이상의 기능 및 동작을 수행할 수 있다.
한편, 컴퓨터(computer) 또는 이와 유사한 장치는, 저장 매체로부터 저장된 명령어를 호출하고, 호출된 명령어에 따라 동작이 가능한 장치로서, 개시된 실시 예들에 따른 장치를 포함할 수 있다. 상기 명령이 프로세서에 의해 실행될 경우, 프로세서가 직접, 또는 상기 프로세서의 제어 하에 다른 구성요소들을 이용하여 상기 명령에 해당하는 기능을 수행할 수 있다. 명령은 컴파일러 또는 인터프리터에 의해 생성 또는 실행되는 코드를 포함할 수 있다.
기기로 읽을 수 있는 기록매체는, 비일시적 기록매체(non-transitory computer readable recording medium)의 형태로 제공될 수 있다. 여기서, '비일시적'은 저장매체가 신호(signal)를 포함하지 않으며 실재(tangible)한다는 것을 의미할 뿐 데이터가 저장매체에 반영구적 또는 임시적으로 저장됨을 구분하지 않는다. 이때 비일시적 컴퓨터 판독 가능 매체란 레지스터, 캐쉬, 메모리 등과 같이 짧은 순간 동안 데이터를 저장하는 매체가 아니라 반영구적으로 데이터를 저장하며, 기기에 의해 판독(reading)이 가능한 매체를 의미한다. 비일시적 컴퓨터 판독 가능 매체의 구체적인 예로는, CD, DVD, 하드 디스크, 블루레이 디스크, USB, 메모리카드, ROM 등이 있을 수 있다.
이와 같이 본 발명은 도면에 도시된 실시예를 참고로 설명되었으나 이는 예시적인 것에 불과하며, 당해 기술분야에서 통상의 지식을 가진 자라면 이로부터 다양한 변형 및 균등한 다른 실시예가 가능하다는 점을 이해할 것이다. 따라서 본 발명의 진정한 기술적 보호 범위는 첨부된 청구범위의 기술적 사상에 의하여 정해져야 할 것이다.
10: 고위험 병변 진단 시스템
100: 고위험 병변 진단 장치
110: 영상 획득부
120: 영상 처리부
130: 메모리
140: 통신부
150: 프로세서
200: 서버

Claims (6)

  1. 컴퓨팅 장치에 의하여 수행되는 관상동맥의 고위험 병변을 진단하는 딥러닝 기반 진단 방법에 있어서,
    환자의 관상동맥 병변에 대한 OCT(Optical Coherence Tomography) 영상을 획득하는 영상획득 단계;
    인공지능 모델이 상기 OCT 영상에서 얇은 막(thin cap)에 관한 제1 특징 및 괴사중심에 관한 제2 특징을 추출하는 특징추출 단계;
    상기 인공지능 모델이 상기 제1 특징을 기초로 상기 OCT 영상에 포함된 관심영역을 설정하는 관심 영역설정 단계;
    상기 인공지능 모델이 상기 관심 영역을 상기 제1 특징과 상기 제2 특징을 동시에 갖는 영역인 고위험 병변을 포함하는지 여부에 따라 분류하는 고위험판단 단계; 및
    상기 OCT 영상이 고위험 병변을 포함하는 것으로 판단된 경우, 상기 인공지능 모델이 상기 고위험 병변에 대응하는 영역을 표시하는 병변표시 단계;를 포함하고,
    상기 관심 영역설정 단계는 상기 관심 영역에 대응하는 마커를 표시하고,
    상기 병변표시 단계는 TCFA(thin cap fibroatheroma)를 포함하는 영역을 Grad-CAM을 이용하여 표시하고,
    상기 인공지능 모델은 미리 저장된 학습 데이터 셋으로부터 상기 제1 특징 및 상기 제2 특징을 추출하여, 상기 고위험 병변의 검출 여부에 따라 상기 학습 데이터 셋을 분류하고, 상기 분류된 결과를 평가하여 반복 학습된, 딥러닝 기반 진단 방법.
  2. 제1항에 있어서,
    상기 제1 특징은 FCT(fibrous cap thickness)에 대한 정보를 포함하는 딥러닝 기반 진단 방법.
  3. 삭제
  4. 삭제
  5. 삭제
  6. 관상동맥의 고위험 병변을 진단하는 딥러닝 기반 진단 장치에 있어서,
    환자의 관상동맥 병변에 대한 OCT(Optical Coherence Tomography) 영상을 획득하는 영상 획득부;
    상기 OCT 영상에서 얇은 막(thin cap)에 관한 제1 특징 및 괴사중심에 관한 제2 특징을 추출하는 특징 추출부;
    상기 제1 특징을 기초로 상기 OCT 영상에 포함된 관심영역을 설정하고, 상기 관심영역에 대응하는 마커를 표시하는 관심 영역 설정부;
    상기 관심 영역을 상기 제1 특징과 상기 제2 특징을 동시에 갖는 영역인 고위험 병변을 포함하는지 여부에 따라 분류하는 고위험 판단부; 및
    미리 저장된 학습 데이터 셋으로부터 상기 제1 특징 및 상기 제2 특징을 추출하여, 상기 고위험 병변의 검출 여부에 따라 상기 학습 데이터 셋을 분류하고, 상기 분류된 결과를 평가하여 인공지능 모델을 생성하는 학습부;를 포함하고,
    상기 고위험 판단부는 상기 OCT 영상이 TCFA(thin cap fibroatheroma)를 포함하는 것으로 판단된 경우, TCFA를 포함하는 영역을 Grad-CAM을 이용하여 표시하는, 딥러닝 기반 진단 장치.
KR1020190095168A 2019-08-05 2019-08-05 광 간섭 단층 영상 기반의 고위험 병변 진단 시스템 및 이의 진단 방법 KR102283443B1 (ko)

Priority Applications (3)

Application Number Priority Date Filing Date Title
KR1020190095168A KR102283443B1 (ko) 2019-08-05 2019-08-05 광 간섭 단층 영상 기반의 고위험 병변 진단 시스템 및 이의 진단 방법
US17/633,113 US20220335601A1 (en) 2019-08-05 2020-08-05 Optical coherence tomography-based system for diagnosis of high-risk lesion and diagnosis method therefor
PCT/KR2020/010331 WO2021025459A1 (ko) 2019-08-05 2020-08-05 광 간섭 단층 영상 기반의 고위험 병변 진단 시스템 및 이의 진단 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020190095168A KR102283443B1 (ko) 2019-08-05 2019-08-05 광 간섭 단층 영상 기반의 고위험 병변 진단 시스템 및 이의 진단 방법

Publications (2)

Publication Number Publication Date
KR20210016861A KR20210016861A (ko) 2021-02-17
KR102283443B1 true KR102283443B1 (ko) 2021-07-30

Family

ID=74503199

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020190095168A KR102283443B1 (ko) 2019-08-05 2019-08-05 광 간섭 단층 영상 기반의 고위험 병변 진단 시스템 및 이의 진단 방법

Country Status (3)

Country Link
US (1) US20220335601A1 (ko)
KR (1) KR102283443B1 (ko)
WO (1) WO2021025459A1 (ko)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20220051060A1 (en) * 2020-08-13 2022-02-17 Ohio State Innovation Foundation Methods for creating privacy-protecting synthetic data leveraging a constrained generative ensemble model
KR20220147957A (ko) * 2021-04-28 2022-11-04 자이메드 주식회사 생체 이미지 조직 표시 방법 및 장치
KR102580279B1 (ko) * 2021-10-25 2023-09-19 아주대학교산학협력단 알츠하이머병 진단에 필요한 정보를 제공하는 방법 및 이를 수행하기 위한 장치
KR102648922B1 (ko) * 2022-01-19 2024-03-15 고지환 인공지능 기반의 혈관 학습을 통한 대장 용종 검출 방법 및 장치
KR20230158349A (ko) 2022-05-11 2023-11-20 주식회사 퓨쳐디자인시스템 광간섭 단층 촬영 시스템의 신호처리장치
KR20240039440A (ko) 2022-09-19 2024-03-26 부산대학교 산학협력단 근적외선 광원을 이용한 동맥경화반 성분분석이 가능한 광단층 내시경 시스템 및 이의 제어 방법

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20190159737A1 (en) * 2015-08-14 2019-05-30 Elucid Bioimaging Inc. Methods and systems for utilizing quantitative imaging

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20060265043A1 (en) * 2002-09-30 2006-11-23 Evgenia Mandrusov Method and apparatus for treating vulnerable plaque
CA2675619C (en) * 2007-01-19 2016-08-16 Sunnybrook Health Sciences Centre Scanning mechanisms for imaging probe
KR102070433B1 (ko) * 2013-11-08 2020-01-28 삼성전자주식회사 단층 영상 생성 방법 및 단층 영상 생성 장치
KR20160012038A (ko) * 2014-07-23 2016-02-02 삼성전자주식회사 비교영상을 제시하는 관심영역의 진단 지원 장치 및 방법
US11191490B2 (en) * 2015-12-02 2021-12-07 Siemens Healthcare Gmbh Personalized assessment of patients with acute coronary syndrome
US20200364855A1 (en) * 2017-11-22 2020-11-19 The Trustees Of Columbia University In The City Of New York System, method and computer-accessible medium for classifying breast tissue using a convolutional neural network
US11120548B2 (en) * 2019-04-10 2021-09-14 Case Western Reserve University Assessment of arterial calcifications
GB201906103D0 (en) * 2019-05-01 2019-06-12 Cambridge Entpr Ltd Method and apparatus for analysing intracoronary images

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20190159737A1 (en) * 2015-08-14 2019-05-30 Elucid Bioimaging Inc. Methods and systems for utilizing quantitative imaging

Also Published As

Publication number Publication date
WO2021025459A1 (ko) 2021-02-11
US20220335601A1 (en) 2022-10-20
KR20210016861A (ko) 2021-02-17

Similar Documents

Publication Publication Date Title
KR102283443B1 (ko) 광 간섭 단층 영상 기반의 고위험 병변 진단 시스템 및 이의 진단 방법
Bizopoulos et al. Deep learning in cardiology
Romiti et al. Artificial intelligence (AI) and cardiovascular diseases: an unexpected alliance
US20220296205A1 (en) Ultrasound image-based diagnosis system for coronary artery lesion using machine learning and diagnosis method of same
KR102272413B1 (ko) 관상동맥 혈관조영술 기반의 기계 학습을 통한 허혈 병변 정보 제공 장치, 정보 제공 방법 및 이의 기록매체
KR102306279B1 (ko) 안저 영상판독 지원방법, 안저 영상판독 지원장치 및 이를 포함하는 안저 영상판독 지원 시스템
KR102257295B1 (ko) 초음파 영상 기반의 기계 학습을 통한 취약성 죽상반 진단 시스템 및 이의 진단 방법
Metan et al. Cardiovascular MRI image analysis by using the bio inspired (sand piper optimized) fully deep convolutional network (Bio-FDCN) architecture for an automated detection of cardiac disorders
KR102414994B1 (ko) 안저영상을 이용한 혈관질환 예측 지원방법 및 지원장치, 이를 포함하는 시스템
KR102546290B1 (ko) 초음파 영상 기반의 딥 러닝을 통한 관상동맥 경화반 조직 분석 방법, 장치 및 기록매체
US11783481B2 (en) Identifying vessel occlusions using spatial patterns
Tursynova et al. Deep learning-enabled brain stroke classification on computed tomography images
CN113269711B (zh) 脑图像的处理方法及装置、电子设备和存储介质
Khan et al. RVD: a handheld device-based fundus video dataset for retinal vessel segmentation
JP7315657B2 (ja) 疾患診断治療支援システム
CN114757944A (zh) 一种血管图像的分析方法、装置及存储介质
Preity et al. Automated computationally intelligent methods for ocular vessel segmentation and disease detection: a review
KR102546291B1 (ko) 초음파 영상 기반의 딥 러닝을 통한 관상동맥 스텐트 예측 방법, 장치 및 기록매체
TWI777767B (zh) 基於腦白質的神經血管年齡預測系統及其方法
US20240136062A1 (en) Stroke diagnosis and therapy assistance system, stroke state information providing device, and stroke state information providing program
WO2023119666A1 (ja) 医用画像処理プログラム,医用画像処理方法および情報処理装置
Chan et al. Identifying the occlusion of left subclavian artery with stent based on chest MRI images
CA3206860A1 (en) Processing an arterial doppler ultrasound waveform
Mehralivand et al. AI in Urological Oncology: Prostate Cancer Diagnosis with Magnetic Resonance Imaging
Renatus et al. Retinal Blood Vessel Segmentation Using Feature Vector Encodes

Legal Events

Date Code Title Description
AMND Amendment
E601 Decision to refuse application
X091 Application refused [patent]
AMND Amendment
X701 Decision to grant (after re-examination)