KR20220078013A - 초음파 영상 기반의 딥 러닝을 통한 관상동맥 스텐트 예측 방법, 장치 및 기록매체 - Google Patents

초음파 영상 기반의 딥 러닝을 통한 관상동맥 스텐트 예측 방법, 장치 및 기록매체 Download PDF

Info

Publication number
KR20220078013A
KR20220078013A KR1020200166973A KR20200166973A KR20220078013A KR 20220078013 A KR20220078013 A KR 20220078013A KR 1020200166973 A KR1020200166973 A KR 1020200166973A KR 20200166973 A KR20200166973 A KR 20200166973A KR 20220078013 A KR20220078013 A KR 20220078013A
Authority
KR
South Korea
Prior art keywords
stent
ivus
image
information
procedure
Prior art date
Application number
KR1020200166973A
Other languages
English (en)
Other versions
KR102546291B1 (ko
Inventor
강수진
이준구
민현석
조형주
Original Assignee
재단법인 아산사회복지재단
울산대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 재단법인 아산사회복지재단, 울산대학교 산학협력단 filed Critical 재단법인 아산사회복지재단
Priority to KR1020200166973A priority Critical patent/KR102546291B1/ko
Priority to EP21901038.6A priority patent/EP4257056A1/en
Priority to US18/255,780 priority patent/US20240112343A1/en
Priority to PCT/KR2021/018114 priority patent/WO2022119350A1/ko
Publication of KR20220078013A publication Critical patent/KR20220078013A/ko
Application granted granted Critical
Publication of KR102546291B1 publication Critical patent/KR102546291B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/0464—Convolutional networks [CNN, ConvNet]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/0002—Inspection of images, e.g. flaw detection
    • G06T7/0012—Biomedical image inspection
    • G06T7/0014—Biomedical image inspection using an image reference approach
    • G06T7/0016—Biomedical image inspection using an image reference approach involving temporal comparison
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/52—Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/5215—Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data
    • A61B8/5223—Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data for extracting a diagnostic or physiological parameter from medical diagnostic data
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/08—Detecting organic movements or changes, e.g. tumours, cysts, swellings
    • A61B8/0833—Detecting organic movements or changes, e.g. tumours, cysts, swellings involving detecting or locating foreign bodies or organic structures
    • A61B8/0841—Detecting organic movements or changes, e.g. tumours, cysts, swellings involving detecting or locating foreign bodies or organic structures for locating instruments
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/08—Detecting organic movements or changes, e.g. tumours, cysts, swellings
    • A61B8/0833—Detecting organic movements or changes, e.g. tumours, cysts, swellings involving detecting or locating foreign bodies or organic structures
    • A61B8/085—Detecting organic movements or changes, e.g. tumours, cysts, swellings involving detecting or locating foreign bodies or organic structures for locating body or organic structures, e.g. tumours, calculi, blood vessels, nodules
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/08—Detecting organic movements or changes, e.g. tumours, cysts, swellings
    • A61B8/0891—Detecting organic movements or changes, e.g. tumours, cysts, swellings for diagnosis of blood vessels
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/12—Diagnosis using ultrasonic, sonic or infrasonic waves in body cavities or body tracts, e.g. by using catheters
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/52—Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/5215—Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data
    • A61B8/5238—Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data for combining image data of patient, e.g. merging several images from different acquisition modes into one image
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00—Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/52—Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/5292—Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves using additional data, e.g. patient information, image labeling, acquisition parameters
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/042—Knowledge-based neural networks; Logical representations of neural networks
    • G06N3/0427—
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/09—Supervised learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/0002—Inspection of images, e.g. flaw detection
    • G06T7/0012—Biomedical image inspection
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/10—Segmentation; Edge detection
    • G06T7/11—Region-based segmentation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/10—Segmentation; Edge detection
    • G06T7/12—Edge-based segmentation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/10—Segmentation; Edge detection
    • G06T7/174—Segmentation; Edge detection involving the use of two or more images
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00—Image analysis
    • G06T7/60—Analysis of geometric attributes
    • G06T7/62—Analysis of geometric attributes of area, perimeter, diameter or volume
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/774—Generating sets of training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H20/00—ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance
    • G16H20/40—ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance relating to mechanical, radiation or invasive therapies, e.g. surgery, laser therapy, dialysis or acupuncture
    • G—PHYSICS
    • G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00—ICT specially adapted for the handling or processing of medical images
    • G16H30/40—ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • G—PHYSICS
    • G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/20—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems
    • G—PHYSICS
    • G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/50—ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for simulation or modelling of medical disorders
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/10—Image acquisition modality
    • G06T2207/10132—Ultrasound image
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20081—Training; Learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20084—Artificial neural networks [ANN]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30004—Biomedical image processing
    • G06T2207/30048—Heart; Cardiac
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30004—Biomedical image processing
    • G06T2207/30096—Tumor; Lesion
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/30—Subject of image; Context of image processing
    • G06T2207/30004—Biomedical image processing
    • G06T2207/30101—Blood vessel; Artery; Vein; Vascular
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00—Indexing scheme relating to image or video recognition or understanding
    • G06V2201/03—Recognition of patterns in medical or anatomical images
    • G06V2201/031—Recognition of patterns in medical or anatomical images of internal organs

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Medical Informatics (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Biomedical Technology (AREA)
  • Theoretical Computer Science (AREA)
  • Pathology (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Surgery (AREA)
  • Veterinary Medicine (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Epidemiology (AREA)
  • Primary Health Care (AREA)
  • Animal Behavior & Ethology (AREA)
  • Databases & Information Systems (AREA)
  • Artificial Intelligence (AREA)
  • Software Systems (AREA)
  • Evolutionary Computation (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • General Engineering & Computer Science (AREA)
  • Computational Linguistics (AREA)
  • Quality & Reliability (AREA)
  • Physiology (AREA)
  • Multimedia (AREA)
  • Vascular Medicine (AREA)
  • Geometry (AREA)
  • Urology & Nephrology (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

본 발명의 일 실시예에 따른 딥러닝 기반 스텐트 예측 방법은 타겟 환자의 혈관 영역 중 시술 대상이 되는 영역을 관심 영역으로 설정하고, 상기 관심 영역에 대한 시술 전 IVUS 영상인 제1 IVUS 영상을 획득하는 단계; 상기 제1 IVUS 영상에 대하여 미리 정해진 간격으로 분할된 복수의 제1 IVUS 단면 영상을 획득하는 단계; 상기 타겟 환자에 대한 시술 정보에 관한 특징 정보를 추출하는 단계; 상기 복수의 제1 IVUS 단면 영상에 대하여 혈관 경계 및 내벽 경계가 구분된 마스크 이미지 정보를 획득하는 단계; 및 상기 복수의 제1 IVUS 단면 영상, 상기 특징 정보 및 상기 마스크 이미지 정보를 인공지능 모델에 입력하여 상기 타겟 환자의 시술 후 스텐트 면적을 포함하는 스텐트 시술 경과를 예측하는 단계를 포함한다.

Description

초음파 영상 기반의 딥 러닝을 통한 관상동맥 스텐트 예측 방법, 장치 및 기록매체{Method, Device and recording Medium for Predicting Stent Procedure to Coronary Artery through Ultrasound Image-Based Deap Learning}
본 발명은 딥 러닝 알고리즘을 활용하여 인간 두뇌의 인지, 판단 등의 기능을 모사하는 인공 지능(Artificial Intelligence, AI) 시스템 및 그 응용에 관한 것이다.
구체적으로, 본 발명은 관상동맥에 대한 초음파 영상을 기초로 딥 러닝 알고리즘을 통해 관상동맥 스텐트의 불완전 확장을 예측하고 관상동맥에 대한 최적의 치료기법을 결정하는 방법, 장치 및 기록 매체에 관한 것이다.
근래에는 인간 수준의 지능을 구현하는 인공 지능 시스템이 다양한 분야에서 이용되고 있다. 인공 지능 시스템은 기존의 룰(rule) 기반 스마트 시스템과 달리 기계가 스스로 학습하고 판단하며 똑똑해지는 시스템이다. 인공 지능 시스템은 사용할수록 인식률이 향상되고 사용자 취향을 보다 정확하게 이해할 수 있게 되어, 기존 룰 기반 스마트 시스템은 점차 딥러닝 기반 인공 지능 시스템으로 대체되고 있다. 인공 지능 기술은 기계학습(예로, 딥러닝) 및 기계학습을 활용한 요소 기술들로 구성된다.
한편, 혈관내 초음파(intravascular ultrasound, IVUS)는 관상동맥 병변의 형태학적 특성을 파악하고 동맥경화를 관찰하며 시술 스텐트 적정화를 달성하기 위한 임상검사법이다. 관상동맥 협착 질환에 관하여 약물 용출성 스텐트 삽입 시술은 관상동맥 협착의 표준 치료로서 자리 잡고 있으나, 스텐트 혈전증 및 재협착 등의 시술 합병증 발생의 위험이 있다. 스텐트 합병증의 주요 유발 요인으로 시술 직후 불완전 스텐트 확장 소견, 참조혈관 잔존협착, 혈관 박리, 조직 일탈 등이 알려져 있다. 특히 스텐트 면적이 충분히 확보되지 않으면 스텐트 실패(재협착, 스텐트 혈전) 발생의 위험성이 높아지는 문제점이 있다. 따라서, 스텐트 면적이 일정 기준치를 만족하도록 관상동맥에 대한 스텐트 시술의 최적화 과정의 필요성이 증대되고 있다.
본 발명의 실시예들은 혈관내 초음파 영상(IVUS)을 기초로 딥러닝 모델을 통해 관상동맥 스텐트의 불완전 확장을 예측하고, 이에 따른 관상동맥의 최적 치료 기법을 결정하는 방법, 장치 및 기록매체를 제공한다.
그러나 이러한 과제는 예시적인 것으로, 이에 의해 본 발명의 범위가 한정되는 것은 아니다.
본 발명의 일 실시예에 따른 딥러닝 기반 스텐트 예측 방법은 타겟 환자의 혈관 영역 중 시술 대상이 되는 영역을 관심 영역으로 설정하고, 상기 관심 영역에 대한 시술 전 IVUS 영상인 제1 IVUS 영상을 획득하는 단계; 상기 제1 IVUS 영상에 대하여 미리 정해진 간격으로 분할된 복수의 제1 IVUS 단면 영상을 획득하는 단계; 상기 타겟 환자에 대한 시술 정보에 관한 특징 정보를 추출하는 단계; 상기 복수의 제1 IVUS 단면 영상에 대하여 혈관 경계 및 내벽 경계가 구분된 마스크 이미지 정보를 획득하는 단계; 및 상기 복수의 제1 IVUS 단면 영상, 상기 특징 정보 및 상기 마스크 이미지 정보를 인공지능 모델에 입력하여 상기 타겟 환자의 시술 후 스텐트 면적을 포함하는 스텐트 시술 경과를 예측하는 단계를 포함한다.
상기 딥러닝 기반 스텐트 예측 방법은, 환자의 임상적(clinical) 특징을 획득하는 단계;를 더 포함하고, 상기 스텐트 시술 경과를 예측하는 단계는 상기 인공지능 모델에 상기 임상적 특징을 함께 입력하여 상기 시술 후 스텐트 면적을 예측할 수 있다.
상기 스텐트 시술 경과를 예측하는 단계는, 상기 타겟 환자의 시술 후 스텐트 면적을 산출하는 단계; 및 상기 시술 후 스텐트 면적과 미리 설정된 기준치를 비교하여 상기 스텐트의 불완전 확장 여부를 판단하는 단계;를 포함할 수 있다.
상기 스텐트 시술 경과를 예측하는 단계는, 상기 시술 후 스텐트 면적 및 상기 불완전 확장 여부에 기초하여 상기 타겟 환자에 대한 스텐트 시술 수행 여부에 관한 치료 기법을 결정하는 단계를 포함하되, 상기 치료 기법을 결정하는 단계는, 수행으로 결정된 경우 스텐트의 직경, 길이 및 스텐트 풍선압을 포함하는 스텐트 가이드 정보를 출력하고, 미수행으로 결정된 경우 스텐트 시술과 다른 시술법을 출력하는 것을 특징으로 할 수 있다.
상기 딥러닝 기반의 스텐트 예측 방법은, 상기 인공지능 모델을 복수의 기 환자의 제1 가공 IVUS 영상을 학습 데이터로 학습시키는 단계를 포함하고, 상기 제1 가공 IVUS 영상은, 복수의 기 환자의 시술 전 IVUS 영상인 제1 기준 IVUS 영상에 대하여 상기 복수의 기 환자의 시술 후 IVUS 영상인 제2 기준 IVUS 영상을 정합하는 단계; 상기 제1 기준 IVUS 영상에 대하여 상기 제2 기준 IVUS 영상의 스텐트 면적 값으로 레이블링하는 단계;에 의해 획득될 수 있다.
상기 학습시키는 단계는, 상기 제1 가공 IVUS 영상 및 상기 복수의 기 환자의 스텐트 시술 정보를 기초로 상기 스텐트 시술 정보에 관한 기준 특징 정보를 추출하는 단계; 상기 제1 기준 IVUS 영상 및 상기 제1 가공 IVUS 영상 중 적어도 하나를 기초로 혈관 경계 및 내벽 경계가 구분된 기준 마스크 이미지 정보를 획득하는 단계; 및 상기 기준 특징 정보 및 상기 기준 마스크 이미지 정보를 함께 학습 데이터로 하여 상기 인공지능 모델을 학습시키는 단계;를 포함할 수 있다.
한편, 본 발명의 일 실시예에 따른 기록매체는 전술한 실시예들에 따른 스텐트 예측 방법을 실행 시키기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록매체일 수 있다.
본 발명의 일 실시예에 따른 스텐트 예측 장치는 타겟 환자의 혈관 영역 중 시술 대상이 되는 영역을 관심 영역에 대한 시술 전 IVUS 영상인 제1 IVUS 영상을 획득하고, 상기 제1 IVUS 영상에 대하여 미리 정해진 간격으로 분할된 복수의 제1 IVUS 단면 영상을 획득하는 영상 가공부; 상기 타겟 환자에 대한 시술 정보에 관한 특징 정보를 추출하는 특징 추출부; 상기 복수의 제1 IVUS 단면 영상에 대하여 혈관 경계 및 내벽 경계가 구분된 마스크 이미지 정보를 획득하는 마스크 이미지 획득부; 및 상기 복수의 제1 IVUS 단면 영상, 상기 특징 정보 및 상기 마스크 이미지 정보를 인공지능 모델에 입력하여 상기 타겟 환자의 시술 후 스텐트 확장 면적을 포함하는 스텐트 시술 경과를 예측하는 스텐트 예측부;를 포함한다.
전술한 것 외의 다른 측면, 특징, 이점은 이하의 발명을 실시하기 위한 구체적인 내용, 청구범위 및 도면으로부터 명확해질 것이다.
본 발명의 일 실시예에 따르면, 시술 전 IVUS 영상을 이용하여 관상동맥 스텐트의 불완전 확장 및 이에 따른 스텐트 삽입 전 전처치 등의 최적의 치료 기법을 제공할 수 있다.
또한, 본 발명의 실시예들에 따르면 전체 혈관에 대한 시술 전후의 IVUS 영상 기반의 기계학습 알고리즘을 사용함으로써 신속하고 정확하게 스텐트의 불완전 확장 및 위험도를 예측하고, 이에 따른 스텐트 시술의 최적화된 기준을 제공할 수 있다.
또한, 본 발명의 실시예들에 따르면 고해상도 광학 영상 혹은 조직분석 영상 검사가 필요 없이 시술 전후의 IVUS 영상만으로 스텐트 시술의 최적화 기법을 제공하므로, 검사 시간 및 비용이 절약될 수 있다.
물론 이러한 효과에 의해 본 발명의 범위가 한정되는 것은 아니다.
도 1은 본 발명의 일 실시예예 따른 스텐트 예측 시스템을 도시한 시스템도이다.
도 2는 본 발명의 일 실시예에 따른 스텐트 예측 장치의 구성요소를 설명하기 위한 간단한 블록도이다.
도 3은 본 발명의 일 실시예에 따른 프로세서의 구성요소를 설명하기 위한 블록도이다.
도 4는 본 발명의 일 실시예에 따른 스텐트 예측 방법을 설명하기 위한 순서도이다.
도 5는 본 발명의 일 실시예에 따른 스텐트 예측 방법에 있어서 인공지능 모델을 학습시키는 단계를 설명하기 위한 순서도이다.
도 6은 본 발명의 일 실시예에 따른 입력 전처리 단계를 설명하기 위한 도면이다.
도 7은 본 발명의 다른 실시예에 따른 입력 전처리 단계를 설명하기 위한 도면이다.
도 8은 본 발명의 일 실시예에 따른 입력 전처리 단계 및 입출력 관계를 설명하기 위한 도면이다.
도 9는 본 발명의 일 실시예에 따른 마스크 이미지를 획득하는 인공지능 모델의 구성을 도시한 도면이다.
도 10은 본 발명의 다양한 실시예에 따른 학습부 및 인식부를 나타내는 블록도이다.
이하, 본 개시의 다양한 실시예가 첨부된 도면과 연관되어 기재된다. 본 개시의 다양한 실시예는 다양한 변경을 가할 수 있고 여러 가지 실시예를 가질 수 있는 바, 특정 실시예들이 도면에 예시되고 관련된 상세한 설명이 기재되어 있다. 그러나, 이는 본 개시의 다양한 실시예를 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 개시의 다양한 실시예의 사상 및 기술 범위에 포함되는 모든 변경 및/또는 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 구성요소에 대해서는 유사한 참조 부호가 사용되었다.
본 개시의 다양한 실시예에서 사용될 수 있는 "포함한다" 또는 "포함할 수 있다" 등의 표현은 개시(disclosure)된 해당 기능, 동작 또는 구성요소 등의 존재를 가리키며, 추가적인 하나 이상의 기능, 동작 또는 구성요소 등을 제한하지 않는다. 또한, 본 개시의 다양한 실시예에서, "포함하다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
본 개시의 다양한 실시예에서 "또는" 등의 표현은 함께 나열된 단어들의 어떠한, 그리고 모든 조합을 포함한다. 예를 들어, "A 또는 B"는, A를 포함할 수도, B를 포함할 수도, 또는 A 와 B 모두를 포함할 수도 있다.
본 개시의 다양한 실시예에서 사용된 "제1", "제2", "첫째", 또는 "둘째" 등의 표현들은 다양한 실시예들의 다양한 구성요소들을 수식할 수 있지만, 해당 구성요소들을 한정하지 않는다. 예를 들어, 상기 표현들은 해당 구성요소들의 순서 및/또는 중요도 등을 한정하지 않는다. 상기 표현들은 한 구성요소를 다른 구성요소와 구분하기 위해 사용될 수 있다..
어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 상기 어떤 구성요소와 상기 다른 구성요소 사이에 새로운 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 상기 어떤 구성요소와 상기 다른 구성요소 사이에 새로운 다른 구성요소가 존재하지 않는 것으로 이해될 수 있어야 할 것이다.
본 개시의 실시예에서 "모듈", "유닛", "부(part)" 등과 같은 용어는 적어도 하나의 기능이나 동작을 수행하는 구성요소를 지칭하기 위한 용어이며, 이러한 구성요소는 하드웨어 또는 소프트웨어로 구현되거나 하드웨어 및 소프트웨어의 결합으로 구현될 수 있다. 또한, 복수의 "모듈", "유닛", "부(part)" 등은 각각이 개별적인 특정한 하드웨어로 구현될 필요가 있는 경우를 제외하고는, 적어도 하나의 모듈이나 칩으로 일체화되어 적어도 하나의 프로세서로 구현될 수 있다.
본 개시의 다양한 실시예에서 사용한 용어는 단지 특정일 실시예를 설명하기 위해 사용된 것으로, 본 개시의 다양한 실시예를 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다.
다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 본 개시의 다양한 실시예가 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가지고 있다.
일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥 상 가지는 의미와 일치하는 의미를 가지는 것으로 해석되어야 하며, 본 개시의 다양한 실시예에서 명백하게 정의되지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.
이하에서, 첨부된 도면을 이용하여 본 발명의 다양한 실시예들에 대하여 구체적으로 설명한다.
도 1은 본 발명의 일 실시예예 따른 스텐트 예측 시스템(1000)을 도시한 시스템도이다.
도 1을 참조하면, 본 발명의 스텐트 예측 시스템(1000)은 스텐트 예측 장치(100) 및 서버(200)를 포함할 수 있다.
스텐트 예측 장치(100)는 환자의 관상동맥에 대한 시술 후 스텐트 면적, 불완전 확장 여부를 예측하고, 이에 따라 최적의 치료 기법을 추천, 결정하기 위한 장치이다. 스텐트 예측 장치(100)는 환자의 관상동맥의 스텐트가 삽입되는 관심 영역에 대한 시술 전 IVUS 영상을 기반으로 시술 후 스텐트 면적, 불완전 확장 여부를 예측할 수 있고, 이에 따른 환자 맞춤형의 최적의 관상동맥 질환에 대한 치료 기법을 추천, 결정할 수 있다. 구체적으로, 스텐트 예측 장치(100)는 인공지능 모델을 통해, 입력된 시술 전 IVUS 영상을 기초로 시술 후 스텐트 시술 경과를 예측할 수 있다.
서버(200)는 인공지능 모델을 학습 및 갱신하고, 인공지능 모델을 통한 예측을 수행하기 위한 적어도 하나의 외부 서버이다.
본 발명의 일 실시예에 따른 서버(200)는 환자의 시술 후 스텐트 경과를 예측하고 최적의 치료 기법을 결정하기 위한 인공지능 모델을 포함할 수 있다.
이때, 인공지능 모델은 복수의 기 환자의 시술 전후의 IVUS 영상을 정합한 '제1 가공 IVUS 영상'을 이용하여 학습된 것일 수 있다. 구체적으로 상기 '제1 가공 IVUS 영상'은, 복수의 기 환자의 시술 전 IVUS 영상인 제1 기준 IVUS 영상에 대하여 시술 후 IVUS 영상인 제2 기준 IVUS 영상을 정합하고, 이와 병렬적으로 상기 제1 기준 IVUS 영상에 대하여 상기 제2 기준 IVUS 영상의 스텐트 면적 값으로 레이블링하여 획득될 수 있다.
이에 따라, 본 발명의 인공지능 모델에 스텐트 경과를 예측하고자 하는 타겟 환자의 시술 전 IVUS 영상인 제1 IVUS 영상 및 시술과 환자에 대한 다양한 특징 정보가 입력되면, 시술 후 스텐트 확장 면적을 포함하는 스텐트 시술 경과를 예측할 수 있다. 이때, 특징 정보는 상기 제1 IVUS 영상에 포함된 혈관의 형태학적 특징, 시술적 특징 및 임상적 특징을 포함할 수 있으나, 이에 한정하지 않는다. 이에 대해 자세한 내용은 후술하는 관련 도면에서 설명하기로 한다.
도 1에서는 스텐트 예측 장치(100)와 서버(200)가 별도의 구성으로 구현된 것을 도시하였으나, 본 발명의 일 실시예에 따르면 하나의 구성으로 구현된 것일 수 있다. 즉, 일 실시예에 따르면, 스텐트 예측 장치(100)가 인공지능 모델을 직접 학습, 갱신하는 온 디바이스(on-device) AI 장치일 수 있다.
도 2는 본 발명의 일 실시예에 따른 스텐트 예측 장치(100)의 구성요소를 설명하기 위한 간단한 블록도이다.
도 2를 참조하면, 스텐트 예측 장치(100)는 통신부(110), 프로세서(120) 및 메모리(130)를 포함할 수 있다.
통신부(110)는 다양한 유형의 통신방식에 따라 다양한 유형의 외부 장치와 통신을 수행하는 구성일 수 있다. 통신부(110)는 와이파이칩, 블루투스 칩, 무선 통신 칩, NFC 칩 중 적어도 하나를 포함할 수 있다. 프로세서(120)는 통신부(110)를 이용하여 서버(200) 또는 각종 외부 장치와 통신을 수행할 수 있다.
특히, 와이파이 칩이나 블루투스 칩을 이용하는 경우에는 SSID 및 세션 키 등과 같은 각종 연결 정보를 먼저 송수신하여, 이를 이용하여 통신 연결한 후 각종 정보들을 송수신할 수 있다. 무선통신 칩은 IEEE, Zigbee, 3G(3rd Generation), 3GPP(3rd Generation Partnership Project), LTE(Long Term Evolution) 등과 같은 다양한 통신 규격에 따라 통신을 수행하는 칩을 의미한다. NFC 칩은 135kHz, 13.56MHz, 433MHz, 860~960MHz, 2.45GHz 등과 같은 다양한 RF-ID 주파수 대역들 중에서 13.56MHz 대역을 사용하는 NFC(Near Field Communication) 방식으로 동작하는 칩을 의미한다.
프로세서(120)는 스텐트 예측 장치(100)를 전반적으로 제어하기 위한 구성이다. 구체적으로, 프로세서(120)는 스텐트 예측 장치(100)의 메모리(130)에 저장된 각종 프로그램을 이용하여 스텐트 예측 장치(100)의 전반적인 동작을 제어한다. 예를 들어, 프로세서(120)는 CPU, 램(RAM), 롬(ROM), 시스템 버스를 포함할 수 있다. 여기서, 롬은 시스템 부팅을 위한 명령어 세트가 저장되는 구성이고, CPU는 롬에 저장된 명령어에 따라 스텐트 예측 장치(100)의 메모리에 저장된 운영체제를 램에 복사하고, O/S를 실행시켜 시스템을 부팅시킨다. 부팅이 완료되면, CPU는 메모리(130)에 저장된 각종 애플리케이션을 램에 복사하고, 실행시켜 각종 동작을 수행할 수 있다. 이상에서는 프로세서(120)가 하나의 CPU만을 포함하는 것으로 설명하였지만, 구현 시에는 복수의 CPU(또는 DSP, SoC 등)으로 구현될 수 있다.
본 발명의 일 실시예에 따라, 프로세서(120)는 디지털 신호를 처리하는 디지털 시그널 프로세서(digital signal processor(DSP), 마이크로 프로세서(microprocessor), TCON(Time controller)으로 구현될 수 있다. 다만, 이에 한정되는 것은 아니며, 중앙처리장치(central processing unit(CPU)), MCU(Micro Controller Unit), MPU(micro processing unit), 컨트롤러(controller), 어플리케이션 프로세서(application processor(AP)), 또는 커뮤니케이션 프로세서(communication processor(CP)), ARM 프로세서 중 하나 또는 그 이상을 포함하거나, 해당 용어로 정의될 수 있다. 또한, 프로세서(120)는 프로세싱 알고리즘이 내장된 SoC(System on Chip), LSI(large scale integration)로 구현될 수도 있고, FPGA(Field Programmable gate array) 형태로 구현될 수도 있다.
프로세서(120)의 상세 구성 및 기능에 관하여는 후술하는 도 3 내지 도 5에서 더 상세히 설명한다.
메모리(130)는 프로세서(120)의 처리 또는 제어를 위한 프로그램 등 스텐트 예측 장치(100) 전반의 동작을 위한 다양한 데이터를 저장할 수 있다. 메모리(130)는 스텐트 예측 시스템(1000)를 통해 처리되는 모든 종류의 데이터를 일시적 또는 영구적으로 저장할 수 있다. 메모리(130)는 스텐트 예측 장치(100)에서 구동되는 다수의 응용 프로그램(application program 또는 애플리케이션(application)), 스텐트 예측 장치(100)의 동작을 위한 데이터들, 명령어들을 저장할 수 있다. 이러한 응용 프로그램 중 적어도 일부는, 무선 통신을 통해 외부 서버로부터 다운로드 될 수 있다.
또한 이러한 응용 프로그램 중 적어도 일부는, 스텐트 예측 장치(100)의 기본적인 기능을 위하여 출고 당시부터 스텐트 예측 장치(100) 상에 존재할 수 있다. 응용 프로그램은, 메모리(130)에 저장되고, 프로세서(120)에 의하여 스텐트 예측 장치(100)의 동작(또는 기능)을 수행하도록 구동될 수 있다. 특히, 메모리(130)는 일 예로, 프로세서(120)에 포함된 롬(ROM), 램(RAM) 등의 내부 메모리로 구현되거나, 프로세서(120)와 별도의 메모리로 구현될 수도 있다.
도시하지는 않았으나, 스텐트 예측 장치(100)는 영상 획득부 및 영상 처리부를 더 포함할 수 있다. 영상 획득부는 다양한 소스를 통해 스텐트 시술 전후의 IVUS 영상 데이터를 획득할 수 있다. 일 예로, 영상 획득부는 상용 스캐너로 구현되어 관상동맥 내를 스캐닝하여 IVUS 영상을 획득할 수 있다. 영상 획득부를 통해 획득된 영상 데이터는 영상 처리부에서 처리될 수 있다.
영상 처리부는 영상 획득부를 통해 획득한 영상 데이터에 대한 처리를 수행할 수 있다. 영상 처리부에서는 영상 데이터에 대한 디코딩, 스케일링, 노이즈 필터링, 프레임 레이트 변환 또는 해상도 변환 등과 같은 다양한 이미지 처리를 수행할 수 있다. 영상 획득부 또는 영상 처리부는 각 구성 내에서 획득된 영상을 후술하는 도 3의 프로세서(120)의 각 구성으로 전송하여 후속 영상 처리가 수행되도록 할 수 있다.
이 외에도 스텐트 예측 장치(100)는 도 2에 도시되지 않았으나, 본 발명의 스텐트 예측 방법을 용이하게 구현할 수 있는 범위 내의 다른 구성을 포함할 수 있음은 물론이다.
도 3은 본 발명의 일 실시예에 따른 프로세서(120)의 구성요소를 설명하기 위한 블록도이다.
도 3을 참조하면, 본 발명의 프로세서(120)는 영상 가공부(121), 특징 추출부(122), 마스크 이미지 획득부(123), 스텐트 예측부(124) 및 치료기법 결정부(125)를 포함할 수 있다. 이하, 스텐트 예측부(124) 및 치료기법 결정부(125)를 출력부(124, 125)로 지칭할 수 있다.
본 발명의 일 실시예에 따르면 영상 가공부(121), 특징 추출부(122), 마스크 이미지 획득부(123), 스텐트 예측부(124) 및 치료기법 결정부(125)는 스텐트 예측 장치(100)에 포함된 메모리(130)에 저장되어 프로세서(120)에 의해 구동되는 별도의 소프트웨어 모듈을 통해 구현될 수 있다. 소프트웨어 모듈들 각각은 본 명세서에서 설명되는 하나 이상의 기능 및 동작을 수행할 수 있다. 또한, 각각의 구성은 별도의 모듈로 구현될 수도 있고, 하나의 모듈로 구현된 것일 수도 있다.
한편, 본 발명의 또 다른 실시예에 따르면, 상술한 스텐트 예측부(124) 및 치료기법 결정부(125)는 스텐트 예측 장치(100)의 출력부에 해당하는 구성으로서, 서버(200)의 프로세서(미도시)에 포함된 구성일 수 있다. 이 경우, 서버(200)는 스텐트 예측 장치(100)로부터 환자의 시술 전 IVUS 영상을 가공한 제1 가공 IVUS 영상 및 이에 포함되는 혈관의 형태학적 정보, 시술적 특징, 마스크 이미지 정보 및 환자의 임상적 특징 등의 입력 데이터를 수신할 수 있고, 수신한 입력 데이터를 기초로 스텐트 시술 경과를 예측하고 환자 별 최적의 시술 기법을 가이드할 수 있다.
프로세서(120)의 각 구성에 의한 구체적 동작에 관하여는 후술하는 도면에서 더 상세히 설명한다.
이하에서는 도 4, 도 5 및 도 3을 함께 사용하여 본 발명의 스텐트 예측 방법을 설명한다.
도 4는 본 발명의 일 실시예에 따른 스텐트 예측 방법을 설명하기 위한 순서도이다.
본 발명의 영상 가공부(121)는 타겟 환자의 혈관 영역 중 시술 대상이 되는 영역을 관심 영역으로 설정하고, 상기 관심 영역에 대한 시술 전 IVUS 영상인 제1 IVUS 영상을 획득할 수 있다(S100). 상기 관심 영역은 혈관 영역 중 스텐트 삽입이 요구되는 분절로서 IVUS 영상 소견 등으로 설정될 수 있다.
이후, 영상 가공부(121)는 상기 제1 IVUS 영상에 대하여 미리 정해진 간격으로 분할된 복수의 제1 IVUS 단면 영상을 획득할 수 있다(S200). 이와 같이, 본 발명의 스텐트 예측 방법은 시술 전 혈관 영상의 특정 단면이 아닌 관심 영역 전체에 대한 단면 영상, 그리고 혈관의 경계 등의 특정 부분만이 혈관 전체의 단면 영상을 사용함으로써 스텐트 시술 경과를 더 정확하게 예측하여 맞춤형 선제적 치료 방법을 제공할 수 있다. 영상 가공부(121)의 동작에 관하여는 후술하는 도 6에서 더 상세히 설명한다.
특징 추출부(122)는 상기 타겟 환자에 대한 시술 정보에 관한 특징 정보를 추출한다(S300). 특징 추출부(122)의 동작에 관하여는 후술하는 도 7에서 더 상세히 설명한다.
마스크 이미지 획득부(123)는 상기 복수의 제1 IVUS 단면 영상에 대하여 혈관 경계 및 내벽 경계가 구분된 마스크 이미지 정보를 획득한다(S400). 마스크 이미지 획득부(123)의 동작에 관하여는 후술하는 도 8에서 더 상세히 설명한다.
본 도면에 도시된 바와 같이, 특징 정보를 추출하는 단계(S300) 및 마스크 이미지 정보를 획득하는 단계(S400)는 병렬적으로 수행될 수 있다. 다시 말해, 후술하는 출력부(124, 125)에 의한 예측 단계(S500)는 특징 추출부(122)에 의해 획득된 시술 정보에 관한 특징 정보만을 이용하여 예측할 수도 있고, 상기 특징 정보와 마스크 이미지 획득부(123)에 의해 획득된 마스크 이미지 정보를 함께 이용하여 예측할 수도 있다. S300 단계와 S400 단계가 동시에 수행될 수도 있고, S300 단계 이후에 S400 단계가 수행될 수도 있고, 실시예에 따라서 S300 단계만 수행되고 S400 단계는 수행되지 않을 수 있다. 다만, 스텐트 시술 경과를 예측하는 단계(S500)에서 특징 정보 뿐만 아니라 마스크 이미지 정보를 입력 데이터로서 함께 활용하는 경우 예측의 정확성을 높일 수 있는 이점이 있다.
스텐트 예측부(124)는 상기 복수의 제1 IVUS 단면 영상, 상기 특징 정보 및 상기 마스크 이미지 정보 중 적어도 하나를 인공지능 모델에 입력하여 상기 타겟 환자의 시술 후 스텐트 확장 면적을 포함하는 스텐트 시술 경과를 예측한다(S500). 스텐트 시술 경과를 예측함에 있어서 프로세서(120)는 환자의 임상적(clinical) 특징을 획득할 수 있고, 예를 들어 이러한 동작은 특징 추출부(122)에 의해 수행될 수 있다. 환자의 임상적 특징을 인공지능 모델에 함께 입력하여 상기 시술 후 스텐트 면적을 예측할 수 있다.
상기 스텐트 시술 경과를 예측하는 단계(S500)는, 타겟 환자의 시술 후 스텐트 면적을 산출하는 단계와, 상기 시술 후 스텐트 면적과 미리 설정된 기준치를 비교하여 상기 스텐트의 불완전 확장 여부를 판단하는 단계를 포함한다. 예를 들어, 상기 기준치는 약 5.5 mm2일 수 있고 예측된 시술 후 스텐트 면적이 약 5.5 mm2 미만일 경우 불완전 확장으로 판단하고, 약 5.5 mm2 이상이 확보된 경우 불완전 확장 미해당으로 판단할 수 있다.
치료기법 결정부(125)는 상기 시술 후 스텐트 면적 및 상기 불완전 확장 여부에 기초하여 스텐트 시술 수행 여부에 관한 치료 기법을 결정할 수 있다. 예를 들어 스텐트 예측부(124)에서 불완전 확장으로 판단한 경우 스텐트 시술에 대한 변경 설계 또는 다른 시술 기법을 제안하여 제공할 수 있다.
일 예로, 상기 치료 기법을 결정하는 단계는, 수행으로 결정된 경우 스텐트의 직경, 길이 및 스텐트 풍선압을 포함하는 스텐트 가이드 정보를 출력하고, 미수행으로 결정된 경우 스텐트 시술과 다른 시술법을 출력하는 단계일 수 있다. 상기 다른 시술법은 일 예로, 시술 전 죽상반 절제술을 포함할 수 있다.
도 5는 본 발명의 일 실시예에 따른 스텐트 예측 방법에 있어서 인공지능 모델을 학습시키는 단계를 설명하기 위한 순서도이다. 본 발명의 딥러닝 기반의 스텐트 예측 방법은 인공지능 모델을 복수의 기 환자의 제1 가공 IVUS 영상을 학습 데이터로 학습시키는 단계(S600)를 더 포함한다. S600 단계는 후술하는 프로세서의 학습부(1210)(도 10 참고)나 서버(200)의 프로세서(미도시)에 의해 수행될 수 있다. S600 단계에서 생성되는 제1 가공 IVUS 영상은 후술하는 단계들에 의해 생성될 수 있다.
복수의 기 환자의 시술 전 IVUS 영상인 제1 기준 IVUS 영상에 대하여 상기 복수의 기 환자의 시술 후 IVUS 영상인 제2 기준 IVUS 영상을 정합(registration)한다(S610).
이후, 상기 제1 기준 IVUS 영상에 대하여 상기 제2 기준 IVUS 영상의 스텐트 면적 값으로 레이블링(labeling)한다(S620). 이때, 상기 제1 및 제2 기준 IVUS 영상은 소정의 간격으로 분할된 복수의 단면 영상일 수 있다. 학습 데이터의 생성에 관하여는 후술하는 도 6에서 더 상세히 설명한다.
인공지능 모델을 학습시키는 단계(S600)는 후술하는 단계들을 더 포함할 수 있고, 이는 본 발명의 스텐트 예측 방법에 의한 입출력 단계와 동일한 원리로 적용될 수 있다.
전술한 바와 같이 획득된 제1 가공 IVUS 영상 및 상기 복수의 기 환자의 스텐트 시술 정보를 기초로 상기 스텐트 시술 정보에 관한 기준 특징 정보를 추출할 수 있다. 한편, 상기 제1 기준 IVUS 영상 및 상기 제1 가공 IVUS 영상 중 적어도 하나를 기초로 혈관 경계 및 내벽 경계가 구분된 기준 마스크 이미지 정보를 획득할 수 있다.
이후, 상기 제1 가공 IVUS 영상과 함께 상기 기준 특징 정보 및 상기 기준 마스크 이미지 정보를 학습 데이터로 하여 상기 인공지능 모델을 학습시킬 수 있다.
도 6은 본 발명의 일 실시예에 따른 입력 전처리 단계를 설명하기 위한 도면으로서, 본 발명의 입력 데이터 및 인공지능 모델을 학습시키기 위한 학습 데이터로서의 제1 가공 IVUS 영상을 획득하는 방법을 설명하기 위한 도면이다. 도 6의 동작은 프로세서(120)의 영상 가공부(121) 또는 서버(200)의 프로세서(미도시)에 의해 수행될 수 있다.
도 6을 참조하면, 영상 가공부(121)는 학습 데이터로서 환자의 시술 전 IVUS 영상인 제1 IVUS 영상(10)과 시술 후 IVUS 영상인 제2 IVUS 영상(20)을 기초로 제1 가공 IVUS 영상(30)을 획득할 수 있다. 실시예에 따라서 제1 가공 IVUS 영상(30)은 타겟 환자의 스텐트 시술 경과를 예측하는 출력 데이터의 생성을 위해 필요한 입력 데이터로서, 제2 IVUS 영상(20)과 정합되지 않은 영상일 수도 있다.
영상 가공부(121)는 타겟 환자의 혈관 영역 중 스텐트 삽입 분절에 대하여 관심 영역(ROI)으로 설정하고 해당 영역에 대한 제1 IVUS 영상(10)을 획득한다. 이후, 제1 IVUS 영상(10)을 미리 정해진 간격으로 분할하여 복수의 제1 IVUS 단면 영상(11)을 획득한다. 이때 상기 소정의 간격(d)는 예를 들어 약 0.5 mm 일 수 있으나, 이에 한정되지 않는다. 상기 복수의 제1 IVUS 단면 영상(11)을 포함하는 제1 IVUS 영상(10)은 본 발명의 스텐트 예측을 위한 입력 데이터일 수 있다.
이하, 학습 데이터로서의 제1 가공 IVUS 영상(30)을 획득하는 방법에 관하여영상 설명한다. 이하의 단계들은 가공부(121) 또는 학습부(1210)(도 10 참고)에 의해 수행될 수 있다. 학습 데이터의 생성에 있어서 전술한 제1 IVUS 영상(10)은 복수의 기 환자들의 제1 기준 IVUS 영상(10)이 될 수 있다.
먼저, 복수의 기 환자의 혈관 영역 중 시술 대상이 되는 관심 영역(ROI)에 대한 시술 전 IVUS 영상인 제1 기준 IVUS 영상(10')을 획득한다. 이후, 상기 제1 기준 IVUS 영상(10')에 대하여 미리 정해진 간격(d)으로 분할된 복수의 제1 기준 IVUS 단면 영상(11')을 획득한다. 시술 후 IVUS 영상인 제2 기준 IVUS 영상(20)에 대하여도 동일한 단계를 수행할 수 있다. 제2 기준 IVUS 영상(20)은 시술 전 환자의 혈관의 관심 영역(ROI)에 대응하는 스텐트 시술이 수행된 스텐트 영역(SI)에 대한 IVUS 영상이다. 이때 제1 기준 IVUS 영상과 동일한 간격(d)으로 분할하여 제2 기준 IVUS 단면 영상(21)을 획득할 수 있다.
이후, 복수의 제1 기준 IVUS 단면 영상(11')에 대하여 복수의 제2 기준 IVUS 단면 영상(20)을 정합한다(S610)(도 5 참고). 정합된 제1 기준 IVUS 단면 영상(11') 각각에 대하여 각 분할된 위치에 대응하는 복수의 제2 기준 IVUS 단면 영상(21) 각각에서 측정된 스텐트 면적 값으로 레이블링한다(Labeling with measured stent area)(S620)(도 5 참고). 이때 정합 단계와 레이블링 단계는 병렬적으로 수행되어 최종적으로 제1 가공 IVUS 영상(30)이 획득될 수 있다.
도 7은 본 발명의 다른 실시예에 따른 입력 전처리 단계를 설명하기 위한 도면으로서, 본 발명의 특징 정보를 추출하는 방법을 설명하기 위한 도면이다. 이하의 동작들은 프로세서(120)의 특징 추출부(122) 또는 서버(200)의 프로세서(미도시)에 의해 수행될 수 있다.
특징 추출부(122)는 전술한 영상 가공부(121)에 의해 생성된 제1 가공 IVUS 영상(30) 및 스텐트 시술 정보(510)를 제1 인공지능 모델(AM1)에 입력하여 특징 정보(520)를 추출할 수 있다. 스텐트 시술 정보(510)는 복수의 기 환자들에 대하여 수행했던 스텐트 시술 정보 및 타겟 환자에 대하여 수행하고자 하는 스텐트 시술 정보를 포함할 수 있다. 구체적으로, 스텐트 직경(Stent Diameter), 스텐트 길이(Stent Length), 스텐트 팽창압(Stent Inflation Pressure), 풍선 직경(Balloon Diameter) 및 최대 풍선압(Max Balloon Pressure) 등 스텐트 시술에 관한 다양한 정보를 포함할 수 있다.
제1 인공지능 모델(AM1)은 CNN 기반의 딥 컨볼루션 기법 중 매우 우수한 성능을 가지는 DenseNet(Dense Connected Convolutional Networks) 모델이 채용될 수 있고, 회귀(Regression) 동작을 수행할 수 있으나, 제1 인공지능 모델(AM1)의 기법은 이에 한정되지 않는다. 전술한 제1 가공 IVUS 영상(30)과 스텐트 시술 정보(510)를 이용하여 제1 인공지능 모델(AM1)을 학습시킬 수 있고, 이에 따라 특징 정보(feature map)를 추출 및 업데이트할 수 있다.
도 8은 본 발명의 일 실시예에 따른 입력 전처리 단계 및 입출력 관계를 설명하기 위한 도면이다. 이하의 동작들은 프로세서(120)의 마스크 이미지 획득부(122), 출력부(124, 125) 또는 서버(200)의 프로세서(미도시)에 의해 수행될 수 있다.
마스크 이미지 획득부(123)는 제2 인공지능 모델(AM2)을 이용하여 마스크 이미지 정보(600)를 획득할 수 있다(S400). 마스크 이미지 정보(600)는 마스크 이미지(610) 및 혈관의 형태학적 정보(620)를 포함할 수 있다. 마스크 이미지(610)는 환자의 시술 전 IVUS 영상인 제1 IVUS 영상(10) 또는 이를 영상 처리한 제1 IVUS 가공 영상(30)에 대하여 혈관 경계나 내강 경계를 분리/구분하여 획득되는 영상이고, 복수의 제1 IVUS 단면 영상(11) 각각에 대응하는 복수의 마스크 이미지(610)를 포함할 수 있다. 혈관의 형태학적 정보(620)는 상기 마스크 이미지(610)를 통해 획득되는 내강 영역(Lumen area), 외부 탄성막(EEM, external elastic membrane) 영역, 플라크 영역(Plaque area), 기준 내강(Reference lumen), 기준 외부 탄성막(Reference EEM) 및 기준 플라크(Reference plaque) 값 데이터 등을 포함하는 개념일 수 있다.
여기서 마스크 이미지(610)는 제2 인공지능 모델(AM2)을 통해 제1 IVUS 영상(10) 또는 제1 가공 IVUS 영상(30)을 세그맨테이션(segmentation)하여 생성될 수 있으며, 도 9를 함께 참조하여 설명한다. 도 9는 본 발명의 제2 인공지능 모델(AM2)을 더 상세히 도시한 도면이다.
도 9를 참조하면, 제2 인공지능 모델(AM2)은 ImageNet 데이터베이스에서 기 학습된 FCN(fully convolutional network)을 사용하여 IVUS 영상에 포함된 프레임을 분해할 수 있다. 이후, 제2 인공지능 모델(AM2)은 상이한 스케일의 컨볼루션 레이어의 계층적 특징을 결합한 FCN-VGG16 모델에 스킵 커넥션(skip connections)을 적용한다. 스킵 커넥션을 통해 8, 16 및 32 픽셀 스트라이드의 3 가지 예측을 결합함으로써 제2 인공지능 모델(AM2)은 FCN-VGG16 모델을 통해 공간 정밀도가 개선된 아웃풋을 출력할 수 있다.
한편, 제2 인공지능 모델(AM2)은 전처리 단계로써 제1 IVUS 영상(10)을 256 × 256 크기로 리샘플링하여 RGB 컬러 포맷으로 변환할 수 있다. 중심 이미지 및 중심 이미지와 상이한 변위 값을 가지는 인근 이미지를 단일 RGB 이미지로 병합할 수 있고, 3개의 변위 값으로 각각 0, 1 및 2 프레임으로 사용한다.
구체적으로, 제1 IVUS 영상(10)을 분할한 복수의 제1 IVUS 단면 영상(11)은 (i) EEM 외부의 픽셀을 포함하는 외막 ("0"으로 코딩 됨), (ii) 내강 경계 내의 픽셀을 포함하는 내강 ("1"로 코딩 됨), 및 iii) 내강 경계와 EEM 사이의 픽셀을 포함하는 플라크("2"로 코드화 됨)로 3 분할 될 수 있다. 픽셀 치수를 보정하기 위해, 그리드 선이 IVUS 이미지에서 자동으로 획득될 수 있고, 셀 간격이 계산될 수 있다.
제2 인공지능 모델(AM2), 또는 FCN-all-at-once-VGG16 모델은 전처리된 이미지쌍(예로, 24 비트 RGB 컬러 이미지 및 8 비트 회색 마스크)을 사용하여 각 변위 설정에 대해 학습된 것일 수 있다. 상술한 바와 같이 제2 인공지능 모델(AM2)은 추출된 3개의 마스크를 융합하여 하나의 마스크 이미지(610)를 출력할 수 있다.
다시 도 8을 참조하면, 본 발명의 출력부(124, 125)는 전술한 특징 정보(520), 마스크 이미지 정보(600) 및 환자의 임상적 변수(630) 중 적어도 하나를 제3 인공지능 모델(AM3)에 입력하여 환자의 스텐트 시술 경과를 예측하는 출력 데이터(700)를 출력할 수 있다. 한편, 프로세서의 학습부(1210)(도 10 참고)는 상기 특징 정보(520), 마스크 이미지 정보(600) 및 환자의 임상적(clinical) 특징(630)을 학습 데이터로 하여 제3 인공지능 모델(AM3)을 학습 및 업데이트할 수 있다. 일 예로, 임상적 특징(630)은 나이(age), 성별(gender), 체면적(body surface area), 병변 분절(involved segment), 근위 LAD의 침범 여부(involvement of proximal left anterior descending artery (LAD)) 및 혈관 타입(vessel type) 등을 포함할 수 있으나 이에 한정되지 않는다.
출력 데이터(700)는 스텐트 예측부(124)에 의한 환자의 시술 후 스텐트 면적 및 불완전 확장 여부와, 이에 따른 최적의 치료 기법을 포함할 수 있다. 불완전 확장 여부는 예측된 시술 후 스텐트 면적이 소정의 기준값(일 예로, 약 5.0 mm2) 미만인 경우 불완전 확장으로 판단할 수 있다. 최적의 치료 기법의 일 예로, 스텐트 면적이 최소 면적 이상이 되는데 필요한 최소 풍선압을 결정할 수 있다. 일 예로, 상기 결정된 풍선압이 일정 값을 초과하는 경우 스텐트 시술 전 죽상반 절제술을 가이드할 수 있다.
도 10은 본 발명의 다양한 실시예에 따른 학습부(1210) 및 인식부(1220)를 나타내는 블록도이다.
도 10을 참조하면, 프로세서(1200)는 학습부(1210) 및 인식부(1220) 중 적어도 하나를 포함할 수 있다. 도 10의 프로세서(1200)는 도 2의 스텐트 예측 장치(100)의 프로세서(120) 또는 서버(200)의 프로세서(미도시)에 대응될 수 있다.
학습부(1210)는 소정의 상황 판단을 위한 기준을 갖는 인식 모델을 생성 또는 학습시킬 수 있다. 학습부(1210)는 수집된 학습 데이터를 이용하여 판단 기준을 갖는 인식 모델을 생성할 수 있다.
일 예로, 학습부(1210)는 다양한 IVUS 영상(전술한 제1 IVUS 영상, 제2 IVUS을 학영상, 제1 IVUS 단면 영상, 제2 IVUS 단면 영상, 제1 가공 IVUS 영상)을 학습 데이터로서 이용하여 IVUS 영상에 포함된 혈관의 내강이 어떤 것인지 판단하는 기준을 갖는 객체 인식 모델을 생성, 학습 또는 갱신시킬 수 있다.
또 다른 예로, 학습부(1210)는 복수의 제1 IVUS 영상, 상기 제1 IVUS 영상 각각에 대응하는 제2 IVUS 영상, 상기 제1 IVUS 영상에 대하여 상기 제2 IVUS 영상을 정합 및 스텐트 면적으로 레이블링하여 생성한 제1 가공 IVUS 영상, 상기 IVUS 영상에 대응하는 환자의 임상적 특징 정보, 스텐트 시술 정보, 마스크 이미지 정보 등을 학습 데이터로서 이용하여, 환자의 시술 후 스텐트 면적 및 불완전 확장 여부를 판단하는 기준을 갖는 모델을 생성, 학습 또는 갱신시킬 수 있다.
인식부(1220)는 소정의 데이터를 학습된 인식 모델의 입력 데이터로 사용하여, 목표하는 데이터(출력 데이터 700)를 추정할 수 있다. 일 예로, 인식부(1220)는 제1 IVUS 영상(10), 스텐트 시술 정보(510)를 기초로 추출된 특징 정보(520), 마스크 이미지 정보(600) 및 임상적 특징(630)을 학습된 인식 모델에 적용하여 스텐트 시술 경과를 예측하고 시술 전 최적의 치료 기법을 결정하여 제공할 수 있다.
학습부(1210)의 적어도 일부 및 인식부(1220)의 적어도 일부는, 소프트웨어 모듈로 구현되거나 적어도 하나의 하드웨어 칩 형태로 제작되어 스텐트 예측 장치(100)에 탑재될 수 있다. 예를 들어, 학습부(1210) 및 인식부(1220) 중 적어도 하나는 인공 지능(AI; artificial intelligence)을 위한 전용 하드웨어 칩 형태로 제작될 수도 있고, 또는 기존의 범용 프로세서(예: CPU 또는 application processor) 또는 그래픽 전용 프로세서(예: GPU)의 일부로 제작되어 전술한 각종 전자 장치 또는 객체 인식 장치에 탑재될 수도 있다. 이 때, 인공 지능을 위한 전용 하드웨어 칩은 확률 연산에 특화된 전용 프로세서로서, 기존의 범용 프로세서보다 병렬처리 성능이 높아 기계 학습과 같은 인공 지능 분야의 연산 작업을 빠르게 처리할 수 있다.
학습부(1210) 및 인식부(1220)가 소프트웨어 모듈(또는, 인스트럭션(instruction) 포함하는 프로그램 모듈)로 구현되는 경우, 소프트웨어 모듈은 컴퓨터로 읽을 수 있는 판독 가능한 비일시적 판독 가능 기록매체(non-transitory computer readable media)에 저장될 수 있다. 이 경우, 소프트웨어 모듈은 OS(Operating System)에 의해 제공되거나, 소정의 애플리케이션에 의해 제공될 수 있다. 또는, 소프트웨어 모듈 중 일부는 OS(Operating System)에 의해 제공되고, 나머지 일부는 소정의 애플리케이션에 의해 제공될 수 있다.
이 경우, 학습부(1210) 및 인식부(1220)는 하나의 전자 장치에 탑재될 수도 있으며, 또는 별개의 전자 장치들에 각각 탑재될 수도 있다. 예를 들어, 학습부(1210) 및 인식부(1220) 중 하나는 스텐트 예측 장치(100)에 포함되고, 나머지 하나는 서버(200)에 포함될 수 있다. 또한, 학습부(1210) 및 인식부(1220)는 유선 또는 무선으로 통하여, 학습부(1210)가 구축한 모델 정보를 인식부(1220)로 제공할 수도 있고, 인식부(1220)로 입력된 데이터가 추가 학습 데이터로서 학습부(1210)로 제공될 수도 있다.
한편, 상술한 본 발명의 다양한 실시예들에 따른 방법들은, 기존 전자 장치에 설치 가능한 어플리케이션 형태로 구현될 수 있다.
한편, 본 발명의 일 실시예에 따르면, 이상에서 설명된 다양한 실시예들은 소프트웨어(software), 하드웨어(hardware) 또는 이들의 조합을 이용하여 컴퓨터(computer) 또는 이와 유사한 장치로 읽을 수 있는 기록매체(computer readable recording medium)에 저장된 명령어를 포함하는 소프트웨어로 구현될 수 있다. 일부 경우에 있어 본 명세서에서 설명되는 실시예들이 프로세서 자체로 구현될 수 있다. 소프트웨어적인 구현에 의하면, 본 명세서에서 설명되는 절차 및 기능과 같은 실시예들은 별도의 소프트웨어 모듈들로 구현될 수 있다. 소프트웨어 모듈들 각각은 본 명세서에서 설명되는 하나 이상의 기능 및 동작을 수행할 수 있다.
기기로 읽을 수 있는 기록매체는, 비일시적 기록매체(non-transitory computer readable recording medium)의 형태로 제공될 수 있다. 여기서, '비일시적'은 저장매체가 신호(signal)를 포함하지 않으며 실재(tangible)한다는 것을 의미할 뿐 데이터가 저장매체에 반영구적 또는 임시적으로 저장됨을 구분하지 않는다. 이때 비일시적 컴퓨터 판독 가능 매체란 레지스터, 캐쉬, 메모리 등과 같이 짧은 순간 동안 데이터를 저장하는 매체가 아니라 반영구적으로 데이터를 저장하며, 기기에 의해 판독(reading)이 가능한 매체를 의미한다. 비일시적 컴퓨터 판독 가능 매체의 구체적인 예로는, CD, DVD, 하드 디스크, 블루레이 디스크, USB, 메모리카드, ROM 등이 있을 수 있다.
이와 같이 본 발명은 도면에 도시된 실시예를 참고로 설명되었으나 이는 예시적인 것에 불과하며, 당해 기술분야에서 통상의 지식을 가진 자라면 이로부터 다양한 변형 및 균등한 다른 실시예가 가능하다는 점을 이해할 것이다. 따라서 본 발명의 진정한 기술적 보호 범위는 첨부된 청구범위의 기술적 사상에 의하여 정해져야 할 것이다.
1000: 스텐트 예측 시스템
100: 스텐트 예측 장치
110: 통신부
120, 1200: 프로세서
130: 메모리
200: 서버
1210: 학습부
1220: 인식부

Claims (8)

  1. 타겟 환자의 혈관 영역 중 시술 대상이 되는 영역을 관심 영역으로 설정하고, 상기 관심 영역에 대한 시술 전 IVUS 영상인 제1 IVUS 영상을 획득하는 단계;
    상기 제1 IVUS 영상에 대하여 미리 정해진 간격으로 분할된 복수의 제1 IVUS 단면 영상을 획득하는 단계;
    상기 타겟 환자에 대한 시술 정보에 관한 특징 정보를 추출하는 단계;
    상기 복수의 제1 IVUS 단면 영상에 대하여 혈관 경계 및 내벽 경계가 구분된 마스크 이미지 정보를 획득하는 단계; 및
    상기 복수의 제1 IVUS 단면 영상, 상기 특징 정보 및 상기 마스크 이미지 정보를 인공지능 모델에 입력하여 상기 타겟 환자의 시술 후 스텐트 면적을 포함하는 스텐트 시술 경과를 예측하는 단계;를 포함하는, 딥러닝 기반 스텐트 예측 방법.
  2. 제1항에 있어서,
    상기 딥러닝 기반 스텐트 예측 방법은,
    환자의 임상적(clinical) 특징을 획득하는 단계;를 더 포함하고,
    상기 스텐트 시술 경과를 예측하는 단계는 상기 인공지능 모델에 상기 임상적 특징을 함께 입력하여 상기 시술 후 스텐트 면적을 예측하는, 딥러닝 기반 스텐트 예측 방법.
  3. 제1항에 있어서,
    상기 스텐트 시술 경과를 예측하는 단계는,
    상기 타겟 환자의 시술 후 스텐트 면적을 산출하는 단계; 및
    상기 시술 후 스텐트 면적과 미리 설정된 기준치를 비교하여 상기 스텐트의 불완전 확장 여부를 판단하는 단계;를 포함하는, 딥러닝 기반 스텐트 예측 방법.
  4. 제3항에 있어서,
    상기 스텐트 시술 경과를 예측하는 단계는,
    상기 시술 후 스텐트 면적 및 상기 불완전 확장 여부에 기초하여 상기 타겟 환자에 대한 스텐트 시술 수행 여부에 관한 치료 기법을 결정하는 단계를 포함하되,
    상기 치료 기법을 결정하는 단계는, 수행으로 결정된 경우 스텐트의 직경, 길이 및 스텐트 풍선압을 포함하는 스텐트 가이드 정보를 출력하고, 미수행으로 결정된 경우 스텐트 시술과 다른 시술법을 출력하는 것을 특징으로 하는, 딥러닝 기반 스텐트 예측 방법.
  5. 제1항에 있어서,
    상기 딥러닝 기반의 스텐트 예측 방법은, 상기 인공지능 모델을 복수의 기 환자의 제1 가공 IVUS 영상을 학습 데이터로 학습시키는 단계를 포함하고, 상기 제1 가공 IVUS 영상은,
    복수의 기 환자의 시술 전 IVUS 영상인 제1 기준 IVUS 영상에 대하여 상기 복수의 기 환자의 시술 후 IVUS 영상인 제2 기준 IVUS 영상을 정합하는 단계;
    상기 제1 기준 IVUS 영상에 대하여 상기 제2 기준 IVUS 영상의 스텐트 면적 값으로 레이블링하는 단계;에 의해 획득되는, 딥러닝 기반 스텐트 예측 방법.
  6. 제5항에 있어서,
    상기 학습시키는 단계는,
    상기 제1 가공 IVUS 영상 및 상기 복수의 기 환자의 스텐트 시술 정보를 기초로 상기 스텐트 시술 정보에 관한 기준 특징 정보를 추출하는 단계;
    상기 제1 기준 IVUS 영상 및 상기 제1 가공 IVUS 영상 중 적어도 하나를 기초로 혈관 경계 및 내벽 경계가 구분된 기준 마스크 이미지 정보를 획득하는 단계; 및
    상기 기준 특징 정보 및 상기 기준 마스크 이미지 정보를 함께 학습 데이터로 하여 상기 인공지능 모델을 학습시키는 단계;를 포함하는, 딥러닝 기반 스텐트 예측 방법.
  7. 제1항 내지 제6항 중 어느 한 항의 방법을 실행 시키기 위한 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록매체.
  8. 타겟 환자의 혈관 영역 중 시술 대상이 되는 영역을 관심 영역에 대한 시술 전 IVUS 영상인 제1 IVUS 영상을 획득하고, 상기 제1 IVUS 영상에 대하여 미리 정해진 간격으로 분할된 복수의 제1 IVUS 단면 영상을 획득하는 영상 가공부;
    상기 타겟 환자에 대한 시술 정보에 관한 특징 정보를 추출하는 특징 추출부;
    상기 복수의 제1 IVUS 단면 영상에 대하여 혈관 경계 및 내벽 경계가 구분된 마스크 이미지 정보를 획득하는 마스크 이미지 획득부; 및
    상기 복수의 제1 IVUS 단면 영상, 상기 특징 정보 및 상기 마스크 이미지 정보를 인공지능 모델에 입력하여 상기 타겟 환자의 시술 후 스텐트 확장 면적을 포함하는 스텐트 시술 경과를 예측하는 스텐트 예측부;를 포함하는, 딥러닝 기반 스텐트 예측 장치.
KR1020200166973A 2020-12-02 2020-12-02 초음파 영상 기반의 딥 러닝을 통한 관상동맥 스텐트 예측 방법, 장치 및 기록매체 KR102546291B1 (ko)

Priority Applications (4)

Application Number Priority Date Filing Date Title
KR1020200166973A KR102546291B1 (ko) 2020-12-02 2020-12-02 초음파 영상 기반의 딥 러닝을 통한 관상동맥 스텐트 예측 방법, 장치 및 기록매체
EP21901038.6A EP4257056A1 (en) 2020-12-02 2021-12-02 Coronary artery stent prediction method, device, and recording medium using deep learning based on ultrasound image
US18/255,780 US20240112343A1 (en) 2020-12-02 2021-12-02 Coronary artery stent prediction method, device, and recording medium using deep learning based on ultrasound image
PCT/KR2021/018114 WO2022119350A1 (ko) 2020-12-02 2021-12-02 초음파 영상 기반의 딥 러닝을 통한 관상동맥 스텐트 예측 방법, 장치 및 기록매체

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020200166973A KR102546291B1 (ko) 2020-12-02 2020-12-02 초음파 영상 기반의 딥 러닝을 통한 관상동맥 스텐트 예측 방법, 장치 및 기록매체

Publications (2)

Publication Number Publication Date
KR20220078013A true KR20220078013A (ko) 2022-06-10
KR102546291B1 KR102546291B1 (ko) 2023-06-26

Family

ID=81853316

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020200166973A KR102546291B1 (ko) 2020-12-02 2020-12-02 초음파 영상 기반의 딥 러닝을 통한 관상동맥 스텐트 예측 방법, 장치 및 기록매체

Country Status (4)

Country Link
US (1) US20240112343A1 (ko)
EP (1) EP4257056A1 (ko)
KR (1) KR102546291B1 (ko)
WO (1) WO2022119350A1 (ko)

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070165916A1 (en) * 2003-11-13 2007-07-19 Guy Cloutier Automatic multi-dimensional intravascular ultrasound image segmentation method
US20070260141A1 (en) * 2006-03-22 2007-11-08 Volcano Corporation Automated lesion analysis based upon automatic plaque characterization according to a classification criterion
WO2011038305A2 (en) * 2009-09-25 2011-03-31 Volcano Corporation Device and method for determining the likelihood of a patient having a clinical event or a clinically silent event based on ascertained physiological parameters
KR20120028154A (ko) * 2010-09-14 2012-03-22 울산대학교 산학협력단 죽상 경화증 진단방법 및 그 장치
US20150112182A1 (en) * 2013-10-17 2015-04-23 Siemens Aktiengesellschaft Method and System for Machine Learning Based Assessment of Fractional Flow Reserve
US20170249439A1 (en) * 2016-02-26 2017-08-31 Heartflow, Inc. Systems and methods for identifying and modeling unresolved vessels in image-based patient-specific hemodynamic models
WO2018064336A1 (en) * 2016-09-28 2018-04-05 Lightlab Imaging, Inc. Stent planning systems and methods using vessel representation
KR20190083185A (ko) * 2018-01-03 2019-07-11 주식회사 메디웨일 Ivus 영상 분석방법
EP3618002A1 (en) * 2018-08-30 2020-03-04 Koninklijke Philips N.V. Interactive self-improving annotation system for high-risk plaque burden assessment

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9888968B2 (en) * 2014-07-22 2018-02-13 Siemens Healthcare Gmbh Method and system for automated therapy planning for arterial stenosis
US10748659B2 (en) * 2015-03-10 2020-08-18 Abbott Cardiovascular Systems Inc. Method and system for predicting risk of thrombosis
KR102009840B1 (ko) * 2018-03-19 2019-08-12 한림대학교 산학협력단 인공신경망(ann)을 이용하여 지속적 혈류역학적 이상(phd)를 예측하는 방법 및 장치
KR20190125596A (ko) * 2018-04-30 2019-11-07 주식회사 실리콘사피엔스 환자 맞춤형 최적 스텐트 선정 방법

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20070165916A1 (en) * 2003-11-13 2007-07-19 Guy Cloutier Automatic multi-dimensional intravascular ultrasound image segmentation method
US20070260141A1 (en) * 2006-03-22 2007-11-08 Volcano Corporation Automated lesion analysis based upon automatic plaque characterization according to a classification criterion
WO2011038305A2 (en) * 2009-09-25 2011-03-31 Volcano Corporation Device and method for determining the likelihood of a patient having a clinical event or a clinically silent event based on ascertained physiological parameters
KR20120028154A (ko) * 2010-09-14 2012-03-22 울산대학교 산학협력단 죽상 경화증 진단방법 및 그 장치
US20150112182A1 (en) * 2013-10-17 2015-04-23 Siemens Aktiengesellschaft Method and System for Machine Learning Based Assessment of Fractional Flow Reserve
US20160106321A1 (en) * 2013-10-17 2016-04-21 Siemens Aktiengesellschaft Method and System for Machine Learning Based Assessment of Fractional Flow Reserve
US20170265754A1 (en) * 2013-10-17 2017-09-21 Siemens Healthcare Gmbh Method and system for machine learning based assessment of fractional flow reserve
US20170249439A1 (en) * 2016-02-26 2017-08-31 Heartflow, Inc. Systems and methods for identifying and modeling unresolved vessels in image-based patient-specific hemodynamic models
WO2018064336A1 (en) * 2016-09-28 2018-04-05 Lightlab Imaging, Inc. Stent planning systems and methods using vessel representation
KR20190083185A (ko) * 2018-01-03 2019-07-11 주식회사 메디웨일 Ivus 영상 분석방법
EP3618002A1 (en) * 2018-08-30 2020-03-04 Koninklijke Philips N.V. Interactive self-improving annotation system for high-risk plaque burden assessment

Non-Patent Citations (4)

* Cited by examiner, † Cited by third party
Title
"Automated detection of vulnerable plaque in intravascular ultrasound images", Med Biol Eng Comput 57, 863-876 (2019) *
"Intravascular ultrasound-based deep learning for plaque characterization in coronary artery disease", Atherosclerosis, vol.324, May 2021, p.69-75 *
"Intravascular ultrasound-based machine learning for predicting fractional flow reserve in intermediate coronary artery lesions", Atherosclerosis, vol.292, Jan. 2020, p.171-177 *
"Intravascular Ultrasound-Derived Criteria for Optimal Stent Expansion and Preprocedural Prediction of Stent Underexpansion", Circulation: Cardiovascular Interventions, vol.14, Oct.2021, page e011374 *

Also Published As

Publication number Publication date
EP4257056A1 (en) 2023-10-11
WO2022119350A1 (ko) 2022-06-09
US20240112343A1 (en) 2024-04-04
KR102546291B1 (ko) 2023-06-26

Similar Documents

Publication Publication Date Title
US11276497B2 (en) Diagnosis assistance system and control method thereof
CN107492099B (zh) 医学图像分析方法、医学图像分析系统以及存储介质
JP6947759B2 (ja) 解剖学的対象物を自動的に検出、位置特定、及びセマンティックセグメンテーションするシステム及び方法
KR102343889B1 (ko) 초음파 영상 기반의 기계 학습을 통한 관상동맥 병변 진단 시스템 및 이의 진단 방법
KR102283443B1 (ko) 광 간섭 단층 영상 기반의 고위험 병변 진단 시스템 및 이의 진단 방법
JP2016531709A (ja) 疾患を診断するための画像解析技術
WO2021186592A1 (ja) 診断支援装置及びモデル生成装置
Cui et al. Diabetic wound segmentation using convolutional neural networks
CN111985584B (zh) 基于多模态数据的疾病辅助检测设备、方法、装置及介质
CN114119602B (zh) 对医学图像进行对象分析的方法、装置和存储介质
US11471058B2 (en) Diagnostic device, diagnostic method and recording medium for diagnosing coronary artery lesions through coronary angiography-based machine learning
CN117274270B (zh) 基于人工智能的消化内镜实时辅助系统及方法
KR102306279B1 (ko) 안저 영상판독 지원방법, 안저 영상판독 지원장치 및 이를 포함하는 안저 영상판독 지원 시스템
CN113706559A (zh) 基于医学图像的血管分段提取方法和装置
KR102257295B1 (ko) 초음파 영상 기반의 기계 학습을 통한 취약성 죽상반 진단 시스템 및 이의 진단 방법
EP4257055A1 (en) Method, apparatus, and recording medium for analyzing coronary plaque tissue through ultrasound image-based deep learning
KR102546291B1 (ko) 초음파 영상 기반의 딥 러닝을 통한 관상동맥 스텐트 예측 방법, 장치 및 기록매체
Ullaha et al. Optic disc segmentation and classification in color fundus images: a resource-aware healthcare service in smart cities
CN115409828A (zh) 一种使用计算机对冠状动脉狭窄诊断定位方法
CN114972241A (zh) 基于残差神经网络胎儿超声切面量化质控考核方法及装置
KR102282334B1 (ko) 시신경 유두 분류 방법
CN113052930A (zh) 一种胸部dr双能量数字减影图像生成方法
KR102607593B1 (ko) 딥러닝 기반 무릎 자기 공명 이미지의 반월상 연골을 분할하는 방법, 이를 위한 프로그램 및 장치
dos Santos Filho et al. Segmentation of calcification regions in intravascular ultrasound images by adaptive thresholding
Unde et al. Brain MRI Image Analysis for Alzheimer’s Disease Diagnosis Using Mask R-CNN

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right