KR20220089560A - 딥 러닝 알고리듬과 해부학적 특성에 기반한 의료 영상 셋의 컨투어링 시스템 및 방법 - Google Patents

딥 러닝 알고리듬과 해부학적 특성에 기반한 의료 영상 셋의 컨투어링 시스템 및 방법 Download PDF

Info

Publication number
KR20220089560A
KR20220089560A KR1020200180306A KR20200180306A KR20220089560A KR 20220089560 A KR20220089560 A KR 20220089560A KR 1020200180306 A KR1020200180306 A KR 1020200180306A KR 20200180306 A KR20200180306 A KR 20200180306A KR 20220089560 A KR20220089560 A KR 20220089560A
Authority
KR
South Korea
Prior art keywords
contouring
contour
processor
user
region
Prior art date
Application number
KR1020200180306A
Other languages
English (en)
Other versions
KR102667231B1 (ko
Inventor
최원훈
Original Assignee
주식회사 인피니트헬스케어
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 인피니트헬스케어 filed Critical 주식회사 인피니트헬스케어
Priority to KR1020200180306A priority Critical patent/KR102667231B1/ko
Priority claimed from KR1020200180306A external-priority patent/KR102667231B1/ko
Priority to US17/153,174 priority patent/US11836926B2/en
Publication of KR20220089560A publication Critical patent/KR20220089560A/ko
Application granted granted Critical
Publication of KR102667231B1 publication Critical patent/KR102667231B1/ko

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/12Edge-based segmentation
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/40ICT specially adapted for the handling or processing of medical images for processing medical images, e.g. editing
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0033Features or image-related aspects of imaging apparatus classified in A61B5/00, e.g. for MRI, optical tomography or impedance tomography apparatus; arrangements of imaging apparatus in a room
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/05Detecting, measuring or recording for diagnosis by means of electric currents or magnetic fields; Measuring using microwaves or radio waves 
    • A61B5/055Detecting, measuring or recording for diagnosis by means of electric currents or magnetic fields; Measuring using microwaves or radio waves  involving electronic [EMR] or nuclear [NMR] magnetic resonance, e.g. magnetic resonance imaging
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
    • A61B6/52Devices using data or image processing specially adapted for radiation diagnosis
    • A61B6/5211Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data
    • A61B6/5217Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data extracting a diagnostic or physiological parameter from medical diagnostic data
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B8/00Diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/52Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves
    • A61B8/5215Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data
    • A61B8/5223Devices using data or image processing specially adapted for diagnosis using ultrasonic, sonic or infrasonic waves involving processing of medical diagnostic data for extracting a diagnostic or physiological parameter from medical diagnostic data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/149Segmentation; Edge detection involving deformable models, e.g. active contour models
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • G16H30/20ICT specially adapted for the handling or processing of medical images for handling medical images, e.g. DICOM, HL7 or PACS
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/70ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for mining of medical data, e.g. analysing previous cases of other patients
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/24Indexing scheme for image data processing or generation, in general involving graphical user interfaces [GUIs]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • G06T2207/10081Computed x-ray tomography [CT]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10072Tomographic images
    • G06T2207/10088Magnetic resonance imaging [MRI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20092Interactive image processing based on input by user
    • G06T2207/20104Interactive definition of region of interest [ROI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30096Tumor; Lesion

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Medical Informatics (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Public Health (AREA)
  • Radiology & Medical Imaging (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Pathology (AREA)
  • Biomedical Technology (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Biophysics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Veterinary Medicine (AREA)
  • Surgery (AREA)
  • Epidemiology (AREA)
  • Primary Health Care (AREA)
  • Quality & Reliability (AREA)
  • High Energy & Nuclear Physics (AREA)
  • Physiology (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Optics & Photonics (AREA)
  • Software Systems (AREA)
  • Apparatus For Radiation Diagnosis (AREA)
  • Image Analysis (AREA)

Abstract

의료 영상의 컨투어링 시스템 및 방법이 개시된다. 본 발명의 일 실시예에 따른 의료 영상의 컨투어링 시스템은 통신 인터페이스 모듈을 경유하여 복수의 의료 영상들을 포함하는 의료 영상 셋(medical image set)을 수신하고, 사용자 인터페이스 모듈을 경유하여 컨투어를 그리기 위한 객체로서 관심 영역 정보를 수신하고, 사용자에게 현재 보여지는 타겟 이미지에 관심 영역 정보에 대응하는 컨투어가 그려져 있는지 확인하고, 타겟 이미지에 관심 영역 정보에 대응하는 컨투어가 그려져 있지 않으면 컨투어링 조건에 기반하여 컨투어 후보를 예측하고, 컨투어 후보를 타겟 이미지 상에 표시한다. 컨투어링 조건은 관심 영역 정보에 대응하는 컨투어가 이미 그려진 적어도 하나 이상의 소스 이미지 및 타겟 이미지 간의 관련성, 및 관심 영역 정보에 관련된 해부학적 정보를 포함한다.

Description

딥 러닝 알고리듬과 해부학적 특성에 기반한 의료 영상 셋의 컨투어링 시스템 및 방법 {SYSTEM AND METHOD FOR CONTOURING A SET OF MEDICAL IMAGES BASED ON DEEP LEARNING ALGORIGHM AND ANATOMICAL CHARACTERISTICS}
본 발명은 의료 영상 처리(medical image processing)에 관한 기술로서, 구체적으로는 의료 영상의 컨투어링(contouring)을 고도화하고 실제 적용 가능성을 향상시키는 기술에 관한 것이다.
일반적으로, 컨투어링(contouring)은 영상에서 관심 객체의 윤곽선/컨투어 (contour)를 추출하는 과정으로 객체를 간결하고 분석하기 쉽게 표현할 수 있기 때문에 영상처리 분야에서 다양하게 활용되며, 의료 영상 처리 분야에서는 환자에게서 얻은 컴퓨터 단층촬영 (CT: Computed Tomography) 영상 또는 자기공명 (MR: Magnetic Resonance) 영상 등의 진단영상을 이용하여 질병의 진단, 치료, 치료 후 예후관찰 등에 컨투어링을 활용할 수 있다.
컨투어링이 매우 중요한 의미를 가지는 어플리케이션으로서 영상유도 방사선치료 (IGRT: Image Guided Radiation Therapy) 기법을 들 수 있다. IGRT 방법은 방사선 치료 전에 진단영상을 이용하여 방사선 조사 위치와 범위를 계획함으로써 종양 주변의 정상조직을 최대한 보호하면서 종양 부위에만 방사선을 조사하는 방법이다. 이를 위해 정상 장기들(organs)의 컨투어 정보를 입력하여 종양부위와 정상 장기들을 구분해야 한다.
이러한 컨투어링 과정은 의료 전문가에 의하여 의료 현장에서 수동으로 진행되고 있다. 최근의 진단영상 기기의 발전으로 의료 영상의 데이터 양이 방대해지면서 전문가에 의한 수동 컨투어링은 많은 시간을 요구하기 때문에 자동 및 반자동 컨투어링을 수행하고 있으나, 컨투어링하고자 하는 인체 장기의 실제 경계와 사용자가 요구하는 윤곽선/컨투어의 차이가 발생하는 문제가 있다.
의료 전문가가 요구하는 컨투어링 결과와, 자동 또는 반자동으로 수행되는 컨투어링 결과의 차이는 크게 두 가지 요인에서 기인한다. 의료 전문가는 컨투어링 결과의 사용 목적을 고려할 때 장기의 경계를 복잡하고 정확하게 추출하기보다는 장기를 보호하거나, 장기를 치료 대상으로 하기 적합한 형태로 그리는(draw) 방식을 선호하는 경우가 있다.
또 다른 한 가지 이유는 자동 또는 반자동 컨투어링은 기본적으로 의료 영상의 밝기값에 기반한 경계 분할(segmentation)에 의존하는데, 서로 인접한 다른 장기 간의 밝기값이 유사하거나 잡음의 영향으로 객체 간의 경계가 불연속적인 경우에 인접한 장기 또는 객체를 명확히 구별해 내지 못하는 문제점이 있다.
의료 영상 처리 분야에서 자동 또는 반자동 컨투어링에 적용되는 종래 기술들은 크게 경계기반 기법(edge based method), 형상기반 기법(shape based method), 변형 모델 기법(deformable model method)으로 구분될 수 있다.
경계기반 기법은 영상에서 주변 화소와 밝기값 차이가 발생하는 화소들을 윤곽선/컨투어로 인식하는 기법으로 객체의 경계가 불연속적이거나 밝기값이 유사한 주변 배경이 존재할 때 정확하게 컨투어링하지 못하는 한계점이 있다.
형상기반 기법은 사전에 인지된 해부학적 형상 정보를 이용해 컨투어링하는 기법으로 상대적으로 높은 정확성을 가지나 통계 형상 모델을 구축해야 하는 부담이 있다. 컨투어링하고자 하는 객체의 형상 변화가 다양한 경우 통계 형상 모델 구성 정도에 따라 정확성에 영향을 받는다.
형상기반 기법의 다른 예로 미국공개특허 US 2019/0251694 "ATLAS-BASED SEGMENTATION USING DEEP-LEARNING"를 들 수 있다. US 2019/0251694는 대상 이미지(subject image)에서 해부학적 구조를 식별하기 위하여 대표 형상인 아틀라스(atlas) 이미지를 대상 이미지에 정합하는 과정을 딥러닝 기법의 도움을 받아 해결하고자 하는 발명이다.
변형 모델 기법은 최근 컴퓨터 비젼 분야에서 활발히 응용되는 방법으로 기하학적 모델(geometric model)인 Chan-Vese 모델의 경우 윤곽선/컨투어 내부, 외부 영역의 밝기값 신호 분포의 유사성을 이용하여 영역을 추출하는 기법으로 주변에 객체와 유사한 밝기값을 갖는 영역이 존재할 경우 객체가 아닌 배경 영역을 초기 윤곽선/컨투어 내부로 설정하여 잘못된 객체를 추출하는 한계점이 있다.
변형 모델 기법의 다른 예로 미국등록특허 US 9,792,525 "Systems and methods for contouring a set of medical images"를 들 수 있다. US 9.792,525는 컨투어가 이미 그려진 source image로부터 컨투어를 그리고자 하는 target image 간의 Deformable field data 를 생성하고, Deformable image registration(변형 가능한 영상 정합) 기술을 적용하여 컨투어를 자동 또는 반자동으로 생성한다.
한국등록특허 KR 10-1404345 "진단영상의 객체 자동 윤곽화 시스템 및 그 윤곽화 방법"에서는 변형 모델 기법이 취약한 조건인 객체 주변에 유사한 밝기값이 존재하는 영역에 대해서는 사전 형상 정보를 반영하여 컨투어의 내부 영역을 정합함으로써 형상기반 기법과 변형 모델 기법이 결합된 컨투어 기술이 개시된다.
이들 선행문헌들의 기술은 컨투어를 생성하는 과정에서 긴 시간과 많은 리소스(예를 들어, 메모리와 컴퓨팅 파워)를 필요로 하고, 여전히 의료 현장에서 필요로 하는 컨투어링 결과와 차이가 있는 결과를 제공하고 있어 실제 의료 현장에서 사용되는 빈도가 낮은 문제점이 있다.
미국등록특허 US 9,792,525 "Systems and methods for contouring a set of medical images" (2017년 10월 17일) 한국등록특허 KR 10-1404345 "진단영상의 객체 자동 윤곽화 시스템 및 그 윤곽화 방법" (2014년 5월 29일) 미국공개특허 US 2019/0251694 "ATLAS-BASED SEGMENTATION USING DEEP-LEARNING" (2019년 8월 15일)
전술한 선행문헌들, 미국등록특허 US 9,792,525 "Systems and methods for contouring a set of medical images" 및 한국등록특허 KR 10-1404345 "진단영상의 객체 자동 윤곽화 시스템 및 그 윤곽화 방법"은 실험실 레벨에서는 상당한 수준의 성과에 도달하였지만, 여전히 의료 현장의 요구사항과는 차이가 있다.
종래 기술의 컨투어링 기술은 자동 또는 반자동으로 의료 영상의 전 범위에 걸친 슬라이스들을 컨투어링할 수는 있지만, 이러한 결과가 의료 현장에서 의료 전문가가 의도하는 목적에 부합하지 않으므로 의료 현장에서는 전자동 컨투어링 기술은 여전히 선호되지 않는다.
의료 현장의 특수성을 고려할 때, 실제 적용 가능성을 높이기 위해서는 이미 사용자가 컨펌한 컨투어가 drawing된 슬라이스에 기반하여, 새로 컨투어를 drawing해야 하는 슬라이스에서 장기의 컨투어를 제공하는 기술이 의료 현장에서 채택될 가능성이 높다.
본 발명은 종래기술 및 상기의 선행기술의 문제점을 해결하고자 하는 발명으로서, 특정 해부학적 장기를 전체적으로 또는 부분적으로, 자동 또는 반자동 절차에 따라 컨투어링하는 과정에서, 이미 컨투어가 drawing된 슬라이스에 기반하여 새로 컨투어를 drawing해야 하는 슬라이스에서 특정 해부학적 장기의 컨투어를 예비적으로 drawing하는 기술을 제안하는 것을 목적으로 한다.
이러한 과정을 컨투어 프리딕션(contour prediction)이라 하며, 본 발명은 컨투어 프리딕션에서 해부학적 장기의 특성을 고려하여 보다 사용자의 목적에 부합하는 컨투어를 제공하는 것을 목적으로 한다.
본 발명은 기존 완전 자동화 시스템에서는 필연적으로 발생하는 의료 전문가의 수정 요구에 대응하여 장기 별 특성에 따라 새로운 컨투어 후보의 제안을 서포트하는 것을 목적으로 한다.
본 발명은 컨투어 프리딕션 시 계산을 위한 로딩을 최소화하고, 사용자의 요청에 신속하게 응답하여 컨투어 후보를 제안하는 것을 목적으로 한다.
본 발명은 상기의 목적을 달성하기 위하여 도출된 구성으로서, 본 발명의 일 실시예에 따른 의료 영상의 컨투어링 시스템은 적어도 하나 이상의 프로세서, 사용자 인터페이스 모듈, 및 통신 인터페이스 모듈을 포함한다. 적어도 하나 이상의 프로세서는 통신 인터페이스 모듈을 경유하여 복수의 의료 영상들을 포함하는 의료 영상 셋(medical image set)을 수신하고, 적어도 하나 이상의 프로세서는 사용자 인터페이스 모듈을 경유하여 컨투어를 그리기 위한 객체로서 관심 영역 정보를 수신하고, 적어도 하나 이상의 프로세서는 사용자에게 현재 보여지는 타겟 이미지에 관심 영역 정보에 대응하는 컨투어가 그려져 있는지 확인하고, 적어도 하나 이상의 프로세서는 타겟 이미지에 관심 영역 정보에 대응하는 컨투어가 그려져 있지 않으면 컨투어링 조건에 기반하여 컨투어 후보를 예측하고, 적어도 하나 이상의 프로세서는 컨투어 후보를 타겟 이미지 상에 표시한다. 컨투어링 조건은 관심 영역 정보에 대응하는 컨투어가 이미 그려진 적어도 하나 이상의 소스 이미지 및 타겟 이미지 간의 관련성, 및 관심 영역 정보에 관련된 해부학적 정보를 포함한다.
해부학적 정보는 관심 영역 정보에 관련된 물리적 특성(physical property)을 포함할 수 있다. 물리적 특성의 예시로는 관심 영역 장기 섬유(tissue)의 탄성(elasticity)를 들 수 있다.
해부학적 정보는 사용자, 관심 영역 정보, 환자의 성별, 환자의 연령, 환자의 질병 내역, 및 환자에 대한 치료 내역 중 적어도 하나 이상에 기반하여 결정될 수 있다.
해부학적 정보는 적어도 하나 이상의 소스 이미지 상의 컨투어로부터 컨투어 후보를 도출하는 제약조건(constraints)과 관련된 컨투어링 파라미터를 포함할 수 있다. 이때 컨투어링 파라미터는 컨투어링 과정에서 해부학적 정보가 기여하는 role에 기반하여 정의되는 개념일 수 있다.
적어도 하나 이상의 프로세서는 사용자 인터페이스 모듈을 경유하여 수신된 관심 영역 정보를 관심 영역 정보에 대한 자연어 처리에 기반하여 미리 결정된 해부학적 그룹 중 어느 하나에 매핑할 수 있다.
적어도 하나 이상의 프로세서는 수신된 관심 영역 정보가 매핑된 제1 해부학적 그룹의 분류에 기반하여 결정되는 컨투어링 파라미터를 적용하여 컨투어 후보를 예측할 수 있다.
적어도 하나 이상의 프로세서는 사용자가 승인하는 컨투어 후보의 패턴을 분석하여 사용자 별로 관심 영역 정보에 따라서 적용하는 컨투어링 파라미터의 패턴을 도출할 수 있다. 적어도 하나 이상의 프로세서는 사용자 별로 관심 영역 정보에 따라서 적용하는 컨투어링 파라미터의 패턴을 새로운 타겟 이미지에 대하여 적용함으로써 새로운 타겟 이미지에 대한 새로운 컨투어 후보를 예측할 수 있다.
적어도 하나 이상의 프로세서는 사용자 인터페이스 모듈을 경유하여 컨투어 후보 예측에 대한 컨투어링 도움 요청 이벤트(contouring aid request event)를 검출할 수 있다. 이때 관심 영역 정보에 대응하는 컨투어가 이미 그려진 적어도 하나 이상의 소스 이미지 및 타겟 이미지 간의 관련성은 컨투어링 도움 요청 이벤트의 종류에 기반하여 결정될 수 있다.
적어도 하나 이상의 프로세서는 컨투어 후보에 대하여 미리 지정된 후속 시퀀스를 사용자에게 제공할 수 있다. 이때 적어도 하나 이상의 프로세서는 사용자에 의하여 후속 시퀀스에 대한 미리 지정된 피드백을 수신하면 컨투어 후보를 승인할 수 있다.
본 발명의 일 실시예에 따른 의료 영상의 컨투어링 방법은 적어도 하나 이상의 프로세서가, 통신 인터페이스 모듈을 경유하여 복수의 의료 영상들을 포함하는 의료 영상 셋(medical image set)을 수신하는 단계; 적어도 하나 이상의 프로세서가, 사용자 인터페이스 모듈을 경유하여 컨투어를 그리기 위한 객체로서 관심 영역 정보를 수신하는 단계; 적어도 하나 이상의 프로세서가, 사용자에게 현재 보여지는 타겟 이미지에 관심 영역 정보에 대응하는 컨투어가 그려져 있는지 확인하는 단계; 적어도 하나 이상의 프로세서가, 타겟 이미지에 관심 영역 정보에 대응하는 컨투어가 그려져 있지 않으면 컨투어링 조건에 기반하여 컨투어 후보를 예측하는 단계; 및 적어도 하나 이상의 프로세서가, 컨투어 후보를 타겟 이미지 상에 표시하는 단계를 포함한다.
본 발명에 따르면 특정 해부학적 장기를 전체적으로 또는 부분적으로, 자동 또는 반자동 절차에 따라 컨투어링하는 과정에서, 이미 컨투어가 drawing된 슬라이스에 기반하여 새로 컨투어를 drawing해야 하는 슬라이스에서 특정 해부학적 장기의 컨투어를 예비적으로 drawing할 수 있다.
본 발명에 따르면 컨투어 프리딕션에서 해부학적 장기의 특성을 고려하여 보다 사용자의 목적에 부합하는 컨투어를 제공할 수 있다.
본 발명에 따르면 기존 완전 자동화 시스템에서는 필연적으로 발생하는 의료 전문가의 수정 요구에 대응하여 장기 별 특성에 따라 새로운 컨투어 후보의 제안을 서포트할 수 있다.
본 발명에 따르면 컨투어 프리딕션 시 계산을 위한 로딩을 최소화하고, 사용자의 요청에 신속하게 응답하여 컨투어 후보를 제안할 수 있다.
도 1은 본 발명의 일 실시예에 따른 의료 영상의 컨투어링 시스템에서, 컨투어링 도움 엔진(contouring aid engine)을 선택하기까지의 워크플로우를 도시하는 도면이다.
도 2는 본 발명의 일 실시예에 따른 의료 영상의 컨투어링 시스템에서, 컨투어 후보를 예측하는 워크플로우를 도시하는 도면이다.
도 3은 본 발명의 일 실시예에 따른 의료 영상의 컨투어링 시스템 및 주변 기기와의 관련성을 도시하는 도면이다.
상기 목적 외에 본 발명의 다른 목적 및 특징들은 첨부 도면을 참조한 실시예에 대한 설명을 통하여 명백히 드러나게 될 것이다.
본 발명의 바람직한 실시예를 첨부된 도면들을 참조하여 상세히 설명한다. 본 발명을 설명함에 있어, 관련된 공지 구성 또는 기능에 대한 구체적인 설명이 본 발명의 요지를 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명은 생략한다.
본 발명의 구성 중 본 발명의 출원 전에 당업자에게 공지된 내용은 필요에 따라서 본 명세서에서 본 발명의 구성 중 일부로서 설명하되, 당업자에게 자명한 사실은 발명의 취지를 흐릴 수 있다고 생각되면 설명을 생략할 수 있다. 또한 본 명세서에서 생략된 사항은 본 출원명세서에서 인용하고 있는 선행문헌들, 예를 들어, 미국등록특허 US 9,792,525 "Systems and methods for contouring a set of medical images", 한국등록특허 KR 10-1404345 "진단영상의 객체 자동 윤곽화 시스템 및 그 윤곽화 방법", 및 미국공개특허 US 2019/0251694 "ATLAS-BASED SEGMENTATION USING DEEP-LEARNING" 등을 통하여 당업자에게 공지되었음을 알림으로써 설명에 갈음할 수 있다.
이들 선행문헌들이 개시하는 내용 중 일부는 본 발명이 해결하고자 하는 문제점과 관련되며, 본 발명이 채택하는 해결 수단 중 일부는 이들 선행문헌에도 공통적으로 적용될 수 있다.
이하의 도 1 내지 도 3의 설명에서, 본 발명의 기술 분야에서 널리 알려진 공지 기술이라고 간주되는 사항은 요점을 흐리지 않기 위하여 필요에 따라 설명을 생략하거나, 선행문헌을 인용함으로써 설명을 대체할 수 있다.
또한 앞서 인용된 선행문헌 및 이후 인용되는 선행문헌들의 구성의 일부 또는 전부는 본 발명이 해결하고자 하는 문제점과 관련되며, 본 발명이 채택하는 해결 수단 중 일부는 선행문헌들로부터 차용한 것일 수 있다.
선행문헌들에 개시된 사항들 중 본 발명을 구체화하기 위하여 공통적으로 포함되는 사항에 한하여 본 발명의 구성의 일부로서 간주될 것이다. 이때 선행문헌들에 개시된 사항들 중 본 발명의 목적에 반하지 않는 구성에 한하여 본 발명의 구성의 일부로서 간주될 수 있다.
이하에서 본 발명의 상세한 사항을 도 1 내지 도 3의 실시예들을 통하여 설명한다.
도 1은 본 발명의 일 실시예에 따른 의료 영상의 컨투어링 시스템에서, 컨투어링 도움 엔진(contouring aid engine)을 선택하기까지의 워크플로우를 도시하는 도면이다.
의료 영상의 컨투어링 시스템의 적어도 하나 이상의 프로세서는 사용자 인터페이스 모듈을 경유하여 사용자의 로그인을 허용하고 사용자를 인식할 수 있다(110).
사용자는 의료 전문가이며, 임상의(clinician), 영상의(radiologist), 의료 기술 스탭(medical technical staff) 중 어느 하나일 수 있다. 사용자의 역할에 따라서 의료 영상의 컨투어링 과정에서 기대되는 행동이 상이하기 때문에 사용자를 인식하는 과정은 의료 영상의 컨투어링의 결과로서 제공되는 컨투어 후보에 대한 사용자의 만족도를 높이는 데에 중요한 요소로서 기능할 수 있다.
의료 영상의 컨투어링 시스템의 적어도 하나 이상의 프로세서는 사용자 인터페이스 모듈을 경유하여 관심 영역(ROI, Region of Interest) 정보를 인식할 수 있다(120). 관심 영역 정보는 컨투어를 그리고자 하는 객체로서 장기(organ)를 의미할 수 있다.
의료 현장의 워크플로우에서는 복수의 의료 영상 셋 전체에 대하여 하나의 장기에 대한 컨투어를 연속적인 시퀀스로 그리고, 다시 복수의 의료 영상 셋 전체에 대하여 다른 장기에 대한 컨투어를 연속적인 시퀀스로 그리는 경우가 빈번하다. 특히 영상유도 방사선치료(IGRT)와 같은 경우에는 방사선치료의 대상인 종양(tumor)에 대한 컨투어와, 종양과 인접한 다른 정상 장기들(normal organs) 각각에 대한 컨투어를 그려 정상 장기들은 보호하고 종양은 파괴할 수 있도록 방사선 치료의 계획을 수립해야 하므로, 다수의 종류의 장기들에 대한 컨투어를 모두 그릴 필요가 있다.
이때 관심 영역 정보는 의료진이 사용자 인터페이스를 경유하여 입력한다. 사용자 인터페이스를 경유하여 인식되는 관심 영역 정보는 사용자인 의료진이 입력한 정보일 수 있다. 이때 동일한 장기라 하더라도 의료진마다 달리 표현할 수 있다. 특히 의료 현장에서 빈번하게 사용되는 약칭은 시스템이 동일한 장기에 대한 관심 영역 정보 입력을 동일한 해부학적 객체에 대한 입력으로 인정하는 데에 어려움을 초래하고 있다.
이때 일종의 자연어 처리 기법을 이용하여 사람이 입력한 동일 장기에 대한 다양한 표현을 인식하고, 서로 다른 표현에 대해서도 실질적으로 동일한 해부학적 객체를 표현하는 것으로 판단하는 기술이 적용될 수 있다. 본 발명의 의료 영상 컨투어링 시스템에서는 사용자 인터페이스를 경유하여 입력된 관심 영역 정보를 분석하여 미리 지정된 해부학적 그룹으로 매핑할 수 있다(130).
예를 들어, 폐는 왼쪽과 오른쪽이 해부학적으로 다른 객체로 구분되어야 한다. 사용자에 따라서는 왼쪽을 Left, Lt, LT, L 등 다양한 표현으로 기재할 수 있고, 오른쪽을 Right, Rt, RT, R 등 다양한 표현으로 기재할 수 있다.
왼쪽, 또는 오른쪽의 표현만으로는 어떤 장기에 대한 입력인 지 식별이 어려우나, 폐(Lung)라는 장기와 결합하여 입력되면 상대적으로 용이하게 장기의 식별이 가능하다. 예를 들어 Left Lung, Lung Left, Lt Lung, Lung Lt, L Lung, 등의 표현은 왼쪽 폐로 인지될 수 있다.
이러한 예시는 콩팥(kidney)에도 적용될 수 있다. 왼쪽 콩팥을 의미하는 표현은 Lt Kidney, Kidney L, Kid L 등으로 사용자에 의하여 다양하게 표현될 수 있지만 임상적으로는 동일한 해부학적 객체로 이해될 수 있다.
본 발명의 의료 영상 컨투어링 시스템의 적어도 하나 이상의 프로세서는 입력된 관심 영역 정보를 자연어 처리를 통하여 미리 결정된 해부학적 그룹 중 하나에 매핑할 수 있다. 이때 자연어 처리는 다수의 사람들이 동일한 장기에 대하여 표현하는 다양한 표현을 인지하고, 이들을 그룹핑하여 동일한 해부학적 장기에 대한 표현임을 식별할 수 있는 기법이다. 자연어 처리를 위하여 최근 각광받고 있는 딥러닝 기술을 적용하여 패턴 인식의 범위를 넓히고 매핑 연산의 속도를 향상시킬 수 있다.
매핑된 해부학적 그룹은 입력된 관심 영역 정보에 대한 보다 정제된(refined) 관심 영역 정보로서 기능할 수 있다. 이후의 과정에서, 본 발명의 의료 영상 컨투어링 시스템은 정제된 관심 영역 정보를 이용하여 의료 영상의 컨투어링을 실행하는 것으로 가정한다.
매핑된 해부학적 그룹을 고려하여, 본 발명의 의료 영상 컨투어링 시스템의 적어도 하나 이상의 프로세서는 사용자 별로 구분되는 컨투어링 도움 엔진(Contouring aid engine)을 선택할 수 있다(140). 이때 본 발명의 의료 영상 컨투어링 시스템의 적어도 하나 이상의 프로세서는 관심 영역 정보 별로 구분되는 컨투어링 도움 엔진(Contouring aid engine)을 선택할 수 있다(140). 또한 본 발명의 의료 영상 컨투어링 시스템의 적어도 하나 이상의 프로세서는 환자 성별, 및 환자 연령대 별로 구분되는 컨투어링 도움 엔진(Contouring aid engine)을 선택할 수 있다(140).
즉, 컨투어링 도움 엔진은 사용자, 관심 영역 정보, 환자의 성별, 및 환자의 연령 중 적어도 하나 이상에 기반하여 달리 적용되는 물리적 특성(physical property), 또는 컨투어링 파라미터(contouring parameter)에 의하여 다른 컨투어링 효과를 얻을 수 있다.
종래의 자동 또는 반자동 컨투어링 기술들은 기본적으로 의료 영상에서 특정한 해부학적 장기의 바운더리를 추출하기 위하여 영상 분할(image segmentation) 기법을 적용한다. 이때 가장 일반적으로 적용되는 영상 분할 기법이 주변 화소와 밝기값 차이를 가지는 화소들을 엣지 또는 바운더리로 인식하고 객체를 구분하는 경계기반 기법으로, 전술한 것처럼 객체의 경계가 불연속적이거나 밝기값이 유사한 주변 배경이 존재할 때 정확하게 분할하지 못하고, 정확한 컨투어 결과를 제공하기 어렵다.
이에 대응하여 컨투어의 완성도를 높이기 위하여 소스 영상과 타겟 영상 간의 정합을 수행하고, 정합 시 도출되는 Deformable image field 등을 이용하여 타겟 영상의 컨투어링을 시도하는 기술들이 상기 선행문헌 US 9,792,525 "Systems and methods for contouring a set of medical images" 등에서 개시된 바 있다.
그러나 상기 선행문헌 US 9,792,525 "Systems and methods for contouring a set of medical images"에서는 Deformable image field 또는 Deformable registration field 의 계산이 선결되어야 하기 때문에 계산량이 많고 계산에 필요한 로딩이 크다.
또한 상기 선행문헌 US 9,792,525 "Systems and methods for contouring a set of medical images"에서는 장기 별 특성을 고려하지 않기 때문에 각 해부학적 장기에 최적화된 결과를 제공하는 데에는 어려움이 있다.
또한 상기 선행문헌 US 9,792,525 "Systems and methods for contouring a set of medical images"에서는 장기 별 특성을 고려하지 않고 Deformable Registration Field를 반복적으로 연산하므로 실제 사용 예가 축적되더라도 정확도가 향상될 여지가 크지 않다.
해부학적 장기 별로 사전에 도출된 표준 장기 모델인 아틀라스(atlas)를 이용하는 형상 기반 기법은 변형 모델 기법과 비교하면 해부학적 장기 별로 최적화가 가능하며 상대적으로 정확한 컨투어 결과를 제공할 수 있다.
하지만 아틀라스를 타겟 이미지에 정합하여 타겟 이미지에서 아틀라스에 대응하는 컨투어 정보를 추출하는 방식은 큰 계산을 요구한다. 즉, 이 방식은 학술적으로 관심을 끄는 것과는 달리 의료 현장에서 요구되는 방식과는 큰 차이가 있다. 이러한 아틀라스 기반 자동 분할(ABAS, Atlas-Based Auto-Segmentation)의 계산량을 절감하고 속도를 향상시키고자 타겟 이미지와 아틀라스 이미지 간의 정합 과정을 딥러닝 기법에 의하여 해결하고자 하는 시도가 미국공개특허 US 2019/0251694 "ATLAS-BASED SEGMENTATION USING DEEP-LEARNING"에서 개시된다.
그러나 이 방식에 의하더라도 여전히 아틀라스 기반 컨투어링 기법은 큰 컴퓨팅 파워와 큰 메모리 사용량을 요구하며, 단기간에 의료 현장의 요구를 충족하기 어려운 측면이 있다.
전술한 한국등록특허 KR 10-1404345 "진단영상의 객체 자동 윤곽화 시스템 및 그 윤곽화 방법"에서는 변형 모델 기법과 사전 형상 기반 기법을 결합하여 성능의 향상을 의도하였다. KR 10-1404345는 변형 모델 기법이 우수한 성과를 내기 어려운 조건에서는 아틀라스 정보를 반영하는 하이브리드 기법이다.
그러나 여전히 아틀라스 정보를 이용하기 때문에 큰 컴퓨팅 파워와 큰 메모리 사용량을 요구하며, 단기간에 의료 현장의 요구를 충족하기 어려운 측면이 있다.
특히 아틀라스 정보를 이용하는 종래 기술들의 경우, 본 발명의 주된 타겟 어플리케이션인 영상유도 방사선치료 (IGRT: Image Guided Radiation Therapy)에서 의료 전문가의 요구사항을 완전히 해결하기 어려운 문제점이 있다. IGRT에서는 정상 장기(normal organ)를 보호하기 위하여 정상 장기에 대해서도 컨투어링이 필요하지만, 종양(tumor)을 치료하기 위하여 종양에 대해서도 컨투어링이 필요하다.
그런데 아틀라스는 일반적으로 정상 장기에 대한 통계 기반 표준 장기 모델이고, 종양은 그 형태가 매우 다양하여 통계에 기반하여 종양의 형태를 표준화하는 것은 매우 어려운 일이다.
따라서 아틀라스 정보를 이용하는 종래 기술들의 경우에는 정상 장기의 컨투어링에 대해서는 효과적일 수 있으나 종양 또는 질병을 동반한 장기의 컨투어링에는 대응하기 어려운 문제점이 있다.
즉, 종래 기술에서는 장기 별로 통계에 기반하여 도출된 표준 장기 모델인 아틀라스(atlas)를 적용하는 경우가 빈번하다. 그러나 아틀라스를 이용하는 연산은 큰 컴퓨팅 파워와 많은 양의 메모리 로딩을 필요로 하는 단점이 있다. 또한 아틀라스는 정상 장기를 대상으로 도출된 모델이어서, 종양 또는 질병을 가지는 환자의 장기에 대해서는 적절하지 않은 경우가 많다.
본 발명의 의료 영상 컨투어링 시스템에서는 해부학적 정보가 정제된 관심 영역 정보에 대응하여 달리 적용될 수 있다.
본 발명의 의료 영상 컨투어링 시스템에서는 아틀라스 이외의 해부학적 정보를 제안하고, 아틀라스가 제공하지 못하는 물리적 특성, 역학적 특성(mechanical property), 생물학적 특성(biological property) 등을 컨투어링에 이용하여 컨투어링의 결과물의 완성도를 높이는 기술을 제안하고자 한다.
아틀라스는 장기의 표준 형태만을 제공하므로, 해당 장기의 물리적 특성, 또는 생물학적 특성에 대해서는 시사하는 바가 많지 않다. 그런데 종양 또는 질병을 가지는 환자의 장기는 이미 정상 조직의 형태와는 달리 심하게 변형된 경우가 빈번하다.
따라서 의료 현장에서 컨투어링 기법은 아틀라스에 전적으로 기반하여 실행되지 않는다. 복수의 의료 영상 집합에서 예를 들어 하나의 슬라이스 영상에 대하여 의료 전문가가 승인한 컨투어가 다음 슬라이스 영상에서 컨투어 후보를 도출하는 기준으로 적용될 수 있다.
의료 전문가에 의하여 이미 컨투어가 승인되어 그려진 슬라이스 영상을 소스 이미지라 할 경우, 컨투어가 그려질 필요가 있는 다음 슬라이스 영상이 타겟 이미지라 할 수 있다.
소스 이미지의 컨투어로부터 타겟 이미지의 컨투어 후보를 도출하는 경우, 종래 기술에서처럼 단순히 밝기값에 의존하거나 Deformable Image Field 등에 의존하는 경우 의료 전문가의 상식에 맞지 않는 컨투어링 결과가 도출되는 경우가 빈번하였다.
본 발명의 의료 영상 컨투어링 시스템은 소스 이미지의 컨투어로부터 타겟 이미지의 컨투어 후보를 도출할 때 소스 이미지의 컨투어와 인접한 슬라이스인 타겟 이미지의 컨투어 후보 간의 axial 평면 상의 차이가 미리 결정된 제약조건(constraints) 내에서 주어지도록 컨투어 후보를 예측할 수 있다. 이러한 제약조건은 컨투어링 과정에서 해부학적 정보가 기여하는 role로서 이해될 수 있다.
예를 들어 인접한 슬라이스 영상 간의 간격이 0.5mm 인 경우에 해당 장기(관심 영역 정보)의 탄성(elasticity)을 고려한 인접한 슬라이스의 컨투어 간의 변형 가능한 제약조건이 결정될 수 있다. 물리적 특성(physical property) 또는 역학적 특성(mechanical property)은 예를 들어 탄성을 포함할 수 있으며, 인접한 장기의 무게 등으로 인한 외력 대비 변형될 수 있는 강직도 등도 고려 대상이 될 수 있다.
이러한 물리적 특성, 역학적 특성, 또는 생물학적 특성을 포함하는 해부학적 정보는 전술한 것처럼 사용자, 관심 영역 정보(장기의 종류), 환자의 성별, 및 환자의 연령 중 적어도 하나 이상에 영향을 받을 수 있다.
즉, 환자의 연령에 따라서는 장기가 변형될 수 있는 정도가 달라질 수 있고, 환자의 성별에 따라서 체성분의 비율이 상이하므로 이 역시 장기가 변형될 수 있는 정도에 영향을 줄 수 있다.
또한 컨투어링 제약조건으로서 해부학적 정보는 환자의 질병 내역, 및 환자에 대한 치료/투약 내역에 영향을 받을 수 있다. 예를 들어 간질환으로 방사선 치료를 받은 후에는 간이 경화되어 해부학적 정보가 영향 받을 수 있다.
예를 들어 컴퓨터 단층촬영(CT) 영상의 밝기값을 비교하여 컨투어 후보를 예측할 때, 의료 전문가의 육안 및 의료 전문가의 의학적 전문 지식에 기반하여 당연하게 인식되는 경계가 머신(machine)의 단순 반복적인 연산에 기반한 Deformable field에 의해서는 당연하게 도출되지 못하는 경우가 빈번하다.
이때 머신의 단순 반복적인 연산에 기반한 Deformable field를 물리적 특성, 역학적 특성, 또는 생물학적 특성을 포함하는 해부학적 정보에 의하여 대체하거나 보완함으로써 의료 전문가의 의학적 전문 지식에 더욱 부합하는 컨투어 결과를 도출할 수 있다. 이때 해부학적 정보는 인접한 슬라이스의 컨투어 간의 변형에 대한 제약조건(constraints)의 역할을 가질 수 있다.
이러한 제약조건은 컨투어링 파라미터 집합(contouring parameter set)으로 주어질 수 있다. 컨투어링 파라미터 집합은 장기 별로 조직의 물리적 특성, 및/또는 생물학적 특성이 상이하기 때문에 구분되어 적용될 수 있다.
한편 본 발명의 컨투어링 시스템은 사용자의 입력에 기반하여 관심 영역 정보를 획득하고, 의료 영상의 DICOM 헤더 등에 기반하여 환자의 식별 정보, 및 환자의 데이터를 획득할 수 있다. 환자의 데이터는 환자의 성별, 환자의 연령, 환자의 질병 내역, 환자의 치료/투약 내역을 포함할 수 있는데, DICOM 헤더만으로 불충분한 경우 종합적인 병원 정보 시스템(HIS, Hospital Information System) 또는 임상 정보 시스템(CIS, Clinical Information System) 등으로부터 부가적인 정보를 획득할 수 있다.
본 발명의 컨투어링 시스템은 관심 영역 정보가 매핑된 제1 해부학적 그룹의 분류에 기반하여 결정되는 컨투어링 파라미터를 적용하여 컨투어 후보를 예측할 수 있다. 즉, 해부학적 그룹 분류 결과에 따라 달라지는 컨투어링 파라미터가 적용될 수 있다.
본 발명의 컨투어링 시스템은 사용자 관리를 통하여 사용자 별로 사용자가 승인하는 컨투어 후보의 패턴 및 경향을 추출할 수 있다. 시스템은 사용자 별로 관심 영역 정보에 따라서 달리 적용하는 컨투어링 파라미터의 패턴을 도출할 수 있다.
시스템은 사용자 관리에 따라 사용자 별로 컨투어 후보의 승인 여부, 컨투어 후보를 승인하지 않았을 때 컨투어 후보를 수정하는 패턴 및 경향 등을 분석하여 사용자 별로 컨투어링 파라미터를 적용하는 경향 및 패턴을 추출할 수 있다.
시스템은 환자의 성별에 기반하여 사용자들이 컨투어 후보를 승인하였는지 여부, 컨투어 후보를 승인하지 않았을 때 컨투어 후보를 수정하는 패턴 및 경향 등을 분석하여 환자의 성별에 기반하여 컨투어링 파라미터를 적용하는 경향 및 패턴을 추출할 수 있다.
시스템은 환자의 연령에 기반하여 사용자들이 컨투어 후보를 승인하였는지 여부, 컨투어 후보를 승인하지 않았을 때 컨투어 후보를 수정하는 패턴 및 경향 등을 분석하여 환자의 연령에 기반하여 컨투어링 파라미터를 적용하는 경향 및 패턴을 추출할 수 있다.
도 2는 본 발명의 일 실시예에 따른 의료 영상의 컨투어링 시스템에서, 컨투어 후보를 예측하는 워크플로우를 도시하는 도면이다.
도 2를 참조하면 본 발명의 의료 영상의 컨투어링 시스템의 적어도 하나 이상의 프로세서가 사용자 인터페이스 모듈을 경유하여 사용자로부터 컨투어링 도움 요청 이벤트(contouring aid request event)가 수신되었는 지를 검출할 수 있다(S210).
컨투어링 도움 요청 이벤트는 다음 슬라이스 영상을 요청한 경우, 인터폴레이션, 또는 익스트라폴레이션을 요청한 경우에 검출될 수 있다.
컨투어링 도움 요청 이벤트는 소스 이미지 및 타겟 이미지 간의 위치 관계 및 관련성을 결정할 수 있다. 예를 들어, 다음 슬라이스 영상을 요청한 경우 타겟 이미지는 소스 이미지의 인접한 다음 슬라이스 영상이라는 관계를 가진다.
예를 들어, 50장의 슬라이스 중 20번째부터 30번째까지 컨투어가 그려진 상태이고, 20번째 이전, 30번째 이후의 컨투어를 그려야 하는 경우라면 이는 익스트라폴레이션(extrapolation)으로 분류된다.
예를 들어, 50장의 슬라이스 중 대부분의 슬라이스에 컨투어가 그려진 상태이고, 도중의 몇몇 슬라이스에 대한 컨투어가 누락된 경우라면 이는 인터폴레이션(interpolation)으로 분류된다.
복수의 소스 이미지가 존재하는 경우에, 타겟 이미지의 컨투어 후보를 도출하기 위한 기준 컨투어 패턴으로서 타겟 이미지에 인접한 하나의 소스 이미지의 컨투어가 적용될 수도 있고, 복수의 소스 이미지의 컨투어가 적용될 수도 있다. 복수의 소스 이미지의 컨투어는 이벤트의 종류에 따라서 인터폴레이션, 익스트라폴레이션, 가중치에 기반한 인터폴레이션 또는 익스트라폴레이션 연산에 의하여 타겟 이미지의 컨투어 후보를 예측하는 과정에 적용될 수 있다.
본 발명의 의료 영상의 컨투어링 시스템의 적어도 하나 이상의 프로세서가 현재 사용자에게 보여지는 타겟 이미지에 관심 영역 정보에 대응하는 컨투어가 그려져 있는지 확인한다(S220). 전술한 것처럼 하나의 장기에 대하여 모든 슬라이스에 대하여 순차적으로 컨투어가 그려지고, 다음 장기에 대하여 모든 슬라이스에 대하여 순차적으로 컨투어가 그려지는 워크플로우가 빈번하게 발생하므로, 타겟 이미지에 다른 장기에 대한 컨투어는 그려져 있을 수 있지만 현재 컨투어링의 객체인 관심 영역 정보에 대응하는 컨투어가 그려져 있지 않은 경우 본 발명의 컨투어링 과정이 개시된다.
본 발명의 의료 영상의 컨투어링 시스템의 적어도 하나 이상의 프로세서가 타겟 이미지 및 소스 이미지 간의 위치 관계 및 관련성을 도출할 수 있다(S230). 이때의 위치 관계 및 관련성은 전술한 바와 같이, 컨투어링 도움 요청 이벤트의 종류에 기반하여 결정될 수 있다.
본 발명의 의료 영상의 컨투어링 시스템의 적어도 하나 이상의 프로세서가 컨투어링 도움 엔진과 협력하여(S240) 컨투어 후보를 예측할 수 있다.
컨투어링 도움 엔진은 사용자, 관심 영역 정보, 환자 성별, 환자 연령, 환자의 질병 내역, 및 환자의 치료/투약 내역 중 적어도 하나 이상에 기반하여 구분되고 최적화될 수 있다.
본 발명의 의료 영상의 컨투어링 시스템의 적어도 하나 이상의 프로세서가 예측된 컨투어 후보를 타겟 이미지 상에 drawing할 수 있다(S250).
본 발명의 의료 영상의 컨투어링 시스템의 적어도 하나 이상의 프로세서가 컨투어 후보에 대하여 미리 지정된 후속 시퀀스를 사용자에게 제공할 수 있다(S260). 이때 후속 시퀀스는 사용자가 컨투어 후보를 승인할 지 여부를 묻는 메뉴일 수 있다.
본 발명의 의료 영상의 컨투어링 시스템의 적어도 하나 이상의 프로세서가 후속 시퀀스에 대응하는 사용자 피드백에 기반하여 컨투어 후보를 승인할 수 있다(S270).
본 발명의 실시예에 따라서는, 후속 시퀀스 및 컨투어 후보 승인 과정은 명시적으로 컨투어 후보의 승인 여부를 사용자에게 묻는 메뉴에 의하여 실행될 수도 있고, 사용자가 컨투어 후보에 대하여 미리 지정된 동작(마우스의 좌클릭=승인, 우클릭=거부)에 의하여 컨투어 후보를 승인할 지 여부를 피드백할 수도 있다.
사용자가 컨투어 후보를 승인하였는지의 히스토리는 시스템에 의하여 온라인 학습되어 사용자 별, 환자 성별, 환자 연령 별로 달리 적용되는 컨투어링 파라미터의 조정에 이용될 수 있다.
사용자가 컨투어 후보를 거부한 뒤에는 사용자가 컨투어를 다시 그리거나 컨투어 후보를 수정할 수 있는 메뉴가 제공된다. 이때 사용자가 컨투어를 다시 그리거나 컨투어 후보를 수정한 결과 역시 온라인 학습되어 사용자 별, 환자 성별, 환자 연령 별로 달리 적용되는 컨투어링 파라미터의 조정에 이용될 수 있다.
도 3은 본 발명의 일 실시예에 따른 의료 영상의 컨투어링 시스템 및 주변 기기와의 관련성을 도시하는 도면이다.
컨투어링 시스템(310)은 영상 진단 장치(320) 또는 의료 영상 저장 전송 시스템(PACS)(330)으로부터 의료 영상 집합을 수신할 수 있다. 영상 진단 장치(320)는 초음파 영상 진단 장치, 컴퓨터 단층촬영(CT) 장치, 자기공명(MR) 영상 진단 장치 등 인체 내부의 해부학적 구조에 대한 의료 영상을 획득할 수 있는 모달리티를 의미한다.
영상 진단 장치(320)에 의하여 획득된 의료 영상 집합은 직접 컨투어링 시스템(310)에 전달될 수도 있고, PACS(330)에 저장되었다가 PACS(330)로부터 컨투어링 시스템(310)에 전달될 수도 있다.
컨투어링 시스템(310)에 의하여 도출된 컨투어링 결과들은 사용자의 승인을 거쳐 의료 영상 집합에 대한 컨투어 정보로서 방사선 치료 계획 시스템(340) 및/또는 방사선 치료 장치(350)로 전달될 수 있다.
컨투어링 시스템(310)은 내부에 적어도 하나 이상의 프로세서, 메모리, 스토리지, 사용자 인터페이스 모듈 및/또는 통신 인터페이스 모듈을 포함할 수 있다. 컨투어링 시스템(310)은 예를 들어 컴퓨팅 시스템(도시되지 않음)에 대응하고, 컴퓨팅 시스템은 프로세서, 메모리, 스토리지, 데이터베이스, 사용자 인터페이스 모듈 및/또는 통신 인터페이스 모듈을 포함할 수 있다. 이하의 동작 및 기능은 컴퓨팅 시스템 내의 프로세서에 의하여 수행되고, 프로세서는 메모리, 스토리지, 데이터베이스, 사용자 인터페이스 모듈 및/또는 통신 인터페이스 모듈 중 적어도 하나 이상과 협력하여 이하의 동작 및 기능을 수행할 수 있다.
본 발명의 주요 구성과 기능은 컴퓨터에서 판독 가능한 프로그램 인스트럭션의 형태로 의료 현장에 제공될 수 있으며, 본 발명의 의료 영상 컨투어링 서비스 및/또는 방법은 상기 프로그램 인스트럭션이 적어도 하나 이상의 프로세서 및/또는 메모리에 의하여 저장되거나 로드되어 실행됨으로써 사용자에게 제공될 수 있다.
본 발명의 주요 구성과 기능들이 프로세서, 메모리, 스토리지, 데이터베이스, 사용자 인터페이스 모듈 및/또는 통신 인터페이스 모듈을 포함하는 컴퓨팅 시스템에 의하여 실행되고, 프로그램 인스트럭션에 의하여 구현되는 구성에 대한 상세한 기재는 전술한 선행문헌들, 예를 들어, 미국등록특허 US 9,792,525 "Systems and methods for contouring a set of medical images", 한국등록특허 KR 10-1404345 "진단영상의 객체 자동 윤곽화 시스템 및 그 윤곽화 방법", 및 미국공개특허 US 2019/0251694 "ATLAS-BASED SEGMENTATION USING DEEP-LEARNING" 등을 참고하여 본 발명의 목적에 부합하는 범위 내에서 당업자가 차용하여 본 발명의 구현을 위하여 적용 가능할 것이다. 더 이상 상세한 설명은 본 발명의 요지를 흐릴 수 있다고 판단되므로 상기 선행문헌들을 인용함으로써 본 발명에 대한 설명에 갈음한다.
본 발명의 일 실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 본 발명의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
그러나, 본 발명이 실시예들에 의해 제한되거나 한정되는 것은 아니다. 각 도면에 제시된 동일한 참조 부호는 동일한 부재를 나타낸다. 본 발명의 실시예와 도면에 소개된 길이, 높이, 크기, 폭 등은 이해를 돕기 위해 과장된 것일 수 있다.
이상과 같이 본 발명에서는 구체적인 구성 요소 등과 같은 특정 사항들과 한정된 실시예 및 도면에 의해 설명되었으나 이는 본 발명의 보다 전반적인 이해를 돕기 위해서 제공된 것일 뿐, 본 발명은 상기의 실시예에 한정되는 것은 아니며, 본 발명이 속하는 분야에서 통상적인 지식을 가진 자라면 이러한 기재로부터 다양한 수정 및 변형이 가능하다.
따라서, 본 발명의 사상은 설명된 실시예에 국한되어 정해져서는 아니 되며, 후술하는 특허청구범위뿐 아니라 이 특허청구범위와 균등하거나 등가적 변형이 있는 모든 것들은 본 발명 사상의 범주에 속한다고 할 것이다.
310: 컨투어링 컴퓨팅 시스템
320: 영상 진단 장치
330: PACS
340: 방사선 치료 계획 시스템
350: 방사선 치료 장치

Claims (14)

  1. 적어도 하나 이상의 프로세서;
    사용자 인터페이스 모듈; 및
    통신 인터페이스 모듈을 포함하고,
    상기 적어도 하나 이상의 프로세서는 상기 통신 인터페이스 모듈을 경유하여 복수의 의료 영상들을 포함하는 의료 영상 셋(medical image set)을 수신하고,
    상기 적어도 하나 이상의 프로세서는 상기 사용자 인터페이스 모듈을 경유하여 컨투어를 그리기 위한 객체로서 관심 영역 정보를 수신하고,
    상기 적어도 하나 이상의 프로세서는 사용자에게 현재 보여지는 타겟 이미지에 상기 관심 영역 정보에 대응하는 컨투어가 그려져 있는지 확인하고,
    상기 적어도 하나 이상의 프로세서는 상기 타겟 이미지에 상기 관심 영역 정보에 대응하는 컨투어가 그려져 있지 않으면 컨투어링 조건에 기반하여 컨투어 후보를 예측하고,
    상기 적어도 하나 이상의 프로세서는 상기 컨투어 후보를 상기 타겟 이미지 상에 표시하고,
    상기 컨투어링 조건은
    상기 관심 영역 정보에 대응하는 컨투어가 이미 그려진 적어도 하나 이상의 소스 이미지 및 상기 타겟 이미지 간의 관련성, 및
    상기 관심 영역 정보에 관련된 해부학적 정보를 포함하는 의료 영상의 컨투어링 시스템.
  2. 제1항에 있어서,
    상기 해부학적 정보는 상기 관심 영역 정보에 관련된 물리적 특성(physical property) 및 생물학적 특성(biological property) 중 적어도 하나 이상을 포함하는 의료 영상의 컨투어링 시스템.
  3. 제1항에 있어서,
    상기 해부학적 정보는
    상기 사용자, 상기 관심 영역 정보, 환자의 성별, 상기 환자의 연령, 상기 환자의 질병 내역, 및 상기 환자에 대한 치료 내역 중 적어도 하나 이상에 기반하여 결정되는 의료 영상의 컨투어링 시스템.
  4. 제1항에 있어서,
    상기 해부학적 정보는
    상기 적어도 하나 이상의 소스 이미지 상의 컨투어로부터 상기 컨투어 후보를 도출하는 제약조건(constraints)과 관련된 컨투어링 파라미터를 포함하는 의료 영상의 컨투어링 시스템.
  5. 제1항에 있어서,
    상기 적어도 하나 이상의 프로세서는 상기 사용자 인터페이스 모듈을 경유하여 수신된 상기 관심 영역 정보를 상기 관심 영역 정보에 대한 자연어 처리에 기반하여 미리 결정된 해부학적 그룹 중 어느 하나에 매핑하는 의료 영상의 컨투어링 시스템.
  6. 제5항에 있어서,
    상기 해부학적 정보는 상기 적어도 하나 이상의 소스 이미지 상의 컨투어로부터 상기 컨투어 후보를 도출하는 제약조건(constraints)과 관련된 컨투어링 파라미터를 포함하고,
    상기 적어도 하나 이상의 프로세서는 상기 수신된 관심 영역 정보가 매핑된 제1 해부학적 그룹의 분류에 기반하여 결정되는 상기 컨투어링 파라미터를 적용하여 상기 컨투어 후보를 예측하는 의료 영상의 컨투어링 시스템.
  7. 제4항에 있어서,
    상기 적어도 하나 이상의 프로세서는 상기 사용자가 승인하는 컨투어 후보의 패턴을 분석하여 상기 사용자 별로 상기 관심 영역 정보에 따라서 적용하는 상기 컨투어링 파라미터의 패턴을 도출하고,
    상기 적어도 하나 이상의 프로세서는 상기 사용자 별로 상기 관심 영역 정보에 따라서 적용하는 상기 컨투어링 파라미터의 패턴을 새로운 타겟 이미지에 대하여 적용함으로써 상기 새로운 타겟 이미지에 대한 새로운 컨투어 후보를 예측하는 의료 영상의 컨투어링 시스템.
  8. 제1항에 있어서,
    상기 적어도 하나 이상의 프로세서는 상기 사용자 인터페이스 모듈을 경유하여 상기 컨투어 후보 예측에 대한 컨투어링 도움 요청 이벤트(contouring aid request event)를 검출하고,
    상기 관심 영역 정보에 대응하는 컨투어가 이미 그려진 적어도 하나 이상의 소스 이미지 및 상기 타겟 이미지 간의 관련성은 상기 컨투어링 도움 요청 이벤트의 종류에 기반하여 결정되는 의료 영상의 컨투어링 시스템.
  9. 제1항에 있어서,
    상기 적어도 하나 이상의 프로세서는 상기 컨투어 후보에 대하여 미리 지정된 후속 시퀀스를 상기 사용자에게 제공하고,
    상기 적어도 하나 이상의 프로세서는 상기 사용자에 의하여 상기 후속 시퀀스에 대한 미리 지정된 피드백을 수신하면 상기 컨투어 후보를 승인하는 의료 영상의 컨투어링 시스템.
  10. 적어도 하나 이상의 프로세서가, 통신 인터페이스 모듈을 경유하여 복수의 의료 영상들을 포함하는 의료 영상 셋(medical image set)을 수신하는 단계;
    상기 적어도 하나 이상의 프로세서가, 사용자 인터페이스 모듈을 경유하여 컨투어를 그리기 위한 객체로서 관심 영역 정보를 수신하는 단계;
    상기 적어도 하나 이상의 프로세서가, 사용자에게 현재 보여지는 타겟 이미지에 상기 관심 영역 정보에 대응하는 컨투어가 그려져 있는지 확인하는 단계;
    상기 적어도 하나 이상의 프로세서가, 상기 타겟 이미지에 상기 관심 영역 정보에 대응하는 컨투어가 그려져 있지 않으면 컨투어링 조건에 기반하여 컨투어 후보를 예측하는 단계; 및
    상기 적어도 하나 이상의 프로세서가, 상기 컨투어 후보를 상기 타겟 이미지 상에 표시하는 단계;
    를 포함하고,
    상기 컨투어링 조건은
    상기 관심 영역 정보에 대응하는 컨투어가 이미 그려진 적어도 하나 이상의 소스 이미지 및 상기 타겟 이미지 간의 관련성, 및
    상기 관심 영역 정보에 관련된 해부학적 정보를 포함하는 의료 영상의 컨투어링 방법.
  11. 제10항에 있어서,
    상기 적어도 하나 이상의 프로세서가, 상기 사용자 인터페이스 모듈을 경유하여 수신된 상기 관심 영역 정보를 상기 관심 영역 정보에 대한 자연어 처리에 기반하여 미리 결정된 해부학적 그룹 중 어느 하나에 매핑하는 단계;
    를 더 포함하는 의료 영상의 컨투어링 방법.
  12. 제10항에 있어서,
    상기 해부학적 정보는 상기 적어도 하나 이상의 소스 이미지 상의 컨투어로부터 상기 컨투어 후보를 도출하는 제약조건(constraints)과 관련된 컨투어링 파라미터를 포함하고,
    상기 적어도 하나 이상의 프로세서가, 상기 사용자가 승인하는 컨투어 후보의 패턴을 분석하여 상기 사용자 별로 상기 관심 영역 정보에 따라서 적용하는 상기 컨투어링 파라미터의 패턴을 도출하는 단계;
    를 더 포함하고,
    상기 컨투어 후보를 예측하는 단계는 상기 사용자 별로 상기 관심 영역 정보에 따라서 적용하는 상기 컨투어링 파라미터의 패턴을 상기 타겟 이미지에 대하여 적용함으로써 상기 타겟 이미지에 대한 상기 컨투어 후보를 예측하는 의료 영상의 컨투어링 방법.
  13. 제10항에 있어서,
    상기 적어도 하나 이상의 프로세서가, 상기 사용자 인터페이스 모듈을 경유하여 상기 컨투어 후보 예측에 대한 컨투어링 도움 요청 이벤트(contouring aid request event)를 검출하는 단계;
    를 더 포함하는 의료 영상의 컨투어링 방법.
  14. 제10항에 있어서,
    상기 적어도 하나 이상의 프로세서가, 상기 컨투어 후보에 대하여 미리 지정된 후속 시퀀스를 상기 사용자에게 제공하는 단계; 및
    상기 적어도 하나 이상의 프로세서가, 상기 사용자에 의하여 상기 후속 시퀀스에 대한 미리 지정된 피드백을 수신하면 상기 컨투어 후보를 승인하는 단계;
    를 포함하는 의료 영상의 컨투어링 방법.
KR1020200180306A 2020-12-21 2020-12-21 딥 러닝 알고리듬과 해부학적 특성에 기반한 의료 영상 셋의 컨투어링 시스템 및 방법 KR102667231B1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020200180306A KR102667231B1 (ko) 2020-12-21 딥 러닝 알고리듬과 해부학적 특성에 기반한 의료 영상 셋의 컨투어링 시스템 및 방법
US17/153,174 US11836926B2 (en) 2020-12-21 2021-01-20 System and method for contouring a set of medical images based on deep learning algorithm and anatomical properties

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020200180306A KR102667231B1 (ko) 2020-12-21 딥 러닝 알고리듬과 해부학적 특성에 기반한 의료 영상 셋의 컨투어링 시스템 및 방법

Publications (2)

Publication Number Publication Date
KR20220089560A true KR20220089560A (ko) 2022-06-28
KR102667231B1 KR102667231B1 (ko) 2024-05-20

Family

ID=

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101404345B1 (ko) 2013-03-13 2014-06-09 서울여자대학교 산학협력단 진단영상의 객체 자동 윤곽화 시스템 및 그 윤곽화 방법
US9792525B2 (en) 2010-05-03 2017-10-17 Mim Software Inc. Systems and methods for contouring a set of medical images
US20190251694A1 (en) 2018-02-14 2019-08-15 Elekta, Inc. Atlas-based segmentation using deep-learning

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9792525B2 (en) 2010-05-03 2017-10-17 Mim Software Inc. Systems and methods for contouring a set of medical images
KR101404345B1 (ko) 2013-03-13 2014-06-09 서울여자대학교 산학협력단 진단영상의 객체 자동 윤곽화 시스템 및 그 윤곽화 방법
US20190251694A1 (en) 2018-02-14 2019-08-15 Elekta, Inc. Atlas-based segmentation using deep-learning

Also Published As

Publication number Publication date
US11836926B2 (en) 2023-12-05
US20220198674A1 (en) 2022-06-23

Similar Documents

Publication Publication Date Title
US11742070B2 (en) System and method for controlling user repeatability and reproducibility of automated image annotation correction
US9613416B1 (en) Methods, systems, and devices for automated analysis and management of medical scans
Vandemeulebroucke et al. Automated segmentation of a motion mask to preserve sliding motion in deformable registration of thoracic CT
US9824457B2 (en) Model-based segmentation of an anatomical structure
US7792778B2 (en) Knowledge-based imaging CAD system
CN108428233B (zh) 基于知识的自动图像分割
US20230177677A1 (en) Method and system for performing vessel segmentation in a medical image
EP2620909B1 (en) Method, system and computer readable medium for automatic segmentation of a medical image
US10783637B2 (en) Learning data generation support apparatus, learning data generation support method, and learning data generation support program
US11581087B2 (en) Method, system and computer readable medium for automatic segmentation of a 3D medical image
CN108172275B (zh) 一种医学影像处理方法及装置
KR102629045B1 (ko) 의료용 인공 신경망 기반 사용자 선호 스타일을 제공하는 의료 영상 판독 지원 장치 및 방법
CN111882538A (zh) 一种区分肺结核与肿瘤信息的处理系统及信息处理方法
KR102612400B1 (ko) 종양 이미지를 분석하여 암 예후에 대한 예측이 가능한 예측 모델의 학습 방법, 장치 및 프로그램
US20210142480A1 (en) Data processing method and apparatus
Fontanella et al. Diffusion models for counterfactual generation and anomaly detection in brain images
KR102667231B1 (ko) 딥 러닝 알고리듬과 해부학적 특성에 기반한 의료 영상 셋의 컨투어링 시스템 및 방법
US11836926B2 (en) System and method for contouring a set of medical images based on deep learning algorithm and anatomical properties
CN112633405A (zh) 模型训练方法、医学影像分析方法及装置、设备、介质
US11837355B2 (en) System and method for assisting verification of labeling and contouring of multiple regions of interest
CN115482246B (zh) 一种图像信息提取方法、装置、电子设备和可读存储介质
CN115482181B (zh) 一种图像信息提取方法、装置、电子设备和可读存储介质
Ozsavas et al. Automatic Segmentation of Cerebral Infarct Tissue by Using Computed Tomography Perfusion Maps
KR20230151865A (ko) 의료 영상에서 세기의 분포에 기반한 보조 정보를 생성하고 시각화하는 의료 영상 진단 보조 장치 및 방법
CN116097373A (zh) 用于通过机器学习免疫检查点抑制剂应答预测进行患者分层的系统和方法

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant