KR102481564B1 - Medical image process apparatus and medical image learning method, and medical image process method - Google Patents

Medical image process apparatus and medical image learning method, and medical image process method Download PDF

Info

Publication number
KR102481564B1
KR102481564B1 KR1020210034596A KR20210034596A KR102481564B1 KR 102481564 B1 KR102481564 B1 KR 102481564B1 KR 1020210034596 A KR1020210034596 A KR 1020210034596A KR 20210034596 A KR20210034596 A KR 20210034596A KR 102481564 B1 KR102481564 B1 KR 102481564B1
Authority
KR
South Korea
Prior art keywords
medical image
type
shape information
learning
neural network
Prior art date
Application number
KR1020210034596A
Other languages
Korean (ko)
Other versions
KR20220130288A (en
Inventor
양동현
이준구
Original Assignee
재단법인 아산사회복지재단
울산대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 재단법인 아산사회복지재단, 울산대학교 산학협력단 filed Critical 재단법인 아산사회복지재단
Priority to KR1020210034596A priority Critical patent/KR102481564B1/en
Priority to PCT/KR2022/003627 priority patent/WO2022197074A1/en
Publication of KR20220130288A publication Critical patent/KR20220130288A/en
Application granted granted Critical
Publication of KR102481564B1 publication Critical patent/KR102481564B1/en

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
    • A61B6/52Devices using data or image processing specially adapted for radiation diagnosis
    • A61B6/5211Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data
    • A61B6/5217Devices using data or image processing specially adapted for radiation diagnosis involving processing of medical diagnostic data extracting a diagnostic or physiological parameter from medical diagnostic data
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
    • A61B6/12Arrangements for detecting or locating foreign bodies
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
    • A61B6/50Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment specially adapted for specific body parts; specially adapted for specific clinical applications
    • A61B6/503Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment specially adapted for specific body parts; specially adapted for specific clinical applications for diagnosis of the heart
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B6/00Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment
    • A61B6/50Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment specially adapted for specific body parts; specially adapted for specific clinical applications
    • A61B6/504Apparatus or devices for radiation diagnosis; Apparatus or devices for radiation diagnosis combined with radiation therapy equipment specially adapted for specific body parts; specially adapted for specific clinical applications for diagnosis of blood vessels, e.g. by angiography
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H50/00ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics
    • G16H50/20ICT specially adapted for medical diagnosis, medical simulation or medical data mining; ICT specially adapted for detecting, monitoring or modelling epidemics or pandemics for computer-aided diagnosis, e.g. based on medical expert systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10116X-ray image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30048Heart; Cardiac
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30004Biomedical image processing
    • G06T2207/30101Blood vessel; Artery; Vein; Vascular
    • G06T2207/30104Vascular flow; Blood flow; Perfusion

Landscapes

  • Health & Medical Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Medical Informatics (AREA)
  • Physics & Mathematics (AREA)
  • Biomedical Technology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • Pathology (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Veterinary Medicine (AREA)
  • Optics & Photonics (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • High Energy & Nuclear Physics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Dentistry (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Mathematical Physics (AREA)
  • Epidemiology (AREA)
  • Primary Health Care (AREA)
  • Software Systems (AREA)
  • Artificial Intelligence (AREA)
  • Computational Linguistics (AREA)
  • Evolutionary Computation (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • Vascular Medicine (AREA)
  • Cardiology (AREA)
  • Physiology (AREA)
  • Quality & Reliability (AREA)
  • Image Analysis (AREA)

Abstract

일 실시예에 따른 의료영상 처리 장치가 수행하는 의료영상 처리 방법은, 진단 대상자의 심장에 대한 신체 X선 영상을 기 학습된 인공 신경망 모델에 입력하여 상기 인공 신경망 모델의 출력으로서 상기 신체 X선 영상의 심장 내 인공판막의 종류를 추정하고, 상기 인공판막과 관련된 형태 정보를 획득하는 단계와, 상기 획득된 형태 정보에 기초하여 심장의 혈류 방향을 추정하는 단계와, 상기 추정된 인공판막의 종류와 상기 추정된 혈류 방향에 기초하여 상기 인공판막의 종류를 재추정한 결과로서 상기 인공판막의 종류를 결정하는 단계를 포함한다.A medical image processing method performed by a medical image processing apparatus according to an embodiment includes inputting a body X-ray image of a heart of a subject to be diagnosed to a pre-learned artificial neural network model, and outputting the body X-ray image as an output of the artificial neural network model. estimating the type of prosthetic valve in the heart and obtaining shape information related to the prosthetic valve; estimating the blood flow direction of the heart based on the obtained shape information; and determining the type of the prosthetic valve as a result of re-estimating the type of the prosthetic valve based on the estimated direction of blood flow.

Description

의료영상 처리 장치와 그 의료영상 학습 방법 및 의료영상 처리 방법{MEDICAL IMAGE PROCESS APPARATUS AND MEDICAL IMAGE LEARNING METHOD, AND MEDICAL IMAGE PROCESS METHOD}Medical image processing apparatus, medical image learning method, and medical image processing method

본 발명은 신체에 대한 의료영상을 학습하는 방법 및 장치, 그리고 신체에 대한 의료영상을 처리하는 방법 및 장치에 관한 것이다.The present invention relates to a method and apparatus for learning medical images of the body, and a method and apparatus for processing medical images of the body.

의료영상은 의료영상 장치를 이용하여 진단 대상자의 신체 내부 구조에 대한 정보를 포함하도록 획득한 영상을 일컫는다. 이러한 의료영상을 획득하기 위해 이용되는 의료영상 장치는 비침습 검사 장치로서, 신체 내의 구조적 세부사항, 내부 조직 및 유체의 흐름 등을 촬영 및 처리하여 사용자에게 보여준다. 의사 등의 사용자는 의료영상 장치에서 출력되는 의료영상을 이용하여 환자의 건강 상태 및 질병을 진단할 수 있다. 예를 들어, 의료영상 장치로는 대상체로 엑스(X)선을 조사하고 대상체를 통과한 X선을 감지하여 영상을 이미징하는 X레이(X-ray) 촬영 장치, 자기 공명 영상을 제공하기 위한 자기 공명 영상(MRI: magnetic resonance imaging) 장치, 컴퓨터 단층 촬영(CT: Computed Tomography) 장치, 및 초음파(Ultrasound) 진단 장치 등이 있다.A medical image refers to an image obtained using a medical imaging apparatus to include information about an internal structure of a body of a subject to be diagnosed. A medical imaging device used to obtain such a medical image is a non-invasive examination device, and displays structural details, internal tissues, and fluid flow in the body by photographing and processing the images to the user. A user such as a doctor may diagnose a patient's health condition and disease using a medical image output from a medical imaging device. For example, a medical imaging device includes an X-ray imaging device that radiates X-rays to an object and detects X-rays passing through the object to image an image, and a magnetic resonance image that provides a magnetic resonance image. There are a magnetic resonance imaging (MRI) device, a computed tomography (CT) device, and an ultrasound diagnosis device.

인공판막은 인간 또는 동물 신체 내에 이식되며 예를 들어, 혈관 내부에서 또는 그 근처에서 수동적인 하나의 직접적인 인공 판막으로서 사용될 수 있다. 인공 판막은 완전하게 미리 형성될 수 있고 그대로 이식될 수 있거나, 기능적 인공판막을 형성하는데 필요한 인공 및/또는 천연 부품을 사용하여 원위치에 형성될 수 있다.The prosthetic valve is implanted into the human or animal body and can be used as a passive, direct prosthetic valve, eg in or near a blood vessel. The prosthetic valve may be completely preformed and implanted as such, or it may be formed in situ using the artificial and/or natural components necessary to form a functional prosthetic valve.

이러한 인공판막은 재료에 따라 기계 판막(mechanical valve)과 조직 판막(tissue valve)으로 크게 나눌 수 있고, 위치에 따라 이첨판막(mitral valve), 대동맥판막(aortic valve), 삼첨판막(tricuspid valve) 및 폐동맥판막(pulmonary valve) 등으로 나눌 수 있는데, 인공판막을 갖는 인간 또는 동물을 대상으로 하여 촬영된 의료영상에는 인공판막이 함께 촬영되고, 이처럼 촬영된 의료영상 내에 포함된 인공판막에 대해서 의료행위 등을 위하여 그 종류를 구분할 필요가 있다.These prosthetic valves can be largely divided into mechanical valves and tissue valves depending on the material, and depending on the location, mitral valves, aortic valves, tricuspid valves, and valves. It can be divided into pulmonary valve and the like. Medical images taken of humans or animals with artificial valves are photographed together with artificial valves, and the artificial valve included in the photographed medical images can be used for medical activities, etc. For this, it is necessary to distinguish the types.

종래 기술에 따르면, 의료영상에 대한 의사의 목시적 관찰에 의존하여 의료영상 내에 포함된 인공판막의 종류를 구분하였는데, 고도의 숙련된 의사만이 인공판막의 종류를 정확히 구분할 수 있었으며, 의사의 숙련도에 따라 의료영상 내에 포함된 인공판막의 종류 구분에 대한 정확도가 변화되는 문제점이 있었다.According to the prior art, the type of prosthetic valve included in the medical image was classified depending on the doctor's visual observation of the medical image, but only a highly skilled doctor could accurately distinguish the type of the prosthetic valve, and the doctor's proficiency There is a problem in that the accuracy of classifying the type of prosthetic valve included in the medical image changes according to the method.

한국등록특허 제10-1517752호 (2015.04.29. 등록)Korean Registered Patent No. 10-1517752 (registered on April 29, 2015)

실시예에 따르면, 의료영상 내에 포함된 인공판막에 대해 인공 신경망 모델 및 그 학습 기법을 이용하여 종류를 정확히 구분할 수 있도록 한 의료영상 처리 방법 및 장치를 제공한다.According to an embodiment, a medical image processing method and apparatus capable of accurately distinguishing the type of an artificial valve included in a medical image using an artificial neural network model and a learning technique thereof are provided.

본 발명의 해결하고자 하는 과제는 이상에서 언급한 것으로 제한되지 않으며, 언급되지 않은 또 다른 해결하고자 하는 과제는 아래의 기재로부터 본 발명이 속하는 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.The problem to be solved by the present invention is not limited to those mentioned above, and another problem to be solved that is not mentioned will be clearly understood by those skilled in the art from the description below.

제 1 관점에 따른 의료영상 처리 장치가 수행하는 의료영상 처리 방법은, 진단 대상자의 심장에 대한 신체 엑스(X)선 영상을 기 학습된 인공 신경망 모델에 입력하여 상기 인공 신경망 모델의 출력으로서 상기 신체 X선 영상의 심장 내 인공판막의 종류를 추정하고, 상기 인공판막과 관련된 형태 정보를 획득하는 단계와, 상기 획득된 형태 정보에 기초하여 심장의 혈류 방향을 추정하는 단계와, 상기 추정된 인공판막의 종류와 상기 추정된 혈류 방향에 기초하여 상기 인공판막의 종류를 재추정한 결과로서 상기 인공판막의 종류를 결정하는 단계를 포함한다.A medical image processing method performed by a medical image processing apparatus according to the first aspect includes inputting a body X-ray image of a heart of a diagnosis subject to a pre-learned artificial neural network model, and outputting the body as an output of the artificial neural network model. estimating the type of prosthetic valve in the heart of the X-ray image and obtaining shape information related to the prosthetic valve; estimating the blood flow direction of the heart based on the acquired shape information; and determining the type of the prosthetic valve as a result of re-estimating the type of the prosthetic valve based on the type of and the estimated direction of blood flow.

제 2 관점에 따라 컴퓨터 프로그램을 저장하고 있는 컴퓨터 판독 가능 기록매체의 상기 컴퓨터 프로그램은, 프로세서에 의해 실행되면, 상기 의료영상 처리 장치가 수행하는 의료영상 처리 방법을 상기 프로세서가 수행하도록 하기 위한 명령어를 포함한다.According to the second aspect, the computer program of the computer readable recording medium storing the computer program, when executed by the processor, provides instructions for causing the processor to perform the medical image processing method performed by the medical image processing apparatus. include

제 3 관점에 따라 컴퓨터 판독 가능 기록매체에 저장된 컴퓨터프로그램은, 프로세서에 의해 실행되면, 상기 의료영상 처리 장치가 수행하는 의료영상 처리 방법을 상기 프로세서가 수행하도록 하기 위한 명령어를 포함한다.According to the third aspect, the computer program stored in the computer readable recording medium includes instructions for causing the processor to perform the medical image processing method performed by the medical image processing apparatus when executed by the processor.

제 4 관점에 따른 의료영상 처리 장치의 의료영상 학습 방법은, 제 1 학습 데이터 세트를 구성하는 입력으로서 심장에 대한 학습용 신체 X선 영상들을 준비하는 단계와, 상기 제 1 학습 데이터 세트를 구성하는 레이블로서 상기 학습용 신체 X선 영상들에 각각 대응하는 인공판막의 종류 정보 및 상기 인공판막과 관련된 형태 정보를 준비하는 단계와, 제 2 학습 데이터 세트를 구성하는 입력으로서 복수의 형태 정보 및 상기 복수의 형태 정보에 대응하는 심장 혈류 방향 정보를 준비하는 단계와, 상기 제 2 학습 데이터 세트를 구성하는 레이블로서 상기 복수의 형태 정보 및 상기 심장 혈류 방향 정보에 대응하는 인공판막의 종류 정보를 준비하는 단계와, 상기 제 1 학습 데이터 세트를 이용하여 인공 신경망 모델의 제 1 계층을 학습시키고, 상기 제 2 학습 데이터 세트를 이용하여 상기 인공 신경망 모델의 제 2 계층을 학습시키는 단계를 포함한다.A medical image learning method of a medical image processing apparatus according to a fourth aspect includes preparing body X-ray images for learning of a heart as inputs constituting a first training data set, and labels constituting the first training data set. preparing information on the type of artificial valve corresponding to each of the body X-ray images for learning and information on the shape related to the artificial valve, and a plurality of shape information and the plurality of shapes as input constituting a second learning data set. Preparing heart blood flow direction information corresponding to the information, and preparing type information of an artificial valve corresponding to the plurality of shape information and heart blood flow direction information as labels constituting the second learning data set; and training a first layer of the artificial neural network model using the first training data set and training a second layer of the artificial neural network model using the second training data set.

제 5 관점에 따라 컴퓨터 프로그램을 저장하고 있는 컴퓨터 판독 가능 기록매체의 상기 컴퓨터 프로그램은, 프로세서에 의해 실행되면, 상기 의료영상 처리 장치의 의료영상 학습 방법을 상기 프로세서가 수행하도록 하기 위한 명령어를 포함한다.The computer program of the computer readable recording medium storing the computer program according to the fifth aspect, when executed by a processor, includes instructions for causing the processor to perform the medical image learning method of the medical image processing apparatus. .

제 6 관점에 따라 컴퓨터 판독 가능 기록매체에 저장된 컴퓨터프로그램은, 프로세서에 의해 실행되면, 상기 의료영상 처리 장치의 의료영상 학습 방법을 상기 프로세서가 수행하도록 하기 위한 명령어를 포함한다.According to the sixth aspect, the computer program stored in the computer readable recording medium includes instructions for causing the processor to perform the medical image learning method of the medical image processing apparatus when executed by the processor.

제 7 관점에 따른 의료영상 처리 장치는, 진단 대상자의 심장에 대한 신체 X선 영상을 입력 받는 입력부와, 상기 입력부를 통하여 입력 받은 상기 진단 대상자의 신체 X선 영상으로부터 인공 신경망 모델이 상기 신체 X선 영상 내 인공판막의 종류를 추정하고, 상기 인공판막과 관련된 형태 정보를 획득하는 인공 신경망 모델부와, 상기 획득된 형태 정보에 기초하여 심장의 혈류 방향을 추정하고, 상기 추정된 인공판막의 종류와 상기 추정된 혈류 방향에 기초하여 상기 인공판막의 종류를 재추정한 결과로서 상기 인공판막의 종류를 결정하는 처리부와, 상기 처리부에 의해 결정된 상기 인공판막의 종류에 대한 정보를 출력하는 출력부를 포함한다.The medical image processing apparatus according to the seventh aspect includes: an input unit for receiving an X-ray body image of the heart of a patient to be diagnosed; An artificial neural network model unit that estimates the type of prosthetic valve in the image and obtains shape information related to the prosthetic valve, and estimates the blood flow direction of the heart based on the obtained shape information, and a processor configured to determine the type of the prosthetic valve as a result of re-estimating the type of the prosthetic valve based on the estimated direction of blood flow, and an output unit to output information about the type of the prosthetic valve determined by the processor. .

제 8 관점에 따른 의료영상 처리 장치는, 심장에 대한 학습용 신체 X선 영상들을 입력으로 포함하고 상기 학습용 신체 X선 영상들에 각각 대응하는 인공판막의 종류 정보 및 상기 인공판막과 관련된 형태 정보를 레이블로서 포함하는 제 1 학습 데이터 세트, 그리고 복수의 형태 정보 및 상기 복수의 형태 정보에 대응하는 심장 혈류 방향 정보를 입력으로 포함하고 상기 복수의 형태 정보 및 상기 심장 혈류 방향 정보에 대응하는 인공판막의 종류 정보를 레이블로서 포함하는 제 2 학습 데이터 세트를 입력 받는 입력부와, 상기 입력부를 통하여 입력 받은 상기 제 1 학습 데이터 세트를 인공 신경망 모델의 제 1 계층이 학습하고, 상기 입력부를 통하여 입력 받은 상기 제 2 학습 데이터 세트를 상기 인공 신경망 모델의 제 2 계층이 학습하는 인공 신경망 모델부를 포함한다.The medical image processing apparatus according to the eighth aspect includes, as input, body X-ray images for learning of the heart, and labels type information of an artificial valve corresponding to each of the X-ray images for learning and shape information related to the artificial valve. A type of prosthetic valve including a plurality of shape information and cardiac blood flow direction information corresponding to the plurality of shape information as inputs and corresponding to the plurality of shape information and the heart blood flow direction information; An input unit that receives a second training data set including information as labels, and the first layer of the artificial neural network model learns the first training data set received through the input unit, and the second training data set received through the input unit and an artificial neural network model unit through which the second layer of the artificial neural network model learns a training data set.

일 실시예에 따르면 의료영상 내에 포함된 인공판막에 대해 인공 신경망 모델 및 그 학습 기법을 이용하여 종류를 정확히 구분할 수 있다. 이렇게 인공 신경망 모델을 이용해 구분한 인공판막의 종류에 대한 정보를 의료인에게 제공함으로써, 의료인이 신체 X선 영상에 포함된 인공판막의 종료를 정확하게 최종 결정할 수 있도록 지원하는 효과가 있다.According to an embodiment, the type of prosthetic valve included in a medical image can be accurately classified using an artificial neural network model and a learning technique thereof. By providing information on the type of prosthetic valve classified using the artificial neural network model to the medical personnel, there is an effect of supporting the medical personnel to accurately and finally determine the end of the prosthetic valve included in the body X-ray image.

도 1은 일 실시예에 따른 의료영상 처리 장치의 구성도이다.
도 2는 본 발명의 제 1 실시예에 따라 의료영상 처리 장치의 인공 신경망 모델부의 인공 신경망 모델을 학습시키는 과정을 나타낸 흐름도이다.
도 3은 본 발명의 제 1 실시예에 따라 학습된 인공 신경망 모델을 포함하는 의료영상 처리 장치가 진단 대상자의 심장 내 인공판막의 종류를 결정하는 과정을 나타낸 흐름도이다.
도 4는 본 발명의 제 2 실시예에 따라 의료영상 처리 장치의 인공 신경망 모델부의 인공 신경망 모델을 학습시키는 과정을 나타낸 흐름도이다.
도 5는 인공판막의 종류별 그림자 형태를 나타낸 도면이다.
1 is a configuration diagram of a medical image processing apparatus according to an exemplary embodiment.
2 is a flowchart illustrating a process of learning an artificial neural network model of an artificial neural network model unit of a medical image processing apparatus according to a first embodiment of the present invention.
3 is a flowchart illustrating a process in which a medical image processing apparatus including an artificial neural network model learned according to the first embodiment of the present invention determines the type of an artificial valve in the heart of a subject to be diagnosed.
4 is a flowchart illustrating a process of learning an artificial neural network model of an artificial neural network model unit of a medical image processing apparatus according to a second embodiment of the present invention.
5 is a view showing shadow shapes for each type of prosthetic valve.

본 발명의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나 본 발명은 이하에서 개시되는 실시예들에 한정되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 본 실시예들은 본 발명의 개시가 완전하도록 하고, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 발명의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 발명은 청구항의 범주에 의해 정의될 뿐이다.Advantages and features of the present invention, and methods of achieving them, will become clear with reference to the embodiments described below in conjunction with the accompanying drawings. However, the present invention is not limited to the embodiments disclosed below, but may be implemented in various different forms, and only these embodiments make the disclosure of the present invention complete, and common knowledge in the art to which the present invention belongs. It is provided to completely inform the person who has the scope of the invention, and the present invention is only defined by the scope of the claims.

본 명세서에서 사용되는 용어에 대해 간략히 설명하고, 본 발명에 대해 구체적으로 설명하기로 한다.The terms used in this specification will be briefly described, and the present invention will be described in detail.

본 발명에서 사용되는 용어는 본 발명에서의 기능을 고려하면서 가능한 현재 널리 사용되는 일반적인 용어들을 선택하였으나, 이는 당 분야에 종사하는 기술자의 의도 또는 판례, 새로운 기술의 출현 등에 따라 달라질 수 있다. 또한, 특정한 경우는 출원인이 임의로 선정한 용어도 있으며, 이 경우 해당되는 발명의 설명 부분에서 상세히 그 의미를 기재할 것이다. 따라서 본 발명에서 사용되는 용어는 단순한 용어의 명칭이 아닌, 그 용어가 가지는 의미와 본 발명의 전반에 걸친 내용을 토대로 정의되어야 한다.The terms used in the present invention have been selected from general terms that are currently widely used as much as possible while considering the functions in the present invention, but these may vary depending on the intention of a person skilled in the art or precedent, the emergence of new technologies, and the like. In addition, in a specific case, there is also a term arbitrarily selected by the applicant, and in this case, the meaning will be described in detail in the description of the invention. Therefore, the term used in the present invention should be defined based on the meaning of the term and the overall content of the present invention, not simply the name of the term.

명세서 전체에서 어떤 부분이 어떤 구성요소를 '포함'한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있음을 의미한다. When it is said that a certain part 'includes' a certain element in the entire specification, it means that other elements may be further included without excluding other elements unless otherwise stated.

또한, 명세서에서 사용되는 '부'라는 용어는 소프트웨어 또는 FPGA나 ASIC과 같은 하드웨어 구성요소를 의미하며, '부'는 어떤 역할들을 수행한다. 그렇지만 '부'는 소프트웨어 또는 하드웨어에 한정되는 의미는 아니다. '부'는 어드레싱할 수 있는 저장 매체에 있도록 구성될 수도 있고 하나 또는 그 이상의 프로세서들을 재생시키도록 구성될 수도 있다. 따라서, 일 예로서 '부'는 소프트웨어 구성요소들, 객체지향 소프트웨어 구성요소들, 클래스 구성요소들 및 태스크 구성요소들과 같은 구성요소들과, 프로세스들, 함수들, 속성들, 프로시저들, 서브루틴들, 프로그램 코드의 세그먼트들, 드라이버들, 펌웨어, 마이크로 코드, 회로, 데이터, 데이터베이스, 데이터 구조들, 테이블들, 어레이들 및 변수들을 포함한다. 구성요소들과 '부'들 안에서 제공되는 기능은 더 작은 수의 구성요소들 및 '부'들로 결합되거나 추가적인 구성요소들과 '부'들로 더 분리될 수 있다.In addition, the term 'unit' used in the specification means software or a hardware component such as FPGA or ASIC, and 'unit' performs certain roles. However, 'part' is not limited to software or hardware. A 'unit' may be configured to reside in an addressable storage medium and may be configured to reproduce one or more processors. Thus, as an example, 'unit' refers to components such as software components, object-oriented software components, class components and task components, processes, functions, properties, procedures, subroutines, segments of program code, drivers, firmware, microcode, circuitry, data, databases, data structures, tables, arrays and variables. The functionality provided within the components and 'parts' may be combined into a smaller number of elements and 'parts' or further separated into additional elements and 'parts'.

아래에서는 첨부한 도면을 참고하여 본 발명의 실시예에 대하여 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 상세히 설명한다. 그리고 도면에서 본 발명을 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략한다.Hereinafter, with reference to the accompanying drawings, embodiments of the present invention will be described in detail so that those skilled in the art can easily carry out the present invention. And in order to clearly explain the present invention in the drawings, parts irrelevant to the description are omitted.

본 명세서에서 진단 대상자나 환자 등은 사람 또는 동물, 또는 사람 또는 동물의 일부를 포함할 수 있다.In the present specification, a subject to be diagnosed or a patient may include a human or an animal, or a part of a human or animal.

또한, 본 명세서에서 '영상'은 이산적인 이미지 요소들(예를 들어, 2차원 이미지에 있어서의 픽셀들 및 3차원 이미지에 있어서의 복셀들)로 구성된 다차원(multi-dimensional) 데이터를 의미할 수 있다.In addition, 'image' in this specification may refer to multi-dimensional data composed of discrete image elements (eg, pixels in a 2D image and voxels in a 3D image). there is.

본 발명의 의료영상 처리 장치, 그 의료영상 학습 방법 및 의료영상 처리 방법 등은 여러 가지의 실시예 형태로 구현할 수 있고, 이하의 설명에서는 제 1 실시예와 제 2 실시예에 대해 대표적으로 설명하기로 한다. 도 1은 본 발명의 실시예에 따른 의료영상 처리 장치(100)의 구성도이고, 도시된 의료영상 처리 장치(100)는 여러 가지의 형태로 실시되는 의료영상 학습 방법 및 의료영상 처리 방법을 수행할 수 있는데, 이러한 의료영상 처리 장치(100)에 대한 설명을 제 1 실시예와 제 2 실시예로 나누어서 설명하기로 한다.The medical image processing apparatus, the medical image learning method, and the medical image processing method of the present invention can be implemented in various embodiments, and in the following description, the first and second embodiments are representatively described. do it with 1 is a configuration diagram of a medical image processing apparatus 100 according to an embodiment of the present invention, and the illustrated medical image processing apparatus 100 performs a medical image learning method and a medical image processing method implemented in various forms. However, the description of the medical image processing apparatus 100 will be divided into the first embodiment and the second embodiment.

<제 1 실시예><First Embodiment>

도 1은 일 실시예에 따른 의료영상 처리 장치(100)의 구성을 도시하고 있으며, 다만 도 1에 도시된 것은 예시적인 것에 불과하다. 이러한 의료영상 처리 장치(100)는 PC나 서버 등에서 구현되거나 이를 포함할 수 있다.FIG. 1 illustrates a configuration of a medical image processing apparatus 100 according to an exemplary embodiment, but what is illustrated in FIG. 1 is merely illustrative. The medical image processing apparatus 100 may be implemented in or include a PC or server.

도 1을 참조하면, 의료영상 처리 장치(100)는 입력부(110), 인공 신경망 모델(artificial neutral network model)부(120), 처리부(130) 및 출력부(140)를 포함한다.Referring to FIG. 1 , the medical image processing apparatus 100 includes an input unit 110, an artificial neutral network model unit 120, a processing unit 130, and an output unit 140.

입력부(110)는 학습 데이터 세트를 구성하는 입력으로서 심장에 대한 학습용 신체 X선 영상들을 입력 받는다. 그리고, 입력부(110)는 학습 데이터 세트를 구성하는 레이블로서 신체 X선 영상의 심장 내 인공판막의 종류 정보 및 인공판막과 관련된 형태 정보를 입력 받는다. 또한, 입력부(110)는 진단 대상자의 심장에 대한 신체 X선 영상을 입력 받는다. 여기서, 학습 데이터 세트는 인공 신경망 모델부(120)를 학습시킬 때에 이용하기 위한 것이고, 진단 대상자의 심장에 대한 신체 X선 영상은 기 학습된 인공 신경망 모델부(120)에 입력하여 인공판막의 종류를 결정하기 위한 것이다.The input unit 110 receives body X-ray images for heart learning as an input constituting a learning data set. In addition, the input unit 110 receives type information of the artificial valve in the heart of the body X-ray image and shape information related to the artificial valve as labels constituting the learning data set. In addition, the input unit 110 receives an X-ray image of the body of the patient's heart. Here, the learning data set is to be used when learning the artificial neural network model unit 120, and the body X-ray image of the heart of the subject to be diagnosed is input to the artificial neural network model unit 120 that has been previously learned, and the type of artificial valve is to determine

인공 신경망 모델부(120)는 입력부(110)를 통하여 입력 받은 학습 데이터 세트를 인공 신경망 모델이 학습한다. 그리고, 학습된 인공 신경망 모델부(120)는 입력부(110)를 통하여 입력 받은 진단 대상자의 신체 X선 영상으로부터 인공 신경망 모델이 신체 X선 영상 내 인공판막의 종류를 추정하고, 인공판막과 관련된 형태 정보를 획득한다. 예를 들어, 인공 신경망 모델부(120)는 인공판막과 관련된 형태 정보로서 인공판막의 그림자 형태에 대한 정보를 획득할 수 있다. 예컨대, 인공 신경망 모델은 Mask R-CNN 모델일 수 있다. Mask R-CNN 모델은 심장에 대한 학습용 신체 X선 영상들을 Mask R-CNN 모델의 훈련 영상으로 이용할 수 있고, 학습용 신체 X선 영상들에 각각 대응하는 신체 X선 영상의 심장 내 인공판막의 종류 정보 및 인공판막과 관련된 형태 정보를 Mask R-CNN 모델의 마스크(Mask)로 이용할 수 있다. 예컨대, 인공 신경망 모델부(120)는 인공 신경망 모델로서 기능을 수행하도록 프로그램된 명령어를 저장하는 메모리 및 이러한 명령어를 실행하는 마이크로프로세서를 포함할 수 있다.The artificial neural network model unit 120 learns the artificial neural network model from the learning data set received through the input unit 110 . In addition, the learned artificial neural network model unit 120 estimates the type of artificial valve in the body X-ray image of the subject from the body X-ray image of the subject to be diagnosed received through the input unit 110, and the type related to the artificial valve. Acquire information. For example, the artificial neural network model unit 120 may obtain information about the shape of a shadow of the artificial valve as shape information related to the artificial valve. For example, the artificial neural network model may be a Mask R-CNN model. The Mask R-CNN model can use body X-ray images for learning of the heart as training images of the Mask R-CNN model, and information on the type of artificial valve in the heart of the body X-ray images corresponding to the body X-ray images for learning, respectively. And shape information related to the prosthetic valve can be used as a mask for the Mask R-CNN model. For example, the artificial neural network model unit 120 may include a memory storing instructions programmed to perform functions as an artificial neural network model and a microprocessor executing these instructions.

처리부(130)는 인공 신경망 모델부(120)에 의해 획득된 인공판막과 관련된 형태 정보에 기초하여 심장의 혈류 방향을 추정하고, 인공 신경망 모델부(120)에 의해 추정된 인공판막의 종류와 추정된 혈류 방향에 기초하여 인공판막의 종류를 재추정한 결과로서 인공판막의 종류를 결정한다. 예를 들어, 처리부(130)는 혈류 방향을 추정할 때에, 획득된 형태 정보와 기 설정된 형태 정보를 비교한 결과에 기초하여 심장의 혈류 방향을 추정할 수 있다. 예컨대, 기 설정된 형태 정보는 복수의 왕관 형태일 수 있고, 처리부(130)는 혈류 방향을 추정할 때에, 복수의 왕관 형태에 각각 대응하는 조직 판막 중 어느 하나에 대한 혈류 방향을 추정할 수 있다. 예컨대, 처리부(130)는 인공 신경망 모델부(120)에 의해 추정된 인공판막의 종류와 추정된 혈류 방향에 기초하여 인공판막의 종류를 재추정한 결과로서 인공판막의 종류를 결정하는 기능을 수행하도록 프로그램된 명령어를 저장하는 메모리 및 이러한 명령어를 실행하는 마이크로프로세서를 포함할 수 있다.The processing unit 130 estimates the blood flow direction of the heart based on the shape information related to the prosthetic valve obtained by the artificial neural network model unit 120, and estimates the type and type of the prosthetic valve estimated by the artificial neural network model unit 120. The type of prosthetic valve is determined as a result of re-estimating the type of prosthetic valve based on the direction of blood flow. For example, when estimating the direction of blood flow, the processing unit 130 may estimate the direction of blood flow of the heart based on a result of comparing the obtained shape information with the preset shape information. For example, the preset shape information may be a plurality of crown shapes, and when estimating a blood flow direction, the processing unit 130 may estimate a blood flow direction for any one of the tissue valves respectively corresponding to the plurality of crown shapes. For example, the processing unit 130 performs a function of determining the type of artificial valve as a result of re-estimating the type of artificial valve based on the type of artificial valve estimated by the artificial neural network model unit 120 and the estimated direction of blood flow. It may include a memory that stores instructions programmed to do so, and a microprocessor that executes these instructions.

출력부(140)는 처리부(130)에 의해 결정된 인공판막의 종류에 대한 정보를 출력한다. 예를 들어, 출력부(140)는 처리부(130)에 의해 결정된 인공판막의 종류에 대한 정보를 외부에서 인지 가능하게 출력할 수 있다. 이러한 출력부(140)는 인공판막의 종류에 대한 정보를 출력하는 포트, 유선 통신 모듈 또는 무선 통신 모듈 등을 포함할 수 있다. 또는, 출력부(140)는 인공판막의 종류에 대한 정보를 영상 형태로 출력할 수 있는 영상 표시 장치를 포함할 수도 있다.The output unit 140 outputs information about the type of prosthetic valve determined by the processing unit 130 . For example, the output unit 140 may output information on the type of prosthetic valve determined by the processing unit 130 to be recognized from the outside. The output unit 140 may include a port for outputting information on the type of prosthetic valve, a wired communication module, or a wireless communication module. Alternatively, the output unit 140 may include an image display device capable of outputting information about the type of prosthetic valve in the form of an image.

도 2는 본 발명의 제 1 실시예에 따라 의료영상 처리 장치(100)의 인공 신경망 모델부(120)의 인공 신경망 모델을 학습시키는 과정을 나타낸 흐름도이고, 도 3은 본 발명의 제 1 실시예에 따라 학습된 인공 신경망 모델을 포함하는 의료영상 처리 장치(100)가 진단 대상자의 심장 내 인공판막의 종류를 결정하는 과정을 나타낸 흐름도이다.2 is a flowchart illustrating a process of learning an artificial neural network model of the artificial neural network model unit 120 of the medical image processing apparatus 100 according to the first embodiment of the present invention, and FIG. 3 is a flowchart illustrating the first embodiment of the present invention. A flowchart illustrating a process in which the medical image processing apparatus 100 including the artificial neural network model trained according to is determined the type of artificial valve in the heart of a subject to be diagnosed.

이하, 도 1 내지 도 3을 참조하여 본 발명의 제 1 실시예에 따른 인공 신경망 모델에 대한 학습 과정, 학습된 인공 신경망 모델을 이용하여 인공판막의 종류를 결정하는 과정 등에 대해 자세히 살펴보기로 한다.Hereinafter, with reference to FIGS. 1 to 3, a process of learning the artificial neural network model according to the first embodiment of the present invention and a process of determining the type of artificial valve using the learned artificial neural network model will be described in detail. .

먼저, 의료영상 처리 장치(100)의 운용자 등은 학습 데이터 세트를 구성하는 입력으로서 심장에 대한 학습용 신체 X선 영상들을 준비할 수 있고(S210), 학습 데이터 세트를 구성하는 레이블로서 신체 X선 영상의 심장 내 인공판막의 종류 정보 및 인공판막과 관련된 형태 정보를 준비할 수 있다(S220). 여기서, 레이블로서 학습 데이터 세트에 포함되는 인공판막과 관련된 형태 정보는 인공판막의 그림자 형태에 대한 정보일 수 있다.First, an operator of the medical image processing apparatus 100 may prepare body X-ray images for heart learning as input constituting a learning data set (S210), and body X-ray images as labels constituting the learning data set. Type information of the prosthetic valve in the heart of the patient and shape information related to the prosthetic valve may be prepared (S220). Here, the shape information related to the prosthetic valve included in the training data set as a label may be information about the shape of the shadow of the prosthetic valve.

이렇게 준비된 학습 데이터 세트가 입력부(110)를 통해 입력되면, 인공 신경망 모델부(120)의 인공 신경망 모델이 학습 데이터 세트를 학습한다(S230). 이렇게, 인공 신경망 모델부(120)가 학습 데이터 세트를 학습하는 횟수는 특별히 제한되지는 않으나, 실시예의 하나로서 최상의 학습 효과를 위해 적정 횟수 범위 이내에서 학습이 이루어질 수도 있다.When the prepared training data set is input through the input unit 110, the artificial neural network model of the artificial neural network model unit 120 learns the training data set (S230). In this way, the number of times the artificial neural network model unit 120 learns the training data set is not particularly limited, but as one of the embodiments, learning may be performed within a range of appropriate numbers for the best learning effect.

의료영상 처리 장치(100)의 인공 신경망 모델부(120)에 대한 학습이 이루어진 후에, 의료영상 처리 장치(100)의 운용자 등은 진단 대상자의 신체 X선 영상을 준비하여 입력부(110)를 통해 입력할 수 있다.After learning of the artificial neural network model unit 120 of the medical image processing apparatus 100, the operator of the medical image processing apparatus 100 prepares an X-ray image of the body of the subject to be diagnosed and inputs the image through the input unit 110. can do.

그러면, 단계 S210 내지 단계 S230을 통해 학습된 인공 신경망 모델부(120)는 입력부(110)를 통하여 입력 받은 진단 대상자의 신체 X선 영상으로부터 인공 신경망 모델이 신체 X선 영상 내 인공판막의 종류를 추정하고, 인공판막과 관련된 형태 정보를 획득한다. 여기서, 인공 신경망 모델부(120)는 인공판막과 관련된 형태 정보로서 인공판막의 그림자 형태에 대한 정보를 획득할 수 있다(S310).Then, the artificial neural network model unit 120 learned through steps S210 to S230 estimates the type of artificial valve in the body X-ray image from the artificial neural network model from the body X-ray image of the subject to be diagnosed received through the input unit 110. and obtain shape information related to the prosthetic valve. Here, the artificial neural network model unit 120 may acquire information about the shape of the shadow of the artificial valve as shape information related to the artificial valve (S310).

여기서, 단계 S310을 통하여 인공 신경망 모델부(120)가 추정한 인공판막의 종류는 진단 대상자의 신체 내에 존재하는 인공판막의 실제 종류와 일치할 수도 있고 불일치할 수도 있다. 진단 대상자의 신체 내에 존재하는 여러 개의 인공판막이 비슷한 위치에 있거나 심장이 커지거나 체형 변화에 의해 일정한 방향으로 복수의 인공판막이 겹쳐진 형태로 X선 영상 내에 포함될 수 있고, 이러한 경우들에는 단계 S310에 의해 추정된 인공판막의 종류가 신체 내에 존재하는 인공판막의 실제 종류와 불일치할 가능성이 다른 예보다 상대적으로 높다.Here, the type of artificial valve estimated by the artificial neural network model unit 120 through step S310 may or may not match the actual type of artificial valve existing in the body of the subject to be diagnosed. Several prosthetic valves existing in the body of the diagnosis subject may be included in the X-ray image in a similar position, or in the form of overlapping a plurality of prosthetic valves in a certain direction due to an enlarged heart or a change in body shape. In these cases, step S310 The possibility that the type of prosthetic valve estimated by the method is inconsistent with the actual type of prosthetic valve existing in the body is relatively higher than in other cases.

이에, 의료영상 처리 장치(100)의 처리부(130)는 단계 S310에서 획득된 인공판막과 관련된 형태 정보에 기초하여 심장의 혈류 방향을 추정한다. 여기서, 처리부(130)가 심장의 혈류 방향을 추정하는 이유는 추정된 심장의 혈류 방향을 반영하여 인공판막의 종류를 좀 더 정확히 구분하기 위한 것인데, 모든 종류의 인공판막에 적용할 경우는 오히려 정확도가 저하될 가능성이 있다. Accordingly, the processing unit 130 of the medical image processing apparatus 100 estimates the blood flow direction of the heart based on the shape information related to the prosthetic valve acquired in step S310. Here, the reason why the processing unit 130 estimates the blood flow direction of the heart is to reflect the estimated blood flow direction of the heart to more accurately classify the type of artificial valve. is likely to deteriorate.

처리부(130)는 단계 S310에서 인공 신경망 모델부(120)가 획득한 인공판막과 관련된 형태 정보와 기 설정된 형태 정보를 비교하여 획득된 형태 정보가 기 설정된 형태 정보에 포함되는지를 확인한다. 예를 들어, 기 설정된 형태 정보를 복수의 왕관 형태, 즉 다양한 왕관 형태일 수 있다. 도 5는 인공판막의 종류별 그림자 형태를 나타낸 도면이다. 도 5를 살펴보면, 조직 판막 중에서도 대동맥판막(Aortic Bio), 폐동맥판막(Pulmonary Bio), 승모판막(Mitral Bio) 및 삼첨판막(Tricuspid Bio)이 왕관 형태의 그림자를 갖는 것을 알 수 있다.The processing unit 130 compares the shape information related to the prosthetic valve acquired by the artificial neural network model unit 120 with the preset shape information in step S310 to determine whether the obtained shape information is included in the preset shape information. For example, the preset shape information may be a plurality of crown shapes, that is, various crown shapes. 5 is a view showing shadow shapes for each type of prosthetic valve. Referring to FIG. 5 , among tissue valves, it can be seen that aortic valves (Aortic Bio), pulmonary artery valves (Pulmonary Bio), mitral valves (Mitral Bio), and tricuspid valves (Tricuspid Bio) have crown-shaped shadows.

이어서, 처리부(130)는 단계 S310에서 인공 신경망 모델부(120)가 획득한 인공판막과 관련된 형태 정보와 기 설정된 형태 정보를 비교한 결과에 기초하여 심장의 혈류 방향을 추정한다. 예를 들어, 복수의 왕관 형태 중 어떤 왕관 형태인가에 따라 심장의 하방에서 우상방으로 흐르는 혈류인지 아니면 심장의 우방에서 좌방으로 흐르는 혈류인지 등을 추정할 수 있다(S320).Subsequently, the processing unit 130 estimates the blood flow direction of the heart based on a result of comparing the shape information related to the prosthetic valve acquired by the artificial neural network model unit 120 with the preset shape information in step S310. For example, it is possible to estimate whether blood flow flows from the lower part of the heart to the upper right side or from the right side of the heart to the left side depending on which of the plurality of crown shapes it is in (S320).

다음으로, 처리부(130)는 단계 S310에서 추정된 인공판막의 종류와 단계 S320에서 추정된 혈류 방향에 기초하여, 단계 S310에서 입력된 신체 X선 영상의 심장 내 인공판막의 종류를 재추정한 결과로서 인공판막의 종류를 결정한다. 단계 S320에서 인공판막과 관련된 형태 정보가 기 설정된 형태 정보에 포함되지 않는다고 확인된 경우는 단계 S310에서 추정된 결과를 그대로 인공판막의 종류로서 최종 결정한다. 하지만, 단계 S320에서 인공판막과 관련된 형태 정보가 기 설정된 형태 정보에 포함된다고 확인된 경우는 단계 S310에서 추정된 결과를 그대로 사용하지 않고 추정된 혈류 방향을 반영하여 인공판막의 종류를 정정할 수 있다. 예를 들어, 심장의 하방에서 우상방으로 흐르는 혈류로 추정된 경우에는 단계 S310의 추정 결과와 상관없이 인공판막의 종류를 대동맥판막으로 최종 결정할 수 있고, 심장의 우방에서 좌방으로 흐르는 혈류로 추정된 경우에는 단계 S310의 추정 결과와 상관없이 인공판막의 종류를 삼첨판막으로 최종 결정할 수 있다(S330).Next, the processor 130 re-estimates the type of artificial valve in the heart of the body X-ray image input in step S310 based on the type of artificial valve estimated in step S310 and the direction of blood flow estimated in step S320. As a result, the type of prosthetic valve is determined. If it is confirmed in step S320 that the shape information related to the prosthetic valve is not included in the preset shape information, the estimated result in step S310 is finally determined as the type of the prosthetic valve. However, if it is confirmed in step S320 that the shape information related to the prosthetic valve is included in the preset shape information, the type of artificial valve may be corrected by reflecting the estimated blood flow direction instead of using the result estimated in step S310 as it is. . For example, in the case where blood flow is estimated to flow from the lower side of the heart to the right side, regardless of the estimation result of step S310, the type of artificial valve can be finally determined as the aortic valve, and the blood flow estimated from the right side to the left side of the heart is estimated. In this case, the type of artificial valve may be finally determined as a tricuspid valve regardless of the estimation result of step S310 (S330).

이후, 출력부(140)는 처리부(130)에 의해 결정된 인공판막의 종류에 대한 정보를 출력한다. 예를 들어, 출력부(140)는 처리부(130)에 의해 결정된 인공판막의 종류에 대한 정보를 외부에서 인지 가능하게 영상 형태로 출력하거나 유선 통신 모듈 또는 무선 통신 모듈 등을 통하여 별도의 전자장치로 송신할 수 있다.Thereafter, the output unit 140 outputs information about the type of prosthetic valve determined by the processing unit 130 . For example, the output unit 140 outputs information on the type of prosthetic valve determined by the processing unit 130 in the form of an image recognizable from the outside or as a separate electronic device through a wired communication module or a wireless communication module. can be sent

<제 2 실시예><Second Embodiment>

제 2 실시예는 제 1 실시예에서 처리부(130)가 심장 내 인공판막의 종류를 재추정하였던 것까지 인공 신경망 모델부(120)가 수행하도록 한 경우라 할 수 있다.The second embodiment can be said to be a case where the artificial neural network model unit 120 performs up to the point where the processing unit 130 re-estimates the type of prosthetic valve in the heart in the first embodiment.

도 1은 일 실시예에 따른 의료영상 처리 장치(100)의 구성을 도시하고 있으며, 다만 도 1에 도시된 것은 예시적인 것에 불과하다. 이러한 의료영상 처리 장치(100)는 PC나 서버 등에서 구현되거나 이를 포함할 수 있다.FIG. 1 illustrates a configuration of a medical image processing apparatus 100 according to an exemplary embodiment, but what is illustrated in FIG. 1 is merely illustrative. The medical image processing apparatus 100 may be implemented in or include a PC or server.

도 1을 참조하면, 의료영상 처리 장치(100)는 입력부(110), 인공 신경망 모델부(120), 처리부(130) 및 출력부(140)를 포함한다.Referring to FIG. 1 , the medical image processing apparatus 100 includes an input unit 110, an artificial neural network model unit 120, a processing unit 130, and an output unit 140.

입력부(110)는 제 1 학습 데이터 세트를 구성하는 입력으로서 심장에 대한 학습용 신체 X선 영상들을 입력 받는다. 그리고, 입력부(110)는 제 1 학습 데이터 세트를 구성하는 레이블로서 신체 X선 영상의 심장 내 인공판막의 종류 정보 및 인공판막과 관련된 형태 정보를 입력 받는다. 또, 입력부(110)는 제 2 학습 데이터 세트를 구성하는 입력으로서 복수의 형태 정보 및 복수의 형태 정보에 대응하는 심장 혈류 방향 정보를 입력 받는다. 그리고, 입력부(110)는 제 2 학습 데이터 세트를 구성하는 레이블로서 복수의 형태 정보 및 심장 혈류 방향 정보에 대응하는 인공판막의 종류 정보를 입력 받는다. 예를 들어, 제 1 학습 데이터 세트의 레이블로서 포함되는 인공판막과 관련된 형태 정보는 인공판막의 그림자 형태에 대한 정보일 수 있다. 그리고, 복수의 형태 정보는 복수의 왕관 형태일 수 있고, 심장 혈류 방향 정보는 복수의 왕관 형태에 각각 대응하는 조직 판막 중 어느 하나에 대한 혈류 방향일 수 있다. 또한, 입력부(110)는 진단 대상자의 심장에 대한 신체 X선 영상을 입력 받는다. 여기서, 제 1 학습 데이터 세트 및 제 2 학습 데이터 세트는 인공 신경망 모델부(120)를 학습시킬 때에 이용하기 위한 것이고, 진단 대상자의 심장에 대한 신체 X선 영상은 기 학습된 인공 신경망 모델부(120)에 입력하여 인공판막의 종류를 결정하기 위한 것이다.The input unit 110 receives body X-ray images for learning of the heart as input constituting the first learning data set. In addition, the input unit 110 receives type information of the artificial valve in the heart of the body X-ray image and shape information related to the artificial valve as labels constituting the first learning data set. In addition, the input unit 110 receives a plurality of shape information and heart blood flow direction information corresponding to the plurality of shape information as input constituting the second learning data set. In addition, the input unit 110 receives information about the type of prosthetic valve corresponding to a plurality of shape information and heart blood flow direction information as labels constituting the second learning data set. For example, the shape information related to the prosthetic valve included as a label of the first learning data set may be information about the shape of a shadow of the prosthetic valve. Also, the plurality of shape information may be a plurality of crown shapes, and the heart blood flow direction information may be a blood flow direction for any one of the tissue valves respectively corresponding to the plurality of crown shapes. In addition, the input unit 110 receives an X-ray image of the body of the patient's heart. Here, the first learning data set and the second learning data set are used for learning the artificial neural network model unit 120, and the body X-ray image of the heart of the subject to be diagnosed is pre-learned artificial neural network model unit 120. ) to determine the type of prosthetic valve.

인공 신경망 모델부(120)는 입력부(110)를 통하여 입력 받은 제 1 학습 데이터 세트를 인공 신경망 모델의 제 1 계층이 학습하고, 입력부(110)를 통하여 입력 받은 제 2 학습 데이터 세트를 인공 신경망 모델의 제 2 계층이 학습한다. 그리고, 학습된 인공 신경망 모델을 포함하는 인공 신경망 모델부(120)는 입력부(110)를 통하여 입력 받은 진단 대상자의 신체 X선 영상으로부터 인공 신경망 모델의 제 1 계층이 신체 X선 영상 내 인공판막의 종류를 추정하고, 인공판막과 관련된 형태 정보를 획득한다. 그리고, 획득된 인공판막과 관련된 형태 정보에 기초하여 인공 신경망 모델의 제 2 계층이 심장의 혈류 방향을 추정하고, 제 1 계층이 추정한 인공판막의 종류와 추정된 혈류 방향에 기초하여 인공판막의 종류를 재추정한 결과로서 인공판막의 종류를 결정한다. 예컨대, 인공 신경망 모델은 Mask R-CNN 모델일 수 있다. 예컨대, 인공 신경망 모델부(120)는 인공 신경망 모델로서 기능을 수행하도록 프로그램된 명령어를 저장하는 메모리 및 이러한 명령어를 실행하는 마이크로프로세서를 포함할 수 있다.In the artificial neural network model unit 120, the first layer of the artificial neural network model learns the first training data set received through the input unit 110, and the second training data set input through the input unit 110 is used as the artificial neural network model. The second layer of learns. In addition, the artificial neural network model unit 120 including the learned artificial neural network model determines that the first layer of the artificial neural network model from the body X-ray image of the subject to be diagnosed received through the input unit 110 is the artificial valve in the body X-ray image. The type is estimated, and shape information related to the prosthetic valve is acquired. In addition, the second layer of the artificial neural network model estimates the blood flow direction of the heart based on the acquired shape information related to the prosthetic valve, and based on the type of prosthetic valve estimated by the first layer and the estimated blood flow direction, the prosthetic valve is estimated. As a result of re-estimating the type, the type of prosthetic valve is determined. For example, the artificial neural network model may be a Mask R-CNN model. For example, the artificial neural network model unit 120 may include a memory storing instructions programmed to perform functions as an artificial neural network model and a microprocessor executing these instructions.

처리부(130)는 인공 신경망 모델부(120)에 의해 결정된 인공판막의 종류를 출력하도록 출력부(140)를 제어한다. 예를 들어, 처리부(130)는 다양한 명령어를 실행하는 마이크로프로세서를 포함할 수 있다.The processing unit 130 controls the output unit 140 to output the type of prosthetic valve determined by the artificial neural network model unit 120 . For example, processing unit 130 may include a microprocessor that executes various instructions.

출력부(140)는 처리부(130)의 제어에 따라 인공판막의 종류에 대한 정보를 출력한다. 예를 들어, 출력부(140)는 처리부(130)에 의해 결정된 인공판막의 종류에 대한 정보를 외부에서 인지 가능하게 출력할 수 있다. 이러한 출력부(140)는 인공판막의 종류에 대한 정보를 출력하는 포트, 유선 통신 모듈 또는 무선 통신 모듈 등을 포함할 수 있다. 또는, 출력부(140)는 인공판막의 종류에 대한 정보를 영상 형태로 출력할 수 있는 영상 표시 장치를 포함할 수도 있다.The output unit 140 outputs information about the type of prosthetic valve under the control of the processing unit 130 . For example, the output unit 140 may output information on the type of prosthetic valve determined by the processing unit 130 to be recognized from the outside. The output unit 140 may include a port for outputting information on the type of prosthetic valve, a wired communication module, or a wireless communication module. Alternatively, the output unit 140 may include an image display device capable of outputting information about the type of prosthetic valve in the form of an image.

도 4는 본 발명의 제 2 실시예에 따라 의료영상 처리 장치(100)의 인공 신경망 모델부(120)의 인공 신경망 모델을 학습시키는 과정을 나타낸 흐름도이다.4 is a flowchart illustrating a process of learning an artificial neural network model of the artificial neural network model unit 120 of the medical image processing apparatus 100 according to the second embodiment of the present invention.

이하, 도 1 및 도 4를 참조하여 본 발명의 제 2 실시예에 따른 인공 신경망 모델에 대한 학습 과정, 학습된 인공 신경망 모델을 이용하여 인공판막의 종류를 결정하는 과정 등에 대해 자세히 살펴보기로 한다.Hereinafter, with reference to FIGS. 1 and 4, a process of learning the artificial neural network model according to the second embodiment of the present invention and a process of determining the type of artificial valve using the learned artificial neural network model will be described in detail. .

먼저, 의료영상 처리 장치(100)의 운용자 등은 제 1 학습 데이터 세트를 구성하는 입력으로서 심장에 대한 학습용 신체 X선 영상들을 준비할 수 있고(S410), 제 1 학습 데이터 세트를 구성하는 레이블로서 신체 X선 영상의 심장 내 인공판막의 종류 정보 및 인공판막과 관련된 형태 정보를 준비할 수 있다(S420). 여기서, 레이블로서 학습 데이터 세트에 포함되는 인공판막과 관련된 형태 정보는 인공판막의 그림자 형태에 대한 정보일 수 있다.First, an operator of the medical image processing apparatus 100 may prepare body X-ray images for learning of the heart as inputs constituting the first learning data set (S410), and as labels constituting the first learning data set. Information on the type of artificial valve in the heart of the body X-ray image and information on the shape of the artificial valve may be prepared (S420). Here, the shape information related to the prosthetic valve included in the training data set as a label may be information about the shape of the shadow of the prosthetic valve.

그리고, 의료영상 처리 장치(100)의 운용자 등은 제 2 학습 데이터 세트를 구성하는 입력으로서 복수의 형태 정보 및 복수의 형태 정보에 대응하는 심장 혈류 방향 정보를 준비할 수 있고(S430), 제 2 학습 데이터 세트를 구성하는 레이블로서 복수의 형태 정보 및 심장 혈류 방향 정보에 대응하는 인공판막의 종류 정보를 준비할 수 있다(S440).In addition, the operator of the medical image processing apparatus 100 may prepare a plurality of shape information and heart blood flow direction information corresponding to the plurality of shape information as inputs constituting the second learning data set (S430). As a label constituting the learning data set, information on the type of prosthetic valve corresponding to a plurality of shape information and heart blood flow direction information may be prepared (S440).

이렇게 준비된 제 1 학습 데이터 세트 및 제 2 학습 데이터 세트가 입력부(110)를 통해 입력되면, 제 1 학습 데이터 세트를 인공 신경망 모델의 제 1 계층이 학습하고, 제 2 학습 데이터 세트를 인공 신경망 모델의 제 2 계층이 학습한다. 이렇게, 인공 신경망 모델부(120)가 학습 데이터 세트를 학습하는 횟수는 특별히 제한되지는 않으나, 실시예의 하나로서 최상의 학습 효과를 위해 적정 횟수 범위 이내에서 학습이 이루어질 수도 있다(S450).When the first training data set and the second training data set thus prepared are input through the input unit 110, the first training data set is learned by the first layer of the artificial neural network model, and the second training data set is used by the artificial neural network model. Layer 2 learns. In this way, the number of times that the artificial neural network model unit 120 learns the learning data set is not particularly limited, but as one of the embodiments, learning may be performed within an appropriate number of times for the best learning effect (S450).

의료영상 처리 장치(100)의 인공 신경망 모델부(120)에 대한 학습이 이루어진 후에, 의료영상 처리 장치(100)의 운용자 등은 진단 대상자의 신체 X선 영상을 준비하여 입력부(110)를 통해 입력할 수 있다.After learning of the artificial neural network model unit 120 of the medical image processing apparatus 100, the operator of the medical image processing apparatus 100 prepares an X-ray image of the body of the subject to be diagnosed and inputs the image through the input unit 110. can do.

그러면, 단계 S410 내지 단계 S450을 통해 학습된 인공 신경망 모델부(120)는 입력부(110)를 통하여 입력 받은 진단 대상자의 신체 X선 영상으로부터 인공 신경망 모델이 신체 X선 영상 내 인공판막의 종류를 결정한다. 이러한 인공 신경망 모델부(120)가 신체 X선 영상 내 인공판막의 종류를 결정하는 과정은 제 1 실시예의 단계 S310 내지 단계 S330을 인공 신경망 모델의 제 1 계층과 제 2 계층이 순차적으로 수행하는 것이라 할 수 있고, 전술한 설명들로부터 유추할 수 있는 것이기에 그 상세한 설명은 생략하기로 한다.Then, in the artificial neural network model unit 120 learned through steps S410 to S450, the artificial neural network model determines the type of artificial valve in the body X-ray image from the body X-ray image of the subject to be diagnosed received through the input unit 110. do. The process of determining the type of artificial valve in the body X-ray image by the artificial neural network model unit 120 is that the first layer and the second layer of the artificial neural network model sequentially perform steps S310 to S330 of the first embodiment. This can be done, and since it can be inferred from the above descriptions, the detailed description thereof will be omitted.

이후, 출력부(140)는 처리부(130)의 제어에 따라 인공 신경망 모델부(120)가 결정한 인공판막의 종류에 대한 정보를 출력한다. 예를 들어, 출력부(140)는 처리부(130)에 의해 결정된 인공판막의 종류에 대한 정보를 외부에서 인지 가능하게 영상 형태로 출력하거나 유선 통신 모듈 또는 무선 통신 모듈 등을 통하여 별도의 전자장치로 송신할 수 있다.Thereafter, the output unit 140 outputs information about the type of artificial valve determined by the artificial neural network model unit 120 according to the control of the processing unit 130 . For example, the output unit 140 outputs information on the type of prosthetic valve determined by the processing unit 130 in the form of an image recognizable from the outside or as a separate electronic device through a wired communication module or a wireless communication module. can be sent

한편, 전술한 제 1 실시예 및 제 2 실시예에 따른 의료영상 학습 방법 및 의료영상 처리 방법에 포함된 각각의 단계는, 이러한 단계를 수행하도록 프로그램된 컴퓨터 프로그램을 기록하는 컴퓨터 판독가능한 기록매체에서 구현될 수 있다.On the other hand, each step included in the medical image learning method and medical image processing method according to the above-described first and second embodiments is carried out in a computer readable recording medium recording a computer program programmed to perform these steps. can be implemented

또한, 전술한 제 1 실시예 및 제 2 실시예에 따른 의료영상 학습 방법 및 의료영상 처리 방법에 포함된 각각의 단계는, 이러한 단계를 수행하도록 프로그램된, 컴퓨터 판독가능한 기록매체에 저장된 컴퓨터 프로그램의 형태로 구현될 수 있다.In addition, each step included in the medical image learning method and medical image processing method according to the above-described first and second embodiments is a computer program stored in a computer readable recording medium programmed to perform these steps. can be implemented in the form

본 발명에 첨부된 각 흐름도의 각 단계의 조합들은 컴퓨터 프로그램 인스트럭션들에 의해 수행될 수도 있다. 이들 컴퓨터 프로그램 인스트럭션들은 범용 컴퓨터, 특수용 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비의 프로세서에 탑재될 수 있으므로, 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비의 프로세서를 통해 수행되는 그 인스트럭션들이 흐름도의 각 단계에서 설명된 기능들을 수행하는 수단을 생성하게 된다. 이들 컴퓨터 프로그램 인스트럭션들은 특정 방식으로 기능을 구현하기 위해 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비를 지향할 수 있는 컴퓨터 이용 가능 또는 컴퓨터 판독 가능 기록매체에 저장되는 것도 가능하므로, 그 컴퓨터 이용가능 또는 컴퓨터 판독 가능 기록매체에 저장된 인스트럭션들은 흐름도의 각 단계에서 설명된 기능을 수행하는 인스트럭션 수단을 내포하는 제조 품목을 생산하는 것도 가능하다. 컴퓨터 프로그램 인스트럭션들은 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비 상에 탑재되는 것도 가능하므로, 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비 상에서 일련의 동작 단계들이 수행되어 컴퓨터로 실행되는 프로세스를 생성해서 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비를 수행하는 인스트럭션들은 흐름도의 각 단계에서 설명된 기능들을 실행하기 위한 단계들을 제공하는 것도 가능하다.Combinations of each step in each flowchart attached to the present invention may be performed by computer program instructions. Since these computer program instructions may be loaded into a processor of a general-purpose computer, a special-purpose computer, or other programmable data processing equipment, the instructions executed by the processor of the computer or other programmable data processing equipment function as described in each step of the flowchart. create a means to do them. These computer program instructions can also be stored on a computer usable or computer readable medium that can be directed to a computer or other programmable data processing equipment to implement functions in a particular way, so that the computer usable or computer readable It is also possible that the instructions stored on the recording medium produce an article of manufacture containing instruction means for performing the functions described in each step of the flowchart. The computer program instructions can also be loaded on a computer or other programmable data processing equipment, so that a series of operational steps are performed on the computer or other programmable data processing equipment to create a computer-executed process to generate computer or other programmable data processing equipment. Instructions for performing the processing equipment may also provide steps for executing the functions described at each step in the flowchart.

또한, 각 단계는 특정된 논리적 기능(들)을 실행하기 위한 하나 이상의 실행 가능한 인스트럭션들을 포함하는 모듈, 세그먼트 또는 코드의 일부를 나타낼 수 있다. 또, 몇 가지 대체 실시예들에서는 단계들에서 언급된 기능들이 순서를 벗어나서 발생하는 것도 가능함을 주목해야 한다. 예컨대, 잇달아 도시되어 있는 두 개의 단계들은 사실 실질적으로 동시에 수행되는 것도 가능하고 또는 그 단계들이 때때로 해당하는 기능에 따라 역순으로 수행되는 것도 가능하다.Further, each step may represent a module, segment or portion of code that includes one or more executable instructions for executing the specified logical function(s). It should also be noted that in some alternative embodiments it is possible for the functions mentioned in the steps to occur out of order. For example, two steps shown in succession may in fact be performed substantially concurrently, or the steps may sometimes be performed in reverse order depending on the function in question.

이상의 설명은 본 발명의 기술 사상을 예시적으로 설명한 것에 불과한 것으로서, 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자라면 본 발명의 본질적인 품질에서 벗어나지 않는 범위에서 다양한 수정 및 변형이 가능할 것이다. 따라서, 본 발명에 개시된 실시예들은 본 발명의 기술 사상을 한정하기 위한 것이 아니라 설명하기 위한 것이고, 이러한 실시예에 의하여 본 발명의 기술 사상의 범위가 한정되는 것은 아니다. 본 발명의 보호 범위는 아래의 청구범위에 의하여 해석되어야 하며, 그와 균등한 범위 내에 있는 모든 기술사상은 본 발명의 권리범위에 포함되는 것으로 해석되어야 할 것이다.The above description is merely an example of the technical idea of the present invention, and various modifications and variations can be made to those skilled in the art without departing from the essential qualities of the present invention. Therefore, the embodiments disclosed in the present invention are not intended to limit the technical idea of the present invention, but to explain, and the scope of the technical idea of the present invention is not limited by these embodiments. The protection scope of the present invention should be construed according to the claims below, and all technical ideas within the scope equivalent thereto should be construed as being included in the scope of the present invention.

100: 의료영상 처리 장치
110: 입력부
120: 인공 신경망 모델부
130: 처리부
140: 출력부
100: medical image processing device
110: input unit
120: artificial neural network model unit
130: processing unit
140: output unit

Claims (13)

의료영상 처리 장치가 수행하는 의료영상 처리 방법으로서,
진단 대상자의 심장에 대한 신체 엑스(X)선 영상을 기 학습된 인공 신경망 모델에 입력하여 상기 인공 신경망 모델의 출력으로서 상기 신체 X선 영상의 심장 내 인공판막의 종류를 추정하고, 상기 인공판막과 관련된 형태 정보를 획득하는 단계와,
상기 획득된 형태 정보에 기초하여 심장의 혈류 방향을 추정하는 단계와,
상기 추정된 인공판막의 종류와 상기 추정된 혈류 방향에 기초하여 상기 인공판막의 종류를 재추정한 결과로서 상기 인공판막의 종류를 결정하는 단계를 포함하는
의료영상 처리 방법.
A medical image processing method performed by a medical image processing apparatus,
A body X-ray image of the heart of the patient to be diagnosed is input to a pre-learned artificial neural network model, and as an output of the artificial neural network model, the type of artificial valve in the heart of the body X-ray image is estimated, and the artificial valve and obtaining related shape information;
estimating a blood flow direction of the heart based on the acquired shape information;
Determining the type of the artificial valve as a result of re-estimating the type of the artificial valve based on the estimated type of the artificial valve and the estimated blood flow direction
Medical image processing method.
제 1 항에 있어서,
상기 형태 정보를 획득하는 단계는 상기 인공판막의 그림자 형태에 대한 정보를 획득하는
의료영상 처리 방법.
According to claim 1,
The obtaining of the shape information includes obtaining information on the shape of the shadow of the prosthetic valve.
Medical image processing method.
제 1 항에 있어서,
상기 혈류 방향을 추정하는 단계는 상기 획득된 형태 정보와 기 설정된 형태 정보를 비교하는 단계와,
상기 비교의 결과에 기초하여 상기 심장의 혈류 방향을 추정하는 단계를 포함하는
의료영상 처리 방법.
According to claim 1,
The estimating of the blood flow direction may include comparing the acquired shape information with preset shape information;
Estimating the blood flow direction of the heart based on the result of the comparison
Medical image processing method.
제 3 항에 있어서,
상기 기 설정된 형태 정보는 복수의 왕관 형태이고,
상기 혈류 방향을 추정하는 단계는 상기 복수의 왕관 형태에 각각 대응하는 조직 판막 중 어느 하나에 대한 혈류 방향으로 추정하는
의료영상 처리 방법.
According to claim 3,
The preset shape information is a plurality of crown shapes,
The estimating of the blood flow direction may include estimating a blood flow direction for any one of the tissue valves corresponding to the plurality of crown shapes.
Medical image processing method.
컴퓨터 프로그램을 저장하고 있는 컴퓨터 판독 가능 기록매체로서,
상기 컴퓨터 프로그램은, 프로세서에 의해 실행되면,
제 1 항 내지 제 4 항 중 어느 한 항에 따른 방법을 상기 프로세서가 수행하도록 하기 위한 명령어를 포함하는, 컴퓨터 판독 가능한 기록매체.
A computer-readable recording medium storing a computer program,
When the computer program is executed by a processor,
A computer-readable recording medium comprising instructions for causing the processor to perform the method according to any one of claims 1 to 4.
컴퓨터 판독 가능 기록매체에 저장된 컴퓨터 프로그램으로서,
상기 컴퓨터 프로그램은, 프로세서에 의해 실행되면,
제 1 항 내지 제 4 항 중 어느 한 항에 따른 방법을 상기 프로세서가 수행하도록 하기 위한 명령어를 포함하는, 컴퓨터 프로그램.
As a computer program stored on a computer-readable recording medium,
When the computer program is executed by a processor,
A computer program comprising instructions for causing the processor to perform the method according to any one of claims 1 to 4.
의료영상 처리 장치의 의료영상 학습 방법으로서,
제 1 학습 데이터 세트를 구성하는 입력으로서 심장에 대한 학습용 신체 엑스(X)선 영상들을 준비하는 단계와,
상기 제 1 학습 데이터 세트를 구성하는 레이블로서 상기 학습용 신체 X선 영상들에 각각 대응하는 인공판막의 종류 정보 및 상기 인공판막과 관련된 형태 정보를 준비하는 단계와,
제 2 학습 데이터 세트를 구성하는 입력으로서 복수의 형태 정보 및 상기 복수의 형태 정보에 대응하는 심장 혈류 방향 정보를 준비하는 단계와,
상기 제 2 학습 데이터 세트를 구성하는 레이블로서 상기 복수의 형태 정보 및 상기 심장 혈류 방향 정보에 대응하는 인공판막의 종류 정보를 준비하는 단계와,
상기 제 1 학습 데이터 세트를 이용하여 인공 신경망 모델의 제 1 계층을 학습시키고, 상기 제 2 학습 데이터 세트를 이용하여 상기 인공 신경망 모델의 제 2 계층을 학습시키는 단계를 포함하는
의료영상 학습 방법.
As a medical image learning method of a medical image processing device,
Preparing body X-ray images for heart learning as input constituting a first learning data set;
preparing information on the type of artificial valve corresponding to each of the X-ray images for learning and shape information related to the artificial valve as labels constituting the first learning data set;
preparing a plurality of shape information and heart blood flow direction information corresponding to the plurality of shape information as input constituting a second learning data set;
Preparing type information of an artificial valve corresponding to the plurality of shape information and the heart blood flow direction information as labels constituting the second learning data set;
Learning a first layer of an artificial neural network model using the first training data set and learning a second layer of the artificial neural network model using the second training data set
Medical image learning method.
제 7 항에 있어서,
상기 인공판막과 관련된 형태 정보는 상기 인공판막의 그림자 형태에 대한 정보인
의료영상 학습 방법.
According to claim 7,
The shape information related to the prosthetic valve is information about the shape of the shadow of the prosthetic valve.
Medical image learning method.
제 7 항에 있어서,
상기 제 2 학습 데이터 세트의 입력으로 이용하는 복수의 형태 정보는 복수의 왕관 형태이고, 상기 제 2 학습 데이터 세트의 레이블로 이용하는 상기 인공판막의 종류 정보는 조직 판막 종류 정보인
의료영상 학습 방법.
According to claim 7,
The plurality of shape information used as the input of the second learning data set is a plurality of crown shapes, and the prosthetic valve type information used as the label of the second learning data set is tissue valve type information.
Medical image learning method.
컴퓨터 프로그램을 저장하고 있는 컴퓨터 판독 가능 기록매체로서,
상기 컴퓨터 프로그램은, 프로세서에 의해 실행되면,
제 7 항 내지 제 9 항 중 어느 한 항에 따른 방법을 상기 프로세서가 수행하도록 하기 위한 명령어를 포함하는, 컴퓨터 판독 가능한 기록매체.
A computer-readable recording medium storing a computer program,
When the computer program is executed by a processor,
A computer-readable recording medium comprising instructions for causing the processor to perform the method according to any one of claims 7 to 9.
컴퓨터 판독 가능 기록매체에 저장된 컴퓨터 프로그램으로서,
상기 컴퓨터 프로그램은, 프로세서에 의해 실행되면,
제 7 항 내지 제 9 항 중 어느 한 항에 따른 방법을 상기 프로세서가 수행하도록 하기 위한 명령어를 포함하는, 컴퓨터 프로그램.
As a computer program stored on a computer-readable recording medium,
When the computer program is executed by a processor,
A computer program comprising instructions for causing the processor to perform the method according to any one of claims 7 to 9.
진단 대상자의 심장에 대한 신체 엑스(X)선 영상을 입력 받는 입력부와,
상기 입력부를 통하여 입력 받은 상기 진단 대상자의 신체 X선 영상으로부터 인공 신경망 모델이 상기 신체 X선 영상 내 인공판막의 종류를 추정하고, 상기 인공판막과 관련된 형태 정보를 획득하는 인공 신경망 모델부와,
상기 획득된 형태 정보에 기초하여 심장의 혈류 방향을 추정하고, 상기 추정된 인공판막의 종류와 상기 추정된 혈류 방향에 기초하여 상기 인공판막의 종류를 재추정한 결과로서 상기 인공판막의 종류를 결정하는 처리부와,
상기 처리부에 의해 결정된 상기 인공판막의 종류에 대한 정보를 출력하는 출력부를 포함하는
의료영상 처리 장치.
An input unit for receiving an X-ray image of the heart of a subject to be diagnosed;
An artificial neural network model unit for estimating the type of an artificial valve in the body X-ray image of the diagnosis subject from the body X-ray image of the diagnosis subject input through the input unit and acquiring shape information related to the artificial valve;
The blood flow direction of the heart is estimated based on the obtained shape information, and the type of the prosthetic valve is determined as a result of re-estimating the type of the prosthetic valve based on the estimated type of prosthetic valve and the estimated blood flow direction. a processing unit that
And an output unit for outputting information about the type of the prosthetic valve determined by the processing unit.
Medical image processing device.
심장에 대한 학습용 신체 엑스(X)선 영상들을 입력으로 포함하고 상기 학습용 신체 X선 영상들에 각각 대응하는 인공판막의 종류 정보 및 상기 인공판막과 관련된 형태 정보를 레이블로서 포함하는 제 1 학습 데이터 세트, 그리고 복수의 형태 정보 및 상기 복수의 형태 정보에 대응하는 심장 혈류 방향 정보를 입력으로 포함하고 상기 복수의 형태 정보 및 상기 심장 혈류 방향 정보에 대응하는 인공판막의 종류 정보를 레이블로서 포함하는 제 2 학습 데이터 세트를 입력 받는 입력부와,
상기 입력부를 통하여 입력 받은 상기 제 1 학습 데이터 세트를 인공 신경망 모델의 제 1 계층이 학습하고, 상기 입력부를 통하여 입력 받은 상기 제 2 학습 데이터 세트를 상기 인공 신경망 모델의 제 2 계층이 학습하는 인공 신경망 모델부를 포함하는
의료영상 처리 장치.
A first learning data set including, as input, body X-ray images for learning of the heart, and including type information of an artificial valve corresponding to each of the body X-ray images for learning and shape information related to the artificial valve as a label and a plurality of shape information and cardiac blood flow direction information corresponding to the plurality of shape information as inputs, and a label containing type information of an artificial valve corresponding to the plurality of shape information and the heart blood flow direction information as a label. an input unit for receiving a training data set;
An artificial neural network in which the first layer of the artificial neural network model learns the first training data set received through the input unit, and the second layer of the artificial neural network model learns the second training data set input through the input unit. including the model
Medical image processing device.
KR1020210034596A 2021-03-17 2021-03-17 Medical image process apparatus and medical image learning method, and medical image process method KR102481564B1 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020210034596A KR102481564B1 (en) 2021-03-17 2021-03-17 Medical image process apparatus and medical image learning method, and medical image process method
PCT/KR2022/003627 WO2022197074A1 (en) 2021-03-17 2022-03-15 Medical image processing apparatus, medical image training method, and medical image processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020210034596A KR102481564B1 (en) 2021-03-17 2021-03-17 Medical image process apparatus and medical image learning method, and medical image process method

Publications (2)

Publication Number Publication Date
KR20220130288A KR20220130288A (en) 2022-09-27
KR102481564B1 true KR102481564B1 (en) 2022-12-29

Family

ID=83321148

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020210034596A KR102481564B1 (en) 2021-03-17 2021-03-17 Medical image process apparatus and medical image learning method, and medical image process method

Country Status (2)

Country Link
KR (1) KR102481564B1 (en)
WO (1) WO2022197074A1 (en)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140336995A1 (en) 2013-05-10 2014-11-13 Stenomics, Inc. Modeling and simulation system for optimizing prosthetic heart valve treatment
KR101611475B1 (en) 2014-11-25 2016-04-12 재단법인 아산사회복지재단 Clinical decision supporting method and system for percutaneous artificial heart valve replacement
US20170337488A1 (en) 2013-10-23 2017-11-23 Stenomics, Inc. Machine learning system for assessing heart valves and surrounding cardiovascular tracts
JP2020502681A (en) 2016-12-15 2020-01-23 シンテフ テーテーオー アクスイェ セルスカプ Methods and processes for providing subject-specific computational models used for decision support and diagnosis of cardiovascular disease
JP2020081303A (en) 2018-11-22 2020-06-04 キヤノンメディカルシステムズ株式会社 Medical image processing device

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1832233A4 (en) * 2004-12-24 2008-04-16 Yd Ltd Cardiac valve data measuring method and device
KR101517752B1 (en) 2012-06-28 2015-05-06 삼성메디슨 주식회사 Diagnosis image apparatus and operating method thereof
US10297027B2 (en) * 2014-06-09 2019-05-21 Siemens Healthcare Gmbh Landmark detection with spatial and temporal constraints in medical imaging
JP6055565B1 (en) * 2016-03-15 2016-12-27 株式会社日立製作所 Ultrasonic diagnostic equipment
KR102284700B1 (en) * 2019-08-19 2021-08-02 재단법인 아산사회복지재단 Method, program and comuting apparatus for specific the position of body sites for non-identification

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140336995A1 (en) 2013-05-10 2014-11-13 Stenomics, Inc. Modeling and simulation system for optimizing prosthetic heart valve treatment
US20170337488A1 (en) 2013-10-23 2017-11-23 Stenomics, Inc. Machine learning system for assessing heart valves and surrounding cardiovascular tracts
KR101611475B1 (en) 2014-11-25 2016-04-12 재단법인 아산사회복지재단 Clinical decision supporting method and system for percutaneous artificial heart valve replacement
JP2020502681A (en) 2016-12-15 2020-01-23 シンテフ テーテーオー アクスイェ セルスカプ Methods and processes for providing subject-specific computational models used for decision support and diagnosis of cardiovascular disease
JP2020081303A (en) 2018-11-22 2020-06-04 キヤノンメディカルシステムズ株式会社 Medical image processing device

Also Published As

Publication number Publication date
KR20220130288A (en) 2022-09-27
WO2022197074A1 (en) 2022-09-22

Similar Documents

Publication Publication Date Title
KR101977645B1 (en) Eye image analysis method
JP6409073B2 (en) System and method for image-based object modeling using multiple image acquisition or reconstruction
US20040153128A1 (en) Method and system for image processing and contour assessment
US20070014452A1 (en) Method and system for image processing and assessment of a state of a heart
WO2018205922A1 (en) Methods and systems for pulmonary function test based on diagnostic medical imaging and machine learning
KR102030533B1 (en) Image processing apparatus for adopting human body morphometric based on artificial neural network for sarcopenia and image processing method using the same
CN105849773A (en) Model-based segmentation of an anatomical structure
WO2008050222A2 (en) Method and system for automatic quality control used in computerized analysis of ct angiography
CN107004305A (en) Medical image editor
CN102232845A (en) Method for automatic detection of a contrast agent inflow in a blood vessel of a patient with a CT system and CT system for carrying out this method
US20210059758A1 (en) System and Method for Identification, Labeling, and Tracking of a Medical Instrument
KR101611488B1 (en) Method of classifying an artifact and a diseased area in a medical image
CN113573640A (en) Modeling a region of interest of an anatomical structure
KR102354396B1 (en) Method and apparatus for calculating coronary artery calcium scoring
WO2020217462A1 (en) Lifestyle habitat assessment system and program therefor
JP7203754B2 (en) Methods and apparatus for determining physiological function parameters
EP3989828B1 (en) Automated coronary angiography analysis
KR102481564B1 (en) Medical image process apparatus and medical image learning method, and medical image process method
CN106780720B (en) Medical image display method and device
US11783477B2 (en) Medical image process apparatus, medical image learning method, and medical image process method
JP2022517247A (en) Image analysis method and device
US11657519B2 (en) Method for deformation correction
WO2022096867A1 (en) Image processing of intravascular ultrasound images
JP7155274B2 (en) Systems and methods for accelerated clinical workflow
KR20240079827A (en) Medical image process method and apparatus

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right