KR102605720B1 - Brain disease prediction device and method, learning device for predicting brain disease - Google Patents

Brain disease prediction device and method, learning device for predicting brain disease Download PDF

Info

Publication number
KR102605720B1
KR102605720B1 KR1020217022211A KR20217022211A KR102605720B1 KR 102605720 B1 KR102605720 B1 KR 102605720B1 KR 1020217022211 A KR1020217022211 A KR 1020217022211A KR 20217022211 A KR20217022211 A KR 20217022211A KR 102605720 B1 KR102605720 B1 KR 102605720B1
Authority
KR
South Korea
Prior art keywords
brain
information
tissue image
brain tissue
learning
Prior art date
Application number
KR1020217022211A
Other languages
Korean (ko)
Other versions
KR20210096292A (en
Inventor
석흥일
정원식
Original Assignee
주식회사 뉴로젠
고려대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 뉴로젠, 고려대학교 산학협력단 filed Critical 주식회사 뉴로젠
Publication of KR20210096292A publication Critical patent/KR20210096292A/en
Application granted granted Critical
Publication of KR102605720B1 publication Critical patent/KR102605720B1/en

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/72Signal processing specially adapted for physiological signals or for diagnostic purposes
    • A61B5/7271Specific aspects of physiological measurement analysis
    • A61B5/7275Determining trends in physiological measurement data; Predicting development of a medical condition based on physiological measurements, e.g. determining a risk factor
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00Measuring for diagnostic purposes; Identification of persons
    • A61B5/0033Features or image-related aspects of imaging apparatus classified in A61B5/00, e.g. for MRI, optical tomography or impedance tomography apparatus; arrangements of imaging apparatus in a room
    • A61B5/004Features or image-related aspects of imaging apparatus classified in A61B5/00, e.g. for MRI, optical tomography or impedance tomography apparatus; arrangements of imaging apparatus in a room adapted for image acquisition of a particular organ or body part
    • A61B5/0042Features or image-related aspects of imaging apparatus classified in A61B5/00, e.g. for MRI, optical tomography or impedance tomography apparatus; arrangements of imaging apparatus in a room adapted for image acquisition of a particular organ or body part for the brain

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Public Health (AREA)
  • Molecular Biology (AREA)
  • Veterinary Medicine (AREA)
  • General Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Animal Behavior & Ethology (AREA)
  • Biophysics (AREA)
  • Pathology (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Surgery (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Radiology & Medical Imaging (AREA)
  • Physiology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Signal Processing (AREA)
  • Artificial Intelligence (AREA)
  • Psychiatry (AREA)
  • Neurology (AREA)
  • Magnetic Resonance Imaging Apparatus (AREA)
  • Image Analysis (AREA)

Abstract

실시예에 따른 뇌 질환 예측 장치는 서로 다른 시점의 복수의 뇌 영상을 수집하는 데이터 수집부와, 상기 뇌 영상 중 관심 영역의 뇌 조직 영상의 정보를 추출하는 데이터 처리부와, 상기 서로 다른 시점의 복수의 뇌 영상에서 추출한 관심 영역의 복수의 뇌 조직 영상의 정보를 미리 학습된 학습 모델의 입력으로 하여 뇌 질환의 진행 경과, 상기 뇌 질환의 현재 진행 속도, 상기 뇌 질환의 추후 진행 속도 및 상기 뇌 질환 상태에 따른 임상적 진단 평가 점수 중 적어도 하나 이상의 정보를 예측하는 진단부를 포함할 수 있다.A brain disease prediction device according to an embodiment includes a data collection unit that collects a plurality of brain images at different viewpoints, a data processing unit that extracts information on brain tissue images of a region of interest among the brain images, and a plurality of brain images at different viewpoints. The progression of the brain disease, the current progression rate of the brain disease, the future progression rate of the brain disease, and the brain disease by using the information of a plurality of brain tissue images of the region of interest extracted from the brain image as input to a pre-trained learning model. It may include a diagnosis unit that predicts at least one piece of information among clinical diagnostic evaluation scores according to the condition.

Description

뇌 질환 예측 장치 및 방법, 뇌 질환을 예측하기 위한 학습 장치Brain disease prediction device and method, learning device for predicting brain disease

본 발명은 딥러닝 기반 뇌 질환, 예를 들면 알츠하이머병의 예측 장치 및 방법에 관한 것이다.The present invention relates to a deep learning-based prediction device and method for brain diseases, such as Alzheimer's disease.

알츠하이머병은 노년층의 많은 이들에게 발병하는 신경퇴행성 뇌 질환으로, 임상적으로, 인지 기능의 상실을 특징으로 한다. 의학의 발달에 의해 평균 수명이 늘어남에 따라, 알츠하이머병이 증가하는 추세이며, 결과적으로, 알츠하이머병의 진행 속도를 늦추는 등의 적절한 조치를 위한 조기 진단 및 진행 결과를 예측하는 기술의 필요성이 증대되고 있다. Alzheimer's disease is a neurodegenerative brain disease that affects many older people and is clinically characterized by loss of cognitive function. As the average lifespan increases due to the development of medicine, Alzheimer's disease is on the rise, and as a result, the need for early diagnosis and technology to predict the outcome of the progression of Alzheimer's disease is increasing for appropriate measures such as slowing down the progression of Alzheimer's disease. there is.

뇌 영상검사 방법 중 비침습적인 방법인 MRI는, 같은 비침습 방법인 컴퓨터 단층 촬영(Computed Tomography: CT)에 비해 두개골에 의한 인공 음영 영향이 없어 뇌관류 상태의 미세 진단이 가능하고, 뇌의 구조적, 기능적 변화로 발생하는 다양한 질환들을 검사할 수 있다. MRI, a non-invasive method among brain imaging methods, has no artificial shading effect from the skull compared to computed tomography (CT), which is the same non-invasive method, allowing for microdiagnosis of cerebral perfusion status and structural improvement of the brain. , various diseases that occur due to functional changes can be tested.

알츠하이머병의 조기 검출은 환자의 인지기능이 급격히 저하되어, 일상생활이 어려워지는 시점이 도래하기 전에 처치하기 위한 결정적인 요인이 될 수 있다.Early detection of Alzheimer's disease can be a critical factor in providing treatment before the patient's cognitive function rapidly declines and daily life becomes difficult.

알츠하이머병은 시간이 지남에 따라 환자의 뇌가 위축되는 증상을 일으키므로, 뇌 영상으로부터 환자의 상태를 감지하여 진단하고자 하는 연구가 진행되고 있다. 뇌 영상을 이용한 질환 진단 시, 환자들 간의 뇌 구조가 모두 다르기 때문에, 이들의 공통된 변화 정도를 획일적으로 확인하기 위하여, 템플릿을 사용하여 동일한 구조로 변환하고, 각 해부학적 영역별 변화 정도를 확인하는 방법을 사용할 수 있다.Since Alzheimer's disease causes symptoms in which the patient's brain atrophies over time, research is being conducted to detect and diagnose the patient's condition from brain imaging. When diagnosing diseases using brain imaging, since the brain structures among patients are all different, in order to uniformly check the degree of common change, a template is used to convert the structure into the same structure and the degree of change in each anatomical region is checked. method can be used.

알츠하이머병 진단 방법의 임상적 예로는, 간이정신상태검사(Mini-Mental State Examination - MMSE), 알츠하이머병 평가 척도(Alzheimer's Disease Assessment Score - ADAS), 임상치매평가(Clinical Dementia Rating - CDR), 혈액검사 결과를 종합적으로 판단하는 방법을 사용할 수 있다.Clinical examples of Alzheimer's disease diagnosis methods include Mini-Mental State Examination (MMSE), Alzheimer's Disease Assessment Score (ADAS), Clinical Dementia Rating (CDR), and blood tests. A method of comprehensively judging the results can be used.

최근 기계학습의 일종인 딥러닝 기법을 통한 컴퓨터 영상 분류 기술이 발전함에 따라, 의료 영상으로부터 특징을 추출하여 임상 상태를 진단하고자 하는 연구들이 활발히 진행되고 있다. 하지만, 기존의 딥러닝 기반 단일 뇌 영상 기반 진단 시스템은 질환의 진행도가 미미한 경우, 뇌 영상의 형태적 차이 또한 미세하기 때문에, 알츠하이머병의 조기 진단에 어려움이 있다.Recently, with the development of computer image classification technology through deep learning techniques, a type of machine learning, research is being actively conducted to diagnose clinical conditions by extracting features from medical images. However, the existing deep learning-based single brain image-based diagnosis system has difficulty in early diagnosis of Alzheimer's disease because the morphological differences in brain images are also subtle when the disease progression is minimal.

국내공개특허 제10-2019-0105452호(2019.09.17. 공개)Domestic Public Patent No. 10-2019-0105452 (published on September 17, 2019)

본 발명의 실시예에서는 알츠하이머병 등의 뇌 질환의 진행을 보다 신뢰성 있게 예측하기 위한 뇌 질환 예측 장치 및 방법, 뇌 질환을 예측하기 위한 학습 장치를 제공하는 것을 그 목적으로 한다.The purpose of embodiments of the present invention is to provide a brain disease prediction device and method for more reliably predicting the progression of brain diseases such as Alzheimer's disease, and a learning device for predicting brain diseases.

다만, 본 발명의 실시예가 이루고자 하는 기술적 과제는 이상에서 언급한 과제로 제한되지 않으며, 이하에서 설명할 내용으로부터 통상의 기술자에게 자명한 범위 내에서 다양한 기술적 과제가 도출될 수 있다. However, the technical problems to be achieved by the embodiments of the present invention are not limited to the problems mentioned above, and various technical problems can be derived from the contents described below within the range obvious to those skilled in the art.

본 발명의 실시예에 따른 뇌 질환 예측 장치는 서로 다른 시점의 복수의 뇌 영상을 수집하는 데이터 수집부와, 상기 뇌 영상 중 관심 영역의 뇌 조직 영상의 정보를 추출하는 데이터 처리부와, 상기 서로 다른 시점의 복수의 뇌 영상에서 추출한 관심 영역의 복수의 뇌 조직 영상의 정보를 미리 학습된 학습 모델의 입력으로 하여 뇌 질환의 진행 경과, 상기 뇌 질환의 현재 진행 속도, 상기 뇌 질환의 추후 진행 속도 및 상기 뇌 질환 상태에 따른 임상적 진단 평가 점수 중 적어도 하나 이상의 정보를 예측하는 진단부를 포함할 수 있다.A brain disease prediction device according to an embodiment of the present invention includes a data collection unit that collects a plurality of brain images at different times, a data processing unit that extracts information on brain tissue images of a region of interest among the brain images, and Information on a plurality of brain tissue images of the region of interest extracted from a plurality of brain images at a certain point of time is input to a pre-trained learning model to determine the progression of the brain disease, the current progression rate of the brain disease, the future progression rate of the brain disease, and It may include a diagnosis unit that predicts at least one piece of information among clinical diagnostic evaluation scores according to the brain disease state.

상기 데이터 처리부는 상기 복수의 뇌 영상에서 상기 뇌의 위치가 정렬되도록 상기 복수의 뇌 영상을 처리하는 뇌 위치 정렬부와, 상기 뇌 위치가 정렬된 상기 복수의 뇌 영상에서 상기 관심 영역의 뇌 조직 영상을 추출하는 뇌 조직 영상 추출부와, 상기 복수의 뇌 영상에서 상기 관심 영역의 상기 뇌 조직 영상을 제외한 영역을 제거하는 제거부와, 상기 관심 영역의 상기 뇌 조직 영상을 이용하여 상기 뇌 조직의 정보를 추출하는 정보 추출부를 포함할 수 있다.The data processing unit includes a brain position alignment unit that processes the plurality of brain images so that the positions of the brains in the plurality of brain images are aligned, and a brain tissue image of the region of interest in the plurality of brain images in which the brain positions are aligned. a brain tissue image extraction unit that extracts, a removal unit that removes a region excluding the brain tissue image of the region of interest from the plurality of brain images, and information on the brain tissue using the brain tissue image of the region of interest. It may include an information extraction unit that extracts.

상기 데이터 처리부에서 상기 관심 영역의 뇌 조직 영상은 중측두회(middle temporal gyrus) 영상, 내 후각 피질(entorhinal cortex) 영상, 방추이랑(Fusiform gyrus) 및 해마 (Hippocampus) 영상 중 적어도 하나를 포함할 수 있다.The brain tissue image of the region of interest in the data processing unit may include at least one of a middle temporal gyrus image, an entorhinal cortex image, a fusiform gyrus, and a hippocampus image. there is.

상기 학습 모델은 상기 뇌 조직 영상의 정보에 따른 정상 상태, 경도인지장애 상태 및 알츠하이머병 상태에 대해 각각 학습된 복수의 학습 모델을 포함할 수 있다.The learning model may include a plurality of learning models each learned for a normal state, a mild cognitive impairment state, and an Alzheimer's disease state according to information in the brain tissue image.

상기 진단부에서 상기 학습 모델을 미리 학습시키기 위한 학습 데이터는 제1 시점에서 획득된 제1 뇌 조직 영상 정보와 상기 제1 뇌 조직 영상 정보에 대한 제1 진단평가점수를 포함하는 제1 학습 데이터와, 제2 시점에서 획득된 제2 뇌 조직 영상 정보와 상기 제2 뇌 조직 영상 정보에 대한 제2 진단평가점수를 포함하는 제2 학습 데이터와, 제3 시점에서 획득된 제3 뇌 조직 영상 정보와 상기 제3 뇌 조직 영상 정보에 대한 제3 진단평가점수를 포함하는 제3 학습 데이터를 포함할 수 있다.The learning data for pre-training the learning model in the diagnostic unit includes first learning data including first brain tissue image information acquired at a first time point and a first diagnostic evaluation score for the first brain tissue image information; , second learning data including second brain tissue image information acquired at a second time point and a second diagnostic evaluation score for the second brain tissue image information, and third brain tissue image information acquired at a third time point, and It may include third learning data including a third diagnostic evaluation score for the third brain tissue image information.

상기 진단부에서 상기 학습 모델을 미리 학습시키기 위한 학습 데이터는 상기 제1 학습 데이터, 상기 제2 학습 데이터 및 상기 제3 학습 데이터의 각각 또는 2개 이상의 학습 데이터가 조합된 데이터를 포함할 수 있다.The training data for pre-training the learning model in the diagnosis unit may include each of the first training data, the second training data, and the third training data, or a combination of two or more training data.

상기 데이터 수집부는 상기 뇌 조직의 상태에 따른 임상적 진단평가점수 정보를 더 수집하고, 상기 진단부는 상기 뇌 조직 영상의 정보와, 상기 임상적 진단평가점수 정보를 상기 학습 모델의 학습 데이터로 사용할 수 있다.The data collection unit further collects clinical diagnostic evaluation score information according to the state of the brain tissue, and the diagnostic unit may use the information on the brain tissue image and the clinical diagnostic evaluation score information as learning data for the learning model. there is.

상기 진단부는 상기 학습 모델을 이용하여 현재 시점보다 이전 시점의 상기 뇌 조직 영상의 정보 또는 상기 현재 시점보다 이후 시점의 상기 뇌 조직 영상의 정보를 예측할 수 있다.The diagnostic unit may predict information on the brain tissue image at a time earlier than the current time or information on the brain tissue image at a later time than the current time using the learning model.

상기 진단부는 상기 현재 시점보다 이전 시점의 상기 뇌 조직 영상의 정보 또는 상기 현재 시점보다 이후 시점의 상기 뇌 조직 영상의 정보를 재이용하여 상기 학습 모델의 입력 데이터로 사용할 수 있다.The diagnostic unit may reuse information on the brain tissue image at a time earlier than the current time or information on the brain tissue image at a later time than the current time and use it as input data for the learning model.

상기 학습 모델은 인코딩 모듈부와 디코딩 모듈부를 포함하고, 상기 진단부는 상기 뇌 조직 영상의 정보를 상기 인코딩 모듈의 입력으로 하여 상기 뇌 조직 영상의 부피 변화량, 형태 변화량, 형상 변화량, 위치 변화량 정보를 포함하는 특징을 추출하고, 상기 특징을 상기 디코딩 모듈부의 입력으로 하여 뇌 질환의 진행 경과, 상기 뇌 질환의 현재 진행 속도, 상기 뇌 질환의 추후 진행 속도, 임상적 진단 평가 점수 중 적어도 하나 이상의 정보를 예측할 수 있다.The learning model includes an encoding module unit and a decoding module unit, and the diagnosis unit uses information on the brain tissue image as an input to the encoding module and includes volume change amount, shape change amount, shape change amount, and position change amount information of the brain tissue image. Extract a feature, and use the feature as an input to the decoding module to predict at least one information of the progression of the brain disease, the current progression rate of the brain disease, the future progression rate of the brain disease, and the clinical diagnostic evaluation score. You can.

또한, 본 발명의 실시예에 따른 뇌 질환 예측 장치의 뇌 질환 예측 방법은 서로 다른 시점의 복수의 뇌 영상의 데이터를 수집하는 단계와, 상기 뇌 영상 중 관심 영역의 뇌 조직 영상의 정보를 추출하는 단계와, 상기 서로 다른 시점의 복수의 뇌 영상에서 추출한 관심 영역의 복수의 뇌 조직 영상의 정보를 미리 학습된 학습 모델의 입력으로 하여 뇌 질환의 진행 경과, 상기 뇌 질환의 현재 진행 속도, 상기 뇌 질환의 추후 진행 속도 및 상기 뇌 질환 상태에 따른 임상적 진단 평가 점수 중 적어도 하나 이상의 정보를 예측하는 단계를 포함할 수 있다.In addition, the brain disease prediction method of the brain disease prediction device according to an embodiment of the present invention includes collecting data from a plurality of brain images at different viewpoints, and extracting information on a brain tissue image of a region of interest among the brain images. The progression of the brain disease, the current progression rate of the brain disease, and the brain by using the information on the stage and the plurality of brain tissue images of the region of interest extracted from the plurality of brain images at different viewpoints as input to the pre-trained learning model. It may include predicting at least one piece of information among the future progression rate of the disease and a clinical diagnostic evaluation score according to the brain disease state.

또한, 본 발명의 실시예에 따른 학습 장치는 학습 데이터를 수집하는 학습 데이터 수집부와, 뇌 질환의 진행 경과, 상기 뇌 질환의 현재 진행 속도, 상기 뇌 질환의 추후 진행 속도 및 상기 뇌 질환 상태에 따른 임상적 진단 평가 점수 중 적어도 하나 이상의 정보를 예측하기 위해 상기 학습 데이터를 이용하여 학습되는 학습 모델을 포함할 수 있다.In addition, the learning device according to an embodiment of the present invention includes a learning data collection unit that collects learning data, the progress of the brain disease, the current progression rate of the brain disease, the future progression rate of the brain disease, and the state of the brain disease. It may include a learning model that is learned using the learning data to predict at least one piece of information among clinical diagnostic evaluation scores.

상기 학습 모델은 RNN, CNN 및 DNN 중 어느 하나 또는 이들의 조합일 수 있다.The learning model may be any one of RNN, CNN, and DNN, or a combination thereof.

상기 학습 데이터 수집부는 제1 시점에서 획득된 제1 뇌 조직 영상 정보와 상기 제1 뇌 조직 영상 정보에 대한 제1 진단평가점수를 포함하는 제1 학습 데이터와, 제2 시점에서 획득된 제2 뇌 조직 영상 정보와 상기 제2 뇌 조직 영상 정보에 대한 제2 진단평가점수를 포함하는 제2 학습 데이터와, 제3 시점에서 획득된 제3 뇌 조직 영상 정보와 상기 제3 뇌 조직 영상 정보에 대한 제3 진단평가점수를 포함하는 제3 학습 데이터를 포함할 수 있다.The learning data collection unit collects first learning data including first brain tissue image information acquired at a first time point and a first diagnostic evaluation score for the first brain tissue image information, and second brain tissue image information obtained at a second time point. Second learning data including tissue image information and a second diagnostic evaluation score for the second brain tissue image information, and third brain tissue image information acquired at a third time point and a second diagnostic evaluation score for the third brain tissue image information 3 It may include third learning data including diagnostic evaluation scores.

상기 학습 데이터 수집부는 상기 제1 학습 데이터, 상기 제2 학습 데이터 및 상기 제3 학습 데이터의 각각 또는 2개 이상의 학습 데이터가 조합된 데이터를 수집할 수 있다.The learning data collection unit may collect data of each of the first learning data, the second learning data, and the third learning data, or a combination of two or more learning data.

본 발명의 실시예는 과거 뇌 영상 데이터를 이용하여 알츠하이머병을 보다 신뢰성 있게 진단하고, 진단에 대한 분석과 그 근거에 유의한 정보를 제공할 수 있는 효과가 있다.Embodiments of the present invention have the effect of diagnosing Alzheimer's disease more reliably using past brain imaging data and providing meaningful information on the analysis and basis of the diagnosis.

본 발명의 실시예는 임상의의 의사결정에 도움이 될 수 있는 진단 방법으로 자기공명영상 외에도 임상적 진단 평가 점수를 통해 알츠하이머 병의 진행 확률 및 임상적 진단 평가 점수 예측치를 종합하여 신뢰할 수 있는 진단이 가능한 효과가 있다.An embodiment of the present invention is a diagnostic method that can help clinicians' decision-making. In addition to magnetic resonance imaging, a reliable diagnosis is made by combining the probability of progression of Alzheimer's disease and the prediction of the clinical diagnostic evaluation score through clinical diagnostic evaluation scores. This has a possible effect.

도 1은 본 발명의 실시예에 따른 뇌 질환 장치의 구성을 나타낸 블록도이다.
도 2는 본 발명의 실시예에 따른 뇌 질환 장치의 데이터 수집부에서 수집되는 정보를 나타낸 블록도이다.
도 3은 본 발명의 실시예에 따른 뇌 질환 장치의 데이터 수집부에서 수집되는 뇌 영상을 나타낸 도면이다.
도 4는 본 발명의 실시예에 따른 뇌 질환 장치의 데이터 수집부에서 수집되는 진단평가점수 정보를 나타낸 도면이다.
도 5는 본 발명의 실시예에 따른 뇌 질환 장치의 데이터 처리부의 구성을 나타낸 블록도이다.
도 6은 본 발명의 실시예에 따른 뇌 질환 장치의 데이터 처리부에서 추출되는 뇌 조직을 나타낸 도면이다.
도 7은 본 발명의 실시예에 따른 뇌 질환 장치의 학습 모델을 나타낸 도면이다.
도 8은 본 발명의 실시예에 따른 뇌 질환 장치의 복수의 학습 모델을 나타낸 도면이다.
도 9는 본 발명의 실시예에 따른 뇌 질환 장치의 학습 모델의 수학적으로 모델링한 모습을 나타낸 도면이다.
도 10은 본 발명의 실시예에 따른 뇌 질환 장치의 성능 결과를 나타낸 도면이다.
도 11은 본 발명의 실시예에 따른 뇌 질환 방법을 나타낸 블록도이다.
Figure 1 is a block diagram showing the configuration of a brain disease device according to an embodiment of the present invention.
Figure 2 is a block diagram showing information collected in the data collection unit of the brain disease device according to an embodiment of the present invention.
Figure 3 is a diagram showing brain images collected in the data collection unit of the brain disease device according to an embodiment of the present invention.
Figure 4 is a diagram showing diagnostic evaluation score information collected from the data collection unit of the brain disease device according to an embodiment of the present invention.
Figure 5 is a block diagram showing the configuration of a data processing unit of a brain disease device according to an embodiment of the present invention.
Figure 6 is a diagram showing brain tissue extracted from the data processing unit of the brain disease device according to an embodiment of the present invention.
Figure 7 is a diagram showing a learning model of a brain disease device according to an embodiment of the present invention.
Figure 8 is a diagram showing a plurality of learning models of a brain disease device according to an embodiment of the present invention.
Figure 9 is a diagram showing mathematical modeling of a learning model of a brain disease device according to an embodiment of the present invention.
Figure 10 is a diagram showing the performance results of a brain disease device according to an embodiment of the present invention.
Figure 11 is a block diagram showing a brain disease method according to an embodiment of the present invention.

본 발명의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나 본 발명은 이하에서 개시되는 실시예들에 한정되는 것이 아니라 다양한 형태로 구현될 수 있으며, 단지 본 실시예들은 본 발명의 개시가 완전하도록 하고, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 발명의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 발명의 범주는 청구항에 의해 정의될 뿐이다.The advantages and features of the present invention and methods for achieving them will become clear by referring to the embodiments described in detail below along with the accompanying drawings. However, the present invention is not limited to the embodiments disclosed below and can be implemented in various forms. The present embodiments are merely provided to ensure that the disclosure of the present invention is complete and to those skilled in the art to which the present invention pertains. It is provided to fully inform the person of the scope of the invention, and the scope of the invention is only defined by the claims.

본 발명의 실시예들을 설명함에 있어서 공지 기능 또는 구성에 대한 구체적인 설명은 본 발명의 실시예들을 설명함에 있어 실제로 필요한 경우 외에는 생략될 것이다. 그리고 후술되는 용어들은 본 발명의 실시예에서의 기능을 고려하여 정의된 용어들로서 이는 사용자, 운용자의 의도 또는 관례 등에 따라 달라질 수 있다. 그러므로 그 정의는 본 명세서 전반에 걸친 내용을 토대로 내려져야 할 것이다.In describing the embodiments of the present invention, detailed descriptions of well-known functions or configurations will be omitted except when actually necessary. The terms described below are terms defined in consideration of functions in the embodiments of the present invention, and may vary depending on the intention or custom of the user or operator. Therefore, the definition should be made based on the contents throughout this specification.

도면에 표시되고 아래에 설명되는 기능 블록들은 가능한 구현의 예들일 뿐이다. 다른 구현들에서는 상세한 설명의 사상 및 범위를 벗어나지 않는 범위에서 다른 기능 블록들이 사용될 수 있다. 또한 본 발명의 하나 이상의 기능 블록이 개별 블록들로 표시되지만, 본 발명의 기능 블록들 중 하나 이상은 동일 기능을 실행하는 다양한 하드웨어 및 소프트웨어 구성들의 조합일 수 있다.The functional blocks shown in the drawings and described below are only examples of possible implementations. Other functional blocks may be used in other implementations without departing from the spirit and scope of the detailed description. Additionally, although one or more functional blocks of the present invention are shown as individual blocks, one or more of the functional blocks of the present invention may be a combination of various hardware and software components that perform the same function.

또한 어떤 구성 요소들을 포함한다는 표현은 개방형의 표현으로서 해당 구성 요소들이 존재하는 것을 단순히 지칭할 뿐이며, 추가적인 구성 요소들을 배제하는 것으로 이해되어서는 안 된다.Additionally, the expression that it includes certain components is an open expression and simply refers to the existence of the components, and should not be understood as excluding additional components.

나아가 어떤 구성 요소가 다른 구성 요소에 연결되어 있다거나 접속되어 있다고 언급될 때에는, 그 다른 구성 요소에 직접적으로 연결 또는 접속되어 있을 수도 있지만, 중간에 다른 구성 요소가 존재할 수도 있다고 이해되어야 한다. Furthermore, when it is mentioned that a component is connected or connected to another component, it should be understood that although it may be directly connected or connected to the other component, other components may exist in between.

또한 '제1, 제2' 등과 같은 표현은 복수의 구성들을 구분하기 위한 용도로만 사용된 표현으로써, 구성들 사이의 순서나 기타 특징들을 한정하지 않는다. In addition, expressions such as 'first, second', etc. are expressions used only to distinguish a plurality of components, and do not limit the order or other characteristics between the components.

이하에서는 도면들을 참조하여 본 발명의 실시예들에 대해 설명하도록 한다. Hereinafter, embodiments of the present invention will be described with reference to the drawings.

도 1은 본 발명의 실시예에 따른 뇌 질환 장치의 구성을 나타낸 블록도이고, 도 2는 본 발명의 실시예에 따른 뇌 질환 장치의 데이터 수집부에서 수집되는 정보를 나타낸 블록도이고, 도 3은 본 발명의 실시예에 따른 뇌 질환 장치의 데이터 수집부에서 수집되는 뇌 영상을 나타낸 도면이고, 도 4는 본 발명의 실시예에 따른 뇌 질환 장치의 데이터 수집부에서 수집되는 진단평가점수 정보를 나타낸 도면이고, 도 5는 본 발명의 실시예에 따른 뇌 질환 장치의 데이터 처리부의 구성을 나타낸 블록도이고, 도 6은 본 발명의 실시예에 따른 뇌 질환 장치의 데이터 처리부에서 추출되는 뇌 조직을 나타낸 도면이고, 도 7은 본 발명의 실시예에 따른 뇌 질환 장치의 학습 모델을 나타낸 도면이고, 도 8은 본 발명의 실시예에 따른 뇌 질환 장치의 복수의 학습 모델을 나타낸 도면이고, 도 9는 본 발명의 실시예에 따른 뇌 질환 장치의 학습 모델의 수학적으로 모델링한 모습을 나타낸 도면이고, 도 10은 본 발명의 실시예에 따른 뇌 질환 장치의 성능 결과를 나타낸 도면이다.Figure 1 is a block diagram showing the configuration of a brain disease device according to an embodiment of the present invention, Figure 2 is a block diagram showing information collected in the data collection unit of the brain disease device according to an embodiment of the present invention, and Figure 3 is a diagram showing brain images collected from the data collection unit of the brain disease device according to an embodiment of the present invention, and Figure 4 shows diagnostic evaluation score information collected from the data collection unit of the brain disease device according to an embodiment of the present invention. Figure 5 is a block diagram showing the configuration of the data processing unit of the brain disease device according to an embodiment of the present invention, and Figure 6 shows brain tissue extracted from the data processing unit of the brain disease device according to an embodiment of the present invention. 7 is a diagram showing a learning model of a brain disease device according to an embodiment of the present invention, FIG. 8 is a diagram showing a plurality of learning models of a brain disease device according to an embodiment of the present invention, and FIG. 9 is a diagram showing the mathematical modeling of the learning model of the brain disease device according to an embodiment of the present invention, and Figure 10 is a diagram showing the performance results of the brain disease device according to an embodiment of the present invention.

도 1을 참조하면, 본 발명의 실시예에 따른 뇌 질환 예측 장치(1000)는 데이터 수집부(100)를 포함할 수 있다.Referring to FIG. 1 , the brain disease prediction apparatus 1000 according to an embodiment of the present invention may include a data collection unit 100.

데이터 수집부(100)는 동일 대상체에 대해 서로 다른 시점에서 촬영된 뇌 영상을 수집할 수 있다. 도 2에 도시된 바와 같이, 데이터 수집부(100)는 뇌 영상 정보(110)와 진단평가점수 정보(120)를 포함할 수 있다. 데이터 수집부(100)는 뇌 영상 정보(110)만을 수집할 수도 있다.The data collection unit 100 may collect brain images taken at different viewpoints for the same subject. As shown in FIG. 2, the data collection unit 100 may include brain image information 110 and diagnostic evaluation score information 120. The data collection unit 100 may only collect brain image information 110.

도 3에 도시된 바와 같이, 뇌 영상은 MRI로부터 촬영된 영상일 수 있다. 뇌 영상은 제1 시점에서 촬영된 뇌 영상(10)과, 제2 시점에서 촬영된 뇌 영상(20)과, 제3 시점에서 촬영된 뇌 영상(30)을 포함할 수 있으나, 그 개수는 한정되지 않는다. 제1 시점은 1년 전일 수 있으며, 제2 시점은 2년 전일 수 있으며, 제3 시점은 3년 전일 수 있다. 여기서, 현재 시점의 뇌 영상을 더 포함할 수도 있다.As shown in FIG. 3, the brain image may be an image taken from MRI. The brain image may include a brain image 10 taken at a first viewpoint, a brain image 20 taken at a second viewpoint, and a brain image 30 taken at a third viewpoint, but the number is limited. It doesn't work. The first point in time may be one year ago, the second point in time may be two years ago, and the third point in time may be three years ago. Here, a brain image at the current time may be further included.

도 4에 도시된 바와 같이, 진단평가점수 정보(120)는 해당 뇌 영상에 대한 진단평가점수일 수 있다. 여기서, 진단평가점수는 pMCI-early, pMCI-late, sMCI을 포함할 수 있으며, 그 외 MMSE, ADAS-cog 11, ADAS-cog13 을 더 포함할 수 있으나, 이에 한정되지 않는다.As shown in FIG. 4, diagnostic evaluation score information 120 may be a diagnostic evaluation score for the corresponding brain image. Here, the diagnostic evaluation score may include pMCI-early, pMCI-late, and sMCI, and may further include MMSE, ADAS-cog 11, and ADAS-cog13, but is not limited thereto.

도 1로 돌아가서, 실시예에 따른 뇌 질환 예측 장치(1000)는 데이터 처리부(200)를 더 포함할 수 있다.Returning to FIG. 1, the brain disease prediction apparatus 1000 according to the embodiment may further include a data processing unit 200.

데이터 처리부(200)는 정합 과정 및 뇌 조직 분할 과정을 통해 뇌의 볼륨정보 획득을 위한 영상 처리를 수행할 수 있다. 데이터 처리부(200)는 뇌의 볼륨정보로부터 해부학적 영역을 분할하여 관심영역별로 뇌의 전체볼륨으로 정규화된 복셀값을 갖는 작업을 거친 후 임의의 표본 집합을 얻는 과정을 갖는 표본을 추출할 수 있다. The data processing unit 200 may perform image processing to obtain brain volume information through a matching process and a brain tissue segmentation process. The data processing unit 200 divides the anatomical region from the brain volume information, obtains voxel values normalized to the entire brain volume for each region of interest, and then extracts a sample by obtaining a random sample set. .

데이터 처리부(200)는 입력된 영상의 대칭을 맞춘 후, 분석에 필요하지 않은 뇌 영역을 제거한다. 얻어낸 뇌 영상의 오차를 보완하고자 편이 보정 작업 후, 뇌의 조직 분리 작업을 거친다. 모든 뇌 조직을 같은 템플릿 공간으로 변환시킨 후 정합 과정을 거쳐 뇌의 밀도 지도를 얻는다. 얻어낸 뇌 밀도 지도를 해부학적 영역별 진단을 위해 관심영역으로 나눈 후, 데이터 값들의 분포를 맞추기 위하여 정규화한다.The data processing unit 200 adjusts the symmetry of the input image and then removes brain regions that are not required for analysis. In order to compensate for errors in the obtained brain images, the brain tissue is separated after shift correction. After converting all brain tissues into the same template space, a density map of the brain is obtained through a registration process. The obtained brain density map is divided into regions of interest for diagnosis by anatomical region, and then normalized to match the distribution of data values.

예를 들어, 데이터 처리부(200)는 자기공명영상이 입력되면 뇌 위치를 정렬하고, 두개골 및 소뇌를 제거한 뒤, 뇌 조직을 분리하고, 정합하여 뇌의 볼륨정보를 갖는 관심영역을 분리한다. 전처리부는 관심영역별 분리된 뇌의 볼륨정보를 뇌의 전체볼륨으로 정규화한 값으로부터, 임의 표본 추출기법을 이용하여 부피 정보를 추출하여 표본을 추출한다.For example, when a magnetic resonance image is input, the data processing unit 200 aligns the brain location, removes the skull and cerebellum, separates the brain tissue, and registers them to separate a region of interest with brain volume information. The preprocessor extracts samples by extracting volume information using a random sampling technique from the normalized value of brain volume information separated by region of interest to the total brain volume.

여기서, 데이터 처리부(200)는 뇌의 템플릿 정보 몇 명도의 분포를 이용하여 뇌의 볼륨정보를 갖는 관심영역을 분리할 수 있다. 예를 들어, 뇌 조직의 위치 정보, 각각의 뇌 조직에 대한 명도 정보 등의 템플릿 정보를 기초로 명도의 분포를 통해 뇌의 볼륨정보를 갖는 관심 영역을 분리할 수 있다.Here, the data processing unit 200 can separate a region of interest with brain volume information using the distribution of brightness levels of the brain template information. For example, a region of interest having brain volume information can be separated through the distribution of brightness based on template information such as location information of brain tissue and brightness information for each brain tissue.

보다 구체적으로 도 5에 도시된 바와 같이, 데이터 처리부(200)는 뇌 위치 정렬부(210)와, 뇌 조직 영상 추출부(220)와, 제거부(230)와, 정보 추출부(240)를 포함할 수 있다.More specifically, as shown in FIG. 5, the data processing unit 200 includes a brain position alignment unit 210, a brain tissue image extraction unit 220, a removal unit 230, and an information extraction unit 240. It can be included.

뇌 위치 정렬부(210)는 뇌 영상에서 뇌의 위치가 정렬되도록 뇌 영상을 처리할 수 있다. 뇌 위치 정렬부(210)는 뇌 영상을 정합 과정을 통해 뇌 위치를 정렬할 수 있다. 뇌 위치 정렬부(210)는 뇌 영상의 대칭을 맞춰 뇌 위치를 정렬할 수 있다.The brain position alignment unit 210 may process the brain image so that the brain position in the brain image is aligned. The brain position alignment unit 210 may align the brain position through a brain image registration process. The brain position alignment unit 210 can align the brain position by matching the symmetry of the brain image.

뇌 조직 영상 추출부(220)는 뇌 영상으로부터 관심 영역의 뇌 조직 영상을 추출할 수 있다. 뇌 조직은 알츠하이머병에 관련된 바이오 마커일 수 있다. 최근 연구에 따르면 알츠하이머병과 관련하여, 신피질 영역에서 Amyloid β와 abnormal tau level의 증가가 관찰되었고, 도 6a의 뇌(40)의 중측두회(middle temporal gyrus) 조직(42), 도 6b의 내 후각 피질(entorhinal cortex) 조직(44) 및 방추이랑(Fusiform gyrus) 조직(46), 도 6c의 해마 (Hippocampus) 조직(48)에서 부피들의 감소가 관찰되었다. The brain tissue image extraction unit 220 may extract a brain tissue image of a region of interest from a brain image. Brain tissue may be a biomarker related to Alzheimer's disease. According to a recent study, in relation to Alzheimer's disease, an increase in Amyloid β and abnormal tau levels was observed in neocortical regions, the middle temporal gyrus tissue (42) of the brain (40) in Figure 6A, and the inner olfactory bulb in Figure 6B. A decrease in volumes was observed in the entorhinal cortex tissue (44), fusiform gyrus tissue (46), and hippocampus tissue (48) in Figure 6c.

따라서, 뇌 조직 영상 추출부(220)는 중측두회(middle temporal gyrus) 조직 영상, 내후각 피질(entorhinal cortex) 조직 영상, 방추이랑(Fusiform gyrus) 조직 영상 및 해마 (Hippocampus) 조직 영상 중 하나 이상을 추출할 수 있다.Therefore, the brain tissue image extraction unit 220 may extract one or more of the middle temporal gyrus tissue image, entorhinal cortex tissue image, fusiform gyrus tissue image, and hippocampus tissue image. can be extracted.

제거부(230)는 뇌 영상 중 관심 영역의 뇌 조직 영상을 제외한 영역을 제거할 수 있다. 즉, 제거부(230)는 두개골 및 소뇌와 같은 뇌 조직 영상들을 제거할 수 있다.The removal unit 230 may remove a region of the brain image excluding the brain tissue image of the region of interest. That is, the removal unit 230 can remove brain tissue images such as the skull and cerebellum.

정보 추출부(240)는 관심 영역의 뇌 조직 영상을 이용하여 뇌 조직의 정보를 추출할 수 있다. 여기서, 정보는 뇌 조직에 대한 다양한 정보를 포함할 수 있으며, 한 예로 부피 정보를 포함할 수 있다. 이로 인해 표본의 뇌 조직 영상을 획득할 수 있다.The information extraction unit 240 may extract information about brain tissue using a brain tissue image of the region of interest. Here, the information may include various information about brain tissue, and may include volume information as an example. This makes it possible to obtain images of the brain tissue of the specimen.

도 1로 돌아가서, 실시예에 따른 뇌 질환 예측 장치(1000)는 진단부(400)를 더 포함할 수 있다.Returning to FIG. 1 , the brain disease prediction apparatus 1000 according to the embodiment may further include a diagnostic unit 400.

진단부(400)는 뇌 조직 영상의 정보를 입력으로 하여 미리 학습된 학습 모델(300)을 이용하여 뇌 질환의 진행 경과, 상기 뇌 질환의 현재 진행 속도, 상기 뇌 질환의 추후 진행 속도, 임상적 진단 평가 점수 중 적어도 하나 이상의 정보를 예측할 수 있다. 진단부(400)는 이러한 정보를 이용하여 알츠하이머 병에 대해 진단할 수 있다.The diagnostic unit 400 uses the learning model 300, which has been learned in advance by inputting information from brain tissue images, to determine the progression of the brain disease, the current progression rate of the brain disease, the future progression rate of the brain disease, and clinical clinical information. At least one piece of information among the diagnostic evaluation scores can be predicted. The diagnosis unit 400 can diagnose Alzheimer's disease using this information.

학습 모델(300)은 진단부(400)의 내부에 배치될 수 있으며, 진단부(400)와 별도의 공간에 배치될 수도 있다.The learning model 300 may be placed inside the diagnosis unit 400 or may be placed in a space separate from the diagnosis unit 400.

학습 모델(300)은 RNN(Recurrent Neural Network), CNN(Convolution Neural Network), DNN(Deep Neural Network) 등의 신경망 중 하나 또는 이들의 조합을 이용하여 학습데이터 및 레이블에 의해 학습된 뒤, 진단부(400)에 의해 사용될 수 있다.The learning model 300 is trained by learning data and labels using one or a combination of neural networks such as Recurrent Neural Network (RNN), Convolution Neural Network (CNN), and Deep Neural Network (DNN), and then performs a diagnostic unit. It can be used by (400).

학습 모델(300)은 학습 데이터를 수집하는 학습 데이터 수집부를 포함활 수 있으나, 이에 한정되지 않는다. 학습 모델(300)은 학습 데이터 수집부를 포함하여 구성된 별도의 학습 장치일 수 있다.The learning model 300 may include a learning data collection unit that collects learning data, but is not limited to this. The learning model 300 may be a separate learning device that includes a learning data collection unit.

도 7에 도시된 바와 같이, 학습 모델(300)은 인코딩 모듈(310)과 디코딩 모듈(320)을 포함할 수 있다. As shown in FIG. 7, the learning model 300 may include an encoding module 310 and a decoding module 320.

인코딩 모듈(310)은 뇌 조직 영상의 정보를 입력으로 하여 뇌 조직 영상에 대한 정보를 포함하는 특징들을 추출할 수 있다. 여기서, 특징들은 뇌 조직의 부피 변화량, 형태 변화량, 형상 변화량, 위치 변화량 등의 특징들을 추출할 수 있다. 여기서, 뇌 조직 영상의 정보는 시간별로 획득한 뇌 조직 영상을 이용하게 되므로, 그에 대한 변화량을 측정할 수 있게 된다.The encoding module 310 may extract features including information on the brain tissue image by using information on the brain tissue image as input. Here, features such as volume change, shape change, shape change, and position change of brain tissue can be extracted. Here, the brain tissue image information uses brain tissue images acquired over time, so the amount of change can be measured.

학습 모델(300)은 동일 대상체의 소정 주기의 뇌 영상 및 각각의 뇌 영상의 획득 당시 당일 동일 대상체로부터 획득한 임상적 진단평가점수를 이용하여 학습될 수 있다. The learning model 300 may be learned using brain images of a predetermined period of the same subject and clinical diagnostic evaluation scores obtained from the same subject on the same day when each brain image was acquired.

예를 들어, 학습 모델(300)은 제1 시점에서 획득된 제1 뇌 조직 영상과 상기 제1 뇌 조직 영상에 대한 제1 진단평가점수를 포함하는 제1 학습 데이터와, 제2 시점에서 획득된 제2 뇌 조직 영상과 상기 제2 뇌 조직 영상에 대한 제2 진단평가점수를 포함하는 제2 학습 데이터와, 제3 시점에서 획득된 제3 뇌 조직 영상과 상기 제3 뇌 조직 영상에 대한 제3 진단평가점수를 포함하는 제3 학습 데이터를 이용하여 학습될 수 있다. 여기서, 학습 모델(300)은 복수개가 구비되어 각각의 학습 데이터에 의해 학습될 수 있다.For example, the learning model 300 may include first learning data including a first brain tissue image acquired at a first time point and a first diagnostic evaluation score for the first brain tissue image, and Second learning data including a second brain tissue image and a second diagnostic evaluation score for the second brain tissue image, and a third brain tissue image acquired at a third time point and a third diagnostic evaluation score for the third brain tissue image. It can be learned using third learning data including diagnostic evaluation scores. Here, a plurality of learning models 300 may be provided and learned using respective learning data.

경우에 따라, 학습 모델(300)의 신뢰성 또는 정확성 향상을 위해 제1 시점의 제1 학습 데이터, 제2 시점의 제2 학습 데이터, 제3 시점의 제3 학습 데이터 각각이 시계열적인 데이터임에 기초하여 제3 학습 데이터로부터 얻어진 값을 제2 학습 데이터로서 제2 학습모델에 의해 학습될 수 있고, 제2 학습 데이터에 의해 얻어진 값이 제1 학습 데이터로서 제1 학습모델에 의해 학습이 수행될 수 있다.In some cases, in order to improve the reliability or accuracy of the learning model 300, it is based on the fact that the first learning data at the first time point, the second learning data at the second time point, and the third learning data at the third time point are each time series data. Thus, the value obtained from the third learning data can be learned by the second learning model as the second learning data, and the value obtained by the second learning data can be learned by the first learning model as the first learning data. there is.

또한, 도 8에 도시된 바와 같이, 학습 모델(300)은 복수의 학습 모델을 포함할 수 있다. 학습 모델(300)은 제1 학습 모델(300a)과, 제2 학습 모델(300b)과, 제3 학습 모델(300c)을 포함할 수 있다.Additionally, as shown in FIG. 8, the learning model 300 may include a plurality of learning models. The learning model 300 may include a first learning model 300a, a second learning model 300b, and a third learning model 300c.

제1 학습 모델(300a)은 정상 상태의 뇌 조직 영상의 정보를 이용하여 학습될 수 있다. 제2 학습 모델(300b)은 초기 뇌 질환 발병 상태인 경도인지장애 상태의 정보를 이용하여 학습될 수 있다. 제3 학습 모델(300c)은 뇌 질환 발명 상태인 알츠하이머병 상태의 정보를 이용하여 학습될 수 있다. 물론, 학습의 정확성을 향상시키기 위해 3개의 데이터를 복합적으로 사용할 수도 있다.The first learning model 300a may be learned using information from brain tissue images in a normal state. The second learning model 300b may be learned using information on mild cognitive impairment, which is an early onset state of brain disease. The third learning model 300c can be learned using information on Alzheimer's disease, which is a brain disease invention. Of course, the three data can be used in combination to improve learning accuracy.

도 9에 도시된 바와 같이, 학습 모델(300)은 수학적으로 모델링될 수 있다. 여기서, C0,C1,C2는 셀 상태를 의미하고, ht-1, ht, ht+1는 은닉 상태(hidden state)를 의미하고, Xt는 입력 데이터를 의미하고,

Figure 112021081394439-pct00001
는 시간차 정보가 반영된 값을 의미하고, Δtt+1t+2는 시간차 정보를 의미하고, Mt, Mt+1, Mt+2는 마스킹 벡터를 의미하고, Zt는 변수 간 상관관계 정보가 반영된 값을 의미하고,
Figure 112021081394439-pct00002
는 시간차 정보 및 변수 간 상관관계 정보가 반영된 값을 의미하고,
Figure 112021081394439-pct00003
는 행렬곱 연산자를 의미하고,
Figure 112021081394439-pct00004
는 연결 연산자를 의미할 수 있다.As shown in FIG. 9, the learning model 300 can be mathematically modeled. Here, C 0 , C 1 , C 2 mean the cell state, ht-1, ht, ht+1 mean the hidden state, Xt means the input data,
Figure 112021081394439-pct00001
means the value reflecting the time difference information, Δ tt+1t+2 means the time difference information, Mt, Mt+1, Mt+2 mean the masking vector, and Z t is the It refers to a value that reflects correlation information,
Figure 112021081394439-pct00002
means the value reflecting time difference information and correlation information between variables,
Figure 112021081394439-pct00003
means the matrix multiplication operator,
Figure 112021081394439-pct00004
may mean a connection operator.

여기서, 각각의 값은 수학식 1에 의해 계산될 수 있다. Here, each value can be calculated by Equation 1.

[수학식 1][Equation 1]

Figure 112021081394439-pct00005
Figure 112021081394439-pct00005

여기서, (1) 과정은 시간차 정보를 반영하는 식이고, (2)식은 입력 데이터에 시간차 정보와 마스킹 벡터를 행렬곱 연산을 수행한 식이고, (3) 과정은 변수간 상관관계 정보를 반영하는 식이고, (5) 과정은 시간차 정보 및 변수 간 상관관계 정보를 결합하는 식이고, (6) 과정은 결측값이 있는 경우 (5) 과정을 통한 입력 값을 사용하고, 결측값이 없는 경우 입력 데이터를 사용하여 계산될 수 있다.Here, (1) process is an equation that reflects time difference information, (2) process is an equation that performs a matrix multiplication operation on the time difference information and masking vector on the input data, and (3) process is an equation that reflects correlation information between variables. The (5) process combines the time difference information and the correlation information between variables, and the (6) process uses the input value through the (5) process if there is a missing value, and if there is no missing value, the input value is used. It can be calculated using data.

도 1로 돌아가서, 진단부(400)는 환자의 현재 시점의 뇌 조직 영상과 임상적 진단평가점수 정보를 입력 데이터로 이용할 경우, 현재 시점의 뇌 조직 영상과 임상적 진단평가점수 정보를 입력 데이터로 하여 학습 모델(300)을 이용하게 되면, 현재 시점보다 이전 시점의 상기 뇌 영상 정보 또는 현재 시점보다 이후 시점의 상기 뇌 영상 정보를 예측할 수 있다.Returning to FIG. 1, when using the patient's current brain tissue image and clinical diagnostic evaluation score information as input data, the diagnostic unit 400 uses the current brain tissue image and clinical diagnostic evaluation score information as input data. Thus, by using the learning model 300, the brain image information at a time before the current time or the brain image information at a time after the current time can be predicted.

또한, 진단부(400)는 현재 시점보다 이전 시점의 뇌 영상 정보 또는 현재 시점보다 이후 시점의 상기 뇌 영상 정보를 상기 입력 데이터로 하여 학습 모델(300)을 이용하게 되면, 뇌 질환의 진행 경과, 상기 뇌 질환의 현재 진행 속도, 상기 뇌 질환의 추후 진행 속도, 임상적 진단 평가 점수 중 적어도 하나 이상의 정보를 예측할 수 있다.In addition, when the diagnosis unit 400 uses the learning model 300 with brain image information from a time before the current time or the brain image information from a time after the current time as the input data, the progression of the brain disease, It is possible to predict at least one of the current progression rate of the brain disease, future progression rate of the brain disease, and clinical diagnostic evaluation score.

또한, 진단부(400)는 학습 모델(300)에 의해 추출된 특징으로부터 얻은 각 시간별 특징으로부터 뇌 질환의 진행 단계 및 임상적 진단 평가 점수를 동시에 예측하거나 순서에 무관하게 예측할 수 있다. 각 시간별 특징으로부터 질병의 진행 단계 및 임상적 진단 평가 점수를 동시에 예측하기 위해 최종적으로 진단부(400)를 통한 진단 방법이 이루어지며, 클래스 간 구별하는 방법과 임상적 진단 평가 점수에 적합한 예측 모형을 구성하기 위해 딥러닝 모델을 이용할 수 있다. In addition, the diagnostic unit 400 can simultaneously predict the progression stage of the brain disease and the clinical diagnostic evaluation score from each time feature obtained from the features extracted by the learning model 300 or predict it regardless of the order. In order to simultaneously predict the disease progression stage and clinical diagnostic evaluation score from each time characteristic, a final diagnosis method is performed through the diagnosis unit 400, and a method of discriminating between classes and a prediction model suitable for the clinical diagnostic evaluation score are created. You can use a deep learning model to configure it.

상술한 바와 같이, 만약 학습 모델(300)에 의해 임상적 진단 평가 점수가 입력되지 않으면, 진단부(400)는 학습 모델(300)에 의해 뇌 영상에 기초하여 추출된 특징을 가지고 임상적 진단 평가 점수를 예측할 수 있다. 이러한 경우, 진단부(400)는 각 시간별 진행 단계 확률과 예측한 임상적 진단 평가 점수를 통합하여 뇌 질환을 진단할 수 있다.As described above, if the clinical diagnostic evaluation score is not input by the learning model 300, the diagnostic unit 400 performs the clinical diagnostic evaluation using the features extracted based on the brain image by the learning model 300. The score can be predicted. In this case, the diagnosis unit 400 may diagnose the brain disease by integrating the probability of each time progression stage and the predicted clinical diagnostic evaluation score.

도 10에 도시된 바와 같이, 성능 결과에 사용되는 데이터는 ADNI 기반의 TADPOLE challenge dataset을 이용하였으며, 655명의 피험자들을 사용하였다. 이 중 395를 학습 데이터로, 131개를 검증 데이터로, 129개를 테스트 데이터로 이용하였다. As shown in Figure 10, the data used for performance results used the ADNI-based TADPOLE challenge dataset, and 655 subjects were used. Of these, 395 were used as learning data, 131 as validation data, and 129 as test data.

성능 결과는 CN(Cognitively Normal), MCI (Mild Cognitive Impairment), AD (Alzheimer's Disease) 레이블로 구성될 수 있으며, 성능 평가는 5-fold cross validation를 이용하여 평가되었다. Performance results can be composed of CN (Cognitively Normal), MCI (Mild Cognitive Impairment), and AD (Alzheimer's Disease) labels, and performance evaluation was evaluated using 5-fold cross validation.

분류의 경우, mAUC (multi-class AUC) 지표를 사용하였으며, 회귀(regression)의 경우, 부피 값을 추정하는 지표로서, MAE(mean absolute error)를 사용할 수 있으며, 인지/임상평가점수 예측 값의 경우는 MAE와 RMSE(root mean square error)를 사용하였다.In the case of classification, the mAUC (multi-class AUC) indicator was used, and in the case of regression, the mean absolute error (MAE) can be used as an indicator to estimate the volume value, and the prediction value of the cognitive/clinical evaluation score In this case, MAE and RMSE (root mean square error) were used.

mAUC의 계산은 수학식 2에 의해 계산될 수 있다.Calculation of mAUC can be calculated by Equation 2.

[수학식 2][Equation 2]

Figure 112021081394439-pct00006
Figure 112021081394439-pct00006

MAE와 RMSE의 계산은 수학식 3에 의해 계산될 수 있다.The calculation of MAE and RMSE can be calculated by Equation 3.

[수학식 3][Equation 3]

Figure 112021081394439-pct00007
Figure 112021081394439-pct00007

Figure 112021081394439-pct00008
Figure 112021081394439-pct00008

도 10에 도시된 바와 같이, mAUC의 경우 임상적 진단 평가 점수를 사용하였을 때(with Clinical scores)와 사용하지 않았을 때(w/o Clinical scores)를 비교한 경우로써, 임상적 진단 평가 점수를 사용하였을 때(with Clinical scores)의 성능이 더 향상된 것을 확인할 수 있다. 따라서 임상적 진단 평가 점수를 사용하는 것이 분류 성능 향상의 기여하는 것을 확인할 수 있다. As shown in Figure 10, in the case of mAUC, when clinical diagnostic evaluation scores are used (with Clinical scores) and when not used (w/o Clinical scores) are compared, and clinical diagnostic evaluation scores are used. It can be seen that the performance (with clinical scores) is further improved. Therefore, it can be confirmed that using clinical diagnostic evaluation scores contributes to improving classification performance.

또한, 도 10에 도시된 바와 같이, 뇌 조직 영상 정보와 임상적 진단 평가 점수에 대한 예측 결과로서, 현재 시점의 뇌 조직 영상 정보로부터 추정한 다음 시점의 뇌 조직 영상 정보와 실제 다음 시점의 뇌 조직 영상 정보와 수학식 3에 해당하는 MAE에 의해 계산된 값을 나타낸다. 또한, 임상적 진단 평가 점수에 해당하는 ADAS11, ADAS13의 경우 수학식 3에 해당하는 MAE와 RMSE에 의해 계산된 값을 나타낸다. 따라서, 실시예의 뇌 질환 예측은 종래에 비해 상당히 향상된 것을 알 수 있다. In addition, as shown in Figure 10, as a prediction result for the brain tissue image information and the clinical diagnostic evaluation score, the brain tissue image information at the next time point estimated from the brain tissue image information at the current time point and the brain tissue at the actual next time point It represents the value calculated by image information and MAE corresponding to Equation 3. Additionally, in the case of ADAS11 and ADAS13, which correspond to clinical diagnostic evaluation scores, the values calculated by MAE and RMSE corresponding to Equation 3 are shown. Therefore, it can be seen that the brain disease prediction in the example is significantly improved compared to the prior art.

이하에서는 도 11을 참조하여, 실시예에 따른 뇌 질환 방법을 설명한다.Hereinafter, a brain disease method according to an embodiment will be described with reference to FIG. 11.

도 11은 실시예에 따른 뇌 질환 방법을 나타낸 블록도이다. 여기서, 실시예에 따른 뇌 질환 방법은 앞서 설명한 뇌 질환 장치에 의해 수행될 수 있다.Figure 11 is a block diagram showing a brain disease method according to an embodiment. Here, the brain disease method according to the embodiment may be performed by the brain disease device described above.

도 11에 도시된 바와 같이, 실시예에 따른 뇌 질환 방법은 서로 다른 시점의 복수의 뇌 영상 데이터를 수집하는 단계(S100)와, 상기 뇌 영상 중 관심 영역의 뇌 조직 영상의 정보를 추출하는 단계(S200)와, 상기 서로 다른 시점의 복수의 뇌 영상에서 추출한 관심 영역의 복수의 뇌 조직 영상의 정보를 미리 학습된 학습 모델의 입력으로 하여 뇌 질환의 진행 경과, 상기 뇌 질환의 현재 진행 속도, 상기 뇌 질환의 추후 진행 속도 및 상기 뇌 질환 상태에 따른 임상적 진단 평가 점수 중 적어도 하나 이상의 정보를 예측하는 단계(S300)를 포함할 수 있다.As shown in FIG. 11, the brain disease method according to the embodiment includes collecting a plurality of brain image data at different time points (S100) and extracting information on the brain tissue image of the region of interest among the brain images. (S200), the progression of the brain disease, the current progression rate of the brain disease, by using the information of the plurality of brain tissue images of the region of interest extracted from the plurality of brain images at different viewpoints as input to a pre-trained learning model, It may include a step (S300) of predicting at least one piece of information among the future progression rate of the brain disease and a clinical diagnostic evaluation score according to the state of the brain disease.

서로 다른 시점의 복수의 뇌 영상 데이터를 수집하는 단계(S100)는 데이터 수집부에서 수행될 수 있다.The step (S100) of collecting a plurality of brain image data at different time points may be performed in a data collection unit.

뇌 영상 중 관심 영역의 뇌 조직 영상의 정보를 추출하는 단계(S200)는 데이터 처리부에서 수행될 수 있다.The step (S200) of extracting information on a brain tissue image of a region of interest among brain images may be performed in a data processing unit.

상기 서로 다른 시점의 복수의 뇌 영상에서 추출한 관심 영역의 복수의 뇌 조직 영상의 정보를 미리 학습된 학습 모델의 입력으로 하여 뇌 질환의 진행 경과, 상기 뇌 질환의 현재 진행 속도, 상기 뇌 질환의 추후 진행 속도 및 상기 뇌 질환 상태에 따른 임상적 진단 평가 점수 중 적어도 하나 이상의 정보를 예측하는 단계(S300)는 진단부에서 수행될 수 있다.The progression of the brain disease, the current progression rate of the brain disease, and the future of the brain disease are determined by using the information of the plurality of brain tissue images of the region of interest extracted from the plurality of brain images at different viewpoints as input to a pre-trained learning model. The step (S300) of predicting at least one piece of information among the progression rate and the clinical diagnostic evaluation score according to the brain disease state may be performed in the diagnosis unit.

상술한 본 발명의 실시예들은 다양한 수단을 통해 구현될 수 있다. 예를 들어, 본 발명의 실시예들은 하드웨어, 펌웨어(firmware), 소프트웨어 또는 그것들의 결합 등에 의해 구현될 수 있다.Embodiments of the present invention described above can be implemented through various means. For example, embodiments of the present invention may be implemented by hardware, firmware, software, or a combination thereof.

하드웨어에 의한 구현의 경우, 본 발명의 실시예들에 따른 방법은 하나 또는 그 이상의 응용 주문형 집적회로(ASICs, Application Specific Integrated Circuits), 디지털 신호 처리기(DSPs, Digital Signal Processors), 디지털 신호 처리 소자(DSPDs, Digital Signal Processing Devices), 프로그램가능 논리 소자(PLDs, Programmable Logic Devices), 필드 프로그램가능 게이트 어레이(FPGAs, Field Programmable Gate Arrays), 프로세서, 컨트롤러, 마이크로 컨트롤러, 마이크로 프로세서 등에 의해 구현될 수 있다.In the case of implementation by hardware, the method according to embodiments of the present invention includes one or more Application Specific Integrated Circuits (ASICs), Digital Signal Processors (DSPs), and digital signal processing elements ( It can be implemented by DSPDs (Digital Signal Processing Devices), Programmable Logic Devices (PLDs), Field Programmable Gate Arrays (FPGAs), processors, controllers, microcontrollers, microprocessors, etc.

펌웨어나 소프트웨어에 의한 구현의 경우, 본 발명의 실시예들에 따른 방법은 이상에서 설명된 기능 또는 동작들을 수행하는 모듈, 절차 또는 함수 등의 형태로 구현될 수 있다. 소프트웨어 코드 등이 기록된 컴퓨터 프로그램은 컴퓨터 판독 가능 기록 매체 또는 메모리 유닛에 저장되어 프로세서에 의해 구동될 수 있다. 메모리 유닛은 프로세서 내부 또는 외부에 위치하여, 이미 공지된 다양한 수단에 의해 프로세서와 데이터를 주고 받을 수 있다.In the case of implementation by firmware or software, the method according to embodiments of the present invention may be implemented in the form of a module, procedure, or function that performs the functions or operations described above. A computer program in which software codes, etc. are recorded may be stored in a computer-readable recording medium or memory unit and driven by a processor. The memory unit is located inside or outside the processor and can exchange data with the processor through various known means.

또한 본 발명은 복수의 블록을 포함하는 블록도 또는 복수의 단계를 포함하는 흐름도로 표현될 수 있으며 블록도의 각 블록과 흐름도의 각 단계의 조합들은 컴퓨터 프로그램 인스트럭션들에 의해 수행될 수도 있다. 이들 컴퓨터 프로그램 인스트럭션들은 범용 컴퓨터, 특수용 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비의 인코딩 프로세서에 탑재될 수 있으므로, 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비의 인코딩 프로세서를 통해 수행되는 그 인스트럭션들이 블록도의 각 블록 또는 흐름도의 각 단계에서 설명된 기능들을 수행하는 수단을 생성하게 된다. 이들 컴퓨터 프로그램 인스트럭션들은 특정 방법으로 기능을 구현하기 위해 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비를 지향할 수 있는 컴퓨터 이용 가능 또는 컴퓨터 판독 가능 메모리에 저장되는 것도 가능하므로, 그 컴퓨터 이용가능 또는 컴퓨터 판독 가능 메모리에 저장된 인스트럭션들은 블록도의 각 블록 또는 흐름도 각 단계에서 설명된 기능을 수행하는 인스트럭션 수단을 내포하는 제조 품목을 생산하는 것도 가능하다. 컴퓨터 프로그램 인스트럭션들은 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비 상에 탑재되는 것도 가능하므로, 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비 상에서 일련의 동작 단계들이 수행되어 컴퓨터로 실행되는 프로세스를 생성해서 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비를 수행하는 인스트럭션들은 블록도의 각 블록 및 흐름도의 각 단계에서 설명된 기능들을 실행하기 위한 단계들을 제공하는 것도 가능하다.Additionally, the present invention may be expressed as a block diagram including a plurality of blocks or a flow diagram including a plurality of steps, and combinations of each block of the block diagram and each step of the flow diagram may be performed by computer program instructions. Since these computer program instructions can be mounted on the encoding processor of a general-purpose computer, special-purpose computer, or other programmable data processing equipment, the instructions performed through the encoding processor of the computer or other programmable data processing equipment are included in each block or block of the block diagram. Each step of the flowchart creates a means to perform the functions described. These computer program instructions may also be stored in computer-usable or computer-readable memory that can be directed to a computer or other programmable data processing equipment to implement a function in a particular way, so that the computer-usable or computer-readable memory The instructions stored in can also produce manufactured items containing instruction means that perform the functions described in each block of the block diagram or each step of the flow diagram. Computer program instructions can also be mounted on a computer or other programmable data processing equipment, so that a series of operational steps are performed on the computer or other programmable data processing equipment to create a process that is executed by the computer, thereby generating a process that is executed by the computer or other programmable data processing equipment. Instructions that perform processing equipment may also provide steps for executing functions described in each block of the block diagram and each step of the flow diagram.

더불어 각 블록 또는 각 단계는 특정된 논리적 기능을 실행하기 위한 하나 이상의 실행 가능한 인스트럭션들을 포함하는 모듈, 세그먼트 또는 코드의 일부를 나타낼 수 있다. 또한 몇 가지 대체 실시예들에서는 블록들 또는 단계들에서 언급된 기능들이 순서를 벗어나서 발생하는 것도 가능함을 주목해야 한다. 예컨대, 잇달아 도시되어 있는 두 개의 블록들 또는 단계들은 사실 실질적으로 동시에 수행되는 것도 가능하고 또는 그 블록들 또는 단계들이 때때로 해당하는 기능에 따라 역순으로 수행되는 것도 가능하다.In addition, each block or each step may represent a module, segment, or portion of code that includes one or more executable instructions for executing a specified logical function. It should also be noted that in some alternative embodiments it is possible for the functions mentioned in blocks or steps to occur out of order. For example, two blocks or steps shown in succession may in fact be performed substantially simultaneously, or the blocks or steps may sometimes be performed in reverse order depending on the corresponding function.

이와 같이, 본 발명이 속하는 기술분야의 당업자는 본 발명이 그 기술적 사상이나 필수적 특징을 변경하지 않고서 다른 구체적인 형태로 실시될 수 있다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적인 것이 아닌 것으로서 이해해야만 한다. 본 발명의 범위는 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 등가개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.As such, a person skilled in the art to which the present invention pertains will understand that the present invention can be implemented in other specific forms without changing its technical idea or essential features. Therefore, the embodiments described above should be understood in all respects as illustrative and not restrictive. The scope of the present invention is indicated by the claims described later rather than the detailed description, and all changes or modified forms derived from the meaning and scope of the claims and their equivalent concepts should be construed as being included in the scope of the present invention. .

Claims (15)

서로 다른 시점의 복수의 뇌 영상을 수집하는 데이터 수집부;
상기 뇌 영상 중 관심 영역의 뇌 조직 영상의 정보를 추출하는 데이터 처리부; 및
상기 서로 다른 시점의 복수의 뇌 영상에서 추출한 관심 영역의 복수의 뇌 조직 영상의 정보를 미리 학습된 학습 모델의 입력으로 하여 뇌 질환의 진행 경과, 상기 뇌 질환의 현재 진행 속도, 상기 뇌 질환의 추후 진행 속도 및 상기 뇌 질환 상태에 따른 임상적 진단 평가 점수 중 적어도 하나 이상의 정보를 예측하는 진단부;를 포함하되,
상기 데이터 수집부는 상기 뇌 조직의 상태에 따른 임상적 진단평가점수 정보를 더 수집하고,
상기 진단부는 상기 서로 다른 시점 중 현재 시점의 상기 뇌 조직 영상의 정보와, 상기 현재 시점의 상기 임상적 진단평가점수 정보를 상기 학습 모델의 학습 데이터로 사용하며,
상기 진단부는 상기 학습 모델을 이용하여 상기 현재 시점보다 이전 시점의 상기 뇌 조직 영상의 정보 또는 상기 현재 시점보다 이후 시점의 상기 뇌 조직 영상의 정보를 예측하는 뇌 질환 예측 장치.
A data collection unit that collects multiple brain images at different time points;
a data processing unit that extracts information on a brain tissue image of a region of interest among the brain images; and
The progression of the brain disease, the current progression rate of the brain disease, and the future of the brain disease are determined by using the information of the plurality of brain tissue images of the region of interest extracted from the plurality of brain images at different viewpoints as input to a pre-trained learning model. It includes a diagnostic unit that predicts at least one information of the progression rate and the clinical diagnostic evaluation score according to the brain disease state,
The data collection unit further collects clinical diagnostic evaluation score information according to the state of the brain tissue,
The diagnostic unit uses information on the brain tissue image at the current time among the different time points and the clinical diagnostic evaluation score information at the current time as learning data for the learning model,
A brain disease prediction device wherein the diagnostic unit predicts information on the brain tissue image at a time before the current time or information on the brain tissue image at a later time than the current time using the learning model.
제1항에 있어서,
상기 데이터 처리부는,
상기 복수의 뇌 영상에서 상기 뇌의 위치가 정렬되도록 상기 복수의 뇌 영상을 처리하는 뇌 위치 정렬부;
상기 뇌 위치가 정렬된 상기 복수의 뇌 영상에서 상기 관심 영역의 뇌 조직 영상을 추출하는 뇌 조직 영상 추출부;
상기 복수의 뇌 영상에서 상기 관심 영역의 상기 뇌 조직 영상을 제외한 영역을 제거하는 제거부;
상기 관심 영역의 상기 뇌 조직 영상을 이용하여 상기 뇌 조직의 정보를 추출하는 정보 추출부;를 포함하는 뇌 질환 예측 장치.
According to paragraph 1,
The data processing unit,
a brain position alignment unit that processes the plurality of brain images so that the positions of the brains in the plurality of brain images are aligned;
a brain tissue image extraction unit that extracts a brain tissue image of the region of interest from the plurality of brain images in which the brain locations are aligned;
a removal unit that removes a region excluding the brain tissue image of the region of interest from the plurality of brain images;
An information extraction unit that extracts information about the brain tissue using the brain tissue image of the region of interest.
제2항에 있어서,
상기 데이터 처리부에서,
상기 관심 영역의 뇌 조직 영상은 중측두회(middle temporal gyrus) 영상, 내 후각 피질(entorhinal cortex) 영상, 방추이랑(Fusiform gyrus) 및 해마 (Hippocampus) 영상 중 적어도 하나를 포함하는 뇌 질환 예측 장치.
According to paragraph 2,
In the data processing unit,
A brain disease prediction device wherein the brain tissue image of the region of interest includes at least one of a middle temporal gyrus image, entorhinal cortex image, fusiform gyrus, and hippocampus image.
제1항에 있어서,
상기 학습 모델은 상기 뇌 조직 영상의 정보에 따른 정상 상태, 경도인지장애 상태 및 알츠하이머병 상태에 대해 각각 학습된 복수의 학습 모델을 포함하는 뇌 질환 예측 장치.
According to paragraph 1,
The learning model is a brain disease prediction device including a plurality of learning models each learned for a normal state, a mild cognitive impairment state, and an Alzheimer's disease state according to information on the brain tissue image.
제1항에 있어서,
상기 진단부에서,
상기 학습 모델을 미리 학습시키기 위한 학습 데이터는 제1 시점에서 획득된 제1 뇌 조직 영상 정보와 상기 제1 뇌 조직 영상 정보에 대한 제1 진단평가점수를 포함하는 제1 학습 데이터와, 제2 시점에서 획득된 제2 뇌 조직 영상 정보와 상기 제2 뇌 조직 영상 정보에 대한 제2 진단평가점수를 포함하는 제2 학습 데이터와, 제3 시점에서 획득된 제3 뇌 조직 영상 정보와 상기 제3 뇌 조직 영상 정보에 대한 제3 진단평가점수를 포함하는 제3 학습 데이터를 포함하는 뇌 질환 예측 장치.
According to paragraph 1,
In the diagnostic department,
The learning data for pre-training the learning model includes first learning data including first brain tissue image information acquired at a first time point and a first diagnostic evaluation score for the first brain tissue image information, and a second time point. Second learning data including second brain tissue image information acquired from and a second diagnostic evaluation score for the second brain tissue image information, third brain tissue image information acquired at a third time point, and the third brain A brain disease prediction device including third learning data including a third diagnostic evaluation score for tissue image information.
제5항에 있어서,
상기 진단부에서,
상기 학습 모델을 미리 학습시키기 위한 학습 데이터는 상기 제1 학습 데이터, 상기 제2 학습 데이터 및 상기 제3 학습 데이터의 각각 또는 2개 이상의 학습 데이터가 조합된 데이터를 포함하는 뇌 질환 예측 장치.
According to clause 5,
In the diagnostic department,
The training data for pre-training the learning model includes each of the first training data, the second training data, and the third training data, or a combination of two or more training data.
제1항에 있어서,
상기 임상적 진단평가점수 정보는 상기 서로 다른 시점의 복수의 뇌 영상에 대한 진단평가점수를 포함하는 뇌 질환 예측 장치.
According to paragraph 1,
A brain disease prediction device wherein the clinical diagnostic evaluation score information includes diagnostic evaluation scores for a plurality of brain images at different time points.
삭제delete 제1항에 있어서,
상기 진단부는,
상기 현재 시점보다 이전 시점의 상기 뇌 조직 영상의 정보 또는 상기 현재 시점보다 이후 시점의 상기 뇌 조직 영상의 정보를 재이용하여 상기 학습 모델의 입력 데이터로 사용하는 뇌 질환 예측 장치.
According to paragraph 1,
The diagnostic department,
A brain disease prediction device that reuses information on the brain tissue image at a time earlier than the current time or information on the brain tissue image at a later time than the current time and uses it as input data for the learning model.
제1항에 있어서,
상기 학습 모델은,
인코딩 모듈부와 디코딩 모듈부를 포함하고,
상기 진단부는,
상기 뇌 조직 영상의 정보를 상기 인코딩 모듈의 입력으로 하여 상기 뇌 조직 영상의 부피 변화량, 형태 변화량, 형상 변화량, 위치 변화량 정보를 포함하는 특징을 추출하고,
상기 특징을 상기 디코딩 모듈부의 입력으로 하여 뇌 질환의 진행 경과, 상기 뇌 질환의 현재 진행 속도, 상기 뇌 질환의 추후 진행 속도, 임상적 진단 평가 점수 중 적어도 하나 이상의 정보를 예측하는 뇌 질환 예측 장치.
According to paragraph 1,
The learning model is,
Includes an encoding module unit and a decoding module unit,
The diagnostic department,
Using the information of the brain tissue image as input to the encoding module, features including volume change amount, shape change amount, shape change amount, and position change amount information of the brain tissue image are extracted,
A brain disease prediction device that uses the characteristic as an input to the decoding module unit to predict at least one information of the progression of the brain disease, the current progression rate of the brain disease, the future progression rate of the brain disease, and the clinical diagnostic evaluation score.
뇌 질환 예측 장치의 뇌 질환 예측 방법에 있어서,
서로 다른 시점의 복수의 뇌 영상의 데이터를 수집하는 단계;
상기 뇌 영상 중 관심 영역의 뇌 조직 영상의 정보를 추출하는 단계; 및
상기 서로 다른 시점의 복수의 뇌 영상에서 추출한 관심 영역의 복수의 뇌 조직 영상의 정보를 미리 학습된 학습 모델의 입력으로 하여 뇌 질환의 진행 경과, 상기 뇌 질환의 현재 진행 속도, 상기 뇌 질환의 추후 진행 속도 및 상기 뇌 질환 상태에 따른 임상적 진단 평가 점수 중 적어도 하나 이상의 정보를 예측하는 단계;를 포함하되,
상기 학습 모델은 상기 서로 다른 시점 중 현재 시점의 상기 뇌 조직 영상의 정보와, 상기 현재 시점의 상기 임상적 진단평가점수 정보를 상기 학습 모델의 학습 데이터로 사용하며,
상기 예측하는 단계는 상기 학습 모델을 이용하여 상기 현재 시점보다 이전 시점의 상기 뇌 조직 영상의 정보 또는 상기 현재 시점보다 이후 시점의 상기 뇌 조직 영상의 정보를 예측하는 뇌 질환 예측 방법.
In the brain disease prediction method of the brain disease prediction device,
Collecting data from a plurality of brain images at different time points;
extracting information on a brain tissue image of a region of interest from the brain image; and
The progression of the brain disease, the current progression rate of the brain disease, and the future of the brain disease are determined by using the information of the plurality of brain tissue images of the region of interest extracted from the plurality of brain images at different viewpoints as input to a pre-trained learning model. Predicting at least one information of progression rate and clinical diagnostic evaluation score according to the brain disease state,
The learning model uses information on the brain tissue image at the current time among the different time points and the clinical diagnostic evaluation score information at the current time as learning data for the learning model,
The predicting step uses the learning model to predict information on the brain tissue image at a time earlier than the current time or information on the brain tissue image at a later time than the current time.
학습 데이터를 수집하는 학습 데이터 수집부; 및
뇌 질환의 진행 경과, 상기 뇌 질환의 현재 진행 속도, 상기 뇌 질환의 추후 진행 속도 및 상기 뇌 질환 상태에 따른 임상적 진단 평가 점수 중 적어도 하나 이상의 정보를 예측하기 위해 상기 학습 데이터를 이용하여 학습되는 학습 모델;을 포함하되,
상기 학습 모델은 서로 다른 시점 중 현재 시점의 뇌 조직 영상의 정보와, 상기 현재 시점의 상기 임상적 진단평가점수 정보를 상기 학습 모델의 학습 데이터로 사용하며,
상기 예측하는 단계는 상기 학습 모델을 이용하여 상기 현재 시점보다 이전 시점의 상기 뇌 조직 영상의 정보 또는 상기 현재 시점보다 이후 시점의 상기 뇌 조직 영상의 정보를 예측하는 뇌 질환을 예측하기 위한 학습 장치.
A learning data collection unit that collects learning data; and
Learned using the learning data to predict at least one information of the progression of the brain disease, the current progression rate of the brain disease, the future progression rate of the brain disease, and the clinical diagnostic evaluation score according to the brain disease state. including a learning model;
The learning model uses information on the brain tissue image at the current time among different time points and the clinical diagnostic evaluation score information at the current time as learning data for the learning model,
The predicting step is a learning device for predicting a brain disease in which information on the brain tissue image at a time before the current time or information on the brain tissue image at a time after the current time is predicted using the learning model.
제12항에 있어서,
상기 학습 모델은 RNN, CNN 및 DNN 중 어느 하나 또는 이들의 조합인 뇌 질환을 예측하기 위한 학습 장치.
According to clause 12,
A learning device for predicting brain disease in which the learning model is any one of RNN, CNN, and DNN or a combination thereof.
제12항에 있어서,
상기 학습 데이터 수집부는 제1 시점에서 획득된 제1 시점에서 획득된 제1 뇌 조직 영상 정보와 상기 제1 뇌 조직 영상 정보에 대한 제1 진단평가점수를 포함하는 제1 학습 데이터와, 제2 시점에서 획득된 제2 뇌 조직 영상 정보와 상기 제2 뇌 조직 영상 정보에 대한 제2 진단평가점수를 포함하는 제2 학습 데이터와, 제3 시점에서 획득된 제3 뇌 조직 영상 정보와 상기 제3 뇌 조직 영상 정보에 대한 제3 진단평가점수를 포함하는 제3 학습 데이터를 포함하는 뇌 질환을 예측하기 위한 학습 장치.
According to clause 12,
The learning data collection unit first learning data including first brain tissue image information obtained at a first time point and a first diagnostic evaluation score for the first brain tissue image information, and a second time point Second learning data including second brain tissue image information acquired from and a second diagnostic evaluation score for the second brain tissue image information, third brain tissue image information acquired at a third time point, and the third brain A learning device for predicting a brain disease including third learning data including a third diagnostic evaluation score for tissue image information.
제14항에 있어서,
상기 학습 데이터 수집부는 상기 제1 학습 데이터, 상기 제2 학습 데이터 및 상기 제3 학습 데이터의 각각 또는 2개 이상의 학습 데이터가 조합된 데이터를 수집하는 뇌 질환을 예측하기 위한 학습 장치.
According to clause 14,
The learning data collection unit is a learning device for predicting a brain disease wherein the first learning data, the second learning data, and the third learning data are collected separately or a combination of two or more learning data.
KR1020217022211A 2019-03-06 2020-03-05 Brain disease prediction device and method, learning device for predicting brain disease KR102605720B1 (en)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
KRPCT/KR2019/002617 2019-03-06
PCT/KR2019/002617 WO2020179950A1 (en) 2019-03-06 2019-03-06 Deep learning-based method and device for prediction of progression of brain disease
PCT/KR2020/003131 WO2020180135A1 (en) 2019-03-06 2020-03-05 Brain disease prediction apparatus and method, and learning apparatus for predicting brain disease

Publications (2)

Publication Number Publication Date
KR20210096292A KR20210096292A (en) 2021-08-04
KR102605720B1 true KR102605720B1 (en) 2023-11-24

Family

ID=72337451

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020217022211A KR102605720B1 (en) 2019-03-06 2020-03-05 Brain disease prediction device and method, learning device for predicting brain disease

Country Status (2)

Country Link
KR (1) KR102605720B1 (en)
WO (2) WO2020179950A1 (en)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102383058B1 (en) * 2021-10-22 2022-04-08 주식회사 뉴로젠 Device and method for predicting cognitive impairment using spatiotemporal memory test and brain image information
KR20230145724A (en) * 2022-04-11 2023-10-18 고려대학교 산학협력단 Methods and apparatus for differential diagnosis of various degenerate brain disease based on deep learning technology of Magnet Resonance image classification
KR20240000692A (en) * 2022-06-23 2024-01-03 고려대학교 산학협력단 Methodology and pipeline for extracting imaging biomarkers of brain disorders based on multi-modal neuroimages

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101754291B1 (en) * 2017-04-04 2017-07-06 이현섭 Medical image processing system and method for personalized brain disease diagnosis and status determination

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6036009B2 (en) * 2012-08-28 2016-11-30 大日本印刷株式会社 Medical image processing apparatus and program
KR101796055B1 (en) * 2016-06-02 2017-11-10 고려대학교 산학협력단 Method and device for monitoring brain status by constructing multiple brain networks
KR102558021B1 (en) * 2016-06-10 2023-07-24 한국전자통신연구원 A clinical decision support ensemble system and the clinical decision support method by using the same
KR20180002229A (en) * 2016-06-29 2018-01-08 원시스템주식회사 An agent apparatus for constructing database for dementia information and the operating method by using the same
KR101880678B1 (en) * 2016-10-12 2018-07-20 (주)헬스허브 System for interpreting medical images through machine learnings
KR101923654B1 (en) * 2016-11-24 2018-11-29 주식회사 셀바스에이아이 Method and apparatus for machine-learning of a model predicting probability of outbreak of disease
KR101854071B1 (en) * 2017-01-13 2018-05-03 고려대학교 산학협력단 Method of generating image of interest region using deep learning and apparatus thereof
US20180310870A1 (en) * 2017-05-01 2018-11-01 The Charles Stark Draper Laboratory, Inc. Deep learning architecture for cognitive examination subscore trajectory prediction in alzheimer's disease
KR101881731B1 (en) * 2018-02-27 2018-07-25 한국과학기술정보연구원 Apparatus and Method for Dementia Prediction using Machine Learning, and Storage Medium Storing the Same
KR102125127B1 (en) 2018-03-05 2020-06-19 고려대학교 산학협력단 Method of brain disorder diagnosis via deep learning

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101754291B1 (en) * 2017-04-04 2017-07-06 이현섭 Medical image processing system and method for personalized brain disease diagnosis and status determination

Also Published As

Publication number Publication date
KR20210096292A (en) 2021-08-04
WO2020179950A1 (en) 2020-09-10
WO2020180135A1 (en) 2020-09-10

Similar Documents

Publication Publication Date Title
WO2023077603A1 (en) Prediction system, method and apparatus for abnormal brain connectivity, and readable storage medium
KR102605720B1 (en) Brain disease prediction device and method, learning device for predicting brain disease
Kazemi et al. A deep learning pipeline to classify different stages of Alzheimer's disease from fMRI data
Falahati et al. Multivariate data analysis and machine learning in Alzheimer's disease with a focus on structural magnetic resonance imaging
Jie et al. Temporally constrained group sparse learning for longitudinal data analysis in Alzheimer's disease
Bonacchi et al. Role of artificial intelligence in MS clinical practice
Nigri et al. Explainable deep CNNs for MRI-based diagnosis of Alzheimer’s disease
Wang et al. A comparison of magnetic resonance imaging and neuropsychological examination in the diagnostic distinction of Alzheimer's disease and behavioral variant frontotemporal dementia
KR102288078B1 (en) device that provides information related to Parkinson's disease by analyzing neuromelanine related magnetic resonance images based on artificial intelligence
KR102340829B1 (en) APPARATUS AND METHOD FOR PREDICTING CEREBRAL β-AMYLOID BURDEN BASED ON MACHINE LEARNING
Basu et al. Early prediction of alzheimer’s disease progression using variational autoencoders
US20230245772A1 (en) A Machine Learning System and Method for Predicting Alzheimer's Disease Based on Retinal Fundus Images
WO2017106498A1 (en) Systems and methods for quantitatively characterizing alzheimer's disease risk events based on multimodal biomarker data
Folle et al. Dilated deeply supervised networks for hippocampus segmentation in MRI
Abbasi et al. Automatic brain ischemic stroke segmentation with deep learning: A review
KR20190068254A (en) Method, Device and Program for Estimating Time of Lesion Occurrence
Nguyen et al. Deep grading for MRI-based differential diagnosis of Alzheimer’s disease and Frontotemporal dementia
Al-Jumaili et al. Classification of the Level of Alzheimer's Disease Using Anatomical Magnetic Resonance Images Based on a Novel Deep Learning Structure
Bhan et al. Diagnosing Parkinson’s disease in early stages using image enhancement, Roi extraction and deep learning algorithms
Moguilner et al. Deep Learning classification based on raw MRI images
Coluzzi et al. Biomarker Investigation using Multiple Brain Measures from MRI through XAI in Alzheimer's Disease Classification
Abd Hamid et al. Incorporating attention mechanism in enhancing classification of alzheimer’s disease
KR20200025853A (en) Method for generating predictive model based on intra-subject and inter-subject variability using structural mri
Abinaya et al. Detection and Classification Of Diabetic Retinopathy Using Machine Learning–A Survey
Abed et al. AD Classification and Detection Using Neuroimaging Data

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant