KR102516820B1

KR102516820B1 - 알츠하이머 질병 검출을 위한 3d 컨볼루셔널 뉴럴 네트워크

Info

Publication number: KR102516820B1
Application number: KR1020200155953A
Authority: KR
Inventors: 차크라보티사바야사치
Original assignee: 주식회사 테렌즈
Priority date: 2020-11-19
Filing date: 2020-11-19
Publication date: 2023-04-04
Also published as: KR20220069195A

Abstract

알츠하이머 질병(Alzheimer's Disease) 검출 방법이 제공된다.
본 발명의 방법은, MRI 스캔을 획득하고, 상기 MRI 스캔을 등록하고, 상기 MRI 스캔의 패턴을 학습하고, 상기 MRI 스캔을 건강한 그룹, 경도 인지 장애 그룹, 알츠하이머 질병 그룹 중 하나의 그룹으로 분류하는 방법을 포함할 수 있다.

Description

알츠하이머 질병 검출을 위한 3D 컨볼루셔널 뉴럴 네트워크{3D CONVOLUTIONAL NEURAL NETWORK FOR DETECTION OF ALZHEIMER'S DISEASE}

본 발명은 MRI(magnetic resonance imaging) 스캔 분석을 통해 알츠하이머 질병(Alzheimer's Disease)을 검출하는 방법에 관한 것이다.

의사들이 MRI(magnetic resonance imaging) 스캔을 통해 알츠하이머 질병을 진단할 수 있지만, 딥 러닝 알고리즘의 발전으로 인해 헬스 케어 분야에서는 영상 분석, 영상 속 동맥류 검출, 생체 신호 분석 등에 사용되던 기존 기술에 비해 딥 러닝 알고리즘이 훨씬 우세한 것으로 나타났다.

따라서, MRI 스캔에서 알츠하이머 질병을 검출하기 위한 3D 컨볼루셔널 뉴럴 네트워크의 필요성이 증대되었다.

국내 등록특허공보 제10-2153920호(2020.09.09.)

본 발명의 실시예들은 MRI(magnetic resonance imaging) 스캔의 분석을 통해 알츠하이머 질병(Alzheimer's Disease)을 검출하는 방법 및 프로그램을 제공한다.

상술한 기술적 과제를 달성하기 위한 기술적 수단으로서, 본 개시의 제1 측면은, 알츠하이머 질병(Alzheimer's Disease) 검출 방법은,

MRI(magnetic resonance imaging) 스캔(scan)을 획득하는 단계; 상기 MRI 스캔을 등록하는 단계; 상기 MRI 스캔의 패턴을 학습하는 단계; 및 상기 MRI 스캔을 건강한 그룹, 경도 인지 장애 그룹, 알츠하이머 질병 그룹 중 하나의 그룹으로 분류하는 단계;를 포함할 수 있다.

여기서, 상기 MRI 스캔을 등록하는 단계는, 상기 MRI 스캔을 타겟 이미지와 정렬하는 단계를 포함할 수 있다.

여기서, 상기 MRI 스캔 등록은 ANTsPy(Advanced Normalization Tools Python)를 사용하여 수행될 수 있다.

여기서, 상기 MRI 스캔을 건강한 그룹, 경도 인지 장애 그룹, 알츠하이머 질병 그룹 중 하나의 그룹으로 분류하는 단계는, 컨볼루션 신경망(convolutional neural network) 모델이 수행되는 단계를 포함하고, 상기 컨볼루션 신경망의 가중치(weight) 및 편향(bias)을 최적화하기 위한 하이퍼파라미터(hyperparameter)를 선택하기 위해 베이지안(Bayesian) 순차 모델 기반 최적화(sequential model-based optimization, SMBO)가 사용되고, 상기 베이지안 순차 모델 기반 최적화는 이전 목적 함수의 평가 결과를 기반으로 대리 모델(surrogate model)을 생성하여 목적 함수를 최소화하는 작업인 하이퍼파라미터 최적화에 사용되는 알고리즘이고, 상기 베이지안 순차 모델 기반 최적화의 기본 목적 함수는 다음과 같을 수 있다.

여기서, 상기 컨볼루션 신경망 모델은 손실 함수를 포함하고, 상기 손실 함수는 예측 값과 실제 값 사이의 변동성을 결정하는 데 사용되고, 상기 손실 함수는 아래와 같고,

θ는 상기 컨볼루션 신경망 모델의 매개 변수를 나타내고, x는 특성 행렬을 나타내고, y는 특정 특성 집합에 대한 실제 값을 나타낼 수 있다.

여기서, 상기 손실 함수는 범주 형 교차 엔트로피 손실(categorical cross-entropy loss)이고, 상기 범주 형 교차 엔트로피 손실의 방정식은 아래와 같고,

는 C 번째 범주에 대한 i번째 관측치에 대한 지시 함수(indicator function),

는 C 번째 범주에 대한 i번째 관측치에 대한 예측 확률일 수 있다.

여기서, 상기 컨볼루션 신경망 모델은, 2개의 3D 컨볼루션 레이어(3 dimensional convolution layer) 및 하나의 최대 풀링 레이어(max-pooling layer)가 5번 반복되는 구성으로 10개의 컨볼루션 레이어와 5개의 최대 풀링 레이어를 포함하고, 제1 및 제2 3D 컨볼루션 레이어는 필터 개수가 8개이고, 커널 사이즈가 (4, 4, 4)이고, 스트라이드가 (2, 2, 2)인 3D 컨볼루션 레이어이고, 제3 및 제4 3D 컨볼루션 레이어는 필터 개수가 16개이고, 커널 사이즈가 (4, 4, 4)이고, 스트라이드가 (2, 2, 2)인 3D 컨볼루션 레이어이고, 제5 및 제6 3D 컨볼루션 레이어는 필터 개수가 64개이고, 커널 사이즈가 (4, 4, 4)이고, 스트라이드가 (1, 1, 1)인 3D 컨볼루션 레이어이고, 제7 3D 컨볼루션 레이어는 필터 개수가 256개이고, 커널 사이즈가 (4, 4, 4)이고, 스트라이드가 (1, 1, 1)인 3D 컨볼루션 레이어이고, 제8 3D 컨볼루션 레이어는 필터 개수가 512개이고, 커널 사이즈가 (4, 4, 4)이고, 스트라이드가 (1, 1, 1)인 3D 컨볼루션 레이어이고, 제9 3D 컨볼루션 레이어는 필터 개수가 1024개이고, 커널 사이즈가 (2, 2, 2)이고, 스트라이드가 (1, 1, 1)인 3D 컨볼루션 레이어이고, 제10 3D 컨볼루션 레이어는 필터 개수가 2048개이고, 커널 사이즈가 (2, 2, 2)이고, 스트라이드가 (1, 1, 1)인 3D 컨볼루션 레이어일 수 있다.

본 개시의 제 2 측면은, MRI(magnetic resonance imaging) 스캔(scan)을 획득하는 단계; 상기 MRI 스캔을 등록하는 단계; 상기 MRI 스캔의 패턴을 학습하는 단계; 및 상기 MRI 스캔을 건강한 그룹, 경도 인지 장애 그룹, 알츠하이머 질병 그룹 중 하나의 그룹으로 분류하는 단계;를 수행하도록 하는 프로그램이 저장된 하나 이상의 컴퓨터로 읽을 수 있는 기록매체를 포함하는 컴퓨터 프로그램 제품을 제공할 수 있다.

전술한 것 외의 다른 측면, 특징, 이점이 이하의 도면, 특허청구범위 및 발명의 상세한 설명으로부터 명확해질 것이다.

본 발명의 컨볼루션 신경망(Convolutional Neural Network, CNN) 모델은 세 클래스 모두에 대해 전체 정확도 95.88%, 재현율 0.9601, 정확도 0.951 및 f1 점수 0.9538을 보였다. 따라서, 본 발명에 따르면 높은 신뢰도로 MRI(magnetic resonance imaging) 스캔을 통한 알츠하이머 질병(Alzheimer's Disease)을 검출할 수 있다.

도 1은 본 발명의 일 실시예에 따른 알츠하이머 검출 장치의 블록 구성도이다.
도 2는 등록 프로세스 전후의 특정 MRI 스캔에 대한 도면이다.
도 3은 알츠하이머 병 검출을 위한 프로세스 및 방법론의 전체 흐름의 일 실시예를 도시한 도면이다.
도 4는 3D 컨볼루셔널 신경망 아키텍쳐의 일 실시예이다.
도 5는 3차 분할 교차 검증의 혼동 행렬의 일례를 도시한 도면이다.
도 6은 알츠하이머 병으로 예측된 샘플 MRI 스캔의 슬라이스(slices)에 대한 클래스 활성화 맵(Class Activation Maps)의 일 실시예를 도시한 도면이다.
도 7은 알츠하이머 질병(Alzheimer's Disease) 검출 방법의 일 실시예를 도시한 흐름도이다.

본 실시예들에서 사용되는 용어는 본 실시예들에서의 기능을 고려하면서 가능한 현재 널리 사용되는 일반적인 용어들을 선택하였으나, 이는 당 분야에 종사하는 기술자의 의도 또는 판례, 새로운 기술의 출현 등에 따라 달라질 수 있다. 또한, 특정한 경우는 출원인이 임의로 선정한 용어도 있으며, 이 경우 해당되는 부분에서 상세히 그 의미를 기재할 것이다. 따라서, 본 실시예들에서 사용되는 용어는 단순한 용어의 명칭이 아닌, 그 용어가 가지는 의미와 본 실시예들 전반에 걸친 내용을 토대로 정의되어야 한다.

본 실시예들은 다양한 변경을 가할 수 있고 여러 가지 형태를 가질 수 있는바, 일부 실시예들을 도면에 예시하고 상세하게 설명하고자 한다. 그러나, 이는 본 실시예들을 특정한 개시형태에 대해 한정하려는 것이 아니며, 본 실시예들의 사상 및 기술범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다. 본 명세서에서 사용한 용어들은 단지 실시예들의 설명을 위해 사용된 것으로, 본 실시예들을 한정하려는 의도가 아니다.

본 실시예들에 사용되는 용어들은 다르게 정의되지 않는 한, 본 실시예들이 속하는 기술분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미가 있다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥상 가지는 의미와 일치하는 의미를 가지는 것으로 해석되어야 하며, 본 실시예들에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않아야 한다.

후술하는 본 발명에 대한 상세한 설명은, 본 발명이 실시될 수 있는 특정 실시예를 예시로서 도시하는 첨부 도면을 참조한다. 이러한 실시예는 당업자가 본 발명을 실시할 수 있기에 충분하도록 상세히 설명된다. 본 발명의 다양한 실시예는 서로 다르지만 상호 배타적일 필요는 없음이 이해되어야 한다. 예를 들어, 본 명세서에 기재되어 있는 특정 형상, 구조 및 특성은 본 발명의 정신과 범위를 벗어나지 않으면서 일 실시예로부터 다른 실시예로 변경되어 구현될 수 있다. 또한, 각각의 실시예 내의 개별 구성요소의 위치 또는 배치도 본 발명의 정신과 범위를 벗어나지 않으면서 변경될 수 있음이 이해되어야 한다. 따라서, 후술하는 상세한 설명은 한정적인 의미로서 행하여지는 것이 아니며, 본 발명의 범위는 특허청구범위의 청구항들이 청구하는 범위 및 그와 균등한 모든 범위를 포괄하는 것으로 받아들여져야 한다. 도면에서 유사한 참조부호는 여러 측면에 걸쳐서 동일하거나 유사한 구성요소를 나타낸다.

이하에서는, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자가 본 발명을 용이하게 실시할 수 있도록 하기 위하여, 본 발명의 여러 실시예에 관하여 첨부된 도면을 참조하여 상세히 설명하기로 한다.

도 1은 본 발명의 일 실시예에 따른 알츠하이머 검출 장치의 블록 구성도이다.

도 1을 참조하면, 본 발명의 일 실시예에 따른 알츠하이머 검출 장치는 적어도 하나의 프로세서(110), 메모리(120) 및 저장 장치(130)를 포함할 수 있다.

프로세서(110)는 메모리(120) 및/또는 저장 장치(130)에 저장된 프로그램 명령(program command)을 실행할 수 있다. 프로세서(110)는 중앙 처리 장치(central processing unit, CPU), 그래픽 처리 장치(graphics processing unit, GPU) 또는 본 발명에 따른 방법들이 수행되는 전용의 프로세서를 의미할 수 있다. 메모리(120)와 저장 장치(130)는 휘발성 저장 매체 및/또는 비휘발성 저장 매체로 구성될 수 있다. 예를 들어, 메모리(120)는 읽기 전용 메모리(read only memory, ROM) 및/또는 랜덤 액세스 메모리(random access memory, RAM)로 구성될 수 있다.

메모리(120)는 프로세서(110)를 통해 실행되는 적어도 하나의 명령을 저장하고 있을 수 있다.

이하에서는 알츠하이머 질병 검출 방법이 설명된다.

1. 데이터 수집

연구 데이터는 ADNI 데이터베이스(http://adni.loni.usc.edu/)에서 수집되었다. 연구를 위해 선택된 MRI 스캔은 표 1에 설명된 특정 영상 프로토콜을 기반으로 했으며 기준 방문(baseline visit)에 해당한다. 또한, 연구에서 고려된 모든 스캔은 단일 유형의 스캐너(예를 들어, GE Medical Systems)에서 얻은 것이다. 또한, 획득된 모든 스캔은 MP-RAGE(Magnetization Prepared-Rapid Gradient Echo) 시퀀스를 기반으로 한다. 연구에 사용된 모든 스캔은 정수리(vertex), 소뇌(cerebellum), 및 뇌교(pons)를 포함한 시야(Field of View, FoV)에서 20-30분 시간 범위에서 획득되었다.

표 1은 ADNI 연구에서 MRI 스캔을 선택하기 위한 매개 변수이다.

표 1에 언급된 영상 프로토콜을 기반으로 필터를 적용한 후, 환자의 기준 방문(baseline visit)에서 총 910 개의 MRI 스캔이 선택되었다. 910 명의 환자 중 423 명이 여성이고 487 명이 남성이었다. 연구를 위해 고려된 스캔의 피험자 나이는 68.26 ± 7.2세에 속했다. 스캔은 주로 건강한 대조군(healthy control, HC), 경도인지 장애(mild cognitive impairment, MCI) 및 알츠하이머 병(Alzheimer's Disease, AD)의 세 연구 그룹에 속했다. 스캔 결과는 각 연구 그룹에 건강한 대조군 336 개, MCI 307 개, 알츠하이머 병 267 개로 분배되었다. 스캔 획득에 고려된 피험자는 표 2에 설명된 특정 기준에 따라 선택되었다. 표 2는 그룹에 포함될 대상에 대한 자격 기준에 대한 설명이다.

위에 표시된 표 3은 ADNI 데이터베이스에서 얻은 스캔 사양을 보여준다.

2. 데이터 전처리

연구에 사용된 데이터 세트는 ADNI 데이터베이스에서 얻었으며 위에서 언급했듯이 ADNI는 다기관 연구이므로 연구에서 얻은 이미징 스캔에는 시간 및 공간 차이가 포함되어 있다. 이 특정 문제를 해결하고 모든 스캔 간에 일정한 경향을 유지하려면 모든 스캔이 MNI(Montreal Neurological Institute) [1,2] 또는 IBASPM(Individual Brain Atlases using Statistical Parametric Mapping) [3]와 같은 동일한 공간에 있어야 한다. 따라서 모든 스캔을 동일한 공간으로 가져오기 위해 이미지 등록 절차가 수행된다. 이미지 등록은 고정된 이미지를 변경하여 올바른 정렬 매개 변수를 찾아 알 수 없거나 보이지 않는 이미지가 고정된 이미지와 유사하게 정렬될 수 있도록 하는 프로세스이다. 간단하게 이미지 등록은 두 이미지를 특정 공간에 정렬하는 과정으로 이해할 수 있다. 하나는 소스 이미지로, 다른 하나는 타겟 이미지로 작동하고 소스 이미지는 타겟 이미지와 정렬하는 방법으로 변환된다. 특정 연구에서는 PPMI 데이터베이스에서 얻은 MRI 스캔을 소스 이미지로 간주하고 MNI 또는 IBASPM과 같은 아틀라스(atlas)를 대상 이미지로 간주한다.

ADNI 데이터베이스에서 얻은 MRI 스캔 등록은 [1,2]에서 만든 ICBM(International Consortium for Brain Mapping)-152-T1w(weighted)-비선형(nonlinear)-대칭(symmetric) 아틀라스(atlas)를 사용하여 수행되었다. ICBM-152-T1w-비선형-대칭 아틀라스의 사양은 표 4에 설명되어 있다. 표 4는 ICBM-152- T1w-비선형-대칭 아틀라스에서 획득한 스캔 사양이다.

MRI 스캔 등록은 ANTsPy(Advanced Normalization Tools Python) [4]로 알려진 가장 효과적인 정규화 도구 중 하나를 사용하여 수행되었다. ANTsPy는 MRI, fMRI 및 SPECT 데이터에 대한 전처리를 수행하기 위해 복잡한 이미징 데이터 세트에서 중요한 정보를 추출하기 위해 이미징 연구 분야에서 특히 사용된다. 획득한 MRI 스캔을 ICBM-152-T1w-비선형-대칭 아틀라스에 등록하는 것은 대칭 정규화를 사용하여 수행되었다. 도 2는 등록 프로세스 전후의 특정 MRI 스캔에 대한 도면이다. 도 2는 등록 전 후의 스캔 샘플이다. (a)는 등록 전 MRI 스캔이고, (b)는 등록 후 MRI 스캔이다.

3. 재료 및 방법

이 연구의 주요 전제는 3D 컨볼루션 신경망을 사용하여 알츠하이머 병을 감지하고 MRI 스캔을 건강한 대조군(HC), 경도인지 장애(MCI), 알츠하이머 병(AD)으로 분류하는 데 초점을 맞추고 있다. 알츠하이머 병 검출을 위한 프로세스 및 방법론의 전체 흐름은 도 3에 설명되어 있다. 방법론은 주로 4 단계 즉, 첫 번째, ADNI 데이터베이스에서 MRI 스캔 획득, 두 번째, 데이터 전처리, 등록 및 변환, 세 번째, 3D 컨볼루션 신경망 아키텍처, 마지막으로 네 번째, 특정 성능 메트릭을 기반으로 한 CNN(convolutional neural network) 아키텍처의 결과 및 성능 평가로 나뉜다. 방법론의 처음 두 단계는 섹션 2에서 철저히 논의되었으며 세 번째 및 네 번째 단계는 다음 섹션에서 논의된다.

3.1. 3D 컨볼루션 신경망(convolutional neural networks)

최근에는 문제 해결을 위한 지도 학습 기술(supervised learning techniques)이 크게 발전했다. 또한 딥 러닝 알고리즘의 인기와 효과는 아키텍처 설계 및 최적화 기능 측면에서 주요 패러다임 변화를 겪었다 [5]. 특히 헬스 케어 분야에서는 영상 분석, 영상 속 동맥류 검출, 생체 신호 분석 등에 사용되던 기존 기술에 비해 딥 러닝 알고리즘이 훨씬 우세한 것으로 나타났다.

이 연구에서는 T1 가중 MRI 스캔에서 알츠하이머 병을 감지하기 위한 3D 컨볼루션 신경망 모델이 개발되었다. 작업의 주요 제안은 MRI 또는 *?*오히려 Brain Images에서 알츠하이머 병을 식별하는 데 사용할 수 있는 시스템을 제시한다. 또한 이 연구의 두 번째 제안은 알츠하이머 병을 일으키는 뇌 MRI 이미지에서 그럴듯한 관심 영역(regions of interest, ROI)을 결정하는 것이다. 따라서 연구의 주요 제안을 해결하기 위해 도 4와 같이 3D Convolutional Neural Network가 개발되었다. 도 4는 3D 컨볼루셔널 신경망 아키텍쳐의 일 실시예이다. 작업에서 개발된 CNN 네트워크는 입력 및 출력 계층을 포함하여 18개의 계층으로 구성된다. 또한 네트워크 아키텍처는 10개의 3D 컨볼루션 레이어로 구성되어 모델이 입력 뇌 MRI 스캔의 특징 표현을 생성할 수 있도록 한다.

제1 및 제2 3D 컨볼루션 레이어는 필터 개수가 8개이고, 커널 사이즈가 (4, 4, 4)이고, 스트라이드가 (2, 2, 2)인 3D 컨볼루션 레이어이고, 제3 및 제4 3D 컨볼루션 레이어는 필터 개수가 16개이고, 커널 사이즈가 (4, 4, 4)이고, 스트라이드가 (2, 2, 2)인 3D 컨볼루션 레이어이고, 제5 및 제6 3D 컨볼루션 레이어는 필터 개수가 64개이고, 커널 사이즈가 (4, 4, 4)이고, 스트라이드가 (1, 1, 1)인 3D 컨볼루션 레이어이고, 제7 3D 컨볼루션 레이어는 필터 개수가 256개이고, 커널 사이즈가 (4, 4, 4)이고, 스트라이드가 (1, 1, 1)인 3D 컨볼루션 레이어이고, 제8 3D 컨볼루션 레이어는 필터 개수가 512개이고, 커널 사이즈가 (4, 4, 4)이고, 스트라이드가 (1, 1, 1)인 3D 컨볼루션 레이어이고, 제9 3D 컨볼루션 레이어는 필터 개수가 1024개이고, 커널 사이즈가 (2, 2, 2)이고, 스트라이드가 (1, 1, 1)인 3D 컨볼루션 레이어이고, 제10 3D 컨볼루션 레이어는 필터 개수가 2048개이고, 커널 사이즈가 (2, 2, 2)이고, 스트라이드가 (1, 1, 1)인 3D 컨볼루션 레이어일 수 있다. 제1 내지 제10 3D 컨볼루션 레이어는 공통적으로 activation=relu, data_format=channels_last, dilation_rate=1,1,1, padding=same으로 설정될 수 있다.

또한 모든 컨볼루션 레이어는 활성화 기능에 의해 지원된다. 또한, 모든 특징 표현은 입력 특징 매트릭스를 다운 샘플링하고 과적합(overfitting)을 방지하기 위해 특징 표현의 추상적인 형태를 제공하는 최대 풀링 레이어(max-pooling layers)에 적용된다. 특성 학습의 전체 프로세스가 끝나면, 모든 특성 행렬은 평면화되어 Dense 레이어 또는 Fully Connected Layer에서 허용될 수 있다. 덴스(dense) 레이어의 표현은 세 개의 뉴런과 SoftMax 활성화가 있는 출력 덴스 레이어에 더 노출될 수 있으며, 이는 건강한 대조군, 경도인지 장애(MCI), 및 알츠하이머 병의 세 가지 상태에 해당한다.

3.2 가설 및 훈련 절차

통계, 기계 학습 및 딥 러닝 모델을 개발하기 위한 첫 번째 단계는 해결해야하는 문제에 대한 가설을 개발하는 것이다. 따라서 특정 문제를 해결하기 위해 고안된 기본 가설은 다음과 같다.

- 알츠하이머 병(AD) 클래스의 재현율은 100% 여야하며, 알츠하이머 병 클래스에 속하는 샘플이 다른 두 클래스에 속하는 것으로 잘못 예측되어서는 안된다.

- MCI 클래스의 경우 MCI 클래스에 속하는 샘플이 건강한 대조군 클래스로 잘못 예측되어서는 안된다.

- 건강한 대조군 클래스의 재현율은 85% 이상이어야 한다.

따라서 위의 가설을 바탕으로 3D Convolutional Neural Network 모델의 성능을 평가했다. 평가 목적으로 정확도(accuracy), 정밀도(precision), 재현율(recall), f1 점수, 및 혼동 행렬(confusion matrix)의 다섯 가지 분류 성능 메트릭이 고려되었다. 또한 보이지 않는 데이터에 대한 모델의 일반화 가능성을 결정하기 위해 5 분할 교차 검증이 수행됐다. 성능 메트릭 평가에 대한 세부 정보는 결과 섹션에 설명되어 있다.

3.3 모델 최적화 하이퍼 파라미터와 손실

3D CNN 아키텍처의 개발은 실제로 작업의 가장 중요한 측면이다. 그러나 본질적으로 학습 알고리즘을 생성하기 위해 신중하게 고려해야 하는 구성 요소는 가중치(weights) 및 편향(biases)과 같은 네트워크의 내부 매개 변수 세트, 손실 함수를 최적화하기 위한 올바른 하이퍼 파라미터(hyperparameters) 세트를 선택하는 것이다.

학습 과정을 제어하는 *?*과정은 딥 러닝 모델을 생성하는 동안 매우 중요하게 고려된다. 이 프로세스는 옵티마이저(optimizer) 알고리즘 튜닝을 담당하는 옵티마이저 기능의 하이퍼 파라미터에 의해 수행된다. 현재 연구에서 최적화 알고리즘에 놓인 주요 측면은 모델의 검증 및 테스트 오류를 *?*최소화하는 것이다. 특정 작업을 수행하기 위해서는, 기본 딥 러닝 모델 외부에 있는 하이퍼 파라미터를 가중치 및 편향 인 모델의 완벽한 내부 매개 변수를 생성하는 방식으로 조정해야 한다. 그러나 이 과정에서 직면한 문제는 보이지 않는 데이터에 대한 모델의 일반화 가능성을 높이기 위해 특정 훈련 세트보다는 모델에 특정한 방식으로 하이퍼 파라미터를 선택해야 한다는 것이다. 따라서 전체 모델 일반화 및 최적의 객관적 점수를 유지하기위한 완벽한 하이퍼 파라미터 세트를 선택하기 위해 베이지안(Bayesian) 순차 모델 기반 최적화(sequential model-based optimization, SMBO)가 사용된다.

Bayesian SMBO는 이전 목적 함수의 평가 결과를 기반으로 대리 모델(확률 함수)을 생성하여 목적 함수를 최소화하는 작업인 하이퍼 파라미터 최적화에 사용되는 알고리즘이다. 베이지안 SMBO의 기본 목적 함수는 다음과 같다.

Bayesian SMBO에 의해 개발된 대리 모델(surrogate model)은 메인 옵티마이저 기능보다 저렴한 것으로 간주된다 [6]. 또한 다음 평가 결과 세트는 예상 개선 기준(expected improvement criterion) [7]을 사용하여 선택된다. 기준은 다음과 같이 정의된다.

x는 하이퍼 파라미터 값에 속하고, f(x)의 객관적 점수가 개선된 것으로 간주되고 f*는 프로세스에서 찾은 객관적 점수의 최대 값이다. 또한 이 과정에서 AdaDelta [8]는 네트워크의 가중치와 편향을 최적화하기 위한 최적화 알고리즘으로 선택된다. AdaDelta는 경사 하강법(gradient descent) 알고리즘과 관련된 매우 강건한 알고리즘으로 간주된다. 알고리즘은 1차 정보만을 활용하여 훈련 과정의 적절한 과정에 동적으로 적응한다. 또한 이 알고리즘은 학습률을 수동으로 조정할 필요가 없으며 잡음이 있는 기울기 정보에 대해 매우 강력하다. 따라서 최적의 하이퍼 파라미터를 생성하기 위해 베이지안 SMBO가 알고리즘에 적용되었으며 아래에 언급되어 있다.

딥 러닝 모델의 또 다른 중요한 부분은 손실 함수이다. 이러한 함수는 일반적으로 예측과 실제 값 사이의 변동성을 결정하는 데 사용된다. 손실 함수의 출력은 손실을 줄임으로써 모델의 일반화 가능성을 높이는 음이 아닌 값이다 [9]. 모델의 손실 함수는 수학식 3과 같이 지정된다.

여기서

는 모델의 매개 변수를 나타내고 x는 특성 행렬을 나타내고 y는 특정 특성 집합에 대한 실제 값을 나타낸다.

작업에 사용되는 손실 함수는 SoftMax 손실이라고도 하는 범주 형 교차 엔트로피 손실이다. 범주 형 교차 엔트로피 손실은 출력이 확률인 모델의 성능을 결정한다. 범주 형 교차 엔트로피 손실 함수에서, 각 예측은 실제 클래스 값과 비교되고, 점수가 계산된다. 점수는 실제 값과의 차이를 기반으로 예측 확률에 페널티를 주는 데 사용됩니다. 예측된 값에 제공되는 패널티는 작은 점수가 작은 차이에 할당되고 큰 점수가 더 큰 차이에 할당되는 본질적으로 순전히 로그이다 [10]. 범주 형 교차 엔트로피 손실의 방정식은 수학식 4와 같다.

여기서 0에서 N까지의 i번째 데이터 샘플과 0에서 C까지의 클래스에 대해 double sum이 수행된다. 수학식 4에서,

는 C번째 범주(category)에 대한 i번째 관측치(observation)에 대한 지시 함수(indicator function)이다.

는 C번째 클래스의 i번째 관측치에 대한 예측 확률이다.

4. 결과

이 연구에서 개발된 3D 컨볼루션 신경망 모델은 뇌 MRI 스캔에서 알츠하이머 병을 감지하는 측면에서 괜찮은 결과를 보여주었다. 연구에서 개발된 모델은 세 클래스 모두에 대해 각각 0.9553 및 0.9411의 평균 재현율과 정확도를 유도하여 효과적인 결과를 정량적으로 제시했다. 또한 훈련 절차의 경우 전체 데이터 세트에 대해 80:20의 비율로 5분할 교차 검증을 수행했으며 모든 데이터 분할이 테스트 정확도에 대한 일정한 경향을 보여주는 것으로 나타났다. 표 5는 3D CNN 모델의 성능 평가를 나타낸다. 표 5는 보이지 않는 데이터에 대한 3D 컨볼 루션 신경망 모델의 일반화 가능성을 결정하는 데 사용된 5 분할 교차 검증의 결과를 보여준다.

도 5는 3차 분할 교차 검증의 혼동 행렬의 일례를 도시한 도면이다. 도 5는 3D CNN 아키텍처의 최고 성능 분할에서 받은 결과를 기반으로 생성된 혼동 행렬을 보여준다. 또한 혼동 매트릭스에서 알츠하이머 병(Alzheimer's Disease, AD) 클래스에 속하는 샘플의 재현율이 100%여야 한다는 초기 가설과 결과가 완전히 일치하는 것을 볼 수 있다. MCI 클래스에서는 대조군(건강한 대조군) 클래스로 오류 예측이 없어야 한다. 건강한 클래스의 재현율은 85% 이상이어야 한다.

딥 러닝 모델의 성능을 평가하기 위해 측정해야 하는 또 다른 매우 중요한 요소는 모델의 해석 가능성이다. 의료 분야는 자동화된 지능형 시스템 구현과 관련하여 중요한 분야로 간주된다. 따라서 모델에서 제공해야 하는 주요 요구 사항은 특정 예측 또는 특정 예측으로 이어진 인과 관계 정보 뒤에 있는 해석이다. 따라서 개발된 3D CNN 모델의 예측을 해석하기 위해 Class Activation Map을 사용하였다 [11-13]. 도 6은 알츠하이머 병으로 예측된 샘플 MRI 스캔의 슬라이스(slices)에 대한 클래스 활성화 맵(Class Activation Maps)을 보여준다. 클래스 활성화 맵은 모델이 저하가 발생한 해마 지역에 많은 주의를 기울였음을 보여준다. (a)는 축 방향(axial view), (b)는 관상면(coronal view), (c)는 시상면(sagittal view)으로 촬영된 샘플이다.

5. 디스커션(discussion)

논문에 제시된 연구는 1.5T-T1 가중치 MRI 스캔에서 알츠하이머 병을 감지하기 위한 3D 컨볼루션 신경망 아키텍처의 개발에 관한 것이다. 연구를 수행하기 위해 세 가지 다른 연구 그룹 인 건강한 대조군(Healthy Control), 경도 인지 장애(MCI) 및 알츠하이머 병(Alzheimer 's disease)의 ADNI 데이터베이스에서 MRI 스캔을 수집했다. ADNI가 다기관 연구라고 논의했듯이 획득한 MRI 스캔에는 공간 및 시간 차이가 있었다. 따라서 모든 MRI 스캔을 동일한 공간으로 가져오기 위해 모든 MRI 스캔에 대해 이미지 등록 루틴이 수행되었다. 이미지 등록은 ICBM(International Consortium for Brain Mapping)-152-T1w(weighted)-Nonlinear-Symmetric atlas를 사용하여 수행되었다. 뇌 MRI 스캔 등록 후, 3D Convolutional Neural Network는 알츠하이머 병 감지를 위한 MRI 스캔의 복잡한 패턴을 학습하고 MRI 스캔을 각각 Healthy Control, MCI 및 Alzheimer 's disease 범주로 분류하기 위해 개발되었다.

모델을 개발하기 전에 모델의 성능 메트릭을 평가하기 위한 가설이 설계되었다. 가설은 알츠하이머 병 클래스에 속하는 샘플의 재현율이 100% 여야하고, MCI 클래스의 경우 대조군 클래스로 잘못된 예측이 없어야 하며, 건강한 대조군에 대한 재현율이 85% 이상이어야 한다는 것이다. 따라서 선행 가설을 만족시키기 위해 5개의 성능 메트릭 즉, 혼동 행렬, 정확도, 정밀도, 재현율, f1 점수를 평가했다. 결과에서 모델은 세 클래스 모두에 대해 각각 최대 정확도 95.88 %, 재현율 0.9601, 정확도 0.951 및 f1 점수 0.9538을 기록하여 우월하게 예측했음을 알 수 있다. 또한 모델의 일반화 능력을 이해하기 위해 5-Split 교차 검증을 수행했으며 모든 교차 검증 분할에 대해 모델이 지속적으로 수행되는 것을 관찰했다.

현재 인공 지능의 연구 분야 인 머신 러닝과 딥 러닝은 블랙 박스 모델의 해석 가능성에 상당히 초점을 맞추고 있다. 따라서 모델이 올바른 영역을 선택하는지 또는 알츠하이머 병의 감지를 담당하는 영역을 선택하는지 확인하고 이해하기 위해 3D CAM (3D Class Activation Map)이 개발되었다. 도 6에 표시된 3D-CAM 플롯에서 모델이 해마에 많은 주의를 기울여 특정 MRI 스캔을 알츠하이머 병으로 예측했음을 알 수 있다. 따라서 이 모델은 MRI 스캔에서 알츠하이머 병의 원인이 되는 특정 영역을 이해했다고 볼 수 있다.

6. 결론

제안된 연구에서는 3D Convolutional Neural Network를 이용하여 알츠하이머 병의 검출을 위해 3D MRI 분석을 수행했다. 이 연구는 알츠하이머 병을 감지하기 위해 뇌의 모든 피질 하 구조의 복잡한 패턴을 이해하기 위해 전체 뇌 3D MRI 스캔을 활용했다. CNN 모델의 평가를 위해 특정 성능 메트릭(metrics)이 고려되었으며 성능 메트릭 값을 검증하기 위해 이전 가설이 설계되었다. 3D-CNN 모델의 훈련 후 연구의 이전 가설과 밀접하게 일치하여 모델이 우수하게 수행되는 것이 관찰되었으며 또한 꽤 놀라운 결과를 입증했다. 이 연구에서 개발된 모델은 세 클래스 모두에 대해 전체 정확도 95.88 %, 재현율 0.9601, 정확도 0.951 및 f1 점수 0.9538을 보였다. 또한 MRI 스캔에 대한 모델의 해석도 3D Class Activation Maps를 사용하여 평가되었으며, 모델이 특정 MRI 스캔을 알츠하이머 병으로 예측하기 위해 해마에 최대한주의를 기울인 것으로 나타났다.

결론적으로, 제안된 연구의 결과는 매우 동기를 부여한다. 그러나 3D-CNN을 사용하여 알츠하이머 병을 감지하는 데 활용할 수 있는 혁신적인 아키텍처 개발과 관련된 수많은 연구가 남아 있다. 더욱이 현재 연구는 전뇌 MRI 스캔에 초점을 맞추고 있지만 앞으로는 특정 피질 하 구조를 고려하고 알츠하이머 병 검출을 위한 보다 효율적인 아키텍처 개발을 고려하여 이러한 연구를 수행하는 것이 좋다.

도 7은 알츠하이머 질병(Alzheimer's Disease) 검출 방법의 일 실시예를 도시한 흐름도이다.

도 7을 참조하면, 단계 S710에서 프로세서는 MRI 스캔을 획득할 수 있다. 예를 들어, 연구 데이터는 ADNI 데이터베이스(http://adni.loni.usc.edu/)에서 수집될 수 있다. 연구를 위해 선택된 MRI 스캔은 표 1에 설명된 특정 영상 프로토콜을 기반으로 했으며 기준 방문(baseline visit)에 해당할 수 있다. 또한, 연구에서 고려된 모든 스캔은 단일 유형의 스캐너(예를 들어, GE Medical Systems)에서 얻은 것일 수 있다. 또한, 획득된 모든 스캔은 MP-RAGE(Magnetization Prepared-Rapid Gradient Echo) 시퀀스를 기반으로 할 수 있다. 연구에 사용된 모든 스캔은 정수리(vertex), 소뇌(cerebellum), 및 뇌교(pons)를 포함한 시야(Field of View, FoV)에서 20-30분 시간 범위에서 획득될 수 있다.

단계 S720에서 프로세서는 MRI 스캔을 등록할 수 있다. 예를 들어, 연구에 사용된 데이터 세트는 ADNI 데이터베이스에서 획득될 수 있으며 ADNI는 다기관 연구이므로 연구에서 얻은 이미징 스캔에는 시간 및 공간 차이가 포함되어 있을 수 있다. 이 특정 문제를 해결하고 모든 스캔 간에 일정한 경향을 유지하려면 모든 스캔이 MNI(Montreal Neurological Institute) [1,2] 또는 IBASPM(Individual Brain Atlases using Statistical Parametric Mapping) [3]와 같은 동일한 공간에 있어야 한다. 따라서 모든 스캔을 동일한 공간으로 가져오기 위해 이미지 등록 절차가 수행될 수 있다. 이미지 등록은 고정된 이미지를 변경하여 올바른 정렬 매개 변수를 찾아 알 수 없거나 보이지 않는 이미지가 고정된 이미지와 유사하게 정렬될 수 있도록 하는 프로세스이다. 간단하게 이미지 등록은 두 이미지를 특정 공간에 정렬하는 과정으로 이해할 수 있다. 하나는 소스 이미지로, 다른 하나는 타겟 이미지로 작동하고 소스 이미지는 타겟 이미지와 정렬하는 방법으로 변환될 수 있다. 특정 연구에서는 PPMI 데이터베이스에서 얻은 MRI 스캔을 소스 이미지로 간주하고 MNI 또는 IBASPM과 같은 아틀라스(atlas)를 대상 이미지로 간주한다.

ADNI 데이터베이스에서 얻은 MRI 스캔 등록은 [1,2]에서 만든 ICBM(International Consortium for Brain Mapping)-152-T1w(weighted)-비선형(nonlinear)-대칭(symmetric) 아틀라스(atlas)를 사용하여 수행될 수 있다. ICBM-152-T1w-비선형-대칭 아틀라스의 사양은 표 4에 설명되어 있다. 표 4는 ICBM-152- T1w-비선형-대칭 아틀라스에서 획득한 스캔 사양이다.

MRI 스캔 등록은 ANTsPy(Advanced Normalization Tools Python) [4]로 알려진 가장 효과적인 정규화 도구 중 하나를 사용하여 수행될 수 있다. ANTsPy는 MRI, fMRI 및 SPECT 데이터에 대한 전처리를 수행하기 위해 복잡한 이미징 데이터 세트에서 중요한 정보를 추출하기 위해 이미징 연구 분야에서 특히 사용된다. 획득한 MRI 스캔을 ICBM-152-T1w-비선형-대칭 아틀라스에 등록하는 것은 대칭 정규화를 사용하여 수행될 수 있다. 도 2는 등록 프로세스 전후의 특정 MRI 스캔에 대한 도면이다. 도 2는 등록 전 후의 스캔 샘플이다. (a)는 등록 전 MRI 스캔이고, (b)는 등록 후 MRI 스캔이다.

본 명세서의 주요 전제는 3D 컨볼루션 신경망을 사용하여 알츠하이머 병을 감지하고 MRI 스캔을 건강한 대조군(HC), 경도인지 장애(MCI), 알츠하이머 병(AD)으로 분류하는 데 초점을 맞추고 있다. 알츠하이머 병 검출을 위한 프로세스 및 방법론의 전체 흐름은 도 3에 설명되어 있다. 방법론은 주로 4 단계 즉, 첫 번째, ADNI 데이터베이스에서 MRI 스캔 획득, 두 번째, 데이터 전처리, 등록 및 변환, 세 번째, 3D 컨볼루션 신경망 아키텍처, 마지막으로 네 번째, 특정 성능 메트릭을 기반으로 한 CNN(convolutional neural network) 아키텍처의 결과 및 성능 평가로 나뉜다.

단계 S730에서 프로세서는 MRI 스캔 패턴을 학습할 수 있다.

- 건강한 대조군 클래스의 재현율은 85% 이상이어야 한다.

학습 과정을 제어하는 *?*과정은 딥 러닝 모델을 생성하는 동안 매우 중요하게 고려된다. 이 프로세스는 옵티마이저(optimizer) 알고리즘 튜닝을 담당하는 옵티마이저 기능의 하이퍼 파라미터에 의해 수행된다. 현재 연구에서 최적화 알고리즘에 놓인 주요 측면은 모델의 검증 및 테스트 오류를 *?*최소화하는 것이다. 특정 작업을 수행하기 위해서는, 기본 딥 러닝 모델 외부에 있는 하이퍼 파라미터를 가중치 및 편향 인 모델의 완벽한 내부 매개 변수를 생성하는 방식으로 조정해야 한다. 그러나 이 과정에서 직면한 문제는 보이지 않는 데이터에 대한 모델의 일반화 가능성을 높이기 위해 특정 훈련 세트보다는 모델에 특정한 방식으로 하이퍼 파라미터를 선택해야 한다는 것이다. 따라서 전체 모델 일반화 및 최적의 객관적 점수를 유지하기 위한 완벽한 하이퍼 파라미터 세트를 선택하기 위해 베이지안(Bayesian) 순차 모델 기반 최적화(sequential model-based optimization, SMBO)가 사용된다.

Bayesian SMBO는 이전 목적 함수의 평가 결과를 기반으로 대리 모델(확률 함수)을 생성하여 목적 함수를 최소화하는 작업인 하이퍼 파라미터 최적화에 사용되는 알고리즘이다. 베이지안 SMBO의 기본 목적 함수는 수학식 1과 같다.

Bayesian SMBO에 의해 개발된 대리 모델은 메인 옵티마이저 기능보다 저렴한 것으로 간주된다 [6]. 또한 다음 평가 결과 세트는 예상 개선 기준(expected improvement criterion) [7]을 사용하여 선택된다. 기준은 수학식 2와 같이 정의된다.

단계 S740에서 프로세서는 MRI 스캔을 분류할 수 있다. 예를 들어, MRI 스캔은 건강한 그룹, 경도 인지 장애 그룹, 알츠하이머 질병 그룹 중 하나의 그룹으로 분류될 수 있다.

단계 S750에서 프로세서는 MRI 스캔 분류의 결과를 평가할 수 있다.

딥 러닝 모델의 성능을 평가하기 위해 측정해야 하는 또 다른 매우 중요한 요소는 모델의 해석 가능성이다. 의료 분야는 자동화된 지능형 시스템 구현과 관련하여 중요한 분야로 간주된다. 따라서 모델에서 제공해야 하는 주요 요구 사항은 특정 예측 또는 특정 예측으로 이어진 인과 관계 정보 뒤에 있는 해석이다. 따라서 개발된 3D CNN 모델의 예측을 해석하기 위해 Class Activation Map을 사용하였다 [11-13]. 도 6는 알츠하이머 병으로 예측된 샘플 MRI 스캔의 슬라이스(slices)에 대한 클래스 활성화 맵(Class Activation Maps)을 보여준다. 클래스 활성화 맵은 모델이 저하가 발생한 해마 지역에 많은 주의를 기울였음을 보여준다. (a)는 축 방향(axial view), (b)는 관상면(coronal view), (c)는 시상면(sagittal view)으로 촬영된 샘플이다.

본 개시의 다양한 실시예들은 기기(machine) 의해 읽을 수 있는 저장 매체(storage medium)에 저장된 하나 이상의 명령어들을 포함하는 소프트웨어(예:　프로그램))로서 구현될 수 있다. 예를 들면, 기기의 프로세서는, 저장 매체로부터 저장된 하나 이상의 명령어들 중 적어도 하나의 명령을 호출하고, 그것을 실행할 수 있다. 이것은 기기가 상기 호출된 적어도 하나의 명령어에 따라 적어도 하나의 기능을 수행하도록 운영되는 것을 가능하게 한다. 상기 하나 이상의 명령어들은 컴파일러에 의해 생성된 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함할 수 있다. 기기로 읽을 수 있는 저장매체는, 비일시적(non-transitory) 저장매체의 형태로 제공될 수 있다. 여기서, ‘비일시적’은 저장매체가 실재(tangible)하는 장치이고, 신호(signal)(예: 전자기파)를 포함하지 않는다는 것을 의미할 뿐이며, 이 용어는 데이터가 저장매체에 반영구적으로 저장되는 경우와 임시적으로 저장되는 경우를 구분하지 않는다.

일 실시예에 따르면, 본 개시의 다양한 실시예들에 따른 방법은　컴퓨터　프로그램　제품(computer program product)에 포함되어 제공될 수 있다.　컴퓨터　프로그램　제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다.　컴퓨터　프로그램　제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory (CD-ROM))의 형태로 배포되거나, 또는 어플리케이션 스토어(예: 플레이 스토어TM)를 통해 또는 두 개의 사용자 장치들 간에 직접, 온라인으로 배포(예: 다운로드 또는 업로드)될 수 있다. 온라인 배포의 경우에,　컴퓨터　프로그램　제품의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 기기로 읽을 수 있는 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.

또한, 본 명세서에서, "부"는 프로세서 또는 회로와 같은 하드웨어 구성(hardware component), 및/또는 프로세서와 같은 하드웨어 구성에 의해 실행되는 소프트웨어 구성(software component)일 수 있다.

본 실시예의 범위는 상기 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 균등 개념으로부터 도출되는 모든 변경 또는 변형된 형태가 포함되는 것으로 해석되어야 한다.

Claims

프로세서에 의해 수행되는, 알츠하이머 질병(Alzheimer's Disease) 검출 방법에 있어서,
MRI(magnetic resonance imaging) 스캔(scan)을 획득하는 단계;
상기 MRI 스캔을 등록하는 단계;
상기 MRI 스캔의 패턴을 학습하는 단계; 및
상기 MRI 스캔을 건강한 그룹, 경도 인지 장애 그룹, 알츠하이머 질병 그룹 중 하나의 그룹으로 분류하는 단계;
를 포함하되,
상기 MRI 스캔을 등록하는 단계는,
상기 MRI 스캔을 타겟 이미지와 정렬하는 단계를 포함하고,
상기 MRI 스캔을 건강한 그룹, 경도 인지 장애 그룹, 알츠하이머 질병 그룹 중 하나의 그룹으로 분류하는 단계는,
컨볼루션 신경망(convolutional neural network) 모델이 수행되는 단계를 포함하고,
상기 컨볼루션 신경망의 가중치(weight) 및 편향(bias)을 최적화하기 위한 하이퍼파라미터(hyperparameter)를 선택하기 위해 베이지안(Bayesian) 순차 모델 기반 최적화(sequential model-based optimization, SMBO)가 사용되고,
상기 베이지안 순차 모델 기반 최적화는 이전 목적 함수의 평가 결과를 기반으로 대리 모델(surrogate model)을 생성하여 목적 함수를 최소화하는 작업인 하이퍼파라미터 최적화에 사용되는 알고리즘이고,
상기 베이지안 순차 모델 기반 최적화 기본 목적 함수는 하이퍼파라미터에 대한 점수의 조건부 확률인,
방법.
삭제
청구항 1에 있어서,
상기 MRI 스캔 등록은 ANTsPy(Advanced Normalization Tools Python)를 사용하여 수행되는,
방법.
삭제
청구항 4에 있어서,
상기 컨볼루션 신경망 모델은 손실 함수를 포함하고,
상기 손실 함수는 예측 값과 실제 값 사이의 변동성을 결정하는 데 사용되고,
상기 손실 함수는 아래와 같고,

θ는 상기 컨볼루션 신경망 모델의 매개 변수를 나타내고, x는 특성 행렬을 나타내고, y는 특정 특성 집합에 대한 실제 값을 나타내는,
방법.
청구항 5에 있어서,
상기 손실 함수는 범주 형 교차 엔트로피 손실(categorical cross-entropy loss)이고,
상기 범주 형 교차 엔트로피 손실의 방정식은 아래와 같고,

는 C 번째 범주에 대한 i번째 관측치에 대한 지시 함수(indicator function),
는 C 번째 범주에 대한 i번째 관측치에 대한 예측 확률인,
방법.
청구항 6에 있어서,
상기 컨볼루션 신경망 모델은,
2개의 3D 컨볼루션 레이어(3 dimensional convolution layer) 및 하나의 최대 풀링 레이어(max-pooling layer)가 5번 반복되는 구성으로 10개의 컨볼루션 레이어와 5개의 최대 풀링 레이어를 포함하고,
제1 및 제2 3D 컨볼루션 레이어는 필터 개수가 8개이고, 커널 사이즈가 (4, 4, 4)이고, 스트라이드가 (2, 2, 2)인 3D 컨볼루션 레이어이고,
제3 및 제4 3D 컨볼루션 레이어는 필터 개수가 16개이고, 커널 사이즈가 (4, 4, 4)이고, 스트라이드가 (2, 2, 2)인 3D 컨볼루션 레이어이고,
제5 및 제6 3D 컨볼루션 레이어는 필터 개수가 64개이고, 커널 사이즈가 (4, 4, 4)이고, 스트라이드가 (1, 1, 1)인 3D 컨볼루션 레이어이고,
제7 3D 컨볼루션 레이어는 필터 개수가 256개이고, 커널 사이즈가 (4, 4, 4)이고, 스트라이드가 (1, 1, 1)인 3D 컨볼루션 레이어이고,
제8 3D 컨볼루션 레이어는 필터 개수가 512개이고, 커널 사이즈가 (4, 4, 4)이고, 스트라이드가 (1, 1, 1)인 3D 컨볼루션 레이어이고,
제9 3D 컨볼루션 레이어는 필터 개수가 1024개이고, 커널 사이즈가 (2, 2, 2)이고, 스트라이드가 (1, 1, 1)인 3D 컨볼루션 레이어이고,
제10 3D 컨볼루션 레이어는 필터 개수가 2048개이고, 커널 사이즈가 (2, 2, 2)이고, 스트라이드가 (1, 1, 1)인 3D 컨볼루션 레이어인,
방법.