KR20230046516A - 테스트 시간 혼합 증강 기반 불확실성 추정 방법, 장치 및 프로그램 - Google Patents

테스트 시간 혼합 증강 기반 불확실성 추정 방법, 장치 및 프로그램 Download PDF

Info

Publication number
KR20230046516A
KR20230046516A KR1020210129581A KR20210129581A KR20230046516A KR 20230046516 A KR20230046516 A KR 20230046516A KR 1020210129581 A KR1020210129581 A KR 1020210129581A KR 20210129581 A KR20210129581 A KR 20210129581A KR 20230046516 A KR20230046516 A KR 20230046516A
Authority
KR
South Korea
Prior art keywords
data
test data
class
uncertainty
augmented
Prior art date
Application number
KR1020210129581A
Other languages
English (en)
Inventor
홍헬렌
이한상
이해일
Original Assignee
서울여자대학교 산학협력단
한국과학기술원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 서울여자대학교 산학협력단, 한국과학기술원 filed Critical 서울여자대학교 산학협력단
Priority to KR1020210129581A priority Critical patent/KR20230046516A/ko
Publication of KR20230046516A publication Critical patent/KR20230046516A/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N5/00—Computing arrangements using knowledge-based models
    • G06N5/02—Knowledge representation; Symbolic representation
    • G06N5/022—Knowledge engineering; Knowledge acquisition

Abstract

테스트 시간 혼합 증강(Test-Time Mixup Augmentation) 방식을 이용하여 불확실성을 추정할 수 있는 방법, 장치 및 프로그램에 관한 것으로, 테스트 데이터와 학습 데이터를 획득하는 단계, 상기 테스트 데이터와 상기 테스트 데이터와 같은 클래스 또는 다른 클래스에 속하는 적어도 하나의 학습 데이터가 서로 중첩되도록 혼합하여 증강 테스트 데이터를 생성하는 단계, 상기 증강 테스트 데이터를 뉴럴 네트워크 모델에 입력하여 예측 데이터를 생성하는 단계, 및 상기 예측 데이터에 대한 불확실성을 추정하는 단계를 포함하는 것을 특징으로 한다.

Description

테스트 시간 혼합 증강 기반 불확실성 추정 방법, 장치 및 프로그램{METHOD, APPARATUS AND PROGRAM TO ESTIMATE UNCERTAINTY BASED ON TEST-TIME MIXUP AUGMENTATION}
본 발명은 불확실성 추정 방법에 관한 것으로, 보다 구체적으로 테스트 시간 혼합 증강(Test-Time Mixup Augmentation) 방식을 이용하여 불확실성을 추정할 수 있는 방법, 장치 및 프로그램에 관한 것이다.
일반적으로, 딥러닝 모델을 학습시키는 경우, 데이터가 부족하는 문제가 발생하면 데이터 증강(augmentation)을 사용할 수 있다.
데이터 증강을 위해서는, 데이터 셋을 회전, 반전, 뒤집기, 늘이기, 줄이기 및 노이즈 등과 같이 다양한 방법을 사용하여 부풀릴 수 있다.
이러한 다양한 방법 중 TTA(Test-Time Augmentation) 방식은, 테스트 셋으로 모델을 테스트하거나 모델을 실제 운영할 때 데이터 증강을 수행하는 방식이다.
일 예로, TTA 방식은, 원본 입력 이미지를 증강하여 다수의 이미지를 만든 다음, 이들을 학습된 모델에 각각 입력하고, 모델에서 나온 결과를 모두 평균화하여 최종 결과를 도출할 수 있다.
이처럼, TTA 방식은, 원본 이미지 한장만을 모델에 입력하여 결과를 예측하는 것이 아니라 원본 이미지를 증강한 다양한 관점의 이미지들을 모델에 입력하여 최종 결과를 도출함으로써, 불확실성이 높은 이미지 데이터에 대해 오차율을 최소화하여 예측 성능을 개선시킬 수 있다.
하지만, TTA 방식을 이용하여 불확실성을 추정할 경우, OoD(Out-of-Distribution) 데이터에 대한 반응에서 불확실성에 덜 민감한 문제가 있었다.
따라서, 향후, 불확실성 추정에 대한 정확도를 높일 수 있는 불확실성 추정 방법의 개발이 요구되고 있다.
대한민국 등록특허 10-2200212호 (2021. 01. 08)
상술한 바와 같은 문제점을 해결하기 위한 본 발명의 일 목적은, 서로 다른 클래스의 데이터를 혼합한 테스트 시간 혼합 증강 방식으로 불확실성을 추정함으로써, 불확실성 추정에 대한 정확도를 높일 수 있는 불확실성 추정 방법, 장치 및 프로그램을 제공하는 것이다.
본 발명이 해결하고자 하는 과제들은 이상에서 언급된 과제로 제한되지 않으며, 언급되지 않은 또 다른 과제들은 아래의 기재로부터 통상의 기술자에게 명확하게 이해될 수 있을 것이다.
상술한 과제를 해결하기 위한 본 발명의 일 실시예에 따른 불확실성 추정 방법은, 테스트 데이터와 학습 데이터를 획득하는 단계, 상기 테스트 데이터와 상기 테스트 데이터와 같은 클래스 또는 다른 클래스에 속하는 적어도 하나의 학습 데이터가 서로 중첩되도록 혼합하여 증강 테스트 데이터를 생성하는 단계, 상기 증강 테스트 데이터를 뉴럴 네트워크 모델에 입력하여 예측 데이터를 생성하는 단계, 및 상기 예측 데이터에 대한 불확실성을 추정하는 단계를 포함하는 것을 특징으로 한다.
실시 예에 있어서, 테스트 데이터와 학습 데이터를 획득하는 단계는, 제1 클래스의 테스트 데이터를 한 개 획득하면 상기 제1 클래스와 다른 제2 클래스 내지 제N 클래스에 속하는 다수의 학습 데이터를 획득하는 것을 특징으로 한다.
실시 예에 있어서, 상기 제2 클래스 내지 제N 클래스에 속하는 다수의 학습 데이터를 획득하는 단계는, 각 클래스마다 적어도 하나의 학습 데이터를 획득하는 것을 특징으로 한다.
실시 예에 있어서, 상기 테스트 데이터와 학습 데이터를 획득하는 단계는, 제1 클래스의 테스트 데이터를 한 개 획득하면 상기 제1 클래스의 학습 데이터와 상기 제1 클래스와 다른 제2 클래스 내지 제N 클래스에 속하는 다수의 학습 데이터를 획득하는 것을 특징으로 한다.
실시 예에 있어서, 상기 테스트 데이터와 학습 데이터를 획득하는 단계는, 제1 클래스의 테스트 데이터를 한 개 획득하면 상기 제1 클래스와 다른 특정 클래스에 속하는 학습 데이터를 획득하는 것을 특징으로 한다.
실시 예에 있어서, 상기 테스트 데이터 및 학습 데이터의 클래스는, 신체의 특정 병변에 대한 다수의 질병 클래스로 분류되는 것을 특징으로 한다.
실시 예에 있어서, 상기 증강 테스트 데이터를 생성하는 단계는, 제1 클래스의 테스트 데이터 한 개와 제2 클래스 내지 제N 클래스에 속하는 다수의 학습 데이터가 획득되면, 상기 제1 클래스의 테스트 데이터 한 개와 상기 제2 클래스 내지 제N 클래스에 속하는 학습 데이터 한 개를 중첩되도록 혼합하여 증강 테스트 데이터를 생성하고, 상기 제2 클래스 내지 제N 클래스에 속하는 모든 학습 데이터가 상기 테스트 데이터와의 혼합이 완료되면 상기 증강 테스트 데이터 생성을 종료하는 것을 특징으로 한다.
실시 예에 있어서, 상기 증강 테스트 데이터를 생성하는 단계는, 제1 클래스의 테스트 데이터 한 개와 상기 제1 클래스에 속하는 학습 데이터를 포함한 제2 클래스 내지 제N 클래스에 속하는 다수의 학습 데이터가 획득되면, 상기 제1 클래스의 테스트 데이터 한 개와 상기 제1 클래스에 속하는 학습 데이터 한개를 중첩되도록 혼합하여 제1 증강 테스트 데이터를 생성하고, 상기 제1 클래스의 테스트 데이터 한 개와 상기 제2 클래스 내지 제N 클래스에 속하는 학습 데이터 한 개를 중첩되도록 혼합하여 제2 증강 테스트 데이터를 생성하며, 상기 제2 클래스 내지 제N 클래스에 속하는 모든 학습 데이터가 상기 테스트 데이터와의 혼합이 완료되면 상기 증강 테스트 데이터 생성을 종료하는 것을 특징으로 한다.
실시 예에 있어서, 상기 증강 테스트 데이터를 생성하는 단계는, 제1 클래스의 테스트 데이터 한 개와 상기 제1 클래스와 다른 특정 클래스에 속하는 학습 데이터가 획득되면, 상기 제1 클래스의 테스트 데이터 한 개와 상기 특정 클래스에 속하는 학습 데이터 한 개를 중첩되도록 혼합하여 증강 테스트 데이터를 생성하고, 상기 특정 클래스에 속하는 모든 학습 데이터가 상기 테스트 데이터와의 혼합이 완료되면 상기 증강 테스트 데이터 생성을 종료하는 것을 특징으로 한다.
실시 예에 있어서, 상기 증강 테스트 데이터를 생성하는 단계는, 상기 테스트 데이터의 이미지 및 라벨과 상기 학습 데이터의 이미지 및 라벨을 모두 중첩되도록 혼합하여 상기 증강 테스트 데이터를 생성하는 것을 특징으로 한다.
실시 예에 있어서, 상기 증강 테스트 데이터를 생성하는 단계는, 상기 획득한 학습 데이터 중에 상기 테스트 데이터를 변형하여 미리 증강된 학습 데이터가 포함되면 상기 미리 증강된 학습 데이터와 상기 테스크 데이터를 서로 중첩되도록 혼합하여 증강 테스트 데이터를 생성하는 것을 특징으로 한다.
실시 예에 있어서, 상기 예측 데이터에 대한 불확실성을 추정하는 단계는, 상기 예측 데이터에 대한 클래스 히스토그램을 생성하여 불확실성을 추정하고, 클래스들간의 거리를 확인하여 유사도를 판단하는 것을 특징으로 한다.
실시 예에 있어서, 상기 예측 데이터에 대한 불확실성을 추정하는 단계는, 상기 추정한 불확실성 값이 낮을수록 상기 예측 데이터의 정확도가 증가하고, 상기 추정한 불확실성 값이 높을수록 상기 예측 데이터의 정확도가 감소하는 것으로 판단하는 것을 특징으로 한다.
본 발명의 일 실시 예에 따른 컴퓨터 판독가능 저장 매체 저장된 컴퓨터 프로그램으로서, 상기 컴퓨터 프로그램은 하나 이상의 프로세서에서 실행되는 경우, 불확실성 추정을 위한 이하의 동작들을 수행하도록 하며, 상기 동작들은, 테스트 데이터와 학습 데이터를 획득하는 동작, 상기 테스트 데이터와 상기 테스트 데이터와 같은 클래스 또는 다른 클래스에 속하는 적어도 하나의 학습 데이터가 서로 중첩되도록 혼합하여 증강 테스트 데이터를 생성하는 동작, 상기 증강 테스트 데이터를 뉴럴 네트워크 모델에 입력하여 예측 데이터를 생성하는 동작, 및 상기 예측 데이터에 대한 불확실성을 추정하는 동작을 포함하는 것을 특징으로 한다.
본 발명의 일 실시 예에 따른 불확실성 추정 방법을 제공하기 위한 컴퓨팅 장치는, 하나 이상의 코어를 포함하는 프로세서 및 메모리를 포함하고, 상기 프로세서는, 테스트 데이터와 학습 데이터를 획득하고, 상기 테스트 데이터와 상기 테스트 데이터와 같은 클래스 또는 다른 클래스에 속하는 적어도 하나의 학습 데이터가 서로 중첩되도록 혼합하여 증강 테스트 데이터를 생성하며, 상기 증강 테스트 데이터를 뉴럴 네트워크 모델에 입력하여 예측 데이터를 생성하고, 그리고 상기 예측 데이터에 대한 불확실성을 추정하는 것을 특징으로 한다.
본 발명의 일 실시 예에 따른 불확실성 추정을 위한 사용자 단말은, 하나 이상의 코어를 포함하는 프로세서, 메모리, 및 사용자 인터페이스를 제공하는 출력부를 포함하고, 상기 사용자 인터페이스는, 테스트 데이터와 상기 테스트 데이터와 같은 클래스 또는 다른 클래스에 속하는 적어도 하나의 학습 데이터를 중첩하여 혼합한 증강 테스트 데이터에 대한 응답으로, 불확실성 추정 결과 정보를 표시하고, 그리고 상기 불확실성 추정 결과 정보는, 상기 테스트 데이터와 학습 데이터를 획득하고, 상기 테스트 데이터와 상기 테스트 데이터와 같은 클래스 또는 다른 클래스에 속하는 적어도 하나의 학습 데이터가 서로 중첩되도록 혼합하여 증강 테스트 데이터를 생성하며, 상기 증강 테스트 데이터를 뉴럴 네트워크 모델에 입력하여 예측 데이터를 생성하고, 상기 예측 데이터에 대한 불확실성을 추정하여 생성되는 것을 특징으로 한다.
실시 예에 있어서, 상기 불확실성 추정 결과 정보는, 불확실성 학습에 의한 특정 클래스에 대한 다른 클래스의 유사도, 불확실성 추정에 대한 정확도, 테스트 데이터에 대한 불확실성 분포도를 포함하는 것을 특징으로 한다.
실시 예에 있어서, 상기 사용자 인터페이스는, 사용자 입력에 대한 응답으로, 상기 불확실성 추정 결과 정보를 표시하고, 그리고 상기 불확실성 추정 결과 정보는, 상기 테스트 데이터와 학습 데이터를 획득하고, 상기 테스트 데이터와 상기 테스트 데이터와 같은 클래스 또는 다른 클래스에 속하는 적어도 하나의 학습 데이터가 서로 중첩되도록 혼합하여 증강 테스트 데이터를 생성하며, 상기 증강 테스트 데이터를 뉴럴 네트워크 모델에 입력하여 예측 데이터를 생성하고, 상기 예측 데이터에 대한 불확실성을 추정하여 생성되는 것을 특징으로 한다.
상술한 과제를 해결하기 위한 본 발명의 다른 실시 예에 따른 설골 움직임 추적 방법을 제공하는 컴퓨터 프로그램은, 하드웨어인 컴퓨터와 결합되어 상술한 방법 중 어느 하나의 방법을 수행하기 위해 매체에 저장된다.
이 외에도, 본 발명을 구현하기 위한 다른 방법, 다른 시스템 및 상기 방법을 실행하기 위한 컴퓨터 프로그램을 기록하는 컴퓨터 판독 가능한 기록 매체가 더 제공될 수 있다.
상기와 같이 본 발명에 따르면, 서로 다른 클래스의 데이터를 혼합한 테스트 시간 혼합 증강 방식으로 불확실성을 추정함으로써, 불확실성 추정에 대한 정확도를 높일 수 있다.
본 발명의 효과들은 이상에서 언급된 효과로 제한되지 않으며, 언급되지 않은 또 다른 효과들은 아래의 기재로부터 통상의 기술자에게 명확하게 이해될 수 있을 것이다.
도 1은, 본 발명의 일 실시예에 따라, 불확실성 추정 방법을 제공하기 위한 동작을 수행하는 컴퓨팅 장치의 블록 구성도를 도시한 도면이다.
도 2 및 도 3은, 본 발명의 일 실시예에 따라, 네트워크 함수를 나타낸 개략도이다.
도 4는, 본 발명의 일 실시예에 따라, TTA와 TTMA의 불확실성 추정에 대한 정확도를 비교 설명하기 위한 도면이다.
도 5는, 본 발명의 일 실시예에 따라, 정답 샘플과 오답 샘플의 불확실성 분포도를 비교 설명하기 위한 도면이다.
도 6은, 본 발명의 일 실시예에 따라, 불확실성 학습을 통해 특정 클래스에 대한 다른 클래스의 유사도를 설명하기 위한 도면이다.
도 7은, 본 발명의 일 실시예에 따라, 혼합 가중치 알파값에 상응하는 불확실성 추정에 대한 정확도를 비교 설명하기 위한 도면이다.
본 발명의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나, 본 발명은 이하에서 개시되는 실시예들에 제한되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 본 실시예들은 본 발명의 개시가 완전하도록 하고, 본 발명이 속하는 기술 분야의 통상의 기술자에게 본 발명의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 발명은 청구항의 범주에 의해 정의될 뿐이다.
본 명세서에서 사용된 용어는 실시예들을 설명하기 위한 것이며 본 발명을 제한하고자 하는 것은 아니다. 본 명세서에서, 단수형은 문구에서 특별히 언급하지 않는 한 복수형도 포함한다. 명세서에서 사용되는 "포함한다(comprises)" 및/또는 "포함하는(comprising)"은 언급된 구성요소 외에 하나 이상의 다른 구성요소의 존재 또는 추가를 배제하지 않는다. 명세서 전체에 걸쳐 동일한 도면 부호는 동일한 구성 요소를 지칭하며, "및/또는"은 언급된 구성요소들의 각각 및 하나 이상의 모든 조합을 포함한다. 비록 "제1", "제2" 등이 다양한 구성요소들을 서술하기 위해서 사용되나, 이들 구성요소들은 이들 용어에 의해 제한되지 않음은 물론이다. 이들 용어들은 단지 하나의 구성요소를 다른 구성요소와 구별하기 위하여 사용하는 것이다. 따라서, 이하에서 언급되는 제1 구성요소는 본 발명의 기술적 사상 내에서 제2 구성요소일 수도 있음은 물론이다.
다른 정의가 없다면, 본 명세서에서 사용되는 모든 용어(기술 및 과학적 용어를 포함)는 본 발명이 속하는 기술분야의 통상의 기술자에게 공통적으로 이해될 수 있는 의미로 사용될 수 있을 것이다. 또한, 일반적으로 사용되는 사전에 정의되어 있는 용어들은 명백하게 특별히 정의되어 있지 않는 한 이상적으로 또는 과도하게 해석되지 않는다.
이하, 첨부된 도면을 참조하여 본 발명의 실시예를 상세하게 설명한다.
설명에 앞서 본 명세서에서 사용하는 용어의 의미를 간략히 설명한다. 그렇지만 용어의 설명은 본 명세서의 이해를 돕기 위한 것이므로, 명시적으로 본 발명을 한정하는 사항으로 기재하지 않은 경우에 본 발명의 기술적 사상을 한정하는 의미로 사용하는 것이 아님을 주의해야 한다.
본 명세서에서 신경망, 인공 신경망, 네트워크 함수는 종종 상호 교환 가능하게 사용될 수 있다.
본 발명의 상세한 설명 및 청구항들에 걸쳐 이용된 "영상" 또는 "영상 데이터"라는 용어는 이산적 영상 요소들(예컨대, 2차원 영상에 있어서는 픽셀)로 구성된 다차원 데이터를 지칭하며, 달리 말하자면, (예컨대, 비디오 화면에 표시된) 눈으로 볼 수 있는 대상 또는 (예컨대, CT, MRI 검출기 등의 픽셀 출력에 대응되는 파일과 같은) 그 대상의 디지털 표현물을 지칭하는 용어이다.
예를 들어 "이미지" 또는 "영상"은 전산화 단층 촬영(CT; computed tomography), 자기 공명 영상(MRI; magnetic resonance imaging), 설골 영상, 초음파 또는 본 발명의 기술분야에서 공지된 임의의 다른 의료 영상 시스템의 의하여 수집된 피검체(subject)의 의료 영상일 수 있다. 영상이 반드시 의료적 맥락에서 제공되어야 하는 것은 아니고 비의료적 맥락에서 제공될 수도 있는 바, 예를 들어 보안 검색용 X선 촬영 등이 있을 수 있다.
본 발명의 상세한 설명 및 청구항들에 걸쳐 'DICOM(Digital Imaging and Communications in Medicine; 의료용 디지털 영상 및 통신)' 표준은 의료용 기기에서 디지털 영상 표현과 통신에 이용되는 여러 가지 표준을 총칭하는 용어인 바, DICOM 표준은 미국 방사선 의학회(ACR)와 미국 전기 공업회(NEMA)에서 구성한 연합 위원회에서 발표한다.
또한, 본 발명의 상세한 설명 및 청구항들에 걸쳐 '의료영상 저장 전송 시스템(PACS; Picture Archiving and Communication System)'은 DICOM 표준에 맞게 저장, 가공, 전송하는 시스템을 지칭하는 용어이며, X선, CT, MRI와 같은 디지털 의료영상 장비를 이용하여 획득된 의료영상 이미지는 DICOM 형식으로 저장되고 네트워크를 통하여 병원 내외의 단말로 전송이 가능하며, 이에는 판독 결과 및 진료 기록이 추가될 수 있다.
또한, 본 명세서에 걸쳐, 뉴럴 네트워크(neural network), 신경망 네트워크, 네트워크 함수는, 동일한 의미로 사용될 수 있다. 뉴럴 네트워크는, 일반적으로 “노드”라 지칭될 수 있는 상호 연결된 계산 단위들의 집합으로 구성될 수 있다. 이러한 “노드”들은, “뉴런(neuron)”들로 지칭될 수도 있다. 뉴럴 네트워크는, 적어도 둘 이상의 노드들을 포함하여 구성된다. 뉴럴 네트워크들을 구성하는 노드(또는 뉴런)들은 하나 이상의 “링크”에 의해 상호 연결될 수 있다.
도 1은, 본 발명의 일 실시예에 따라, 불확실성 추정 방법을 제공하기 위한 동작을 수행하는 컴퓨팅 장치의 블록 구성도를 도시한 도면이다.
도 1에 도시된 컴퓨팅 장치(100)의 구성은 간략화하여 나타낸 예시일 뿐이다. 본 발명의 일 실시예에서 컴퓨팅 장치(100)는 컴퓨팅 장치(100)의 컴퓨팅 환경을 수행하기 위한 다른 구성들이 포함될 수 있고, 개시된 구성들 중 일부만이 컴퓨팅 장치(100)를 구성할 수도 있다.
컴퓨팅 장치(100)는, 프로세서(110), 메모리(130), 네트워크부(150)를 포함할 수 있다.
본 발명에서, 프로세서(110)는, 테스트 시간 혼합 증강(Test-Time Mixup Augmentation) 방식을 이용하여 불확실성을 추정할 수 있는 방법에 관한 것으로, 테스트 데이터와 학습 데이터를 획득하고, 테스트 데이터와 테스트 데이터와 같은 클래스 또는 다른 클래스에 속하는 적어도 하나의 학습 데이터가 서로 중첩되도록 혼합하여 증강 테스트 데이터를 생성하며, 증강 테스트 데이터를 뉴럴 네트워크 모델에 입력하여 예측 데이터를 생성하고, 예측 데이터에 대한 불확실성을 추정할 수 있다.
여기서, 테스트 데이터 및 학습 데이터는, 영상 데이터, 음성 데이터 및 시계열 데이터 중 적어도 하나를 포함할 수 있다. 즉, 의료업에 종사하는 자 또는 진단을 위한 장치 등이 데이터 내에 질병의 존재 유무를 판단할 수 있는 임의의 형태의 데이터가 의료 데이터에 포함될 수 있다. 영상 데이터는 환자의 환부를 검사 장비를 통해 촬영 또는 측정하여 전기 신호화 한 후 출력되는 모든 영상 데이터를 포함한다. 영상 데이터는, 의료 영상 촬영기기로부터 시간에 따라 연속하여 촬영된 동영상에서 동영상의 각 프레임을 구성하는 영상 데이터를 포함할 수 있다. 예를 들어, 초음파 검사 영상 데이터, MRI 장치에 의한 영상 데이터, CT 단층 촬영 영상 데이터, X-ray 촬영 영상 데이터 등을 포함한다. 나아가, 음성 데이터를 전기 신호로 변환하여 그래프 형태의 이미지로 출력하거나 시계열 데이터를 그래프 등의 시각화 된 자료로 나타낸 경우, 해당 이미지 또는 자료는, 상기 영상 데이터에 포함될 수 있다. 일 예로, 의료 데이터는, CT 영상을 포함할 수 있다. 의료 데이터에 관한 전술한 예시는, 일 예시에 불과할 뿐, 본 개시를 제한하지 않는다.
다음, 프로세서(110)는, 일 실시예로서, 테스트 데이터와 학습 데이터를 획득할 때, 제1 클래스의 테스트 데이터를 한 개 획득하면 제1 클래스와 다른 제2 클래스 내지 제N 클래스에 속하는 다수의 학습 데이터를 획득할 수 있다.
여기서, 프로세서(110)는, 제2 클래스 내지 제N 클래스에 속하는 다수의 학습 데이터를 획득할 때, 각 클래스마다 적어도 하나의 학습 데이터를 획득할 수 있다.
일 예로, 각 클래스에서 획득한 학습 데이터의 개수는, 서로 동일한 개수일 수 있다.
다른 일 예로, 각 클래스에서 획득한 학습 데이터의 개수는, 불균일한 개수일 수도 있다.
이어, 프로세서(110)는, 다른 실시예로서, 테스트 데이터와 학습 데이터를 획득할 때, 제1 클래스의 테스트 데이터를 한 개 획득하면 제1 클래스의 학습 데이터와 제1 클래스와 다른 제2 클래스 내지 제N 클래스에 속하는 다수의 학습 데이터를 획득할 수도 있다.
여기서, 제1 클래스의 학습 데이터는, 제1 클래스의 테스트 데이터와 다른 하나의 데이터일 수 있다.
경우에 따라, 제1 클래스의 학습 데이터는, 제1 클래스의 테스트 데이터와 다른 다수의 데이터일 수도 있다.
또한, 프로세서(110)는, 제2 클래스 내지 제N 클래스에 속하는 다수의 학습 데이터를 획득할 때, 각 클래스마다 적어도 하나의 학습 데이터를 획득할 수 있다.
여기서, 각 클래스에서 획득한 학습 데이터의 개수는, 서로 동일한 개수일 수 있다.
경우에 따라, 각 클래스에서 획득한 학습 데이터의 개수는, 불균일한 개수일 수도 있다.
다음, 프로세서(110)는, 또 다른 실시예로서, 테스트 데이터와 학습 데이터를 획득할 때, 제1 클래스의 테스트 데이터를 한 개 획득하면 제1 클래스와 다른 특정 클래스에 속하는 학습 데이터를 획득할 수도 있다.
여기서, 프로세서(110)는, 특정 클래스에 속하는 학습 데이터를 획득할 때, 특정 클래스에 속하는 다수의 학습 데이터를 획득할 수 있다.
경우에 따라, 프로세서(110)는, 특정 클래스에 속하는 학습 데이터를 획득할 때, 특정 클래스에 속하는 하나의 학습 데이터를 획득할 수 있다.
본 발명에서, 테스트 데이터 및 학습 데이터의 클래스는, 신체의 특정 병변에 대한 다수의 질병 클래스로 분류될 수 있는데, 이는 일 실시예일 뿐, 이에 한정되지는 않는다.
그리고, 프로세서(110)는, 증강 테스트 데이터를 생성할 때, 제1 클래스의 테스트 데이터 한 개와 제2 클래스 내지 제N 클래스에 속하는 다수의 학습 데이터가 획득되면, 제1 클래스의 테스트 데이터 한 개와 제2 클래스 내지 제N 클래스에 속하는 학습 데이터 한 개를 중첩되도록 혼합하여 증강 테스트 데이터를 생성하고, 제2 클래스 내지 제N 클래스에 속하는 모든 학습 데이터가 테스트 데이터와의 혼합이 완료되면 증강 테스트 데이터 생성을 종료할 수 있다.
경우에 따라, 프로세서(110)는, 증강 테스트 데이터를 생성할 때, 제1 클래스의 테스트 데이터 한 개와 제1 클래스에 속하는 학습 데이터를 포함한 제2 클래스 내지 제N 클래스에 속하는 다수의 학습 데이터가 획득되면, 제1 클래스의 테스트 데이터 한 개와 제1 클래스에 속하는 학습 데이터 한개를 중첩되도록 혼합하여 제1 증강 테스트 데이터를 생성하고, 제1 클래스의 테스트 데이터 한 개와 제2 클래스 내지 제N 클래스에 속하는 학습 데이터 한 개를 중첩되도록 혼합하여 제2 증강 테스트 데이터를 생성하며, 제2 클래스 내지 제N 클래스에 속하는 모든 학습 데이터가 테스트 데이터와의 혼합이 완료되면 증강 테스트 데이터 생성을 종료할 수 있다.
다른 경우로서, 프로세서(110)는, 증강 테스트 데이터를 생성할 때, 제1 클래스의 테스트 데이터 한 개와 제1 클래스와 다른 특정 클래스에 속하는 학습 데이터가 획득되면, 제1 클래스의 테스트 데이터 한 개와 특정 클래스에 속하는 학습 데이터 한 개를 중첩되도록 혼합하여 증강 테스트 데이터를 생성하고, 특정 클래스에 속하는 모든 학습 데이터가 테스트 데이터와의 혼합이 완료되면 증강 테스트 데이터 생성을 종료할 수 있다.
또한, 프로세서(110)는, 증강 테스트 데이터를 생성할 때, 테스트 데이터의 이미지 및 라벨과 학습 데이터의 이미지 및 라벨을 모두 중첩되도록 혼합하여 증강 테스트 데이터를 생성할 수 있다.
이어, 프로세서(110)는, 증강 테스트 데이터를 생성할 때, 획득한 학습 데이터 중에 테스트 데이터를 변형하여 미리 증강된 학습 데이터가 포함되면 미리 증강된 학습 데이터와 테스크 데이터를 서로 중첩되도록 혼합하여 증강 테스트 데이터를 생성할 수 있다.
여기서, 테스트 데이터의 변형은, 데이터 셋을 회전, 반전, 뒤집기, 늘이기, 줄이기 및 노이즈 등과 같이 다양한 변형을 통해 증강을 수행하는 것을 포함할 수 있는데, 이는 일 실시예일 뿐, 이에 한정되지는 않는다.
다음, 프로세서(110)는, 예측 데이터에 대한 불확실성을 추정할 때, 예측 데이터에 대한 클래스 히스토그램을 생성하여 불확실성을 추정하고, 클래스들간의 거리를 확인하여 유사도를 판단할 수 있다.
여기서, 프로세서(110)는, 예측 데이터에 대한 불확실성을 추정할 때, 추정한 불확실성 값이 낮을수록 예측 데이터의 정확도가 증가하고, 추정한 불확실성 값이 높을수록 예측 데이터의 정확도가 감소하는 것으로 판단할 수 있다.
그리고, 프로세서(110)는, 예측 데이터에 대한 불확실성을 추정할 때, 예측 데이터에 대한 불확실성을 추정하고, 불확실성 추정 결과 정보를 생성할 수 있다.
여기서, 불확실성 추정 결과 정보는, 불확실성 학습에 의한 특정 클래스에 대한 다른 클래스의 유사도, 불확실성 추정에 대한 정확도, 테스트 데이터에 대한 불확실성 분포도를 포함할 수 있는데, 이는 일 실시예일 뿐, 이에 한정되지는 않는다.
또한, 전술한 뉴럴 네트워크 모델은, 딥 뉴럴 네트워크일 수 있다. 본 명세서에 걸쳐, 신경망, 네트워크 함수, 뉴럴 네트워크(neural network)는 동일한 의미로 사용될 수 있다. 딥 뉴럴 네트워크(DNN: deep neural network, 심층신경망)는, 입력 레이어와 출력 레이어 외에 복수의 히든 레이어를 포함하는 신경망을 의미할 수 있다. 딥 뉴럴 네트워크를 이용하면 데이터의 잠재적인 구조(latent structures)를 파악할 수 있다. 즉, 사진, 글, 비디오, 음성, 음악의 잠재적인 구조(예를 들어, 어떤 물체가 사진에 있는지, 글의 내용과 감정이 무엇인지, 음성의 내용과 감정이 무엇인지 등)를 파악할 수 있다. 딥 뉴럴 네트워크는 컨벌루셔널 뉴럴 네트워크 (CNN: convolutional neural network), 리커런트 뉴럴 네트워크(RNN: recurrent neural network), 제한 볼츠만 머신(RBM: restricted boltzmann machine), 심층 신뢰 네트워크(DBN: deep belief network), Q 네트워크, U 네트워크, 샴 네트워크 등을 포함할 수 있다.
컨벌루셔널 뉴럴 네트워크는, 딥 뉴럴 네트워크의 일종으로서, 컨벌루셔널 레이어를 포함하는 신경망을 포함한다. 컨벌루셔널 뉴럴 네트워크는, 최소한의 전처리(preprocess)를 사용하도록 설계된 다계층 퍼셉트론(multilayer perceptrons)의 한 종류이다. CNN은, 하나 또는 여러 개의 컨벌루셔널 레이어와 이와 결합된 인공 신경망 계층들로 구성될 수 있다. CNN은, 가중치와 풀링 레이어(pooling layer)들을 추가로 활용할 수 있다. 이러한 구조 덕분에 CNN은, 2차원 구조의 입력 데이터를 충분히 활용할 수 있다. 컨벌루셔널 뉴럴 네트워크는, 이미지에서 오브젝트를 인식하기 위하여 사용될 수 있다. 컨벌루셔널 뉴럴 네트워크는, 이미지 데이터를 차원을 가진 행렬로 나타내어 처리할 수 있다. 예를 들어 RGB(red-green-blue)로 인코딩 된 이미지 데이터의 경우, R, G, B 색상별로 각각 2차원(예를 들어, 2 차원 이미지 인 경우) 행렬로 나타내 질 수 있다. 즉, 이미지 데이터의 각 픽셀의 색상 값이 행렬의 성분이 될 수 있으며 행렬의 크기는 이미지의 크기와 같을 수 있다. 따라서, 이미지 데이터는, 3개의 2차원 행렬로(3차원의 데이터 어레이)로 나타내질 수 있다.
컨벌루셔널 뉴럴 네트워크에서, 컨벌루셔널 필터를 이동해가며 컨벌루셔널 필터와 이미지의 각 위치에서의 행렬 성분끼리 곱하는 것으로 컨벌루셔널 과정(컨벌루셔널 레이어의 입출력)을 수행할 수 있다. 컨벌루셔널 필터는, n*n 형태의 행렬로 구성될 수 있다. 컨벌루셔널 필터는, 일반적으로 이미지의 전체 픽셀의 수보다 작은 고정된 형태의 필터로 구성될 수 있다. 즉, m*m 이미지를 컨벌루셔널 레이어(예를 들어, 컨벌루셔널 필터의 사이즈가 n*n인 컨벌루셔널 레이어)입력시키는 경우, 이미지의 각 픽셀을 포함하는 n*n 픽셀을 나타내는 행렬이 컨벌루셔널 필터와 성분 곱 (즉, 행렬의 각 성분끼리의 곱) 될 수 있다. 컨벌루셔널 필터와의 곱에 의하여 이 미지에서 컨벌루셔널 필터와 매칭되는 성분이 추출될 수 있다. 예를 들어, 이미지에서 상하 직선 성분을 추출하기 위한 3*3 컨벌루셔널 필터는 [[0,1,0], [0,1,0], [0,1,0]] 와 같이 구성될 수 있다. 이미지에서 상하 직선 성분을 추출하기 위한 3*3 컨벌루셔널 필터가 입력 이미지에 적용되면 이미지에서 컨벌루셔널 필터와 매칭되는 상하 직선 성분이 추출되어 출력될 수 있다. 컨벌루셔널 레이어는 이미지를 나타낸 각각의 채널에 대한 각각의 행렬(즉, R, G, B 코딩 이미지의 경우, R, G, B 색상)에 컨벌루셔널 필터를 적용할 수 있다. 컨벌루셔널 레이어는 입력 이미지에 컨벌루셔널 필터를 적용하여 입력 이미지에서 컨벌루셔널 필터와 매칭되는 피쳐를 추출할 수 있다. 컨벌루셔널 필터의 필터 값(즉, 행렬의 각 성분의 값)은 컨벌루셔널 뉴럴 네트워크의 학습 과정에서 역전파에 의하여 업데이트 될 수 있다.
컨벌루셔널 레이어의 출력에는, 서브샘플링 레이어가 연결되어 컨벌루셔널 레이어의 출력을 단순화하여 메모리 사용량과 연산량을 줄일 수 있다. 예를 들어, 2*2 맥스 풀링 필터를 가지는 풀링 레이어에 컨벌루셔널 레이어의 출력을 입력시키는 경우, 이미지의 각 픽셀에서 2*2 패치마다 각 패치에 포함되는 최대값을 출력하여 이미지를 압축할 수 있다. 전술한 풀링은 패치에서 최소값을 출력하거나, 패치의 평균값을 출력하는 방식일 수도 있으며 임의의 풀링 방식이 본 발명에 포함될 수 있다.
컨벌루셔널 뉴럴 네트워크는, 하나 이상의 컨벌루셔널 레이어, 서브 샘플링 레이어를 포함할 수 있다. 컨벌루셔널 뉴럴 네트워크는 컨벌루셔널 과정과 서브샘플링 과정(예를 들어, 전술한 맥스 풀링 등)을 반복적으로 수행하여 이미지에서 피쳐를 추출할 수 있다. 반복적인 컨벌루션널 과정과 서브샘플링 과정을 통해 뉴럴 네트워크는 이미지의 글로벌 피쳐를 추출할 수 있다.
컨벌루셔널 레이어 또는 서브샘플링 레이어의 출력은 풀 커넥티드 레이어(fully connected layer)에 입력될 수 있다. 풀 커넥티드 레이어는 하나의 레이어에 있는 모든 뉴런과 이웃한 레이어에 있는 모든 뉴런이 연결되는 레이어이다. 풀 커넥티드 레이어는 뉴럴 네트워크에서 각 레이어의 모든 노드가 다른 레이어의 모든 노드에 연결된 구조를 의미할 수 있다.
본 발명의 일 실시예에 따르면, 프로세서(110)는, 하나 이상의 코어로 구성될 수 있으며, 컴퓨팅 장치의 중앙 처리 장치(CPU: central processing unit), 범용 그래픽 처리 장치 (GPGPU: general purpose graphics processing unit), 텐서 처리 장치(TPU: tensor processing unit) 등의 데이터 분석, 딥러닝을 위한 프로세서를 포함할 수 있다. 프로세서(110)는, 메모리(130)에 저장된 컴퓨터 프로그램을 판독하여 본 발명의 일 실시예에 따른 기계 학습을 위한 데이터 처리를 수행할 수 있다. 본 발명의 일실시예에 따라 프로세서(110)는, 신경망의 학습을 위한 연산을 수행할 수 있다. 프로세서(110)는, 딥러닝(DL: deep learning)에서 학습을 위한 입력 데이터의 처리, 입력 데이터에서의 피처 추출, 오차 계산, 역전파(backpropagation)를 이용한 신경망의 가중치 업데이트 등의 신경망의 학습을 위한 계산을 수행할 수 있다. 프로세서(110)의 CPU, GPGPU, 및 TPU 중 적어도 하나가 네트워크 함수의 학습을 처리할 수 있다. 예를 들어, CPU 와 GPGPU가 함께 네트워크 함수의 학습, 네트워크 함수를 이용한 데이터 분류를 처리할 수 있다. 또한, 본 발명의 일 실시예에서 복수의 컴퓨팅 장치의 프로세서를 함께 사용하여 네트워크 함수의 학습, 네트워크 함수를 이용한 데이터 분류를 처리할 수 있다. 또한, 본 발명의 일 실시예에 따른 컴퓨팅 장치에서 수행되는 컴퓨터 프로그램은, CPU, GPGPU 또는 TPU 실행가능 프로그램일 수 있다.
본 발명의 일 실시예에 따르면, 메모리(130)는, 불확실성 추정 방법을 제공하기 위한 컴퓨터 프로그램을 저장할 수 있으며, 저장된 컴퓨터 프로그램은 프로세서(120)에 의하여 판독되어 구동될 수 있다. 메모리(130)는, 프로세서(110)가 생성하거나 결정한 임의의 형태의 정보 및 네트워크부(150)가 수신한 임의의 형태의 정보를 저장할 수 있다.
본 발명의 일 실시예에 따르면, 메모리(130)는, 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(Random Access Memory, RAM), SRAM(Static Random Access Memory), 롬(Read-Only Memory, ROM), EEPROM(Electrically Erasable Programmable Read-Only Memory), PROM(Programmable Read-Only Memory), 자기 메모리, 자기 디스크, 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다. 컴퓨팅 장치(100)는 인터넷(internet) 상에서 상기 메모리(130)의 저장 기능을 수행하는 웹 스토리지(web storage)와 관련되어 동작할 수도 있다. 전술한 메모리에 대한 기재는 예시일 뿐, 이에 제한되지 않는다.
본 발명의 일 실시예에 따른 네트워크부(150)는, 불확실성 추정 결과 정보 등을 다른 컴퓨팅 장치, 서버 등과 송수신할 수 있다. 또한, 네트워크부(150)는, 복수의 컴퓨팅 장치 사이의 통신을 가능하게 하여 복수의 컴퓨팅 장치 각각에서 불확실성 추정 또는 모델의 학습을 위한 동작들이 분산 수행되도록 할 수 있다. 네트워크부(150)는, 복수의 컴퓨팅 장치 사이의 통신을 가능하게 하여 불확실성 추정 또는 네트워크 함수를 사용한 모델 학습을 위한 연산을 분산 처리하도록 할 수 있다.
본 발명의 일 실시예에 따른 네트워크부(150)는, 근거리(단거리), 원거리, 유선 및 무선 등과 같은 현재 사용 및 구현되는 임의의 형태의 유무선 통신 기술에 기반하여 동작할 수 있으며, 다른 네트워크들에서도 사용될 수 있다.
본 발명의 컴퓨팅 장치(100)는, 출력부 및 입력부를 더 포함할 수도 있다.
본 발명의 일 실시예에 따른 출력부는, 불확실성 추정 결과를 제공하기 위한 사용자 인터페이스(UI, user interface)를 표시할 수 있다. 출력부는, 프로세서(110)가 생성하거나 결정한 임의의 형태의 정보 및 네트워크부(150)가 수신한 임의의 형태의 정보를 출력할 수 있다.
본 발명의 일 실시예에서, 출력부는, 액정 디스플레이(liquid crystal display, LCD), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display, TFT LCD), 유기 발광 다이오드(organic light-emitting diode, OLED), 플렉시블 디스플레이(flexible display), 3차원 디스플레이(3D display) 중에서 적어도 하나를 포함할 수 있다. 이들 중 일부 디스플레이 모듈은, 그를 통해 외부를 볼 수 있도록 투명형 또는 광 투과형으로 구성될 수 있다. 이는 투명 디스플레이 모듈이라 지칭될 수 있는데, 상기 투명 디스플레이 모듈의 대표적인 예로는 TOLED(Transparent OLED) 등이 있다.
본 발명의 일 실시예에 따른 입력부는, 사용자 입력을 수신할 수 있다. 입력부는, 사용자 입력을 수신받기 위한 사용자 인터페이스 상의 키 및/또는 버튼들, 또는 물리적인 키 및/또는 버튼들을 구비할 수 있다. 입력부를 통한 사용자 입력에 따라 본 발명의 실시예들에 따른 디스플레이를 제어하기 위한 컴퓨터 프로그램이 실행될 수 있다.
본 발명의 실시예들에 따른 입력부는, 사용자의 버튼 조작 또는 터치 입력을 감지하여 신호를 수신하거나, 카메라 또는 마이크로폰을 통하여 사용자 등의 음성 또는 동작을 수신하여 이를 입력 신호로 변환할 수도 있다. 이를 위해 음성 인식(Speech Recognition) 기술 또는 동작 인식(Motion Recognition) 기술들이 사용될 수 있다.
본 발명의 실시예들에 따른 입력부는, 컴퓨팅 장치(100)와 연결된 외부 입력 장비로서 구현될 수도 있다. 예를 들어, 입력 장비는 사용자 입력을 수신하기 위한 터치 패드, 터치 펜, 키보드 또는 마우스 중 적어도 하나일 수 있으나, 이는 예시일 뿐이며 이에 제한되는 것은 아니다.
본 발명의 일 실시예에 따른 입력부는, 사용자 터치 입력을 인식할 수 있다. 본 발명의 일 실시예에 따른 입력부는, 출력부와 동일한 구성일 수도 있다. 입력부는, 사용자의 선택 입력을 수신하도록 구현되는 터치 스크린으로 구성될 수 있다. 터치 스크린은, 접촉식 정전용량 방식, 적외선 광 감지 방식, 표면 초음파(SAW) 방식, 압전 방식, 저항막 방식 중 어느 하나의 방식이 사용될 수 있다. 전술한 터치 스크린에 대한 자세한 기재는, 본 발명의 일 실시예에 따른 예시일 뿐이며, 다양한 터치 스크린 패널이 컴퓨팅 장치(100)에 채용될 수 있다. 터치 스크린으로 구성된 입력부는, 터치 센서를 포함할 수 있다. 터치 센서는, 입력부의 특정 부위에 가해진 압력 또는 입력부의 특정 부위에 발생하는 정전 용량 등의 변화를 전기적인 입력신호로 변환하도록 구성될 수 있다. 터치 센서는, 터치 되는 위치 및 면적뿐만 아니라, 터치 시의 압력까지도 검출할 수 있도록 구성될 수 있다. 터치 센서에 대한 터치입력이 있는 경우, 그에 대응하는 신호(들)는 터치 제어기로 보내진다. 터치 제어기는, 그 신호(들)를 처리한 다음 대응하는 데이터를 프로세서(110)로 전송할 수 있다. 이로써, 프로세서(110)는 입력부의 어느 영역이 터치 되었는지 여부 등을 인식할 수 있게 된다.
본 발명의 일 실시예에서, 서버는, 서버의 서버 환경을 수행하기 위한 다른 구성들이 포함될 수도 있다. 서버는 임의의 형태의 장치는 모두 포함할 수 있다. 서버는, 디지털 기기로서, 랩탑 컴퓨터, 노트북 컴퓨터, 데스크톱 컴퓨터, 웹 패드, 이동 전화기와 같이 프로세서를 탑재하고 메모리를 구비한 연산 능력을 갖춘 디지털 기기일 수 있다.
본 발명의 일 실시예에 따른 불확실성 추정 결과를 표시하는 사용자 인터페이스를 사용자 단말로 제공하기 위한 동작을 수행하는 서버(미도시)는, 네트워크부, 프로세서 및 메모리를 포함할 수 있다.
서버는, 본 발명의 실시예들에 따른 사용자 인터페이스를 생성할 수 있다. 서버는, 클라이언트(예를 들어, 사용자 단말)에게 네트워크를 통해 정보를 제공하는 컴퓨팅 시스템일 수 있다. 서버는, 생성한 사용자 인터페이스를 사용자 단말로 전송할 수 있다. 이러한 경우, 사용자 단말은, 서버에 액세스할 수 있는 임의의 형태의 컴퓨팅 장치(100)일 수 있다. 서버의 프로세서는, 네트워크부를 통해 사용자 단말로 사용자 인터페이스를 전송할 수 있다. 본 발명의 실시예들에 따른 서버는 예를 들어, 클라우드 서버일 수 있다. 서버는 서비스를 처리하는 웹 서버일 수 있다. 전술한 서버의 종류는 예시일 뿐이며 이에 제한되지 않는다.
따라서, 본 발명은, 서로 다른 클래스의 데이터를 혼합한 테스트 시간 혼합 증강 방식으로 불확실성을 추정함으로써, 불확실성 추정에 대한 정확도를 높일 수 있다.
도 2 및 도 3은, 본 발명의 일 실시예에 따라, 네트워크 함수를 나타낸 개략도이다.
도 2에 도시된 바와 같이, 본 발명은, 시간 혼합 증강(Test-Time Mixup Augmentation) 방식을 이용하여 불확실성을 추정하기 위한 테스트 데이터와 학습 데이터를 획득할 수 있다.
여기서, 본 발명은, 제1 클래스의 테스트 데이터를 한 개 획득하면 제1 클래스와 다른 제2 클래스 내지 제N 클래스에 속하는 다수의 학습 데이터를 획득할 수 있다.
이때, 본 발명은, 제2 클래스 내지 제N 클래스에 속하는 다수의 학습 데이터를 획득할 때, 각 클래스마다 적어도 하나의 학습 데이터를 획득할 수 있다.
일 예로, 각 클래스에서 획득한 학습 데이터의 개수는, 서로 동일한 개수일 수도 있고, 서로 동일한 개수가 아니라 불균일한 개수일 수도 있다.
경우에 따라, 본 발명은, 제1 클래스의 테스트 데이터를 한 개 획득하면 테스트 데이터와 동일한 제1 클래스에 속하는 학습 데이터와 제1 클래스와 다른 제2 클래스 내지 제N 클래스에 속하는 다수의 학습 데이터를 획득할 수도 있다.
여기서, 제1 클래스의 학습 데이터는, 제1 클래스의 테스트 데이터와 다른 하나의 데이터일 수도 있고, 제1 클래스의 테스트 데이터와 다른 다수의 데이터일 수도 있다.
또한, 본 발명은, 제2 클래스 내지 제N 클래스에 속하는 다수의 학습 데이터를 획득할 때, 각 클래스마다 적어도 하나의 학습 데이터를 획득할 수 있다.
여기서, 각 클래스에서 획득한 학습 데이터의 개수는, 서로 동일한 개수일 수도 있고, 서로 동일한 개수가 아니라 불균일한 개수일 수도 있다.
이어, 본 발명은, 테스트 데이터와 테스트 데이터와 같은 클래스 또는 다른 클래스에 속하는 적어도 하나의 학습 데이터가 서로 중첩되도록 혼합하여 증강 테스트 데이터를 생성할 수 있다.
여기서, 본 발명은, 제1 클래스의 테스트 데이터 한 개와 제2 클래스 내지 제N 클래스에 속하는 다수의 학습 데이터가 획득되면, 제1 클래스의 테스트 데이터 한 개와 제2 클래스 내지 제N 클래스에 속하는 학습 데이터 한 개를 중첩되도록 혼합하여 증강 테스트 데이터를 생성하고, 제2 클래스 내지 제N 클래스에 속하는 모든 학습 데이터가 테스트 데이터와의 혼합이 완료되면 증강 테스트 데이터 생성을 종료할 수 있다.
경우에 따라, 본 발명은, 제1 클래스의 테스트 데이터 한 개와 제1 클래스에 속하는 학습 데이터를 포함한 제2 클래스 내지 제N 클래스에 속하는 다수의 학습 데이터가 획득되면, 제1 클래스의 테스트 데이터 한 개와 제1 클래스에 속하는 학습 데이터 한개를 중첩되도록 혼합하여 제1 증강 테스트 데이터를 생성하고, 제1 클래스의 테스트 데이터 한 개와 제2 클래스 내지 제N 클래스에 속하는 학습 데이터 한 개를 중첩되도록 혼합하여 제2 증강 테스트 데이터를 생성하며, 제2 클래스 내지 제N 클래스에 속하는 모든 학습 데이터가 테스트 데이터와의 혼합이 완료되면 증강 테스트 데이터 생성을 종료할 수 있다.
그리고, 본 발명은, 증강 테스트 데이터를 뉴럴 네트워크 모델에 입력하여 예측 데이터를 생성하고, 예측 데이터에 대한 불확실성을 추정할 수 있다.
여기서, 본 발명은, 예측 데이터에 대한 클래스 히스토그램을 생성하여 불확실성을 추정하고, 클래스들간의 거리를 확인하여 유사도를 판단할 수 있다.
즉, 본 발명은, 추정한 불확실성 값이 낮을수록 예측 데이터의 정확도가 증가하고, 추정한 불확실성 값이 높을수록 예측 데이터의 정확도가 감소하는 것으로 판단할 수 있다.
경우에 따라, 본 발명은, 예측 데이터에 대한 불확실성을 추정하고, 불확실성 추정 결과 정보를 생성할 수도 있다.
여기서, 불확실성 추정 결과 정보는, 불확실성 학습에 의한 특정 클래스에 대한 다른 클래스의 유사도, 불확실성 추정에 대한 정확도, 테스트 데이터에 대한 불확실성 분포도를 포함할 수 있는데, 이는 일 실시예일 뿐, 이에 한정되지는 않는다.
도 3에 도시된 바와 같이, 본 발명은, 테스트 데이터와 학습 데이터를 획득할 때, 제1 클래스의 테스트 데이터를 한 개 획득하면 제1 클래스와 다른 특정 클래스에 속하는 학습 데이터를 획득할 수도 있다.
여기서, 본 발명은, 특정 클래스에 속하는 다수의 학습 데이터를 획득할 수도 있고, 특정 클래스에 속하는 하나의 학습 데이터를 획득할 수도 있다.
본 발명은, 제1 클래스의 테스트 데이터 한 개와 제1 클래스와 다른 특정 클래스에 속하는 학습 데이터가 획득되면, 제1 클래스의 테스트 데이터 한 개와 특정 클래스에 속하는 학습 데이터 한 개를 중첩되도록 혼합하여 증강 테스트 데이터를 생성하고, 특정 클래스에 속하는 모든 학습 데이터가 테스트 데이터와의 혼합이 완료되면 증강 테스트 데이터 생성을 종료할 수 있다.
따라서, 본 발명은, 불확실성 학습을 통해 특정 클래스에 대한 다른 클래스의 유사도를 판단할 수 있다.
즉, 본 발명은, 클래스들간의 거리를 확인하여 유사도를 판단할 수 있다.
본 발명은, 추정한 불확실성 값이 낮을수록 예측 데이터의 정확도가 증가하고, 추정한 불확실성 값이 높을수록 예측 데이터의 정확도가 감소하는 것으로 판단할 수 있다.
본 명세서에 걸쳐, 연산 모델, 신경망, 네트워크 함수, 뉴럴 네트워크(neural network)는 상호 교환 가능한 의미로 사용될 수 있다. 신경망은 일반적으로 노드라 지칭될 수 있는 상호 연결된 계산 단위들의 집합으로 구성될 수 있다. 이러한 노드들은 뉴런(neuron)들로 지칭될 수도 있다. 신경망은 적어도 하나 이상의 노드들을 포함하여 구성된다. 신경망들을 구성하는 노드(또는 뉴런)들은 하나 이상의 링크에 의해 상호 연결될 수 있다.
신경망 내에서, 링크를 통해 연결된 하나 이상의 노드들은 상대적으로 입력 노드 및 출력 노드의 관계를 형성할 수 있다. 입력 노드 및 출력 노드의 개념은 상대적인 것으로서, 하나의 노드에 대하여 출력 노드 관계에 있는 임의의 노드는 다른 노드와의 관계에서 입력 노드 관계에 있을 수 있으며, 그 역도 성립할 수 있다. 상술한 바와 같이, 입력 노드 대 출력 노드 관계는 링크를 중심으로 생성될 수 있다. 하나의 입력 노드에 하나 이상의 출력 노드가 링크를 통해 연결될 수 있으며, 그 역도 성립할 수 있다.
하나의 링크를 통해 연결된 입력 노드 및 출력 노드 관계에서, 출력 노드의 데이터는 입력 노드에 입력된 데이터에 기초하여 그 값이 결정될 수 있다. 여기서 입력 노드와 출력 노드를 상호 연결하는 링크는 가중치(weight)를 가질 수 있다. 가중치는 가변적일 수 있으며, 신경망이 원하는 기능을 수행하기 위해, 사용자 또는 알고리즘에 의해 가변 될 수 있다. 예를 들어, 하나의 출력 노드에 하나 이상의 입력 노드가 각각의 링크에 의해 상호 연결된 경우, 출력 노드는 상기 출력 노드와 연결된 입력 노드들에 입력된 값들 및 각각의 입력 노드들에 대응하는 링크에 설정된 가중치에 기초하여 출력 노드 값을 결정할 수 있다.
상술한 바와 같이, 신경망은 하나 이상의 노드들이 하나 이상의 링크를 통해 상호 연결되어 신경망 내에서 입력 노드 및 출력 노드 관계를 형성한다. 신경망 내에서 노드들과 링크들의 개수 및 노드들과 링크들 사이의 연관관계, 링크들 각각에 부여된 가중치의 값에 따라, 신경망의 특성이 결정될 수 있다. 예를 들어, 동일한 개수의 노드 및 링크들이 존재하고, 링크들의 가중치 값이 상이한 두 신경망이 존재하는 경우, 두 개의 신경망들은 서로 상이한 것으로 인식될 수 있다.
신경망은 하나 이상의 노드들의 집합으로 구성될 수 있다. 신경망을 구성하는 노드들의 부분 집합은 레이어(layer)를 구성할 수 있다. 신경망을 구성하는 노드들 중 일부는, 최초 입력 노드로부터의 거리들에 기초하여, 하나의 레이어(layer)를 구성할 수 있다. 예를 들어, 최초 입력 노드로부터 거리가 n인 노드들의 집합은, n 레이어를 구성할 수 있다. 최초 입력 노드로부터 거리는, 최초 입력 노드로부터 해당 노드까지 도달하기 위해 거쳐야 하는 링크들의 최소 개수에 의해 정의될 수 있다. 그러나, 이러한 레이어의 정의는 설명을 위한 임의적인 것으로서, 신경망 내에서 레이어의 차수는 상술한 것과 상이한 방법으로 정의될 수 있다. 예를 들어, 노드들의 레이어는 최종 출력 노드로부터 거리에 의해 정의될 수도 있다.
최초 입력 노드는 신경망 내의 노드들 중 다른 노드들과의 관계에서 링크를 거치지 않고 데이터가 직접 입력되는 하나 이상의 노드들을 의미할 수 있다. 또는, 신경망 네트워크 내에서, 링크를 기준으로 한 노드 간의 관계에 있어서, 링크로 연결된 다른 입력 노드들을 가지지 않는 노드들을 의미할 수 있다. 이와 유사하게, 최종 출력 노드는 신경망 내의 노드들 중 다른 노드들과의 관계에서, 출력 노드를 가지지 않는 하나 이상의 노드들을 의미할 수 있다. 또한, 히든 노드는 최초 입력 노드 및 최후 출력 노드가 아닌 신경망을 구성하는 노드들을 의미할 수 있다.
본 발명의 일 실시예에 따른 신경망은 입력 레이어의 노드의 개수가 출력 레이어의 노드의 개수와 동일할 수 있으며, 입력 레이어에서 히든 레이어로 진행됨에 따라 노드의 수가 감소하다가 다시 증가하는 형태의 신경망일 수 있다. 또한, 본 발명의 다른 일 실시예에 따른 신경망은 입력 레이어의 노드의 개수가 출력 레이어의 노드의 개수 보다 적을 수 있으며, 입력 레이어에서 히든 레이어로 진행됨에 따라 노드의 수가 감소하는 형태의 신경망일 수 있다. 또한, 본 발명의 또 다른 일 실시예에 따른 신경망은 입력 레이어의 노드의 개수가 출력 레이어의 노드의 개수보다 많을 수 있으며, 입력 레이어에서 히든 레이어로 진행됨에 따라 노드의 수가 증가하는 형태의 신경망일 수 있다. 본 발명의 또 다른 일 실시예에 따른 신경망은 상술한 신경망들의 조합된 형태의 신경망일 수 있다.
딥 뉴럴 네트워크(DNN: deep neural network, 심층신경망)는 입력 레이어와 출력 레이어 외에 복수의 히든 레이어를 포함하는 신경망을 의미할 수 있다. 딥 뉴럴 네트워크를 이용하면 데이터의 잠재적인 구조(latent structures)를 파악할 수 있다. 즉, 사진, 글, 비디오, 음성, 음악의 잠재적인 구조(예를 들어, 어떤 물체가 사진에 있는지, 글의 내용과 감정이 무엇인지, 음성의 내용과 감정이 무엇인지 등)를 파악할 수 있다. 딥 뉴럴 네트워크는 컨볼루션 뉴럴 네트워크(CNN: convolutional neural network), 리커런트 뉴럴 네트워크(RNN: recurrent neural network), 오토 인코더(auto encoder), GAN(Generative Adversarial Networks), 제한 볼츠만 머신(RBM: restricted boltzmann machine), 심층 신뢰 네트워크(DBN: deep belief network), Q 네트워크, U 네트워크, 샴 네트워크, 적대적 생성 네트워크(GAN: Generative Adversarial Network) 등을 포함할 수 있다. 전술한 딥 뉴럴 네트워크의 기재는 예시일 뿐이며 이에 제한되지 않는다.
본 발명의 일 실시예에서 네트워크 함수는 오토 인코더(autoencoder)를 포함할 수도 있다. 오토 인코더는 입력 데이터와 유사한 출력 데이터를 출력하기 위한 인공 신경망의 일종일 수 있다. 오토 인코더는 적어도 하나의 히든 레이어를 포함할 수 있으며, 홀수 개의 히든 레이어가 입출력 레이어 사이에 배치될 수 있다. 각각의 레이어의 노드의 수는 입력 레이어의 노드의 수에서 병목 레이어(인코딩)라는 중간 레이어로 축소되었다가, 병목 레이어에서 출력 레이어(입력 레이어와 대칭)로 축소와 대칭되어 확장될 수도 있다. 오토 인코더는 비선형 차원 감소를 수행할 수 있다. 입력 레이어 및 출력 레이어의 수는 입력 데이터의 전처리 이후에 차원과 대응될 수 있다. 오토 인코더 구조에서 인코더에 포함된 히든 레이어의 노드의 수는 입력 레이어에서 멀어질수록 감소하는 구조를 가질 수 있다. 병목 레이어(인코더와 디코더 사이에 위치하는 가장 적은 노드를 가진 레이어)의 노드의 수는 너무 작은 경우 충분한 양의 정보가 전달되지 않을 수 있으므로, 특정 수 이상(예를 들어, 입력 레이어의 절반 이상 등)으로 유지될 수도 있다.
뉴럴 네트워크는 교사 학습(supervised learning), 비교사 학습(unsupervised learning), 반교사학습(semi supervised learning), 또는 강화학습(reinforcement learning) 중 적어도 하나의 방식으로 학습될 수 있다. 뉴럴 네트워크의 학습은 뉴럴 네트워크가 특정한 동작을 수행하기 위한 지식을 뉴럴 네트워크에 적용하는 과정일 수 있다.
뉴럴 네트워크는 출력의 오류를 최소화하는 방향으로 학습될 수 있다. 뉴럴 네트워크의 학습에서 반복적으로 학습 데이터를 뉴럴 네트워크에 입력시키고 학습 데이터에 대한 뉴럴 네트워크의 출력과 타겟의 에러를 계산하고, 에러를 줄이기 위한 방향으로 뉴럴 네트워크의 에러를 뉴럴 네트워크의 출력 레이어에서부터 입력 레이어 방향으로 역전파(backpropagation)하여 뉴럴 네트워크의 각 노드의 가중치를 업데이트 하는 과정이다. 교사 학습의 경우 각각의 학습 데이터에 정답이 라벨링되어있는 학습 데이터를 사용하며(즉, 라벨링된 학습 데이터), 비교사 학습의 경우는 각각의 학습 데이터에 정답이 라벨링되어 있지 않을 수 있다. 즉, 예를 들어 데이터 분류에 관한 교사 학습의 경우의 학습 데이터는 학습 데이터 각각에 카테고리가 라벨링 된 데이터 일 수 있다. 라벨링된 학습 데이터가 뉴럴 네트워크에 입력되고, 뉴럴 네트워크의 출력(카테고리)과 학습 데이터의 라벨을 비교함으로써 오류(error)가 계산될 수 있다. 다른 예로, 데이터 분류에 관한 비교사 학습의 경우 입력인 학습 데이터가 뉴럴 네트워크 출력과 비교됨으로써 오류가 계산될 수 있다. 계산된 오류는 뉴럴 네트워크에서 역방향(즉, 출력 레이어에서 입력 레이어 방향)으로 역전파 되며, 역전파에 따라 뉴럴 네트워크의 각 레이어의 각 노드들의 연결 가중치가 업데이트 될 수 있다. 업데이트 되는 각 노드의 연결 가중치는 학습률(learning rate)에 따라 변화량이 결정될 수 있다. 입력 데이터에 대한 뉴럴 네트워크의 계산과 에러의 역전파는 학습 사이클(epoch)을 구성할 수 있다. 학습률은 뉴럴 네트워크의 학습 사이클의 반복 횟수에 따라 상이하게 적용될 수 있다. 예를 들어, 뉴럴 네트워크의 학습 초기에는 높은 학습률을 사용하여 뉴럴 네트워크가 빠르게 일정 수준의 성능을 확보하도록 하여 효율성을 높이고, 학습 후기에는 낮은 학습률을 사용하여 정확도를 높일 수 있다.
뉴럴 네트워크의 학습에서 일반적으로 학습 데이터는 실제 데이터(즉, 학습된 뉴럴 네트워크를 이용하여 처리하고자 하는 데이터)의 부분집합일 수 있으며, 따라서, 학습 데이터에 대한 오류는 감소하나 실제 데이터에 대해서는 오류가 증가하는 학습 사이클이 존재할 수 있다. 과적합(overfitting)은 이와 같이 학습 데이터에 과하게 학습하여 실제 데이터에 대한 오류가 증가하는 현상이다. 예를 들어, 노란색 고양이를 보여 고양이를 학습한 뉴럴 네트워크가 노란색 이외의 고양이를 보고는 고양이임을 인식하지 못하는 현상이 과적합의 일종일 수 있다. 과적합은 머신러닝 알고리즘의 오류를 증가시키는 원인으로 작용할 수 있다. 이러한 과적합을 막기 위하여 다양한 최적화 방법이 사용될 수 있다. 과적합을 막기 위해서는 학습 데이터를 증가시키거나, 레귤라이제이션(regularization), 학습의 과정에서 네트워크의 노드 일부를 비활성화하는 드롭아웃(dropout), 배치 정규화 레이어(batch normalization layer)의 활용 등의 방법이 적용될 수 있다.
도 4는, 본 발명의 일 실시예에 따라, TTA와 TTMA의 불확실성 추정에 대한 정확도를 비교 설명하기 위한 도면으로서, 기존의 TTA(Test-Time Augmentation) 방식으로 하위 k%의 불확실성을 추정한 테스트 데이터의 정확도와 본 발명의 TTMA(Test-Time Mixup Augmentation) 방식으로 하위 k%의 불확실성을 추정한 테스트 데이터의 정확도를 비교한 그래프이다.
도 4에 도시된 바와 같이, 본 발명의 TTMA 방식은, 기존의 TTA 방식보다 확신성이 높은 데이터에 대해 정확도가 높은 것을 알 수 있다.
일 예로, 본 발명의 TTMA 방식이 기존의 TTA 방식에 비해 70% 이하의 하위 k%의 불확실성 서브그룹들에서 보다 좋은 정확도를 보여주고 있다.
도 5는, 본 발명의 일 실시예에 따라, 정답 샘플과 오답 샘플의 불확실성 분포도를 비교 설명하기 위한 도면이다.
도 5에 도시된 바와 같이, 본 발명의 TTMA 방식과 기존의 TTA 방식을 통해 정답 샘플과 오답 샘플의 불확실성 분포도를 비교해 보면, 이상적인 상태에서 정답 샘플들은, 낮은 값의 불확실성에 몰려 있고, 오답 샘플들은, 높은 값의 불확실성에 몰려 있으므로 이 두 그룹을 분리할 필요가 있다.
여기서, 기존의 TTA 방식의 경우, 정답 샘플과 오답 샘플이 낮은 값의 불확실성에 몰려 있어 두 그룹의 분리가 어렵지만, 본 발명의 TTMA 방식의 경우, 정답 샘플과 오답 샘플이 넓은 범위의 값으로 불확실성이 분포되어 두 그룹의 분리가 유리한 장점을 가질 수 있다.
도 6은, 본 발명의 일 실시예에 따라, 불확실성 학습을 통해 특정 클래스에 대한 다른 클래스의 유사도를 설명하기 위한 도면로서, 피부 병변에 대한 다수의 질병 클래스로 분류한 도면이다.
도 6에 도시된 바와 같이, 본 발명의 TTMA 방식은, 특정 질병 클래스와 다른 질병 클래스들과의 유사도를 측정하여 낮은 평균값을 갖는 질병 클래스로부터 높은 평균값을 갖는 질병 클래스들을 배열함으로써, 서로 다른 질병 클래스들간의 거리를 통해 유사성을 판단할 수 있으며, 동일한 질병 클래스간에도 유사성을 판단할 수 있다.
도 7은, 본 발명의 일 실시예에 따라, 혼합 가중치 알파값에 상응하는 불확실성 추정에 대한 정확도를 비교 설명하기 위한 도면으로서, 테스트 데이터와 학습 데이터를 혼합할 때, 혼합 가중치 알파값 변화에 따른 불확실성의 변화를 측정한 그래프이다.
도 7에 도시된 바와 같이, 본 발명의 TTMA 방식은, 정확도 측면에서, 알파값에 따라 0.4 또는 1인 경우에 높은 정확도를 보이고, ECE(Expected Calibration Error) 측면에서, 0.8인 경우에 좋게 나타나는 것을 알 수 있다.
이와 같이, 본 발명은, 서로 다른 클래스의 데이터를 혼합한 테스트 시간 혼합 증강 방식으로 불확실성을 추정함으로써, 불확실성 추정에 대한 정확도를 높일 수 있다.
이상에서 전술한 본 발명의 일 실시예에 따른 방법은, 하드웨어인 서버와 결합되어 실행되기 위해 프로그램(또는 어플리케이션)으로 구현되어 매체에 저장될 수 있다.
상기 전술한 프로그램은, 상기 컴퓨터가 프로그램을 읽어 들여 프로그램으로 구현된 상기 방법들을 실행시키기 위하여, 상기 컴퓨터의 프로세서(CPU)가 상기 컴퓨터의 장치 인터페이스를 통해 읽힐 수 있는 C, C++, JAVA, 기계어 등의 컴퓨터 언어로 코드화된 코드(Code)를 포함할 수 있다. 이러한 코드는 상기 방법들을 실행하는 필요한 기능들을 정의한 함수 등과 관련된 기능적인 코드(Functional Code)를 포함할 수 있고, 상기 기능들을 상기 컴퓨터의 프로세서가 소정의 절차대로 실행시키는데 필요한 실행 절차 관련 제어 코드를 포함할 수 있다. 또한, 이러한 코드는 상기 기능들을 상기 컴퓨터의 프로세서가 실행시키는데 필요한 추가 정보나 미디어가 상기 컴퓨터의 내부 또는 외부 메모리의 어느 위치(주소 번지)에서 참조되어야 하는지에 대한 메모리 참조관련 코드를 더 포함할 수 있다. 또한, 상기 컴퓨터의 프로세서가 상기 기능들을 실행시키기 위하여 원격(Remote)에 있는 어떠한 다른 컴퓨터나 서버 등과 통신이 필요한 경우, 코드는 상기 컴퓨터의 통신 모듈을 이용하여 원격에 있는 어떠한 다른 컴퓨터나 서버 등과 어떻게 통신해야 하는지, 통신 시 어떠한 정보나 미디어를 송수신해야 하는지 등에 대한 통신 관련 코드를 더 포함할 수 있다.
상기 저장되는 매체는, 레지스터, 캐쉬, 메모리 등과 같이 짧은 순간 동안 데이터를 저장하는 매체가 아니라 반영구적으로 데이터를 저장하며, 기기에 의해 판독(reading)이 가능한 매체를 의미한다. 구체적으로는, 상기 저장되는 매체의 예로는 ROM, RAM, CD-ROM, 자기 테이프, 플로피디스크, 광 데이터 저장장치 등이 있지만, 이에 제한되지 않는다. 즉, 상기 프로그램은 상기 컴퓨터가 접속할 수 있는 다양한 서버 상의 다양한 기록매체 또는 사용자의 상기 컴퓨터상의 다양한 기록매체에 저장될 수 있다. 또한, 상기 매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어, 분산방식으로 컴퓨터가 읽을 수 있는 코드가 저장될 수 있다.
본 발명의 실시예와 관련하여 설명된 방법 또는 알고리즘의 단계들은 하드웨어로 직접 구현되거나, 하드웨어에 의해 실행되는 소프트웨어 모듈로 구현되거나, 또는 이들의 결합에 의해 구현될 수 있다. 소프트웨어 모듈은 RAM(Random Access Memory), ROM(Read Only Memory), EPROM(Erasable Programmable ROM), EEPROM(Electrically Erasable Programmable ROM), 플래시 메모리(Flash Memory), 하드 디스크, 착탈형 디스크, CD-ROM, 또는 본 발명이 속하는 기술 분야에서 잘 알려진 임의의 형태의 컴퓨터 판독가능 기록매체에 상주할 수도 있다.
이상, 첨부된 도면을 참조로 하여 본 발명의 실시예를 설명하였지만, 본 발명이 속하는 기술분야의 통상의 기술자는 본 발명이 그 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 실시될 수 있다는 것을 이해할 수 있을 것이다. 그러므로, 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며, 제한적이 아닌 것으로 이해해야만 한다.

Claims (20)

  1. 컴퓨팅 장치에 의해 수행되는 불확실성 추정 방법에 있어서,
    테스트 데이터와 학습 데이터를 획득하는 단계;
    상기 테스트 데이터와 상기 테스트 데이터와 같은 클래스 또는 다른 클래스에 속하는 적어도 하나의 학습 데이터가 서로 중첩되도록 혼합하여 증강 테스트 데이터를 생성하는 단계;
    상기 증강 테스트 데이터를 뉴럴 네트워크 모델에 입력하여 예측 데이터를 생성하는 단계; 및
    상기 예측 데이터에 대한 불확실성을 추정하는 단계를 포함하는 것을 특징으로 하는 불확실성 추정 방법.
  2. 제1 항에 있어서,
    상기 테스트 데이터와 학습 데이터를 획득하는 단계는,
    제1 클래스의 테스트 데이터를 한 개 획득하면 상기 제1 클래스와 다른 제2 클래스 내지 제N 클래스에 속하는 다수의 학습 데이터를 획득하는 것을 특징으로 하는 불확실성 추정 방법.
  3. 제2 항에 있어서,
    상기 제2 클래스 내지 제N 클래스에 속하는 다수의 학습 데이터를 획득하는 단계는,
    각 클래스마다 적어도 하나의 학습 데이터를 획득하는 것을 특징으로 하는 불확실성 추정 방법.
  4. 제1 항에 있어서,
    상기 테스트 데이터와 학습 데이터를 획득하는 단계는,
    제1 클래스의 테스트 데이터를 한 개 획득하면 상기 제1 클래스의 학습 데이터와 상기 제1 클래스와 다른 제2 클래스 내지 제N 클래스에 속하는 다수의 학습 데이터를 획득하는 것을 특징으로 하는 불확실성 추정 방법.
  5. 제1 항에 있어서,
    상기 테스트 데이터와 학습 데이터를 획득하는 단계는,
    제1 클래스의 테스트 데이터를 한 개 획득하면 상기 제1 클래스와 다른 특정 클래스에 속하는 학습 데이터를 획득하는 것을 특징으로 하는 불확실성 추정 방법.
  6. 제1 항에 있어서,
    상기 테스트 데이터 및 학습 데이터의 클래스는,
    신체의 특정 병변에 대한 다수의 질병 클래스로 분류되는 것을 특징으로 하는 불확실성 추정 방법.
  7. 제1 항에 있어서,
    상기 증강 테스트 데이터를 생성하는 단계는,
    제1 클래스의 테스트 데이터 한 개와 제2 클래스 내지 제N 클래스에 속하는 다수의 학습 데이터가 획득되면, 상기 제1 클래스의 테스트 데이터 한 개와 상기 제2 클래스 내지 제N 클래스에 속하는 학습 데이터 한 개를 중첩되도록 혼합하여 증강 테스트 데이터를 생성하고,
    상기 제2 클래스 내지 제N 클래스에 속하는 모든 학습 데이터가 상기 테스트 데이터와의 혼합이 완료되면 상기 증강 테스트 데이터 생성을 종료하는 것을 특징으로 하는 불확실성 추정 방법.
  8. 제1 항에 있어서,
    상기 증강 테스트 데이터를 생성하는 단계는,
    제1 클래스의 테스트 데이터 한 개와 상기 제1 클래스에 속하는 학습 데이터를 포함한 제2 클래스 내지 제N 클래스에 속하는 다수의 학습 데이터가 획득되면, 상기 제1 클래스의 테스트 데이터 한 개와 상기 제1 클래스에 속하는 학습 데이터 한개를 중첩되도록 혼합하여 제1 증강 테스트 데이터를 생성하고,
    상기 제1 클래스의 테스트 데이터 한 개와 상기 제2 클래스 내지 제N 클래스에 속하는 학습 데이터 한 개를 중첩되도록 혼합하여 제2 증강 테스트 데이터를 생성하며,
    상기 제2 클래스 내지 제N 클래스에 속하는 모든 학습 데이터가 상기 테스트 데이터와의 혼합이 완료되면 상기 증강 테스트 데이터 생성을 종료하는 것을 특징으로 하는 불확실성 추정 방법.
  9. 제1 항에 있어서,
    상기 증강 테스트 데이터를 생성하는 단계는,
    제1 클래스의 테스트 데이터 한 개와 상기 제1 클래스와 다른 특정 클래스에 속하는 학습 데이터가 획득되면, 상기 제1 클래스의 테스트 데이터 한 개와 상기 특정 클래스에 속하는 학습 데이터 한 개를 중첩되도록 혼합하여 증강 테스트 데이터를 생성하고,
    상기 특정 클래스에 속하는 모든 학습 데이터가 상기 테스트 데이터와의 혼합이 완료되면 상기 증강 테스트 데이터 생성을 종료하는 것을 특징으로 하는 불확실성 추정 방법.
  10. 제1 항에 있어서,
    상기 증강 테스트 데이터를 생성하는 단계는,
    상기 테스트 데이터의 이미지 및 라벨과 상기 학습 데이터의 이미지 및 라벨을 모두 중첩되도록 혼합하여 상기 증강 테스트 데이터를 생성하는 것을 특징으로 하는 불확실성 추정 방법.
  11. 제1 항에 있어서,
    상기 증강 테스트 데이터를 생성하는 단계는,
    상기 획득한 학습 데이터 중에 상기 테스트 데이터를 변형하여 미리 증강된 학습 데이터가 포함되면 상기 미리 증강된 학습 데이터와 상기 테스크 데이터를 서로 중첩되도록 혼합하여 증강 테스트 데이터를 생성하는 것을 특징으로 하는 불확실성 추정 방법.
  12. 제1 항에 있어서,
    상기 예측 데이터에 대한 불확실성을 추정하는 단계는,
    상기 예측 데이터에 대한 클래스 히스토그램을 생성하여 불확실성을 추정하고, 클래스들간의 거리를 확인하여 유사도를 판단하는 것을 특징으로 하는 불확실성 추정 방법.
  13. 제12 항에 있어서,
    상기 예측 데이터에 대한 불확실성을 추정하는 단계는,
    상기 추정한 불확실성 값이 낮을수록 상기 예측 데이터의 정확도가 증가하고, 상기 추정한 불확실성 값이 높을수록 상기 예측 데이터의 정확도가 감소하는 것으로 판단하는 것을 특징으로 하는 불확실성 추정 방법.
  14. 제1 항에 있어서,
    상기 예측 데이터에 대한 불확실성을 추정하는 단계는,
    상기 예측 데이터에 대한 불확실성을 추정하고, 불확실성 추정 결과 정보를 생성하는 것을 특징으로 하는 불확실성 추정 방법.
  15. 제14 항에 있어서,
    상기 불확실성 추정 결과 정보는,
    불확실성 학습에 의한 특정 클래스에 대한 다른 클래스의 유사도, 불확실성 추정에 대한 정확도, 테스트 데이터에 대한 불확실성 분포도를 포함하는 것을 특징으로 하는 불확실성 추정 방법.
  16. 컴퓨터 판독가능 저장 매체 저장된 컴퓨터 프로그램으로서, 상기 컴퓨터 프로그램은 하나 이상의 프로세서에서 실행되는 경우, 불확실성 추정을 위한 이하의 동작들을 수행하도록 하며, 상기 동작들은:
    테스트 데이터와 학습 데이터를 획득하는 동작;
    상기 테스트 데이터와 상기 테스트 데이터와 같은 클래스 또는 다른 클래스에 속하는 적어도 하나의 학습 데이터가 서로 중첩되도록 혼합하여 증강 테스트 데이터를 생성하는 동작;
    상기 증강 테스트 데이터를 뉴럴 네트워크 모델에 입력하여 예측 데이터를 생성하는 동작; 및
    상기 예측 데이터에 대한 불확실성을 추정하는 동작을 포함하는 것을 특징으로 하는 컴퓨터 판독가능 저장매체에 저장된 컴퓨터 프로그램.
  17. 불확실성 추정 방법을 제공하기 위한 컴퓨팅 장치로서,
    하나 이상의 코어를 포함하는 프로세서; 및
    메모리;
    를 포함하고,
    상기 프로세서는,
    테스트 데이터와 학습 데이터를 획득하고,
    상기 테스트 데이터와 상기 테스트 데이터와 같은 클래스 또는 다른 클래스에 속하는 적어도 하나의 학습 데이터가 서로 중첩되도록 혼합하여 증강 테스트 데이터를 생성하며,
    상기 증강 테스트 데이터를 뉴럴 네트워크 모델에 입력하여 예측 데이터를 생성하고, 그리고
    상기 예측 데이터에 대한 불확실성을 추정하는 것을 특징으로 하는 컴퓨팅 장치.
  18. 불확실성 추정을 위한 사용자 단말로서,
    하나 이상의 코어를 포함하는 프로세서;
    메모리; 및
    사용자 인터페이스를 제공하는 출력부를 포함하고,
    상기 사용자 인터페이스는,
    테스트 데이터와 상기 테스트 데이터와 같은 클래스 또는 다른 클래스에 속하는 적어도 하나의 학습 데이터를 중첩하여 혼합한 증강 테스트 데이터에 대한 응답으로, 불확실성 추정 결과 정보를 표시하고, 그리고
    상기 불확실성 추정 결과 정보는,
    상기 테스트 데이터와 학습 데이터를 획득하고, 상기 테스트 데이터와 상기 테스트 데이터와 같은 클래스 또는 다른 클래스에 속하는 적어도 하나의 학습 데이터가 서로 중첩되도록 혼합하여 증강 테스트 데이터를 생성하며, 상기 증강 테스트 데이터를 뉴럴 네트워크 모델에 입력하여 예측 데이터를 생성하고, 상기 예측 데이터에 대한 불확실성을 추정하여 생성되는 것을 특징으로 하는 사용자 단말.
  19. 제18 항에 있어서,
    상기 불확실성 추정 결과 정보는,
    불확실성 학습에 의한 특정 클래스에 대한 다른 클래스의 유사도, 불확실성 추정에 대한 정확도, 테스트 데이터에 대한 불확실성 분포도를 포함하는 것을 특징으로 하는 사용자 단말.
  20. 제18 항에 있어서,
    상기 사용자 인터페이스는,
    사용자 입력에 대한 응답으로, 상기 불확실성 추정 결과 정보를 표시하고, 그리고
    상기 불확실성 추정 결과 정보는,
    상기 테스트 데이터와 학습 데이터를 획득하고, 상기 테스트 데이터와 상기 테스트 데이터와 같은 클래스 또는 다른 클래스에 속하는 적어도 하나의 학습 데이터가 서로 중첩되도록 혼합하여 증강 테스트 데이터를 생성하며, 상기 증강 테스트 데이터를 뉴럴 네트워크 모델에 입력하여 예측 데이터를 생성하고, 상기 예측 데이터에 대한 불확실성을 추정하여 생성되는 것을 특징으로 하는 사용자 단말.
KR1020210129581A 2021-09-30 2021-09-30 테스트 시간 혼합 증강 기반 불확실성 추정 방법, 장치 및 프로그램 KR20230046516A (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020210129581A KR20230046516A (ko) 2021-09-30 2021-09-30 테스트 시간 혼합 증강 기반 불확실성 추정 방법, 장치 및 프로그램

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020210129581A KR20230046516A (ko) 2021-09-30 2021-09-30 테스트 시간 혼합 증강 기반 불확실성 추정 방법, 장치 및 프로그램

Publications (1)

Publication Number Publication Date
KR20230046516A true KR20230046516A (ko) 2023-04-06

Family

ID=85918018

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020210129581A KR20230046516A (ko) 2021-09-30 2021-09-30 테스트 시간 혼합 증강 기반 불확실성 추정 방법, 장치 및 프로그램

Country Status (1)

Country Link
KR (1) KR20230046516A (ko)

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102200212B1 (ko) 2018-12-07 2021-01-08 서울대학교 산학협력단 불확실성 예측을 위한 샘플링 모델 생성 장치 및 방법, 불확실성 예측 장치

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102200212B1 (ko) 2018-12-07 2021-01-08 서울대학교 산학협력단 불확실성 예측을 위한 샘플링 모델 생성 장치 및 방법, 불확실성 예측 장치

Similar Documents

Publication Publication Date Title
AU2019200270B2 (en) Concept mask: large-scale segmentation from semantic concepts
US10853449B1 (en) Report formatting for automated or assisted analysis of medical imaging data and medical diagnosis
KR102460257B1 (ko) 진단 결과를 제공하기 위한 방법 및 장치
KR102500258B1 (ko) 제품 이상 탐지 방법
US20220351055A1 (en) Data diversity visualization and quantification for machine learning models
KR102455875B1 (ko) 골 연령 판독 방법 및 장치
JP7225731B2 (ja) 多変数データシーケンスの画像化
US20230154164A1 (en) Self-supervised learning for artificial intelligence-based systems for medical imaging analysis
KR20230046516A (ko) 테스트 시간 혼합 증강 기반 불확실성 추정 방법, 장치 및 프로그램
KR20220078495A (ko) 캡슐 내시경 영상 기반 소장 병변 판독 방법, 장치 및 프로그램
KR102317857B1 (ko) 병변 판독 방법
US20230293094A1 (en) Method,apparatus and computer program for reading rotator cuff tear state or muscle fat degeneration disorder based on artificial intelligence
KR20230023835A (ko) 신체 균형 변화 기반 자폐 환자의 운동 능력 발달 진단 방법
KR20230047240A (ko) 폐렴 판독 방법, 장치 및 프로그램
KR102569976B1 (ko) 의료 영상 처리 방법
KR102375786B1 (ko) 의료 영상에서 이상 소견 탐지 및 판독문 생성 방법
KR102590483B1 (ko) 호흡 운동 관리 방법, 장치 및 프로그램
KR102650787B1 (ko) 설골 움직임 추적 방법
KR20230007736A (ko) 인공 슬관절 해리 판독 방법
KR20220124483A (ko) 질병 예측 방법
KR20230128182A (ko) 인공지능 기반 어깨 회전근 개 근육 지방 변성 질환 판독 방법, 장치 및 프로그램
KR102553060B1 (ko) 인공지능 기반의 척추 정보를 이용한 의료영상정보 제공 방법, 장치 및 프로그램
US20240160915A1 (en) Explainable deep interpolation
US20220237777A1 (en) Method for measuring lesion of medical image
KR20230168491A (ko) 인공지능 기반 중심장액맥락망막병증 진단 방법, 장치 및 프로그램