KR102664734B1 - 멀티-태스크(multi-task) 모델의 학습 방법 - Google Patents

Abstract

본 개시의 몇몇 실시예에 따른, 적어도 하나의 프로세서를 포함하는 컴퓨팅 장치에 의해 수행되는 멀티-태스크(multi-task) 모델의 학습 방법이 개시된다. 상기 멀티-태스크 모델의 학습 방법은 학습 데이터 세트를 획득하는 단계; 및 상기 학습 데이터 세트를 기초로, 입력값에 대한 예측 결과를 출력하고 예측의 불확실성을 추정하는 신경망 모델을 학습시키는 단계를 포함하고, 상기 신경망 모델을 학습시키기 위한 손실함수는, 상기 예측 결과 및 상기 예측의 불확실성을 정량화 하기 위한 제 1 손실함수 및 상기 신경망 모델의 예측 정확도를 향상시키기 위한 제 2 손실함수를 포함할 수 있다.

Description

멀티-태스크(multi-task) 모델의 학습 방법{METHOD FOR TRAINING MULTI-TASK MODEL}

본 개시는 멀티-태스크(multi-task) 모델의 학습 방법에 관한 것으로, 구체적으로 입력값에 대한 예측 결과를 출력하고 예측의 불확실성을 추정하는 신경망 모델을 학습시키는 방법에 관한 것이다.

정확한 예측과 추론을 수행하는 것 외에도 불확실성을 정량화 하는 것은 안전이 중요한 시스템에 있어서 필수 작업일 수 있다. 딥러닝에서 불확실성에 기여하는 요인은, 환원 불가능한(irreducible) 관찰 노이즈(i.e. 비유적 불확실성) 및 모델 파라미터의 불확실성(i.e. 인식적 불확실성)의 2가지 유형으로 분류할 수 있다. 특히, 인식적 불확실성의 정량화는 모델 파라미터의 불확실성을 표현하는데 많은 어려움이 수반된다는 점과 상당한 비용이 요구된다는 문제가 존재한다.

인식적 불확실성을 추정하는 기존 방법으로는, 앙상블 기반의 방법 및 베이지안 네트워크(Bayesian neural networks)를 이용하는 방법이 존재한다. 앙상블 기반의 방법 및 베이지안 네트워크 기반의 방법은 추정의 정확성과 견고성에서 모두 인상적인 결과를 생성하는 것으로 알려져 있다. 그러나, 앙상블 기반의 방법은 많은 수의 네트워크 모델이 필요하므로, 연산을 위해 많은 리소스(resource)가 요구될 수 밖에 없다는 단점을 가지고 있다. 또한, 베이지안 신경망 네트워크는 사후(posterior) 분포 또는 확률 등에 대한 확장 근사(expansive approximations)가 필요하므로, 연산의 비용적인 측면에서 비효율적이라는 단점이 존재한다.

대한민국 등록특허 제10-2213670호

본 개시는 전술한 배경기술에 대응하여 안출된 것으로, 정확한 예측과 추론을 수행함과 동시에 예측의 불확실성을 효과적으로 정량화할 수 있는 멀티-태스크 모델을 학습시키는 방법을 제공하고자 한다.

본 개시의 기술적 과제들은 이상에서 언급한 기술적 과제로 제한되지 않으며, 언급되지 않은 또 다른 기술적 과제들은 아래의 기재로부터 당업자에게 명확하게 이해될 수 있을 것이다.

전술한 바와 같은 과제를 해결하기 위한 본 개시의 일 실시예에 따라, 적어도 하나의 프로세서를 포함하는 컴퓨팅 장치에 의해 수행되는 멀티-태스크(multi-task) 모델의 학습 방법이 개시된다. 상기 멀티-태스크 모델의 학습 방법은 학습 데이터 세트를 획득하는 단계; 및 상기 학습 데이터 세트를 기초로, 입력값에 대한 예측 결과를 출력하고 예측의 불확실성을 추정하는 신경망 모델을 학습시키는 단계; 를 포함하고, 상기 신경망 모델을 학습시키기 위한 손실함수는, 상기 예측 결과 및 상기 예측의 불확실성을 정량화 하기 위한 제 1 손실함수 및 상기 신경망 모델의 예측 정확도를 향상시키기 위한 제 2 손실함수를 포함할 수 있다.

또한, 상기 신경망 모델은, 증거 회귀 네트워크(Evidential Regression Network, ENet) 기반의 모델일 수 있다.

또한, 상기 제 1 손실함수는, 음의 로그 우도(Negative Log-Likelihood, NLL) 기반의 손실함수를 포함할 수 있다.

또한, 상기 제 2 손실함수는, 평균 제곱 오차(Mean Squared Error, MSE) 기반의 손실함수를 포함할 수 있다.

또한, 상기 제 2 손실함수는, 평균 제곱 오차(MSE) 기반의 제 1 서브 손실함수; 및 상기 제 1 손실함수와 상기 제 2 손실함수 간의 기울기 충돌(gradient conflict)를 완화시키기 위해 도출된, 립시츠 연속　함수(Lipschitz-continuous function) 기반의 제 2 서브 손실함수; 를 포함할 수 있다.

또한, 상기 제 1 서브 손실함수 또는 상기 제 2 서브 손실함수는, 상기 제 1 서브 손실함수의 연산값과 상기 예측의 불확실성과 관련된 상기 신경망 모델의 분산 파라미터(variance parameter)에 기반한 임계값을 비교한 결과에 따라, 상기 제 2 손실함수로서 상기 신경망 모델의 학습에 선택적으로 사용될 수 있다.

또한, 상기 제 1 서브 손실함수의 연산값이 상기 예측의 불확실성과 관련된 상기 신경망 모델의 분산 파라미터에 기반한 임계값 미만인 경우, 상기 제 2 손실함수로서 상기 제 1 서브 손실함수가 상기 신경망 모델의 학습에 사용될 수 있다.

또한, 상기 제 1 서브 손실함수의 연산값이 상기 예측의 불확실성과 관련된 상기 신경망 모델의 분산 파라미터에 기반한 임계값 이상인 경우, 상기 제 2 손실함수로서 상기 제 2 서브 손실함수가 상기 신경망 모델의 학습에 사용될 수 있다.

또한, 상기 예측의 불확실성과 관련된 상기 신경망 모델의 분산 파라미터에 기반한 임계값은, 상기 분산 파라미터의 최소값들의 평균값일 수 있다.

또한, 상기 신경망 모델을 학습시키기 위한 손실함수는, 상기 예측의 불확실성을 증가시킴으로써 상기 제 1 손실함수를 조절(regulation)하는 제 3 손실함수; 를 더 포함할 수 있다.

또한, 컴퓨터 판독가능 저장 매체에 저장된 컴퓨터 프로그램으로서, 상기 컴퓨터 프로그램은 하나 이상의 프로세서에서 실행되는 경우, 멀티-태스크(multi-task) 모델을 학습시키기 위한 방법을 수행하도록 하며, 상기 방법은: 학습 데이터 세트를 획득하는 단계; 및 상기 학습 데이터 세트를 기초로, 입력값에 대한 예측 결과를 출력하고 예측의 불확실성을 추정하는 신경망 모델을 학습시키는 단계; 를 포함하고, 상기 신경망 모델을 학습시키기 위한 손실함수는, 상기 예측 결과 및 상기 예측의 불확실성을 정량화 하기 위한 제 1 손실함수 및 상기 신경망 모델의 예측 정확도를 향상시기키 위한 제 2 손실함수를 포함할 수 있다.

또한, 멀티-태스크(multi-task) 모델을 학습시키기 위한 컴퓨팅 장치로서, 학습 데이터 세트를 획득하는 통신부; 및 상기 학습 데이터 세트를 기초로, 입력값에 대한 예측 결과를 출력하고 예측의 불확실성을 추정하는 신경망 모델을 학습시키는 프로세서; 를 포함하고, 상기 신경망 모델을 학습시키기 위한 손실함수는, 상기 예측 결과 및 상기 예측의 불확실성을 정량화 하기 위한 제 1 손실함수 및 상기 신경망 모델의 예측 정확도를 향상시기키 위한 제 2 손실함수를 포함할 수 있다.

본 개시에서 얻을 수 있는 기술적 해결 수단은 이상에서 언급한 해결 수단들로 제한되지 않으며, 언급하지 않은 또 다른 해결 수단들은 아래의 기재로부터 본 개시가 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.

본 개시의 몇몇 실시예에 따르면, 정확한 예측과 추론을 수행함과 동시에 예측의 불확실성을 효과적으로 정량화할 수 있는 멀티-태스크 모델을 학습시키는 방법을 제공할 수 있도록 한다.

본 개시에서 얻을 수 있는 효과는 이상에서 언급한 효과로 제한되지 않으며, 언급하지 않은 또 다른 효과들은 아래의 기재로부터 본 개시가 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.

다양한 양상들이 이제 도면들을 참조로 기재되며, 여기서 유사한 참조 번호들은 총괄적으로 유사한 구성요소들을 지칭하는데 이용된다. 이하의 실시예에서, 설명 목적을 위해, 다수의 특정 세부사항들이 하나 이상의 양상들의 총체적 이해를 제공하기 위해 제시된다. 그러나, 그러한 양상(들)이 이러한 특정 세부사항들 없이 실시될 수 있음은 명백할 것이다. 다른 예시들에서, 공지의 구조들 및 장치들이 하나 이상의 양상들의 기재를 용이하게 하기 위해 블록도 형태로 도시된다.
도 1은 본 개시의 몇몇 실시예에 따른 컴퓨팅 장치의 일례를 설명하기 위한 블록 구성도이다.
도 2는 본 개시의 몇몇 실시예에 따른 컴퓨팅 장치가 신경망 모델을 학습시키는 방법의 일례를 설명하기 위한 흐름도이다.
도 3은 본 개시의 몇몇 실시예에 따른 기울기 충돌의 일례를 설명하기 위한 도면이다.
도 4는 본 개시의 몇몇 실시예에 따른 컴퓨팅 장치가 제 2 손실함수로서 제 1 서브 손실함수 또는 제 2 서브 손실함수를 선택적으로 사용하는 방법의 일례를 설명하기 위한 흐름도이다.
도 5는 본 개시의 몇몇 실시예에 따른 파라미터의 일례를 설명하기 위한 도면이다.
도 6은 본 개시의 몇몇 실시예에 따른 신경망 모델을 이용하여 수행된 실험의 결과를 설명하기 위한 도면이다.
도 7은 본 개시내용의 실시예들이 구현될 수 있는 예시적인 컴퓨팅 환경에 대한 일반적인 개략도를 도시한다.

다양한 실시예들 및/또는 양상들이 이제 도면들을 참조하여 개시된다. 하기 설명에서는 설명을 목적으로, 하나 이상의 양상들의 전반적 이해를 돕기 위해 다수의 구체적인 세부사항들이 개시된다. 그러나, 이러한 양상(들)은 이러한 구체적인 세부사항들 없이도 실행될 수 있다는 점 또한 본 개시의 기술 분야에서 통상의 지식을 가진 자에게 감지될 수 있을 것이다. 이후의 기재 및 첨부된 도면들은 하나 이상의 양상들의 특정한 예시적인 양상들을 상세하게 기술한다. 하지만, 이러한 양상들은 예시적인 것이고 다양한 양상들의 원리들에서의 다양한 방법들 중 일부가 이용될 수 있으며, 기술되는 설명들은 그러한 양상들 및 그들의 균등물들을 모두 포함하고자 하는 의도이다. 구체적으로, 본 명세서에서 사용되는 "실시예", "예", "양상", "예시" 등은 기술되는 임의의 양상 또는 설계가 다른 양상 또는 설계들보다 양호하다거나, 이점이 있는 것으로 해석되지 않을 수도 있다.

이하, 도면 부호에 관계없이 동일하거나 유사한 구성 요소는 동일한 참조 번호를 부여하고 이에 대한 중복되는 설명은 생략한다. 또한, 본 명세서에 개시된 실시예를 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 명세서에 개시된 실시예의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다. 또한, 첨부된 도면은 본 명세서에 개시된 실시예를 쉽게 이해할 수 있도록 하기 위한 것일 뿐, 첨부된 도면에 의해 본 명세서에 개시된 기술적 사상이 제한되지 않는다.

비록 제 1, 제 2 등이 다양한 소자나 구성요소들을 서술하기 위해서 사용되나, 이들 소자나 구성요소들은 이들 용어에 의해 제한되지 않음은 물론이다. 이들 용어들은 단지 하나의 소자나 구성요소를 다른 소자나 구성요소와 구별하기 위하여 사용하는 것이다. 따라서, 이하에서 언급되는 제 1 소자나 구성요소는 본 발명의 기술적 사상 내에서 제 2 소자나 구성요소 일 수도 있음은 물론이다.

다른 정의가 없다면, 본 명세서에서 사용되는 모든 용어(기술 및 과학적 용어를 포함)는 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 공통적으로 이해될 수 있는 의미로 사용될 수 있을 것이다. 또 일반적으로 사용되는 사전에 정의되어 있는 용어들은 명백하게 특별히 정의되어 있지 않는 한 이상적으로 또는 과도하게 해석되지 않는다.

더불어, 용어 "또는"은 배타적 "또는"이 아니라 내포적 "또는"을 의미하는 것으로 의도된다. 즉, 달리 특정되지 않거나 문맥상 명확하지 않은 경우에, "X는 A 또는 B를 이용한다"는 자연적인 내포적 치환 중 하나를 의미하는 것으로 의도된다. 즉, X가 A를 이용하거나; X가 B를 이용하거나; 또는 X가 A 및 B 모두를 이용하는 경우, "X는 A 또는 B를 이용한다"가 이들 경우들 어느 것으로도 적용될 수 있다. 또한, 본 명세서에 사용된 "및/또는"이라는 용어는 열거된 관련 아이템들 중 하나 이상의 아이템의 가능한 모든 조합을 지칭하고 포함하는 것으로 이해되어야 한다.

또한, "포함한다" 및/또는 "포함하는"이라는 용어는, 해당 특징 및/또는 구성요소가 존재함을 의미하지만, 하나 이상의 다른 특징, 구성요소 및/또는 이들의 그룹의 존재 또는 추가를 배제하지 않는 것으로 이해되어야 한다. 또한, 달리 특정되지 않거나 단수 형태를 지시하는 것으로 문맥상 명확하지 않은 경우에, 본 명세서와 청구범위에서 단수는 일반적으로 "하나 또는 그 이상"을 의미하는 것으로 해석되어야 한다.

더불어, 본 명세서에서 사용되는 용어 "정보" 및 "데이터"는 종종 서로 상호교환 가능하도록 사용될 수 있다.

어떤 구성 요소가 다른 구성 요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성 요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성 요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성 요소가 다른 구성 요소에 "직접 연결되어" 있다거나 "직접 접속되어"있다고 언급된 때에는, 중간에 다른 구성 요소가 존재하지 않는 것으로 이해되어야 할 것이다.

이하의 설명에서 사용되는 구성 요소에 대한 접미사 "모듈" 및 "부"는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다.

본 개시의 목적 및 효과, 그리고 그것들을 달성하기 위한 기술적 구성들은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 본 개시를 설명하는데 있어서 공지 기능 또는 구성에 대한 구체적인 설명이 본 개시의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명을 생략할 것이다. 그리고 후술되는 용어들은 본 개시에서의 기능을 고려하여 정의된 용어들로써 이는 사용자, 운용자의 의도 또는 관례 등에 따라 달라질 수 있다.

그러나 본 개시는 이하에서 개시되는 실시예들에 한정되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있다. 단지 본 실시예들은 본 개시가 완전하도록 하고, 본 개시가 속하는 기술분야에서 통상의 지식을 가진 자에게 개시의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 개시는 청구항의 범주에 의해 정의될 뿐이다. 그러므로 그 정의는 본 명세서 전반에 걸친 내용을 토대로 내려져야 할 것이다.

본 개시에서 컴퓨팅 장치는 입력값에 대한 예측 결과를 출력하고 예측의 불확실성을 추정하는 멀티-태스크(multi-task) 모델을 학습시킬 수 있다. 여기서, 멀티-태스크 모델은 다중 작업 학습을 단일 신경망 모델로 여러 번 훈련하는 모델일 수 있다. 일례로, 본 개시의 신경망 모델은 증거 회귀 네트워크(Evidential Regression Network, ENet) 기반의 모델일 수 있고, 증거 회귀 네트워크는 입력값에 대한 예측 결과를 출력하고 예측의 불확실성의 추정을 수행할 수 있다. 예를 들어, 증거 회귀 네트워크 기반의 신경망 모델은 타겟값 를 파라미터 가 알려지지 않은 정규 분포(Normal distribution)로부터 추출한 표본으로 결정할 수 있다. 여기서, 파라미터 는 상기 정규 분포의 이전 켤레(conjugate)인 정규 역 감마 분포(Normal-Inverse-Gamma distribution, NIG distribution)로부터 추출될 수 있다. 타겟값 및 파라미터 는 하기의 수학식과 같이 정의될 수 있다.

여기서 데이터 세트 는 을 포함할 수 있다. 는 입력일 수 있고, 는 입력 벡터의 차원일 수 있다. 은 타겟이고, 은 데이터 샘플의 수일 수 있다. 일 수 있고, 일 수 있다. 또한,일 수 있고, 은 정규 역 감마 분포일 수 있다. 상기 수학식 1에서, 정규 역 감마 분포는 증거 회귀 네트워크의 출력인 에 의해 파라미터화 될 수 있다. 증거 회귀 네트워크의 출력은 과 같이 결정될 수 있다. 여기서, 는 학습가능한 파라미터일 수 있다.

증거 회귀 네트워크의 예측 분포는 알려지지 않은 파라미터 에 대한 한계 가능도(marginal likelihood)일 수 있다. 한계 가능도 는 하기의 수학식 2를 통해 계산될 수 있다.

여기서, 은 위치 파라미터, 스케일 파라미터 및 자유도 포함하는 학습-t 분포일 수 있다. 수학식 2를 통해 계산되는 예측 분포 를 이용하여, 모델 예측, 예측의 불확실성 및 의사(pseudo) 관찰 등이 결정될 수 있다. 일례로, 증거 회귀 네트워크의 모델 예측(또는 예측 결과) , 비유적 불확실성 및 인식적 불확실성 이 하기의 수학식 3을 통해 결정될 수 있다.

상기 수학식 3을 기반으로, 본 개시에서의 신경망 모델이 입력값에 대해 예측을 수행한 예측 결과는 일 수 있다. 그리고, 예측의 불확실성은 및 일 수 있다. 실시예에 따라, 의사 관찰은 베이지안 통계 문헌에서 사용되는 예측 불확실성의 대체 해석으로서 사용될 수도 있다. 일례로, 본 개시에서는 및 와 같이 의사 관찰을 정의할 수 있고, 비유적 불확실성 및 인식적 불확실성은 의사 관찰이 증가함에 따라 감소될 수 있다. 환언하자면, 비유적 불확실성은 의사 관찰의 증가와는 반비례 할 수 있고, 인식적 불확실성 또한 의사 관찰의 증가와는 반비례 할 수 있다.

한편, 본 개시에 따른 신경망 모델은 하기의 수학식 4를 통해 손실함수(Negative Log-Likelihood loss function, NLL log function)(가 최소화될 수 있는 파라미터를 추정할 수 있다.

여기서, 은 감마 함수일 수 있고, 일 수 있다. 본 개시의 신경망 모델은 손실함수를 이용하여, 예측 결과 를 계산할 수 있고 또한, 비유적 불확실성및 인식적 불확실성을 정량화할 수 있다. 더하여, 본 개시에서는 수학식 4를 통해 결정되는 손실함수 외 추가적인 손실함수를 이용하여, 신경망 모델을 학습시킬 수 있다. 일례로, 본 개시에 따른 신경망 모델을 학습시키기 위한 손실함수는 상술한 예측 결과 및 예측의 불확실성을 정량화 하기 위한 제 1 손실함수 외에도 신경망 모델의 예측 정확도를 향상시키기 위한 제 2 손실함수를 포함할 수 있다. 이하, 본 개시에 따른 신경망 모델을 학습시키기 위한 손실함수에 대해 도 1 내지 도 6을 통해 설명한다.

도 1은 본 개시의 몇몇 실시예에 따른 컴퓨팅 장치의 일례를 설명하기 위한 블록 구성도이다.

도 1을 참조하면, 컴퓨팅 장치(100)는 프로세서(110) 및 저장부(120)를 포함할 수 있다. 다만, 상술한 구성 요소들은 컴퓨팅 장치(100)를 구현하는데 있어서 필수적인 것은 아니어서, 컴퓨팅 장치(100)는 위에서 열거된 구성요소들 보다 많거나, 또는 적은 구성요소들을 가질 수 있다.

컴퓨팅 장치(100)는 예를 들어, 마이크로프로세서, 메인프레임 컴퓨터, 디지털 프로세서, 휴대용 디바이스 또는 디바이스 제어기 등과 같은 임의의 타입의 컴퓨터 시스템 또는 컴퓨터 디바이스를 포함할 수 있다.

프로세서(110)는 통상적으로 컴퓨팅 장치(100)의 전반적인 동작을 처리할 수 있다. 프로세서(110)는 컴퓨팅 장치(100)에 포함된 구성요소들을 통해 입력 또는 출력되는 신호, 데이터, 정보 등을 처리하거나 저장부(120)에 저장된 응용 프로그램을 구동함으로써, 사용자에게 적절한 정보 또는 기능을 제공 또는 처리할 수 있다.

본 개시에서, 프로세서(110)는 통신부(130)를 통해 획득된 학습 데이터 세트를 기초로, 입력값에 대한 예측 결과를 출력하고 예측의 불확실성을 추정하는 신경망 모델을 학습시킬 수 있다. 여기서, 신경망 모델을 학습시키기 위한 손실함수는 예측 결과 및 예측의 불확실성을 정량화 하기 위한 제 1 손실함수 및 신경망 모델의 예측 정확도를 향상시키기 위한 제 2 손실함수를 포함할 수 있다. 실시예에 따라, 제 1 손실함수는 음의 로그 우도(Negative Log-Likelihood, NLL) 기반의 손실함수를 포함할 수 있다. 제 2 손실함수는 평균 제곱 오차(Mean Squared Error, MSE) 기반의 손실함수를 포함할 수 있다. Negative Log-Likelihood(NLL) 기반의 손실함수는 신경망 모델이 입력값에 대한 예측 결과를 계산함에 있어서, 특정 부분에서는 기울기 수축 또는 기울기 충돌 문제를 발생시킬 수 있다. 따라서, 본 개시에서의 손실함수는 제 1 손실함수 외에도 제 2 손실함수를 포함할 수 있다. 이하, 본 개시에 따른 손실함수에 대한 내용은 도 2를 통해 설명한다.

저장부(120)는 메모리 및/또는 영구저장매체를 포함할 수 있다. 메모리는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(Random Access Memory, RAM), SRAM(Static Random Access Memory), 롬(Read-Only Memory, ROM), EEPROM(Electrically Erasable Programmable Read-Only Memory), PROM(Programmable Read-Only Memory), 자기 메모리, 자기 디스크, 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다.

본 개시에서, 저장부(120)는 통신부(130)를 통해 획득된 학습 데이터 세트를 데이터베이스로 저장할 수 있다. 일례로, 저장부(120)는 복수의 약물 및 복수의 타겟 물질과 관련된 정보를 데이터베이스로 저장할 수 있다.

통신부(130)는 컴퓨팅 장치(100)와 통신 시스템 사이 또는 컴퓨팅 장치(100)와 네트워크(미도시) 사이의 통신을 가능하게 하는 하나 이상의 모듈을 포함할 수 있다. 이러한 통신부(130)는 이동통신 모듈, 유선 인터넷 모듈 및 무선 인터넷 모듈 중 적어도 하나를 포함할 수 있다.

이하에서는 컴퓨팅 장치(100)가 수행하는 신경망 모델을 학습시키는 방법에 대해 설명한다.

도 2는 본 개시의 몇몇 실시예에 따른 컴퓨팅 장치가 신경망 모델을 학습시키는 방법의 일례를 설명하기 위한 흐름도이다. 도 3은 본 개시의 몇몇 실시예에 따른 기울기 충돌의 일례를 설명하기 위한 도면이다.

도 2를 참조하면, 컴퓨팅 장치(100)의 통신부(130)는 학습 데이터 세트를 획득할 수 있다(S110). 일례로, 통신부(130)는 복수의 약물 및 복수의 타겟 물질과 관련된 학습 데이터 세트를 획득할 수 있다. 다만, 이에 한정되는 것은 아니다.

컴퓨팅 장치(100)의 프로세서(110)는 학습 데이터 세트를 기초로, 입력값에 대한 예측 결과를 출력하고 예측의 불확실성을 추정하는 신경망 모델을 학습시킬 수 있다(S120). 실시예에 따라, 신경망 모델은 증거 회귀 네트워크(Evidential Regression Network, ENet) 기반의 모델일 수 있다. 예측 결과는 예를 들어 약물 및 타겟 물질 간의 친화도(affinity) 등을 예측한 결과일 수 있다. 불확실성은 예측 결과가 얼마나 정확한지 또는 정확하지 못한지를 나타내는 값일 수 있다.

본 개시의 몇몇 실시예에 따르면, 신경망 모델을 학습시키기 위한 손실함수는 예측 결과 및 예측의 불확실성을 정량화 하기 위한 제 1 손실함수 및 신경망 모델의 예측 정확도를 향상시키기 위한 제 2 손실함수를 포함할 수 있다. 실시예에 따라, 제 1 손실함수는 Negative Log-Likelihood(NLL) 기반의 손실함수를 포함할 수 있다.

본 개시의 몇몇 실시예에 따르면, 제 2 손실함수는 평균 제곱 오차(Mean Squared Error, MSE) 기반의 손실함수를 포함할 수 있다.

구체적으로, 프로세서(110)는 제 1 손실함수가 예측 결과를 산출하도록 신경망 모델을 훈련시킬 수 있으나, 제 1 손실함수만을 이용하는 경우, 예측 정확도가 다소 충분하지 않을 수 있다. 여기서, 예측 정확도는 평균 제곱 오차(Mean Squared Error, MSE) 등의 방식을 통해 계산될 수 있다. 이때, 제 1 손실함수가 예측값을 수정하는 대신 예측 불확성을 증가시키는 것이 예측 정확도가 저조한 한가지 원인이 될 수 있다. 이를 좀 더 구체적으로 설명하기 위해 기울기 벡터와 크기에 대해 설명한다. 먼저, 신경망 모델의 손실함수 및 신경망 모델을 통해 출력된 출력값 세트 가 고려될 수 있다. 여기서, 일 수 있다. 은 에서 역전파 되는 기울기 벡터일 수 있다. 여기서, 일 수 있다. 이하에서는 표기를 간결하기 위해 는 생략한다. 기울기 크기는 로 나타낼 수 있다. 한편, 모델의 예측값(예측 결과)의 기울기 크기가 신경망 모델의 예측 정확도에 관계없이 중요하지 않음을 확인할 필요가 있을 수 있다. 본 개시에 따른 입력값에 대한 예측 결과는 신경망 모델에 의해 생성된 한계 분포의 예측 평균(predictive mean)에 의해 결정될 수 있다. 따라서, 신경망 모델의 예측 평균이 로부터 획득되기 때문에, 신경망 모델의 예측 결과는 로 학습될 수 있다. 은 와 같은 도함수를 통해 참조될 수 있으며, 하기와 같이 재작성될 수 있다.

여기서, 일 수 있다. 다음으로, 예측 정확도가 저조한 한가지 원인을 설명하기 위해서 은 예측 결과와 실제 값의 차이를 나타내는 에 관계없이 급격히 떨어지거나 또는 0이 될 수 있다는 것을 증명할 필요가 있다. 구체적으로, 신경망 모델의 인식적 불확실성 이 무한히 높아 데이터의 희소성을 의미한다고 가정할 수 있다. 그리고, 가정된 무한히 큰 인식적 불확실성을 직접적으로 고려하는 대신 무한히 작은 의사 관찰 을 고려할 수 있다. 여기서, 는 을 통해 결정되었을 수 있다. 이 경우, 신경망 모델은 를 통해 예측 결과 를 훈련하는 것이 중지될 수 있다. 환언하자면, 정규 역 감마 분포에 있어서 의사 관찰이 0으로 수렴하는 경우(), 제 1 손실함수의 기울기 크기()는 가 0이 되기 때문에, 거의 0이 될 수 있다. 이를 수학식으로 표현하면 하기와 같을 수 있다.

상술한 바와 같이, 제 1 손실함수는 추정된 인식적 불확실성이 높은 경우, 신경망 모델이 예측 결과 를 예측하도록 학습시킬 수 없을 수 있다. 따라서, 본 개시에서의 신경망 모델을 학습시키기 위한 손실함수는 제 1 손실함수 뿐만 아니라, 신경망 모델의 예측 정확도를 향상시키기 위한 제 2 손실함수를 포함할 수 있다.

구체적으로, 평균 제곱 오차 기반의 제 2 손실함수는 가 의사 관찰 와 독립적이므로, 신경망 모델이 예측 결과 를 산출하도록 지속적으로 훈련시킬 수 있다. 이에 따라, 제 2 손실함수는 높은 인식적 불확실성 조건에서 모델의 예측 결과를 향상시킬 수 있다.

한편, 본 개시의 몇몇 실시예에 따르면, 제 2 손실함수는 평균 제곱 오차(MSE) 기반의 제 1 서브 손실함수 및 제 1 손실함수와 제 2 손실함수 간의 기울기 충돌(gradient conflict)를 완화시키기 위해 도출된 립시츠 연속　함수(Lipschitz-continuous function) 기반의 제 2 서브 손실함수를 포함할 수 있다.

구체적으로, 제 1 손실함수의 예측 결과 기울기는 로 나타낼 수 있다. 제 1 손실함수의 불확실성 기울기는 로 나타낼 수 있다. 이 경우, 제 1 손실함수의 총 기울기는 으로 나타낼 수 있다. 여기서, 일 수 있다. 이에 따라, 제 1 손실함수의 예측 결과 기울기는 제 1 서브 손실함수의 예측 결과 기울기와 충돌하지 않을 수 있다. 기울기의 충돌은 제 1 손실함수의 예측 결과 기울기 벡터 및 제 1 서브 손실함수의 예측 결과 기울기 벡터가 서로 다른 방향으로 향하는 것을 의미할 수 있다.

기울기의 충돌에 대한 일례를 설명하기 위해 도 3를 참조할 수 있다. 도 3의 (a)는 기울기가 충돌하지 않은 일례를 나타내기 위한 도면일 수 있다. 여기서, 제 1 선(310)은 제 1 손실함수의 예측 결과 기울기 를 나타낼 수 있다. 제 2 선(320)은 제 1 손실함수의 불확실성 기울기 를 나타낼 수 있다. 제 3 선(330)은 제 1 서브 손실함수의 예측 결과 기울기 를 나타낼 수 있다. 제 1 선(310) 내지 제 3 선(330)을 참조하면, 제 1 선(310) 내지 제 3 선(330)은 기울기 벡터가 서로 같은 방향으로 향할 수 있다. 제 1 선(310) 내지 제 3 선(330)의 기울기 벡터가 서로 같은 방향으로 향한다는 것은, 제 1 선(310) 내지 제 3 선(330)의 기울기가 충돌이 발생하지 않았음을 나타낼 수 있다. 한편, 도 3의 (b)는 기울기가 적어도 일부 충돌하는 일례를 나타내기 위한 도면일 수 있다. 여기서, 제 1 선(311)은 제 1 손실함수의 예측 결과 기울기 를 나타낼 수 있다. 제 2 선(321)은 제 1 손실함수의 불확실성 기울기 를 나타낼 수 있다. 제 3 선(331)은 제 1 서브 손실함수의 예측 결과 기울기 를 나타낼 수 있다. 제 1 선(311) 및 제 3 선(331)을 참조하면, 제 1 선(311) 및 제 3 선(331)은 기울기 벡터가 서로 같은 방향으로 향하므로, 제 1 선(311) 및 제 3 선(331)의 기울기가 충돌이 발생하지 않았음을 나타낼 수 있다. 반면, 제 2 선(321)은 제 1 선(311) 및 제 3 선(331)과는 다른 방향으로 기울기 벡터가 향할 수 있다. 따라서, 제 2 선(331)은 제 1 선(311) 및 제 3 선(331)과 기울기의 적어도 일부가 충돌한 것을 나타낼 수 있다. 도 3의 (c)는 불확실성 추정에 따른 기울기가 충돌하는 일례를 나타내기 위한 도면일 수 있다. 여기서, 제 1 선(312)은 제 1 손실함수의 예측 결과 기울기 를 나타낼 수 있다. 제 2 선(322)은 제 1 손실함수의 불확실성 기울기 를 나타낼 수 있다. 제 3 선(332)은 제 1 서브 손실함수의 예측 결과 기울기 를 나타낼 수 있다. 제 1 선(312) 및 제 3 선(332)을 참조하면, 제 1 선(312) 및 제 3 선(332)은 기울기 벡터가 서로 같은 방향으로 향하므로, 제 1 선(312) 및 제 3 선(332)의 기울기가 충돌이 발생하지 않았음을 나타낼 수 있다. 반면, 제 2 선(322)은 제 1 선(312) 및 제 3 선(332)과는 다른 방향으로 기울기 벡터가 향할 수 있다. 따라서, 제 2 선(332)은 제 1 선(312) 및 제 3 선(332)과 기울기의 적어도 일부가 충돌한 것을 나타낼 수 있다.

도 3의 (a) 내지 (c)를 참조하면, 제 1 손실함수의 예측 결과 기울기 는 제 1 서브 손실함수의 예측 결과 기울기 와 충돌하지 않는 것을 확인할 수 있다. 이를 통해, 기울기가 충돌하지 않는 지점 및 이유 등을 추정해 볼 수 있다. 구체적으로, 제 1 서브 손실함수의 예측 결과 기울기 의 크기 및 제 1 손실함수의 예측 결과 기울기 의 크기가 0이 아닌 경우, 제 1 서브 손실함수의 예측 결과 기울기 및 제 1 손실함수의 예측 결과 기울기 간의 코사인 유사도 은 1일 수 있다. 따라서, 제 1 서브 손실함수의 예측 결과 기울기 는 하기의 수학식 6과 같이 제 1 손실함수의 예측 결과 기울기 와 비례 관계에 있을 수 있다.

환언하자면, 신경망 모델이 제 1 서브 손실함수의 예측 결과 기울기 및 제 1 손실함수의 예측 결과 기울기 를 이용하여 파라미터를 업데이트 하는 경우, 제 1 서브 손실함수의 기울기 및 제 1 손실함수의 기울기는 충돌이 발생하지 않을 수 있다. 따라서, 제 1 손실함수의 총 기울기 및 제 1 서브 손실함수의 기울기가 같은 방향이 아닌 경우, 제 1 손실함수의 불확실성 기울기는 제 1 서브 손실함수의 기울기와 같은 방향이 아닐 수 있다. 이를 수식으로 표현하면, 일 수 있다. 그러므로, 상술한 바는 제 1 서브 손실함수 및 제 1 손실함수 간의 기울기 충돌의 원인은 제 1 손실함수의 불확실성 기울기일 수 있다는 것을 나타낼 수 있다. 따라서, 본 개시에서의 제 2 손실함수는 제 1 손실함수와 제 2 손실함수 간의 기울기 충돌을 완화시키기 위해 도출된 립시츠 연속　함수 기반의 제 2 서브 손실함수를 포함할 수 있다. 그리고, 컴퓨팅 장치(100)의 프로세서(110)는 제 1 서브 손실함수의 연산값과 예측의 불확실성과 관련된 신경망 모델의 분산 파라미터(variance parameter)에 기반한 임계값을 비교한 결과에 따라, 제 1 서브 손실함수 또는 제 2 서브 손실함수를 선택적으로 사용할 수 있다. 이하, 도 4 및 도 5를 통해 본 개시에 따른 프로세서(110)가 제 1 서브 손실함수 또는 제 2 서브 손실함수를 선택적으로 사용하는 방법에 대해 설명한다.

도 4는 본 개시의 몇몇 실시예에 따른 컴퓨팅 장치가 제 2 손실함수로서 제 1 서브 손실함수 또는 제 2 서브 손실함수를 선택적으로 사용하는 방법의 일례를 설명하기 위한 흐름도이다. 도 5는 본 개시의 몇몇 실시예에 따른 파라미터의 일례를 설명하기 위한 도면이다.

도 4의 설명에 앞서 제 1 서브 손실함수의 연산값과 예측의 불확실성과 관련된 신경망 모델의 분산 파라미터에 기반한 임계값에 대해 설명한다. 여기서, 제 1 서브 손실함수의 연산값은 일 수 있으며, 으로 계산될 수 있다. 그리고, 제 1 서브 손실함수의 연산값은 제 1 손실함수에 의한 의사 관찰의 증가와 관련이 있을 수 있다. 일례로, 하기의 수학식 7과 같이, 신경망 모델의 제 1 서브 손실함수의 연산값 이 특정 임계값 및 보다 큰 경우, 및 에 대한 제 1 손실함수의 미분 부호는 양수일 수 있다.

여기서, 일 수 있다. 일 수 있다. 는 디감마 함수(digamma function)일 수 있다.

및 모두 제 1 서브 손실함수의 연산값 에 대응되는 값을 가지기 때문에, 로부터 를 결정하고, 로부터 를 결정하여, 를 결정할 수 있다. 이는, 예측값과 실제값의 차이가 특정 임계값 또는 보다 크면 제 1 손실함수의 손실이 예측의 불확실성을 증가시키도록 신경망 모델이 훈련될 수 있다는 것을 나타낼 수 있다. 따라서, 본 개시에서의 제 2 손실함수는 제 1 손실함수와 제 2 손실함수 간의 기울기 충돌을 완화시키기 위해 립시츠 연속　함수 기반의 제 2 서브 손실함수를 포함할 수 있다.

도 4를 참조하면, 컴퓨팅 장치(100)의 프로세서(110)는 제 1 서브 손실함수의 연산값과 예측의 불확실성과 관련된 신경망 모델의 분산 파라미터에 기반한 임계값을 비교할 수 있다(S210). 여기서, 예측의 불확실성과 관련된 신경망 모델의 분산 파라미터에 기반한 임계값은 분산 파라미터의 최소값들의 평균값일 수 있다.

프로세서(110)는 제 1 서브 손실함수의 연산값이 예측의 불확실성과 관련된 신경망 모델의 분산 파라미터에 기반한 임계값 미만인 경우(S220, Yes), 제 2 손실함수로서 제 1 서브 손실함수를 신경망 모델의 학습에 사용할 수 있다(S230). 여기서, 제 1 서브 손실함수를 학습에 사용한다는 것은, 임계값 미만인 경우에 제 1 서브 손실함수의 출력값이 제 2 손실함수의 출력값으로 결정된다는 것으로 이해될 수 있다.

프로세서(110)는 제 1 서브 손실함수의 연산값이 예측의 불확실성과 관련된 신경망 모델의 분산 파라미터에 기반한 임계값 이상인 경우(S220, No), 제 2 손실함수로서 제 2 서브 손실함수를 신경망 모델의 학습에 사용할 수 있다(S240). 여기서, 제 1 서브 손실함수를 학습에 사용한다는 것은, 임계값 이상인 경우에 제 2 서브 손실함수의 출력값이 제 2 손실함수의 출력값으로 결정된다는 것으로 이해될 수 있다. 단계 S210 내지 단계 S240을 수학식으로 표현하면 하기와 같을 수 있다.

여기서, 는 제 2 서브 손실함수를 포함하는 제 2 손실함수일 수 있다. 는 예측의 불확실성과 관련된 신경망 모델의 분산 파라미터에 기반한 임계값을 나타내며, 일 수 있다. 다시 말해, 임계값은 예측의 불확실성과 관련된 분산 파라미터 에 관한 임계값 과 예측의 불확실성과 관련된 분산 파라미터 에 관한 임계값 중 최소값의 평균값일 수 있다. 가 임의의 데이터 세트 D에서 추출된 미니-배치라고 하면, 신경망 모델 는 를 입력받아 를 생성할 수 있다. 따라서, 각 및 에 대해 제 2 서브 손실함수는 상술한 [수학식 8]과 같이 정의될 수 있다.

제 2 서브 손실함수를 포함하는 제 2 손실함수는 의사 관찰이 제 1 손실함수에 의해 감소되는 경우, 를 제한하여 기울기 크기를 조절할 수 있다. 여기서, 제 2 서브 손실함수가 분산 파라미터 에 대한 기울기를 전파하는 것은 아닐 수 있다.

예를 들어, 도 5를 참조하면, 분산 파라미터 (211), (212) 및 (213)는 제 1 손실함수(210)와 관련되는 파라미터일 수 있다. 그리고, 바이어스(bias) 파라미터인 (221)는 제 2 손실함수(220)와 관련되는 파라미터일 수 있다. 다만, 이에 한정되는 것은 아니다.

한편, 본 개시의 몇몇 실시예에 따르면, 신경망 모델을 학습시키기 위한 손실함수는 예측의 불확실성을 증가시킴으로써 제 1 손실함수를 조절(regulation)하는 제 3 손실함수를 더 포함할 수 있다. 이 경우, 손실함수는 하기의 수학식과 같이 결정될 수 있다.

여기서, 은 제 2 손실함수이고, 은 제 1 손실함수이며, 은 제 3 손실함수일 수 있다. 그리고, 은 계수일 수 있다. 제 3 손실함수는 제 1 손실함수 및 제 2 손실함수와 같이 예측 결과를 산출하기 위해 사용될 수도 있다. 다만, 제 3 손실함수는 예측의 불확실성을 증가시킴으로써 제 1 손실함수를 조절하는 것이 더욱 주된 목적인 함수일 수 있다.

상술한 구성에 따르면, 신경망 모델을 학습시키기 위한 손실함수는 예측 결과 및 예측의 불확실성을 정량화 하기 위한 제 1 손실함수, 신경망 모델의 예측 정확도를 향상시키기 위한 제 2 손실함수 및 예측의 불확실성을 증가시킴으로써 제 1 손실함수를 조절하는 제 3 손실함수를 포함할 수 있다. 이에 따라, 본 개시의 신경망 모델은 종래의 증거 회귀 네트워크(Evidential Regression Network, ENet)에서 발생될 수 있는 기울기 충돌 문제를 해결하며, 입력값에 대한 예측의 정확도를 향상시킬 수 있다.

이하에서는 본 개시에 따른 신경망 모델을 이용하여 수행된 실험의 결과에 대해 설명한다.

도 6은 본 개시의 몇몇 실시예에 따른 신경망 모델을 이용하여 수행된 실험의 결과를 설명하기 위한 도면이다.

도 6의 (a)는 제 1 데이터 세트(e.g. 약물-표적 친화도 예측과 관련된 문헌에서 잘 알려진 데이터 세트 중 하나인 Davis 데이터 세트)를 이용하여 수행된 실험의 결과일 수 있다. 도 6의 (a)의 x 축은 반복 횟수를 나타낼 수 있고, y 축은 기울기의 평균 코사인 유사도를 나타낼 수 있다. 도 6의 (a)의 제 1 선(410)은 본 개시에 따른 신경망 모델의 일례를 이용하여 학습을 수행함에 있어서, 제 1 손실함수 및 제 2 손실함수의 기울기 간의 코사인 유사도를 나타내는 선일 수 있다. 제 2 손실함수는 제 1 서브 손실함수 및 제 2 서브 손실함수를 포함하는 손실함수일 수 있다. 실시예에 따라, 제 1 선(410)은 제 3 손실함수를 더 포함하는 본 개시에 따른 신경망 모델을 이용하여 제 1 손실함수 및 제 2 손실함수의 기울기 간의 코사인 유사도를 나타내는 선일 수도 있다. 도 6의 (a)의 제 2 선(420)은 본 개시에 따른 신경망 모델의 다른 일례를 이용하여 학습을 수행함에 있어서, 제 1 손실함수 및 제 2 손실함수의 기울기 간의 코사인 유사도를 나타내는 선일 수 있다. 제 2 손실함수는 제 2 서브 손실함수는 포함하지 않고, 제 1 서브 손실함수만 포함하는 손실함수일 수 있다. 도 6의 (a)의 제 3 선(430)은 본 개시에 따른 신경망 모델의 스케일(scale)을 일부 축소한 작은 신경망 모델을 이용하여 학습을 수행함에 있어서, 제 1 손실함수 및 제 2 손실함수의 기울기 간의 코사인 유사도를 나타내는 선일 수 있다. 제 1 선(410) 내지 제 3 선(430)을 참조하면, 제 1 선(410)은 제 2 선(420) 및 제 3 선(430)에 비해 코사인 유사도 높을 수 있다. 이는 앞서 설명한 바와 같이, 제 1 손실함수 및 제 2 손실함수의 기울기 벡터가 서로 같은 방향으로 향한다는 것을 나타낼 수 있다. 다시 말해, 제 1 손실함수 및 제 2 손실함수 간의 기울기 충돌이 회피 되었음을 나타낼 수 있다. 즉, 본 개시의 일 실시예에 따른 제 2 서브 손실함수를 사용하는 경우, 제 2 서브 손실함수를 사용하지 않는 케이스 대비 더 나은 성능을 담보할 수 있음을 도 6의 (a)에 나타난 실험 결과를 통해 확인할 수 있다.

한편, 도 6의 (b)는 제 2 데이터 세트(e.g. 약물-표적 친화도 예측과 관련된 문헌에서 잘 알려진 데이터 세트 중 하나인 Kiba 데이터 세트)를 이용하여 수행된 실험의 결과일 수 있다. 도 6의 (b)의 x 축은 반복 횟수를 나타낼 수 있고, y 축은 기울기의 평균 코사인 유사도를 나타낼 수 있다. 도 6의 (b)의 제 1 선(411)은 본 개시에 따른 신경망 모델의 일례를 이용하여 학습을 수행함에 있어서, 제 1 손실함수 및 제 2 손실함수의 기울기 간의 코사인 유사도를 나타내는 선일 수 있다. 제 2 손실함수는 제 1 서브 손실함수 및 제 2 서브 손실함수를 포함하는 손실함수일 수 있다. 실시예에 따라, 제 1 선(411)은 제 3 손실함수를 더 포함하는 본 개시에 따른 신경망 모델을 이용하여 제 1 손실함수 및 제 2 손실함수의 기울기 간의 코사인 유사도를 나타내는 선일 수도 있다. 도 6의 (b)의 제 2 선(421)은 본 개시에 따른 신경망 모델의 다른 일례를 이용하여 학습을 수행함에 있어서, 제 1 손실함수 및 제 2 손실함수의 기울기 간의 코사인 유사도를 나타내는 선일 수 있다. 제 2 손실함수는 제 2 서브 손실함수는 포함하지 않고, 제 1 서브 손실함수만 포함하는 손실함수일 수 있다. 도 6의 (b)의 제 3 선(4301은 본 개시에 따른 신경망 모델의 스케일(scale)을 일부 축소한 작은 신경망 모델을 이용하여 학습을 수행함에 있어서, 제 1 손실함수 및 제 2 손실함수의 기울기 간의 코사인 유사도를 나타내는 선일 수 있다. 제 1 선(411) 내지 제 3 선(431)을 참조하면, 제 1 선(411)은 제 2 선(421) 및 제 3 선(431)에 비해 코사인 유사도가 높을 수 있다. 여기서, 코사인 유사도가 높다는 의미는 제 1 손실함수 및 제 2 손실 함수 간에 발생되는 충돌이 적다는 것으로 이해될 수 있다. 제 1 선(411) 내지 제 3 선(431)에 있어서의 y축이 나타내는 값은 모델의 성능과 비례 관계를 가질 수 있다. 즉, 도 6의 (b)와 마찬가지로, 본 개시의 일 실시예에 따른 제 2 서브 손실함수를 사용하는 경우, 제 2 서브 손실함수를 사용하지 않는 케이스 대비 더 나은 성능을 담보할 수 있음을 도 6의 (b)에 나타난 실험 결과를 통해 확인할 수 있다.

도 7은 본 개시내용의 실시예들이 구현될 수 있는 예시적인 컴퓨팅 환경에 대한 일반적인 개략도를 도시한다.

본 개시내용이 일반적으로 하나 이상의 컴퓨터 상에서 실행될 수 있는 컴퓨터 실행가능 명령어와 관련하여 전술되었지만, 당업자라면 본 개시내용 기타 프로그램 모듈들과 결합되어 및/또는 하드웨어와 소프트웨어의 조합으로서 구현될 수 있다는 것을 잘 알 것이다.

일반적으로, 본 명세서에서의 모듈은 특정의 태스크를 수행하거나 특정의 추상 데이터 유형을 구현하는 루틴, 프로시져, 프로그램, 컴포넌트, 데이터 구조, 기타 등등을 포함한다. 또한, 당업자라면 본 개시의 방법이 단일-프로세서 또는 멀티프로세서 컴퓨터 시스템, 미니컴퓨터, 메인프레임 컴퓨터는 물론 퍼스널 컴퓨터, 핸드헬드 컴퓨팅 장치, 마이크로프로세서-기반 또는 프로그램가능 가전 제품, 기타 등등(이들 각각은 하나 이상의 연관된 장치와 연결되어 동작할 수 있음)을 비롯한 다른 컴퓨터 시스템 구성으로 실시될 수 있다는 것을 잘 알 것이다.

본 개시의 설명된 실시예들은 또한 어떤 태스크들이 통신 네트워크를 통해 연결되어 있는 원격 처리 장치들에 의해 수행되는 분산 컴퓨팅 환경에서 실시될 수 있다. 분산 컴퓨팅 환경에서, 프로그램 모듈은 로컬 및 원격 메모리 저장 장치 둘다에 위치할 수 있다.

컴퓨터는 통상적으로 다양한컴퓨터 판독가능 매체를 포함한다. 컴퓨터에 의해 액세스 가능한 매체 로서, 휘발성 및 비휘발성 매체, 일시적(transitory) 및 비일시적(non-transitory) 매체, 이동식 및 비-이동식 매체를 포함한다. 제한이 아닌 예로서, 컴퓨터 판독가능 매체는 컴퓨터 판독가능 저장 매체 및 컴퓨터 판독가능 전송 매체를 포함할 수 있다.

컴퓨터 판독가능 저장 매체는 컴퓨터 판독가능 명령어, 데이터 구조, 프로그램 모듈 또는 기타 데이터와 같은 정보를 저장하는 임의의 방법 또는 기술로 구현되는 휘발성 및 비휘발성 매체, 일시적 및 비-일시적 매체, 이동식 및 비이동식 매체를 포함한다. 컴퓨터 판독가능 저장 매체는 RAM, ROM, EEPROM, 플래시 메모리 또는 기타 메모리 기술, CD-ROM, DVD(digital video disk) 또는 기타 광 디스크 저장 장치, 자기 카세트, 자기 테이프, 자기 디스크 저장 장치 또는 기타 자기 저장 장치, 또는 컴퓨터에 의해 액세스될 수 있고 원하는 정보를 저장하는 데 사용될 수 있는 임의의 기타 매체를 포함하지만, 이에 한정되지 않는다.

컴퓨터 판독가능 전송 매체는 통상적으로 반송파(carrier wave) 또는 기타 전송 메커니즘(transport mechanism)과 같은 피변조 데이터 신호(modulated data signal)에 컴퓨터 판독가능 명령어, 데이터 구조, 프로그램 모듈 또는 기타 데이터등을 구현하고 모든 정보 전달 매체를 포함한다. 피변조 데이터 신호라는 용어는 신호 내에 정보를 인코딩하도록 그 신호의 특성들 중 하나 이상을 설정 또는 변경시킨 신호를 의미한다. 제한이 아닌 예로서, 컴퓨터 판독가능 전송 매체는 유선 네트워크 또는 직접 배선 접속(direct-wired connection)과 같은 유선 매체, 그리고 음향, RF, 적외선, 기타 무선 매체와 같은 무선 매체를 포함한다. 상술된 매체들 중 임의의 것의 조합도 역시 컴퓨터 판독가능 전송 매체의 범위 안에 포함되는 것으로 한다.

컴퓨터(1102)를 포함하는 본 개시의 여러가지 측면들을 구현하는 예시적인 환경(1100)이 나타내어져 있으며, 컴퓨터(1102)는 처리 장치(1104), 시스템 메모리(1106) 및 시스템 버스(1108)를 포함한다. 시스템 버스(1108)는 시스템 메모리(1106)(이에 한정되지 않음)를 비롯한 시스템 컴포넌트들을 처리 장치(1104)에 연결시킨다. 처리 장치(1104)는 다양한 상용 프로세서들 중 임의의 프로세서일 수 있다. 듀얼 프로세서 및 기타 멀티프로세서 아키텍처도 역시 처리 장치(1104)로서 이용될 수 있다.

시스템 버스(1108)는 메모리 버스, 주변장치 버스, 및 다양한 상용 버스 아키텍처 중 임의의 것을 사용하는 로컬 버스에 추가적으로 상호 연결될 수 있는 몇 가지 유형의 버스 구조 중 임의의 것일 수 있다. 시스템 메모리(1106)는 판독 전용 메모리(ROM)(1110) 및 랜덤 액세스 메모리(RAM)(1112)를 포함한다. 기본 입/출력 시스템(BIOS)은 ROM, EPROM, EEPROM 등의 비휘발성 메모리(1110)에 저장되며, 이 BIOS는 시동 중과 같은 때에 컴퓨터(1102) 내의 구성요소들 간에 정보를 전송하는 일을 돕는 기본적인 루틴을 포함한다. RAM(1112)은 또한 데이터를 캐싱하기 위한 정적 RAM 등의 고속 RAM을 포함할 수 있다.

컴퓨터(1102)는 또한 내장형 하드 디스크 드라이브(HDD)(1114)(예를 들어, EIDE, SATA)―이 내장형 하드 디스크 드라이브(1114)는 또한 적당한 섀시(도시 생략) 내에서 외장형 용도로 구성될 수 있음―, 자기 플로피 디스크 드라이브(FDD)(1116)(예를 들어, 이동식 디스켓(1118)으로부터 판독을 하거나 그에 기록을 하기 위한 것임), 및 광 디스크 드라이브(1120)(예를 들어, CD-ROM 디스크(1122)를 판독하거나 DVD 등의 기타 고용량 광 매체로부터 판독을 하거나 그에 기록을 하기 위한 것임)를 포함한다. 하드 디스크 드라이브(1114), 자기 디스크 드라이브(1116) 및 광 디스크 드라이브(1120)는 각각 하드 디스크 드라이브 인터페이스(1124), 자기 디스크 드라이브 인터페이스(1126) 및 광 드라이브 인터페이스(1128)에 의해 시스템 버스(1108)에 연결될 수 있다. 외장형 드라이브 구현을 위한 인터페이스(1124)는 예를 들어, USB(Universal Serial Bus) 및 IEEE 1394 인터페이스 기술 중 적어도 하나 또는 그 둘 다를 포함한다.

이들 드라이브 및 그와 연관된 컴퓨터 판독가능 매체는 데이터, 데이터 구조, 컴퓨터 실행가능 명령어, 기타 등등의 비휘발성 저장을 제공한다. 컴퓨터(1102)의 경우, 드라이브 및 매체는 임의의 데이터를 적당한 디지털 형식으로 저장하는 것에 대응한다. 상기에서의 컴퓨터 판독가능 저장 매체에 대한 설명이 HDD, 이동식 자기 디스크, 및 CD 또는 DVD 등의 이동식 광 매체를 언급하고 있지만, 당업자라면 집 드라이브(zip drive), 자기 카세트, 플래쉬 메모리 카드, 카트리지, 기타 등등의 컴퓨터에 의해 판독가능한 다른 유형의 저장 매체도 역시 예시적인 운영 환경에서 사용될 수 있으며 또 임의의 이러한 매체가 본 개시의 방법들을 수행하기 위한 컴퓨터 실행가능 명령어를 포함할 수 있다는 것을 잘 알 것이다.

운영 체제(1130), 하나 이상의 애플리케이션 프로그램(1132), 기타 프로그램 모듈(1134) 및 프로그램 데이터(1136)를 비롯한 다수의 프로그램 모듈이 드라이브 및 RAM(1112)에 저장될 수 있다. 운영 체제, 애플리케이션, 모듈 및/또는 데이터의 전부 또는 그 일부분이 또한 RAM(1112)에 캐싱될 수 있다. 본 개시가 여러가지 상업적으로 이용가능한 운영 체제 또는 운영 체제들의 조합에서 구현될 수 있다는 것을 잘 알 것이다.

사용자는 하나 이상의 유선/무선 입력 장치, 예를 들어, 키보드(1138) 및 마우스(1140) 등의 포인팅 장치를 통해 컴퓨터(1102)에 명령 및 정보를 입력할 수 있다. 기타 입력 장치(도시 생략)로는 마이크, IR 리모콘, 조이스틱, 게임 패드, 스타일러스 펜, 터치 스크린, 기타 등등이 있을 수 있다. 이들 및 기타 입력 장치가 종종 시스템 버스(1108)에 연결되어 있는 입력 장치 인터페이스(1142)를 통해 처리 장치(1104)에 연결되지만, 병렬 포트, IEEE 1394 직렬 포트, 게임 포트, USB 포트, IR 인터페이스, 기타 등등의 기타 인터페이스에 의해 연결될 수 있다.

모니터(1144) 또는 다른 유형의 디스플레이 장치도 역시 비디오 어댑터(1146) 등의 인터페이스를 통해 시스템 버스(1108)에 연결된다. 모니터(1144)에 부가하여, 컴퓨터는 일반적으로 스피커, 프린터, 기타 등등의 기타 주변 출력 장치(도시 생략)를 포함한다.

컴퓨터(1102)는 유선 및/또는 무선 통신을 통한 원격 컴퓨터(들)(1148) 등의 하나 이상의 원격 컴퓨터로의 논리적 연결을 사용하여 네트워크화된 환경에서 동작할 수 있다. 원격 컴퓨터(들)(1148)는 워크스테이션, 서버 컴퓨터, 라우터, 퍼스널 컴퓨터, 휴대용 컴퓨터, 마이크로프로세서-기반 오락 기기, 피어 장치 또는 기타 통상의 네트워크 노드일 수 있으며, 일반적으로 컴퓨터(1102)에 대해 기술된 구성요소들 중 다수 또는 그 전부를 포함하지만, 간략함을 위해, 메모리 저장 장치(1150)만이 도시되어 있다. 도시되어 있는 논리적 연결은 근거리 통신망(LAN)(1152) 및/또는 더 큰 네트워크, 예를 들어, 원거리 통신망(WAN)(1154)에의 유선/무선 연결을 포함한다. 이러한 LAN 및 WAN 네트워킹 환경은 사무실 및 회사에서 일반적인 것이며, 인트라넷 등의 전사적 컴퓨터 네트워크(enterprise-wide computer network)를 용이하게 해주며, 이들 모두는 전세계 컴퓨터 네트워크, 예를 들어, 인터넷에 연결될 수 있다.

LAN 네트워킹 환경에서 사용될 때, 컴퓨터(1102)는 유선 및/또는 무선 통신 네트워크 인터페이스 또는 어댑터(1156)를 통해 로컬 네트워크(1152)에 연결된다. 어댑터(1156)는 LAN(1152)에의 유선 또는 무선 통신을 용이하게 해줄 수 있으며, 이 LAN(1152)은 또한 무선 어댑터(1156)와 통신하기 위해 그에 설치되어 있는 무선 액세스 포인트를 포함하고 있다. WAN 네트워킹 환경에서 사용될 때, 컴퓨터(1102)는 모뎀(1158)을 포함할 수 있거나, WAN(1154) 상의 통신 서버에 연결되거나, 또는 인터넷을 통하는 등, WAN(1154)을 통해 통신을 설정하는 기타 수단을 갖는다. 내장형 또는 외장형 및 유선 또는 무선 장치일 수 있는 모뎀(1158)은 직렬 포트 인터페이스(1142)를 통해 시스템 버스(1108)에 연결된다. 네트워크화된 환경에서, 컴퓨터(1102)에 대해 설명된 프로그램 모듈들 또는 그의 일부분이 원격 메모리/저장 장치(1150)에 저장될 수 있다. 도시된 네트워크 연결이 예시적인 것이며 컴퓨터들 사이에 통신 링크를 설정하는 기타 수단이 사용될 수 있다는 것을 잘 알 것이다.

컴퓨터(1102)는 무선 통신으로 배치되어 동작하는 임의의 무선 장치 또는 개체, 예를 들어, 프린터, 스캐너, 데스크톱 및/또는 휴대용 컴퓨터, PDA(portable data assistant), 통신 위성, 무선 검출가능 태그와 연관된 임의의 장비 또는 장소, 및 전화와 통신을 하는 동작을 한다. 이것은 적어도 Wi-Fi 및 블루투스 무선 기술을 포함한다. 따라서, 통신은 종래의 네트워크에서와 같이 미리 정의된 구조이거나 단순하게 적어도 2개의 장치 사이의 애드혹 통신(ad hoc communication)일 수 있다.

Wi-Fi(Wireless Fidelity)는 유선 없이도 인터넷 등으로의 연결을 가능하게 해준다. Wi-Fi는 이러한 장치, 예를 들어, 컴퓨터가 실내에서 및 실외에서, 즉 기지국의 통화권 내의 아무 곳에서나 데이터를 전송 및 수신할 수 있게 해주는 셀 전화와 같은 무선 기술이다. Wi-Fi 네트워크는 안전하고 신뢰성 있으며 고속인 무선 연결을 제공하기 위해 IEEE 802.11(a,b,g, 기타)이라고 하는 무선 기술을 사용한다. 컴퓨터를 서로에, 인터넷에 및 유선 네트워크(IEEE 802.3 또는 이더넷을 사용함)에 연결시키기 위해 Wi-Fi가 사용될 수 있다. Wi-Fi 네트워크는 비인가 2.4 및 5 GHz 무선 대역에서, 예를 들어, 11Mbps(802.11a) 또는 54 Mbps(802.11b) 데이터 레이트로 동작하거나, 양 대역(듀얼 대역)을 포함하는 제품에서 동작할 수 있다.

본 개시의 기술 분야에서 통상의 지식을 가진 자는 여기에 개시된 실시예들과 관련하여 설명된 다양한 예시적인 논리 블록들, 모듈들, 프로세서들, 수단들, 회로들 및 알고리즘 단계들이 전자 하드웨어, (편의를 위해, 여기에서 "소프트웨어"로 지칭되는) 다양한 형태들의 프로그램 또는 설계 코드 또는 이들 모두의 결합에 의해 구현될 수 있다는 것을 이해할 것이다. 하드웨어 및 소프트웨어의 이러한 상호 호환성을 명확하게 설명하기 위해, 다양한 예시적인 컴포넌트들, 블록들, 모듈들, 회로들 및 단계들이 이들의 기능과 관련하여 위에서 일반적으로 설명되었다. 이러한 기능이 하드웨어 또는 소프트웨어로서 구현되는지 여부는 특정한 애플리케이션 및 전체 시스템에 대하여 부과되는 설계 제약들에 따라 좌우된다. 본 개시의 기술 분야에서 통상의 지식을 가진 자는 각각의 특정한 애플리케이션에 대하여 다양한 방식들로 설명된 기능을 구현할 수 있으나, 이러한 구현 결정들은 본 개시의 범위를 벗어나는 것으로 해석되어서는 안 될 것이다.

여기서 제시된 다양한 실시예들은 방법, 장치, 또는 표준 프로그래밍 및/또는 엔지니어링 기술을 사용한 제조 물품(article)으로 구현될 수 있다. 용어 "제조 물품"은 임의의 컴퓨터-판독가능 장치로부터 액세스 가능한 컴퓨터 프로그램 또는 매체(media)를 포함한다. 예를 들어, 컴퓨터-판독가능 저장 매체는 자기 저장 장치(예를 들면, 하드 디스크, 플로피 디스크, 자기 스트립, 등), 광학 디스크(예를 들면, CD, DVD, 등), 스마트 카드, 및 플래쉬 메모리 장치(예를 들면, EEPROM, 카드, 스틱, 키 드라이브, 등)를 포함하지만, 이들로 제한되는 것은 아니다. 용어 "기계-판독가능 매체"는 명령(들) 및/또는 데이터를 저장, 보유, 및/또는 전달할 수 있는 무선 채널 및 다양한 다른 매체를 포함하지만, 이들로 제한되는 것은 아니다.

제시된 실시예들에 대한 설명은 임의의 본 개시의 기술 분야에서 통상의 지식을 가진 자가 본 개시를 이용하거나 또는 실시할 수 있도록 제공된다. 이러한 실시예들에 대한 다양한 변형들은 본 개시의 기술 분야에서 통상의 지식을 가진 자에게 명백할 것이며, 여기에 정의된 일반적인 원리들은 본 개시의 범위를 벗어남이 없이 다른 실시예들에 적용될 수 있다. 그리하여, 본 개시는 여기에 제시된 실시예들로 한정되는 것이 아니라, 여기에 제시된 원리들 및 신규한 특징들과 일관되는 최광의의 범위에서 해석되어야 할 것이다.

Claims (12)

1. 적어도 하나의 프로세서를 포함하는 컴퓨팅 장치에 의해 수행되는 멀티-태스크(multi-task) 모델의 학습 방법으로서,
   학습 데이터 세트를 획득하는 단계; 및
   상기 학습 데이터 세트를 기초로, 입력값에 대한 예측 결과를 출력하고 예측의 불확실성을 추정하는 신경망 모델을 학습시키는 단계;
   를 포함하고,
   상기 신경망 모델을 학습시키기 위한 손실함수는,
   상기 예측 결과 및 상기 예측의 불확실성을 정량화 하기 위한 제 1 손실함수 및 상기 신경망 모델의 예측 정확도를 향상시키기 위한 제 2 손실함수를 포함하고,
   상기 제 2 손실함수는,
   평균 오차 제곱(MSE) 기반의 제 1 서브 손실함수 및 립시츠 연속 함수(Lipschitz-continuous function) 기반의 제 2 서브 손실함수를 포함하고,
   상기 제 2 손실함수의 출력값은,
   상기 제 1 서브 손실함수의 연산값과 상기 예측의 불확실성과 관련된 상기 신경망 모델의 분산 파라미터(variance parameter)에 기반한 임계값을 비교한 결과에 따라, 상기 제1 서브 손실함수의 출력값 또는 상기 제 2 서브 손실함수의 출력값 중 어느 하나로 결정되는,
   방법.
   
2. 제 1 항에 있어서,
   상기 신경망 모델은,
   증거 회귀 네트워크(Evidential Regression Network, ENet) 기반의 모델인,
   방법.
   
3. 제 1 항에 있어서,
   상기 제 1 손실함수는,
   음의 로그 우도(Negative Log-Likelihood, NLL) 기반의 손실함수를 포함하는,
   방법.
   
4. 삭제
5. 삭제
6. 삭제
7. 제 1 항에 있어서,
   상기 제 1 서브 손실함수의 연산값이 상기 예측의 불확실성과 관련된 상기 신경망 모델의 분산 파라미터에 기반한 임계값 미만인 경우, 상기 제 2 손실함수로서 상기 제 1 서브 손실함수가 상기 신경망 모델의 학습에 사용되는,
   방법.
   
8. 제 1 항에 있어서,
   상기 제 1 서브 손실함수의 연산값이 상기 예측의 불확실성과 관련된 상기 신경망 모델의 분산 파라미터에 기반한 임계값 이상인 경우, 상기 제 2 손실함수로서 상기 제 2 서브 손실함수가 상기 신경망 모델의 학습에 사용되는,
   방법.
   
9. 제 1 항에 있어서,
   상기 예측의 불확실성과 관련된 상기 신경망 모델의 분산 파라미터에 기반한 임계값은,
   상기 분산 파라미터의 최소값들의 평균값인,
   방법.
   
10. 제 1 항에 있어서,
    상기 신경망 모델을 학습시키기 위한 손실함수는,
    상기 예측의 불확실성을 증가시킴으로써 상기 제 1 손실함수를 조절(regulation)하는 제 3 손실함수;
    를 더 포함하는,
    방법.
    
11. 컴퓨터 판독가능 저장 매체에 저장된 컴퓨터 프로그램으로서, 상기 컴퓨터 프로그램은 하나 이상의 프로세서에서 실행되는 경우, 멀티-태스크(multi-task) 모델을 학습시키기 위한 방법을 수행하도록 하며, 상기 방법은:
    학습 데이터 세트를 획득하는 단계; 및
    상기 학습 데이터 세트를 기초로, 입력값에 대한 예측 결과를 출력하고 예측의 불확실성을 추정하는 신경망 모델을 학습시키는 단계;
    를 포함하고,
    상기 신경망 모델을 학습시키기 위한 손실함수는,
    상기 예측 결과 및 상기 예측의 불확실성을 정량화 하기 위한 제 1 손실함수 및 상기 신경망 모델의 예측 정확도를 향상시기키 위한 제 2 손실함수를 포함하고,
    상기 제 2 손실함수는,
    평균 오차 제곱(MSE) 기반의 제 1 서브 손실함수 및 립시츠 연속 함수(Lipschitz-continuous function) 기반의 제 2 서브 손실함수를 포함하고,
    상기 제 2 손실함수의 출력값은,
    상기 제 1 서브 손실함수의 연산값과 상기 예측의 불확실성과 관련된 상기 신경망 모델의 분산 파라미터(variance parameter)에 기반한 임계값을 비교한 결과에 따라, 상기 제1 서브 손실함수의 출력값 또는 상기 제 2 서브 손실함수의 출력값 중 어느 하나로 결정되는.
    컴퓨터 판독가능 저장 매체에 저장된 컴퓨터 프로그램.
    
12. 멀티-태스크(multi-task) 모델을 학습시키기 위한 컴퓨팅 장치로서,
    학습 데이터 세트를 획득하는 통신부; 및
    상기 학습 데이터 세트를 기초로, 입력값에 대한 예측 결과를 출력하고 예측의 불확실성을 추정하는 신경망 모델을 학습시키는 프로세서;
    를 포함하고,
    상기 신경망 모델을 학습시키기 위한 손실함수는,
    상기 예측 결과 및 상기 예측의 불확실성을 정량화 하기 위한 제 1 손실함수 및 상기 신경망 모델의 예측 정확도를 향상시기키 위한 제 2 손실함수를 포함하고,
    상기 제 2 손실함수는,
    평균 오차 제곱(MSE) 기반의 제 1 서브 손실함수 및 립시츠 연속 함수(Lipschitz-continuous function) 기반의 제 2 서브 손실함수를 포함하고,
    상기 제 2 손실함수의 출력값은,
    상기 제 1 서브 손실함수의 연산값과 상기 예측의 불확실성과 관련된 상기 신경망 모델의 분산 파라미터(variance parameter)에 기반한 임계값을 비교한 결과에 따라, 상기 제1 서브 손실함수의 출력값 또는 상기 제 2 서브 손실함수의 출력값 중 어느 하나로 결정되는.
    컴퓨팅 장치.
    

Images