KR102145698B1 - 딥러닝 모델을 통해 예측된 해답을 해석하는 방법 및 시스템 - Google Patents

Abstract

본 개시는 딥러닝 모델을 통해 예측된 해답을 해석하는 방법 및 시스템에 관한 것이다. 딥러닝 모델을 통해 예측된 해답을 해석하는 방법은 입력값을 딥러닝 모델에 입력하여 딥러닝 모델의 출력값을 출력하는 단계, 딥러닝 모델에 포함된 복수의 뉴런에 연관된 복수의 스코어를 추정하는 단계, 추정된 복수의 스코어의 잔차를 보정하는 단계, 보정된 잔차를 기초로 복수의 스코어를 갱신하는 단계 및 갱신된 복수의 스코어를 기초로 해답을 해석하는 단계를 포함한다.

Description

딥러닝 모델을 통해 예측된 해답을 해석하는 방법 및 시스템{METHODS AND SYSTEMS FOR INTERPRETING PREDICTED SOLUTION THROUGH DEEP LEARNING MODEL}

본 발명은 딥러닝 모델을 통해 예측된 해답을 해석하는 방법 및 시스템에 관한 것으로서, 보다 상세하게는 딥러닝 모델에 포함된 복수의 뉴런에 연관된 복수의 스코어를 추정하고, 추정된 복수의 스코어의 잔차를 보정하고, 보정된 잔차를 기초로 복수의 스코어를 갱신함으로써 딥러닝 모델로부터 출력된 해답을 해석하는 방법 및 시스템에 관한 것이다.

최근 프로세서 및 메모리 등이 신속히 발전됨에 따라, 인공지능(AI) 기술이 발전되고 각광받고 있으며, AI 기술을 이용한 서비스가 광범위하게 여러 분야에서 개발되고 있다. 예를 들어, 딥러닝 기술이 인공지능 기술 분야에서 주목받고 있으며, 데이터 분석, 영상 인식, 자연어 처리 등과 같은 다양한 분야에서 뛰어난 결과를 보이고 있다.

한편, 딥러닝 모델을 구성하고 있는 뉴럴 네트워크는 그 구성이 복잡하기 때문에, 딥러닝 모델을 통한 예측 결과가 나온 원인이나 이유를 파악하기 어려울 수 있다. 이러한 사정으로 인해, 딥러닝 모델을 포함한 인공지능에 이용되는 모델은 '블랙박스'라고 불리운다. 즉, 인공지능 기술의 발전에 따라 딥러닝 모델을 통해 예측한 결과 자체는 정확성이 향상되지만, 예측 결과의 근거나 도출 과정이 타당한지에 대해 논리적으로 설명하기 어려울 수 있다. 종래의 딥러닝 모델 해석 방법론은, 딥러닝 모델의 예측된 해답의 해석이 충분하지 못한 경우가 있고, 해석이 지역(Local)적인 부분에서만 제공될 수 있다.

본 개시는 상기와 같은 문제점을 해결하기 위한 딥러닝 모델을 통해 예측된 해답을 해석하는 방법 및 시스템을 제공한다.

본 개시에 따른 방법 및 시스템은 딥러닝 모델로부터 추론된 출력, 즉 해답을 해석가능한 모델을 이용하여 해석하는데 있어서, 추정된 복수의 스코어를 갱신하기 위해 최소 자승법(OLS), 일반화된 최소자승법(GLS) 및/또는 이용가능한 일반화된 최소자승법(FGLS)의 통계학적 방법론을 이용할 수 있다.

본 개시에 따른 방법 및 시스템은 해석가능한 모델을 통해 추정된 복수의 스코어의 잔차를 감소시키고, 잔차가 감소된 복수의 스코어를 기초로 딥러닝 모델의 해답을 해석할 수 있다.

본 개시는 방법, 시스템, 장치 또는 명령어들을 저장하는 컴퓨터 판독가능 저장 매체를 포함한 다양한 방식으로 구현될 수 있다.

본 개시의 일 실시예에 따른 딥러닝 모델을 통해 예측된 해답을 해석하는 방법은, 입력값을 딥러닝 모델에 입력하여 딥러닝 모델로부터 해답을 출력하는 단계, 딥러닝 모델에 포함된 복수의 뉴런에 연관된 복수의 스코어를 추정하는 단계, 추정된 복수의 스코어의 잔차를 보정하는 단계, 보정된 잔차를 기초로 복수의 스코어를 갱신하는 단계 및 갱신된 복수의 스코어를 기초로 해답을 해석하는 단계를 포함한다.

일 실시예에 따르면, 추정된 복수의 스코어의 잔차를 보정하는 단계는, 추정된 복수의 스코어가 미리 결정된 통계 조건을 만족하는 경우, 최소 자승법(OLS)을 이용하여 추정된 복수의 스코어의 잔차를 감소시키는 단계를 포함한다.

일 실시예에 따르면, 추정된 복수의 스코어가 미리 결정된 통계 조건을 만족하는 경우, 최소 자승법을 이용하여 추정된 복수의 스코어의 잔차를 감소시키는 단계는, 일반화된 최소자승법(GLS)을 이용하여 복수의 스코어를 재추정하는 단계, 일반화된 최소자승법을 이용하여 잔차를 감소시키는 단계 및 재추정된 복수의 스코어 및 감소된 잔차가 미리 결정된 통계 조건을 만족하는지 여부를 결정하는 단계를 포함한다.

일 실시예에 따르면, 재추정된 복수의 스코어 및 감소된 잔차가 미리 결정된 통계 조건을 만족하는지 여부를 결정하는 단계는, 미리 결정된 통계 조건을 만족하는지 결정하기 위하여, 재추정된 복수의 스코어가 이분산인지 여부를 결정하는 단계, 재추정된 복수의 스코어가 자기상관인지 여부를 결정하는 단계를 포함한다.

일 실시예에 따르면, 재추정된 복수의 스코어가 미리 결정된 통계 조건을 만족하지 못하는 경우, 미리 결정된 통계 조건이 만족될 때까지 일반화된 최소자승법을 이용하여 복수의 스코어를 반복하여 재추정하는 단계를 더 포함한다.

일 실시예에 따르면, 보정된 잔차를 기초로 복수의 스코어를 갱신하는 단계는 딥러닝 모델의 출력층으로부터 입력층으로 향하는 역방향으로 복수의 뉴런에 대응하는 복수의 스코어를 갱신하는 단계를 포함한다.

일 실시예에 따르면, 딥러닝 모델에 포함된 복수의 뉴런에 연관된 복수의 스코어를 추정하는 단계는 해석가능한 모델을 이용하여 복수의 스코어를 추정하는 단계를 포함한다.

일 실시예에 따르면, 입력값은 트랜잭션, 이미지, 텍스트 중 적어도 하나를 나타내는 값을 포함할 수 있다.

본 개시의 다른 실시예에 따르면, 딥러닝 모델을 통해 예측된 해답을 해석할 수 있는 방법을 컴퓨터에서 실행하기 위한 컴퓨터 프로그램이 기록된, 컴퓨터로 판독 가능한 매체가 제공된다.

본 개시의 또 다른 실시예에 따르면, 딥러닝 모델을 통해 예측된 해답을 해석하는 시스템은 입력값을 딥러닝 모델에 입력하여 딥러닝 모델의 해답을 출력하도록 구성된 추론부, 딥러닝 모델에 포함된 복수의 뉴런에 연관된 복수의 스코어를 추정하도록 구성된 스코어 추정부, 추정된 복수의 스코어의 잔차를 보정하고, 보정된 잔차를 기초로 복수의 스코어를 갱신하도록 구성된 잔차 보정부; 및 갱신된 복수의 스코어를 기초로 해답을 해석하도록 구성된 해답 해석부를 포함할 수 있다.

본 개시의 일부 실시예들에 따르면, 딥러닝 모델로부터 추론된 예측 결과, 즉 해답의 근거 및 도출 과정을 설명하거나 보여줄 수 있다.

본 개시의 일부 실시예들에 따르면, 딥러닝 시스템은 딥러닝 모델으로부터 추론된 출력값을 출력할 때 딥러닝 모델에 포함된 복수의 뉴런의 스코어를 추정하는데 있어 추정된 스코어의 잔차를 보정함으로써, 딥러닝 모델의 해답의 해석력을 향상시킬 수 있다.

본 개시의 효과는 이상에서 언급한 효과로 제한되지 않으며, 언급되지 않은 다른 효과들은 청구범위의 기재로부터 당업자에게 명확하게 이해될 수 있을 것이다.

본 개시의 실시예들은, 이하 설명하는 첨부 도면들을 참조하여 설명될 것이며, 여기서 유사한 참조 번호는 유사한 요소들을 나타내지만, 이에 한정되지는 않는다.
도 1은 본 개시의 일 실시예에 따른 입력값에 대한 해답을 출력하고, 출력된 해답에 대한 해석을 설명하거나 보여주도록 구성된 딥러닝 시스템을 나타내는 도면이다.
도 2은 본 개시의 일 실시예에 따른 딥러닝 시스템의 블록도이다.
도 3는 본 개시의 일 실시예에 따른 딥러닝 모델에서의 전방향 및 역방향 전파를 설명하는 예시도이다.
도 4는 본 개시의 일 실시예에 따른 예측된 해답을 역전파 방식으로 해답을 추론하는데 사용된 중요 변수를 나타내는 입력 이미지의 히트맵을 설명하는 예시도이다.
도 5는 본 개시의 일 실시예에 따른 딥러닝 모델을 통해 예측된 해답을 해석할 수 있는 방법을 설명하기 위한 순서도이다.
도 6은 본 개시의 일 실시예에 따른 딥러닝 모델을 역전파 방식으로 해답을 추론하는데 있어 추정된 스코어의 잔차를 보정하는 방법을 설명하기 위한 순서도이다.
도 7은 본 개시의 일 실시예에 따른 딥러닝 모델을 해석하는데 있어, 추정된 스코어의 잔차를 보정하는 방법이 적용된 실험 결과를 나타내는 예시도이다.
도 8은 본 개시의 일 실시예에 따른 딥러닝 시스템의 블록도이다.

이하, 본 개시의 실시를 위한 구체적인 내용을 첨부된 도면을 참조하여 상세히 설명한다. 다만, 이하의 설명에서는 본 개시의 요지를 불필요하게 흐릴 우려가 있는 경우, 널리 알려진 기능이나 구성에 관한 구체적 설명은 생략하기로 한다.

첨부된 도면에서, 동일하거나 대응하는 구성요소에는 동일한 참조부호가 부여되어 있다. 또한, 이하의 실시예들의 설명에 있어서, 동일하거나 대응하는 구성요소를 중복하여 기술하는 것이 생략될 수 있다. 그러나 구성요소에 관한 기술이 생략되어도, 그러한 구성요소가 어떤 실시예에 포함되지 않는 것으로 의도되지는 않는다.

개시된 실시예의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나 본 개시는 이하에서 개시되는 실시예들에 한정되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 본 실시예들은 본 개시가 완전하도록 하고, 본 개시가 속하는 기술분야에서 통상의 지식을 가진 자에게 발명의 범주를 완전하게 알려주기 위해 제공되는 것일 뿐이다.

본 개시에서 사용되는 용어에 대해 간략히 설명하고, 개시된 실시예에 대해 구체적으로 설명하기로 한다.

본 개시에서 사용되는 용어는 본 개시에서의 기능을 고려하면서 가능한 현재 널리 사용되는 일반적인 용어들을 선택하였으나, 이는 관련 분야에 종사하는 기술자의 의도 또는 판례, 새로운 기술의 출현 등에 따라 달라질 수 있다. 또한, 특정한 경우는 출원인이 임의로 선정한 용어도 있으며, 이 경우 해당되는 발명의 설명 부분에서 상세히 그 의미를 기재할 것이다. 따라서 본 개시에서 사용되는 용어는 단순한 용어의 명칭이 아닌, 그 용어가 가지는 의미와 본 개시의 전반에 걸친 내용을 토대로 정의되어야 한다.

본 개시에서의 단수의 표현은 문맥상 명백하게 단수인 것으로 특정하지 않는 한, 복수의 표현을 포함한다. 또한 복수의 표현은 문맥상 명백하게 복수인 것으로 특정하지 않는 한, 단수의 표현을 포함한다.

본 개시의 전체에서 어떤 부분이 어떤 구성요소를 '포함'한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있음을 의미한다.

또한, 명세서에서 사용되는 '부' 또는 '모듈'이라는 용어는 소프트웨어 또는 하드웨어 구성요소를 의미하며, '부' 또는 '모듈'은 어떤 역할들을 수행한다. 그렇지만 '부' 또는 '모듈'은 소프트웨어 또는 하드웨어에 한정되는 의미는 아니다. '부' 또는 '모듈'은 어드레싱할 수 있는 저장 매체에 있도록 구성될 수도 있고 하나 또는 그 이상의 프로세서들을 재생시키도록 구성될 수도 있다. 따라서, 일 예로서 '부' 또는 '모듈'은 소프트웨어 구성요소들, 객체지향 소프트웨어 구성요소들, 클래스 구성요소들 및 태스크 구성요소들과 같은 구성요소들과, 프로세스들, 함수들, 속성들, 프로시저들, 서브루틴들, 프로그램 코드의 세그먼트들, 드라이버들, 펌웨어, 마이크로 코드, 회로, 데이터, 데이터베이스, 데이터 구조들, 테이블들, 어레이들 및 변수들 중 적어도 하나를 포함할 수 있다. 구성요소들과 '부' 또는 '모듈'들은 안에서 제공되는 기능은 더 작은 수의 구성요소들 및 '부' 또는 '모듈'들로 결합되거나 추가적인 구성요소들과 '부' 또는 '모듈'들로 더 분리될 수 있다.

본 개시의 일 실시예에 따르면 '부' 또는 '모듈'은 프로세서 및 메모리로 구현될 수 있다. 용어 '프로세서'는 범용 프로세서, 중앙 처리 장치(CPU), 그래픽 전용 프로세서(GPU), 마이크로프로세서, 디지털 신호 프로세서(DSP), 제어기, 마이크로제어기, 상태 머신 등을 포함하도록 넓게 해석되어야 한다. 몇몇 환경에서는, '프로세서'는 주문형 반도체(ASIC), 프로그램가능 로직 디바이스(PLD), 필드 프로그램가능 게이트 어레이(FPGA) 등을 지칭할 수도 있다. 용어 '프로세서'는, 예를 들어, DSP와 마이크로프로세서의 조합, 복수의 마이크로프로세서들의 조합, DSP 코어와 결합한 하나 이상의 마이크로프로세서들의 조합, 또는 임의의 다른 그러한 구성들의 조합과 같은 처리 디바이스들의 조합을 지칭할 수도 있다.

본 개시에서, '시스템'은 서버 장치와 클라우드 서버 장치 중 적어도 하나의 장치를 지칭할 수 있지만, 이에 한정되는 것은 아니다.

본 개시에서, '사용자 단말'은 통신 모듈을 구비하여 네트워크 연결이 가능하고, 웹사이트, 애플리케이션 등을 접속하여 임의의 데이터 및/또는 정보의 입출력이 가능한 임의의 전자기기(예를 들어, 스마트폰, PC, 태블릿 PC, 랩톱 PC 등)를 포함할 수 있다. 사용자는 사용자 단말을 통해 사용자 단말의 인터페이스(예를 들어, 터치 디스플레이, 키보드, 마우스, 터치펜 또는 스틸러스, 마이크로폰, 동작인식 센서 등)를 통한 입력에 의해 네트워크를 통해 접속가능한 임의의 정보/데이터를 제공받을 수 있다.

본 개시에서, '이미지'는 하나 이상의 픽셀을 포함한 이미지를 포함할 수 있으며, 하나 이상의 이미지 또는 동영상을 지칭할 수 있다.

도 1은 본 개시의 일 실시예에 따른 입력값에 대한 해답을 출력하고, 출력된 해답에 대한 해석을 설명하거나 보여주도록 구성된 딥러닝 시스템(100)을 나타내는 도면이다. 딥러닝 시스템(100)은 입력값(110)을 수신하고, 수신된 입력값(110)을 딥러닝 모델에 입력하고, 입력값에 대한 딥러닝 모델을 통해 추론된 해답(120)을 출력할 수 있다. 여기서, 입력값은 딥러닝 모델을 통해 해답을 추론할 수 있는 임의의 정보 및/또는 데이터를 포함할 수 있으며, 예를 들어, 패널, 이미지, 텍스트 중 적어도 하나를 나타내는 정보/데이터를 포함할 수 있다. 패널은 하나의 형식으로 정리된 텍스트 및/또는 이미지를 포함한 정보/데이터를 포함할 수 있으며, 예를 들어, 다차원적인 정보를 포함하는 데이터 형태를 지칭할 수 있으며, 횡단면 데이터 정보와 종단면(시계열 데이터) 정보를 포함하는 데이터 형태를 나타낼 수 있으나, 이에 한정되지 않는다. 예를 들어, 이러한 패널을 나타내는 정보/데이터는 다수의 시점에서 측정된 자료를 나타내는 정보/데이터를 포함할 수 있다.

딥러닝 시스템(100)은 추론된 해답에 대해 해석가능한 모델을 포함할 수 있다. 이러한 해석가능한 모델을 이용하여 추론된 해답의 해석 정보(130)가 생성될 수 있다. 이러한 해석 정보(130)는 추론된 해답에 영향을 미친 입력값 및/또는 특징이 무엇인지를 나타내는 임의의 정보를 포함할 수 있다. 이러한 해답을 해석하기 위하여, 딥러닝 시스템(100)은 해석가능한 모델을 이용하여 딥러닝 모델의 출력층으로부터 입력층을 향하는 역전파 방향으로 딥러닝에 포함된 복수의 뉴런에 연관된 복수의 스코어를 추정함으로써, 추론된 해답의 해석 정보를 생성할 수 있다. 이 때, 복수의 스코어는 추정된 값이기 때문에, 복수의 스코어에는 잔차가 발생될 수 있다. 딥러닝 시스템(100)은 이러한 잔차를 보정하고, 보정된 잔차를 기초로 복수의 스코어를 갱신할 수 있으며, 이러한 갱신된 스코어를 기초로 추론된 해답을 재해석할 수 있다. 이렇게 해답을 재해석함으로써, 딥러닝 시스템(100)은 향상된 해답의 해석력을 제공할 수 있다.

도 2은 본 개시의 일 실시예에 따른 딥러닝 시스템(100)의 블록도이다. 도 2에 도시된 바와 같이, 딥러닝 시스템(100)은 학습부(210), 추론부(220), 스코어 추정부(230), 잔차 보정부(240), 해답 해석부(250), 저장부(260) 및 통신부(270)를 포함할 수 있다. 도 2의 딥러닝 시스템(100)에 포함된 학습부(210) 및 추론부(220)는 후술될 도 8의 딥러닝 시스템(800)의 구성과 동일 또는 유사한 구성을 포함할 수 있다. 딥러닝 시스템(100)은 통신부(270)를 통해 외부 장치 또는 시스템과 임의의 데이터/정보를 송수신할 수 있도록 구성될 수 있다.

학습부(210)는 딥러닝 모델에 임의의 입력값을 입력하여 원하는 출력값이 추론되도록 구성된 딥러닝 모델을 획득하거나 학습하도록 구성될 수 있다. 여기서, 딥러닝 모델은, 딥러닝 뉴럴 네트워크를 지칭할 수 있으며, 히든 레이어를 포함한 임의의 뉴럴 네트워크 알고리즘 또는 기법이 적용될 수 있다. 예를 들어, 딥러닝 모델은 Multi-Layer Perceptron (MLP), Recurrent Neural Network (RNN), Convolutional Neural Networks (CNN), Generative Adversarial Network(GAN) 등이 적용될 수 있으나, 이에 한정되지 않는다. 일 실시예에 따르면, 이러한 학습된 딥러닝 모델은 저장부(260)에 저장될 수 있다. 다른 실시예에 따르면, 딥러닝 모델은 외부 장치 또는 시스템에 저장될 수 있으며, 딥러닝 시스템(100)이 통신부(270)를 통해 딥러닝 모델을 접근되거나 수신될 수 있다.

추론부(220)는 학습된 딥러닝 모델에 입력값을 입력하여 출력값, 즉, 해답을 출력하도록 구성될 수 있다. 일 실시예에 따르면, 추론부(220)는 학습된 딥러닝 모델에 이미지를 입력하여 이미지 내의 객체를 인식하도록 구성될 수 있다. 다른 실시예에 따르면, 추론부(220)는 학습된 딥러닝 모델에 텍스트를 입력하여 입력된 텍스트를 인식하도록 구성될 수 있다. 또 다른 실시예에 따르면, 추론부(220)는 학습된 딥러닝 모델에 패널 데이터를 입력하여 패널 데이터를 인식하도록 구성될 수 있다. 예를 들어, 패널 데이터가 사용자의 신용 카드를 사용한 정보가 포함되었다면, 이러한 정보 내의 트랜잭션 정보 등을 인식하도록 구성될 수 있다. 딥러닝 시스템(100)의 학습부(210)와 추론부(220)는 도 8에서 보다 자세하게 후술한다.

일 실시예에 따르면, 딥러닝 시스템(100)의 스코어 추정부(230) 및 해답 해석부(250)는 해석가능한 모델을 구성할 수 있다. 다른 실시예에 따르면, 딥러닝 시스템(100)의 스코어 추정부(230), 잔차 보정부(240) 및 해답 해석부(250)가 해석가능한 모델을 구성할 수 있다.

스코어 추정부(230)는, 해석가능한 모델을 이용하여 딥러닝 모델에 포함된 복수의 뉴런에 연관된 복수의 스코어를 추정하도록 구성될 있다. 일 실시예에 따르면, 스코어 추정부(230)는 딥러닝 모델에 포함된 복수의 뉴런의 각각에 연관된 스코어를 추정할 수 있다. 여기서, 스코어는 딥러닝 모델에서 예측된 결과 값 또는 해답에 해당하는 출력값과 딥러닝 모델 내의 뉴런 및 입력값 또는 입력변수의 관계를 나타내는 연관 스코어(Related Score)를 지칭할 수 있다. 스코어 추정부(230)는 이러한 복수의 뉴런에 연관된 복수의 스코어를 추정하기 위하여 딥러닝 모델의 설명가능한 AI(XAI, Explainable XAI) 분야에서 알려진 임의의 방법론을 사용할 수 있는데, 예를 들어, 통합 가중치(Deep LIFT), 연관성 계층 역전파(LRP, Layer-wise Relevance Propagation), 미분을 활용한 활성 함수 근사화(Deep Taylor Decomposition), 공헌기여도(SHAP, Shapley Additive Explanations) 등의 방법론을 사용할 수 있으며, 이에 한정되지 않는다.

일 실시예에 따르면, 스코어 추정부(230)가 변수의 중요도를 역으로 산출하는 방법에 있어서, 각 입력 변수는 각 뉴런의 선형 함수로 연결될 수 있다. 예를 들어, 딥러닝 모델의 인공신경망의 형태가 다층 퍼셉트론(MLP, Multi-Layer Perceptron)인 경우, 입력 변수(n)가 11개이고, 예측되는 출력값이, 0.91(예를 들어, 0과 1사이의 값)이며, 은닉층(Hidden Layer)은 2개(i=1, 2)이고, 뉴런이 30개(j= 1, 2, ?, 30)인 딥러닝 모델이 있다고 가정하면, 각 입력 변수의 선형 함수는 다음과 같은 수학식 1로 정의될 수 있다.

[수학식 1]

여기서, x는 입력 변수, N은 뉴런, 각

는 각 뉴런과 연관된 스코어를 지칭할 수 있으며, 각 은닉층을 기준으로 상대적인 스코어를 나타낼 수 있다. 즉, 각 뉴런과 연관된 스코어가 클수록 출력값(해답)을 도출하는데 영향을 더 많이 미쳤을 가능성이 높으며, 아래 수학식 2와 같이 각 변수가 각 연결된 다중 선형 회귀식의 종속 변수로 처리되어 변수 중요도가 역으로 산출될 수 있다.

[수학식 2]

잔차 보정부(240)는, 딥러닝 모델에 포함된 복수의 뉴런과 연관되어 추정된 복수의 스코어의 잔차를 보정하도록 구성될 수 있다. 해석가능한 모델은 딥러닝 모델 그 자체가 아닌, 활성화 함수를 근사화하여 근사된 가중치 및/또는 스코어를 도출하기 때문에, 딥러닝 모델에 포함된 복수의 연관된 뉴런에 실제 스코어와 근사된 스코어 사이에는 잔차가 발생될 수 있다. 즉, 딥러닝 모델에 포함된 은닉층으로의 입력 변수에 대한 가중치가 직접 도출되지 않고, 활성 함수의 근사값을 이용하여 도출되기 때문에, 각 뉴런의 스코어에는 잔차(즉, 추정 오차)가 발생될 수 있다.

일 실시예에 따르면, 선형성 추정치 중 딥러닝 모델에 포함된 복수의 뉴런의 스코어에 연관된 가중치(예를 들어,

)를 포함한 다중선형회귀식은 다음과 같은 수학식 3으로 정의될 수 있다.

[수학식 3]

여기서, i는 앞의 변수 순서,

는 추정 값(또는 추론된 스코어), ij는 은닉층의 순서,

는 편향치 또는 잔차를 의미할 수 있다. 잔차 보정부(240)는 딥러닝 모델을 통해 출력된 해답의 해석력을 향상시키기 위하여, 수학식 3의 잔차, 즉

가 최소화될 때까지

,

등의 스코어를 계속 조정할 수 있다. 여기서, 위 수학식 3은 아래 수학식 4로 행렬화가 가능하다.

[수학식 4]

또한, 잔차 보정부(240)는 수학식 4에 역행렬 및 전치행렬 변환을 수행하여 [수학식 5]를 이용하여 추정된 복수의 스코어를 도출할 수 있다.

[수학식 5]

잔차 보정부(240)는 추정된 스코어 및 잔차가 미리 결정된 통계 조건을 만족하는 경우, 최소 자승법(OLS, OLS, Ordinary Least Squares)를 추정된 스코어의 잔차를 감소시키도록 구성될 수 있다. 여기서, 미리 결정된 통계 조건은 최소 자승법을 이용하여 추정된 스코어의 잔차를 감소시킬 때 추정량이 실제 스코어와 동일하거나 보다 가까울 수 있는 어떠한 조건을 지칭할 수 있으며, 예를 들어, 가우스-마르코프 조건(Gauss-Markov Assumptions)을 포함할 수 있으나, 이에 한정되지 않는다. 일 실시예에 따르면, 미리 결정된 통계 조건은, 각 다중선형회귀식은 선형성을 가져야 하며, 선형 회귀식 내 독립 변수들 간에 선형관계가 없어야 한다는 점이 포함될 수 있다. 또한, 1) 각 독립 변수는 오차항과 상관이 없어야 하며, 2) 오차항들은 서로 독립적이어야 하고, 3) 오차항들의 평균은 0이며, 4) 분산은 일정해야 한다는 조건이 만족되어야 미리 결정된 통계 조건이 만족될 수 있다. 여기서, 오차항은 추정되거나 재추정된 복수의 스코어 및/또는 복수의 스코어의 잔차를 지칭할 수 있다. 위 1) 조건은 위 수학식 3을 통해 만족될 수 있다.

일 실시예에 따르면, 가우스-마르코프 조건은 위 2) 내지 4)는 아래의 수학식 6, 수학식 7, 수학식 8 및 수학식 9로 표현될 수 있다.

[수학식 6]

[수학식 7]

[수학식 8]

[수학식 9]

또한, 이 조건들 외에, 오차 변수인 잔차가 정규분포를 따른다면, 최소 분산 비편향 추정량(MVUE)이 될 수 있다.

잔차 보정부(240)는 일반화된 최소자승법(GLS, Generalized Least Squares)을 이용해 딥러닝 모델에 포함된 복수의 뉴런과 연관된 복수의 스코어를 재추정하도록 구성될 수 있다. 이 때, 잔차 보정부(240)는 일반화된 최소 자승법을 이용하여 복수의 스코어의 잔차를 감소시킬 수 있다. 일반화된 최소 자승법을 이용하여 재추정된 복수의 스코어 및 감소된 잔차가 위 미리 결정된 통계 조건을 만족하는지 여부를 결정할 수 있다. 미리 결정된 통계 조건을 만족하는 경우, 잔차 보정부(240)는 최소 자승법(OLS)을 추정된 스코어의 잔차를 감소시킬 수 있다. 이와 달리, 재추정된 복수의 스코어 및 감소된 잔차가 위 미리 결정된 조건을 만족하지 못하는 경우, 잔차 보정부(240)는 미리 결정된 통계 조건을 만족할 때까지 일반화된 최소자승법(GLS)을 이용하여 복수의 스코어를 반복하여 재추정할 수 있다. 여기서, 반복하여 일반화된 최소 자승법은 실현가능한 일반화된 최소 자승법(FGLS, Feasible Generalize Least Square)로 지칭할 수 있다.

일 실시예에 따르면, 복수의 스코어를 재추정하고 잔차를 감소시키는데 있어서, 일반화된 최소 자승법은 이래와 같은 수식을 통해 이용될 수 있다. 예를 들어, 추정된 스코어

를 만족하는 대칭되는 양의 정부호행렬

가 있다고 가정하면,

를 만족하는

이 있다고 정의될 수 있다(

,

이고,

를

이라 하면

). 이에 따라,

이며,

이고,

,

,

이고,

,

이므로 오차항은 평균은 0이고, 분산은 자기상관이 되지 않고, 동분산도 만족할 수 있다. 여기서, 오차항은 추정되거나 재추정된 복수의 스코어 및/또는 복수의 스코어의 잔차를 지칭할 수 있다. 이 때,

는 알려지지 않을 수 있는데, 잔차 보정부(240)는

의 추정치를 구하고 잔차 제곱을 도출하여, 일반화된 최소자승법을 거듭 활용해

에 대한 재추정을 반복할 수 있다. 이를 실행 가능한 일반화된 최소자승법(FGLS)이라고 할 수 있다.

일 실시예에 따르면, 잔차 보정부(240)는 실행 가능한 일반화된 최소자승법(FGLS)을 이용하여, 일반화된 최소자승법(GLS)을 여러 번 반복 수행 시, 재추정된 복수의 스코어가 이분산(Heteroskedasticity)인지 여부를 결정하고, 재추정된 복수의 스코어가 자기상관(Autocorrelation)인지 여부를 결정할 수 있다. 예를 들어, 복수의 스코어가 동분산이고, 재추정된 복수의 스코어가 자기 상관이 아닌 경우, 위 미리 결정된 조건이 만족되었다고 결정될 수 있다.

일 실시예에 따르면, 잔차 보정부(240)는 재추정된 복수의 스코어가 이분산인지 여부를 결정하기 위하여, 검정 통계 분야에서 널리 알려진 임의의 방법을 이용할 수 있으며, 예를 들어, White 검정을 이용해 추정된 복수의 스코어 및/또는 잔차의 분산과 딥러닝 모델에 포함된 변수 및 변수의 2차항 사이의 상관관계를 검정할 수 있으나, 이에 제한되지 않는다. 또한, 잔차 보정부(240)는 재추정된 복수의 스코어가 이분산인지 여부를 결정하기 위하여, 검정 통계 분야에서 알려진 임의의 방법을 이용할 수 있으며, 예를 들어, LM 검정을 이용해 잔차를 구하고, 추정된 딥러닝 모델의 설명 변수와 이전 관측치의 잔차에 대해 보조회귀식을 구해 검정을 진행할 수 있으나, 이에 제한되지 않는다.

여기서, 재추정된 복수의 스코어가 이분산이나 자기상관을 갖을 경우 최소 자승법(OLS)의 추정치가 통계적으로 유의하지 않을 수 있다. 따라서, 일 실시예에서, 검정 통계 방법을 통해 재추정된 복수의 스코어가 이분산 및 자기상관을 갖지 않을 때까지, 일반화된 최소자승법(GLS)을 여러 번 반복 수행, 즉, 실현가능한 일반화된 최소 자승법(FGLS)을 실행할 수 있다.

잔차 보정부(240)는 실현가능한 일반화된 최소 자승법(FGLS)을 이용하여 잔차를 감소시키고, 감소된 잔차를 기초로 복수의 스코어를 갱신할 수 있다. 이러한 갱신된 스코어는 해답 해석부(250)에 제공되어, 딥러닝 모델로부터 출력된 출력값, 즉 해답의 해석을 위해 사용될 수 있다.

해답 해석부(250)는 딥러닝 모델에 포함된 복수의 뉴런과 연관된 복수의 스코어를 기초로 딥러닝 모델에서 출력된 해답을 해석할 수 있다. 일 실시예에 따르면, 잔차 보정부(240)으로부터 감소된 잔차를 기초로 재추정된 복수의 스코어를 수신할 수 있으며, 복수의 스코어를 기초로 딥러닝 모델에서 출력된 해답을 해석할 수 있다.

해답 해석부(250)는 딥러닝 모델에서 출력된 해답의 해석 정보를 생성할 수 있다. 일 실시예에 따르면, 해답 해석부(250)는 딥러닝 모델에서 출력된 해답을 해석하는데 있어서, 딥러닝 모델에 입력된 입력값의 어느 부분이 해답이 도출되는데에 영향을 미쳤는지에 대한 정보를 생성할 수 있다. 예를 들어, 입력값이 이미지인 경우, 해답 해석부(250)는 이미지를 이용한 히트맵(Heatmap)의 형태로 제공될 수 있다.

저장부(260)는 학습부(210) 및 추론부(220)에서 접근 가능한 딥러닝 모델을 저장할 수 있다. 또한, 딥러닝 모델에서 사용되는 입력값 및 출력값이 저장부(260)에 저장될 수 있다. 또한, 저장부(260)는 스코어 추정부(230)를 통해 추정되는 딥러닝 모델에 포함된 복수의 뉴런에 연관된 복수의 스코어를 저장할 수 있다. 또한, 잔차 보정부(240)에 의해 재추정된 복수의 스코어 및 보정된 잔차가 저장부(260)에 저장될 수 있다. 또한, 해답 해석부(250)에 의해 딥러닝 모델로부터 추론된 해답에 대한 해석 정보도 저장부(260)에 저장될 수 있다. 또한, 저장부(260)는 통신부(270)를 통해 외부 장치로부터 수신된 임의의 정보 및/또는 데이터를 저장할 수 있다.

일 실시예에서, 본 개시의 딥러닝 시스템(100)에서 동작하는 연산들은 중앙 처리 장치(CPU)에 할당되어 구현되는 대신, 그래픽 전용 프로세서(GPU) 아키텍처에 할당되어 구현될 수 있다. 예를 들어, 본 개시의 딥러닝 시스템(100)은 종래에 널리 알려진 GPGPU(General-Purpose computing on Graphics Processing Units)를 통해 구현될 수 있다.

도 3는 본 개시의 일 실시예에 따른 딥러닝 모델에서의 전방향 및 역방향 전파를 설명하는 예시도이다. 딥러닝 모델에서의 전방향 전파 방법(S310)은, 입력값인 x_i가 딥러닝 모델에 입력되어, 입력값에 대한 출력값인 f(x)가 출력될 수 있다. 딥러닝 모델에서 예측되는 출력값은 확률의 형태로 표시될 수 있으며, 출력값은 미리 분류된 클래스 값을 예측하기 위한 결정 임계 값 및/또는 신뢰도를 통해 결정될 수 있다. 이러한 전방향 전파를 통해 딥러닝 모델의 각 뉴런을 지날 때, 활성화의 여부를 묻는 활성함수가 존재할 수 있다. 도 3에서는 입력값 또는 입력 변수인 x_i가 하나의 뉴런에 입력되도록 도시되어 있으나, 입력층에 복수의 뉴런이 있는 경우, 하나의 입력값이 복수의 특징으로 분석되어 입력층에 포함된 복수의 뉴런에 입력될 수 있다.

도 3에 도시된 바와 같이, 딥러닝 모델에서 특정 입력 x_i에 대한 최종 출력 f(x)가 출력되는 과정에서, 출력값을 위한 딥러닝 모델의 중간층 및/또는 은닉층에 포함된 복수의 뉴런들의 공헌도를 찾기 위해, 딥러닝 시스템의 역방향 전파(back propagation), 즉 역전파 방법이 수행될 수 있다(S320). 여기서, 이러한 역전파 방법은 통합 가중치(Deep LIFT), 연관성 계층 역전파(LRP), 미분을 활용한 활성 함수 근사화(Deep Taylor Decomposition), 공헌기여도(SHAP) 등과 같은 해석가능한 모델을 통해 수행될 수 있다. 즉, 딥러닝 모델로부터의 출력값, 즉 해답과 딥러닝 모델 내의 뉴런 및 입력 변수의 관계를 나타내기 위해 스코어가 해석가능한 모델을 통해 도출될 수 있다. 또한, 보정된 잔차를 기초로 딥러닝 모델에 포함된 복수의 뉴런에 연관된 복수의 스코어를 재추정하는 경우에도 이러한 역전파 방법이 사용될 수 있다.

도 4는 본 개시의 일 실시예에 따른 예측된 해답을 역전파 방식으로 해답을 추론하는데 사용된 중요 변수를 나타내는 입력 이미지의 히트맵을 설명하는 예시도이다. 일 실시에에 따르면, 도 4에 도시된 바와 같이, 입력 이미지로부터 추출된 특징을 나타내는 벡터값인 {x_p}로부터 추론된 해답 f(x)(예: 숫자 9입니다.)를 전방향 전파를 통해 출력할 수 있다. 이러한 해답 f(x)는 딥러닝 모델에 포함된 뉴런을 통과함으로써 추론될 수 있으며, 각 뉴런을 지날 때 각 뉴런과 연관된 활성 함수 및/또는 가중치가 적용될 수 있다.

일 실시예에 따르면, 도시된 바와 같이, 출력값, 즉 해답은 R_f로 설정될 수 있으며, 역전파 방법을 이용하여 각 뉴런을 출력층에서 입력층으로 향하는 역방향으로 각 뉴런과 연관된 스코어를 추정하여 입력층의 어느 부분이 출력값에 주요하게 영향을 끼쳤는지 알아낼 수 있다. 이러한 값을 {R_p}로 표시될 수 있다. 예를 들어, 도 4와 같이, 이미지가 입력값인 경우, 추론된 해답 R_f에 주요한 영향을 준, 중요 변수를 히트맵 형식으로 표시할 수 있다. 도 4에서는 이미지를 입력값으로 수신하고 있으나, 이에 한정되지 않으며, 입력값으로부터 추론될 수 있는 출력값이 있는 임의의 정보 및/또는 데이터가 입력값이 될 수 있으며, 예를 들어, 입력 데이터는 패널, 텍스트 등의 형식의 정보 및/또는 데이터를 포함할 수 있다.

도 5는 본 개시의 일 실시예에 따른 딥러닝 모델을 통해 예측된 해답을 해석할 수 있는 방법(500)을 설명하기 위한 순서도이다. 방법(S510)은 딥러닝 시스템(100)이 입력값을 딥러닝 모델에 입력하여 딥러닝 모델의 출력값을 출력하는 단계로 개시될 수 있다. S520에서, 딥러닝 시스템(100)은 딥러닝 모델에 포함된 복수의 뉴런에 연관된 복수의 스코어를 추정할 수 있다.

딥러닝 시스템(100)은, S530에서, 추정된 복수의 스코어의 잔차를 보정할 수 있다. 딥러닝 시스템(100)은 보정된 잔차를 기초로 복수의 뉴런에 연관된 복수의 스코어를 갱신할 수 있다(S540). S550에서, 딥러닝 시스템(100)은 갱신된 복수의 뉴런에 연관된 복수의 스코어를 기초로 딥러닝 모델의 해답을 해석할 수 있다.

도 6은 본 개시의 일 실시예에 따른 잔차 보정부(240)에 의해, 딥러닝 모델을 역전파 방식으로 해답을 추론하는데 있어 추정된 스코어의 잔차를 보정하는 방법을 설명하기 위한 순서도이다. S610에서, 잔차 보정부(240)는 딥러닝 모델에 포함된 복수의 뉴런에 연관된 복수의 스코어가 미리 결정된 통계 조건을 만족하는지 결정 또는 검증할 수 있다. 예를 들어, 이러한 복수의 스코어는 스코어 추정부(230)를 통해 추정된, 딥러닝 모델에 포함된 복수의 뉴런과 연관된 스코어를 포함할 수 있다. 일 실시예에서, 미리 결정된 통계 조건을 만족하는지 결정하기 위하여, 잔차 보정부(240)는 추정된 복수의 스코어가 이분산인지 여부를 결정하는 단계 및 추정된 복수의 스코어가 자기상관인지 결정하는 단계를 포함할 수 있다. 추정된 복수의 스코어가 미리 결정된 통계 조건을 만족하는 경우, 잔차 보정부(240)는, 최소 자승법(OLS)을 이용하여 추정된 복수의 스코어의 잔차를 감소시킬 수 있다(S620). 최소 자승법(OLS)을 이용해 잔차를 보정한 경우, 잔차 보정부(240)는 보정된 스코어를 해답 해석부(250)에 제공할 수 있다. 이 경우, 해답 해석부(250)는 보정된 스코어를 기초로 딥러닝 모델을 통해 추론된 출력값, 즉 해답을 해석할 수 있다.

딥러닝 모델의 복수의 뉴런에 연관된 복수의 스코어가 미리 결정된 통계 조건을 만족하지 않는 경우, S630이 진행될 수 있다. S630에서, 잔차 보정부(240)는 일반화된 최소자승법(GLS)을 이용하여 복수의 스코어를 재추정하고, 잔차를 감소시킬 수 있다. 그리고 나서, 잔차 보정부(240)는 재추정된 복수의 스코어 및 감소된 잔차가 미리 결정된 통계 조건을 만족하는지 결정 또는 검증할 수 있다(S640). 미리 결정된 통계 조건을 만족하는 경우, S620으로 진행해, 잔차 보정부(240)는 최소 자승법(OLS)을 이용하여 복수의 스코어의 잔차를 감소시킬 수 있다. 미리 결정된 통계 조건을 만족하지 못하는 경우, 미리 결정된 통계 조건이 만족될 때까지, S630 및 S640을 반복하여 수행함으로써, 일반화된 최소자승법(GLS)을 이용하여 복수의 스코어를 반복하여 재추정하고 잔차를 보정할 수 있다.

도 7은 본 개시의 일 실시예에 따른 딥러닝 모델을 해석하는데 있어, 추정된 스코어의 잔차를 보정하는 방법이 적용된 실험 결과를 나타내는 예시도이다. 딥러닝 시스템(100)은 입력값(710)을 딥러닝 모델에 입력하여 출력값을 출력할 수 있으며, 해석가능한 모델을 통해 해답을 해석할 수 있다. 여기서, 입력값(710)은 도시된 바와 같이, MNIST 데이터 세트로부터 추출된 네 개의 숫자에 대한 이미지를 포함할 수 있다. MNIST 데이터 세트는 기계학습 분야에서 널리 사용하는, 손으로 쓴 숫자들을 전처리하여 이루어진 많은 양의 이미지를 포함한 데이터 세트를 지칭할 수 있다.

딥러닝 시스템(100)은 LRP 기법이 적용된 해석가능한 모델을 이용하여 입력값(710)으로부터 해석정보를 포함한 히트맵(720)을 생성할 수 있다. 또한, 딥러닝 시스템(100)은 잔차 보정부(240)를 통해 딥러닝 모델에 포함된 복수의 뉴런에 연관된 복수의 스코어의 잔차를 보정하고, 보정된 잔차를 기초로 갱신된 스코어를 이용하여 해석 정보를 포함한 히트맵(730)을 생성할 수 있다. 여기서, 잔차 보정부(240)는 도 2를 참조하여 설명된 최소 자승법(OLS) 및 실현가능한 일반화된 최소 자승법(FLGS)을 통해 복수의 스코어의 잔차를 보정할 수 있다. 도 7에서 도시된 바와 같이, 잔차를 보정하여 생성된 해석 정보인 히트맵(730)이 잔차 보정 없이 복수의 스코어를 LRP 기법을 통해 생성된 해석 정보인 히트맵(720)보다 각 이미지의 해답인 '0', '2', '5', '9'에 영향을 미친 각 글자의 부분이 더 정확히 표시될 수 있다. 즉, 딥러닝 시스템(100)은 입력값에 대해 딥러닝 모델을 통해 출력된 해답에 대해 향샹된 해석력을 제공할 수 있다.

도 8은 본 개시의 일 실시예에 따른 딥러닝 시스템(800)의 블록도이다. 딥러닝 시스템(800)은 학습부(810) 및 추론부(820)를 포함할 수 있다. 딥러닝 시스템(800)의 학습부(810)는 도 2의 딥러닝 시스템(100)의 학습부(210)에 대응될 수 있고, 딥러닝 시스템(800)의 추론부(820)는 도 2의 딥러닝 시스템(100)의 추론부(220)에 대응될 수 있다.

학습부(810)는 데이터를 입력하여 기계학습모델을 획득할 수 있다. 예를 들어, 기계학습모델은 딥러닝 모델을 포함할 수 있다. 또한, 추론부(820)는 데이터를 기계학습모델에 입력하여 출력값에 해당하는 해답을 생성할 수 있다. 상술한 바와 같은 딥러닝 시스템(800)은 프로세서 및 메모리를 포함할 수 있다. 또한, 학습부(810)는 입력값으로 패널, 데이터, 텍스트 중 적어도 하나를 나타내는 정보 또는 데이터를 수신할 수 있다. 학습부(810)는 학습에 이용될 데이터를 획득하고, 획득된 데이터를 후술할 데이터 학습모델에 적용함으로써, 입력에 따른 해답을 학습할 수 있다. 여기서, 데이터 학습모델은 전술한 딥러닝 모델을 지칭할 수 있다.

추론부(820)는 입력값에 기초하여 학습 모델을 통한 입력값에 대한 해답을 출력할 수 있다. 추론부(820)는 학습된 학습모델을 이용하여, 소정의 입력으로부터 해답을 출력할 수 있다. 추론부(820)는 학습에 의한 미리 설정된 기준에 따라 소정의 입력값(예를 들어, 패널, 이미지, 텍스트 중 적어도 하나를 나타내는 정보/데이터)을 획득할 수 있다. 또한, 추론부(820)는 획득된 데이터를 입력값으로 하여 데이터 학습모델을 이용함으로써, 소정의 데이터에 기초한 해답을 출력할 수 있다. 또한, 획득된 데이터를 입력값으로 하여 데이터 학습모델에 의해 출력된 결과 값은, 데이터 학습모델을 갱신하는데 이용될 수 있다.

학습부(810) 또는 추론부(820) 중 적어도 하나는, 적어도 하나의 하드웨어 칩 형태로 제작되어 전자 장치에 탑재될 수 있다. 예를 들어, 학습부(810) 또는 추론부(820) 중 적어도 하나는 인공 지능(AI; artificial intelligence)을 위한 전용 하드웨어 칩 형태로 제작될 수도 있고, 또는 기존의 범용 프로세서(예: CPU 또는 application processor) 또는 그래픽 전용 프로세서(예: GPU)의 일부로 제작되어 이미 설명한 각종 전자 장치에 탑재될 수도 있다.

또한 학습부(810) 및 추론부(820)는 별개의 전자 장치들에 각각 탑재될 수도 있다. 예를 들어, 학습부(810) 및 추론부(820) 중 하나는 전자 장치에 포함되고, 나머지 하나는 서버에 포함될 수 있다. 또한, 학습부(810) 및 추론부(820)는 유선 또는 무선으로 통하여, 학습부(810)가 구축한 모델 정보를 추론부(820)로 제공할 수도 있고, 추론부(820)로 입력된 데이터가 추가 학습 데이터로써 학습부(810)로 제공될 수도 있다.

한편, 학습부(810) 또는 추론부(820) 중 적어도 하나는 소프트웨어 모듈로 구현될 수 있다. 학습부(810) 및 추론부(820) 중 적어도 하나가 소프트웨어 모듈(또는, 인스트럭션(instruction)을 포함하는 프로그램 모듈)로 구현되는 경우, 소프트웨어 모듈은 메모리 또는 컴퓨터로 읽을 수 있는 판독 가능한 비일시적 판독 가능 기록매체(non-transitory computer readable media)에 저장될 수 있다. 또한, 이 경우, 적어도 하나의 소프트웨어 모듈은 OS(Operating System)에 의해 제공되거나, 소정의 애플리케이션에 의해 제공될 수 있다. 이와 달리, 적어도 하나의 소프트웨어 모듈 중 일부는 OS(Operating System)에 의해 제공되고, 나머지 일부는 소정의 애플리케이션에 의해 제공될 수 있다.

본 개시의 일 실시예에 따른 학습부(810)는 데이터 획득부(811), 전처리부(1112), 학습 데이터 선택부(813), 모델 학습부(814) 및 모델 평가부(815)를 포함할 수 있다.

데이터 획득부(811)는 기계학습에 필요한 데이터를 획득할 수 있다. 학습을 위해서는 많은 데이터가 필요하므로, 데이터 획득부(811)는 패널, 이미지, 텍스트 중 적어도 하나를 나타내는 정보/데이터를 수신할 수 있다.

전처리부(812)는 획득된 데이터가 기계학습에 이용될 수 있도록, 획득된 데이터를 전처리할 수 있다. 전처리부(812)는 후술할 모델 학습부(814)가 이용할 수 있도록, 획득된 데이터를 미리 설정된 포맷으로 가공할 수 있다.

일부 실시예에서 전처리부(812)는 사이즈 조정, 정규화, 대비표준화(Contrast Normalization) 등의 방법으로 이미지를 기계학습 전처리할 수 있다.

일부 실시예에서 전처리부(812)는 입력 텍스트를 형태소 분석하여 형태소 임베딩을 획득할 수 있다. 다른 실시예에서, 전처리부(812)는 입력 이미지를 분석하여 입력 이미지를 나타내는 특징을 획득할 수 있다.

학습 데이터 선택부(813)는 전처리된 데이터 중에서 학습에 필요한 데이터를 선택할 수 있다. 선택된 데이터는 모델 학습부(814)에 제공될 수 있다. 학습 데이터 선택부(813)는 기 설정된 기준에 따라, 전처리된 데이터 중에서 학습에 필요한 데이터를 선택할 수 있다. 또한, 학습 데이터 선택부(813)는 후술할 모델 학습부(814)에 의한 학습에 의해 기 설정된 기준에 따라 데이터를 선택할 수도 있다.

모델 학습부(814)는 학습 데이터에 기초하여 입력값에 따라 어떤 해답을 출력할 지에 관한 기준을 학습할 수 있다. 또한, 모델 학습부(814)는 입력값에 따라 해답을 출력하는 학습모델을 학습 데이터로써 이용하여 학습시킬 수 있다. 이 경우, 데이터 학습모델은 미리 구축된 모델을 포함할 수 있다. 예를 들어, 데이터 학습모델은 기본 학습 데이터(예를 들어, 샘플 패널, 텍스트, 이미지 등)을 입력 받아 미리 구축된 모델을 포함할 수 있다.

데이터 학습모델은, 학습모델의 적용 분야, 학습의 목적 또는 장치의 컴퓨터 성능 등을 고려하여 구축될 수 있다. 데이터 학습모델은, 예를 들어, 신경망(Neural Network)을 기반으로 하는 모델을 포함할 수 있다. 예컨대, Deep Neural Network (DNN), Recurrent Neural Network (RNN), Long Short-Term Memory models (LSTM), BRDNN (Bidirectional Recurrent Deep Neural Network), Convolutional Neural Networks (CNN) 등과 같은 모델이 데이터 학습모델로써 사용될 수 있으나, 이에 한정되지 않는다.

다양한 실시예에 따르면, 모델 학습부(814)는 미리 구축된 데이터 학습모델이 복수 개가 존재하는 경우, 입력된 학습 데이터와 기본 학습 데이터의 관련성이 큰 데이터 학습모델을 학습할 데이터 학습모델로 결정할 수 있다. 이 경우, 기본 학습 데이터는 데이터의 타입 별로 기 분류되어 있을 수 있으며, 데이터 학습모델은 데이터의 타입 별로 미리 구축되어 있을 수 있다. 예를 들어, 기본 학습 데이터는 학습 데이터가 생성된 지역, 학습 데이터가 생성된 시간, 학습 데이터의 크기, 학습 데이터의 장르, 학습 데이터의 생성자, 학습 데이터 내의 오브젝트의 종류 등과 같은 다양한 기준으로 기 분류되어 있을 수 있다.

또한, 모델 학습부(814)는, 예를 들어, 오류 역전파법(error back-propagation) 또는 경사 하강법(gradient descent)을 포함하는 학습 알고리즘 등을 이용하여 데이터 학습모델을 학습시킬 수 있다.

또한, 모델 학습부(814)는, 예를 들어, 학습 데이터를 입력값으로 하는 지도 학습(supervised learning)을 통하여, 데이터 학습모델을 학습할 수 있다. 또한, 모델 학습부(814)는, 예를 들어, 별다른 지도없이 상황 판단을 위해 필요한 데이터의 종류를 스스로 학습함으로써, 상황 판단을 위한 기준을 발견하는 비지도 학습(unsupervised learning)을 통하여, 데이터 학습모델을 학습할 수 있다. 또한, 모델 학습부(814)는, 예를 들어, 학습에 따른 상황 판단의 결과가 올바른 지에 대한 피드백을 이용하는 강화 학습(reinforcement learning)을 통하여, 데이터 학습모델을 학습할 수 있다.

또한, 데이터 학습모델이 학습되면, 모델 학습부(814)는 학습된 데이터 학습모델을 저장할 수 있다. 이 경우, 모델 학습부(814)는 학습된 데이터 학습모델을 추론부(820)를 포함하는 전자 장치의 메모리에 저장할 수 있다. 또는, 모델 학습부(814)는 학습된 데이터 학습모델을 전자 장치와 유선 또는 무선 네트워크로 연결되는 서버의 메모리에 저장할 수도 있다.

이 경우, 학습된 데이터 학습모델이 저장되는 메모리는, 예를 들면, 전자 장치의 적어도 하나의 다른 구성요소에 관계된 명령 또는 데이터를 함께 저장할 수도 있다. 또한, 메모리는 소프트웨어 및/또는 프로그램을 저장할 수도 있다. 프로그램은, 예를 들면, 커널, 미들웨어, 어플리케이션 프로그래밍 인터페이스(API) 및/또는 어플리케이션 프로그램(또는 '어플리케이션') 등을 포함할 수 있다.

모델 평가부(815)는 데이터 학습모델에 평가 데이터를 입력하고, 평가 데이터로부터 출력되는 결과가 소정 기준을 만족하지 못하는 경우, 모델 학습부(814)로 하여금 다시 학습하도록 할 수 있다. 이 경우, 평가 데이터는 데이터 학습모델을 평가하기 위한 기 설정된 데이터를 포함할 수 있다.

예를 들어, 모델 평가부(815)는 평가 데이터에 대한 학습된 데이터 학습모델의 결과 중에서, 인식 결과가 정확하지 않은 평가 데이터의 개수 또는 비율이 미리 설정된 임계치를 초과하는 경우 소정 기준을 만족하지 못한 것으로 평가할 수 있다. 예컨대, 소정 기준이 비율 2%로 정의되는 경우, 학습된 데이터 학습모델이 총 1000개의 평가 데이터 중의 20개를 초과하는 평가 데이터에 대하여 잘못된 인식 결과를 출력하는 경우, 모델 평가부(815)는 학습된 데이터 학습모델이 적합하지 않은 것으로 평가할 수 있다.

한편, 학습된 데이터 학습모델이 복수 개가 존재하는 경우, 모델 평가부(815)는 각각의 학습된 동영상 학습모델에 대하여 소정 기준을 만족하는지를 평가하고, 소정 기준을 만족하는 모델을 최종 데이터 학습모델로써 결정할 수 있다. 이 경우, 소정 기준을 만족하는 모델이 복수 개인 경우, 모델 평가부(815)는 평가 스코어가 높은 순으로 미리 설정된 어느 하나 또는 소정 개수의 모델을 최종 데이터 학습모델로써 결정할 수 있다.

한편, 학습부(810) 내의 데이터 획득부(811), 전처리부(812), 학습 데이터 선택부(813), 모델 학습부(814) 또는 모델 평가부(815) 중 적어도 하나는, 적어도 하나의 하드웨어 칩 형태로 제작되어 전자 장치에 탑재될 수 있다. 예를 들어, 데이터 획득부(811), 전처리부(812), 학습 데이터 선택부(813), 모델 학습부(814) 또는 모델 평가부(815) 중 적어도 하나는 인공 지능(AI; artificial intelligence)을 위한 전용 하드웨어 칩 형태로 제작될 수도 있고, 또는 기존의 범용 프로세서(예: CPU 또는 application processor) 또는 그래픽 전용 프로세서(예: GPU)의 일부로 제작되어 전술한 각종 전자 장치에 탑재될 수도 있다.

또한, 데이터 획득부(811), 전처리부(812), 학습 데이터 선택부(813), 모델 학습부(814) 및 모델 평가부(815)는 하나의 전자 장치에 탑재될 수도 있으며, 또는 별개의 전자 장치들에 각각 탑재될 수도 있다. 예를 들어, 데이터 획득부(811), 전처리부(812), 학습 데이터 선택부(813), 모델 학습부(814) 및 모델 평가부(815) 중 일부는 전자 장치에 포함되고, 나머지 일부는 서버에 포함될 수 있다.

또한, 데이터 획득부(811), 전처리부(812), 학습 데이터 선택부(813), 모델 학습부(814) 또는 모델 평가부(815) 중 적어도 하나는 소프트웨어 모듈로 구현될 수 있다. 데이터 획득부(811), 전처리부(812), 학습 데이터 선택부(813), 모델 학습부(814) 또는 모델 평가부(815) 중 적어도 하나가 소프트웨어 모듈(또는, 인스트럭션(instruction) 포함하는 프로그램 모듈)로 구현되는 경우, 소프트웨어 모듈은 컴퓨터로 읽을 수 있는 판독 가능한 비일시적 판독 가능 기록매체(non-transitory computer readable media)에 저장될 수 있다. 또한, 이 경우, 적어도 하나의 소프트웨어 모듈은 OS(Operating System)에 의해 제공되거나, 소정의 애플리케이션에 의해 제공될 수 있다. 이와 달리, 적어도 하나의 소프트웨어 모듈 중 일부는 OS(Operating System)에 의해 제공되고, 나머지 일부는 소정의 애플리케이션에 의해 제공될 수 있다.

본 개시의 일 실시예에 따른 추론부(820)는 데이터 획득부(821), 전처리부(822), 인식 데이터 선택부(823), 인식 결과 제공부(824) 및 모델 갱신부(825)를 포함할 수 있다.

데이터 획득부(821)는 해답을 출력하기 위해 필요한 데이터를 획득할 수 있다. 전처리부(822)는 해답을 출력하기 위해 획득된 데이터가 이용될 수 있도록, 획득된 데이터를 전처리할 수 있다. 전처리부(822)는 후술할 인식 결과 제공부(824)가 해답을 출력하기 위해 획득된 데이터를 이용할 수 있도록, 획득된 데이터를 기 설정된 포맷으로 가공할 수 있다.

인식 데이터 선택부(823)는 전처리된 데이터 중에서 해답을 출력하기 위해 필요한 데이터를 선택할 수 있다. 선택된 데이터는 인식 결과 제공부(824)에게 제공될 수 있다. 인식 데이터 선택부(823)는 해답을 출력하기 위한 기 설정된 기준에 따라, 전처리된 데이터 중에서 일부 또는 전부를 선택할 수 있다. 또한, 인식 데이터 선택부(823)는 모델 학습부(814)에 의한 학습에 의해 기 설정된 기준에 따라 데이터를 선택할 수도 있다.

인식 결과 제공부(824)는 선택된 데이터를 데이터 학습모델에 적용하여 해답을 출력할 수 있다. 인식 결과 제공부(824)는 인식 데이터 선택부(823)에 의해 선택된 데이터를 입력값으로 이용함으로써, 선택된 데이터를 데이터 학습모델에 적용할 수 있다. 또한, 인식 결과는 데이터 학습모델에 의해 결정될 수 있다.

모델 갱신부(825)는 인식 결과 제공부(824)에 의해 제공되는 인식 결과에 대한 평가에 기초하여, 데이터 학습모델이 갱신되도록 할 수 있다. 예를 들어, 모델 갱신부(825)는 인식 결과 제공부(824)에 의해 제공되는 인식 결과를 모델 학습부(814)에게 제공함으로써, 모델 학습부(814)가 데이터 학습모델을 갱신하도록 할 수 있다.

한편, 추론부(820) 내의 데이터 획득부(821), 전처리부(822), 인식 데이터 선택부(823), 인식 결과 제공부(824) 또는 모델 갱신부(825) 중 적어도 하나는, 적어도 하나의 하드웨어 칩 형태로 제작되어 전자 장치에 탑재될 수 있다. 예를 들어, 데이터 획득부(821), 전처리부(822), 인식 데이터 선택부(823), 인식 결과 제공부(824) 또는 모델 갱신부(825) 중 적어도 하나는 인공 지능(AI; artificial intelligence)을 위한 전용 하드웨어 칩 형태로 제작될 수도 있고, 또는 기존의 범용 프로세서(예: CPU 또는 application processor) 또는 그래픽 전용 프로세서(예: GPU)의 일부로 제작되어 전술한 각종 전자 장치에 탑재될 수도 있다.

또한, 데이터 획득부(821), 전처리부(822), 인식 데이터 선택부(823), 인식 결과 제공부(824) 및 모델 갱신부(825)는 하나의 전자 장치에 탑재될 수도 있으며, 또는 별개의 전자 장치들에 각각 탑재될 수도 있다. 예를 들어, 데이터 획득부(821), 전처리부(822), 인식 데이터 선택부(823), 인식 결과 제공부(824) 및 모델 갱신부(825) 중 일부는 전자 장치에 포함되고, 나머지 일부는 서버에 포함될 수 있다.

또한, 데이터 획득부(821), 전처리부(822), 인식 데이터 선택부(823), 인식 결과 제공부(824) 또는 모델 갱신부(825) 중 적어도 하나는 소프트웨어 모듈로 구현될 수 있다. 데이터 획득부(821), 전처리부(822), 인식 데이터 선택부(823), 인식 결과 제공부(824) 또는 모델 갱신부(825) 중 적어도 하나가 소프트웨어 모듈(또는, 인스트럭션(instruction) 포함하는 프로그램 모듈)로 구현되는 경우, 소프트웨어 모듈은 컴퓨터로 읽을 수 있는 판독 가능한 비일시적 판독 가능 기록매체(non-transitory computer readable media)에 저장될 수 있다. 또한, 이 경우, 적어도 하나의 소프트웨어 모듈은 OS(Operating System)에 의해 제공되거나, 소정의 애플리케이션에 의해 제공될 수 있다. 이와 달리, 적어도 하나의 소프트웨어 모듈 중 일부는 OS(Operating System)에 의해 제공되고, 나머지 일부는 소정의 애플리케이션에 의해 제공될 수 있다.

이상 설명된 다양한 실시예에 따른 딥러닝 모델을 통해 예측된 해답을 해석할 수 있는 시스템은, 데스크탑 컴퓨터, 랩탑 컴퓨터, 무선 전화기, 셀룰러 전화기, 무선 멀티미디어 디바이스, PDA, 컴퓨터의 외부에 설치된 모뎀이나 내부에 설치된 모뎀, 무선 채널을 통해 통신하는 디바이스 등과 같은 다양한 타입들의 디바이스들을 나타낼 수도 있다. 이와 같은 디바이스는, 액세스 단말기 (access terminal; AT), 액세스 유닛, 가입자 유닛, 이동국, 모바일 디바이스, 모바일 유닛, 모바일 전화기, 모바일, 원격국, 원격 단말, 원격 유닛, 유저 디바이스, 유저 장비 (user equipment), 핸드헬드 디바이스 등과 같은 다양한 이름들을 가질 수도 있다. 본원에 설명된 임의의 디바이스는, 이상 설명한 방법의 실행에 필요한 명령들 및 데이터를 저장하기 위한 메모리, 뿐만 아니라 하드웨어, 소프트웨어, 펌웨어, 또는 이들의 조합들을 가질 수도 있다.

본원에 기술된 기법들은 다양한 수단에 의해 구현될 수도 있다. 예를 들어, 이러한 기법들은 하드웨어, 펌웨어, 소프트웨어, 또는 이들의 조합으로 구현될 수도 있다. 본원의 개시와 연계하여 설명된 다양한 예시적인 논리적 블록들, 모듈들, 회로들, 및 알고리즘 단계들은 전자 하드웨어, 컴퓨터 소프트웨어, 또는 양자의 조합들로 구현될 수도 있음을 당업자들은 더 이해할 것이다. 하드웨어 및 소프트웨어의 이러한 상호교환성을 명확하게 설명하기 위해, 다양한 예시적인 컴포넌트들, 블록들, 모듈들, 회로들, 및 단계들이 그들의 기능성의 관점에서 일반적으로 위에서 설명되었다. 그러한 기능이 하드웨어로서 구현되는지 또는 소프트웨어로서 구현되는 지의 여부는, 특정 애플리케이션 및 전체 시스템에 부과되는 설계 제약들에 따라 달라진다. 당업자들은 각각의 특정 애플리케이션을 위해 다양한 방식들로 설명된 기능을 구현할 수도 있으나, 그러한 구현 결정들은 본 개시의 범위로부터 벗어나게 하는 것으로 해석되어서는 안된다.

하드웨어 구현에서, 기법들을 수행하는 데 이용되는 프로세싱 유닛들은, 하나 이상의 ASIC들, DSP들, 디지털 신호 프로세싱 디바이스들 (digital signal processing devices; DSPD들), 프로그램가능 논리 디바이스들 (programmable logic devices; PLD들), 필드 프로그램가능 게이트 어레이들 (field programmable gate arrays; FPGA들), 프로세서들, 제어기들, 마이크로제어기들, 마이크로프로세서들, 전자 디바이스들, 본원에 설명된 기능들을 수행하도록 설계된 다른 전자 유닛들, 컴퓨터, 또는 이들의 조합 내에서 구현될 수도 있다.

따라서, 본원의 개시와 연계하여 설명된 다양한 예시적인 논리 블록들, 모듈들, 및 회로들은 범용 프로세서, DSP, ASIC, FPGA나 다른 프로그램 가능 논리 디바이스, 이산 게이트나 트랜지스터 로직, 이산 하드웨어 컴포넌트들, 또는 본원에 설명된 기능들을 수행하도록 설계된 것들의 임의의 조합으로 구현되거나 수행될 수도 있다. 범용 프로세서는 마이크로프로세서일 수도 있지만, 대안에서, 프로세서는 임의의 종래의 프로세서, 제어기, 마이크로제어기, 또는 상태 머신 일 수도 있다. 프로세서는 또한 컴퓨팅 디바이스들의 조합, 예를 들면, DSP와 마이크로프로세서, 복수의 마이크로프로세서들, DSP 코어와 연계한 하나 이상의 마이크로프로세서들, 또는 임의의 다른 그러한 구성의 조합으로써 구현될 수도 있다.

펌웨어 및/또는 소프트웨어 구현에 있어서, 기법들은 랜덤 액세스 메모리 (random access memory; RAM), 판독 전용 메모리 (read-only memory; ROM), 불휘발성 RAM (non-volatile random access memory; NVRAM), PROM (programmable read-only memory), EPROM (erasable programmable read-only memory), EEPROM (electrically erasable PROM), 플래시 메모리, 컴팩트 디스크 (compact disc; CD), 자기 또는 광학 데이터 스토리지 디바이스 등과 같은 컴퓨터 판독가능 매체 상에 저장된 명령들로써 구현될 수도 있다. 명령들은 하나 이상의 프로세서들에 의해 실행 가능할 수도 있고, 프로세서(들)로 하여금 본원에 설명된 기능의 특정 양태들을 수행하게 할 수도 있다.

소프트웨어로 구현되면, 상기 기능들은 하나 이상의 명령들 또는 코드로서 컴퓨터 판독 가능한 매체 상에 저장될 수도 있다. 저장 매체들은 컴퓨터에 의해 액세스될 수 있는 임의의 이용 가능한 매체들일 수도 있다. 비제한적인 예로서, 이러한 컴퓨터 판독가능 매체는 RAM, ROM, EEPROM, CD-ROM 또는 다른 광학 디스크 스토리지, 자기 디스크 스토리지 또는 다른 자기 스토리지 디바이스들, 또는 소망의 프로그램 코드를 명령들 또는 데이터 구조들의 형태로 저장하기 위해 사용될 수 있으며 컴퓨터에 의해 액세스될 수 있는 임의의 다른 매체를 포함할 수 있다. 또한, 임의의 접속이 컴퓨터 판독가능 매체로 적절히 칭해진다.

본원에서 사용된 디스크(disk)와 디스크(disc)는, CD, 레이저 디스크, 광 디스크, DVD(digital versatile disc), 플로피디스크, 및 블루레이 디스크를 포함하며, 여기서 디스크들(disks)은 보통 자기적으로 데이터를 재생하고, 반면 디스크들(discs)은 레이저를 이용하여 광학적으로 데이터를 재생한다. 위의 조합들도 컴퓨터 판독가능 매체들의 범위 내에 포함되어야 한다.

소프트웨어 모듈은 RAM 메모리, 플래시 메모리, ROM 메모리, EPROM 메모리, EEPROM 메모리, 레지스터들, 하드 디스크, 이동식 디스크, CD-ROM, 또는 공지된 임의의 다른 형태의 저장 매체 내에 상주할 수도 있다. 예시적인 저장 매체는, 프로세가 저장 매체로부터 정보를 판독하거나 저장 매체에 정보를 기록할 수 있도록, 프로세서에 커플링 될 수 있다. 대안으로, 저장 매체는 프로세서에 통합될 수도 있다. 프로세서와 저장 매체는 ASIC 내에 존재할 수도 있다. ASIC은 유저 단말 내에 존재할 수도 있다. 대안으로, 프로세서와 저장 매체는 유저 단말에서 개별 컴포넌트들로써 존재할 수도 있다.

본 개시의 앞선 설명은 당업자들이 본 개시를 행하거나 이용하는 것을 가능하게 하기 위해 제공된다. 본 개시의 다양한 수정예들이 당업자들에게 쉽게 자명할 것이고, 본원에 정의된 일반적인 원리들은 본 개시의 취지 또는 범위를 벗어나지 않으면서 다양한 변형예들에 적용될 수도 있다. 따라서, 본 개시는 본원에 설명된 예들에 제한되도록 의도된 것이 아니고, 본원에 개시된 원리들 및 신규한 특징들과 일관되는 최광의의 범위가 부여되도록 의도된다.

비록 예시적인 구현예들이 하나 이상의 독립형 컴퓨터 시스템의 맥락에서 현재 개시된 주제의 양태들을 활용하는 것을 언급할 수도 있으나, 본 주제는 그렇게 제한되지 않고, 오히려 네트워크나 분산 컴퓨팅 환경과 같은 임의의 컴퓨팅 환경과 연계하여 구현될 수도 있다. 또 나아가, 현재 개시된 주제의 양상들은 복수의 프로세싱 칩들이나 디바이스들에서 또는 그들에 걸쳐 구현될 수도 있고, 스토리지는 복수의 디바이스들에 걸쳐 유사하게 영향을 받게 될 수도 있다. 이러한 디바이스들은 PC들, 네트워크 서버들, 및 핸드헬드 디바이스들을 포함할 수도 있다.

본 명세서에서는 본 개시가 일부 실시예들과 관련하여 설명되었지만, 본 발명이 속하는 기술분야의 통상의 기술자가 이해할 수 있는 본 개시의 범위를 벗어나지 않는 범위에서 다양한 변형 및 변경이 이루어질 수 있다는 점을 알아야 할 것이다. 또한, 그러한 변형 및 변경은 본 명세서에서 첨부된 특허청구의 범위 내에 속하는 것으로 생각되어야 한다.

100: 딥러닝 시스템 210: 학습부
220: 추론부 230: 스코어 추정부
240: 잔차 보정부 250: 해답 해석부
260: 저장부 270: 통신부

Claims (10)

1. 딥러닝 시스템에 의해 수행되는, 딥러닝 모델을 통해 예측된 해답을 해석하는 방법에 있어서,
   입력값을 딥러닝 모델에 입력하여 상기 딥러닝 모델로부터 해답을 출력하는 단계;
   상기 딥러닝 모델에 포함된 복수의 뉴런에 연관된 복수의 스코어를 추정하는 단계;
   상기 추정된 복수의 스코어의 잔차를 보정하는 단계;
   상기 보정된 잔차를 기초로 상기 복수의 스코어를 갱신하는 단계; 및
   상기 갱신된 복수의 스코어를 기초로 상기 해답을 해석하는 단계
   를 포함하는, 방법.
   
2. 제1항에 있어서,
   상기 추정된 복수의 스코어의 잔차를 보정하는 단계는,
   상기 추정된 복수의 스코어가 미리 결정된 통계 조건을 만족하는 경우, 최소 자승법(OLS)을 이용하여 상기 추정된 복수의 스코어의 잔차를 감소시키는 단계
   를 포함하는, 방법.
   
3. 제2항에 있어서,
   상기 추정된 복수의 스코어가 상기 미리 결정된 통계 조건을 만족하는 경우, 최소 자승법을 이용하여 상기 추정된 복수의 스코어의 잔차를 감소시키는 단계는,
   일반화된 최소자승법(GLS)을 이용하여 상기 복수의 스코어를 재추정하는 단계;
   상기 일반화된 최소자승법을 이용하여 상기 잔차를 감소시키는 단계; 및
   상기 재추정된 복수의 스코어 및 상기 감소된 잔차가 상기 미리 결정된 통계 조건을 만족하는지 여부를 결정하는 단계
   를 포함하는, 방법.
   
4. 제3항에 있어서,
   상기 재추정된 복수의 스코어 및 상기 감소된 잔차가 상기 미리 결정된 통계 조건을 만족하는지 여부를 결정하는 단계는,
   상기 미리 결정된 통계 조건을 만족하는지 결정하기 위하여,
   상기 재추정된 복수의 스코어가 이분산인지 여부를 결정하는 단계; 및
   상기 재추정된 복수의 스코어가 자기상관인지 여부를 결정하는 단계
   를 포함하는, 방법.
   
5. 제3항에 있어서,
   상기 재추정된 복수의 스코어가 상기 미리 결정된 통계 조건을 만족하지 못하는 경우,
   상기 미리 결정된 통계 조건이 만족될 때까지 상기 일반화된 최소자승법을 이용하여 상기 복수의 스코어를 반복하여 재추정하는 단계
   를 더 포함하는, 방법.
   
6. 제1항에 있어서,
   상기 보정된 잔차를 기초로 상기 복수의 스코어를 갱신하는 단계는 상기 딥러닝 모델의 출력층으로부터 입력층으로 향하는 역방향으로 상기 복수의 뉴런에 대응하는 복수의 스코어를 갱신하는 단계
   를 포함하는, 방법.
   
7. 제1항에 있어서,
   상기 딥러닝 모델에 포함된 복수의 뉴런에 연관된 복수의 스코어를 추정하는 단계는 해석가능한 모델을 이용하여 상기 복수의 스코어를 추정하는 단계
   를 포함하는, 방법.
   
8. 제1항에 있어서,
   상기 입력값은 트랜잭션, 이미지, 텍스트 중 적어도 하나를 나타내는 값을 포함하는, 방법.
   
9. 제1항 내지 제7항 중 어느 한 항에 따른 딥러닝 모델을 통해 예측된 해답을 해석하는 방법을 컴퓨터에서 실행시키기 위하여 컴퓨터로 판독 가능한 기록 매체에 저장된 컴퓨터 프로그램.
   
10. 딥러닝 모델을 통해 예측된 해답을 해석하는 시스템에 있어서,
    입력값을 상기 딥러닝 모델에 입력하여 상기 딥러닝 모델의 해답을 출력하도록 구성된 추론부;
    상기 딥러닝 모델에 포함된 복수의 뉴런에 연관된 복수의 스코어를 추정하도록 구성된 스코어 추정부;
    상기 추정된 복수의 스코어의 잔차를 보정하고, 상기 보정된 잔차를 기초로 상기 복수의 스코어를 갱신하도록 구성된 잔차 보정부; 및
    상기 갱신된 복수의 스코어를 기초로 상기 해답을 해석하도록 구성된 해답 해석부
    를 포함하는, 시스템.
    

Images