KR101976841B1 - 자율 인지 신경망 기반 연관 모델 학습을 이용한 의사 결정 서비스 제공 방법 - Google Patents

Abstract

자율 인지 신경망 기반 연관 모델 학습을 이용한 의사 결정 서비스 제공 방법이 제공되며, 사용자 단말로부터 음성 또는 텍스트로 입력문장을 입력받는 단계, 입력문장이 의도 분석 서비스로부터 분석되어 분석문장으로 출력된 경우, 분석문장에 대응하는 기 저장된 답변정보가 존재하는지의 여부를 확인하는 단계, 기 저장된 답변정보가 존재하지 않는 경우, 분석문장의 신규 답변정보를 사용자 단말로 질의하여 수집하는 단계, 및 신규 답변정보가 의도 분석 서비스를 통하여 분석된 경우, 신규 답변정보와 기 저장된 답변정보의 유사도 구간에 따라 분석문장 및 신규 답변정보를 연결하여 학습하거나, 분석문장 및 기 저장된 답변정보를 연결하여 학습하는 단계를 포함한다.

Description

자율 인지 신경망 기반 연관 모델 학습을 이용한 의사 결정 서비스 제공 방법{METHOD FOR PROVIDING ASSOCIATION MODEL BASED DECISION MAKING SERVICE USING COGNITIVE NEURAL NETWORK}

본 발명은 자율 인지 신경망 기반 연관 모델 학습을 이용한 의사 결정 서비스 제공 방법에 관한 것으로, 사용자의 질의에 대하여 맥락에 맞는 피드백을 제공할 수 있는 방법에 관한 것이다.

대화 시스템은 인간과 기계의 상호작용 도구로서 양방향 소통이 가능한 시스템이다. 대화 시스템은 크게 음성인식, 자연어 이해, 대화 관리, 자연어 생성으로 나눌 수 있다. 그 중 자연어 이해(Natural language understanding) 모델은 사용자의 의도 파악하고 상황에 맞는 답변을 제공하기 위한 단계로 대화 시스템을 위해 매우 중요한 비중을 차지한다. 최근에는 합성곱 신경망(Convolution Neural Network, CNN)과 순환 신경망(Recurrent Neural Network, RNN) 등을 이용한 많은 심층학습 기법들이 제안되고 있다.

이때, 문맥과 상황에 맞는 답변을 제공하기 위한 방법으로 문맥을 검증하는 방법이 연구 및 개발되었다. 이와 관련하여, 선행기술인 한국공개특허 제2014-0079598호(2014년06월27일 공개)에는, 사용자의 의사를 통해 입력문의 중의적 표현을 검증하고 검증된 표현을 통번역시 문맥으로 이용하도록, 사용자의 입력에서 중의적 표현을 검증하고, 검증된 중의적 표현을 문맥으로 생성하고, 생성된 문맥이 이후에 입력된 문장을 번역하는데 이용하도록 제어하는 구성이 개시되어 있다.

다만, 사용자의 질의 분석과 같은 문장 분류 분야는 한 문장에서 최대한 많은 정보를 추출하여 분류를 진행해야 하지만 상술한 구성에서는 음절 또는 자소 단위의 임베딩을 활용한 방법은 개시되어 있지 않다. 또한, 심층 학습 기반의 한국어 의도 분석 모델의 연구 및 개발이 전무하며, 이러한 입력 정보의 한계를 극복하기 위해 영어의 형태소 분석 또는 개체명 인식 분야에서는 단어를 쪼개 얻을 수 있는 문자 단위의 임베딩을 신경망을 통해 추출할 수도 있지만, 단어 단위의 임베딩만 사용한 모델로는 입력의 정보를 충분히 활용하지 못했다는 한계를 가지고 있다.

본 발명의 일 실시예는, 사용자의 질의 문장의 중심단어 및 맥락(Context)과 단어모델에 의하여 의도를 분석한 후, 이에 대한 답변을 제공할 수 있도록 분석된문장과 연결된 답변을 검색하고, 답변이 존재하지 않는 경우에는 사용자에게 질의를 하여 답변을 얻으며, 얻은 답변과 기 저장된 답변의 유사도 구간에 기반하여 추가 학습 또는 새로 학습을 실시함으로써, 사용자의 발화 의도를 파악할 때 가장 적합한 문장으로 나눔으로써 의사 결정에 필요한 연산량을 줄이고, 새로운 단어를 인식할 수 있는 유연성을 기를 수 있는, 자율 인지 신경망 기반 연관 모델 학습을 이용한 의사 결정 서비스 제공 방법을 제공할 수 있다. 다만, 본 실시예가 이루고자 하는 기술적 과제는 상기된 바와 같은 기술적 과제로 한정되지 않으며, 또 다른 기술적 과제들이 존재할 수 있다.

상술한 기술적 과제를 달성하기 위한 기술적 수단으로서, 본 발명의 일 실시예는, 사용자 단말로부터 음성 또는 텍스트로 입력문장을 입력받는 단계, 입력문장이 의도 분석 서비스로부터 분석되어 분석문장으로 출력된 경우, 분석문장에 대응하는 기 저장된 답변정보가 존재하는지의 여부를 확인하는 단계, 기 저장된 답변정보가 존재하지 않는 경우, 분석문장의 신규 답변정보를 사용자 단말로 질의하여 수집하는 단계, 및 신규 답변정보가 의도 분석 서비스를 통하여 분석된 경우, 신규 답변정보와 기 저장된 답변정보의 유사도 구간에 따라 분석문장 및 신규 답변정보를 연결하여 학습하거나, 분석문장 및 기 저장된 답변정보를 연결하여 학습하는 단계를 포함한다.

전술한 본 발명의 과제 해결 수단 중 어느 하나에 의하면, 사용자의 질의 문장의 중심단어 및 맥락(Context)과 단어모델에 의하여 의도를 분석한 후, 이에 대한 답변을 제공할 수 있도록 분석된문장과 연결된 답변을 검색하고, 답변이 존재하지 않는 경우에는 사용자에게 질의를 하여 답변을 얻으며, 얻은 답변과 기 저장된 답변의 유사도 구간에 기반하여 추가 학습 또는 새로 학습을 실시함으로써, 사용자의 발화 의도를 파악할 때 가장 적합한 문장으로 나눔으로써 의사 결정에 필요한 연산량을 줄일 수 있다.

도 1은 본 발명의 일 실시예에 따른 자율 인지 신경망 기반 연관 모델 학습을 이용한 의사 결정 서비스 제공 시스템을 설명하기 위한 도면이다.
도 2는 도 1의 시스템에 포함된 의사 결정 서비스 제공 서버를 설명하기 위한 블록 구성도이다.
도 3은 본 발명의 일 실시예에 따른 자율 인지 신경망 기반 연관 모델 학습을 이용한 의사 결정 서비스가 구현된 일 실시예를 설명하기 위한 도면이다.
도 4는 도 3의 의사 결정 서비스 중 아는 질문에 대한 답변을 제시하는 일 실시예를 설명하기 위한 도면이다.
도 5는 도 3의 의사 결정 서비스 중 유사한 질문에 대한 답변을 제시하는 일 실시예를 설명하기 위한 도면이다.
도 6은 도 3의 의사 결정 서비스 중 새로운 질문에 대하여 아는 답변을 제시하는 일 실시예를 설명하기 위한 도면이다.
도 7은 도 3의 의사 결정 서비스 중 새로운 질문에 대한 유사한 답변을 제시하는 일 실시예를 설명하기 위한 도면이다.
도 8은 도 3의 의사 결정 서비스 중 새로운 질문에 대한 새로운 답변을 제시하는 일 실시예를 설명하기 위한 도면이다.
도 9는 도 3의 의사 결정 서비스 중 자율 인지 신경망에서 생성된 데이터의 일 실시예를 설명하기 위한 도면이다.
도 10은 본 발명의 일 실시예에 따른 자율 인지 신경망 기반 연관 모델 학습을 이용한 의사 결정 서비스 제공 방법을 설명하기 위한 동작 흐름도이다.

아래에서는 첨부한 도면을 참조하여 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 본 발명의 실시예를 상세히 설명한다. 그러나 본 발명은 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시예에 한정되지 않는다. 그리고 도면에서 본 발명을 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 유사한 부분에 대해서는 유사한 도면 부호를 붙였다.

명세서 전체에서, 어떤 부분이 다른 부분과 "연결"되어 있다고 할 때, 이는 "직접적으로 연결"되어 있는 경우뿐 아니라, 그 중간에 다른 소자를 사이에 두고 "전기적으로 연결"되어 있는 경우도 포함한다. 또한 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있는 것을 의미하며, 하나 또는 그 이상의 다른 특징이나 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.

명세서 전체에서 사용되는 정도의 용어 "약", "실질적으로" 등은 언급된 의미에 고유한 제조 및 물질 허용오차가 제시될 때 그 수치에서 또는 그 수치에 근접한 의미로 사용되고, 본 발명의 이해를 돕기 위해 정확하거나 절대적인 수치가 언급된 개시 내용을 비양심적인 침해자가 부당하게 이용하는 것을 방지하기 위해 사용된다. 본 발명의 명세서 전체에서 사용되는 정도의 용어 "~(하는) 단계" 또는 "~의 단계"는 "~ 를 위한 단계"를 의미하지 않는다.

본 명세서에 있어서 '부(部)'란, 하드웨어에 의해 실현되는 유닛(unit), 소프트웨어에 의해 실현되는 유닛, 양방을 이용하여 실현되는 유닛을 포함한다. 또한, 1개의 유닛이 2개 이상의 하드웨어를 이용하여 실현되어도 되고, 2개 이상의 유닛이 1개의 하드웨어에 의해 실현되어도 된다.

본 명세서에 있어서 단말, 장치 또는 디바이스가 수행하는 것으로 기술된 동작이나 기능 중 일부는 해당 단말, 장치 또는 디바이스와 연결된 서버에서 대신 수행될 수도 있다. 이와 마찬가지로, 서버가 수행하는 것으로 기술된 동작이나 기능 중 일부도 해당 서버와 연결된 단말, 장치 또는 디바이스에서 수행될 수도 있다.

본 명세서에서 있어서, 단말과 매핑(Mapping) 또는 매칭(Matching)으로 기술된 동작이나 기능 중 일부는, 단말의 식별 정보(Identifying Data)인 단말기의 고유번호나 개인의 식별정보를 매핑 또는 매칭한다는 의미로 해석될 수 있다.

본 발명의 일 실시예에 있어서, 의사 결정 방법은, 나노 의도 분석 방법으로부터 출력된 결과를 이용하여 의사결정엔진으로 의사를 결정하는 방법이다. 이때, 나노 의도 분석 방법은, 구조가 아닌 시점에 따라 나노 단어모델이 병렬적으로 데이터를 확인하여 중앙으로 전달하는 구조에 따른 방법을 실행하는 것으로 정의한다. 이때, 각각 단어 학습모델은 갖는 서로 간의 연관성이 상대적 가지는 임베딩 역할을 수행하며, 이를 통하여 새로 들어온 분석문장을 예측하여 토큰화, 올바른 문장 예측, 다음 단어에 대한 확률적 형태소 분석이 한 번에 이루어져 본 발명의 일 실시예에 따른 의사결정엔진으로 전달되고, 이후 분석된 내용으로 임계치에 따라 새로운 단어모델을 신규로 생성하거나 기 저장된 단어모델에 새로운 연관성을 업데이트하는 형태로 시점별로 이루어지는 것으로 정의한다.

이하 첨부된 도면을 참고하여 본 발명을 상세히 설명하기로 한다.

도 1은 본 발명의 일 실시예에 따른 자율 인지 신경망 기반 연관 모델 학습을 이용한 의사 결정 서비스 제공 시스템을 설명하기 위한 도면이다. 도 1을 참조하면, 자율 인지 신경망 기반 연관 모델 학습을 이용한 의사 결정 서비스 제공 시스템(1)은, 적어도 하나의 사용자 단말(100), 의사 결정 서비스 제공 서버(300)를 포함할 수 있다. 다만, 이러한 도 1의 자율 인지 신경망 기반 연관 모델 학습을 이용한 의사 결정 서비스 제공 시스템(1)은, 본 발명의 일 실시예에 불과하므로, 도 1을 통하여 본 발명이 한정 해석되는 것은 아니다.

이때, 도 1의 각 구성요소들은 일반적으로 네트워크(network, 200)를 통해 연결된다. 예를 들어, 도 1에 도시된 바와 같이, 적어도 하나의 사용자 단말(100)은 네트워크(200)를 통하여 의사 결정 서비스 제공 서버(300)와 연결될 수 있다. 그리고, 의사 결정 서비스 제공 서버(300)는, 네트워크(200)를 통하여 적어도 하나의 사용자 단말(100)과 연결될 수 있다.

여기서, 네트워크는, 복수의 단말 및 서버들과 같은 각각의 노드 상호 간에 정보 교환이 가능한 연결 구조를 의미하는 것으로, 이러한 네트워크의 일 예에는 RF, 3GPP(3rd Generation Partnership Project) 네트워크, LTE(Long Term Evolution) 네트워크, 5GPP(5rd Generation Partnership Project) 네트워크, WIMAX(World Interoperability for Microwave Access) 네트워크, 인터넷(Internet), LAN(Local Area Network), Wireless LAN(Wireless Local Area Network), WAN(Wide Area Network), PAN(Personal Area Network), 블루투스(Bluetooth) 네트워크, NFC 네트워크, 위성 방송 네트워크, 아날로그 방송 네트워크, DMB(Digital Multimedia Broadcasting) 네트워크 등이 포함되나 이에 한정되지는 않는다.

하기에서, 적어도 하나의 라는 용어는 단수 및 복수를 포함하는 용어로 정의되고, 적어도 하나의 라는 용어가 존재하지 않더라도 각 구성요소가 단수 또는 복수로 존재할 수 있고, 단수 또는 복수를 의미할 수 있음은 자명하다 할 것이다. 또한, 각 구성요소가 단수 또는 복수로 구비되는 것은, 실시예에 따라 변경가능하다 할 것이다.

적어도 하나의 사용자 단말(100)은, 자율 인지 신경망 기반 연관 모델 학습을 이용한 의사 결정 서비스 관련 웹 페이지, 앱 페이지, 프로그램 또는 애플리케이션을 이용하여 채팅 또는 음성으로 대화를 하는 사용자의 단말일 수 있다. 이때, 적어도 하나의 사용자 단말(100)은, 채팅 또는 음성을 통하여 명령을 내리거나 검색을 하거나 대화를 하는 사용자의 단말일 수 있고, 이에 대한 응답을 의사 결정 서비스 제공 서버(300) 또는 의사 결정 서비스 제공 서버(300)와 연동된 페이지, 프로그램 또는 애플리케이션으로부터 수신하고 이를 출력하는 단말일 수 있다. 이때, 적어도 하나의 사용자 단말(100)의 컴퓨팅 자원 및 네트워킹 자원이 의사 결정 서비스를 자체적으로 구동할 만큼 보유하고 있다면 의사 결정 서비스 제공 서버(300)를 통하지 않고 상술한 구성을 구동하는 것이 가능할 수 있다. 다만, 의사 결정 서비스 제공 서버(300)와 연동하여 구동하는 것을 배제하는 것은 아니다.

여기서, 적어도 하나의 사용자 단말(100)은, 네트워크를 통하여 원격지의 서버나 단말에 접속할 수 있는 컴퓨터로 구현될 수 있다. 여기서, 컴퓨터는 예를 들어, 네비게이션, 웹 브라우저(WEB Browser)가 탑재된 노트북, 데스크톱(Desktop), 랩톱(Laptop) 등을 포함할 수 있다. 이때, 적어도 하나의 사용자 단말(100)은, 네트워크를 통해 원격지의 서버나 단말에 접속할 수 있는 단말로 구현될 수 있다. 적어도 하나의 사용자 단말(100)은, 예를 들어, 휴대성과 이동성이 보장되는 무선 통신 장치로서, 네비게이션, PCS(Personal Communication System), GSM(Global System for Mobile communications), PDC(Personal Digital Cellular), PHS(Personal Handyphone System), PDA(Personal Digital Assistant), IMT(International Mobile Telecommunication)-2000, CDMA(Code Division Multiple Access)-2000, W-CDMA(W-Code Division Multiple Access), Wibro(Wireless Broadband Internet) 단말, 스마트폰(smartphone), 스마트 패드(smartpad), 타블렛 PC(Tablet PC) 등과 같은 모든 종류의 핸드헬드(Handheld) 기반의 무선 통신 장치를 포함할 수 있다.

의사 결정 서비스 제공 서버(300)는, 자율 인지 신경망 기반 연관 모델 학습을 이용한 의사 결정 서비스 웹 페이지, 앱 페이지, 프로그램 또는 애플리케이션을 제공하는 서버일 수 있다. 그리고, 의사 결정 서비스 제공 서버(300)는, 사용자 단말(100)로부터 수신된 입력문장을 의도 결정 서비스를 통하여 분석하고, 분석된 분석문장 및 맥락(Context)에 따른 답변문장이 존재하는지를 확인하며, 기 저장된 답변문장이 존재하는 경우 해당 답변을 의도 결정 서비스를 통하여 제공하도록 하고, 그렇지 않은 경우에는 사용자 단말(100)로 답변을 질의하여 수집된 신규 답변정보와 기 저장된 답변정보 간의 유사도 구간에 따라 분석문장, 신규 답변정보, 기 저장된 답변정보를 매핑하여 저장하는 서버일 수 있다. 이때, 의사 결정 서비스 제공 서버(300)는 유사도가 역치값을 넘는 경우에는 분석문장-기 저장된 답변정보를 연결하여 저장하고, 유사도가 역치값 이상이나, 신규 답변정보에 포함된 단어 중 일부 단어만의 유사도가 역치값 이상인 경우, 분석문장-기 저장된 답변정보, 분석문장-신규 답변정보를 연결하여 저장하며, 유사도가 역치값 미만인 경우 분석문장-신규 답변정보를 연결하여 저장할 수 있다. 이때, 맥락정보를 함께 이용함으로써 동일한 질문이라도 다른 답변이 출력될 수 있고, 그 역도 가능하다. 또한, 의도 분석 서비스를 이용함으로써 사용자가 자주 사용하는 말투나 단어가 고려된 답변이 제공될 수 있다.

여기서, 의사 결정 서비스 제공 서버(300)는, 네트워크를 통하여 원격지의 서버나 단말에 접속할 수 있는 컴퓨터로 구현될 수 있다. 여기서, 컴퓨터는 예를 들어, 네비게이션, 웹 브라우저(WEB Browser)가 탑재된 노트북, 데스크톱(Desktop), 랩톱(Laptop) 등을 포함할 수 있다.

도 2는 도 1의 시스템에 포함된 의사 결정 서비스 제공 서버를 설명하기 위한 블록 구성도이고, 도 3은 본 발명의 일 실시예에 따른 자율 인지 신경망 기반 연관 모델 학습을 이용한 의사 결정 서비스가 구현된 일 실시예를 설명하기 위한 도면이고, 도 4 내지 도 9는 본 발명의 일 실시예에 따른 케이스별 상황이 구현된 일 실시예를 설명하기 위한 도면이다.

도 2를 참조하면, 의사 결정 서비스 제공 서버(300)는, 입력부(310), 확인부(320), 수집부(330), 학습부(340)를 포함할 수 있다. 이때, 도 2의 구성은 도 3과 함께 참조하며 설명하기로 한다.

본 발명의 일 실시예에 따른 의사 결정 서비스 제공 서버(300)나 연동되어 동작하는 다른 서버(미도시)가 적어도 하나의 사용자 단말(100)로 자율 인지 신경망 기반 연관 모델 학습을 이용한 의사 결정 서비스 애플리케이션, 프로그램, 앱 페이지, 웹 페이지 등을 전송하는 경우, 적어도 하나의 사용자 단말(100)은, 자율 인지 신경망 기반 연관 모델 학습을 이용한 의사 결정 서비스 애플리케이션, 프로그램, 앱 페이지, 웹 페이지 등을 설치하거나 열 수 있다. 또한, 웹 브라우저에서 실행되는 스크립트를 이용하여 서비스 프로그램이 적어도 하나의 사용자 단말(100)에서 구동될 수도 있다. 여기서, 웹 브라우저는 웹(WWW: world wide web) 서비스를 이용할 수 있게 하는 프로그램으로 HTML(hyper text mark-up language)로 서술된 하이퍼 텍스트를 받아서 보여주는 프로그램을 의미하며, 예를 들어 넷스케이프(Netscape), 익스플로러(Explorer), 크롬(chrome) 등을 포함한다. 또한, 애플리케이션은 단말 상의 응용 프로그램(application)을 의미하며, 예를 들어, 모바일 단말(스마트폰)에서 실행되는 앱(app)을 포함한다.

도 2를 참조하면, 입력부(310)는, 사용자 단말(100)로부터 음성 또는 텍스트로 입력문장을 입력받을 수 있다. 이때, 입력부(310)는, 음성이나 텍스트 이외에도 사용자 단말(100)로부터 시각정보를 포함하는 콘텐츠를 입력받을 수 있다. 이때, 음성이나 텍스트 또는 이미지와 같은 콘텐츠도 모두 포함하며, 수화와 같은 모션 동작도 포함할 수 있다. 음성은 음성인식기술로, 수화는 모션인식기술 등으로 인식가능하고 공지기술이므로 상세한 설명은 생략하기로 한다.

입력부(310)는, 시각정보 인식을 통하여 콘텐츠 내의 피사체를 식별하고, 식별된 피사체의 적어도 하나의 시각정보를 추출할 수 있다. 예를 들어, 사용자가 "뭐 먹지"라고 말할 때 사용자 단말(100)의 카메라 등을 통하여 뒷 배경에 짬뽕가게가 촬영되고, 입력부(310)에서 "뭐 먹지"라는 텍스트와 촬영영상 내 짬뽕가게로부터 "짬뽕집"이라는 텍스트, 짬뽕에 대한 이미지, 빨간색이라는 컬러가 추출된 경우, "뭐 먹지"라는 답변에 이러한 상황 등을 고려하기 위하여 입력부(310)에서는 해당 상황들을 추출하도록 입력받을 수 있다.

확인부(320)는, 입력문장이 의도 분석 서비스로부터 분석되어 분석문장으로 출력된 경우, 분석문장에 대응하는 기 저장된 답변정보가 존재하는지의 여부를 확인할 수 있다. 이때, 의도 분석 서비스는, 입력문장을 공백이 없는 상태로 재정렬하고, 맥락정보 및 기 학습된 단어모델에 기반하여 입력문장의 중심단어를 기준으로 배치될 확률이 높은 적어도 하나의 앞 연관어 및 뒤 연관어를 추출하고, 추출된 적어도 하나의 앞 연관어 및 뒤 연관어를, 기 학습된 단어모델에 의해 학습된 횟수 및 학습 여부에 기초하여 산출된 점수로 정렬하고, 가장 높은 점수를 가진 앞 연관어 및 뒤 연관어로 중심단어와 연결하여 분석문장을 완성하는 서비스이다. 즉, 문맥상황과 사용자의 의도를 파악하여 사용자가 입력한 문장을 다시 생성하는 것이다.

이때, 여기서, 맥락(Context) 정보의 분석은 대화 시스템에서 중요한 언어 이해의 한 분야로 사용자의 발화에서 의미를 나타내는 개념정보들을 인식하는 것이다. 예를 들어 입력발화 “How much is this?”에서 의문을 나타내는“Question”과 수량을 나타내는 “Quantity”등 정보를 추출하는 것 등일 수 있다. 이때, 맥락정보를 분석하기 위하여 합성곱 신경망(Convolutional Neural Network)과 순환 신경망(Recurrent Neural Network)을 이용한 많은 딥러닝 기법이 사용될 수 있고, 단어 임베딩 기법을 이용한 합성곱 신경망으로 현재 발화의 화행을 분석하는 모델이 이용될 수도 있다. 이때, 문서분류나 감정분석과 같이 문서사이의 독립적인 관계와 다르게 대화는 특정 대화의 여러 발화들 사이에 일정한 연관성이 존재한다. 따라서 이러한 연관성을 단서로 사용하면 현재 발화의 화행을 보다 정확하게 분석할 수 있다. 이를 이용하여, 이전 발화들을 누적하여 합성곱 신경망으로 표현한 후 순환 신경망의 입력으로 사용하여 부분 대화의 토픽을 추출하는 방법 등을 이용할 수 있으나, 상술한 방법에 한정되지 않고 문맥이나 맥락정보를 파악하는 방법이면 그 어느 것이든 이용가능하다.

특히, 본 발명의 일 실시예에서는, 맥락정보를 추적하기 위하여, 순환신경망의 한 종류인 장·단기 기억망(LSTM: Long Short-Term Memory)을 이용할 수 있다. LSTM은 입력, 망각 및 출력 으로 이루어진 세 개 게이트를 사용하며 기본적인 RNN보다 입력된 정보를 오래 동안 유지할 수 있다. 추적하고자 하는 이전 발화의 개수를 파라미터로 정하고 추적 대상 발화의 모든 단어들의 임베딩 벡터를 순차적으로 LSTM에 입력으로 사용하고 최종 출력을 이전 대화의 문맥 정보로 사용할 수 있다.

덧붙여서, 본 발명의 일 실시예는 단순히 현재 입력에 대한 출력을 내주는 모델이 아니라, 대화 속의 문맥을 이해하고 이에 따라 적절한 출력 문장을 내어 줄 수 있도록, 이전 대화 내용을 저장할 수 있는 외부 저장장치를 가지는 DNC를 이용할 수도 있고, DNC 출력 단에 상술한 장단기 기억망(LSTM) 디코더를 달아 문장을 출력할 수 있도록 하고, 해당 모델을 연속적으로 연결하여 여러 층을 가지는 구조를 포함할 수 있다. 각 층의 저장장치에는 그 전까지의 대화 문맥 정보가 저장되기 때문에, 현재 입력 문장이 같더라도 그 전까지의 문맥 정보에 따라 다양하고 적절한 문장을 생성해 낼 수 있다. 물론, 상술한 방법만이 이용될 수 있는 것은 아니고 다양한 방법이 이용될 수 있음은 상술한 바와 같다.

확인부(320)에서 입력문장이 의도 분석 서비스로부터 분석되어 분석문장으로 출력된 경우, 분석문장에 대응하는 기 저장된 답변정보가 존재하는지의 여부를 확인할 때, 분석문장에 대응하는 기 저장된 답변정보가 존재하는지의 여부를 확인할 때, 분석문장 및 대화의 문맥(Context)을 고려하여 기 저장된 답변정보가 존재하는지를 확인할 수 있다. 분석문장 및 대화의 문맥에 따라 동일한 질의에 대한 기 저장된 답변정보는 서로 다르고, 서로 다른 질의에 대한 기 저장된 답변정보가 동일할 수 있다. 예를 들어, 같은 문장으로 들어온 질문(분석문장)에 대하여 맥락을 고려하여 모델에서 예측하므로 동일한 문장의 질문이라도 다른 답변이 출력될 수도 있다. 전자의 경우, 사용자가 "미쳐"라고 말했을 때, 이전 문맥을 고려하여 "미쳐"가 나올만한 상황이 아닌 경우에는 왜 그래? 라고 대답할 수도 있고, "미쳐"라고 말했을 때, 해당 단어가 도출될 만한 상황인 경우에는 "나도 그래"라고 말할 수도 있다. 후자의 경우, 사용자가 "배고파", "밥 주세요". "밥 주셈" 등 다양한 문장을 말했을지라도 같은 답변으로 학습된 경우, 예를 들어, "밥 먹어"로 학습된 경우에는, 세 개의 다른 문장이 입력되더라도 "밥 먹어"인 동일한 답변을 할 수 잇다.

수집부(330)는, 기 저장된 답변정보가 존재하지 않는 경우, 분석문장의 신규 답변정보를 사용자 단말(100)로 질의하여 수집할 수 있다. 예를 들어, "뭐 먹지"라는 질의에 대한 답변이 기 저장된 답변정보에 없는 경우, 사용자에게 다시 해당 질문에 대한 답변을 물을 수 있다. 이에 대한 답변정보, 즉 신규 답변정보가 수집되는 경우, 이를 다음 단계의 학습 모델로 전송함으로써 새로운 답변에 대한 학습을 실시할 수 있도록 한다. 반대로, 수집부(330)는 기 저장된 답변정보가 존재하는 경우에는, 질의에 대해서 기 저장된 답변정보를 제공할 수 있는데, 이때에도 의도 분석 서비스를 통하여 답변을 전달함으로써 문맥과 상황, 및 사용자의 의도에 맞게 변형시킬 수 있으므로 사용자가 자주 쓰는 말투나 상황 등에 맞는 대답을 제공할 수 있으므로 천편일률적인 답변이 나오지 않고, 직접 사람과 대화하는 것과 같은 느낌을 줄 수 있다.

학습부(340)는, 신규 답변정보가 의도 분석 서비스를 통하여 분석된 경우, 신규 답변정보와 기 저장된 답변정보의 유사도 구간에 따라 분석문장 및 신규 답변정보를 연결하여 학습하거나, 분석문장 및 기 저장된 답변정보를 연결하여 학습할 수 있다.

이때, 학습부(340)는, 신규 답변정보와 기 저장된 답변정보에 각각 포함된 모든 단어의 유사도가 기 설정된 역치값 이상인 경우에는, 신규 답변정보와 분석문장을 연결하여 학습할 수 있다. 또한, 학습부(340)는, 신규 답변정보와 기 저장된 답변정에 각각 포함된 일부 단어의 유사도가 기 설정된 역치값 이상인 경우에는, 신규 답변정보와 분석문장을 연결하고, 기 저장된 답변정보와 분석문장을 연결하여 학습할 수 있고, 신규 답변정보와 기 저장된 답변정에 각각 포함된 모든 단어의 유사도가 기 설정된 역치값 미만인 경우에는, 신규 답변정보와 분석문장을 연결하여 학습할 수 있으며, 이를 정리하면 표 1과 같다.

신규 답변정보-기 저장된 답변정보의 유사도	학습모델
모든 단어 역치값 이상	분석문장-기 저장된 답변정보 연결 학습
일부 단어 역치값 이상	분석문장-기 저장된 답변정보 연결 학습
	분석문장-신규 답변정보 연결 학습
모든 단어 역치값 미만	분석문장-신규 답변정보 연결 학습

이때, 분석문장, 기 저장된 답변정보 및 신규 답변정보는 자율 인지 신경망에 의해 학습되어 저장될 수 있다.

이하, 상술한 도 2 및 도 3의 의사 결정 서비스 제공 서버의 구성에 따른 동작 과정을 도 4 내지 도 9를 예로 들어 상세히 설명하기로 한다. 다만, 실시예는 본 발명의 다양한 실시예 중 어느 하나일 뿐, 이에 한정되지 않음은 자명하다 할 것이다.

도 4는 도 3의 의사 결정 서비스 중 아는 질문에 대한 답변을 제시하는 일 실시예를 설명하기 위한 도면이다. 도 4를 참조하면, "배 고파"에 대한 의도 분석을 실시하여 분석되어 가장 점수가 높은 문장인 분석문장이 의사 결정 서비스를 위한 의사 결정 엔진으로 입력된다. 이때, 배 고파에는 밥 먹어라는 문장이 이미 존재하므로, 이를 제공할 수 있다. 이때, 밥 먹어라는 문장도 의도분석을 이용하여 맥락 및 상황에 맞게 변형된 문장으로 제공될 수도 있다.

도 5는 도 3의 의사 결정 서비스 중 유사한 질문에 대한 답변을 제시하는 일 실시예를 설명하기 위한 도면이다. 도 5를 참조하면, 이전 대화가 "배고파", "밥 먹어"였고, 사용자가 "밥 주셈요"라고 말을 했다. 이때, 맥락에 있는 내용만 예측에 고려하여 의도를 분석하고, 밥을 달라는 의미를 파악하며 "밥 주세요"라는 문장을 의사 결정 엔진으로 입력시키고, "밥 주셈요"라는 문장은 의도 분석 서비스에서 단어모델에 추가하여 학습을 진행시킨다. 이때, "밥 주세요"라는 문장에는 "밥 먹어"라는 답변이 저장되어 있으므로 이를 답변으로 사용자에게 제공하되, "밥 주셈요"라는 문장도 "밥 주세요 = 밥 먹어"의 연결의 질문 파트(밥 주세요)에 추가하여 학습시킴으로써 의사 결정 엔진에서 더 많은 문장을 이해할 수 있도록 한다.

도 6은 도 3의 의사 결정 서비스 중 새로운 질문에 대하여 아는 답변을 제시하는 일 실시예를 설명하기 위한 도면이다. 도 6을 참조하면, 현재까지 대화가, "배고파", "밥 먹어", "밥 주세요", "밥 먹어"였고, 사용자가 다시 "나 죽겠어"라는 말을 했다고 가정한다. 이때, 문맥을 고려한 의도를 분석했을 때 "나 죽겠어"라는 의도를 파악하지 못했고(신규 정보, 신규 질문), 이에 따라 사용자에게 어떠한 답변을 해야하는지, 어떠한 의미인지를 묻고, 이에 따라 사용자가 답변을 하는 경우, 이를 의도 분석 서비스를 통하여 의도를 분석하고, 의사 결정 엔진에 새로운 문장을 추가하여 학습을 실시하도록 한다. 이때, 나 죽겠어에 대한 응답으로 해본 소리야가 연결되어 학습될 수 있다.

도 7은 도 3의 의사 결정 서비스 중 새로운 질문에 대한 유사한 답변을 제시하는 일 실시예를 설명하기 위한 도면이다. 도 7을 참조하면, 도 6까지의 대화가 대화 맥락이었고, 이때 사용자가 "미쳐"라고 대답했다. 이때, "미쳐"라는 질의도 이에 대한 답변도 존재하지 않으므로, 다시 사용자에게 질의를 하고, 사용자가 답변을 하면, 새로운 질문인 "미쳐"에 대하여 "해본 소리야"와 유사한 답변 "허튼 소리야"를 추가하여 분석하게 된다. 의도 분석 서비스에서도 새로운 단어와 연관 정보가 학습될 수 있는데, 이는 본 출원인의 다른 출원에 기재되어 있으므로 상세한 설명은 생략하기로 한다.

도 8은 도 3의 의사 결정 서비스 중 새로운 질문에 대한 새로운 답변을 제시하는 일 실시예를 설명하기 위한 도면이다. 도 8을 참조하면, 도 7까지의 대화가 대화 맥락이었고, "답답해"라고 사용자가 말한 경우이다. 이때, 새로운 질문에 대한 새로운 답변이 추가되는 것은, 도 7의 과정과 동일하고 그 대상만 다르므로 상세한 설명은 생략하기로 한다.

도 9는 도 3의 의사 결정 서비스 중 자율 인지 신경망에서 생성된 데이터의 일 실시예를 설명하기 위한 도면이다. 도 9를 참조하면, 도 4 내지 도 8의 과정을 거치면서 이전에는 의도 분석 서비스와 의사 결정 엔진의 단어와 문장 연결이 왼쪽에서 오른쪽과 같이 늘어난 것을 알 수 있다.

이와 같은 도 2 내지 도 9의 자율 인지 신경망 기반 연관 모델 학습을 이용한 의사 결정 서비스 제공 방법에 대해서 설명되지 아니한 사항은 앞서 도 1을 통해 자율 인지 신경망 기반 연관 모델 학습을 이용한 의사 결정 서비스 제공 방법에 대하여 설명된 내용과 동일하거나 설명된 내용으로부터 용이하게 유추 가능하므로 이하 설명을 생략하도록 한다.

도 10은 본 발명의 일 실시예에 따른 자율 인지 신경망 기반 연관 모델 학습을 이용한 의사 결정 서비스 제공 방법을 설명하기 위한 동작 흐름도이다. 도 10을 참조하면, 의사 결정 서비스 제공 서버는, 사용자 단말로부터 음성 또는 텍스트로 입력문장을 입력받고(S1100), 입력문장이 의도 분석 서비스로부터 분석되어 분석문장으로 출력된 경우, 분석문장에 대응하는 기 저장된 답변정보가 존재하는지의 여부를 확인한다(S1200).

그리고, 의사 결정 서비스 제공 서버는 기 저장된 답변정보가 존재하지 않는 경우, 분석문장의 신규 답변정보를 사용자 단말로 질의하여 수집하고(S1300), 및 신규 답변정보가 의도 분석 서비스를 통하여 분석된 경우, 신규 답변정보와 기 저장된 답변정보의 유사도 구간에 따라 분석문장 및 신규 답변정보를 연결하여 학습하거나, 분석문장 및 기 저장된 답변정보를 연결하여 학습한다(S1400).

상술한 단계들(S1100~S1400)간의 순서는 예시일 뿐, 이에 한정되지 않는다. 즉, 상술한 단계들(S1100~S1400)간의 순서는 상호 변동될 수 있으며, 이중 일부 단계들은 동시에 실행되거나 삭제될 수도 있다.

이와 같은 도 10의 자율 인지 신경망 기반 연관 모델 학습을 이용한 의사 결정 서비스 제공 방법에 대해서 설명되지 아니한 사항은 앞서 도 1 내지 도 9를 통해 자율 인지 신경망 기반 연관 모델 학습을 이용한 의사 결정 서비스 제공 방법에 대하여 설명된 내용과 동일하거나 설명된 내용으로부터 용이하게 유추 가능하므로 이하 설명을 생략하도록 한다.

도 10을 통해 설명된 일 실시예에 따른 자율 인지 신경망 기반 연관 모델 학습을 이용한 의사 결정 서비스 제공 방법은, 컴퓨터에 의해 실행되는 애플리케이션이나 프로그램 모듈과 같은 컴퓨터에 의해 실행가능한 명령어를 포함하는 기록 매체의 형태로도 구현될 수 있다. 컴퓨터 판독 가능 매체는 컴퓨터에 의해 액세스될 수 있는 임의의 가용 매체일 수 있고, 휘발성 및 비휘발성 매체, 분리형 및 비분리형 매체를 모두 포함한다. 또한, 컴퓨터 판독가능 매체는 컴퓨터 저장 매체를 모두 포함할 수 있다. 컴퓨터 저장 매체는 컴퓨터 판독가능 명령어, 데이터 구조, 프로그램 모듈 또는 기타 데이터와 같은 정보의 저장을 위한 임의의 방법 또는 기술로 구현된 휘발성 및 비휘발성, 분리형 및 비분리형 매체를 모두 포함한다.

전술한 본 발명의 일 실시예에 따른 자율 인지 신경망 기반 연관 모델 학습을 이용한 의사 결정 서비스 제공 방법은, 단말기에 기본적으로 설치된 애플리케이션(이는 단말기에 기본적으로 탑재된 플랫폼이나 운영체제 등에 포함된 프로그램을 포함할 수 있음)에 의해 실행될 수 있고, 사용자가 애플리케이션 스토어 서버, 애플리케이션 또는 해당 서비스와 관련된 웹 서버 등의 애플리케이션 제공 서버를 통해 마스터 단말기에 직접 설치한 애플리케이션(즉, 프로그램)에 의해 실행될 수도 있다. 이러한 의미에서, 전술한 본 발명의 일 실시예에 따른 자율 인지 신경망 기반 연관 모델 학습을 이용한 의사 결정 서비스 제공 방법은 단말기에 기본적으로 설치되거나 사용자에 의해 직접 설치된 애플리케이션(즉, 프로그램)으로 구현되고 단말기에 등의 컴퓨터로 읽을 수 있는 기록매체에 기록될 수 있다.

전술한 본 발명의 설명은 예시를 위한 것이며, 본 발명이 속하는 기술분야의 통상의 지식을 가진 자는 본 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 쉽게 변형이 가능하다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다. 예를 들어, 단일형으로 설명되어 있는 각 구성 요소는 분산되어 실시될 수도 있으며, 마찬가지로 분산된 것으로 설명되어 있는 구성 요소들도 결합된 형태로 실시될 수 있다.

본 발명의 범위는 상기 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 균등 개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.

Claims (7)

1. 의사 결정 서비스 제공 서버에서 실행되는 의사 결정 서비스 제공 방법에 있어서,
   사용자 단말로부터 음성 또는 텍스트로 입력문장을 입력받는 단계;
   상기 입력문장이 의도 분석 서비스로부터 분석되어 분석문장으로 출력된 경우, 분석문장에 대응하는 기 저장된 답변정보가 존재하는지의 여부를 확인하는 단계;
   상기 기 저장된 답변정보가 존재하지 않는 경우, 상기 분석문장의 신규 답변정보를 상기 사용자 단말로 질의하여 수집하는 단계;
   상기 신규 답변정보가 상기 의도 분석 서비스를 통하여 분석된 경우, 상기 신규 답변정보와 기 저장된 답변정보의 유사도 구간에 따라 상기 분석문장 및 상기 신규 답변정보를 연결하여 학습하거나, 상기 분석문장 및 상기 기 저장된 답변정보를 연결하여 학습하는 단계;
   상기 신규 답변정보와 기 저장된 답변정보에 각각 포함된 모든 단어의 유사도가 기 설정된 역치값 이상인 경우에는, 상기 신규 답변정보와 상기 분석문장을 연결하여 학습하는 단계;
   상기 신규 답변정보와 기 저장된 답변정에 각각 포함된 일부 단어의 유사도가 기 설정된 역치값 이상인 경우에는, 상기 신규 답변정보와 상기 분석문장을 연결하고, 상기 기 저장된 답변정보와 상기 분석문장을 연결하여 학습하는 단계;
   상기 신규 답변정보와 기 저장된 답변정에 각각 포함된 모든 단어의 유사도가 기 설정된 역치값 미만인 경우에는, 상기 신규 답변정보와 상기 분석문장을 연결하여 학습하는 단계;
   를 포함하는 자율 인지 신경망 기반 연관 모델 학습을 이용한 의사 결정 서비스 제공 방법.
   
2. 삭제
3. 제 1 항에 있어서,
   상기 사용자 단말로부터 음성 또는 텍스트로 입력문장을 입력받는 단계는,
   상기 사용자 단말로부터 시각정보를 포함하는 콘텐츠를 입력받는 단계;
   를 포함하고,
   상기 의사 결정 서비스 제공 서버는, 시각정보 인식을 통하여 콘텐츠 내의 피사체를 식별하고, 상기 식별된 피사체의 적어도 하나의 시각정보를 추출하는 것인, 자율 인지 신경망 기반 연관 모델 학습을 이용한 의사 결정 서비스 제공 방법.
   
4. 제 1 항에 있어서,
   상기 입력문장이 의도 분석 서비스로부터 분석되어 분석문장으로 출력된 경우, 분석문장에 대응하는 기 저장된 답변정보가 존재하는지의 여부를 확인하는 단계에서,
   상기 분석문장에 대응하는 기 저장된 답변정보가 존재하는지의 여부를 확인할 때, 상기 분석문장 및 대화의 문맥(Context)을 고려하여 상기 기 저장된 답변정보가 존재하는지를 확인하는 단계;
   를 포함하는 것인, 자율 인지 신경망 기반 연관 모델 학습을 이용한 의사 결정 서비스 제공 방법.
   
5. 제 4 항에 있어서,
   상기 분석문장 및 대화의 문맥에 따라 동일한 질의에 대한 기 저장된 답변정보는 서로 다르고, 서로 다른 질의에 대한 기 저장된 답변정보가 동일한 것인, 자율 인지 신경망 기반 연관 모델 학습을 이용한 의사 결정 서비스 제공 방법.
   
6. 제 1 항에 있어서,
   상기 분석문장, 기 저장된 답변정보 및 신규 답변정보는 자율 인지 신경망에 의해 학습되어 저장되는 것인, 자율 인지 신경망 기반 연관 모델 학습을 이용한 의사 결정 서비스 제공 방법.
   
7. 제 1 항에 있어서,
   상기 의도 분석 서비스는,
   상기 입력문장을 공백이 없는 상태로 재정렬하고, 맥락정보 및 기 학습된 단어모델에 기반하여 상기 입력문장의 중심단어를 기준으로 배치될 확률이 높은 적어도 하나의 앞 연관어 및 뒤 연관어를 추출하고,
   상기 추출된 적어도 하나의 앞 연관어 및 뒤 연관어를, 상기 기 학습된 단어모델에 의해 학습된 횟수 및 학습 여부에 기초하여 산출된 점수로 정렬하고, 가장 높은 점수를 가진 앞 연관어 및 뒤 연관어로 상기 중심단어와 연결하여 분석문장을 완성하는 서비스인 것인, 자율 인지 신경망 기반 연관 모델 학습을 이용한 의사 결정 서비스 제공 방법.

Images