KR102215286B1 - 문서 이해에 기반한 문장 생성 챗봇 서비스 제공 방법 및 장치 - Google Patents

문서 이해에 기반한 문장 생성 챗봇 서비스 제공 방법 및 장치 Download PDF

Info

Publication number
KR102215286B1
KR102215286B1 KR1020200107270A KR20200107270A KR102215286B1 KR 102215286 B1 KR102215286 B1 KR 102215286B1 KR 1020200107270 A KR1020200107270 A KR 1020200107270A KR 20200107270 A KR20200107270 A KR 20200107270A KR 102215286 B1 KR102215286 B1 KR 102215286B1
Authority
KR
South Korea
Prior art keywords
encoded
association
chatbot
degree
utterance
Prior art date
Application number
KR1020200107270A
Other languages
English (en)
Inventor
김학수
Original Assignee
건국대학교 산학협력단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 건국대학교 산학협력단 filed Critical 건국대학교 산학협력단
Priority to KR1020200107270A priority Critical patent/KR102215286B1/ko
Application granted granted Critical
Publication of KR102215286B1 publication Critical patent/KR102215286B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33—Querying
    • G06F16/332—Query formulation
    • G06F16/3329—Natural language query formulation or dialogue systems
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33—Querying
    • G06F16/332—Query formulation
    • G06F16/3325—Reformulation based on results of preceding query
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33—Querying
    • G06F16/3331—Query processing
    • G06F16/334—Query execution
    • G06F16/3347—Query execution using vector based model
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33—Querying
    • G06F16/338—Presentation of query results
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L51/00—User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail
    • H04L51/02—User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail using automatic reactions or user delegation, e.g. automatic replies or chatbot-generated messages

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Databases & Information Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Computational Linguistics (AREA)
  • Mathematical Physics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Artificial Intelligence (AREA)
  • Human Computer Interaction (AREA)
  • Machine Translation (AREA)

Abstract

문서 이해에 기반한 문장 생성 챗봇 서비스 제공 방법 및 장치가개시된다. 일 실시예에 따른 챗봇 서비스 제공 방법은, 사용자의 발언(utterance)에 따라 응답하는 챗봇의 서비스 제공 방법에 있어서, 상기 사용자 및 상기 챗봇의 이전 발언들, 상기 사용자의 현재 발언 및 새로운 지식 데이터를 수신하는 단계와, 상기 이전 발언들 및 상기 현재 발언을 이용하여 제1 연관도를 계산하는 단계와, 상기 제1 연관도, 상기 현재 발언 및 상기 새로운 지식 데이터에 기초하여 제2 연관도를 계산하는 단계와, 상기 제1 연관도, 상기 현재 발언에 기초하여 잠재 변수를 생성하는 단계와, 상기 현재 발언, 상기 제1 연관도, 상기 제2 연관도 및 상기 잠재 변수를 이용하여 상기 사용자의 현재 발언에 대한 상기 챗봇의 응답을 생성하는 단계를 포함한다.

Description

문서 이해에 기반한 문장 생성 챗봇 서비스 제공 방법 및 장치{METHOD AND APPARATUS FOR PROVIDING SENTENCE GENERATION CHATBOT SERVICE BASED ON DOCUMENT UNDERSTANDING}
본 개시는 문서 이해에 기반한 문장 생성 챗봇 서비스 제공 방법 및 장치에 관한 것이다.
챗봇(chatbot)은 입력창에 사용자가 채팅하듯 자연어로 질문을 입력하면, 질문에 알맞은 답이나 각종 연관 정보를 제공하는 인공지능 기반의 커뮤니케이션 소프트웨어를 의미한다. 챗봇은 미리 입력된 알고리즘에 따라 정해진 답변을 제공하는 수준에서 서비스가 되었으나, 빅데이터 처리 기술과 함께 자연어 분석 및 처리 기술이 발전함에 따라 다양한 변수를 고려한 최적의 답변을 제공할 수 있다.
즉, 인공지능 분야는 최근 기계 학습, 강화 학습, 딥 러닝에서 종래의 오버피팅(Overfitting)등의 문제가 해결되어 획기적인 발전을 이루고 있다. 이와 더불어 대화형 인터페이스 기술 역시 주목되어 자연어 처리, 대화 관리 방식 및 관련 기술들이 크게 발전하고 있다.
챗봇 기술들 중에서, 검색 기반 챗봇 기술은 사용자의 질의(Query)를 미리 준비해둔 질문-응답 셋(Question-Response Set)의 질문과 매칭 또는 검색 후, 높은 유사도를 가지는 질문을 선택하고 그것의 응답을 제시해주는 방법이다. 검색 기반 챗봇 기술은 Q-Q(Query-Question) 매칭 또는 Q-Q 검색 기술로도 명명된다. 검색 기반 챗봇 기술은 매칭이 잘 되었을 경우에 문법적 의미적 오류가 포함되지 않은 잘 만들어진 문장을 응답할 수 있다. 하지만, 검색 기반 챗봇 기술은 미리 준비한 질문-응답 셋이 없으면 사용자 질의에 응답을 할 수 없다. 또한, 검색 기반 챗봇 기술은 질의와 매칭된 미리 준비된 응답만을 출력한다.
이에 더하여, 생성 기반 챗봇 기술은 대용량의 질문-응답 쌍을 바탕으로 기계 학습(주로 딥 뉴럴 네트워크)을 수행하여 모델을 만든다. 생성 기반 챗봇 기술은 사용자 질의를 모델에 입력하면 학습된 내용을 바탕으로 문장을 생성해주는 방법이다. 생성 기반 챗봇 기술은 학습하지 않은 질문에 대해서도 자연스러운 응답을 생성할 수 있다. 그러나, 생성 기반 챗봇 기술은 응답 생성 과정에서 문법적 의미적 오류가 포함될 수 있다. 또한, 생성 기반 챗봇 기술은 새로운 주제나 지식에 관한 질의를 했을 때, 새로운 주제나 지식을 아직 학습하지 않았기 때문에 "잘 모르겠다", "나도 그렇게 생각한다" 등 매우 일반적인 응답을 생성하게 된다. 즉, 생성 기반 챗봇 기술은 새로운 주제나 지식을 반영하기 위해 해당 내용과 관련된 질문-응답 셋을 준비하고 다시 학습을 해야 한다.
실시예들은 챗봇 및 사용자의 이전 발언들, 사용자의 현재 발언 및 새로운 지식 데이터에 관한 연관도에 기초하여 챗봇의 응답을 생성함으로써, 챗봇이 새로운 지식이 반영된 적절한 응답을 사용자에게 제공할 수 있다.
다만, 기술적 과제는 상술한 기술적 과제들로 한정되는 것은 아니며, 또 다른 기술적 과제들이 존재할 수 있다.
일 실시예에 따른 챗봇 서비스 제공 방법은, 사용자의 발언(utterance)에 따라 응답하는 챗봇의 서비스 제공 방법에 있어서, 상기 사용자 및 상기 챗봇의 이전 발언들, 상기 사용자의 현재 발언 및 새로운 지식 데이터를 수신하는 단계와, 상기 이전 발언들 및 상기 현재 발언을 이용하여 제1 연관도를 계산하는 단계와, 상기 제1 연관도, 상기 현재 발언 및 상기 새로운 지식 데이터에 기초하여 제2 연관도를 계산하는 단계와, 상기 제1 연관도, 상기 현재 발언에 기초하여 잠재 변수를 생성하는 단계와, 상기 현재 발언, 상기 제1 연관도, 상기 제2 연관도 및 상기 잠재 변수를 이용하여 상기 사용자의 현재 발언에 대한 상기 챗봇의 응답을 생성하는 단계를 포함한다.
상기 제1 연관도를 계산하는 단계는, 상기 이전 발언들 및 상기 현재 발언을 양방향 게이트 반복 단위로 개별적으로 인코딩하여, 인코딩된 이전 발언들 및 인코딩된 현재 발언을 생성하는 단계와, 상기 인코딩된 이전 발언들 중에서 각 발언을 단방향 게이트 반복 단위로 인코딩하여 컨텍스트 벡터를 생성하는 단계와, 상기 컨텍스트 벡터, 상기 인코딩된 현재 발언을 이용하여 제1 어텐션 스코어(attention score)를 계산하는 단계와, 상기 제1 어텐션 스코어 및 상기 인코딩된 현재 발언을 이용하여 상기 제1 연관도를 계산하는 단계를 포함할 수 있다.
상기 제2 연관도를 계산하는 단계는, 상기 새로운 지식 데이터를 양방향 게이트 반복 단위로 인코딩하여, 인코딩된 지식 데이터를 생성하는 단계와, 상기 인코딩된 지식 데이터 및 상기 인코딩된 현재 발언을 이용하여 제2 어텐션 스코어를 계산하는 단계와, 상기 제2 어텐션 스코어 및 상기 인코딩된 현재 발언을 이용하여 제3 연관도를 계산하는 단계와, 상기 제1 어텐션 스코어 및 상기 제2 어텐션 스코어를 이용하여 상기 제2 연관도를 계산하는 단계를 포함할 수 있다.
상기 잠재 변수를 생성하는 단계는, 상기 인코딩된 현재 발언의 첫번째 단어 벡터와 마지막 단어 벡터를 연결하여 챗봇의 다음 발언을 생성하는 단계와, 상기 제1 연관도, 상기 인코딩된 현재 발언 및 상기 다음 발언을 이용하여 상기 잠재 변수를 생성하는 단계를 포함할 수 있다.
상기 챗봇의 응답을 생성하는 단계는, 상기 현재 발언, 상기 제1 연관도, 상기 제2 연관도 및 상기 잠재 변수를 이용하여 WGAN(Wasserstein Generative Adversarial Network) 기반의 Wasserstein autoencoder(WAE) 프로세스를 통해 상기 챗봇의 응답을 생성하는 단계를 포함할 수 있다.
일 실시예에 따른 챗봇 서비스 제공 장치는, 사용자의 발언(utterance)에 따라 응답하는 챗봇 서비스를 위한 인스트럭션들을 저장하는 메모리와, 상기 인스트럭션들을 실행하기 위한 프로세서를 포함하고, 상기 인스트럭션들이 상기 프로세서에 의해 실행될 때, 상기 프로세서는, 상기 사용자 및 상기 챗봇의 이전 발언들, 상기 사용자의 현재 발언 및 새로운 지식 데이터를 수신하고, 상기 이전 발언들 및 상기 현재 발언을 이용하여 제1 연관도를 계산하고, 상기 제1 연관도, 상기 현재 발언 및 상기 새로운 지식 데이터에 기초하여 제2 연관도를 계산하고, 상기 제1 연관도, 상기 현재 발언에 기초하여 잠재 변수를 생성하고, 상기 현재 발언, 상기 제1 연관도, 상기 제2 연관도 및 상기 잠재 변수를 이용하여 상기 사용자의 현재 발언에 대한 상기 챗봇의 응답을 생성한다.
상기 프로세서는, 상기 이전 발언들 및 상기 현재 발언을 양방향 게이트 반복 단위로 개별적으로 인코딩하여, 인코딩된 이전 발언들 및 인코딩된 현재 발언을 생성하고, 상기 인코딩된 이전 발언들 중에서 각 발언을 단방향 게이트 반복 단위로 인코딩하여 컨텍스트 벡터를 생성하고, 상기 컨텍스트 벡터, 상기 인코딩된 현재 발언을 이용하여 제1 어텐션 스코어(attention score)를 계산하고, 상기 제1 어텐션 스코어 및 상기 인코딩된 현재 발언을 이용하여 상기 제1 연관도를 계산할 수 있다.
상기 프로세서는, 상기 새로운 지식 데이터를 양방향 게이트 반복 단위로 인코딩하여, 인코딩된 지식 데이터를 생성하고, 상기 인코딩된 지식 데이터 및 상기 인코딩된 현재 발언을 이용하여 제2 어텐션 스코어를 계산하고, 상기 제2 어텐션 스코어 및 상기 인코딩된 현재 발언을 이용하여 제3 연관도를 계산하고, 상기 제1 어텐션 스코어 및 상기 제2 어텐션 스코어를 이용하여 상기 제2 연관도를 계산할 수 있다.
상기 프로세서는, 상기 인코딩된 현재 발언의 첫번째 단어 벡터와 마지막 단어 벡터를 연결하여 챗봇의 다음 발언을 생성하고, 상기 제1 연관도, 상기 인코딩된 현재 발언 및 상기 다음 발언을 이용하여 상기 잠재 변수를 생성할 수 있다.
상기 프로세서는, 상기 현재 발언, 상기 제1 연관도, 상기 제2 연관도 및 상기 잠재 변수를 이용하여 WGAN(Wasserstein Generative Adversarial Network) 기반의 Wasserstein autoencoder(WAE) 프로세스를 통해 상기 챗봇의 응답을 생성할 수 있다.
도 1은 일 실시예에 따른 챗봇 서비스 제공 시스템을 나타낸 도면이다.
도 2는 도 1에 도시된 챗봇 서비스 제공 장치를 개략적으로 나타낸 도면이다.
도 3 및 도 4는 도 2에 도시된 프로세서를 개략적으로 나타낸 도면이다.
이하에서, 첨부된 도면을 참조하여 실시예들을 상세하게 설명한다. 그러나, 실시예들에는 다양한 변경이 가해질 수 있어서 특허출원의 권리 범위가 이러한 실시예들에 의해 제한되거나 한정되는 것은 아니다. 실시예들에 대한 모든 변경, 균등물 내지 대체물이 권리 범위에 포함되는 것으로 이해되어야 한다.
실시예에서 사용한 용어는 단지 설명을 목적으로 사용된 것으로, 한정하려는 의도로 해석되어서는 안된다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 명세서에서, "포함하다" 또는 "가지다" 등의 용어는 명세서 상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 실시예가 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가지고 있다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥 상 가지는 의미와 일치하는 의미를 가지는 것으로 해석되어야 하며, 본 출원에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.
또한, 첨부 도면을 참조하여 설명함에 있어, 도면 부호에 관계없이 동일한 구성 요소는 동일한 참조부호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다. 실시예를 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 실시예의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다.
또한, 실시 예의 구성 요소를 설명하는 데 있어서, 제1, 제2, A, B, (a), (b) 등의 용어를 사용할 수 있다. 이러한 용어는 그 구성 요소를 다른 구성 요소와 구별하기 위한 것일 뿐, 그 용어에 의해 해당 구성 요소의 본질이나 차례 또는 순서 등이 한정되지 않는다. 어떤 구성 요소가 다른 구성요소에 "연결", "결합" 또는 "접속"된다고 기재된 경우, 그 구성 요소는 그 다른 구성요소에 직접적으로 연결되거나 접속될 수 있지만, 각 구성 요소 사이에 또 다른 구성 요소가 "연결", "결합" 또는 "접속"될 수도 있다고 이해되어야 할 것이다.
어느 하나의 실시 예에 포함된 구성요소와, 공통적인 기능을 포함하는 구성요소는, 다른 실시 예에서 동일한 명칭을 사용하여 설명하기로 한다. 반대되는 기재가 없는 이상, 어느 하나의 실시 예에 기재한 설명은 다른 실시 예에도 적용될 수 있으며, 중복되는 범위에서 구체적인 설명은 생략하기로 한다.
도 1은 일 실시예에 따른 챗봇 서비스 제공 시스템을 나타낸 도면이다.
챗봇 서비스 제공 시스템(10)은 사용자 장치(100) 및 챗봇 서비스 제공 장치(200)를 포함한다.
챗봇 서비스 제공 시스템(10)은 챗봇 서비스를 제공하는데 있어 챗봇이 미리 학습하지 않은 새로운 지식 데이터를 응답에 반영하여 사용자와 챗봇 간 대화 문맥에 적절한 응답을 사용자에게 제공할 수 있다.
사용자 장치(100)는 사용자로부터 사용자가 챗봇과 대화하고자 하는 현재 발언을 입력받을 수 있다. 사용자 장치(100)는 현재 발언(utterance)을 챗봇 서비스 제공 장치(200)로 전송할 수 있다.
사용자 장치(100)는 챗봇의 응답을 사용자에게 제공할 수 있다.
챗봇 서비스 제공 장치(200)는 챗봇 및 사용자의 이전 발언들, 사용자의 현재 발언 및 새로운 지식 데이터에 관한 연관도에 기초하여 챗봇의 응답을 생성할 수 있다.
챗봇 서비스 제공 장치(200)는 챗봇의 응답을 사용자 장치(100)로 전송할 수 있다.
도 2는 도 1에 도시된 챗봇 서비스 제공 장치를 개략적으로 나타낸 도면이다.
챗봇 서비스 제공 장치(200)는 프로세서(210) 및 메모리(250)를 포함한다. 챗봇 서비스 제공 장치(200)는 프로세서(210)를 통해 네트워크에 연결되고 사용자 장치(100) 등과 통신할 수 있다.
프로세서(210)는 무선 통신 또는 유선 통신을 통해서 네트워크에 연결되어 사용자 장치(100) 등과 통신할 수 있다.
프로세서(210)는 중앙처리장치, 어플리케이션 프로세서, 또는 커뮤니케이션 프로세서(communication processor) 중 하나 또는 그 이상을 포함할 수 있다.
프로세서(210)는 챗봇 서비스 제공 장치(200)의 적어도 하나의 다른 구성요소들의 제어에 관한 연산이나 데이터 처리를 실행할 수 있다. 예를 들어, 프로세서(210)는 메모리(250)에 저장된 어플리케이션 및/또는 소프트웨어 등을 실행할 수 있다.
프로세서(210)는 수신한 데이터 및 메모리(250)에 저장된 데이터를 처리할 수 있다. 프로세서(210)는 메모리(250)에 저장된 데이터를 처리할 수 있다. 프로세서(210)는 메모리(250)에 저장된 컴퓨터로 읽을 수 있는 코드(예를 들어, 소프트웨어) 및 프로세서(210)에 의해 유발된 인스트럭션(instruction)들을 실행할 수 있다.
프로세서(210)는 목적하는 동작들(desired operations)을 실행시키기 위한 물리적인 구조를 갖는 회로를 가지는 하드웨어로 구현된 데이터 처리 장치일 수 있다. 예를 들어, 목적하는 동작들은 프로그램에 포함된 코드(code) 또는 인스트럭션들(instructions)을 포함할 수 있다.
예를 들어, 하드웨어로 구현된 데이터 처리 장치는 마이크로프로세서(microprocessor), 중앙 처리 장치(central processing unit), 프로세서 코어(processor core), 멀티-코어 프로세서(multi-core processor), 멀티프로세서(multiprocessor), ASIC(Application-Specific Integrated Circuit), FPGA(Field Programmable Gate Array)를 포함할 수 있다.
프로세서(210)는 사용자 및 챗봇의 이전 발언들, 사용자의 현재 발언 및 새로운 지식 데이터를 수신할 수 있다.
프로세서(210)는 사용자 및 챗봇의 이전 발언들 및 사용자의 현재 발언을 이용하여 제1 연관도를 계산할 수 있다.
예를 들어, 프로세서(210)는 사용자 및 챗봇의 이전 발언들 및 사용자의 현재 발언을 양방향 게이트 반복 단위로 개별적으로 인코딩하여, 인코딩된 이전 발언들 및 인코딩된 현재 발언을 생성할 수 있다. 프로세서(210)는 인코딩된 이전 발언들 중에서 각 발언을 단방향 게이트 반복 단위로 인코딩하여 컨텍스트 벡터를 생성할 수 있다. 프로세서(210)는 컨텍스트 벡터, 인코딩된 현재 발언을 이용하여 제1 어텐션 스코어(attention score)를 계산할 수 있다. 프로세서(210)는 제1 어텐션 스코어 및 인코딩된 현재 발언을 이용하여 제1 연관도를 계산할 수 있다.
프로세서(210)는 제1 연관도, 사용자의 현재 발언 및 새로운 지식 데이터에 기초하여 제2 연관도를 계산할 수 있다.
예를 들어, 프로세서(210)는 새로운 지식 데이터를 양방향 게이트 반복 단위로 인코딩하여, 인코딩된 지식 데이터를 생성할 수 있다. 프로세서(210)는 인코딩된 지식 데이터 및 인코딩된 현재 발언을 이용하여 제2 어텐션 스코어를 계산할 수 있다. 프로세서(210)는 제2 어텐션 스코어 및 인코딩된 현재 발언을 이용하여 제3 연관도를 계산할 수 있다. 프로세서(210)는 제1 어텐션 스코어 및 제2 어텐션 스코어를 이용하여 제2 연관도를 계산할 수 있다.
프로세서(210)는 제1 연관도, 사용자의 현재 발언에 기초하여 잠재 변수를 생성할 수 있다.
예를 들어, 프로세서(210)는 인코딩된 현재 발언의 첫번째 단어 벡터와 마지막 단어 벡터를 연결하여 챗봇의 다음 발언을 생성할 수 있다. 프로세서(210)는 제1 연관도, 인코딩된 현재 발언 및 챗봇의 다음 발언을 이용하여 잠재 변수를 생성할 수 있다.
프로세서(210)는 사용자의 현재 발언, 제1 연관도, 제2 연관도 및 잠재 변수를 이용하여 사용자의 현재 발언에 대한 챗봇의 응답을 생성할 수 있다.
예를 들어, 프로세서(210)는 사용자의 현재 발언, 상기 제1 연관도, 상기 제2 연관도 및 상기 잠재 변수를 이용하여 WGAN(Wasserstein Generative Adversarial Network) 기반의 Wasserstein autoencoder(WAE) 프로세스를 통해 상기 챗봇의 응답을 생성할 수 있다.
프로세서(210)는 챗봇의 응답을 전송할 수 있다.
메모리(250)는 휘발성 및/또는 비휘발성 메모리를 포함할 수 있다. 메모리(250)는 챗봇 서비스 제공 장치(100)의 적어도 하나의 다른 구성요소에 관계된 명령 및/또는 데이터를 저장할 수 있다.
메모리(250)는 소프트웨어(software) 및/또는 프로그램(program) 등을 저장할 수 있다. 예를 들어, 메모리(250)는 챗봇 서비스를 위한 어플리케이션 및 소프트웨어 등을 저장할 수 있다.
도 3 및 도 4는 도 2에 도시된 프로세서를 개략적으로 나타낸 도면이다.
프로세서(210)는 컨텍스트 인코더(context encoder; 211), 잠재 변수 생성기(latent variable generator; 213), 지식 인코더(knowledge encoder; 215), 및 응답 생성기(response generator; 217)를 포함할 수 있다.
컨텍스트 인코더(211)는 사용자 및 챗봇의 m개의 이전 발언들(utterances)인
Figure 112020089489778-pat00001
,
Figure 112020089489778-pat00002
,
Figure 112020089489778-pat00003
,
Figure 112020089489778-pat00004
및 사용자의 현재 발언(utterance)인
Figure 112020089489778-pat00005
을 수신할 수 있다. 예를 들어, 이전 발언들은 사용자 및 챗봇의 대화 문맥(dialogue context)일 수 있다. 현재 발언은 사용자의 쿼리(query)일 수 있다.
컨텍스트 인코더(211)는 스케일된 닷 프로덕트 어텐션 메커니즘(scaled dot product attention mechanism)을 기반으로 이전 발언들과 현재 발언 간의 연관도를 계산하고, 컨텍스트 벡터(context vector)를 생성할 수 있다.
컨텍스트 인코더(211)는 이전 발언들
Figure 112020089489778-pat00006
,
Figure 112020089489778-pat00007
,
Figure 112020089489778-pat00008
,
Figure 112020089489778-pat00009
과 현재 발언
Figure 112020089489778-pat00010
간의 연관도를 계산할 수 있다.
컨텍스트 인코더(211)는 이전 발언들 및 현재 발언을 양방향 게이트 반복 단위(Bi-GRU; 일종의 양방향 RNN)로 개별적으로 인코딩할 수 있다. 컨텍스트 인코더(211)는 수학식 1을 통해 이전 발언들 및 현재 발언을 양방향 게이트 반복 단위로 개별적으로 인코딩할 수 있다.
Figure 112020089489778-pat00011
Figure 112020089489778-pat00012
및
Figure 112020089489778-pat00013
는 Bi-GRU의 순방향 및 역방향의 상태에 의해 인코딩된
Figure 112020089489778-pat00014
번째 단어 벡터,
Figure 112020089489778-pat00015
는 이전 발언들 또는 현재 발언에서의
Figure 112020089489778-pat00016
번째 단어 벡터, [ ; ]는 연결(concatenation)을 의미할 수 있다.
컨텍스트 인코더(211)는 유추법(analogy)에 의해, 이전 발언들(대화 문맥)에서의 각 발언을 단방향 게이트 반복 단위(Uni-GRU; 일종의 단방향 RNN)를 이용하여 인코딩할 수 있다. 컨텍스트 인코더(211)는 수학식 2를 통해 이전 발언들 중에서 각 발언을 인코딩할 수 있다.
Figure 112020089489778-pat00017
Figure 112020089489778-pat00018
는 양방향 게이트 반복 단위(Bi-GRU)에 의해 인코딩된
Figure 112020089489778-pat00019
번째 이전 발언들 중에서 첫번째 단어 벡터와 마지막 단어 벡터의 연결을 의미할 수 있다.
Figure 112020089489778-pat00020
는 단방향 게이트 반복 단위(Uni-GRU)에 의해 인코딩 된
Figure 112020089489778-pat00021
번째 컨텍스트 벡터,
Figure 112020089489778-pat00022
는 단방향 게이트 반복 단위(Uni-GRU)에 의해 인코딩 된
Figure 112020089489778-pat00023
번째 컨텍스트 벡터를 의미할 수 있다.
컨텍스트 인코더(211)는 이전 발언들인 대화 문맥(dialogue context) 및 현재 발언을 인코딩 한 후, 스케일된 닷 프로덕트 어텐션 메커니즘을 이용하여 이전 발언들 중에서 각 발언 및 현재 발언 간의 어텐션 스코어(attention scores)인
Figure 112020089489778-pat00024
를 계산할 수 있다.
Figure 112020089489778-pat00025
Figure 112020089489778-pat00026
는 이전 발언들 중에서 각 발언 및 현재 발언 간의 제1 어텐션 스코어,
Figure 112020089489778-pat00027
는 인코딩된 이전 발언들의 매트릭스인
Figure 112020089489778-pat00028
,
Figure 112020089489778-pat00029
는 인코딩된 현재 발언의 매트릭스인
Figure 112020089489778-pat00030
,
Figure 112020089489778-pat00031
,
Figure 112020089489778-pat00032
, 및
Figure 112020089489778-pat00033
는 가중치,
Figure 112020089489778-pat00034
는 300으로 설정된 정규화 인자,
Figure 112020089489778-pat00035
는 시그모이드(sigmoid) 게이트 함수,
Figure 112020089489778-pat00036
는 단어 벡터,
Figure 112020089489778-pat00037
는 시그모이드 함수를 의미할 수 있다.
컨텍스트 인코더(211)는
Figure 112020089489778-pat00038
와
Figure 112020089489778-pat00039
사이의 자기 집중 레이어(self-attention layer)를 통과한 후, 이전 발언들 및 현재 발언 간의 연관도를 나타내는 최종 어텐션 매트릭스(final attention matrix)
Figure 112020089489778-pat00040
(QC-Attention)를 수학식 4를 통해 계산할 수 있다.
Figure 112020089489778-pat00041
Figure 112020089489778-pat00042
는 이전 발언들 및 현재 발언 간의 제1 연관도를 나타내는 최종 어텐션 매트릭스(QC-Attention),
Figure 112020089489778-pat00043
는
Figure 112020089489778-pat00044
번째 제1 어텐션 스코어,
Figure 112020089489778-pat00045
는
Figure 112020089489778-pat00046
번째 현재 발언의 매트릭스를 의미할 수 있다.
컨텍스트 인코더(211)는 및 제1 연관도
Figure 112020089489778-pat00047
, 제1 어텐션 스코어
Figure 112020089489778-pat00048
,
Figure 112020089489778-pat00049
번째 현재 발언의 매트릭스
Figure 112020089489778-pat00050
를 출력할 수 있다.
지식 인코더(213)는 새로운 지식 데이터(knowledge; 예를 들어, 응답을 생성하기 위한 증거(evidence)를 포함하는 문서)
Figure 112020089489778-pat00051
와 현재 발언
Figure 112020089489778-pat00052
을 수신할 수 있다.
지식 인코더(213)는 스케일된 닷 프로덕트 어텐션 메커니즘에 기초하여 새로운 지식 데이터
Figure 112020089489778-pat00053
와 현재 발언
Figure 112020089489778-pat00054
간의 연관도를 계산하고, 지식 벡터를 생성할 수 있다.
지식 인코더(213)는 새로운 지식 데이터
Figure 112020089489778-pat00055
과 현재 발언
Figure 112020089489778-pat00056
사이의 연관도를 계산할 수 있다. 새로운 지식 데이터
Figure 112020089489778-pat00057
는 구조화되지 않은 텍스트(단어 시퀀스)로 표현될 수 있다. 새로운 지식 데이터
Figure 112020089489778-pat00058
는 컨텍스트 인코더(211)에서와 같이 양방향 게이트 반복 단위(Bi-GRU)로 인코딩될 수 있다.
지식 인코더(213)는 새로운 지식 데이터
Figure 112020089489778-pat00059
와 현재 발언
Figure 112020089489778-pat00060
을 인코딩한 후 수학식 5를 통해 새로운 지식 데이터
Figure 112020089489778-pat00061
와 현재 발언
Figure 112020089489778-pat00062
간의 제2 어텐션 스코어(attention scores)
Figure 112020089489778-pat00063
를 계산할 수 있다. 지식 인코더(213)는 새로운 지식 데이터 및 현재 발언 간의 제3 연관도를 나타내는 최종 어텐션 매트릭스
Figure 112020089489778-pat00064
(QK-Attention)를 수학식 5를 통해 계산할 수 있다.
Figure 112020089489778-pat00065
Figure 112020089489778-pat00066
는 새로운 지식 데이터
Figure 112020089489778-pat00067
와 현재 발언
Figure 112020089489778-pat00068
사이의 제2 어텐션 스코어,
Figure 112020089489778-pat00069
는 인코딩된 현재 발언 매트릭스
Figure 112020089489778-pat00070
,
Figure 112020089489778-pat00071
는 인코딩된 지식 매트릭스
Figure 112020089489778-pat00072
를 의미할 수 있다. 지식 매트릭스
Figure 112020089489778-pat00073
에서
Figure 112020089489778-pat00074
는 Bi-GRU의
Figure 112020089489778-pat00075
번째 순방향 상태와
Figure 112020089489778-pat00076
번째 역방향 상태의 연쇄(concatenation)를 의미할 수 있다. 또한,
Figure 112020089489778-pat00077
,
Figure 112020089489778-pat00078
, 및
Figure 112020089489778-pat00079
는 가중치를 의미할 수 있다.
Figure 112020089489778-pat00080
는 300으로 설정된 정규화 인자,
Figure 112020089489778-pat00081
는 시그모이드(sigmoid) 게이트 함수를 의미할 수 있다.
Figure 112020089489778-pat00082
는 새로운 지식 데이터 및 현재 발언 간의 제3 연관도를 나타내는 최종 어텐션 매트릭스,
Figure 112020089489778-pat00083
는
Figure 112020089489778-pat00084
번째 어텐션 스코어,
Figure 112020089489778-pat00085
는
Figure 112020089489778-pat00086
번째 현재 발언의 매트릭스를 의미할 수 있다.
지식 인코더(213)는 이전 발언들과 새로운 지식 데이터 간의 연관도를 나타내는 제2 연관도
Figure 112020089489778-pat00087
(QC-QK-Attention)을 수학식 6을 통해 계산할 수 있다.
Figure 112020089489778-pat00088
Figure 112020089489778-pat00089
는 이전 발언들과 새로운 지식 데이터 간의 제2 연관도,
Figure 112020089489778-pat00090
는 새로운 지식 데이터
Figure 112020089489778-pat00091
와 현재 발언
Figure 112020089489778-pat00092
사이의 제2 어텐션 스코어,
Figure 112020089489778-pat00093
는 이전 발언들 중에서 각 발언 및 현재 발언 간의 제1 어텐션 스코어,
Figure 112020089489778-pat00094
,
Figure 112020089489778-pat00095
는 가중치를 의미할 수 있다.
잠재 변수 생성기(215)는 적대적 학습 방법(adversarial learning method)을 이용하여 RNN으로 인코딩된 다음 발언 벡터와 유사한 컨텍스트 벡터를 생성할 수 있다. 잠재 변수 생성기(215)는 자동 인코더 학습 방법(autoencoder learning method)을 사용하여 인코딩된 다음 발언 벡터를 디코딩할 수 있다.
잠재 변수 생성기(215)는 응답 생성기(217)가 다양한 응답을 생성하는데 도움이 되는 잠재 변수를 생성할 수 있다. 예를 들어, 잠재 변수 생성기(215)는 잠재 변수를 생성하기 위해 Waserstein distance를 사용하는 오토 인코더 모델을 이용할 수 있다. 기존 VAE 대화 모델은 잠재 변수가 단순 사전 분포를 따른다고 가정할 수 있다. 그러나, 실제 세계의 반응은 매우 복잡한 분포를 따르기 때문에 Wasserstein 생성 적대 네트워크(WGAN)를 사용하여 잠재 변수를 훈련할 수 있다.
잠재 변수 생성기(215)는 수학식 7을 통해 잠재 공간에서의 분포
Figure 112020089489778-pat00096
및
Figure 112020089489778-pat00097
를 생성할 수 있다.
Figure 112020089489778-pat00098
Figure 112020089489778-pat00099
및
Figure 112020089489778-pat00100
는 잠재 변수,
Figure 112020089489778-pat00101
및
Figure 112020089489778-pat00102
는 각각 잠재 변수
Figure 112020089489778-pat00103
및
Figure 112020089489778-pat00104
를 생성하기위한 피드 포워드 신경망(feed-forward neural networks),
Figure 112020089489778-pat00105
는 이전 발언들 및 현재 발언 간의 제1 연관도를 나타내는 최종 어텐션 매트릭스(QC-Attention),
Figure 112020089489778-pat00106
는
Figure 112020089489778-pat00107
번째 현재 발언의 매트릭스,
Figure 112020089489778-pat00108
은 양방향 게이트 반복 단위(Bi-GRU)에 의해 인코딩된 현재 발언의 첫번째 단어 벡터와 마지막 단어 벡터의 연결을 의미할 수 있다.
Figure 112020089489778-pat00109
및
Figure 112020089489778-pat00110
두 신경망의 차이점은 Bi-GRU로 인코딩된 다음 발언(즉, 챗봇의 응답)인
Figure 112020089489778-pat00111
이 입력으로 사용되는지 여부일 수 있다.
잠재 변수 생성기(215)는
Figure 112020089489778-pat00112
및
Figure 112020089489778-pat00113
사이의 차이를 최소화하기 위해 GAN(Generative Adversarial Networks) 훈련 체계에 따라 수학식 8을 이용하여 두 분포를 유사하게 만들 수 있다.
Figure 112020089489778-pat00114
Figure 112020089489778-pat00115
는 피드 포워드 신경망(feed-forward neural network)을 기반으로 하는 판별자(discriminator)를 의미할 수 있다. 판별자는
Figure 112020089489778-pat00116
및
Figure 112020089489778-pat00117
를 구별하는 역할을 할 수 있다.
응답 생성기(217)는 다양한 응답을 생성하기 위해 적대적 학습 방법(adversarial learning method)을 이용하여 RNN에 의해 디코딩된 응답 벡터(즉, 생성된 응답 벡터)와 유사한 인코딩된 응답 벡터(즉, 골드 응답 벡터)를 생성할 수 있다.
응답 생성기(217)는 디코더의 초기 상태로써 인코딩된 현재 발언 벡터
Figure 112020089489778-pat00118
, QC-Attention인
Figure 112020089489778-pat00119
, QC-QK-Attention인
Figure 112020089489778-pat00120
및 잠재 변수(즉, 훈련의 경우
Figure 112020089489778-pat00121
, 추론의 경우
Figure 112020089489778-pat00122
)를 이용하여 응답을 생성할 수 있다.
응답 생성기(217)는 WGAN(Wasserstein Generative Adversarial Network) 기반의 Wasserstein autoencoder(WAE) 프로세스를 사용하여 Bi-GRU로 인코딩한 금 응답 벡터(gold response vector)인
Figure 112020089489778-pat00123
과 유사하게 생성된 응답 벡터(generated response vector)를 생성할 수 있다.
실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상 장치(virtual equipment), 컴퓨터 저장 매체 또는 장치, 또는 전송되는 신호 파(signal wave)에 영구적으로, 또는 일시적으로 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.
이상과 같이 실시예들이 비록 한정된 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기를 기초로 다양한 기술적 수정 및 변형을 적용할 수 있다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.
그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 청구범위의 범위에 속한다.

Claims (10)

  1. 사용자의 발언(utterance)에 따라 응답하는 챗봇의 서비스 제공 방법에 있어서,
    상기 사용자 및 상기 챗봇의 이전 발언들, 상기 사용자의 현재 발언 및 미리 학습하지 않은 새로운 지식 데이터를 수신하는 단계;
    상기 이전 발언들 및 상기 현재 발언을 인코딩한 인코딩된 이전 발언들 및 인코딩된 현재 발언을 이용하여 계산된 제1 어텐션 스코어(attention score)에 기초하여 제1 연관도를 계산하는 단계;
    상기 새로운 지식 데이터를 인코딩한 인코딩된 지식 데이터 및 상기 인코딩된 현재 발언을 이용하여 계산된 제2 어텐션 스코어와 상기 제1 연관도에 기초하여 제2 연관도를 계산하는 단계;
    상기 제1 연관도, 상기 인코딩된 현재 발언에 기초하여 잠재 변수를 생성하는 단계; 및
    상기 인코딩된 현재 발언, 상기 제1 연관도, 상기 제2 연관도 및 상기 잠재 변수를 이용하여 상기 사용자의 현재 발언에 대한 상기 챗봇의 응답을 생성하는 단계
    를 포함하는 챗봇 서비스 제공 방법.
  2. 제1항에 있어서,
    상기 제1 연관도를 계산하는 단계는,
    상기 이전 발언들 및 상기 현재 발언을 양방향 게이트 반복 단위로 개별적으로 인코딩하여, 상기 인코딩된 이전 발언들 및 상기 인코딩된 현재 발언을 생성하는 단계;
    상기 인코딩된 이전 발언들 중에서 각 발언을 단방향 게이트 반복 단위로 인코딩하여 컨텍스트 벡터를 생성하는 단계;
    상기 컨텍스트 벡터, 상기 인코딩된 현재 발언을 이용하여 상기 제1 어텐션 스코어를 계산하는 단계; 및
    상기 제1 어텐션 스코어 및 상기 인코딩된 현재 발언을 이용하여 상기 제1 연관도를 계산하는 단계
    를 포함하는 챗봇 서비스 제공 방법.
  3. 제2항에 있어서,
    상기 제2 연관도를 계산하는 단계는,
    상기 새로운 지식 데이터를 양방향 게이트 반복 단위로 인코딩하여, 상기 인코딩된 지식 데이터를 생성하는 단계;
    상기 인코딩된 지식 데이터 및 상기 인코딩된 현재 발언을 이용하여 상기 제2 어텐션 스코어를 계산하는 단계;
    상기 제2 어텐션 스코어 및 상기 인코딩된 현재 발언을 이용하여 제3 연관도를 계산하는 단계; 및
    상기 제1 어텐션 스코어 및 상기 제2 어텐션 스코어를 이용하여 상기 제2 연관도를 계산하는 단계
    를 포함하는 챗봇 서비스 제공 방법.
  4. 제3항에 있어서,
    상기 잠재 변수를 생성하는 단계는,
    상기 인코딩된 현재 발언의 첫번째 단어 벡터와 마지막 단어 벡터를 연결하여 챗봇의 다음 발언을 생성하는 단계; 및
    상기 제1 연관도, 상기 인코딩된 현재 발언 및 상기 다음 발언을 이용하여 상기 잠재 변수를 생성하는 단계
    를 포함하는 챗봇 서비스 제공 방법.
  5. 제4항에 있어서,
    상기 챗봇의 응답을 생성하는 단계는,
    상기 현재 발언, 상기 제1 연관도, 상기 제2 연관도 및 상기 잠재 변수를 이용하여 WGAN(Wasserstein Generative Adversarial Network) 기반의 Wasserstein autoencoder(WAE) 프로세스를 통해 상기 챗봇의 응답을 생성하는 단계
    를 포함하는 챗봇 서비스 제공 방법.
  6. 사용자의 발언(utterance)에 따라 응답하는 챗봇 서비스를 위한 인스트럭션들을 저장하는 메모리; 및
    상기 인스트럭션들을 실행하기 위한 프로세서
    를 포함하고,
    상기 인스트럭션들이 상기 프로세서에 의해 실행될 때, 상기 프로세서는,
    상기 사용자 및 상기 챗봇의 이전 발언들, 상기 사용자의 현재 발언 및 미리 학습하지 않은 새로운 지식 데이터를 수신하고,
    상기 이전 발언들 및 상기 현재 발언을 인코딩한 인코딩된 이전 발언들 및 인코딩된 현재 발언을 이용하여 제1 계산된 제1 어텐션 스코어(attention score)에 기초하여 제1 연관도를 계산하고,
    상기 새로운 지식 데이터를 인 코딩한 인코딩된 지식 데이터 및 상기 인코딩된 현재 발언을 이용하여 계산된 제2 어텐션 스코어와 상기 제1 연관도에 기초하여 제2 연관도를 계산하고,
    상기 제1 연관도, 상기 인코딩된 현재 발언에 기초하여 잠재 변수를 생성하고,
    상기 인코딩된 현재 발언, 상기 제1 연관도, 상기 제2 연관도 및 상기 잠재 변수를 이용하여 상기 사용자의 현재 발언에 대한 상기 챗봇의 응답을 생성하는
    챗봇 서비스 제공 장치.
  7. 제6항에 있어서,
    상기 프로세서는,
    상기 이전 발언들 및 상기 현재 발언을 양방향 게이트 반복 단위로 개별적으로 인코딩하여, 상기 인코딩된 이전 발언들 및 상기 인코딩된 현재 발언을 생성하고,
    상기 인코딩된 이전 발언들 중에서 각 발언을 단방향 게이트 반복 단위로 인코딩하여 컨텍스트 벡터를 생성하고,
    상기 컨텍스트 벡터, 상기 인코딩된 현재 발언을 이용하여 상기 제1 어텐션 스코어를 계산하고,
    상기 제1 어텐션 스코어 및 상기 인코딩된 현재 발언을 이용하여 상기 제1 연관도를 계산하는
    챗봇 서비스 제공 장치.
  8. 제7항에 있어서,
    상기 프로세서는,
    상기 새로운 지식 데이터를 양방향 게이트 반복 단위로 인코딩하여, 상기 인코딩된 지식 데이터를 생성하고,
    상기 인코딩된 지식 데이터 및 상기 인코딩된 현재 발언을 이용하여 상기 제2 어텐션 스코어를 계산하고,
    상기 제2 어텐션 스코어 및 상기 인코딩된 현재 발언을 이용하여 제3 연관도를 계산하고,
    상기 제1 어텐션 스코어 및 상기 제2 어텐션 스코어를 이용하여 상기 제2 연관도를 계산하는
    챗봇 서비스 제공 장치.
  9. 제8항에 있어서,
    상기 프로세서는,
    상기 인코딩된 현재 발언의 첫번째 단어 벡터와 마지막 단어 벡터를 연결하여 챗봇의 다음 발언을 생성하고,
    상기 제1 연관도, 상기 인코딩된 현재 발언 및 상기 다음 발언을 이용하여 상기 잠재 변수를 생성하는
    챗봇 서비스 제공 장치.
  10. 제9항에 있어서,
    상기 프로세서는,
    상기 현재 발언, 상기 제1 연관도, 상기 제2 연관도 및 상기 잠재 변수를 이용하여 WGAN(Wasserstein Generative Adversarial Network) 기반의 Wasserstein autoencoder(WAE) 프로세스를 통해 상기 챗봇의 응답을 생성하는
    챗봇 서비스 제공 장치.
KR1020200107270A 2020-08-25 2020-08-25 문서 이해에 기반한 문장 생성 챗봇 서비스 제공 방법 및 장치 KR102215286B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020200107270A KR102215286B1 (ko) 2020-08-25 2020-08-25 문서 이해에 기반한 문장 생성 챗봇 서비스 제공 방법 및 장치

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020200107270A KR102215286B1 (ko) 2020-08-25 2020-08-25 문서 이해에 기반한 문장 생성 챗봇 서비스 제공 방법 및 장치

Publications (1)

Publication Number Publication Date
KR102215286B1 true KR102215286B1 (ko) 2021-02-10

Family

ID=74561368

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020200107270A KR102215286B1 (ko) 2020-08-25 2020-08-25 문서 이해에 기반한 문장 생성 챗봇 서비스 제공 방법 및 장치

Country Status (1)

Country Link
KR (1) KR102215286B1 (ko)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20220142050A (ko) * 2021-04-14 2022-10-21 건국대학교 산학협력단 문장 중요도에 기반한 문서 수준의 감성 분류 방법 및 장치
KR102482302B1 (ko) 2022-05-04 2022-12-28 주식회사 네오젠티씨 인공지능 기술을 사용하여 클러스터 데이터에 대응되는 주조직 적합성 복합체를 결정하기 위한 방법 및 장치
KR102507110B1 (ko) 2022-02-15 2023-03-07 주식회사 네오젠티씨 주조직 적합성 복합체의 타입들을 분석하기 위한 방법 및 장치
KR20230063402A (ko) 2021-11-02 2023-05-09 (주)미소정보기술 메시지의 의도를 추론하는 방법
KR102547975B1 (ko) 2022-05-04 2023-06-26 주식회사 네오젠티씨 인공지능 기술을 사용하여 클러스터 데이터에 대응되는 주조직 적합성 복합체를 결정하기 위한 방법 및 장치

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20180098711A (ko) * 2017-02-27 2018-09-05 정우식 마인드맵을 이용한 대화형인터페이스 시스템 및 방법
KR20190055425A (ko) * 2017-11-15 2019-05-23 (주)페르소나시스템 머신 러닝 기반의 챗봇용 데이터 추가 장치
KR20190060285A (ko) * 2017-11-24 2019-06-03 서울대학교산학협력단 인공 지능 기반의 대화 시스템 및 그 응답 제어 방법

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20180098711A (ko) * 2017-02-27 2018-09-05 정우식 마인드맵을 이용한 대화형인터페이스 시스템 및 방법
KR20190055425A (ko) * 2017-11-15 2019-05-23 (주)페르소나시스템 머신 러닝 기반의 챗봇용 데이터 추가 장치
KR20190060285A (ko) * 2017-11-24 2019-06-03 서울대학교산학협력단 인공 지능 기반의 대화 시스템 및 그 응답 제어 방법

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
김진태 외 3인, 생성적 적대적 신경망을 이용한 생성기반 멀티턴 챗봇, 제30회 한글 및 한국어 정보처리 학술대회 논문집, 2018.10.12. 25-30페이지. 1부.* *
이현우 외 1인, 건국봇: 검색모델과 생성모델을 결합한 챗봇, 한국정보처리학회 2018년 춘계학술발표대회 논문집, 2018.05. 449-452페이지. 1부.* *

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20220142050A (ko) * 2021-04-14 2022-10-21 건국대학교 산학협력단 문장 중요도에 기반한 문서 수준의 감성 분류 방법 및 장치
KR102501869B1 (ko) 2021-04-14 2023-02-21 건국대학교 산학협력단 문장 중요도에 기반한 문서 수준의 감성 분류 방법 및 장치
KR20230063402A (ko) 2021-11-02 2023-05-09 (주)미소정보기술 메시지의 의도를 추론하는 방법
KR102507110B1 (ko) 2022-02-15 2023-03-07 주식회사 네오젠티씨 주조직 적합성 복합체의 타입들을 분석하기 위한 방법 및 장치
KR102482302B1 (ko) 2022-05-04 2022-12-28 주식회사 네오젠티씨 인공지능 기술을 사용하여 클러스터 데이터에 대응되는 주조직 적합성 복합체를 결정하기 위한 방법 및 장치
KR102547975B1 (ko) 2022-05-04 2023-06-26 주식회사 네오젠티씨 인공지능 기술을 사용하여 클러스터 데이터에 대응되는 주조직 적합성 복합체를 결정하기 위한 방법 및 장치
KR20230155995A (ko) 2022-05-04 2023-11-13 주식회사 네오젠티씨 인공지능 기술을 사용하여 클러스터 데이터에 대응되는 주조직 적합성 복합체를 결정하기 위한 방법 및 장치

Similar Documents

Publication Publication Date Title
KR102215286B1 (ko) 문서 이해에 기반한 문장 생성 챗봇 서비스 제공 방법 및 장치
US11314921B2 (en) Text error correction method and apparatus based on recurrent neural network of artificial intelligence
JP7066349B2 (ja) 翻訳方法、翻訳装置及びコンピュータプログラム
Zhang et al. Deconvolutional paragraph representation learning
US10679613B2 (en) Spoken language understanding system and method using recurrent neural networks
CN110782870A (zh) 语音合成方法、装置、电子设备及存储介质
Yao et al. Teaching Machines to Ask Questions.
Zhang et al. Context-sensitive generation of open-domain conversational responses
KR102263656B1 (ko) 답변을 유도하는 대화 시스템 및 대화 방법
CN112541060B (zh) 一种基于对抗训练的端到端任务型对话学习框架和方法
CN111428015A (zh) 一种信息生成方法、装置、设备及存储介质
US11481646B2 (en) Selecting answer spans from electronic documents using neural networks
Chi et al. Speaker role contextual modeling for language understanding and dialogue policy learning
CN108959388B (zh) 信息生成方法及装置
US11450310B2 (en) Spoken language understanding
CN112214591A (zh) 一种对话预测的方法及装置
CN111814489A (zh) 口语语义理解方法及系统
CN111382257A (zh) 一种生成对话下文的方法和系统
Dai et al. A survey on dialog management: Recent advances and challenges
Gulyaev et al. Goal-oriented multi-task bert-based dialogue state tracker
Ohashi et al. Adaptive natural language generation for task-oriented dialogue via reinforcement learning
Morioka et al. Multiscale recurrent neural network based language model.
Adewale et al. Pixie: a social chatbot
CN113239174A (zh) 一种基于双层解码的层次化多轮对话生成方法及装置
CN113609301A (zh) 一种基于知识图谱的对话方法、介质及系统

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right
GRNT Written decision to grant