KR20190085823A - Personalized question-answering system, cloud server for privacy protection and method for providing shared nueral model thereof - Google Patents

Personalized question-answering system, cloud server for privacy protection and method for providing shared nueral model thereof Download PDF

Info

Publication number
KR20190085823A
KR20190085823A KR1020180075840A KR20180075840A KR20190085823A KR 20190085823 A KR20190085823 A KR 20190085823A KR 1020180075840 A KR1020180075840 A KR 1020180075840A KR 20180075840 A KR20180075840 A KR 20180075840A KR 20190085823 A KR20190085823 A KR 20190085823A
Authority
KR
South Korea
Prior art keywords
neural network
network model
data
common
personalized
Prior art date
Application number
KR1020180075840A
Other languages
Korean (ko)
Other versions
KR102441422B1 (en
Inventor
임준호
최미란
김현기
김민호
류지희
배경만
배용진
왕지현
이형직
임수종
장명길
허정
Original Assignee
한국전자통신연구원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국전자통신연구원 filed Critical 한국전자통신연구원
Priority to US16/245,468 priority Critical patent/US20190213480A1/en
Publication of KR20190085823A publication Critical patent/KR20190085823A/en
Application granted granted Critical
Publication of KR102441422B1 publication Critical patent/KR102441422B1/en

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/60—Protecting data
    • G06F21/62—Protecting access to data via a platform, e.g. using keys or access control rules
    • G06F21/6218—Protecting access to data via a platform, e.g. using keys or access control rules to a system of files or objects, e.g. local or distributed file system or database
    • G06F21/6245—Protecting personal data, e.g. for financial or medical purposes
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Bioethics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Computer Hardware Design (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Medical Informatics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Computer Security & Cryptography (AREA)
  • Evolutionary Computation (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Telephone Function (AREA)
  • Storage Device Security (AREA)
  • Machine Translation (AREA)

Abstract

According to the present invention, provided is a common neural network model in a question and answer system, which comprises the steps of: learning a common neural network model based on initial model learning data; providing the common neural network model to a plurality of user terminals as the learning is completed; collecting an updated personalized neural network model as the user terminal updates the common neural network model with a personalized neural network model; updating the common neural network model based on the collected personalized neural network model; and providing the updated common neural network model to the plurality of user terminals.

Description

개인 정보 보호가 가능한 개인화된 질의응답 시스템, 클라우드 서버 및 이의 공통 신경망 모델 제공 방법{PERSONALIZED QUESTION-ANSWERING SYSTEM, CLOUD SERVER FOR PRIVACY PROTECTION AND METHOD FOR PROVIDING SHARED NUERAL MODEL THEREOF}TECHNICAL FIELD [0001] The present invention relates to a personalized inquiry response system, a cloud server, and a common neural network model providing privacy information,

본 발명은 질의응답 시스템, 클라우드 서버 및 이의 공통 신경망 모델 제공 방법에 관한 것이다.The present invention relates to a query response system, a cloud server, and a method of providing a common neural network model.

질의응답시스템은 사용자가 원하는 지식을 얻기 위해 시스템에 질문을 하고, 시스템은 이를 분석하여 관련 답변을 출력하는 것으로서, 현재까지 다양한 방법으로 질의응답 시스템을 구현하여 왔다.The Q & A system queries the system to obtain the knowledge desired by the user, and the system analyzes it and outputs the related answers. So far, the Q & A system has been implemented in various ways.

이러한 질의응답 기술의 종래기술에는 기계독해(Machine Reading Comprehension, MRC) 기술이 있다. Prior art of such question-and-answer techniques include Machine Reading Comprehension (MRC) technology.

그러나 MRC 기술을 개인 정보를 포함하는 데이터에 적용하기 위해서는 다음과 같은 문제에 대한 해결이 필요하다.However, in order to apply the MRC technology to data including personal information, the following problems must be solved.

첫째로, 학습을 위해서 일반적으로 10만개 이상의 '질의-응답 단락'의 학습데이터 쌍이 필요하나, 개인 정보 보호가 필요한 환경에서는 이와 같은 대용량의 학습 데이터 수집이 어렵다는 문제가 있다.First, although learning data pairs of 100,000 or more 'query-response paragraphs' are generally required for learning, there is a problem that it is difficult to collect such a large amount of learning data in an environment in which privacy protection is required.

둘째로, MRC 학습 집합이 고정된 경우, 현실 세계에서 지속적으로 나타나는 새로운 단어인 신조어에 대해서는 올바른 임베딩 및 정답 추론이 어렵다는 문제가 있다.Second, when the MRC learning set is fixed, there is a problem that correct embedding and correct inference are difficult for a new word, which is a new word continuously appearing in the real world.

본 발명은 개별 사용자 단말 측면에서 신경망 모델을 업데이트하고 클라우드 서버는 이를 수집하여 공통 신경망 모델로 생성하여 개별 사용자 단말에 제공함으로써, 개인 데이터에 대한 개인정보가 보호되도록 함과 동시에 사용자의 실사용 데이터에 대해 학습이 가능하게끔 하는 질의응답 시스템, 클라우드 서버 및 이의 공통 신경망 모델 제공 방법을 제공하고자 한다.The present invention updates the neural network model on the side of individual user terminals, collects them, generates them as a common neural network model, and provides them to individual user terminals, thereby protecting personal information on individual data, A cloud server, and a method for providing a common neural network model.

다만, 본 실시예가 이루고자 하는 기술적 과제는 상기된 바와 같은 기술적 과제로 한정되지 않으며, 또 다른 기술적 과제들이 존재할 수 있다.It should be understood, however, that the technical scope of the present invention is not limited to the above-described technical problems, and other technical problems may exist.

상술한 기술적 과제를 달성하기 위한 기술적 수단으로서, 본 발명의 제 1 측면에 따른 질의응답 시스템은 공통 신경망 모델(Shared Neural Model)에 기초하여 개인 정보를 포함하는 텍스트 데이터 및 사용자에 의해 입력된 질의 데이터에 해당하는 응답 데이터 및 근거 데이터를 제공하는 복수의 사용자 단말 및 초기 모델 학습 데이터에 기초하여 상기 공통 신경망 모델을 학습하고, 상기 학습이 완료됨에 따라 상기 공통 신경망 모델을 상기 복수의 사용자 단말로 제공하는 클라우드 서버를 포함한다.As a technical means for achieving the above technical object, a query response system according to the first aspect of the present invention is characterized by comprising text data including personal information based on a common neural network model (Shared Neural Model) The common neural network model is learned based on a plurality of user terminals and initial model learning data providing response data and basis data corresponding to the common neural network model and the common neural network model is provided to the plurality of user terminals Includes a cloud server.

상기 초기 모델 학습 데이터는 MRC(Machine Reading Comprehension) 모델 학습 데이터일 수 있다.The initial model learning data may be MRC (Machine Reading Comprehension) model learning data.

상기 공통 신경망 모델은 상기 텍스트 데이터 및 질의 데이터를 각각 실수 차원의 벡터로 임베딩하는 워드 신경망 모델과, 상기 임베딩된 결과에 따른 텍스트 데이터 벡터 및 질의 데이터 벡터에 기반하여 응답 데이터 및 상기 응답 데이터에 대응되는 근거 데이터를 추론하는 응답 신경망 모델을 포함할 수 있다.Wherein the common neural network model comprises: a word neural network model for embedding the text data and query data into vectors of real-number dimensions; response data corresponding to the response data and the response data based on the text data vector and the query data vector according to the embedded result; And an answering neural network model to infer the evidence data.

상기 워드 신경망 모델은 단어별 임베딩 벡터 테이블과 문자 및 서브워드 기반의 신경망 모델을 혼합하여 상기 텍스트 데이터 및 질의 데이터를 각각 실수 차원의 벡터로 임베딩할 수 있다.The word neural network model may embed a text-based embedded vector table and a text-based and sub-word-based neural network model to embed the text data and query data into vectors of real numbers.

상기 사용자 단말은 상기 공통 신경망 모델에 기초하여 상기 텍스트 데이터를 분석함에 따라, 상기 질의 데이터에 해당하는 응답 데이터 및 근거 데이터를 제공할 수 있다.The user terminal can provide response data and basis data corresponding to the query data by analyzing the text data based on the common neural network model.

상기 사용자 단말은 상기 응답 데이터 및 근거 데이터를 제공함에 따라 사용자 피드백을 수신하고, 상기 피드백된 데이터에 기초하여 상기 공통 신경망 모델을 자신의 사용자 단말에 대응하는 개인화된 신경망 모델로 업데이트할 수 있다.The user terminal may receive user feedback as it provides the response data and the evidence data, and may update the common neural network model with a personalized neural network model corresponding to its user terminal based on the feedback data.

상기 사용자 단말은 기 설정된 학습 수량 이상의 피드백 데이터가 누적된 경우 상기 공통 신경망 모델을 상기 개인화된 신경망 모델로 업데이트할 수 있다.The user terminal may update the common neural network model with the personalized neural network model if feedback data of a predetermined learning quantity or more is accumulated.

상기 사용자 단말은 상기 업데이트된 개인화된 신경망 모델을 상기 클라우드 서버로 전송하고, 상기 클라우드 서버는 상기 복수의 사용자 단말로부터 미리 설정된 개수 이상의 개인화된 신경망 모델을 수집하면, 상기 수집된 개인화된 신경망 모델에 기초하여 상기 공통 신경망 모델을 업데이트하여 상기 사용자 단말로 제공할 수 있다.Wherein the user terminal transmits the updated personalized neural network model to the cloud server, and the cloud server collects a predetermined number or more of personalized neural network models from the plurality of user terminals, Thereby updating the common neural network model and providing the common neural network model to the user terminal.

상기 클라우드 서버는 상기 복수의 사용자 단말에서 각각 학습된 피드백 데이터의 수량과 상기 개인화된 신경망 모델별로 할당된 가중치를 기반으로 평균화하여 상기 공통 신경망 모델을 업데이트할 수 있다.The cloud server may update the common neural network model by averaging the number of feedback data learned from the plurality of user terminals and a weight assigned to each personalized neural network model.

또한, 본 발명의 제 2 측면에 따른 질의응답 시스템에서의 공통 신경망 모델 제공 방법은 초기 모델 학습 데이터에 기초하여 공통 신경망 모델을 학습하는 단계; 상기 학습이 완료됨에 따라 상기 공통 신경망 모델을 복수의 사용자 단말로 제공하는 단계; 상기 사용자 단말에서 상기 공통 신경망 모델을 개인화된 신경망 모델로 업데이트함에 따라, 상기 업데이트된 개인화된 신경망 모델을 수집하는 단계; 상기 수집된 개인화된 신경망 모델에 기초하여 상기 공통 신경망 모델을 업데이트하는 단계 및 상기 업데이트된 공통 신경망 모델을 상기 복수의 사용자 단말로 제공하는 단계를 포함한다.According to a second aspect of the present invention, there is provided a method of providing a common neural network model in a query response system, comprising: learning a common neural network model based on initial model learning data; Providing the common neural network model to a plurality of user terminals as the learning is completed; Collecting the updated personalized neural network model by updating the common neural network model with a personalized neural network model at the user terminal; Updating the common neural network model based on the collected personalized neural network model and providing the updated common neural network model to the plurality of user terminals.

상기 사용자 단말은 상기 공통 신경망 모델에 기초하여 개인 정보를 포함하는 텍스트 데이터 및 사용자에 의해 입력된 질의 데이터에 해당하는 응답 데이터 및 근거 데이터를 사용자에게 제공할 수 있다.The user terminal can provide the user with the text data including the personal information and the response data and the ground data corresponding to the query data input by the user based on the common neural network model.

상기 사용자 단말은 상기 응답 데이터 및 근거 데이터를 제공함에 따라 사용자의 피드백을 수신하고, 상기 피드백된 데이터에 기초하여 상기 공통 신경망 모델을 자신의 사용자 단말에 대응하는 개인화된 신경망 모델로 업데이트할 수 있다.The user terminal may receive user feedback as it provides the response data and evidence data and may update the common neural network model with a personalized neural network model corresponding to its user terminal based on the feedback data.

상기 사용자 단말은 기 설정된 학습 수량 이상의 피드백 데이터가 누적된 경우 상기 공통 신경망 모델을 상기 개인화된 신경망 모델로 업데이트할 수 있다.The user terminal may update the common neural network model with the personalized neural network model if feedback data of a predetermined learning quantity or more is accumulated.

본 발명의 일 실시예에 따른 공통 신경망 모델 제공 방법은 상기 사용자 단말로부터 상기 업데이트된 개인화된 신경망 모델을 수신하는 단계; 상기 복수의 사용자 단말로부터 미리 설정된 개수 이상의 개인화된 신경망 모델을 수집한 경우, 상기 수집된 개인화된 신경망 모델에 기초하여 상기 공통 신경망 모델을 업데이트하는 단계 및 상기 업데이트된 공통 신경망 모델을 상기 사용자 단말로 제공하는 단계를 더 포함할 수 있다.The method of providing a common neural network model according to an exemplary embodiment of the present invention includes: receiving the updated personalized neural network model from the user terminal; Updating the common neural network model based on the collected personalized neural network model when collecting a predetermined number or more of personalized neural network models from the plurality of user terminals and providing the updated common neural network model to the user terminal The method comprising the steps of:

또한, 본 발명의 제 3 측면에 따른 공통 신경망 모델을 학습 및 제공하는 클라우드 서버는 복수의 사용자 단말과 데이터를 송수신하는 통신모듈, 공통 신경망 모델을 학습 및 제공하기 위한 프로그램이 저장된 메모리 및 상기 메모리에 저장된 프로그램을 실행시키는 프로세서를 포함한다. 이때, 상기 프로세서는 상기 프로그램을 실행시킴에 따라, 초기 모델 학습 데이터에 기초하여 공통 신경망 모델을 학습하고, 상기 학습된 공통 신경망 모델을 상기 복수의 사용자 단말로 제공하며, 상기 사용자 단말에서 상기 공통 신경망 모델을 개인화된 신경망 모델로 업데이트함에 따라, 상기 업데이트된 개인화된 신경망 모델을 수집하고, 상기 수집된 개인화된 신경망 모델에 기초하여 상기 공통 신경망 모델을 업데이트하여 상기 복수의 사용자 단말로 제공할 수 있다.The cloud server for learning and providing the common neural network model according to the third aspect of the present invention includes a communication module for transmitting and receiving data with a plurality of user terminals, a memory for storing a program for learning and providing a common neural network model, And a processor for executing the stored program. At this time, as the program is executed, the processor learns the common neural network model based on the initial model learning data and provides the learned common neural network model to the plurality of user terminals, Updating the model to a personalized neural network model, collecting the updated personalized neural network model, and updating the common neural network model based on the collected personalized neural network model to provide the updated personalized neural network model to the plurality of user terminals.

상기 프로세서는 상기 복수의 사용자 단말로부터 미리 설정된 개수 이상의 개인화된 신경망 모델을 수집하면, 상기 수집된 개인화된 신경망 모델에 기초하여 상기 공통 신경망 모델을 업데이트하여 상기 사용자 단말로 제공할 수 있다.The processor may collect the personalized neural network models more than a predetermined number from the plurality of user terminals, and may update the common neural network model based on the collected personalized neural network model and provide the same to the user terminal.

상기 사용자 단말은 상기 공통 신경망 모델에 기초하여 개인 정보를 포함하는 텍스트 데이터 및 사용자에 의해 입력된 질의 데이터에 해당하는 응답 데이터 및 근거 데이터를 사용자에게 제공할 수 있다.The user terminal can provide the user with the text data including the personal information and the response data and the ground data corresponding to the query data input by the user based on the common neural network model.

상기 사용자 단말은 상기 응답 데이터 및 근거 데이터를 제공함에 따라 사용자 피드백을 수신하고, 상기 피드백된 데이터에 기초하여 상기 공통 신경망 모델을 자신의 사용자 단말에 대응하는 개인화된 신경망 모델로 업데이트할 수 있다.The user terminal may receive user feedback as it provides the response data and the evidence data, and may update the common neural network model with a personalized neural network model corresponding to its user terminal based on the feedback data.

전술한 본 발명의 과제 해결 수단 중 어느 하나에 의하면, 각 사용자가 실제 사용하는 데이터 및 환경에서 신경망 모델 학습을 가능하게 함으로써 개인화된 질의응답 시스템을 제공할 수 있다.According to any one of the above-mentioned objects of the present invention, it is possible to provide a personalized question and answer system by enabling a neural network model learning in actual data and environments used by each user.

또한, 개인 정보 데이터가 아닌 신경망 모델의 가중치 데이터를 온라인 상으로 전송함으로써 개인 정보를 보호할 수 있다는 효과가 있다.In addition, there is an effect that personal information can be protected by transmitting weight data of a neural network model other than personal information data on-line.

도 1은 본 발명의 일 실시예에 따른 질의응답 시스템을 개략적으로 설명하기 위한 도면이다.
도 2는 본 발명의 일 실시예에 따른 클라우드 서버의 블록도이다.
도 3은 공통 신경망 모델을 설명하기 위한 도면이다.
도 4는 본 발명의 일 실시예에 따른 공통 신경망 모델 제공 방법의 순서도이다.
도 5는 사용자 단말에서 개인화된 신경망 모델을 업데이트하는 과정의 순서도이다.1 is a schematic diagram for explaining a query response system according to an embodiment of the present invention.
2 is a block diagram of a cloud server according to an embodiment of the present invention.
3 is a diagram for explaining a common neural network model.
4 is a flowchart of a method of providing a common neural network model according to an embodiment of the present invention.
5 is a flowchart of a process of updating a personalized neural network model at a user terminal.

아래에서는 첨부한 도면을 참조하여 본원이 속하는 기술 분야에서 통상의 지식을 가진 자가 용이하게 실시할 수 있도록 본원의 실시예를 상세히 설명한다. 그러나 본원은 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시예에 한정되지 않는다. 그리고 도면에서 본원을 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 유사한 부분에 대해서는 유사한 도면 부호를 붙였다.Hereinafter, embodiments of the present invention will be described in detail with reference to the accompanying drawings so that those skilled in the art can easily carry out the present invention. It should be understood, however, that the present invention may be embodied in many different forms and should not be construed as limited to the embodiments set forth herein. In the drawings, the same reference numbers are used throughout the specification to refer to the same or like parts.

명세서 전체에서 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있는 것을 의미한다.Whenever a component is referred to as "including" an element throughout the specification, it is to be understood that the element may include other elements, not the exclusion of any other element, unless the context clearly dictates otherwise.

도 1은 본 발명의 일 실시예에 따른 질의응답 시스템(1)을 개략적으로 설명하기 위한 도면이다. 도 2는 본 발명의 일 실시예에 따른 클라우드 서버(100)의 블록도이다. 도 3은 공통 신경망 모델(10)을 설명하기 위한 도면이다.1 is a schematic diagram for explaining a question and answer system 1 according to an embodiment of the present invention. 2 is a block diagram of a cloud server 100 according to an embodiment of the present invention. 3 is a diagram for explaining the common neural network model 10.

먼저 도 1을 참조하면, 본 발명의 일 실시예에 따른 질의응답 시스템(1)은 복수의 사용자 단말(200) 및 클라우드 서버(100)를 포함한다.Referring first to FIG. 1, a query response system 1 according to an embodiment of the present invention includes a plurality of user terminals 200 and a cloud server 100.

복수의 사용자 단말(200)은 사용자의 실사용 단말을 의미하여, 이때 복수의 사용자 단말(200)은 수십~수백만개가 구비될 수 있다.The plurality of user terminals 200 means a real user terminal of the user, and the user terminals 200 may include several tens to several millions.

사용자 단말(200)은 공통 신경망 모델(Shared Neural Model, 10)을 클라우드 서버(100)로부터 제공받아 개인 정보를 포함하는 텍스트 데이터를 분석함에 따라, 질의 데이터에 해당하는 응답 데이터 및 이의 근거 데이터를 사용자에게 제공한다.The user terminal 200 receives the shared neural model 10 from the cloud server 100 and analyzes the text data including the personal information, and transmits the response data corresponding to the query data, Lt; / RTI >

한편, 본 발명의 일 실시예에서의 사용자 단말(200)은 휴대용 단말기에 인터넷 통신과 정보 검색 등 컴퓨터 지원 기능을 추가한 지능형 단말기로서, 사용자가 원하는 다수의 응용 프로그램(즉, 애플리케이션)을 설치하여 실행할 수 있는 휴대폰, 스마트 폰(smart phone), 패드(Pad), 스마트 워치(Smart watch), 웨어러블(wearable) 단말, 기타 이동통신 단말 등일 수 있다.Meanwhile, the user terminal 200 according to an exemplary embodiment of the present invention is an intelligent terminal that adds a computer support function such as internet communication and information search to a portable terminal, and installs a plurality of application programs (i.e., applications) A mobile phone, a smart phone, a pad, a smart watch, a wearable terminal, and other mobile communication terminals.

클라우드 서버(100)는 원격 클라우드 서버 시스템으로 공통 신경망 모델(10)을 학습하고 학습된 모델을 사용자 단말에 배포한다.The cloud server 100 learns the common neural network model 10 as a remote cloud server system and distributes the learned model to user terminals.

이때, 클라우드 서버(100)는 도 2와 같이 통신모듈(110), 메모리(120) 및 프로세서(130)를 포함할 수 있다.At this time, the cloud server 100 may include a communication module 110, a memory 120, and a processor 130 as shown in FIG.

통신모듈(110)은 복수의 사용자 단말(200)과 데이터를 송수신한다. 이러한 통신모듈(110)은 유선 통신 모듈 및 무선 통신 모듈을 모두 포함할 수 있다. 유선 통신 모듈은 전화선 통신 장치, 케이블 홈(MoCA), 이더넷(Ethernet), IEEE1294, 통합 유선 홈 네트워크 및 RS-485 제어 장치로 구현될 수 있다. 또한, 무선 통신 모듈은 WLAN(wireless LAN), Bluetooth, HDR WPAN, UWB, ZigBee, Impulse Radio, 60GHz WPAN, Binary-CDMA, 무선 USB 기술 및 무선 HDMI 기술 등으로 구현될 수 있다.The communication module 110 transmits and receives data to and from a plurality of user terminals 200. The communication module 110 may include both a wired communication module and a wireless communication module. The wired communication module may be implemented by a telephone line communication device, a cable home (MoCA), an Ethernet, an IEEE1294, an integrated wired home network, and an RS-485 control device. In addition, the wireless communication module can be implemented with a wireless LAN (WLAN), Bluetooth, HDR WPAN, UWB, ZigBee, Impulse Radio, 60 GHz WPAN, Binary-CDMA, wireless USB technology and wireless HDMI technology.

메모리(120)에는 공통 신경망 모델(10)을 학습 및 제공하기 위한 프로그램이 저장되며, 프로세서(130)는 메모리(120)에 저장된 프로그램을 실행시킨다. In the memory 120, a program for learning and providing the common neural network model 10 is stored, and the processor 130 executes a program stored in the memory 120. [

여기에서, 메모리(120)는 전원이 공급되지 않아도 저장된 정보를 계속 유지하는 비휘발성 저장장치 및 휘발성 저장장치를 통칭하는 것이다.Herein, the memory 120 is collectively referred to as a nonvolatile storage device and a volatile storage device which keep the stored information even when power is not supplied.

예를 들어, 메모리(120)는 콤팩트 플래시(compact flash; CF) 카드, SD(secure digital) 카드, 메모리 스틱(memory stick), 솔리드 스테이트 드라이브(solid-state drive; SSD) 및 마이크로(micro) SD 카드 등과 같은 낸드 플래시 메모리(NAND flash memory), 하드 디스크 드라이브(hard disk drive; HDD) 등과 같은 마그네틱 컴퓨터 기억 장치 및 CD-ROM, DVD-ROM 등과 같은 광학 디스크 드라이브(optical disc drive) 등을 포함할 수 있다.For example, the memory 120 may be a compact flash (CF) card, a secure digital (SD) card, a memory stick, a solid-state drive (SSD) A magnetic computer storage device such as a NAND flash memory, a hard disk drive (HDD) and the like, and an optical disc drive such as a CD-ROM, a DVD-ROM, etc. .

한편 도 3을 참조하면, 본 발명의 일 실시예에서의 공통 신경망 모델(10)은 워드 신경망 모델(Word Neural Network, 11)과 응답 신경망 모델(Answer Neural Network, 12)을 포함한다.3, the common neural network model 10 according to an exemplary embodiment of the present invention includes a Word Neural Network 11 and an Answer Neural Network 12.

워드 신경망 모델(11)은 텍스트 데이터(P1)와 질의 데이터(P2)를 각각 실수 차원의 벡터로 임베딩한다. 이때, 워드 신경망 모델(11)은 단어별 임베딩 벡터 테이블과 문자 및 서브워드 기반의 신경망 모델을 혼합하여 텍스트 데이터(P1) 및 질의 데이터(P2)를 각각 실수 차원의 벡터로 임베딩할 수 있다.The word neural network model 11 embeds the text data P1 and the query data P2 as vectors of the real number dimension. At this time, the word neural network model 11 can embed the text data P1 and the query data P2 as a vector of the real number level by mixing the word-by-word embedded vector table and the character and subword-based neural network model.

여기에서, 텍스트 데이터(P1)는 사용자의 문자, 이메일, SNS 정보와 같은 개인정보 보호가 필요한 데이터를 의미한다. 텍스트 데이터(P1)는 사용자 단말에서 미리 설정된 방법에 따라 수집되어 공통 신경망 모델(10)에 입력될 수 있다.Here, the text data P1 means data requiring privacy protection such as user's character, e-mail, SNS information. The text data P1 may be collected according to a predetermined method at the user terminal and input to the common neural network model 10. [

또한, 질의 데이터(P2)는 자연어 형태의 사용자의 질의를 의미한다. 이때, 사용자 단말(200)은 키보드 입력이나 마이크 등을 통해 사용자의 질의를 인식할 수 있다.In addition, the query data P2 means a query of a user in a natural language form. At this time, the user terminal 200 can recognize the user's query through a keyboard input or a microphone.

응답 신경망 모델(12)은 워드 신경망 모델(11)에 의해 임베딩된 결과에 따른 텍스트 데이터 벡터 및 질의 데이터 벡터에 기반하여 응답 데이터(P3)와, 그리고 응답 데이터(P3)에 대응되는 근거 데이터(P4)를 추론한다.The response neural network model 12 generates the response data P3 based on the text data vector and the query data vector according to the result embedded by the word neural network model 11 and the basis data P4 ).

이때, 응답 신경망 모델(12)은 MRC 기술로 개발된 다양한 알고리즘, 예를 들어 Bi-Directional Attention Flow, Self-Attention 등의 알고리즘이 적용될 수 있다.At this time, the response neural network model 12 may be implemented with various algorithms developed by MRC technology, for example, algorithms such as Bi-Directional Attention Flow and Self-Attention.

한편, 본 발명의 일 실시예에 상술한 공통 신경망 모델(10)을 SMS 및 이메일에 적용한 실시예는 다음과 같다. Meanwhile, an embodiment in which the common neural network model 10 described in the embodiment of the present invention is applied to SMS and e-mail is as follows.

먼저 SMS 실시예의 경우, 'SMS 목록'이 텍스트 데이터(P1)로 공통 신경망(10)의 입력으로 제공되고, 질의 데이터(P2)로 'A와 만나기로 한 날이 언제지?'라는 질의가 공통 신경망 모델(10)의 입력으로 제공된다.First, in the case of the SMS embodiment, the 'SMS list' is provided as the input of the common neural network 10 as the text data P1 and the query 'When is the day to meet with A' as the query data P2? And is provided as an input of the model 10.

이에 따라, 공통 신경망 모델(10)은 응답 데이터(P3)로 '금요일'을 출력하고, 응답 데이터(P3)에 대응되는 근거 데이터(P4)로 '(보낸사람 A) 그럼 금요일에 봐요'를 출력한다.Accordingly, the common neural network model 10 outputs 'Friday' as the response data P3 and outputs 'See (Sender A) on Friday' as the basis data P4 corresponding to the response data P3 do.

이와 같은 응답 데이터(P3)와 근거 데이터(P4)에 대해 사용자 단말(200)은 정답 여부를 'CORRECT/INCORRECT 버튼' 등의 사용자 인터랙션을 통해 수집할 수 있으며, 이는 추후 개인화된 신경망 모델(20)로 업데이트시 사용자 피드백으로 이용된다.The user terminal 200 can collect the response data P3 and the ground data P4 through user interaction such as 'CORRECT / INCORRECT button', which will be referred to as a personalized neural network model 20, Is used as user feedback.

또 다른 예로 이메일 실시예의 경우, '이메일 텍스트'가 텍스트 데이터(P1)로 공통 신경망(10)의 입력으로 제공되고, 질의 데이터(P2)로 '오늘 10시 회의 장소가 어디지?'라는 질의가 공통 신경망 모델(10)의 입력으로 제공된다.As another example, in the case of the e-mail embodiment, the "e-mail text" is provided as the input of the common neural network 10 as the text data P1, and the query "Where is the meeting site 10 o'clock today? Is provided as an input to the neural network model (10).

이에 따라, 공통 신경망 모델(10)은 응답 데이터(P3)로 '7 연구동 462호 회의실'을 출력하고, 응답 데이터(P3)에 대응되는 근거 데이터(P4)로 '회의는 1월 5일(금) 10시에 7 연구동 462호 회의실에서 하도록 하겠습니다'를 출력한다.Accordingly, the common neural network model 10 outputs' 7 Study Meeting Room 462 'as the response data P3 and the meeting data P4 corresponding to the response data P3' I will do it at the meeting room of the 7th Research Building No. 462 at 10 o'clock. '

이와 같은 응답 데이터(P3) 및 근거 데이터(P4)에 대한 정답 여부로 'CORRECT/INCORRECT 버튼' 등의 사용자 인터랙션이 수집될 수 있다.A user interaction such as a 'CORRECT / INCORRECT button' may be collected depending on the answer to the answer data P3 and the basis data P4.

이하에서는 클라우드 서버(100)에 의해 상술한 공통 신경망 모델(10)이 학습 및 배포되는 내용을 보다 구체적으로 설명하도록 한다.Hereinafter, the contents of learning and distribution of the common neural network model 10 described above by the cloud server 100 will be described in more detail.

본 발명의 일 실시예는 크게 초기 모델 학습 및 배포 과정, 개인화된 신경망 모델(20) 업데이트 과정 및 공통 신경망 모델(10) 업데이트 및 재배포 과정을 수행한다.One embodiment of the present invention largely performs an initial model learning and distribution process, a personalized neural network model 20 update process, and a common neural network model 10 update and redistribution process.

먼저, 클라우드 서버(100)의 프로세서(130)는 메모리(120)에 저장된 프로그램을 실행시킴에 따라, 초기 모델 학습 데이터에 기초하여 공통 신경망 모델(10)을 학습하고, 학습이 완료됨에 따라 공통 신경망 모델(10)을 복수의 사용자 단말(200)로 제공한다.First, the processor 130 of the cloud server 100 learns the common neural network model 10 based on the initial model learning data as the program stored in the memory 120 is executed, and when the learning is completed, And provides the model 10 to a plurality of user terminals 200.

이때, 본 발명의 일 실시예에서 초기 모델 학습 데이터는 위키백과나 뉴스에 기반한 MRC(Machine Reading Comprehension) 모델 학습 데이터일 수 있다.At this time, in one embodiment of the present invention, the initial model learning data may be MRC (Machine Reading Comprehension) model learning data based on Wikipedia or News.

공통 신경망 모델(10)이 복수의 사용자 단말(200)로 제공되고 나면, 사용자 단말(200)은 공통 신경망 모델(10)에 기초하여 텍스트 데이터(P1)를 분석하여, 질의 데이터(P2)에 해당하는 응답 데이터(P3) 및 근거 데이터(P4)를 사용자에게 제공할 수 있다.When the common neural network model 10 is provided to a plurality of user terminals 200, the user terminal 200 analyzes the text data P1 on the basis of the common neural network model 10, And can provide the user with the response data P3 and the basis data P4.

이후 사용자 단말(200)은 응답 데이터(P3) 및 근거 데이터(P4)를 제공함에 따라 사용자 피드백을 수신하게 되고, 이러한 피드백 데이터에 기초하여 공통 신경망 모델(10)을 자신의 사용자 단말(200)에 대응되는 개인화된 신경망 모델(personalized Neural Model, 20)로 업데이트 할 수 있다.Thereafter, the user terminal 200 receives the user feedback by providing the response data P3 and the basis data P4, and based on this feedback data, transmits the common neural network model 10 to its user terminal 200 Can be updated to a corresponding personalized neural model (20).

이때, 사용자 단말(200)은 미리 설정된 조건을 만족하는 경우 공통 신경망 모델(10)을 개인화된 신경망 모델(20)로 업데이트할 수 있다.At this time, the user terminal 200 can update the common neural network model 10 to the personalized neural network model 20 when the predetermined condition is satisfied.

예를 들어, 사용자 단말(200)은 미리 설정된 조건으로 미리 정의된 학습 수량 이상의 사용자 피드백이 누적된 경우, 충전 중이거나 사용자 단말(200)이 사용되지 않는 시간(예를 들어 야간 시간)인 경우 중 하나 이상을 만족하는 경우 상기 업데이트를 수행할 수 있다.For example, if the user terminal 200 accumulates user feedback more than a predefined learning quantity under preset conditions, or when the user terminal 200 is being charged or the user terminal 200 is not used (for example, at nighttime) If more than one is satisfied, the update may be performed.

업데이트가 완료됨에 따라 사용자 단말(200)은 업데이트된 개인화된 신경망 모델(20)을 클라우드 서버(100)로 전송한다. 이때, 사용자 단말(200)은 와이파이에 연결되어 있는 경우, 충전 중이거나 사용자 단말(200)이 사용되지 않는 시간인 경우 중 하나 이상을 만족하는 경우 상기 개인화된 신경망 모델(20)을 클라우드 서버(100)로 전송할 수 있다.Upon completion of the update, the user terminal 200 transmits the updated personalized neural network model 20 to the cloud server 100. At this time, if the user terminal 200 is connected to the Wi-Fi, is in the charging state, or is in a time when the user terminal 200 is not used, the personalized neural network model 20 is transmitted to the cloud server 100 ).

클라우드 서버(100)의 프로세서(130)는 통신모듈(110)을 통해 복수의 사용자 단말(200)로부터 미리 설정된 개수 이상의 개인화된 신경망 모델(20)을 수집하면, 수집된 개인화된 신경망 모델(20)에 기초하여 공통 신경망 모델(10)을 업데이트한다.The processor 130 of the cloud server 100 collects a predetermined number or more of the personalized neural network models 20 from the plurality of user terminals 200 through the communication module 110 and collects the collected personalized neural network models 20, The common neural network model 10 is updated.

이때, 프로세서(130)는 기본적인 업데이트 방법으로 각 사용자 단말(200)에서 사용자가 피드백하여 추가 학습에 사용된 피드백 데이터의 수량과 상기 개인화된 신경망 모델(20)별로 할당된 가중치를 기반으로 평균화하여 공통 신경망 모델(10)을 업데이트할 수 있다. 또한, 상술한 업데이트 방법과 함께 또는 이와 별개로 추가적인 업데이트 방법의 적용도 가능함은 물론이다.At this time, the processor 130 averages based on the number of feedback data used for the additional learning and the weight assigned to each personalized neural network model 20 by feedback from the user at each user terminal 200 as a basic update method, The neural network model 10 can be updated. It goes without saying that it is possible to apply the additional update method in addition to or in addition to the update method described above.

공통 신경망 모델(10)의 업데이트가 완료되면, 평가용 질의 및 응답 데이터 집합에서의 검증 및 최적화 과정을 거치게 되며, 이러한 과정이 완료됨에 따라 공통 신경망 모델(10)은 새로운 모델로 사용자 단말(200)에 다시 배포되게 된다.When the updating of the common neural network model 10 is completed, the verification and optimization process is performed on the evaluation query and the response data set. As the process is completed, the common neural network model 10 updates the user terminal 200 as a new model, .

참고로, 본 발명의 실시예에 따른 도 1 내지 도 3에 도시된 구성 요소들은 소프트웨어 또는 FPGA(Field Programmable Gate Array) 또는 ASIC(Application Specific Integrated Circuit)와 같은 하드웨어 형태로 구현될 수 있으며, 소정의 역할들을 수행할 수 있다.1 to 3 according to an embodiment of the present invention may be implemented in hardware such as software or an FPGA (Field Programmable Gate Array) or ASIC (Application Specific Integrated Circuit) Roles can be performed.

그렇지만 '구성 요소들'은 소프트웨어 또는 하드웨어에 한정되는 의미는 아니며, 각 구성 요소는 어드레싱할 수 있는 저장 매체에 있도록 구성될 수도 있고 하나 또는 그 이상의 프로세서들을 재생시키도록 구성될 수도 있다.However, 'components' are not meant to be limited to software or hardware, and each component may be configured to reside on an addressable storage medium and configured to play one or more processors.

따라서, 일 예로서 구성 요소는 소프트웨어 구성 요소들, 객체지향 소프트웨어 구성 요소들, 클래스 구성 요소들 및 태스크 구성 요소들과 같은 구성 요소들과, 프로세스들, 함수들, 속성들, 프로시저들, 서브루틴들, 프로그램 코드의 세그먼트들, 드라이버들, 펌웨어, 마이크로 코드, 회로, 데이터, 데이터베이스, 데이터 구조들, 테이블들, 어레이들 및 변수들을 포함한다.Thus, by way of example, an element may comprise components such as software components, object-oriented software components, class components and task components, processes, functions, attributes, procedures, Routines, segments of program code, drivers, firmware, microcode, circuitry, data, databases, data structures, tables, arrays, and variables.

구성 요소들과 해당 구성 요소들 안에서 제공되는 기능은 더 작은 수의 구성 요소들로 결합되거나 추가적인 구성 요소들로 더 분리될 수 있다.The components and functions provided within those components may be combined into a smaller number of components or further separated into additional components.

이하에서는 도 4 내지 도 5를 참조하여 본 발명의 일 실시예에 따른 질의응답 시스템(1)에서의 공통 신경망 모델 제공 방법을 설명하도록 한다.Hereinafter, a method of providing a common neural network model in the query response system 1 according to an embodiment of the present invention will be described with reference to FIGS. 4 to 5. FIG.

도 4는 본 발명의 일 실시예에 따른 공통 신경망 모델 제공 방법의 순서도이다. 도 5는 사용자 단말(200)에서 개인화된 신경망 모델(20)을 업데이트하는 과정의 순서도이다.4 is a flowchart of a method of providing a common neural network model according to an embodiment of the present invention. 5 is a flowchart of a process of updating the personalized neural network model 20 in the user terminal 200. FIG.

본 발명의 일 실시예에 따른 공통 신경망 모델 제공 방법은 먼저, 초기 모델 학습 데이터에 기초하여 공통 신경망 모델(10)을 학습한다(S110). 그리고 학습이 완료됨에 따라 공통 신경망 모델(10)을 복수의 사용자 단말(200)로 제공한다(S120).In the method of providing a common neural network model according to an embodiment of the present invention, first, the common neural network model 10 is learned based on initial model learning data (S110). As the learning is completed, the common neural network model 10 is provided to the plurality of user terminals 200 (S120).

이후, 사용자 단말(200)에서는 개인화된 신경망 모델(20)을 업데이트 하는 과정이 수행되는데 이과 관련하여 도 5를 참조하면, 사용자 단말(200)은 질의 데이터(P2)를 입력받으면(S210), 공통 신경망 모델(10)에 기초하여 개인 정보를 포함하는 텍스트 데이터(P1)를 분석하고(S220), 분석 결과에 따른 응답 데이터(P3)와 근거 데이터(P4)를 사용자에게 제공한다(S230).5, the user terminal 200 receives the inquiry data P2 (S210), and updates the personalized neural network model 20 (step S210) The text data P1 including the personal information is analyzed based on the neural network model in step S220 and the response data P3 and the ground data P4 are provided to the user according to the analysis result in step S230.

이후 사용자 단말(200)은 응답 데이터(P3)와 근거 데이터(P4)에 대한 사용자 피드백을 수신하고(S240), 피드백 데이터에 기초하여 공통 신경망 모델(10)을 자신의 사용자 단말(200)에 대응하는 개인화된 신경망 모델(20)로 업데이트하며(S250), 업데이트가 완료됨에 따라 개인화된 신경망 모델(20)을 클라우드 서버(100)로 전송한다(S260).Thereafter, the user terminal 200 receives the user feedback on the response data P3 and the ground data P4 (S240), and transmits the common neural network model 10 to the user terminal 200 The personalized neural network model 20 is updated to the personalized neural network model 20 in step S250 and the personalized neural network model 20 is transmitted to the cloud server 100 in step S260.

다시 도 4를 참조하면, 사용자 단말(200)에서 공통 신경망 모델(10)을 개인화된 신경망 모델(20)로 업데이트함에 따라, 복수의 사용자 단말(200)로부터 업데이트된 개인화된 신경망 모델(20)을 수집한다(S130).4, an updated personalized neural network model 20 is updated from a plurality of user terminals 200 by updating the common neural network model 10 with the personalized neural network model 20 at the user terminal 200 (S130).

그리고 수집된 개인화된 신경망 모델(20)에 기초하여 공통 신경망 모델(10)을 업데이트하고(S140), 업데이트된 공통 신경망 모델(10)을 복수의 사용자 단말(200)로 제공한다(S150).The common neural network model 10 is updated based on the collected personalized neural network model 20 in step S140 and the updated common neural network model 10 is provided to a plurality of user terminals 200 in step S150.

상술한 설명에서, 단계 S110 내지 S260은 본 발명의 구현예에 따라서, 추가적인 단계들로 더 분할되거나, 더 적은 단계들로 조합될 수 있다. 또한, 일부 단계는 필요에 따라 생략될 수도 있고, 단계 간의 순서가 변경될 수도 있다. 아울러, 기타 생략된 내용이라 하더라도 도 1 내지 도 3에서의 질의응답 시스템 및 클라우드 서버에 관하여 이미 기술된 내용은 도 4 및 도 5의 공통 신경망 모델 제공 방법에도 적용된다. In the above description, steps S110 to S260 may be further divided into additional steps or combined into fewer steps, according to an embodiment of the present invention. Also, some of the steps may be omitted as necessary, and the order between the steps may be changed. In addition, the contents already described with respect to the query response system and the cloud server in Figs. 1 to 3 apply to the common neural network model providing method of Figs. 4 and 5 even if other contents are omitted.

종래 기술의 경우 딥러닝 기술 적용을 위해서는 실제 사용 환경과 동일한 환경에서의 학습이 필요하지만, 개인정보 보호가 필요한 경우 기존과 같은 중앙 집중 형태의 데이터 수집 및 학습 방식을 적용할 수 없다는 문제가 있었다.In the case of the conventional technology, learning in the same environment as the actual environment is required for applying the deep learning technology. However, there is a problem that the conventional centralized data collection and learning method can not be applied when personal information protection is required.

그러나 본 발명의 일 실시예는 각 사용자가 실제 사용하는 데이터 및 환경에서 신경망 모델 학습을 가능하게 함으로써 전술한 문제점을 해소할 수 있는 개인화된 질의응답 시스템(1)을 제공할 수 있다.However, one embodiment of the present invention can provide a personalized question and answer system 1 capable of solving the above-described problems by enabling neural network model learning in actual data and environments used by each user.

또한, 개인 정보 데이터가 아닌 신경망 모델의 가중치 데이터를 온라인 상으로 전송함으로써 개인 정보를 보호할 수 있다는 효과가 있다.In addition, there is an effect that personal information can be protected by transmitting weight data of a neural network model other than personal information data on-line.

본 발명의 방법 및 시스템은 특정 실시예와 관련하여 설명되었지만, 그것들의 구성 요소 또는 동작의 일부 또는 전부는 범용 하드웨어 아키텍쳐를 갖는 컴퓨터 시스템을 사용하여 구현될 수 있다.While the methods and systems of the present invention have been described in connection with specific embodiments, some or all of those elements or operations may be implemented using a computer system having a general purpose hardware architecture.

전술한 본 발명의 설명은 예시를 위한 것이며, 본 발명이 속하는 기술분야의 통상의 지식을 가진 자는 본 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 쉽게 변형이 가능하다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적이 아닌 것으로 이해해야만 한다. 예를 들어, 단일형으로 설명되어 있는 각 구성 요소는 분산되어 실시될 수도 있으며, 마찬가지로 분산된 것으로 설명되어 있는 구성 요소들도 결합된 형태로 실시될 수 있다.It will be understood by those skilled in the art that the foregoing description of the present invention is for illustrative purposes only and that those of ordinary skill in the art can readily understand that various changes and modifications may be made without departing from the spirit or essential characteristics of the present invention. will be. It is therefore to be understood that the above-described embodiments are illustrative in all aspects and not restrictive. For example, each component described as a single entity may be distributed and implemented, and components described as being distributed may also be implemented in a combined form.

본 발명의 범위는 상기 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 균등 개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.The scope of the present invention is defined by the appended claims rather than the detailed description and all changes or modifications derived from the meaning and scope of the claims and their equivalents are to be construed as being included within the scope of the present invention do.

1: 질의응답 시스템
10: 공통 신경망 모델
20: 개인화된 신경망 모델
100: 클라우드 서버
200: 사용자 단말1: Q & A system
10: Common Neural Network Model
20: Personalized Neural Network Model
100: Cloud server
200: user terminal

Claims (18)

질의응답 시스템에 있어서,
공통 신경망 모델(Shared Neural Model)에 기초하여 개인 정보를 포함하는 텍스트 데이터 및 사용자에 의해 입력된 질의 데이터에 해당하는 응답 데이터 및 근거 데이터를 제공하는 복수의 사용자 단말 및
초기 모델 학습 데이터에 기초하여 상기 공통 신경망 모델을 학습하고, 상기 학습이 완료됨에 따라 상기 공통 신경망 모델을 상기 복수의 사용자 단말로 제공하는 클라우드 서버를 포함하는 질의응답 시스템.In a query response system,
A plurality of user terminals that provide text data including personal information based on a common neural model (Shared Neural Model) and response data and basis data corresponding to query data input by a user;
And a cloud server that learns the common neural network model based on initial model learning data and provides the common neural network model to the plurality of user terminals as the learning is completed. 제 1 항에 있어서,
상기 초기 모델 학습 데이터는 MRC(Machine Reading Comprehension) 모델 학습 데이터인 것인 질의응답 시스템.The method according to claim 1,
Wherein the initial model learning data is Machine Learning Comprehension (MRC) model learning data. 제 1 항에 있어서,
상기 공통 신경망 모델은 상기 텍스트 데이터 및 질의 데이터를 각각 실수 차원의 벡터로 임베딩하는 워드 신경망 모델과,
상기 임베딩된 결과에 따른 텍스트 데이터 벡터 및 질의 데이터 벡터에 기반하여 응답 데이터 및 상기 응답 데이터에 대응되는 근거 데이터를 추론하는 응답 신경망 모델을 포함하는 것인 질의응답 시스템.The method according to claim 1,
Wherein the common neural network model includes a word neural network model for embedding the text data and the query data into a vector of a real number dimension,
And a response neural network model for inferring response data based on the text data vector and the query data vector according to the embedded result and the basis data corresponding to the response data. 제 3 항에 있어서,
상기 워드 신경망 모델은 단어별 임베딩 벡터 테이블과 문자 및 서브워드 기반의 신경망 모델을 혼합하여 상기 텍스트 데이터 및 질의 데이터를 각각 실수 차원의 벡터로 임베딩하는 것인 질의응답 시스템.The method of claim 3,
Wherein the word neural network model embeds a word-by-word embedding vector table and a character and subword-based neural network model, and embeds the text data and query data into a vector of a real number dimension. 제 1 항에 있어서,
상기 사용자 단말은 상기 공통 신경망 모델에 기초하여 상기 텍스트 데이터를 분석함에 따라, 상기 질의 데이터에 해당하는 응답 데이터 및 근거 데이터를 제공하는 것인 질의응답 시스템. The method according to claim 1,
Wherein the user terminal provides response data and evidence data corresponding to the query data as the text data is analyzed based on the common neural network model. 제 5 항에 있어서,
상기 사용자 단말은 상기 응답 데이터 및 근거 데이터를 제공함에 따라 사용자의 피드백을 수신하고, 상기 피드백된 데이터에 기초하여 상기 공통 신경망 모델을 자신의 사용자 단말에 대응하는 개인화된 신경망 모델로 업데이트하는 것인 질의응답 시스템.6. The method of claim 5,
Wherein the user terminal is configured to receive user feedback as it provides the response data and the evidence data and to update the common neural network model with a personalized neural network model corresponding to its user terminal based on the feedback data Response system. 제 6 항에 있어서,
상기 사용자 단말은 기 설정된 학습 수량 이상의 피드백 데이터가 누적된 경우 상기 공통 신경망 모델을 상기 개인화된 신경망 모델로 업데이트하는 것인 질의응답 시스템.The method according to claim 6,
Wherein the user terminal updates the common neural network model with the personalized neural network model when feedback data of a predetermined learning quantity or more is accumulated. 제 6 항에 있어서,
상기 사용자 단말은 상기 업데이트된 개인화된 신경망 모델을 상기 클라우드 서버로 전송하고,
상기 클라우드 서버는 상기 복수의 사용자 단말로부터 미리 설정된 개수 이상의 개인화된 신경망 모델을 수집하면, 상기 수집된 개인화된 신경망 모델에 기초하여 상기 공통 신경망 모델을 업데이트하여 상기 사용자 단말로 제공하는 것인 질의응답 시스템.The method according to claim 6,
The user terminal sending the updated personalized neural network model to the cloud server,
Wherein the cloud server collects a predetermined number or more of personalized neural network models from the plurality of user terminals and updates the common neural network model based on the collected personalized neural network model and provides the same to the user terminal. . 제 8 항에 있어서,
상기 클라우드 서버는 상기 복수의 사용자 단말에서 각각 학습된 피드백 데이터의 수량과 상기 개인화된 신경망 모델별로 할당된 가중치를 기반으로 평균화하여 상기 공통 신경망 모델을 업데이트하는 것인 질의응답 시스템.9. The method of claim 8,
Wherein the cloud server updates the common neural network model by averaging based on a quantity of feedback data learned by the plurality of user terminals and a weight assigned to each personalized neural network model. 질의응답 시스템에서의 공통 신경망 모델 제공 방법에 있어서,
초기 모델 학습 데이터에 기초하여 공통 신경망 모델을 학습하는 단계;
상기 학습이 완료됨에 따라 상기 공통 신경망 모델을 복수의 사용자 단말로 제공하는 단계;
상기 사용자 단말에서 상기 공통 신경망 모델을 개인화된 신경망 모델로 업데이트함에 따라, 상기 업데이트된 개인화된 신경망 모델을 수집하는 단계;
상기 수집된 개인화된 신경망 모델에 기초하여 상기 공통 신경망 모델을 업데이트하는 단계 및
상기 업데이트된 공통 신경망 모델을 상기 복수의 사용자 단말로 제공하는 단계를 포함하는 공통 신경망 모델 제공 방법.A method for providing a common neural network model in a query response system,
Learning a common neural network model based on initial model learning data;
Providing the common neural network model to a plurality of user terminals as the learning is completed;
Collecting the updated personalized neural network model by updating the common neural network model with a personalized neural network model at the user terminal;
Updating the common neural network model based on the collected personalized neural network model; and
And providing the updated common neural network model to the plurality of user terminals. 제 10 항에 있어서,
상기 사용자 단말은 상기 공통 신경망 모델에 기초하여 개인 정보를 포함하는 텍스트 데이터 및 사용자에 의해 입력된 질의 데이터에 해당하는 응답 데이터 및 근거 데이터를 사용자에게 제공하는 것인 공통 신경망 모델 제공 방법.11. The method of claim 10,
Wherein the user terminal provides the user with the text data including the personal information and the response data and the basis data corresponding to the query data input by the user based on the common neural network model. 제 11 항에 있어서,
상기 사용자 단말은 상기 응답 데이터 및 근거 데이터를 제공함에 따라 사용자의 피드백을 수신하고, 상기 피드백된 데이터에 기초하여 상기 공통 신경망 모델을 자신의 사용자 단말에 대응하는 개인화된 신경망 모델로 업데이트하는 것인 공통 신경망 모델 제공 방법.12. The method of claim 11,
Wherein the user terminal receives user feedback as it provides the response data and the evidence data and updates the common neural network model with a personalized neural network model corresponding to its user terminal based on the feedback data A method of providing a neural network model. 제 12 항에 있어서,
상기 사용자 단말은 기 설정된 학습 수량 이상의 피드백 데이터가 누적된 경우 상기 공통 신경망 모델을 상기 개인화된 신경망 모델로 업데이트하는 것인 공통 신경망 모델 제공 방법.13. The method of claim 12,
Wherein the user terminal updates the common neural network model with the personalized neural network model when feedback data of a predetermined learning quantity or more is accumulated. 제 12 항에 있어서,
상기 사용자 단말로부터 상기 업데이트된 개인화된 신경망 모델을 수신하는 단계;
상기 복수의 사용자 단말로부터 미리 설정된 개수 이상의 개인화된 신경망 모델을 수집한 경우, 상기 수집된 개인화된 신경망 모델에 기초하여 상기 공통 신경망 모델을 업데이트하는 단계 및
상기 업데이트된 공통 신경망 모델을 상기 사용자 단말로 제공하는 단계를 더 포함하는 공통 신경망 모델 제공 방법.13. The method of claim 12,
Receiving the updated personalized neural network model from the user terminal;
Updating the common neural network model based on the collected personalized neural network model when collecting a predetermined number or more of personalized neural network models from the plurality of user terminals,
And providing the updated common neural network model to the user terminal. 공통 신경망 모델을 학습 및 제공하는 클라우드 서버에 있어서,
복수의 사용자 단말과 데이터를 송수신하는 통신모듈,
공통 신경망 모델을 학습 및 제공하기 위한 프로그램이 저장된 메모리 및
상기 메모리에 저장된 프로그램을 실행시키는 프로세서를 포함하되,
상기 프로세서는 상기 프로그램을 실행시킴에 따라, 초기 모델 학습 데이터에 기초하여 공통 신경망 모델을 학습하고, 상기 학습된 공통 신경망 모델을 상기 복수의 사용자 단말로 제공하며,
상기 사용자 단말에서 상기 공통 신경망 모델을 개인화된 신경망 모델로 업데이트함에 따라, 상기 업데이트된 개인화된 신경망 모델을 수집하고, 상기 수집된 개인화된 신경망 모델에 기초하여 상기 공통 신경망 모델을 업데이트하여 상기 복수의 사용자 단말로 제공하는 것인 클라우드 서버.CLAIMS What is claimed is: 1. A cloud server for learning and providing a common neural network model,
A communication module for transmitting and receiving data to and from a plurality of user terminals,
A memory for storing a program for learning and providing a common neural network model;
And a processor for executing a program stored in the memory,
Wherein the processor executes the program and learns a common neural network model based on initial model learning data and provides the learned common neural network model to the plurality of user terminals,
Collecting the updated personalized neural network model by updating the common neural network model with a personalized neural network model at the user terminal and updating the common neural network model based on the collected personalized neural network model, A cloud server that provides to the terminal. 제 15 항에 있어서,
상기 프로세서는 상기 복수의 사용자 단말로부터 미리 설정된 개수 이상의 개인화된 신경망 모델을 수집하면, 상기 수집된 개인화된 신경망 모델에 기초하여 상기 공통 신경망 모델을 업데이트하여 상기 사용자 단말로 제공하는 것인 클라우드 서버.16. The method of claim 15,
Wherein the processor collects a predetermined number or more of personalized neural network models from the plurality of user terminals and updates the common neural network model based on the collected personalized neural network model and provides the updated updated model to the user terminal. 제 15 항에 있어서,
상기 사용자 단말은 상기 공통 신경망 모델에 기초하여 개인 정보를 포함하는 텍스트 데이터 및 사용자에 의해 입력된 질의 데이터에 해당하는 응답 데이터 및 근거 데이터를 사용자에게 제공하는 것인 클라우드 서버.16. The method of claim 15,
Wherein the user terminal provides the user with the text data including the personal information and the response data and the ground data corresponding to the query data input by the user based on the common neural network model. 제 17 항에 있어서,
상기 사용자 단말은 상기 응답 데이터 및 근거 데이터를 제공함에 따라 사용자의 피드백을 수신하고, 상기 피드백된 데이터에 기초하여 상기 공통 신경망 모델을 자신의 사용자 단말에 대응하는 개인화된 신경망 모델로 업데이트하는 것인 클라우드 서버.18. The method of claim 17,
The user terminal receiving feedback of the user upon providing the response data and the evidence data and updating the common neural network model with a personalized neural network model corresponding to its user terminal based on the feedback data, server.
KR1020180075840A 2018-01-11 2018-06-29 Personalized question-answering system, cloud server for privacy protection and method for providing shared nueral model thereof KR102441422B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
US16/245,468 US20190213480A1 (en) 2018-01-11 2019-01-11 Personalized question-answering system and cloud server for private information protection and method of providing shared neural model thereof

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020180003643 2018-01-11
KR20180003643 2018-01-11

Publications (2)

Publication Number Publication Date
KR20190085823A true KR20190085823A (en) 2019-07-19
KR102441422B1 KR102441422B1 (en) 2022-09-07

Family

ID=67511886

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020180075840A KR102441422B1 (en) 2018-01-11 2018-06-29 Personalized question-answering system, cloud server for privacy protection and method for providing shared nueral model thereof

Country Status (1)

Country Link
KR (1) KR102441422B1 (en)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110750998A (en) * 2019-10-14 2020-02-04 腾讯科技（深圳）有限公司 Text output method and device, computer equipment and storage medium
WO2021141326A1 (en) * 2020-01-06 2021-07-15 삼성전자주식회사 Electronic device and control method thereof
KR102280489B1 (en) * 2020-11-19 2021-07-22 주식회사 두유비 Conversational intelligence acquisition method for intelligently performing conversation based on training on large-scale pre-trained model
KR20210133662A (en) * 2020-04-29 2021-11-08 한국전력공사 Big data platform for collaboration among heterogeneous organizations and big data learning method using common learning model
WO2022030669A1 (en) * 2020-08-03 2022-02-10 ㈜한국플랫폼서비스기술 Query-based deep learning inference system and method therefor
CN117874208A (en) * 2024-03-11 2024-04-12 羚羊工业互联网股份有限公司 Method for realizing large model memory sharing, knowledge question-answering method and related equipment thereof
CN117874208B (en) * 2024-03-11 2024-06-07 羚羊工业互联网股份有限公司 Method for realizing large model memory sharing, knowledge question-answering method and related equipment thereof

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20160002162A (en) * 2014-06-30 2016-01-07 한국전자통신연구원 Apparatus and method for question answering
KR20160060247A (en) * 2014-11-19 2016-05-30 한국전자통신연구원 System and Method for Question and answer of Natural Language and Paraphrase Module
KR20170030387A (en) * 2015-09-09 2017-03-17 삼성전자주식회사 User-based language model generating apparatus, method and voice recognition apparatus
KR20170045135A (en) * 2015-10-16 2017-04-26 바이두 유에스에이 엘엘씨 Systems and methods for human inspired simple question answering (hisqa)

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20160002162A (en) * 2014-06-30 2016-01-07 한국전자통신연구원 Apparatus and method for question answering
KR20160060247A (en) * 2014-11-19 2016-05-30 한국전자통신연구원 System and Method for Question and answer of Natural Language and Paraphrase Module
KR20170030387A (en) * 2015-09-09 2017-03-17 삼성전자주식회사 User-based language model generating apparatus, method and voice recognition apparatus
KR20170045135A (en) * 2015-10-16 2017-04-26 바이두 유에스에이 엘엘씨 Systems and methods for human inspired simple question answering (hisqa)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110750998A (en) * 2019-10-14 2020-02-04 腾讯科技（深圳）有限公司 Text output method and device, computer equipment and storage medium
CN110750998B (en) * 2019-10-14 2023-10-31 腾讯科技（深圳）有限公司 Text output method, device, computer equipment and storage medium
WO2021141326A1 (en) * 2020-01-06 2021-07-15 삼성전자주식회사 Electronic device and control method thereof
KR20210133662A (en) * 2020-04-29 2021-11-08 한국전력공사 Big data platform for collaboration among heterogeneous organizations and big data learning method using common learning model
WO2022030669A1 (en) * 2020-08-03 2022-02-10 ㈜한국플랫폼서비스기술 Query-based deep learning inference system and method therefor
KR102280489B1 (en) * 2020-11-19 2021-07-22 주식회사 두유비 Conversational intelligence acquisition method for intelligently performing conversation based on training on large-scale pre-trained model
CN117874208A (en) * 2024-03-11 2024-04-12 羚羊工业互联网股份有限公司 Method for realizing large model memory sharing, knowledge question-answering method and related equipment thereof
CN117874208B (en) * 2024-03-11 2024-06-07 羚羊工业互联网股份有限公司 Method for realizing large model memory sharing, knowledge question-answering method and related equipment thereof

Also Published As

Publication number Publication date
KR102441422B1 (en) 2022-09-07

Similar Documents

Publication Publication Date Title
KR20190085823A (en) Personalized question-answering system, cloud server for privacy protection and method for providing shared nueral model thereof
CN110832511B (en) System and method for learning on a distributed device with data-dependent availability
Sinha et al. Building an E Ective IoT Ecosystem for Your Business
CN111079006B (en) Message pushing method and device, electronic equipment and medium
CN105094305A (en) Method for identifying user behavior, user equipment and behavior identification server
CN106845644A (en) A kind of heterogeneous network of the contact for learning user and Mobile solution by correlation
US20180293513A1 (en) Computer system, and method and program for controlling edge device
Lee et al. Making smartphone service recommendations by predicting users’ intentions: A context-aware approach
CN105940433B (en) Notification engine
CN110415117A (en) Transaction processing method, device and electronic equipment based on block chain
US20120036199A1 (en) Sharing Data on Mobile Devices
CN111368973A (en) Method and apparatus for training a hyper-network
CN106302743A (en) The matching method of projector and mobile terminal and system
CN105988841A (en) Update method of application program, and mobile terminal
CN110837549B (en) Information processing method, device and storage medium
CN105824671B (en) Information processing method and electronic equipment
CN103177092A (en) Data updating method and system of knowledge base and knowledge base
CN108989383B (en) Data processing method and client
CN109189528A (en) The control method of pop-up displaying, pop-up methods of exhibiting
CN105610698B (en) The treating method and apparatus of event result
CN105224870A (en) Suspected virus applies the method and apparatus uploaded
CN102509477A (en) Hand-held terminal system for child
CN109413663B (en) Information processing method and equipment
Vitos et al. Community mapping by non-literate citizen scientists in the rainforest
Mrazovic et al. Mobics: Mobile platform for combining crowdsourcing and participatory sensing

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant