KR20220075638A

KR20220075638A - Method and Apparatus for Controlling Chatbot Response Based on User Characteristic Information in Unethical Situations

Info

Publication number: KR20220075638A
Application number: KR1020200163934A
Authority: KR
Inventors: 김우주
Original assignee: 연세대학교 산학협력단
Priority date: 2020-11-30
Filing date: 2020-11-30
Publication date: 2022-06-08
Also published as: KR102444814B1

Abstract

비윤리 상황에서 사용자 특성정보 기반 챗봇 대응 제어 방법 및 그를 위한 장치를 개시한다.
본 발명의 실시예에 따른 챗봇 대응 제어 방법은, 사용자 또는 외부 장치로부터 입력 데이터를 수신하는 입력 단계; 상기 입력 데이터에서 사용자 특성정보와 대화 문맥 정보를 추출하는 특성정보 추출 단계; 상기 사용자 특성정보 및 상기 대화 문맥 정보로 최종 상황 판단 결과를 도출하고, 최종 상황 판단 결과를 기반으로 비윤리 대화 상황 여부를 판단하여 대화 상황 판단결과를 생성하는 상황 판단 단계; 및 상기 대화 상황 판단결과를 기반으로 비윤리 상황에 대한 대응 방안을 결정하고, 결정된 상기 대응 방안에 대한 대응 데이터가 출력되도록 제어하는 대응 제어 단계를 포함할 수 있다. Disclosed are a method for controlling a chatbot response based on user characteristic information in an unethical situation and an apparatus therefor.
A chatbot response control method according to an embodiment of the present invention includes an input step of receiving input data from a user or an external device; a characteristic information extraction step of extracting user characteristic information and conversation context information from the input data; a situation determination step of deriving a final situation determination result using the user characteristic information and the dialogue context information, and generating a dialogue situation determination result by determining whether an unethical conversation situation exists based on the final situation determination result; and a response control step of determining a response plan for an unethical situation based on a result of the determination of the conversation situation, and controlling to output corresponding data for the determined response plan.

Description

{Method and Apparatus for Controlling Chatbot Response Based on User Characteristic Information in Unethical Situations}

본 발명은 비윤리 상황이 발생한 경우 사용자 특성정보를 기반으로 챗봇 대응을 제어하는 방법 및 그를 위한 장치에 관한 것이다. The present invention relates to a method and apparatus for controlling a chatbot response based on user characteristic information when an unethical situation occurs.

이 부분에 기술된 내용은 단순히 본 발명의 실시예에 대한 배경 정보를 제공할 뿐 종래기술을 구성하는 것은 아니다.The content described in this section merely provides background information on the embodiments of the present invention and does not constitute the prior art.

감성 ICT(Information & Communication Technology) 산업의 전세계 시장 규모는 2015년 185억 달러 규모에서, 2019년 270억 달러로 성장할 것으로 전망되며, 국내 감성 ICT 시장 규모는 2015년 6조원 규모에서 2019년에는 10조원 규모로 성장할 것으로 파악되고 있다. The global market size of the emotional ICT (Information & Communication Technology) industry is expected to grow from USD 18.5 billion in 2015 to USD 27 billion in 2019. It is expected to grow in size.

국내외적으로 대화 에이전트 및 감성 ICT 기술을 개발 및 실용화한 기관 및 기업이 증가하고 있으며 AI 스피커를 접목한 대화 에이전트에 대한 기술이 활발하게 진행되고 있다. 하지만, 기존까지의 대화 시스템은 사용자의 정보 및 상황, 대화의 맥락 등을 고려하지 않고 특정 목적에 제한적으로 적용이 가능한 경우가 많다. 또한, 사용자와의 대화에서 비윤리 상황에 대한 기준이 명확하지 않고, 비윤리 상황에서 챗봇의 대응을 제어하는 것을 어렵다. At home and abroad, the number of institutions and companies that have developed and put into practical use the conversational agent and emotional ICT technology is increasing, and the technology for the conversational agent grafted with AI speakers is actively progressing. However, there are many cases in which the conventional dialog system can be applied to a specific purpose without considering the user's information and situation, the context of the conversation, and the like. In addition, standards for unethical situations in conversations with users are not clear, and it is difficult to control the chatbot's response in unethical situations.

본 발명은 상대방과의 대화시 비이성적인 욕설 등의 윤리적 판단이 필요한 상황에서 적절한 대화 및 대응하여 인간다운 감성 및 심리를 반영한 디지털 동반자 기술 및 응용서비스를 제공하는 비윤리 상황에서 사용자 특성정보 기반 챗봇 대응 제어 방법 및 그를 위한 장치를 제공하는 데 주된 목적이 있다.The present invention responds to a chatbot based on user characteristic information in an unethical situation that provides a digital companion technology and application service that reflects human emotions and psychology by appropriately communicating and responding to situations that require ethical judgment such as irrational profanity in conversation with the other party A main object is to provide a control method and an apparatus therefor.

본 발명의 일 측면에 의하면, 상기 목적을 달성하기 위한 챗봇 대응 제어 방법은, 사용자 또는 외부 장치로부터 입력 데이터를 수신하는 입력 단계; 상기 입력 데이터에서 사용자 특성정보와 대화 문맥 정보를 추출하는 특성정보 추출 단계; 상기 사용자 특성정보 및 상기 대화 문맥 정보로 최종 상황 판단 결과를 도출하고, 최종 상황 판단 결과를 기반으로 비윤리 대화 상황 여부를 판단하여 대화 상황 판단결과를 생성하는 상황 판단 단계; 및 상기 대화 상황 판단결과를 기반으로 비윤리 상황에 대한 대응 방안을 결정하고, 결정된 상기 대응 방안에 대한 대응 데이터가 출력되도록 제어하는 대응 제어 단계를 포함할 수 있다. According to one aspect of the present invention, a chatbot response control method for achieving the above object includes an input step of receiving input data from a user or an external device; a characteristic information extraction step of extracting user characteristic information and conversation context information from the input data; a situation determination step of deriving a final situation determination result using the user characteristic information and the dialogue context information, and generating a dialogue situation determination result by determining whether an unethical conversation situation exists based on the final situation determination result; and a response control step of determining a response plan for an unethical situation based on a result of the determination of the conversation situation, and controlling to output corresponding data for the determined response plan.

또한, 본 발명의 다른 측면에 의하면, 상기 목적을 달성하기 위한 챗봇 대응 제어장치는, 사용자 또는 외부 장치로부터 입력 데이터를 수신하는 입력부; 상기 입력 데이터에서 사용자 특성정보와 대화 문맥 정보를 추출하는 특성정보 추출부; 상기 사용자 특성정보 및 상기 대화 문맥 정보로 최종 상황 판단 결과를 도출하고, 최종 상황 판단 결과를 기반으로 비윤리 대화 상황 여부를 판단하여 대화 상황 판단결과를 생성하는 상황 판단부; 및 상기 대화 상황 판단결과를 기반으로 비윤리 상황에 대한 대응 방안을 결정하고, 결정된 상기 대응 방안에 대한 대응 데이터가 출력되도록 제어하는 대응 제어부를 포함할 수 있다. In addition, according to another aspect of the present invention, a chatbot response control apparatus for achieving the above object includes: an input unit for receiving input data from a user or an external device; a characteristic information extraction unit for extracting user characteristic information and conversation context information from the input data; a situation determination unit for deriving a final situation determination result based on the user characteristic information and the dialogue context information, and generating a dialogue situation determination result by determining whether an unethical conversation situation exists based on the final situation determination result; and a response control unit that determines a response plan for an unethical situation based on a result of the determination of the conversation situation, and controls to output corresponding data for the determined response plan.

이상에서 설명한 바와 같이, 본 발명은 사용자의 정보 및 상황, 대화의 맥락 등을 고려하여 대화 상황을 판단할 수 있고, 이에 대한 적절한 챗봇 대응을 수행할 수 있는 효과가 있다.As described above, the present invention has the effect of being able to determine the conversation situation in consideration of the user's information and situation, the conversation context, and the like, and perform an appropriate chatbot response thereto.

도 1은 본 발명의 실시예에 따른 챗봇 대응 제어장치의 구성을 개략적으로 나타낸 도면이다.
도 2는 본 발명의 실시예에 따른 챗봇 대응 제어장치의 동작을 설명하기 위한 예시도이다.
도 3은 본 발명의 실시예에 따른 챗봇 대응 제어장치를 개략적으로 나타낸 블록 구성도이다.
도 4는 본 발명의 실시예에 따른 챗봇 제어 방법을 설명하기 위한 예시도이다.
도 5는 본 발명의 실시예에 따른 입력 데이터를 나타낸 예시도이다.
도 6은 본 발명의 실시예에 따른 챗봇 제어 프로그램의 프로세스를 나타낸 예시도이다.
도 7a 및 도 7b는 본 발명의 실시예에 따른 입력 데이터의 변수를 나타낸 예시도이다.1 is a diagram schematically showing the configuration of a chatbot response control apparatus according to an embodiment of the present invention.
2 is an exemplary diagram for explaining the operation of the chatbot response control apparatus according to an embodiment of the present invention.
3 is a block diagram schematically showing a chatbot response control apparatus according to an embodiment of the present invention.
4 is an exemplary diagram for explaining a chatbot control method according to an embodiment of the present invention.
5 is an exemplary diagram illustrating input data according to an embodiment of the present invention.
6 is an exemplary diagram illustrating a process of a chatbot control program according to an embodiment of the present invention.
7A and 7B are exemplary views illustrating variables of input data according to an embodiment of the present invention.

이하, 본 발명의 바람직한 실시예를 첨부된 도면들을 참조하여 상세히 설명한다. 본 발명을 설명함에 있어, 관련된 공지 구성 또는 기능에 대한 구체적인 설명이 본 발명의 요지를 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명은 생략한다. 또한, 이하에서 본 발명의 바람직한 실시예를 설명할 것이나, 본 발명의 기술적 사상은 이에 한정하거나 제한되지 않고 당업자에 의해 변형되어 다양하게 실시될 수 있음은 물론이다. 이하에서는 도면들을 참조하여 본 발명에서 제안하는 비윤리 상황에서 사용자 특성정보 기반 챗봇 대응 제어 방법 및 그를 위한 장치에 대해 자세하게 설명하기로 한다.Hereinafter, preferred embodiments of the present invention will be described in detail with reference to the accompanying drawings. In describing the present invention, if it is determined that a detailed description of a related known configuration or function may obscure the gist of the present invention, the detailed description thereof will be omitted. In addition, preferred embodiments of the present invention will be described below, but the technical spirit of the present invention is not limited thereto and may be variously implemented by those skilled in the art without being limited thereto. Hereinafter, a method for controlling a chatbot response based on user characteristic information in an unethical situation proposed by the present invention and an apparatus therefor will be described in detail with reference to the drawings.

본 발명에 따른 챗봇 대응 제어장치는 스마트 기기와 연계된 감성지능형 개인비서 시스템, 타겟 마케팅 및 컨텐츠 추천, 의료 산업, 감성교육 (social & emotional learning), 라이프 로깅 (life logging) 가능한 개인 일기 시스템, 엔터테인먼트 및 게임 등과 같이 다양한 분야에 적용 가능하다. The chatbot response control device according to the present invention is an emotional intelligence personal assistant system linked to a smart device, target marketing and content recommendation, medical industry, emotional education (social & emotional learning), personal diary system capable of life logging, entertainment And it can be applied to various fields such as games.

도 1은 본 발명의 실시예에 따른 챗봇 대응 제어장치의 구성을 개략적으로 나타낸 도면이다.1 is a diagram schematically showing the configuration of a chatbot response control apparatus according to an embodiment of the present invention.

도 1에 도시된 챗봇 대응 제어장치(100)는 컴퓨팅 기기로 구현될 수 있으며, 적어도 하나의 프로세서(110), 컴퓨터 판독 가능한 저장매체(120) 및 통신 버스(160)를 포함한다. The chatbot response control apparatus 100 shown in FIG. 1 may be implemented as a computing device, and includes at least one processor 110 , a computer-readable storage medium 120 , and a communication bus 160 .

챗봇 대응 제어장치(100)의 입력부(110)는 입출력 인터페이스(140) 또는 통신 인터페이스(150)에 대응할 수 있고, 특성정보 추출부(320), 상황 판단부(330) 및 대응 제어부(340)는 프로세서(110)에 대응할 수 있다. The input unit 110 of the chatbot response control device 100 may correspond to the input/output interface 140 or the communication interface 150, and the characteristic information extraction unit 320, the situation determination unit 330 and the corresponding control unit 340 are It may correspond to the processor 110 .

프로세서(110)는 챗봇 대응 제어장치(100)의 동작을 제어할 수 있다. 예컨대, 프로세서(110)는 컴퓨터 판독 가능한 저장매체(120)에 저장된 하나 이상의 프로그램들을 실행할 수 있다. 하나 이상의 프로그램들은 하나 이상의 컴퓨터 실행 가능 명령어를 포함할 수 있으며, 컴퓨터 실행 가능 명령어는 프로세서(110)에 의해 실행되는 경우 챗봇 대응 제어장치(100)로 하여금 예시적인 실시예에 따른 동작들을 수행하도록 구성될 수 있다.The processor 110 may control the operation of the chatbot corresponding control device 100 . For example, the processor 110 may execute one or more programs stored in the computer-readable storage medium 120 . The one or more programs may include one or more computer-executable instructions, which, when executed by the processor 110 , configure the chatbot-responsive control device 100 to perform operations according to the exemplary embodiment. can be

컴퓨터 판독 가능한 저장매체(120)는 컴퓨터 실행 가능 명령어 내지 프로그램 코드, 프로그램 데이터 및/또는 다른 적합한 형태의 정보를 저장하도록 구성된다. 컴퓨터 판독 가능한 저장매체(120)에 저장된 프로그램(130)은 프로세서(110)에 의해 실행 가능한 명령어의 집합을 포함한다. 일 실시예에서, 컴퓨터 판독한 가능 저장매체(120)는 메모리(랜덤 액세스 메모리와 같은 휘발성 메모리, 비휘발성 메모리, 또는 이들의 적절한 조합), 하나 이상의 자기 디스크 저장 디바이스들, 광학 디스크 저장 디바이스들, 플래시 메모리 디바이스들, 그 밖에 챗봇 대응 제어장치(100)에 의해 액세스되고 원하는 정보를 저장할 수 있는 다른 형태의 저장매체, 또는 이들의 적합한 조합일 수 있다.The computer-readable storage medium 120 is configured to store computer-executable instructions or program code, program data, and/or other suitable form of information. The program 130 stored in the computer-readable storage medium 120 includes a set of instructions executable by the processor 110 . In one embodiment, computer-readable storage medium 120 includes memory (volatile memory, such as random access memory, non-volatile memory, or a suitable combination thereof), one or more magnetic disk storage devices, optical disk storage devices, It may be flash memory devices, other types of storage media that can be accessed by the chatbot corresponding control apparatus 100 and store desired information, or a suitable combination thereof.

통신 버스(160)는 프로세서(110), 컴퓨터 판독 가능한 저장매체(120)를 포함하여 챗봇 대응 제어장치(100)의 다른 다양한 컴포넌트들을 상호 연결한다.The communication bus 160 interconnects various other components of the chatbot corresponding control device 100 including the processor 110 and the computer-readable storage medium 120 .

챗봇 대응 제어장치(100)는 또한 하나 이상의 입출력 장치를 위한 인터페이스를 제공하는 하나 이상의 입출력 인터페이스(140) 및 하나 이상의 통신 인터페이스(150)를 포함할 수 있다. 입출력 인터페이스(140) 및 통신 인터페이스(150)는 통신 버스(160)에 연결된다. 입출력 장치는 입출력 인터페이스(140)를 통해 챗봇 대응 제어장치(100)의 다른 컴포넌트들에 연결될 수 있다.The chatbot response control device 100 may also include one or more input/output interfaces 140 and one or more communication interfaces 150 that provide interfaces for one or more input/output devices. The input/output interface 140 and the communication interface 150 are connected to the communication bus 160 . The input/output device may be connected to other components of the chatbot corresponding control device 100 through the input/output interface 140 .

도 2는 본 발명의 실시예에 따른 챗봇 대응 제어장치의 동작을 설명하기 위한 예시도이다.2 is an exemplary diagram for explaining the operation of the chatbot response control apparatus according to an embodiment of the present invention.

본 발명의 실시예에 따른 챗봇 대응 제어장치(100)는 상대방과의 대화시 비이성적인 욕설 등의 윤리적 판단이 필요한 상황에서 적절한 대화 및 대응하여 인간다운 감성 및 심리를 반영한 디지털 동반자 기술 및 응용서비스를 제공하는 것을 목표로 한다. The chatbot response control device 100 according to an embodiment of the present invention provides a digital companion technology and application service that reflects human emotions and psychology by appropriately communicating and responding in situations that require ethical judgment such as irrational profanity in conversation with the other party. aims to provide

구체적으로, 챗봇 대응 제어장치(100)는 스스로의 판단에 따라, 욕설 등 반사회적 비윤리적 대화를 하지 않고 사회적 윤리적 가치와 대화를 유지하는 윤리지능 보유하는 것을 목표로 한다. 이를 위해, 챗봇 대응 제어장치(100)는 인공신경망 모델을 적용하여 사용자 특성정보와 비윤리 상황 정보를 반영하여 적절한 대응방식(동조, 제지, 침묵, 화제전환 등)을 추론하는 동작을 수행한다. Specifically, the chatbot response control device 100 aims to possess ethical intelligence that maintains social and ethical values and conversations without engaging in antisocial and unethical conversations such as profanity, according to its own judgment. To this end, the chatbot response control apparatus 100 applies an artificial neural network model to reflect user characteristic information and unethical situation information to infer an appropriate response method (synchronization, restraint, silence, topic change, etc.).

도 2는 챗봇 대응 제어장치(100)의 모델 아키텍처를 나타낸다. 2 shows a model architecture of the chatbot response control device 100 .

딥 러닝(deep learning)은 여러 비선형 변환기법의 조합을 통해 높은 수준의 추상화(abstractions, 다량의 데이터나 복잡한 자료들 속에서 핵심적인 내용 또는 기능을 요약하는 작업)를 시도하는 기계 학습 알고리즘의 집합으로 정의되며, 큰 틀에서 사람의 사고방식을 컴퓨터에게 가르치는 기계학습의 한 분야이다. 어떠한 데이터가 있을 때 이를 컴퓨터가 알아 들을 수 있는 형태(예를 들어 이미지의 경우는 픽셀정보를 열벡터로 표현하는 등)로 표현(representation)하고 이를 학습에 적용하기 위해 많은 연구(어떻게 하면 더 좋은 표현기법을 만들고 또 어떻게 이것들을 학습할 모델을 만들지에 대한)가 진행되고 있으며, 이러한 노력의 결과로 deep neural networks, convolutional deep neural networks, deep belief networks와 같은 다양한 딥 러닝 기법들이 컴퓨터 비전, 음성인식, 자연어 처리, 음성/신호처리 등의 분야에 적용되어 최첨단의 결과들을 보여주고 있다. Deep learning is a set of machine learning algorithms that attempt high-level abstractions (summarizing key contents or functions in large amounts of data or complex data) through a combination of several nonlinear transformation methods. It is defined and broadly a branch of machine learning that teaches computers how to think of humans. When there is some data, it is represented in a form that a computer can understand (for example, in the case of an image, pixel information is expressed as a column vector), and a lot of research (how to do better) to apply it to learning How to make expression techniques and how to make models to learn them) are in progress, and as a result of these efforts, various deep learning techniques such as deep neural networks, convolutional deep neural networks, and deep belief networks have been developed in computer vision and speech recognition. , natural language processing, speech/signal processing, etc. are applied to show cutting-edge results.

심층신경망(Deep Neural Network)은 딥러닝 알고리즘 중 하나로 입력층(input layer, 210)과 출력층(output layer, 230) 사이에 여러 개의 은닉층(hidden layer)들로 이루어진 인공신경망층(Artificial Neural Network layer, 220)이며 복잡한 비선형 관계(non-linear relationship)들을 모델링할 수 있다.　A deep neural network is one of the deep learning algorithms, an artificial neural network layer consisting of several hidden layers between an input layer 210 and an output layer 230. 220) and can model complex non-linear relationships.

인공 신경망은 노드들의 그룹으로 연결되어 있으며 이들은 뇌의 방대한 뉴런의 네트워크와 유사하다. 위 그림에서 각 원모양의 노드는 인공 뉴런을 나타내고 화살표는 하나의 뉴런의 출력에서 다른 하나의 뉴런으로의 입력을 나타낸다Artificial neural networks are connected by groups of nodes, similar to the vast network of neurons in the brain. In the figure above, each circular node represents an artificial neuron, and the arrow represents the input of one neuron from the output of another.

심층 신경망은 표준　오류역전파 알고리즘으로 학습될 수 있다. 이때, 가중치(weight, w)들은 아래의 등식을 이용한 확률적　경사 하강법(stochastic gradient descent)을 통하여 수학식 1과 같이 갱신될 수 있다.Deep neural networks can be trained with standard error backpropagation algorithms. In this case, the weights w may be updated as in Equation 1 through stochastic gradient descent using the following equation.

여기서

는 학습률(learning rate)를 의미하며, C는 비용함수(cost function)을 의미한다. 비용함수의 선택은 학습의 형태(지도학습, 비지도학습, 강화학습 등)와 활성화 함수(activation function)같은 요인들에 의해서 결정된다. 예를 들어서 다종 분류 문제(multiclass classification problem)에 지도 학습을 수행할 때, 일반적으로 활성화함수와 비용함수는 각각 softmax 함수와 교차 엔트로피 함수(cross entropy function)로 결정된다. softmax 함수는

로 정의된다, 이때,p_j는 클래스 확률(class probability)을 나타내며 x_j와 x_k는 각각 유닛 j로의 전체 입력(total input)과 유닛 k로의 전체 입력을 나타낸다. here

is the learning rate, and C is the cost function. The choice of cost function is determined by factors such as the type of learning (supervised learning, unsupervised learning, reinforcement learning, etc.) and the activation function. For example, when supervised learning is performed on a multiclass classification problem, an activation function and a cost function are generally determined as a softmax function and a cross entropy function, respectively. The softmax function is

, where p _j represents the class probability, and x _j and x _k represent the total input to unit j and the total input to unit k, respectively.

교차 엔트로피는　

로 정의된다. 이 때 d_j는 　출력 유닛 j에 대한 　목표 확률(target probability)을 나타내며, p_j는 해당 활성화함수를 적용한 이후의 j 에 대한 확률 출력(probability output)이다.cross entropy is

is defined as In this case, d _j represents the target probability for the output unit j, and p _j is the probability output for j after the corresponding activation function is applied.

도 2의 모델 입력층(210)은 도 5에 도시된 바와 같은 형태의 입력 데이터를 입력 받을 수 있다. 입력 데이터는 개개인의 사용자 특성정보, 비윤리 상황 정보 등을 포함할 수 있다. 또한, 사용자 특성정보는 도 7a 및 도 7b에 도시된 바와 같이, 다양한 변인을 포함할 수 있다. The model input layer 210 of FIG. 2 may receive input data in the form shown in FIG. 5 . The input data may include individual user characteristic information, unethical situation information, and the like. In addition, as shown in FIGS. 7A and 7B , the user characteristic information may include various variables.

도 2의 신경망층(220)은 히든 레이어르 포함하며, 다양한 형태의 신경망으로 구성될 수 있다. 신경망층(220)은 deep neural networks, convolutional deep neural networks, deep belief networks 등과 같은 다양한 딥 러닝 기법으로 구현될 수 있다. The neural network layer 220 of FIG. 2 includes a hidden layer and may be composed of various types of neural networks. The neural network layer 220 may be implemented by various deep learning techniques, such as deep neural networks, convolutional deep neural networks, and deep belief networks.

도 2의 모델 출력층(230)은 비윤리 상황으로 판단된 경우에 대해 입력에 따라 각 개인이 적절하다고 판단된 대응방식들을 출력할 수 있다. 여기서, 모델 출력층(230)은 화제전환, 동조, 제지, 침묵 등의 대응 방식으로 출력될 수 있다. The model output layer 230 of FIG. 2 may output a response method determined to be appropriate for each individual according to an input for a case where an unethical situation is determined. Here, the model output layer 230 may be output in a corresponding manner such as topic change, tuning, restraint, and silence.

도 3은 본 발명의 실시예에 따른 챗봇 대응 제어장치를 개략적으로 나타낸 블록 구성도이다. 3 is a block diagram schematically showing a chatbot response control apparatus according to an embodiment of the present invention.

본 실시예에 따른 챗봇 대응 제어장치(100)는 입력부(310), 특성정보 추출부(320), 상황 판단부(330) 및 대응 제어부(340)를 포함한다. 도 3의 챗봇 대응 제어장치(100)는 일 실시예에 따른 것으로서, 도 3에 도시된 모든 블록이 필수 구성요소는 아니며, 다른 실시예에서 챗봇 대응 제어장치(100)에 포함된 일부 블록이 추가, 변경 또는 삭제될 수 있다. 한편, 챗봇 대응 제어장치(100)는 컴퓨팅 디바이스로 구현될 수 있고, 챗봇 대응 제어장치(100)에 포함된 각 구성요소들은 각각 별도의 소프트웨어 프로그램으로 구현되거나, 소프트웨어가 결합된 별도의 하드웨어 장치로 구현될 수 있다.The chatbot response control apparatus 100 according to the present embodiment includes an input unit 310 , a characteristic information extraction unit 320 , a situation determination unit 330 , and a response control unit 340 . The chatbot response control device 100 of FIG. 3 is according to an embodiment, and not all blocks shown in FIG. 3 are essential components, and in another embodiment, some blocks included in the chatbot response control device 100 are added. , may be changed or deleted. On the other hand, the chatbot response control device 100 may be implemented as a computing device, and each component included in the chatbot response control device 100 is implemented as a separate software program, or as a separate hardware device combined with software. can be implemented.

챗봇 대응 제어장치(100)는 윤리적 판단과 의사결정에 영향을 미치는 개인적 특성을 연구하여 개인 윤리 성향에 근거한 윤리적 대응 추론을 수행한다. 여기서, 챗봇 대응 제어장치(100)는 사용자 특성과 상황 문맥의 상호작용을 고려하여 적합한 대응 방식을 추론하였다. 이를 위해 챗봇 대응 제어장치(100)는 인공신경망 모델을 활용하여 개인 윤리 성향 특성(Personality) 판단을 위한 대화 에이전트 초기화 문항 구축 및 판단 모듈을 개발하였다. 이하, 챗봇 대응 제어장치(100)에 포함된 구성요소 각각에 대해 기재하도록 한다. The chatbot response control device 100 studies personal characteristics that affect ethical judgment and decision-making, and performs ethical response inference based on personal ethical disposition. Here, the chatbot response control apparatus 100 infers a suitable response method in consideration of the interaction between user characteristics and contextual context. To this end, the chatbot response control device 100 uses an artificial neural network model to develop a dialogue agent initialization question construction and judgment module for judging personal ethics characteristics (Personality). Hereinafter, each of the components included in the chatbot response control device 100 will be described.

입력부(310)는 사용자 또는 외부 장치로부터 입력 데이터를 수신한다. 여기서, 입력 데이터는 대화 데이터, 사용자 특성정보 등을 포함할 수 있다. The input unit 310 receives input data from a user or an external device. Here, the input data may include conversation data, user characteristic information, and the like.

특성정보 추출부(320)는 입력 데이터에서 사용자 특성정보와 대화 문맥 정보를 추출한다. 여기서, 사용자 특성정보는 인구 통계, 성격 특성, 심리 특성, 심리 특성, 인공지능 관련 특성, 기 설정된 시나리오 특성 등에 대한 변수를 포함할 수 있다. The characteristic information extraction unit 320 extracts user characteristic information and conversation context information from the input data. Here, the user characteristic information may include variables for demographics, personality characteristics, psychological characteristics, psychological characteristics, artificial intelligence-related characteristics, preset scenario characteristics, and the like.

상황 판단부(330)는 사용자 특성정보를 기반으로 제1 상황 판단을 수행한다. The situation determination unit 330 performs a first situation determination based on the user characteristic information.

이후, 상황 판단부(330)는 대화 문맥 정보를 기반으로 제2 상황 판단을 수행한다. Thereafter, the situation determination unit 330 performs a second situation determination based on the conversation context information.

상황 판단부(330)는 제1 상황 판단 결과와 제2 상황 판단 결과를 혼합하여 최종 상황 판단 결과를 도출한다. 상황 판단부(330)는 사용자 특성정보에 기 설정된 우선순위에 대한 제1 가중치와 문맥 정보에 기 설정된 우선순위에 대한 제2 가중치를 고려하여 최종 상황 판단 결과를 도출할 수 있다. The situation determination unit 330 derives a final situation determination result by mixing the first situation determination result and the second situation determination result. The situation determination unit 330 may derive the final situation determination result in consideration of the first weight for the priority preset in the user characteristic information and the second weight for the priority preset in the context information.

상황 판단부(330)는 제1 상황 판단 결과에 제1 가중치를 부여하고, 제2 상황 판단 결과에 제2 가중치를 부여한 후 제1 상황 판단 결과와 제2 상황 판단 결과를 합산하여 판단 결과값을 산출하고, 판단 결과값을 기 설정된 판단 등급 기준과 비교하여 최종 상황 판단 결과를 도출할 수도 있다.The situation determination unit 330 assigns a first weight to the first situation determination result, assigns a second weight to the second situation determination result, and adds the first situation determination result and the second situation determination result to obtain a determination result value. It is also possible to calculate the final situation determination result by comparing the determination result value with a preset determination grade standard.

상황 판단부(330)는 최종 상황 판단 결과를 기반으로 비윤리 대화 상황 여부를 판단한다. The situation determination unit 330 determines whether there is an unethical conversation situation based on the final situation determination result.

대응 제어부(340)는 대화 상황 판단결과를 기반으로 비윤리 상황에 대한 대응 방안을 결정하고, 결정된 대응 방안에 대한 대응 데이터가 출력되도록 제어한다. 여기서, 대응 방안은 화제전환, 동조, 제지, 침묵 등과 같은 방안을 포함할 수 있다. The response control unit 340 determines a response plan for an unethical situation based on the conversation situation determination result, and controls the output of response data for the determined response plan. Here, the countermeasures may include measures such as topic change, sympathy, restraint, silence, and the like.

도 4는 본 발명의 실시예에 따른 챗봇 제어 방법을 설명하기 위한 예시도이다. 4 is an exemplary diagram for explaining a chatbot control method according to an embodiment of the present invention.

챗봇 대응 제어장치(100)는 사용자 또는 외부 장치로부터 입력 데이터를 수신한다(S410). 여기서, 입력 데이터는 대화 데이터, 사용자 특성정보 등을 포함할 수 있다. The chatbot response control apparatus 100 receives input data from a user or an external device (S410). Here, the input data may include conversation data, user characteristic information, and the like.

챗봇 대응 제어장치(100)는 입력 데이터에서 사용자 특성정보와 대화 문맥 정보를 추출한다(S420). 여기서, 사용자 특성정보는 인구 통계, 성격 특성, 심리 특성, 심리 특성, 인공지능 관련 특성, 기 설정된 시나리오 특성 등에 대한 변수를 포함할 수 있다. The chatbot response control apparatus 100 extracts user characteristic information and conversation context information from the input data (S420). Here, the user characteristic information may include variables for demographics, personality characteristics, psychological characteristics, psychological characteristics, artificial intelligence-related characteristics, preset scenario characteristics, and the like.

챗봇 대응 제어장치(100)는 사용자 특성정보 및 대화 문맥 정보로 최종 상황 판단 결과를 도출하고, 최종 상황 판단 결과를 기반으로 비윤리 대화 상황 여부를 판단한다(S430).The chatbot response control apparatus 100 derives a final situation determination result using user characteristic information and conversation context information, and determines whether an unethical conversation situation exists based on the final situation determination result (S430).

단계 S430의 판단 결과, 비윤리적 상황인 것으로 판단된 경우 챗봇 대응 제어장치(100)는 비윤리 상황에 대한 대응 방안을 결정하고, 결정된 대응 방안에 대한 대응 데이터가 출력되도록 제어한다(S450).As a result of the determination in step S430, when it is determined that the situation is unethical, the chatbot response control apparatus 100 determines a response plan for the unethical situation, and controls to output response data for the determined response plan (S450).

한편, 단계 S430의 판단 결과, 비윤리적 상황이 아닌 것으로 판단된 경우 챗봇 대응 제어장치(100)는 정상 대화 프로세스를 수행하여 정상 대화 데이터가 출력되도록 제어한다(S442).On the other hand, when it is determined that the situation is not unethical as a result of the determination in step S430, the chatbot response control apparatus 100 performs a normal conversation process to control normal conversation data to be output (S442).

도 4에서는 각 단계를 순차적으로 실행하는 것으로 기재하고 있으나, 반드시 이에 한정되는 것은 아니다. 다시 말해, 도 4에 기재된 단계를 변경하여 실행하거나 하나 이상의 단계를 병렬적으로 실행하는 것으로 적용 가능할 것이므로, 도 4는 시계열적인 순서로 한정되는 것은 아니다.Although it is described that each step is sequentially executed in FIG. 4 , the present invention is not limited thereto. In other words, since it may be applicable to changing and executing the steps described in FIG. 4 or executing one or more steps in parallel, FIG. 4 is not limited to a time-series order.

도 4에 기재된 본 실시예에 따른 챗봇 제어 방법은 애플리케이션(또는 프로그램)으로 구현되고 단말장치(또는 컴퓨터)로 읽을 수 있는 기록매체에 기록될 수 있다. 본 실시예에 따른 챗봇 제어 방법을 구현하기 위한 애플리케이션(또는 프로그램)이 기록되고 단말장치(또는 컴퓨터)가 읽을 수 있는 기록매체는 컴퓨팅 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록장치 또는 매체를 포함한다.The chatbot control method according to the present embodiment described in FIG. 4 may be implemented as an application (or program) and recorded in a terminal device (or computer) readable recording medium. The recording medium in which the application (or program) for implementing the chatbot control method according to the present embodiment is recorded and the terminal device (or computer) can read is any type of recording device in which data that can be read by the computing system is stored or includes media.

도 6은 본 발명의 실시예에 따른 챗봇 제어 프로그램의 프로세스를 나타낸 예시도이다. 6 is an exemplary diagram illustrating a process of a chatbot control program according to an embodiment of the present invention.

챗봇 대응 제어장치(100)는 챗봇 대화에서 도 6과 같은 프로세스로 사용자 특성 정보와 비윤리 상황 정보를 학습한다. The chatbot response control apparatus 100 learns user characteristic information and unethical situation information through the process shown in FIG. 6 in the chatbot conversation.

챗봇 대응 제어장치(100)는 학습 결과에 따라 입력 파일에 따른 상황을 판단하고, 현재 상황에 정답인 것으로 판단되는 적절한 대응방식(화제전환, 동조, 제지, 침묵 등)을 도출하여 출력한다. The chatbot response control apparatus 100 determines the situation according to the input file according to the learning result, and derives and outputs the appropriate response method (topic change, synchronization, restraint, silence, etc.) determined to be the correct answer to the current situation.

각각의 프로세스 단계에 대한 파일 및 그에 대한 동작을 [표 1]과 같이 정의될 수 있다. A file for each process step and its operation can be defined as shown in [Table 1].

이상의 설명은 본 발명의 실시예의 기술 사상을 예시적으로 설명한 것에 불과한 것으로서, 본 발명의 실시예가 속하는 기술 분야에서 통상의 지식을 가진 자라면 본 발명의 실시예의 본질적인 특성에서 벗어나지 않는 범위에서 다양한 수정 및 변형이 가능할 것이다. 따라서, 본 발명의 실시예들은 본 발명의 실시예의 기술 사상을 한정하기 위한 것이 아니라 설명하기 위한 것이고, 이러한 실시예에 의하여 본 발명의 실시예의 기술 사상의 범위가 한정되는 것은 아니다. 본 발명의 실시예의 보호 범위는 아래의 청구범위에 의하여 해석되어야 하며, 그와 동등한 범위 내에 있는 모든 기술 사상은 본 발명의 실시예의 권리범위에 포함되는 것으로 해석되어야 할 것이다.The above description is merely illustrative of the technical idea of the embodiment of the present invention, and those of ordinary skill in the art to which the embodiment of the present invention pertains may modify various modifications and transformation will be possible. Accordingly, the embodiments of the present invention are not intended to limit the technical spirit of the embodiment of the present invention, but to explain, and the scope of the technical spirit of the embodiment of the present invention is not limited by these embodiments. The protection scope of the embodiment of the present invention should be construed by the following claims, and all technical ideas within the scope equivalent thereto should be construed as being included in the scope of the embodiment of the present invention.

100: 챗봇 대응 제어장치
310: 입력부 320: 특성정보 추출부
330: 상황 판단부 340: 대응 제어부100: chatbot response control device
310: input unit 320: characteristic information extraction unit
330: situation determination unit 340: response control unit

Claims

A method for controlling a chatbot response in a chatbot response control device, the method comprising:
an input step of receiving input data from a user or an external device;
a characteristic information extraction step of extracting user characteristic information and conversation context information from the input data;
a situation determination step of deriving a final situation determination result using the user characteristic information and the dialogue context information, and generating a dialogue situation determination result by determining whether an unethical conversation situation exists based on the final situation determination result; and
A response control step of determining a response plan for an unethical situation based on a result of the conversation situation determination, and controlling the output of response data for the determined response plan
A chatbot response control method comprising a.

According to claim 1,
The situation determination step is,
performing a first situation determination based on the user characteristic information, and performing a second situation determination based on the conversation context information,
A chatbot response control method, characterized in that the final situation determination result is derived by mixing the first situation determination result and the second situation determination result.

3. The method of claim 2,
The situation determination step is,
A chatbot response control method, characterized in that the final situation determination result is derived in consideration of a preset weight for each of the user characteristic information and the conversation context information.

According to claim 1,
The corresponding control step is
A chatbot response control method, comprising controlling to output the corresponding data for at least one of topic change, tuning, restraint, and silence.

an input unit for receiving input data from a user or an external device;
a characteristic information extraction unit for extracting user characteristic information and conversation context information from the input data;
a situation determination unit for deriving a final situation determination result using the user characteristic information and the dialogue context information, and determining whether an unethical conversation situation exists based on the final situation determination result to generate a dialogue situation determination result; and
A response control unit that determines a response plan for an unethical situation based on a result of the conversation situation determination, and controls the output of response data for the determined response plan
A chatbot response control device comprising a.