KR20200119428A - Program of processing a message that provides feedback expression items - Google Patents

Program of processing a message that provides feedback expression items Download PDF

Info

Publication number
KR20200119428A
KR20200119428A KR1020190038405A KR20190038405A KR20200119428A KR 20200119428 A KR20200119428 A KR 20200119428A KR 1020190038405 A KR1020190038405 A KR 1020190038405A KR 20190038405 A KR20190038405 A KR 20190038405A KR 20200119428 A KR20200119428 A KR 20200119428A
Authority
KR
South Korea
Prior art keywords
user
information
feedback
item
feedback item
Prior art date
Application number
KR1020190038405A
Other languages
Korean (ko)
Inventor
이효섭
황우원
Original Assignee
주식회사 플랫팜
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 플랫팜 filed Critical 주식회사 플랫팜
Priority to KR1020190038405A priority Critical patent/KR20200119428A/en
Publication of KR20200119428A publication Critical patent/KR20200119428A/en

Links

Images

Classifications

    • G06Q50/50
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Systems or methods specially adapted for specific business sectors, e.g. utilities or tourism
    • G06Q50/30Transportation; Communications
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/20Natural language analysis
    • G06F40/205Parsing
    • G06F40/211Syntactic parsing, e.g. based on context-free grammar [CFG] or unification grammars
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L51/00User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail
    • H04L51/04Real-time or near real-time messaging, e.g. instant messaging [IM]

Abstract

The present invention relates to a program for providing a message service, which provides a message interface to a user terminal and processes messages and feedback items transmitted and received through the message interface. The program includes: a function to extract and analyze expression image item information and text information included in message box information; a function to extract and analyze user profile picture information, gender information, and status notification information included in user information; a function to derive an element to be input to a learning engine from the information extracted and analyzed from the message box information and the user information; a function to analyze a feedback item initial model by repeatedly learning the element-derived information through a machine learning algorithm; a function to generate a feedback item suitable for a conversation context based on the analyzed feedback item initial model and recommending the feedback item to a user; and a function to analyze the accuracy of the recommended feedback item, differentially express the feedback item including a calculated result value, and recommend the feedback item to the user.

Description

피드백 의사 표현 아이템을 제공하는 메시지 처리를 위한 프로그램{Program of processing a message that provides feedback expression items}Program for processing a message that provides feedback expression items

본 발명은 메시지 처리를 위한 프로그램에 관한 것이다. 보다 구체적으로, 본 발명은 상대방의 메시지에 대응하는 의사 표현을 위한 피드백 아이템을 제공하는 메시지 처리를 위한 프로그램에 관한 것이다.The present invention relates to a program for processing messages. More specifically, the present invention relates to a program for message processing that provides a feedback item for expressing an opinion corresponding to a message of a counterpart.

채팅서비스와 같은 메시지 서비스에 있어서, 사용자들의 감정을 나타내기 위해, 이모티콘이나 이모지 등의 다양한 형태의 표현 방식이 이용되고 있다.In a message service such as a chat service, various types of expression methods such as emoticons and emojis are used to express the emotions of users.

이모티콘은 채팅 서비스에서 서비스 사용자들의 감정을 나타내기 위해 사용하는 기호로써, 감정(Emotion)과 아이콘(Icon)을 합성한 용어이며, 초창기의 이모티콘은 키보드에 있는 각종 기호와 문자의 단순 조합으로 만들어졌지만, 최근에는 다양한 형태의 캐릭터 이미지를 통해 사용자의 감정을 나타내는 형태로 발전하였다.Emoticons are symbols used to express the emotions of service users in the chat service, and are a term that combines emotion and icon, and in the early days, emoticons were made with a simple combination of various symbols and letters on the keyboard. , In recent years, it has developed into a form representing the user's emotions through various types of character images.

또한, 이모지는 문자 조합에 기반한 이모티콘 방식과는 달리, 플랫폼 시스템의 글꼴 형태로 내재시킨 그림 문자를 출력하는 방식으로서, 입력된 이모지 코드에 대응하는 감정 표현 이미지가 출력되는 방식이 예시되고 있다.In addition, emoji is a method of outputting emoji embedded in a font form of a platform system, unlike an emoticon method based on character combination, and a method of outputting an emotional expression image corresponding to an input emoji code is exemplified.

이러한 이모지 및 이모티콘에 대한 서비스 사용자들의 수요가 증가하면서, 메시지 서비스에 다양한 종류의 이미지 아이템들을 지정하여 서비스 사용자들에게 제공하는 것이 일반화되었다.As service users' demand for such emojis and emoticons increases, it has become common to designate various types of image items in a message service and provide them to service users.

기존 채팅서비스는 사용자가 대화 내용을 입력하다가 이모지 및 이모티콘 선택 창을 열어 적당한 것을 선택하여 입력하였으나 최근 그 과정을 더욱 편리하게 하고자 사용자가 입력한 텍스트가 자동으로 이모지 또는 이모티콘으로 변환되어 표시되는 기술이 개발되기도 했다.In the existing chat service, the user entered the conversation contents and opened the emoji and emoticon selection window and selected and entered the appropriate one. However, in order to make the process more convenient, the text entered by the user is automatically converted to emoji or emoticon and displayed. Technology has also been developed.

그러나, 이러한 종래 기술은 단순히 특정 키워드가 입력되면 이를 미리 매칭된 이모티콘으로 변환하여 표시하는 것에 불과하기 때문에, 대화의 내용이나 문맥, 감정상태와는 전혀 무관하고, 대화 상황에 비추어 적절하지 못한 방식으로 표시되는 일도 허다하다.However, since such a conventional technology simply converts and displays a specific keyword into a pre-matched emoticon when a specific keyword is input, it is completely irrelevant to the content, context, and emotional state of the conversation, and in an inappropriate manner in the light of the conversation situation. There are a lot of things displayed.

이에 따라, 단순한 키워드 매칭을 통한 이모지, 이모티콘 변환 기술을 넘어 사용자의 감정상태와 대화 문맥을 고려하여 보다 적절한 이모지 및 이모티콘을 추천하는 등의 기술 개발이 필요한 실정이다.Accordingly, there is a need to develop technologies such as recommending more appropriate emojis and emoticons in consideration of the user's emotional state and conversation context, beyond simple keyword matching technology to convert emoji and emoticons.

본 발명은 상기한 바와 같은 문제점을 해결하고자 안출된 것으로, 사용자와 채팅 상대간에 대화를 입력하여 서로 주고 받는 메시지에서 이모지 및 이모티콘 등을 추천할 수 있도록 하되, 추천되는 이모지 및 이모티콘 등은 사용자의 감정 상태 및 메시지의 대화 문맥을 고려하여 피드백 아이템이 추천되도록 하는 메시지 처리를 위한 프로그램을 제공하는데 그 목적이 있다.The present invention was conceived to solve the above-described problems, and it is possible to recommend emojis and emoticons in messages exchanged with each other by entering a conversation between a user and a chat partner, but recommended emojis and emoticons are used by the user. An object of the present invention is to provide a program for processing a message in which a feedback item is recommended in consideration of the emotional state of the message and the dialogue context of the message.

상기한 바와 같은 과제를 해결하기 위한 본 발명의 실시 예에 따른 메시지 처리를 위한 프로그램은 사용자 단말기로 메시지 인터페이스를 제공하며, 상기 메시지 인터페이스를 통해 송수신되는 메시지 및 피드백 아이템을 처리하되, 메시지 박스 정보에 포함된 텍스트 정보 및 의사 표현 이미지 아이템 정보를 추출하고 분석하는 기능; 사용자 정보에 포함된 사용자의 프로필 사진 정보, 성별 정보, 상태 알림말 정보를 추출하고 분석하는 기능; 상기 메시지 박스 정보 및 사용자 정보에서 추출 및 분석된 정보로부터 학습 엔진에 입력될 요소를 도출하는 기능; 상기 요소 도출된 정보를 머신 러닝 알고리즘을 통해 반복적으로 학습하여 피드백 아이템 초기 모델을 분석하는 기능; 상기 분석된 피드백 아이템 초기 모델을 기반으로 대화 문맥에 적합한 피드백 아이템을 생성하여 사용자에게 추천하는 단계 및 상기 추천된 피드백 아이템의 정확도를 분석하여 산출 결과값을 포함한 피드백 아이템을 차등표현하여 사용자에게 추천해주는 기능을 포함한다.The program for message processing according to an embodiment of the present invention for solving the above-described problems provides a message interface to a user terminal, and processes messages and feedback items transmitted and received through the message interface, but the message box information A function of extracting and analyzing included text information and expression image item information; A function of extracting and analyzing the user's profile picture information, gender information, and status notification information included in the user information; A function of deriving an element to be input to the learning engine from the information extracted and analyzed from the message box information and user information; A function of analyzing an initial model of a feedback item by repeatedly learning the element-derived information through a machine learning algorithm; Creating a feedback item suitable for a conversation context based on the analyzed feedback item initial model and recommending it to the user, analyzing the accuracy of the recommended feedback item, and differentially expressing the feedback item including the calculated result value to recommend it to the user. Includes features.

본 발명의 실시 예에 따르면, 대화 상황과 문맥을 고려한 다양한 형태의 피드백 아이템이 추천되어 단순히 키워드 매칭을 통해 자동추천하는 공지의 알고리즘에 비해여 대화의 상황이나 문맥을 고려함으로써 피드백 아이템 추천의 적절성이 담보되는 효과가 있다.According to an embodiment of the present invention, various types of feedback items are recommended in consideration of the conversation situation and context, and the appropriateness of the feedback item recommendation is improved by considering the context or context of the conversation compared to a known algorithm that automatically recommends automatically through keyword matching. There is a collateral effect.

또한, 대화 내용을 통해 감정 및 대화 문맥을 고려함으로써 직전 발화 내에 표층적으로는 나타나지 않으나 내포되어 있는 감정을 고려할 수 있으며, 발화 자체만으로 표현되지 못한 감정을 보충할 수 있다.In addition, by considering the emotion and the dialogue context through the dialogue content, emotions that do not appear superficially in the immediately preceding utterance, but are embedded, can be considered, and emotions that cannot be expressed by the utterance itself can be supplemented.

도 1은 본 발명의 실시 예에 따른 전체 시스템을 개략적으로 도시한 도면이다.
도 2는 본 발명의 실시 예에 따른 서비스 제공 장치를 보다 구체적으로 도시한 블록도이다.
도 3은 본 발명의 실시 예에 따른 피드백 아이템 추천부를 보다 구체적으로 도시한 블록도이다.
도 4는 본 발명의 실시 예에 따른 피드백 아이템 추천 방법을 설명하기 위한 흐름도이다.
도 5 내지 도 28은 본 발명의 실시 예에 따라 제공되는 메시지 인터페이스를 설명하기 위한 도면들이다.
1 is a diagram schematically showing an entire system according to an embodiment of the present invention.
2 is a block diagram showing a service providing apparatus according to an embodiment of the present invention in more detail.
3 is a block diagram illustrating a feedback item recommendation unit according to an embodiment of the present invention in more detail.
4 is a flowchart illustrating a method of recommending a feedback item according to an embodiment of the present invention.
5 to 28 are diagrams for explaining a message interface provided according to an embodiment of the present invention.

이하의 내용은 단지 본 발명의 원리를 예시한다. 그러므로 당업자는 비록 본 명세서에 명확히 설명되거나 도시되지 않았지만 본 발명의 원리를 구현하고 본 발명의 개념과 범위에 포함된 다양한 장치를 발명할 수 있는 것이다. 또한, 본 명세서에 열거된 모든 조건부 용어 및 실시예들은 원칙적으로, 본 발명의 개념이 이해되도록 하기 위한 목적으로만 명백히 의도되고, 이와 같이 특별히 열거된 실시예들 및 상태들에 제한적이지 않는 것으로 이해되어야 한다.The following content merely illustrates the principles of the present invention. Therefore, those skilled in the art can implement the principles of the present invention and invent various devices included in the concept and scope of the present invention, although not clearly described or illustrated herein. In addition, it is understood that all conditional terms and examples listed in this specification are, in principle, expressly intended only for the purpose of making the concept of the present invention understood, and are not limited to the embodiments and states specifically listed as such. Should be.

또한, 본 발명의 원리, 관점 및 실시예들 뿐만 아니라 특정 실시예를 열거하는 모든 상세한 설명은 이러한 사항의 구조적 및 기능적 균등물을 포함하도록 의도되는 것으로 이해되어야 한다. 또한 이러한 균등물들은 현재 공지된 균등물뿐만 아니라 장래에 개발될 균등물 즉 구조와 무관하게 동일한 기능을 수행하도록 발명된 모든 소자를 포함하는 것으로 이해되어야 한다.In addition, it is to be understood that all detailed descriptions listing specific embodiments as well as principles, aspects and embodiments of the present invention are intended to include structural and functional equivalents of these matters. It should also be understood that these equivalents include not only currently known equivalents, but also equivalents to be developed in the future, that is, all devices invented to perform the same function regardless of structure.

따라서, 예를 들어, 본 명세서의 블럭도는 본 발명의 원리를 구체화하는 예시적인 회로의 개념적인 관점을 나타내는 것으로 이해되어야 한다. 이와 유사하게, 모든 흐름도, 상태 변환도, 의사 코드 등은 컴퓨터가 판독 가능한 매체에 실질적으로 나타낼 수 있고 컴퓨터 또는 프로세서가 명백히 도시되었는지 여부를 불문하고 컴퓨터 또는 프로세서에 의해 수행되는 다양한 프로세스를 나타내는 것으로 이해되어야 한다.Thus, for example, the block diagrams herein are to be understood as representing a conceptual perspective of exemplary circuits embodying the principles of the invention. Similarly, all flowcharts, state transition diagrams, pseudocodes, etc. are understood to represent various processes performed by a computer or processor, whether or not the computer or processor is clearly depicted and that can be represented substantially in a computer-readable medium. Should be.

또한 프로세서, 제어 또는 이와 유사한 개념으로 제시되는 용어의 명확한 사용은 소프트웨어를 실행할 능력을 가진 하드웨어를 배타적으로 인용하여 해석되어서는 아니되고, 제한 없이 디지털 신호 프로세서(DSP) 하드웨어, 소프트웨어를 저장하기 위한 롬(ROM), 램(RAM) 및 비 휘발성 메모리를 암시적으로 포함하는 것으로 이해되어야 한다. 주지관용의 다른 하드웨어도 포함될 수 있다.In addition, the explicit use of terms presented as processor, control, or similar concepts should not be interpreted exclusively by referring to hardware capable of executing software, and without limitation, digital signal processor (DSP) hardware, ROM for storing software. It should be understood to implicitly include (ROM), RAM, and non-volatile memory. Other commonly used hardware may also be included.

상술한 목적, 특징 및 장점은 첨부된 도면과 관련한 다음의 상세한 설명을 통하여 보다 분명해질 것이며, 그에 따라 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자가 본 발명의 기술적 사상을 용이하게 실시할 수 있을 것이다. 또한, 본 발명을 설명함에 있어서 본 발명과 관련된 공지 기술에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우에 그 상세한 설명을 생략하기로 한다.The above-described objects, features, and advantages will become more apparent through the following detailed description in connection with the accompanying drawings, whereby those of ordinary skill in the technical field to which the present invention pertains can easily implement the technical idea of the present invention. There will be. In addition, in describing the present invention, when it is determined that a detailed description of a known technology related to the present invention may unnecessarily obscure the subject matter of the present invention, a detailed description thereof will be omitted.

이하, 첨부된 도면을 참조하여 본 발명에 따른 바람직한 일실시예를 상세히 설명하기로 한다.Hereinafter, a preferred embodiment according to the present invention will be described in detail with reference to the accompanying drawings.

도 1은 본 발명의 실시 예에 따른 전체 시스템을 개략적으로 도시한 도면이다.1 is a diagram schematically showing an entire system according to an embodiment of the present invention.

도 1을 참조하면 본 발명의 일 실시 예에 따른 시스템은 복수의 사용자 단말(100) 및 서비스 제공 장치(200)를 포함할 수 있다.Referring to FIG. 1, a system according to an embodiment of the present invention may include a plurality of user terminals 100 and a service providing apparatus 200.

보다 구체적으로, 사용자 단말(100)들 및 서비스 제공 장치(200)는 네트워크를 통해 유선 또는 무선으로 연결될 수 있으며, 네트워크간 상호간 통신을 위해 각 사용자 단말(100) 및 서비스 제공 장치(200)는 인터넷 네트워크, LAN, WAN, PSTN(Public Switched Telephone Network), PSDN(Public Switched Data Network), 케이블 TV 망, WIFI, 이동 통신망 및 기타 무선 통신망 등을 통하여 데이터를 송수신할 수 있다. 또한, 각 사용자 단말(100) 및 서비스 제공 장치(200)는 각 통신망에 상응하는 프로토콜로 통신하기 위한 각각의 통신 모듈을 포함할 수 있다.More specifically, the user terminals 100 and the service providing apparatus 200 may be wired or wirelessly connected through a network, and each user terminal 100 and the service providing apparatus 200 may be connected to the Internet for communication between networks. Data can be transmitted and received through network, LAN, WAN, Public Switched Telephone Network (PSTN), Public Switched Data Network (PSDN), cable TV network, WIFI, mobile communication network, and other wireless communication networks. In addition, each user terminal 100 and the service providing apparatus 200 may include respective communication modules for communicating with a protocol corresponding to each communication network.

그리고, 본 명세서에서 설명되는 사용자 단말(100)에는 휴대폰, 스마트 폰(smart phone), 노트북 컴퓨터(laptop computer), 디지털방송용 단말, PDA(Personal Digital Assistants), PMP(Portable Multimedia Player), 네비게이션 등이 포함될 수 있으나, 본 발명은 이에 한정되지 아니하며 그 이외에 사용자 입력 및 정보 표시 등이 가능한 다양한 장치일 수 있다.In addition, the user terminal 100 described in the present specification includes a mobile phone, a smart phone, a laptop computer, a terminal for digital broadcasting, a personal digital assistant (PDA), a portable multimedia player (PMP), and a navigation system. Although it may be included, the present invention is not limited thereto, and may be various devices capable of user input and information display.

이와 같은 시스템에 있어서, 사용자 단말(100)은 서비스 제공 장치(200)와 연결되어 사용자 단말과의 메시지 인터페이스 서비스를 제공받을 수 있다.In such a system, the user terminal 100 may be connected to the service providing device 200 to receive a message interface service with the user terminal.

이러한 처리를 위해, 서비스 제공 장치(200)는 사용자 단말(100)로 메시지 인터페이스를 제공하고, 상기 메시지 인터페이스를 통해 수신된 메시지를 사용자 단말로 전달하거나, 사용자 단말로부터 수신된 메시지를 사용자 단말(100)로 전달하는 처리를 수행할 수 있다.For this processing, the service providing device 200 provides a message interface to the user terminal 100, transfers a message received through the message interface to the user terminal, or transmits a message received from the user terminal to the user terminal 100. ) Can be performed.

예를 들어, 서비스 제공 장치(200)는 채팅 서버 장치일 수 있으며, 사용자 단말(100)은 채팅 어플리케이션이 설치된 휴대용 단말일 수 있고, 서비스 제공 장치(200)는 각 사용자 단말 상호간 또는 사용자 단말들에 의해 생성된 그룹 내에서의 채팅 인터페이스를 제공하고, 상기 채팅 인터페이스를 통해 송수신되는 메시지를 중계 및 보관 처리할 수 있다.For example, the service providing device 200 may be a chat server device, the user terminal 100 may be a portable terminal with a chat application installed, and the service providing device 200 may be used between each user terminal or between user terminals. A chat interface within a group created by this can be provided, and messages transmitted and received through the chat interface can be relayed and stored.

서비스 제공 장치(200)에서 처리되는 메시지는 다양한 메시지 컨텐츠를 포함할 수 있으며, 상기 컨텐츠는 이메일, 단문 또는 장문 문자 메시지 포맷의 데이터를 포함할 수 있고, 서비스 제공 장치(200)는 상기 메시지 컨텐츠를 이동 통신망 또는 전용 인터넷망을 통해 상기 이메일, 단문 또는 장문 문자 메시지 포맷의 데이터를 전송할 수 있다.The message processed by the service providing device 200 may include various message content, the content may include data in an email, short or long text message format, and the service providing device 200 may include the message content. Data in the e-mail, short or long text message format may be transmitted through a mobile communication network or a dedicated Internet network.

한편, 서비스 제공 장치(200)는 통신 프로토콜 변환, 파일(File) 서버, 콜렉트(Collect) 서버, 푸시 게이트웨이(Gateway) 서버, 전송 서버, 어카운트 서버, 어드민 서버, 수신 서버, 변환 서버, 메시징 서버, 푸시(push) 수신 서버, 푸시 발송 서버 기능 등의 전반적인 역할을 수행하는 서버 장치로 구현될 수 있다.Meanwhile, the service providing device 200 includes a communication protocol conversion, a file server, a collect server, a push gateway server, a transmission server, an account server, an administration server, a reception server, a conversion server, a messaging server, It may be implemented as a server device that performs an overall role such as a push receiving server and a push sending server function.

또한, 사용자 단말(100)과 서비스 제공 장치(200)가 접속된 통신 네트워크가 각각 상이한 네트워크일 수 있으며, 이에 따라 서비스 제공 장치(200)는 각 네트워크 프로토콜에 따른 데이터 변환 처리를 제공할 수 있다. 그리고, 서비스 제공 장치(200)는 필요에 따라 메시지 정보의 전부 또는 일부를 암호화하여 관리할 수 있다.In addition, communication networks to which the user terminal 100 and the service providing device 200 are connected may be different networks, and accordingly, the service providing device 200 may provide data conversion processing according to each network protocol. In addition, the service providing apparatus 200 may encrypt and manage all or part of the message information as necessary.

또한, 본 발명의 실시 예에 따른 서비스 제공 장치(200)는 사용자 단말(100)로 메시지 서비스에 따라 처리되는 다양한 부가 정보 및 기능을 제공할 수 있고, 서비스 가입 및 제휴 처리를 제공하거나, 금융 서버와 통신하여 복수의 사업자 서버와의 제휴 서비스를 제공하기 위한 과금 처리 등을 더 수행할 수 있다.In addition, the service providing apparatus 200 according to an embodiment of the present invention may provide various additional information and functions processed according to a message service to the user terminal 100, provide service subscription and affiliate processing, or provide a financial server It is possible to further perform billing processing and the like for providing an alliance service with a plurality of service providers by communicating with.

또한, 사용자 단말(100)에는 별도의 어플리케이션이 설치될 수 있으며, 별도의 제어부(미도시), 저장부(미도시), 출력부(미도시) 및 통신부(미도시)를 포함하는 일반적인 휴대 단말의 구성을 기본적으로 포함할 수 있다.In addition, a separate application may be installed in the user terminal 100, and a general portable terminal including a separate control unit (not shown), a storage unit (not shown), an output unit (not shown), and a communication unit (not shown) It can basically include the composition of.

이와 같은 시스템을 통해, 서비스 제공 장치(200)가 메시지 인터페이스를 통해 송수신되는 메시지 컨텐츠의 중계 서비스를 제공함에 있어서, 상기 메시지 인터페이스에는 텍스트, 의사 표현 이미지 아이템 또는 텍스트 및 하나 이상의 의사 표현 이미지 아이템이 결합된 피드백 아이템이 포함될 수 있다.Through such a system, when the service providing device 200 provides a relay service of message content transmitted and received through a message interface, a text, an expression image item, or text and one or more expression image items are combined in the message interface. Feedback items may be included.

의사 표현 이미지 아이템은 사용자의 감정, 기분, 상태 및 기타 표현하고자 하는 의사를 나타내는 이미지를 포함할 수 있으며, 상기 이미지는 예를 들어, 특정 의사 표현 정보에 매칭되는 그림 문자 이모지 포맷, 문자 이모티콘 포맷 또는 별도 지정된 그림 파일 포맷, 또는 움직임을 허용하는 파일 포맷의 데이터로 구성될 수 있다. 또한, 의사 표현 정보는 감정, 기분, 상태 또는 기타 의사를 키워드와, 부가 설명을 나타내는 데이터를 포함할 수 있으며, 하나의 이미지에는 하나 이상의 키워드와, 부가 설명을 표현하는 데이터가 매칭될 수 있다.The intention expression image item may include an image representing the user's emotion, mood, state, and other intentions to be expressed, and the image includes, for example, an emoji emoji format matching specific expression information, a text emoticon format Alternatively, it may be composed of data in a separately designated picture file format or a file format that allows movement. In addition, the expression information may include keywords indicating emotions, moods, states, or other intentions, and data indicating additional explanations, and one or more keywords and data indicating additional explanations may be matched to one image.

피드백 아이템은 사용자의 감정, 기분, 상태 및 기타 표현하고자 하는 의사를 나타내는 텍스트 또는 의사 표현 이미지 아이템 또는 텍스트 및 이미지가 결합된 형태의 포맷으로서, 사용자와 채팅 상대와의 대화 문맥을 기반으로 장치 내에서 학습을 통하여 자동 형성될 수 있다.The feedback item is a text or expression image item representing the user's emotion, mood, state, and other intentions to express, or in a format in which text and image are combined, within the device based on the context of the conversation between the user and the chat partner. It can be automatically formed through learning.

이에 따라, 서비스 제공 장치(200)는 의사 표현 정보와 상기 텍스트 및 이미지를 융합하고, 융합된 정보를 피드백 아이템으로서 저장 및 관리할 수 있으며, 서비스 제공 장치(200)는 피드백 아이템 리스트를 생성하여 사용자 단말(100)에서 출력되는 메시지 인터페이스를 통해 제공할 수 있다.Accordingly, the service providing device 200 may fuse the expression information with the text and image, and store and manage the fused information as a feedback item. The service providing device 200 generates a list of feedback items and It may be provided through a message interface output from the terminal 100.

사용자 단말(100)은 상기 메시지 인터페이스를 통해 메시지를 입력하거나, 상기 피드백 아이템 리스트에서 원하는 텍스트 또는 의사 표현 이미지 아이템 또는 텍스트 및 의사 표현 이미지 아이템이 결합된 피드백 아이템을 선택하여 입력할 수 있으며, 입력된 피드백 아이템을 포함하는 메시지가 다른 사용자 단말로 전달되거나, 그룹 채팅방에 게시물로서 등록될 수 있다.The user terminal 100 may input a message through the message interface, or select and input a desired text or expression image item or a feedback item in which text and expression image items are combined from the feedback item list. A message including a feedback item may be delivered to another user terminal or may be registered as a post in a group chat room.

그리고, 서비스 제공 장치(200)는 상기 사용자 단말(100)의 메시지 인터페이스에서 입력된 피드백 아이템 리스트에서 입력된 피드백 아이템들에 대응하는 학습을 수행하여 피드백 아이템을 생성 및 추천할 수 있으며, 생성된 피드백 아이템에 대한 정확도를 분석하여 정확도가 반영된 피드백 아이템을 생성하고 이를 새로이 사용자에게 추천할 수 있다.In addition, the service providing device 200 may generate and recommend a feedback item by performing learning corresponding to the feedback items input from the feedback item list input from the message interface of the user terminal 100, and the generated feedback By analyzing the accuracy of the item, a feedback item reflecting the accuracy can be generated, and this can be newly recommended to the user.

도 2는 본 발명의 실시 예에 따른 서비스 제공 장치를 보다 구체적으로 도시한 블록도이며, 도 3은 본 발명의 실시 예에 따른 피드백 아이템 추천부를 보다 구체적으로 도시한 블록도이다.FIG. 2 is a block diagram showing a service providing apparatus according to an embodiment of the present invention in more detail, and FIG. 3 is a block diagram showing a feedback item recommendation unit according to an embodiment of the present invention.

도 2 및 도 3을 참조하면, 서비스 제공 장치(200)는 제어부(210), 통신부(220), 메시지 인터페이스부(225), 피드백 아이템 추천부(230), 데이터베이스(240), 시각 아이템 관리부(250)를 포함할 수 있다.2 and 3, the service providing apparatus 200 includes a control unit 210, a communication unit 220, a message interface unit 225, a feedback item recommendation unit 230, a database 240, and a visual item management unit ( 250).

제어부(210)는 각 모듈의 전반적인 동작을 제어하여, 본 발명의 실시 예에 따른 서비스 제공 방법에 따른 동작 처리를 제공하며, 이를 위한 하나 이상의 마이크로 프로세서를 포함할 수 있다.The controller 210 controls the overall operation of each module to provide operation processing according to the service providing method according to an embodiment of the present invention, and may include one or more microprocessors for this.

통신부(220)는 사용자 단말기(100) 또는 서비스 제공 장치(200)가 위치한 네트워크 사이의 유선 또는 무선 통신을 가능하게 하는 하나 이상의 모듈을 포함할 수 있다. 예를 들어, 통신부(220)는 이동통신 모듈, 유선 인터넷 모듈, 무선 인터넷 모듈, 근거리 통신 모듈 중 적어도 하나를 포함할 수 있다.The communication unit 220 may include one or more modules that enable wired or wireless communication between networks in which the user terminal 100 or the service providing device 200 is located. For example, the communication unit 220 may include at least one of a mobile communication module, a wired Internet module, a wireless Internet module, and a short-range communication module.

그리고, 메시지 인터페이스부(225)는 본 발명의 실시 예에 따른 서비스를 이용하는 사용자들에 대응하여 사용자 정보를 등록하고, 송수신되는 메시지를 중계, 저장 및 관리할 수 있다. 사용자 정보는 메시지를 송수신하는 사용자 식별 정보를 포함할 수 있으며, 사용자 정보는 사용자 단말기(100)로부터 수신되는 사용자 정보 등록 또는 갱신 요청에 따라 신규 등록, 갱신 및 관리될 수 있다. 또한, 사용자 정보의 전부 또는 일부 정보는 암호화되어 저장될 수 있다.In addition, the message interface unit 225 may register user information in response to users using a service according to an embodiment of the present invention, and relay, store, and manage transmitted/received messages. The user information may include user identification information for transmitting and receiving messages, and the user information may be newly registered, updated, and managed according to a user information registration or update request received from the user terminal 100. In addition, all or part of the user information may be encrypted and stored.

한편, 데이터베이스(240)는 각 구성요소들의 동작을 위한 프로그램을 저장할 수 있고, 입/출력되는 데이터들(예를 들어, 텍스트, 의사 표현 이미지 아이템, 피드백 아이템 등)을 저장할 수도 있으며, 학습 처리를 위해 별도 분류된 데이터베이스를 저장 및 관리할 수도 있다.On the other hand, the database 240 may store a program for the operation of each component, and may store input/output data (eg, text, expression image item, feedback item, etc.), and perform learning processing. It is also possible to store and manage databases classified separately for this purpose.

피드백 아이템 관리부(250)는 데이터베이스(240)를 통해 저장되는 피드백 아이템들을 그 분류 정보에 따라 매칭시켜 저장 및 관리할 수 있다. 상기 분류 정보는 이미지 아이템의 각 요소별 속성 정보를 포함할 수 있으며, 요소별 속성 정보는 예를 들어, 의사 표현 종류 정보, 이미지 타입 정보, 의사 표현과 매칭되는 이미지 정보, 다수명의 사용자별 이용 횟수 정보, 사용자 정보와 매칭되는 이미지 정보 및 피드백 처리 정보 등이 예시될 수 있다.The feedback item management unit 250 may match and store and manage feedback items stored through the database 240 according to classification information. The classification information may include attribute information for each element of the image item, and the attribute information for each element includes, for example, information on type of expression of intention, information on image type, information on image matching the expression of intention, and the number of times of use by multiple users. Information, image information matched with user information, and feedback processing information may be exemplified.

그리고, 피드백 아이템 관리부(250)는 사용자가 입력한 텍스트 메시지 및 이모지, 이모티콘 메시지 또는 텍스트와 이모지 및 이모티콘이 결합된 메시지가 메시지 인터페이스부(225)를 통해 제공된 경우, 이를 수신하여 피드백 아이템의 분류 정보에 적용할 수 있다.In addition, the feedback item management unit 250 receives a text message and an emoji, an emoticon message, or a message in which the text and an emoji and an emoticon are combined through the message interface unit 225. Applicable to classification information.

피드백 아이템 추천부(230)는 전처리기(10) 및 피드백 아이템 생성 학습 엔진(20)을 포함하여 구성된다.The feedback item recommendation unit 230 includes a preprocessor 10 and a feedback item generation learning engine 20.

전처리기(10)는 적어도 메시지 박스 추출 분석 모듈(11), 사용자 정보 추출 분석 모듈(12) 및 요소 도출 모듈(13)을 포함할 수 있다.The preprocessor 10 may include at least a message box extraction and analysis module 11, a user information extraction and analysis module 12, and an element derivation module 13.

메시지 박스 정보 추출 분석 모듈(11)은 사용자 단말(100)을 통해 채팅 서비스를 이용하는 사용자의 메시지 박스에 포함된 정보들을 추출하고 이를 분석하는 기능을 수행한다. 이때 메시지 박스 정보는 사용자가 입력한 텍스트 정보 및 의사 표현 이미지 아이템 정보를 포함할 수 있으며, 메시지 박스 정보 추출 분석 모듈(11)은 메시지 박스 정보를 분석시 메시지 박스 전체의 대화 문맥 분석을 수행할 수 있고, 대화 문맥은 사용자가 직접 범위를 지정하여 분석되도록 하거나 또는 서비스 제공 장치(200)에서 범위를 자동으로 인지하여 분석되도록 한다.The message box information extraction analysis module 11 extracts and analyzes information included in a message box of a user who uses a chat service through the user terminal 100. At this time, the message box information may include text information and expression image item information input by the user, and the message box information extraction analysis module 11 may perform a conversation context analysis of the entire message box when analyzing the message box information. In addition, the dialogue context allows the user to directly designate a range and analyze it, or the service providing device 200 automatically recognizes and analyzes the range.

또한, 메시지 박스 정보 추출 분석 모듈(11)은 메시지 박스에서 "SAD" 라는 텍스트 정보를 추출시 "SAD"가 가지는 의미, 즉, "SAD"가 가지는 감정의 분석을 실행할 수 있고, 메시지 박스에서 "우는 얼굴의 이모티콘"의 의사 표현 이미지 아이템 정보를 추출시 "우는 얼굴의 이모티콘"이 가지는 의미, 즉, "우는 얼굴의 이모티콘"이 가지는 감정의 분석을 실행할 수 있다. In addition, the message box information extraction analysis module 11 can analyze the meaning of "SAD", that is, the emotion of "SAD", when extracting the text information "SAD" from the message box. When the intention expression image item information of the crying face emoticon" is extracted, the meaning of the "crying face emoticon", that is, the emotion of the "crying face emoticon" may be analyzed.

사용자 정보 추출 분석 모듈(12)은 사용자 단말(100)을 통해 채팅 서비스를 이용하는 사용자의 정보를 추출 및 분석하는 기능을 수행하며, 이때 사용자 정보는 적어도 사용자 프로필 사진 정보, 사용자 성별 정보, 사용자 상태 알림말 정보 등을 포함할 수 있다.The user information extraction analysis module 12 performs a function of extracting and analyzing user information using the chat service through the user terminal 100, and the user information includes at least user profile picture information, user gender information, and user status notification. Information may be included.

또한, 사용자 정보 추출 분석 모듈(12)은 사용자 프로필 사진 정보를 추출시 사용자의 외향적 특징 또는 사진이 담고 있는 의미 정보를 분석할 수 있고, 사용자 상태 알림말 정보를 추출하여 사용자의 감정 상태가 어떤지 의미를 분석할 수 있다.In addition, the user information extraction analysis module 12 can analyze the extroverted characteristics of the user or the semantic information contained in the picture when extracting the user profile picture information, and extract the user status notification word information to determine the meaning of the user's emotional state. Can be analyzed.

예를 들어, 사용자의 프로필 사진 정보가 페스티벌 현장에서 다수의 사람들과 함께 찍은 사진 정보라면 사용자 정보 추출 분석 모듈(12)은 이를 분석하고, 사용자가 외향적 특징을 가지고 있다는 분석 결과를 도출해낼 수 있고, 사용자 상태 알림말 정보가 "우울해" 라고 저장되어 있을 경우 사용자 정보 추출 분석 모듈(12)은 사용자의 감정 상태가 슬픈 상태라고 분석 결과를 도출해낼 수 있다.For example, if the user's profile picture information is picture information taken with a large number of people at a festival site, the user information extraction and analysis module 12 analyzes it, and can derive an analysis result indicating that the user has extroverted characteristics, When the user state notification word information is stored as "depressed", the user information extraction and analysis module 12 may derive an analysis result that the user's emotional state is a sad state.

요소 도출 모듈(13)은 상기 메시지 박스 정보 추출 분석 모듈(11) 및 사용자 정보 추출 분석 모듈(12)에서 추출 및 분석된 텍스트 정보, 의사 표현 이미지 아이템 정보 및 사용자 정보로부터 피드백 아이템 생성 학습 엔진(20)에 입력될 요소를 도출할 수 있다. The element derivation module 13 is a learning engine 20 that generates a feedback item from text information, expression image item information, and user information extracted and analyzed by the message box information extraction analysis module 11 and user information extraction analysis module 12. ) Can derive elements to be input.

예를 들어, 메시지 박스 정보 추출 분석 모듈(11)에서 텍스트 정보인 "SAD"가 추출되고, "SAD"가 가지는 감정의 분석이 "슬픈 감정"이라는 결과가 도출되면 요소 도출 모듈(13)은 "슬픈 감정"에 해당하는 다수개의 연관 의사 표현 이미지 아이템을 도출해낼 수 있다. 또한, 메시지 박스 정보 추출 분석 모듈(11)에서 의사 표현 이미지 아이템 정보인 "우는 얼굴의 이모티콘"이 추출되고, "우는 얼굴의 이모티콘"이 가지는 감정의 분석이 "슬픈 감정"이라는 결과가 도출되면 요소 도출 모듈(13)은 "슬픈 감정"에 해당하고, 상기 "우는 얼굴의 이모티콘"과 연관성이 높은 다수개의 텍스트 및 연관 의사 표현 이미지 아이템을 도출해낼 수 있다.For example, when text information "SAD" is extracted from the message box information extraction and analysis module 11, and the result of the analysis of the emotion of "SAD" is "sad emotion", the element derivation module 13 is " It is possible to derive a plurality of related expression image items corresponding to "sad emotion". In addition, when the message box information extraction analysis module 11 extracts the expression image item information "crying face emoticon", and the analysis of the emotion possessed by "crying face emoticon" results in "sad emotion" The derivation module 13 may derive a plurality of text items and related expression image items corresponding to "sad emotion" and having a high correlation with the "crying face emoticon".

또한, 사용자 정보 추출 분석 모듈(12)에서 사용자의 프로필 사진 정보를 추출한 결과, 음악을 좋아하고 외향적 특징을 가지고 있다는 분석 결과가 도출되면 요소 도출 모듈(13)은 사용자의 프로필 사진 정보의 특징과 유사성이 높은 텍스트 및 또는 의사 표현 이미지 아이템, 즉, 음악과 관련되고 외향적 요소를 지니고 있는 다수의 텍스트 정보와 의사 표현 이미지 아이템 정보를 도출해낼 수 있다.In addition, as a result of extracting the user's profile picture information from the user information extraction analysis module 12, if the analysis result indicating that the user likes music and has extroverted characteristics is derived, the element derivation module 13 is used to determine the similarity with the characteristics of the user's profile picture information. This high text and/or pseudo-expression image item, that is, a plurality of text information and pseudo-expression image item information related to music and having an extroverted element can be derived.

이때 상술한 요소 도출 모듈(13)에서 도출되는 다수의 의사 표현 이미지 아이템들은 전처리기(10)에서 추출 및 분석된 텍스트 정보, 의사 표현 이미지 아이템 정보 및 사용자 정보를 데이터베이스(240)에 기존 학습 저장되어 있는 텍스트 및 다수의 의사 표현 이미지 아이템들과 대조 및 매칭하여 도출시킬 수 있으며, 이러한 과정은 머신 러닝을 통해 학습될 수 있다.At this time, the plurality of expression image items derived from the above-described element derivation module 13 are previously learned and stored in the database 240 with text information, expression image item information, and user information extracted and analyzed by the preprocessor 10. It can be derived by matching and matching with existing text and multiple expression image items, and this process can be learned through machine learning.

피드백 아이템 생성 학습 엔진(20)은 전처리기(10)로부터 전처리된 정보를 데이터베이스(240)를 통해 수신받아 피드백 아이템 생성에 필요한 학습을 수행하고 학습된 정보를 사용자에게 추천해주는 기능을 수행한다.The feedback item generation learning engine 20 receives preprocessed information from the preprocessor 10 through the database 240, performs learning necessary for generating a feedback item, and recommends the learned information to a user.

이때, 피드백 아이템 생성 학습 엔진(20)은 머신 러닝 처리될 수 있으며, 머신 러닝 처리에서의 머신 러닝 알고리즘은 하나 이상의 처리 방식이 이용될 수 있으며, 나아가 입력 변수와 타겟 변수를 복수개의 머신 러닝 알고리즘과 복수개의 머신러닝 알고리즘의 조합에 적용하여 사전 학습하고, 학습된 결과에 따른 알고리즘 각각의 정확도, 정확도 대비 연산시간, 성능비 및 모델의 안정성(fitness) 중에서 적어도 하나를 고려하여 최적의 머신러닝 알고리즘이 결정될 수 있다.At this time, the feedback item generation learning engine 20 may be machine learning processing, and one or more processing methods may be used as the machine learning algorithm in the machine learning processing, and further, input variables and target variables may be combined with a plurality of machine learning algorithms. The optimal machine learning algorithm is determined by applying to a combination of a plurality of machine learning algorithms and pre-learning, taking into account at least one of the accuracy of each algorithm, calculation time versus accuracy, performance ratio, and fitness of the model according to the learned result. I can.

상기 머신 러닝 알고리즘은 예를 들어, 리지 회귀분석(Ridge Regression), 로지스틱 회기분석(Logistic Regression), 일반화선모형(Generalized Linear Model), 랜덤 포레스트(Random Forest), 변화 부양 모형(GradientBoosting Model) 및 뉴럴 네트워크(Neural Network) 등이 이용될 수 있다.The machine learning algorithm is, for example, Ridge Regression, Logistic Regression, Generalized Linear Model, Random Forest, Gradient Boosting Model, and Neural A network (Neural Network) or the like may be used.

리지 회귀분석은 기본적인 linear 모델이며 극단치 또는 이상점(outlier)을 핸들하기 위해 추가적인 파라미터를 제공한다. 로지스틱 회기분석은 기본적인 linear 모델이며 타겟변수 즉 예측하려는 대상이 Binomial 분포도를 보일때 사용하는 것이 효과적이다. 일반화선형모형은 기본적인 linear 모델이며 타겟변수가 Poisson 분포도를 보일 때 사용하는 것이 효과적이다. 랜덤 포레스트 앙상블 모델로 다수의 decision tree가 모여 이루어진 모델로서, 각 decision tree는 입력 변수들과 타겟 변수의 연관성을 고려하여 개별적으로 개발되며 상위 linear 모델 대비 더욱 유연(flexible)한 특성을 가지고 있다. 변화 부양 모형은 Generalized Boosting Model 또는 GBM 이라고도 불리며 Random Forest와 비슷한 성향을 띠는 앙상블 모델이나 각 decision tree가 이미 만들어진 decision tree의 정확도를 고려하여 개선된다는 차이점이 존재해 종종 Random Forest 대비 정확도가 높은 모델로 간주되기도 한다.Ridge regression is a basic linear model and provides additional parameters to handle extreme values or outliers. Logistic regression analysis is a basic linear model, and it is effective to use when the target variable, that is, the target to be predicted, shows a binomial distribution. The generalized linear model is a basic linear model, and it is effective to use when the target variable shows the Poisson distribution. As a random forest ensemble model, a model consisting of a number of decision trees, each decision tree is individually developed in consideration of the relationship between input variables and target variables, and has more flexible characteristics than the upper linear model. The change stimulus model is also called the Generalized Boosting Model or GBM, and is an ensemble model that has a similar tendency to the Random Forest, but there is a difference in that each decision tree is improved by considering the accuracy of the decision tree that has already been made. It is also considered.

뉴럴 네트워크는 사실상 어떤 타겟이든 예측할 수 있는 아주 유연한 모델로 파라미터를 조정함에 따라 linear 패턴과 non-linear 패턴 둘 다 아우를 수 있다. 때문에 파라미터 튜닝이 세밀하게 될 필요성이 있다. 특히, 뉴럴 네트워크는 기계학습과 인지과학에서 생물학의 신경망에서 영감을 얻은 통계학적 학습 알고리즘으로서, 이러한 신경망을 복합적으로 구성함으로써 딥 러닝 방식이 구현될 수 있다.Neural networks are very flexible models that can predict virtually any target, and can accommodate both linear and non-linear patterns by adjusting parameters. Therefore, there is a need to fine-tune parameter tuning. In particular, neural networks are statistical learning algorithms inspired by biological neural networks in machine learning and cognitive science, and deep learning methods can be implemented by complexly constructing such neural networks.

예를 들어, 뉴럴 네트워크는 전체적인 FC(Fully Connected), Max Pooling 및 convolution을 수반하여 최적화되는 CNN(Convolutional Neural Network), 시계열적 데이터에 유용한 순차 신경망(Recurrent Neural Networks, RNN)을 포함할 수 있다.For example, the neural network may include an overall Fully Connected (FC), a Convolutional Neural Network (CNN) that is optimized with Max Pooling and convolution, and Recurrent Neural Networks (RNN) useful for time-series data.

이러한 머신 러닝 알고리즘을 통해 학습되는 피드백 아이템 생성 학습 엔진(20)은 도출 요소 학습 모듈(21), 피드백 아이템 생성 및 추천 모듈(22), 정확도 분석 및 반영 피드백 아이템 추천 모듈(23)을 포함하여 구성될 수 있다.The feedback item generation learning engine 20 that is learned through such a machine learning algorithm includes a derivation element learning module 21, a feedback item generation and recommendation module 22, and an accuracy analysis and reflection feedback item recommendation module 23. Can be.

도출 요소 학습 모듈(21)은 전처리기(10)로부터 추출, 분석 및 도출된 정보들을 그 분류 정보에 따라 학습하는 모듈로서, 상기 분류 정보는 이미지 아이템의 각 요소별 속성 정보를 포함할 수 있으며, 요소별 속성 정보는 예를 들어, 텍스트 정보, 의사 표현 종류 정보, 이미지 타입 정보, 의사 표현과 매칭되는 이미지 정보, 다수명의 사용자별 이용 횟수 정보, 사용자 정보와 매칭되는 이미지 정보 및 피드백 처리 정보 등이 예시될 수 있다.The derived element learning module 21 is a module that learns information extracted, analyzed, and derived from the preprocessor 10 according to the classification information, and the classification information may include attribute information for each element of an image item, Element-specific attribute information includes, for example, text information, expression type information, image type information, image information matching the expression, number of times of use by multiple users, image information matching user information, and feedback processing information. It can be illustrated.

즉, 도출 요소 학습 모듈(21)은 전처리기(10)로부터 추출, 분석 및 도출된 정보를 반복적으로 학습함으로서, 피드백 아이템 초기 모델을 분석할 수 있다. 이때 피드백 아이템 초기 모델은 적어도 사용자 예상 답변, 사용자별 의사 표현 이미지 아이템 선호도, 사용자와 채팅 상대와의 관계, 금일 또는 금주 대화 트렌드 및 사용자별 추천 답변 등을 포함할 수 있으며, 새롭게 학습되는 정보에 따라 상기 피드백 아이템 초기 모델도 이를 반영하여 업데이트될 수 있다.That is, the derivation element learning module 21 may analyze the initial feedback item model by repeatedly learning information extracted, analyzed, and derived from the preprocessor 10. At this time, the initial model of the feedback item may include at least the user's expected response, the user-specific expression image item preference, the relationship between the user and the chat partner, the current or this week's conversation trend, and the user-specific recommended response, etc. The feedback item initial model may also be updated to reflect this.

예를 들어, 도출 요소 학습 모듈(21)은 사용자와 채팅 상대가 음식에 대한 대화를 나눈 뒤 사용자가 "I am so sad" 라고 입력하고, 채팅 상대로부터 "what?" 이라는 답변을 수신받은 경우, 도출 요소 학습 모듈(21)은 사용자가 채팅 상대에게 답변으로 작성할만한 요소, 즉, 피드백 아이템 초기 모델인 "There is nothing to eat in my fridge.", "Because I'm starving." 등과 같은 형태의 답변을 추출할 수 있다.For example, in the derivation factor learning module 21, after the user and the chat partner have a conversation about food, the user inputs "I am so sad" and "what?" from the chat partner. When the answer is received, the derivation factor learning module 21 is an element that the user can write as an answer to the chat partner, that is, "There is nothing to eat in my fridge.", "Because I'm, which are initial models of feedback items. starving." Answers in the form of, etc. can be extracted.

또한, 도출 요소 학습 모듈(21)은 예를 들어, 채팅 서비스를 사용하는 다수의 사용자들이 금일 가장 많이 입력한 텍스트 정보가 "omg", "Are you kidding me?" 인 경우, 이를 학습 및 분석하여 금일 대화 트렌드를 피드백 아이템 초기 모델로 추출할 수 있으며, 채팅 서비스를 사용하는 사용자와 채팅 상대의 대화 내용을 학습 및 분석하여 친구, 가족, 상사, 연인 등의 관계를 파악하고, 관계에 적합한 답변을 피드백 아이템 초기 모델로 추출할 수 있다.In addition, the derivation factor learning module 21 includes, for example, "omg" and "Are you kidding me?" In this case, it can be learned and analyzed to extract today's conversation trend as an initial model of the feedback item, and learn and analyze the conversation contents of the user who uses the chat service and the chat partner to establish the relationship between friends, family, boss, and lover. It can be identified, and an answer suitable for the relationship can be extracted as an initial model of the feedback item.

피드백 아이템 생성 및 추천 모듈(22)은 도출 요소 학습 모듈(21)로부터 학습 및 분석처리된 피드백 아이템 초기 모델을 기반으로 대화 문맥에 맞는 피드백 아이템을 생성하여 사용자에게 추천해주는 기능을 수행하며, 이때, 피드백 아이템은 텍스트 또는 의사 표현 이미지 아이템이거나 텍스트 및 의사 표현 이미지 아이템이 결합된 형태로 구성될 수 있다.The feedback item generation and recommendation module 22 generates a feedback item suitable for the conversation context based on the initial model of the feedback item learned and analyzed from the derivation element learning module 21 and recommends it to the user. The feedback item may be a text or a pseudo-expression image item, or may be composed of a combination of a text and a pseudo-expression image item.

피드백 아이템 생성 및 추천 모듈(22)은 예를 들어, 사용자와 채팅 상대가 음식에 대한 대화를 나눈 뒤 사용자가 "I am so sad" 라고 입력하고, 채팅 상대로부터 "what?" 이라는 답변을 수신받은 경우, 도출 요소 학습 모듈(21)로부터 학습 및 분석된 피드백 아이템 초기 모델인 특정 피드백 아이템, 즉, "There is nothing to eat in my fridge.", "Because I'm starving." 등을 포함하고 있는 텍스트 형태의 피드백 아이템 또는 의사 표현 이미지 아이템 형태의 피드백 아이템 또는 텍스트 및 의사 표현 이미지 아이템을 결합한 형태의 피드백 아이템을 생성하여 사용자에게 답변을 추천해줄 수 있다.The feedback item generation and recommendation module 22, for example, after the user and the chat partner have a conversation about food, the user inputs "I am so sad", and "what?" from the chat partner. When the answer is received, a specific feedback item that is an initial model of the feedback item learned and analyzed from the derivation element learning module 21, that is, "There is nothing to eat in my fridge.", "Because I'm starving." An answer may be recommended to a user by generating a feedback item in the form of a text including, for example, a feedback item in the form of an expression image item, or a feedback item in the form of a combination of a text and an expression image item.

또한, 피드백 아이템 생성 및 추천 모듈(22)은 도출 요소 학습 모듈(21)로부터 학습 및 분석된 금일 대화 트렌드가 "hahahaha", "Are you kidding me?", "omg" 인 경우, 사용자에게 "hahahaha", "Are you kidding me?", "omg" 등을 포함하고 있는 텍스트 또는 의사 표현 이미지 아이템 형태의 피드백 아이템 또는 텍스트 및 의사 표현 이미지 아이템을 결합한 형태의 피드백 아이템을 생성하여 사용자에게 추천해줄 수 있다. In addition, the feedback item generation and recommendation module 22 is provided to the user when the conversation trend learned and analyzed from the derivation element learning module 21 is "hahahaha", "Are you kidding me?", and "omg". A feedback item in the form of a text or expression image item including ", "Are you kidding me?", and "omg", or a feedback item in the form of a combination of text and expression image items may be generated and recommended to users. .

설계에 따라서는, 피드백 아이템 생성 및 추천 모듈(22)은 사용자에게 피드백 아이템 추천시 특정 사용자, 즉, 공인 또는 유명인 등으로부터 설정 추천된 피드백 아이템을 추천해줄 수도 있다. 이때 특정 사용자는 서비스 제공 장치(200)의 관리자로부터 지정 설정될 수 있으며, 특정 사용자의 설정 추천된 피드백 아이템은 도출 요소 학습 모듈(21)로부터 자동 학습 및 분석된 특정 사용자가 선호하는 피드백 아이템으로 구성되거나 특정 사용자가 직접 작성 및 생성한 피드백 아이템으로 구성될 수 있다.Depending on the design, the feedback item generation and recommendation module 22 may recommend a feedback item set by a specific user, that is, a public or celebrity, when recommending a feedback item to a user. At this time, a specific user may be designated and set by the administrator of the service providing device 200, and the recommended feedback item set by a specific user is composed of a feedback item preferred by a specific user that is automatically learned and analyzed from the derivation element learning module 21. Or, it may be composed of feedback items created and created by a specific user.

정확도 분석 및 반영 피드백 아이템 추천 모듈(23)은 피드백 아이템 생성 및 추천 모듈(22)로부터 생성 및 추천된 피드백 아이템의 정확도를 분석하고 이를 반영한 피드백 아이템을 사용자에게 추천하는 모듈로서, 상기 피드백 아이템 생성 및 추천 모듈(22)로부터 생성 및 추천된 피드백 아이템의 산출 결과값을 나타낼 수 있다. Accuracy analysis and reflection feedback item recommendation module 23 is a module that analyzes the accuracy of the feedback item generated and recommended from the feedback item generation and recommendation module 22, and recommends a feedback item reflecting the feedback item to the user. It may represent a calculation result value of the feedback item generated and recommended by the recommendation module 22.

또한, 정확도 분석 및 반영 피드백 아이템 추천 모듈(23)은 피드백 아이템의 산출 결과값을 의미의 강조, 감정의 강도, 중요도, 기분, 상황, 환경 등에 따라 하이라이트 표시, 음영표시, 그라데이션 표시, 애니메이팅, 각종 표현 및 효과 기능 등으로 차등표현하여 사용자에게 피드백 아이템을 추천해줄 수 있다.In addition, the accuracy analysis and reflection feedback item recommendation module 23 uses the calculated result value of the feedback item to highlight meaning, emotion intensity, importance, mood, situation, environment, etc. It is possible to recommend a feedback item to the user by expressing differentially with various expressions and effect functions.

예를 들어, 정확도 분석 모듈(23)은 피드백 아이템의 산출 결과를 퍼센테이지(%)로 표시할 수 있으며, 상기 퍼센테이지는 정확도에 따라 그 수치가 달라질 수 있고, 가장 높은 수치의 퍼센테이지를 갖는 피드백 아이템은 하이라이트 표시되거나 다른 피드백 아이템보다 상대적으로 크게 표시될 수 있다. 또한, 정확도 분석 모듈(23)은 사용자 또는 채팅 상대의 감정 상태가 슬픈 상태인 경우, 말풍선을 어두운 색으로 표시하고, 이를 설명해주는 피드백 아이템을 표시할 수도 있다.For example, the accuracy analysis module 23 may display the calculation result of the feedback item as a percentage (%), and the percentage may vary depending on the accuracy, and the feedback item having the highest percentage is It may be highlighted or displayed relatively larger than other feedback items. In addition, when the emotional state of the user or the chat partner is sad, the accuracy analysis module 23 may display a speech balloon in a dark color and display a feedback item explaining this.

정확도 분석 및 반영 피드백 아이템 추천 모듈(23)은 자동으로 실행되거나 사용자가 특정 아이콘, 예를 들어 분석 실행 버튼의 아이콘을 선택하였을 경우 분석 적용이 수행될 수 있도록 설계될 수 있다.The accuracy analysis and reflection feedback item recommendation module 23 may be automatically executed or may be designed to perform analysis application when a user selects a specific icon, for example, an icon of an analysis execution button.

도 4는 본 발명의 실시 예에 따른 피드백 아이템 추천 방법을 설명하기 위한 흐름도이며, 도 5 내지 도 19는 본 발명의 실시 예에 따라 제공되는 메시지 인터페이스를 설명하기 위한 도면들이다.4 is a flowchart illustrating a method of recommending a feedback item according to an exemplary embodiment of the present invention, and FIGS. 5 to 19 are diagrams illustrating a message interface provided according to an exemplary embodiment of the present invention.

도 4를 참조하면, 서비스 제공 장치(200)는 우선 메시지 박스 정보에 포함된 텍스트 정보 및 의사 표현 이미지 아이템 정보를 도 5와 같이 추출하고 이를 분석한다. 이때, 텍스트 정보 및 의사 표현 이미지 아이템 정보는 텍스트 및 의사 표현 이미지 아이템이 가진 정보를 분석하여 텍스트로 추출하거나 수치값이 추출될 수 있다. 또한, 메시지 박스 정보 분석시 도 6 및 도 8과 같이 사용자가 직접 범위를 지정하여 분석되도록 하거나 장치에서 자동으로 범위를 인지하여 메시지 박스 정보를 분석할 수 있도록 한다. 또한, 메시지 박스 정보 추출 분석 모듈(11)은 메시지 박스에서 "SAD" 라는 텍스트 정보를 추출시 "SAD"가 가지는 의미, 즉, "SAD"가 가지는 감정의 분석을 실행할 수 있고, 메시지 박스에서 "우는 얼굴의 이모티콘"의 의사 표현 이미지 아이템 정보를 추출시 "우는 얼굴의 이모티콘"이 가지는 의미, 즉, "우는 얼굴의 이모티콘"이 가지는 감정의 분석을 실행할 수 있다(S101). Referring to FIG. 4, the service providing apparatus 200 first extracts text information and expression image item information included in message box information, as shown in FIG. 5, and analyzes them. In this case, the text information and the pseudo-expression image item information may be extracted as text by analyzing information of the text and the pseudo-expression image item, or a numerical value may be extracted. In addition, when analyzing the message box information, as shown in FIGS. 6 and 8, the user directly designates and analyzes the range, or the device automatically recognizes the range and analyzes the message box information. In addition, the message box information extraction analysis module 11 can analyze the meaning of "SAD", that is, the emotion of "SAD", when extracting the text information "SAD" from the message box. When the intention expression image item information of the crying face emoticon" is extracted, the meaning of the "crying face emoticon", that is, the emotion of the "crying face emoticon" may be analyzed (S101).

다음으로, 서비스 제공 장치(200)는 사용자 정보에 포함된 사용자 프로필 사진 정보, 사용자 성별 정보, 사용자 상태 알림말 정보 등을 추출하고 이를 분석한다. 이때, 서비스 제공 장치(200)는 사용자 프로필 사진 정보 추출시 사용자의 외향적 특징 또는 사진이 담고 있는 의미 정보를 분석할 수 있고, 사용자 상태 알림말 정보를 추출하여 사용자의 감정 상태가 어떤지 의미를 분석할 수 있다. 예를 들어, 사용자의 프로필 사진 정보가 페스티벌 현장에서 다수의 사람들과 함께 찍은 사진 정보라면 서비스 제공 장치(200)는 이를 분석하고, 사용자가 외향적 특징을 가지고 있다는 분석 결과를 도출해낼 수 있고, 사용자 상태 알림말 정보가 "우울해" 라고 저장되어 있을 경우 사용자의 감정 상태가 슬픈 상태라고 분석 결과를 도출해낼 수 있다(S102).Next, the service providing device 200 extracts user profile picture information, user gender information, user status notification word information, etc. included in the user information, and analyzes it. At this time, the service providing device 200 may analyze the extroverted characteristics of the user or semantic information contained in the photo when extracting the user profile picture information, and analyze the meaning of the user's emotional state by extracting the user state notification word information. have. For example, if the user's profile picture information is picture information taken with a large number of people at a festival site, the service providing device 200 can analyze it and derive an analysis result indicating that the user has extroverted characteristics, and the user status When the notification word information is stored as "depressed", an analysis result may be derived that the user's emotional state is sad (S102).

다음으로, 서비스 제공 장치(200)는 메시지 박스 정보 및 사용자 정보에서 추출 및 분석된 정보로부터 피드백 아이템 생성 학습 엔진에 입력될 요소를 도출한다. 예를 들어, 서비스 제공 장치(200)는 도 9와 같이 메시지 박스 정보에서 텍스트 정보인 "SAD"가 추출되고, "SAD"가 가지는 감정의 분석이 "슬픈 감정"이라는 결과가 도출되면 "슬픈 감정"에 해당하는 다수개의 연관 텍스트 및 의사 표현 이미지 아이템을 도출해낼 수 있다. 또한, 메시지 박스 정보에서 의사 표현 이미지 아이템 정보인 "우는 얼굴의 이모티콘"이 추출되고, "우는 얼굴의 이모티콘"이 가지는 감정의 분석이 "슬픈 감정"이라는 결과가 도출되면 "슬픈 감정"에 해당하고, 상기 "우는 얼굴의 이모티콘"과 연관성이 높은 다수개의 텍스트 및 연관 의사 표현 이미지 아이템을 도출해낼 수 있다. 또한, 서비스 제공 장치(200)는 사용자 정보에서 사용자의 프로필 사진 정보를 추출한 결과, 음악을 좋아하고 외향적 특징을 가지고 있다는 분석 결과가 도출되면 사용자의 프로필 사진 정보의 특징과 유사성이 높은 텍스트 또는 의사 표현 아이템, 즉, 음악과 관련되고 외향적 요소를 지니고 있는 다수의 텍스트 정보와 의사 표현 아이템 정보를 도출해낼 수 있다(S103).Next, the service providing apparatus 200 derives an element to be input to the feedback item generation learning engine from the message box information and the information extracted and analyzed from the user information. For example, the service providing device 200 extracts text information "SAD" from the message box information as shown in FIG. 9, and when the result of the analysis of the emotions of the "SAD" is "sad emotion", the "sad emotion" It is possible to derive a plurality of related text and expression image items corresponding to ". In addition, when the expression image item information "crying face emoticon" is extracted from the message box information, and the analysis of the emotion of the "crying face emoticon" results in "sad emotion", it corresponds to "sad emotion". , It is possible to derive a plurality of text items and related expression image items having a high correlation with the “crying face emoticon”. In addition, the service providing device 200 extracts the user's profile picture information from the user information, and when an analysis result indicating that the user likes music and has an extroverted characteristic is derived, a text or expression having high similarity to the characteristic of the user's profile picture information Items, that is, a plurality of text information and expression item information related to music and having an extroverted element may be derived (S103).

다음으로, 서비스 제공 장치(200)는 요소 도출된 정보를 머신 러닝을 통해 반복적으로 학습하여 피드백 아이템 초기 모델을 분석한다. 이때 피드백 아이템 초기 모델은 적어도 사용자 예상 답변, 사용자별 의사 표현 이미지 아이템 선호도, 사용자와 채팅 상대와의 관계, 금일 또는 금주 대화 트렌드 및 사용자별 추천 답변 등을 포함할 수 있으며, 새롭게 학습되는 정보에 따라 상기 피드백 아이템 초기 모델도 이를 반영하여 업데이트될 수 있다. 예를 들어, 사용자와 채팅 상대가 음식에 대한 대화를 나눈 뒤 사용자가 "I am so sad" 라고 입력하고, 채팅 상대로부터 "what?" 이라는 답변을 수신받은 경우, 서비스 제공 장치(200)는 사용자가 채팅 상대에게 답변으로 작성할만한 요소, 즉, 피드백 아이템 초기 모델인 "There is nothing to eat in my fridge.", "Because I'm starving." 등과 같은 형태의 답변을 추출할 수 있다. 또한, 서비스 제공 장치(200)는 예를 들어, 채팅 서비스를 사용하는 다수의 사용자들이 금일 가장 많이 입력한 텍스트 정보가 "omg", "Are you kidding me?" 인 경우, 이를 학습 및 분석하여 금일 대화 트렌드를 피드백 아이템 초기 모델로 추출할 수 있으며, 채팅 서비스를 사용하는 사용자와 채팅 상대의 대화 내용을 학습 및 분석하여 친구, 가족, 상사, 연인 등의 관계를 파악하고, 관계에 적합한 답변을 피드백 아이템 초기 모델로 추출 및 분석할 수 있다(S104).Next, the service providing apparatus 200 analyzes the initial feedback item model by repeatedly learning the element-derived information through machine learning. At this time, the initial model of the feedback item may include at least the user's expected response, the user-specific expression image item preference, the relationship between the user and the chat partner, the current or this week's conversation trend, and the user-specific recommended response, etc. The feedback item initial model may also be updated to reflect this. For example, after a user and a chat partner have a conversation about food, the user types "I am so sad" and the chat partner says "what?" When receiving the answer, the service providing device 200 provides elements that the user can write as an answer to the chat partner, that is, "There is nothing to eat in my fridge.", "Because I'm starving, which are the initial models of the feedback item." ." Answers in the form of, etc. can be extracted. In addition, the service providing device 200 includes, for example, "omg" and "Are you kidding me?" as text information most frequently input by a plurality of users of the chat service today. In this case, it can be learned and analyzed to extract today's conversation trend as an initial model of the feedback item, and learn and analyze the conversation contents of the user who uses the chat service and the chat partner to establish the relationship between friends, family, boss, and lover. After grasping, the answer suitable for the relationship may be extracted and analyzed as an initial model of the feedback item (S104).

피드백 아이템 초기 모델 추출 및 분석 후 서비스 제공 장치(200)는 피드백 아이템 생성에 필요한 학습을 수행하고, 학습된 정보를 기반으로 사용자에게 피드백 아이템을 추천해주는 기능을 수행한다. 이때, 학습 정보는 머신 러닝 처리될 수 있으며, 머신 러닝 처리에서의 머신 러닝 알고리즘은 하나 이상의 처리 방식이 이용될 수 있다. 나아가 입력 변수와 타겟 변수를 복수개의 머신 러닝 알고리즘과 복수개의 머신러닝 알고리즘의 조합에 적용하여 사전 학습하고, 학습된 결과에 따른 알고리즘 각각의 정확도, 정확도 대비 연산시간, 성능비 및 모델의 안정성(fitness) 중에서 적어도 하나를 고려하여 최적의 머신러닝 알고리즘이 결정될 수 있다. 즉, 서비스 제공 장치(200)는 추출, 분석 및 도출된 정보들을 그 분류 정보에 따라 학습하고, 피드백 아이템 초기 모델을 분석하여 사용자에게 대화 문맥에 적합한 답변인 피드백 아이템을 추천할 수 있다. 예를 들어, 서비스 제공 장치(200)는 도 10 내지 15과 같이 사용자에게 대화 문맥에 적합한 피드백 아이템을 추천해 줄 수 있는데, 더욱 자세히 예를 들어보자면, 사용자와 채팅 상대가 음식에 대한 대화를 나눈 뒤 사용자가 "I am so sad" 라고 입력하고, 채팅 상대로부터 "what?" 이라는 답변을 수신받은 경우, 서비스 제공 장치(200)는 사용자가 채팅 상대에게 답변으로 작성할만한 요소, 즉, 피드백 아이템 초기 모델인 "There is nothing to eat in my fridge.", "Because I'm starving." 등을 포함하고 있는 텍스트 형태의 피드백 아이템 또는 의사 표현 이미지 아이템 형태의 피드백 아이템 또는 텍스트 및 의사 표현 이미지 아이템을 결합한 형태의 피드백 아이템을 생성하여 사용자에게 답변을 추천해줄 수 있다. 또한, 서비스 제공 장치(200)는 도 16 및 17과 같이 채팅 서비스를 사용하는 다수의 사용자들이 금일 가장 많이 입력한 텍스트 정보가 "omg", "Are you kidding me?" 인 경우, 이를 학습 및 분석하여 금일 대화 트렌드를 피드백 아이템 초기 모델로 추출할 수 있으며, 사용자에게 "Are you kidding me?", "omg" 등을 포함하고 있는 텍스트 또는 의사 표현 이미지 아이템 형태의 피드백 아이템 또는 텍스트 및 의사 표현 이미지 아이템을 결합한 형태의 피드백 아이템을 생성하여 사용자에게 추천해줄 수 있다. 또한, 서비스 제공 장치(200)는 도 18 및 19와 같이 채팅 서비스를 사용하는 사용자와 채팅 상대의 대화 내용을 학습 및 분석하여 친구, 가족, 상사, 연인 등의 관계를 파악하고, 관계에 적합한 답변을 피드백 아이템 초기 모델로 추출하여 이를 사용자에게 추천해줄 수 있으며, 채팅 상대가 입력한 텍스트 정보 및 의사 표현 이미지 아이템 정보에 따라 채팅 상대의 대화 타입(페르소나) 등을 분석 및 추출하여 이를 사용자에게 표시해줄 수도 있다. 설계에 따라서는, 서비스 제공 장치(200)는 도 20 및 21과 같이 사용자에게 피드백 아이템 추천시 특정 사용자, 즉, 공인 또는 유명인 등으로부터 설정 추천된 피드백 아이템을 추천해줄 수도 있다. 이때 특정 사용자는 서비스 제공 장치(200)의 관리자로부터 지정 설정될 수 있으며, 특정 사용자의 설정 추천된 피드백 아이템은 장치로부터 자동 학습 및 분석된 특정 사용자가 선호하는 피드백 아이템으로 구성되거나 특정 사용자가 직접 작성 및 생성한 피드백 아이템으로 구성될 수 있다(S105).After the initial model of the feedback item is extracted and analyzed, the service providing device 200 performs a function of learning necessary for generating a feedback item and recommending a feedback item to a user based on the learned information. In this case, the learning information may be machine learning processed, and one or more processing methods may be used as a machine learning algorithm in the machine learning processing. Furthermore, the input variable and the target variable are applied to a combination of a plurality of machine learning algorithms and a plurality of machine learning algorithms to pre-learn, and the accuracy of each algorithm according to the learned result, calculation time to accuracy, performance ratio, and model fitness. An optimal machine learning algorithm may be determined in consideration of at least one of them. That is, the service providing apparatus 200 may learn the extracted, analyzed, and derived information according to the classification information, analyze an initial model of a feedback item, and recommend a feedback item that is an answer suitable for a conversation context to a user. For example, the service providing device 200 may recommend a feedback item suitable for a conversation context to a user as shown in FIGS. 10 to 15. To take a more detailed example, a user and a chat partner have a conversation about food. Later, the user enters "I am so sad" and the chat partner says "what?" When receiving the answer, the service providing device 200 provides elements that the user can write as an answer to the chat partner, that is, "There is nothing to eat in my fridge.", "Because I'm starving, which are the initial models of the feedback item." ." An answer may be recommended to a user by generating a feedback item in the form of a text including, for example, a feedback item in the form of an expression image item, or a feedback item in the form of a combination of a text and an expression image item. In addition, as shown in FIGS. 16 and 17, the service providing device 200 includes "omg" and "Are you kidding me?" as text information most frequently input by a plurality of users of the chat service today. If yes, it can be learned and analyzed to extract today's conversation trend as an initial model of a feedback item, and a feedback item in the form of a text or dictation image item including "Are you kidding me?", "omg", etc. to the user Alternatively, a feedback item in the form of combining text and expression image items may be created and recommended to the user. In addition, the service providing device 200 learns and analyzes the conversation contents of a user who uses a chat service and a chat partner as shown in FIGS. 18 and 19 to grasp a relationship between a friend, a family member, a boss, a lover, etc., and an answer suitable for the relationship. Is extracted as an initial model of the feedback item and recommended to the user.It analyzes and extracts the conversation type (persona) of the chat partner according to the text information and expression image item information entered by the chat partner, and displays it to the user. May be. Depending on the design, the service providing apparatus 200 may recommend a feedback item set by a specific user, that is, a public figure or a celebrity, when recommending a feedback item to a user as shown in FIGS. 20 and 21. At this time, a specific user may be designated and set by the administrator of the service providing device 200, and the set recommended feedback item of a specific user is composed of a feedback item preferred by a specific user automatically learned and analyzed from the device, or created by a specific user. And the generated feedback item (S105).

다음으로, 서비스 제공 장치(200)는 생성 및 추천된 피드백 아이템의 정확도를 분석하고 분석결과를 기반으로 피드백 아이템을 차등표현하여 사용자에게 추천하는 기능을 수행한다. 이때, 상기 피드백 아이템은 산출 결과값을 포함한 상태로 표시될 수 있으며, 피드백 아이템의 산출 결과값을 의미의 강조, 감정의 강도, 중요도, 기분, 상황, 환경 등에 따라 하이라이트 표시, 음영표시, 그라데이션 표시, 애니메이팅, 각종 표현 및 효과 기능 등으로 차등표현하여 사용자에게 피드백 아이템을 추천해줄 수 있다. 예를 들어, 서비스 제공 장치(200)는 도 22와 같이 피드백 아이템의 산출 결과를 퍼센테이지(%)로 표시할 수 있으며, 상기 퍼센테이지는 정확도에 따라 그 수치가 달라질 수 있고, 가장 높은 수치의 퍼센테이지를 갖는 피드백 아이템은 하이라이트 표시되거나 다른 피드백 아이템보다 상대적으로 크게 표시될 수 있다. 또한, 서비스 제공 장치(200)는 도 23 내지 도 27과 같이 사용자 또는 채팅 상대로부터 입력된 텍스트 정보 및 의사 표현 이미지 아이템 정보를 기반으로 사용자 또는 채팅 상대의 감정 상태가 기쁜 상태라고 판단되는 경우, 말풍선을 밝은 색으로 표시하고, 슬픈 상태라고 판단되는 경우, 말풍선을 어두운 색으로 표시하며, 이를 설명해주는 피드백 아이템을 대화창 아래에 표시할 수도 있고, 도 28과 같이 사용자 또는 채팅 상대의 감정 상태를 단계별로 구분하여 말풍선 아래 감정의 단계를 표시해줄 수도 있다(S106).Next, the service providing apparatus 200 analyzes the accuracy of the generated and recommended feedback items, differentially expresses the feedback items based on the analysis results, and recommends them to the user. In this case, the feedback item may be displayed in a state including the calculated result value, and the calculated result value of the feedback item is highlighted, shaded, and gradated according to meaning, emotion, importance, mood, situation, environment, etc. , Animating, various expressions and effects functions, etc., can be differentially expressed to recommend feedback items to users. For example, the service providing device 200 may display the calculation result of the feedback item as a percentage (%), as shown in FIG. 22, and the percentage may vary according to accuracy, and the highest percentage The feedback item to have may be highlighted or displayed relatively larger than other feedback items. In addition, when it is determined that the emotional state of the user or the chat partner is a happy state based on text information and expression image item information input from a user or a chat partner as shown in FIGS. 23 to 27, Is displayed in a light color, and if it is determined that it is sad, a speech balloon is displayed in a dark color, and a feedback item explaining this may be displayed at the bottom of the chat window, or the emotional state of the user or the chat partner can be step-by-step as shown in FIG. Separately, the level of emotion may be displayed under the speech bubble (S106).

한편, 상술한 본 발명의 다양한 실시 예들에 따른 방법은 단말 장치에서 실행되기 위한 설치 데이터 형태로 구현되어 다양한 비일시적 판독 가능 매체(non-transitory computer readable medium)에 저장된 상태로 각 서버 또는 기기들에 제공될 수 있다. 이에 따라, 사용자 단말(100)은 서버 또는 기기에 접속하여, 상기 설치 데이터를 다운로드할 수 있다.Meanwhile, the above-described method according to various embodiments of the present invention is implemented in the form of installation data to be executed on a terminal device and stored in various non-transitory computer readable mediums in each server or device. Can be provided. Accordingly, the user terminal 100 may access the server or device and download the installation data.

비일시적 판독 가능한 매체란 레지스터, 캐쉬, 메모리 등과 같이 짧은 순간 동안 데이터를 저장하는 매체가 아니라 반영구적으로 데이터를 저장하며, 기기에 의해 판독(reading)이 가능한 매체를 의미한다. 구체적으로는, 상술한 다양한 어플리케이션 또는 프로그램들은 CD, DVD, 하드 디스크, 블루레이 디스크, USB, 메모리카드, ROM 등과 같은 비일시적 판독 가능 매체에 저장되어 제공될 수 있다.The non-transitory readable medium refers to a medium that stores data semi-permanently and can be read by a device, rather than a medium that stores data for a short moment, such as a register, cache, and memory. Specifically, the above-described various applications or programs may be provided by being stored in a non-transitory readable medium such as a CD, DVD, hard disk, Blu-ray disk, USB, memory card, and ROM.

또한, 이상에서는 본 발명의 바람직한 실시예에 대하여 도시하고 설명하였지만, 본 발명은 상술한 특정의 실시예에 한정되지 아니하며, 청구범위에서 청구하는 본 발명의 요지를 벗어남이 없이 당해 발명이 속하는 기술분야에서 통상의 지식을 가진자에 의해 다양한 변형실시가 가능한 것은 물론이고, 이러한 변형실시들은 본 발명의 기술적 사상이나 전망으로부터 개별적으로 이해되어서는 안될 것이다.In addition, although the preferred embodiments of the present invention have been illustrated and described above, the present invention is not limited to the specific embodiments described above, and the technical field to which the present invention belongs without departing from the gist of the present invention claimed in the claims. In addition, various modifications are possible by those of ordinary skill in the art, and these modifications should not be individually understood from the technical spirit or prospect of the present invention.

Claims (6)

사용자 단말기로 메시지 인터페이스를 제공하며, 상기 메시지 인터페이스를 통해 송수신되는 메시지 및 피드백 아이템을 처리하는 메시지 서비스 제공을 위한 프로그램에 있어서,
메시지 박스 정보에 포함된 텍스트 정보 및 의사 표현 이미지 아이템 정보를 추출하고 분석하는 기능;
사용자 정보에 포함된 사용자의 프로필 사진 정보, 성별 정보, 상태 알림말 정보를 추출하고 분석하는 기능;
상기 메시지 박스 정보 및 사용자 정보에서 추출 및 분석된 정보로부터 학습 엔진에 입력될 요소를 도출하는 기능;
상기 요소 도출된 정보를 머신 러닝 알고리즘을 통해 반복적으로 학습하여 피드백 아이템 초기 모델을 분석하는 기능;
상기 분석된 피드백 아이템 초기 모델을 기반으로 대화 문맥에 적합한 피드백 아이템을 생성하여 사용자에게 추천하는 기능 및
상기 추천된 피드백 아이템의 정확도를 분석하여 산출 결과값을 포함한 피드백 아이템을 차등표현하여 사용자에게 추천해주는 기능을 포함하는
피드백 의사 표현 아이템을 제공하는 메시지 처리를 위한 프로그램.
In the program for providing a message service that provides a message interface to a user terminal and processes messages and feedback items transmitted and received through the message interface,
A function of extracting and analyzing text information and expression image item information included in the message box information;
A function of extracting and analyzing the user's profile picture information, gender information, and status notification information included in the user information;
A function of deriving an element to be input to the learning engine from the information extracted and analyzed from the message box information and user information;
A function of analyzing an initial model of a feedback item by repeatedly learning the element-derived information through a machine learning algorithm;
A function to recommend to a user by generating a feedback item suitable for a conversation context based on the analyzed feedback item initial model, and
Including a function of differentially expressing a feedback item including a result value calculated by analyzing the accuracy of the recommended feedback item and recommending it to a user
A program for message processing that provides feedback expression items.
제1항에 있어서,
상기 피드백 아이템은,
사용자의 감정, 기분, 상태 및 기타 표현하고자 하는 의사를 나타내는 텍스트 또는 의사 표현 이미지 아이템 또는 텍스트 및 이미지가 결합된 형태의 포맷으로서, 사용자와 채팅 상대와의 대화 문맥을 기반으로 장치 내에서 학습을 통하여 자동 형성되는 것을 특징으로 하는
피드백 의사 표현 아이템을 제공하는 메시지 처리를 위한 프로그램.
The method of claim 1,
The feedback item,
A text or expression image item representing the user's emotions, moods, states, and other intentions to express, or a format in which text and images are combined. Characterized in that it is automatically formed
A program for message processing that provides feedback expression items.
제1항에 있어서,
상기 피드백 아이템 초기 모델은,
적어도 사용자 예상 답변, 사용자별 의사 표현 이미지 아이템 선호도, 사용자와 채팅 상대와의 관계, 금일 또는 금주 대화 트렌드 및 사용자별 추천 답변 중 어느 하나를 포함하는 것을 특징으로 하는
피드백 의사 표현 아이템을 제공하는 메시지 처리를 위한 프로그램.
The method of claim 1,
The feedback item initial model,
Characterized in that it includes at least one of a user expected answer, a user-specific expression image item preference, a relationship between a user and a chat partner, a conversation trend of today or this week, and a recommended answer for each user.
A program for message processing that provides feedback expression items.
제1항에 있어서,
상기 피드백 아이템의 산출 결과값은
적어도 의미의 강조, 감정의 강도, 중요도, 기분, 상황, 환경 중 어느 하나에 따라 하이라이트 표시, 음영표시, 그라데이션 표시, 애니메이팅 및 특수 효과 기능으로 차등표현되는 것을 특징으로 하는
피드백 의사 표현 아이템을 제공하는 메시지 처리를 위한 프로그램.
The method of claim 1,
The calculated result value of the feedback item is
It is characterized in that it is differentially expressed by highlighting, shading, gradation display, animation and special effect functions according to at least one of emphasis on meaning, intensity of emotion, importance, mood, situation, and environment.
A program for message processing that provides feedback expression items.
제1항에 있어서,
상기 피드백 아이템은,
사용자와 채팅 상대의 대화 내용을 학습하여 추출된 사용자와 채팅 상대의 관계 및 채팅 상대의 대화 타입(페르소나)을 기반으로 생성될 수 있는 것을 특징으로 하는
피드백 의사 표현 아이템을 제공하는 메시지 처리를 위한 프로그램.
The method of claim 1,
The feedback item,
Characterized in that it can be generated based on the relationship between the user and the chat partner and the type of conversation (persona) of the chat partner extracted by learning the conversation contents of the user and the chat partner
A program for message processing that provides feedback expression items.
제1항에 있어서,
상기 피드백 아이템은,
특정 사용자로부터 설정 추천된 피드백 아이템 또는 장치로부터 자동 학습 및 분석된 특정 사용자가 선호하는 피드백 아이템으로 구성될 수 있는 것을 특징으로 하는
피드백 의사 표현 아이템을 제공하는 메시지 처리를 위한 프로그램.
The method of claim 1,
The feedback item,
It characterized in that it can be composed of a feedback item set by a specific user or a feedback item preferred by a specific user automatically learned and analyzed from the device.
A program for message processing that provides feedback expression items.
KR1020190038405A 2019-04-02 2019-04-02 Program of processing a message that provides feedback expression items KR20200119428A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020190038405A KR20200119428A (en) 2019-04-02 2019-04-02 Program of processing a message that provides feedback expression items

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020190038405A KR20200119428A (en) 2019-04-02 2019-04-02 Program of processing a message that provides feedback expression items

Publications (1)

Publication Number Publication Date
KR20200119428A true KR20200119428A (en) 2020-10-20

Family

ID=73025326

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020190038405A KR20200119428A (en) 2019-04-02 2019-04-02 Program of processing a message that provides feedback expression items

Country Status (1)

Country Link
KR (1) KR20200119428A (en)

Similar Documents

Publication Publication Date Title
US11394667B2 (en) Chatbot skills systems and methods
US10979373B2 (en) Suggested responses based on message stickers
CN110869969B (en) Virtual assistant for generating personalized responses within a communication session
KR102050334B1 (en) Automatic suggestion responses to images received in messages, using the language model
US11366846B2 (en) Apparatus and a method for providing expression item services which constructing digital communication environments
US20200110794A1 (en) Emoji modification
US20190197427A1 (en) Device and method for recommending contact information
CN113302628A (en) Micrometric neural conversational model using domain knowledge
KR20200101537A (en) Method for processing a message that provides feedback expression items
KR20210039626A (en) Program of processing a message that analyzing and providing feedback expression items
KR20210039608A (en) Recording Medium
KR20210039618A (en) Apparatus for processing a message that analyzing and providing feedback expression items
CN115378890B (en) Information input method, device, storage medium and computer equipment
US20240106769A1 (en) Device for providing message service for actively building expression item database including sub-expression items and method therefor
KR20200119428A (en) Program of processing a message that provides feedback expression items
KR20200101535A (en) Recording Medium
KR20200101536A (en) Recording Medium
KR20200095795A (en) Program of processing a message that provides feedback expression items
KR20200095781A (en) Apparatus for processing a message that provides feedback expression items
KR20210039610A (en) Method for processing a message that analyzing and providing feedback expression items
KR20210039621A (en) Program of processing a message that analyzing and providing feedback expression items
KR20210039605A (en) Recording Medium
KR20210039612A (en) Method for processing a message that analyzing and providing feedback expression items
KR20210039615A (en) Apparatus for processing a message that analyzing and providing feedback expression items
CN112737919A (en) Instant message sending method and device