KR102439271B1 - System for managing chatbot based on accuracy rating - Google Patents

System for managing chatbot based on accuracy rating Download PDF

Info

Publication number
KR102439271B1
KR102439271B1 KR1020200068555A KR20200068555A KR102439271B1 KR 102439271 B1 KR102439271 B1 KR 102439271B1 KR 1020200068555 A KR1020200068555 A KR 1020200068555A KR 20200068555 A KR20200068555 A KR 20200068555A KR 102439271 B1 KR102439271 B1 KR 102439271B1
Authority
KR
South Korea
Prior art keywords
chatbot
accuracy
chatbots
information
storage unit
Prior art date
Application number
KR1020200068555A
Other languages
Korean (ko)
Other versions
KR20210151565A (en
Inventor
맹보연
최은선
Original Assignee
한전케이디엔주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한전케이디엔주식회사 filed Critical 한전케이디엔주식회사
Priority to KR1020200068555A priority Critical patent/KR102439271B1/en
Publication of KR20210151565A publication Critical patent/KR20210151565A/en
Application granted granted Critical
Publication of KR102439271B1 publication Critical patent/KR102439271B1/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/50Business processes related to the communications industry
    • G06Q50/30
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33Querying
    • G06F16/332Query formulation
    • G06F16/3329Natural language query formulation or dialogue systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F8/00Arrangements for software engineering
    • G06F8/70Software maintenance or management
    • G06F8/71Version control; Configuration management
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L51/00User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail
    • H04L51/02User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail using automatic reactions or user delegation, e.g. automatic replies or chatbot-generated messages

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Business, Economics & Management (AREA)
  • Artificial Intelligence (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Tourism & Hospitality (AREA)
  • Human Computer Interaction (AREA)
  • Signal Processing (AREA)
  • Computer Security & Cryptography (AREA)
  • Operations Research (AREA)
  • Health & Medical Sciences (AREA)
  • Economics (AREA)
  • General Health & Medical Sciences (AREA)
  • Human Resources & Organizations (AREA)
  • Marketing (AREA)
  • Primary Health Care (AREA)
  • Strategic Management (AREA)
  • General Business, Economics & Management (AREA)
  • Information Transfer Between Computers (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)

Abstract

본 발명은 사용자와의 인터페이스를 통해 챗봇 서비스를 제공하는 챗봇 서비스 제공 시스템과의 연동을 위한 통신 인터페이스를 제공하는 통신 인터페이스부; 챗봇정보 저장부; 챗봇들 각각의 사용정보를 저장 관리하는 챗봇 사용정보 저장부; 챗봇들 각각의 정확도를 저장 관리하는 챗봇 정확도 저장부; 통신 인터페이스부를 통한 챗봇 서비스 요청에 응답하여 대응된 챗봇 서비스를 제공하되, 상기 챗봇정보 저장부에 저장된 챗봇정보를 이용하여 챗봇 서비스를 제공하고, 상기 챗봇 서비스 제공정보에 의거하여 상기 챗봇 사용정보 저장부를 갱신하고, 상기 챗봇 서비스를 이용한 사용자들의 피드백 정보에 기초하여 상기 챗봇 정확도 저장부를 갱신하는 제어부; 및 상기 챗봇정보 저장부, 상기 챗봇 사용정보 저장부 및 상기 챗봇 정확도 저장부에 저장된 정보에 의거하여 챗봇 관리자들에게 성능 개선이 필요한 챗봇 정보를 제공하는 챗봇 추천부를 포함하여 챗봇 사용자들의 챗봇 사용 이력 및 정확도 평가 결과에 의거하여 성능 개선이 필요한 챗봇 목록을 챗봇 관리자들에게 제공함으로써, 챗봇 관리의 효율을 높일 수 있는 장점이 있다. The present invention provides a communication interface unit for providing a communication interface for interworking with a chatbot service providing system that provides a chatbot service through an interface with a user; chatbot information storage unit; a chatbot usage information storage unit for storing and managing usage information of each of the chatbots; a chatbot accuracy storage unit for storing and managing the accuracy of each of the chatbots; A corresponding chatbot service is provided in response to the chatbot service request through the communication interface unit, the chatbot service is provided using the chatbot information stored in the chatbot information storage unit, and the chatbot use information storage unit is configured based on the chatbot service provision information. a control unit for updating and updating the chatbot accuracy storage unit based on feedback information of users who have used the chatbot service; and a chatbot recommendation unit that provides chatbot information requiring performance improvement to chatbot managers based on the information stored in the chatbot information storage unit, the chatbot usage information storage unit, and the chatbot accuracy storage unit. There is an advantage in that the efficiency of chatbot management can be improved by providing the chatbot managers with a list of chatbots that need performance improvement based on the accuracy evaluation result.

Description

정확도 평점 기반 챗봇 관리 시스템{SYSTEM FOR MANAGING CHATBOT BASED ON ACCURACY RATING}Accuracy rating-based chatbot management system {SYSTEM FOR MANAGING CHATBOT BASED ON ACCURACY RATING}

본 발명은 챗봇 서비스를 위한 시스템에 관한 것으로서, 보다 상세하게는, 정확도 평점을 기반으로 한 챗봇 관리 시스템에 관한 것이다.The present invention relates to a system for a chatbot service, and more particularly, to a chatbot management system based on an accuracy rating.

최근 스마트폰을 통한 메신저의 사용 환경이 확대되고, 인공지능이 발전함에 따라, 고객들과 기업들을 메시징 서비스로 연결하고 정해진 응답 규칙을 바탕으로 대화 할 수 있도록 하는 챗봇(chat-bot) 시스템이 각광받고 있다. 특히, 고객지원 서비스의 품질을 향상시키기 위해, 챗봇을 도입해 고객 응대에 필요한 인력을 줄임과 동시에 24시간 빠르게 응답처리 하고자 하는 회사들이 상당히 많이 생기고 있다. 예를 들어, AT&T는 CS에 전화를 하면 봇이 응대하도록 하고 있다. 상기 챗봇(chat-bot)은 채터 로봇(chatter robot)을 의미하며, 대화를 하는 로봇의 약칭이다.Recently, as the usage environment of messengers through smartphones has expanded and artificial intelligence has developed, a chat-bot system that connects customers and companies with a messaging service and allows them to communicate based on a set response rule has been in the spotlight. have. In particular, in order to improve the quality of customer support services, there are a lot of companies that want to introduce chatbots to reduce the manpower required to respond to customers and to respond quickly 24 hours a day. AT&T, for example, has a bot answering a call to CS. The chat-bot refers to a chatter robot, and is an abbreviation for a robot that communicates.

이러한 챗봇은 금융권, 콜센터, 인터넷 상거래 등 다양한 곳에서 쓰이고 있으며, 그 효용성을 인정받음에 따라 챗봇 서비스의 종류가 다각화되고 있다.These chatbots are used in various places such as the financial sector, call centers, and Internet commerce, and as their effectiveness is recognized, the types of chatbot services are diversifying.

이에 따라 챗봇의 활용성을 높이기 위한 챗봇 서비스 관리가 필요하고, 이를 위해, 챗봇 관리자가 다양한 챗봇들 중 가장 시급하게 성능을 향상해야 할 챗봇을 미리 파악하고 이를 개선할 필요가 있다.Accordingly, it is necessary to manage chatbot services to increase the usability of chatbots.

한국 공개특허 번호 10-2019-0066988 호(공개일: 2019.06.14, 명칭: AIML 기반의 챗봇 시스템 및 챗봇 서비스 제공 방법)Korean Patent Publication No. 10-2019-0066988 (published date: June 14, 2019, title: AIML-based chatbot system and chatbot service provision method)

따라서 본 발명은 챗봇 관리자들에게 가장 시급하게 성능을 향상해야 할 챗봇 정보를 제공함으로써, 챗봇 관리의 효율을 높일 수 있는 챗봇 관리 시스템을 제공하고자 한다.Accordingly, an object of the present invention is to provide a chatbot management system capable of increasing the efficiency of chatbot management by providing chatbot managers with chatbot information that needs to be improved most urgently.

또한 본 발명은 챗봇 사용자들의 챗봇 사용 이력 및 정확도 평가 결과에 의거하여 성능 개선이 필요한 챗봇 목록을 생성하고, 이를 챗봇 관리자들에게 제공함으로써, 챗봇 관리자에게 유의미한 정보를 제공할 수 있는 챗봇 관리 시스템을 제공하고자 한다.In addition, the present invention provides a chatbot management system capable of providing meaningful information to chatbot managers by creating a list of chatbots requiring performance improvement based on chatbot users' chatbot usage history and accuracy evaluation results and providing them to chatbot managers want to

상기 목적을 달성하기 위해, 본 발명에서 제공하는 정확도 평점 기반 챗봇 관리 시스템은 챗봇 서비스 제공을 위한 챗봇 정보를 저장 관리하고, 사용자와의 인터페이스를 통해 챗봇 서비스를 제공하는 챗봇 서비스 제공 시스템과 연동하는 챗봇 관리 시스템에 있어서, 상기 챗봇 서비스 제공 시스템과의 연동을 위한 통신 인터페이스를 제공하는 통신 인터페이스부; 상기 챗봇 서비스 제공을 위한 챗봇정보를 저장 관리하는 챗봇정보 저장부; 상기 챗봇정보 저장부에 저장된 챗봇들 각각의 사용정보를 저장 관리하는 챗봇 사용정보 저장부; 상기 챗봇정보 저장부에 저장된 챗봇들 각각의 정확도를 저장 관리하는 챗봇 정확도 저장부; 상기 통신 인터페이스부를 통한 챗봇 서비스 요청에 응답하여 대응된 챗봇 서비스를 제공하되, 상기 챗봇정보 저장부에 저장된 챗봇정보를 이용하여 챗봇 서비스를 제공하고, 상기 챗봇 서비스 제공정보에 의거하여 상기 챗봇 사용정보 저장부를 갱신하고, 상기 챗봇 서비스를 이용한 사용자들의 피드백 정보에 기초하여 상기 챗봇 정확도 저장부를 갱신하는 제어부; 및 상기 챗봇정보 저장부, 상기 챗봇 사용정보 저장부 및 상기 챗봇 정확도 저장부에 저장된 정보에 의거하여 챗봇 관리자들에게 성능 개선이 필요한 챗봇 정보를 제공하는 챗봇 추천부를 포함하는 것을 특징으로 한다. In order to achieve the above object, the accuracy rating-based chatbot management system provided by the present invention stores and manages chatbot information for providing the chatbot service, and a chatbot that interworks with a chatbot service providing system that provides the chatbot service through an interface with the user A management system, comprising: a communication interface unit providing a communication interface for interworking with the chatbot service providing system; a chatbot information storage unit for storing and managing chatbot information for providing the chatbot service; a chatbot usage information storage unit for storing and managing usage information of each of the chatbots stored in the chatbot information storage unit; a chatbot accuracy storage unit for storing and managing the accuracy of each of the chatbots stored in the chatbot information storage unit; A corresponding chatbot service is provided in response to a chatbot service request through the communication interface unit, the chatbot service is provided using the chatbot information stored in the chatbot information storage unit, and the chatbot usage information is stored based on the chatbot service provision information. a control unit which updates the unit and updates the chatbot accuracy storage unit based on feedback information of users who have used the chatbot service; and a chatbot recommendation unit that provides chatbot information requiring performance improvement to chatbot managers based on the information stored in the chatbot information storage unit, the chatbot usage information storage unit, and the chatbot accuracy storage unit.

바람직하게는, 상기 챗봇 사용정보 저장부는 챗봇별 사용빈도를 저장하고, 상기 제어부는 상기 챗봇 서비스 제공정보에 의거하여 상기 챗봇 사용정보 저장부에 저장된 챗봇별 사용빈도를 갱신할 수 있다. Preferably, the chatbot usage information storage unit may store the usage frequency for each chatbot, and the control unit may update the usage frequency for each chatbot stored in the chatbot usage information storage unit based on the chatbot service provision information.

바람직하게는, 상기 챗봇 정확도 저장부는 챗봇별 정확도를 저장하고, 상기 제어부는 상기 사용자들의 피드백 정보에 포함된 챗봇의 정확도 평가 결과를 누적하여 챗봇별 정확도 평균값을 산출하고, 상기 평균값에 근거하여 상기 챗봇 정확도 저장부에 저장된 챗봇별 정확도를 갱신할 수 있다. Preferably, the chatbot accuracy storage unit stores the accuracy for each chatbot, and the controller accumulates the accuracy evaluation results of the chatbot included in the feedback information of the users to calculate an average accuracy for each chatbot, and based on the average value, the chatbot accuracy The accuracy of each chatbot stored in the accuracy storage unit can be updated.

바람직하게는, 상기 챗봇 추천부는 상기 챗봇 사용정보 저장부에 저장된 챗봇별 사용빈도에 의거하여 상기 챗봇정보 저장부에 저장된 챗봇들을 정렬한 후 사용빈도가 높은 순으로 선정된 소정 개의 챗봇들을 포함하는 챗봇 추천 목록을 생성하고, 상기 챗봇 정확도 저장부로부터 상기 챗봇 추천 목록에 포함된 챗봇들 각각의 정확도를 검출한 후 상기 정확도에 의거하여 상기 챗봇 추천 목록을 재정렬하고, 상기 재정렬된 챗봇 추천 목록에 의거하여 정확도가 낮은 순으로 성능 개선이 필요한 챗봇을 선정하여 상기 챗봇 관리자에게 제공할 수 있다. Preferably, the chatbot recommendation unit aligns the chatbots stored in the chatbot information storage unit based on the usage frequency for each chatbot stored in the chatbot usage information storage unit, and then a chatbot including a predetermined number of chatbots selected in the order of the highest usage frequency. generating a recommendation list, detecting the accuracy of each of the chatbots included in the chatbot recommendation list from the chatbot accuracy storage unit, rearranging the chatbot recommendation list based on the accuracy, and based on the rearranged chatbot recommendation list A chatbot requiring performance improvement may be selected in the order of lower accuracy and provided to the chatbot manager.

바람직하게는, 상기 챗봇 추천부는 상기 챗봇 정확도 저장부에 저장된 챗봇별 정확도에 의거하여 상기 챗봇 정보 저장부에 저장된 챗봇들을 정렬한 후 정확도가 낮은 순으로 선정된 소정 개의 챗봇들을 포함하는 챗봇 추천 목록을 생성하고, 상기 챗봇 사용정보 저장부로부터 상기 챗봇 추천 목록에 포함된 챗봇들 각각의 사용빈도를 검출한 후 상기 사용빈도에 의거하여 상기 챗봇 추천 목록을 재정렬하고, 상기 재정렬된 챗봇 추천 목록에 의거하여 사용빈도가 높은 순으로 성능 개선이 필요한 챗봇을 선정하여 상기 챗봇 관리자에게 제공할 수 있다. Preferably, the chatbot recommendation unit sorts the chatbots stored in the chatbot information storage unit based on the accuracy of each chatbot stored in the chatbot accuracy storage unit, and then selects a chatbot recommendation list including a predetermined number of chatbots selected in the order of low accuracy. and, after detecting the usage frequency of each of the chatbots included in the chatbot recommendation list from the chatbot usage information storage unit, rearrange the chatbot recommendation list based on the usage frequency, and based on the rearranged chatbot recommendation list A chatbot requiring performance improvement may be selected in the order of frequency of use and provided to the chatbot manager.

바람직하게는, 상기 제어부는 상기 챗봇 관리자로부터 성능개선 정보를 전달받아, 대응된 챗봇의 성능을 개선시키고, 상기 성능개선 이력정보를 상기 챗봇정보 저장부에 저장할 수 있다.Preferably, the control unit may receive the performance improvement information from the chatbot manager, improve the performance of the corresponding chatbot, and store the performance improvement history information in the chatbot information storage unit.

또한, 상기 목적을 달성하기 위해, 본 발명에서 제공하는 챗봇 관리 방법은 챗봇 서비스 제공을 위한 챗봇 정보를 저장 관리하고, 사용자와의 인터페이스를 통해 챗봇 서비스를 제공하는 챗봇 서비스 제공 시스템과 연동하는 챗봇 관리 시스템을 이용한 챗봇 관리 방법에 있어서, 상기 챗봇 서비스 제공 시스템의 챗봇 서비스 요청에 응답하여 기 저장된 챗봇 정보로부터 요청된 챗봇 서비스를 검출하여 제공하는 챗봇 서비스 제공 단계; 상기 챗봇 서비스 제공 정보에 의거하여 챗봇별 사용 정보를 갱신하는 챗봇 사용정보 갱신단계; 상기 챗봇 서비스 제공 시스템으로부터 챗봇 서비스를 이용한 사용자들의 피드백 정보를 전달받고, 상기 피드백 정보에 포함된 챗봇 평가 정보에 기초하여 챗봇별 정확도를 산출하여 저장하는 챗봇 정확도 갱신단계; 및 상기 챗봇별 사용정보 및 챗봇별 정확도에 의거하여 성능 개선이 필요한 챗봇 정보를 검출하고, 챗봇 관리자에게 상기 성능 개선이 필요한 챗봇 정보를 제공하는 챗봇 추천단계를 포함하는 것을 특징으로 한다. In addition, in order to achieve the above object, the chatbot management method provided by the present invention stores and manages chatbot information for providing the chatbot service, and manages the chatbot in conjunction with the chatbot service providing system that provides the chatbot service through an interface with the user A method for managing a chatbot using a system, the method comprising: providing a chatbot service by detecting and providing a requested chatbot service from pre-stored chatbot information in response to a chatbot service request of the chatbot service providing system; a chatbot usage information update step of updating usage information for each chatbot based on the chatbot service provision information; a chatbot accuracy updating step of receiving feedback information of users who used the chatbot service from the chatbot service providing system, calculating and storing the accuracy for each chatbot based on the chatbot evaluation information included in the feedback information; and a chatbot recommendation step of detecting chatbot information requiring performance improvement based on the usage information for each chatbot and accuracy of each chatbot, and providing the chatbot manager with the chatbot information requiring performance improvement.

바람직하게는, 상기 챗봇 사용정보 갱신단계는 상기 챗봇 서비스 제공 정보에 의거하여 챗봇별 사용 이력 및 사용빈도를 저장 및 관리할 수 있다. Preferably, the updating of the chatbot usage information may include storing and managing a usage history and usage frequency for each chatbot based on the chatbot service provision information.

바람직하게는, 상기 챗봇별 정확도 갱신단계는 상기 사용자들의 피드백 정보에 포함된 챗봇의 정확도 평가 결과를 챗봇별로 누적하는 정확도 평가결과 누적단계; 상기 누적된 챗봇별 정확도 평가 결과에 기초하여 챗봇별 정확도 평균값을 산출하는 정확도 평균값 산출단계; 및 상기 산출된 평균값에 근거하여 챗봇별 정확도를 저장하는 정확도 저장단계를 포함할 수 있다. Preferably, the step of updating the accuracy for each chatbot comprises: an accuracy evaluation result accumulation step of accumulating the accuracy evaluation result of the chatbot included in the feedback information of the users for each chatbot; an accuracy average value calculation step of calculating an accuracy average value for each chatbot based on the accumulated accuracy evaluation result for each chatbot; and an accuracy storage step of storing the accuracy for each chatbot based on the calculated average value.

바람직하게는, 상기 챗봇 추천단계는 상기 챗봇별 사용 빈도에 의거하여 상기 챗봇 관리 시스템에 저장된 챗봇들을 정렬한 후 사용빈도가 높은 순으로 소정 개의 챗봇들을 선정하고, 상기 선정된 챗봇들을 포함하는 챗봇 추천 목록을 생성하는 챗봇 추천 목록 생성 단계; 상기 챗봇 추천 목록에 포함된 챗봇들 각각의 정확도를 검출한 후 상기 정확도에 의거하여 상기 챗봇 추천 목록을 재정렬하는 챗봇 추천 목록 재정렬 단계; 및 상기 재정렬된 챗봇 추천 목록에 의거하여 정확도가 낮은 순으로 성능 개선이 필요한 챗봇들을 선정하고, 상기 성능 개선이 필요한 챗봇으로 선정된 챗봇들을 상기 챗봇 관리자에게 제공할 수 있다. Preferably, in the chatbot recommendation step, after sorting the chatbots stored in the chatbot management system based on the usage frequency for each chatbot, a predetermined number of chatbots are selected in the order of the highest usage frequency, and a chatbot recommendation including the selected chatbots Chatbot recommendation list generation step of generating a list; a chatbot recommendation list rearranging step of detecting the accuracy of each of the chatbots included in the chatbot recommendation list and rearranging the chatbot recommendation list based on the accuracy; and selecting chatbots requiring performance improvement in the order of lower accuracy based on the rearranged chatbot recommendation list, and providing the chatbots selected as the chatbots requiring performance improvement to the chatbot manager.

바람직하게는, 상기 챗봇 추천단계는 상기 챗봇별 정확도에 의거하여 상기 챗봇 관리 시스템에 저장된 챗봇들을 정렬한 후 정확도가 낮은 순으로 소정 개의 챗봇들을 선정하고, 상기 선정된 챗봇들을 포함하는 챗봇 추천 목록을 생성하는 챗봇 추천 목록 생성단계; 상기 챗봇 추천 목록에 포함된 챗봇들 각각의 사용빈도를 검출한 후 상기 사용빈도에 의거하여 상기 챗봇 추천 목록을 재정렬하는 챗봇 추천 목록 재정렬 단계; 및 상기 재정렬된 챗봇 추천 목록에 의거하여 사용빈도가 높은 순으로 성능 개선이 필요한 챗봇들을 선정하고, 상기 성능 개선이 필요한 챗봇으로 선정된 챗봇들을 상기 챗봇 관리자에게 제공할 수 있다.Preferably, in the chatbot recommendation step, after sorting the chatbots stored in the chatbot management system based on the accuracy of each chatbot, a predetermined number of chatbots are selected in the order of lower accuracy, and a chatbot recommendation list including the selected chatbots is displayed. Creating a chatbot recommendation list to create; a chatbot recommendation list rearranging step of detecting the usage frequency of each of the chatbots included in the chatbot recommendation list and rearranging the chatbot recommendation list based on the usage frequency; and selecting chatbots requiring performance improvement in the order of the highest usage frequency based on the rearranged chatbot recommendation list, and providing the chatbots selected as the chatbots requiring performance improvement to the chatbot manager.

본 발명의 정확도 평점 기반 챗봇 관리 시스템은 챗봇 사용자들의 챗봇 사용 이력 및 정확도 평가 결과에 의거하여 성능 개선이 필요한 챗봇 목록을 생성하고, 이를 챗봇 관리자들에게 제공함으로써, 챗봇 관리자에게 유의미한 정보를 제공할 수 있는 장점이 있다. 또한, 본 발명은 챗봇 관리자들에게 가장 시급하게 성능을 향상해야 할 챗봇 정보를 제공함으로써, 챗봇 관리의 효율을 높일 수 있는 장점이 있다.The accuracy rating-based chatbot management system of the present invention can provide meaningful information to the chatbot administrators by creating a list of chatbots requiring performance improvement based on the chatbot users' chatbot usage history and accuracy evaluation results, and providing them to the chatbot administrators. there are advantages to In addition, the present invention has an advantage in that it is possible to increase the efficiency of chatbot management by providing chatbot administrators with chatbot information that needs to be improved most urgently.

도 1은 본 발명의 일 실시 예에 따른 챗봇 관리 시스템에 대한 개략적인 블록도이다.
도 2는 본 발명의 일 실시 예에 따른 챗봇 정보 관리 DB에 대한 필드 구성을 설명하기 위한 도면이다.
도 3은 본 발명의 일 실시 예에 따른 챗봇 사용정보 관리 DB에 대한 필드 구성을 설명하기 위한 도면이다.
도 4는 본 발명의 일 실시 예에 따른 챗봇 정확도 관리 DB에 대한 필드 구성을 설명하기 위한 도면이다.
도 5는 본 발명의 일 실시 예에 따른 챗봇 관리 방법에 대한 개략적인 처리 절차도이다.
1 is a schematic block diagram of a chatbot management system according to an embodiment of the present invention.
2 is a diagram for explaining the configuration of a field for a chatbot information management DB according to an embodiment of the present invention.
3 is a diagram for explaining the configuration of a field for a chatbot usage information management DB according to an embodiment of the present invention.
4 is a diagram for explaining a field configuration for a chatbot accuracy management DB according to an embodiment of the present invention.
5 is a schematic processing procedure diagram of a chatbot management method according to an embodiment of the present invention.

아래에서는 첨부한 도면을 참고로 하여 본 발명의 실시 예에 대하여 설명하되, 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자가 본 발명을 용이하게 실시할 수 있도록 상세히 설명한다. 그러나 본 발명은 여러 가지 상이한 형태로 구현될 수 있으며 여기에서 설명하는 실시 예에 한정되지 않는다. 한편 도면에서 본 발명을 명확하게 설명하기 위해서 설명과 관계없는 부분은 생략하였으며, 명세서 전체를 통하여 유사한 부분에 대해서는 유사한 도면 부호를 붙였다. 또한 상세한 설명을 생략하여도 본 기술 분야의 당업자가 쉽게 이해할 수 있는 부분의 설명은 생략하였다.Hereinafter, an embodiment of the present invention will be described with reference to the accompanying drawings, but it will be described in detail so that those of ordinary skill in the art to which the present invention pertains can easily practice the present invention. However, the present invention may be embodied in various different forms and is not limited to the embodiments described herein. On the other hand, in order to clearly explain the present invention in the drawings, parts irrelevant to the description are omitted, and similar reference numerals are attached to similar parts throughout the specification. In addition, even if the detailed description is omitted, descriptions of parts that can be easily understood by those skilled in the art are omitted.

명세서 및 청구범위 전체에서, 어떤 부분이 어떤 구성 요소를 포함한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성 요소를 제외하는 것이 아니라 다른 구성 요소를 더 포함할 수 있는 것을 의미한다.Throughout the specification and claims, when a part includes a certain element, it means that other elements may be further included, rather than excluding other elements, unless otherwise stated.

도 1은 본 발명의 일 실시 예에 따른 챗봇 관리 시스템에 대한 개략적인 블록도이다. 도 1을 참조하면, 본 발명의 일 실시 예에 따른 챗봇 관리 시스템(100)은 챗봇 정보 관리 DB(110), 챗봇 사용정보 관리 DB(120), 챗봇 정확도 관리 DB(130), 통신 인터페이스부(I/F)(140), 제어부(150), 및 챗봇 추천부(160)를 포함하며, 챗봇 서비스 제공 시스템(미도시)과 연동한다. 이 때, 챗봇 서비스 제공 시스템(미도시)는 사용자와의 인터페이스를 통해 챗봇 서비스를 제공한다.1 is a schematic block diagram of a chatbot management system according to an embodiment of the present invention. Referring to FIG. 1 , the chatbot management system 100 according to an embodiment of the present invention includes a chatbot information management DB 110 , a chatbot usage information management DB 120 , a chatbot accuracy management DB 130 , and a communication interface unit ( It includes an I/F) 140 , a control unit 150 , and a chatbot recommendation unit 160 , and interworks with a chatbot service providing system (not shown). In this case, the chatbot service providing system (not shown) provides the chatbot service through an interface with the user.

챗봇 정보 관리 DB(110)는 챗봇 서비스 제공을 위한 챗봇정보를 저장/관리한다. 도 2는 본 발명의 일 실시 예에 따른 챗봇 정보 관리 DB에 대한 필드 구성을 설명하기 위한 도면으로서, 도 2를 참조하면, 챗봇 정보 관리 DB(110)는 챗봇_ID(111)/챗봇_이름(112)/챗봇_설명(113)/URL(114)/등록일(115)/등록자_정보(116)를 포함할 수 있다. 이 때, URL(114)은 챗봇이 저장된 위치 정보를 나타내고, 등록일(115)은 챗봇이 등록된 날짜를 나타낸다.The chatbot information management DB 110 stores/manages chatbot information for providing a chatbot service. 2 is a view for explaining the configuration of a field for the chatbot information management DB according to an embodiment of the present invention. Referring to FIG. 2 , the chatbot information management DB 110 is a chatbot_ID(111)/chatbot_name (112) / chatbot_description 113 / URL 114 / registration date 115 / registrant_information 116 may be included. In this case, the URL 114 indicates the location information where the chatbot is stored, and the registration date 115 indicates the date the chatbot is registered.

챗봇 사용정보 관리 DB(120)는 챗봇 정보 관리 DB(110)에 저장된 챗봇들 각각의 사용정보를 저장/관리한다. 특히, 챗봇 사용정보 관리 DB(120)는 챗봇별 사용빈도를 저장한다. 도 3은 본 발명의 일 실시 예에 따른 챗봇 사용정보 관리 DB에 대한 필드 구성을 설명하기 위한 도면으로서, 도 3을 참조하면, 챗봇 사용정보 관리 DB(120)는 챗봇_ID(121)/최근사용일자(122)/기간별_누적사용횟수(123)/총_누적사용횟수(124)를 포함할 수 있다. 이 때, 기간별_누적사용횟수(123)는 미리 설정된 특정 기간에 사용된 횟수를 저장한다. 즉, 상기 기간에 해당 챗봇이 사용된 사용 빈도를 저장할 수 있다. The chatbot usage information management DB 120 stores/manages usage information of each of the chatbots stored in the chatbot information management DB 110 . In particular, the chatbot usage information management DB 120 stores the usage frequency for each chatbot. 3 is a view for explaining the configuration of a field for the chatbot usage information management DB according to an embodiment of the present invention. Referring to FIG. 3 , the chatbot usage information management DB 120 is a chatbot_ID (121)/recent The date of use 122 / period_accumulated number of uses 123 / total_accumulated number of uses 124 may be included. In this case, the period_accumulated number of use 123 stores the number of times used in a preset specific period. That is, it is possible to store the frequency of use of the corresponding chatbot in the period.

챗봇 정확도 관리 DB(130)는 챗봇 정보 관리 DB(110)에 저장된 챗봇들 각각의 정확도를 저장/관리한다. 이 때, 챗봇들 각각의 정확도는 해당 챗봇을 사용한 사용자들의 정확도 평가에 대한 평균값에 의해 결정될 수 있다. 도 4는 본 발명의 일 실시 예에 따른 챗봇 정확도 관리 DB에 대한 필드 구성을 설명하기 위한 도면으로서, 도 4를 참조하면, 챗봇 정확도 관리 DB(130)는 챗봇_ID(131)/평가일시(132)/평가결과(133)/평가자_ID(134)/…/총평점(135)/정확도(136)를 포함할 수 있다. 이 때, 챗봇_ID(131), 평가일시(132), 평가결과(133), 평가자_ID(134)는 다수개 포함될 수 있다. 예컨대, 챗봇 정확도를 평가하기 위해 유효한 개수로 미리 설정된 수 만큼 포함될 수 있다. 이는 평가 결과의 신뢰도를 높이기 위함이다.The chatbot accuracy management DB 130 stores/manages the accuracy of each of the chatbots stored in the chatbot information management DB 110 . In this case, the accuracy of each of the chatbots may be determined by the average value of the accuracy evaluations of users using the corresponding chatbot. 4 is a view for explaining the field configuration of the chatbot accuracy management DB according to an embodiment of the present invention. Referring to FIG. 4 , the chatbot accuracy management DB 130 is chatbot_ID 131 / evaluation date and time ( 132)/Evaluation result (133)/Evaluator_ID(134)/… /total rating (135)/accuracy (136) may be included. In this case, a plurality of chatbot_ID 131 , evaluation date and time 132 , evaluation result 133 , and evaluator_ID 134 may be included. For example, it may be included as many as a preset number as a valid number to evaluate the chatbot accuracy. This is to increase the reliability of the evaluation results.

통신 인터페이스부(I/F)(140)는 상기 챗봇 서비스 제공 시스템(미도시)과의 연동을 위한 통신 인터페이스를 제공한다. The communication interface unit (I/F) 140 provides a communication interface for interworking with the chatbot service providing system (not shown).

제어부(150)는 미리 설정된 제어 알고리즘 또는 통신 I/F(140)를 통해 입력된 제어 신호에 의거하여 챗봇 관리 시스템(100)의 전반적인 동작을 제어한다. 특히, 제어부(150)는 통신 I/F(140)를 통한 챗봇 서비스 요청에 응답하여 대응된 챗봇 서비스를 제공하되, 챗봇정보 관리 DB(110)에 저장된 챗봇정보를 이용하여 챗봇 서비스를 제공한다. 이를 위해, 제어부(150)는 상기 챗봇 서비스 제공정보에 의거하여 챗봇 사용정보 관리 DB(120)를 갱신하되, 특히, 챗봇별 사용빈도를 갱신한다. 또한, 제어부(150)는 상기 챗봇 서비스를 이용한 사용자들의 피드백 정보에 기초하여 챗봇 정확도 관리 DB(130)를 갱신하되, 상기 사용자들의 피드백 정보에 포함된 챗봇의 정확도 평가 결과를 누적하여 챗봇별 정확도 평균값을 산출하고, 상기 평균값에 근거하여 챗봇 정확도 관리 DB(130)에 저장된 챗봇별 정확도를 갱신할 수 있다.The controller 150 controls the overall operation of the chatbot management system 100 based on a preset control algorithm or a control signal input through the communication I/F 140 . In particular, the controller 150 provides a corresponding chatbot service in response to a chatbot service request through the communication I/F 140 , but provides the chatbot service using the chatbot information stored in the chatbot information management DB 110 . To this end, the controller 150 updates the chatbot usage information management DB 120 based on the chatbot service provision information, and in particular, updates the usage frequency for each chatbot. In addition, the control unit 150 updates the chatbot accuracy management DB 130 based on the feedback information of users who used the chatbot service, but accumulates the accuracy evaluation results of the chatbot included in the users' feedback information, and the average value of accuracy for each chatbot , and the accuracy for each chatbot stored in the chatbot accuracy management DB 130 may be updated based on the average value.

또한, 제어부(150)는 챗봇 관리자로부터 성능개선 정보를 전달받아, 대응된 챗봇의 성능을 개선시키고, 상기 성능개선 이력정보를 챗봇정보 관리 DB(110)에 저장할 수 있다.In addition, the control unit 150 may receive performance improvement information from the chatbot manager, improve the performance of the corresponding chatbot, and store the performance improvement history information in the chatbot information management DB 110 .

챗봇 추천부(160)는 챗봇정보 관리 DB(110), 챗봇 사용정보 관리 DB(120), 챗봇 정확도 관리 DB(130)에 저장된 정보에 의거하여 챗봇 관리자들에게 성능 개선이 필요한 챗봇 정보를 제공한다.The chatbot recommendation unit 160 provides chatbot information requiring performance improvement to chatbot managers based on information stored in the chatbot information management DB 110 , the chatbot usage information management DB 120 , and the chatbot accuracy management DB 130 . .

즉, 챗봇 추천부(160)는 챗봇별 사용빈도 및 챗봇별 정확도 평가 결과에 기초하여 성능 개선이 필요한 챗봇을 선정하고, 그 결과를 챗봇 관리자에게 제공함으로써, 챗봇 관리가 원활하게 될 수 있도록 한다.That is, the chatbot recommendation unit 160 selects a chatbot that needs performance improvement based on the frequency of use for each chatbot and the accuracy evaluation result for each chatbot, and provides the result to the chatbot manager, so that the chatbot can be managed smoothly.

예를 들어, 챗봇 추천부(160)는 사용빈도가 높은 챗봇들 중 정확도가 떨어지는 챗봇을 선정하여 챗봇 관리자에게 제공하거나, 최근에 사용한 챗봇들 중 정확도가 떨어지는 챗봇을 선정하여 챗봇 관리자에게 제공할 수 있다. For example, the chatbot recommendation unit 160 may select a chatbot with low accuracy from among frequently used chatbots and provide it to the chatbot manager, or select a chatbot with low accuracy among recently used chatbots and provide it to the chatbot manager. have.

이를 위해, 챗봇 추천부(160)는 챗봇 사용정보 관리 DB(120)에 저장된 챗봇별 사용빈도에 의거하여 챗봇정보 관리 DB(110)에 저장된 챗봇들을 정렬하고, 사용빈도가 높은 순으로 선정된 소정 개의 챗봇들을 포함하는 챗봇 추천 목록을 생성하고, 챗봇 정확도 관리 DB(130)로부터 상기 챗봇 추천 목록에 포함된 챗봇들 각각의 정확도를 검출하고, 상기 정확도에 의거하여 상기 챗봇 추천 목록을 재정렬하고, 상기 재정렬된 챗봇 추천 목록에 의거하여 정확도가 낮은 순으로 성능 개선이 필요한 챗봇을 선정하여 상기 챗봇 관리자에게 제공하는 일련의 과정을 수행할 수 있다. To this end, the chatbot recommendation unit 160 sorts the chatbots stored in the chatbot information management DB 110 based on the usage frequency for each chatbot stored in the chatbot usage information management DB 120 , and selects the chatbots in the order of the highest frequency of use. Create a chatbot recommendation list including chatbots, detect the accuracy of each of the chatbots included in the chatbot recommendation list from the chatbot accuracy management DB 130, rearrange the chatbot recommendation list based on the accuracy, and Based on the rearranged chatbot recommendation list, a series of processes may be performed to select a chatbot requiring performance improvement in the order of low accuracy and provide it to the chatbot manager.

또는 챗봇 추천부(160)는 정확도가 떨어지는 소정개의 챗봇들을 먼저 선택한 후 그 챗봇들 중 사용빈도가 높은 챗봇을 선정하여 챗봇 관리자에게 제공할 수 있다. Alternatively, the chatbot recommendation unit 160 may first select a predetermined number of chatbots with low accuracy, then select a chatbot with high frequency of use from among the chatbots and provide it to the chatbot manager.

이를 위해, 챗봇 추천부(160)는 챗봇 정확도 관리 DB(130)에 저장된 챗봇별 정확도에 의거하여 챗봇 정보 관리 DB(110)에 저장된 챗봇들을 정렬하고, 정확도가 낮은 순으로 선정된 소정 개의 챗봇들을 포함하는 챗봇 추천 목록을 생성하고, 챗봇 사용정보 관리 DB(110)로부터 상기 챗봇 추천 목록에 포함된 챗봇들 각각의 사용빈도를 검출하고, 상기 사용빈도에 의거하여 상기 챗봇 추천 목록을 재정렬하고, 상기 재정렬된 챗봇 추천 목록에 의거하여 사용빈도가 높은 순으로 성능 개선이 필요한 챗봇을 선정하여 상기 챗봇 관리자에게 제공하는 일련의 과정을 수행할 수 있다. To this end, the chatbot recommendation unit 160 sorts the chatbots stored in the chatbot information management DB 110 based on the accuracy of each chatbot stored in the chatbot accuracy management DB 130, and selects a predetermined number of chatbots selected in the order of low accuracy. generating a chatbot recommendation list including, detecting the usage frequency of each of the chatbots included in the chatbot recommendation list from the chatbot usage information management DB 110, rearranging the chatbot recommendation list based on the usage frequency, and Based on the rearranged chatbot recommendation list, a series of processes may be performed to select a chatbot requiring performance improvement in the order of the highest frequency of use and provide it to the chatbot manager.

이 때, 챗봇 추천부(160)는 상기 챗봇 추천 목록 생성시 최근에 사용된 챗봇을 기준으로 챗봇을 선정할 수 있다. 즉, 미리 설정된 소정 기간 이내에 사용된 이력이 있는 챗봇들 중 정확도가 낮거나 사용빈도가 높은 챗봇을 선정하여 챗봇 추천 목록을 생성할 수 있다. In this case, the chatbot recommendation unit 160 may select a chatbot based on a chatbot recently used when generating the chatbot recommendation list. That is, a chatbot recommendation list may be generated by selecting a chatbot having a low accuracy or a high frequency of use among chatbots having a history of being used within a preset period.

도 5는 본 발명의 일 실시 예에 따른 챗봇 관리 방법에 대한 개략적인 처리 절차도이다. 도 5는 사용자 단말(300)과의 인터페이스를 통해 챗봇 서비스를 제공하는 챗봇 서비스 제공 시스템(200)과 연동하는 챗봇 관리 시스템(100)을 이용한 챗봇 관리 방법에 대한 개략적인 처리 절차를 예시하고 있다. 5 is a schematic processing procedure diagram of a chatbot management method according to an embodiment of the present invention. 5 illustrates a schematic processing procedure for a chatbot management method using the chatbot management system 100 that interworks with the chatbot service providing system 200 that provides a chatbot service through an interface with the user terminal 300 .

도 1 및 도 5를 참조하면, 본 발명의 일 실시 예에 따른 챗봇 관리 방법은 다음과 같다. 1 and 5 , a chatbot management method according to an embodiment of the present invention is as follows.

먼저, 단계 S105에서는, 사용자 단말(300)이 챗봇 서비스 제공 시스템(200)에게 챗봇 서비스를 요청하고, 단계 S110에서는 챗봇 서비스 제공 시스템(200)이 상기 챗봇 서비스 요청을 챗봇 관리 시스템(100)에게 전달한다. First, in step S105 , the user terminal 300 requests a chatbot service from the chatbot service providing system 200 , and in step S110 , the chatbot service providing system 200 transmits the chatbot service request to the chatbot management system 100 . do.

단계 S115에서는, 챗봇 서비스 제공을 위한 챗봇 정보를 저장 관리하는 챗봇 관리 시스템(100)이 챗봇 서비스 제공 시스템(200)의 챗봇 서비스 요청에 응답하여 기 저장된 챗봇 정보로부터 요청된 챗봇 서비스를 검출한다. In step S115 , the chatbot management system 100 that stores and manages chatbot information for providing the chatbot service detects the requested chatbot service from the chatbot information stored in advance in response to the chatbot service request of the chatbot service providing system 200 .

단계 S120에서는, 챗봇 관리 시스템(100)이 상기 검출된 챗봇 서비스를 챗봇 서비스 제공 시스템(200)에게 전달하고, 단계 S125에서는, 챗봇 서비스 제공 시스템(200)이 상기 챗봇 서비스를 사용자 단말(300)에게 제공한다. In step S120 , the chatbot management system 100 delivers the detected chatbot service to the chatbot service providing system 200 , and in step S125 , the chatbot service providing system 200 provides the chatbot service to the user terminal 300 . to provide.

단계 S130에서는, 챗봇 관리 시스템(100)이 상기 챗봇 서비스 제공 정보에 의거하여 챗봇별 사용 정보(예컨대, 챗봇별 사용 이력 및 사용 빈도)를 갱신한다. 즉, 단계 S130에서는, 상기 챗봇 서비스 제공 정보에 의거하여 제어부(150)가 챗봇 사용정보 관리 DB(120)를 갱신한다. In step S130 , the chatbot management system 100 updates usage information for each chatbot (eg, usage history and frequency of use for each chatbot) based on the chatbot service provision information. That is, in step S130 , the controller 150 updates the chatbot usage information management DB 120 based on the chatbot service provision information.

단계 S135에서, 상기 챗봇 서비스를 이용한 사용자 단말(300)이 상기 챗봇 서비스에 대한 피드백 정보를 입력하면, 즉, 상기 챗봇 서비스를 이용한 사용자 단말(300)이 해당 챗봇에 대한 정확도를 평가하면, 단계 S140에서는, 챗봇 서비스 제공 시스템(200)이 상기 정확도 평가 결과를 챗봇 관리 시스템(100)에게 전달한다. In step S135, when the user terminal 300 using the chatbot service inputs feedback information for the chatbot service, that is, when the user terminal 300 using the chatbot service evaluates the accuracy of the chatbot, step S140 In , the chatbot service providing system 200 transmits the accuracy evaluation result to the chatbot management system 100 .

단계 S145에서는, 챗봇 관리 시스템(100)이 상기 피드백 정보에 포함된 정확도 평가 결과에 기초하여 챗봇별 정확도를 갱신한다. 즉, 단계 S145에서는, 상기 정확도 평가 결과에 기초하여, 제어부(150)가 챗봇 정확도 관리 DB(130)를 갱신한다. 이를 위해, 제어부(150)는 상기 피드백 정보에 포함된 챗봇 평가 정보에 기초하여 챗봇별 정확도를 산출하는 단계를 더 수행할 수 있다. 즉, 제어부(150)는 사용자들의 피드백 정보에 포함된 챗봇의 정확도 평가 결과를 챗봇별로 누적하고, 상기 누적된 챗봇별 정확도 평가 결과에 기초하여 챗봇별 정확도 평균값을 산출하고, 상기 산출된 평균값에 근거하여 챗봇별 정확도를 갱신하는 일련의 과정을 수행할 수 있다.In step S145, the chatbot management system 100 updates the accuracy of each chatbot based on the accuracy evaluation result included in the feedback information. That is, in step S145 , the controller 150 updates the chatbot accuracy management DB 130 based on the accuracy evaluation result. To this end, the controller 150 may further perform the step of calculating the accuracy for each chatbot based on the chatbot evaluation information included in the feedback information. That is, the controller 150 accumulates the accuracy evaluation results of the chatbots included in the feedback information of users for each chatbot, calculates an average accuracy value for each chatbot based on the accumulated accuracy evaluation results for each chatbot, and based on the calculated average value Thus, it is possible to perform a series of processes to update the accuracy of each chatbot.

단계 S150에서는, 챗봇 관리 시스템(100)이 상기 챗봇별 사용정보 및 챗봇별 정확도에 의거하여 성능 개선이 필요한 챗봇 정보를 선정하고, 단계 S155에서는, 챗봇 관리 시스템(100)이 상기 성능 개선이 필요한 챗봇 정보를 관리자 단말(400)에게 제공한다. In step S150, the chatbot management system 100 selects the chatbot information requiring performance improvement based on the usage information for each chatbot and the accuracy for each chatbot. In step S155, the chatbot management system 100 selects the chatbot information requiring performance improvement. Information is provided to the manager terminal 400 .

이 때, 단계 S150에서는, 챗봇 추천부(160)가 사용빈도가 높은 챗봇들 중 정확도가 떨어지는 챗봇을 선정하여 챗봇 관리자에게 제공하거나, 최근에 사용한 챗봇들 중 정확도가 떨어지는 챗봇을 선정할 수 있다. In this case, in step S150, the chatbot recommendation unit 160 may select a chatbot with low accuracy from among frequently used chatbots and provide it to the chatbot manager, or select a chatbot with low accuracy from among recently used chatbots.

이를 위해, 단계 S150은, 챗봇 추천부(160)가 상기 챗봇별 사용 빈도에 의거하여 챗봇정보 관리 DB(110)에 저장된 챗봇들을 정렬한 후 사용빈도가 높은 순으로 소정 개의 챗봇들을 선정하고, 상기 선정된 챗봇들을 포함하는 챗봇 추천 목록을 생성하는 챗봇 추천 목록 생성 단계; 상기 챗봇 추천 목록에 포함된 챗봇들 각각의 정확도를 검출한 후 상기 정확도에 의거하여 상기 챗봇 추천 목록을 재정렬하는 챗봇 추천 목록 재정렬 단계; 및 상기 재정렬된 챗봇 추천 목록에 의거하여 정확도가 낮은 순으로 성능 개선이 필요한 챗봇들을 선정하는 챗봇 선정 단계를 포함할 수 있다. To this end, in step S150, the chatbot recommendation unit 160 sorts the chatbots stored in the chatbot information management DB 110 based on the usage frequency for each chatbot, and then selects a predetermined number of chatbots in the order of the highest usage frequency, and A chatbot recommendation list generation step of generating a chatbot recommendation list including the selected chatbots; a chatbot recommendation list rearranging step of detecting the accuracy of each of the chatbots included in the chatbot recommendation list and rearranging the chatbot recommendation list based on the accuracy; and selecting chatbots requiring performance improvement in the order of lower accuracy based on the rearranged chatbot recommendation list.

또는, 단계 S150에서, 챗봇 추천부(160)는 정확도가 떨어지는 소정개의 챗봇들을 먼저 선택한 후 그 챗봇들 중 사용빈도가 높은 챗봇을 선정하여 챗봇 관리자에게 제공할 수 있다. Alternatively, in step S150 , the chatbot recommendation unit 160 may first select a predetermined number of chatbots with low accuracy, then select a chatbot with a high frequency of use from among the chatbots and provide it to the chatbot manager.

이를 위해, 단계 S150은, 챗봇 추천부(160)가 상기 챗봇별 정확도에 의거하여 챗봇정보 관리 DB(110)에 저장된 챗봇들을 정렬한 후 정확도가 낮은 순으로 소정 개의 챗봇들을 선정하고, 상기 선정된 챗봇들을 포함하는 챗봇 추천 목록을 생성하는 챗봇 추천 목록 생성단계; 상기 챗봇 추천 목록에 포함된 챗봇들 각각의 사용빈도를 검출한 후 상기 사용빈도에 의거하여 상기 챗봇 추천 목록을 재정렬하는 챗봇 추천 목록 재정렬 단계; 및 상기 재정렬된 챗봇 추천 목록에 의거하여 사용빈도가 높은 순으로 성능 개선이 필요한 챗봇들을 선정하는 챗봇 선정 단계를 포함할 수 있다. To this end, in step S150, the chatbot recommendation unit 160 sorts the chatbots stored in the chatbot information management DB 110 based on the accuracy of each chatbot, and then selects a predetermined number of chatbots in the order of lower accuracy, and selects the selected chatbots. A chatbot recommendation list generation step of generating a chatbot recommendation list including chatbots; a chatbot recommendation list rearranging step of detecting the usage frequency of each of the chatbots included in the chatbot recommendation list and rearranging the chatbot recommendation list based on the usage frequency; and a chatbot selection step of selecting chatbots requiring performance improvement in the order of frequency of use based on the rearranged chatbot recommendation list.

한편, 단계 S160 및 단계 S165에서는, 상기 성능 개선이 필요한 챗봇 정보를 전달받은 관리자 단말(400)의 성능개선 정보 입력 정보에 의거하여 챗봇 관리 시스템(100)이 대응된 챗봇의 성능을 향상시킨다. Meanwhile, in steps S160 and S165, the chatbot management system 100 improves the performance of the corresponding chatbot based on the performance improvement information input information of the manager terminal 400 that has received the chatbot information requiring performance improvement.

또한, 챗봇 관리 시스템(100)은 상기 성능 개선 이력 정보를 저장하는 성능개선 이력정보 저장 단계(미도시)를 더 포함할 수 있다. In addition, the chatbot management system 100 may further include a performance improvement history information storage step (not shown) of storing the performance improvement history information.

이상에서는 본 발명의 실시예를 설명하였으나, 본 발명의 권리범위는 이에 한정되지 아니하며 본 발명이 실시예로부터 본 발명이 속하는 기술분야에서 통상의지식을 가진 자에 의해 용이하게 변경되어 균등한 것으로 인정되는 범위의 모든 변경 및 수정을 포함한다.Although embodiments of the present invention have been described above, the scope of the present invention is not limited thereto, and the present invention is easily changed from the embodiments by those of ordinary skill in the art to which the present invention belongs and recognized as equivalent. including all changes and modifications to the scope of

Claims (12)

챗봇 서비스 제공을 위한 챗봇 정보를 저장 관리하고, 사용자와의 인터페이스를 통해 챗봇 서비스를 제공하는 챗봇 서비스 제공 시스템과 연동하는 챗봇 관리 시스템에 있어서,
상기 챗봇 서비스 제공 시스템과의 연동을 위한 통신 인터페이스를 제공하는 통신 인터페이스부;
상기 챗봇 서비스 제공을 위한 챗봇정보를 저장 관리하는 챗봇정보 저장부;
상기 챗봇정보 저장부에 저장된 챗봇들 각각의 최근사용일자 및 사용빈도를 포함하는 사용정보를 저장 관리하는 챗봇 사용정보 저장부;
상기 챗봇정보 저장부에 저장된 챗봇들 각각의 정확도를 저장 관리하는 챗봇 정확도 저장부;
상기 통신 인터페이스부를 통한 챗봇 서비스 요청에 응답하여 대응된 챗봇 서비스를 제공하되, 상기 챗봇정보 저장부에 저장된 챗봇정보를 이용하여 챗봇 서비스를 제공하고, 상기 제공된 챗봇 서비스에 대한 정보에 의거하여 상기 챗봇 사용정보 저장부에 저장된 챗봇별 최근사용일자 및 사용빈도를 포함하는 사용정보를 갱신하고, 상기 챗봇 서비스를 이용한 사용자들의 피드백 정보에 기초하여 상기 챗봇 정확도 저장부를 갱신하는 제어부; 및
상기 챗봇정보 저장부, 상기 챗봇 사용정보 저장부 및 상기 챗봇 정확도 저장부에 저장된 정보에 의거하여 챗봇 관리자들에게 성능 개선이 필요한 챗봇에 대한 정보를 제공하는 챗봇 추천부를 포함하고,
상기 챗봇 추천부는
챗봇들 각각의 사용빈도, 챗봇들 각각의 정확도, 및 챗봇들 각각의 최근사용일자를 함께 고려하여 성능 개선이 필요한 챗봇을 선정하되,
사용빈도가 높은 상위 소정 개의 챗봇들 중 정확도가 낮은 순으로 성능 개선이 필요한 챗봇을 선정하거나,
정확도가 낮은 상위 소정 개의 챗봇들 중 사용빈도가 높은 순으로 성능 개선이 필요한 챗봇을 선정하거나,
상기 최근사용일자가 미리 설정된 소정 시간 이내에 포함되는 소정 개의 챗봇들 중 정확도가 미리 설정된 소정 값 이하이거나, 사용빈도가 미리 설정된 소정값 이상인 적어도 하나의 챗봇들을 선정하여 상기 선정된 챗봇에 대한 정보를 상기 챗봇 관리자에게 제공하는 것을 특징으로 하는 정확도 평점 기반 챗봇 관리 시스템.
A chatbot management system that stores and manages chatbot information for providing a chatbot service and interworks with a chatbot service providing system that provides a chatbot service through an interface with a user,
a communication interface unit providing a communication interface for interworking with the chatbot service providing system;
a chatbot information storage unit for storing and managing chatbot information for providing the chatbot service;
including the latest use date and frequency of use of each of the chatbots stored in the chatbot information storage unit a chatbot usage information storage unit for storing and managing usage information;
a chatbot accuracy storage unit for storing and managing the accuracy of each of the chatbots stored in the chatbot information storage unit;
A corresponding chatbot service is provided in response to a chatbot service request through the communication interface unit, the chatbot service is provided using the chatbot information stored in the chatbot information storage unit, and the chatbot is used based on the information on the provided chatbot service a control unit that updates usage information including the most recent use date and frequency of use for each chatbot stored in the information storage unit, and updates the chatbot accuracy storage unit based on feedback information of users who have used the chatbot service; and
A chatbot recommendation unit for providing information on a chatbot in need of performance improvement to chatbot managers based on the information stored in the chatbot information storage unit, the chatbot usage information storage unit, and the chatbot accuracy storage unit;
The chatbot recommendation section
Select a chatbot that needs performance improvement by considering the frequency of use of each chatbot, the accuracy of each chatbot, and the latest use date of each chatbot together,
Among the top predetermined chatbots with high frequency of use, chatbots requiring performance improvement are selected in the order of low accuracy, or
Among the top predetermined chatbots with low accuracy, the chatbots that need performance improvement are selected in the order of frequency of use, or
At least one chatbot whose accuracy is less than or equal to a preset value or whose frequency of use is greater than or equal to a preset value from among the preset number of chatbots included within the preset time period, information on the selected chatbot is displayed. Accuracy rating-based chatbot management system, characterized in that it is provided to the chatbot manager.
삭제delete 제1항에 있어서, 상기 챗봇 정확도 저장부는
챗봇별 정확도를 저장하고,
상기 제어부는
상기 사용자들의 피드백 정보에 포함된 챗봇의 정확도 평가 결과를 누적하여 챗봇별 정확도 평균값을 산출하고, 상기 평균값에 근거하여 상기 챗봇 정확도 저장부에 저장된 챗봇별 정확도를 갱신하는 것을 특징으로 하는 정확도 평점 기반 챗봇 관리 시스템.
The method of claim 1, wherein the chatbot accuracy storage unit
Save the accuracy of each chatbot,
the control unit
Accuracy rating-based chatbot, characterized in that by accumulating the accuracy evaluation results of the chatbots included in the feedback information of the users, calculating an average accuracy for each chatbot, and updating the accuracy for each chatbot stored in the chatbot accuracy storage unit based on the average value management system.
제3항에 있어서, 상기 챗봇 추천부는
상기 챗봇 사용정보 저장부에 저장된 챗봇별 사용빈도에 의거하여 상기 챗봇정보 저장부에 저장된 챗봇들을 정렬한 후 사용빈도가 높은 순으로 선정된 소정 개의 챗봇들을 포함하는 챗봇 추천 목록을 생성하고,
상기 챗봇 정확도 저장부로부터 상기 챗봇 추천 목록에 포함된 챗봇들 각각의 정확도를 검출한 후 상기 정확도에 의거하여 상기 챗봇 추천 목록을 재정렬하고,
상기 재정렬된 챗봇 추천 목록에 의거하여 정확도가 낮은 순으로 성능 개선이 필요한 챗봇을 선정하여 상기 선정된 챗봇에 대한 정보를 상기 챗봇 관리자에게 제공하는 것을 특징으로 하는 정확도 평점 기반 챗봇 관리 시스템.
The method of claim 3, wherein the chatbot recommendation unit
After sorting the chatbots stored in the chatbot information storage unit based on the usage frequency of each chatbot stored in the chatbot usage information storage unit, a chatbot recommendation list including a predetermined number of chatbots selected in the order of frequency of use is generated,
After detecting the accuracy of each of the chatbots included in the chatbot recommendation list from the chatbot accuracy storage unit, rearrange the chatbot recommendation list based on the accuracy;
An accuracy rating-based chatbot management system, characterized in that, based on the rearranged chatbot recommendation list, a chatbot requiring performance improvement is selected in the order of lower accuracy, and information about the selected chatbot is provided to the chatbot manager.
제3항에 있어서, 상기 챗봇 추천부는
상기 챗봇 정확도 저장부에 저장된 챗봇별 정확도에 의거하여 상기 챗봇 정보 저장부에 저장된 챗봇들을 정렬한 후 정확도가 낮은 순으로 선정된 소정 개의 챗봇들을 포함하는 챗봇 추천 목록을 생성하고,
상기 챗봇 사용정보 저장부로부터 상기 챗봇 추천 목록에 포함된 챗봇들 각각의 사용빈도를 검출한 후 상기 사용빈도에 의거하여 상기 챗봇 추천 목록을 재정렬하고,
상기 재정렬된 챗봇 추천 목록에 의거하여 사용빈도가 높은 순으로 성능 개선이 필요한 챗봇을 선정하여 상기 선정된 챗봇에 대한 정보를 상기 챗봇 관리자에게 제공하는 것을 특징으로 하는 정확도 평점 기반 챗봇 관리 시스템.
The method of claim 3, wherein the chatbot recommendation unit
After sorting the chatbots stored in the chatbot information storage unit based on the accuracy of each chatbot stored in the chatbot accuracy storage unit, a chatbot recommendation list including a predetermined number of chatbots selected in the order of low accuracy is generated;
After detecting the usage frequency of each of the chatbots included in the chatbot recommendation list from the chatbot usage information storage unit, rearrange the chatbot recommendation list based on the usage frequency;
An accuracy rating-based chatbot management system, characterized in that, based on the rearranged chatbot recommendation list, a chatbot requiring performance improvement is selected in the order of the highest frequency of use, and information about the selected chatbot is provided to the chatbot manager.
제1항에 있어서, 상기 제어부는
상기 챗봇 관리자로부터 성능개선 정보를 전달받아, 대응된 챗봇의 성능을 개선시키고, 성능개선 이력정보를 상기 챗봇정보 저장부에 저장하는 것을 특징으로 하는 정확도 평점 기반 챗봇 관리 시스템.
According to claim 1, wherein the control unit
Accuracy rating based chatbot management system, characterized in that by receiving the performance improvement information from the chatbot manager, improving the performance of the corresponding chatbot, and storing the performance improvement history information in the chatbot information storage unit.
챗봇 서비스 제공을 위한 챗봇 정보를 저장 관리하고, 사용자와의 인터페이스를 통해 챗봇 서비스를 제공하는 챗봇 서비스 제공 시스템과 연동하는 챗봇 관리 시스템을 이용한 챗봇 관리 방법에 있어서,
상기 챗봇 관리 시스템이 상기 챗봇 서비스 제공 시스템의 챗봇 서비스 요청에 응답하여 기 저장된 챗봇 정보로부터 요청된 챗봇 서비스를 검출하여 제공하는 챗봇 서비스 제공 단계;
상기 챗봇 관리 시스템이 상기 챗봇 서비스 제공 단계에서 제공된 챗봇 서비스에 대한 정보에 의거하여 챗봇별 최근사용일자 및 사용빈도를 포함하는 챗봇별 사용 정보를 갱신하는 챗봇 사용정보 갱신단계;
상기 챗봇 관리 시스템이 상기 챗봇 서비스 제공 시스템으로부터 챗봇 서비스를 이용한 사용자들의 피드백 정보를 전달받고, 상기 피드백 정보에 포함된 챗봇 평가 정보에 기초하여 챗봇별 정확도를 산출하여 저장하는 챗봇 정확도 갱신단계; 및
상기 챗봇 관리 시스템이 상기 챗봇별 사용정보 및 챗봇별 정확도에 의거하여 성능 개선이 필요한 챗봇에 대한 정보를 검출하고, 챗봇 관리자에게 상기 성능 개선이 필요한 챗봇에 대한 정보를 제공하는 챗봇 추천단계를 포함하고,
상기 챗봇 추천단계는
상기 챗봇 관리 시스템이 챗봇들 각각의 사용빈도, 챗봇들 각각의 정확도, 및 챗봇들 각각의 최근사용일자를 함께 고려하여 성능 개선이 필요한 챗봇을 선정하되,
사용빈도가 높은 상위 소정 개의 챗봇들 중 정확도가 낮은 순으로 성능 개선이 필요한 챗봇을 선정하거나,
정확도가 낮은 상위 소정 개의 챗봇들 중 사용빈도가 높은 순으로 성능 개선이 필요한 챗봇을 선정하거나,
상기 최근사용일자가 미리 설정된 소정 시간 이내에 포함되는 소정 개의 챗봇들 중 정확도가 미리 설정된 소정 값 이하이거나, 사용빈도가 미리 설정된 소정값 이상인 적어도 하나의 챗봇들을 선정하여 상기 선정된 챗봇에 대한 정보를 상기 챗봇 관리자에게 제공하는 것을 특징으로 하는 정확도 평점 기반 챗봇 관리 방법.
In a chatbot management method using a chatbot management system that stores and manages chatbot information for providing chatbot service, and interworks with a chatbot service providing system that provides chatbot service through an interface with a user,
a chatbot service providing step in which the chatbot management system detects and provides the requested chatbot service from pre-stored chatbot information in response to the chatbot service request of the chatbot service providing system;
a chatbot usage information updating step of updating, by the chatbot management system, usage information for each chatbot including the most recent use date and usage frequency for each chatbot based on the information on the chatbot service provided in the chatbot service providing step;
a chatbot accuracy updating step in which the chatbot management system receives feedback information of users who used the chatbot service from the chatbot service providing system, calculates and stores the accuracy for each chatbot based on the chatbot evaluation information included in the feedback information; and
A chatbot recommendation step in which the chatbot management system detects information on a chatbot requiring performance improvement based on the usage information for each chatbot and accuracy for each chatbot, and provides information about the chatbot requiring performance improvement to the chatbot manager; ,
The chatbot recommendation step is
The chatbot management system selects a chatbot that needs performance improvement in consideration of the frequency of use of each of the chatbots, the accuracy of each of the chatbots, and the recent use date of each of the chatbots together,
Among the top predetermined chatbots with high frequency of use, chatbots requiring performance improvement are selected in the order of low accuracy, or
Among the top predetermined chatbots with low accuracy, the chatbots requiring performance improvement are selected in the order of the highest frequency of use, or
At least one chatbot whose accuracy is less than or equal to a preset value or whose frequency of use is greater than or equal to a preset value from among the preset number of chatbots included within the preset time, information on the selected chatbot is displayed. An accuracy rating-based chatbot management method, characterized in that it is provided to the chatbot manager.
삭제delete 제7항에 있어서, 상기 챗봇 정확도 갱신단계는
상기 사용자들의 피드백 정보에 포함된 챗봇의 정확도 평가 결과를 챗봇별로 누적하는 정확도 평가결과 누적단계;
상기 누적된 챗봇별 정확도 평가 결과에 기초하여 챗봇별 정확도 평균값을 산출하는 정확도 평균값 산출단계; 및
상기 산출된 평균값에 근거하여 챗봇별 정확도를 저장하는 정확도 저장단계를 포함하는 것을 특징으로 하는 정확도 평점 기반 챗봇 관리 방법.
The method of claim 7, wherein the chatbot accuracy update step
an accuracy evaluation result accumulation step of accumulating accuracy evaluation results of the chatbot included in the feedback information of the users for each chatbot;
an accuracy average value calculation step of calculating an accuracy average value for each chatbot based on the accumulated accuracy evaluation result for each chatbot; and
and an accuracy storage step of storing the accuracy for each chatbot based on the calculated average value.
제9항에 있어서, 상기 챗봇 추천단계는
상기 챗봇별 사용 빈도에 의거하여 상기 챗봇 관리 시스템에 저장된 챗봇들을 정렬한 후 사용빈도가 높은 순으로 소정 개의 챗봇들을 선정하고, 상기 선정된 챗봇들을 포함하는 챗봇 추천 목록을 생성하는 챗봇 추천 목록 생성 단계;
상기 챗봇 추천 목록에 포함된 챗봇들 각각의 정확도를 검출한 후 상기 정확도에 의거하여 상기 챗봇 추천 목록을 재정렬하는 챗봇 추천 목록 재정렬 단계;
상기 재정렬된 챗봇 추천 목록에 의거하여 정확도가 낮은 순으로 성능 개선이 필요한 챗봇들을 선정하는 챗봇 선정단계; 및
상기 성능 개선이 필요한 챗봇으로 선정된 챗봇들에 대한 정보를 상기 챗봇 관리자에게 제공하는 제공단계를 포함하는 것을 특징으로 하는 정확도 평점 기반 챗봇 관리 방법.
The method of claim 9, wherein the chatbot recommendation step
A chatbot recommendation list creation step of sorting chatbots stored in the chatbot management system based on the usage frequency for each chatbot, selecting a predetermined number of chatbots in the order of the highest usage frequency, and generating a chatbot recommendation list including the selected chatbots ;
a chatbot recommendation list rearranging step of detecting the accuracy of each of the chatbots included in the chatbot recommendation list and rearranging the chatbot recommendation list based on the accuracy;
a chatbot selection step of selecting chatbots requiring performance improvement in the order of lower accuracy based on the rearranged chatbot recommendation list; and
and providing information on chatbots selected as chatbots requiring performance improvement to the chatbot manager.
제9항에 있어서, 상기 챗봇 추천단계는
상기 챗봇별 정확도에 의거하여 상기 챗봇 관리 시스템에 저장된 챗봇들을 정렬한 후 정확도가 낮은 순으로 소정 개의 챗봇들을 선정하고, 상기 선정된 챗봇들을 포함하는 챗봇 추천 목록을 생성하는 챗봇 추천 목록 생성단계;
상기 챗봇 추천 목록에 포함된 챗봇들 각각의 사용빈도를 검출한 후 상기 사용빈도에 의거하여 상기 챗봇 추천 목록을 재정렬하는 챗봇 추천 목록 재정렬 단계;
상기 재정렬된 챗봇 추천 목록에 의거하여 사용빈도가 높은 순으로 성능 개선이 필요한 챗봇들을 선정하는 챗봇 선정단계; 및
상기 성능 개선이 필요한 챗봇으로 선정된 챗봇들에 대한 정보를 상기 챗봇 관리자에게 제공하는 제공단계를 포함하는 것을 특징으로 하는 정확도 평점 기반 챗봇 관리 방법.
The method of claim 9, wherein the chatbot recommendation step
A chatbot recommendation list generation step of arranging the chatbots stored in the chatbot management system based on the accuracy of each chatbot, selecting a predetermined number of chatbots in the order of low accuracy, and generating a chatbot recommendation list including the selected chatbots;
a chatbot recommendation list rearranging step of detecting the usage frequency of each of the chatbots included in the chatbot recommendation list and rearranging the chatbot recommendation list based on the usage frequency;
a chatbot selection step of selecting chatbots requiring performance improvement in the order of the highest frequency of use based on the rearranged chatbot recommendation list; and
and providing information on chatbots selected as chatbots requiring performance improvement to the chatbot manager.
제7항에 있어서,
상기 챗봇 관리 시스템이 상기 챗봇 관리자로부터 성능개선 정보를 입력받아, 대응된 챗봇의 성능을 개선시키고, 성능개선 이력정보를 저장하는 성능개선 이력정보 저장단계를 더 포함하는 것을 특징으로 하는 정확도 평점 기반 챗봇 관리 방법.
8. The method of claim 7,
Accuracy rating-based chatbot, characterized in that the chatbot management system further comprises a performance improvement history information storage step of receiving the performance improvement information from the chatbot manager, improving the performance of the corresponding chatbot, and storing the performance improvement history information. management method.
KR1020200068555A 2020-06-05 2020-06-05 System for managing chatbot based on accuracy rating KR102439271B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020200068555A KR102439271B1 (en) 2020-06-05 2020-06-05 System for managing chatbot based on accuracy rating

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020200068555A KR102439271B1 (en) 2020-06-05 2020-06-05 System for managing chatbot based on accuracy rating

Publications (2)

Publication Number Publication Date
KR20210151565A KR20210151565A (en) 2021-12-14
KR102439271B1 true KR102439271B1 (en) 2022-08-31

Family

ID=78902683

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020200068555A KR102439271B1 (en) 2020-06-05 2020-06-05 System for managing chatbot based on accuracy rating

Country Status (1)

Country Link
KR (1) KR102439271B1 (en)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101929800B1 (en) * 2017-02-24 2018-12-18 주식회사 원더풀플랫폼 Method for providing chatbot by subjects and system using therof
KR101993771B1 (en) * 2018-04-16 2019-09-30 제이이 인터네셔널 코포레이션 Chatbot searching system and program

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190064309A (en) * 2017-11-30 2019-06-10 삼성에스디에스 주식회사 Method for controlling chatbot
KR102517843B1 (en) 2017-12-06 2023-04-03 주식회사 케이티 Chatbot system based on artificial intelligence markup language and method for proding chatbot service

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101929800B1 (en) * 2017-02-24 2018-12-18 주식회사 원더풀플랫폼 Method for providing chatbot by subjects and system using therof
KR101993771B1 (en) * 2018-04-16 2019-09-30 제이이 인터네셔널 코포레이션 Chatbot searching system and program

Also Published As

Publication number Publication date
KR20210151565A (en) 2021-12-14

Similar Documents

Publication Publication Date Title
KR102146884B1 (en) Chatting system, ChatBot Server Apparatus, ChatBot ID Managing Apparatus, Chatting Mediating Server Apparatus, Program, Chatting Method, and Chatting Mediating Method
US7257219B2 (en) Routing data based on comparative income values
CN105991692A (en) Information pushing method, information display method, and related apparatus and system
JP6006510B2 (en) Fatigue management system
CN106775841B (en) Method, system and device for upgrading plug-in
US8416941B1 (en) Method and apparatus for managing customer data
CN109120461A (en) A kind of service feature end-to-end monitoring method, system and device
CN109254981B (en) Data management method and device of distributed cache system
CN107819825A (en) A kind of service scheduling method, device and electronic equipment
KR102439271B1 (en) System for managing chatbot based on accuracy rating
JP6013776B2 (en) Telephone number list management server, telephone number list management program, and telephone number list management method
CN111861644A (en) Intelligent recommendation method and system for industrial design products
US8559415B2 (en) Method and apparatus for facilitating telecommunication network selection
CN110780944B (en) Method and device for starting application permission and machine-readable storage medium
CN107608722B (en) Application program downloading method and device
EA018217B1 (en) A method and system for managing roaming of a mobile equipment
CN110889551A (en) Full-process engineering consultation service method
CN110209510A (en) Data processing method and device for social contact
CN108683533B (en) Configuration updating method, configuration updating response method, server and system
JP6659047B2 (en) Communication network system, route control device, route control method, and route control program
JP5156403B2 (en) Connection control device, connection control method, and connection control program
CN110839101A (en) Calling strategy method based on blacklist
CN112825045A (en) Payment request processing method, system and storage medium
CN109286843A (en) The adaptive quickly starting method of smart television application program
KR102209715B1 (en) Method for managing contact schedules for multiple users

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E90F Notification of reason for final refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant