CN109525480A - 用户问题收集系统和方法 - Google Patents

用户问题收集系统和方法 Download PDF

Info

Publication number
CN109525480A
CN109525480A CN201811075873.3A CN201811075873A CN109525480A CN 109525480 A CN109525480 A CN 109525480A CN 201811075873 A CN201811075873 A CN 201811075873A CN 109525480 A CN109525480 A CN 109525480A
Authority
CN
China
Prior art keywords
user
chat robots
customer problem
customer
reporting
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201811075873.3A
Other languages
English (en)
Other versions
CN109525480B (zh
Inventor
孙文芳
王乐
郝珊珊
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Alibaba China Co Ltd
Original Assignee
Guangdong Shenma Search Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Guangdong Shenma Search Technology Co Ltd filed Critical Guangdong Shenma Search Technology Co Ltd
Priority to CN201811075873.3A priority Critical patent/CN109525480B/zh
Publication of CN109525480A publication Critical patent/CN109525480A/zh
Application granted granted Critical
Publication of CN109525480B publication Critical patent/CN109525480B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L51/00User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail
    • H04L51/02User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail using automatic reactions or user delegation, e.g. automatic replies or chatbot-generated messages
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L51/00User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail
    • H04L51/04Real-time or near real-time messaging, e.g. instant messaging [IM]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/02Protocols based on web technology, e.g. hypertext transfer protocol [HTTP]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/50Network services
    • H04L67/535Tracking the activity of the user

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Information Transfer Between Computers (AREA)

Abstract

本发明公开了一种用户问题收集系统和方法。该系统包括:聊天机器人,用于与用户进行实际交互;问题回答模块,用于引导聊天机器人与用户进行交互以定位用户问题类型并获取用户上报问题和用户信息;数据库,用于存储经定位的用户问题类型、用户上报问题和用户信息;以及质量平台获取所述用户问题类型、用户上报问题和用户信息以进行分析。由此,通过以聊天机器人为前端入口,实现从问题分类、信息收集、问题分析和问题跟踪记录全流程人工零参与的过程,并能将分析得到的结构化问题自动例如提供给后端研发人员,由此提升整个推荐系统的推荐精度。

Description

用户问题收集系统和方法
技术领域
本发明涉及计算机技术,尤其涉及一种用户问题收集系统和方法。
背景技术
随着互联网技术的发展和移动设备的普及,人们越来越习惯于使用移动端上的应用(例如,信息聚合型浏览器应用)进行信息浏览。各类应用也会针对单个用户的阅读习惯或是群体用户的关注热点向用户推荐各类文章。在这其中,倘若用户在浏览文章(例如,新闻)时出现了影响浏览体验的推荐场景,例如推荐了重复的文章、用户不感兴趣的文章或是文章分类错误等,便可以称为出现了一个不良案例(BadCase)。通常,上述不良案例可以通过点击率得到反映,但更为直接的是直接收集来自用户的反馈,内容提供方或应用维护方可以基于收集的上述不良案例以实现对推荐的改进。
在现有技术中,线上不良案例的反馈回溯主要依赖聊天器里的人工处理,处理流程为:用户将问题描述反馈到线上问题群,研发在线上问题收集群跟用户交互,获取用户ID和文章ID,根据用户的描述信息先从在线端服务器的日志分析开始进行问题排查,在线端排查问题后交给策略端服务器进行排查,策略端服务器排查结束后交给算法侧排查,整个问题的排查链路长,涉及人员多,问题没有记录和跟踪,问题修复后也无法对后续的回归验证进行跟踪,流程没有闭环。另外,在用户反馈问题后,如果没有第一时间跟进处理,会导致出问题的现场信息丢失,问题现场被破坏无法被及时跟踪分析。
为此,需要一种更为高效的用户反馈问题收集方案。
发明内容
为了解决如上至少一个问题,提出了一种用户问题收集系统,以聊天机器人为前端入口,实现从问题分类、信息收集、问题分析和问题跟踪记录全流程人工零参与的过程,并能将分析得到的结构化问题自动例如提供给后端研发人员,由此提升整个推荐系统的推荐精度。
根据本发明的一个方面,提供了一种用户问题收集系统,包括:聊天机器人,用于与用户进行实际交互;问题回答模块,用于引导聊天机器人与用户进行交互以定位用户问题类型并获取用户上报问题和用户信息;数据库,用于存储经定位的用户问题类型、用户上报问题和用户信息;以及质量平台获取所述用户问题类型、用户上报问题和用户信息以进行分析。由此,能够实现自动的问题收集与追踪。
可选地,该系统还可以包括:中转服务器,用于在聊天机器人与问题回答模块间进行信息中转。
可选地,聊天机器人可以经由多级菜单与用户进行交互。由此,方便聊天机器人的训练和问题的定位。
可选地,多级菜单可以包括:包括推荐算法和内容质量的一级菜单;包括不喜欢、重复推荐和/或分类问题的推荐算法子菜单;以及包括过时、虚假新闻、标题党和/或低俗的内容质量子菜单。
可选地,用户上报问题可以包括不良案例所涉及文章的文章ID。
可选地,聊天机器人是用户问题所涉及的应用的内嵌聊天机器人;或者所述聊天机器人所在应用与用户问题所涉及的应用不同。由此,方便聊天机器人的灵活布置。
可选地,用户信息可以包括如下至少一项:用户在所述聊天机器人所在应用的用户ID;用户问题所涉及应用的用户ID;以及用户使用终端的终端ID。
可选地,聊天机器人在其所在应用与用户问题所涉及的应用不同时,提示用户操作以获取所述用户在用户问题所涉及应用中的用户ID。
可选地,质量平台可以将针对所述用户问题的分析结果经由所述聊天机器人所在应用和/或用户问题所涉及的应用反馈给所述用户。
可选地,数据库可以是MySQL数据库,并且所述经定位的用户问题类型、用户上报问题和用户信息可以以表格的形式存储在所述MySQL数据库中。
可选地,用户问题类型表格存储所述聊天机器人侧的互动内容;用户上报问题表格存储用户侧的互动内容;以及用户信息表格至少存储在所述聊天机器人所在应用中的用户ID。
可选地,质量平台可以基于用户问题类型和/或用户上报问题,使用如下的至少一下进行分析:离线分析脚本;调试平台;服务器客户端接口;日志分析模块;线下测试分析接口;以及线下服务器接口。
根据本发明的另一方面,还提供了一种用户问题收集方法,包括:使用问题回答模块引导聊天机器人与用户进行交互以定位用户问题类型并获取用户上报问题和用户信息;将经定位的用户问题类型、用户上报问题和用户信息存储在数据库中;以及质量平台从所述数据库中获取所述经定位的用户问题类型、用户上报问题和用户信息以进行分析。
可选地,使用问题回答模块引导聊天机器人与用户进行交互以定位用户问题类型并获取用户上报问题和用户信息可以包括:使用中转服务器在聊天机器人与问题回答模块间进行信息中转。
可选地,使用问题回答模块引导聊天机器人与用户进行交互以定位用户问题类型并获取用户上报问题和用户信息可以包括:所述聊天机器人经由多级菜单与用户进行交互以定位用户问题类型。
可选地,多级菜单可以包括:包括推荐算法和内容质量的一级菜单;包括不喜欢、重复推荐和/或分类问题的推荐算法子菜单;以及包括过时、虚假新闻、标题党和/或低俗的内容质量子菜单。
可选地,聊天机器人是用户问题所涉及的应用的内嵌聊天机器人;或者所述聊天机器人所在应用与用户问题所涉及的应用不同。
可选地,使用问题回答模块引导聊天机器人与用户进行交互以定位用户问题类型并获取用户上报问题和用户信息包括:所述聊天机器人在其所在应用与用户问题所涉及的应用不同时,提示用户操作以获取所述用户在用户问题所涉及应用中的用户ID。
可选地,该方法还可以包括:质量平台将针对所述用户问题的分析结果经由所述聊天机器人所在应用和/或用户问题所涉及的应用反馈给所述用户。
可选地,数据库可以是MySQL数据库,并且所述经定位的用户问题类型、用户上报问题和用户信息可以以表格的形式存储在所述MySQL数据库中。
可选地,质量平台可以从所述数据库中获取所述经定位的用户问题类型、用户上报问题和用户信息以进行分析包括:所述质量平台基于所述用户问题类型和/或所述用户上报问题,使用如下的至少一项进行分析:离线分析脚本;调试平台;服务器客户端接口;日志分析模块;线下测试分析接口;以及线下服务器接口。
可选地,根据本发明的另一方面,还提供了一种计算设备,包括:处理器;以及存储器,其上存储有可执行代码,当所述可执行代码被所述处理器执行时,使所述处理器执行如上所述的方法。
可选地,根据本发明的另一方面,还提供了一种非暂时性机器可读存储介质,其上存储有可执行代码,当所述可执行代码被电子设备的处理器执行时,使所述处理器执行如上所述的方法。
本发明通过自动化收集和分析线上用户问题(例如,BadCase),避免了人工排查导致的多人流转和信息丢失问题。进一步地,用户通过聊天机器人交互获取信息,信息真实准确,分析过程简洁高效。此外,用户问题的上报、分析、解决和验证可以实现为闭环跟踪,由此提升模块线上质量。在具体实现中,可以采用聊天群菜单交互方式获取问题信息,并且菜单具有分层分级逻辑且不同菜单类型具有相应的分析处理方式,由此使得信息定位准确且NPL聊天机器人的训练和实现相对简单。另外,通过用户信息的获取和关联,能够在问题自动分析过程中实现问题和用户的自动对应,从而方便问题的追溯和报告
附图说明
通过结合附图对本公开示例性实施方式进行更详细的描述,本公开的上述以及其它目的、特征和优势将变得更加明显,其中,在本公开示例性实施方式中,相同的参考标号通常代表相同部件。
图1示出了根据本发明一个实施例的用户问题收集系统的组成示意图。
图2A-2F示出了以分类错误类问题反馈为例说明交互过程示例。
图3示出了本发明的用户问题收集系统的一个具体实现例。
图4示出了根据本发明一个实施例的用户问题收集方法的示意性流程图。
图5示出了根据本发明另一个实施例的用户问题收集方法的示意性流程图。
图6示出了根据本发明一个实施例的计算设备示意性框图。
具体实施方式
下面将参照附图更详细地描述本公开的优选实施方式。虽然附图中显示了本公开的优选实施方式,然而应该理解,可以以各种形式实现本公开而不应被这里阐述的实施方式所限制。相反,提供这些实施方式是为了使本公开更加透彻和完整,并且能够将本公开的范围完整地传达给本领域的技术人员。
如上所述,为了提升对用户主动上报问题的收集效率,本发明提出了一个用户问题收集系统,该系统以聊天机器人作为交互前端,实现从问题分类、信息收集、问题分析和问题跟踪记录全流程人工零参与的过程。在此,用户问题可以是用户针对相关应用的使用所提出的任何问题,优选地,用户问题可以是用户在浏览文章(例如,新闻)时出现了影响浏览体验的推荐场景,即,例如推荐了重复的文章、用户不感兴趣的文章或是文章分类错误的不良案例。
图1示出了根据本发明一个实施例的用户问题收集系统的组成示意图。如图所示,系统100包括聊天机器人110、问题回答模块120、数据库130以及质量平台140。
聊天机器人110可以与用户进行实际交互。问题回答模块120可以用于引导聊天机器人120与用户进行交互以定位用户问题类型并获取用户上报问题和用户信息。数据库130可以存储经定位的用户问题类型、用户上报问题和用户信息。质量平台140则可从数据库130获取上述用户问题类型、用户上报问题和用户信息以进行分析。优选地,质量平台140可以将针对用户问题的分析结果反馈给用户,例如经由聊天机器人110所在应用和/或用户问题所涉及的应用,由此如图所示实现一个闭环。
在此,聊天机器人110可以用作与用户进行交互的前端入口。在一个实施例中,该聊天机器人110例如可以是用户问题所涉及应用的内嵌聊天机器人。在其他实施例中,该聊天机器人110所在的应用可以与用户问题所涉及应用不同。例如,用户可以是浏览器应用的用户,其在使用浏览器应用进行信息浏览时,被推荐了不感兴趣的内容(即,不良案例),用户可以直接将该不良案例回馈给该浏览器应用自带的聊天机器人,例如,通过点击用户反馈或是消息子菜单进入聊天机器人入口。在浏览器应用例如是专注于信息流推荐的精简应用时(即,不包括与消息浏览不直接相关的其它组件时),可以在相关的聊天应用中开启上述聊天机器人110的功能。这时,聊天应用中可以包括用于收集来自不同应用的不良案例的多个聊天机器人110。例如,可以通过在聊天应用的不同群中加载多个NLP(自然语言处理,Natural Language Processing)机器人来实现针对不同应用的聊天机器人。用户可以根据其需要反馈问题所在的应用,选择聊天应用中相应的聊天机器人110(例如,可以采取不同的聊天群的形式)。相应地,在质量平台140进行分析结果反馈时,其可以相应地经由浏览器应用通知或是聊天应用通知进行分析结果的通知。
优选地,系统100还可以包括中转服务器,用于在聊天机器人与问题回答模块间进行信息中转。具体地,该中转服务器可以是Http服务器。于是,例如实现为NLP机器人的聊天机器人110在识别用户意图后可以通过调用Http接口的方式关联至中转服务器的中转流程。具体地,中转服务器可以使用XssProxy作为入口模块,该入口模块可以调用问题回答模块120,将聊天机器人110获取的用户消息和用户信息进行初步的分析、过滤和相关支撑信息获取,并优选将这些信息结构化地存储在数据库中,由此完成和用户的交互过程。
优选地,聊天机器人110可以经由多级菜单与用户进行交互。换句话说,可以通过机器人交互菜单作为前端入口,通过多级菜单交互从用户获取必要的信息。菜单具备指导功能,用户可以根据菜单的指引将问题归类到对应的类型。菜单可以采用分级结构。在一个实施例中,多级菜单可以包括:包含推荐算法、内容质量和其他分类的一级菜单。其中,推荐算法子菜单可以包括不喜欢、重复推荐和/或分类问题、及其他等的分类。内容质量子菜单则可包括过时、虚假新闻、标题党和/或低俗(低质)、及其他等的分类。
优选地,用户上报问题可以包括不良案例所涉及文章的文章ID。在此,文章ID可以指代在信息流推荐系统(例如,国内信息流推荐系统)中唯一标识一篇文章(例如,一篇新闻)的一串数字,索引库中的每一篇文章都可以有一个唯一的文章ID与其相对应。在具体实践中,用户通常无需直接获取不良案例相关文章的ID,而是可以通过转发文章链接等方法使得聊天机器人110或是自动问题回答模块能够获取到该文章的唯一ID。
中转服务器(例如,Http服务器)可以根据上级菜单ID以及用户输入的交互信息产生下级菜单及返回结果,返回结果通过聊天机器人在聊天界面里返回给用户,并通过询问的方式引导用户进行输入。优选地,用户可以从下级菜单返回到上级菜单(@a小蓝答疑0),可以在交互过程中强制退出(@a小蓝答疑*)。
图2A-2F示出了以分类错误类问题反馈为例说明交互过程示例。在此,将聊天机器人110的名称设为“小蓝答疑”。
如图2A所示,用户A通过输入@a小蓝答疑0触发主菜单。随后,聊天机器人返回包括推荐算法、内容质量和其他三个选项的主菜单,以及需要反馈的问题分类。
在图2B,用户A选择需要反馈的问题类型对应的子菜单,即,通过选择输入@a小蓝答疑1来选择推荐算法问题下的子菜单。随后,聊天机器人返回推荐算法下的子菜单选项,包括分类问题、反馈不生效、重复推荐、多样性差、兴趣点不匹配和其他。
在图2C,聊天机器人在规定时间内没有获取到来自用户A反馈,因此发送填写预期分类或是返回上层菜单的提醒。用户A在聊天机器人的提醒下给出反馈“@a小蓝答疑娱乐”。
聊天机器人根据用户的输入判断系统中是否存在该用户的用户ID信息,如果存在则直接要求用户反馈的问题信息,如果不存在则要求用户根据机器的人的提示信息在浏览器客户端上进行对应的操作,用于获取用户的用户ID相关信息。于是,如图2D所示,聊天机器人查询到该用户A尚未将不良案例所在浏览器应用(例如,图中的UC浏览器)的账号与该聊天应用中的账号相关联,因此给出用于在浏览器应用中进行关联的链接及相关操作说明。
在图2E,在用户A完成了在浏览器应用内的操作后,聊天机器人继续提示用户A进行进一步的问题描述。随后,用户A给出了“@a小蓝答疑补充内容文案”的反馈。聊天机器人随后在用户A输入*号的挂机指令下结束了对话。
优选地,在后台完成问题分析后,聊天机器人如图2F所示向用户A反馈其提出的用户问题在质量平台上的分析情况的链接(在此,Aone指代问题记录和跟踪系统的一个具体实现,示出的链接可以是Aone的链接统计机器人)。
如上结合图2A-2F示出了定位用户问题类型并获取具体用户问题的例子。在具体应用中,还需要获取用户信息,以方便问题的关联与追踪。在一个实施例中,用户信息可以包括如下至少一项:用户在所述聊天机器人所在应用的用户ID;用户问题所涉及应用的用户ID;以及用户使用终端的终端ID。
如上所示,用户在聊天应用中的用户ID及其所使用的终端ID可由聊天机器人通过聊天应用的权限而自行获取。而当聊天机器人在其所在应用与用户问题所涉及的应用不同时,提示用户操作以获取所述用户在用户问题所涉及应用中的用户ID,例如图2D所示的关联链接的发送。
如上结合图1和图2A-2F描述了根据本发明的用户问题收集系统及其优选实施例。图3示出了本发明的用户问题收集系统的一个具体实现例。在图3的示例中,本发明的问题收集系统可以仅针对内网用户,换句话说,是针对产品发布方内部的问题收集系统。在其他实施例中,本发明的用户问题收集系统也可以针对常规用户,例如,应用A和应用B的常规用户。
如图3所示,内网用户可以经由内网聊天应用中包含的两个NPL机器人进行相关应用A和B的不良案例反馈。应该理解的是,聊天应用中可以包括多个NPL聊天机器人以应对不同的应用反馈;或者,聊天应用中可以包括单个NPL聊天机器人,该机器人可以包括针对不同应用的不同菜单项;或者也可以是上述两种实现方式的结合。
具体地,应用A-badCase自动收集群和应用B-badCase自动收集群(例如,内网聊天器中的两个聊天群)可以作为内网用户的前端交互入口,群里分别加入两个NLP机器人,NLP机器人在识别用户意图后通过调用http接口的方式关联到HttpServer的中转流程,XssProxy是HttpServer的入口模块,XssProxy调用Xiaolan_answer子模块(对应于问题回答模块),用于对从各自聊天群中获取的用户问题类型、用户上报问题和用户信息进行初步的分析、过滤、相关支撑信息获取,然后将结构化信息存入数据库中,并完成和用户的菜单交互过程。质量平台是后台分析系统,周期性从数据库的tb_answer_menu和tb_question中获取问题和用户信息,对用户上报的问题进行识别,过滤,分析,将分析出的有效问题在Aone中创建问题单,指派给对应研发及产品工作人员。
在此,数据库可以是MySQL数据库,并且所述经定位的用户问题类型、用户上报问题和用户信息以表格的形式存储在所述MySQL数据库中。用户问题类型表格可以存储聊天机器人侧的互动内容,例如上述的表格tb_answer_menu。用户上报问题表格则可存储用户侧的互动内容,例如上述的表格tb_question。另外,用户信息表格至少需要存储在聊天机器人所在应用中的用户ID,也可以进一步存储用户在应用A和/或B中的ID以及安装了上述应用客户端的用户终端的ID。
Http服务器经由入口模块XssProxy通过聊天机器人和用户交互,将获取和问题相关的信息写入MySQL数据库,质量平台定时调度系统,根据定时从MySQL数据库中获取待分析的问题,根据菜单类型及问题相关信息,通过调用离线分析脚本、Debug(调试)平台、Server Client(服务器客户端接口)接口、日志分析模块、支撑分析接口(例如,线下测试分析接口和线下服务器接口)对问题进行自动分析,并根据配置的对口研发信息,将Aone指派给对应研发人员以完成问题的自动收集并进行工作指派。
在一个实施例中,NPL聊天机器人可以依据具体实现在机器人工厂中训练并生成。对应于问题回答模块的Xiaolan_answer子模块则可以实现为Python网络服务器。该服务器可以具有Flask uWsgi框架并且依赖于BaseHttp服务器实现。
本发明的用户问题收集方案还可以实现为用户问题收集方法。
图4示出了根据本发明一个实施例的用户问题收集方法的示意性流程图。该用户问题收集方法可由图1所示的用户问题收集系统实现。
如图4所示,在步骤S410,例如可以使用问题回答模块引导聊天机器人与用户进行交互以定位用户问题类型并获取用户上报问题和用户信息。
在步骤S420,将经定位的用户问题类型、用户上报问题和用户信息存储在数据库中。
在步骤S430,质量平台从所述数据库中获取所述经定位的用户问题类型、用户上报问题和用户信息以进行分析。
上述聊天机器人可以实现为NLP机器人,用作与用户进行实际交互的前端入口,来获取用户反馈的用户消息以及用户信息等以供其它装置或设备进行问题分析。该聊天机器人可以是用户问题所涉及应用的内嵌聊天机器人,针对所涉及的应用不同,可以提供与该应用相对应的内嵌聊天机器人。例如,针对电商类应用、浏览器类应用、新闻资讯类应用、游戏类应用、社交类应用等,分别提供相应的聊天机器人,以便于针对所涉及的应用及用户问题提供针对性的分析结果。
该聊天机器人也可以在与用户问题所涉及应用不同的应用中。聊天机器人在其所在应用与用户问题所涉及的应用不同时,聊天机器人还可以提示用户操作以获取用户在用户问题所涉及应用中的用户ID。
在步骤S410中,可以使用中转服务器在聊天机器人与问题回答模块间进行信息中转。该中转服务器例如可以是Http服务器。聊天机器人110在识别用户意图后可以通过调用Http接口的方式关联至中转服务器的中转流程。中转服务器可以使用XssProxy作为入口模块,该入口模块可以调用问题回答模块,将聊天机器人获取的用户消息和用户信息进行初步的分析、过滤和相关支撑信息获取,并优选将这些信息结构化地存储在数据库中,由此完成和用户的交互过程。
在步骤S410中,也可以经由多级菜单与用户进行交互以定位用户问题类型。多级菜单可以包括:包括推荐算法和内容质量的一级菜单;包括不喜欢、重复推荐和/或分类问题的推荐算法子菜单;以及包括过时、虚假新闻、标题党和/或低俗的内容质量子菜单。
用户上报问题可以包括不良案例所涉及文章的文章ID。在此,文章ID可以指代在信息流推荐系统(例如,国内信息流推荐系统)中唯一标识一篇文章(例如,一篇新闻)的一串数字,索引库中的每一篇文章都可以有一个唯一的文章ID与其相对应。在具体实践中,用户通常无需直接获取不良案例相关文章的ID,而是可以通过转发文章链接等方法使得聊天机器人110或是自动问题回答模块能够获取到该文章的唯一ID。
中转服务器(例如,Http服务器)可以根据上级菜单ID以及用户输入的交互信息产生下级菜单及返回结果,返回结果通过聊天机器人在聊天界面里返回给用户,并通过询问的方式引导用户进行输入。
在一个优选实施例中,上述数据库可以是Mysql数据库,并且经定位的用户问题类型、用户上报问题和用户信息以表格的形式存储在所述MySQL数据库中。其中,用户问题类型表格可以存储聊天机器人侧的互动内容,用户上报问题表格则可存储用户侧的互动内容。另外,用户信息表格至少需要存储在聊天机器人所在应用中的用户ID,也可以进一步存储用户在应用A和/或B中的ID以及安装了上述应用客户端的用户终端的ID。
在步骤S430中,质量平台基于从数据库获取的用户问题类型和/或用户上报问题,可以使用如下的至少一下进行分析:离线分析脚本;调试平台;服务器客户端接口;日志分析模块;线下测试分析接口;以及线下服务器接口。
在得到分析结果之后,参见图5示出的根据本发明另一个实施例的用户问题收集方法的示意性流程图,在步骤S440,质量平台可以将针对用户问题的分析结果经由聊天机器人所在应用和/或用户问题所涉及的应用反馈给用户。
至此,通过上述方法流程图示出了本发明的用户问题收集方法,其具体实现可参见上述结合图1-3的相关描述,在此不再赘述。
图6示出了根据本发明一个实施例可用于实现上述用户问题收集方法的计算设备的结构示意图。
参见图6,计算设备600包括存储器610和处理器620。
处理器620可以是一个多核的处理器,也可以包含多个处理器。在一些实施例中,处理器620可以包含一个通用的主处理器以及一个或多个特殊的协处理器,例如图形处理器(GPU)、数字信号处理器(DSP)等等。在一些实施例中,处理器620可以使用定制的电路实现,例如特定用途集成电路(ASIC)或者现场可编程逻辑门阵列(FPGA)。
存储器610可以包括各种类型的存储单元,例如系统内存、只读存储器(ROM),和永久存储装置。其中,ROM可以存储处理器620或者计算机的其他模块需要的静态数据或者指令。永久存储装置可以是可读写的存储装置。永久存储装置可以是即使计算机断电后也不会失去存储的指令和数据的非易失性存储设备。在一些实施方式中,永久性存储装置采用大容量存储装置(例如磁或光盘、闪存)作为永久存储装置。另外一些实施方式中,永久性存储装置可以是可移除的存储设备(例如软盘、光驱)。系统内存可以是可读写存储设备或者易失性可读写存储设备,例如动态随机访问内存。系统内存可以存储一些或者所有处理器在运行时需要的指令和数据。此外,存储器610可以包括任意计算机可读存储媒介的组合,包括各种类型的半导体存储芯片(DRAM,SRAM,SDRAM,闪存,可编程只读存储器),磁盘和/或光盘也可以采用。在一些实施方式中,存储器610可以包括可读和/或写的可移除的存储设备,例如激光唱片(CD)、只读数字多功能光盘(例如DVD-ROM,双层DVD-ROM)、只读蓝光光盘、超密度光盘、闪存卡(例如SD卡、min SD卡、Micro-SD卡等等)、磁性软盘等等。计算机可读存储媒介不包含载波和通过无线或有线传输的瞬间电子信号。
存储器610上存储有可执行代码,当可执行代码被处理器620处理时,可以使处理器620执行上文述及的用户问题收集方法。
上文中已经参考附图详细描述了根据本发明的用户问题收集系统和方法,本方案通过自动化收集和分析线上用户问题(例如,BadCase),避免了人工排查导致的多人流转和信息丢失问题。进一步地,用户通过聊天机器人交互获取信息,信息真实准确,分析过程简洁高效。此外,用户问题的上报、分析、解决和验证可以实现为闭环跟踪,由此提升模块线上质量。在具体实现中,可以采用聊天群菜单交互方式获取问题信息,并且菜单具有分层分级逻辑且不同菜单类型具有相应的分析处理方式,由此使得信息定位准确且NPL聊天机器人的训练和实现相对简单。另外,通过用户信息(包括聊天应用和问题上报应用的用户ID,甚至用户终端ID)的获取和关联,能够在问题自动分析过程中实现问题和用户的自动对应,从而方便问题的追溯和报告。
此外,根据本发明的方法还可以实现为一种计算机程序或计算机程序产品,该计算机程序或计算机程序产品包括用于执行本发明的上述方法中限定的上述各步骤的计算机程序代码指令。
或者,本发明还可以实施为一种非暂时性机器可读存储介质(或计算机可读存储介质、或机器可读存储介质),其上存储有可执行代码(或计算机程序、或计算机指令代码),当所述可执行代码(或计算机程序、或计算机指令代码)被电子设备(或计算设备、服务器等)的处理器执行时,使所述处理器执行根据本发明的上述方法的各个步骤。
本领域技术人员还将明白的是,结合这里的公开所描述的各种示例性逻辑块、模块、电路和算法步骤可以被实现为电子硬件、计算机软件或两者的组合。
附图中的流程图和框图显示了根据本发明的多个实施例的系统和方法的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分,所述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标记的功能也可以以不同于附图中所标记的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
以上已经描述了本发明的各实施例,上述说明是示例性的,并非穷尽性的,并且也不限于所披露的各实施例。在不偏离所说明的各实施例的范围和精神的情况下,对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。本文中所用术语的选择,旨在最好地解释各实施例的原理、实际应用或对市场中的技术的改进,或者使本技术领域的其它普通技术人员能理解本文披露的各实施例。

Claims (23)

1.一种用户问题收集系统,包括:
聊天机器人,用于与用户进行实际交互;
问题回答模块,用于引导聊天机器人与用户进行交互以定位用户问题类型并获取用户上报问题和用户信息;
数据库,用于存储经定位的用户问题类型、用户上报问题和用户信息;以及
质量平台获取所述用户问题类型、用户上报问题和用户信息以进行分析。
2.如权利要求1所述的系统,还包括:
中转服务器,用于在聊天机器人与问题回答模块间进行信息中转。
3.如权利要求1所述的系统,其中,所述聊天机器人经由多级菜单与用户进行交互。
4.如权利要求3所述的系统,其中,所述多级菜单包括:
包括推荐算法和内容质量的一级菜单;
包括不喜欢、重复推荐和/或分类问题的推荐算法子菜单;以及
包括过时、虚假新闻、标题党和/或低俗的内容质量子菜单。
5.如权利要求4所述的系统,其中,所述用户上报问题包括不良案例所涉及文章的文章ID。
6.如权利要求1所述的系统,其中,所述聊天机器人是用户问题所涉及的应用的内嵌聊天机器人;或者
所述聊天机器人所在应用与用户问题所涉及的应用不同。
7.如权利要求6所述的系统,其中,所述用户信息包括如下至少一项:
用户在所述聊天机器人所在应用的用户ID;
用户问题所涉及应用的用户ID;以及
用户使用终端的终端ID。
8.如权利要求6所述的系统,其中,所述聊天机器人在其所在应用与用户问题所涉及的应用不同时,提示用户操作以获取所述用户在用户问题所涉及应用中的用户ID。
9.如权利要求6所述的系统,其中,所述质量平台将针对所述用户问题的分析结果经由所述聊天机器人所在应用和/或用户问题所涉及的应用反馈给所述用户。
10.如权利要求1所述的系统,其中,所述数据库是MySQL数据库,并且所述经定位的用户问题类型、用户上报问题和用户信息以表格的形式存储在所述MySQL数据库中。
11.如权利要求10所述的系统,其中,
用户问题类型表格存储所述聊天机器人侧的互动内容;
用户上报问题表格存储用户侧的互动内容;以及
用户信息表格至少存储在所述聊天机器人所在应用中的用户ID。
12.如权利要求1所述的系统,其中,所述质量平台基于所述用户问题类型和/或所述用户上报问题,使用如下的至少一下进行分析:
离线分析脚本;
调试平台;
服务器客户端接口;
日志分析模块;
线下测试分析接口;以及
线下服务器接口。
13.一种用户问题收集方法,包括:
使用问题回答模块引导聊天机器人与用户进行交互以定位用户问题类型并获取用户上报问题和用户信息;
将经定位的用户问题类型、用户上报问题和用户信息存储在数据库中;以及
质量平台从所述数据库中获取所述经定位的用户问题类型、用户上报问题和用户信息以进行分析。
14.如权利要求13所述的方法,其中,使用问题回答模块引导聊天机器人与用户进行交互以定位用户问题类型并获取用户上报问题和用户信息包括:
使用中转服务器在聊天机器人与问题回答模块间进行信息中转。
15.如权利要求13所述的方法,其中,使用问题回答模块引导聊天机器人与用户进行交互以定位用户问题类型并获取用户上报问题和用户信息包括:
所述聊天机器人经由多级菜单与用户进行交互以定位用户问题类型。
16.如权利要求15所述的方法,其中,所述多级菜单包括:
包括推荐算法和内容质量的一级菜单;
包括不喜欢、重复推荐和/或分类问题的推荐算法子菜单;以及
包括过时、虚假新闻、标题党和/或低俗的内容质量子菜单。
17.如权利要求13所述的方法,其中,所述聊天机器人是用户问题所涉及的应用的内嵌聊天机器人;或者
所述聊天机器人所在应用与用户问题所涉及的应用不同。
18.如权利要求17所述的方法,其中,使用问题回答模块引导聊天机器人与用户进行交互以定位用户问题类型并获取用户上报问题和用户信息包括:
所述聊天机器人在其所在应用与用户问题所涉及的应用不同时,提示用户操作以获取所述用户在用户问题所涉及应用中的用户ID。
19.如权利要求17所述的方法,还包括:
所述质量平台将针对所述用户问题的分析结果经由所述聊天机器人所在应用和/或用户问题所涉及的应用反馈给所述用户。
20.如权利要求13所述的方法,其中,所述数据库是MySQL数据库,并且所述经定位的用户问题类型、用户上报问题和用户信息以表格的形式存储在所述MySQL数据库中。
21.如权利要求13所述的方法,其中,所述质量平台从所述数据库中获取所述经定位的用户问题类型、用户上报问题和用户信息以进行分析包括:
所述质量平台基于所述用户问题类型和/或所述用户上报问题,使用如下的至少一项进行分析:
离线分析脚本;
调试平台;
服务器客户端接口;
日志分析模块;
线下测试分析接口;以及
线下服务器接口。
22.一种计算设备,包括:
处理器;以及
存储器,其上存储有可执行代码,当所述可执行代码被所述处理器执行时,使所述处理器执行如权利要求13-21中任何一项所述的方法。
23.一种非暂时性机器可读存储介质,其上存储有可执行代码,当所述可执行代码被电子设备的处理器执行时,使所述处理器执行如权利要求13至21中任一项所述的方法。
CN201811075873.3A 2018-09-14 2018-09-14 用户问题收集系统和方法 Active CN109525480B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201811075873.3A CN109525480B (zh) 2018-09-14 2018-09-14 用户问题收集系统和方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201811075873.3A CN109525480B (zh) 2018-09-14 2018-09-14 用户问题收集系统和方法

Publications (2)

Publication Number Publication Date
CN109525480A true CN109525480A (zh) 2019-03-26
CN109525480B CN109525480B (zh) 2021-09-10

Family

ID=65770992

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201811075873.3A Active CN109525480B (zh) 2018-09-14 2018-09-14 用户问题收集系统和方法

Country Status (1)

Country Link
CN (1) CN109525480B (zh)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110287385A (zh) * 2019-06-18 2019-09-27 素朴网联(珠海)科技有限公司 一种语料数据采集方法、系统及存储介质
CN112053273A (zh) * 2020-09-16 2020-12-08 北京偶数科技有限公司 引导案件分析的方法、装置以及存储介质
CN112395397A (zh) * 2019-08-13 2021-02-23 北京国双科技有限公司 一种自动应答方法、装置、电子设备及存储介质
WO2021120563A1 (zh) * 2019-12-20 2021-06-24 苏宁易购集团股份有限公司 快速定位聊天机器人问题的方法和系统
CN113448829A (zh) * 2020-03-27 2021-09-28 北京奔影网络科技有限公司 对话机器人测试方法、装置、设备及存储介质
CN114008600A (zh) * 2019-06-26 2022-02-01 微软技术许可有限责任公司 聊天机器人诊断可视化
CN114648343A (zh) * 2022-03-07 2022-06-21 支付宝(杭州)信息技术有限公司 一种基于强化学习模型的用户信息收集方法及装置

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107491432A (zh) * 2017-06-20 2017-12-19 北京百度网讯科技有限公司 基于人工智能的低质量文章识别方法及装置、设备及介质
CN107862002A (zh) * 2017-10-20 2018-03-30 四川朗骏文化传播有限公司 一种个性化推荐系统
CN108153780A (zh) * 2016-12-05 2018-06-12 阿里巴巴集团控股有限公司 一种人机对话装置及其实现人机对话的方法
CN108234784A (zh) * 2016-12-22 2018-06-29 赛特斯信息科技股份有限公司 智能云客服系统
US20180218427A1 (en) * 2017-01-31 2018-08-02 International Business Machines Corporation Recommendation integrated online digital sales service chat system

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108153780A (zh) * 2016-12-05 2018-06-12 阿里巴巴集团控股有限公司 一种人机对话装置及其实现人机对话的方法
CN108234784A (zh) * 2016-12-22 2018-06-29 赛特斯信息科技股份有限公司 智能云客服系统
US20180218427A1 (en) * 2017-01-31 2018-08-02 International Business Machines Corporation Recommendation integrated online digital sales service chat system
CN107491432A (zh) * 2017-06-20 2017-12-19 北京百度网讯科技有限公司 基于人工智能的低质量文章识别方法及装置、设备及介质
CN107862002A (zh) * 2017-10-20 2018-03-30 四川朗骏文化传播有限公司 一种个性化推荐系统

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110287385A (zh) * 2019-06-18 2019-09-27 素朴网联(珠海)科技有限公司 一种语料数据采集方法、系统及存储介质
CN114008600A (zh) * 2019-06-26 2022-02-01 微软技术许可有限责任公司 聊天机器人诊断可视化
CN112395397A (zh) * 2019-08-13 2021-02-23 北京国双科技有限公司 一种自动应答方法、装置、电子设备及存储介质
WO2021120563A1 (zh) * 2019-12-20 2021-06-24 苏宁易购集团股份有限公司 快速定位聊天机器人问题的方法和系统
CN113448829A (zh) * 2020-03-27 2021-09-28 北京奔影网络科技有限公司 对话机器人测试方法、装置、设备及存储介质
CN113448829B (zh) * 2020-03-27 2024-06-04 来也科技(北京)有限公司 对话机器人测试方法、装置、设备及存储介质
CN112053273A (zh) * 2020-09-16 2020-12-08 北京偶数科技有限公司 引导案件分析的方法、装置以及存储介质
CN112053273B (zh) * 2020-09-16 2021-12-03 北京偶数科技有限公司 引导案件分析的方法、装置以及存储介质
CN114648343A (zh) * 2022-03-07 2022-06-21 支付宝(杭州)信息技术有限公司 一种基于强化学习模型的用户信息收集方法及装置

Also Published As

Publication number Publication date
CN109525480B (zh) 2021-09-10

Similar Documents

Publication Publication Date Title
CN109525480A (zh) 用户问题收集系统和方法
Galati et al. Industry 4.0: Emerging themes and future research avenues using a text mining approach
Tessarolo Is integration enough for fast product development? An empirical investigation of the contextual effects of product vision
Saberi et al. Past, present and future of contact centers: a literature review
Wewerka et al. Robotic process automation-a systematic mapping study and classification framework
CN110297774A (zh) 一种基于python的接口自动化测试方法
Alberghini et al. Implementing knowledge management through IT opportunities: definition of a theoretical model based on tools and processes classification
Aagaard A theoretical model of supporting open source front end innovation through idea management
Isenmann et al. Making Stakeholder Dialogue for Sustainability Issues Happen-Benefits, Reference Architecture and Pilot Implementation for Automated Sustainability Reporting a La Carte
Schuurman et al. Living labs versus lean startups: an empirical investigation
Wu et al. An analysis of knowledge sharing behaviors in requirement engineering through social media
Tozman Learning on demand: How the evolution of the web is shaping the future of learning
Nachiyappan et al. Getting ready for bigdata testing: A practitioner's perception
CN110380936A (zh) 测试方法和装置
Maurer Business Intelligence and Innovation: An European Digital Innovation Hub to Increase System Interaction and Value Co-creation within and among Service Systems.
Sadreddin et al. Digital product architecture and customer agility: Evidence from new digital ventures
Mishra et al. Managing requirements in market-driven software project: Agile methods view
Manzoor et al. Requirement Elicitation Methods for Cloud Providers in IT Industry.
Vyas et al. Bug reproduction: A collaborative practice within software maintenance activities
En et al. Online Media Management Booking System
De Liddo et al. Capturing and representing deliberation in participatory planning practices
Gyamfi The Impact of Media Richness on the Usage of Web 2.0 Services for Knowledge Transfer
Li et al. OmniActions: Predicting Digital Actions in Response to Real-World Multimodal Sensory Inputs with LLMs
Alter Applying Sociotechnical Thinking in the Competitive, Agile, Lean, Data-Driven World of Routine Work, Knowledge Work, and Smart, Service-Oriented, Customer-Centric Value Creation Ecosystems.
Colapinto et al. Supporting pervasive digitization in Italian SMEs through an open innovation process

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right

Effective date of registration: 20200812

Address after: 310052 room 508, floor 5, building 4, No. 699, Wangshang Road, Changhe street, Binjiang District, Hangzhou City, Zhejiang Province

Applicant after: Alibaba (China) Co.,Ltd.

Address before: 510627 Guangdong city of Guangzhou province Whampoa Tianhe District Road No. 163 Xiping Yun Lu Yun Ping square B radio tower 13 layer self unit 01

Applicant before: Guangdong Shenma Search Technology Co.,Ltd.

TA01 Transfer of patent application right
GR01 Patent grant
GR01 Patent grant