CN116701605A - 问答机器人的回复优化方法及装置、电子设备、存储介质 - Google Patents

问答机器人的回复优化方法及装置、电子设备、存储介质 Download PDF

Info

Publication number
CN116701605A
CN116701605A CN202310841805.8A CN202310841805A CN116701605A CN 116701605 A CN116701605 A CN 116701605A CN 202310841805 A CN202310841805 A CN 202310841805A CN 116701605 A CN116701605 A CN 116701605A
Authority
CN
China
Prior art keywords
question
feedback information
answering
answer
effective
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202310841805.8A
Other languages
English (en)
Inventor
岑志彬
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ping An Life Insurance Company of China Ltd
Original Assignee
Ping An Life Insurance Company of China Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ping An Life Insurance Company of China Ltd filed Critical Ping An Life Insurance Company of China Ltd
Priority to CN202310841805.8A priority Critical patent/CN116701605A/zh
Publication of CN116701605A publication Critical patent/CN116701605A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33Querying
    • G06F16/332Query formulation
    • G06F16/3329Natural language query formulation or dialogue systems
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33Querying
    • G06F16/3331Query processing
    • G06F16/334Query execution
    • G06F16/3344Query execution using natural language analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/21Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/10Text processing
    • G06F40/194Calculation of difference between files
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00Handling natural language data
    • G06F40/30Semantic analysis
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02TCLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
    • Y02T10/00Road transport of goods or passengers
    • Y02T10/10Internal combustion engine [ICE] based vehicles
    • Y02T10/40Engine management systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • General Health & Medical Sciences (AREA)
  • Mathematical Physics (AREA)
  • Databases & Information Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本申请实施例提供了一种问答机器人的回复优化方法及装置、电子设备、存储介质,属于金融技术领域,其中,回复优化方法包括:对关于问答机器人的用户反馈信息进行一次筛选处理,得到目标反馈信息;根据问答机器人的历史问答信息,构建问答机器人的问答排序模型并训练问答排序模型;基于问答排序模型对目标反馈信息进行二次筛选处理,得到有效反馈信息;基于问答排序模型对有效反馈信息进行评分处理,得到反馈评分;根据有效反馈信息和反馈评分,优化问答排序模型的问答排序。本申请实施例中,通过对问答排序模型的问答排序优化,提升问答机器人的回复准确率,并且通过用户反馈的方式达到问题引导效果,以持续提高用户在使用过程中的满意度。

Description

问答机器人的回复优化方法及装置、电子设备、存储介质
技术领域
本申请涉及金融技术领域,尤其涉及一种问答机器人的回复优化方法及装置、电子设备、存储介质。
背景技术
在日常生活中可以通过问答逐步的接收、传递信息,问答机器人就是令机器仿照人类的方式,根据材料和多轮问答信息回答当前问话者的当前问题,这在金融领域中应用的越来越广泛,在数字化金融时代,客户可以通过与金融机构内的对话问答机进行询问对话,以了解更多与之相关的金融业务情况或者解答客户所需求解答的金融问题。在目前的问答机器人领域中,存在显性或者隐形的问卷调查来调查问答机器人的回答质量,以优化现有的问答机器人的回复效果,但是目前普遍缺乏用这部分反馈数据来优化问答机器人的方法和措施,使得用户反馈的问题会长期存在,无法提升问答机器人的回复准确率,用户满意度不高。因此,如何提升问答机器人的回复准确率、提高用户的满意度,成为了亟待解决的技术问题。
发明内容
本申请实施例的主要目的在于提出一种问答机器人的回复优化方法及装置、电子设备、存储介质,旨在提升问答机器人的回复准确率,提高用户的满意度。
为实现上述目的,本申请实施例的第一方面提出了一种问答机器人的回复优化方法,所述方法包括:
对获取到的关于所述问答机器人的用户反馈信息进行一次筛选处理,得到目标反馈信息;
根据获取到的所述问答机器人的历史问答信息,构建所述问答机器人的问答排序模型,并训练所述问答排序模型;
基于预训练的所述问答排序模型对所述目标反馈信息进行二次筛选处理,得到有效反馈信息;
基于预训练的所述问答排序模型对所述有效反馈信息进行评分处理,得到对应于所述有效反馈信息的反馈评分;
根据所述有效反馈信息和所述反馈评分,优化所述问答排序模型的问答排序。
在一些实施例,所述对获取到的关于所述问答机器人的用户反馈信息进行一次筛选处理,得到目标反馈信息,包括:
从所有所述用户反馈信息中筛选得到第一反馈信息,所述第一反馈信息为满足预设类型并且包括预设关键词的若干所述用户反馈信息;
对所有所述第一反馈信息进行相关性匹配筛选得到第二反馈信息,所述第二反馈信息为与预设主题或/和预设上下文相匹配的若干所述第一反馈信息;
从所有所述第二反馈信息中,将语义不清或/和缺失预设词汇的若干所述第二反馈信息滤除,以剩下的所有所述第二反馈信息作为目标反馈信息。
在一些实施例,所述基于预训练的所述问答排序模型对所述目标反馈信息进行二次筛选处理,得到有效反馈信息,包括:
基于所述问答排序模型,分别计算每个所述目标反馈信息对应的向量与预定义的标准句子对应的向量之间的相似度;
获取每个所述相似度对应的所述目标反馈信息的有效评分;
从所有所述目标反馈信息中,筛选出所述有效评分不小于预设评分值的所有所述目标反馈信息,作为有效反馈信息。
在一些实施例,所述基于预训练的所述问答排序模型对所述有效反馈信息进行评分处理,得到对应于所述有效反馈信息的反馈评分,包括:
对所述问答排序模型的输入层进行修改合并,生成所述问答排序模型的反馈评分输出层;
基于所述反馈评分输出层,对所述有效反馈信息以及对应于所述有效反馈信息的问题答案进行评分,得到对应于所述有效反馈信息的反馈评分。
在一些实施例,所述根据所述有效反馈信息和所述反馈评分,优化所述问答排序模型的问答排序,包括:
将所述有效反馈信息与所述用户反馈信息进行对比,得到信息对比结果;
将所述信息对比结果和所述反馈评分输入到所述问答排序模型中,以优化所述问答排序模型的问答排序。
在一些实施例,所述方法还包括:
对所有所述相似度对应的所述目标反馈信息以及对应于所述目标反馈信息的问题进行相对熵计算,得到第一计算结果;
根据所述第一计算结果对所述问答排序模型进行训练优化。
在一些实施例,所述根据所述第一计算结果对所述问答排序模型进行训练优化,包括:
根据所述第一计算结果,采用重排序策略对所述问答排序模型进行训练优化。
为实现上述目的,本申请实施例的第二方面提出了一种问答机器人的回复优化装置,所述装置包括:
第一筛选模块,用于对获取到的关于所述问答机器人的用户反馈信息进行一次筛选处理,得到目标反馈信息;
模型构建模块,用于根据获取到的所述问答机器人的历史问答信息,构建所述问答机器人的问答排序模型,并训练所述问答排序模型;
第二筛选模块,用于基于预训练的所述问答排序模型对所述目标反馈信息进行二次筛选处理,得到有效反馈信息;
反馈评分模块,用于基于预训练的所述问答排序模型对所述有效反馈信息进行评分处理,得到对应于所述有效反馈信息的反馈评分;
优化处理模块,用于根据所述有效反馈信息和所述反馈评分,优化所述问答排序模型的问答排序。
为实现上述目的,本申请实施例的第三方面提出了一种电子设备,所述电子设备包括内存和处理器,所述内存存储有计算机程序,所述处理器执行所述计算机程序时实现上述第一方面所述的方法。
为实现上述目的,本申请实施例的第四方面提出了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现上述第一方面所述的方法。
本申请提出的问答机器人的回复优化方法及装置、电子设备、存储介质,运用自然语言处理技术,通过对用户反馈的内容进行多次筛选而得到符合要求的有效反馈信息,并且对该有效反馈信息进行反馈评分,以便于通过有效反馈信息和反馈评分进行机器人的问答排序模型的学习,实现对于问答排序模型的问答排序优化,从而提升问答机器人的回复准确率,并且通过用户反馈的方式进一步达到问题引导的效果,有利于提升问答排序模型的整体回复准确率,持续提高用户在使用过程中的满意度。
附图说明
图1是本申请一个实施例提供的问答机器人的回复优化方法的流程图;
图2是图1中的步骤S101的流程图;
图3是图1中的步骤S103的流程图;
图4是图1中的步骤S104的流程图;
图5是图1中的步骤S105的流程图;
图6是本申请另一个实施例提供的问答机器人的回复优化方法的流程图;
图7是图6中的步骤S602的流程图;
图8是本申请一个实施例提供的问答机器人的回复优化装置的结构示意图;
图9是本申请一个实施例提供的电子设备的硬件结构示意图。
具体实施方式
为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处所描述的具体实施例仅用以解释本申请,并不用于限定本申请。
需要说明的是,虽然在装置示意图中进行了功能模块划分,在流程图中示出了逻辑顺序,但是在某些情况下,可以以不同于装置中的模块划分,或流程图中的顺序执行所示出或描述的步骤。说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。
除非另有定义,本文所使用的所有的技术和科学术语与属于本申请的技术领域的技术人员通常理解的含义相同。本文中所使用的术语只是为了描述本申请实施例的目的,不是旨在限制本申请。
首先,对本申请中涉及的若干名词进行解析:
自然语言处理(Natural Language Processing,NLP):为计算机科学领域与人工智能领域中的一个重要方向,它研究能实现人与计算机之间用自然语言进行有效通信的各种理论和方法。自然语言处理是一门融语言学、计算机科学、数学于一体的科学。因此,这一领域的研究将涉及自然语言,自然语言处理并不是一般地研究自然语言,而在于研制能有效地实现自然语言通信的计算机系统,特别是其中的软件系统,因而它是计算机科学的一部分。自然语言处理可以但不限于应用于机器翻译、舆情监测、自动摘要、观点提取、文本分类、问题回答、文本语义对比、语音识别、中文OCR等方面,本申请实施例主要涉及问题回答这一方面。
BART模型:BART是一种采用序列到序列模型构建的降噪自编码器,适用于各种最终任务,其使用基于标准transformer的神经机器翻译架构。BART的预训练包括:使用噪声函数破坏文本;学习序列到序列模型以重建原始文本。这些预训练步骤的主要优势在于:该模型可以灵活处理原始输入文本,并学会有效地重建文本。BART是一种降噪自编码器,可将损坏的文档映射到原始文档,其被实现为序列到序列模型,该模型具有在受损文本上的双向编码器和从左至右的自回归解码器。
BERT模型:即Bidirectional Encoder Representation from Transformers,即双向Transformer的编码器。
在目前的问答机器人领域中,存在显性或者隐形的问卷调查来调查问答机器人的回答质量,以优化现有的问答机器人的回复效果,但是目前普遍缺乏用这部分反馈数据来优化问答机器人的方法和措施,使得用户反馈的问题会长期存在,无法提升问答机器人的回复准确率,用户满意度不高。
同时,用户反馈的问题普遍存在多种问题,例如:口语化、非标准化、指代不清等,如果需要通过人工专家分析出这些用户反馈内容所出现的问题,再定制相应的规则以作用于问答模型的话,实际效果并不明显,迭代速度较慢。
基于此,本申请实施例提供了一种问答机器人的回复优化方法及装置、电子设备、存储介质,旨在提升问答机器人的回复准确率,提高用户的满意度。
本申请实施例提供的问答机器人的回复优化方法及装置、电子设备、存储介质,具体通过如下实施例进行说明,首先描述本申请实施例中的问答机器人的回复优化方法。
本申请实施例提供的问答机器人的回复优化方法,涉及金融技术领域。本申请实施例提供的问答机器人的回复优化方法可应用于通信节点中,也可应用于服务器端中,还可以是运行于通信节点或服务器端中的软件。在一些实施例中,通信节点可以是智慧手机、平板计算机、笔记本电脑、台式计算机等;服务器端可以配置成独立的物理服务器,也可以配置成多个物理服务器构成的服务器集群或者分布式系统,还可以配置成提供云服务、云数据库、云计算、云函数、云存储、网络服务、云通信、中间件服务、域名服务、安全服务、CDN以及大数据和人工智能平台等基础云计算服务的云服务器;软件可以是实现问答机器人的回复优化方法的应用等,但并不局限于以上形式。
本申请可用于众多通用或专用的计算机系统环境或配置中。例如:个人计算机、服务器计算机、手持设备或便携式设备、平板型设备、多处理器系统、基于微处理器的系统、置顶盒、可程序设计的消费电子设备、网络PC、小型计算机、大型计算机、包括以上任何系统或设备的分布式计算环境等等。本申请可以在由计算机执行的计算机可执行指令的一般上下文中描述,例如程序模块。一般地,程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本申请,在这些分布式计算环境中,由通过通信网路而被连接的远程处理设备来执行任务。在分布式计算环境中,程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
图1是本申请实施例提供的问答机器人的回复优化方法的一个可选的流程图,图1中的方法可以包括但不限于包括步骤S101至步骤S105。
步骤S101,对获取到的关于问答机器人的用户反馈信息进行一次筛选处理,得到目标反馈信息;
步骤S102,根据获取到的问答机器人的历史问答信息,构建问答机器人的问答排序模型,并训练问答排序模型;
步骤S103,基于预训练的问答排序模型对目标反馈信息进行二次筛选处理,得到有效反馈信息;
步骤S104,基于预训练的问答排序模型对有效反馈信息进行评分处理,得到对应于有效反馈信息的反馈评分;
步骤S105,根据有效反馈信息和反馈评分,优化问答排序模型的问答排序。本申请实施例所示意的步骤S101至步骤S105,运用自然语言处理技术,通过对用户反馈的内容进行多次筛选而得到符合要求的有效反馈信息,并且对该有效反馈信息进行反馈评分,以便于通过有效反馈信息和反馈评分进行机器人的问答排序模型的学习,实现对于问答排序模型的问答排序优化,从而提升问答机器人的回复准确率,并且通过用户反馈的方式进一步达到问题引导的效果,有利于提升问答排序模型的整体回复准确率,持续提高用户在使用过程中的满意度。
例如,在保险业务领域中,当客户反馈的信息为“意外保险的种类确实不错,但是意外保险的保全范围具体是什么”,则可以从中筛选得到目标反馈信息,即“意外保险的种类和保全范围”,进而查找历史问答信息中与此相关的问答内容,进一步进行筛选而得到有效反馈信息“意外保险的保全范围”,然后再据此优化问答排序模型的问答排序,这有利于提升问答排序模型的整体回复准确率,持续提高用户在使用过程中的满意度。
需要说明的是,本申请实施例的执行主体不作限制,本领域技术人员可以根据具体应用场景对此进行相应设置,例如采用相关算法对应的控制端,或者基于预设的相关模型进行实现等。
在一些实施例的步骤S101中,用户反馈信息为用户对于问答机器人的回复内容、质量等的反馈,体现用户的使用需求,可以通过任意的渠道进行反馈上传,例如通过与问答机器人对话输入、借助于预设装置进行导入等,此处并未限制。
在一些实施例的步骤S102中,历史问答信息为问答机器人在过去一段时间内对于用户的相关问题的回答以及相关问题的总和,具体的统计时间可以根据具体应用场景进行选择,例如选择前一个月内或者几天内的问答内容,此处并未限制。
在一些实施例的步骤S102中,可以通过构建一个基于深度学习模型的RQA模型,以之作为问答排序模型,该模型可以通过目标反馈信息的向量和预设的语料库的句子的向量进行点乘,以计算相似度,并且对检索到的结果进行排序,其中上述的语料库的句子的向量可以但不限于使用BERT模型或者BART模型进行预训练,此处并未限制,例如,可以根据问答机器人相应的问题和答案的数据进行建模,通过模型训练去优化正确答案,以便于通过反馈句子和文本的相似度的计算作为找到反馈问题的有效筛选方式,通过排序打分以找出有效的用户反馈信息,即Dpre=(Q,A+,A),具体地:
其中,Q指的是问题,A指的是问题对应的实际答案,A+指的是问题对应的正确答案。
请参阅图2,在一些实施例中,步骤S101可以包括但不限于包括步骤S201至S203:
步骤S201,从所有用户反馈信息中筛选得到第一反馈信息,第一反馈信息为满足预设类型并且包括预设关键词的若干用户反馈信息;
步骤S202,对所有第一反馈信息进行相关性匹配筛选得到第二反馈信息,第二反馈信息为与预设主题或/和预设上下文相匹配的若干第一反馈信息;
步骤S203,从所有第二反馈信息中,将语义不清或/和缺失预设词汇的若干第二反馈信息滤除,以剩下的所有第二反馈信息作为目标反馈信息。
本步骤中,通过对用户反馈信息进行有效性筛选、相关性筛选以及语义筛选,可以得到符合要求的目标反馈信息,该目标反馈信息能够较好地表征用户可靠的反馈意图,因此在后续步骤中基于此目标反馈信息对问答排序模型进行训练,则会取得相对更好的效果。
在一些实施例的步骤S201中,预设类型和预设关键词的具体类型可以根据实际场景进行设置,例如关于预设关键词,在金融领域内可以设置为金融领域的实体词词典中的词汇、教学领域内可以设置为学习词典中的相关词汇等,关于预设类型,可以设置为有效,即指示该用户反馈信息不包含敏感词,为有效的,具体设置还可以根据实际场景进行选择性地调整,此处并未限制。
在一些实施例的步骤S202中,相关性匹配筛选就可以但不限于为通过把主题或者上下文的信息转化成向量,然后和用户反馈的第一反馈信息进行匹配,从而能够匹配性地筛选得到符合要求的第二反馈信息。
在一些实施例的步骤S203中,语义不清可以体现为指代不清、指代模糊等情况,缺失预设词汇可以体现为缺少关键的连接词、主谓缺失等,从而造成反馈语句含义不清楚等,或者本领域技术人员可以根据实际场景进行语义不清或/和缺失预设词汇的应用设置,此处并未限制。
请参阅图3,在一些实施例中,步骤S103可以包括但不限于包括步骤S301至S303:
步骤S301,基于问答排序模型,分别计算每个目标反馈信息对应的向量与预定义的标准句子对应的向量之间的相似度;
步骤S302,获取每个相似度对应的目标反馈信息的有效评分;
步骤S303,从所有目标反馈信息中,筛选出有效评分不小于预设评分值的所有目标反馈信息,作为有效反馈信息。
本步骤中,通过计算每个目标反馈信息对应的向量与预定义的标准句子对应的向量之间的相似度,从而获知目标反馈信息与标准句子之间的差异,以便于进而获取每个相似度对应的目标反馈信息的有效评分,即通过有效评分来评判各个目标反馈信息的优劣程度,也就能够从所有目标反馈信息中,筛选出有效评分不小于预设评分值的所有目标反馈信息,准确可靠地筛选得到有效反馈信息。
在一些实施例的步骤S301中,预定义的标准句子可以但不限于为标准问答数据库中的句子,或者为本领域技术人员认为作为标准的问答句子等,此处并未限制。
在一些实施例的步骤S303中,预设评分值可以由本领域技术人员根据具体应用场景进行选择设置,此处并未限制。
请参阅图4,在一些实施例中,步骤S104可以包括但不限于包括步骤S401至S402:
步骤S401,对问答排序模型的输入层进行修改合并,生成问答排序模型的反馈评分输出层;
步骤S402,基于反馈评分输出层,对有效反馈信息以及对应于有效反馈信息的问题答案进行评分,得到对应于有效反馈信息的反馈评分。
本步骤中,通过对问答排序模型的输入层进行修改合并,以生成问答排序模型的反馈评分输出层,该反馈评分输出层作为一个增加的全连接的网络,可以用来预测反馈评分,即基于反馈评分输出层,对有效反馈信息以及对应于有效反馈信息的问题答案进行评分,用于评估有效反馈信息以及相应的问题答案之间的适配性,就能够得到对应于有效反馈信息的反馈评分。
在一些实施例的步骤S401中,问答机器人中的原始排序模型可以但不限于包括BART模型和BERT模型,通过修改这两个模型的输入层进行修改合并,即[Q;SEQ;A],那么在输出层生成一个可以解释的E,然后通过增加的全连接的网络去预测反馈评分,这个反馈的评分的输出层,能够根据问答对的结果进行评分。
请参阅图5,在一些实施例中,步骤S105可以包括但不限于包括步骤S501至步骤S502:
步骤S501,将有效反馈信息与用户反馈信息进行对比,得到信息对比结果;
步骤S502,将信息对比结果和反馈评分输入到问答排序模型中,以优化问答排序模型的问答排序。
本步骤中,通过将有效反馈信息与用户反馈信息进行对比,可以获知筛选得到的有效反馈信息与初始的用户反馈信息之间的差异,这种差异呈现在信息对比结果内,进而通过将信息对比结果和反馈评分输入到问答排序模型中,以通过信息对比结果和反馈评分训练问答排序模型,实现对于问答排序模型的问答排序的进一步优化。
在一些实施例的步骤S501中,信息对比结果的具体内容和类型不限制,可以根据具体场景进行选择设置,例如可以但不限于包括问题反馈类型、问题反馈时间等具体参数,此处并未限制。
为了更好地说明上述各实施例的工作原理及内容,以下给出一个具体示例进行说明。
示例一:
在上述相关步骤的问答排序模型构建成功后,将其部署在线上,根据用户反馈的数据,结合RQA模型、候选结果、问题答案等特征进行评分,筛选出有效反馈信息,然后将该信息和实际反馈信息进行比对,得到结果A,并且将用户反馈评分记为P,再将结果A和评分P进行问答排序模型的反馈输入,以优化线上的问答排序模型。
请参阅图6,在一些实施例中,问答机器人的回复优化方法还可以包括但不限于包括步骤S601至步骤S602:
步骤S601,对所有相似度对应的目标反馈信息以及对应于目标反馈信息的问题进行相对熵计算,得到第一计算结果;
步骤S602,根据第一计算结果对问答排序模型进行训练优化。
本步骤中,通过对所有相似度对应的目标反馈信息以及对应于目标反馈信息的问题进行相对熵计算,即进行KL散度计算,以便于得到该相似度情况下的KL散度计算结果,即第一计算结果,进而以该KL散度计算结果作为模型优化的目标,对问答排序模型进行训练优化。
在一些实施例的步骤S601中,相对熵计算的方式可以为多种,此处并未限制,例如可以为:
其中,该公式用于计算在问题和候选答案下出现正确答案的似然概率,通过exp的方式计算整体准确率,Q指的是问题,A指的是问题对应的实际答案,Y指的是出现正确答案的条件。
请参阅图7,在一些实施例中,步骤S602可以包括但不限于包括步骤S701:
步骤S701,根据第一计算结果,采用重排序策略对问答排序模型进行训练优化。
本步骤中,由于重排序策略能够将各个候选匹配结果与用户反馈信息进行良好地拼接配合,因此采用重排序策略对问答排序模型进行训练优化,可以较好地明确问答排序模型的整体排序模型结果,有利于取得更好的问答排序模型的训练优化效果。
为了更好地说明上述各实施例的工作原理及内容,以下给出一个具体示例进行说明。
示例二:
为了能够更有效地加强RQA模型,采用重排序的策略对该模型进行进一步地优化,即先把top-k的候选匹配结果,即前k个关于用户反馈信息的候选匹配结果,通过RQA模型筛选出来,然后将筛选出来的候选匹配结果和用户反馈信息进行拼接,拼接后得到每个问题答案的评分,再将相应的评分进行求和,得到RQA模型的总分和重排序模型结果,即:
其中,A+、y=excellent均指的是出现正确答案的条件,Q指的是问题,A指的是问题对应的实际答案。
请参阅图8,本申请实施例还提供一种问答机器人的回复优化装置,可以实现上述问答机器人的回复优化方法,该装置包括:
第一筛选模块,用于对获取到的关于问答机器人的用户反馈信息进行一次筛选处理,得到目标反馈信息;
模型构建模块,用于根据获取到的问答机器人的历史问答信息,构建问答机器人的问答排序模型,并训练问答排序模型;
第二筛选模块,用于基于预训练的问答排序模型对目标反馈信息进行二次筛选处理,得到有效反馈信息;
反馈评分模块,用于基于预训练的问答排序模型对有效反馈信息进行评分处理,得到对应于有效反馈信息的反馈评分;
优化处理模块,用于根据有效反馈信息和反馈评分,优化问答排序模型的问答排序。
该问答机器人的回复优化装置的具体实施方式与上述问答机器人的回复优化方法的具体实施例基本相同,属于相同的发明构思,在此不再赘述。
本申请实施例还提供了一种电子设备,电子设备包括内存和处理器,内存存储有计算机程序,处理器执行计算机程序时实现上述问答机器人的回复优化方法。该电子设备可以为包括平板计算机、车载计算机等任意智能通信节点。
请参阅图9,图9示意了另一实施例的电子设备的硬件结构,电子设备包括:
处理器901,可以采用通用的CPU(Central Processing Unit,中央处理器)、微处理器、应用专用集成电路(Application Specific Integrated Circuit,ASIC)、或者一个或多个集成电路等方式实现,用于执行相关程序,以实现本申请实施例所提供的技术方案;
内存902,可以采用只读存储器(Read Only Memory,ROM)、静态存储设备、动态存储设备或者随机存取内存(Random Access Memory,RAM)等形式实现。内存902可以存储操作系统和其他应用程序,在通过软件或者固件来实现本说明书实施例所提供的技术方案时,相关的程序代码保存在内存902中,并由处理器901来调用执行本申请实施例的问答机器人的回复优化方法;
输入/输出接口903,用于实现信息输入及输出;
通信接口904,用于实现本设备与其他设备的通信交互,可以通过有线方式(例如USB、网线等)实现通信,也可以通过无线方式(例如移动网络、WIFI、蓝牙等)实现通信;
总线905,在设备的各个组件(例如处理器901、内存902、输入/输出接口903和通信接口904)之间传输信息;
其中处理器901、内存902、输入/输出接口903和通信接口904通过总线905实现彼此之间在设备内部的通信连接。
本申请实施例还提供了一种计算机可读存储介质,该计算机可读存储介质存储有计算机程序,该计算机程序被处理器执行时实现上述问答机器人的回复优化方法。
内存作为一种非瞬时计算机可读存储介质,可用于存储非瞬时软件程序以及非瞬时性计算机可执行程序。此外,内存可以包括高速随机存取内存,还可以包括非瞬时内存,例如至少一个磁盘存储器件、闪存器件、或其他非瞬时固态内存件。在一些实施方式中,内存可选包括相对于处理器远程设置的内存,这些远程存储器可以通过网络连接至该处理器。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
本申请实施例提供的问答机器人的回复优化方法及装置、电子设备、存储介质,运用自然语言处理技术,通过对用户反馈的内容进行多次筛选而得到符合要求的有效反馈信息,并且对该有效反馈信息进行反馈评分,以便于通过有效反馈信息和反馈评分进行机器人的问答排序模型的学习,实现对于问答排序模型的问答排序优化,从而提升问答机器人的回复准确率,并且通过用户反馈的方式进一步达到问题引导的效果,有利于提升问答排序模型的整体回复准确率,持续提高用户在使用过程中的满意度。
本申请实施例描述的实施例是为了更加清楚的说明本申请实施例的技术方案,并不构成对于本申请实施例提供的技术方案的限定,本领域技术人员可知,随着技术的演变和新应用场景的出现,本申请实施例提供的技术方案对于类似的技术问题,同样适用。
上述对本申请特定实施例进行了描述,其它实施例在所附权利要求书的范围内。在一些情况下,在权利要求书中记载的动作或步骤可以按照不同于实施例中的顺序来执行并且仍然可以实现期望的结果。另外,附图中描绘的过程不一定必须按照示出的特定顺序或者连续顺序才能实现期望的结果。在某些实施方式中,多任务处理和并行处理也是可以的或者可能是有利的。
本申请中的各个实施例均采用递进的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于装置、设备、计算机可读存储介质实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
本申请实施例提供的装置、设备、计算机可读存储介质与方法是对应的,因此,装置、设备、非易失性计算机存储介质也具有与对应方法类似的有益技术效果,由于上面已经对方法的有益技术效果进行了详细说明,因此,这里不再赘述对应装置、设备、计算机存储介质的有益技术效果。
在20世纪90年代,对于一个技术的改进可以很明显地区分是硬件上的改进(例如,对二极管、晶体管、开关等电路结构的改进)还是软件上的改进(对于方法流程的改进)。然而,随着技术的发展,当今的很多方法流程的改进已经可以视为硬件电路结构的直接改进。设计人员几乎都通过将改进的方法流程编程到硬件电路中来得到相应的硬件电路结构。因此,不能说一个方法流程的改进就不能用硬件实体模块来实现。
例如,可编程逻辑器件(Programmable Logic Device,PLD)(例如现场可编程门阵列(Field Programmable Gate Array,FPGA))就是这样一种集成电路,其逻辑功能由用户对器件编程来确定。由设计人员自行编程来把一个数字系统“集成”在一片PLD上,而不需要请芯片制造厂商来设计和制作专用的集成电路芯片。而且,如今,取代手工地制作集成电路芯片,这种编程也多半改用“逻辑编译器(logic compiler)”软件来实现,它与程序开发撰写时所用的软件编译器相类似,而要编译之前的原始代码也得用特定的编程语言来撰写,此称之为硬件描述语言(Hardware Description Language,HDL),而HDL也并非仅有一种,而是有许多种,例如:
ABEL(Advanced Boolean Expression Language);AHDL(Altera HardwareDescription Language);Confluence;CUPL(Cornell University ProgrammingLanguage);HDCal;以及JHDL(Java Hardware Description Language);Lava、Lola、MyHDL、PALASM、RHDL(Ruby Hardware Description Language)等;目前,在本领域技术之中,相比之下更加较为常用的是VHDL(Very-High-Speed Integrated Circuit HardwareDescription Language)以及语言Verilog。本领域技术人员也应该清楚,只需要将方法流程用上述几种硬件描述语言稍作逻辑编程并编程到集成电路中,就可以很容易得到实现该逻辑方法流程的硬件电路。
控制器可以按任何适当的方式实现,例如,控制器可以采取例如微处理器或处理器以及存储可由该(微)处理器执行的计算机可读程序代码(例如软件或固件)的计算机可读介质、逻辑门、开关、专用集成电路(Application Specific Integrated Circuit,ASIC)、可编程逻辑控制器和嵌入微控制器的形式,控制器的例子包括但不限于以下微控制器:
ARC 625D、Atmel AT91SAM、MicrochIP地址PIC18F26K20以及Silicone LabsC8051F320,存储器控制器还可以被实现为存储器的控制逻辑的一部分。本领域技术人员也知道,除了以纯计算机可读程序代码方式实现控制器以外,完全可以通过将方法步骤进行逻辑编程来使得控制器以逻辑门、开关、专用集成电路、可编程逻辑控制器和嵌入微控制器等的形式来实现相同功能。因此这种控制器可以被认为是一种硬件部件,而对其内包括的用于实现各种功能的装置也可以视为硬件部件内的结构。或者甚至,可以将用于实现各种功能的装置视为既可以是实现方法的软件模块又可以是硬件部件内的结构。
上述实施例阐明的系统、装置、模块或单元,具体可以由计算机芯片或实体实现,或者由具有某种功能的产品来实现。一种典型的实现设备为计算机。具体的,计算机例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。
为了描述的方便,描述以上装置时以功能分为各种单元分别描述。当然,在实施本申请实施例时可以把各单元的功能在同一个或多个软件和/或硬件中实现。
本领域内的技术人员应明白,本申请实施例可提供为方法、系统、或计算机程序产品。因此,本申请实施例可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本申请实施例可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本说明书是参照根据本申请实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中,计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带式磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括暂存电脑可读媒体(transitory media),如调制的数据信号和载波。
还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
本申请实施例中,“至少一个”是指一个或者多个,“多个”是指两个或两个以上。“和/或”,描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示单独存在A、同时存在A和B、单独存在B的情况。其中A,B可以是单数或者复数。字符“/”一般表示前后关联对象是一种“或”的关系。“以下至少一项”及其类似表达,是指的这些项中的任意组合,包括单项或复数项的任意组合。例如,a,b和c中的至少一项可以表示:a,b,c,a和b,a和c,b和c或a和b和c,其中a,b,c可以是单个,也可以是多个。
本申请实施例可以在由计算机执行的计算机可执行指令的一般上下文中描述,例如程序模块。一般地,程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本申请实施例,在这些分布式计算环境中,由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中,程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
本申请中的各个实施例均采用递进的方式描述,各个实施例之间相同相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。尤其,对于系统实施例而言,由于其基本相似于方法实施例,所以描述的比较简单,相关之处参见方法实施例的部分说明即可。
以上所述仅为本申请实施例而已,并不用于限制本申请。对于本领域技术人员来说,本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等,均应包含在本申请的权利要求范围之内。

Claims (10)

1.一种问答机器人的回复优化方法,其特征在于,包括:
对获取到的关于所述问答机器人的用户反馈信息进行一次筛选处理,得到目标反馈信息;
根据获取到的所述问答机器人的历史问答信息,构建所述问答机器人的问答排序模型,并训练所述问答排序模型;
基于预训练的所述问答排序模型对所述目标反馈信息进行二次筛选处理,得到有效反馈信息;
基于预训练的所述问答排序模型对所述有效反馈信息进行评分处理,得到对应于所述有效反馈信息的反馈评分;
根据所述有效反馈信息和所述反馈评分,优化所述问答排序模型的问答排序。
2.根据权利要求1所述的问答机器人的回复优化方法,其特征在于,所述对获取到的关于所述问答机器人的用户反馈信息进行一次筛选处理,得到目标反馈信息,包括:
从所有所述用户反馈信息中筛选得到第一反馈信息,所述第一反馈信息为满足预设类型并且包括预设关键词的若干所述用户反馈信息;
对所有所述第一反馈信息进行相关性匹配筛选得到第二反馈信息,所述第二反馈信息为与预设主题或/和预设上下文相匹配的若干所述第一反馈信息;
从所有所述第二反馈信息中,将语义不清或/和缺失预设词汇的若干所述第二反馈信息滤除,以剩下的所有所述第二反馈信息作为目标反馈信息。
3.根据权利要求1所述的问答机器人的回复优化方法,其特征在于,所述基于预训练的所述问答排序模型对所述目标反馈信息进行二次筛选处理,得到有效反馈信息,包括:
基于所述问答排序模型,分别计算每个所述目标反馈信息对应的向量与预定义的标准句子对应的向量之间的相似度;
获取每个所述相似度对应的所述目标反馈信息的有效评分;
从所有所述目标反馈信息中,筛选出所述有效评分不小于预设评分值的所有所述目标反馈信息,作为有效反馈信息。
4.根据权利要求1所述的问答机器人的回复优化方法,其特征在于,所述基于预训练的所述问答排序模型对所述有效反馈信息进行评分处理,得到对应于所述有效反馈信息的反馈评分,包括:
对所述问答排序模型的输入层进行修改合并,生成所述问答排序模型的反馈评分输出层;
基于所述反馈评分输出层,对所述有效反馈信息以及对应于所述有效反馈信息的问题答案进行评分,得到对应于所述有效反馈信息的反馈评分。
5.根据权利要求1所述的问答机器人的回复优化方法,其特征在于,所述根据所述有效反馈信息和所述反馈评分,优化所述问答排序模型的问答排序,包括:
将所述有效反馈信息与所述用户反馈信息进行对比,得到信息对比结果;
将所述信息对比结果和所述反馈评分输入到所述问答排序模型中,以优化所述问答排序模型的问答排序。
6.根据权利要求3所述的问答机器人的回复优化方法,其特征在于,所述方法还包括:
对所有所述相似度对应的所述目标反馈信息以及对应于所述目标反馈信息的问题进行相对熵计算,得到第一计算结果;
根据所述第一计算结果对所述问答排序模型进行训练优化。
7.根据权利要求6所述的问答机器人的回复优化方法,其特征在于,所述根据所述第一计算结果对所述问答排序模型进行训练优化,包括:
根据所述第一计算结果,采用重排序策略对所述问答排序模型进行训练优化。
8.一种问答机器人的回复优化装置,其特征在于,所述装置包括:
第一筛选模块,用于对获取到的关于所述问答机器人的用户反馈信息进行一次筛选处理,得到目标反馈信息;
模型构建模块,用于根据获取到的所述问答机器人的历史问答信息,构建所述问答机器人的问答排序模型,并训练所述问答排序模型;
第二筛选模块,用于基于预训练的所述问答排序模型对所述目标反馈信息进行二次筛选处理,得到有效反馈信息;
反馈评分模块,用于基于预训练的所述问答排序模型对所述有效反馈信息进行评分处理,得到对应于所述有效反馈信息的反馈评分;
优化处理模块,用于根据所述有效反馈信息和所述反馈评分,优化所述问答排序模型的问答排序。
9.一种电子设备,其特征在于,所述电子设备包括内存和处理器,所述内存存储有计算机程序,所述处理器执行所述计算机程序时实现权利要求1至7任一项所述的问答机器人的回复优化方法。
10.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至7中任一项所述的问答机器人的回复优化方法。
CN202310841805.8A 2023-07-07 2023-07-07 问答机器人的回复优化方法及装置、电子设备、存储介质 Pending CN116701605A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310841805.8A CN116701605A (zh) 2023-07-07 2023-07-07 问答机器人的回复优化方法及装置、电子设备、存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310841805.8A CN116701605A (zh) 2023-07-07 2023-07-07 问答机器人的回复优化方法及装置、电子设备、存储介质

Publications (1)

Publication Number Publication Date
CN116701605A true CN116701605A (zh) 2023-09-05

Family

ID=87837511

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310841805.8A Pending CN116701605A (zh) 2023-07-07 2023-07-07 问答机器人的回复优化方法及装置、电子设备、存储介质

Country Status (1)

Country Link
CN (1) CN116701605A (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117556232A (zh) * 2023-11-30 2024-02-13 广州方舟信息科技有限公司 评分模型训练方法、药品问答方法及相关装置
CN118607643A (zh) * 2024-08-07 2024-09-06 中国科学技术大学 大模型部署方法及其装置

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117556232A (zh) * 2023-11-30 2024-02-13 广州方舟信息科技有限公司 评分模型训练方法、药品问答方法及相关装置
CN117556232B (zh) * 2023-11-30 2024-06-04 广州方舟信息科技有限公司 评分模型训练方法、药品问答方法及相关装置
CN118607643A (zh) * 2024-08-07 2024-09-06 中国科学技术大学 大模型部署方法及其装置

Similar Documents

Publication Publication Date Title
Amin et al. Will affective computing emerge from foundation models and general artificial intelligence? A first evaluation of ChatGPT
Serban et al. A deep reinforcement learning chatbot
CN110309283B (zh) 一种智能问答的答案确定方法及装置
CN111095259B (zh) 使用n-gram机器的自然语言处理
CN107329949B (zh) 一种语义匹配方法和系统
CN112214593B (zh) 问答处理方法、装置、电子设备及存储介质
US9269354B2 (en) Semantic re-ranking of NLU results in conversational dialogue applications
CN109376222B (zh) 问答匹配度计算方法、问答自动匹配方法及装置
CN116701605A (zh) 问答机器人的回复优化方法及装置、电子设备、存储介质
CN114429133A (zh) 通过神经机器阅读理解依赖于话语分析来回答复杂问题
CN111191002A (zh) 一种基于分层嵌入的神经代码搜索方法及装置
CN110678882B (zh) 使用机器学习从电子文档选择回答跨距的方法及系统
KR20200040652A (ko) 자연어 처리 시스템 및 자연어 처리에서의 단어 표현 방법
CN113239169A (zh) 基于人工智能的回答生成方法、装置、设备及存储介质
CN116541493A (zh) 基于意图识别的交互应答方法、装置、设备、存储介质
Yi et al. A Survey on Recent Advances in LLM-Based Multi-turn Dialogue Systems
CN114896983A (zh) 模型训练方法、文本处理方法、装置和计算机设备
CN118093834A (zh) 一种基于aigc大模型的语言处理问答系统及方法
Kacupaj et al. Vogue: answer verbalization through multi-task learning
Wang et al. A survey of the evolution of language model-based dialogue systems
CN112069813B (zh) 文本处理方法、装置、设备及计算机可读存储介质
Octavany et al. Cleveree: an artificially intelligent web service for Jacob voice chatbot
US20240095445A1 (en) Systems and methods for language modeling with textual clincal data
CN116861913A (zh) 基于gpt大模型的立场检测方法及相关设备
CN114357950A (zh) 数据改写方法、装置、存储介质及计算机设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination