CN115470338A - 一种基于多路召回的多场景智能问答方法和系统 - Google Patents
一种基于多路召回的多场景智能问答方法和系统 Download PDFInfo
- Publication number
- CN115470338A CN115470338A CN202211325456.6A CN202211325456A CN115470338A CN 115470338 A CN115470338 A CN 115470338A CN 202211325456 A CN202211325456 A CN 202211325456A CN 115470338 A CN115470338 A CN 115470338A
- Authority
- CN
- China
- Prior art keywords
- question
- list
- similarity
- recall
- candidate
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/33—Querying
- G06F16/332—Query formulation
- G06F16/3329—Natural language query formulation or dialogue systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/33—Querying
- G06F16/3331—Query processing
- G06F16/334—Query execution
- G06F16/3344—Query execution using natural language analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/33—Querying
- G06F16/335—Filtering based on additional data, e.g. user or group profiles
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/33—Querying
- G06F16/338—Presentation of query results
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/279—Recognition of textual entities
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Artificial Intelligence (AREA)
- Mathematical Physics (AREA)
- Audiology, Speech & Language Pathology (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Human Computer Interaction (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明涉及人工智能领域,尤其是涉及一种基于多路召回的多场景智能问答方法和系统,该方法包括:步骤S100:用户提出实时问题,并将问题同时输入到多路模型进行问题检索和任务识别,召回各路模型检索到的带有相似度的第一候选问题列表;步骤S200:将多路模型返回的第一候选问题列表进行归并,并按照相似度进行排序,生成第二候选问题列表;步骤S300:从第二候选问题列表中,根据阈值获得Top1或者Topk问题列表,生成回答响应用户。本发明可以进一步提升在多场景问答场景下的召回精度;同时基于多路召回的机制,满足多路模型并发运行的要求,提升运行效率。
Description
技术领域
本发明涉及人工智能领域,尤其是涉及一种基于多路召回的多场景智能问答方法和系统。
背景技术
自然语言处理是人工智能领域重要的一个分支,而智能问答又是自然语言处理领域非常经典应用场景之一,也是人机交互较常用的手段之一。如线上智能客服机器人、线下大厅接待机器人、智能语音助手等。智能问答能够理解以自然语言描述的用户提问,并生成包含答案的回复内容或者执行用户下发的任务。智能问答系统按不同的场景,我们一般分为 FAQ问答系统、(特定领域)任务型问答系统。
在单一场景下,目前已经有较多成熟的解决方案,在各自的应用场景下也起到了不错的效果。然而,在实际场景中,我们经常会遇到多场景融合的智能问答场景,即智能问答既要能实现FQA问答类型,也能满足特定领域内的任务型问答。目前主流的方法之一是先对用户提出的问题进行分类,判断当前用户问题的所属场景,然后再进入到具体分类下进行问题检索或者识别指令执行任务。然而在实际的不同业务领域中,相同的用户问题也可能表示不同的业务需求,因此容易发生问题分类与用户实际的业务需求不一致的错误。即使系统内有对应的回答或者任务,也会导致因问题分类出错而出现回答错误或者执行错误的情况,即召回精度低。
另外一种主流的方法是按顺序进行不同类别的问题检索,例如首先基于FAQ类问题检索,如果当前匹配到Top1的问题,则认为命中该问题,返回该问题的答案;如果未匹配到Top1的问题,则进入到下一类问题的检索。这种方法存在两个关键问题:1.效率较低,如果当前用户的问题,在检索链路靠后的问题分类中,则需要按顺序把所有问题检索一遍;2.召回精度较低,当在前一个问题分类的检索任务中获得Top1的问题后,就停止检索,但实际情况可能在后面的问题分类中存在相似度更高的问题。
发明内容
为了解决现有技术中存在的上述技术问题,本发明提出了一种基于多路召回的多场景智能问答方法和系统,以解决智能问答系统在多场景融合的问答场景下,现有技术召回精度低的问题;同时基于多路召回的机制,满足多路模型并发运行的要求,提升运行效率,此外每类模型还可采用N版本设计的思路,进一步提升系统的可靠性;其具体技术方案如下:
一种基于多路召回的多场景智能问答方法,包括以下步骤:
步骤S100:用户提出实时问题,并将问题同时输入到多路模型进行问题检索和任务识别,召回各路模型检索到的带有相似度的第一候选问题列表;
步骤S200:将多路模型返回的第一候选问题列表进行归并,并按照相似度进行排序,生成第二候选问题列表;
步骤S300:从第二候选问题列表中,根据阈值获得Top1或者Topk问题列表,生成回答响应用户。
进一步的,所述多路模型进行的问题检索和任务识别为并行计算,多路模型具体包括:基于关键字检索模型、基于语义检索模型、任务识别模型,所述的基于关键字检索模型和基于语义检索模型用于FAQ问答场景,任务识别模型用于任务型问答场景。
进一步的,所述基于关键字检索模型对输入的问题进行关键字检索,获得基于关键字召回的带有相似度的候选问题列表,具体包括以下步骤:
步骤S111,去除输入的问题中的停顿词并对问题进行分词处理;
步骤S112,通过Elasticsearch搜索引擎对问题进行检索;
步骤S113,召回Top k 的最相关问题列表;
步骤S114,计算用户输入的问题与步骤S113中的召回的问题的相似度,获得基于关键字召回的带有相似度的候选问题列表。
进一步的,所述步骤S114,具体包括以下子步骤:
步骤S1141,将用户输入的问题通过 Sentence-BERT模型进行句子编码,生成一个句向量,用Q1表示;
步骤S1142,将召回列表中的k个问题,通过 Sentence-BERT模型进行句子编码,生成k个句向量,用Pi(i=1,2,3…,k)表示;
步骤S1143,采用余弦相似度计算方法,计算Q1与Pi之间的相似度,用SKi(i=1,2,3…,k)表示,获得基于关键字召回的带有相似度的候选问题列表。
进一步的,所述基于语义检索模型对输入的问题进行语义检索,获得基于语义检索的召回问题列表,具体包括以下步骤:
步骤S121,将用户输入的问题,通过 Sentence-BERT模型进行问题句子的语义编码,生成语义编码向量;
步骤S122,利用生成的语义编码向量,通过Milvus向量搜索引擎进行查询,采用归一化的向量内积法计算向量相似度,返回相似度最高的Top k 个相似向量ID;
步骤S123,利用召回的Top k个相似向量ID,进一步获取问题列表,具体为:与步骤S122同步进行通过Sentence-BERT模型对问题进行句向量编码,并将句向量存储于Elasticsearch搜索引擎,检索时采用余弦相似度计算方法进行相似度计算;
将Elasticsearch搜索引擎的检索结果与Milvus向量搜索引擎的检索结果进行合并后的问题列表作为基于语义检索的召回问题列表。
进一步的,所述任务识别模型对输入的问题进行任务识别,获取召回的任务,具体包括以下步骤:
步骤S131,采用规则模板的方法对输入的问题进行意图识别,获取到与规则模板匹配度最大的意图;
步骤S132,针对带有槽位的意图,进行槽位填充;
步骤S133,如果遇到当前意图仍旧缺槽位,则通过多轮对话管理即多轮提问的方式,获得槽位;
步骤S134,返回召回的意图,即Top 1任务。
进一步的,所述采用规则模板的方法对输入的问题进行意图识别,具体为:通过人工分析每个意图下的有代表性的例句,总结出规则模板,然后将用户的输入问句进行分词、词性标注、命名实体识别、依存句法分析、语义分析的操作后套用所述的规则模板,当与所述规则模板匹对的某个规则模板达到所设阈值之后就认为该输入问句就属于所总结出的规则模板对应的意图。
进一步的,所述步骤S200,具体为:将所述的基于关键字召回的带有相似度的候选问题列表和基于语义检索的召回问题列表合并,并进行去重后,再合并任务识别模型召回的任务,按照相似度从高到低进行排序,生成第二候选问题列表。
进一步的,所述步骤S300,具体为:
在所述第二候选问题列表中,当排序后Top1 问题为任务型问答场景时,若相似度大于第一阈值,则执行召回的问题对应的任务,响应用户;
若相似度小于等于第一阈值,则将所述第二候选问题列表中相似度大于第二阈值的最多前10个问题进行返回,作为用户的推荐问题;
当排序后Top1 问题为FAQ问答场景,若相似度大于第三阈值:则直接返回输入的问题对应的回答,响应用户;同时将剩余的第二候选问题列表中相似度大于第二阈值的最多前10个问题,作为用户的推荐问题;
若相似度小于等于第三阈值,则将所述第二候选问题列表中相似度大于第二阈值的最多前10个问题,作为用户的推荐问题。
一种基于多路召回的多场景智能问答系统,包括:
多路模型召回模块:用于接收用户提出的实时问题,并将问题同时输入到多路模型进行问题检索和任务识别,召回多路模型检索到的带有相似度的第一候选问题列表;所述多路模型召回模块支持分布式部署;
归并排序模块:用于将多路模型返回的第一候选问题列表进行归并,并按照相似度进行排序,生成第二候选问题列表;
执行模块:用于从第二候选问题列表中,根据阈值获得Top1 或者 TopK 问题列表,生成回答响应用户。
有益效果:
本发明提升了办公业务FAQ问答场景和特定科研机构任务型问答场景下的召回率;同时基于多路召回的机制,满足多路模型并发运行的要求,提升运行效率,此外在基于语义检索中,实施了两类基于语义检索的算法版本,进一步提升检索的可靠性。
附图说明
图1是本发明的一个实施例的一种基于多路召回的多场景智能问答方法的主要步骤流程示意图;
图2是本发明的一个实施例的一种基于多路召回的多场景智能问答方法方法中的基于关键字检索的子流程示意图;
图3是本发明的一个实施例的一种基于多路召回的多场景智能问答方法中的基于语义检索的子流程示意图;
图4是本发明的一个实施例的一种基于多路召回的多场景智能问答方法中的任务识别子流程示意图;
图5是本发明的一个实施例的一种基于多路召回的多场景智能问答系统的主要结构框图;
图6是本发明的一个实施例的一种基于多路召回的多场景智能问答系统中多路模型召回模块的主要结构框图;
图7是本发明的一个实施例的一种基于多路召回的多场景智能问答装置的结构示意图。
具体实施方式
为了使本发明的目的、技术方案和技术效果更加清楚明白,以下结合说明书附图和实施例,对本发明作进一步详细说明。
如图1所示,本发明实施例提供的一种基于多路召回的多场景智能问答方法,具体过程包括以下步骤:
步骤S100:用户提出实时问题,并将问题同时输入到多路模型进行问题检索和任务识别,召回各路模型检索到的带有相似度的第一候选问题列表;
用户可通过多种方式,将自己的业务需求或者问题转换成文字,如键盘输入、语音输入等,比如“如何报销”、“查下我昨天的考勤”、“李XX坐哪里”。
传统的智能问答,首先会将当前的问题进行分类,判断当前问题归属FAQ问答还是任务型问答。如果为FAQ问答,则进入FAQ问题库进行检索,响应用户返回答案;如果为任务型问答,则进一步进行意图识别、槽位填充,从而执行具体的任务。另一种方法为:按顺序进行不同类别的问题检索,例如首先基于FAQ类问题检索,如果当前匹配到Top1的问题,则认为命中该问题,返回该问题的答案;如果未匹配到Top1的问题,则进入到下一类问题的检索。
而基于本发明的实施例中,将用户问题直接输入到多路模型进行问题检索和任务识别,所述的多路模型的问题检索和任务识别是可以并行计算的,因此不会影响系统的性能。具体的,所述多路模型采用了三类模型进行智能问答的检索,包括:基于关键字检索模型、基于语义检索模型、任务识别模型,所述的基于关键字检索模型和基于语义检索模型用于满足基于FAQ场景的问答,任务识别模型用于实现特定场景的任务型问答。
其中,所述基于关键字检索模型对输入的问题进行关键字检索,具体过程为:
由于在实际过程中,存在用户直接通过关键字查询的情形,这种情况下,由于输入的信息有限,通过单一的语义检索可能无法满足实际业务场景需求,因此在FAQ场景下,增加了基于关键字检索模型。如图2 所示为基于关键字检索的基本流程,在本实施例中,采用Elasticsearch搜索引擎进行全量问题的存储和检索,在进行检索之前,将所有问答对存储到搜索引擎,对于中文,目前有许多对应分词器,例如:IK,jieba,THULAC等,本实施例中采用IK分词器,并采用ik_max_word分词算法进行存储。
当获得用户输入的问题后,采用基于关键字检索模型进行检索的基本流程包括以下步骤:
步骤S111,去除用户输入的问题中的停顿词并对问题进行分词处理,本实施例中采用的Elasticsearch搜索引擎可以方便的对停顿词和扩展词进行自定义;
步骤S112,通过所述Elasticsearch搜索引擎对问题进行检索;
步骤S113,召回Top k 的最相关问题列表,本实施例中k取10;
步骤S114,计算用户输入的问题与步骤S113中的召回的问题的相似度,获得基于关键字召回的带有相似度的候选问题列表;
如果搜索引擎能够直接包含问题相似度,则不需要进行步骤S114,由于本实施例选择的Elasticsearch搜索引擎返回的score值无法直接作为相似度的度量标准,因此需要将召回的问题和用户问题之间转换成0~1之间的相似度。计算两个语句之间的相似度有较多的方法,在本实施例中采用 Sentence-BERT模型进行句子编码,具体采用预训练模型distiluse-base-multilingual-cased-v2,具体流程如下:
步骤S1141,将用户输入的问题通过 Sentence-BERT模型进行句子编码,生成一个句向量,用Q1表示;
步骤S1142,将召回列表中的k个问题,k取10,采用同样的编码方式,生成10个句向量,用Pi(i=1,2,3…,10)表示;
步骤S1143,采用余弦相似度计算方法Cosine Similarity,计算Q1与Pi之间的相似度,用SKi(i=1,2,3…,10)表示;
至此,获得了基于关键字召回的带有相似度的候选问题列表。
所述基于语义检索模型对输入的问题进行语义检索,具体过程为:
如图3 所示为基于语义检索的基本流程,同样的,在检索前,需要将已知的全部问题进行编码后存储到向量检索引擎,以便于后续的检索。目前有较多的向量检索引擎,本实施例中采用云原生向量数据库Milvus,即Milvus向量检索引擎,它具备高可用、高性能、易拓展的特点,用于海量向量数据的实时召回。
在本实施例中,采用Sentence-BERT模型进行句向量模型编码,具体为采用预训练模型 distiluse-base-multilingual-cased-v2,利用该模型生成的问题句向量存储到向量检索引擎后,即可进行检索,具体流程如下:
步骤S121,将用户输入的问题,通过 Sentence-BERT模型进行句子编码,生成句向量;
步骤S122,利用生成的句向量,通过Milvus向量搜索引擎进行查询,采用归一化的向量内积法计算向量相似度,返回相似度最高的Top k 个相似向量ID, k 取10;
步骤S123,利用召回的Top k个相似向量ID,进一步获取问题列表,而内积作为相似度;
可选的,为了提升基于语义检索的召回率,本实施例中还增加了第二个版本进行句向量的存储和检索。具体的,采用搜索引擎 Elasticsearch 进行向量的存储和向量检索;同样的,采用Sentence-BERT模型对问题进行句向量编码,并将向量存储于搜索引擎Elasticsearch,检索时采用余弦相似度计算方法Cosine Similarity进行相似度计算,该版本与基于ilvus搜索引擎的检索同步进行,并将Elasticsearch搜索引擎的检索结果与Milvus向量搜索引擎的检索结果进行合并后的问题列表作为基于语义检索的召回问题列表输入到下一步骤。
采用N版本的方式,一方面可以通过多版本的方式规避单一算法的缺陷和不足,从而提升召回率,另一方便,也可以提升系统的可靠性,当某种算法出现问题时,也不影响系统的正常使用,同时,多版本也支持并发计算,从而也不会影响系统性能。
所述任务识别模型对输入的问题进行任务识别,具体过程为:
如图4所示为本实施例中任务识别的基本流程,任务识别基本任务包括意图识别、槽位填充、召回Top 1 任务及其获得的槽位值,以及命中所述任务的相似度,具体的包括以下流程:
步骤S131,采用规则模板的方法对输入的问题进行意图识别,获取到与规则模板匹配度最大的意图。具体的:判断用户的问题是否为某个意图,归根结底为一个文本分类问题,一般可采用规则模板、统计机器学习、深度学习实现,本实施例中采用规则模板的方法进行意图识别。
所述采用规则模板的方法进行意图识别,具体为:通过人工分析每个意图下的有代表性的例句,总结出规则模板,然后将用户的输入问句进行分词、词性标注、命名实体识别、依存句法分析、语义分析等操作后套用所述的规则模板,当与之匹对的某个规则模板达到一定的阈值之后就认为该输入问句就属于所总结出的规则模板对应的意图。以查询员工座位为例,可以事先收集类似以下相关的问题:
然后再总结归纳制定规则模板:
其中 .* 表示任意字符,[]表示实体类型或词性,()表示可选的关键词,()表示必选的关键词,|表示或者关系。当用户输入“请问李四坐哪个位置”,对问题进行分词和词性标注,匹配到姓名“李四”,关键词“坐”、“哪个”,他们的组合和预定义好的模板高度匹配,于是确认该问题是“查询员工座位”意图;
获取当前识别到的匹配度最大的意图,当匹配度小于某个阈值时,则认为当前意图不是对的意图,直接丢弃,结束后续的步骤。
如果超过阈值,则认为当前识别到的意图为对的意图,进入下一步进行槽位填充。
步骤S132,针对有槽位的意图进行槽位填充,槽位填充包括命名实体识别和槽位预测,实际上,在意图识别时,也可进行部分实体的识别,达到槽位填充的目的;
步骤S133,如果遇到当前意图仍旧缺槽位,则通过多轮对话管理即多轮提问的方式,获得槽位,比如在“查询考勤”任务中,词槽需要包含日期,当用户提问“查下我的考勤”时,命中了“查询考勤”的意图,但是缺少日期,则会反问:“请问你要查询哪一天”,用户答:“昨天”,将时间的词槽进行填充;
在多伦对话中,问题中会包含会话ID,因此会直接进行任务识别,而不会进行关键字检索和语义检索;
步骤S134,返回召回的意图,即Top 1 任务,至少包含意图ID、匹配度、获取到的词槽、会话ID、是否结束会话标志。
步骤S200:将多路模型返回的第一候选问题列表进行归并,并按照相似度进行排序,生成第二候选问题列表,具体地将所述的基于关键字召回的带有相似度的候选问题列表和基于语义检索的召回问题列表合并,并进行去重后,再合并任务识别模型召回的任务,按照相似度从高到低进行排序,生成第二候选问题列表。
步骤S300:从第二候选问题列表中,根据阈值获得Top1或者Topk问题列表,生成回答响应用户。
如果排序后Top 1 的为任务类型:
若相似度大于第一阈值,本实施例中第一阈值设置为0.6,则根据召回的意图返回的内容执行任务,例如执行查询某人某天的考勤时间任务,并将答案回复给用户。同时将剩余的召回问题列表中匹配度大于第二阈值的最多前10个问题,作为该用户的推荐问题进行返回,本实施例中第二阈值设置为0.4。
若相似度小于等于第一阈值,则不直接返回答案,而是将召回的问题或者任务阈值大于第二阈值的最多前10个问题进行返回,作为该用户的推荐问题。
如果排序后Top 1的为FAQ类型:
若相似度大于第三阈值,本实施例中第三阈值设置为0.85,则直接返回该问题对应的回答。回答方式可包含图文、视频、富文本等,同时将剩余的召回问题列表或者任务中匹配度大于第二阈值的最多前10个问题,作为该用户的推荐问题进行返回。
若相似度小于等于第三阈值,则不直接返回答案,而是将召回的问题或者任务阈值大于第二阈值的最多前10个问题进行返回,作为该用户的推荐问题。
在本实施例中,所述基于关键字检索、基于语义检索、任务识别这三个步骤分别部署在不同的服务器并行执行,其中基于关键字检索和基于语义检索用于办公业务FAQ问答场景,任务识别用于特定科研机构任务型问答场景。本发明提升了办公业务FAQ问答场景和特定科研机构任务型问答场景下的召回率;同时基于多路召回的机制,满足多路模型并发运行的要求,提升运行效率,此外在基于语义检索中,实施了两类基于语义检索的算法版本,进一步提升检索的可靠性。
如图5所示,本发明实施例中,一种基于多路召回的多场景智能问答系统,应用于单台服务器或者多台分布式服务器,包括:
多路模型召回模块:用于接收用户提出的实时问题,并将问题同时输入到多路模型进行问题检索和任务识别,召回多路模型检索到的带有相似度的第一候选问题列表;所述多路模型召回模块支持分布式部署;
归并排序模块:用于将多路模型返回的第一候选问题列表进行归并,并按照相似度进行排序,生成第二候选问题列表;
执行模块:用于从第二候选问题列表中,根据阈值获得Top1 或者 TopK 问题列表,生成回答响应用户。
其中多路模型召回模块,如图6所示,具体包括以下子模块:
关键字检索模块:用于将问题分词后,基于关键字检索问题,召回基于关键字检索模型下TopK 相似问题,可用于FAQ问答场景;本申请实施例中,该模块中搜索引擎采用Elasticsearch 进行全量问题的存储和检索。
语义检索模块:用于将问题Sentence-Embedding编码后,基于语义检索问题,召回基于语义检索模型下TopK 相似问题,可用于FAQ问答场景。本申请实施例中,该模块中的Sentence-Embedding的模型采用Sentence-BERT,具体为采用预训练模型 distiluse-base-multilingual-cased-v2,向量数据库采用milvus搜索引擎。
本申请实例中,可选的,语义检索模块增加新的子模块,该模块中的Sentence-Embedding模型采用Sentence-BERT,具体为采用预训练模型 distiluse-base-multilingual-cased-v2,向量数据库采用 Elasticsearch搜索引擎。
任务识别模块:用于采用规则模板、统计机器学习、深度学习进行识别意图、槽位值提取,召回所述任务识别模型下Top1 相似意图,可用于特定任务型问答场景。本实例中,该模块至少包含基于规则模板的意图识别模块。
需要说明的是,本申请实施例中,多路模型召回模块中的各个子模块支持分布式部署,即可部署在不同的服务器上并发计算,提升运行效率。
与前述一种基于多路召回的多场景智能问答方法的实施例相对应,本发明还提供了一种基于多路召回的多场景智能问答装置的实施例。
参见图7,本发明实施例提供的一种基于多路召回的多场景智能问答装置,包括一个或多个处理器,用于实现上述实施例中的基于多路召回的多场景智能问答方法。
本发明的基于多路召回的多场景智能问答装置的实施例可以应用在任意具备数据处理能力的设备上,该任意具备数据处理能力的设备可以为诸如计算机等设备或装置。装置实施例可以通过软件实现,也可以通过硬件或者软硬件结合的方式实现。以软件实现为例,作为一个逻辑意义上的装置,是通过其所在任意具备数据处理能力的设备的处理器将非易失性存储器中对应的计算机程序指令读取到内存中运行形成的。从硬件层面而言,如图7所示,为本发明一种基于多路召回的多场景智能问答装置所在任意具备数据处理能力的设备的一种硬件结构图,除了图7所示的处理器、内存、网络接口、以及非易失性存储器之外,实施例中装置所在的任意具备数据处理能力的设备通常根据该任意具备数据处理能力的设备的实际功能,还可以包括其他硬件,对此不再赘述。
上述装置中各个单元的功能和作用的实现过程具体详见上述方法中对应步骤的实现过程,在此不再赘述。
对于装置实施例而言,由于其基本对应于方法实施例,所以相关之处参见方法实施例的部分说明即可。以上所描述的装置实施例仅仅是示意性的,其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本发明方案的目的。本领域普通技术人员在不付出创造性劳动的情况下,即可以理解并实施。
本发明实施例还提供一种计算机可读存储介质,其上存储有程序,该程序被处理器执行时,实现上述实施例中的基于多路召回的多场景智能问答方法。
所述计算机可读存储介质可以是前述任一实施例所述的任意具备数据处理能力的设备的内部存储单元,例如硬盘或内存。所述计算机可读存储介质也可以是外部存储设备,例如所述设备上配备的插接式硬盘、智能存储卡(Smart Media Card,SMC)、SD卡、闪存卡(Flash Card)等。进一步的,所述计算机可读存储介质还可以既包括任意具备数据处理能力的设备的内部存储单元也包括外部存储设备。所述计算机可读存储介质用于存储所述计算机程序以及所述任意具备数据处理能力的设备所需的其他程序和数据,还可以用于暂时地存储已经输出或者将要输出的数据。
以上所述,仅为本发明的优选实施案例,并非对本发明做任何形式上的限制。虽然前文对本发明的实施过程进行了详细说明,对于熟悉本领域的人员来说,其依然可以对前述各实例记载的技术方案进行修改,或者对其中部分技术特征进行同等替换。凡在本发明精神和原则之内所做修改、同等替换等,均应包含在本发明的保护范围之内。
Claims (10)
1.一种基于多路召回的多场景智能问答方法,其特征在于,包括以下步骤:
步骤S100:用户提出实时问题,并将问题同时输入到多路模型进行问题检索和任务识别,召回各路模型检索到的带有相似度的第一候选问题列表;
步骤S200:将多路模型返回的第一候选问题列表进行归并,并按照相似度进行排序,生成第二候选问题列表;
步骤S300:从第二候选问题列表中,根据阈值获得Top1或者Topk问题列表,生成回答响应用户。
2.如权利要求1所述的一种基于多路召回的多场景智能问答方法,其特征在于,所述多路模型进行的问题检索和任务识别为并行计算,多路模型具体包括:基于关键字检索模型、基于语义检索模型、任务识别模型,所述的基于关键字检索模型和基于语义检索模型用于FAQ问答场景,任务识别模型用于任务型问答场景。
3.如权利要求2所述的一种基于多路召回的多场景智能问答方法,其特征在于,所述基于关键字检索模型对输入的问题进行关键字检索,获得基于关键字召回的带有相似度的候选问题列表,具体包括以下步骤:
步骤S111,去除输入的问题中的停顿词并对问题进行分词处理;
步骤S112,通过Elasticsearch搜索引擎对问题进行检索;
步骤S113,召回Top k 的最相关问题列表;
步骤S114,计算用户输入的问题与步骤S113中的召回的问题的相似度,获得基于关键字召回的带有相似度的候选问题列表。
4.如权利要求3所述的一种基于多路召回的多场景智能问答方法,其特征在于,所述步骤S114,具体包括以下子步骤:
步骤S1141,将用户输入的问题通过 Sentence-BERT模型进行句子编码,生成一个句向量,用Q1表示;
步骤S1142,将召回列表中的k个问题,通过 Sentence-BERT模型进行句子编码,生成k个句向量,用Pi(i=1,2,3…,k)表示;
步骤S1143,采用余弦相似度计算方法,计算Q1与Pi之间的相似度,用SKi(i=1,2,3…,k)表示,获得基于关键字召回的带有相似度的候选问题列表。
5.如权利要求3所述的一种基于多路召回的多场景智能问答方法,其特征在于,所述基于语义检索模型对输入的问题进行语义检索,获得基于语义检索的召回问题列表,具体包括以下步骤:
步骤S121,将用户输入的问题,通过 Sentence-BERT模型进行问题句子的语义编码,生成语义编码向量;
步骤S122,利用生成的语义编码向量,通过Milvus向量搜索引擎进行查询,采用归一化的向量内积法计算向量相似度,返回相似度最高的Top k 个相似向量ID;
步骤S123,利用召回的Top k个相似向量ID,进一步获取问题列表,具体为:与步骤S122同步进行通过Sentence-BERT模型对问题进行句向量编码,并将句向量存储于Elasticsearch搜索引擎,检索时采用余弦相似度计算方法进行相似度计算;
将Elasticsearch搜索引擎的检索结果与Milvus向量搜索引擎的检索结果进行合并后的问题列表作为基于语义检索的召回问题列表。
6.如权利要求5所述的一种基于多路召回的多场景智能问答方法,其特征在于,所述任务识别模型对输入的问题进行任务识别,获取召回的任务,具体包括以下步骤:
步骤S131,采用规则模板的方法对输入的问题进行意图识别,获取到与规则模板匹配度最大的意图;
步骤S132,针对带有槽位的意图,进行槽位填充;
步骤S133,如果遇到当前意图仍旧缺槽位,则通过多轮对话管理即多轮提问的方式,获得槽位;
步骤S134,返回召回的意图,即Top 1任务。
7.如权利要求6所述的一种基于多路召回的多场景智能问答方法,其特征在于,所述采用规则模板的方法对输入的问题进行意图识别,具体为:通过人工分析每个意图下的有代表性的例句,总结出规则模板,然后将用户的输入问句进行分词、词性标注、命名实体识别、依存句法分析、语义分析的操作后套用所述的规则模板,当与所述规则模板匹对的某个规则模板达到所设阈值之后就认为该输入问句就属于所总结出的规则模板对应的意图。
8.如权利要求6所述的一种基于多路召回的多场景智能问答方法,其特征在于,所述步骤S200,具体为:将所述的基于关键字召回的带有相似度的候选问题列表和基于语义检索的召回问题列表合并,并进行去重后,再合并任务识别模型召回的任务,按照相似度从高到低进行排序,生成第二候选问题列表。
9.如权利要求8所述的一种基于多路召回的多场景智能问答方法,其特征在于,所述步骤S300,具体为:
在所述第二候选问题列表中,当排序后Top1 问题为任务型问答场景时,若相似度大于第一阈值,则执行召回的问题对应的任务,响应用户;
若相似度小于等于第一阈值,则将所述第二候选问题列表中相似度大于第二阈值的最多前10个问题进行返回,作为用户的推荐问题;
当排序后Top1 问题为FAQ问答场景,若相似度大于第三阈值:则直接返回输入的问题对应的回答,响应用户;同时将剩余的第二候选问题列表中相似度大于第二阈值的最多前10个问题,作为用户的推荐问题;
若相似度小于等于第三阈值,则将所述第二候选问题列表中相似度大于第二阈值的最多前10个问题,作为用户的推荐问题。
10.一种采用权利要求1至9任一一项所述的基于多路召回的多场景智能问答方法的系统,其特征在于,包括:
多路模型召回模块:用于接收用户提出的实时问题,并将问题同时输入到多路模型进行问题检索和任务识别,召回多路模型检索到的带有相似度的第一候选问题列表;所述多路模型召回模块支持分布式部署;
归并排序模块:用于将多路模型返回的第一候选问题列表进行归并,并按照相似度进行排序,生成第二候选问题列表;
执行模块:用于从第二候选问题列表中,根据阈值获得Top1 或者 TopK 问题列表,生成回答响应用户。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211325456.6A CN115470338B (zh) | 2022-10-27 | 2022-10-27 | 一种基于多路召回的多场景智能问答方法和系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211325456.6A CN115470338B (zh) | 2022-10-27 | 2022-10-27 | 一种基于多路召回的多场景智能问答方法和系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115470338A true CN115470338A (zh) | 2022-12-13 |
CN115470338B CN115470338B (zh) | 2023-04-14 |
Family
ID=84336779
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211325456.6A Active CN115470338B (zh) | 2022-10-27 | 2022-10-27 | 一种基于多路召回的多场景智能问答方法和系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115470338B (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115795018A (zh) * | 2023-02-13 | 2023-03-14 | 广州海昇计算机科技有限公司 | 一种面向电网领域的多策略智能搜索问答方法及系统 |
CN117573845A (zh) * | 2024-01-15 | 2024-02-20 | 之江实验室 | 一种面向跨领域人机协同作业的机器人自然语言理解方法 |
CN117688163A (zh) * | 2024-01-29 | 2024-03-12 | 杭州有赞科技有限公司 | 基于指令微调和检索增强生成的在线智能问答方法及装置 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110727779A (zh) * | 2019-10-16 | 2020-01-24 | 信雅达系统工程股份有限公司 | 基于多模型融合的问答方法及系统 |
CN111858877A (zh) * | 2020-06-17 | 2020-10-30 | 平安科技(深圳)有限公司 | 多类型问题智能问答方法、系统、设备及可读存储介质 |
CN113220862A (zh) * | 2021-06-10 | 2021-08-06 | 中国平安人寿保险股份有限公司 | 标准问识别方法、装置及计算机设备及存储介质 |
CN113420113A (zh) * | 2021-06-21 | 2021-09-21 | 平安科技(深圳)有限公司 | 语义召回模型训练、召回问答方法、装置、设备及介质 |
CN113505243A (zh) * | 2021-07-29 | 2021-10-15 | 深圳万海思数字医疗有限公司 | 基于医疗知识图谱的智能问答方法和装置 |
CN114003709A (zh) * | 2021-12-30 | 2022-02-01 | 中国电子科技集团公司第二十八研究所 | 一种基于问句匹配的智能问答系统和方法 |
CN114238581A (zh) * | 2021-12-21 | 2022-03-25 | 山东亿云信息技术有限公司 | 一种基于语义理解的智能检索系统及方法 |
CN114637760A (zh) * | 2020-12-15 | 2022-06-17 | 暗物智能科技(广州)有限公司 | 一种智能问答方法及系统 |
-
2022
- 2022-10-27 CN CN202211325456.6A patent/CN115470338B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110727779A (zh) * | 2019-10-16 | 2020-01-24 | 信雅达系统工程股份有限公司 | 基于多模型融合的问答方法及系统 |
CN111858877A (zh) * | 2020-06-17 | 2020-10-30 | 平安科技(深圳)有限公司 | 多类型问题智能问答方法、系统、设备及可读存储介质 |
CN114637760A (zh) * | 2020-12-15 | 2022-06-17 | 暗物智能科技(广州)有限公司 | 一种智能问答方法及系统 |
CN113220862A (zh) * | 2021-06-10 | 2021-08-06 | 中国平安人寿保险股份有限公司 | 标准问识别方法、装置及计算机设备及存储介质 |
CN113420113A (zh) * | 2021-06-21 | 2021-09-21 | 平安科技(深圳)有限公司 | 语义召回模型训练、召回问答方法、装置、设备及介质 |
CN113505243A (zh) * | 2021-07-29 | 2021-10-15 | 深圳万海思数字医疗有限公司 | 基于医疗知识图谱的智能问答方法和装置 |
CN114238581A (zh) * | 2021-12-21 | 2022-03-25 | 山东亿云信息技术有限公司 | 一种基于语义理解的智能检索系统及方法 |
CN114003709A (zh) * | 2021-12-30 | 2022-02-01 | 中国电子科技集团公司第二十八研究所 | 一种基于问句匹配的智能问答系统和方法 |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115795018A (zh) * | 2023-02-13 | 2023-03-14 | 广州海昇计算机科技有限公司 | 一种面向电网领域的多策略智能搜索问答方法及系统 |
CN117573845A (zh) * | 2024-01-15 | 2024-02-20 | 之江实验室 | 一种面向跨领域人机协同作业的机器人自然语言理解方法 |
CN117573845B (zh) * | 2024-01-15 | 2024-05-24 | 之江实验室 | 一种面向跨领域人机协同作业的机器人自然语言理解方法 |
CN117688163A (zh) * | 2024-01-29 | 2024-03-12 | 杭州有赞科技有限公司 | 基于指令微调和检索增强生成的在线智能问答方法及装置 |
CN117688163B (zh) * | 2024-01-29 | 2024-04-23 | 杭州有赞科技有限公司 | 基于指令微调和检索增强生成的在线智能问答方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
CN115470338B (zh) | 2023-04-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109885672B (zh) | 一种面向在线教育的问答式智能检索系统及方法 | |
CN112069298B (zh) | 基于语义网和意图识别的人机交互方法、设备及介质 | |
CN115470338B (zh) | 一种基于多路召回的多场景智能问答方法和系统 | |
CN112035599B (zh) | 基于垂直搜索的查询方法、装置、计算机设备及存储介质 | |
CN112035730B (zh) | 一种语义检索方法、装置及电子设备 | |
CN110765277B (zh) | 一种基于知识图谱的移动端的在线设备故障诊断方法 | |
CN109857846B (zh) | 用户问句与知识点的匹配方法和装置 | |
CN113157885B (zh) | 一种面向人工智能领域知识的高效智能问答系统 | |
CN111078837B (zh) | 智能问答信息处理方法、电子设备及计算机可读存储介质 | |
CN114357127A (zh) | 基于机器阅读理解及常用问题解答模型的智能问答方法 | |
CN113821605B (zh) | 一种事件抽取方法 | |
CN109829045A (zh) | 一种问答方法和装置 | |
CN110795544B (zh) | 内容搜索方法、装置、设备和存储介质 | |
CN111274822A (zh) | 语义匹配方法、装置、设备及存储介质 | |
CN116992007B (zh) | 基于问题意图理解的限定问答系统 | |
CN113064980A (zh) | 一种智能问答方法、装置、计算机设备及存储介质 | |
CN113704444A (zh) | 基于自然语言处理的问答方法、系统、设备及存储介质 | |
CN116662518A (zh) | 问答方法、装置、电子设备及可读存储介质 | |
TWI734085B (zh) | 使用意圖偵測集成學習之對話系統及其方法 | |
CN114328800A (zh) | 文本处理方法、装置、电子设备和计算机可读存储介质 | |
CN117332789A (zh) | 一种面向对话场景的语义分析方法及系统 | |
CN113157887A (zh) | 知识问答意图识别方法、装置、及计算机设备 | |
CN113705207A (zh) | 语法错误识别方法及装置 | |
CN115114493A (zh) | 基于问题匹配的智能问答系统实现方法及装置 | |
CN112579666A (zh) | 智能问答系统和方法及相关设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |