CN113918697A - 一种智能问答系统的优化方法以及优化系统 - Google Patents

Abstract

本发明提供了一种智能问答系统的优化方法以及优化系统，所述优化方法包括：所述智能问答系统获得用户的提问问题，所述提问问题通过BERT学习模型转换为向量；将向量与对应的ID存储到Milvus向量搜索引擎；通过所述Milvus向量搜索引擎进行检索。本发明的优化方法使用预训练的参数初始化BERT模型，基于BERT模型的开源向量引擎的智能客服系统的实现方法这样可以实现使用来自下游任务的标记数据对所有参数进行微调。即使在针对字面相差较大的情况下，通过基于语料的历史数据，叠加金融证券行业语料进行微调，便可做到语义层面的相关性，实现正确理解用户问题的同时，又可以有效给出最接近客户问题的优选答案。

Description

一种智能问答系统的优化方法以及优化系统

技术领域

本发明涉及向量引擎领域，具体而言，涉及一种智能问答系统的优化方法以及优化系统。

背景技术

随着人工智能、大数据技术和知识智能的全面发展，近些年来对金融科技的持续投入，使金融行业的线上业务也随之得到了快速发展，提升其智能客服问答系统，链接知识库方式检索用户问题的答案，有效降低人工服务次数和服务时间，为员工赋能助力，精准快速解决客户线上问题，完善客户认知，提供平台工具，提升金融公司整体业绩，获取更丰富和更具针对性营销与产品升级。故基于开源向量引擎的智能问答系统的实现方法较为重要。

在互联网端、移动终端等多渠道布局，投资者也倾向于通过线上开户或者线上预约开通业务权限，目前对个人客户的多数办理需求已经实现了线上化支持，将一些简单易操作且高频集中的业务交给人工智能来解决，使人工智能等技术在金融业务中发挥更大的作用。但有部分业务，因技术成熟度等原因，如金融公司的智能问答系统仍存在一定问题：采用传统分类列表方法关键字/词检索客户问题答案，以及正则表达式方法下，因缺乏字面意义和相似相关性处理，其问题在原有知识库里面不存在，致使客户在线上提问时，需多次检索，最终致使得到回复答案不精准且不能有效解决客户在APP及线上操作时遇到的问题，增加了用户在信息检索活动中的时间消耗；另外，传统方法只能解决常规、重复性的一系列简单问题，暂时还不能提供更多针对性服务，易给客户带来一定的负面情绪；其次，当数据较多时，对检索性能要求较高，传统方案解决问题的时效性较差。

有鉴于此，特提出本发明。

发明内容

有鉴于此，本发明公开了一种智能问答系统的优化方法，该优化方法使用预训练的参数初始化BERT模型，基于BERT模型的开源向量引擎的智能客服系统的实现方法这样可以实现使用来自下游任务的标记数据对所有参数进行微调。即使在针对字面相差较大的情况下，通过基于语料的历史数据，叠加金融证券行业语料进行微调，便可做到语义层面的相关性，实现正确理解用户问题的同时，又可以有效给出最接近客户问题的优选答案，在金融证券行业较为适用。

具体地，本发明是通过以下技术方案实现的：

第一方面，本发明公开了一种智能问答系统的优化方法，包括如下步骤：

所述智能问答系统获得用户的提问问题，所述提问问题通过BERT学习模型转换为向量；

将向量与对应的ID存储到Milvus向量搜索引擎；

通过所述Milvus向量搜索引擎对与提问问题的相似度较高的数据结果进行展示。

第二方面，本发明公开了一种智能问答系统的优化系统，包括：

转换模块：用于将所述智能问答系统获得用户的提问问题，所述提问问题通过BERT学习模型转换为向量；

存储模块：将向量与对应的ID存储到Milvus向量搜索引擎；

展示模块：用于通过所述Milvus向量搜索引擎对与提问问题的相似度较高的数据结果进行展示。

第三方面，本发明公开了一种计算机可读存储介质，其上存储有计算机程序，所述程序被处理器执行时实现如第一方面所述优化方法的步骤。

第四方面，本发明公开了一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现如第一方面所述优化方法的步骤。

总之，本发明的方案是以一种基于开源向量引擎的智能问答系统的实现方法，可以补充在金融领域线上服务中现有对话系统的不足，打破传统知识库检索局限，提升客户服务效率。

通过将智能问答系统借助基于BERT预训练模型的开源向量化服务，将客户的问题转换到向量搜索库(如Milvus)，使客服服务转换为语义处理，存储到向量搜索库，而后进行高匹配度和相似度的搜索，为客户提供一些除原有知识库外的相关问题对应答案，可避免多次交互问答，减少语义相关性数据的召回。同时，可以满足大数据量时对检索性能的需要，使对高时效性检索的需求得到解决；这不仅显著降低了客服部门的人力成本，而且有效的解决客户问题，使客户得到快速精准答案，更极大提升了客户对金融服务的满意度。

附图说明

通过阅读下文优选实施方式的详细描述，各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的，而并不认为是对本发明的限制。而且在整个附图中，用相同的参考符号表示相同的部件。在附图中：

图1为本发明实施例提供的对客户提问问题的优化方法的流程示意图；

图2为本发明实施例提供的智能问答系统内的问题的优化方法的流程示意图；

图3为本发明实施例提供的智能问答系统的优化系统的结构示意图；

图4为本发明实施例提供的一种计算机设备的流程示意图。

具体实施方式

这里将详细地对示例性实施例进行说明，其示例表示在附图中。下面的描述涉及附图时，除非另有表示，不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本公开相一致的所有实施方式。相反，它们仅是与如所附权利要求书中所详述的、本公开的一些方面相一致的装置和方法的例子。

在本公开使用的术语是仅仅出于描述特定实施例的目的，而非旨在限制本公开。在本公开和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式，除非上下文清楚地表示其他含义。还应当理解，本文中使用的术语“和/或”是指并包含一个或多个相关联的列出项目的任何或所有可能组合。

应当理解，尽管在本公开可能采用术语第一、第二、第三等来描述各种信息，但这些信息不应限于这些术语。这些术语仅用来将同一类型的信息彼此区分开。例如，在不脱离本公开范围的情况下，第一信息也可以被称为第二信息，类似地，第二信息也可以被称为第一信息。取决于语境，如在此所使用的词语“如果”可以被解释成为“在……时”或“当……时”或“响应于确定”。

本发明公开了一种智能问答系统的优化方法，包括如下步骤：

所述智能问答系统获得用户的提问问题，所述提问问题通过BERT学习模型转换为向量；

将向量与对应的ID存储到Milvus向量搜索引擎；

通过所述Milvus向量搜索引擎对与提问问题的相似度较高的数据结果进行展示。

现有技术中，银行、证券、基金等金融公司部分线上业务的处理上，依然不能高效处理客户在智能问答系统上所提的问题，甚至客户无法准确描述自己需要解决的问题，需要反复提问，延长等待时间，增大了劳动力成本，同时大大降低了客户的满意度。

本发明为了解决上述技术问题，提供了一种针对现有技术中的智能问答系统的优化方法，该方法可以高效解决客户线上业务咨询时出现的问题，充分利用BERT模型的优势，充分释放集中服务的效能、提升客户服务效率，实现智慧运营转型的突破性创新，本发明的方案利用开源向量引擎，对线上办理业务中的智能问答系统进一步完善，优化智能问答系统的操作流程，简化办理步骤，提高金融行业客户办理业务的效率，保障智能客服系统服务质量，完整、严谨、合规，改善线上体验。有效降低了客服人员的服务成本，更极大提升了客户对金融证券业务办理的满意度。

其实文字向量化的技术类型还是比较多的，其文本处理中的特征提取方法诸多，如词袋模型、基于统计的TF-IDF和基于BERT(Bidirectional Encoder Representationsfrom Transformers)的新型语言模型等，针对不同行业领域，各有利弊。本发明之所以选择开源的BERT模型进行一定的创新应用，基于训练基础模型的BERT模型是一种微调的多层双向Transformer编码器，概念简单，经验强大。其操作方式为：首先，使用预训练的参数初始化BERT模型，而后，使用来自下游任务的标记数据对所有参数进行微调。金融行业使用BERT模型的优势在于：即使在针对字面相差较大的情况下，通过基于语料的历史数据，叠加金融证券行业语料进行微调，便可做到语义层面的相关性，实现正确理解用户问题的同时，又可以有效给出最接近客户问题的优选答案，在金融证券行业较为适用，故此可采用基于BERT模型的开源向量引擎的智能客服系统的实现方法。

图1为本发明实施例公开的一种智能问答系统的优化方法，参照图1所示，所述方法包括如下步骤：

S101、所述智能问答系统获得用户的提问问题，所述提问问题通过BERT学习模型转换为向量；

S102、将向量与对应的ID存储到Milvus向量搜索引擎；

S103、通过所述Milvus向量搜索引擎对与提问问题的相似度较高的数据结果进行展示。

优选地，在所述S101步骤之前，还包括如下步骤：

S100、所述提问问题预先进行解析、格式化处理后，再通过BERT学习模型转换为向量。

当用户对智能回答提供的智能客服进行对话时，用户输入要咨询的问题，其问题就会进入中控层，数据处理系统会将知识条目中的问题以及客户提问的非知识管理系统内的问题信息进行处理，也即对客户提问问题进行解析，做格式化处理，并记录请求日记，根据问题内容反馈给相应服务的机器人。

优选地，所述S103步骤之后，对数据结果进行展示的步骤之后还包括：S104、获取相似度排序靠前的数据，将数据的ID存储至所述智能问答系统中，以获取详细信息向客户展示。

实际操作的过程中，会针对相似度排序Top15的数据进行展示，以方便用户在使用的时候进行检索查阅。

此外，优选地，本发明的优化方法还包括对所述智能问答系统的数据库维护的方法，具体参见图2，所述数据库维护的方法包括：

S201、存储于所述数据库的问题通过BERT学习模型转换为向量，将向量与对应的ID存储到Milvus向量搜索引擎。

上述对数据库的维护方法与对用户提问题的优化方法是并行进行的。

优选地，在上述S201的步骤之后，还包括有如下步骤：

S202、通过所述Milvus向量搜索引擎对与所述数据库的问题的相似度较高的数据结果进行展示。

同样地，在数据库维护的实际操作过程中，会针对相似度排序Top15的数据进行展示，以方便用户在使用的时候进行检索查阅。

具体实施时，优化方法具体为：

1.首先针对知识数据进行初始化和维护，该过程从知识管理系统中获取数据；

2.当用户与智能客服进行对话时，用户输入要咨询的问题，其问题就会进入中控层，数据处理系统会将知识条目中的问题以及客户提问的非知识管理系统内的问题信息进行处理，也即对客户提问问题进行解析，做格式化处理，并记录请求日记，根据问题内容反馈给相应服务的机器人；

3.通过Bert模型服务将任意长度的问题信息转换为向量，最终将该知识条目在知识管理系统中的主键ID和向量一同存储到Milvus中；

4.通过Milvus向量搜索引擎进行检索，获取了按照相似度排序Top15的召回数据；将返回数据中的ID值传至知识管理系统中获取条目的详细信息展示给用户。

当然，进一步地，也可以采用以下方式：

先通过Milvus向量搜索引擎进行检索，召回数据集1000条，经过粗/精排算法，获取了按照相似度排序Top10的召回数据；将返回数据中的ID值传至知识管理系统中获取条目的详细信息展示给用户。

粗排算法的具体实施流程是：

1.从召回数据集1000中召回相似度top300的数据，同时召回query主干信息的top50数据，将其合并；

2.过滤掉top50数据中相似度小于0.85的召回数据；

3.对剩余召回的数据和query，同时做关键词判断、停用词去除和同义词替换操作。

精排算法的具体实施过程是：

1.将召回的top50数据与query计算WMD(该值越小越好)，按从小到大排序；

2.依据配置的精准答案阈值(0.98，1)、(0.90，1.0)，过滤出符合条件的精准答案；

3.判断query中是否包含有产品实体信息，如果有，那么筛选出来的精准答案问题也需要包含有相同的实体信息，负责将筛选出来的问题传回相似列表第一个位置，否则，弃掉该数据。

本发明还提供了一种针对智能问答系统的优化系统，具体结构参见图3所示，包括：

转换模块102：用于将所述智能问答系统获得用户的提问问题，所述提问问题通过BERT学习模型转换为向量；

存储模块103：将向量与对应的ID存储到Milvus向量搜索引擎；

展示模块104：用于通过所述Milvus向量搜索引擎对与提问问题的相似度较高的数据结果进行展示。

优选地，上述优化系统还包括有：数据预处理模块101，所述数据预处理模块用于对所述提问问题预先进行解析、格式化处理。

图4为本发明公开的一种计算机设备的结构示意图。参考图4所示，该计算机设备400，至少包括存储器402和处理器401；所述存储器402通过通信总线403和处理器连接，用于存储所述处理器401可执行的计算机指令，所述处理器301用于从所述存储器402读取计算机指令以实现上述任一实施例所述的优化方法的步骤。

对于上述装置实施例而言，由于其基本对应于方法实施例，所以相关之处参见方法实施例的部分说明即可。以上所描述的装置实施例仅仅是示意性的，其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本公开方案的目的。本领域普通技术人员在不付出创造性劳动的情况下，即可以理解并实施。

适合于存储计算机程序指令和数据的计算机可读介质包括所有形式的非易失性存储器、媒介和存储器设备，例如包括半导体存储器设备(例如EPROM、EEPROM和闪存设备)、磁盘(例如内部磁盘或可移动盘)、磁光盘以及CD ROM和DVD-ROM盘。处理器和存储器可由专用逻辑电路补充或并入专用逻辑电路中。

最后应说明的是：虽然本说明书包含许多具体实施细节，但是这些不应被解释为限制任何发明的范围或所要求保护的范围，而是主要用于描述特定发明的具体实施例的特征。本说明书内在多个实施例中描述的某些特征也可以在单个实施例中被组合实施。另一方面，在单个实施例中描述的各种特征也可以在多个实施例中分开实施或以任何合适的子组合来实施。此外，虽然特征可以如上所述在某些组合中起作用并且甚至最初如此要求保护，但是来自所要求保护的组合中的一个或多个特征在一些情况下可以从该组合中去除，并且所要求保护的组合可以指向子组合或子组合的变型。

类似地，虽然在附图中以特定顺序描绘了操作，但是这不应被理解为要求这些操作以所示的特定顺序执行或顺次执行、或者要求所有例示的操作被执行，以实现期望的结果。在某些情况下，多任务和并行处理可能是有利的。此外，上述实施例中的各种系统模块和组件的分离不应被理解为在所有实施例中均需要这样的分离，并且应当理解，所描述的程序组件和系统通常可以一起集成在单个软件产品中，或者封装成多个软件产品。

由此，主题的特定实施例已被描述。其他实施例在所附权利要求书的范围以内。在某些情况下，权利要求书中记载的动作可以以不同的顺序执行并且仍实现期望的结果。此外，附图中描绘的处理并非必需所示的特定顺序或顺次顺序，以实现期望的结果。在某些实现中，多任务和并行处理可能是有利的。

以上所述仅为本公开的较佳实施例而已，并不用以限制本公开，凡在本公开的精神和原则之内，所做的任何修改、等同替换、改进等，均应包含在本公开保护的范围之内。

Claims (10)

1.一种智能问答系统的优化方法，其特征在于，应用于智能问答系统，包括如下步骤：

所述智能问答系统获得用户的提问问题，所述提问问题通过BERT学习模型转换为向量；

将向量与对应的ID存储到Milvus向量搜索引擎；

通过所述Milvus向量搜索引擎对与提问问题的相似度较高的数据结果进行展示。

2.根据权利要求1所述的优化方法，其特征在于，所述提问问题预先进行解析、格式化处理后，再通过BERT学习模型转换为向量。

3.根据权利要求1所述的优化方法，其特征在于，对数据结果进行展示的步骤之后还包括：获取相似度排序靠前的数据，将数据的ID存储至所述智能问答系统中，以获取详细信息向客户展示。

4.根据权利要求3所述的优化方法，其特征在于，借用粗排算法进行排序，然后再根据WMD精排算法进行排序以获取相似度靠前的数据。

5.根据权利要求1所述的优化方法，其特征在于，还包括对所述智能问答系统的数据库维护的方法；

所述数据库维护的方法包括：存储于所述数据库的问题通过BERT学习模型转换为向量，将向量与对应的ID存储到Milvus向量搜索引擎。

6.根据权利要求5所述的优化方法，其特征在于，将向量与对应的ID存储到Milvus向量搜索引擎的步骤之后包括：通过所述Milvus向量搜索引擎对与所述数据库的问题的相似度较高的数据结果进行展示。

7.一种针对智能问答系统的优化系统，其特征在于，包括：

转换模块：用于将所述智能问答系统获得用户的提问问题，所述提问问题通过BERT学习模型转换为向量；

存储模块：将向量与对应的ID存储到Milvus向量搜索引擎；

展示模块：用于通过所述Milvus向量搜索引擎对与提问问题的相似度较高的数据结果进行展示。

8.根据权利要求7所述的优化系统，其特征在于，还包括有数据预处理模块，所述数据预处理模块用于对所述提问问题预先进行解析、格式化处理。

9.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述程序执行时实现权利要求1-6任一项所述优化方法的步骤。

10.一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现如权利要求1-6任一项所述优化方法的步骤。

Images