CN117235226A - 一种基于大语言模型的问题应答方法及装置 - Google Patents

Abstract

本说明书一个或多个实施例公开了一种基于大语言模型的问题应答方法，该方法首先获取针对待查询的知识信息而输入的目标问题，其次对目标问题进行向量化处理，得到问题向量，然后基于问题向量，在预设的文档向量数据库中进行检索，得到与问题向量匹配的相关文档，文档向量数据库是针对与待查询的知识信息相关的知识库文档进行向量化处理所得到的数据库，最后基于目标问题检索得到的相关文档生成用于大语言模型的提示信息，并将提示信息输入大语言模型中，得到目标问题对应的答案。

Description

一种基于大语言模型的问题应答方法及装置

技术领域

本文件涉及智能问答技术领域，尤其涉及一种基于大语言模型的问题应答方法及装置。

背景技术

大语言模型通过模仿人类的语言能力，使计算机能够理解和产生高质量的语言文本。随着信息技术和人工智能技术的发展，大语言模型的应用越来越广泛，以企业中常见的文档查询为例，随着企业业务的不断拓展，企业内部会逐渐积累起来各种资料，而且这些资料通常会分散在不同的存储位置，随着时间的推移文档数量会不断增长从而形成庞大的数据资产。当企业内部发生人员变动、部门调整时，新的员工或新的部门在执行业务的过程中，通常需要基于数据资产借助大语言模型作为问答系统，输入待查询文档得到回答。

相关技术中，在利用大语言模型进行文档查询时，通常是对大语言模型进行再训练或者微调，然后利用再训练或者微调后的大语言模型作为问答系统。而直接输入用户问题并使用大语言模型作为问答系统，通常并不能得到符合用户需求的回答。因此，如何提高问答系统的工作效率是个重要问题。基于此，需要提供一种基于大语言模型的问题应答方法及装置。

发明内容

一方面，本说明书一个或多个实施例提供一种基于大语言模型的问题应答方法，包括：获取针对待查询的知识信息而输入的目标问题；对所述目标问题进行向量化处理，得到问题向量；基于所述问题向量，在预设的文档向量数据库中进行检索，得到与所述问题向量匹配的相关文档，所述文档向量数据库是针对与所述待查询的知识信息相关的知识库文档进行向量化处理所得到的数据库；基于所述目标问题检索得到的相关文档生成用于大语言模型的提示信息，并将所述提示信息输入所述大语言模型中，得到所述目标问题对应的答案。

另一方面，本说明书一个或多个实施例提供一种基于大语言模型的问题应答装置，包括：目标问题获取模块，获取针对待查询的知识信息而输入的目标问题；目标问题向量化处理模块，对所述目标问题进行向量化处理，得到问题向量；检索模块，基于所述问题向量，在预设的文档向量数据库中进行检索，得到与所述问题向量匹配的相关文档，所述文档向量数据库是针对与所述待查询的知识信息相关的知识库文档进行向量化处理所得到的数据库；应答模块，基于所述目标问题检索得到的相关文档生成用于大语言模型的提示信息，并将所述提示信息输入所述大语言模型中，得到所述目标问题对应的答案。

再一方面，本说明书一个或多个实施例提供一种电子设备，包括：处理器；以及被安排成存储计算机可执行指令的存储器，在所述可执行指令被执行时，能够使得所述处理器：获取针对待查询的知识信息而输入的目标问题；对所述目标问题进行向量化处理，得到问题向量；基于所述问题向量，在预设的文档向量数据库中进行检索，得到与所述问题向量匹配的相关文档，所述文档向量数据库是针对与所述待查询的知识信息相关的知识库文档进行向量化处理所得到的数据库；基于所述目标问题检索得到的相关文档生成用于大语言模型的提示信息，并将所述提示信息输入所述大语言模型中，得到所述目标问题对应的答案。

再一方面，本说明书一个或多个实施例提供存储介质，用于存储计算机程序，所属计算机程序能够被处理器执行以实现以下流程：获取针对待查询的知识信息而输入的目标问题；对所述目标问题进行向量化处理，得到问题向量；基于所述问题向量，在预设的文档向量数据库中进行检索，得到与所述问题向量匹配的相关文档，所述文档向量数据库是针对与所述待查询的知识信息相关的知识库文档进行向量化处理所得到的数据库；基于所述目标问题检索得到的相关文档生成用于大语言模型的提示信息，并将所述提示信息输入所述大语言模型中，得到所述目标问题对应的答案。

附图说明

为了更清楚地说明本说明书一个或多个实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本说明书一个或多个实施例中记载的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1是根据本说明书一实施例的一种基于大语言模型的问题应答方法的示意性流程图；

图2是根据本说明书又一实施例的一种基于大语言模型的问题应答方法的示意性流程图；

图3是根据本说明书一实施例的基于大语言模型的问题应答方法的实现原理示意图；

图4是根据本说明书一实施例的一种基于大语言模型的问题应答装置的示意性框图；

图5是根据本说明书一实施例的一种电子设备的示意性框图。

具体实施方式

本说明书一个或多个实施例提供一种基于大语言模型的问题应答方法及装置。

为了使本技术领域的人员更好地理解本说明书一个或多个实施例中的技术方案，下面将结合本说明书一个或多个实施例中的附图，对本说明书一个或多个实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本说明书一部分实施例，而不是全部的实施例。基于本说明书一个或多个实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都应当属于本文件保护的范围。

如图1所示，本说明书实施例提供一种基于大语言模型的问题应答方法，该方法的执行主体可以为终端设备或服务器，其中，该终端设备可以如手机、平板电脑等一定终端设备，还可以如笔记本电脑或台式电脑等计算机设备，或者，也可以为IoT设备(具体如智能手表、车载设备等)等。该服务器可以是独立的一个服务器，还可以是由多个服务器构成的服务器集群等，该服务器可以是如金融业务或网络购物业务等的后台服务器，也可以是某应用程序的后台服务器等。本实施例中以服务器为例进行详细说明，对于终端设备的执行过程可以参见下述相关内容，在此不再赘述。该方法具体可以包括以下步骤：

在步骤S102中，获取针对待查询的知识信息而输入的目标问题。

本说明书书实施例中的方法可以应用于多种场景，具体地，可以用于构建企业内部知识库问答系统，还可以用于构建基于各种数据资产进行查询的问答系统，例如：专业领域论文库的问答系统、产品说明书文档的问答系统以及书籍文档的问答系统等。相应地，待查询的知识信息可以是企业内部相关的知识信息、专业领域论文相关的知识信息、产品说明书相关的知识信息以及书籍相关的知识信息。实际应用中，可以结合当前的应用场景获取到针对当前待查询的知识信息的目标问题。

在步骤S104中，对目标问题进行向量化处理，得到问题向量。

对目标问题进行向量化处理即进行语句向量嵌入处理，从而得到目标问题对应的问题向量。语句向量嵌入(Sentence Vector Embedding)是一种自然语言处理及技术，是一种将单词、短语或者句子映射到低维空间中的向量表示。通过对表示目标问题的语句进行向量化嵌入，一方面能够将目标问题中的语义信息保留在向量中，从而为后续的向量检索提供基础，提高检索的便利性，另一方面向量检索的方式不同于关键词检索方式，向量检索使得对目标问题的检索并不会局限于用于表示目标问题的语句所包含的关键词上，不存在关键词严格匹配的问题，有利于提高检索结果的全面性和准确性。

在实施中，可以利用预先训练的嵌入模型对目标问题进行向量化处理，该嵌入模型是根据文档样本和预设的第一损失函数进行训练得到的模型。

在步骤S106中，基于问题向量，在预设的文档向量数据库中进行检索，得到与问题向量匹配的相关文档。

基于问题向量，在预设的文档向量数据库中进行检索，相当于根据文档向量数据库构建一个向量检索器，将问题向量和文档向量数据库输入该向量检索器能够得到与问题向量相匹配的相关文档。

预设的文档向量数据库是针对与待查询的知识信息相关的知识库文档进行向量化处理所得到的数据库。对知识库文档进行向量化处理的方法，也可以利用预先训练的嵌入模型对知识库文档进行向量化处理，此处与步骤S104中对目标问题进行向量化处理的方法和原理相同，在此不再赘述。

文本向量检索(Vector Retrieval)是一种基于向量空间模型的文本检索技术，该文本检索技术将文本表示为向量，并利用向量之间的距离和相似度等特征进行文本检索。在实施中，可以直接将整个知识库文档进行向量化，从而得到文档向量数据库，也可以对知识库文档进行分割后再进行向量化。

根据不同的应用场景，知识库文档的类型也不同，可以包括：企业内部知识文档、专业领域论文库文档、产品说明书文档以及书籍文档中的一种或多种。如果用于构建企业内部知识库问答系统，对应的知识库文档可以是企业内部知识文档，如果用于构建各种基于数据资产进行查询的问答系统，根据不同的数据资产类型，知识库文档可以是专业领域论文库文档、产品说明书文档或者书籍文档等。

此外，知识库文档可能是离线知识库文档，也可能是在线知识库文档，或者同时包含离线知识库文档和在线知识库文档。以构建企业内部知识库问答系统为例，在当今快速发展的信息时代，无论是大型企业还是中小型企业，随着企业业务的不断拓展，企业内部会逐渐积累起来各种资料，而且这些资料通常会分散在不同的存储位置，这些资料既可能存在于在线文档中，也可能存在于离线文档中，随着时间的推移文档数量会不断增长从而形成庞大的数据资产。当企业内部发生人员变动、部门调整时，新的员工或新的部门在执行业务的过程中，通常需要基于数据资产借助大语言模型作为问答系统，输入待查询文档得到回答，从而解决相关的业务问题。

在步骤S108中，基于目标问题检索得到的相关文档生成用于大语言模型的提示信息，并将提示信息输入大语言模型中，得到目标问题对应的答案。

本方案中的大语言模型可以视为已经训练完成的开源大模型，基于目标问题检索得到的相关文档生成的提示信息作为大语言模型的输入信息，能够有针对性地指导和控制大语言模型所生成的答案，有利于提高所得到的目标问题对应的答案的准确性和全面性。

基于目标问题检索得到的相关文档生成用于大语言模型的提示信息的方法，可以采用提取关键词的方法，具体地，可以从相关文档的开头或结尾部分提取相关文档的关键词，然后基于所提取的关键词生成用于大语言模型的提示信息。也可以从几个相关文档或者同一个相关文档的多个段落中提取重复率较高的语句，然后基于重复率较高的语句生成用于大语言模型的提示信息。还可以基于相关文档确定与目标问题相关的上下文信息，基于此上下文信息生成用于大语言模型的提示信息。

本说明书实施例提供一种基于大语言模型的问题应答方法，首先获取针对待查询的知识信息而输入的目标问题，其次对目标问题进行向量化处理，得到问题向量，然后基于问题向量，在预设的文档向量数据库中进行检索，得到与问题向量匹配的相关文档，文档向量数据库是针对与待查询的知识信息相关的知识库文档进行向量化处理所得到的数据库，最后基于目标问题检索得到的相关文档生成用于大语言模型的提示信息，并将提示信息输入大语言模型中，得到目标问题对应的答案。通过将目标问题向量化以及利用向量化处理后的文档向量数据库进行检索，从而将对问题的查询过程转化成向量检索过程，进而在庞大繁琐的知识库文档中实现基于语义的更广泛、全面、精确的检索结果，有利于提高用户使用知识库文档的效率以及问题应答效率。另外，本方案基于目标问题检索得到的相关文档生成用于大语言模型的提示信息，并将提示信息输入大语言模型中，使得大语言模型所输出答案的准确性和针对性更高。

进一步地，上述步骤S106中文档向量数据库的获取方法可以多种多样，以下提供一种可选的处理方式，具体可以参见以下步骤A1-A3的处理。

在步骤A1中，获取与待查询的知识信息相关的知识库文档。

本说明书实施例中获取知识库文档和步骤S102中获取目标问题可以异步实现，即：可以在获取目标问题之前，提前加载与待查询的知识信息相关的知识库文档。

在步骤A2中，按照预设的分割方法，对知识库文档进行分割，获取分割后的文档。

进一步地，该预设的分割方法可以是预设的分割规则，也可以采用预先训练的语义分割模型。

其中，预设的分割规则可以是按照换行符进行分割，也可以按照标点符号进行分割。例如：针对一篇知识库文档可以按照换行符分割成多段，针对一篇知识库文档中的一段文档可以按照标点符号分割成多句。实际应用中，可以根据知识库文档的类型以及用户需求选择合适的分割规则，例如：专业领域论文库文档通常一段表达一个语义，可以采用换行符进行分割。

采用预先训练的语义分割模型对知识库文档进行分割的方法中，预先训练的语义分割模型是根据语义样本和预设的损失函数进行训练得到的模型，可以采用现有的开源模型，具体的模型训练方法在此不再赘述。实施中，将对应的知识库文档或者知识库文档中的某一段内容输入语义分割模型，即可输出分割后的文档。

在步骤A3中，对分割后的文档分别进行向量化处理，并根据分割后的文档和向量化处理后的文档的映射关系构建文档向量数据库。

文档向量数据库中包含分割后的文档、向量化处理后的分割后的文档以及两者的映射关系。通常一篇知识库文档属于一篇比较长的语料，通过对知识库文档进行分割，既能够保留知识库文档中单条语句的语义信息，还有利于后续对知识库文档进行向量化处理，从而提高向量检索的效率以及检索结果的准确性。尤其是基于少量词语的目标问题对应的向量在上千字的知识库文档对应的文档向量数据库中进行检索时，通过对知识库文档进行分割能够更加明显地提高向量检索的效率以及检索结果的准确性。

进一步地，上述步骤S106的处理可以多种多样，以下提供一种可选的处理方式，具体可以参见以下步骤B1和B2的处理。

在步骤B1中，基于问题向量，获取问题向量与预设的文档向量数据库中的每个向量之间的相似度。

获取问题向量与预设的文档向量数据库中的每个向量之间的相似度的方法，可以采用欧式距离，也可以采用余弦距离，即：可以计算问题向量与预设的文档向量数据库中的每个向量之间的欧式距离，也可以计算余弦距离，还可以采用其他计算向量相似度的方法，本说明书实施例对此不做限定。

在步骤B2中，根据获取的相似度和预设的相似度阈值确定与问题向量匹配的相关文档。

在实施中，可以对所获取的相似度从高到低排序，以第K个相似度作为预设的相似度阈值，从所获取的相似度中选择大于或等于预设的相似度阈值的相似度所对应的文档向量数据库中的向量，以前K个相似度所对应的文档向量数据库中的向量匹配的文档作为相关文档。也可以对所获取的相似度从高到低排序，并选择前K个向量，以前K个向量匹配的文档作为相关文档。

进一步地，上述步骤S108的处理可以多种多样，以下提供一种可选的处理方式，具体可以参见以下步骤S1082和S1084的处理。

在步骤S1082中，基于目标问题检索得到的相关文档确定与目标问题相关的上下文信息。

在步骤S1084中，根据上下文信息生成用于大语言模型的提示信息。

在实施中，可以根据相关文档确定目标问题的上下文信息，并以此上下文信息结合目标问题构造prompt，所构造的prompt中明确指出应用大语言模型进行应答时，需要在上下文信息中查询并归纳目标问题所对应的答案，否则大语言模型返回无法回答的回应。

进一步地，如图2所示，本说明书实施例中的基于大语言模型的问题应答方法还可以包括步骤S110：基于知识库文档对文档向量数据库进行更新，得到更新后的文档向量数据库。

此处知识库文档的更新可以包括：知识信息的增加、知识信息的删除以及知识信息的修改中的一种或多种。

在实施中，当知识库文档中的知识信息更新时，可以针对更新后的知识库文档进行向量化处理，从而得到更新后的文档向量数据库。可以参照步骤A1-A3中的方法获取更新后的文档向量数据库，在此不再赘述。

与步骤S110相应地，步骤S106的处理可以多种多样，以下提供一种可选的处理方式，具体可以参见以下步骤S1062的处理。

在步骤S1062中，基于问题向量在更新后的文档向量数据库中进行检索，得到与问题向量匹配的更新后的相关文档。

利用大语言模型进行问题应答时，大语言模型的输入信息query通常是对大语言模型进行模型训练时的内部知识，而基于目标问题检索得到的相关文档生成的提示信息相当于外部知识。当知识库文档更新时，通过基于知识库文档对文档向量数据库进行更新，能够得到更新后的文档向量数据库，基于问题向量在更新后的文档向量数据库中进行检索，能够得到与问题向量匹配的更新后的相关文档，而基于此更新后的相关文档生成的提示信息相当于更新后的外部知识，因此，大语言模型基于该提示信息和query所得到的目标问题的答案会更和准确和符合用户需求。

以医学领域的一个目标问题C和医学领域论文库文档为例，当向大语言模型输入针对某一前沿医学知识信息的目标问题C时，由于该前沿医学知识信息产生的时间较短，而大语言模型训练时并没有采用该前沿医学知识，因此，大语言模型无法输出符合用户需求的答案。通过步骤S110，将该前沿医学知识更新到知识库问题，基于知识库文档对文档向量数据库进行更新，能够得到更新后的文档向量数据库，再通过步骤S1062能够得到更新后的相关文档，最后通过步骤S108能够得到更加准确的符合用户需求的答案。可见，上述方法只需要更新知识库文档即可使大语言模型获取到外部知识，而不需要重新训练大语言模型，既有利于提高问题应答的效率又能够实现低成本更新知识库文档。

进一步地，本说明书实施例中大语言模型的问题应答方法还可以包括步骤S112：存储文档向量数据库。

存储文档向量数据库即：将文档向量数据库持久化。通过存储文档向量数据库，每次基于目标问题进行检索时，可以直接加载文档向量数据库，而不需要每次获取知识库文档并对所获取的知识库文档进行分割，因此能够有效提高问题应答的效率，尤其是针对包含大量文档的大型文档向量数据库，通过存储文档向量数据库将文档向量数据库持久化，能够节省大量时间，从而有效提高问题应答的效率。

本说明书实施例中基于大语言模型的问题应答方法的实现原理可以参见图3所示。由图3可知，用户提问(即获取目标问题)与加载本地文档(即：获取知识库文档)可以异步实现，对知识库文档的向量化处理以及对目标问题的向量化处理，可以采用嵌入模型来实现。

本说明书实施例提供一种基于大语言模型的问题应答方法，首先获取针对待查询的知识信息而输入的目标问题，其次对目标问题进行向量化处理，得到问题向量，然后基于问题向量，在预设的文档向量数据库中进行检索，得到与问题向量匹配的相关文档，文档向量数据库是针对与待查询的知识信息相关的知识库文档进行向量化处理所得到的数据库，最后基于目标问题检索得到的相关文档生成用于大语言模型的提示信息，并将提示信息输入大语言模型中，得到目标问题对应的答案。通过将目标问题向量化以及利用向量化处理后的文档向量数据库进行检索，从而将对问题的查询过程转化成向量检索过程，进而在庞大繁琐的知识库文档中实现基于语义的更广泛、全面、精确的检索结果，有利于提高用户使用知识库文档的效率以及问题应答效率。另外，本方案基于目标问题检索得到的相关文档生成用于大语言模型的提示信息，并将提示信息输入大语言模型中，使得大语言模型所输出答案的准确性和针对性更高。

综上，已经对本主题的特定实施例进行了描述。其它实施例在所附权利要求书的范围内。在一些情况下，在权利要求书中记载的动作可以按照不同的顺序来执行并且仍然可以实现期望的结果。另外，在附图中描绘的过程不一定要求示出的特定顺序或者连续顺序，以实现期望的结果。在某些实施方式中，多任务处理和并行处理可以是有利的。

以上为本说明书一个或多个实施例提供的基于大语言模型的问题应答方法，基于同样的思路，本说明书一个或多个实施例还提供一种基于大语言模型的问题应答装置，如图4所示。

该基于大语言模型的问题应答装置包括：目标问题获取模块210、目标问题向量化处理模块220、检索模块230以及应答模块240，其中：

目标问题获取模块210，获取针对待查询的知识信息而输入的目标问题；

目标问题向量化处理模块220，对目标问题进行向量化处理，得到问题向量；

检索模块230，基于问题向量，在预设的文档向量数据库中进行检索，得到与问题向量匹配的相关文档，文档向量数据库是针对与待查询的知识信息相关的知识库文档进行向量化处理所得到的数据库；

应答模块240，基于目标问题检索得到的相关文档生成用于大语言模型的提示信息，并将提示信息输入大语言模型中，得到目标问题对应的答案。

进一步地，检索模块230包括：

相似度获取单元，基于问题向量，获取问题向量与预设的文档向量数据库中的每个向量之间的相似度；

相关文档确定单元，根据获取的相似度和预设的相似度阈值确定与问题向量匹配的相关文档。

进一步地，该基于大语言模型的问题应答装置中还包括：更新模块，基于知识库文档对文档向量数据库进行更新，得到更新后的文档向量数据库。相应地，检索模块230，基于问题向量在更新后的文档向量数据库中进行检索，得到与问题向量匹配的更新后的相关文档。

进一步地，检索模块230中知识库文档的类型包括：企业内部知识文档、专业领域论文库文档、产品说明书文档以及书籍文档中的一种或多种。

进一步地，检索模块230中知识库文档包括：离线知识库文档和/或在线知识库文档。

进一步地，应答模块240包括：

上下文信息确定单元，基于目标问题检索得到的相关文档确定与目标问题相关的上下文信息；

提示信息生成单元，根据上下文信息生成用于大语言模型的提示信息。

计算单元，提示信息输入大语言模型中，得到目标问题对应的答案。

本说明书实施例提供一种基于大语言模型的问题应答装置，首先通过目标问题获取模块获取针对待查询的知识信息而输入的目标问题，其次通过目标问题向量化处理模块对目标问题进行向量化处理，得到问题向量，然后通过检索模块基于问题向量，在预设的文档向量数据库中进行检索，得到与问题向量匹配的相关文档，文档向量数据库是针对与待查询的知识信息相关的知识库文档进行向量化处理所得到的数据库，最后利用应答模块基于目标问题检索得到的相关文档生成用于大语言模型的提示信息，并将提示信息输入大语言模型中，得到目标问题对应的答案。通过将目标问题向量化以及利用向量化处理后的文档向量数据库进行检索，从而将对问题的查询过程转化成向量检索过程，进而在庞大繁琐的知识库文档中实现基于语义的更广泛、全面、精确的检索结果，有利于提高用户使用知识库文档的效率以及问题应答效率。另外，本方案基于目标问题检索得到的相关文档生成用于大语言模型的提示信息，并将提示信息输入大语言模型中，使得大语言模型所输出答案的准确性和针对性更高。

本领域的技术人员应可理解，上述基于大语言模型的问题应答装置能够用来实现前文所述的基于大语言模型的问题应答方法，其中的细节描述应与前文方法部分描述类似，为避免繁琐，此处不另赘述。

本领域的技术人员应可理解，上述序列表征提取装置能够用来实现前文所述的序列表征提取方法，其中的细节描述应与前文方法部分描述类似，为避免繁琐，此处不另赘述。

基于同样的思路，本说明书一个或多个实施例还提供一种电子设备，如图5所示。电子设备可因配置或性能不同而产生比较大的差异，可以包括一个或一个以上的处理器301和存储器302，存储器302中可以存储有一个或一个以上存储应用程序或数据。其中，存储器302可以是短暂存储或持久存储。存储在存储器302的应用程序可以包括一个或一个以上模块(图示未示出)，每个模块可以包括对电子设备中的一系列计算机可执行指令。更进一步地，处理器301可以设置为与存储器302通信，在电子设备上执行存储器302中的一系列计算机可执行指令。电子设备还可以包括一个或一个以上电源303，一个或一个以上有线或无线网络接口304，一个或一个以上输入输出接口305，一个或一个以上键盘306。

具体在本实施例中，电子设备包括有存储器，以及一个或一个以上的程序，其中一个或者一个以上程序存储于存储器中，且一个或者一个以上程序可以包括一个或一个以上模块，且每个模块可以包括对电子设备中的一系列计算机可执行指令，且经配置以由一个或者一个以上处理器执行该一个或者一个以上程序包含用于进行以下计算机可执行指令：

获取针对待查询的知识信息而输入的目标问题；

对目标问题进行向量化处理，得到问题向量；

基于问题向量，在预设的文档向量数据库中进行检索，得到与问题向量匹配的相关文档，文档向量数据库是针对与待查询的知识信息相关的知识库文档进行向量化处理所得到的数据库；

基于目标问题检索得到的相关文档生成用于大语言模型的提示信息，并将提示信息输入大语言模型中，得到目标问题对应的答案。

本说明书一个或多个实施例提供一种存储介质，存储介质用于存储计算机可执行指令，可执行指令在被处理器执行时实现以下流程：

获取针对待查询的知识信息而输入的目标问题；

对目标问题进行向量化处理，得到问题向量；

基于问题向量，在预设的文档向量数据库中进行检索，得到与问题向量匹配的相关文档，文档向量数据库是针对与待查询的知识信息相关的知识库文档进行向量化处理所得到的数据库；

基于目标问题检索得到的相关文档生成用于大语言模型的提示信息，并将提示信息输入大语言模型中，得到目标问题对应的答案。

上述对本说明书特定实施例进行了描述。其它实施例在所附权利要求书的范围内。在一些情况下，在权利要求书中记载的动作或步骤可以按照不同于实施例中的顺序来执行并且仍然可以实现期望的结果。另外，在附图中描绘的过程不一定要求示出的特定顺序或者连续顺序才能实现期望的结果。在某些实施方式中，多任务处理和并行处理也是可以的或者可能是有利的。

在20世纪90年代，对于一个技术的改进可以很明显地区分是硬件上的改进(例如，对二极管、晶体管、开关等电路结构的改进)还是软件上的改进(对于方法流程的改进)。然而，随着技术的发展，当今的很多方法流程的改进已经可以视为硬件电路结构的直接改进。设计人员几乎都通过将改进的方法流程编程到硬件电路中来得到相应的硬件电路结构。因此，不能说一个方法流程的改进就不能用硬件实体模块来实现。例如，可编程逻辑器件(Programmable Logic Device，PLD)(例如现场可编程门阵列(Field Programmable GateArray，FPGA))就是这样一种集成电路，其逻辑功能由用户对器件编程来确定。由设计人员自行编程来把一个数字系统“集成”在一片PLD上，而不需要请芯片制造厂商来设计和制作专用的集成电路芯片。而且，如今，取代手工地制作集成电路芯片，这种编程也多半改用“逻辑编译器(logic compiler)”软件来实现，它与程序开发撰写时所用的软件编译器相类似，而要编译之前的原始代码也得用特定的编程语言来撰写，此称之为硬件描述语言(Hardware Description Language，HDL)，而HDL也并非仅有一种，而是有许多种，如ABEL(Advanced Boolean Expression Language)、AHDL(Altera Hardware DescriptionLanguage)、Confluence、CUPL(Cornell University Programming Language)、HDCal、JHDL(Java Hardware Description Language)、Lava、Lola、MyHDL、PALASM、RHDL(RubyHardware Description Language)等，目前最普遍使用的是VHDL(Very-High-SpeedIntegrated Circuit Hardware Description Language)与Verilog。本领域技术人员也应该清楚，只需要将方法流程用上述几种硬件描述语言稍作逻辑编程并编程到集成电路中，就可以很容易得到实现该逻辑方法流程的硬件电路。

控制器可以按任何适当的方式实现，例如，控制器可以采取例如微处理器或处理器以及存储可由该(微)处理器执行的计算机可读程序代码(例如软件或固件)的计算机可读介质、逻辑门、开关、专用集成电路(Application Specific Integrated Circuit，ASIC)、可编程逻辑控制器和嵌入微控制器的形式，控制器的例子包括但不限于以下微控制器：ARC 625D、Atmel AT91SAM、Microchip PIC18F26K20以及Silicone Labs C8051F320，存储器控制器还可以被实现为存储器的控制逻辑的一部分。本领域技术人员也知道，除了以纯计算机可读程序代码方式实现控制器以外，完全可以通过将方法步骤进行逻辑编程来使得控制器以逻辑门、开关、专用集成电路、可编程逻辑控制器和嵌入微控制器等的形式来实现相同功能。因此这种控制器可以被认为是一种硬件部件，而对其内包括的用于实现各种功能的装置也可以视为硬件部件内的结构。或者甚至，可以将用于实现各种功能的装置视为既可以是实现方法的软件模块又可以是硬件部件内的结构。

上述实施例阐明的系统、装置、模块或单元，具体可以由计算机芯片或实体实现，或者由具有某种功能的产品来实现。一种典型的实现设备为计算机。具体的，计算机例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。

为了描述的方便，描述以上装置时以功能分为各种单元分别描述。当然，在实施本说明书一个或多个实施例时可以把各单元的功能在同一个或多个软件和/或硬件中实现。

本领域内的技术人员应明白，本说明书一个或多个实施例可提供为方法、系统、或计算机程序产品。因此，本说明书一个或多个实施例可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本说明书一个或多个实施例可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。

本说明书一个或多个实施例是参照根据本说明书实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。

这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。

在一个典型的配置中，计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。

内存可能包括计算机可读介质中的非永久性存储器，随机存取存储器(RAM)和/或非易失性内存等形式，如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。

计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带，磁带磁盘存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。按照本文中的界定，计算机可读介质不包括暂存电脑可读媒体(transitory media)，如调制的数据信号和载波。

还需要说明的是，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。

本说明书一个或多个实施例可以在由计算机执行的计算机可执行指令的一般上下文中描述，例如程序模块。一般地，程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本说明书，在这些分布式计算环境中，由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中，程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。

本说明书中的各个实施例均采用递进的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于系统实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。

以上所述仅为本说明书一个或多个实施例而已，并不用于限制本申请。对于本领域技术人员来说，本说明书一个或多个实施例可以有各种更改和变化。凡在本说明书一个或多个实施例的精神和原理之内所作的任何修改、等同替换、改进等，均应包含在本说明书一个或多个实施例的权利要求范围之内。

Claims (10)

1.一种基于大语言模型的问题应答方法，包括：

获取针对待查询的知识信息而输入的目标问题；

对所述目标问题进行向量化处理，得到问题向量；

基于所述问题向量，在预设的文档向量数据库中进行检索，得到与所述问题向量匹配的相关文档，所述文档向量数据库是针对与所述待查询的知识信息相关的知识库文档进行向量化处理所得到的数据库；

基于所述目标问题检索得到的相关文档生成用于大语言模型的提示信息，并将所述提示信息输入所述大语言模型中，得到所述目标问题对应的答案。

2.根据权利要求1所述的方法，所述文档向量数据库的获取方法，包括：

获取与所述待查询的知识信息相关的知识库文档；

按照预设的分割方法，对所述知识库文档进行分割，获取分割后的文档；

对分割后的文档分别进行向量化处理，并根据所述分割后的文档和向量化处理后的文档的映射关系构建文档向量数据库。

3.根据权利要求2所述的方法，所述预设的分割方法包括：预设的分割规则或者预先训练的语义分割模型，所述预先训练的语义分割模型是根据语义样本和预设的损失函数进行训练得到的模型。

4.根据权利要求1所述的方法，所述基于所述问题向量，在预设的文档向量数据库中进行检索，得到与所述问题向量匹配的相关文档，包括：

基于所述问题向量，获取所述问题向量与预设的文档向量数据库中的每个向量之间的相似度；

根据获取的相似度和预设的相似度阈值确定与所述问题向量匹配的相关文档。

5.根据权利要求1所述的方法，所述方法还包括：

基于知识库文档对所述文档向量数据库进行更新，得到更新后的文档向量数据库；

所述基于所述问题向量，在预设的文档向量数据库中进行检索，得到与所述问题向量匹配的相关文档，包括：

基于所述问题向量在更新后的文档向量数据库中进行检索，得到与所述问题向量匹配的更新后的相关文档。

6.根据权利要求1所述的方法，所述知识库文档的类型包括：企业内部知识文档、专业领域论文库文档、产品说明书文档以及书籍文档中的一种或多种。

7.根据权利要求1所述的方法，所述知识库文档包括：离线知识库文档和/或在线知识库文档。

8.根据权利要求1所述的方法，所述基于所述目标问题检索得到的相关文档生成用于大语言模型的提示信息，包括：

基于所述目标问题检索得到的相关文档确定与所述目标问题相关的上下文信息；

根据所述上下文信息生成用于大语言模型的提示信息。

9.一种基于大语言模型的问题应答装置，包括：

目标问题获取模块，获取针对待查询的知识信息而输入的目标问题；

目标问题向量化处理模块，对所述目标问题进行向量化处理，得到问题向量；

检索模块，基于所述问题向量，在预设的文档向量数据库中进行检索，得到与所述问题向量匹配的相关文档，所述文档向量数据库是针对与所述待查询的知识信息相关的知识库文档进行向量化处理所得到的数据库；

应答模块，基于所述目标问题检索得到的相关文档生成用于大语言模型的提示信息，并将所述提示信息输入所述大语言模型中，得到所述目标问题对应的答案。

10.一种电子设备，包括：

处理器；以及

被安排成存储计算机可执行指令的存储器，在所述可执行指令被执行时，能够使得所述处理器：

获取针对待查询的知识信息而输入的目标问题；

对所述目标问题进行向量化处理，得到问题向量；

基于所述问题向量，在预设的文档向量数据库中进行检索，得到与所述问题向量匹配的相关文档，所述文档向量数据库是针对与所述待查询的知识信息相关的知识库文档进行向量化处理所得到的数据库；

基于所述目标问题检索得到的相关文档生成用于大语言模型的提示信息，并将所述提示信息输入所述大语言模型中，得到所述目标问题对应的答案。