CN117648422A - 问答提示系统、问答提示、库构建、模型训练方法和装置 - Google Patents

Abstract

本公开提供了一种问答提示系统，涉及人工智能技术领域，具体为自然语言处理、计算机视觉、深度学习、大语言模型等技术领域。具体实现方案为：前端组件，用于接收用户输入待处理问题；建库检索组件，用于在预先构建的数据向量库中检索待处理问题，得到检索结果；大语言模型，用于对拼接信息进行分析，得到分析结果，拼接信息基于待处理问题和检索结果得到；中间处理模块，分别与前端组件、建库检索组件以及大语言模型连接，在接收到待处理问题之后，通过建库检索组件，得到检索结果；拼接检索结果和待处理问题，得到拼接信息，通过大语言模型，得到分析结果，将分析结果发送给前端组件。该实施方式提高了用户体验。

Description

问答提示系统、问答提示、库构建、模型训练方法和装置

技术领域

本公开涉及人工智能技术领域，具体涉及自然语言处理、计算机视觉、深度学习、大语言模型等技术领域，尤其涉及一种问答提示系统、问答提示方法和装置、向量库构建方法和装置、大语言模型训练方法和装置、电子设备、计算机可读介质以及计算机程序产品。

背景技术

随着大模型的产品越来越广泛，各种大模型层出不穷，其能力也越来越强度，越来越多B(Business，企业)端用户尝试将大模型能力应用到自身的业务数据查询或者组织内部数据查询，但是，B端用户的数据多为私有，具有一定的保密安全问题，且B端用户的数据量较大，一般的大模型无法充分满足B端用户的要求。

发明内容

提供了一种问答提示系统、问答提示方法和装置、向量库构建方法和装置、大语言模型训练方法和装置、电子设备、计算机可读存储介质以及计算机程序产品。

根据第一方面，提供了一种问答提示系统，该系统部署在私有云场景下，该系统包括：前端组件，用于接收用户输入待处理问题；建库检索组件，用于在预先构建的数据向量库中检索待处理问题，得到检索结果；大语言模型，用于对拼接信息进行分析，得到分析结果，拼接信息基于待处理问题和检索结果得到；中间处理模块，分别与前端组件、建库检索组件以及大语言模型连接，在接收到待处理问题之后，通过建库检索组件，得到检索结果；拼接检索结果和待处理问题，得到拼接信息，通过大语言模型，得到分析结果，将分析结果发送给前端组件。

根据第二方面，提供了一种问答提示方法，该方法包括：在私有云场景下，实时检测前端组件是否输出有待处理问题；响应于检测到输出有待处理问题，通过部署在私有云场景下的建库检索组件检索预先构建的数据向量库，得到待处理问题的检索结果；拼接待处理问题和检索结果，得到拼接信息；通过部署在私有云场景下的大语言模型，得到拼接信息的分析结果；将分析结果发送给前端组件。

根据第三方面，提供了一种向量构建方法，该方法包括：在私有云场景下，获取中间处理模块发送的私有场景数据；对私有场景数据进行向量化处理，得到至少一个数据向量；响应于私有云场景中没有数据向量库，基于数据向量，构建数据向量库。

根据第四方面，提供了一种大语言模型训练方法，该方法包括：在获取样本问题以及样本问题相关的私有场景数据；将样本问题和私有场景数据输入建库检索组件，得到建库检索组件输出的检索结果；其中，建库检索组件基于私有场景数据构建数据向量库，并基于样本问题和数据向量库，得到检索结果；基于样本问题和检索结果，构建样本训练集；利用样本训练集对预训练的大语言模型进行有监督微调训练，得到目标大语言模型。

根据第五方面，提供了一种问答提示装置，该装置包括：问题检测单元，被配置成在私有云场景下，实时检测前端组件是否输出有待处理问题；检索单元，被配置成响应于检测到输出有待处理问题，通过部署在私有云场景下的建库检索组件检索预先构建的数据向量库，得到待处理问题的检索结果；拼接单元，被配置成拼接待处理问题和检索结果，得到拼接信息；分析单元，被配置成通过部署在私有云场景下的大语言模型，得到拼接信息的分析结果；发送单元，被配置成将分析结果发送给前端组件。

根据第六方面，提供了一种向量库构建装置，该装置包括：资源获取单元，被配置成在私有云场景下，获取中间处理模块发送的私有场景数据；量化单元，被配置成对私有场景数据进行向量化处理，得到至少一个数据向量；向量库构建单元，被配置成响应于私有云场景中没有数据向量库，基于数据向量，构建数据向量库。

根据第七方面，提供了一种大语言模型训练装置，该装置包括：样本获取单元，被配置成获取样本问题以及样本问题相关的私有场景数据；得到单元，被配置成将样本问题和私有场景数据输入建库检索组件，得到建库检索组件输出的检索结果；其中，建库检索组件基于私有场景数据构建数据向量库，并基于问题和数据向量库，得到检索结果；训练集构建单元，被配置成基于样本问题和检索结果，构建样本训练集；训练单元，被配置成利用样本训练集对预训练的大语言模型进行有监督微调训练，得到目标大语言模型。

根据第八方面，提供了一种电子设备，该电子设备包括：至少一个处理器；以及与至少一个处理器通信连接的存储器，其中，存储器存储有可被至少一个处理器执行的指令，指令被至少一个处理器执行，以使至少一个处理器能够执行如第二方面至第四方面任一实现方式描述的方法。

根据第九方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，计算机指令用于使计算机执行如第二方面至第四方面任一实现方式描述的方法。

根据第十方面，提供了一种计算机程序产品，包括计算机程序，计算机程序在被处理器执行时实现如第二方面至第四方面任一实现方式描述的方法。

本公开的实施例提供的问答提示系统，部署在私有云场景下，包括：前端组件、建库检索组件、大语言模型以及分别与前端组件、建库检索组件、大语言模型连接的中间处理模块，中间处理模块在接收到待处理问题之后，通过建库检索组件，得到检索结果；拼接检索结果和待处理问题，得到拼接信息，通过大语言模型，得到分析结果，将分析结果发送给前端组件；由此，在私有云场景下，通过建库检索组件检索相关信息，通过中间处理模块协调前端组件、建库检索组件以及大语言模型，得到待处理问题对应的分析结果，提升了数据的私密效果；并且在私有网络环境下为用户提供个性化的智能问答服务，提高了用户体验。

应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

附图用于更好地理解本方案，不构成对本公开的限定。其中：

图1是根据本公开的问答提示系统的一个实施例的结构示意图；

图2是根据本公开的问答提示系统的另一个实施例的结构示意图；

图3是根据本公开问答提示方法的一个实施例的流程图；

图4是根据本公开向量库构建方法的一个实施例的流程图；

图5是根据本公开大语言模型训练方法的一个实施例的流程图；

图6是根据本公开问答提示装置的一个实施例的结构示意图；

图7是根据本公开向量库构建装置的一个实施例的结构示意图；

图8是根据本公开大语言模型训练装置的一个实施例的结构示意图；

图9是用来实现本公开实施例的问答提示方法、向量库构建方法、大语言模型训练方法的电子设备的框图。

具体实施方式

以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。

本实施例中，“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。

针对传统技术中大语言模型无法充分满足B端用户数据查询请求的缺陷，本公开提供了问答提示系统的一个实施例，该问答系统部署在私有云场景下，如图1所示，本实施例提供的问答提示系统100包括：前端组件，建库检索组件，大语言模型，中间处理模块。其中，上述前端组件，用于接收用户输入待处理问题。上述建库检索组件，用于在预先构建的数据向量库中检索待处理问题，得到检索结果。上述大语言模型，用于对拼接信息进行分析，得到分析结果，拼接信息基于待处理问题和检索结果得到。上述中间处理模块，分别与前端组件、建库检索组件以及大语言模型连接，在接收到待处理问题之后，通过建库检索组件，得到检索结果；拼接检索结果和待处理问题，得到拼接信息，通过大语言模型，得到分析结果，将分析结果发送给前端组件。

本实施例中，前端组件用于接收用户输入待处理问题，其中，待处理问题是用户对私有场景数据的疑问，通过本公开的问答提示系统得到的分析结果可以解决用户的疑问。

本实施例中，前端组件可以使用Streamlit框架实现，其中Streamlit框架是一个开源库，可轻松构建用于机器学习的应用程序，Streamlit框架可以在满足前端功能性的问题上，方便支持扩展。同时，采用部分开源的组件，实现智能对话的格式化输出展示，并支持图片形式的数据展示。

本实施例中，前端组件提供有文件上传功能，上传后的文件可以作为私有场景数据和待处理问题。由于上传的文件完全保存于客户端本地，所以可以实现私有场景的数据上传导入，完全不需要担心数据泄漏问题。

本实施例中，待处理问题是用户提出的待问答提示系统回复的问题，当用户向问答提示系统输入待处理问题之后，问答提示系统给出对应待处理问题的分析结果，分析结果是对待处理问题进行回复的结果，并且分析结果中含有与私有场景数据相关的专业数据。

本实施例中，建库检索组件是有个整体化模块，该建库检索组件可以实现建立数据向量库，并且还可以实现对待处理问题的信息检索，通过对待处理问题进行检索可以丰富待处理问题的信息含量，使大语言模块更加清楚问题的专业性。

本实施例中，大语言模型是采用与私有场景数据相关的样本进行训练之后，使用训练后的大语言模型对待处理问题进行分析，得到分析结果。具体地，大语言模型可以采用ERNIE(Enhanced Language Representation with Informative Entities，知识增强语义表示模型)，ERNIE以极简的策略和系统方案，替代传统搜索引擎复杂的特征及系统逻辑，可低成本接入各类企业和开发者应用，并凭借数据驱动的优化模式可实现极致的行业优化效率及应用效果。大语言模型根据自身强大的理解能力，将分析结果按照预设的规范形式返回。

本实施例提供的问答提示系统提可以保证所有的请求以及响应完全在用户私有场景下实现，保障了数据的安全性。

可选地，中间处理模块还可以包括：历史对话子模块，用于记录对话内容，其中对话内容包括：待处理问题、私有场景数据以及分析结果，通过历史对话子模块与前端组件，用户可以选择历史的对话内容，并基于历史的对话内容，继续完成新的对话内容，并支持将历史对话数据导出，分享给其他用户，方便其他用户进行对话。

本公开的实施例提供的问答提示系统，在私有网络环境下提供高度智能化的问答服务，满足企业、机构等私有化场景下的需求。整个问答提示系统部署方便，资源占用少，支持用户本地或者服务器部署；完全支持定制化多次开发。可以使图片、文字和列表等多种样式在页面上显得更加引人注目和优雅。

本公开的实施例提供的问答提示系统，部署在私有云场景下，包括：前端组件、建库检索组件、大语言模型以及中间处理模块，中间处理模块在前端组件接收到私有场景数据后，通过建库检索组件构建对应私有场景数据的数据向量库；在前端组件接收到待处理问题之后，通过建库检索组件得到对应待处理问题的检索结果；拼接检索结果和待处理问题，得到拼接信息，通过大语言模型，得到对应拼接信息的分析结果，将分析结果发送给前端组件；由此，在私有云场景下，通过建库检索组件建库和检索相关信息，通过中间处理模块协调前端组件、建库检索组件以及大语言模型，得到待处理问题对应的分析结果，提升了数据的私密效果；并且在私有网络环境下为用户提供个性化的智能问答服务，提高了用户体验。

在本公开的一些实施例中，上述问答提示系统中，前端组件还用于接收私有场景数据；建库检索组件还基于私有场景数据构建数据向量库；中间处理模块还用于在接收到私有场景数据之后，检测是否构建有数据向量库；若未检测到数据向量库，通过建库检索组件构建数据向量库。

本实施例中，前端组件用于接收用户输入的私有场景数据以及待处理问题，其中，私有场景数据是由部署在私有云场景下的前端组件获取得到的用户特定场景下的数据，例如，用户的政务数据，或者用户的企业数据，私有场景数据的表现形式多样，例如，单条或多条资源数据，资源数据包括与用户的资源相关的文本数据、图像数据以及音频数据。

本实施例提供的问答提示系统，在私有云场景中无数据向量库时，通过建库检索组件构建数据向量库，为数据向量库的得到提供了一种可靠的实现方式。

可选地，中间处理模块还用于在接收到私有场景数据之后，若检测到数据向量库，检测数据向量库中是否记载了私有场景数据，若未记载私有场景数据，将私有场景数据发送给建库检索组件，以使建库检索组件将私有场景数据对应的数据向量增加到数据向量库中。

在本实施例的一些可选实现方式中，私有场景数据包括：数据文件；中间处理模块还用于在检测到有数据向量库时，获取数据文件的上下文信息，发送给建库检索组件，以使建库检索组件将上下文信息增加到数据向量库中。

本可选实现方式中，中间处理模块可以将数据文件转发给建库检索组件，中间处理模块将数据文件发送给大语言模型，使大语言模型对数据文件进行上下文分析，得到大语言模型输出的私有场景数据的上下文信息。需要说明的是，在大语言模型输出上下文信息之前，还可以从中间模块获取提示词，该提示词是中间处理模块输入给大语言模型的、用于提示大语言进行上下文分析的提示词。

本可选实现方式提供的建库检索组件，将数据文件的上下文信息增加到数据向量库中，可以使数据向量库中的数据向量的表征更加丰富，提高了数据向量库构建的全面性。

本实施例中，私有场景数据还可以包括：文本数据、图像数据以及音频数据，建库检索组件基于私有场景数据中的文本数据、图像数据以及音频数据构建数据向量库。

在本公开的一些实施例中，如图2所示，上述问答提示系统还包括：与中间处理模块连接的提示词组件，提示词组件用于生成至少一个提示词；中间处理模块还用于基于待处理问题，从提示词组件中选取提示词，并将选取的提示词拼接到拼接信息中。

本实施例中，提示词是提示大语言模型的所处角色的词语，将提示词发送给大语言模型，大语言模型基于提示词可以确定以什么角色处理语料。

本实施例中，如图2所示，提示词组件也是部署在私有云场景中。

可选地，提示词组件还可以将生成的至少一个提示词通过中间处理模块发送给前端组件，从而使前端组件在其前端展示至少一个提示词，用户选取提示词，用户可以在前端选择不同框架的大语言模型，选择不同的提示词(支持自定义)来提出相关的问题。中间处理模块还可以通过前端组件获取用户选取的提示词和选取的大语言模块，并在得到该些信息后，先通过建库检索组件获取相关性最相关的数据，然后将相关性知识连同提示词和待处理问题拼接，发送给大语言模型，大语言模型在基于获取到的相关性数据后，基于自己的理解，给出待处理问题的分析结果。

本公开实施例提供的问答提升系统，还包括与中间处理模块连接的提示词组件，通过提示词组件生成的提示词，可以明确大语言模型的具体职责，为大语言模型的工作提供了具体指示，提高了问答提示系统的提示效果。

在本实施例的一些可选实现方式中，上述建库检索组件包括：基于深度学习的大模型和搜索引擎。

本可选实现方式中，基于深度学习的大模型用于表征问题与问题的搜索结果对应关系的模型，将问题输入基于深度学习的大模型，可以得到基于深度学习的大模型输出的问题的搜索结果，并且该搜索结果可以从特定的数据向量库搜索得到的。

本可选实现方式中，搜索引擎是指根据一定的策略、运用特定的计算机程序从问答提示系统上采集信息(例如通过中间处理模块将前端组件采集到的私有场景数据)，在对信息进行组织和处理后，为用户提供检索服务，将检索的相关信息展示给用户的子系统。

本可选实现方式将大模型与搜索引擎融合，充分发挥两者的优势，提供更全面、准确的问答和文档检索服务。

本可选实现方式提供的建库检索组件，采用基于深度学习的大模型和搜索引擎共同参与模块，可以实现向量库的构建以及问题的答案的搜索，为建库和检索提供了一种可靠的实现方式。

针对上述问答提示系统，本公开提供了一种问答提示方法，通过本公开的问答提示方法，可以提高问答提示系统的安全性，提高用户体验，图3示出了根据本公开问答提示方法的一个实施例的流程300，上述问答提示方法包括以下步骤：

步骤301，在私有云场景下，实时检测前端组件是否输出有待处理问题。

本实施例中，待处理问题在问答提示系统中已经有了详细的阐述，此处不再赘述。

步骤302，响应于检测到输出有待处理问题，通过部署在私有云场景下的建库检索组件检索预先构建的数据向量库，得到待处理问题的检索结果。

本实施例中，数据向量库由建库检索组件构建得到。

本实施例中，建库检索组件可以以封装接口的形式部署在私有云原生环境下，通过封装接口的形式可以实现与问答提示系统中其他模块的隔离，提高了建库检索组件的数据的安全性，问答提示方法运行于其上的执行主体可以通过调取建库检索组件的封装接口，将待处理问题发送给建库检索组件，并通过建库检索组件检索数据向量库，得到待处理问题的检索结果，相对于直接控制建库检索组件进行待处理问题的检索结果的检索提高了数据访问的安全性。

步骤303，拼接待处理问题和检索结果，得到拼接信息。

本实施例中，上述步骤303中，可以将待处理问题与检索结果进行拼接，得到拼接信息。

可选地，还可以对待处理问题和检索结果进行处理之后，拼接处理之后的待处理问题和检索结果，得到拼接信息。其中，对待处理问题和检索结果进行处理包括：通过马氏或欧式距离计算待处理问题与检索结果的匹配度；响应于待处理问题与检索结果的匹配度大于匹配度阈值(例如89％)，确定待处理问题与检索结果匹配，拼接待处理问题与检索结果，得到拼接信息。

可选地，上述方法还可以包括：响应于待处理问题与检索结果的匹配度小于匹配度阈值，将待处理问题重新发送给建库检索组件，得到信息的检索结果，重新将待处理问题与新的检索结果进行匹配，直至待处理问题与新的检索结果匹配度大于匹配度阈值为止。

步骤304，通过部署在私有云场景下的大语言模型，得到拼接信息的分析结果。

本实施例中，大语言模型具有私有场景下问题的理解和推理能力，大语言模型可以以封装接口的形式部署在私有云原生环境下，实现与问答提示系统中其他模块的隔离，提高了大语言模型的数据的安全性。

本实施例中，问答提示方法运行于其上的执行主体可以通过调取部署在私有云场景下的大语言模型的封装接口，将拼接信息给大语言模型，并得到大语言模型输出的分析结果。

步骤305，将分析结果发送给前端组件。

本实施例中，分析结果是与待处理问题对应的答案，并且分析结果还是涉及私有场景数据中的相关数据的答案。例如，私有场景数据是政务数据，则分析结果一定涉及政务数据的待处理问题的答案。

本公开的实施例提供的问答提示方法，首先，在私有云场景下，实时检测前端组件是否输出有待处理问题；其次，响应于检测到输出有待处理问题，通过部署在私有云场景下的建库检索组件检索预先构建的数据向量库，得到待处理问题的检索结果，数据向量库由建库检索组件构建得到；再次，拼接待处理问题和检索结果，得到拼接信息；从次，通过部署在私有云场景下的大语言模型，得到拼接信息的分析结果；最后，将分析结果发送给前端组件。由此，依次协调部署在私有云场景下的前端组件、建库检索组件以及大语言模型，对问题进行分析，得到问题的分析结果，提高了问题问答的安全性和全面性，提高了用户体验。

可选地，上述问答提示方法还包括：在私有云场景下，检测建库检索模型是否已构建数据向量库；响应于检测到建库检索组件已构建数据向量库，实时检测前端组件是否输出有待处理问题；响应于检测到输出有待处理问题，通过部署在私有云场景下的建库检索组件检索数据向量库，得到待处理问题的检索结果，数据向量库由建库检索组件构建得到；拼接待处理问题和检索结果，得到拼接信息；通过部署在私有云场景下的大语言模型，得到拼接信息的分析结果；将分析结果发送给前端组件。

在本公开的一些实施例中，上述问答提示方法还包括：方法还包括：实时检测前端组件是否输出有私有场景数据；响应于检测到输出有私有场景数据，检测是否构建有数据向量库；若未检测到数据向量库，通过建库检索组件构建数据向量库。

本实施例提供的问答提示方法，在私有云场景中无数据向量库时，通过私有场景数据和建库检索组件构建数据向量库，为数据向量库的得到提供了一种可靠的实现方式。

可选地，上述问答提示方法还可以包括：若检测到数据向量库，将私有场景数据发送给建库检索组件，以使建库检索组件在数据向量库中没有该私有场景数据时，对该私有场景数据进行处理，并将处理后的数据添加到数据向量库。

在本实施例的一些可选实现方式中，上述私有场景数据包括：数据文件，上述问答提示方法还包括：若检测到有数据向量库，通过大语言模型，得到数据文件的上下文信息；将数据文件和上下文信息发送给建库检索组件。

本实施例中，数据文件是记载有多个资源数据的文件，其中，资源数据可以是用户的不同方面资源(例如，政务资源、企业资源)的文本数据、图像数据或者语音数据，通过大语言模型对数据文件中资源数据的上下文进行分析，确定任意两个或多个资源数据之间的上下文信息。

本实施例中，将数据文件和上下文信息发送给建库检索组件之后，建库检索组件可以首先检测其本地是否具有数据向量库；若具有数据向量库，检测数据向量库中是否具有与各个资源数据对应的数据向量；若数据向量库中具有与资源数据对应的数据向量，将与该资源数据的上下文信息添加到数据向量中，得到该资源数据的新的数据向量。

本实施例提供的问答提示方法，在前端组件未输出待处理问题，而输出有私有场景数据时，检测私有场景数据是否为数据文件，若为数据文件，则通过大语言模型提取数据文件的上下文信息，并将上下文信息发送给建库检索组件，以使建库检索组件可以将上下文信息增加到数据向量库中，为数据向量库的数据丰富提供了一种可靠的实现方式。

可选地，在私有场景数据包括：数据文件时，上述问答提示方法还包括：若未检测到数据向量库，将数据文件和上下文信息发送给建库检索组件，以使建库检索组件直接通过数据文件中的资源数据和各个资源数据的上下文信息构建数据向量库，并将构建的数据向量库通过私有化部署的方式部署在私有云场景下。

在本公开的一些实施例中，上述问答提示方法还包括：基于待处理问题，从提示词组件中选取提示词；将选取的提示词拼接到拼接信息中。

本实施例中，提示词组件用于生成至少一个提示词，并将生成的提示词按序存储在提示词表格中，上述基于待处理问题，从提示词组件中选取提示词包括：基于待处理问题，确定问题回复类型以及问题回复方向；基于问题回复类型，从提示词组件的提示词表格中选取与问题回复类型以及问题回复方向相关的提示词，得到选取的提示词。

本实施例中，上述将选取的提示词拼接到拼接信息可以包括：将选取的提示词直接叠加到拼接信息中。

本实施例提供的问答提示方法，基于待处理问题，从提示词组件中选取提示词，将选取的提示词拼接到拼接信息中，提高了拼接信息的丰富度，提高了大语言模型对输入信息理解的全面性。

在本实施例的一些可选实现方式中，通过以下步骤将建库检索组件部署在私有云场景下：获取深度学习大模型和搜索引擎的服务代码；基于服务代码，确定建库检索组件调用接口；将建库检索组件调用接口发布为云原生环境下的镜像。

本可选实现方式中，云原生是基于分布式部署和统一运营的分布式云环境，以容器、微服务等技术为基础建立的一套云技术产品体系。云原生应用是面向云而涉及的应用，在使用云原生技术后，开发者无需考虑底层的技术实现，可以充分发挥云平台的弹性和分布式优势。

本可选实现方式中，在得到深度学习大模型和搜索引擎的服务代码之后，基于服务代码，对深度学习大模型和搜索引擎进行接口封装，从而通过接口的形式实现了深度学习大模型和搜索引擎的主要功能，通过接口封装的形式可以对外部对象隐藏其内部实现细节只提供公共接口，为中间处理模块调取深度大学习模型和搜索引擎的封装接口进行数据向量库构建和信息检索提供了安全的处理方式；需要说明的是，上述接口封装是与云原生环境相适配的接口，通过调取建库检索组件调用接口可以实现建库检索组件的功能。

本可选实现方式中，上述镜像为云镜像，云镜像相对于云服务器数据的副本，可以帮助用户快速部署或复制云服务器环境，备份及迁移数据。而将建库检索组件调用接口发布为云原生环境下的镜像是一种成熟的手段，此处不再赘述。

本公开的实施例提供将建库检索组件部署在私有云场景的方法，获取深度学习大模型和搜索引擎的服务代码；基于服务代码，确定构建建库检索组件调用接口；将建库检索组件调用接口发布为云原生环境下的镜像，实现了将深度学习大模型和搜索引擎部署在私有云场景，将深度学习大模型与搜索引擎已接口调用的形式部署在私有云场景下，个体用户无法直接代用搜索检索模型，提高了深度学习大模型和搜索引擎在云端部署的安全性。

在本公开的一些实施例中，上述通过以下步骤将大语言模型部署在私有云场景下：获取大语言模型的模型参数和模型代码；基于模型参数和模型代码，确定大语言模型的调用接口；将大语言模型的调用接口发布为云原生环境下的镜像。

本可选实现方式中，在得到大语言模型的模型参数和模型代码之后，基于模型参数和模型代码，确定大语言模型进行接口封装，从而通过接口的形式实现了大语言模型的主要功能；需要说明的是，上述接口封装是与云原生环境相适配的接口，通过调取建库检索组件调用接口可以实现建库检索组件的功能。

本可选实现方式中，上述镜像为云镜像，云镜像相对于云服务器数据的副本，可以帮助用户快速部署或复制云服务器环境，备份及迁移数据。而将大语言模型的调用接口发布为云原生环境下的镜像是一种成熟的手段，此处不再赘述。

本公开的实施例提供的将大语言模型部署在私有云场景的方法，获取深度学习大模型和搜索引擎的服务代码；基于服务代码，确定构建大语言模型的调用接口；将大语言模型的调用接口发布为云原生环境下的镜像，得到一种将大语言模型部署在私有云场景的实现方式，将大语言模型以接口调用的形式部署在私有云场景下，个体用户无法直接访问大语言模型，只能通过具有调用接口参数的中间处理模块可以调取大语言模型的调用接口，提高了大语言模型在云端部署的安全性。

本公开还提供了一种向量库构建方法，该向量库构建方法可以由上述实施例中建库检索组件实现，图4示出了根据本公开向量库构建方法的一个实施例的流程400，上述向量库构建方法包括以下步骤：

步骤401，在私有云场景下，获取中间处理模块发送的私有场景数据。

本实施例中，上述向量库构建方法运行于其上的执行主体可以上述问答提示系统中的建库检索组件，建库检索组件基于私有场景数据，构建数据向量库，将数据向量库私有化部署在用户本地的私有云场景中，由于可以实现对私有场景数据的完全私有化处理，避免出现任何数据泄露、数据安全问题。

本实施例中，私有场景数据是由部署在私有云场景下的前端组件获取得到的用户特定场景下的数据，例如，用户的政务数据，或者用户的企业数据，私有场景数据的表现形式多样，例如，单条或多条资源数据。

本实施例中，中间处理模块是上述问答提示系统所示实施例中的中间处理模块，由于上述问答提示系统所示实施例中已对中间处理模块进行了详细解释，此处不再赘述。

步骤402，对私有场景数据进行向量化处理，得到至少一个数据向量。

本实施例中，对私有场景数据进行向量化处理是指：对私有场景数据进行特征提取，得到表征私有场景数据的数据向量。

步骤403，响应于私有云场景中没有数据向量库，基于数据向量，构建数据向量库。

本实施例中，上述步骤403包括：生成数据向量的索引值，并将索引值添加到数据向量库的中，从而可以通过各个索引值索引各个数据向量。

步骤404，将数据向量库私有化部署在私有云场景下。

本实施例中，上述步骤404具体包括：在私有云环境中选择适配的服务器，而适配的服务器是硬件需求、存储空间、计算资源等因素与当前私有场景数据相适配的服务器，通过选取的适配的服务器可以确保服务器满足数据向量库的运行要求。按照所选数据库的官方文档或指南，在选择的适配的服务器上安装和配置数据向量库，确保按照最佳实践设置参数、索引等。

本公开的实施例提供的问答提示方法，首先，在私有云场景下，获取中间处理模块发送的私有场景数据；其次，对私有场景数据进行向量化处理，得到至少一个数据向量；再次，响应于私有云场景中没有数据向量库，基于数据向量，构建数据向量库；最后，将数据向量库私有化部署在私有云场景下。由此，在从中间处理模块得到私有场景数据并且私有云场景中没有数据向量库时，通过对私有场景数据进行向量化处理的数据向量构建数据向量库，并将数据向量库以私有化部署的方式部署在私有云场景中，提高了数据向量库构建的安全性。

在本实施例的一些可选实现方式中，上述私有场景数据包括数据文件，数据文件包括至少一个资源数据，对私有场景数据进行向量化处理，得到至少一个数据向量包括：通过中间处理模块，确定数据文件中各个资源数据的上下文信息；对各个资源数据进行向量化处理，得到至少一个初始向量；基于初始向量和上下文信息，得到至少一个数据向量。

本可选实现方式中，上述通过中间处理模块，确定数据文件中各个资源数据的上下文信息包括：中间处理模块将上下文提示词发送给大语言模型，以使大语言模型对拼接信息进行上下文分析；中间处理模块将数据文件发送给大语言模型，得到大语言模型输出的数据文件中各个资源数据的上下文信息。

本实施例中，上述各个资源数据的数据向量包括：初始向量和上下文信息，其中，初始向量和上下文信息可以通过向量拼接的形式拼接在一起，初始向量用于标识该资源数据的数据特征，上下文信息用于表征该资源数据与其他资源数据之间的关系，此时数据向量既有资源数据自身的特征，又具有与其他资源数据之间的关系，全面表征了数据文件的含义。

本实施例中，上述基于初始向量和上下文信息，得到至少一个数据向量包括：针对各个资源数据，确定该资源数据的初始向量和该资源数据的上下文信息，将该资源数据的初始向量和上下文信息进行拼接得到该资源数据的数据向量。

可选地，上述基于初始向量和上下文信息，得到至少一个数据向量包括：针对数据文件中的各个资源数据，确定具有相关上下文信息的资源数据，将该具有相关上下文信息的资源数据集合在一起得到资源数据集；针对各个资源数据集，将该资源数据集中各个资源数据的上下文信息拼接在一起，得到拼接上下文；将拼接上下文与该资源数据集中各个资源数据的初始向量进行拼接，得到该资源数据集中各个资源数据的数据向量。

本实施例提供的得到至少一个数据向量的方法，通过中间处理模块得到数据文件中各个资源数据的上下文信息，基于初始向量和上下文信息，得到至少一个数据向量，提高了数据向量库中数据向量的信息表征的全面性。

本公开还提供了一种大语言模型训练方法，图5示出了根据本公开大语言模型训练方法的一个实施例的流程500，上述大语言模型训练方法包括以下步骤：

步骤501，获取样本问题以及样本问题相关的私有场景数据。

本实施例中，上述向量库构建方法运行于其上的执行主体可以通过上述实施例提供的问答提示系统得到样本问题以及与样本问题相关的私有场景数据，而由于问答提示系统是部署在私有云场景中，为此可以实现对私有场景数据的完全私有化处理，避免出现任何数据泄露、数据安全问题，提高了大语言模型训练的可靠性。

本实施例中，私有场景数据可以是由部署在私有云场景下的前端组件获取得到的用户特定场景下的数据，例如，用户的政务数据，或者用户的企业数据，私有场景数据的表现形式多样，例如，单条或多条资源数据。

本实施例中，样本问题可以是由用户提出的与私有场景数据相关的所有问题，也是用户期望得到答案的问题。

步骤502，将样本问题和私有场景数据输入建库检索组件，得到建库检索组件输出的检索结果。

本实施例中，建库检索组件基于私有场景数据构建数据向量库，并基于问题和数据向量库，得到检索结果。

本实施例中，建库检索组件可以是上述问答提示系统中的建库检索组件，对于建库检索组件的具体功能在上述问答提示系统中进行了详细介绍，此处不再赘述。

步骤503，基于样本问题和检索结果，构建样本训练集。

本实施例中，上述步骤503包括：基于样本问题，确定样本问题的标准答案；将样本问题、检索结果以及标准答案作为样本训练集中的样本。

步骤504，利用样本训练集对预训练的大语言模型进行有监督微调训练，得到目标大语言模型。

在步骤503的基础上，本步骤504旨在由上述执行主体将样本训练集作为微调训练集，对之前已经预训练好的大语言模型进行有监督微调训练(Supervised Fine-Tuning，SFT)，以进一步得到目标大语言模型。

本步骤504所采用的SFT技术，是指训练对象并非是未经过任何训练的初始模型，而是对经基础训练样本训练得到的预训练的大语言模型，即经过基础训练样本训练得到的预训练的大语言模型通常仅是根据文本输入和大模型参数中蕴含的知识，基于语言单元(token)的预测概率生成一个文本序列作为结果，并不会具有将其改写为包括本公开样本训练集的能力。借助该SFT技术得以避免从头开始训练模型所需要付出的庞大耗时，只需要构造包含少量(此处的少量是相对于基础训练样本的数量级)训练样本的样本训练集，即可通过对预训练的大语言模型进行二次训练，使其可以对问题、检索结果进行分析，得到分析结果。

可选地，在利用样本训练集对预训练的大语言模型进行有监督微调训练之前，上述大语言模型训练方法还包括：获取提示词，将该提示词拼接到样本训练集的各个样本，从而可以使预训练的大语言模型有效地确定自身的数据处理角色。

本实施例中，得到的目标大语言模型可以作为问答提示系统中的大语言模型，通过问答提示系统中的大语言模型得到的分析结果可以确定目标大语言模型的训练效果。

本公开的实施例提供的大语言模型训练方法，获取样本问题以及样本问题相关的私有场景数据；将样本问题和私有场景数据输入建库检索组件，得到建库检索组件输出的检索结果；基于样本问题和检索结果，构建样本训练集；利用样本训练集对预训练的大语言模型进行有监督微调训练，得到目标大语言模型，从而使得到的目标大语言模型可以对问题和检索结果进行有效分析，提高了大语言模型训练的效果。

进一步参考图6，作为对上述各图所示方法的实现，本公开提供了问答提示装置的一个实施例，该装置实施例与图3所示的方法实施例相对应，该装置具体可应用于各种电子设备中。

如图6所示，本实施例提供的问答提示装置600包括：问题检测单元601，检索单元602，拼接单元603，分析单元604，发送单元605。其中，上述问题检测单元601，可以被配置成在私有云场景下，实时检测前端组件是否输出有待处理问题。上述检索单元602，可以被配置成响应于检测到输出有待处理问题，通过部署在私有云场景下的建库检索组件检索预先构建的数据向量库，得到待处理问题的检索结果。上述拼接单元603，可以被配置成拼接待处理问题和检索结果，得到拼接信息。上述分析单元604，可以被配置成通过部署在私有云场景下的大语言模型，得到拼接信息的分析结果。上述发送单元605，可以被配置成将分析结果发送给前端组件。

在本实施例中，问题检测单元601，检索单元602，拼接单元603，分析单元604，发送单元605的具体处理及其所带来的技术效果可分别参考图1对应实施例中的步骤301、步骤302、步骤303、步骤304、步骤305的相关说明，在此不再赘述。

在本实施例的一些可选的实现方式中，上述装置600还包括：库检测单元(图中未示出)，上述库检测单元被配置成：实时检测前端组件是否输出有私有场景数据；响应于检测到输出有私有场景数据，检测是否构建有数据向量库；若未检测到数据向量库，通过建库检索组件构建数据向量库。

在本公开的一些可选实现方式中，上述私有场景数据包括：数据文件，上述装置400还包括：资源检测单元(图中未示出)，其中，上述资源检测单元被配置成：若检测到有数据向量库，通过大语言模型，得到数据文件的上下文信息；将数据文件和上下文信息发送给建库检索组件。

在本实施例的一些可选的实现方式中，上述装置600还包括：选取单元(图中未示出)，上述选取单元，可以被配置成基于待处理问题，从提示词组件中选取提示词；将选取的提示词拼接到拼接信息中。

在本实施例的一些可选的实现方式中，可以通过建库单元(图中未示出)将建库检索组件部署在私有云场景下。上述建库单元可以被配置成：获取深度学习大模型和搜索引擎的服务代码；基于服务代码，确定建库检索组件调用接口；将建库检索组件调用接口发布为云原生环境下的镜像。

在本实施例的一些可选的实现方式中，可以通过部署单元(图中未示出)将大语言模型部署在私有云场景下，上述部署单元可以被配置成：获取大语言模型的模型参数和模型代码；基于模型参数和模型代码，确定大语言模型的调用接口；将大语言模型的调用接口发布为云原生环境下的镜像。

本公开的实施例提供的问答提示装置，首先，问题检测单元601在私有云场景下，实时检测前端组件是否输出有待处理问题；其次，检索单元602响应于检测到输出有待处理问题，通过部署在私有云场景下的建库检索组件检索预先构建的数据向量库，得到待处理问题的检索结果，数据向量库由建库检索组件构建得到；再次，拼接单元603拼接待处理问题和检索结果，得到拼接信息；从次，分析单元604通过部署在私有云场景下的大语言模型，得到拼接信息的分析结果；最后，发送单元605将分析结果发送给前端组件。由此，依次协调部署在私有云场景下的前端组件、建库检索组件以及大语言模型，对问题进行分析，得到问题的分析结果，提高了问题问答的安全性和全面性，提高了用户体验。

进一步参考图7，本公开提供了向量库构建装置的一个实施例，该装置实施例与图4所示的方法实施例相对应，该装置具体可应用于各种电子设备中。

如图7所示，本实施例提供的向量库构建装置700包括：资源获取单元701，量化单元702，向量库构建单元703，私有化单元704。其中，上述资源获取单元701，可以被配置成在私有云场景下，获取中间处理模块发送的私有场景数据。上述量化单元702，可以被配置成对私有场景数据进行向量化处理，得到至少一个数据向量。上述向量库构建单元703，可以被配置成响应于私有云场景中没有数据向量库，基于数据向量，构建数据向量库。上述私有化单元704，可以被配置成将数据向量库私有化部署在私有云场景下。

在本实施例中，向量库构建装置700中：资源获取单元701，量化单元702，向量库构建单元703，私有化单元704的具体处理及其所带来的技术效果可分别参考图4对应实施例中的步骤401、步骤402、步骤403、步骤404的相关说明，在此不再赘述。

在本实施例的一些可选的实现方式中，上述资源数据包括数据文件，量化单元702进一步被配置成：通过中间处理模块，确定数据文件中各个资源数据的上下文信息；对各个资源数据进行向量化处理，得到至少一个初始向量；基于初始向量和上下文信息，得到至少一个数据向量。

进一步参考图8，本公开提供了大语言模型训练装置的一个实施例，该装置实施例与图5所示的方法实施例相对应，该装置具体可应用于各种电子设备中。

如图8所示，本实施例提供的大语言模型训练装置800包括：样本获取单元801，得到单元802，训练集构建单元803，训练单元804。其中，上述样本获取单元801，可以被配置成获取样本问题以及样本问题相关的私有场景数据。上述得到单元802，可以被配置成将样本问题和私有场景数据输入建库检索组件，得到建库检索组件输出的检索结果；其中，建库检索组件基于私有场景数据构建数据向量库，并基于问题和数据向量库，得到检索结果。上述训练集构建单元803，可以被配置成基于样本问题和检索结果，构建样本训练集。上述训练单元804，可以被配置成利用样本训练集对预训练的大语言模型进行有监督微调训练，得到目标大语言模型。

在本实施例中，大语言模型训练装置800中：样本获取单元801，得到单元802，训练集构建单元803，训练单元804的具体处理及其所带来的技术效果可分别参考图5对应实施例中的步骤501、步骤502、步骤503、步骤504的相关说明，在此不再赘述。

本公开的技术方案中，所涉及的用户个人信息的收集、存储、使用、加工、传输、提供和公开等处理，均符合相关法律法规的规定，且不违背公序良俗。

根据本公开的实施例，本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。

图9示出了可以用来实施本公开的实施例的示例电子设备900的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。

如图9所示，设备900包括计算单元901，其可以根据存储在只读存储器(ROM)902中的计算机程序或者从存储单元908加载到随机访问存储器(RAM)903中的计算机程序，来执行各种适当的动作和处理。在RAM 903中，还可存储设备900操作所需的各种程序和数据。计算单元901、ROM 902以及RAM903通过总线904彼此相连。输入/输出(I/O)接口905也连接至总线904。

设备900中的多个部件连接至I/O接口905，包括：输入单元906，例如键盘、鼠标等；输出单元907，例如各种类型的显示器、扬声器等；存储单元908，例如磁盘、光盘等；以及通信单元909，例如网卡、调制解调器、无线通信收发机等。通信单元909允许设备900通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。

计算单元901可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元901的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元901执行上文所描述的各个方法和处理，例如问答提示方法或向量库构建方法或大语言模型训练方法。例如，在一些实施例中，问答提示方法或向量库构建方法或大语言模型训练方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元908。在一些实施例中，计算机程序的部分或者全部可以经由ROM902和/或通信单元909而被载入和/或安装到设备900上。当计算机程序加载到RAM 903并由计算单元901执行时，可以执行上文描述的问答提示方法或向量库构建方法或大语言模型训练方法的一个或多个步骤。备选地，在其他实施例中，计算单元901可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行问答提示方法或向量库构建方法或大语言模型训练方法。

本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程问答提示装置或向量库构建装置或大语言模型训练装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。

在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。

计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。

应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。

上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。

Claims (26)

1.一种问答提示系统，部署在私有云场景下，所述系统包括：

前端组件，用于接收用户输入待处理问题；

建库检索组件，用于在预先构建的数据向量库中检索待处理问题，得到检索结果；

大语言模型，用于对拼接信息进行分析，得到分析结果，所述拼接信息基于所述待处理问题和所述检索结果得到；

中间处理模块，分别与所述前端组件、所述建库检索组件以及所述大语言模型连接，在接收到所述待处理问题之后，通过所述建库检索组件，得到所述检索结果；拼接所述检索结果和所述待处理问题，得到拼接信息，通过所述大语言模型，得到分析结果，将所述分析结果发送给所述前端组件。

2.根据权利要求1所述的系统，其中，所述前端组件还用于接收私有场景数据；所述建库检索组件还基于所述私有场景数据构建所述数据向量库；

所述中间处理模块还用于在接收到所述私有场景数据之后，检测是否构建有数据向量库；若未检测到所述数据向量库，通过所述建库检索组件构建所述数据向量库。

3.根据权利要求2所述的系统，其中，所述私有场景数据包括：数据文件；所述中间处理模块还用于在检测到有所述数据向量库时，获取所述数据文件的上下文信息，发送给所述建库检索组件，以使所述建库检索组件将所述上下文信息增加到所述数据向量库中。

4.根据权利要求1所述的系统，所述系统还包括：与所述中间处理模块连接的提示词组件，所述提示词组件用于生成至少一个提示词；

所述中间处理模块还用于基于所述待处理问题，从所述提示词组件中选取提示词，并将选取的提示词拼接到所述拼接信息中。

5.根据权利要求1所述的系统，其中，所述建库检索组件包括：基于深度学习的大模型和搜索引擎。

6.一种问答提示方法，所述方法包括：

在私有云场景下，实时检测前端组件是否输出有待处理问题；

响应于检测到输出有所述待处理问题，通过部署在所述私有云场景下的建库检索组件检索预先构建的数据向量库，得到所述待处理问题的检索结果；

拼接所述待处理问题和所述检索结果，得到拼接信息；

通过部署在所述私有云场景下的大语言模型，得到所述拼接信息的分析结果；

将所述分析结果发送给所述前端组件。

7.根据权利要求6所述的方法，所述方法还包括：

实时检测所述前端组件是否输出有私有场景数据；

响应于检测到输出有所述私有场景数据，检测是否构建有数据向量库；

若未检测到所述数据向量库，通过所述建库检索组件构建所述数据向量库。

8.根据权利要求9所述的方法，所述私有场景数据包括：数据文件，所述方法还包括：

若检测到有所述数据向量库，通过所述大语言模型，得到所述数据文件的上下文信息；

将所述数据文件和所述上下文信息发送给所述建库检索组件。

9.根据权利要求6所述的方法，所述方法还包括：

基于所述待处理问题，从提示词组件中选取提示词；

将选取的提示词拼接到所述拼接信息中。

10.根据权利要求6所述的方法，通过以下步骤将所述建库检索组件部署在所述私有云场景下：

获取深度学习大模型和搜索引擎的服务代码；

基于所述服务代码，确定所述建库检索组件调用接口；

将所述建库检索组件调用接口发布为云原生环境下的镜像。

11.根据权利要求6所述的方法，通过以下步骤将所述大语言模型部署在所述私有云场景下：

获取大语言模型的模型参数和模型代码；

基于所述模型参数和所述模型代码，确定所述大语言模型的调用接口；

将所述大语言模型的调用接口发布为云原生环境下的镜像。

12.一种向量库构建方法，所述方法包括：

在私有云场景下，获取中间处理模块发送的私有场景数据；

对所述私有场景数据进行向量化处理，得到至少一个数据向量；

响应于所述私有云场景中没有数据向量库，基于所述数据向量，构建数据向量库；

将所述数据向量库私有化部署在所述私有云场景下。

13.根据权利要求12所述的方法，其中，所述私有场景数据包括数据文件，所述数据文件包括至少一个资源数据，所述对所述私有场景数据进行向量化处理，得到至少一个数据向量包括：

通过所述中间处理模块，确定所述数据文件中各个资源数据的上下文信息；

对各个资源数据进行向量化处理，得到至少一个初始向量；

基于所述初始向量和所述上下文信息，得到至少一个数据向量。

14.一种大语言模型训练方法，所述方法包括：

获取样本问题以及所述样本问题相关的私有场景数据；

将所述样本问题和所述私有场景数据输入建库检索组件，得到所述建库检索组件输出的检索结果；其中，所述建库检索组件基于所述私有场景数据构建数据向量库，并基于所述样本问题和所述数据向量库，得到检索结果；

基于所述样本问题和所述检索结果，构建样本训练集；

利用所述样本训练集对预训练的大语言模型进行有监督微调训练，得到目标大语言模型。

15.一种问答提示装置，所述装置包括：

问题检测单元，被配置成在私有云场景下，实时检测前端组件是否输出有待处理问题；

检索单元，被配置成响应于检测到输出有所述待处理问题，通过部署在所述私有云场景下的建库检索组件检索预先构建的数据向量库，得到所述待处理问题的检索结果；

拼接单元，被配置成拼接所述待处理问题和所述检索结果，得到拼接信息；

分析单元，被配置成通过部署在所述私有云场景下的大语言模型，得到所述拼接信息的分析结果；

发送单元，被配置成将所述分析结果发送给所述前端组件。

16.根据权利要求15所述的装置，所述装置还包括：库检测单元，所述库检测单元被配置成：实时检测所述前端组件是否输出有私有场景数据；响应于检测到输出有所述私有场景数据，检测是否构建有数据向量库；若未检测到所述数据向量库，通过所述建库检索组件构建所述数据向量库。

17.根据权利要求16所述的装置，所述私有场景数据包括：数据文件，所述装置还包括：资源检测单元，所述资源检测单元被配置成：若检测到有所述数据向量库，通过所述大语言模型，得到所述数据文件的上下文信息；将所述数据文件和所述上下文信息发送给所述建库检索组件。

18.根据权利要求15所述的装置，所述装置还包括：

选取单元，被配置成基于所述待处理问题，从提示词组件中选取提示词；将选取的提示词拼接到所述拼接信息中。

19.根据权利要求15所述的装置，通过建库单元将所述建库检索组件部署在所述私有云场景下，所述建库单元被配置成：获取深度学习大模型和搜索引擎的服务代码；基于所述服务代码，确定所述建库检索组件调用接口；将所述建库检索组件调用接口发布为云原生环境下的镜像。

20.根据权利要求15所述的装置，通过部署单元将所述大语言模型部署在所述私有云场景下，所述部署单元被配置成：获取大语言模型的模型参数和模型代码；基于所述模型参数和所述模型代码，确定所述大语言模型的调用接口；将所述大语言模型的调用接口发布为云原生环境下的镜像。

21.一种向量库构建装置，所述装置包括：

资源获取单元，被配置成在私有云场景下，获取中间处理模块发送的私有场景数据；

量化单元，被配置成对所述私有场景数据进行向量化处理，得到至少一个数据向量；

向量库构建单元，被配置成响应于所述私有云场景中没有数据向量库，基于所述数据向量，构建数据向量库；

私有化单元，被配置成将所述数据向量库私有化部署在所述私有云场景下。

22.根据权利要求21所述的装置，其中，所述资源数据包括数据文件，所述量化单元进一步被配置成：通过所述中间处理模块，确定所述数据文件中各个资源数据的上下文信息；对各个资源数据进行向量化处理，得到至少一个初始向量；基于所述初始向量和所述上下文信息，得到至少一个数据向量。

23.一种大语言模型训练装置，所述装置包括：

样本获取单元，被配置成获取样本问题以及所述样本问题相关的私有场景数据；

得到单元，被配置成将所述样本问题和所述私有场景数据输入建库检索组件，得到所述建库检索组件输出的检索结果；其中，所述建库检索组件基于所述私有场景数据构建数据向量库，并基于所述问题和所述数据向量库，得到检索结果；

训练集构建单元，被配置成基于所述样本问题和所述检索结果，构建样本训练集；

训练单元，被配置成利用所述样本训练集对预训练的大语言模型进行有监督微调训练，得到目标大语言模型。

24.一种电子设备，其特征在于，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求6-14中任一项所述的方法。

25.一种存储有计算机指令的非瞬时计算机可读存储介质，其特征在于，所述计算机指令用于使所述计算机执行权利要求6-14中任一项所述的方法。

26.一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现权利要求6-14中任一项所述的方法。