CN117371428A - 基于大语言模型的文本处理方法与装置 - Google Patents

Abstract

本公开提供一种基于大语言模型的文本处理方法、装置、电子设备与可读存储介质，涉及自然语言处理、大语言模型、生成式模型等人工智能技术。其中，基于大语言模型的文本处理方法包括：获取待处理文本，根据所述待处理文本确定目标生成任务；根据所述目标生成任务确定目标指标类型，获取所述至少一个候选大语言模型对应所述目标指标类型的目标指标值；根据所述目标指标值，从所述至少一个候选大语言模型中选取目标大语言模型；根据所述待处理文本与所述目标大语言模型，得到与所述待处理文本对应的目标文本。本公开能够提升所选取的目标大语言模型的准确性，进而提升所得到的目标文本的准确性。

Description

基于大语言模型的文本处理方法与装置

技术领域

本公开涉及数据处理技术领域，尤其涉及自然语言处理、大语言模型、生成式模型等人工智能技术。提供了一种基于大语言模型的文本处理方法、装置、电子设备与可读存储介质。

背景技术

大语言模型(LLM，Large Language Model)是指使用大量文本数据训练的深度学习模型，其可以生成自然语言文本或者理解自然语言文本的含义。大语言模型可以处理多种自然语言任务，如文本分类、问答、对话等，是通向人工智能的一条重要途径。随着大语言模型的发展速度越来越快，市面上存在着多种多样的大语言模型，让人眼花缭乱，如何从中选取合适的大语言模型来对文本进行处理是一个亟待解决的问题。

发明内容

根据本公开的第一方面，提供了一种基于大语言模型的文本处理方法，包括：获取待处理文本，根据所述待处理文本确定目标生成任务；根据所述目标生成任务确定目标指标类型，获取所述至少一个候选大语言模型对应所述目标指标类型的目标指标值；根据所述目标指标值，从所述至少一个候选大语言模型中选取目标大语言模型；根据所述待处理文本与所述目标大语言模型，得到与所述待处理文本对应的目标文本。

根据本公开的第二方面，提供了一种基于大语言模型的文本处理装置，包括：第一处理单元，用于获取待处理文本，根据所述待处理文本确定目标生成任务；第二处理单元，用于根据所述目标生成任务确定目标指标类型，获取所述至少一个候选大语言模型对应所述目标指标类型的目标指标值；选取单元，用于根据所述目标指标值，从所述至少一个候选大语言模型中选取目标大语言模型；第三处理单元，用于根据所述待处理文本与所述目标大语言模型，得到与所述待处理文本对应的目标文本。

根据本公开的第三方面，提供了一种电子设备，包括：至少一个处理器；以及与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行如上所述的方法。

根据本公开的第四方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行如上所述的方法。

根据本公开的第五方面，提供了一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现如上所述的方法。

由以上技术方案可以看出，本公开根据待处理文本所对应的目标生成任务进行目标大语言模型的选取，使得目标大语言模型与目标生成任务更加匹配，提升了目标大语言模型的选取准确性；且在所选取的目标大语言模型的准确性较高的基础上，根据目标大语言模型得到的目标文本的准确性也会随之提升，避免了使用单一的大语言模型、或者无法从多个大语言模型中选取合适的大语言模型所导致的得不到符合预期的目标文本的问题，从而提升了所生成的目标文本的准确性。

应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

附图用于更好地理解本方案，不构成对本公开的限定。其中：

图1是根据本公开第一实施例的示意图；

图2是根据本公开第二实施例的示意图；

图3是根据本公开第三实施例的示意图；

图4是用来实现本公开实施例的基于大语言模型的文本处理方法的电子设备的框图。

具体实施方式

以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和机构的描述。

图1是根据本公开第一实施例的示意图。如图1所示，本实施例的基于大语言模型的文本处理方法，具体包括如下步骤：

S101、获取待处理文本，根据所述待处理文本确定目标生成任务；

S102、根据所述目标生成任务确定目标指标类型，获取所述至少一个候选大语言模型对应所述目标指标类型的目标指标值；

S103、根据所述目标指标值，从所述至少一个候选大语言模型中选取目标大语言模型；

S104、根据所述待处理文本与所述目标大语言模型，得到与所述待处理文本对应的目标文本。

本实施例的基于大语言模型的文本处理方法，根据待处理文本所对应的目标生成任务进行目标大语言模型的选取，使得目标大语言模型与目标生成任务更加匹配，提升了目标大语言模型的选取准确性；且在所选取的目标大语言模型的准确性较高的基础上，根据目标大语言模型得到的目标文本的准确性也会随之提升，避免了使用单一的大语言模型、或者无法从多个大语言模型中选取合适的大语言模型所导致的得不到符合预期的目标文本的问题，从而提升了所生成的目标文本的准确性。

本实施例在执行S101获取待处理文本时，可以将输入端输入的文本作为待处理文本，也可以将输入端在网络上选择的文本作为待处理文本。

本实施例执行S101确定的目标生成任务，可以为语义逻辑分析任务、事实问答任务、阅读理解任务、数值计算任务、文本分类任务、文本翻译任务、摘要提取任务、代码生成任务等生成任务中的一种；不同类别的生成任务用于大语言模型根据所输入的文本，输出与不同类别的生成任务对应的文本生成结果。

本实施例在执行S101根据待处理文本确定目标生成任务时，可以将待处理文本输入到预先训练得到的任务分类模型，将该任务分类模型的输出结果，作为与待处理文本对应的目标生成任务；该任务分类模型能够根据所输入的文本，输出该文本所对应的生成任务。

本实施例在执行S101获取待处理文本的同时，还可以一同获取输入端输入或者选择的生成任务；本实施例在执行S101时，可以将输入端输入或者选择的生成任务，作为与待处理文本对应的目标生成任务。

本实施例在执行S101根据待处理文本确定目标生成任务时，还可以采用以下方式：从待处理文本中提取起始句文本和/或结尾句文本；根据所提取的起始句文本和/或结尾句文本，确定目标生成任务。

本实施例在执行S101时，可以将起始句文本和/或结尾句文本输入到任务分类模型，将该任务分类模型的输出结果，作为与待处理文本对应的目标生成任务；也可以计算起始句文本和/或结尾句文本与不同的标准文本(不同的标准文本与不同的生成任务相对应)之间的文本相似度，将文本相似度最高的标准文本所对应的生成任务，作为目标生成任务。

举例来说，若待处理文本为“针对以下选择题：动物有更多的脂肪(A)在海洋(B)在人类家园(C)在垃圾填埋场(D)在极地地区。请回答A、B、C、D”，本实施例在执行S101时可以将与结尾句文本“请回答A、B、C、D”对应的“事实问答任务”，作为目标生成任务；若待处理文本为“计算：30+51＝”，本实施例在执行S101时可以将与起始句文本“计算”对应的“数值计算任务”，作为目标生成任务。

本实施例在执行S101时，可以分别执行上述三种目标任务的确定方式，直至得到与待处理文本对应的目标生成任务。

也就是说，本实施例可以通过多种方式确定待处理文本所对应的目标生成任务，避免了无法确定目标生成任务的问题，还能够提升在确定与待处理文本对应的目标生成任务时的灵活性。

本实施例在执行S101根据待处理文本确定目标生成任务之后，执行S102根据目标生成任务确定目标指标类型，获取至少一个候选大语言模型对应目标指标类型的目标指标值；在本实施例中，不同的目标生成任务与不同的目标指标类型相对应。

本实施例在执行S102根据目标生成任务确定目标指标类型时，可以根据预设的任务与指标类型之间的对应关系，将与目标生成任务对应的指标类型，作为目标指标类型；本实施例执行S102确定的目标指标类型的个数可以为一个，也可以为多个。

举例来说，若目标生成任务为任务A，与该任务A对应的目标指标类型可以为指标类型1、指标类型2；若目标生成任务为任务B，与该任务B对应的目标指标类型可以为指标类型3；本实施例中的指标类型可以为相似度指标、F1指标、BLEU指标等。

本实施例在执行S102获取至少一个候选大语言模型对应目标指标类型的目标指标值时，可以针对每个候选大语言模型，从数据库中获取与目标指标类型对应的指标值，作为该候选大语言模型对应目标指标类型的的目标指标值，即本实施例可以预先将候选大语言模型对应不同指标类型的指标值存储在数据库中。

在本实施例中，预先存储在数据库中的、不同的大语言模型对应不同指标类型的指标值可以每天进行更新、也可以每周进行更新，从而提升指标值的时效性。

本实施例在执行S102获取至少一个候选大语言模型对应目标指标类型的目标指标值时，还可以采用以下方式：根据目标生成任务，从至少一个测试集中选取目标测试集，所选取的目标测试集中包含多个样本文本以及多个样本文本的真值文本；将多个样本文本输入到至少一个候选大语言模型，得到至少一个候选大语言模型针对每个样本文本输出的预测文本；使用与目标指标类型对应的指标值计算方法(不同的指标类型对应不同的指标值计算方法)，根据多个样本文本的真值文本与预测文本，获取至少一个候选大语言模型对应目标指标类型的目标指标值。

也就是说，本实施例可以通过对候选大语言模型进行实时评测的方式，来获取候选大语言模型对应目标指标类型的目标指标值，使得所获取的目标指标值与最新版本的候选大语言模型对应，从而提升了所获取的目标指标值的准确性与时效性。

可以理解的是，上述实时获取目标指标值的方法，可以用于对预先存储在数据库中的指标值进行更新。

其中，本实施例在执行S102根据目标生成任务从至少一个测试集中选取目标测试集时，可以根据预设的生成任务与测试集之间的对应关系，将与目标生成任务对应的测试集作为目标测试集，能够提升所选取的目标测试集的准确性，进而提升所获取的目标指标值的准确性。

为了提升大语言模型的评测准确性、以及不同的大语言模型在输出结果时的可控性，本实施例在执行S102将多个样本文本输入到至少一个候选大语言模型时，还可以包含以下内容：根据目标生成任务，获取目标拼接文本与目标拼接文本的拼接位置(样本文本之前、样本文本之后等)，不同的生成任务与不同的拼接文本相对应；根据拼接位置，将目标拼接文本与多个样本文本进行拼接；将多个样本文本的拼接结果输入到至少一个候选大语言模型。

举例来说，若样本文本为“动物有更多的脂肪(A)在海洋(B)在人类家园(C)在垃圾填埋场(D)在极地地区”，若根据“事实问答任务”获取的拼接文本为“针对以下选择题：”(拼接位置为样本文本之前)与“请回答A、B、C、D”(拼接位置为样本文本之后)，将拼接文本与样本文本进行拼接，从而将“针对以下选择题：动物有更多的脂肪(A)在海洋(B)在人类家园(C)在垃圾填埋场(D)在极地地区。请回答A、B、C、D”作为拼接结果输入到候选大语言模型。

举例来说，若样本文本为“什么类别最好地描述了这段话？集团A发布2018年第一季度业绩净利润为15亿元人民币。”，若根据“文本分类任务”获取的拼接文本为“选项：故事，文化，娱乐，体育，财经，房产，汽车，教育，科技，军事，旅游，国际，股票，农业，游戏。答案：”(拼接位置为样本文本之后)，将拼接文本与样本文本进行拼接，从而将“什么类别最好地描述了这段话？集团A发布2018年第一季度业绩净利润为15亿元人民币。选项：故事，文化，娱乐，体育，财经，房产，汽车，教育，科技，军事，旅游，国际，股票，农业，游戏。答案：”作为拼接结果输入到候选大语言模型。

对于特定的生成任务来说，例如语义逻辑分析任务，本实施例在执行S102时还可以对样本文本进行逻辑重建，使得样本文本的逻辑性更加通顺，从而将样本文本的逻辑重建结果输入到候选大语言模型。

若根据目标生成任务确定了多个目标指标类型，本实施例在执行S102时，会分别获取与每个目标指标类型对应的目标指标值。

本实施例在执行S102时，可以将目前能够进行开源使用的全部大语言模型，作为候选大语言模型；也可以根据预设的生成任务与大语言模型之间的对应关系，将与目标生成任务对应的大语言模型，作为候选大语言模型，从而提升目标大语言模型的选取效率。

本实施例在执行S102获取至少一个候选大语言模型对应目标指标类型的目标指标值之后，执行S103根据目标指标值，从至少一个候选大语言模型中选取目标大语言模型。

本实施例在执行S103根据目标指标值，从至少一个候选大语言模型中选取目标大语言模型时，可以选取目标指标值最大的候选大语言模型，作为目标大语言模型。

若目标指标值存在多个，本实施例在执行S103时，可以针对每个候选大语言模型，根据多个目标指标值计算指标值均值，然后将指标值均值最大的候选大语言模型，作为目标大语言模型。

可以理解的是，若本实施例执行S103确定目标指标值最大的候选大语言模型或者指标值均值最大的候选大语言模型为多个时，可以从中随机选取一个，作为目标大语言模型。

本实施例在执行S103选取目标大语言模型之后，还可以从至少一个候选大语言模型中选取目标指标值小于预设指标值阈值的大语言模型，作为待更新大语言模型；在完成待更新大语言模型的选取之后，本实施例可以向与待更新大语言模型对应的开发者发送提示信息，以提示开发者进行大语言模型的更新，或者获取与目标生成任务对应的目标训练集，进而根据所获取的目标训练集对待更新大语言模型进行训练，从而实现待更新大语言模型的迭代更新。

也就是说，本实施例还能够在大语言模型的实际使用过程中，根据目标指标值来确定是否对大语言模型进行迭代更新，从而通过不断地迭代更新，提升大语言模型在处理不同的目标生成任务时的准确性。

本实施例在执行S103根据目标指标值，从至少一个候选大语言模型中选取目标大语言模型之后，执行S104根据待处理文本与目标大语言模型，得到与待处理文本对应的目标文本。

本实施例在执行S104时，可以将待处理文本输入到目标大语言模型，将该目标大语言模型的输出结果，作为与待处理文本对应的目标文本。

举例来说，若待处理文本为“针对以下选择题：动物有更多的脂肪(A)在海洋(B)在人类家园(C)在垃圾填埋场(D)在极地地区。请回答A、B、C、D”，本实施例执行S104所得到的目标文本可以为“动物有更多的脂肪在“极地地区”。极地地区温度低，动物需要更多的脂肪来保持体温。海洋、人类家园和垃圾填埋场都不是动物积累脂肪的主要场所。因此，答案为(D)在极地地区。”。

举例来说，若待处理文本为“什么类别最好地描述了这段话？集团A发布2018年第一季度业绩净利润15亿元人民币。”，本实施例执行S104所得到的目标文本可以为“财经。解释：因为这段话提到的是集团A的财务业绩，即净利润和人民币金额，所以最能描述这段话的类别是财经。”。

本实施例在执行S104根据待处理文本与目标大语言模型，得到与待处理文本对应的目标文本时，还可以采用以下方式：根据目标生成任务，获取目标拼接文本与目标拼接文本的拼接位置(样本文本之前、样本文本之后等)，不同的生成任务与不同的拼接文本相对应；根据拼接位置，将目标拼接文本与待处理文本进行拼接；将待处理文本的拼接结果输入到目标大语言模型，将目标大语言模型的输出结果作为与待处理文本对应的目标文本。

也就是说，本实施例还可以根据目标生成任务对待处理文本进行优化处理，使得待处理文本中的内容更加完善，从而提升目标大语言模型输出的目标文本的准确性。

可以理解的是，本实施例在执行S104时，还可以检测待处理文本中是否包含目标拼接文本或者与目标拼接文本类似的文本，在确定待处理文本中不包含目标拼接文本或者与目标拼接文本类似的文本的情况下，再执行将目标拼接文本与待处理文本进行拼接的步骤，从而避免文本重复，提升文本拼接的准确性。

图2是根据本公开第二实施例的示意图。图2示出了本实施例在基于大语言模型处理文本时对至少一个候选大语言模型进行评测的流程图：测试集池中包含对应不同生成任务的测试集；指标池中包含对应不同生成任务的指标类型；拼接文本池中包含对应不同生成任务的拼接文本；模型池中包含多个大语言模型；任务表中包含不同的评测任务；案例表中包含多个案例，每个案例包含大语言模型的类型、输入到大语言模型中的样本文本、大语言模型输出的预测文本以及样本文本对应的真值文本等；指标表中包含大语言模型对应不同指标类型的指标值；S201、获取目标生成任务；S202、选取与目标生成任务对应的目标测试集、目标指标类型、目标拼接文本与至少一个候选大语言模型；S203、将目标测试集中的样本文本与目标拼接文本进行拼接之后，将样本文本的拼接结果输入到至少一个候选大语言模型；S204、获取至少一个候选大语言模型针对每个样本文本输出的预测文本；S205、根据目标指标类型、样本文本的真值文本与样本文本的预测文本，得到至少一个候选大语言模型对应目标指标类型的目标指标值；S206、对不同的候选大语言模型对应目标指标类型的目标指标值进行汇总。

图3是根据本公开第三实施例的示意图。如图3所示，本实施例的基于大语言模型的文本处理装置300，包括：

第一处理单元301、用于获取待处理文本，根据所述待处理文本确定目标生成任务；

第二处理单元302、用于根据所述目标生成任务确定目标指标类型，获取所述至少一个候选大语言模型对应所述目标指标类型的目标指标值；

选取单元303、用于根据所述目标指标值，从所述至少一个候选大语言模型中选取目标大语言模型；

第三处理单元304、用于根据所述待处理文本与所述目标大语言模型，得到与所述待处理文本对应的目标文本。

第一处理单元301获取待处理文本时，可以将输入端输入的文本作为待处理文本，也可以将输入端在网络上选择的文本作为待处理文本。

第一处理单元301确定的目标生成任务，可以为语义逻辑分析任务、事实问答任务、阅读理解任务、数值计算任务、文本分类任务、文本翻译任务、摘要提取任务、代码生成任务等生成任务中的一种；不同类别的生成任务用于大语言模型根据所输入的文本，输出与不同类别的生成任务对应的文本生成结果。

第一处理单元301在根据待处理文本确定目标生成任务时，可以将待处理文本输入到预先训练得到的任务分类模型，将该任务分类模型的输出结果，作为与待处理文本对应的目标生成任务；该任务分类模型能够根据所输入的文本，输出该文本所对应的生成任务。

第一处理单元301在获取待处理文本的同时，还可以一同获取输入端输入或者选择的生成任务；第一处理单元301可以将输入端输入或者选择的生成任务，作为与待处理文本对应的目标生成任务。

第一处理单元301在根据待处理文本确定目标生成任务时，还可以采用以下方式：从待处理文本中提取起始句文本和/或结尾句文本；根据所提取的起始句文本和/或结尾句文本，确定目标生成任务。

第一处理单元301可以将起始句文本和/或结尾句文本输入到任务分类模型，将该任务分类模型的输出结果，作为与待处理文本对应的目标生成任务；也可以计算起始句文本和/或结尾句文本与不同的标准文本(不同的标准文本与不同的生成任务相对应)之间的文本相似度，将文本相似度最高的标准文本所对应的生成任务，作为目标生成任务。

第一处理单元301可以分别执行上述三种目标任务的确定方式，直至得到与待处理文本对应的目标生成任务。

也就是说，第一处理单元301可以通过多种方式确定待处理文本所对应的目标生成任务，避免了无法确定目标生成任务的问题，还能够提升在确定与待处理文本对应的目标生成任务时的灵活性。

本实施例在由第一处理单元301根据待处理文本确定目标生成任务之后，由第二处理单元302根据目标生成任务确定目标指标类型，获取至少一个候选大语言模型对应目标指标类型的目标指标值；在本实施例中，不同的目标生成任务与不同的目标指标类型相对应。

第二处理单元302在根据目标生成任务确定目标指标类型时，可以根据预设的任务与指标类型之间的对应关系，将与目标生成任务对应的指标类型，作为目标指标类型；第二处理单元302确定的目标指标类型的个数可以为一个，也可以为多个。

第二处理单元302在获取至少一个候选大语言模型对应目标指标类型的目标指标值时，可以针对每个候选大语言模型，从数据库中获取与目标指标类型对应的指标值，作为该候选大语言模型对应目标指标类型的的目标指标值，即本实施例可以预先将候选大语言模型对应不同指标类型的指标值存储在数据库中。

在本实施例中，预先存储在数据库中的、不同的大语言模型对应不同指标类型的指标值可以每天进行更新、也可以每周进行更新，从而提升指标值的时效性。

第二处理单元302在获取至少一个候选大语言模型对应目标指标类型的目标指标值时，还可以采用以下方式：根据目标生成任务，从至少一个测试集中选取目标测试集，所选取的目标测试集中包含多个样本文本以及多个样本文本的真值文本；将多个样本文本输入到至少一个候选大语言模型，得到至少一个候选大语言模型针对每个样本文本输出的预测文本；使用与目标指标类型对应的指标值计算方法(不同的指标类型对应不同的指标值计算方法)，根据多个样本文本的真值文本与预测文本，获取至少一个候选大语言模型对应目标指标类型的目标指标值。

也就是说，第二处理单元302可以通过对候选大语言模型进行实时评测的方式，来获取候选大语言模型对应目标指标类型的目标指标值，使得所获取的目标指标值与最新版本的候选大语言模型对应，从而提升了所获取的目标指标值的准确性与时效性。

其中，第二处理单元302在根据目标生成任务从至少一个测试集中选取目标测试集时，可以根据预设的生成任务与测试集之间的对应关系，将与目标生成任务对应的测试集作为目标测试集，能够提升所选取的目标测试集的准确性，进而提升所获取的目标指标值的准确性。

为了提升大语言模型的评测准确性、以及不同的大语言模型在输出结果时的可控性，第二处理单元302在将多个样本文本输入到至少一个候选大语言模型时，还可以包含以下内容：根据目标生成任务，获取目标拼接文本与目标拼接文本的拼接位置(样本文本之前、样本文本之后等)，不同的生成任务与不同的拼接文本相对应；根据拼接位置，将目标拼接文本与多个样本文本进行拼接；将多个样本文本的拼接结果输入到至少一个候选大语言模型。

对于特定的生成任务来说，例如语义逻辑分析任务，第二处理单元302还可以对样本文本进行逻辑重建，使得样本文本的逻辑性更加通顺，从而将样本文本的逻辑重建结果输入到候选大语言模型。

若根据目标生成任务确定了多个目标指标类型，第二处理单元302会分别获取与每个目标指标类型对应的目标指标值。

第二处理单元302可以将目前能够进行开源使用的全部大语言模型，作为候选大语言模型；也可以根据预设的生成任务与大语言模型之间的对应关系，将与目标生成任务对应的大语言模型，作为候选大语言模型，从而提升目标大语言模型的选取效率。

本实施例在由第二处理单元302获取至少一个候选大语言模型对应目标指标类型的目标指标值之后，由选取单元303根据目标指标值，从至少一个候选大语言模型中选取目标大语言模型。

选取单元303在根据目标指标值，从至少一个候选大语言模型中选取目标大语言模型时，可以选取目标指标值最大的候选大语言模型，作为目标大语言模型。

若目标指标值存在多个，选取单元303可以针对每个候选大语言模型，根据多个目标指标值计算指标值均值，然后将指标值均值最大的候选大语言模型，作为目标大语言模型。

可以理解的是，若选取单元303确定目标指标值最大的候选大语言模型或者指标值均值最大的候选大语言模型为多个时，可以从中随机选取一个，作为目标大语言模型。

本实施例在由选取单元303从至少一个候选大语言模型中选取目标大语言模型之后，由第三处理单元304根据待处理文本与目标大语言模型，得到与待处理文本对应的目标文本。

第三处理单元304可以将待处理文本输入到目标大语言模型，将该目标大语言模型的输出结果，作为与待处理文本对应的目标文本。

第三处理单元304在根据待处理文本与目标大语言模型，得到与待处理文本对应的目标文本时，还可以采用以下方式：根据目标生成任务，获取目标拼接文本与目标拼接文本的拼接位置(样本文本之前、样本文本之后等)，不同的生成任务与不同的拼接文本相对应；根据拼接位置，将目标拼接文本与待处理文本进行拼接；将待处理文本的拼接结果输入到目标大语言模型，将目标大语言模型的输出结果作为与待处理文本对应的目标文本。

也就是说，第三处理单元304还可以根据目标生成任务对待处理文本进行优化处理，使得待处理文本中的内容更加完善，从而提升目标大语言模型输出的目标文本的准确性。

可以理解的是，第三处理单元304还可以检测待处理文本中是否包含目标拼接文本或者与目标拼接文本类似的文本，在确定待处理文本中不包含目标拼接文本或者与目标拼接文本类似的文本的情况下，再执行将目标拼接文本与待处理文本进行拼接的步骤，从而避免文本重复，提升文本拼接的准确性。

本实施例的基于大语言模型的文本处理装置300，还可以包含更新单元305，用于执行：从至少一个候选大语言模型中选取目标指标值小于预设指标值阈值的大语言模型，作为待更新大语言模型；在完成待更新大语言模型的选取之后，向与待更新大语言模型对应的开发者发送提示信息，以提示开发者进行大语言模型的更新，或者获取与目标生成任务对应的目标训练集，根据所获取的目标训练集对待更新大语言模型进行训练，从而实现待更新大语言模型的迭代更新。

也就是说，更新单元305还能够在大语言模型的实际使用过程中，根据目标指标值来确定是否对大语言模型进行迭代更新，从而通过不断地迭代更新，提升大语言模型在处理不同的目标生成任务时的准确性。

本公开的技术方案中，所涉及的用户个人信息的获取，存储和应用等，均符合相关法律法规的规定，且不违背公序良俗。

根据本公开的实施例，本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。

如图4所示，是根据本公开实施例的基于大语言模型的文本处理方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。

如图4所示，设备400包括计算单元401，其可以根据存储在只读存储器(ROM)402中的计算机程序或者从存储单元408加载到随机访问存储器(RAM)403中的计算机程序，来执行各种适当的动作和处理。在RAM403中，还可存储设备400操作所需的各种程序和数据。计算单元401、ROM402以及RAM403通过总线404彼此相连。输入/输出(I/O)接口405也连接至总线404。

设备400中的多个部件连接至I/O接口405，包括：输入单元406，例如键盘、鼠标等；输出单元407，例如各种类型的展示器、扬声器等；存储单元408，例如磁盘、光盘等；以及通信单元409，例如网卡、调制解调器、无线通信收发机等。通信单元409允许设备400通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。

计算单元401可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元401的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元401执行上文所描述的各个方法和处理，例如基于大语言模型的文本处理方法。例如，在一些实施例中，基于大语言模型的文本处理方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元408。

在一些实施例中，计算机程序的部分或者全部可以经由ROM402和/或通信单元409而被载入和/或安装到设备400上。当计算机程序加载到RAM 403并由计算单元401执行时，可以执行上文描述的基于大语言模型的文本处理方法的一个或多个步骤。备选地，在其他实施例中，计算单元401可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行基于大语言模型的文本处理方法。

此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、复杂可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程基于大语言模型的文本处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。

在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户展示信息的展示装置(例如，CRT(阴极射线管)或者LCD(液晶展示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。

计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，又称为云计算服务器或云主机，是云计算服务体系中的一项主机产品，以解决了传统物理主机与VPS服务(“Virtual Private Server”，或简称“VPS”)中，存在的管理难度大，业务扩展性弱的缺陷。服务器也可以为分布式系统的服务器，或者是结合了区块链的服务器。

应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。

上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。

Claims (17)

1.一种基于大语言模型的文本处理方法，包括：

获取待处理文本，根据所述待处理文本确定目标生成任务；

根据所述目标生成任务确定目标指标类型，获取所述至少一个候选大语言模型对应所述目标指标类型的目标指标值；

根据所述目标指标值，从所述至少一个候选大语言模型中选取目标大语言模型；

根据所述待处理文本与所述目标大语言模型，得到与所述待处理文本对应的目标文本。

2.根据权利要求1所述的方法，其中，所述根据所述待处理文本确定目标生成任务包括：

从所述待处理文本中提取起始句文本和/或结尾句文本；

根据所述起始句文本和/或所述结尾句文本，确定所述目标生成任务。

3.根据权利要求1所述的方法，其中，所述获取所述至少一个候选大语言模型对应所述目标指标类型的目标指标值包括：

根据所述目标生成任务，从至少一个测试集中选取目标测试集，所述目标测试集中包含多个样本文本以及多个样本文本的真值文本；

将所述多个样本文本输入到所述至少一个候选大语言模型，得到所述至少一个候选大语言模型针对每个样本文本输出的预测文本；

使用与所述目标指标类型对应的指标值计算方法，根据所述多个样本文本的真值文本与预测文本，获取所述至少一个候选大语言模型对应所述目标指标类型的目标指标值。

4.根据权利要求3所述的方法，其中，所述将所述多个样本文本输入到所述至少一个候选大语言模型包括：

根据所述目标生成任务，获取目标拼接文本以及所述目标拼接文本的拼接位置；

根据所述拼接位置，将所述目标拼接文本与所述多个样本文本进行拼接；

将所述多个样本文本的拼接结果输入到所述至少一个候选大语言模型。

5.根据权利要求1所述的方法，其中，所述根据所述待处理文本与所述目标大语言模型，得到与所述待处理文本对应的目标文本包括：

根据所述目标生成任务，获取目标拼接文本以及所述目标拼接文本的拼接位置；

根据所述拼接位置，将所述目标拼接文本与所述待处理文本进行拼接；

将所述待处理文本的拼接结果输入到所述目标大语言模型，将所述目标大语言模型的输出结果，作为所述目标文本。

6.根据权利要求1所述的方法，还包括，

获取与所述目标生成任务对应的大语言模型，作为所述至少一个候选大语言模型。

7.根据权利要求1所述的方法，还包括，

从所述至少一个候选大语言模型中选取所述目标指标值小于预设指标值阈值的候选大语言模型，作为待更新大语言模型；

根据所述目标生成任务，从至少一个训练集中选取目标训练集；

根据所述目标训练集，对所述待更新大语言模型进行训练。

8.一种基于大语言模型的文本处理装置，包括：

第一处理单元，用于获取待处理文本，根据所述待处理文本确定目标生成任务；

第二处理单元，用于根据所述目标生成任务确定目标指标类型，获取所述至少一个候选大语言模型对应所述目标指标类型的目标指标值；

选取单元，用于根据所述目标指标值，从所述至少一个候选大语言模型中选取目标大语言模型；

第三处理单元，用于根据所述待处理文本与所述目标大语言模型，得到与所述待处理文本对应的目标文本。

9.根据权利要求8所述的装置，其中，所述第一处理单元在根据所述待处理文本确定目标生成任务时，具体执行：

从所述待处理文本中提取起始句文本和/或结尾句文本；

根据所述起始句文本和/或所述结尾句文本，确定所述目标生成任务。

10.根据权利要求8所述的装置，其中，所述第二处理单元在获取所述至少一个候选大语言模型对应所述目标指标类型的目标指标值时，具体执行：

根据所述目标生成任务，从至少一个测试集中选取目标测试集，所述目标测试集中包含多个样本文本以及多个样本文本的真值文本；

将所述多个样本文本输入到所述至少一个候选大语言模型，得到所述至少一个候选大语言模型针对每个样本文本输出的预测文本；

使用与所述目标指标类型对应的指标值计算方法，根据所述多个样本文本的真值文本与预测文本，获取所述至少一个候选大语言模型对应所述目标指标类型的目标指标值。

11.根据权利要求10所述的装置，其中，所述第二处理单元在将所述多个样本文本输入到所述至少一个候选大语言模型时，具体执行：

根据所述目标生成任务，获取目标拼接文本以及所述目标拼接文本的拼接位置；

根据所述拼接位置，将所述目标拼接文本与所述多个样本文本进行拼接；

将所述多个样本文本的拼接结果输入到所述至少一个候选大语言模型。

12.根据权利要求8所述的装置，其中，所述第三处理单元在根据所述待处理文本与所述目标大语言模型，得到与所述待处理文本对应的目标文本时，具体执行：

根据所述目标生成任务，获取目标拼接文本以及所述目标拼接文本的拼接位置；

根据所述拼接位置，将所述目标拼接文本与所述待处理文本进行拼接；

将所述待处理文本的拼接结果输入到所述目标大语言模型，将所述目标大语言模型的输出结果，作为所述目标文本。

13.根据权利要求8所述的装置，所述第二处理单元还用于执行：

获取与所述目标生成任务对应的大语言模型，作为所述至少一个候选大语言模型。

14.根据权利要求8所述的装置，还包括更新单元，用于执行：

从所述至少一个候选大语言模型中选取所述目标指标值小于预设指标值阈值的候选大语言模型，作为待更新大语言模型；

根据所述目标生成任务，从至少一个训练集中选取目标训练集；

根据所述目标训练集，对所述待更新大语言模型进行训练。

15.一种电子设备，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-7中任一项所述的方法。

16.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行权利要求1-7中任一项所述的方法。

17.一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现根据权利要求1-7中任一项所述的方法。