CN118171736A - 模型训练方法、服务器及计算机可读存储介质 - Google Patents

Abstract

本申请公开一种模型训练方法，所述方法包括：获取由车辆领域知识信息确定的多个训练集，及获取每个训练集对应的目标提示信息，及根据多个训练集和每个训练集对应的目标提示信息，训练预先确定的基础模型，得到目标大语言模型。如此，本申请可利用由车辆领域知识信息确定的多个训练集，对基础模型进行训练以得到目标大语言模型，基础模型可基于多个训练集学习车辆领域知识信息，能理解车辆领域内字词的含义，在车辆领域下的任务处理效果得以提升。本申请可基于目标提示信息进行基础模型的训练，因而在训练过程中，基础模型可学习到通过目标提示信息所指示的推理方式来推理不同训练集中数据的能力，使得目标大语言模型的性能得以保障。

Description

模型训练方法、服务器及计算机可读存储介质

技术领域

本申请涉及模型训练技术领域，特别涉及一种模型训练方法、服务器及计算机可读存储介质。

背景技术

随着大语言模型(Large Language Model，LLM)的发展，大语言模型已在多数领域取得较好的应用。然而，在将大语言模型应用于特定领域如车辆领域时，可能因车辆领域知识的匮乏，导致车辆领域下的任务处理效果不佳。

发明内容

本申请提供了一种模型训练方法、服务器及计算机可读存储介质。

本申请实施方式提供一种模型训练方法，包括：

获取多个训练集及每个所述训练集对应的目标提示信息，其中，所述多个训练集由车辆领域知识信息确定；

根据所述多个训练集和所述目标提示信息，训练预先确定的基础模型，得到目标大语言模型。

本申请实施方式提供的模型训练方法中，服务器可获取由车辆领域知识信息确定的多个训练集，及获取每个训练集对应的目标提示信息，及根据多个训练集和每个训练集对应的目标提示信息，训练预先确定的基础模型，以得到目标大语言模型。

如此，在本申请实施方式中，服务器可利用由车辆领域知识信息确定的多个训练集，对基础模型进行训练，使得基础模型可基于多个训练集学习车辆领域知识信息，从而能理解车辆领域内字词的含义，由此在一定程度上保障了训练基础模型而得到的目标大语言模型在车辆领域下的任务处理效果。本申请实施方式的服务器可基于每个训练集及每个训练集对应的目标提示信息进行基础模型的训练，因而基础模型在训练过程中，可学习到通过目标提示信息所指示的推理方式来处理训练集所对应下游任务的能力，训练得到的目标大语言模型的性能得以保障。

在本申请某些实施方式中，所述多个训练集包括第一训练集，所述第一训练集包括用于询问车辆命名实体的第一语音请求，及与所述第一语音请求相对应的实体描述信息，所述根据所述多个训练集和所述目标提示信息，训练预先确定的基础模型，得到目标大语言模型，包括：

根据所述第一语音请求、所述实体描述信息及所述第一训练集对应的第一目标提示信息训练所述基础模型，得到所述目标大语言模型。

如此，本申请实施方式的服务器可通过用于询问车辆命名实体的第一语音请求、与第一语音请求相对应的实体描述信息，以及第一目标提示信息，共同进行基础模型的训练，使得基础模型和目标大语言模型可理解车辆命名实体的含义，进而使目标大语言模型能可靠地处理包含有车辆命名实体的语音请求。

在本申请某些实施方式中，所述多个训练集包括第二训练集，所述第二训练集包括用于询问多个车辆命名实体间关系的第二语音请求，及与所述第二语音请求相对应的关系描述信息，所述根据所述多个训练集和所述目标提示信息，训练预先确定的基础模型，得到目标大语言模型，包括：

根据所述第二语音请求、所述关系描述信息及所述第二训练集对应的第二目标提示信息训练所述基础模型，得到所述目标大语言模型。

如此，本申请实施方式的服务器可通过用于询问多个车辆命名实体间关系的第二语音请求、与第二语音请求相对应的关系描述信息，以及第二目标提示信息，共同进行基础模型的训练，使得基础模型和目标大语言模型可理解多个车辆命名实体间的关系，进而使目标大语言模型能可靠地处理包含有车辆命名实体的语音请求。

在本申请某些实施方式中，所述多个训练集包括第三训练集，所述第三训练集包括用于询问车辆功能的第三语音请求，及与所述第三语音请求相对应的功能知识信息，所述根据所述多个训练集和所述目标提示信息，训练预先确定的基础模型，得到目标大语言模型，包括：

根据所述第三语音请求、所述功能知识信息及所述第三训练集对应的第三目标提示信息训练所述基础模型，得到所述目标大语言模型。

如此，本申请实施方式的服务器可通过用于询问车辆功能的第三语音请求、与第三语音请求相对应的功能知识信息，以及第三目标提示信息，共同进行基础模型的训练，使得基础模型和目标大语言模型可知悉车辆功能。

在本申请某些实施方式中，所述多个训练集包括第四训练集，所述第四训练集包括用于询问车辆功能的第四语音请求，及与所述第四语音请求相对应的拒识，所述根据所述多个训练集和所述目标提示信息，训练预先确定的基础模型，得到目标大语言模型，包括：

根据所述第四语音请求、所述拒识及所述第四训练集对应的第四目标提示信息训练所述基础模型，得到所述目标大语言模型。

如此，本申请实施方式的服务器可通过用于询问车辆功能的第四语音请求、与第四语音请求相对应的拒识，以及第四目标提示信息，共同进行基础模型的训练，使训练得到的目标大语言模型能在面对询问错误车辆功能的语音请求的情况下，以相应的拒识进行回复。

在本申请某些实施方式中，所述多个训练集包括第五训练集，所述第五训练集包括由车辆功能对应的触发条件和执行动作构成的第五语音请求，及用于实现所述第五语音请求的第一应用程序接口信息，所述根据所述多个训练集和所述目标提示信息，训练预先确定的基础模型，得到目标大语言模型，包括：

根据所述第五语音请求、所述第一应用程序接口信息及所述第五训练集对应的第五目标提示信息训练所述基础模型，得到所述目标大语言模型。

如此，本申请实施方式的服务器可通过第五训练集及第五提示信息进行基础模型的训练，以得到能用于实现语音请求的应用程序接口信息的目标大语言模型。

在本申请某些实施方式中，所述多个训练集包括第六训练集，所述第六训练集包括用于确定车辆功能对应的触发条件和执行动作的第六语音请求，及用于实现所述第六语音请求的第二应用程序接口信息，所述根据所述多个训练集和所述目标提示信息，训练预先确定的基础模型，得到目标大语言模型，包括：

根据所述第六语音请求、所述第二应用程序接口信息及所述第六训练集对应的第六目标提示信息训练所述基础模型，得到所述目标大语言模型。

如此，本申请实施方式的服务器可通过第六训练集和第六提示信息进行基础模型的训练，以得到目标大语言模型，进而在获取到用于确定车辆功能对应的触发条件和执行动作的语音请求时，目标大语言模型可基于训练过程中注入的知识，确定实现语音请求对应的应用程序接口信息。

在本申请某些实施方式中，所述根据所述多个训练集和所述目标提示信息，训练预先确定的基础模型，得到目标大语言模型，包括：

根据预设提示信息、所述预设提示信息对应的关键词信息、所述多个训练集及所述目标提示信息训练所述基础模型，得到所述目标大语言模型。

如此，本申请实施方式的服务器可根据预设提示信息及预设提示信息对应的关键词信息进行基础模型的训练，使得训练后的基础模型可知悉预设提示信息与关键词信息间的映射关系。

本申请实施方式提供一种服务器，包括存储器和处理器，所述存储器中存储有计算机程序，所述计算机程序被所述处理器执行时，实现上述模型交互方法。

本申请实施方式提供一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，当所述计算机程序被一个或多个处理器执行时，实现上述模型交互方法。

本申请实施方式提供的服务器和计算机可读存储介质，可利用由车辆领域知识信息确定的多个训练集，对基础模型进行训练，使得基础模型可基于多个训练集学习车辆领域知识信息，从而能理解车辆领域内字词的含义，由此在一定程度上保障了训练基础模型而得到的目标大语言模型在车辆领域下的任务处理效果。本申请实施方式中可基于每个训练集及每个训练集对应的目标提示信息进行基础模型的训练，因而基础模型在训练过程中，可学习到通过目标提示信息所指示的推理方式来完成不同训练集所对应任务的能力，训练得到的目标大语言模型的性能得以保障。

本申请的实施方式的附加方面和优点将在下面的描述中部分给出，部分将从下面的描述中变得明显，或通过本申请的实施方式的实践了解到。

附图说明

本申请的上述和/或附加的方面和优点从结合下面附图对实施方式的描述中将变得明显和容易理解，其中：

图1为本申请某些实施方式中模型训练方法的流程示意图；

图2为本申请某些实施方式中模型训练装置的示意图；

图3为本申请某些实施方式中模型训练方法的流程示意图；

图4为本申请某些实施方式中模型训练方法的流程示意图；

图5为本申请某些实施方式中模型训练方法的流程示意图。

具体实施方式

下面详细描述本申请的实施方式，实施方式的示例在附图中示出，其中，相同或类似的标号自始至终表示相同或类似的元件或具有相同或类似功能的元件。下面通过参考附图描述的实施方式是示例性的，仅用于解释本申请的实施方式，而不能理解为对本申请的实施方式的限制。

在车辆领域的智能语音交互场景中，车辆可基于预先设定的若干个API(Application Programming Interface，应用程序接口)，实现独特的语音交互逻辑，举例而言，某车辆可通过某API所实现的语音交互逻辑为：在用户于座舱空间中说出“猛虎咆哮”后，播放老虎的咆哮声。

然而，对于通用的大语言模型(如基座模型)而言，虽然此大语言模型在多个领域内的自然语言处理任务均有较好表现，但在大语言模型未知晓车辆中预先设定的API的情况，难以通过大语言模型支持或实现上述独特的语音交互逻辑。

基于上述可能遇到的问题，请参阅图1，本申请实施方式提供了一种模型训练方法，包括：

01：获取多个训练集及每个训练集对应的目标提示信息，其中，多个训练集由车辆领域知识信息确定；

02：根据多个训练集和目标提示信息，训练预先确定的基础模型，得到目标大语言模型。

请参阅图2，本申请实施方式提供了一种模型训练装置200。本申请实施方式的模型训练方法可以由本申请实施方式的模型训练装置200实现。具体地，模型训练装置200包括获取模块210和训练模块220。其中，获取模块210用于获取多个训练集及每个训练集对应的目标提示信息，多个训练集由车辆领域知识信息确定。训练模块220用于根据多个训练集和目标提示信息，训练预先确定的基础模型，得到目标大语言模型。

本申请实施方式还提供了一种服务器，服务器包括存储器和处理器。本申请实施方式的模型训练方法可以由本申请实施方式的服务器实现。具体地，存储器中存储有计算机程序，处理器用于获取多个训练集及每个训练集对应的目标提示信息，多个训练集由车辆领域知识信息确定，及用于根据多个训练集和目标提示信息，训练预先确定的基础模型，得到目标大语言模型。

具体而言，在本申请实施方式中，服务器可获取由预先设定的车辆领域知识所确定的多个训练集以对基础模型(或称为基座模型)进行训练，并获取每个训练集对应的目标提示信息以辅助基础模型进行训练，由此，服务器可利用获取到的多个训练集及每个训练集对应的目标提示信息，对大语言模型进行训练，或者说，对大语言模型进行知识注入，从而得到能较好适用于车辆领域下自然语言处理任务的目标大语言模型。

其中，可以理解的是，本申请实施方式中训练集可以理解为由样本及样本对应的标签所构成的集合。以及，本申请实施方式中不同训练集的样本之间存在差异。

举例而言，在本申请某些实施方式中，服务器获取到的多个训练集中包括有实体描述(Entity Description)任务训练集和实体关系任务训练集。其中，实体描述任务训练集的某个样本为“什么是ACC”，此样本对应的标签为“汽车上ACC是自适应巡航的意思”。实体关系任务训练集中的某个样本为“通风功能在车里哪些功能会涉及到？”，此样本对应的标签为“汽车上通风功能包括座椅通风和空调通风”。

进一步地，本申请实施方式中的样本可以理解为语音请求，或者说query。而样本对应的标签则可以理解为语音请求对应的回复。

还可以理解的是，本申请实施方式中的目标提示(prompt，或instruction)信息可以理解为用于辅助大语言模型理解语音请求和下游任务的信息，及用于辅助大语言模型推理语音请求对应的标签。

举例而言，以上述实体描述任务训练集为例，在本申请某些实施方式中，实体描述任务训练集对应的目标提示信息包括：“假如你是车载智能语音助手，用户会提问车相关的实体，你需要结合车领域的知识进行回答，回答内容主要包括这个实体的定义以及在车领域下主要的功能是什么。”

以及，本申请实施方式中的基础模型可以理解为具备一定自然语言处理能力，因而能适用于多个领域下的通用任务的大语言模型。

还能理解的是，本申请实施方式的服务器可通过获取到的每个训练集，对基础模型进行训练，从而将车辆领域知识注入至基础模型中，以得到能适用于车辆领域的目标大语言模型，或者说，能理解车辆领域中特定字词的含义的目标大语言模型。

综上，在本申请实施方式中，服务器可利用由车辆领域知识信息确定的多个训练集，对基础模型进行训练，使得基础模型可基于多个训练集学习车辆领域知识信息，从而能理解车辆领域内字词的含义，由此在一定程度上保障了训练基础模型而得到的目标大语言模型在车辆领域下的任务处理效果。本申请实施方式的服务器可基于每个训练集及每个训练集对应的目标提示信息进行基础模型的训练，因而基础模型在训练过程中，可学习到通过目标提示信息所指示的推理方式来处理训练集所对应下游任务的能力，训练得到的目标大语言模型的性能得以保障。

在本申请某些实施方式中，多个训练集包括第一训练集，第一训练集包括用于询问车辆命名实体的第一语音请求，及与第一语音请求相对应的实体描述信息，进而步骤02包括：

根据第一语音请求、实体描述信息及第一训练集对应的第一目标提示信息训练基础模型，得到目标大语言模型。

本申请实施方式的训练模块还用于根据第一语音请求、实体描述信息及第一训练集对应的第一目标提示信息训练基础模型，得到目标大语言模型。

本申请实施方式的处理器还用于根据第一语音请求、实体描述信息及第一训练集对应的第一目标提示信息训练基础模型，得到目标大语言模型。

具体而言，本申请实施方式为使基础模型或目标大语言模型能理解在车辆领域中命名实体含义如车载香氛的含义，因而设置有用于向基础模型注入车辆领域内命名实体知识的第一训练集，或称为命名实体描述任务训练集。

其中，车辆领域内的命名实体可以理解为与车辆相关的命名实体，如车载空调、车载香氛及自适应巡航等。

进一步地，第一训练集中的样本则可以理解为用于询问车辆命名实体的第一语音请求，而样本标签则可理解为车辆命名实体的描述信息或描述文本。

举例而言，在本申请某些实施方式中，第一语音请求为“什么是ACC？”，第一语音请求对应的实体描述信息为：“汽车上ACC是自适应巡航的意思。自适应巡航控制系统是一种智能化的自动控制系统，它是在早已存在的巡航控制技术的基础上发展而来。在车辆行驶过程中，安装在车辆前部的车距传感器(雷达)持续扫描车辆前方道路，同时轮速传感器采集车速信号。以下是关于ACC的相关资料：1、当与前车之间的距离过小时，ACC控制单元可以通过与制动防抱死系统、发动机控制系统协调动作，使车轮适当制动，并使发动机的输出功率下降，以使车辆与前方车辆始终保持安全距离。2、自适应巡航控制系统一般在车速大于25km/h时才会起作用，而当车速降低到25km/h以下时，就需要驾驶者进行人工控制。通过系统软件的升级，自适应巡航控制系统可以实现‘停车/起步’功能，以应对在城市中行驶时频繁的停车和起步情况”。

更进一步地，与第一训练集相对应的第一目标提示信息则可以理解为用于使基础模型在获取到第一语音请求后，如何回复或处理第一语音请求的任务说明信息。举例而言，在本申请某些实施方式中，第一目标提示信息包括：“假如你是车载智能语音助手，用户会提问车相关的实体，你需要结合车领域的知识进行回答，回答内容主要包括这个实体的定义以及在车领域下主要的功能是什么。接下来用户会问如下问题”。

也因此，在训练过程中，输入至基础模型的内容可以包括“假如你是车载智能语音助手，用户会提问车相关的实体，你需要结合车领域的知识进行回答，回答内容主要包括这个实体的定义以及在车领域下主要的功能是什么。接下来用户会问如下问题：什么是ACC？”。

可以理解的是，基础模型或目标大语言模型可根据输入内容中的第一目标提示信息，理解第一语音请求对应的下游任务处理方式，或者说，可根据第一目标提示信息执行第一语音请求对应的实体描述信息的推理工作。

以及，在基础模型根据第一目标提示信息和第一语音请求，输出相应的推理结果后，服务器可确定第一语音请求的推理结果与第一语音请求的实体描述信息之间的差异，及通过此差异进行基础模型的训练。

还可以理解的是，在基础模型基于第一训练集进行训练后，车辆领域的命名实体知识可注入基础模型，进而基础模型或目标大语言模型能对车辆领域内的命名实体具备一定的了解。在目标大语言模型落地后，目标大语言模型可理解用户语音请求中涉及的车辆领域命名实体的含义，能可靠地完成用户语音请求的处理，使得语音交互得以可靠进行。

如此，本申请实施方式的服务器可通过用于询问车辆命名实体的第一语音请求、与第一语音请求相对应的实体描述信息，以及第一目标提示信息，共同进行基础模型的训练，使得基础模型和目标大语言模型可理解车辆命名实体的含义，进而使目标大语言模型能可靠地处理包含有车辆命名实体的语音请求。

在本申请某些实施方式中，多个训练集包括第二训练集，第二训练集包括用于询问多个车辆命名实体间关系的第二语音请求，及与第二语音请求相对应的关系描述信息，进而步骤02包括：

根据第二语音请求、关系描述信息及第二训练集对应的第二目标提示信息训练基础模型，得到目标大语言模型。

本申请实施方式的训练模块还用于根据第二语音请求、关系描述信息及第二训练集对应的第二目标提示信息训练基础模型，得到目标大语言模型。

本申请实施方式的处理器还用于根据第二语音请求、关系描述信息及第二训练集对应的第二目标提示信息训练基础模型，得到目标大语言模型。

具体而言，本申请实施方式的服务器为使大语言模型能理解车辆领域中各个命名实体之间的关系，如通风功能包含座椅通风功能和空调通风功能，从而避免大语言模型将空调通风和座椅通风混淆的情况出现，因而获取有第二训练集及第二训练集对应的第二目标提示信息。

其中，第二训练集包括用于询问多个车辆命名实体间关系的第二语音请求，及用于说明车辆命名实体间关系的关系描述信息。

举例而言，在本申请某些实施方式中，第二语音请求包括“通风功能在车里哪些功能会涉及到？”，此第二语音请求对应的关系描述信息为“汽车上通风功能包括座椅通风和空调通风”。

能理解的是，本申请实施方式中的第二目标提示信息可用于引导大语言模型理解下游任务，或者说，辅助大语言模型推理第二语音请求对应的关系描述信息的信息。举例而言，在本申请某些实施方式中，第二目标同是信息包括“假如你是车载智能语音助手，用户会提问车中多个实体的关系，你需要结合车领域的知识进行回答，接下来用户会问如下问题：通风功能在车里哪些功能会涉及到？”。

也因此，在第二语音请求为“通风功能在车里哪些功能会涉及到？”的情况下，在训练过程中，基础模型所能接收到的输入信息可包括“假如你是车载智能语音助手，用户会提问车中多个实体的关系，你需要结合车领域的知识进行回答，接下来用户会问如下问题：通风功能在车里哪些功能会涉及到？”

以及，在基础模型根据第二目标提示信息和第二语音请求，输出相应的推理结果后，服务器可确定第二语音请求的推理结果与第二语音请求的关系描述信息之间的差异，及通过此差异进行基础模型的训练。

可以理解的是，在基础模型基于第二训练集进行训练后，车辆领域的多个命名实体间知识可注入基础模型，进而基础模型或目标大语言模型能对车辆领域内多个命名实体间的关系具备一定的了解。在目标大语言模型落地后，目标大语言模型可根据多个命名实际间的关系来理解用户语音请求，使得语音交互得以可靠进行。

如此，本申请实施方式的服务器可通过用于询问多个车辆命名实体间关系的第二语音请求、与第二语音请求相对应的关系描述信息，以及第二目标提示信息，共同进行基础模型的训练，使得基础模型和目标大语言模型可理解多个车辆命名实体间的关系，进而使目标大语言模型能可靠地处理包含有车辆命名实体的语音请求。

在本申请某些实施方式中，多个训练集包括第三训练集，第三训练集包括用于询问车辆功能的第三语音请求，及与第三语音请求相对应的功能知识信息，进而步骤02包括：

根据第三语音请求、功能知识信息及第三训练集对应的第三目标提示信息训练基础模型，得到目标大语言模型。

本申请实施方式的训练模块还用于根据第三语音请求、功能知识信息及第三训练集对应的第三目标提示信息训练基础模型，得到目标大语言模型。

本申请实施方式的处理器还用于根据第三语音请求、功能知识信息及第三训练集对应的第三目标提示信息训练基础模型，得到目标大语言模型。

具体而言，本申请实施方式的服务器为使大语言模型能理解车辆的操控方法，及增强大语言模型对于车辆领域知识的问答能力，因而获取第三训练集及第三训练集对应的第三目标提示信息。

其中，第三训练集包括用于询问车辆功能的第三语音请求，及用于答复车辆功能的、与第三语音请求相对应的功能知识信息。

举例而言，在本申请某些实施方式中，第三语音请求包括“怎么打开空调在车上”，对应的功能知识信息包括“车里的空调按一下AUTO开关就可以开启，或是拧动空调开关。1、手动空调的话，温度调整的按键蓝色代表冷，红色代表暖；2、开冷风的话需用按下A/C键；3、自动空调的话轻按AC或AUTO按键，便可开启冷风；4、需用热风时，将温度调整到适当温度，关掉AC就可以”。

还可以理解的是，本申请实施方式中的第三目标提示信息可用于引导基础模型理解下游任务的处理方法，又或是引导基础模型完成第三语音请求对应的功能知识信息的推理工作的方法。

举例而言，在本申请某些实施方式中，第三目标提示信息包括“假如你是车载智能语音助手，用户会提问车领域相关的知识，你需要结合车领域的知识进行回答，接下来用户会问如下问题”。

进一步地，在第三语音请求为“怎么打开空调在车上”的情况下，训练过程中输入至基础模型的信息可包括“假如你是车载智能语音助手，用户会提问车领域相关的知识，你需要结合车领域的知识进行回答，接下来用户会问如下问题：怎么打开空调在车上？”。

以及，在基础模型根据第三目标提示信息和第三语音请求，输出相应的推理结果后，服务器可确定第三语音请求的推理结果与第三语音请求的功能知识信息之间的差异，及通过此差异进行基础模型的训练。

可以理解的是，在基础模型基于第三训练集进行训练后，车辆功能的操作方法知识可注入基础模型，进而在目标大语言模型落地后，目标大语言模型面对询问车辆功能使用方式的用户语音请求时，能准确或合理地给出回复。

如此，本申请实施方式的服务器可通过用于询问车辆功能的第三语音请求、与第三语音请求相对应的功能知识信息，以及第三目标提示信息，共同进行基础模型的训练，使得基础模型和目标大语言模型可知悉车辆功能。

在本申请某些实施方式中，多个训练集包括第四训练集，第四训练集包括用于询问车辆功能的第四语音请求，及与第四语音请求相对应的拒识，进而步骤02包括：

根据第四语音请求、拒识及第四训练集对应的第四目标提示信息训练基础模型，得到目标大语言模型。

本申请实施方式的训练模块还用于根据第四语音请求、拒识及第四训练集对应的第四目标提示信息训练基础模型，得到目标大语言模型。

本申请实施方式的处理器还用于根据第四语音请求、拒识及第四训练集对应的第四目标提示信息训练基础模型，得到目标大语言模型。

具体而言，为使大语言模型具备拒绝回答的能力，以避免大语言模型给出错误或不合理的回复，因而本申请实施方式获取到第四训练集及第四训练集对应的第四目标提示信息。

其中，第四训练集包括用于询问错误车辆功能的语音请求，也即是第四语音请求，还包括用于回复第四语音请求的拒识。

举例而言，在本申请某些实施方式中，第四语音请求包括“怎么同时设置P挡和N挡”，对应的拒识为“车辆不能同时设置P挡和N挡”。

还可以理解的是，本申请实施方式中的第四目标提示信息用于引导基础模型回复第四语音请求。示范性的，在本申请某些实施方式中，第四目标提示信息包括“假如你是车载智能语音助手，用户会提问车领域相关的知识，你需要结合车领域的知识进行回答，接下来用户会问如下问题”。

进一步地，在第四语音请求包括“怎么同时设置P挡和N挡”的情况下，训练过程中输入至基础模型的信息可包括“假如你是车载智能语音助手，用户会提问车领域相关的知识，你需要结合车领域的知识进行回答，接下来用户会问如下问题：怎么同时设置P挡和N挡”。

可以理解的是，在基础模型根据第四目标提示信息和第四语音请求，输出相应的推理结果后，服务器可确定第四语音请求的推理结果与第四语音请求的功能知识信息之间的差异，及通过此差异进行基础模型的训练。

还可以理解的是，在基础模型基于第四训练集进行训练后，车辆功能的操作方法知识可注入基础模型，进而在目标大语言模型落地后，目标大语言模型面对询问车辆功能错误使用方式的用户语音请求时，能准确或合理地给出回复。

如此，本申请实施方式的服务器可通过用于询问车辆功能的第四语音请求、与第四语音请求相对应的拒识，以及第四目标提示信息，共同进行基础模型的训练，使训练得到的目标大语言模型能在面对询问错误车辆功能的语音请求的情况下，以相应的拒识进行回复。

在本申请某些实施方式中，多个训练集包括第五训练集，第五训练集包括由车辆功能对应的触发条件和执行动作构成的第五语音请求，及用于实现第五语音请求的第一应用程序接口信息，进而步骤02包括：

根据第五语音请求、第一应用程序接口信息及第五训练集对应的第五目标提示信息训练基础模型，得到目标大语言模型。

本申请实施方式的训练模块还用于根据第五语音请求、第一应用程序接口信息及第五训练集对应的第五目标提示信息训练基础模型，得到目标大语言模型。

本申请实施方式的处理器还用于根据第五语音请求、第一应用程序接口信息及第五训练集对应的第五目标提示信息训练基础模型，得到目标大语言模型。

具体而言，在本申请某些实施方式中，用户可通过语音设定车辆在特定条件满足时执行特定动作，如通过语音设定车辆在条件“检测到有人上车”满足时，执行“开启空调制冷”的动作。

进一步地，为确保用户设定的条件和动作能被车辆所执行，因而可将动作与条件映射为车辆所能调用的API，以使车辆可基于API的使用实现用户设定的条件和动作。

正因此，本申请实施方式的服务器可通过由车辆功能对应的触发条件和执行动作构成的第五语音请求，以及可用于实现第五语音请求的第一应用程序接口信息，进行基础模型的训练，以使训练得到的目标大语言模型可将用于实现车辆功能的触发条件和执行动作，映射为对应的第一应用程序接口信息，以使得车辆可通过第一应用程序接口信息执行实现车辆功能的触发条件和执行动作。

示范性的，在本申请某些实施方式中，由车辆功能对应的触发条件和执行动作构成的第五语音请求可以包括“{\"condition\":[\"当我说省电模式时\"],\"action\":[\"驾驶模式设为经济模式\",\"打开空调节能\"]}”。以及，用于实现此第五语音请求的第一应用程序接口信息可包括“[{\"action\":[{\"信息\":\"驾驶模式\",\"模式\":\"节能\"},{\"信息\":\"空调节能模式\",\"动作\":\"打开\"}],\"condition\":[{\"类别\":\"语音指令和控制\",\"内容\":\"省电模式\"}]}]”。

以及，还可以理解的是，本申请实施方式中的第五提示信息可用于引导基础模型执行第五语音请求对应的应用程序接口信息进行推理，以使得基础模型输出相应的应用程序接口信息预测结果。

示范性的，在本申请某些实施方式中，第五提示信息可包括“假如你是车载智能语音助手，用户会设置一些执行功能的条件以及在这些条件下执行的动作，请你结合车可能执行的动作，做出正确的回答。接下来用户会设置的条件和动作可包括”。

而在另一些实施方式中，第五提示信息可包括“假如你是车载智能语音助手，用户会设置一些执行功能的条件以及在这些条件下执行的动作，请你结合车可能执行的动作，做出正确的回答。接下来用户会问如下问题”。

也因此，在训练过程中，大语言模型接收到的输入信息可包括“假如你是车载智能语音助手，用户会设置一些执行功能的条件以及在这些条件下执行的动作，请你结合车可能执行的动作，做出正确的回答。接下来用户会问如下问题：[{\"condition\":[\"当我说省电模式时\"],\"action\":[\"驾驶模式设为经济模式\",\"打开空调节能\"]}]”。

还可以理解的是，在基础模型通过第五提示信息，输出第五语音请求对应的应用程序接口信息预测结果后，服务器可通过第五语音请求对应的应用程序接口信息预测结果，以及第五语音请求对应的第一应用程序接口信息，确定应用程序接口信息预测结果和第一应用程序接口信息的差异，并利用此差异反向更新基础模型中的参数如权重和偏置等，由此实现基础模型的更新。

更进一步地，在利用由第五语音请求及第一应用程序接口信息构成的第五训练集，执行基础模型的训练以得到目标大语言模型后，目标大语言模型即可在确定出用于执行或实现某车辆功能的触发条件与执行动作的情况下，将确定出的触发条件与执行动作映射为应用程序接口，及可根据应用程序接口生成车辆控制指令，将车辆控制指令下发至车辆，使得车辆可通过车辆控制指令调用应用程序接口，进而完成触发条件和执行动作的设定，使得自身可满足用户设定的车辆功能。

如此，本申请实施方式的服务器可通过第五训练集及第五提示信息进行基础模型的训练，以得到能用于实现语音请求的应用程序接口信息的目标大语言模型。

在本申请某些实施方式中，多个训练集包括第六训练集，第六训练集包括用于确定车辆功能对应的触发条件和执行动作的第六语音请求，及用于实现第六语音请求的第二应用程序接口信息，步骤02包括：

根据第六语音请求、第二应用程序接口信息及第六训练集对应的第六目标提示信息训练基础模型，得到目标大语言模型。

本申请实施方式的训练模块还用于根据第六语音请求、第二应用程序接口信息及第六训练集对应的第六目标提示信息训练基础模型，得到目标大语言模型。

本申请实施方式的处理器还用于根据第六语音请求、第二应用程序接口信息及第六训练集对应的第六目标提示信息训练基础模型，得到目标大语言模型。

具体而言，在本申请某些实施方式中，用户可通过语音设定车辆在特定条件满足时执行特定动作，如通过语音设定车辆在条件“检测到有人上车”满足时，执行“开启空调制冷”的动作。

正因此，为在用户触发用于设定某车辆功能所需的触发条件和执行动作的语音请求时，本申请实施方式的服务器可通过训练完成的目标大语言模型对此语音请求进行处理，进而得到能用于实现此车辆功能所需的触发条件和执行动作的应用程序接口，故服务器获取有第六训练集。

其中，可以理解的是，第六训练集包括有用于设定车辆功能对应的触发条件和执行动作的语音请求，也即是第六语音请求。以及，第六训练集还包括用于实现第六语音请求的第二应用程序接口信息，或者说，还包括用于实现车辆功能对应的触发条件和执行动作的应用程序接口标签。

举例而言，在本申请某些实施方式中，第六语音请求可包括“副驾车门打开并有人坐时提醒我注意后方安全”，对应的第二应用程序接口信息可包括“[{\"action\":[{\"信息\":\"播报通知\",\"内容\":\"注意后方安全\"}],\"condition\":[{\"动作\":\"打开\",\"位置\":\"副驾\",\"设备\":\"车门\"},{\"动作\":\"已坐人\",\"位置\":\"副驾\"}]}]”。

还可以理解的是，为使基础模型在接收到第六语音请求时，能知悉需通过第六语音请求的处理方式，因而本申请实施方式在将第六语音请求输入至基础模型的同时，还将第六提示信息一并输入至基础模型，以使得基础模型可通过第六提示信息所指示的下游任务，确定第六语音请求对应的处理方式或推理方式。

示范性的，在本申请某些实施方式中，第六提示信息可包括“假如你是车载智能语音助手，用户会设置一些执行功能的条件以及在这些条件下执行的动作，请你结合车可能执行的动作，做出正确的回答。接下来用户会问如下问题：”。

进一步地，在基础模型的训练过程中，服务器可将第六语音请求与第二应用程序接口信息合并处理后，将合并处理的结果输入至基础模型中。举例而言，在第六语音请求可包括“副驾车门打开并有人坐时提醒我注意后方安全”的情况下，合并处理的结果可包括“假如你是车载智能语音助手，用户会设置一些执行功能的条件以及在这些条件下执行的动作，请你结合车可能执行的动作，做出正确的回答。接下来用户会问如下问题：副驾车门打开并有人坐时提醒我注意后方安全”。

更进一步地，在基础模型的训练过程中，基础模型可基于接收到的第六提示信息第六语音请求，输出第六语音请求对应的应用程序接口信息预测结果，进而，服务器可根据第六语音请求的真实标签和预测结果之间的差异，或者说，根据第六语音请求对应的第二应用程序接口信息和应用程序接口信息预测结果之间的差异，反向更新基础模型，从而实现基础模型的更新。

能理解的是，在服务器基于第六训练集和第六提示信息完成基础模型的训练后，训练得到的目标大语言模型可在一定程度上知悉“用于确定车辆功能对应的触发条件和执行动作的语音请求”与“用于实现语音请求的应用程序接口信息”之间的知识，进而在实际的语音交互场景中，服务器可通过目标大语言模型确定出可用于实现语音请求的应用程序接口信息。

如此，本申请实施方式的服务器可通过第六训练集和第六提示信息进行基础模型的训练，以得到目标大语言模型，进而在获取到用于确定车辆功能对应的触发条件和执行动作的语音请求时，目标大语言模型可基于训练过程中注入的知识，确定实现语音请求对应的应用程序接口信息。

在本申请某些实施方式中，步骤02包括：

根据预设提示信息、预设提示信息对应的关键词信息、多个训练集及目标提示信息训练基础模型，得到目标大语言模型。

本申请实施方式的训练模块还用于根据预设提示信息、预设提示信息对应的关键词信息、多个训练集及目标提示信息训练基础模型，得到目标大语言模型。

本申请实施方式的处理器还用于根据预设提示信息、预设提示信息对应的关键词信息、多个训练集及目标提示信息训练基础模型，得到目标大语言模型。

具体而言，在本申请实施方式中，提示信息的信息量可能较大，或者说，提示信息的信息长度较长，若模型训练或模型推理过程中直接将提示信息和待处理对象一并输入至模型中，可能导致模型在输出推理结果的过程中，因输入信息过长而消耗时间较长。

基于上述背景，本申请实施方式的服务器为避免目标大语言模型因提示信息过长而导致推理效率较低的情况出现，因而在通过训练集和目标提示信息实现基础模型的知识注入外，还通过预设提示信息和预设提示信息对应的关键词信息，对基础模型进行提示信息的知识注入。

其中，预设提示信息可以理解为文本长度较长的车辆领域知识，预设提示信息对应的关键词信息可以理解为预设提示信息对应的简略化表达或映射文本。

举例而言，在本申请某些实施方式中，预设提示信息可包括“后排屏蓝牙开关是指开启或关闭车辆后排屏幕的蓝牙功能。这个功能可以让后排乘客使用自己的蓝牙设备连接到车辆的音响系统，从而实现播放音乐、接听电话等操作”，对应的关键词信息可以为“isletLLMKnowledge”。

进一步地，在通过预设提示信息和预设提示信息对应的关键词信息进行基础模型的训练后，模型获取到关键词信息时，可知悉关键词信息对应的预设提示信息，也即是，可基于简短的关键词得知完整的车辆知识，进而在训练过程或实际推理过程中，输入至模型的提示信息中可包含有关键词信息，以使模型基于关键词信息对应的预设提示信息，完成相应的推理工作，从而避免直接将信息量较大或长度较长的提示信息完整地输入至模型，进而导致模型推理所需时间较长的情况出现。

如此，本申请实施方式的服务器可根据预设提示信息及预设提示信息对应的关键词信息进行基础模型的训练，使得训练后的基础模型可知悉预设提示信息与关键词信息间的映射关系。

可选的，在本申请某些实施方式中，服务器可根据实际需要，获取第一至第六训练集中的两个或两个以上的训练集，及根据获取到的“两个或两个以上的训练集”，对基础模型进行训练，从而得到目标大语音模型。例如，在本申请某些实施方式中，服务器可获取上述第一至第五训练集，及根据第一至第五训练集对基础模型进行训练，及将训练完成的基础模型作为目标大语言模型。

可选的，在本申请某些实施方式中，具体可参阅图3、图4及图5，图3、图4及图5均为本申请某些实施方式中模型训练方法的流程示意图。也即是，本申请实施方式为能得到可适用于车辆业务语音交互业务场景的大语言模型，故设置有对应不同任务(Task)的训练集以用于训练基础模型。其中，上述的第一训练集对应的任务可以理解为图3至5中的“T1实体描述”，上述的第二训练集对应的任务可以理解为图3至5中的“T1实体关系任务”，上述的第三训练集对应的任务可以理解为图3至5中的“T3知识问答”，上述的第四训练集对应的任务可以理解为图3至5中的“T4拒识知识问答”，上述的第五训练集对应的任务可以理解为图3至5中的“T1实体描述”，上述的第六训练集对应的任务可以理解为图3至5中的“T6条件动作与接口映射”，上述的第七训练集对应的任务可以理解为图3至5中的“T7孤岛映射”。

进一步地，如图3所示，本申请实施方式的服务器可基于第一至第六训练集实现基础模型的知识注入，以使基础模型和目标大语言模型能学习车辆领域知识。同时，基于第六训练集的训练，基础模型和目标大语言模型能在一定程度上适用于分类任务，或者说，基础模型和目标大语言模型可适用于根据语音请求识别API以进行分类的任务。

其中，基础模型和目标大语言模型的知识注入和分类任务处理效果提升可基于端到端(End-to-End)的训练实现。

以及，为使基础模型和目标大语言模型能可靠地完成信息提取工资，因而服务器可通过第七训练集对基础模型进行有监督微调训练，以使基础模型和目标大语言模型在前期训练和后期推理过程中，能基于简略的关键词信息确定完整的车辆领域知识，由此实现高效的信息提取。

其中，基础模型和目标大语言模型的信息提取能力提升和原子能力映射能力提升均可基于流水线并行(Pipline)的训练实现。

另外，为使基础模型和目标大语言模型在面对用于操控车辆或设定车辆功能的语音请求时，能准确或合理地确定出用于实现语音请求的应用程序接口，因而本申请实施方式的服务器还可基于第五训练集对基础模型进行有监督微调。以及，通过对应于任务“T8提示提取优化”的第八训练集，对基础模型进行相应的训练，以使基础模型和目标大语言模型能可靠地从提示中获取到用于确定“实现语音请求的应用程序接口”的关键信息。

进一步地，请参阅图4，为进一步提升基础模型和目标大语言模型的信息提取能力，因而本申请实施方式可在利用第七训练集训练基础模型的基础上，通过对应任务为“T9信息抽取任务”的第九训练集，对基础模型进行训练，从而提升基础模型从提示中抽取出关键信息或有效信息的能力。

此外，可以理解的是，本申请实施方式中不同训练集对应的任务之间可存在相应的依赖关系，如图5所示，在本申请实施方式中，基础模型进行“T3知识问答”任务、“T8提示提取优化”任务、“T2实体关系任务”及“T4拒识知识问答”任务前，可先利用第一训练集、第五训练集及第六训练集对基础模型进行训练，以使基础模型能适用于“T1实体描述”任务、“T5条件动作与接口映射”任务及“T6语音请求与接口映射”时，再利用获取到的其它训练集对基础模型进行下一步训练，以使得基础模型可适用于“T3知识问答”任务、“T8提示提取优化”任务、“T2实体关系任务”及“T4拒识知识问答”任务。

类似的，在通过对应于“T10提示原子能力激发”任务的第十训练集来训练基础模型前，可先利用第一训练集和第五训练集对基础模型进行训练，以使基础模型能适用于“T1实体描述”任务和“T5条件动作与接口映射”时，再通过第十训练集训练基础模型。

可以理解的是，本申请实施方式中的第八训练集、第九训练集及第十训练集均为可根据实际情况设置的内容。其中，第八训练集可用于优化基础模型从提示中提取出“与应用程序接口相关的重点信息”的能力，第九训练集可用于提升基础模型从提示信息中提取出“与下游任务相关的重点信息”的能力，第十训练集可用于提升基础模型根据提示信息确定应用程序接口的精度。

本申请还提供了一种计算机可读存储介质，存储有计算机程序，当计算机程序被一个或多个处理器执行时，实现上述模型训练方法。

在本说明书的描述中，参考术语“具体地”、“进一步地”、“特别地”、“可以理解地”等的描述意指结合实施方式或示例描述的具体特征、结构、材料或者特点包含于本申请的至少一个实施方式或示例中。在本说明书中，对上述术语的示意性表述不预定指的是相同的实施方式或示例。而且，描述的具体特征、结构、材料或者特点可以在任何的一个或多个实施方式或示例中以合适的方式结合。此外，在不相互矛盾的情况下，本领域的技术人员可以将本说明书中描述的不同实施例或示例以及不同实施例或示例的特征进行结合和组合。

流程图中或在此以其他方式描述的任何过程或方法描述可以被理解为，表示包括一个或更多个用于实现特定逻辑功能或过程的步骤的可执行指令的代码的模块、片段或部分，并且本申请的优选实施方式的范围包括另外的实现，其中可以不按所示出或讨论的顺序，包括根据所涉及的功能按基本同时的方式或按相反的顺序，来执行功能，这应被本申请的实施例所属技术领域的技术人员所理解。

尽管上面已经示出和描述了本申请的实施方式，可以理解的是，上述实施方式是示例性的，不能理解为对本申请的限制，本领域的普通技术人员在本申请的范围内可以对上述实施方式进行变化、修改、替换和变型。

Claims (10)

1.一种模型训练方法，其特征在于，包括：

获取多个训练集及每个所述训练集对应的目标提示信息，其中，所述多个训练集由车辆领域知识信息确定；

根据所述多个训练集和所述目标提示信息，训练预先确定的基础模型，得到目标大语言模型。

2.根据权利要求1所述的方法，其特征在于，所述多个训练集包括第一训练集，所述第一训练集包括用于询问车辆命名实体的第一语音请求，及与所述第一语音请求相对应的实体描述信息，所述根据所述多个训练集和所述目标提示信息，训练预先确定的基础模型，得到目标大语言模型，包括：

根据所述第一语音请求、所述实体描述信息及所述第一训练集对应的第一目标提示信息训练所述基础模型，得到所述目标大语言模型。

3.根据权利要求1所述的方法，其特征在于，所述多个训练集包括第二训练集，所述第二训练集包括用于询问多个车辆命名实体间关系的第二语音请求，及与所述第二语音请求相对应的关系描述信息，所述根据所述多个训练集和所述目标提示信息，训练预先确定的基础模型，得到目标大语言模型，包括：

根据所述第二语音请求、所述关系描述信息及所述第二训练集对应的第二目标提示信息训练所述基础模型，得到所述目标大语言模型。

4.根据权利要求1所述的方法，其特征在于，所述多个训练集包括第三训练集，所述第三训练集包括用于询问车辆功能的第三语音请求，及与所述第三语音请求相对应的功能知识信息，所述根据所述多个训练集和所述目标提示信息，训练预先确定的基础模型，得到目标大语言模型，包括：

根据所述第三语音请求、所述功能知识信息及所述第三训练集对应的第三目标提示信息训练所述基础模型，得到所述目标大语言模型。

5.根据权利要求1所述的方法，其特征在于，所述多个训练集包括第四训练集，所述第四训练集包括用于询问车辆功能的第四语音请求，及与所述第四语音请求相对应的拒识，所述根据所述多个训练集和所述目标提示信息，训练预先确定的基础模型，得到目标大语言模型，包括：

根据所述第四语音请求、所述拒识及所述第四训练集对应的第四目标提示信息训练所述基础模型，得到所述目标大语言模型。

6.根据权利要求1所述的方法，其特征在于，所述多个训练集包括第五训练集，所述第五训练集包括由车辆功能对应的触发条件和执行动作构成的第五语音请求，及用于实现所述第五语音请求的第一应用程序接口信息，所述根据所述多个训练集和所述目标提示信息，训练预先确定的基础模型，得到目标大语言模型，包括：

根据所述第五语音请求、所述第一应用程序接口信息及所述第五训练集对应的第五目标提示信息训练所述基础模型，得到所述目标大语言模型。

7.根据权利要求1所述的方法，其特征在于，所述多个训练集包括第六训练集，所述第六训练集包括用于确定车辆功能对应的触发条件和执行动作的第六语音请求，及用于实现所述第六语音请求的第二应用程序接口信息，所述根据所述多个训练集和所述目标提示信息，训练预先确定的基础模型，得到目标大语言模型，包括：

根据所述第六语音请求、所述第二应用程序接口信息及所述第六训练集对应的第六目标提示信息训练所述基础模型，得到所述目标大语言模型。

8.根据权利要求1所述的方法，其特征在于，所述根据所述多个训练集和所述目标提示信息，训练预先确定的基础模型，得到目标大语言模型，包括：

根据预设提示信息、所述预设提示信息对应的关键词信息、所述多个训练集及所述目标提示信息训练所述基础模型，得到所述目标大语言模型。

9.一种服务器，其特征在于，包括存储器和处理器，所述存储器中存储有计算机程序，所述计算机程序被所述处理器执行时，实现权利要求1-8任意一项所述的方法。

10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有计算机程序，当所述计算机程序被一个或多个处理器执行时，实现权利要求1-8任意一项所述的方法。