CN117633194A - 大模型提示数据处理方法、装置、电子设备及存储介质 - Google Patents
大模型提示数据处理方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN117633194A CN117633194A CN202311754725.5A CN202311754725A CN117633194A CN 117633194 A CN117633194 A CN 117633194A CN 202311754725 A CN202311754725 A CN 202311754725A CN 117633194 A CN117633194 A CN 117633194A
- Authority
- CN
- China
- Prior art keywords
- target
- prompt
- answer
- retrieval
- database
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 30
- 238000003860 storage Methods 0.000 title claims abstract description 15
- 238000012545 processing Methods 0.000 claims abstract description 47
- 238000000034 method Methods 0.000 claims description 31
- 239000013598 vector Substances 0.000 claims description 31
- 238000004590 computer program Methods 0.000 claims description 12
- 238000013473 artificial intelligence Methods 0.000 abstract description 4
- 238000005516 engineering process Methods 0.000 abstract description 4
- 238000003058 natural language processing Methods 0.000 abstract description 4
- 230000000875 corresponding effect Effects 0.000 description 38
- 238000010276 construction Methods 0.000 description 19
- 230000006870 function Effects 0.000 description 12
- 230000003068 static effect Effects 0.000 description 12
- 238000004891 communication Methods 0.000 description 8
- 238000004364 calculation method Methods 0.000 description 7
- 230000008569 process Effects 0.000 description 7
- 238000010586 diagram Methods 0.000 description 6
- 238000012216 screening Methods 0.000 description 5
- 238000012986 modification Methods 0.000 description 4
- 230000004048 modification Effects 0.000 description 4
- 230000006872 improvement Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000009471 action Effects 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 238000012544 monitoring process Methods 0.000 description 2
- 238000005457 optimization Methods 0.000 description 2
- 238000013519 translation Methods 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 238000012163 sequencing technique Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012549 training Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本公开提供了一种大模型提示数据处理方法、装置、电子设备及存储介质,涉及数据处理技术领域,具体涉及人工智能、自然语言处理及大模型技术,包括:获取目标提示问题,并确定所述目标提示问题匹配的目标检索数据库;根据所述目标提示问题对所述目标检索数据库进行检索,得到所述目标提示问题匹配的目标检索结果;其中,所述目标检索结果包括目标检索问题和目标检索答案;将所述目标检索结果与所述目标提示问题的基础提示prompt进行拼接,得到目标提示prompt。本公开实施例能够提高模型提示数据的准确性,进而提高大模型基于模型提示数据输出答案的准确性。
Description
技术领域
本公开涉及数据处理技术领域,具体涉及人工智能、自然语言处理及大模型技术。
背景技术
目前,大模型在诸如自然语言处理、计算机视觉和语音识别等人工智能领域取得了显著的成果。"prompt"(提示数据)是指向大模型提供输入以引导其生成特定输出的文本或指令。它是与大模型进行交互时用户提供的文本段落,用于描述用户想要从模型获取的信息、回答以及文本等内容。prompt的目的是引导大模型产生所需的回应,以便更好地控制生成的输出。prompt的合理性直接影响了大模型输出结果的精准度。
发明内容
本公开实施例提供了一种大模型提示数据处理方法、装置、电子设备及存储介质,能够提高模型提示数据的准确性,进而提高大模型基于模型提示数据输出答案的准确性。
第一方面,本公开实施例提供了一种大模型提示数据处理方法,包括:
获取目标提示问题,并确定所述目标提示问题匹配的目标检索数据库;
根据所述目标提示问题对所述目标检索数据库进行检索,得到所述目标提示问题匹配的目标检索结果;其中,所述目标检索结果包括目标检索问题和目标检索答案;
将所述目标检索结果与所述目标提示问题的基础提示prompt进行拼接,得到目标提示prompt。
第二方面,本公开实施例提供了一种大模型提示数据处理装置,包括:
目标检索数据库确定模块,用于获取目标提示问题,并确定所述目标提示问题匹配的目标检索数据库;
目标检索结果获取模块,用于根据所述目标提示问题对所述目标检索数据库进行检索,得到所述目标提示问题匹配的目标检索结果;其中,所述目标检索结果包括目标检索问题和目标检索答案;
目标提示prompt获取模块,用于将所述目标检索结果与所述目标提示问题的基础提示prompt进行拼接,得到目标提示prompt。
第三方面,本公开实施例提供了一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行第一方面实施例所提供的大模型提示数据处理方法。
第四方面,本公开实施例还提供了一种存储有计算机指令的非瞬时计算机可读存储介质,所述计算机指令用于使所述计算机执行第一方面实施例所提供的大模型提示数据处理方法。
第五方面,本公开实施例还提供了一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现第一方面实施例所提供的大模型提示数据处理方法。
本公开实施例通过获取目标提示问题后,确定目标提示问题匹配的目标检索数据库,并根据目标提示问题对目标检索数据库进行检索,得到目标提示问题匹配的包括目标检索问题和目标检索答案的目标检索结果,进而将目标检索结果作为问题答案示例,使其与目标提示问题的基础提示prompt进行拼接,得到目标提示prompt。由于目标提示prompt中的问题答案示例基于目标提示问题动态生成,其更符合目标提示问题的答案生成需求,可以解决现有提示prompt存在的因准确性较低导致大模型输出的答案不满足需求等问题,能够提高模型提示数据的准确性,进而提高大模型基于模型提示数据输出答案的准确性。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1是本公开实施例提供的一种大模型提示数据处理方法的流程图;
图2是本公开实施例提供的一种大模型提示数据处理方法的流程图;
图3是本公开实施例提供的一种基于大语言模型预生成的sql生成提示prompt中示例的流程示意图;
图4是本公开实施例提供的一种大模型提示数据处理方法的流程图;
图5是本公开实施例提供的一种基于问题答案文本向量数据库生成提示prompt中示例的流程示意图;
图6是本公开实施例提供的一种大模型提示数据处理装置的结构图;
图7是用来实现本公开实施例的大模型提示数据处理方法的电子设备的结构示意图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
目前,输入至大模型的提示prompt通常包括不给示例(zero-shot)或者给出静态示例(few-shot)两种生成方法。然而,当前不给示例(zero-shot)或者给出静态示例(few-shot)方法生成的提示prompt,与真实需要给出的答案之间的关联性并不强。
在一个具体的例子中,以通过大模型根据提示prompt生成sql语句(StructuredQuery Language,结构化查询语言)这种数据库查询语句为例说明,其中,不给示例的提示prompt可以包括下述内容:
现有mysql表project包含工程信息,请根据问题写出,回答该问题的sql语句。
```
CREATE TABLE`Project`(
`id`varchar(32)NOT NULL COMMENT'工程编号',
`name`varchar(128)DEFAULT NULL COMMENT'施工单位名称',
`status`varchar(32)DEFAULT NULL COMMENT'工程状态',
`location`text COMMENT'工程地点',
`revenue`int(11)DEFAULT NULL COMMENT'工程收入',
)
```
问题:请列出施工单位是工程一部的所有项目
上述提示prompt的例子中不包括示例内容,致使大模型根据该提示prompt无法精准确定用户请求生成sql语句的具体需求。
相应的,给出静态示例的提示prompt可以包括下述内容:
现有mysql表project包含工程信息,请根据问题写出,回答该问题的sql语句。
```
CREATE TABLE`project`(
`id`varchar(32)NOT NULL COMMENT'工程编号',
`name`varchar(128)DEFAULT NULL COMMENT'施工单位名称',
`status`varchar(32)DEFAULT NULL COMMENT'工程状态',
`location`text COMMENT'工程地点',
`revenue`int(11)DEFAULT NULL COMMENT'工程收入',
)
```
请参考下面的具体示例:
问题:请给出所有没有完工的工程信息
回答:
```sql
select*from project where status!='完工'
```
问题:请列出施工单位是工程一部的所有项目
在上述few-shot的例子中,示例内容包括:
```sql
select*from project where status!='完工'
```
而用户问题的答案需要的示例是:
```sql
select*from project where name='工程一部'
```
另外,如果用户需求的答案中有group by(分组统计)或sum(求和)等sql函数的情况下,大模型基于静态示例输出的答案内容与给出的示例相差也较大。
由此可见,现有没有示例或者静态示例的提示prompt,可能会与用户提出的问题不匹配,大模型基于目前的提示prompt提供答案数据时的作用就很有限。
在一个示例中,图1是本公开实施例提供的一种大模型提示数据处理方法的流程图,本实施例可适用于根据动态生成的示例生成提示prompt的情况,该方法可以由大模型提示数据处理装置来执行,该装置可以由软件和/或硬件的方式来实现,并一般可集成在电子设备中。该电子设备可以是终端设备,也可以是服务器设备,只要能够用于进行数据处理即可,并与大模型配合使用,本公开实施例并不对电子设备的具体设备类型进行限定。相应的,如图1所示,该方法包括如下操作:
S110、获取目标提示问题,并确定所述目标提示问题匹配的目标检索数据库。
其中,目标提示问题可以是需要向大模型输入的提示问题。目标检索数据库可以是用于确定目标提示问题对应的示例内容的数据库。
在本公开实施例中,当确定需要输入至大模型的目标提示问题后,可以首先确定目标提示问题匹配的目标检索数据库。可选的,目标检索数据库可以预先构建,例如采集各类问题和答案的数据组,以根据各数据组构建目标检索数据库。目标检索数据库中的每一个数据组可以包括一个问题和对应的答案,其中,问题对应的答案的数量可以是一个或多个。目标检索数据库的类型可以根据实际需求配置,例如可以是文本向量的数据库,也还可以是关键字、关键词以及短句等构建的数据库,只要能够用于对目标提示问题提供检索匹配功能以输出对应的示例内容即可,本公开实施例并不对目标检索数据库的类型以及目标检索数据库内存储的数据内容和数据类型进行限定。
可选的,目标提示问题的类型可以任意的。例如,目标提示问题可以用于提示目标大模型生成数据库查询语句即sql语句;目标提示问题还可以用于提示目标大模型生成某种程序语言对应的编程语句或编程程序等;或者,目标提示问题还可以用于提示目标大模型生成某一方面的策略内容,如业务处理流程、知识点解答过程、美食制作教程或减肥日程安排等。
S120、根据所述目标提示问题对所述目标检索数据库进行检索,得到所述目标提示问题匹配的目标检索结果;其中,所述目标检索结果包括目标检索问题和目标检索答案。
其中,目标检索结果也即将目标提示问题作为输入query(查询)输入至目标检索数据库进行检索得到的结果。目标检索问题可以是目标检索结果中包括的问题。目标检索答案可以是目标检索结果中包括的答案。目标检索问题和目标检索答案是一组问题和答案的数据组。目标检索答案可以用于解答目标检索问题。
由于目标检索数据库中存储的数据为各类问题和答案的数据组,因此,当将目标提示问题输入目标检索数据库中进行检索匹配时,可以得到包括目标检索问题和目标检索答案的目标检索结果。其中,目标检索问题与目标提示问题的问题内容可以相同或不同。可以理解的是,由于目标检索数据库中存储的数据是预先处理的,因此,大概率情况下,目标检索问题与目标提示问题的问题类型是相匹配的,但是包括的问题内容可能不同。但目标检索答案必然是与目标检索问题相匹配的,能够作为标准参考以解决目标检索问题。
在一个具体的例子中,以生成sql语句为例说明,假设目标提示问题为“问题:请列出施工单位是工程一部的所有项目”,那么,基于该目标提示问题从目标检索数据库中检索到的目标检索结果可以为:
问题:请列出施工单位是工程二部的所有项目
回答:
```sql
select*from project where name='工程二部'
```
在上述示例中,目标检索问题为“问题:请列出施工单位是工程二部的所有项目”,目标检索答案为:
```sql
select*from project where name='工程二部'
```
在另外一个具体的例子中,以翻译场景为例说明,假设目标提示问题为“问题:请采用英语翻译“你好””,那么,基于该目标提示问题从目标检索数据库中检索到的目标检索结果可以为:
问题:请采用英语翻译“早上好”
回答:Good Morning!
在上述示例中,目标检索问题为“请采用英语翻译“你好””,目标检索答案为“GoodMorning!”。
S130、将所述目标检索结果与所述目标提示问题的基础提示prompt进行拼接,得到目标提示prompt。
其中,基础提示prompt可以是由基础数据和目标提示问题所构成的,没有示例内容的提示prompt。基础数据可以是对目标提示问题提供参考的或进行分析的数据。目标提示prompt可以是将目标检索结果和基础提示prompt组合得到的提示prompt。
相应的,在检索得到目标检索结果后,即可将目标检索结果作为动态的示例内容,将其添加到目标提示问题的基础提示prompt中,以拼接得到目标提示prompt。
在一个具体的例子中,目标提示prompt可以为下述内容:
现有mysql表project包含工程信息,请根据问题写出,回答该问题的sql语句。
```
CREATE TABLE`project`(
`id`varchar(32)NOT NULL COMMENT'工程编号',
`name`varchar(128)DEFAULT NULL COMMENT'施工单位名称',
`status`varchar(32)DEFAULT NULL COMMENT'工程状态',
`location`text COMMENT'工程地点',
`revenue`int(11)DEFAULT NULL COMMENT'工程收入',
)
```
请参考下面的具体示例:
问题:请列出施工单位是建筑一部的所有项目
回答:
```sql
select*from project where name='建筑一部'
```
问题:请列出施工单位是工程一部的所有项目
在上述目标提示prompt中,目标提示问题为“请列出施工单位是工程一部的所有项目”。目标提示问题的基础提示prompt的内容为:
现有mysql表project包含工程信息,请根据问题写出,回答该问题的sql语句。
```
CREATE TABLE`project`(
`id`varchar(32)NOT NULL COMMENT'工程编号',
`name`varchar(128)DEFAULT NULL COMMENT'施工单位名称',
`status`varchar(32)DEFAULT NULL COMMENT'工程状态',
`location`text COMMENT'工程地点',
`revenue`int(11)DEFAULT NULL COMMENT'工程收入',
)
```
请参考下面的具体示例:
目标检索结果的内容为:
问题:请列出施工单位是建筑一部的所有项目
回答:
```sql
select*from project where name='建筑一部'
```
由此可见,由于目标提示prompt中包括了满足目标提示问题的答案需求的问题答案示例,因此,将目标提示prompt输入至大模型后,大模型可以对接收到的目标提示prompt进行解析,并参考目标提示prompt中的目标检索问题和目标检索答案等示例内容,输出目标提示问题匹配的答案内容,其输出的答案内容准确性更高。
本公开实施例通过获取目标提示问题后,确定目标提示问题匹配的目标检索数据库,并根据目标提示问题对目标检索数据库进行检索,得到目标提示问题匹配的包括目标检索问题和目标检索答案的目标检索结果,进而将目标检索结果作为问题答案示例,使其与目标提示问题的基础提示prompt进行拼接,得到目标提示prompt。由于目标提示prompt中的问题答案示例基于目标提示问题动态生成,其更符合目标提示问题的答案生成需求,可以解决现有提示prompt存在的因准确性较低导致大模型输出的答案不满足需求等问题,能够提高模型提示数据的准确性,进而提高大模型基于模型提示数据输出答案的准确性。
在一个示例中,图2是本公开实施例提供的一种大模型提示数据处理方法的流程图,本公开实施例在上述各实施例的技术方案的基础上进行了优化改进,以目标骨架特征数据库作为目标检索数据库,给出了根据目标提示问题对目标检索数据库进行检索以获取目标提示问题匹配的目标检索结果的多种具体可选的实现方式。
如图2所示的一种大模型提示数据处理方法,包括:
S210、获取目标提示问题,并确定所述目标提示问题匹配的目标骨架特征数据库。
在本公开的一个可选实施例中,所述目标检索数据库可以包括目标骨架特征数据库,所述目标骨架特征数据库的数据可以为问题、答案和骨架特征的组合。
其中,目标骨架特征数据库存储的数据组除了可以包括问题和对应的答案数据,还可以进一步包括骨架特征。骨架特征可以理解为数据中的关键字、关键字段或关键的文本向量信息构成的特征。可选的,骨架特征可以是数据组中答案数据对应的特征。
可选的,目标骨架特征数据库可以预先配置。例如,当需要利用大模型输出sql语句时,可以将query作为问题、将对应的sql语句作为答案,并将sql语句的关键字段作为骨架特征,从而构建以“query+sql语句+sql骨架特征”的数据组内容。当需要利用大模型输出某一语言类型的程序内容时,可以将程序功能或程序类型作为问题、将对应的程序内容作为答案,并将程序内容的关键字段作为骨架特征,从而构建以“程序功能(或程序类型)+程序内容+程序内容骨架特征”的数据组内容。
S220、确定所述目标提示问题的初级提示prompt。
其中,初级提示prompt可以是根据目标提示问题初步构建的提示prompt。可选的,初级提示prompt中可以包括静态示例,或者,初级提示prompt还可以不包括示例。
在本公开实施例中,当确定采用目标骨架特征数据库作为目标检索数据库时,在获取到目标提示问题后,可以首先根据目标提示问题生成对应的初级提示prompt。
在本公开的一个可选实施例中,确定所述目标提示问题的初级提示prompt,可以包括:确定所述初级提示prompt的问题答案示例内容;对所述初级提示prompt的问题答案示例内容和所述初级提示prompt的基础数据进行拼接,得到所述初级提示prompt。
其中,初级提示prompt的问题答案示例内容可以是静态类型的包括问题和对应答案的示例内容。所谓静态类型的示例内容也即示例内容中包括的问题和答案内容与目标提示问题的匹配度不一定满足需求。示例性的,初级提示prompt的问题答案示例内容可以根据目标提示问题所属的技术领域随机生成。初级提示prompt的基础数据可以是目标提示问题对应的基础数据。
可选的,初级提示prompt可以由基础数据、目标提示问题和静态示例内容构成,其中,静态示例内容可以为空,也还可以不为空。通过构建初级提示prompt,并将其输入至大模型进行处理,可以实现目标提示问题对应输出答案的预先生成,有利于利用大模型的智能化和自动化性能自动预处理目标提示问题的答案内容。
在一个具体的例子中,假设目标提示问题为“请列出施工单位是工程一部的所有项目”,则根据目标提示问题可以生成无示例内容的初级提示prompt,初级提示prompt可以包括下述内容:
现有mysql表project包含工程信息,请根据问题写出,回答该问题的sql语句。
```
CREATE TABLE`Project`(
`id`varchar(32)NOT NULL COMMENT'工程编号',
`name`varchar(128)DEFAULT NULL COMMENT'施工单位名称',
`status`varchar(32)DEFAULT NULL COMMENT'工程状态',
`location`text COMMENT'工程地点',
`revenue`int(11)DEFAULT NULL COMMENT'工程收入',
)
```
问题:请列出施工单位是工程一部的所有项目
可选的,还可以根据上述目标提示问题生成包括静态示例内容的初级提示prompt,初级提示prompt可以包括下述内容:
现有mysql表project包含工程信息,请根据问题写出,回答该问题的sql语句。
```
CREATE TABLE`project`(
`id`varchar(32)NOT NULL COMMENT'工程编号',
`name`varchar(128)DEFAULT NULL COMMENT'施工单位名称',
`status`varchar(32)DEFAULT NULL COMMENT'工程状态',
`location`text COMMENT'工程地点',
`revenue`int(11)DEFAULT NULL COMMENT'工程收入',
)
```
请参考下面的具体示例:
问题:请给出所有没有完工的工程信息
回答:
```sql
select*from project where status!='完工'
```
问题:请列出施工单位是工程一部的所有项目
S230、将所述初级提示prompt输入至目标大模型,以通过所述目标大模型生成初始示例答案。
其中,目标大模型可以是能够处理提示prompt输出对应答案的任意类型的大模型,如GPT(Generative Pre-Training,生成式预训练)等LLM(Large Language Model,大语言模型,也可称为大模型)模型等,本公开实施例并不对目标大模型的类型进行限定。
其中,初始示例答案可以是将初级提示prompt输入至目标大模型后,由目标大模型根据初级提示prompt预生成的答案。
可以理解的是,由于初级提示prompt中的示例内容为空或者为静态的示例内容,因此,目标大模型根据初级提示prompt输出的初始示例答案与目标提示问题的契合度较低。
S240、计算所述初始示例答案的答案骨架特征。
其中,答案骨架特征可以是从初始示例答案中提取的关键信息所构成的特征。
相应的,在获取到初始示例答案之后,即可提取初始示例答案的答案骨架特征。可以理解的是,答案骨架特征可以良好地反应初始示例答案的关键特征。
在本公开的一个可选实施例中,所述计算所述初始示例答案的答案骨架特征,可以包括:提取所述初始示例答案的关键词和语义向量;根据所述初始示例答案的关键词和语义向量生成所述初始示例答案的答案骨架特征。
在一个具体的例子中,以通过大模型生成sql语句为例说明,对于通过大模型预生成的sql语句作为初始示例答案,并提取预生成的sql语句中的sql骨架特征。可选的,sql骨架特征可以包括以下至少一项:
1)、sql函数,比如sum、count(计算包含数字的单元格个数以及参数列表中数字的个数的函数)、group by以及sort(对数组元素进行排序的函数)等;
2)、sql中所包含的列名称;
3)、sql中所使用的值比较的条件,比如like、“=”、“<”以及“>”等;
4)、sql语义向量化的向量。
上述技术方案,通过提取初始示例答案的关键词和语义向量等关键信息作为答案骨架特征,可以使得答案骨架特征包括初始示例答案丰富的特征信息,从而提高目标检索结果与目标提示问题的匹配度。可以理解的是,答案骨架特征越丰富,则利用答案骨架特征检索到的目标检索结果与目标提示问题的匹配度越高。目标检索结果与目标提示问题的匹配度越高,则目标检索结果对大模型生成目标答案的正向作用越明显。
S250、根据所述答案骨架特征对所述目标骨架特征数据库进行检索,得到所述目标提示问题匹配的目标检索结果。
相应的,在计算得到初始示例答案的各答案骨架特征之后,即可将答案骨架特征作为query,将答案骨架特征输入至目标骨架特征数据库进行检索匹配。可选的,答案骨架特征的数量可以是一个或多个。基于每个答案骨架特征可以对目标骨架特征数据库检索召回得到多个检索结果。在获取到各答案骨架特征对目标骨架特征数据库进行检索召回的结果后,对其进行筛选,可以选取与目标提示问题最匹配的其中一个检索结果作为目标检索结果。
上述技术方案,通过利用目标大模型对基于目标提示问题构造的初级提示prompt预生成初始示例答案,并基于初始示例答案的答案骨架特征对目标骨架特征数据库进行检索,可以得到与目标提示问题匹配的目标检索问题和目标检索答案作为最终的目标检索结果,将目标检索结果作为示例内容添加至目标提示问题的基础提示prompt,实现了提示prompt中动态示例的配置,提高了提示prompt与提示问题之间的关联性和契合度。
在本公开的一个可选实施例中,所述根据所述答案骨架特征对所述目标骨架特征数据库进行检索,得到所述目标提示问题匹配的目标检索结果,可以包括:根据所述答案骨架特征对所述目标骨架特征数据库进行检索,得到多个备选检索结果;根据各所述备选检索结果的统计数量确定所述目标检索结果。
其中,备选检索结果可以根据答案骨架特征对目标骨架特征数据库进行检索得到的初步检索结果。
可以理解的是,每个答案骨架特征可以对应检索到一个或多个备选检索结果。各答案骨架特征对应检索到的备选检索结果可以相同,可以不同,也还可以部分相同。因此,在根据答案骨架特征对目标骨架特征数据库进行检索得到多个备选检索结果后,可以对每个备选检索结果对应的检索数量进行统计,得到各备选检索结果的统计数量,进而根据各备选检索结果的统计数量从各备选检索结果中筛选目标检索结果。
可以理解的是,备选检索结果的统计数量可以有效反应其与目标提示问题的匹配度。备选检索结果的统计数量越大,表明该备选检索结果的召回率越高,其与目标提示问题的关联性和契合度越高,也即将该备选检索结果作为示例内容所构建的目标提示prompt的准确率越高。因此,依据各备选检索结果的统计数量确定的目标检索结果的准确率较高。
在本公开的一个可选实施例中,所述根据各所述备选检索结果的统计数量确定所述目标检索结果,可以包括:根据各所述备选检索结果的统计数量确定目标备选检索结果;在确定所述目标备选检索结果唯一的情况下,将所述目标备选检索结果作为所述目标检索结果。
其中,目标备选检索结果可以是统计数量的数值最大的备选检索结果。
在本公开实施例中,在分析统计得到各备选检索结果的统计数量之后,可以进一步对各备选检索结果的统计数量进行分析,将统计数量的最大值对应的备选检索结果确定为目标备选检索结果。进一步的,如果目标备选检索结果的数量仅有一个,则无需再次进行筛选,可以直接将该目标备选检索结果作为目标检索结果。
在一个具体的例子中,假设答案骨架特征1对应的备选检索结果为结果A和结果B,答案骨架特征2对应的备选检索结果为结果A和结果C,答案骨架特征3对应的备选检索结果为结果A和结果D,则备选检索结果A的统计数量为3,且该统计数量的值最大,则可以直接将结果A作为目标检索结果。
在本公开的一个可选实施例中,所述根据各所述备选检索结果的统计数量确定所述目标检索结果,可以包括:根据各所述备选检索结果的统计数量确定目标备选检索结果;在确定所述目标备选检索结果为多个的情况下,计算所述目标备选检索结果的目标检索问题与所述目标提示问题之间的文本相似度;根据所述文本相似度的排序结果,从各所述目标备选检索结果中确定所述目标检索结果。
进一步的,如果目标备选检索结果的数量有多个,也即统计数量最大值有多个,则需要再次对各目标备选检索结果进行二次筛选,以根据二次筛选结果确定目标检索结果。在对各目标备选检索结果进行二次筛选时,可以首先计算各目标备选检索结果的目标检索问题与目标提示问题之间的文本相似度,并对计算的文本相似度进行排序,选择文本相似度值最大的目标备选检索结果作为目标检索结果。
在一个具体的例子中,假设答案骨架特征1对应的备选检索结果为结果A和结果B,答案骨架特征2对应的备选检索结果为结果A和结果C,答案骨架特征3对应的备选检索结果为结果B和结果D,则结果A和结果B的统计数量为2,且该统计数量的值最大,则可以将结果A和结果B作为目标检索结果。
在一个具体的例子中,以通过大模型生成sql语句为例说明,假设目标提示问题为query0,如果目标备选检索结果的数量为两个,其中一个目标备选检索结果包括queryA+sqlA,另外一个目标备选检索结果包括queryB+sqlB,则可以分别计算query0和queryA之间的文本相似度,得到相似度计算结果A,并计算query0和queryB之间的文本相似度,得到相似度计算结果B。进一步的,判断相似度计算结果A和相似度计算结果B的大小关系,如果相似度计算结果A的数值大于相似度计算结果B的数值,则可以将queryA+sqlA作为目标检索结果。
上述技术方案,在目标备选检索结果为多个的情况下,通过对各目标备选检索结果中包括的目标检索问题计算与目标提示问题之间的文本相似度,并以文本相似度为依据对各目标备选检索结果进行二次筛选,可以进一步提高目标检索结果与目标提示问题的匹配度。
S260、将所述目标检索结果与所述目标提示问题的基础提示prompt进行拼接,得到目标提示prompt。
在本公开的一个可选实施例中,在得到目标提示prompt之后,还可以包括:将所述目标提示prompt输入至目标大模型,得到所述目标大模型根据所述目标提示prompt输出的目标答案;根据所述目标答案执行目标数据处理操作。
其中,目标答案可以是目标大模型对目标提示prompt进行解析处理后输出的内容。目标数据处理操作可以是需要执行的某种类型的数据操作。
相应的,在得到目标提示prompt之后,即可将目标提示prompt输入至目标大模型中,目标大模型对接收的目标提示prompt进行解析处理,具体可以参考目标提示prompt中目标检索结果的示例内容对目标提示prompt中的目标提示问题进行分析,从而输出目标提示prompt中目标提示问题对应的目标答案。用户则可以基于目标提示问题对应的目标答案执行一些目标数据处理操作。
上述技术方案通过目标大模型对目标提示prompt输出的目标答案执行目标数据处理操作,可以利用目标大模型的智能性和自动化性能,提高目标数据处理操作的高效性。
示例性的,当目标提示问题用于指示目标大模型生成对应的sql语句时,用户可以基于目标大模型对目标提示prompt输出的sql语句对数据库中的数据进行处理,如对数据库执行提取、更新、删除、插入和创建数据等数据处理操作。基于此,即便用户不具备sql能力,也能利用目标大模型快速且准确地对数据库按需执行数据处理操作。
示例性的,当目标提示问题用于指示目标大模型生成对应的软件程序时,用户可以基于目标大模型对目标提示prompt输出的软件程序执行相应的数据处理操作,如利用日志监控程序对系统日志实时执行日志监控,或利用购票程序实现线上购票等。基于此,即便用户不具备软件开发能力,也能利用目标大模型快速且准确地获取相应的软件程序,并利用软件程序按需执行数据处理操作。
目前,实现自然语言转换成sql语句的技术简称nl2sql(Natural Language toStructured Query Language,将自然语言转换为SQL查询),nl2sql的方案可以以大语言模型来生成,需要给大语言模型输入prompt用于生成nl2sql。本公开实施例即提供了一种基于自然语言处理对数据库问答的解决方案。图3是本公开实施例提供的一种基于大语言模型预生成的sql生成提示prompt中示例的流程示意图。在一个具体的例子中,如图3所示,以通过目标大模型生成sql语句的应用场景为例说明,上述大模型提示数据处理方法可以包括下述操作:
步骤一、将输入的query作为目标提示问题,使用没有示例或者静态示例的方法,对其构建初级提示prompt后输入至大语言模型中,以使用大语言模型对初级提示prompt预生成初始的sql。
步骤二、根据第一步预生成的初始的sql,计算sql骨架特征,可选的,sql骨架特征可以包括下述至少之一:
1)sql函数,比如sum、count、group by以及sort等;
2)sql中所包含的列名称;
3)sql中所使用的值比较的条件,比如like等;
4)sql语义向量化的向量.
步骤三、基于第二步生成的sql骨架特征,分别对sql骨架数据库进行检索召回,可以得到多个备选的query/sql结果。进一步对多个备选的query/sql结果的统计数量进行排序,将统计数量最多的sql作为目标检索结果。如果统计数量最多的sql有多个的情况,则可以计算统计数量最多的sql对应的query与输入query之间的相似度,并以计算的相似度作为二次排序的依据,选择出相似度最高的query/sql结果作为最终的示例内容。
这样就可以得到query/sql的示例信息,可以将其作为动态产生的示例,连同输入的query一起拼接到prompt中,得到目标提示prompt。
上述技术方案,通过利用大模型预生成目标提示问题的初级提示prompt,并基于初始示例答案的答案骨架特征对目标骨架特征数据库进行检索,得到目标提示问题匹配的多个备选检索结果,进一步根据各备选检索结果的统计数量确定目标检索结果,以将目标检索结果作为示例内容与目标提示问题的基础提示prompt进行拼接,得到目标提示prompt,实现了动态生成提示prompt中示例内容的方式,使得生成的提示prompt更具合理性,能够提高模型提示数据的准确性,进而提高大模型基于模型提示数据输出答案的准确性。
在一个示例中,图4是本公开实施例提供的一种大模型提示数据处理方法的流程图,本公开实施例在上述各实施例的技术方案的基础上进行了优化改进,以问题答案文本向量数据库作为目标检索数据库,给出了根据目标提示问题对目标检索数据库进行检索以获取目标提示问题匹配的目标检索结果的多种具体可选的实现方式。
如图4所示的一种大模型提示数据处理方法,包括:
S310、获取目标提示问题,并确定所述目标提示问题匹配的问题答案文本向量数据库。
S320、计算所述目标提示问题与所述目标检索数据库中各检索对象之间的文本相似度。
其中,问题答案文本向量数据库可以是预先构建的问题与答案数据的数据库,该数据库可以存储问题与答案数据的语义向量信息。目标检索数据库中的检索对象可以为问题和答案的语义向量数据组。
S330、根据所述目标提示问题与所述目标检索数据库中各检索对象之间的文本相似度,确定所述目标提示问题匹配的目标检索结果。
可以理解的是,虽然通过大模型预生成目标提示问题的初始示例答案的方式所动态生成的示例内容与目标提示问题更加贴近,准确度和合理性更高。但是由于引入了大模型的二次应用,可能在性能上会有所损失。如果对性能有要求,可以将问题答案文本向量数据库作为目标检索数据库,在获取到目标提示问题后,可以直接根据目标提示问题对问题答案文本向量数据库进行检索匹配。在根据目标提示问题对问题答案文本向量数据库进行检索匹配的过程中,可以计算目标提示问题与目标检索数据库中检索对象包括的问题计算文本相似度,并将文本相似度解释结果最高的检索对象作为目标提示问题匹配的目标检索结果。
S340、将所述目标检索结果与所述目标提示问题的基础提示prompt进行拼接,得到目标提示prompt。
在本公开的一个可选实施例中,在得到目标提示prompt之后,还可以包括:将所述目标提示prompt输入至目标大模型,得到所述目标大模型根据所述目标提示prompt输出的目标答案;根据所述目标答案执行目标数据处理操作。
相应的,在得到目标提示prompt之后,即可将目标提示prompt输入至目标大模型中,目标大模型对接收的目标提示prompt进行解析处理,具体可以参考目标提示prompt中目标检索结果的示例内容对目标提示prompt中的目标提示问题进行分析,从而输出目标提示prompt中目标提示问题对应的目标答案。用户则可以基于目标提示问题对应的目标答案执行一些目标数据处理操作。
上述技术方案通过目标大模型对目标提示prompt输出的目标答案执行目标数据处理操作,可以利用目标大模型的智能性和自动化性能,提高目标数据处理操作的高效性。
示例性的,当目标提示问题用于指示目标大模型生成对应的sql语句时,用户可以基于目标大模型对目标提示prompt输出的sql语句对数据库中的数据进行处理,如对数据库执行提取、更新、删除、插入和创建数据等数据处理操作。基于此,即便用户不具备sql能力,也能利用目标大模型快速且准确地对数据库按需执行数据处理操作。
示例性的,当目标提示问题用于指示目标大模型生成对应的软件程序时,用户可以基于目标大模型对目标提示prompt输出的软件程序执行相应的数据处理操作,如利用日志监控程序对系统日志实时执行日志监控,或利用购票程序实现线上购票等。基于此,即便用户不具备软件开发能力,也能利用目标大模型快速且准确地获取相应的软件程序,并利用软件程序按需执行数据处理操作。
图5是本公开实施例提供的一种基于问题答案文本向量数据库生成提示prompt中示例的流程示意图。在一个具体的例子中,如图5所示,以通过目标大模型生成sql语句的应用场景为例说明,上述大模型提示数据处理方法可以包括下述操作:
步骤一、离线构建query/sql的文本向量数据库,其中,query/sql数据组中的query可以进行语义向量化。
步骤二、确定需要输入大模型的提问query。
步骤三、当需要利用大模型生成提问query对应的sql时,从query/sql的文本向量数据库中检索出与提问query匹配的目标检索query。目标检索query与输入大模型的提问query具有较高的相似度。
步骤四、根据目标检索query确定文本向量数据库中目标检索query对应的目标检索sql,得到检索到的query/sql对。
步骤五、根据提问query构建基础提示prompt,并将检索到的query/sql作为示例对添加至基础提示prompt中,得到最终的目标提示prompt。
步骤六、将目标提示prompt输入至大模型中,以通过大模型参考目标提示prompt中的示例内容,对目标提示prompt包括的提问query输出匹配的sql答案。
上述技术方案,通过以问题答案文本向量数据库作为目标检索数据库,并根据目标提示问题对问题答案文本向量数据库进行检索,得到目标提示问题匹配的包括目标检索问题和目标检索答案的目标检索结果,进而将目标检索结果作为问题答案示例,使其与目标提示问题的基础提示prompt进行拼接,得到目标提示prompt。由于目标提示prompt中的问题答案示例基于目标提示问题动态生成,其更符合目标提示问题的答案生成需求,可以解决现有提示prompt存在的因准确性较低导致大模型输出的答案不满足需求等问题,不仅可以降低模型提示数据生成的性能需求,而且能够提高模型提示数据的准确性和生成效率,进而提高大模型基于模型提示数据输出答案的准确性。
需要说明的是,以上各实施例中各技术特征之间的任意排列组合也属于本公开的保护范围。
在一个示例中,图6是本公开实施例提供的一种大模型提示数据处理装置的结构图,本公开实施例可适用于根据动态生成的示例生成提示prompt的情况,该装置通过软件和/或硬件实现,并具体配置于电子设备中。该电子设备可以是终端设备,也可以是服务器设备,只要能够用于进行数据处理即可,并与大模型配合使用,本公开实施例并不对电子设备的具体设备类型进行限定。
如图6所示的一种大模型提示数据处理装置400,包括:目标检索数据库确定模块410、目标检索结果获取模块420和目标提示prompt获取模块430。其中,
目标检索数据库确定模块410,用于获取目标提示问题,并确定所述目标提示问题匹配的目标检索数据库;
目标检索结果获取模块420,用于根据所述目标提示问题对所述目标检索数据库进行检索,得到所述目标提示问题匹配的目标检索结果;其中,所述目标检索结果包括目标检索问题和目标检索答案;
目标提示prompt获取模块430,用于将所述目标检索结果与所述目标提示问题的基础提示prompt进行拼接,得到目标提示prompt。
本公开实施例通过获取目标提示问题后,确定目标提示问题匹配的目标检索数据库,并根据目标提示问题对目标检索数据库进行检索,得到目标提示问题匹配的包括目标检索问题和目标检索答案的目标检索结果,进而将目标检索结果作为问题答案示例,使其与目标提示问题的基础提示prompt进行拼接,得到目标提示prompt。由于目标提示prompt中的问题答案示例基于目标提示问题动态生成,其更符合目标提示问题的答案生成需求,可以解决现有提示prompt存在的因准确性较低导致大模型输出的答案不满足需求等问题,能够提高模型提示数据的准确性,进而提高大模型基于模型提示数据输出答案的准确性。
可选的,所述目标检索数据库包括目标骨架特征数据库,所述目标骨架特征数据库的数据为问题、答案和骨架特征的组合;目标检索结果获取模块420具体用于:确定所述目标提示问题的初级提示prompt;将所述初级提示prompt输入至目标大模型,以通过所述目标大模型生成初始示例答案;计算所述初始示例答案的答案骨架特征;根据所述答案骨架特征对所述目标骨架特征数据库进行检索,得到所述目标提示问题匹配的目标检索结果。
可选的,目标检索结果获取模块420具体用于:确定所述初级提示prompt的问题答案示例内容;对所述初级提示prompt的问题答案示例内容和所述初级提示prompt的基础数据进行拼接,得到所述初级提示prompt。
可选的,目标检索结果获取模块420具体用于:提取所述初始示例答案的关键词和语义向量;根据所述初始示例答案的关键词和语义向量生成所述初始示例答案的答案骨架特征。
可选的,目标检索结果获取模块420具体用于:根据所述答案骨架特征对所述目标骨架特征数据库进行检索,得到多个备选检索结果;根据各所述备选检索结果的统计数量确定所述目标检索结果。
可选的,目标检索结果获取模块420具体用于:根据各所述备选检索结果的统计数量确定目标备选检索结果;在确定所述目标备选检索结果唯一的情况下,将所述目标备选检索结果作为所述目标检索结果。
可选的,目标检索结果获取模块420具体用于:根据各所述备选检索结果的统计数量确定目标备选检索结果;在确定所述目标备选检索结果为多个的情况下,计算所述目标备选检索结果的目标检索问题与所述目标提示问题之间的文本相似度;根据所述文本相似度的排序结果,从各所述目标备选检索结果中确定所述目标检索结果。
可选的,所述目标检索数据库包括问题答案文本向量数据库;目标检索结果获取模块420具体用于:计算所述目标提示问题与所述目标检索数据库中各检索对象之间的文本相似度;根据所述目标提示问题与所述目标检索数据库中各检索对象之间的文本相似度,确定所述目标提示问题匹配的目标检索结果。
可选的,上述装置还包括目标数据处理模块,用于:将所述目标提示prompt输入至目标大模型,得到所述目标大模型根据所述目标提示prompt输出的目标答案;根据所述目标答案执行目标数据处理操作。
可选的,所述目标提示问题用于提示目标大模型生成数据库查询语句。
上述大模型提示数据处理装置可执行本公开任意实施例所提供的大模型提示数据处理方法,具备执行方法相应的功能模块和有益效果。未在本实施例中详尽描述的技术细节,可参见本公开任意实施例提供的大模型提示数据处理方法。
由于上述所介绍的大模型提示数据处理装置为可以执行本公开实施例中的大模型提示数据处理方法的装置,故而基于本公开实施例中所介绍的大模型提示数据处理方法,本领域所属技术人员能够了解本实施例的大模型提示数据处理装置的具体实施方式以及其各种变化形式,所以在此对于该大模型提示数据处理装置如何实现本公开实施例中的大模型提示数据处理方法不再详细介绍。只要本领域所属技术人员实施本公开实施例中大模型提示数据处理方法所采用的装置,都属于本公开所欲保护的范围。
在一个示例中,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图7示出了可以用来实施本公开的实施例的示例电子设备500的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图7所示,设备500包括计算单元501,其可以根据存储在只读存储器(ROM)502中的计算机程序或者从存储单元508加载到随机访问存储器(RAM)503中的计算机程序,来执行各种适当的动作和处理。在RAM 503中,还可存储设备500操作所需的各种程序和数据。计算单元501、ROM 502以及RAM 503通过总线504彼此相连。输入/输出(I/O)接口505也连接至总线504。
设备500中的多个部件连接至I/O接口505,包括:输入单元506,例如键盘、鼠标等;输出单元507,例如各种类型的显示器、扬声器等;存储单元508,例如磁盘、光盘等;以及通信单元509,例如网卡、调制解调器、无线通信收发机等。通信单元509允许设备500通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元501可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元501的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元501执行上文所描述的各个方法和处理,例如大模型提示数据处理方法。
例如,在一些实施例中,大模型提示数据处理方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元508。在一些实施例中,计算机程序的部分或者全部可以经由ROM 502和/或通信单元509而被载入和/或安装到设备500上。当计算机程序加载到RAM 503并由计算单元501执行时,可以执行上文描述的大模型提示数据处理方法的一个或多个步骤。备选地,在其他实施例中,计算单元501可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行大模型提示数据处理方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、复杂可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的系统和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如,作为数据服务器)、或者包括中间件部件的计算系统(例如,应用服务器)、或者包括前端部件的计算系统(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将系统的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)、区块链网络和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与VPS服务中,存在的管理难度大,业务扩展性弱的缺陷。服务器还可以分布式系统的服务器,或者是结合了区块链的服务器。
本公开实施例通过获取目标提示问题后,确定目标提示问题匹配的目标检索数据库,并根据目标提示问题对目标检索数据库进行检索,得到目标提示问题匹配的包括目标检索问题和目标检索答案的目标检索结果,进而将目标检索结果作为问题答案示例,使其与目标提示问题的基础提示prompt进行拼接,得到目标提示prompt。由于目标提示prompt中的问题答案示例基于目标提示问题动态生成,其更符合目标提示问题的答案生成需求,可以解决现有提示prompt存在的因准确性较低导致大模型输出的答案不满足需求等问题,能够提高模型提示数据的准确性,进而提高大模型基于模型提示数据输出答案的准确性。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。
Claims (23)
1.一种大模型提示数据处理方法,包括:
获取目标提示问题,并确定所述目标提示问题匹配的目标检索数据库;
根据所述目标提示问题对所述目标检索数据库进行检索,得到所述目标提示问题匹配的目标检索结果;其中,所述目标检索结果包括目标检索问题和目标检索答案;
将所述目标检索结果与所述目标提示问题的基础提示prompt进行拼接,得到目标提示prompt。
2.根据权利要求1所述的方法,其中,所述目标检索数据库包括目标骨架特征数据库,所述目标骨架特征数据库的数据为问题、答案和骨架特征的组合;
所述根据所述目标提示问题对所述目标检索数据库进行检索,得到所述目标提示问题匹配的目标检索结果,包括:
确定所述目标提示问题的初级提示prompt;
将所述初级提示prompt输入至目标大模型,以通过所述目标大模型生成初始示例答案;
计算所述初始示例答案的答案骨架特征;
根据所述答案骨架特征对所述目标骨架特征数据库进行检索,得到所述目标提示问题匹配的目标检索结果。
3.根据权利要求2所述的方法,其中,确定所述目标提示问题的初级提示prompt,包括:
确定所述初级提示prompt的问题答案示例内容;
对所述初级提示prompt的问题答案示例内容和所述初级提示prompt的基础数据进行拼接,得到所述初级提示prompt。
4.根据权利要求2所述的方法,其中,所述计算所述初始示例答案的答案骨架特征,包括:
提取所述初始示例答案的关键词和语义向量;
根据所述初始示例答案的关键词和语义向量生成所述初始示例答案的答案骨架特征。
5.根据权利要求2所述的方法,其中,所述根据所述答案骨架特征对所述目标骨架特征数据库进行检索,得到所述目标提示问题匹配的目标检索结果,包括:
根据所述答案骨架特征对所述目标骨架特征数据库进行检索,得到多个备选检索结果;
根据各所述备选检索结果的统计数量确定所述目标检索结果。
6.根据权利要求5所述的方法,其中,所述根据各所述备选检索结果的统计数量确定所述目标检索结果,包括:
根据各所述备选检索结果的统计数量确定目标备选检索结果;
在确定所述目标备选检索结果唯一的情况下,将所述目标备选检索结果作为所述目标检索结果。
7.根据权利要求5所述的方法,其中,所述根据各所述备选检索结果的统计数量确定所述目标检索结果,包括:
根据各所述备选检索结果的统计数量确定目标备选检索结果;
在确定所述目标备选检索结果为多个的情况下,计算所述目标备选检索结果的目标检索问题与所述目标提示问题之间的文本相似度;
根据所述文本相似度的排序结果,从各所述目标备选检索结果中确定所述目标检索结果。
8.根据权利要求1所述的方法,其中,所述目标检索数据库包括问题答案文本向量数据库;
所述根据所述目标提示问题对所述目标检索数据库进行检索,得到所述目标提示问题匹配的目标检索结果,包括:
计算所述目标提示问题与所述目标检索数据库中各检索对象之间的文本相似度;
根据所述目标提示问题与所述目标检索数据库中各检索对象之间的文本相似度,确定所述目标提示问题匹配的目标检索结果。
9.根据权利要求1-8任一所述的方法,还包括:
将所述目标提示prompt输入至目标大模型,得到所述目标大模型根据所述目标提示prompt输出的目标答案;
根据所述目标答案执行目标数据处理操作。
10.根据权利要求1-8任一所述的方法,其中,所述目标提示问题用于提示目标大模型生成数据库查询语句。
11.一种大模型提示数据处理装置,包括:
目标检索数据库确定模块,用于获取目标提示问题,并确定所述目标提示问题匹配的目标检索数据库;
目标检索结果获取模块,用于根据所述目标提示问题对所述目标检索数据库进行检索,得到所述目标提示问题匹配的目标检索结果;其中,所述目标检索结果包括目标检索问题和目标检索答案;
目标提示prompt获取模块,用于将所述目标检索结果与所述目标提示问题的基础提示prompt进行拼接,得到目标提示prompt。
12.根据权利要求11所述的装置,其中,所述目标检索数据库包括目标骨架特征数据库,所述目标骨架特征数据库的数据为问题、答案和骨架特征的组合;所述目标检索结果获取模块还用于:
确定所述目标提示问题的初级提示prompt;
将所述初级提示prompt输入至目标大模型,以通过所述目标大模型生成初始示例答案;
计算所述初始示例答案的答案骨架特征;
根据所述答案骨架特征对所述目标骨架特征数据库进行检索,得到所述目标提示问题匹配的目标检索结果。
13.根据权利要求12所述的装置,其中,所述目标检索结果获取模块还用于:
确定所述初级提示prompt的问题答案示例内容;
对所述初级提示prompt的问题答案示例内容和所述初级提示prompt的基础数据进行拼接,得到所述初级提示prompt。
14.根据权利要求12所述的装置,其中,所述目标检索结果获取模块还用于:
提取所述初始示例答案的关键词和语义向量;
根据所述初始示例答案的关键词和语义向量生成所述初始示例答案的答案骨架特征。
15.根据权利要求12所述的装置,其中,所述目标检索结果获取模块还用于:
根据所述答案骨架特征对所述目标骨架特征数据库进行检索,得到多个备选检索结果;
根据各所述备选检索结果的统计数量确定所述目标检索结果。
16.根据权利要求15所述的装置,其中,所述目标检索结果获取模块还用于:
根据各所述备选检索结果的统计数量确定目标备选检索结果;
在确定所述目标备选检索结果唯一的情况下,将所述目标备选检索结果作为所述目标检索结果。
17.根据权利要求15所述的装置,其中,所述目标检索结果获取模块还用于:
根据各所述备选检索结果的统计数量确定目标备选检索结果;
在确定所述目标备选检索结果为多个的情况下,计算所述目标备选检索结果的目标检索问题与所述目标提示问题之间的文本相似度;
根据所述文本相似度的排序结果,从各所述目标备选检索结果中确定所述目标检索结果。
18.根据权利要求11所述的装置,其中,所述目标检索数据库包括问题答案文本向量数据库;所述目标检索结果获取模块还用于:
计算所述目标提示问题与所述目标检索数据库中各检索对象之间的文本相似度;
根据所述目标提示问题与所述目标检索数据库中各检索对象之间的文本相似度,确定所述目标提示问题匹配的目标检索结果。
19.根据权利要求11-18任一所述的装置,还包括目标数据处理模块,用于:
将所述目标提示prompt输入至目标大模型,得到所述目标大模型根据所述目标提示prompt输出的目标答案;
根据所述目标答案执行目标数据处理操作。
20.根据权利要求11-18任一所述的装置,其中,所述目标提示问题用于提示目标大模型生成数据库查询语句。
21.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-10中任一项所述的大模型提示数据处理方法。
22.一种存储有计算机指令的非瞬时计算机可读存储介质,所述计算机指令用于使计算机执行权利要求1-10中任一项所述的大模型提示数据处理方法。
23.一种计算机程序产品,包括计算机程序/指令,其中,该计算机程序/指令被处理器执行时实现权利要求1-10中任一项所述的大模型提示数据处理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311754725.5A CN117633194A (zh) | 2023-12-19 | 2023-12-19 | 大模型提示数据处理方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311754725.5A CN117633194A (zh) | 2023-12-19 | 2023-12-19 | 大模型提示数据处理方法、装置、电子设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117633194A true CN117633194A (zh) | 2024-03-01 |
Family
ID=90037684
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311754725.5A Pending CN117633194A (zh) | 2023-12-19 | 2023-12-19 | 大模型提示数据处理方法、装置、电子设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117633194A (zh) |
-
2023
- 2023-12-19 CN CN202311754725.5A patent/CN117633194A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111488740B (zh) | 一种因果关系的判别方法、装置、电子设备及存储介质 | |
CN114281968B (zh) | 一种模型训练及语料生成方法、装置、设备和存储介质 | |
CN112528681A (zh) | 跨语言检索及模型训练方法、装置、设备和存储介质 | |
CN114579104A (zh) | 数据分析场景的生成方法、装置、设备及存储介质 | |
EP3992814A2 (en) | Method and apparatus for generating user interest profile, electronic device and storage medium | |
CN113988157A (zh) | 语义检索网络训练方法、装置、电子设备及存储介质 | |
CN115481227A (zh) | 人机交互对话方法、装置以及设备 | |
CN117076719A (zh) | 一种基于大语言模型的数据库联合查询方法、装置和设备 | |
CN114116997A (zh) | 知识问答方法、装置、电子设备及存储介质 | |
CN113220710A (zh) | 数据查询方法、装置、电子设备以及存储介质 | |
CN113609100A (zh) | 数据存储方法、数据查询方法、装置及电子设备 | |
CN113139558A (zh) | 确定物品的多级分类标签的方法和装置 | |
CN114444514B (zh) | 语义匹配模型训练、语义匹配方法及相关装置 | |
CN113239054B (zh) | 信息生成方法及相关装置 | |
CN117633194A (zh) | 大模型提示数据处理方法、装置、电子设备及存储介质 | |
CN114048315A (zh) | 确定文档标签的方法、装置、电子设备和存储介质 | |
CN115168577B (zh) | 模型更新方法、装置、电子设备及存储介质 | |
CN114925185B (zh) | 交互方法、模型的训练方法、装置、设备及介质 | |
CN115168537B (zh) | 语义检索模型的训练方法、装置、电子设备及存储介质 | |
CN116244413B (zh) | 新意图确定方法、设备和存储介质 | |
CN116127948B (zh) | 待标注文本数据的推荐方法、装置及电子设备 | |
CN116069914B (zh) | 训练数据的生成方法、模型训练方法以及装置 | |
CN117555897A (zh) | 基于大模型的数据查询方法、装置、设备和存储介质 | |
CN118037403A (zh) | 商品参数的确定方法及其装置 | |
CN115828915A (zh) | 实体消歧方法、装置、电子设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |