CN117786077A - 基于大语言模型的牲畜知识问答方法及装置 - Google Patents
基于大语言模型的牲畜知识问答方法及装置 Download PDFInfo
- Publication number
- CN117786077A CN117786077A CN202311816140.1A CN202311816140A CN117786077A CN 117786077 A CN117786077 A CN 117786077A CN 202311816140 A CN202311816140 A CN 202311816140A CN 117786077 A CN117786077 A CN 117786077A
- Authority
- CN
- China
- Prior art keywords
- livestock
- knowledge
- language model
- large language
- template
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 244000144972 livestock Species 0.000 title claims abstract description 279
- 238000000034 method Methods 0.000 title claims abstract description 60
- 238000000605 extraction Methods 0.000 claims abstract description 37
- 230000004927 fusion Effects 0.000 claims abstract description 35
- 238000004364 calculation method Methods 0.000 claims abstract description 23
- 230000015654 memory Effects 0.000 claims description 36
- 238000012549 training Methods 0.000 claims description 36
- 238000012545 processing Methods 0.000 claims description 27
- 238000012360 testing method Methods 0.000 claims description 20
- 238000013461 design Methods 0.000 claims description 17
- 238000012795 verification Methods 0.000 claims description 16
- 238000003860 storage Methods 0.000 claims description 10
- 238000009304 pastoral farming Methods 0.000 claims description 5
- 230000003993 interaction Effects 0.000 abstract description 7
- 238000005516 engineering process Methods 0.000 abstract description 3
- 239000008186 active pharmaceutical agent Substances 0.000 description 114
- 238000009395 breeding Methods 0.000 description 9
- 230000001488 breeding effect Effects 0.000 description 9
- 230000002452 interceptive effect Effects 0.000 description 6
- 230000000694 effects Effects 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 238000004519 manufacturing process Methods 0.000 description 4
- 230000008901 benefit Effects 0.000 description 3
- 230000008569 process Effects 0.000 description 3
- 238000010200 validation analysis Methods 0.000 description 3
- 230000007547 defect Effects 0.000 description 2
- 244000144980 herd Species 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 230000001360 synchronised effect Effects 0.000 description 2
- KLDZYURQCUYZBL-UHFFFAOYSA-N 2-[3-[(2-hydroxyphenyl)methylideneamino]propyliminomethyl]phenol Chemical compound OC1=CC=CC=C1C=NCCCN=CC1=CC=CC=C1O KLDZYURQCUYZBL-UHFFFAOYSA-N 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 201000001098 delayed sleep phase syndrome Diseases 0.000 description 1
- 208000033921 delayed sleep phase type circadian rhythm sleep disease Diseases 0.000 description 1
- 238000003745 diagnosis Methods 0.000 description 1
- 201000010099 disease Diseases 0.000 description 1
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000003058 natural language processing Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 208000024891 symptom Diseases 0.000 description 1
- 230000026676 system process Effects 0.000 description 1
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明实施例涉及一种基于大语言模型的牲畜知识问答方法及装置,包括:基于预设的牲畜领域知识图谱Schema对知识库中的牲畜知识数据进行收集并进行结构化处理,得到牲畜知识数据库;基于现有的AI服务系统数据,设计API接口调用Prompt模板;基于牲畜知识抽取及融合Prompt模板和API接口调用Prompt模板对大语言模型进行提示学习;基于完成提示学习的大语言模型对用户输入的牲畜知识问题进行答案生成。由此,可以增强知识推理方面的表现,结合知识图谱技术能够提高系统回答的可解释性,整合现有的AI服务可以使模型进行精确的逻辑推理和数字计算,实现自然语言交互,进一步提升用户体验。
Description
技术领域
本发明实施例涉及数据处理领域,尤其涉及一种基于大语言模型的牲畜知识问答方法及装置。
背景技术
随着牲畜养殖规模不断扩大,提升牲畜生产、养殖、销售效益对企业盈利至关重要,如:智能诊断:根据牲畜症状表现提前确诊疾病,减少牲畜死亡率,同时提高生产效益;行情分析:通过对政府政策及牲畜价格等行情的分析,企业人员依据决策确定采购、销售等策略。目前这些业务上主要的方式还是靠经验丰富的养殖人员经验判断,可解释性弱,泛化能力差。
目前关于牲畜养殖的人机对话系统,主要包含:1、基于规则的人机对话系统,通过设计规则来实现问答功能,可控性强;缺点是需要大量的规则设计和维护,适用范围有限。2、知识图谱作为知识库,用户通过提问来获取相关知识,系统根据图谱中的实体和关系来生成回复,能够提供准确的答案,且对于一些特定领域的问题,表现效果较好;缺点是需要大量的语料数据,同时够建知识图谱的过程需要对语料进行标注,成本大。3、基于大语言模型的人机对话系统,大语言模型对在通用领域进行的语义理解和推断,实现更加自然、流畅的人机对话;缺点是对牲畜养殖的数据相对有限,大语言模型在牲畜养殖知识推理方面的性能受到限制,此外还需要大量的数据和计算资源,且模型解释性较差,模型输出内容不可控,无法保证准确性。因此,如何提高人机对话系统在牲畜养殖行业的知识推理方面的性能,成为亟待解决的问题。
发明内容
鉴于此,为解决上述技术问题或部分技术问题,本发明实施例提供一种基于大语言模型的牲畜知识问答方法及装置。
第一方面,本发明实施例提供一种基于大语言模型的牲畜知识问答方法,包括:
基于预设的牲畜领域知识图谱的Schema对牲畜领域知识库中的牲畜知识数据进行收集,并对收集到的牲畜知识数据进行结构化处理,得到牲畜知识数据库;
基于所述牲畜领域知识图谱的Schema和牲畜知识数据库设计牲畜知识抽取及融合Prompt模板;
基于现有的AI服务系统数据,设计API接口调用Prompt模板,其中,API接口为现有的AI服务的接口;
基于所述牲畜知识抽取及融合Prompt模板和所述API接口调用Prompt模板对大语言模型进行提示学习;
基于完成提示学习的大语言模型对用户输入的牲畜知识问题进行答案生成。
在一个可能的实施方式中,所述方法还包括:
基于所述牲畜领域知识图谱的Schema对所述牲畜知识数据库中的数据抽象出全部实体以及每个实体之间的实体关系;
基于所述全部实体和实体关系设计大语言模型可识别的牲畜知识抽取及融合Prompt模板。
在一个可能的实施方式中,所述方法还包括:
基于现有的AI服务系统数据中的输入输出API及关键信息,设计学习API接口调用的Prompt模板。
在一个可能的实施方式中,所述方法还包括:
基于所述牲畜知识抽取及融合Prompt模板对大语言模型进行提示学习,以使所述大语言模型可以成功进行牲畜农牧知识抽取和知识融合;
基于所述学习API接口调用Prompt模板对大语言模型进行提示学习,以使所述大语言模型可以成功调用预设的API接口。
在一个可能的实施方式中,所述方法还包括:
将所述学习API接口调用的Prompt模板拆分为训练集、测试集和验证集;
设置多个模型训练参数,通过所述训练集对所述大语言模型进行训练,并通过所述测试集对训练后的大语言模型进行测试;
通过所述验证集对测试后的大语言模型进行精度验证,得到目标大语言模型。
在一个可能的实施方式中,所述方法还包括:
获取目标用户通过用户端输入的牲畜知识提问信息;
通过所述目标大语言模型调用意图识别API接口,对所述牲畜知识提问信息进行意图识别,得到意图识别结果;
若所述意图识别结果为所述牲畜知识提问信息对应的答案无需进行推理计算,则通过所述目标大语言模型在所述牲畜知识数据库中查询答案或生成答案,并将答案进行输出。
在一个可能的实施方式中,所述方法还包括:
获取目标用户通过用户端输入的牲畜知识提问信息;
通过所述目标大语言模型调用意图识别API接口,对所述牲畜知识提问信息进行意图识别,得到意图识别结果;
若所述意图识别结果为所述牲畜知识提问信息对应的答案需要进行推理计算,则通过所述目标大语言模型抽取所述牲畜知识提问信息所需调用的目标API接口以及所述目标API接口所需的输入信息;
在所述牲畜知识数据库中查询所述目标API接口所需的输入信息,输入到所述目标API接口中,并执行所述目标API接口;
接收所述目标API接口返回的答案,并将答案进行输出。
第二方面,本发明实施例提供一种基于大语言模型的牲畜知识问答装置,包括:
收集处理模块,用于基于预设的牲畜领域知识图谱的Schema对牲畜领域知识库中的牲畜知识数据进行收集,并对收集到的牲畜知识数据进行结构化处理,得到牲畜知识数据库;
设计模块,用于基于所述牲畜领域知识图谱的Schema和牲畜知识数据库设计牲畜知识抽取及融合Prompt模板;
所述设计模块,还用于基于现有的AI服务系统数据,设计API接口调用Prompt模板,其中,API接口为现有的AI服务的接口
训练模块,用于基于所述牲畜知识抽取及融合Prompt模板和所述API接口调用Prompt模板对大语言模型进行提示学习;
问答处理模块,用于基于完成提示学习的大语言模型对用户输入的牲畜知识问题进行答案生成。
第三方面,本发明实施例提供一种计算机设备,包括:处理器和存储器,所述处理器用于执行所述存储器中存储的基于大语言模型的牲畜知识问答程序,以实现上述第一方面中所述的基于大语言模型的牲畜知识问答方法。
第四方面,本发明实施例提供一种存储介质,包括:所述存储介质存储有一个或者多个程序,所述一个或者多个程序可被一个或者多个处理器执行,以实现上述第一方面中所述的基于大语言模型的牲畜知识问答方法。
本发明实施例提供的基于大语言模型的牲畜知识问答方案,通过基于预设的牲畜领域知识图谱的Schema对牲畜领域知识库中的牲畜知识数据进行收集,并对收集到的牲畜知识数据进行结构化处理,得到牲畜知识数据库;基于所述牲畜领域知识图谱的Schema和牲畜知识数据库设计牲畜知识抽取及融合Prompt模板;基于现有的AI服务系统数据,设计API接口调用Prompt模板,其中,API接口为现有的AI服务的接口;基于所述牲畜知识抽取及融合Prompt模板和所述API接口调用Prompt模板对大语言模型进行提示学习;基于完成提示学习的大语言模型对用户输入的牲畜知识问题进行答案生成。相比于现有的关于牲畜养殖的人机对话系统存在的牲畜养殖产业数据量不足,难以支持基于知识图谱和大语言模型等需要大量的数据进行训练的对话系统;因牲畜养殖领域的数据相对有限,在牲畜养殖知识推理方面的性能较低;基于大语言模型的决策过程难以解释,导致模型的准确性下降,无法进行精确的逻辑推理和数字计算的问题。由本方案,使用Prompt对大语言模型进行提示学习可以提高模型知识推理的性能;结合知识图谱技术可以提升系统回答的可解释性;结合已有的AI服务可以让模型完成精确的逻辑推理和数字计算,实现系统与用户的自然语言交互,提升用户体验,帮助用户了解牲畜领域的相关知识。
附图说明
图1为本发明实施例提供的一种基于大语言模型的牲畜知识问答方法的流程示意图;
图2为本发明实施例提供的另一种基于大语言模型的牲畜知识问答方法的流程示意图;
图3为本发明实施例提供的一种基于大语言模型的牲畜知识问答装置的结构示意图;
图4为本发明实施例提供的一种计算机设备的结构示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
为便于对本发明实施例的理解,下面将结合附图以具体实施例做进一步的解释说明,实施例并不构成对本发明实施例的限定。
图1为本发明实施例提供的一种基于大语言模型的牲畜知识问答方法的流程示意图,如图1所示,该方法具体包括:
S11、基于预设的牲畜领域知识图谱的Schema对牲畜领域知识库中的牲畜知识数据进行收集,并对收集到的牲畜知识数据进行结构化处理,得到牲畜知识数据库。
本发明实施例利用大语言模型(如GLM、GPT4等)提示学习、知识图谱技术以及已有的AI服务,设计了一款牲畜生产、养殖、销售等一体智能精确的人机对话系统。该系统能够实现与用户的自然语言交互,帮助用户了解牲畜生产、养殖、销售等方面的相关知识。该系统包括语音识别、自然语言处理、知识图谱等多个模块。用户可以通过语音或文字输入与系统进行交互,该系统采用本发明实施例提供的一种基于大语言模型的牲畜知识问答方法对用户的问题进行理解和分析,并推理或调用AI服务中相应的API工具输出相关的结果。
具体包括:基于预设的牲畜领域知识图谱的schema对牲畜行业的知识库数据进行收集,并进行结构化处理,知识入库,得到牲畜知识数据库。
S12、基于所述牲畜领域知识图谱的Schema和牲畜知识数据库设计牲畜知识抽取及融合Prompt模板。
S13、基于现有的AI服务系统数据,设计API接口调用Prompt模板,其中,API接口为现有的AI服务的接口。
基于牲畜领域知识图谱的Schema对牲畜知识数据库中的数据抽象出全部实体以及每个实体之间的实体关系;基于全部实体和实体关系设计大语言模型可识别的牲畜知识抽取及融合Prompt模板。
具体的,基于牲畜领域知识图谱的Schema,设计知识抽取及融合Prompt模板对大语言模型进行提示学习,该提示学习主要是对大语言模型训练,学习后得到更新的模型参数,学习后的大语言模型对牲畜行业知识抽取这个特定场景精度更高。采用该方式对大语言模型进行深度学习,学习的参数少,模型训练速度快。
进一步的,基于现有的AI服务系统数据中的输入输出API及关键信息,设计学习API接口调用的Prompt模板,基于学习API接口调用的Prompt模板对大语言模型进行提示学习调用预设的API接口。其中,API接口为现有的AI服务的接口。
S14、基于所述牲畜知识抽取及融合Prompt模板和所述API接口调用Prompt模板对大语言模型进行提示学习。
基于现有AI服务系统数据,设计Prompt对大语言模型进行提示学习,让大语言模型学会使用AI服务内部API接口(指标查询服务、各类AI服务等)。包括如下步骤:
步骤一、将所述学习API接口调用的Prompt模板拆分为训练集、测试集和验证集。
设计学习API调用的Prompt,如输入(content)输出API及关键信息(output),{“content”:请帮忙查询合阳新六农牧科技有限公司去年在华北地区的死淘率。
“output”:API实体:死淘率,时间:去年,统计维度:合阳新六农牧科技有限公司、华北}
将设计的Prompt拆分为训练集、测试集和验证集。
步骤二、设置多个模型训练参数,通过所述训练集对所述大语言模型进行训练,并通过所述测试集对训练后的大语言模型进行测试。
设置soft prompt(软提示)长度、训练的学习率、batch_size(表示单次传递给程序用以训练的数据个数)等参数,通过Prompt训练集对大语言模型进行训练,并通过测试集对训练后的大语言模型进行测试。
步骤三、通过所述验证集对测试后的大语言模型进行精度验证,得到目标大语言模型。进而部署该训练完成的目标大语言模型。
S15、基于完成提示学习的大语言模型对用户输入的牲畜知识问题进行答案生成。
获取目标用户通过用户端输入的牲畜知识提问信息;通过目标大语言模型调用意图识别API接口,对牲畜知识提问信息进行意图识别,得到意图识别结果;基于意图识别结果,通过目标大语言模型在所述牲畜知识数据库中查询答案,并将答案进行输出。
可选的,若意图识别结果为牲畜知识提问信息对应的答案无需进行推理计算,则通过目标大语言模型在牲畜知识数据库中查询答案或生成答案,并将答案进行输出。
具体的,若知识库中的数据不够全面,查询无果,则目标大语言模型可以直接产生答案进行反馈;若查询知识库有结构化的答案,目标大语言模型可以根据结构化的答案,生成语句回答。
可选的,若意图识别结果为牲畜知识提问信息对应的答案需要精确推理计算,如预测牲畜产子、预测牲畜价格等,首先通过大语言模型抽取输入语句需要调用的API,以及API输入;基于抽取信息在知识库查询API需要的输入信息。
具体的,获取目标用户通过用户端输入的牲畜知识提问信息;通过目标大语言模型调用意图识别API接口,对牲畜知识提问信息进行意图识别,得到意图识别结果;若意图识别结果为牲畜知识提问信息对应的答案需要进行推理计算,则通过目标大语言模型抽取所述牲畜知识提问信息所需调用的目标API接口以及所述目标API接口所需的输入信息;在牲畜知识数据库中查询所述目标API接口所需的输入信息,输入到所述目标API接口中,并执行目标API接口;接收目标API接口返回的答案,并将答案进行输出。
例如预测牲畜产子,用户输入的可能只是公母猪的ID,对应产子模型需要的公母猪特征信息如母猪胎次、母猪日龄、公母猪的亲缘关系系数等等需要基于公母猪ID在知识库中查询。执行API(指标查询服务、各类AI服务),返回输出答案。
进一步的,通过上线收集用户反馈可以对系统进行优化。
需要说明的是,目标用户通过用户端输入的牲畜知识提问信息的结构根据场景有所不同:
对于通用知识问答不限定模板。
对于涉及API服务的只需要提供相应的关键信息即可,例如:指标查询服务,指标名称、时间、统计维度、统计口径,四个关键信息,其中指标名称必须。
对非图像处理AI服务,包括AI服务名称、输入信息(根据具体的AI接口而定,部分输入信息默认),其中AI服务名称必须。
对于图像处理AI服务,AI服务名称、输入信息(根据具体的AI接口而定,部分输入信息默认),其中AI服务名称必须,待处理的图像输入数据必须。
本发明实施例提供的基于大语言模型的牲畜知识问答方法,通过基于预设的牲畜领域知识图谱的Schema对牲畜领域知识库中的牲畜知识数据进行收集,并对收集到的牲畜知识数据进行结构化处理,得到牲畜知识数据库;基于所述牲畜领域知识图谱的Schema和牲畜知识数据库设计牲畜知识抽取及融合Prompt模板;基于现有的AI服务系统数据,设计API接口调用Prompt模板,其中,API接口为现有的AI服务的接口;基于所述牲畜知识抽取及融合Prompt模板和所述API接口调用Prompt模板对大语言模型进行提示学习;基于完成提示学习的大语言模型对用户输入的牲畜知识问题进行答案生成。相比于现有的关于牲畜养殖的人机对话系统存在的牲畜养殖产业数据量不足,难以支持基于知识图谱和大语言模型等需要大量的数据进行训练的对话系统;因牲畜养殖领域的数据相对有限,在牲畜养殖知识推理方面的性能较低;基于大语言模型的决策过程难以解释,导致模型的准确性下降,无法进行精确的逻辑推理和数字计算的问题。由本方法,使用Prompt对大语言模型进行提示学习,从而提高模型的性能;结合知识图谱,提升对话模型的可解释性;结合已有的AI服务,让模型自动使用内部AI服务完成精确的逻辑推理和数字计算,实现系统与用户的自然语言交互,帮助用户了解牲畜领域的相关知识。
图2为本发明实施例提供的另一种基于大语言模型的牲畜知识问答方法的流程示意图,如图2所示,该方法主要是针对用户输入提问信息后,系统如何进行处理回复。具体包括:
获取目标用户通过用户端输入的牲畜知识提问信息;通过目标大语言模型调用意图识别API接口,对牲畜知识提问信息进行意图识别,得到意图识别结果;基于意图识别结果,通过目标大语言模型在所述牲畜知识数据库中查询答案,并将答案进行输出。
可选的,若意图识别结果为牲畜知识提问信息对应的答案无需进行推理计算,则通过目标大语言模型在牲畜知识数据库中查询答案或生成答案,并将答案进行输出。
具体的,若知识库中的数据不够全面,查询无果,则目标大语言模型可以直接产生答案进行反馈;若查询知识库有结构化的答案,目标大语言模型可以根据结构化的答案,生成语句回答。
可选的,对需要精确推理计算的,如预测牲畜产子、预测牲畜价格等,首先通过大语言模型抽取输入语句需要调用的API,以及API输入;基于抽取信息在知识库查询API需要的输入信息。
具体的,获取目标用户通过用户端输入的牲畜知识提问信息;通过目标大语言模型调用意图识别API接口,对牲畜知识提问信息进行意图识别,得到意图识别结果;若意图识别结果为牲畜知识提问信息对应的答案需要进行推理计算,则通过目标大语言模型抽取所述牲畜知识提问信息所需调用的目标API接口以及所述目标API接口所需的输入信息;在牲畜知识数据库中查询所述目标API接口所需的输入信息,输入到所述目标API接口中,并执行目标API接口;接收目标API接口返回的答案,并将答案进行输出。
例如预测牲畜产子,用户输入的可能只是公母猪的ID,对应产子模型需要的公母猪特征信息如母猪胎次、母猪日龄、公母猪的亲缘关系系数等等需要基于公母猪ID在知识库中查询。执行API(指标查询服务、各类AI服务),返回输出答案。
本发明实施例提供的基于大语言模型的牲畜知识问答方法,通过基于预设的牲畜领域知识图谱的Schema对牲畜领域知识库中的牲畜知识数据进行收集,并对收集到的牲畜知识数据进行结构化处理,得到牲畜知识数据库;基于所述牲畜领域知识图谱的Schema和牲畜知识数据库设计牲畜知识抽取及融合Prompt模板;基于现有的AI服务系统数据,设计API接口调用Prompt模板,其中,API接口为现有的AI服务的接口;基于所述牲畜知识抽取及融合Prompt模板和所述API接口调用Prompt模板对大语言模型进行提示学习;基于完成提示学习的大语言模型对用户输入的牲畜知识问题进行答案生成。由本方法,使用Prompt对大语言模型进行提示学习,从而提高模型的性能;结合知识图谱,提升对话模型的可解释性;结合已有的AI服务,让模型自动使用内部AI服务完成精确的逻辑推理和数字计算,实现系统与用户的自然语言交互,帮助用户了解牲畜领域的相关知识。
图3为本发明实施例提供的一种基于大语言模型的牲畜知识问答装置的结构示意图,具体包括:
收集处理模块301,用于基于预设的牲畜领域知识图谱的Schema对牲畜领域知识库中的牲畜知识数据进行收集,并对收集到的牲畜知识数据进行结构化处理,得到牲畜知识数据库;
设计模块302,用于基于所述牲畜领域知识图谱的Schema和牲畜知识数据库设计牲畜知识抽取及融合Prompt模板;
所述设计模块302,还用于基于现有的AI服务系统数据,设计API接口调用Prompt模板,其中,API接口为现有的AI服务的接口
训练模块303,用于基于所述牲畜知识抽取及融合Prompt模板和所述API接口调用Prompt模板对大语言模型进行提示学习;
问答处理模块304,用于基于完成提示学习的大语言模型对用户输入的牲畜知识问题进行答案生成。
在一个可能的实施方式中,所述设计模块302,具体用于基于所述牲畜领域知识图谱的Schema对所述牲畜知识数据库中的数据抽象出全部实体以及每个实体之间的实体关系;基于所述全部实体和实体关系设计大语言模型可识别的牲畜知识抽取及融合Prompt模板。
在一个可能的实施方式中,所述设计模块302,还用于基于现有的AI服务系统数据中的输入输出API及关键信息,设计学习API接口调用的Prompt模板。
在一个可能的实施方式中,所述训练模块303,具体用于基于所述牲畜知识抽取及融合Prompt模板对大语言模型进行提示学习,以使所述大语言模型可以成功进行牲畜农牧知识抽取和知识融合;基于所述学习API接口调用Prompt模板对大语言模型进行提示学习,以使所述大语言模型可以成功调用预设的API接口。
在一个可能的实施方式中,所述训练模块303,还用于将所述学习API接口调用的Prompt模板拆分为训练集、测试集和验证集;设置多个模型训练参数,通过所述训练集对所述大语言模型进行训练,并通过所述测试集对训练后的大语言模型进行测试;通过所述验证集对测试后的大语言模型进行精度验证,得到目标大语言模型。
在一个可能的实施方式中,所述问答处理模块304,具体用于获取目标用户通过用户端输入的牲畜知识提问信息;通过所述目标大语言模型调用意图识别API接口,对所述牲畜知识提问信息进行意图识别,得到意图识别结果;若所述意图识别结果为所述牲畜知识提问信息对应的答案无需进行推理计算,则通过所述目标大语言模型在所述牲畜知识数据库中查询答案或生成答案,并将答案进行输出。
在一个可能的实施方式中,所述问答处理模块304,还用于获取目标用户通过用户端输入的牲畜知识提问信息;通过所述目标大语言模型调用意图识别API接口,对所述牲畜知识提问信息进行意图识别,得到意图识别结果;若所述意图识别结果为所述牲畜知识提问信息对应的答案需要进行推理计算,则通过所述目标大语言模型抽取所述牲畜知识提问信息所需调用的目标API接口以及所述目标API接口所需的输入信息;在所述牲畜知识数据库中查询所述目标API接口所需的输入信息,输入到所述目标API接口中,并执行所述目标API接口;接收所述目标API接口返回的答案,并将答案进行输出。
本实施例提供的基于大语言模型的牲畜知识问答装置可以是如图3中所示的基于大语言模型的牲畜知识问答装置,可执行如图1-2中基于大语言模型的牲畜知识问答方法的所有步骤,进而实现图1-2所示基于大语言模型的牲畜知识问答方法的技术效果,具体请参照图1-2相关描述,为简洁描述,在此不作赘述。
图4为本发明实施例提供的一种计算机设备的结构示意图,图4所示的计算机设备400包括:至少一个处理器401、存储器402、至少一个网络接口404和其他用户接口403。计算机设备400中的各个组件通过总线系统405耦合在一起。可理解,总线系统405用于实现这些组件之间的连接通信。总线系统405除包括数据总线之外,还包括电源总线、控制总线和状态信号总线。但是为了清楚说明起见,在图4中将各种总线都标为总线系统405。
其中,用户接口403可以包括显示器、键盘或者点击设备(例如,鼠标,轨迹球(trackball)、触感板或者触摸屏等。
可以理解,本发明实施例中的存储器402可以是易失性存储器或非易失性存储器,或可包括易失性和非易失性存储器两者。其中,非易失性存储器可以是只读存储器(Read-Only Memory,ROM)、可编程只读存储器(Programmable ROM,PROM)、可擦除可编程只读存储器(Erasable PROM,EPROM)、电可擦除可编程只读存储器(Electrically EPROM,EEPROM)或闪存。易失性存储器可以是随机存取存储器(Random Access Memory,RAM),其用作外部高速缓存。通过示例性但不是限制性说明,许多形式的RAM可用,例如静态随机存取存储器(Static RAM,SRAM)、动态随机存取存储器(Dynamic RAM,DRAM)、同步动态随机存取存储器(Synchronous DRAM,SDRAM)、双倍数据速率同步动态随机存取存储器(Double Data RateSDRAM,DDRSDRAM)、增强型同步动态随机存取存储器(Enhanced SDRAM,ESDRAM)、同步连接动态随机存取存储器(Synch link DRAM,SLDRAM)和直接内存总线随机存取存储器(DirectRambus RAM,DRRAM)。本文描述的存储器402旨在包括但不限于这些和任意其它适合类型的存储器。
在一些实施方式中,存储器402存储了如下的元素,可执行单元或者数据结构,或者他们的子集,或者他们的扩展集:操作系统4021和应用程序4022。
其中,操作系统4021,包含各种系统程序,例如框架层、核心库层、驱动层等,用于实现各种基础业务以及处理基于硬件的任务。应用程序4022,包含各种应用程序,例如媒体播放器(Media Player)、浏览器(Browser)等,用于实现各种应用业务。实现本发明实施例方法的程序可以包含在应用程序4022中。
在本发明实施例中,通过调用存储器402存储的程序或指令,具体的,可以是应用程序4022中存储的程序或指令,处理器401用于执行各方法实施例所提供的方法步骤,例如包括:
基于预设的牲畜领域知识图谱的Schema对牲畜领域知识库中的牲畜知识数据进行收集,并对收集到的牲畜知识数据进行结构化处理,得到牲畜知识数据库;基于所述牲畜领域知识图谱的Schema和牲畜知识数据库设计牲畜知识抽取及融合Prompt模板;基于现有的AI服务系统数据,设计API接口调用Prompt模板,其中,API接口为现有的AI服务的接口;基于所述牲畜知识抽取及融合Prompt模板和所述API接口调用Prompt模板对大语言模型进行提示学习;基于完成提示学习的大语言模型对用户输入的牲畜知识问题进行答案生成。
在一个可能的实施方式中,基于所述牲畜领域知识图谱的Schema对所述牲畜知识数据库中的数据抽象出全部实体以及每个实体之间的实体关系;基于所述全部实体和实体关系设计大语言模型可识别的牲畜知识抽取及融合Prompt模板。
在一个可能的实施方式中,基于现有的AI服务系统数据中的输入输出API及关键信息,设计学习API接口调用的Prompt模板。
在一个可能的实施方式中,基于所述牲畜知识抽取及融合Prompt模板对大语言模型进行提示学习,以使所述大语言模型可以成功进行牲畜农牧知识抽取和知识融合;基于所述学习API接口调用Prompt模板对大语言模型进行提示学习,以使所述大语言模型可以成功调用预设的API接口。
在一个可能的实施方式中,将所述学习API接口调用的Prompt模板拆分为训练集、测试集和验证集;设置多个模型训练参数,通过所述训练集对所述大语言模型进行训练,并通过所述测试集对训练后的大语言模型进行测试;通过所述验证集对测试后的大语言模型进行精度验证,得到目标大语言模型。
在一个可能的实施方式中,获取目标用户通过用户端输入的牲畜知识提问信息;通过所述目标大语言模型调用意图识别API接口,对所述牲畜知识提问信息进行意图识别,得到意图识别结果;若所述意图识别结果为所述牲畜知识提问信息对应的答案无需进行推理计算,则通过所述目标大语言模型在所述牲畜知识数据库中查询答案或生成答案,并将答案进行输出。
在一个可能的实施方式中,获取目标用户通过用户端输入的牲畜知识提问信息;通过所述目标大语言模型调用意图识别API接口,对所述牲畜知识提问信息进行意图识别,得到意图识别结果;若所述意图识别结果为所述牲畜知识提问信息对应的答案需要进行推理计算,则通过所述目标大语言模型抽取所述牲畜知识提问信息所需调用的目标API接口以及所述目标API接口所需的输入信息;在所述牲畜知识数据库中查询所述目标API接口所需的输入信息,输入到所述目标API接口中,并执行所述目标API接口;接收所述目标API接口返回的答案,并将答案进行输出。
上述本发明实施例揭示的方法可以应用于处理器401中,或者由处理器401实现。处理器401可能是一种集成电路芯片,具有信号的处理能力。在实现过程中,上述方法的各步骤可以通过处理器401中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器401可以是通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现成可编程门阵列(FieldProgrammable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本发明实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本发明实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成,或者用译码处理器中的硬件及软件单元组合执行完成。软件单元可以位于随机存储器,闪存、只读存储器,可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器402,处理器401读取存储器402中的信息,结合其硬件完成上述方法的步骤。
可以理解的是,本文描述的这些实施例可以用硬件、软件、固件、中间件、微码或其组合来实现。对于硬件实现,处理单元可以实现在一个或多个专用集成电路(ApplicationSpecific Integrated Circuits,ASIC)、数字信号处理器(Digital Signal Processing,DSP)、数字信号处理设备(DSPDevice,DSPD)、可编程逻辑设备(Programmable LogicDevice,PLD)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)、通用处理器、控制器、微控制器、微处理器、用于执行本申请所述功能的其它电子单元或其组合中。
对于软件实现,可通过执行本文所述功能的单元来实现本文所述的技术。软件代码可存储在存储器中并通过处理器执行。存储器可以在处理器中或在处理器外部实现。
本实施例提供的计算机设备可以是如图4中所示的计算机设备,可执行如图1-2中基于大语言模型的牲畜知识问答方法的所有步骤,进而实现图1-2所示基于大语言模型的牲畜知识问答方法的技术效果,具体请参照图1-2相关描述,为简洁描述,在此不作赘述。
本发明实施例还提供了一种存储介质(计算机可读存储介质)。这里的存储介质存储有一个或者多个程序。其中,存储介质可以包括易失性存储器,例如随机存取存储器;存储器也可以包括非易失性存储器,例如只读存储器、快闪存储器、硬盘或固态硬盘;存储器还可以包括上述种类的存储器的组合。
当存储介质中一个或者多个程序可被一个或者多个处理器执行,以实现上述在计算机设备侧执行的基于大语言模型的牲畜知识问答方法。
所述处理器用于执行存储器中存储的基于大语言模型的牲畜知识问答程序,以实现以下在计算机设备侧执行的基于大语言模型的牲畜知识问答方法的步骤:
基于预设的牲畜领域知识图谱的Schema对牲畜领域知识库中的牲畜知识数据进行收集,并对收集到的牲畜知识数据进行结构化处理,得到牲畜知识数据库;基于所述牲畜领域知识图谱的Schema和牲畜知识数据库设计牲畜知识抽取及融合Prompt模板;基于现有的AI服务系统数据,设计API接口调用Prompt模板,其中,API接口为现有的AI服务的接口;基于所述牲畜知识抽取及融合Prompt模板和所述API接口调用Prompt模板对大语言模型进行提示学习;基于完成提示学习的大语言模型对用户输入的牲畜知识问题进行答案生成。
在一个可能的实施方式中,基于所述牲畜领域知识图谱的Schema对所述牲畜知识数据库中的数据抽象出全部实体以及每个实体之间的实体关系;基于所述全部实体和实体关系设计大语言模型可识别的牲畜知识抽取及融合Prompt模板。
在一个可能的实施方式中,基于现有的AI服务系统数据中的输入输出API及关键信息,设计学习API接口调用的Prompt模板。
在一个可能的实施方式中,基于所述牲畜知识抽取及融合Prompt模板对大语言模型进行提示学习,以使所述大语言模型可以成功进行牲畜农牧知识抽取和知识融合;基于所述学习API接口调用Prompt模板对大语言模型进行提示学习,以使所述大语言模型可以成功调用预设的API接口。
在一个可能的实施方式中,将所述学习API接口调用的Prompt模板拆分为训练集、测试集和验证集;设置多个模型训练参数,通过所述训练集对所述大语言模型进行训练,并通过所述测试集对训练后的大语言模型进行测试;通过所述验证集对测试后的大语言模型进行精度验证,得到目标大语言模型。
在一个可能的实施方式中,获取目标用户通过用户端输入的牲畜知识提问信息;通过所述目标大语言模型调用意图识别API接口,对所述牲畜知识提问信息进行意图识别,得到意图识别结果;若所述意图识别结果为所述牲畜知识提问信息对应的答案无需进行推理计算,则通过所述目标大语言模型在所述牲畜知识数据库中查询答案或生成答案,并将答案进行输出。
在一个可能的实施方式中,获取目标用户通过用户端输入的牲畜知识提问信息;通过所述目标大语言模型调用意图识别API接口,对所述牲畜知识提问信息进行意图识别,得到意图识别结果;若所述意图识别结果为所述牲畜知识提问信息对应的答案需要进行推理计算,则通过所述目标大语言模型抽取所述牲畜知识提问信息所需调用的目标API接口以及所述目标API接口所需的输入信息;在所述牲畜知识数据库中查询所述目标API接口所需的输入信息,输入到所述目标API接口中,并执行所述目标API接口;接收所述目标API接口返回的答案,并将答案进行输出。
专业人员应该还可以进一步意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、计算机软件或者二者的结合来实现,为了清楚地说明硬件和软件的可互换性,在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
结合本文中所公开的实施例描述的方法或算法的步骤可以用硬件、处理器执行的软件模块,或者二者的结合来实施。软件模块可以置于随机存储器(RAM)、内存、只读存储器(ROM)、电可编程ROM、电可擦除可编程ROM、寄存器、硬盘、可移动磁盘、CD-ROM、或技术领域内所公知的任意其它形式的存储介质中。
以上所述的具体实施方式,对本发明的目的、技术方案和有益效果进行了进一步详细说明,所应理解的是,以上所述仅为本发明的具体实施方式而已,并不用于限定本发明的保护范围,凡在本发明的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (10)
1.一种基于大语言模型的牲畜知识问答方法,其特征在于,包括:
基于预设的牲畜领域知识图谱的Schema对牲畜领域知识库中的牲畜知识数据进行收集,并对收集到的牲畜知识数据进行结构化处理,得到牲畜知识数据库;
基于所述牲畜领域知识图谱的Schema和牲畜知识数据库设计牲畜知识抽取及融合Prompt模板;
基于现有的AI服务系统数据,设计API接口调用Prompt模板,其中,API接口为现有的AI服务的接口;
基于所述牲畜知识抽取及融合Prompt模板和所述API接口调用Prompt模板对大语言模型进行提示学习;
基于完成提示学习的大语言模型对用户输入的牲畜知识问题进行答案生成。
2.根据权利要求1所述的方法,其特征在于,所述基于所述牲畜领域知识图谱的Schema和牲畜知识数据库设计牲畜知识抽取及融合Prompt模板,包括:
基于所述牲畜领域知识图谱的Schema对所述牲畜知识数据库中的数据抽象出全部实体以及每个实体之间的实体关系;
基于所述全部实体和实体关系设计大语言模型可识别的牲畜知识抽取及融合Prompt模板。
3.根据权利要求1所述的方法,其特征在于,所述基于现有的AI服务系统数据,设计API接口调用Prompt模板,包括:
基于现有的AI服务系统数据中的输入输出API及关键信息,设计学习API接口调用的Prompt模板。
4.根据权利要求2或3所述的方法,其特征在于,所述基于所述牲畜知识抽取及融合Prompt模板和所述API接口调用Prompt模板对大语言模型进行提示学习,包括:
基于所述牲畜知识抽取及融合Prompt模板对大语言模型进行提示学习,以使所述大语言模型可以成功进行牲畜农牧知识抽取和知识融合;
基于所述学习API接口调用Prompt模板对大语言模型进行提示学习,以使所述大语言模型可以成功调用预设的API接口。
5.根据权利要求4所述的方法,其特征在于,所述基于所述学习API接口调用Prompt模板对大语言模型进行提示学习,以使所述大语言模型可以成功调用预设的API接口,包括:
将所述学习API接口调用的Prompt模板拆分为训练集、测试集和验证集;
设置多个模型训练参数,通过所述训练集对所述大语言模型进行训练,并通过所述测试集对训练后的大语言模型进行测试;
通过所述验证集对测试后的大语言模型进行精度验证,得到目标大语言模型。
6.根据权利要求5所述的方法,其特征在于,所述基于完成提示学习的大语言模型对用户输入的牲畜知识问题进行答案生成,包括:
获取目标用户通过用户端输入的牲畜知识提问信息;
通过所述目标大语言模型调用意图识别API接口,对所述牲畜知识提问信息进行意图识别,得到意图识别结果;
若所述意图识别结果为所述牲畜知识提问信息对应的答案无需进行推理计算,则通过所述目标大语言模型在所述牲畜知识数据库中查询答案或生成答案,并将答案进行输出。
7.根据权利要求5所述的方法,其特征在于,所述基于完成提示学习的大语言模型对用户输入的牲畜知识问题进行答案生成,还包括:
获取目标用户通过用户端输入的牲畜知识提问信息;
通过所述目标大语言模型调用意图识别API接口,对所述牲畜知识提问信息进行意图识别,得到意图识别结果;
若所述意图识别结果为所述牲畜知识提问信息对应的答案需要进行推理计算,则通过所述目标大语言模型抽取所述牲畜知识提问信息所需调用的目标API接口以及所述目标API接口所需的输入信息;
在所述牲畜知识数据库中查询所述目标API接口所需的输入信息,输入到所述目标API接口中,并执行所述目标API接口;
接收所述目标API接口返回的答案,并将答案进行输出。
8.一种基于大语言模型的牲畜知识问答装置,其特征在于,包括:
收集处理模块,用于基于预设的牲畜领域知识图谱的Schema对牲畜领域知识库中的牲畜知识数据进行收集,并对收集到的牲畜知识数据进行结构化处理,得到牲畜知识数据库;
设计模块,用于基于所述牲畜领域知识图谱的Schema和牲畜知识数据库设计牲畜知识抽取及融合Prompt模板;
所述设计模块,还用于基于现有的AI服务系统数据,设计API接口调用Prompt模板,其中,API接口为现有的AI服务的接口
训练模块,用于基于所述牲畜知识抽取及融合Prompt模板和所述API接口调用Prompt模板对大语言模型进行提示学习;
问答处理模块,用于基于完成提示学习的大语言模型对用户输入的牲畜知识问题进行答案生成。
9.一种计算机设备,其特征在于,包括:处理器和存储器,所述处理器用于执行所述存储器中存储的基于大语言模型的牲畜知识问答程序,以实现权利要求1~7中任一项所述的基于大语言模型的牲畜知识问答方法。
10.一种存储介质,其特征在于,所述存储介质存储有一个或者多个程序,所述一个或者多个程序可被一个或者多个处理器执行,以实现权利要求1~7中任一项所述的基于大语言模型的牲畜知识问答方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311816140.1A CN117786077A (zh) | 2023-12-26 | 2023-12-26 | 基于大语言模型的牲畜知识问答方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311816140.1A CN117786077A (zh) | 2023-12-26 | 2023-12-26 | 基于大语言模型的牲畜知识问答方法及装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117786077A true CN117786077A (zh) | 2024-03-29 |
Family
ID=90386780
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311816140.1A Pending CN117786077A (zh) | 2023-12-26 | 2023-12-26 | 基于大语言模型的牲畜知识问答方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117786077A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN118152430A (zh) * | 2024-05-13 | 2024-06-07 | 厦门农芯数字科技有限公司 | 一种基于大语言模型的养殖场数据指标分析方法、装置以及设备 |
-
2023
- 2023-12-26 CN CN202311816140.1A patent/CN117786077A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN118152430A (zh) * | 2024-05-13 | 2024-06-07 | 厦门农芯数字科技有限公司 | 一种基于大语言模型的养殖场数据指标分析方法、装置以及设备 |
CN118152430B (zh) * | 2024-05-13 | 2024-07-23 | 厦门农芯数字科技有限公司 | 一种基于大语言模型的养殖场数据指标分析方法、装置以及设备 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Pack et al. | Using generative artificial intelligence for language education research: Insights from using OpenAI's ChatGPT | |
US9710829B1 (en) | Methods, systems, and articles of manufacture for analyzing social media with trained intelligent systems to enhance direct marketing opportunities | |
CN117743315B (zh) | 一种为多模态大模型系统提供高质量数据的方法 | |
CN116860949A (zh) | 问答处理方法、装置、系统、计算设备及计算机存储介质 | |
CN117786077A (zh) | 基于大语言模型的牲畜知识问答方法及装置 | |
CN113779227B (zh) | 案情事实抽取方法及系统及装置及介质 | |
van der Slik et al. | Critical Period Claim Revisited: Reanalysis of Hartshorne, Tenenbaum, and Pinker (2018) Suggests Steady Decline and Learner‐Type Differences | |
CN114647713A (zh) | 基于虚拟对抗的知识图谱问答方法、设备及存储介质 | |
Huang et al. | Code review knowledge perception: Fusing multi-features for salient-class location | |
CN112966076A (zh) | 智能问答问题的生成方法、装置、计算机设备及存储介质 | |
CN117932086A (zh) | 利用外接知识库核查减轻大语言模型幻觉的方法及系统 | |
Pradana et al. | Chatbot-based Information Service using RASA Open-SourceFrameworkin Prambanan Temple Tourism Object | |
Kiršienė et al. | Digital transformation of legal services and access to justice: Challenges and possibilities | |
CN117743522A (zh) | 一种医疗答复生成方法、装置、设备以及存储介质 | |
CN116956902A (zh) | 一种文本改写方法、装置、设备及计算机可读存储介质 | |
CN112989001A (zh) | 一种问答处理方法、装置、介质及电子设备 | |
Liu et al. | Understanding the implementation issues when using deep learning frameworks | |
Arora et al. | Generating Test Scenarios from NL Requirements using Retrieval-Augmented LLMs: An Industrial Study | |
Song et al. | DBERlibR: Automated Data Analysis for Discipline-Based Education Research | |
CN116453702B (zh) | 孤独症行为特征集的数据处理方法、设备、系统及介质 | |
CN117592468B (zh) | 基于人工智能的文本处理方法、装置、设备及存储介质 | |
CN118070925B (zh) | 模型训练方法、装置、电子设备、存储介质及程序产品 | |
Mehta et al. | Semantic Resume Evaluation: Leveraging XLnet for Efficient Candidate Screening | |
Harshani | Sinhala chatbot for train information | |
CN117709455A (zh) | 农牧知识图谱的构建方法、装置、计算机设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |