CN117709357A - 一种基于大语言模型的ai智能机器人交互处理方法和装置 - Google Patents

一种基于大语言模型的ai智能机器人交互处理方法和装置 Download PDF

Info

Publication number
CN117709357A
CN117709357A CN202311484803.4A CN202311484803A CN117709357A CN 117709357 A CN117709357 A CN 117709357A CN 202311484803 A CN202311484803 A CN 202311484803A CN 117709357 A CN117709357 A CN 117709357A
Authority
CN
China
Prior art keywords
user demand
target
processing
language model
tool
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202311484803.4A
Other languages
English (en)
Inventor
吴赟玮
戚一鸣
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Taobao China Software Co Ltd
Original Assignee
Taobao China Software Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Taobao China Software Co Ltd filed Critical Taobao China Software Co Ltd
Priority to CN202311484803.4A priority Critical patent/CN117709357A/zh
Publication of CN117709357A publication Critical patent/CN117709357A/zh
Pending legal-status Critical Current

Links

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本申请公开一种基于大语言模型的AI智能机器人交互处理方法和装置,所述方法包括:根据基于大语言模型的AI智能机器人交互系统中输入的用户需求问题,确定所述用户需求问题所属的问题类型;在建立的自定义工具集中,确定与所述问题类型对应的目标自定义工具;根据调用的所述目标自定义工具对所述用户需求问题的处理,返回获取的与所述用户需求问题对应的目标答案。从而使得在基于大语言模型的AI智能机器人交互处理过程中,能够通过准确的调用工具以提高用户意图识别的准确率,以及提高用户意图和目标答案的匹配度。

Description

一种基于大语言模型的AI智能机器人交互处理方法和装置
技术领域
本申请涉及计算机应用技术领域,具体涉及一种基于大语言模型的AI智能机器人交互处理方法和装置,基于大语言模型的AI智能机器人交互系统,以及一种基于大语言模型的AI智能机器人对账交互方法和装置。本申请同时涉及一种计算机存储介质和电子设备。
背景技术
随着互联网和人工智能技术的不断发展,自动问答AI机器人已成为解决各类问题的便捷工具。在线自动问答AI机器人通过学习和分析大量数据,能够理解用户的问题,并给出相应的答案或建议。它的应用领域广泛,可以用于网站客服、智能客服系统、教育辅导、医疗咨询等多个领域。
在线自动问答AI机器人的优势之一是其高效率和准确性。相比人工回答问题,机器人能够在更短的时间内给出答案,并且减少了人为因素带来的误差。同时,它还能够根据用户提出的问题进行后续追问,以获取更多相关信息,进而给出更准确的答案。其优势不仅在于其强大的知识储备和快速的反应能力,还能够灵活应对各种场景和需求。无论是在教育领域,帮助学生解答问题,还是在客服行业,为用户提供在线答疑,自动问答AI机器人都能够发挥出其独特的优势。自动问答AI机器人能够快速准确地解答问题,提供一对一的个性化服务,大大节省了人力成本和时间成本。
发明内容
本申请提供一种基于大语言模型的AI智能机器人交互处理方法,以解决现有技术中因为无法实现对用户需求的精准感知导致无法达到知识提取或者提取不准确的问题。
本申请提供一种基于大语言模型的AI智能机器人交互处理方法,包括:
根据基于大语言模型的AI智能机器人交互系统中输入的用户需求问题,确定所述用户需求问题所属的问题类型;
在建立的自定义工具集中,确定与所述问题类型对应的目标自定义工具;
根据调用的所述目标自定义工具对所述用户需求问题的处理,返回获取的与所述用户需求问题对应的目标答案。
在一些实施例中,所述在自定义工具集中确定与所述问题类型对应的目标自定义工具,包括:
当所述问题类型为语义表达类型时,将所述自定义工具集中询问交互工具确定为所述目标自定义工具。
在一些实施例中,所述根据调用的所述目标自定义工具对所述用户需求问题的处理,返回获取的与所述用户需求问题对应的目标答案,包括:
根据调用的所述询问交互工具,对所述用户需求问题进行分析,获取与所述用户需求问题对应的询问问题;
确定根据所述询问问题获取的答复信息,是否满足从向量化数据库或查询服务模块中进行处理的要求;
若是,则返回所述处理后与所述答复信息对应的目标答案。
在一些实施例中,所述在建立的自定义工具集中,确定与所述问题类型对应的目标自定义工具,包括:
当所述问题类型为答疑类型时,将所述自定义工具集中答疑工具确定为所述目标自定义工具。
在一些实施例中,所述根据调用的所述目标自定义工具对所述用户需求问题的处理,返回获取的与所述用户需求问题对应的目标答案,包括:
根据所述用户需求问题,生成用于向所述答疑工具进行答疑请求的改写问题;
调用的所述答疑工具通过向量化数据库,对所述改写问题进行答疑处理;
返回获取的所述答疑处理后与所述用户需求问题对应的目标答案。
在一些实施例中,所述在自定义工具集中确定与所述问题类型对应的目标自定义工具,包括:
当所述问题类型为查询类型时,将所述自定义工具集中查询工具确定为所述目标自定义工具。
在一些实施例中,所述根据调用的所述目标自定义工具对所述用户需求问题的处理,返回获取的与所述用户需求问题对应的目标答案,包括:
根据调用的所述查询工具,向查询服务模块进行问题查询;
返回基于所述问题查询获取的与所述用户需求问题对应的目标答案。
在一些实施例中,所述根据调用的所述目标自定义工具对所述用户需求问题的处理,返回获取的与所述用户需求问题对应的目标答案,包括:
根据调用的所述目标自定义工具对所述用户需求问题的处理,获取所述用户需求问题对应的目标答案;
根据所述大语言模型的退出,返回包括目标文本信息和/或目标链接和/或目标页面的所述目标答案。
或者,
根据调用的所述目标自定义工具对所述用户需求问题的处理,获取将处理数据修改为模拟数据的数据;
返回根据所述模拟数据确定的包括文本信息和/或目标链接的目标答案。
本申请还提供一种基于大语言模型的AI智能机器人交互处理装置,包括:
第一确定单元,用于根据基于大语言模型的AI智能机器人交互系统中输入的用户需求问题,确定所述用户需求问题所属的问题类型;
第二确定单元,用于在建立的自定义工具集中,确定与所述问题类型对应的目标自定义工具;
返回单元,用于根据调用的所述目标自定义工具对所述用户需求问题的处理,返回获取的与所述用户需求问题对应的目标答案。
本申请还提供一种基于大语言模型的AI智能机器人交互系统,包括:自然语言理解模块、大语言模型代理模块和数据处理模块;
所述自然语言理解模块,用于对用户需求问题进行分析,确定所述用户需求问题的问题处理路径;
所述大语言模型代理模块,用于根据所述自然语言理解模块确定的所述问题处理路径为第一处理路径时,确定所述用户需求问题所属的问题类型;在建立的自定义工具集中,确定与所述问题类型对应的目标自定义工具;根据调用的所述目标自定义工具对所述用户需求问题的处理,返回从所述数据处理模块中获取的与所述用户需求问题对应的目标答案;
所述数据处理模块,用于根据所述大语言模型代理模块中对目标自定义工具的调用,对所述用户需求问题进行处理。
在一些实施例中,所述自然语言理解模块,用于当所述用户需求问题的分析结果为预设问题时,确定所述用户需求问题的处理路径为第二处理路径;
根据所述第二处理路径,查询与所述用户需求问题对应的预设答案。
本申请还提供一种基于大语言模型的AI智能机器人对账交互方法,包括:
响应于用户基于大语言模型的AI智能机器人交互系统输入的对账需求问题,确定所述对账需求问题的问题处理路径;
当所述问题处理路径为第一处理路径时,确定所述对账需求问题所属的问题类型;
在建立的自定义工具集中,确定与所述问题类型对应的目标自定义工具;
根据调用的所述目标自定义工具对所述对账需求问题进行处理,返回获取的与所述用户需求问题对应的对账答案。
本申请还提供一种计算机存储介质,用于存储网络平台产生数据,以及对应所述网络平台产生数据进行处理的程序;
所述程序在被处理器读取执行时,执行如上述基于大语言模型的AI智能机器人交互处理方法,或者,执行如上述基于大语言模型的AI智能机器人对账交互方法。
本申请还提供一种电子设备,包括:
处理器;
存储器,用于存储对网络平台产生数据进行处理的程序,所述程序在被所述处理器读取执行时,执行如上述基于大语言模型的AI智能机器人交互处理方法,或者,执行如上述基于大语言模型的AI智能机器人对账交互方法。
与现有技术相比,本申请具有以下优点:
本申请提供的一种基于大语言模型的AI智能机器人交互处理方法,能够对用户需求问题进行类型确定,调用相对应的自定义工具,通过自定义工具调用外部数据支持用户需求问题的搜索,建立感知-规划-行动的整体思维链路,即便在用户需求问题模糊的情况下,依然能够通过调用自定义工具实现问题的定位,从而使得在基于大语言模型的AI智能机器人交互处理过程中,能够通过准确调用工具提高用户意图识别的准确率,以及提高用户意图和目标答案的匹配度。另外,在根据询问问题进行获取目标答案处理的过程中,能够将重要数据的隐藏,避免在大语言模型处理过程中发生数据泄漏,进而提高数据安全性。
附图说明
图1是本申请提供的一种基于大语言模型的AI智能机器人交互处理方法的流程图;
图2是本申请提供的一种基于大语言模型的AI智能机器人交互处理装置的结构示意图;
图3是本申请提供的一种基于大语言模型的AI智能机器人交互系统的结构示意图;
图4是本申请提供的一种基于大语言模型的AI智能机器人对账交互方法的流程图;
图5是本申请提供的一种基于大语言模型的AI智能机器人对账交互方法的时序图;
图6是本申请提供的一种基于大语言模型的AI智能机器人对账交互方法实施例中,用户端显示系统消息的场景示意图;
图7是本申请提供的一种基于大语言模型的AI智能机器人对账交互方法实施例中,用户端显示目标答案的场景示意图;
图8是本申请提供的一种基于大语言模型的AI智能机器人对账交互装置的结构示意图;
图9是本申请提供的一种电子设备的结构示意图。
具体实施方式
在下面的描述中阐述了很多具体细节以便于充分理解本申请。但是本申请能够以很多不同于在此描述的其它方式来实施,本领域技术人员可以在不违背本申请内涵的情况下做类似推广,因此本申请不受下面公开的具体实施的限制。
本申请中使用的术语是仅仅出于对特定实施例描述的目的,而非旨在限制本申请。在本申请中和所附权利要求书中所使用的描述方式例如:“一种”、“第一”、和“第二”等,并非对数量上的限定或先后顺序上的限定,而是用来将同一类型的信息彼此区分。
基于上述背景技术可知,本申请的发明构思来源于AI答疑机器人,具体从两个方面对现有AI答疑机器人存在的缺陷进行描述,如下:
第一方面:传统答疑机器人,其通常使用BERT模型进行问题学习和答疑,通过预设多个问题分类,在用户交互过程中确认用户问题,然后给出既定的答案。缺点是:无法针对泛化的问题给出解答,亦无法实现工具调用。
第二方面:大语言模型的答疑机器人,其主要利用知识库/搜索引擎+模型强大NLP(Natural Language Processing:自然语言处理)能力给用户简洁易懂的答案,缺点是:只能利用已有的知识解决问题,如果面对用户提示不完整则无法推理得到结果,比如用户需要查询账单但是并没有给出账单的查询周期等。
可见,现有技术中不论是传统答疑机器人还是大语言模型答疑机器人,在面对具体应用场景或者需求场景下,无法实现对用户需求的精准感知导致无法达到知识提取或者提取不准确目的,鉴于此,本申请提供一种交互式AI交互处理方法,如图1所示,图1是本申请提供的一种基于大语言模型的AI智能机器人交互处理方法的流程图,该方法可以包括:
步骤S101:根据基于大语言模型的AI智能机器人交互系统中输入的用户需求问题,确定所述用户需求问题所属的问题类型;
步骤S102:在建立的自定义工具集中,确定与所述问题类型对应的目标自定义工具;
步骤S103:根据调用的所述目标自定义工具对所述用户需求问题的处理,返回获取的与所述用户需求问题对应的目标答案。
在对上述步骤S101到步骤S103进行详细描述前,对本申请技术方案中所涉及的相关技术术语进行概要性的介绍。
大语言模型(Large Language Model:LLM),一种基于深度学习技术,能够预测自然语言中出现概率较高的词序列的模型。这类模型通常采用Transformer网络结构,通过学习大量的语言数据,可以生成具有一定上下文和逻辑连贯性的文本。
AI智能机器人可以被定义为一种能够通过对用户提出的问题进行分析和理解,并给出准确、全面回答的智能系统。它能够模拟人类的思维过程,通过语义理解、知识推理和问题回答等技术,将用户的问题转化为计算机可以理解和处理的形式,并给出符合用户需求的准确答案。
AI Agent(AI代理):通过人工智能技术实现智能行为和决策的软件程序或系统。
LangChain是一个软件开发工具或平台,它提供灵活的抽象和广泛的工具包,使开发人员能够利用LLM(Language Model)的强大能力。LangChain可以提供对如下模块的功能支持:链(Chains)不仅仅是单个LLM的调用,还包括了一系列的其它调用(调用LLM或不同的实用工具等),LangChain提供了一种标准的链接口和许多与其他工具的集成;代理(Agents):代理涉及LLM做出行动决策、执行该行动、查看一个观察结果等过程,并重复该过程直到完成。LangChain提供标准的代理接口,可供选择的代理以及端到端代理的示例。提示(Prompts):包括提示管理、提示优化和提示序列化等。
思维链(Chain-of-thought,CoT),指的是一系列有逻辑关系的思考步骤,形成一个完整的思考过程,或者是一种改进的提示策略,用于提高LLM在复杂推理任务中的性能,如算术推理、常识推理和符号推理。人在日常生活中,随时随地都会用思维链来解决问题,比如工作、读书经常用到的思维导图,就是为了尽可能全面拆解步骤,不忽略重要细节,从而充分地考虑问题。
ReAct框架:是将推理和行为与LLMs相结合通用的范例。ReAct提示LLMs为任务生成口头推理轨迹和操作。从而使得系统可以执行动态推理来创建、维护和调整操作计划,同时还支持与外部环境(例如,Wikipedia)的交互,以将额外信息合并到推理中。
自然语言理解(Natural Language Understanding,NLU):是所有支持机器理解文本内容的方法模型或任务的总称。NLU在文本信息处理处理系统中扮演着非常重要的角色,是推荐、问答、搜索等系统的必备模块。
结合上述概念,对上述步骤S101到步骤S103的内容进行详细描述,所述步骤S101到步骤S103在本实施例中,主要是以Agent为执行侧进行的描述,当然不排除其他能够进行相应数据处理过程的执行侧,比如:中间服务侧。也就是说,对于步骤S101到步骤S103的执行内容不限于Agent为执行侧,在基于大语言模型的AI智能机器人交互系统中其他能够执行上述步骤的模块也可以作为执行侧。
关于步骤S101:根据基于大语言模型的AI智能机器人交互系统中输入的用户需求问题,确定所述用户需求问题所属的问题类型。
所述步骤S101的目的在于:确定用户需求问题的问题类型。那么对于用户需求问题类型的定位,可以为后续工具的调用提供基础,进一步能够保证用户需求问题感知或思考的准确性,或者是,保证问题内容定位的准确性。
所述步骤S101中用户需求问题可以是基于大模型的AI智能机器人交互系统,通过用户输入的文本信息,或者,用户输入的语音信息,或者,用户基于所述系统在交互页面提供的系统消息、常用入口、常见问题等中的至少一个问题通道的触发操作而生成。对于所述文本信息和所述语音信息,均需要将其转换为计算机可识别和处理的语言。对于所述交互页面中提供的系统消息(也可称为重要消息)可以按照消息的需要处理的时间或者等级进行排列。所述常用入口可以按照用户的历史询问记录确定,其可以根据设定的周期自动更新也可以根据用户的更新操作进行更新。所述常用问题可以是按照询问问题排序确定,同样也可以根据设定的周期自动更新或者根据用户的更新操作进行更新。
所述确定所述用户需求问题所述的问题类型可以通过所述需求问题中的关键字,或者,上下文进行确定。
所述步骤S101能够明确用户需求问题所属类型,以便调用对应的工具第用户需求问题进行处理。
关于步骤S102:在建立的自定义工具集中,确定与所述问题类型对应的目标自定义工具。
所述步骤S102的目的在于确定与用户需求问题所属问题类型对应的目标自定义工具。
在所述步骤S102中会根据不同场景需求建立作为思维链的自定义工具集,将自定义工具集中的自定义工具作为不同问题类型对应的思维链。使得用户需求问题、问题定位、目标答案之间实现思维链结构,形成感知-规划-行动整个思维链路,并且在问题定位过程中还能够生成提示(prompt)辅助问题定位。而现有在AI智能机器人交互场景下,Agent基于LLM模型并不能实现知识提取的准确性,不仅是因为存在对用户需求问题感知不精准,还包括LLM模型自身知识局限,因此,本实施例中会根据不同问题类型提供包括不同自定义工具的自定义工具集,以实现对基于大语言模型的AI智能机器人交互场景下的外部支持,克服LLM知识的局限。
本实施例中,主要以问题类型为语义表达类型、答疑类型、查询类型等作为示例进行说明,可以理解是,在结合不同应用场景,问题类型还可以包括其他自定义类型,因此,对于问题类型没有具体限制。
基于上述问题类型,所述步骤S102的具体实现过程可以包括:
步骤S102-11:当所述问题类型为语义表达类型时,将所述自定义工具集中询问交互工具确定为所述目标自定义工具。
步骤S102-21:当所述问题类型为答疑类型时,将所述自定义工具集中答疑工具确定为所述目标自定义工具。
步骤S102-31:当所述问题类型为查询类型时,将所述自定义工具集中查询工具确定为所述目标自定义工具。
其中,所述步骤S102-11中的询问交互工具目的在于,解决用户需求问题存在表达模糊、提示(prompt)不完整问题时,通过在Agent中添加询问用户的询问交互工具,实现在用户需求问题不清楚的情况下,按照上下文建立思维链并向用户输出询问问题(即:输出prompt提示),并且根据用户的回复还能够继续进行询问,最终能够实现对用户需求问题的准确定位。比如:用户需求问题是账单怎么查看,很显然,查看账单所涉及的内容较多,因此,该用户需求问题并不明确,需要询问交互工具与用户之间进行问题交互以便对用户需求问题进行准确定位。
所述步骤S102-21中的答疑工具目的在于,解决用户需求问题存在疑惑,询问等情况下,通过在Agent中自定义的答疑工具实现用户需求问题的答疑。本实施例中,所述答疑工具也可以理解为是知识搜索工具,通过对应的API(接口)调用答疑Chain知识库进而完成知识搜索。所述答疑工具可以通过调用答疑Chain知识库也可以调用向量化数据库。
所述步骤S102-31中查询工具目的在于,解决用户需求问题为查询相关数据等情况下,通过在Agent中将查询数据接口定义成查询工具,例如:将查询数据接口封装成包括函数名+函数入参+函数返回的函数,再利用langchain的工具定义规则,添加工具的使用说明等参数。将工具说明参数+工具对应的函数添加到Agent中,即为查询工具。
基于上述步骤S102中确定的目标自定义工具,所述步骤S103的具体实现如下:
关于步骤S103:根据调用的所述目标自定义工具对所述用户需求问题的处理,返回获取的与所述用户需求问题对应的目标答案。
其目的在于,通过调用对应的目标自定义工具实现对用户需求问题的处理,将处理结果返回。
当用户需求问题为步骤S102-11中的询问交互工具时,所述步骤S103具体可以包括:
步骤S103-11:根据调用的所述询问交互工具,对所述用户需求问题进行分析,获取与所述用户需求问题对应的询问问题;
步骤S103-12:确定根据所述询问问题获取的答复信息,是否满足从向量化数据库或查询服务模块中进行处理的要求;
步骤S103-13:若是,则返回所述处理后与所述答复信息对应的目标答案。
步骤S103-14:若否,则根据所述答复信息的上下文,生成与所述答复信息对应的询问问题,直到满足从所述向量化数据库中或查询服务模块中进行处理的要求。
当用户需求问题为步骤S102-21中的答疑工具时,为避免答疑过程中思维链上下文往来次数较多,导致针对所述用户需求问题的整条思维链中涉及的文档信息变的较为庞大,本实施例中,将Agent划分为两部分,一部分生成与用户交互的上下文(即:第一Agent),另一部分用于通过向量化数据库对用户问题进行检索得到答案(即:第二Agent),因此,所述步骤S103具体可以包括:
步骤S103-21:根据所述用户需求问题,生成用于向所述答疑工具进行答疑请求的改写问题;
步骤S103-22:调用的所述答疑工具通过向量化数据库,对所述改写问题进行答疑处理;
步骤S103-22:返回获取的所述答疑处理后与所述用户需求问题对应的目标答案。
本实施例中,第一Agent可以对输出的问题进行改写,通过调用工具可以通过第二Agent进行答疑查询等。所述向量化数据库可以称之为知识库,可以通过向量化实时数据仓、向量化检索算法,实现相似度计算确定与所述用户需求问题对应的目标答案。在商家对账场景中,可以将历史对账答疑信息中的数据进行存储管理,也能够实时将AI智能机器人交互系统产生的客服本地数据和商家后台数据同步到向量化实时数据仓中,从而使得在对所述用户需求问题进行处理时,能够到全面完整的得到外部数据支持,进一步保证目标答案的准确性。
为能够使得用户获得更加直观的目标答案,本实施例中,可以对查询或获取到的答案资料等处理为文档形式,文档可以包括标题、链接、内容等。即:答疑资料可以是规则的操作文档,可以根据标题进行切割。段落化的对话文档可以根据对话ID进行切割也可以是chunk块。也就是说,可以根据具体应用场景的需求对答案资料进行切割,并不限于上述切割方式。
当用户需求问题为步骤S102-31中的查询工具时,所述步骤S103具体可以包括:
步骤S103-31:根据调用的所述查询工具,向查询服务模块进行问题查询;
步骤S103-32:返回基于所述问题查询获取的与所述用户需求问题对应的目标答案。
本实施例中,可以将数据查询接口自定义为查询工具,调用查询服务模块。所述查询服务模块可以根据具体应用场景划分为不同查询服务子模块,比如:查询账单、查询资金等。
关于步骤S103:根据调用的所述目标自定义工具对所述用户需求问题的处理,返回获取的与所述用户需求问题对应的目标答案。
该步骤的目的在于返回获得的目标答案,基于上述可知,通过调用所述目标自定义工具实现对用户需求问题的处理,即知识搜索、数据查询等处理。
为保证数据安全性,本实施例中,将返回的目标答案中的具体数据内容不再与prompt(提示)进行拼接。在通过调用目标自定义工具进行用户需求问题处理,获取目标答案后,在返回所述目标答案时可以包括至少以下两种返回方式:
根据调用的所述目标自定义工具对所述用户需求问题的处理,获取所述用户需求问题对应的目标答案;
根据所述大语言模型的退出,返回包括目标文本信息和/或目标链接和/或目标页面的所述目标答案。
或者,
根据调用的所述目标自定义工具对所述用户需求问题的处理,获取将处理数据修改为模拟(mock)数据的数据;
返回根据所述模拟数据确定的包括文本信息和/或目标链接的目标答案。
即:目标自定义工具会将目标答案中涉及的具体数据内容进行存储,将重要数据进行隐藏,使目标答案中涉及的数据内容成为mock数据形式,返回给Agent(也可称为LLM),当LLM回复用户后,再将存储的具体数据内容返回给用户。
在本实施例中,返回的所述目标答案可以是与所述用户需求问题对应的文本信息方式,当然不排除语音信息方式,还可以是链接信息方式,例如:如果用户需求问题是以文本信息的方式输入,返回的可以是文本信息方式的目标答案,也可以是语音信息形式的目标答案。当返回目标答案为链接时,AI智能机器人交互系统的用户端,可以自动跳转到对应的页面。当返回目标答案为文本信息时,AI智能机器人交互系统的用户端,可以采用表格形式、字符形式等进行输出。还可以是,当返回的为文本信息形式时,所述用户端还可以包括与文本信息对应的跳转控件,实现触发跳转,从而为用户提供多元化的目标答案参看方式。
以上是对本申请提供的一种基于大语言模型的AI智能机器人交互处理方法实施例的描述,该实施例主要以Agent角度进行描述,该实施例能够对用户需求问题进行准确定位,并通过自定义工具调用外部数据支持用户需求问题的搜索,建立感知-规划-行动的整体思维链路,即便在用户需求问题模糊的情况下,依然能够通过调用自定义工具实现问题的定位,从而使得在基于大语言模型的AI智能机器人交互处理过程通过准确调用工具提高用户意图识别的准确率,以及提高用户意图和目标答案的匹配度。
以上是对本申请提供的一种基于大语言模型的AI智能机器人交互处理方法实施例的具体描述,与前述提供的一种基于大语言模型的AI智能机器人交互处理方法实施例相对应,本申请还公开一种基于大语言模型的AI智能机器人交互处理装置实施例,请参看图2,由于装置实施例基本相似于方法实施例,所以描述得比较简单,相关之处参见方法实施例的部分说明即可。下述描述的装置实施例仅仅是示意性的。
如图2所示,图2是本申请提供的一种基于大语言模型的AI智能机器人交互处理装置的结构示意图,该装置实施例可以包括:
第一确定单元201,用于根据基于大语言模型的AI智能机器人交互系统中输入的用户需求问题,确定所述用户需求问题所属的问题类型;
第二确定单元202,用于在建立的自定义工具集中,确定与所述问题类型对应的目标自定义工具;
返回单元203,用于根据调用的所述目标自定义工具对所述用户需求问题的处理,返回获取的与所述用户需求问题对应的目标答案。
其中所述第一确定单元201具体可以:用于当所述问题类型为语义表达类型时,将所述自定义工具集中询问交互工具确定为所述目标自定义工具;用于当所述问题类型为答疑类型时,将所述自定义工具集中答疑工具确定为所述目标自定义工具;用于当所述问题类型为查询类型时,将所述自定义工具集中查询工具确定为所述目标自定义工具。
当所述目标自定义工具为询问交互工具时,所述返回单元203具体可以包括:获取子单元、要求确定子单元,返回子单元;
所述获取子单元,用于根据调用的所述询问交互工具,对所述用户需求问题进行分析,获取与所述用户需求问题对应的询问问题;
所述要求确定子单元,用于确定根据所述询问问题获取的答复信息,是否满足从向量化数据库或查询服务模块中进行处理的要求;
所述返回子单元,用于当所述要求确定子单元的确定结果为是时,返回所述处理后与所述答复信息对应的目标答案。
当所述目标自定义工具为答疑工具时,所述返回单元203具体可以包括:生成子单元、答疑处理子单元、返回子单元。
所述生成子单元,用于根据所述用户需求问题,生成用于向所述答疑工具进行答疑请求的改写问题;
所述答疑处理子单元,用于调用的所述答疑工具通过向量化数据库,对所述改写问题进行答疑处理;
所述返回子单元,用于返回获取的所述答疑处理后与所述用户需求问题对应的目标答案。
当所述目标自定义工具为查询工具时,所述返回单元203具体可以包括:查询子单元、返回子单元;
所述查询子单元,用于根据调用的所述查询工具,向查询服务模块进行问题查询;
所述返回子单元,用于返回基于所述问题查询获取的与所述用户需求问题对应的目标答案。
在一些实施例中,所述返回单元203具体可以包括:答案获取子单元和返回子单元;所述答案获取子单元,用于根据调用的所述目标自定义工具对所述用户需求问题的处理,获取所述用户需求问题对应的目标答案;所述返回子单元,用于根据所述大语言模型的退出,返回包括目标文本信息和/或目标链接和/或目标页面的所述目标答案。
在一些实施例中,所述返回单元203具体可以包括:数据获取子单元和返回子单元;所述数据获取子单元,用于根据调用的所述目标自定义工具对所述用户需求问题的处理,获取将处理数据修改为模拟数据的数据;所述返回子单元,用于返回根据所述模拟数据确定的包括文本信息和/或目标链接的目标答案。
基于上述内容,本申请还提供一种基于大语言模型的AI智能机器人交互系统,如图3所示,图3是本申请提供的一种基于大语言模型的AI智能机器人交互系统的结构示意图。该交互系统可以包括:自然语言理解模块301、大语言模型代理模块302和数据处理模块303;
所述自然语言理解模块301,用于对用户需求问题进行分析,确定所述用户需求问题的问题处理路径;本实施例中,当所述用户需求问题的分析结果为预设问题时,确定所述用户需求问题的处理路径为第二处理路径;根据所述第二处理路径,查询与所述用户需求问题对应的预设答案,直接返回所述预设答案到AI智能机器人交互系统的用户端。关于预设问题可以通过预设关键词等方式进行确定。当然也包括对prompt模板的定义,比如:工具的定义、调用工具的定义、目标答案返回形式的定义等等,具体定义可以根据实际场景的需求进行,不限于上述内容。
所述大语言模型代理模块302,用于根据所述自然语言理解模块确定的所述问题处理路径为第一处理路径时,确定所述用户需求问题所属的问题类型;在建立的自定义工具集中,确定与所述问题类型对应的目标自定义工具;根据调用的所述目标自定义工具对所述用户需求问题的处理,返回从所述数据处理模块中获取的与所述用户需求问题对应的目标答案;
所述数据处理模块303,用于根据所述大语言模型代理模块中对目标自定义工具的调用,对所述用户需求问题进行处理,即提供外部数据支持。
关于上述交互系统实施例的具体内容,可以参考上述步骤S101到步骤S103的具体内容,此处不再详述。
基于上述,本申请还提供一种基于大语言模型的AI智能机人对账交互方法,如图4-7所示,图4是是本申请提供的一种基于大语言模型的AI智能机器人对账交互方法的流程图,所述对账交互方法实施例可以包括:
步骤S401:响应于用户基于大语言模型的AI智能机器人交互系统输入的对账需求问题,确定所述对账需求问题的问题处理路径;
步骤S402:当所述问题处理路径为第一处理路径时,确定所述对账需求问题所属的问题类型;
步骤S403:在建立的自定义工具集中,确定与所述问题类型对应的目标自定义工具;
步骤S404:根据调用的所述目标自定义工具对所述对账需求问题进行处理,返回获取的与所述用户需求问题对应的对账答案。
如图5-7所示,图5是本申请提供的一种基于大语言模型的AI智能机器人对账交互方法的时序图;图6是本申请提供的一种基于大语言模型的AI智能机器人对账交互方法实施例中,用户端显示系统消息的场景示意图;图7是本申请提供的一种基于大语言模型的AI智能机器人对账交互方法实施例中,用户端显示目标答案的场景示意图。所述步骤S401可以是用户通过大语言模型的AI智能机器人交互系统的交互平台,输入的对账需求问题。例如:用户通过AI助手输入“账单怎么看”,AI助手思考该问题属于语义表达模糊的问题类型,则会调用询问工具生成询问问题,向所述用户发问,例如:“请提供想要查询的账单结果状态、仓库类型、账单类型以及起止日期”,基于该询问问题,所述用户进行回复,AI助手会思考回复内容是否完备能够通过调用询问工具对应的外部数据库进行回复,AI助手通过询问工具获得相关目标答案后输出所述目标答案,该过程中,大语言模型在根据询问问题进行处理过程中,即prompt阶段对数据做出隐藏处理,得到模拟数据,以避免数据泄漏,提高数据安全性。AI助手向用户反馈的回复内容为用户询问问题对应的真实数据,比如:自动跳转到对应的页面或者输出用户查询的账单表等。
关于所述基于大语言模型的AI智能机人对账交互方法的具体内容可以参考上述基于大语言模型的AI智能机器人交互处理方法实施例中的步骤S101到步骤S103的描述,以及基于大语言模型的AI智能机器人交互系统实施例的描述,此处不再详述。
以上是本申请提供的一种基于大语言模型的AI智能机器人对账交互方法实施例的描述,可以理解的是,该对账交互方法不论用户输入的问题是哪种类型,均可以通过与问题类型相匹配的自定义工具实现问题的准确定位,并通过调用自定义工具实现外部数据的支持,避免现有AI智能机器人无法精准定位用户对账问题,以及由于知识库的限制而导致答复不准确或无法支持答复等问题的产生。并且本实施例中考虑到数据安全的问题,会将重要数据进行隐藏,例如:查询到真实数据后,通过mock数据调用LLM时,让LLM生成回答,然后通过代码实现LLM生成结果和真实数据的组装,从而保证在调用LLM的过程中避免用户数据泄漏的问题。又例如:Agent调用查询工具拿到真实数据后直接返回,不再继续调用LLM,真实数据通过代码格式化后返回给用户,从而也能够被保证用户数据的安全性。再例如:通过本地数据存储方式,可以直接避免在LLM对询问数据进行处理时,数据泄漏的问题;而LLM反馈的与询问问题对应的目标答案可以以直观对账目标页面或对账数据表格提供给用户,实现在AI智能机器人对话页面自动跳转功能和数据表格查看功能等。
以上是对本申请提供的一种基于大语言模型的AI智能机器人对账交互方法实施例的具体描述,与前述提供的一种基于大语言模型的AI智能机器人对账交互方法实施例相对应,本申请还公开一种基于大语言模型的AI智能机器人对账交互装置实施例,请参看图8,由于装置实施例基本相似于方法实施例,所以描述得比较简单,相关之处参见方法实施例的部分说明即可。下述描述的装置实施例仅仅是示意性的。
如图8所示,图8是本申请提供的一种基于大语言模型的AI智能机器人对账交互装置的结构示意图;该装置实施例可以包括:第一确定单元801、第二确定单元802、第三确定单元803、返回单元804;
所述第一确定单元801,用于响应于用户基于大语言模型的AI智能机器人交互系统输入的对账需求问题,确定所述对账需求问题的问题处理路径;具体可以根据对账需求问题中是否为预设对账问题,确定所述问题处理路径。具体可以是,根据所述对账需求问题中是否包括预设问题中的预设关键词,例如:通过自然语言理解对对账需求问题进行分析,确定对账需求问题的文本信息中是否有预设问题的预设关键词,若没有则按照第一处理路径进行处理,若有,则按照第二处理路径处理,所述第二处理路径为针对对账需求问题在预设数据库中搜索对应的答案和/或链接。
所述第二确定单元802,用于当所述问题处理路径为第一处理路径时,确定所述对账需求问题所属的问题类型。
所述第三确定单元803,用于在建立的自定义工具集中,确定与所述问题类型对应的目标自定义工具。
所述返回单元804,用于根据调用的所述目标自定义工具对所述对账需求问题进行处理,返回获取的与所述用户需求问题对应的对账答案。
关于对账交互装置实施例的具体内容可以参考上述交互处理方法实施例、对账交互方法实施例的内容,此处不再详述。
可以理解的是,上述主要以商家对账应用场景为例对基于大语言模型的AI智能机器人交互方法和装置进行的描述,随着计算机和互联网技术的不断发展,本申请提供的基于大语言模型的AI智能机器人交互方法还可以应用在其他应用场景下,比如:医疗应用场景,从病人的角度能够通过病人与AI智能机器人之间的交互实现对自己病情的了解,从医务工作者的角度能够通过与AI智能机器人之间的交互快速查看病人历史病历,辅助工作的执行。再比如:还可以应用于教育场景、人事管理场景等,均能够结合外部数据支持得到准确目标答案。
基于上述内容,本申请还提供一种计算机存储介质,用于存储网络平台产生数据,以及对应所述网络平台产生数据进行处理的程序;
所述程序在被处理器读取执行时,执行如上述基于大语言模型的AI智能机器人交互处理方法实施例中的相关步骤,或者,执行如上述基于大语言模型的AI智能机器人对账交互方法实施例中的相关步骤。
基于上述内容,本申请还提供一种电子设备,包括:
处理器901;
存储器902,用于存储对网络平台产生数据进行处理的程序,所述程序在被所述处理器读取执行时,执行如上述基于大语言模型的AI智能机器人交互处理方法实施例中的相关步骤,或者,执行如上述基于大语言模型的AI智能机器人对账交互方法实施例中的相关步骤。
需要说明的是,本申请所涉及的用户信息(包括但不限于用户设备信息、用户个人信息等)和数据(包括但不限于用于分析的数据、存储的数据、展示的数据等),均为经用户授权或者经过各方充分授权的信息和数据,并且相关数据的收集、使用和处理需要遵守相关国家和地区的相关法律法规和标准,并提供有相应的操作入口,供用户选择授权或者拒绝。
在一个典型的配置中,计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
1、计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括非暂存电脑可读媒体(transitory media),如调制的数据信号和载波。
2、本领域技术人员应明白,本申请的实施例可提供为方法、系统或计算机程序产品。因此,本申请可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且,本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本申请虽然以较佳实施例公开如上,但其并不是用来限定本申请,任何本领域技术人员在不脱离本申请的精神和范围内,都可以做出可能的变动和修改,因此本申请的保护范围应当以本申请权利要求所界定的范围为准。

Claims (14)

1.一种基于大语言模型的AI智能机器人交互处理方法,其特征在于,包括:
根据基于大语言模型的AI智能机器人交互系统中输入的用户需求问题,确定所述用户需求问题所属的问题类型;
在建立的自定义工具集中,确定与所述问题类型对应的目标自定义工具;
根据调用的所述目标自定义工具对所述用户需求问题的处理,返回获取的与所述用户需求问题对应的目标答案。
2.根据权利要求1所述的基于大语言模型的AI智能机器人交互处理方法,其特征在于,所述在自定义工具集中确定与所述问题类型对应的目标自定义工具,包括:
当所述问题类型为语义表达类型时,将所述自定义工具集中询问交互工具确定为所述目标自定义工具。
3.根据权利要求2所述的基于大语言模型的AI智能机器人交互处理方法,其特征在于,所述根据调用的所述目标自定义工具对所述用户需求问题的处理,返回获取的与所述用户需求问题对应的目标答案,包括:
根据调用的所述询问交互工具,对所述用户需求问题进行分析,获取与所述用户需求问题对应的询问问题;
确定根据所述询问问题获取的答复信息,是否满足从向量化数据库或查询服务模块中进行处理的要求;
若是,则返回所述处理后与所述答复信息对应的目标答案。
4.根据权利要求1所述的基于大语言模型的AI智能机器人交互处理方法,其特征在于,所述在建立的自定义工具集中,确定与所述问题类型对应的目标自定义工具,包括:
当所述问题类型为答疑类型时,将所述自定义工具集中答疑工具确定为所述目标自定义工具。
5.根据权利要求4所述的基于大语言模型的AI智能机器人交互处理方法,其特征在于,所述根据调用的所述目标自定义工具对所述用户需求问题的处理,返回获取的与所述用户需求问题对应的目标答案,包括:
根据所述用户需求问题,生成用于向所述答疑工具进行答疑请求的改写问题;
调用的所述答疑工具通过向量化数据库,对所述改写问题进行答疑处理;
返回获取的所述答疑处理后与所述用户需求问题对应的目标答案。
6.根据权利要求1所述的基于大语言模型的AI智能机器人交互处理方法,其特征在于,所述在自定义工具集中确定与所述问题类型对应的目标自定义工具,包括:
当所述问题类型为查询类型时,将所述自定义工具集中查询工具确定为所述目标自定义工具。
7.根据权利要求6所述的基于大语言模型的AI智能机器人交互处理方法,其特征在于,所述根据调用的所述目标自定义工具对所述用户需求问题的处理,返回获取的与所述用户需求问题对应的目标答案,包括:
根据调用的所述查询工具,向查询服务模块进行问题查询;
返回基于所述问题查询获取的与所述用户需求问题对应的目标答案。
8.根据权利要求1所述的基于大语言模型的AI智能机器人交互处理方法,其特征在于,所述根据调用的所述目标自定义工具对所述用户需求问题的处理,返回获取的与所述用户需求问题对应的目标答案,包括:
根据调用的所述目标自定义工具对所述用户需求问题的处理,获取所述用户需求问题对应的目标答案;
根据所述大语言模型的退出,返回包括目标文本信息和/或目标链接和/或目标页面的所述目标答案。
或者,
根据调用的所述目标自定义工具对所述用户需求问题的处理,获取将处理数据修改为模拟数据的数据;
返回根据所述模拟数据确定的包括文本信息和/或目标链接的目标答案。
9.一种基于大语言模型的AI智能机器人交互处理装置,其特征在于,包括:
第一确定单元,用于根据基于大语言模型的AI智能机器人交互系统中输入的用户需求问题,确定所述用户需求问题所属的问题类型;
第二确定单元,用于在建立的自定义工具集中,确定与所述问题类型对应的目标自定义工具;
返回单元,用于根据调用的所述目标自定义工具对所述用户需求问题的处理,返回获取的与所述用户需求问题对应的目标答案。
10.一种基于大语言模型的AI智能机器人交互系统,其特征在于,包括:自然语言理解模块、大语言模型代理模块和数据处理模块;
所述自然语言理解模块,用于对用户需求问题进行分析,确定所述用户需求问题的问题处理路径;
所述大语言模型代理模块,用于根据所述自然语言理解模块确定的所述问题处理路径为第一处理路径时,确定所述用户需求问题所属的问题类型;在建立的自定义工具集中,确定与所述问题类型对应的目标自定义工具;根据调用的所述目标自定义工具对所述用户需求问题的处理,返回从所述数据处理模块中获取的与所述用户需求问题对应的目标答案;
所述数据处理模块,用于根据所述大语言模型代理模块中对目标自定义工具的调用,对所述用户需求问题进行处理。
11.根据权利要求10所述的基于大语言模型的AI智能机器人交互系统,其特征在于,所述自然语言理解模块,用于当所述用户需求问题的分析结果为预设问题时,确定所述用户需求问题的处理路径为第二处理路径;
根据所述第二处理路径,查询与所述用户需求问题对应的预设答案。
12.一种基于大语言模型的AI智能机器人对账交互方法,其特征在于,包括:
响应于用户基于大语言模型的AI智能机器人交互系统输入的对账需求问题,确定所述对账需求问题的问题处理路径;
当所述问题处理路径为第一处理路径时,确定所述对账需求问题所属的问题类型;
在建立的自定义工具集中,确定与所述问题类型对应的目标自定义工具;
根据调用的所述目标自定义工具对所述对账需求问题进行处理,返回获取的与所述用户需求问题对应的对账答案。
13.一种计算机存储介质,用于存储网络平台产生数据,以及对应所述网络平台产生数据进行处理的程序;
所述程序在被处理器读取执行时,执行如上述权利要求1-8任意一项所述的基于大语言模型的AI智能机器人交互处理方法,或者,执行如上述权利要求12所述的基于大语言模型的AI智能机器人对账交互方法。
14.一种电子设备,包括:
处理器;
存储器,用于存储对网络平台产生数据进行处理的程序,所述程序在被所述处理器读取执行时,执行如上述权利要求1-8任意一项所述的基于大语言模型的AI智能机器人交互处理方法,或者,执行如上述权利要求12所述的基于大语言模型的AI智能机器人对账交互方法。
CN202311484803.4A 2023-11-09 2023-11-09 一种基于大语言模型的ai智能机器人交互处理方法和装置 Pending CN117709357A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202311484803.4A CN117709357A (zh) 2023-11-09 2023-11-09 一种基于大语言模型的ai智能机器人交互处理方法和装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202311484803.4A CN117709357A (zh) 2023-11-09 2023-11-09 一种基于大语言模型的ai智能机器人交互处理方法和装置

Publications (1)

Publication Number Publication Date
CN117709357A true CN117709357A (zh) 2024-03-15

Family

ID=90161337

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202311484803.4A Pending CN117709357A (zh) 2023-11-09 2023-11-09 一种基于大语言模型的ai智能机器人交互处理方法和装置

Country Status (1)

Country Link
CN (1) CN117709357A (zh)

Similar Documents

Publication Publication Date Title
US10831449B2 (en) Process and system for automatic generation of functional architecture documents and software design and analysis specification documents from natural language
US10303441B2 (en) Process and system for automatic generation of functional architecture documents and software design and analysis specification documents from natural language
Li et al. Api-bank: A benchmark for tool-augmented llms
EP3642835A1 (en) Omnichannel, intelligent, proactive virtual agent
CN109145168A (zh) 一种专家服务机器人云平台
CN111949800A (zh) 一种开源项目知识图谱的建立方法和系统
CN111368029B (zh) 基于意图三元组的交互方法、装置、设备及存储介质
Vishwakarma et al. A review & comparative analysis on various chatbots design
CN117520514A (zh) 一种问答任务处理方法、装置、设备及可读存储介质
Tarasiev et al. Using of open-source technologies for the design and development of a speech processing system based on stemming methods
CN117112767A (zh) 问答结果生成方法和商业查询大模型训练方法、及装置
CN117709357A (zh) 一种基于大语言模型的ai智能机器人交互处理方法和装置
CN115757720A (zh) 基于知识图谱的项目信息搜索方法、装置、设备和介质
Patel et al. College enquiry chatbot using conversational AI
CN114357147A (zh) 信息查询方法、装置、设备及介质
Terakawa et al. Preliminary study of reasoning existing projects’ descriptions based on classname word elements
Guo et al. Question answering system based on ontology and semantic web
CN115114281A (zh) 查询语句的生成方法和装置,存储介质和电子设备
CA3139543A1 (en) Process and system for automatic generation of functional architecture documents and software design and analysis specification documents from natural language
Daase et al. Automation of customer initiated back office processes: a design science research approach to link robotic process automation and chatbots
Ravi et al. AI pptX: Robust Continuous Learning for Document Generation with AI Insights
León et al. Inconsistency detection on data communication standards using information extraction techniques: The ABP case
Scott et al. Case Study: Customised Enhancement of an MBSE Environment for Transport Infrastructure Projects
Chen An intelligent question-answering system for course learning based on knowledge graph
CN118132718A (zh) 一种工业知识问答方法、设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination