CN108415939B - 基于人工智能的对话处理方法、装置、设备及计算机可读存储介质 - Google Patents
基于人工智能的对话处理方法、装置、设备及计算机可读存储介质 Download PDFInfo
- Publication number
- CN108415939B CN108415939B CN201810074464.5A CN201810074464A CN108415939B CN 108415939 B CN108415939 B CN 108415939B CN 201810074464 A CN201810074464 A CN 201810074464A CN 108415939 B CN108415939 B CN 108415939B
- Authority
- CN
- China
- Prior art keywords
- vector
- input
- output
- intention
- model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/33—Querying
- G06F16/332—Query formulation
- G06F16/3329—Natural language query formulation or dialogue systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/30—Semantic analysis
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- Mathematical Physics (AREA)
- General Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Health & Medical Sciences (AREA)
- Human Computer Interaction (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Machine Translation (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
本发明提供一种基于人工智能的对话处理方法、装置、设备及计算机可读存储介质。本发明实施例通过根据用户所提供的输入对话,利用语言理解模型,获得输入意图向量和输入参数向量,进而根据所述输入意图向量和所述输入参数向量,获得输出意图向量和输出参数向量,使得能够根据所述输出意图向量和所述输出参数向量,利用语言生成模型,获得输出对话,并向所述用户返回所述输出对话,由于将输入对话进行深度理解为输入意图向量和输入参数向量,使得能够根据深度理解的输入意图向量和输入参数向量获得深度理解的输出意图向量和输出参数向量,从而提高了对话处理的可靠性不高。
Description
【技术领域】
本发明涉及人机对话技术,尤其涉及一种基于人工智能的对话处理方法、装置、设备及计算机可读存储介质。
【背景技术】
人工智能(Artificial Intelligence),英文缩写为AI。它是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。人工智能是计算机科学的一个分支,它企图了解智能的实质,并生产出一种新的能以人类智能相似的方式做出反应的智能机器,该领域的研究包括机器人、语言识别、图像识别、自然语言处理和专家系统等。
近年来,“对话即平台(conversation as platform)”的理念日益深入人心。很多互联网产品和行业开始在产品中尝试引入对话式的人机交互方式(又称对话机器人),例如家电、金融、医疗等。相应的,开发对话机器人的需求也变得越来越旺盛。
目前,通常可以采用文本匹配的方式,获得与用户所提供的输入对话(utterance)相匹配的对话,进而,再将该对话的回复作为输出对话(response)返回给用户。然而,这种文本匹配方式,没有对输入对话进行深度理解,从而导致了对话处理的可靠性不高。
【发明内容】
本发明的多个方面提供一种基于人工智能的对话处理方法、装置、设备及计算机可读存储介质,用以提高对话处理的可靠性。
本发明的一方面,提供一种基于人工智能的对话处理方法,包括:
根据用户所提供的输入对话,利用语言理解模型,获得输入意图向量和输入参数向量;
根据所述输入意图向量和所述输入参数向量,获得输出意图向量和输出参数向量;
根据所述输出意图向量和所述输出参数向量,利用语言生成模型,获得输出对话;
向所述用户返回所述输出对话。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述根据用户所提供的输入对话,利用语言理解模型,获得输入意图向量和输入参数向量之前,还包括:
利用未标注的训练语料,对所述语言理解模型和所述语言生成模型,进行无监督协同训练。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述根据用户所提供的输入对话,利用语言理解模型,获得输入意图向量和输入参数向量之前,还包括:
利用已标注的训练语料,对所述语言理解模型进行有监督训练。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述根据所述输入意图向量和所述输入参数向量,获得输出意图向量和输出参数向量,包括:
根据所述输入意图向量和所述输入参数向量,利用意图转移模型,获得所述输出意图向量;
根据所述输入意图向量和所述输入参数向量,利用参数转移模型,获得所述输出参数向量。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述意图转移模型或所述参数转移模型包括神经网络。
本发明的另一方面,提供一种基于人工智能的对话处理装置,包括:
理解单元,用于根据用户所提供的输入对话,利用语言理解模型,获得输入意图向量和输入参数向量;
转移单元,用于根据所述输入意图向量和所述输入参数向量,获得输出意图向量和输出参数向量;
生成单元,用于根据所述输出意图向量和所述输出参数向量,利用语言生成模型,获得输出对话;
输出单元,用于向所述用户返回所述输出对话。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述装置还包括训练单元,用于
利用未标注的训练语料,对所述语言理解模型和所述语言生成模型,进行无监督协同训练。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述训练单元,还用于
利用已标注的训练语料,对所述语言理解模型进行有监督训练。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述转移单元,具体用于
根据所述输入意图向量和所述输入参数向量,利用意图转移模型,获得所述输出意图向量;以及
根据所述输入意图向量和所述输入参数向量,利用参数转移模型,获得所述输出参数向量。
如上所述的方面和任一可能的实现方式,进一步提供一种实现方式,所述意图转移模型或所述参数转移模型包括神经网络。
本发明的另一方面,提供一种设备,所述设备包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如上述一方面所提供的基于人工智能的对话处理方法。
本发明的另一方面,提供一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现如上述一方面所提供的基于人工智能的对话处理方法。
由上述技术方案可知,本发明实施例通过根据用户所提供的输入对话,利用语言理解模型,获得输入意图向量和输入参数向量,进而根据所述输入意图向量和所述输入参数向量,获得输出意图向量和输出参数向量,使得能够根据所述输出意图向量和所述输出参数向量,利用语言生成模型,获得输出对话,并向所述用户返回所述输出对话,由于将输入对话进行深度理解为输入意图向量和输入参数向量,使得能够根据深度理解的输入意图向量和输入参数向量获得深度理解的输出意图向量和输出参数向量,从而提高了对话处理的可靠性不高。
另外,采用本发明所提供的技术方案,通过利用未标注的训练语料,对所述语言理解模型和所述语言生成模型,进行无监督协同训练,能够有效利用海量的训练语料,且无需对训练语料进行标注,能够有效提高模型训练的效率和可靠性。
另外,采用本发明所提供的技术方案,通过利用已标注的训练语料,对所述语言理解模型进行有监督训练,能够使得语言理解模型所生成输入意图向量和输入参数向量具有可解释性。
另外,采用本发明所提供的技术方案,能够有效地提高用户的体验。
【附图说明】
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1为本发明一实施例提供的基于人工智能的对话处理方法的流程示意图;
图2为本发明另一实施例提供的基于人工智能的对话处理装置的结构示意图;
图3为本发明另一实施例提供的基于人工智能的对话处理装置的结构示意图;
图4为适于用来实现本发明实施方式的示例性计算机系统/服务器12的框图。
【具体实施方式】
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的全部其他实施例,都属于本发明保护的范围。
需要说明的是,本发明实施例中所涉及的终端可以包括但不限于手机、个人数字助理(Personal Digital Assistant,PDA)、无线手持设备、平板电脑(Tablet Computer)、个人电脑(Personal Computer,PC)、MP3播放器、MP4播放器、可穿戴设备(例如,智能眼镜、智能手表、智能手环等)等。
另外,本文中术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本文中字符“/”,一般表示前后关联对象是一种“或”的关系。
本发明的主要思想是通过神经网络对原始图像中不同位置(像素)的亮度值进行调节。并通过学习机制,使得生成的模型能够根据实际中不同的业务场景需求自适应得调节亮度,以达到光照调节和识别需求的无缝衔接,进而提升系统的整体性能。
图1为本发明一实施例提供的基于人工智能的对话处理方法的流程示意图,如图1所示。
101、根据用户所提供的输入对话,利用语言理解模型,获得输入意图向量和输入参数向量。
102、根据所述输入意图向量和所述输入参数向量,获得输出意图向量和输出参数向量。
103、根据所述输出意图向量和所述输出参数向量,利用语言生成模型,获得输出对话。
104、向所述用户返回所述输出对话。
需要说明的是,101~104的执行主体的部分或全部可以为位于本地终端即服务提供商的终端设备的应用,或者还可以为设置在位于本地终端的应用中的插件或软件开发工具包(Software Development Kit,SDK)等功能单元,或者还可以为位于网络侧服务器中的处理引擎,或者还可以为位于网络侧的分布式系统,本实施例对此不进行特别限定。
可以理解的是,所述应用可以是安装在终端上的本地程序(nativeApp),或者还可以是终端上的浏览器的一个网页程序(webApp),本实施例对此不进行特别限定。
这样,通过根据用户所提供的输入对话,利用语言理解模型,获得输入意图向量和输入参数向量,进而根据所述输入意图向量和所述输入参数向量,获得输出意图向量和输出参数向量,使得能够根据所述输出意图向量和所述输出参数向量,利用语言生成模型,获得输出对话,并向所述用户返回所述输出对话,由于将输入对话进行深度理解为输入意图向量和输入参数向量,使得能够根据深度理解的输入意图向量和输入参数向量获得深度理解的输出意图向量和输出参数向量,从而提高了对话处理的可靠性不高。
可选地,在本实施例的一个可能的实现方式中,在101之前,还可以进一步利用未标注的训练语料,对所述语言理解模型和所述语言生成模型,进行无监督协同训练。
所述语言理解模型,可以为自然语言理解模型(Natural LanguageUnderstanding,NLU),还可以为其他模型,本实施例对此不进行特别限定。
所述语言生成模型,可以为自然语言生成模型(Natural Language Generating,NLG),还可以为其他模型,本实施例对此不进行特别限定。
在一个具体的实现过程中,可以将从互联网挖掘的海量的语言数据,作为未标注的训练语料(utterance)。然后,则可以利用训练语料,对所述语言理解模型和所述语言生成模型,进行无监督协同训练。
具体来说,具体可以利用语言理解模型将输入的utterance编码成utterance_intent向量和utterance_slot向量。然后,再将这两个向量通过语言生成模型解码成输入的utterance。这个过程是一个完全的无监督过程。这样,能够有效利用海量的训练语料,且无需对训练语料进行标注,能够有效提高模型训练的效率和可靠性。
在另一个具体的实现过程中,还可以进一步利用已标注的训练语料,对所述语言理解模型进行有监督训练。
可以通过人工标注少量的语言数据,再利用现有技术中Word2Vector训练的词向量,将人工标注的标准信息即intent信息和slot信息,转化成隐式向量即utterance_intent向量和utterance_slot向量,作为标注的训练语料(utterance)。然后,则可以利用训练语料,对所述语言理解模型,进行有监督训练。其中,多个词的词向量可以采用加权平均的方式,合并成一个向量。然后,采用监督学习方式,训练语言理解模型,使用生成的intent向量和slot向量拟合标注结果。
这样,通过利用已标注的训练语料,对所述语言理解模型进行有监督训练,能够使得语言理解模型所生成输入意图向量和输入参数向量具有可解释性。
在该实现方式中,对于以上的无监督训练和有监督训练,可以采用交替训练方式进行。
可选地,在本实施例的一个可能的实现方式中,在102中,具体可以根据所述输入意图向量和所述输入参数向量,利用意图转移模型,获得所述输出意图向量,以及根据所述输入意图向量和所述输入参数向量,利用参数转移模型,获得所述输出参数向量。
其中,所述意图转移模型可以为神经网络,例如,深度神经网络(Deep NeuralNetwork,DNN)等,所述参数转移模型可以为神经网络,例如,深度神经网络(Deep NeuralNetwork,DNN)等,本实施例对此不进行特别限定。
在该实现方式中,在102之前,还可以进一步从贴吧、豆瓣等社区网站中挖掘对话语料<utterance,response>,然后,则可以用对话语料训练这两个对话模型即意图转移模型和参数转移模型。
具体来说,具体可以利用语言理解模型将utterance理解成utterance_intent向量和utterance_slot向量,将response理解成response_intent向量和response_slot向量。然后,则可以用<utterance_intent,response_intent>和<utterance_slot,response_slot>分别训练意图转移模型和参数转移模型。其中,每个转移模型的输入都会用到utternace_intent和utterance_slot。
本发明中,利用训练好的语言理解模型、意图转移模型和参数转移模型、以及语言生成模型,可以在用户提供输入对话(utterance)之后,向用户返回对应的输出对话(response)。具体过程如下:
A、利用语言理解模型将utterance理解成utterance_intent向量和utterance_slot向量;
B、利用意图转移模型和参数转移模型分别预测response_intent向量和response_slot向量,每个转移模型的输入都会用到utternace_intent向量和utterance_slot向量;
C、利用语言生成模型将预测的response_intent向量和response_slot向量生成response。
本实施例中,通过根据用户所提供的输入对话,利用语言理解模型,获得输入意图向量和输入参数向量,进而根据所述输入意图向量和所述输入参数向量,获得输出意图向量和输出参数向量,使得能够根据所述输出意图向量和所述输出参数向量,利用语言生成模型,获得输出对话,并向所述用户返回所述输出对话,由于将输入对话进行深度理解为输入意图向量和输入参数向量,使得能够根据深度理解的输入意图向量和输入参数向量获得深度理解的输出意图向量和输出参数向量,从而提高了对话处理的可靠性不高。
另外,采用本发明所提供的技术方案,通过利用未标注的训练语料,对所述语言理解模型和所述语言生成模型,进行无监督协同训练,能够有效利用海量的训练语料,且无需对训练语料进行标注,能够有效提高模型训练的效率和可靠性。
另外,采用本发明所提供的技术方案,通过利用已标注的训练语料,对所述语言理解模型进行有监督训练,能够使得语言理解模型所生成输入意图向量和输入参数向量具有可解释性。
另外,采用本发明所提供的技术方案,能够有效地提高用户的体验。
需要说明的是,对于前述的各方法实施例,为了简单描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本发明并不受所描述的动作顺序的限制,因为依据本发明,某些步骤可以采用其他顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作和模块并不一定是本发明所必须的。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述的部分,可以参见其他实施例的相关描述。
图2为本发明另一实施例提供的基于人工智能的对话处理装置的结构示意图,如图2所示。本实施例的基于人工智能的对话处理装置可以包括理解单元21、转移单元22、生成单元23和输出单元24。其中,理解单元21,用于根据用户所提供的输入对话,利用语言理解模型,获得输入意图向量和输入参数向量;转移单元22,用于根据所述输入意图向量和所述输入参数向量,获得输出意图向量和输出参数向量;生成单元23,用于根据所述输出意图向量和所述输出参数向量,利用语言生成模型,获得输出对话;输出单元24,用于向所述用户返回所述输出对话。
需要说明的是,本实施例所提供的基于人工智能的对话处理装置的部分或全部可以为位于本地终端的应用,或者还可以为设置在位于本地终端的应用中的插件或软件开发工具包(Software Development Kit,SDK)等功能单元,或者还可以为位于网络侧服务器中的搜索引擎,或者还可以为位于网络侧的分布式系统,本实施例对此不进行特别限定。
可以理解的是,所述应用可以是安装在终端上的本地程序(nativeApp),或者还可以是终端上的浏览器的一个网页程序(webApp),本实施例对此不进行特别限定。
可选地,在本实施例的一个可能的实现方式中,如图3所示,本实施例所提供的基于人工智能的对话处理装置还可以进一步包括训练单元31,可以用于利用未标注的训练语料,对所述语言理解模型和所述语言生成模型,进行无监督协同训练。
进一步地,所述训练单元31,还可以进一步用于利用已标注的训练语料,对所述语言理解模型进行有监督训练。
可选地,在本实施例的一个可能的实现方式中,所述转移单元22,具体可以用于根据所述输入意图向量和所述输入参数向量,利用意图转移模型,获得所述输出意图向量;以及根据所述输入意图向量和所述输入参数向量,利用参数转移模型,获得所述输出参数向量。
其中,所述意图转移模型可以为神经网络,例如,深度神经网络(Deep NeuralNetwork,DNN)等,所述参数转移模型可以为神经网络,例如,深度神经网络(Deep NeuralNetwork,DNN)等,本实施例对此不进行特别限定。
需要说明的是,图1对应的实施例中方法,可以由本实施例提供的基于人工智能的对话处理装置实现。详细描述可以参见图1对应的实施例中的相关内容,此处不再赘述。
本实施例中,通过理解单元根据用户所提供的输入对话,利用语言理解模型,获得输入意图向量和输入参数向量,进而由转移单元根据所述输入意图向量和所述输入参数向量,获得输出意图向量和输出参数向量,使得生成单元能够根据所述输出意图向量和所述输出参数向量,利用语言生成模型,获得输出对话,并由输出单元向所述用户返回所述输出对话,由于将输入对话进行深度理解为输入意图向量和输入参数向量,使得能够根据深度理解的输入意图向量和输入参数向量获得深度理解的输出意图向量和输出参数向量,从而提高了对话处理的可靠性不高。
另外,采用本发明所提供的技术方案,通过利用未标注的训练语料,对所述语言理解模型和所述语言生成模型,进行无监督协同训练,能够有效利用海量的训练语料,且无需对训练语料进行标注,能够有效提高模型训练的效率和可靠性。
另外,采用本发明所提供的技术方案,通过利用已标注的训练语料,对所述语言理解模型进行有监督训练,能够使得语言理解模型所生成输入意图向量和输入参数向量具有可解释性。
另外,采用本发明所提供的技术方案,能够有效地提高用户的体验。
图4示出了适于用来实现本发明实施方式的示例性计算机系统/服务器12的框图。图4显示的计算机系统/服务器12仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图4所示,计算机系统/服务器12以通用计算设备的形式表现。计算机系统/服务器12的组件可以包括但不限于:一个或者多个处理器或者处理单元16,存储装置或者系统存储器28,连接不同系统组件(包括系统存储器28和处理单元16)的总线18。
总线18表示几类总线结构中的一种或多种,包括存储器总线或者存储器控制器,外围总线,图形加速端口,处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说,这些体系结构包括但不限于工业标准体系结构(ISA)总线,微通道体系结构(MAC)总线,增强型ISA总线、视频电子标准协会(VESA)局域总线以及外围组件互连(PCI)总线。
计算机系统/服务器12典型地包括多种计算机系统可读介质。这些介质可以是任何能够被计算机系统/服务器12访问的可用介质,包括易失性和非易失性介质,可移动的和不可移动的介质。
系统存储器28可以包括易失性存储器形式的计算机系统可读介质,例如随机存取存储器(RAM)30和/或高速缓存存储器32。计算机系统/服务器12可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机系统存储介质。仅作为举例,存储系统34可以用于读写不可移动的、非易失性磁介质(图4未显示,通常称为“硬盘驱动器”)。尽管图4中未示出,可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器,以及对可移动非易失性光盘(例如CD-ROM,DVD-ROM或者其它光介质)读写的光盘驱动器。在这些情况下,每个驱动器可以通过一个或者多个数据介质接口与总线18相连。系统存储器28可以包括至少一个程序产品,该程序产品具有一组(例如至少一个)程序模块,这些程序模块被配置以执行本发明各实施例的功能。
具有一组(至少一个)程序模块42的程序/实用工具40,可以存储在例如系统存储器28中,这样的程序模块42包括——但不限于——操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块42通常执行本发明所描述的实施例中的功能和/或方法。
计算机系统/服务器12也可以与一个或多个外部设备14(例如键盘、指向设备、显示器24等)通信,还可与一个或者多个使得用户能与该计算机系统/服务器12交互的设备通信,和/或与使得该计算机系统/服务器12能与一个或多个其它计算设备进行通信的任何设备(例如网卡,调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口44进行。并且,计算机系统/服务器12还可以通过网络适配器20与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。如图所示,网络适配器20通过总线18与计算机系统/服务器12的其它模块通信。应当明白,尽管图中未示出,可以结合计算机系统/服务器12使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
处理单元16通过运行存储在系统存储器28中的程序,从而执行各种功能应用以及数据处理,例如实现图1所对应的实施例所提供的基于人工智能的对话处理方法。
本发明另一实施例还提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现图1所对应的实施例所提供的基于人工智能的对话处理方法。
具体来说,可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括——但不限于——电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括——但不限于——无线、电线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本发明操作的计算机程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如”C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)——连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统,装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在本发明所提供的几个实施例中,应该理解到,所揭露的系统,装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或页面组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能单元的形式实现。
上述以软件功能单元的形式实现的集成的单元,可以存储在一个计算机可读取存储介质中。上述软件功能单元存储在一个存储介质中,包括若干指令用以使得一个计算机设备(可以是个人计算机,服务器,或者网络设备等)或处理器(processor)执行本发明各个实施例所述方法的部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(Read-Only Memory,ROM)、随机存取存储器(Random Access Memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
最后应说明的是:以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。
Claims (12)
1.一种基于人工智能的对话处理方法,其特征在于,包括:
根据用户所提供的输入对话,利用语言理解模型,获得输入意图向量和输入参数向量;
根据所述输入意图向量和所述输入参数向量,获得输出意图向量和输出参数向量;
根据所述输出意图向量和所述输出参数向量,利用语言生成模型,获得输出对话;所述语言理解模型和所述语言生成模型为利用未标注的训练语料,进行无监督协同训练得到的;
向所述用户返回所述输出对话。
2.根据权利要求1所述的方法,其特征在于,所述根据用户所提供的输入对话,利用语言理解模型,获得输入意图向量和输入参数向量之前,还包括:
利用未标注的训练语料,对所述语言理解模型和所述语言生成模型,进行无监督协同训练。
3.根据权利要求2所述的方法,其特征在于,所述根据用户所提供的输入对话,利用语言理解模型,获得输入意图向量和输入参数向量之前,还包括:
利用已标注的训练语料,对所述语言理解模型进行有监督训练。
4.根据权利要求1~3任一权利要求所述的方法,其特征在于,所述根据所述输入意图向量和所述输入参数向量,获得输出意图向量和输出参数向量,包括:
根据所述输入意图向量和所述输入参数向量,利用意图转移模型,获得所述输出意图向量;
根据所述输入意图向量和所述输入参数向量,利用参数转移模型,获得所述输出参数向量。
5.根据权利要求4所述的方法,其特征在于,所述意图转移模型或所述参数转移模型包括神经网络。
6.一种基于人工智能的对话处理装置,其特征在于,包括:
理解单元,用于根据用户所提供的输入对话,利用语言理解模型,获得输入意图向量和输入参数向量;
转移单元,用于根据所述输入意图向量和所述输入参数向量,获得输出意图向量和输出参数向量;
生成单元,用于根据所述输出意图向量和所述输出参数向量,利用语言生成模型,获得输出对话;所述语言理解模型和所述语言生成模型为利用未标注的训练语料,进行无监督协同训练得到的;
输出单元,用于向所述用户返回所述输出对话。
7.根据权利要求6所述的装置,其特征在于,所述装置还包括训练单元,用于
利用未标注的训练语料,对所述语言理解模型和所述语言生成模型,进行无监督协同训练。
8.根据权利要求7所述的装置,其特征在于,所述训练单元,还用于利用已标注的训练语料,对所述语言理解模型进行有监督训练。
9.根据权利要求6~8任一权利要求所述的装置,其特征在于,所述转移单元,具体用于
根据所述输入意图向量和所述输入参数向量,利用意图转移模型,获得所述输出意图向量;以及
根据所述输入意图向量和所述输入参数向量,利用参数转移模型,获得所述输出参数向量。
10.根据权利要求9所述的装置,其特征在于,所述意图转移模型或所述参数转移模型包括神经网络。
11.一种设备,其特征在于,所述设备包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1~5中任一所述的方法。
12.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现如权利要求1~5中任一所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810074464.5A CN108415939B (zh) | 2018-01-25 | 2018-01-25 | 基于人工智能的对话处理方法、装置、设备及计算机可读存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810074464.5A CN108415939B (zh) | 2018-01-25 | 2018-01-25 | 基于人工智能的对话处理方法、装置、设备及计算机可读存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN108415939A CN108415939A (zh) | 2018-08-17 |
CN108415939B true CN108415939B (zh) | 2021-04-16 |
Family
ID=63126222
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810074464.5A Active CN108415939B (zh) | 2018-01-25 | 2018-01-25 | 基于人工智能的对话处理方法、装置、设备及计算机可读存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108415939B (zh) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109635093B (zh) * | 2018-12-17 | 2022-05-27 | 北京百度网讯科技有限公司 | 用于生成回复语句的方法和装置 |
CN109739965B (zh) * | 2018-12-29 | 2022-07-15 | 深圳前海微众银行股份有限公司 | 跨领域对话策略的迁移方法及装置、设备、可读存储介质 |
CN110909543A (zh) * | 2019-11-15 | 2020-03-24 | 广州洪荒智能科技有限公司 | 意图识别方法、装置、设备及介质 |
CN111079938B (zh) * | 2019-11-28 | 2020-11-03 | 百度在线网络技术(北京)有限公司 | 问答阅读理解模型获取方法、装置、电子设备及存储介质 |
CN112732911B (zh) * | 2020-12-30 | 2023-10-10 | 平安科技(深圳)有限公司 | 基于语义识别的话术推荐方法、装置、设备及存储介质 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106951468A (zh) * | 2017-03-02 | 2017-07-14 | 腾讯科技(深圳)有限公司 | 对话生成方法及装置 |
CN107015962A (zh) * | 2017-03-16 | 2017-08-04 | 北京光年无限科技有限公司 | 面向智能机器人的自定义意图识别的实现方法及装置 |
CN107193978A (zh) * | 2017-05-26 | 2017-09-22 | 武汉泰迪智慧科技有限公司 | 一种基于深度学习的多轮自动聊天对话方法及系统 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20160232441A1 (en) * | 2015-02-05 | 2016-08-11 | International Business Machines Corporation | Scoring type coercion for question answering |
-
2018
- 2018-01-25 CN CN201810074464.5A patent/CN108415939B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106951468A (zh) * | 2017-03-02 | 2017-07-14 | 腾讯科技(深圳)有限公司 | 对话生成方法及装置 |
CN107015962A (zh) * | 2017-03-16 | 2017-08-04 | 北京光年无限科技有限公司 | 面向智能机器人的自定义意图识别的实现方法及装置 |
CN107193978A (zh) * | 2017-05-26 | 2017-09-22 | 武汉泰迪智慧科技有限公司 | 一种基于深度学习的多轮自动聊天对话方法及系统 |
Also Published As
Publication number | Publication date |
---|---|
CN108415939A (zh) | 2018-08-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108415939B (zh) | 基于人工智能的对话处理方法、装置、设备及计算机可读存储介质 | |
CN112685565B (zh) | 基于多模态信息融合的文本分类方法、及其相关设备 | |
US9912349B1 (en) | Method and apparatus for processing floating point number matrix, an apparatus and computer-readable storage medium | |
US20190095758A1 (en) | Method and system for obtaining picture annotation data | |
US20190005013A1 (en) | Conversation system-building method and apparatus based on artificial intelligence, device and computer-readable storage medium | |
JP2023541119A (ja) | 文字認識モデルのトレーニング方法、文字認識方法、装置、電子機器、記憶媒体およびコンピュータプログラム | |
EP4075430A2 (en) | Method and apparatus for speech generation | |
CN107807814B (zh) | 应用组件的构建方法、装置、设备及计算机可读存储介质 | |
CN109543200A (zh) | 一种文本翻译方法及装置 | |
CN109858045B (zh) | 机器翻译方法和装置 | |
CN111291882A (zh) | 一种模型转换的方法、装置、设备和计算机存储介质 | |
CN107291692B (zh) | 基于人工智能的分词模型的定制方法、装置、设备和介质 | |
CN114676234A (zh) | 一种模型训练方法及相关设备 | |
CN109726397B (zh) | 中文命名实体的标注方法、装置、存储介质和电子设备 | |
CN107993651B (zh) | 一种语音识别方法、装置、电子设备及存储介质 | |
US11036996B2 (en) | Method and apparatus for determining (raw) video materials for news | |
CN111950279A (zh) | 实体关系的处理方法、装置、设备及计算机可读存储介质 | |
CN116050496A (zh) | 图片描述信息生成模型的确定方法及装置、介质、设备 | |
CN109635184A (zh) | 基于数据分析的金融产品推荐方法、装置和计算机设备 | |
CN107463929A (zh) | 语音数据的处理方法、装置、设备及计算机可读存储介质 | |
CN112949320B (zh) | 基于条件随机场的序列标注方法、装置、设备及介质 | |
CN117765132A (zh) | 图像生成方法、装置、设备与存储介质 | |
CN113505595A (zh) | 文本短语抽取方法、装置、计算机设备及存储介质 | |
CN116741197B (zh) | 多模态图像生成方法、装置、存储介质及电子设备 | |
CN110489563B (zh) | 图结构的表示方法、装置、设备及计算机可读存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |