CN110162603A - 一种智能对话方法、动态存储方法和装置 - Google Patents

Abstract

本申请实施例公开了一种智能对话方法、动态存储方法及装置，针对深度学习网络中记忆模块所保存的历史问答对，可以根据目标问答对的更新时间确定目标问答对的权重，该目标问答对的更新时间包括目标问答对被保存在记忆模块中的时间信息，或者目标问答对被用户所输入语句对应的句向量匹配到的时间信息。若记忆模块所保存的目标问答对的权重低于预设阈值，相当于该目标问答对长时间没有被用户所输入语句匹配到，对于智能对话来说作用很低，所以可以从所述记忆模块中删除目标问答对。可以使得深度学习网络能够确定所保存的历史问答对在近期智能对话中起到的作用，从而可以针对性的删除无用的历史问答对以降低存储压力，提高遍历效率。

Description

一种智能对话方法、动态存储方法和装置

技术领域

本申请涉及数据处理领域，特别是涉及一种智能对话方法、动态存储方 法和装置。

背景技术

随着人工智能技术的发展，对话型人工智能系统应运而生，例如聊天机 器人，智能助理等。这类人工智能系统可以通过分析用户输入的语句，给出 合适的答案。

人工智能系统通过深度学习网络分析用户输入的语句时，一般会将用户 输入的语句与记忆模块中保存的历史问答对(Q-A对)进行全局遍历，若通 过遍历匹配到合适的Q-A对，则可以根据所匹配到Q-A对中的答案确定出用 户所输入语句对应的答案。

为了提高人工智能系统的交互体验，深度学习网络的记忆模块需要预存 海量的历史Q-A对，且需要不断扩充。由此导致人工智能系统在针对用户输 入问题所需遍历的Q-A对越来越多，导致遍历效率低，相应的给用户反馈答 案的效率低，影响用户体验。

发明内容

为了解决上述技术问题，本申请提供了一种智能对话方法、动态存储方 法及装置。

本申请实施例公开了如下技术方案：

第一方面，本申请实施例提供了一种智能对话方法，所述方法包括：

获取分析请求，所述分析请求包括用户所输入的语句；

根据向量训练模型训练所述语句，得到所述语句对应的句向量；

根据深度学习网络确定记忆模块所保存的历史问答对中是否具有与所述 句向量匹配的历史问答对；在所述深度学习网络的记忆模块中，所述保存的 历史问答对的权重大于等于预设阈值，所述保存的历史问答对中的任意一个 历史问答对的权重是根据所述历史问答对的更新时间确定的；所述历史问答 对的更新时间包括所述历史问答对被保存在所述记忆模块中的时间信息，或 者所述历史问答对被用户所输入语句对应的句向量匹配到的时间信息；

根据与所述句向量匹配的历史问答对，确定返回给所述用户的交互内容。

第二方面，本申请实施例提供了一种用于深度学习网络的动态存储方法， 所述方法包括：

确定所述深度学习网络中记忆模块所保存的历史问答对的权重；其中， 目标问答对的权重是根据所述目标问答对的更新时间确定的；所述目标问答 对为所述记忆模块所保存的历史问答对中的任意一个历史问答对；所述目标 问答对的更新时间包括所述目标问答对被保存在所述记忆模块中的时间信 息，或者所述目标问答对被用户所输入语句对应的句向量匹配到的时间信息；

若所述目标问答对的权重低于预设阈值，从所述记忆模块中删除所述目 标问答对。

第三方面，本申请实施例提供了一种智能对话装置，所述装置包括：

获取单元，用于获取分析请求，所述分析请求包括用户所输入的语句；

得到单元，用于根据向量训练模型训练所述语句，得到所述语句对应的 句向量；

第一确定单元，用于根据深度学习网络确定记忆模块所保存的历史问答 对中是否具有与所述句向量匹配的历史问答对；在所述深度学习网络的记忆 模块中，所述保存的历史问答对的权重大于等于预设阈值，所述保存的历史 问答对中的任意一个历史问答对的权重是根据所述历史问答对的更新时间确 定的；所述历史问答对的更新时间包括所述历史问答对被保存在所述记忆模 块中的时间信息，或者所述历史问答对被用户所输入语句对应的句向量匹配 到的时间信息；

第二确定单元，用于根据与所述句向量匹配的历史问答对，确定返回给 所述用户的交互内容。

第四方面，本申请实施例提供了一种用于深度学习网络的动态存储装置， 所述装置包括：

第四确定单元，用于确定所述深度学习网络中记忆模块所保存的历史问 答对的权重；其中，目标问答对的权重是根据所述目标问答对的更新时间确 定的；所述目标问答对为所述记忆模块所保存的历史问答对中的任意一个历 史问答对；所述目标问答对的更新时间包括所述目标问答对被保存在所述记 忆模块中的时间信息，或者所述目标问答对被用户所输入语句对应的句向量 匹配到的时间信息；

删除单元，用于若所述目标问答对的权重低于预设阈值，从所述记忆模 块中删除所述目标问答对。

第五方面，本申请实施例提供了一种智能对话设备，所述设备包括处理 器以及存储器：

所述存储器用于存储程序代码，并将所述程序代码传输给所述处理器；

所述处理器用于根据所述程序代码中的指令执行以上第一方面所述的动 态存储方法。

第六方面，本申请实施例提供了一种用于深度学习网络的动态存储设备， 所述设备包括处理器以及存储器：

所述存储器用于存储程序代码，并将所述程序代码传输给所述处理器；

所述处理器用于根据所述程序代码中的指令执行以上第二方面所述的动 态存储方法。

由上述技术方案可以看出，获取包括用户所输入语句的分析请求之后， 可以利用向量训练模型训练所述语句，得到所述语句对应的句向量。然后判 断深度学习网络中记忆模块保存的历史问答对中是否具有与该句向量匹配的 历史问答对；从而根据与所述句向量匹配的历史问答对，确定返回给所述用 户的交互内容。该记忆模块所保存的历史问答对的权重，是依据历史问答对 的更新时间确定的，历史问答对的更新时间包括历史问答对被保存在记忆模 块中的时间信息，或者历史问答对被用户所输入语句对应的句向量匹配到的 时间信息。故在使用深度学习网络为用户提供智能对话服务的过程中，记忆 模块中的历史问答对的更新时间会随之发生改变，从而改变对应的权重。而 记忆模块所保存的历史问答对的权重大于或者等于预设阈值，相当于该历史 问答对在一定时间内曾经被用户所输入语句匹配到，对于智能对话来说作用 比较高，即与用户所输入语句的句向量匹配的可能性比较高。故而能够更快 的确定出与所述句向量匹配的历史问答对，相应的更快的为用户提供对应的 交互内容，提升用户体验。

附图说明

为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实 施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面 描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲， 在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。

图1为本申请实施例提供的一个应用场景示意图；

图2为本申请实施例提供的一种用于深度学习网络的动态存储方法的流 程示意图；

图3为本申请实施例提供的一种智能对话方法的流程示意图；

图4为本申请实施例提供的一种应用场景示意图；

图5为本申请实施例提供的又一种应用场景示意图；

图6为本申请实施例提供的一种智能对话界面的示意图；

图7a为本申请实施例提供的一种智能对话装置的结构示意图；

图7b为本申请实施例提供的一种智能对话装置的结构示意图；

图7c为本申请实施例提供的一种智能对话装置的结构示意图；

图7d为本申请实施例提供的一种智能对话装置的结构示意图；

图8为本申请实施例提供的一种用于深度学习网络的动态存储装置的结 构示意图；

图9为本申请实施例提供的一种服务器的结构示意图；

图10为本申请实施例提供的一种终端设备设备的结构示意图。

具体实施方式

为了使本技术领域的人员更好地理解本申请方案，下面将结合本申请实 施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然， 所描述的实施例仅是本申请一部分实施例，而不是全部的实施例。基于本申 请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的 所有其他实施例，都属于本申请保护的范围。

本申请的说明书和权利要求书及上述附图中的术语“第一”、“第二”、“第 三”、“第四”等(如果存在)是用于区别类似的对象，而不必用于描述特定 的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便 这里描述的本申请的实施例例如能够以除了在这里图示或描述的那些以外的 顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于 覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、系统、 产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地 列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。

现有技术中，对话型人工智能系统可以通过分析用户输入的语句，给出 合适的答案。人工智能系统通过深度学习分析网络分析用户输入的语句时， 会将用户输入的语句与记忆模块中保存的历史问答对(Q-A对)进行全局遍 历。为了提高人工智能系统的交互体验，深度学习网络的记忆模块需要预存 海量的历史Q-A对，且随着时间的增长，深度学习网络的记忆模块需要预存 的历史Q-A对需要不断扩充。由此导致人工智能系统在针对用户输入问题所 需遍历的Q-A对越来越多，影响遍历效率，相应的给用户反馈答案的效率低， 影响用户体验。

考虑到实际应用中，所述记忆模块中保存的历史问答对中，可能包含一 些在近期智能对话中起到作用的可能性比较小的历史问答对，因此，若删除 那些在近期智能对话中起到作用的可能性比较小的历史问答对，可以使得记 忆模块中保存的均为在近期智能对话中起到作用的可能性比较大的历史问答 对。这样一来，在分析用户输入的语句时，可以提高遍历效率，提升用户体 验。

鉴于此，本申请实施例提供了一种智能对话方法和一种动态存储方法。

在本申请实施例所提供的动态存储方法中，利用历史问答对的权重表征 该历史问答对在近期智能对话中起到作用的可能性，进一步地，将权重小于 预设阈值的历史问答对从深度学习网络的记忆模块中删除。本申请实施例所 提供的智能对话方法应用于通过动态存储方法改进的深度学习网络，由于深 度学习网络的记忆模块中保存的历史问答对的权重大于或者等于预设阈值， 对于智能对话来说作用比较高，即与用户所输入语句的句向量匹配的可能性 比较高，故而能够更快的确定出与所述句向量匹配的历史问答对，相应的更 快的为用户提供对应的交互内容，提升用户体验。

为了便于清楚说明本申请实施例提供的方案，首先针对本申请提供的动 态存储方法进行详细阐述。

本申请实施例提供的动态存储方法，可以应用于图1所示的应用场景。 在图1所示的应用场景中，本申请实施例提供的方法由服务器101执行。所 述服务器101可以是为人工智能处理系统提供数据分析功能的专用服务器， 所述服务器101也可以是还包含其它数据处理功能的公用服务器，本申请实 施例不做限定。

在本申请实施例中，所述服务器101中可以设置有深度学习网络，其中， 该深度学习网络包括记忆模块，该记忆模块中保存有历史问答对。以图1中 的记忆模块102为例，所述记忆模块102中保存有5个历史问答对分别为 Q-A1、Q-A2、Q-A3、Q-A4和Q-A5。可以理解的是，在实际应用中，所述记 忆模块102中可以保存海量的历史问答对，图1是为了方便对本申请实施例 的应用场景进行说明而示出，并不构成对本申请实施例的限定。

可以理解的是，所述历史问答对以提问语句(英文：Question，缩写：Q) 和答复语句(英文：Answer，缩写：A)的形式成对出现。在本申请实施例中， 所述历史问答对中的提问语句可以为用户的历史提问语句和/或智能对话系统 自定义的提问语句。相应的，若历史问答对的中提问语句为用户的历史提问 语句，则该历史问答对中的答复语句可以为根据用户的历史提问语句确定的 答复语句；若历史问答对的中提问语句为智能对话系统自定义的提问语句， 则该历史问答对中的答复语句可以为根据智能对话系统自定义的提问语句确 定的答复语句。

在本申请实施例中，服务器101可以根据记忆模块101中各个历史问答 对的更新时间，来确定各个历史问答对的权重。所述一个历史问答对的更新 时间可以包括该历史问答对被保存在记忆模块中的时间信息，或者该历史问 答对被用户所输入语句对应的句向量匹配到的时间信息。确定记忆模块102 中各个历史问答对的权重之后，可以删除权重小于预设阈值的问答对，可结 合图1进行理解，确定记忆模块102中保存的5个历史问答对的权重之后， 得到Q-A1的权重小于预设阈值，则将Q-A1从记忆模块102中删除。也就是 说，记忆模块103中仅保存有Q-A2、Q-A3、Q-A4和Q-A5，而不再保存有 Q-A1。可以理解的是，由于记忆模块所保存的历史问答对Q-A1的权重低于 预设阈值，相当于该历史问答对Q-A1在近期智能对话中起到作用的可能性很 低，所以可以从所述记忆模块中102删除历史问答对Q-A1。从而针对性的删 除无用的历史问答对降低了记忆模块的存储压力，提高遍历效率。

为了便于理解，下面通过实施例对本申请提供的动态存储方法进行介绍。

参见图2，该图为本申请实施例提供的一种用于深度学习网络的动态存储 方法的流程示意图。

本申请实施例提供的用于深度学习网络的动态存储方法，例如可以通过 如下步骤S201-S202实现。

如前文，本申请实施例提供的用于深度学习网络的动态存储方法，可以 由服务器执行。需要说明的是，本申请实施例不具体限定所述服务器执行以 下步骤S201-S202的时机。在一种可能的实现方式中，所述服务器可以按照 预设时间周期执行以下步骤S201-S202。在另一种可能的实现方式中，所述服 务器可以在将新的问答对保存至记忆模块时执行以下步骤S201-S202；在又一 种可能的实现方式中，所述服务器可以在接收到权重更新指令时执行以下步 骤S201-S202。

S201:确定所述深度学习网络中记忆模块所保存的历史问答对的权重。

需要说明的是，在本申请实施例中，所述深度学习网络可以为记忆网络 (英文：memory network)。进一步地，所述深度学习网络可以为端到端动 态记忆网络(英文：Endto end and dynamic memory network)。

本申请实施例对所述深度学习网络的结构不做限定，在本申请实施例中， 所述深度学习网络的网络结构中，可以包括记忆模块。该记忆模块可以用于 保存该深度学习网路中的数据，在本申请实施例中，所述记忆模块可以用于 保存历史问答对。

如前文，所述记忆模块中保存的历史问答对中，可能包含一些在近期智 能对话中起到作用的可能性比较小的历史问答对。在本申请实施例中，可以 利用历史问答对的权重表征该历史问答对在近期智能对话中起到作用的可能 性大小。

为方便描述，在本申请实施例的以下描述中，将所述记忆模块所保存的 历史问答对中的任意一个历史问答对，称为目标问答对。

在本申请实施例中，考虑到用户在智能对话系统中输入的提问语句是具 有时效性的，用户在智能对话系统中输入与时效性高的话题相关的提问语句 的可能性，比用户在智能对话系统中输入与时效性低的话题相关的提问语句 的可能性。例如，用户在智能对话系统中输入与时效性高的话题的可能性， 比用户在智能对话系统中输入与时效性低的话题的可能性高。

而人工智能系统为用户提供对应的答案时，是通过将用户输入的语句与 记忆模块中保存的历史问答对进行全局遍历，若通过遍历匹配到合适的历史 问答对，则可以根据所匹配到历史问答对中的答案确定出用户所输入语句对 应的答案这种方式实现的。因此，在确定目标问答对在近期智能对话中起到 作用的可能性大小，即确定目标问答对的权重时，可以通过目标问答对的时 效性来确定。一般来讲，目标问答对的时效性越高，对应的权重越大，目标 问答对的时效性越低，对应的权重越小。

在本申请实施例中，所述目标问答对的时效性可以体现为所述目标问答 对的更新时间，也就是说，在本申请实施例中，可以根据目标问答对的更新 时间来确定所述目标问答对的权重。在本申请实施例中，所述目标问答对的 更新时间可以包括所述目标问答对被保存在所述记忆模块中的时间信息，或 者，所述目标问答对被用户所输入语句对应的句向量匹配到的时间信息。

其中，所述目标问答对被保存在所述记忆模块的时间信息，例如可以为 所述目标问答对对被保存在所述记忆模块的时间。所述目标问答对被用户所 输入语句对应的句向量匹配到的时间信息，例如可以包括所述目标问答最后 一次对被用户所输入语句对应的句向量匹配到的时间。

需要说明的是，此处提及的用户所输入语句，可以为上文提及的用户在 智能对话系统中输入的提问语句。

需要说明的是，由于在本申请实施例中，是采用深度学习网络对用户输 入语句进行分析处理，而深度学习网络的输入即为输入语句对应的句向量， 因此，将用户所输入语句与记忆模块中保存的历史问答对进行匹配时，实际 上是将用户所输入语句对应的句向量与历史问答对的句向量进行匹配。也就 是说，所述记忆模块中保存的是历史问答对的句向量。

可以理解的是，若目标问答对在被保存至记忆模块中之后，从未被用户 所输入语句对应的句向量匹配到，则所述目标问答对被保存在所述记忆模块 中的时间信息，可以体现所述目标问答对的时效性。若目标问答对在被保存 至记忆模块中之后，曾经被用户所输入语句对应的句向量匹配到，则所述目 标问答对被用户所输入语句对应的句向量匹配到的时间信息，可以体现所述 目标问答对的时效性。

因此，在本申请实施例中，若目标问答对在被保存至记忆模块中之后， 从未被用户所输入语句对应的句向量匹配到，则将所述目标问答对保存至记 忆模块中的时间信息，例如所述目标问答对对被保存在所述记忆模块的时间， 作为所述目标问答对的更新时间，根据所述目标问答对保存至记忆模块中的 时间信息确定目标问答对的权重。若目标问答对在被保存至记忆模块中之后， 曾经被用户所输入语句对应的句向量匹配到，则将所述目标问答对被用户所 输入语句对应的句向量匹配到的时间信息，例如所述目标问答最后一次对被 用户所输入语句对应的句向量匹配到的时间，作为所述目标问答对的更新时 间，根据所述目标问答对被用户所输入语句对应的句向量匹配到的时间信息 确定目标问答对的权重。

以下分别对根据所述目标问答对被保存在所述记忆模块中的时间信息确 定目标问答对的权重的实现方式，和根据所述目标问答对被用户所输入语句 对应的句向量匹配到的时间信息确定目标问答对的权重的实现方式进行介 绍。

首先，对根据所述目标问答被保存在所述记忆模块中的时间信息确定目 标问答对的权重的实现方式进行介绍。

为方便描述，在本申请实施例的以下描述中，将所述服务器开始执行步 骤S201的时间称为当前时间。

如前文，人工智能系统通过深度学习网络分析用户输入的语句时，一般 会将用户输入的语句与记忆模块中保存的历史问答对进行全局遍历，若通过 遍历匹配到合适的历史问答对，则可以根据所匹配到历史问答对中的答案确 定出用户所输入语句对应的答案。若通过遍历未匹配到合适的历史问答对， 则将用户输入的语句保存在所述记忆模块中。也就是说，目标问答对被保存 在所述记忆模块中，表示在将所述目标问答对保存在记忆模块中之前，记忆 模块中不存在与目标问答对中的提问语句匹配度比较高的历史问答对。因此， 将所述目标问答对保存在记忆模块中的时间信息，在一定程度上可以表征该 所述目标问答对在所述记忆模块中首次出现的时间信息。

一般来讲，近期被用户在智能对话系统中输入的提问语句在未来一段时 间内被输入的可能性比较大。因此，目标问答对被保存在所述记忆模块中的 时间与当前时间之间的时间间隔越小，表明该目标问答对的时效性越高(该 提问语句可能是与当前热门话题对应的提问语句)，近期其它用户在智能对话 交互系统中输入与其相关的提问语句的可能比较高，相应的该目标问答对在 近期智能对话中起到作用的可能性越大；目标问答对被保存在所述记忆模块 中的时间与当前时间之间的时间间隔越大，表明该目标问答对的时效性越低 (该提问语句可能是很久之前用户比较关注的话题对应的提问语句)，近期其 它用户在智能对话系统中输入与其相关的提问语句的可能比较低，相应的该 目标问答对在近期智能对话中起到作用的可能性越小。举例说明，第一目标 问答对被保存在所述记忆模块的时间为昨天，第二目标问答对被保存在所述 记忆模块的时间为两年前，则可以认为第一目标问答对的时效性高于第二目 标问答对的时效性。

鉴于此，根据所述目标问答被保存在所述记忆模块中的时间信息确定目 标问答对的权重在具体实现时，可以根据所述目标问答被保存在所述记忆模 块中的时间与当前时间之间的时间间隔确定目标问答对的权重，例如所述目 标问答被保存在所述记忆模块中的时间与当前时间之间的时间间隔越大，对 应的权重越小，所述目标问答被保存在所述记忆模块中的时间与当前时间之 间的时间间隔越小，对应的权重越大。

接下来，对根据所述目标问答对被用户所输入语句对应的句向量匹配到 的时间信息确定目标问答对的权重的实现方式进行介绍。

可以理解的是，所述目标问答最后一次对被用户所输入语句对应的句向 量匹配到的时间，可以体现所述目标问答对中的提问语句被最近一次被用户 在智能对话系统中输入的时间，也在一定程度上可以表征所述目标问答对的 时效性。一般而言，目标问答对被用户所输入语句对应的句向量匹配到的时 间与当前时间之间的时间间隔越小，表示所述目标问答对的时效性越高，近 期其它用户在智能对话系统中输入与其相关的提问语句的可能比较高，相应 的该目标问答对在近期智能对话中起到作用的可能性越大；目标问答对被用 户所输入语句对应的句向量匹配到的时间与当前时间之间的时间间隔越大， 表示所述目标问答对的时效性越低，相应的近期其它用户在智能对话系统中 输入与其相关的提问语句的可能比较低，相应的该目标问答对在近期智能对 话中起到作用的可能性越小。举例说明，第三目标问答最后一次对被用户所 输入语句对应的句向量匹配到的时间为昨天，第四目标问答最后一次对被用 户所输入语句对应的句向量匹配到的时间为两年前，则可以认为第三目标问 答对的时效性高于第四目标问答对的时效性。

鉴于此，根据所述目标问答对被用户所输入语句对应的句向量匹配到的 时间信息确定目标问答对的权重在具体实现时，可以根据确定权重时的目标 时间，确定所述目标问答对的更新时间与所述目标时间的时间差值；根据所 述时间差值调整所述目标问答对的权重。其中所述目标时间例如可以为当前 时间，所述目标问答对的更新时间例如可以为所述目标问答最后一次对被用 户所输入语句对应的句向量匹配到的时间。根据根据所述时间差值调整所述 目标问答对的权重在具体实现时，可以将所述时间差值与预设值进行比较， 若所述时间差值大于等于预设值，说明目标问答对在近期智能对话中被匹配 到的可能性降低，则可以对应降低所述目标问答对的权重；若所述时间差值 小于预设值，说明目标问答对在智能对话中被匹配到的可能性提高了，对应 可以特高所述目标问答对的权重。

S202:若目标问答对的权重低于预设阈值，从所述记忆模块中删除所述目 标问答对。

步骤S201确定所述记忆模块中各个历史问答对的权重之后，即可根据各 个历史问答对的权重，确定出在近期智能对话中起到作用的可能性比较小的 历史问答对，并将这样的历史问答对从所述记忆模块中删除。

需要说明的是，本申请实施例中，若目标问答对的权重低于预设阈值， 则认为所述目标问答对在近期智能对话中起到作用的可能性比较小。本申请 实施例不具体限定所述预设阈值，所述预设阈值可以为根据实际情况确定的 经验值。

由上述技术方案可以看出，针对深度学习网络中记忆模块所保存的历史 问答对，可以分别依据历史问答对的更新时间确定各个历史问答对的权重， 针对所保存的历史问答对中的目标问答对，该目标问答对的更新时间包括目 标问答对被保存在记忆模块中的时间信息，或者目标问答对被用户所输入语 句对应的句向量匹配到的时间信息。故在使用深度学习网络为用户提供智能 对话服务的过程中，记忆模块中的历史问答对的更新时间会随之发生改变， 从而改变对应的权重。若记忆模块所保存的目标问答对的权重低于预设阈值， 相当于该目标问答对长时间没有被用户所输入语句匹配到，对于智能对话来 说作用很低，所以可以从所述记忆模块中删除目标问答对。通过上述方式为 历史问答对设置的权重，可以使得深度学习网络能够确定所保存的历史问答 对在近期智能对话中起到的作用，从而可以针对性的删除无用的历史问答对 以降低存储压力，提高遍历效率。

需要说明的是，考虑到实际应用中，所述记忆模块中可以存储海量的历 史问答对，这些历史问答对可能在某些维度上存在一定的关联，例如，所述 历史问答对的语义这个维度上存在关联，又如，所述历史问答对在提问对象 这个维度上存在关联。在申请实施例中，可以用历史问答对之间的相关性体 现历史问答对在某些维度上的关联。可以理解的是，若所述记忆模块中与所 述目标问答对具有相关性的其它历史问答对数量比较少，则表示关注所述与 所述目标问答对相关的问题的用户数量比较少，在一定程度上可以表示近期 用户在智能对话系统中输入与所述目标问答对相关的提问语句的可能性比较 小。若所述记忆模块中与所述目标问答对具有相关性的其它历史问答对的数 量比较多，则表示关注所述与所述目标问答对相关的问题的用户数量比较多， 在一定程度上可以表示近期用户在智能对话系统中输入与所述目标问答对相 关的提问语句的可能性比较大。

鉴于此，在本申请实施例中，为了更加准确有效的使得深度学习网络能 够确定所保存的历史问答对在近期智能对话中起到的作用，在本申请实施例 中，可以根据所述目标问答对与所述记忆模块中其他历史问答对的相关性， 以及所述目标问答对的更新时间确定所述目标问答对的权重。

需要说明的是，本申请实施例不具体限定根据所述目标问答对与所述记 忆模块中其他历史问答对的相关性，以及所述目标问答对的更新时间确定所 述目标问答对的权重的具体实现方式。作为一种示例可以根据所述目标问答 对的更新时间确定所述目标问答对的第一权重，根据所述目标问答对与所述 记忆模块中其他历史问答对的相关性确定所述目标问答对的第二权重，然后 利用所述第一权重和所述第二权重计算得到所述目标问答对的权重。

关于确定第一权重的实现方式可以参考上文对“根据所述目标问答对的 更新时间确定所述目标问答对的权重”的描述。此处对根据所述目标问答对 与所述记忆模块中其他历史问答对的相关性确定目标问答的第二权重的实现 方式进行介绍。

在本申请实施例中，例如可以根据所述记忆模块中，与所述目标问答对 具有相关性的其它历史问答对的数目，确定所述目标问答对的第二权重。例 如，若所述记忆模块中与所述目标问答对具有相关性的其它历史问答对的数 目越多，则所述目标问答对的第二权重越大；若所述记忆模块中与所述目标 问答对具有相关性的其它历史问答对的数目越少，则所述目标问答对的第二 权重越小。

在本申请实施例中，采用以上实施例提供的动态存储方法，将记忆模块 中权重低于预设阈值的历史问答对删除之后，记忆模块中保存的为在近期智 能对话中起到的作用的可能性比较大历史问答对。因此，若利用该记忆模块 中存储的历史问答对与用户所输入的语句进行匹配，可以提高匹配效率。

在本申请实施例的一个实例中，本申请实施例还提供一种智能对话方法， 该方法可以包括以下步骤S301-S303。

S301:获取分析请求，所述分析请求包括用户所输入的语句。

在本申请实施例中，所述分析请求可以是终端设备向服务器发送的。

此处提及的用户所输入的语句，可以包括上文所述的用户在智能对话系 统中所输入的提问语句。

S302:根据向量训练模型训练所述语句，得到所述语句对应的句向量。

S303:根据所述深度学习网络确定记忆模块所保存的历史问答对中是否 具有与所述句向量匹配的历史问答对。

如前文，在本申请实施例中，是采用深度学习网络对用户输入语句进行 分析处理的，而深度学习网络的输入即为输入语句对应的句向量。因此，服 务器获取到包括用户所输入语句的分析请求之后，要确定出所述语句的句向 量，从而利用深度学习网络所保存的历史问答对中是否具有与所述句向量匹 配的历史问答对。

在本申请实施例中，可以利用向量训练模型训练得到所述语句对应的句 向量。具体地，所述向量训练模型可以是基于神经网络的word2vec模型。

需要说明的是，在根据向量训练模型训练所述语句以得到所述语句对应 的句向量的过程中，包含两个方面的训练，一方面，是对所述向量训练模型 的内部参数的训练过程，另一方面是根据该向量训练模型训练得到语句对应 的句向量的过程。在训练的过程中，可以根据向量训练模型得到语句对应的 句向量，相应的，根据利用所述向量训练模型得到的句向量调整所述向量训 练模型的内部参数，如此反复迭代多轮，直至利用所述向量训练模型得到的 句向量趋于平稳，则可以将该句向量作为能够准确体现所述语句的语义的句 向量。

发明人在研究中发现，而在根据向量训练模型训练所述语句以得到所述 语句对应的句向量的初期(为方便描述，在以下描述中，将“根据向量训练 模型训练所述语句以得到所述语句对应的句向量”称为“训练”)，例如前n 轮训练时，一方面，利用向量训练模型得到的语句的句向量往往不能很好的 体现所述语句的含义；另一方面，训练初期根据利用所述向量训练模型得到 的句向量调整所述向量训练模型的内部参数，会导致所述向量训练模型的参 数改变明显。而且由于这些内部参数的调整是基于不能很好的体现所述语句 的含义调整的，因此，这样的内部参数的调整的实际意义不大，且内部参数 的调整过程会消耗计算资源，且降低训练效率。

鉴于此，为了减少意义不大的迭代过程，减少计算资源的消耗，提升训 练效率，本申请实施例的一种实现方式中，采用在训练的前n轮中不改变所 述向量训练模型的内部参数的方式。即在前n轮训练时，将所述内部参数设 置为不可训练的(英文：un-trainable)，即在前n轮训练时，可以保持所述向 量训练模型的参数的初始值不变，训练所述句向量，待前n轮训练结束，再 将所述内部参数设置为可训练的(英文：trainable)。由于前n轮训练得到的 句向量往往不能很好的体现所述语句的含义，因此，采用在训练的前n轮中 不改变所述向量训练模型的内部参数的方式，可以在不影响训练结果的前提 下，减少意义不大的迭代过程，减少计算资源的消耗，提升训练效率。

需要说明的是，本申请实施例不具体限定所述n的具体取值，n可以为大 于0且小于训练得到所述语句对应句向量的总训练轮数的整数。所述n可以 为根据训练总轮数确定的值，所述n也可以为经验值。例如，所述训练的总 轮数为60，则所述n的取值可以为5。

需要说明的是，步骤S303中提及的记忆模块中保存的历史问答对的权重 是根据所述历史问答对的更新时间确定的；所述历史问答对的更新时间包括 所述历史问答对被保存在所述记忆模块中的时间信息，或者所述历史问答对 被用户所输入语句对应的句向量匹配到的时间信息；而且所述记忆模块中保 存的历史问答对为权重值大于或者等于预设阈值的历史问答对，即在近期智 能对话中起到的作用的可能性比较大历史问答对。因此，若利用该记忆模块 中存储的历史问答对与用户所输入的语句进行匹配，可以提高匹配效率。

需要说明的是，关于根据历史问答对的更新时间确定历史问答对的权重 的实现方式，与可以参考前述智能存储方法中关于确定历史问答对的权重的 描述部分，此处不再赘述。

S304：根据与所述句向量匹配的历史问答对，确定返回给所述用户的交 互内容。

确定出与句向量匹配的历史问答对之后，即可以根据该历史问答对返回 给用户对应的交互结果。

通过以上描述可知，由于确定与句向量匹配的历史问答对的效率提高了， 因此返回给用户对应的交互结果的效率也提升了，从而提升了用户体验。

如前文，所述历史问答对中的提问语句可以为用户的历史提问语句。考 虑到智能对话系统可能拥有庞大的用户群体，因此，所述记忆模块中保存的 历史问答对的数量很多。可以理解的是，不同用户的在智能对话系统中所输 入的提问语句所涉及的事实类型不同。因此，所述记忆模块中保存的历史问 答对可能涉及诸多事实类型的历史问答对，而用户在智能对话系统中输入的 提问语句往往涉及用户自身的关注的事实类型。正是因为如此，如果能够确 定出用户关注的事实类型，那么在确定所述句向量匹配的历史问答句时，根 据用户关注的事实类型确定遍历的历史问答句的范围，而不是遍历所述记忆 模块中保存的所有的历史问答对，则可以有效提升遍历效率。

需要说明的是，此处提及的事实类型，可以理解为某一维度或某一方面 的内容。例如，所述事实类型可以为与娱乐明星相关的内容；又如，所述事 实类型可以为与时事相关的内容。

在本申请实施例中，根据用户关注的事实类型确定遍历的历史问答对的 范围，在具体实现时，可以包括多种实现方式，以下介绍两种可能的实现方 式。

第一种实现方式：第一种实现方式可以通过以下步骤A-B实现。

步骤A：根据所述用户的标识查找到所述用户在智能对话中所涉及的目 标事实类型，所述目标事实类型是根据所述用户在智能对话中所输入的历史 语句确定的。

本申请实施例不具体限定所述用户的标识，所述用户的标识例如可以为 所述用户在所述智能对话系统中注册的账号。

在本申请实施例的一种实现方式中，上文提及的分析请求中可以携带有 所述用户的标识，因此，服务器可以通过解析所述分析请求得到所述用户的 标识。

可以理解的是，用户的历史输入语句在一定程度上可以体现用户所关注 的事实类型，例如，用户的历史提问语句均与娱乐明星相关，故而可以确定 用户关注的事实类型为与娱乐明星相关的内容。因此，在本申请实施例中， 所述目标事实类型可以是根据用户在智能对话中所输入的历史语句确定的。 也就是说，服务器可以获取用户在智能对话中所述输入的历史语句，根据所 述用户在智能对话中所输入的历史语句确定用户在智能对话中涉及的目标事 实类型。

步骤B：若根据所述句向量确定出多个事实类型，且所述多个事实类型 中包括所述目标事实类型，根据所述深度学习网络优先确定符合所述目标事 实类型的历史问答对中是否具有与所述句向量匹配的历史问答对。

可以理解的是，所述句向量在一定程度上可以体现用户所输入语句涉及 的事实类型。可以理解的是，用户所输入的语句可能会涉及多个事实类型。 例如，用户输入的语句所涉及的事实类型可能为“娱乐新闻”，也可能为“体 育新闻”。对于这种情况，在本申请实施例中，可以结合所述目标事实类型， 预测该句向量所涉及的事实类型。由于用户在智能系统中所输入语句与用户 关注的事实类型相关的可能性比较大，在本申请实施例中，若所述多个事实 类型中包括所述目标事实类型，则可以认为所述句向量对应的事实类型为所述目标事实类型。故而可以根据所述深度学习网络优先确定符合所述目标事 实类型的历史问答对中是否具有与所述句向量匹配的历史问答对。

根据所述深度学习网络优先确定符合所述目标事实类型的历史问答对中 是否具有与所述句向量匹配的历史问答对，在具体实现时，可以获取所述记 忆模块所保存的历史问答对中符合所述目标事实类型的历史问答对，然后根 据所述深度学习网络确定符合所述目标事实类型的历史问答对中是否具有与 所述句向量匹配的历史问答对。即优先遍历所述记忆模块所保存的历史问答 对中符合所述目标事实类型的历史问答对，确定所述符合所述目标事实类型 的历史问答对中是否具有与所述句向量匹配的历史问答对。

如前文，由于用户在智能系统中所输入语句与用户关注的事实类型相关 的可能性比较大，因此，符合所述目标事实类型的历史问答对中具有与所述 句向量匹配的历史问答对的可能性比较大，这样一来，由于所遍历的历史问 答对的数量变少了，从而有效提升了遍历效率。举例说明：记忆模块中，与 由句向量确定出的多个事实类型相关的历史问答对一共有10万对，而与目标 事实类型相关的历史问答对共1万条，若仅将用户所输入的语句的句向量与 记忆模块中保存的与所述用户关注的事实类型相关的历史问答对进行匹配， 则可以将匹配的历史问答对的数量由原来的10万条，减少为1万条，可以有 效提升匹配效率。

需要说明的是，本申请实施例不具体限定获取所述记忆模块所保存的历 史问答对中符合所述事实类型的历史问答对的具体实现方式，作为一种示例， 所述历史问答对可以携带有标识所述历史问答对的事实类型的标签，从而可 以根据标签筛选的方式从所述记忆模块所保存的历史问答对中获取符合所述 事实类型的历史问答对。

需要说明的是，在本申请实施例中，若所述符合所述目标事实类型的历 史问答对中不具有与所述句向量匹配的历史问答对，则可以继续遍历所述记 忆模块中的其它历史问答对，其中，所述其它历史问答对例如可以为：与所 述多个事实类型中除所述目标事实类型之外的其它事实类型相关的历史问答 对。

第二种实现方式：第二种实现方式的第一个步骤与步骤A相同，第二种 实现方式与第一种方式不同的是，第一种方式中是结合句向量确定出的多个 事实类型和所述目标事实类型确定所需遍历的历史问答对，而在第二种实现 方式中，仅根据所述目标事实类型确定所需遍历的历史问答对。具体地，在 第二种实现方式中，获取记忆模块所保存的历史问答对中符合所述目标事实 类型的历史问答对，将所述记忆模块所保存的历史问答对中符合所述目标事 实类型的历史问答对作为需要遍历的历史问答对，根据所述深度学习网络优 先确定符合所述目标事实类型的历史问答对中是否具有与所述句向量匹配的 历史问答对。

关于第二种实现方式中的“获取记忆模块所保存的历史问答对中符合所 述目标事实类型的历史问答对”，以及“根据所述深度学习网络优先确定符合 所述目标事实类型的历史问答对中是否具有与所述句向量匹配的历史问答 对”的实现方式，可以参考以上第一种实现方式中步骤B中相关内容的描述， 此处不再赘述。

可以理解的是，由于符合所述目标事实类型的历史问答对的数量，比所 述记忆模块中保存的历史问答对的数量少，因此，采用第二种实现方式，也 可以提升遍历效率。

需要说明的是，在第二种实现方式中，若所述符合所述目标事实类型的 历史问答对中不具有与所述句向量匹配的历史问答对，则可以继续再遍历所 述记忆模块中的其它历史问答对，其中，所述其它历史问答对可以为：除符 合所述目标事实类型的历史问答对之外的其它历史问答对。

以上对本申请实施例提供的用于深度学习网络的动态存储方法进行了介 绍，以下结合具体场景介绍该动态存储方法。

参见图4，该图为本申请实施例提供的一种应用场景示意图。

在图4所示的应用场景中，用户可以在客户端401例如智能手机、平板 电脑或者台式机等终端设备上访问智能对话系统。当用户利用客户端401在 智能对话系统中输入提问语句时，客户端401根据用户输入的提问语句生成 提问请求，该提问请求中携带有所述提问语句。客户端401将该提问请求发 送给中心服务器402，具体地，客户端可以将该提问请求可以以http加密请求 的方式发送给中心服务器402。

中心服务器402接收到该提问请求之后，例如可以根据各个语义分析模 块的繁忙程度确定对该提问请求进行分析的语义分析模块，并向语义分析模 块403发送分析请求，该分析请求用于请求所述语义分析模块403对所述提 问请求中携带的提问语句进行分析，并返回与该提问语句对应的答复语句。 其中，所述分析请求可以为http请求；所述分析请求中可以携带有所述提问 语句，所述分析请求中还可以携带有所述用户的标识。

语义分析模块403对该分析请求中的提问语句进行分析，并得到与该提 问语句对应的答复语句，将该答复语句返回给中心服务器402，中心服务器将 该答复语句返回给客户端401。

可以理解的是，所述语义分析模块403可能会向中心服务器402返回多 个答复语句，中心服务器402可以根据缓存和/或话语过滤模块对所述多个答 复语句进行筛选，并将筛选之后的答复语句返回给客户端401。

需要说明的是，本申请以上图1至图3所述的方法，均可以由所述语义 分析模块执行。

以下结合图5介绍语义分析模块403对该分析请求中的提问语句进行分 析，并得到与该提问语句对应的答复语句的具体实现。

其中，记忆模块501中保存有多个历史问答对，分别为M1、M2……Mn-1、 Mn。其中一个历史问答对中包括一个提问语句和一个答复语句。

需要说明的是，所述记忆模块501中保存的历史问答对，是通过网络爬 虫，自动化的爬取论坛、贴吧的数据，通过自动化的信息抽取方法得到了若 干数目的文本数据Q-A对，然后本发明通过自研的分词系统进行切词分词， 然后进行了特殊字符的过滤处理，包括不限于中英半角的转换，停用词的过 滤，句子语法依存树的分析，脏词的过滤，得到了高质量的Q-A对。

语义分析模块403接收到用户输入的提问语句Q1之后，首先，利用基于 神经网络的word2vec模型训练得到所述提问语句Q1的句向量O1，然后调用 所述记忆模块501，获得所述记忆模块501中保存的历史问答对。将句向量 O1与记忆模块501中存储的历史问答对进行匹配。在本申请实施例中，若语 义分析模块403接收到的分析请求中携带有用户的标识，则可以根据用户的 标识确定所述用户在智能对话中涉及的目标事实类型，并根据该目标事实类 型确定优先匹配的历史问答对。

关于句向量O1与记忆模块501中存储的历史问答对进行匹配方式，此处 以句向量O1和历史问答对M1进行匹配为例进行介绍，匹配过程可以参考图 5中的502。具体地，可以计算所述句向量O1和历史问答对M1之间的误差 loss，根据loss判断所述句向量O1和所述历史问答对MI的匹配结果R1，其 中匹配结果R1包括匹配成功和匹配不成功两种情况。

需要说明的是，此处提及的然后将句向量O1与记忆模块501中存储的历 史问答对M1进行匹配，实际上是将句向量O1与历史问答对M1中的提问语 句的句向量进行匹配。

在本申请实施例中，根据loss判断所述句向量O1和所述历史问答对M1 的匹配结果，例如可以是当loss大于预设误差阈值时，确定所述句向量O1和 所述历史问答对M1匹配不成功，当loss小于或者等于预设误差阈值时，确 定所述句向量O1和所述历史问答对M1匹配成功。

在本申请实施例中，若匹配成功，则根据所述历史问答对M1中的答复语 句以及所述用户的历史提问信息确定所述与所述句向量O1对应的答复语句 A1。若匹配不成功，则确定与所述句向量O1对应的答复语句A1，并将所述 句向量O1以及与该句向量O1对应的答复语句A1的句向量保存至所述记忆 模块501中。

在本申请实施例的一种可能的实现方式中，在将所述句向量O1以及与该 句向量O1对应的答复语句A1的句向量保存至所述记忆模块501中时，可以 触发以上图2所述的方法的执行。即根据记忆模块中的历史问答对的更新时 间确定各个历史问答对的权重，并删除权重小于预设阈值的历史问答对。由 此可见，本申请实施例中的记忆模块501，具有遗忘机制，可以遗忘无用的历 史问答对，使得深度学习网络能够确定所保存的历史问答对在近期智能对话 中起到的作用，可以降低存储压力，提高遍历效率。

以上对本申请实施例提供的智能对话方法进行了介绍，以下结合具体场 景介绍该智能对话方法。

参见图6，该图为本申请实施例提供的一种智能对话界面示意图。

图6示出了MIMO智能机器人与用户的智能对话界面。

从所述交互界面中可以看出，用户在交互界面中输入语句601“张三去厕 所了”，服务器对所述输入语句601进行分析，并利用分析得到句向量更新记 忆模块保存的双语句对。而后用户在交互界面中输入语句602“张三在哪里”， 服务器对该语句602进行分析，得到其句向量，并利用更新后的双语句对与 所述句向量进行匹配，相应的向用户反馈交互内容603“童鞋，厕所”。

类似地，当用户在交互界面中输入语句604“张三从厕所出来后，去了厨 房”之后，服务器对所述输入语句604进行分析，并利用分析得到句向量更 新记忆模块保存的双语句对。而后用户在交互界面中输入语句605“那张三现 在在哪里”，相应的服务器利用更新后的双语句对向用户反馈交互内容606“大 哥，厨房”。

由此可见，本申请实施例提供智能对话方法，可以根据用户输入内容相 适应的更新记忆模块保存的双语句对，并利用更新后的双语句对为用户提供 对应的交互内容。利用本申请实施例提供的智能对话方法，针对用户所输入 语句，可以为提供准确的交互内容，用户体验佳。

基于前述实施例提供的智能对话方法，本申请实施例还提供了一种智能 对话装置，以下结合附图介绍该装置。

参见图7a，所述装置700包括：获取单元701、得到单元702、第一确定 单元703和第二确定单元704。

获取单元701，用于获取分析请求，所述分析请求包括用户所输入的语句；

得到单元702，用于根据向量训练模型训练所述语句，得到所述语句对应 的句向量；

第一确定单元703，用于根据深度学习网络确定记忆模块所保存的历史问 答对中是否具有与所述句向量匹配的历史问答对；在所述深度学习网络的记 忆模块中，所述保存的历史问答对的权重大于等于预设阈值，所述保存的历 史问答对中的任意一个历史问答对的权重是根据所述历史问答对的更新时间 确定的；所述历史问答对的更新时间包括所述历史问答对被保存在所述记忆 模块中的时间信息，或者所述历史问答对被用户所输入语句对应的句向量匹 配到的时间信息；

第二确定单元704，用于根据与所述句向量匹配的历史问答对，确定返回 给所述用户的交互内容。

可选的，在所述根据向量训练模型训练所述语句，得到所述语句对应的 句向量的过程中，包括：

在训练的前n轮中不改变所述向量训练模型的内部参数，n小于训练得到 所述语句对应句向量的总训练轮数。

可选的，所述分析请求中还包括所述用户的标识，参见图7b，所述装置 700还包括：第一查找单元705。

第一查找单元705，用于根据所述用户的标识查找到所述用户在智能对话 中所涉及的目标事实类型，所述目标事实类型是根据所述用户在智能对话中 所输入的历史语句确定的；

所述第一确定单元703，具体用于：

若根据所述句向量确定出多个事实类型，且所述多个事实类型中包括所 述目标事实类型，根据所述深度学习网络优先确定符合所述目标事实类型的 历史问答对中是否具有与所述句向量匹配的历史问答对。

可选的，所述分析请求中还包括所述用户的标识，参见图7c，所述装置 还包括：第二查找单元706。

第二查找单元706，用于根据所述用户的标识查找到所述用户在智能对话 中所涉及的目标事实类型，所述目标事实类型是根据所述用户在智能对话中 所输入的历史语句确定的；

所述第一确定单元703，具体用于：

获取所述记忆模块所保存的历史问答对中符合所述目标事实类型的历史 问答对；

根据所述深度学习网络优先确定符合所述目标事实类型的历史问答对中 是否具有与所述句向量匹配的历史问答对。

可选的，参见图7d，所述装置700还包括：第三确定单元707和调整单 元708。

第三确定单元707，用于根据确定权重时的目标时间，确定历史问答对的 更新时间与所述目标时间的时间差值；

调整单元708，用于根据所述时间差值调整所述历史问答对的权重。

可选的，所述调整单元708，具体用于：

若所述时间差值大于等于预设值，降低所述历史问答对的权重；

若所述时间差值小于预设值，提高所述历史问答对的权重。

由上述技术方案可以看出，由于记忆模块所保存的历史问答对的权重， 是依据历史问答对的更新时间确定的，历史问答对的更新时间包括历史问答 对被保存在记忆模块中的时间信息，或者历史问答对被用户所输入语句对应 的句向量匹配到的时间信息。故在使用深度学习网络为用户提供智能对话服 务的过程中，记忆模块中的历史问答对的更新时间会随之发生改变，从而改 变对应的权重。而记忆模块所保存的历史问答对的权重大于或者等于预设阈 值，相当于该历史问答对在一定时间内曾经被用户所输入语句匹配到，对于 智能对话来说作用比较高，即与用户所输入语句的句向量匹配的可能性比较 高。故而能够更快的确定出与所述句向量匹配的历史问答对，相应的更快的 为用户提供对应的交互内容，提升用户体验。

基于前述实施例提供的一种用于深度学习网络的动态存储方法，本实施 例提供一种用于深度学习网络的动态存储装置800，参见图8，所述装置800 包括第四确定单元801和删除单元802。

所述第四确定单元801，用于确定所述深度学习网络中记忆模块所保存的 历史问答对的权重；其中，目标问答对的权重是根据所述目标问答对的更新 时间确定的；所述目标问答对为所述记忆模块所保存的历史问答对中的任意 一个历史问答对；所述目标问答对的更新时间包括所述目标问答对被保存在 所述记忆模块中的时间信息，或者所述目标问答对被用户所输入语句对应的 句向量匹配到的时间信息；

所述删除单元802，用于若所述目标问答对的权重低于预设阈值，从所述 记忆模块中删除所述目标问答对。

在一种可能的实现方式中，所述目标问答对的权重是根据所述目标问答 对的更新时间确定的，包括：

所述目标问答对的权重是根据所述目标问答对与所述记忆模块中其他历 史问答对的相关性，以及所述目标问答对的更新时间确定的。

在一种可能的实现方式中，针对所述目标问答对，所述确定所述深度学 习网络中记忆模块所保存的历史问答对的权重，包括：

根据确定权重时的目标时间，确定所述目标问答对的更新时间与所述目 标时间的时间差值；

根据所述时间差值调整所述目标问答对的权重。

在一种可能的实现方式中，所述根据所述时间差值调整所述目标问答对 的权重，包括：

若所述时间差值大于等于预设值，降低所述目标问答对的权重；

若所述时间差值小于预设值，提高所述目标问答对的权重。

由上述技术方案可以看出，针对深度学习网络中记忆模块所保存的历史 问答对，可以分别依据历史问答对的更新时间确定各个历史问答对的权重， 针对所保存的历史问答对中的目标问答对，该目标问答对的更新时间包括目 标问答对被保存在记忆模块中的时间信息，或者目标问答对被用户所输入语 句对应的句向量匹配到的时间信息。故在使用深度学习网络为用户提供智能 对话服务的过程中，记忆模块中的历史问答对的更新时间会随之发生改变， 从而改变对应的权重。若记忆模块所保存的目标问答对的权重低于预设阈值， 相当于该目标问答对长时间没有被用户所输入语句匹配到，对于智能对话来 说作用很低，所以可以从所述记忆模块中删除目标问答对。通过上述方式为 历史问答对设置的权重，可以使得深度学习网络能够确定所保存的历史问答 对在近期智能对话中起到的作用，从而可以针对性的删除无用的历史问答对 以降低存储压力，提高遍历效率。

本申请实施例还提供了一种智能对话设备和一种用于深度学习网络的动 态存储设备，所述智能对话设备和动态存储设备均可具备图9所示的结构。 下面结合附图对用于深度学习网络的动态存储设备进行介绍。请参见图9所 示，本申请实施例提供了一种用于深度学习网络的动态存储设备900，该设备 900可以是服务器，可因配置或性能不同而产生比较大的差异，可以包括一个 或一个以上中央处理器(Central Processing Units，简称CPU)922(例如，一 个或一个以上处理器)和存储器932，一个或一个以上存储应用程序942或数 据944的存储介质930(例如一个或一个以上海量存储设备)。其中，存储器 932和存储介质930可以是短暂存储或持久存储。存储在存储介质930的程序 可以包括一个或一个以上模块(图示没标出)，每个模块可以包括对服务器中 的一系列指令操作。更进一步地，中央处理器922可以设置为与存储介质930 通信，在用于深度学习网络的动态存储900上执行存储介质930中的一系列 指令操作。

用于深度学习网络的动态存储设备900还可以包括一个或一个以上电源 926，一个或一个以上有线或无线网络接口950，一个或一个以上输入输出接 口958，和/或，一个或一个以上操作系统941，例如Windows ServerTM，Mac OS XTM，UnixTM,LinuxTM，FreeBSDTM等等。

上述实施例中由服务器所执行的步骤可以基于该图9所示的服务器结构。

其中，对于所述智能对话设备，CPU 922用于执行如下步骤：

获取分析请求，所述分析请求包括用户所输入的语句；

根据向量训练模型训练所述语句，得到所述语句对应的句向量；

根据深度学习网络确定记忆模块所保存的历史问答对中是否具有与所述 句向量匹配的历史问答对；在所述深度学习网络的记忆模块中，所述保存的 历史问答对的权重大于等于预设阈值，所述保存的历史问答对中的任意一个 历史问答对的权重是根据所述历史问答对的更新时间确定的；所述历史问答 对的更新时间包括所述历史问答对被保存在所述记忆模块中的时间信息，或 者所述历史问答对被用户所输入语句对应的句向量匹配到的时间信息；

根据与所述句向量匹配的历史问答对，确定返回给所述用户的交互内容。

其中，对于所述动态存储设备，CPU 922用于执行如下步骤：

确定所述深度学习网络中记忆模块所保存的历史问答对的权重；其中， 目标问答对的权重是根据所述目标问答对的更新时间确定的；所述目标问答 对为所述记忆模块所保存的历史问答对中的任意一个历史问答对；所述目标 问答对的更新时间包括所述目标问答对被保存在所述记忆模块中的时间信 息，或者所述目标问答对被用户所输入语句对应的句向量匹配到的时间信息；

若所述目标问答对的权重低于预设阈值，从所述记忆模块中删除所述目 标问答对。

请参见图8所示，本申请实施例还提供了一种智能对话设备和一种用于 深度学习网络的动态存储设备，所述智能对话设备和动态存储设备均可具备 图10所示的结构的设备1000。该设备1000还可以是终端设备，该终端设备 可以为包括手机、平板电脑、个人数字助理(Personal Digital Assistant，简称 PDA)、销售终端(Point of Sales，简称POS)、车载电脑等任意终端设备，以 终端设备为手机为例：

图10示出的是与本申请实施例提供的终端设备相关的手机的部分结构的 框图。参考图10，手机包括：射频(Radio Frequency，简称RF)电路1010、 存储器1020、输入单元1030、显示单元1040、传感器1050、音频电路1060、 无线保真(wireless fidelity，简称WiFi)模块1070、处理器1080、以及电源 1090等部件。本领域技术人员可以理解，图10中示出的手机结构并不构成对 手机的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者 不同的部件布置。

下面结合图10对手机的各个构成部件进行具体的介绍：

RF电路1010可用于收发信息或通话过程中，信号的接收和发送，特别 地，将基站的下行信息接收后，给处理器1080处理；另外，将设计上行的数 据发送给基站。通常，RF电路1010包括但不限于天线、至少一个放大器、 收发信机、耦合器、低噪声放大器(Low NoiseAmplifier，简称LNA)、双工 器等。此外，RF电路1010还可以通过无线通信与网络和其他设备通信。上 述无线通信可以使用任一通信标准或协议，包括但不限于全球移动通讯系统(Global System of Mobile communication，简称GSM)、通用分组无线服务 (GeneralPacket Radio Service，简称GPRS)、码分多址(Code Division Multiple Access，简称CDMA)、宽带码分多址(Wideband Code Division Multiple Access， 简称WCDMA)、长期演进(Long Term Evolution，简称LTE)、电子邮件、短 消息服务(Short Messaging Service，简称SMS)等。

存储器1020可用于存储软件程序以及模块，处理器1080通过运行存储 在存储器1020的软件程序以及模块，从而执行手机的各种功能应用以及数据 处理。存储器1020可主要包括存储程序区和存储数据区，其中，存储程序区 可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像 播放功能等)等；存储数据区可存储根据手机的使用所创建的数据(比如音 频数据、电话本等)等。此外，存储器1020可以包括高速随机存取存储器， 还可以包括非易失性存储器，例如至少一个磁盘存储器件、闪存器件、或其 他易失性固态存储器件。

输入单元1030可用于接收输入的数字或字符信息，以及产生与手机的用 户设置以及功能控制有关的键信号输入。具体地，输入单元1030可包括触控 面板1031以及其他输入设备1032。触控面板1031，也称为触摸屏，可收集 用户在其上或附近的触摸操作(比如用户使用手指、触笔等任何适合的物体 或附件在触控面板1031上或在触控面板1031附近的操作)，并根据预先设定 的程式驱动相应的连接装置。可选的，触控面板1031可包括触摸检测装置和 触摸控制器两个部分。其中，触摸检测装置检测用户的触摸方位，并检测触 摸操作带来的信号，将信号传送给触摸控制器；触摸控制器从触摸检测装置 上接收触摸信息，并将它转换成触点坐标，再送给处理器1080，并能接收处 理器1080发来的命令并加以执行。此外，可以采用电阻式、电容式、红外线 以及表面声波等多种类型实现触控面板1031。除了触控面板1031，输入单元 1030还可以包括其他输入设备1032。具体地，其他输入设备1032可以包括 但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆等中的一种或多种。

显示单元1040可用于显示由用户输入的信息或提供给用户的信息以及手 机的各种菜单。显示单元1040可包括显示面板1041，可选的，可以采用液晶 显示器(LiquidCrystal Display，简称LCD)、有机发光二极管(Organic Light-Emitting Diode，简称OLED)等形式来配置显示面板1041。进一步的， 触控面板1031可覆盖显示面板1041，当触控面板1031检测到在其上或附近 的触摸操作后，传送给处理器1080以确定触摸事件的类型，随后处理器1080 根据触摸事件的类型在显示面板1041上提供相应的视觉输出。虽然在图10 中，触控面板1031与显示面板1041是作为两个独立的部件来实现手机的输 入和输入功能，但是在某些实施例中，可以将触控面板1031与显示面板1041 集成而实现手机的输入和输出功能。

手机还可包括至少一种传感器1050，比如光传感器、运动传感器以及其 他传感器。具体地，光传感器可包括环境光传感器及接近传感器，其中，环 境光传感器可根据环境光线的明暗来调节显示面板1041的亮度，接近传感器 可在手机移动到耳边时，关闭显示面板1041和/或背光。作为运动传感器的一 种，加速计传感器可检测各个方向上(一般为三轴)加速度的大小，静止时 可检测出重力的大小及方向，可用于识别手机姿态的应用(比如横竖屏切换、 相关游戏、磁力计姿态校准)、振动识别相关功能(比如计步器、敲击)等；至于手机还可配置的陀螺仪、气压计、湿度计、温度计、红外线传感器等其他 传感器，在此不再赘述。

音频电路1060、扬声器1061，传声器1062可提供用户与手机之间的音 频接口。音频电路1060可将接收到的音频数据转换后的电信号，传输到扬声 器1061，由扬声器1061转换为声音信号输出；另一方面，传声器1062将收 集的声音信号转换为电信号，由音频电路1060接收后转换为音频数据，再将 音频数据输出处理器1080处理后，经RF电路1010以发送给比如另一手机， 或者将音频数据输出至存储器1020以便进一步处理。

WiFi属于短距离无线传输技术，手机通过WiFi模块1070可以帮助用户 收发电子邮件、浏览网页和访问流式媒体等，它为用户提供了无线的宽带互 联网访问。虽然图10示出了WiFi模块1070，但是可以理解的是，其并不属 于手机的必须构成，完全可以根据需要在不改变发明的本质的范围内而省略。

处理器1080是手机的控制中心，利用各种接口和线路连接整个手机的各 个部分，通过运行或执行存储在存储器1020内的软件程序和/或模块，以及调 用存储在存储器1020内的数据，执行手机的各种功能和处理数据，从而对手 机进行整体监控。可选的，处理器1080可包括一个或多个处理单元；优选的， 处理器1080可集成应用处理器和调制解调处理器，其中，应用处理器主要处 理操作系统、用户界面和应用程序等，调制解调处理器主要处理无线通信。 可以理解的是，上述调制解调处理器也可以不集成到处理器1080中。

手机还包括给各个部件供电的电源1090(比如电池)，优选的，电源可以 通过电源管理系统与处理器1080逻辑相连，从而通过电源管理系统实现管理 充电、放电、以及功耗管理等功能。

尽管未示出，手机还可以包括摄像头、蓝牙模块等，在此不再赘述。

本申请实施例还提供一种计算机可读存储介质，用于存储程序代码，该 程序代码用于执行前述各个实施例所述的一种用于深度学习网络的动态存储 方法中的任意一种实施方式。

本领域普通技术人员可以理解：实现上述方法实施例的全部或部分步骤 可以通过程序指令相关的硬件来完成，前述程序可以存储于一计算机可读取 存储介质中，该程序在执行时，执行包括上述方法实施例的步骤；而前述的 存储介质可以是下述介质中的至少一种：只读存储器(英文：read-only memory，缩写：ROM)、RAM、磁碟或者光盘等各种可以存储程序代码的介 质。

需要说明的是，本说明书中的各个实施例均采用递进的方式描述，各个 实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其 他实施例的不同之处。尤其，对于设备及系统实施例而言，由于其基本相似 于方法实施例，所以描述得比较简单，相关之处参见方法实施例的部分说明 即可。以上所描述的设备及系统实施例仅仅是示意性的，其中作为分离部件 说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以 是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实 施例方案的目的。本领域普通技术人员在不付出创造性劳动的情况下，即可 以理解并实施。

以上所述，仅为本申请的一种具体实施方式，但本申请的保护范围并不 局限于此，任何熟悉本技术领域的技术人员在本申请揭露的技术范围内，可 轻易想到的变化或替换，都应涵盖在本申请的保护范围之内。因此，本申请 的保护范围应该以权利要求的保护范围为准。

Claims (14)

1.一种智能对话方法，其特征在于，所述方法包括：

获取分析请求，所述分析请求包括用户所输入的语句；

根据向量训练模型训练所述语句，得到所述语句对应的句向量；

根据深度学习网络确定记忆模块所保存的历史问答对中是否具有与所述句向量匹配的历史问答对；在所述深度学习网络的记忆模块中，所述保存的历史问答对的权重大于等于预设阈值，所述保存的历史问答对中的任意一个历史问答对的权重是根据所述历史问答对的更新时间确定的；所述历史问答对的更新时间包括所述历史问答对被保存在所述记忆模块中的时间信息，或者所述历史问答对被用户所输入语句对应的句向量匹配到的时间信息；

根据与所述句向量匹配的历史问答对，确定返回给所述用户的交互内容。

2.根据权利要求1所述的方法，其特征在于，在所述根据向量训练模型训练所述语句，得到所述语句对应的句向量的过程中，包括：

在训练的前n轮中不改变所述向量训练模型的内部参数，n小于训练得到所述语句对应句向量的总训练轮数。

3.根据权利要求1或2所述的方法，其特征在于，所述分析请求中还包括所述用户的标识，所述方法还包括：

根据所述用户的标识查找到所述用户在智能对话中所涉及的目标事实类型，所述目标事实类型是根据所述用户在智能对话中所输入的历史语句确定的；

所述根据深度学习网络确定记忆模块所保存的历史问答对中是否具有与所述句向量匹配的历史问答对，包括：

若根据所述句向量确定出多个事实类型，且所述多个事实类型中包括所述目标事实类型，根据所述深度学习网络优先确定符合所述目标事实类型的历史问答对中是否具有与所述句向量匹配的历史问答对。

4.根据权利要求1或2所述的方法，其特征在于，所述分析请求中还包括所述用户的标识，所述方法还包括：

根据所述用户的标识查找到所述用户在智能对话中所涉及的目标事实类型，所述目标事实类型是根据所述用户在智能对话中所输入的历史语句确定的；

所述根据深度学习网络确定记忆模块所保存的历史问答对中是否具有与所述句向量匹配的历史问答对，包括：

获取所述记忆模块所保存的历史问答对中符合所述目标事实类型的历史问答对；

根据所述深度学习网络优先确定符合所述目标事实类型的历史问答对中是否具有与所述句向量匹配的历史问答对。

5.根据权利要求1所述的方法，其特征在于，所述方法还包括：

根据确定权重时的目标时间，确定历史问答对的更新时间与所述目标时间的时间差值；

根据所述时间差值调整所述历史问答对的权重。

6.根据权利要求5所述的方法，其特征在于，所述根据所述时间差值调整所述历史问答对的权重，包括：

若所述时间差值大于等于预设值，降低所述历史问答对的权重；

若所述时间差值小于预设值，提高所述历史问答对的权重。

7.一种用于深度学习网络的动态存储方法，其特征在于，所述方法包括：

确定深度学习网络中记忆模块所保存的历史问答对的权重；其中，目标问答对的权重是根据所述目标问答对的更新时间确定的；所述目标问答对为所述记忆模块所保存的历史问答对中的任意一个历史问答对；所述目标问答对的更新时间包括所述目标问答对被保存在所述记忆模块中的时间信息，或者所述目标问答对被用户所输入语句对应的句向量匹配到的时间信息；

若所述目标问答对的权重低于预设阈值，从所述记忆模块中删除所述目标问答对。

8.根据权利要求7所述的方法，其特征在于，所述目标问答对的权重是根据所述目标问答对的更新时间确定的，包括：

所述目标问答对的权重是根据所述目标问答对与所述记忆模块中其他历史问答对的相关性，以及所述目标问答对的更新时间确定的。

9.根据权利要求7所述的方法，其特征在于，针对所述目标问答对，所述确定所述深度学习网络中记忆模块所保存的历史问答对的权重，包括：

根据确定权重时的目标时间，确定所述目标问答对的更新时间与所述目标时间的时间差值；

根据所述时间差值调整所述目标问答对的权重。

10.根据权利要求8所述的方法，其特征在于，所述根据所述时间差值调整所述目标问答对的权重，包括：

若所述时间差值大于等于预设值，降低所述目标问答对的权重；

若所述时间差值小于预设值，提高所述目标问答对的权重。

11.一种智能对话装置，其特征在于，所述装置包括：

获取单元，用于获取分析请求，所述分析请求包括用户所输入的语句；

得到单元，用于根据向量训练模型训练所述语句，得到所述语句对应的句向量；

第一确定单元，用于根据深度学习网络确定记忆模块所保存的历史问答对中是否具有与所述句向量匹配的历史问答对；在所述深度学习网络的记忆模块中，所述保存的历史问答对的权重大于等于预设阈值，所述保存的历史问答对中的任意一个历史问答对的权重是根据所述历史问答对的更新时间确定的；所述历史问答对的更新时间包括所述历史问答对被保存在所述记忆模块中的时间信息，或者所述历史问答对被用户所输入语句对应的句向量匹配到的时间信息；

第二确定单元，用于根据与所述句向量匹配的历史问答对，确定返回给所述用户的交互内容。

12.一种用于深度学习网络的动态存储装置，其特征在于，所述装置包括：

第四确定单元，用于确定所述深度学习网络中记忆模块所保存的历史问答对的权重；其中，目标问答对的权重是根据所述目标问答对的更新时间确定的；所述目标问答对为所述记忆模块所保存的历史问答对中的任意一个历史问答对；所述目标问答对的更新时间包括所述目标问答对被保存在所述记忆模块中的时间信息，或者所述目标问答对被用户所输入语句对应的句向量匹配到的时间信息；

删除单元，用于若所述目标问答对的权重低于预设阈值，从所述记忆模块中删除所述目标问答对。

13.一种智能对话设备，其特征在于，所述设备包括处理器以及存储器：

所述存储器用于存储程序代码，并将所述程序代码传输给所述处理器；

所述处理器用于根据所述程序代码中的指令执行权利要求1-6任一项所述的智能对话方法。

14.一种用于深度学习网络的动态存储设备，其特征在于，所述设备包括处理器以及存储器：

所述存储器用于存储程序代码，并将所述程序代码传输给所述处理器；

所述处理器用于根据所述程序代码中的指令执行权利要求7-10任一项所述的动态存储方法。