CN107368524A - 一种对话生成方法、装置以及电子设备 - Google Patents

一种对话生成方法、装置以及电子设备 Download PDF

Info

Publication number
CN107368524A
CN107368524A CN201710423859.7A CN201710423859A CN107368524A CN 107368524 A CN107368524 A CN 107368524A CN 201710423859 A CN201710423859 A CN 201710423859A CN 107368524 A CN107368524 A CN 107368524A
Authority
CN
China
Prior art keywords
topic
sequence
output
vector corresponding
training
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201710423859.7A
Other languages
English (en)
Other versions
CN107368524B (zh
Inventor
常晓夫
巢林林
徐鹏
李小龙
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Advanced New Technologies Co Ltd
Original Assignee
Alibaba Group Holding Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Alibaba Group Holding Ltd filed Critical Alibaba Group Holding Ltd
Priority to CN201710423859.7A priority Critical patent/CN107368524B/zh
Publication of CN107368524A publication Critical patent/CN107368524A/zh
Priority to TW107109025A priority patent/TW201903635A/zh
Priority to SG11201911535SA priority patent/SG11201911535SA/en
Priority to PCT/CN2018/090138 priority patent/WO2018223992A1/zh
Priority to EP18814267.3A priority patent/EP3620940A4/en
Priority to US16/704,358 priority patent/US11354512B2/en
Priority to US16/778,995 priority patent/US10747959B2/en
Application granted granted Critical
Publication of CN107368524B publication Critical patent/CN107368524B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/088—Non-supervised learning, e.g. competitive learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/30—Semantic analysis
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33—Querying
    • G06F16/332—Query formulation
    • G06F16/3329—Natural language query formulation or dialogue systems
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/044—Recurrent networks, e.g. Hopfield networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N7/00—Computing arrangements based on specific mathematical models
    • G06N7/01—Probabilistic graphical models, e.g. probabilistic networks

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • Biophysics (AREA)
  • Molecular Biology (AREA)
  • Biomedical Technology (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Human Computer Interaction (AREA)
  • Databases & Information Systems (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Medical Informatics (AREA)
  • Machine Translation (AREA)

Abstract

本申请公开了一种对话生成方法、装置以及电子设备。所述方法包括：利用包含话题范围约束信息的损失函数，对基于序列到序列的对话模型进行训练；利用所述训练过的对话模型，生成对话。利用本申请实施例，通过包含话题范围约束信息的损失函数，可以在对话模型训练过程中引入话题范围约束信息，从而有利于避免训练过的模型产出低质量无意义的回复。

Description

一种对话生成方法、装置以及电子设备
技术领域
本申请涉及计算机软件技术领域，尤其涉及一种对话生成方法、装置以及电子设备。
背景技术
随着移动设备的快速发展，智能辅助相关的应用也变得越来越普遍。比如，越来越流行的对话助手，对话助手可以基于语音或者文字等形式，与用户进行对话，以回答用户提出的问题，或者单纯地陪用户聊天等。
在现有技术中，将对话过程的问和答看作是问题语言符号序列到答案语言符号序列的映射，以最大似然估计作为损失函数，采用大量的人工对话数据对基于序列到序列(sequence to sequence，seq2seq)的对话模型进行训练，使得该对话模型学习到问题语言符号序列到答案语言符号序列的映射关系，可以用训练过的对话模型自动生成对话，从而实现对话助手。
但是，上述现有技术在模型训练中容易受诸如“好的”、“是的”、“知道了”等无话题信息的高频回复语句影响，导致在实际使用训练过的模型时，也倾向与产出这些低质量无意义的回复。
发明内容
本申请实施例提供一种对话生成方法、装置以及电子设备，用以解决如下技术问题：现有技术在对话模型训练中容易受无话题信息的高频回复语句影响，导致在实际使用训练过的模型时，也倾向与产出这些低质量无意义的回复。
为解决上述技术问题，本申请实施例是这样实现的：
本申请实施例提供的一种对话生成方法，包括：
利用包含话题范围约束信息的损失函数，对基于序列到序列的对话模型进行训练；
利用所述训练过的对话模型，生成对话。
本申请实施例提供的一种对话生成装置，包括：
训练模块，利用包含话题范围约束信息的损失函数，对基于序列到序列的对话模型进行训练；
生成模块，利用所述训练过的对话模型，生成对话。
本申请实施例提供的一种电子设备，包括：
至少一个处理器；以及，
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够：
利用包含话题范围约束信息的损失函数，对基于序列到序列的对话模型进行训练；
利用所述训练过的对话模型，生成对话。
本申请实施例采用的上述至少一个技术方案能够达到以下有益效果：通过利用包含话题范围约束信息的损失函数，在对话模型训练过程中引入话题范围约束信息，从而有利于避免训练过的模型产出低质量无意义的回复，因此，可以部分或全部地解决现有技术中的问题。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请中记载的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
图1为本申请实施例提供的一种对话生成方法的流程示意图；
图2为一种基于序列到序列的对话模型的原理示意图；
图3为本申请实施例提供的图1的方法中对话模型训练的一种具体实施方案原理示意图；
图4为本申请实施例提供的对图3中的原理的概括流程示意图；
图5为本申请实施例提供的对应于图1的一种对话生成装置的结构示意图。
具体实施方式
本申请实施例提供一种对话生成方法、装置以及电子设备。
为了使本技术领域的人员更好地理解本申请中的技术方案，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都应当属于本申请保护的范围。
为了便于理解，对本申请的方案的核心思想进行说明：本申请基于话题回复一致性的观点，利用包含话题范围约束信息的损失函数，对基于序列到序列的对话模型进行训练，以避免训练过的模型生成低质量无意义的对话；其中，所述话题范围约束信息具体可以是该损失函数中包含的至少部分公式，以下将该至少部分公式称为话题范围约束函数。
话题回复一致性主要指：真实人类对话聊天中，聊天参与人对话的话题往往相同或者相关，以及回复的语句话题范围也有相应的限制。比如，A提及天气相关话语，B回复天气相关话题的语句是比较合理的，一般不会回复与天气话题毫无关系的内容，如“这个手机怎么样”等。
由于对话模型一般用于模拟真实人类与用户进行对话，因此，若对话模型能够遵循话题回复一致性生成对话，对于用户而言将是更好的体验。。
基于上述的核心思想，下面对本申请的方案进行详细说明。
图1为本申请实施例提供的一种对话生成方法的流程示意图。从程序角度而言，该流程的执行主体可以是服务器上或者终端上的程序，比如，模型训练程序、对话助手应用、即时通讯应用等。从设备角度而言，该流程的执行主体包括但不限于可作为服务器或者终端的以下至少一种设备：手机、平板电脑、智能可穿戴设备、车机、个人计算机、中型计算机、计算机集群等。
图1中的流程可以包括以下步骤：
S101：利用包含话题范围约束信息的损失函数，对基于序列到序列的对话模型进行训练。
在本申请实施例中，所述话题范围约束信息可以是该损失函数中的一个或者多个与对话话题相关的参数，也可以是该损失函数中的与话题相关的至少部分公式。
在对话模型的训练过程中，是根据该损失函数计算出的损失，对对话模型的参数进行调整的，则该损失函数中包含的话题范围约束信息，也会对对话模型的参数调整产生相应的影响，从而使得训练过的对话模型的输出序列的内容也受到相应的约束。
这种约束可能带来两层效果：第一层，使得该输出序列包含话题信息，而非低质量无意义的对话；第二层，使得该输出序列与对应的对话模型的输入序列具有话题回复一致性。
S102：利用所述训练过的对话模型，生成对话。
在本申请实施例中，步骤S102可以是对话模型训练过程中的动作，也可以是对话模型训练完毕后的实际使用时的动作。
以将训练过的对话模型应用于对话助手应用为例。对话模型接收用户输入的语句，输出回复语句；或者，对话模型也可以基于预设或自动生成的输入语句，输出回复语句；或者，对话模型也可以不依赖于输入语句，直接输出预设的语句；等等。
图1所涉及的动作的执行主体可以是同一设备或同一程序，也可以是不同设备或不同程序。比如，步骤S101～S102的执行主体均为对话助手应用；又比如，步骤S101的执行主体为模型训练程序，而步骤S102的执行主体为对话助手应用；等等。
通过图1的方法，通过利用包含话题范围约束信息的损失函数，在对话模型训练过程中引入话题范围约束信息，从而有利于避免训练过的模型产出低质量无意义的回复，因此，可以部分或全部地解决现有技术中的问题。
基于图1的方法，本申请实施例还提供了该方法的一些具体实施方案，以及扩展方案，下面进行说明。
图2为一种基于序列到序列的对话模型的原理示意图。
图2中的对话模型包含两个长短期记忆(Long Short-Term Memory，LSTM)递归神经网络，第一个作为编码器，负责处理输入对话单词序列X，第二个作为解码器，负责生成回复单词序列Y，在实际应用中，基于序列到序列的对话模型的损失函数(即为目标函数)通常采用最大似然估计(Maximum Likelihood Estimate，MLE)，如下公式一所示：
Cost＝logp(Y|X)；公式一
在本申请实施例中，可以在公式一的基础上加入话题范围约束函数，再用于训练图2中的对话模型，当然，若不是采用最大似然估计，相应地对公式一进行替换即可。仍以采用最大似然估计为例，结合图3进行说明。
图3为本申请实施例提供的图1的方法中对话模型训练的一种具体实施方案原理示意图。可以看到，相比于图2，图3中增加了话题范围约束函数以及相应的损失计算动作，下面对图3中的原理进行说明。
图4为本申请实施例提供的对图3中的原理的概括流程示意图。该概括流程主要分为五部分：
训练话题模型，得到多个第一话题向量；
根据训练后的话题模型，确定回复单词序列Y对应的第一话题向量(表示为：)；
将Y对应的对话模型中处理过程中的各隐状态输出数据进行池化处理以及MLP变换操作，得到Y对应的第二话题向量(表示为：Tv)；
计算Y对应的第二话题向量与Y对应第一话题向量间的第一相似度(表示为：)，以及Y对应的第二话题向量与不相关话题向量(表示为：)间的第二相似度(表示为：)；其中，Relevance()表示相似度计算函数，比如，余弦相似度函数Cosine()等；
将第一相似度和第二相似度代入包含话题范围约束函数的损失函数，计算损失，以及根据损失对对话模型进行调整。
进一步地说明如下：
首先，无监督地利用对话训练语料训练话题模型，话题模型比如可以是LDA(Latent Dirichlet Allocation)模型或者Kmeans模型等。通过训练话题模型，可以从对话训练语料中提取出多个话题，并对应地生成多个话题向量，称为第一话题向量，每个第一话题向量分别表示一个话题，可以用话题ID对第一话题向量进行标识。优选地，第一话题向量可以是类似词嵌入的稠密向量，其中，所述词嵌入指将词转换为词向量。
然后，根据训练的话题模型，可以得到回复单词序列Y对应的第一话题向量，假定一句话只有一个中心意思，则Y只对应一个话题ID，相应地也只对应一个第一话题向量。
再然后，将Y在经过LSTM建模的每一步的隐状态输出数据输入平均池化(AveragePooling)进行池化处理，再通过多层感知器(Multi-layer Perceptron，MLP)进行变换操作，得到Y的另一种话题向量表示，称为Y对应的第二话题向量。其中，多层感知器具体可以是多层神经网络，比如全连接的深度神经网络(Deep Neural Networks，DNN)等。
可以认为，Y对应的第二话题向量在语义空间与Y对应的第一话题向量应该是相近的，相比于Y对应的第二话题向量与其他不相关话题ID对应的第一话题向量。基于这样的考虑，本申请定义了一种包含话题范围约束信息的损失函数，作为示例，如下公式二所示：
其中，λ为权重系数，St表示Y对应的第二话题向量与Y对应的第一话题向量间的相似度，表示Y对应的第二话题向量与不相关话题向量间的相似度，所述不相关话题向量是各第一话题向量中除Y对应的第一话题向量以外的向量，不相关话题向量对应的话题与Y对应的话题不相关。
相似度比如可以是余弦相似度，或者也可以是向量间距离等可以度量向量间相似性的数据。
最后，基于公式二，可以计算相应的损失，以及对对话模型进行调整，如此可以采用多个训练样本对对话模型反复训练，直到训练收敛。
需要说明的是，图3中的具体实施方案只是一种示例，下面基于图3的例子，对训练涉及的一些关键步骤进一步地展开说明。
在本申请实施例中，对于步骤S102，所述对基于序列到序列的对话模型进行训练前，还可以执行：利用对话训练语料训练话题模型，得到多个第一话题向量，每个所述第一话题向量分别表示一个话题。
在图3的例子中，是采用无监督的方式训练话题模型，优点在于，可以高效地用大量对话训练语料进行训练，无需事先给对话训练语料人工添加话题标签，可以节省成本，也不容易遗漏话题；当然，采用有监督的方式训练话题模型也是可以的。
在本申请实施例中，对于步骤S102，所述利用包含话题范围约束信息的损失函数，对基于序列到序列的对话模型进行训练，具体可以包括：
将训练序列输入基于序列到序列的对话模型进行处理，得到所述处理过程中输出的各隐状态输出数据，以及所述处理后得到的输出序列；根据所述各隐状态输出数据，生成所述输出序列对应的第二话题向量；以及，将所述输出序列输入所述训练过的话题模型进行处理，得到在所述多个第一话题向量中，所述输出序列对应的第一话题向量；根据所述输出序列对应的第一话题向量和第二话题向量，以及利用包含话题范围约束信息的损失函数，计算损失；根据所述损失，对所述对话模型进行调整。
在图3的例子中，上述的训练序列即为X，上述的输出序列即为Y。
进一步地，所述根据所述各隐状态输出数据，生成所述输出序列对应的第二话题向量，可以有多种具体实施方式。
例如，在图3的例子中的方式是：对所述各隐状态输出数据进行池化(Pooling)处理；通过将所述Pooling处理后得到的数据输入多层感知器进行处理，生成所述输出序列对应的第二话题向量。Pooling处理具体是示例性地采用了Average Pooling进行处理，不排除也可以采用Average Pooling以外的其他池化处理方式的可能性。
另外，也可以采用多层感知器以外的其他设定的映射方式，将各隐状态输出数据映射得到输出序列对应的第二话题向量。
进一步地，所述根据所述输出序列对应的第一话题向量和第二话题向量，以及利用包含话题范围约束信息的损失函数，计算损失，具体可以包括：
计算所述输出序列对应的第二话题向量与所述输出序列对应的第一话题向量间的第一相似度；以及，计算所述输出序列对应的第二话题向量与不相关话题向量间的第二相似度，所述不相关话题向量是所述多个第一话题向量中除所述输出序列对应的第一话题向量以外的向量；将所述第一相似度和所述第二相似度代入包含话题范围约束信息的损失函数，计算损失，其中，所述话题范围约束信息为包含所述第一相似度和第二相似度对应的参数的公式。
在图3的例子中，上述的第一相似度对应的参数即为St，上述的第二相似度对应的参数即为上述的包含话题范围约束信息的损失函数即为公式二，上述的话题范围约束信息即为
需要说明的是，公式二是示例性的，基于参数St和/或也可以构造出公式二以外其他包含话题范围约束信息的损失函数。一般地，对于包含参数St和的话题范围约束信息，St越大于则在计算出的损失中，对应于该话题范围约束信息的损失部分越小。
上面为本申请实施例提供的一种对话生成方法，基于同样的发明思路，本申请实施例还提供了对应的装置，如图5所示。
图5为本申请实施例提供的对应于图1的一种对话生成装置的结构示意图，该装置可以位于图1中流程的执行主体上，包括：
训练模块501，利用包含话题范围约束信息的损失函数，对基于序列到序列的对话模型进行训练；
生成模块502，利用所述训练过的对话模型，生成对话。
可选地，所述训练模块501对基于序列到序列的对话模型进行训练前，还利用对话训练语料训练话题模型，得到多个第一话题向量，每个所述第一话题向量分别表示一个话题。
可选地，所述训练模块501利用包含话题范围约束信息的损失函数，对基于序列到序列的对话模型进行训练，具体包括：
所述训练模块501将训练序列输入基于序列到序列的对话模型进行处理，得到所述处理过程中输出的各隐状态输出数据，以及所述处理后得到的输出序列；
根据所述各隐状态输出数据，生成所述输出序列对应的第二话题向量；以及，
将所述输出序列输入所述训练过的话题模型进行处理，得到在所述多个第一话题向量中，所述输出序列对应的第一话题向量；
根据所述输出序列对应的第一话题向量和第二话题向量，以及利用包含话题范围约束信息的损失函数，计算损失；
根据所述损失，对所述对话模型进行调整。
可选地，所述训练模块501根据所述各隐状态输出数据，生成所述输出序列对应的第二话题向量，具体包括：
所述训练模块501对所述各隐状态输出数据进行池化Pooling处理；
通过将所述Pooling处理后得到的数据输入多层感知器进行处理，生成所述输出序列对应的第二话题向量。
可选地，所述训练模块501根据所述输出序列对应的第一话题向量和第二话题向量，以及利用包含话题范围约束信息的损失函数，计算损失，具体包括：
所述训练模块501计算所述输出序列对应的第二话题向量与所述输出序列对应的第一话题向量间的第一相似度；以及，
计算所述输出序列对应的第二话题向量与不相关话题向量间的第二相似度，所述不相关话题向量是所述多个第一话题向量中除所述输出序列对应的第一话题向量以外的向量；
将所述第一相似度和所述第二相似度代入包含话题范围约束信息的损失函数，计算损失，其中，所述话题范围约束信息为包含所述第一相似度和第二相似度对应的参数的公式。
基于同样的发明思路，本申请实施例还提供了对应的一种电子设备，包括：
至少一个处理器；以及，
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够：
利用包含话题范围约束信息的损失函数，对基于序列到序列的对话模型进行训练；
利用所述训练过的对话模型，生成对话。
基于同样的发明思路，本申请实施例还提供了对应的一种非易失性计算机存储介质，存储有计算机可执行指令，所述计算机可执行指令设置为：
利用包含话题范围约束信息的损失函数，对基于序列到序列的对话模型进行训练；
利用所述训练过的对话模型，生成对话。
本说明书中的各个实施例均采用递进的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于装置、电子设备、非易失性计算机存储介质实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。
本申请实施例提供的装置、电子设备、非易失性计算机存储介质与方法是对应的，因此，装置、电子设备、非易失性计算机存储介质也具有与对应方法类似的有益技术效果，由于上面已经对方法的有益技术效果进行了详细说明，因此，这里不再赘述对应装置、电子设备、非易失性计算机存储介质的有益技术效果。
在20世纪90年代，对于一个技术的改进可以很明显地区分是硬件上的改进(例如，对二极管、晶体管、开关等电路结构的改进)还是软件上的改进(对于方法流程的改进)。然而，随着技术的发展，当今的很多方法流程的改进已经可以视为硬件电路结构的直接改进。设计人员几乎都通过将改进的方法流程编程到硬件电路中来得到相应的硬件电路结构。因此，不能说一个方法流程的改进就不能用硬件实体模块来实现。例如，可编程逻辑器件(Programmable Logic Device,PLD)(例如现场可编程门阵列(Field Programmable GateArray，FPGA))就是这样一种集成电路，其逻辑功能由用户对器件编程来确定。由设计人员自行编程来把一个数字系统“集成”在一片PLD上，而不需要请芯片制造厂商来设计和制作专用的集成电路芯片。而且，如今，取代手工地制作集成电路芯片，这种编程也多半改用“逻辑编译器(logic compiler)”软件来实现，它与程序开发撰写时所用的软件编译器相类似，而要编译之前的原始代码也得用特定的编程语言来撰写，此称之为硬件描述语言(Hardware Description Language，HDL)，而HDL也并非仅有一种，而是有许多种，如ABEL(Advanced Boolean Expression Language)、AHDL(Altera Hardware DescriptionLanguage)、Confluence、CUPL(Cornell University Programming Language)、HDCal、JHDL(Java Hardware Description Language)、Lava、Lola、MyHDL、PALASM、RHDL(RubyHardware Description Language)等，目前最普遍使用的是VHDL(Very-High-SpeedIntegrated Circuit Hardware Description Language)与Verilog。本领域技术人员也应该清楚，只需要将方法流程用上述几种硬件描述语言稍作逻辑编程并编程到集成电路中，就可以很容易得到实现该逻辑方法流程的硬件电路。
控制器可以按任何适当的方式实现，例如，控制器可以采取例如微处理器或处理器以及存储可由该(微)处理器执行的计算机可读程序代码(例如软件或固件)的计算机可读介质、逻辑门、开关、专用集成电路(Application Specific Integrated Circuit，ASIC)、可编程逻辑控制器和嵌入微控制器的形式，控制器的例子包括但不限于以下微控制器：ARC 625D、Atmel AT91SAM、Microchip PIC18F26K20以及Silicone Labs C8051F320，存储器控制器还可以被实现为存储器的控制逻辑的一部分。本领域技术人员也知道，除了以纯计算机可读程序代码方式实现控制器以外，完全可以通过将方法步骤进行逻辑编程来使得控制器以逻辑门、开关、专用集成电路、可编程逻辑控制器和嵌入微控制器等的形式来实现相同功能。因此这种控制器可以被认为是一种硬件部件，而对其内包括的用于实现各种功能的装置也可以视为硬件部件内的结构。或者甚至，可以将用于实现各种功能的装置视为既可以是实现方法的软件模块又可以是硬件部件内的结构。
上述实施例阐明的系统、装置、模块或单元，具体可以由计算机芯片或实体实现，或者由具有某种功能的产品来实现。一种典型的实现设备为计算机。具体的，计算机例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。
为了描述的方便，描述以上装置时以功能分为各种单元分别描述。当然，在实施本申请时可以把各单元的功能在同一个或多个软件和/或硬件中实现。
本领域内的技术人员应明白，本发明的实施例可提供为方法、系统、或计算机程序产品。因此，本发明可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中，计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器，随机存取存储器(RAM)和/或非易失性内存等形式，如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带，磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。按照本文中的界定，计算机可读介质不包括暂存电脑可读媒体(transitory media)，如调制的数据信号和载波。
还需要说明的是，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。
本申请可以在由计算机执行的计算机可执行指令的一般上下文中描述，例如程序模块。一般地，程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本申请，在这些分布式计算环境中，由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中，程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
本说明书中的各个实施例均采用递进的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于系统实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。
以上所述仅为本申请的实施例而已，并不用于限制本申请。对于本领域技术人员来说，本申请可以有各种更改和变化。凡在本申请的精神和原理之内所作的任何修改、等同替换、改进等，均应包含在本申请的权利要求范围之内。

Claims (11)

1.一种对话生成方法，包括：
利用包含话题范围约束信息的损失函数，对基于序列到序列的对话模型进行训练；
利用所述训练过的对话模型，生成对话。
2.如权利要求1所述的方法，所述对基于序列到序列的对话模型进行训练前，所述方法还包括：
利用对话训练语料训练话题模型，得到多个第一话题向量，每个所述第一话题向量分别表示一个话题。
3.如权利要求2所述的方法，所述利用包含话题范围约束信息的损失函数，对基于序列到序列的对话模型进行训练，具体包括：
将训练序列输入基于序列到序列的对话模型进行处理，得到所述处理过程中输出的各隐状态输出数据，以及所述处理后得到的输出序列；
根据所述各隐状态输出数据，生成所述输出序列对应的第二话题向量；以及，
将所述输出序列输入所述训练过的话题模型进行处理，得到在所述多个第一话题向量中，所述输出序列对应的第一话题向量；
根据所述输出序列对应的第一话题向量和第二话题向量，以及利用包含话题范围约束信息的损失函数，计算损失；
根据所述损失，对所述对话模型进行调整。
4.如权利要求3所述的方法，所述根据所述各隐状态输出数据，生成所述输出序列对应的第二话题向量，具体包括：
对所述各隐状态输出数据进行池化Pooling处理；
通过将所述Pooling处理后得到的数据输入多层感知器进行处理，生成所述输出序列对应的第二话题向量。
5.如权利要求3所述的方法，所述根据所述输出序列对应的第一话题向量和第二话题向量，以及利用包含话题范围约束信息的损失函数，计算损失，具体包括：
计算所述输出序列对应的第二话题向量与所述输出序列对应的第一话题向量间的第一相似度；以及，
计算所述输出序列对应的第二话题向量与不相关话题向量间的第二相似度，所述不相关话题向量是所述多个第一话题向量中除所述输出序列对应的第一话题向量以外的向量；
将所述第一相似度和所述第二相似度代入包含话题范围约束信息的损失函数，计算损失，其中，所述话题范围约束信息为包含所述第一相似度和第二相似度对应的参数的公式。
6.一种对话生成装置，包括：
训练模块，利用包含话题范围约束信息的损失函数，对基于序列到序列的对话模型进行训练；
生成模块，利用所述训练过的对话模型，生成对话。
7.如权利要求6所述的装置，所述训练模块对基于序列到序列的对话模型进行训练前，还利用对话训练语料训练话题模型，得到多个第一话题向量，每个所述第一话题向量分别表示一个话题。
8.如权利要求7所述的装置，所述训练模块利用包含话题范围约束信息的损失函数，对基于序列到序列的对话模型进行训练，具体包括：
所述训练模块将训练序列输入基于序列到序列的对话模型进行处理，得到所述处理过程中输出的各隐状态输出数据，以及所述处理后得到的输出序列；
根据所述各隐状态输出数据，生成所述输出序列对应的第二话题向量；以及，
将所述输出序列输入所述训练过的话题模型进行处理，得到在所述多个第一话题向量中，所述输出序列对应的第一话题向量；
根据所述输出序列对应的第一话题向量和第二话题向量，以及利用包含话题范围约束信息的损失函数，计算损失；
根据所述损失，对所述对话模型进行调整。
9.如权利要求8所述的装置，所述训练模块根据所述各隐状态输出数据，生成所述输出序列对应的第二话题向量，具体包括：
所述训练模块对所述各隐状态输出数据进行池化Pooling处理；
通过将所述Pooling处理后得到的数据输入多层感知器进行处理，生成所述输出序列对应的第二话题向量。
10.如权利要求8所述的装置，所述训练模块根据所述输出序列对应的第一话题向量和第二话题向量，以及利用包含话题范围约束信息的损失函数，计算损失，具体包括：
所述训练模块计算所述输出序列对应的第二话题向量与所述输出序列对应的第一话题向量间的第一相似度；以及，
计算所述输出序列对应的第二话题向量与不相关话题向量间的第二相似度，所述不相关话题向量是所述多个第一话题向量中除所述输出序列对应的第一话题向量以外的向量；
将所述第一相似度和所述第二相似度代入包含话题范围约束信息的损失函数，计算损失，其中，所述话题范围约束信息为包含所述第一相似度和第二相似度对应的参数的公式。
11.一种电子设备，包括：
至少一个处理器；以及，
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够：
利用包含话题范围约束信息的损失函数，对基于序列到序列的对话模型进行训练；
利用所述训练过的对话模型，生成对话。
CN201710423859.7A 2017-06-07 2017-06-07 一种对话生成方法、装置以及电子设备 Active CN107368524B (zh)

Priority Applications (7)

Application Number Priority Date Filing Date Title
CN201710423859.7A CN107368524B (zh) 2017-06-07 2017-06-07 一种对话生成方法、装置以及电子设备
TW107109025A TW201903635A (zh) 2017-06-07 2018-03-16 對話生成方法、裝置以及電子設備
SG11201911535SA SG11201911535SA (en) 2017-06-07 2018-06-06 Dialog generation method, apparatus, and electronic device
PCT/CN2018/090138 WO2018223992A1 (zh) 2017-06-07 2018-06-06 一种对话生成方法、装置以及电子设备
EP18814267.3A EP3620940A4 (en) 2017-06-07 2018-06-06 DIALOG GENERATING METHOD AND DEVICE AND ELECTRONIC DEVICE
US16/704,358 US11354512B2 (en) 2017-06-07 2019-12-05 Method and device for generating dialog using trained dialog model
US16/778,995 US10747959B2 (en) 2017-06-07 2020-01-31 Dialog generation method, apparatus, and electronic device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201710423859.7A CN107368524B (zh) 2017-06-07 2017-06-07 一种对话生成方法、装置以及电子设备

Publications (2)

Publication Number Publication Date
CN107368524A true CN107368524A (zh) 2017-11-21
CN107368524B CN107368524B (zh) 2020-06-02

Family

ID=60304805

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201710423859.7A Active CN107368524B (zh) 2017-06-07 2017-06-07 一种对话生成方法、装置以及电子设备

Country Status (6)

Country Link
US (2) US11354512B2 (zh)
EP (1) EP3620940A4 (zh)
CN (1) CN107368524B (zh)
SG (1) SG11201911535SA (zh)
TW (1) TW201903635A (zh)
WO (1) WO2018223992A1 (zh)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107832310A (zh) * 2017-11-27 2018-03-23 首都师范大学 基于seq2seq模型的结构化论点生成方法及系统
CN108090509A (zh) * 2017-12-13 2018-05-29 四川大学 一种数据长度自适应的心电图分类方法
CN108509539A (zh) * 2018-03-16 2018-09-07 联想(北京)有限公司 信息处理方法电子设备
WO2018223992A1 (zh) * 2017-06-07 2018-12-13 阿里巴巴集团控股有限公司 一种对话生成方法、装置以及电子设备
WO2019174450A1 (zh) * 2018-03-15 2019-09-19 北京京东尚科信息技术有限公司 一种对话生成的方法和装置
CN110297894A (zh) * 2019-05-22 2019-10-01 同济大学 一种基于辅助网络的智能对话生成方法
WO2020063148A1 (zh) * 2018-09-29 2020-04-02 深圳追一科技有限公司 一种基于深度学习的实体抽取方法、计算机设备和存储介质
CN111985934A (zh) * 2020-07-30 2020-11-24 浙江百世技术有限公司 智能客服对话模型构建方法及应用
CN113761136A (zh) * 2020-06-02 2021-12-07 阿里巴巴集团控股有限公司 对话处理、信息处理、模型训练方法、设备及存储介质
CN115470329A (zh) * 2022-08-22 2022-12-13 北京字跳网络技术有限公司 一种对话生成方法、装置、计算机设备及存储介质

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10971142B2 (en) * 2017-10-27 2021-04-06 Baidu Usa Llc Systems and methods for robust speech recognition using generative adversarial networks
CN110008332B (zh) * 2019-02-13 2020-11-10 创新先进技术有限公司 通过强化学习提取主干词的方法及装置
CN111930916B (zh) * 2020-09-18 2021-02-05 北京百度网讯科技有限公司 对话生成方法、装置、电子设备和存储介质
CN112131368B (zh) * 2020-09-27 2024-02-09 深圳平安智慧医健科技有限公司 对话生成方法、装置、电子设备及存储介质
CN112988948B (zh) * 2021-02-05 2023-09-19 蚂蚁胜信(上海)信息技术有限公司 业务处理方法以及装置

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130325483A1 (en) * 2012-05-29 2013-12-05 GM Global Technology Operations LLC Dialogue models for vehicle occupants
CN106383815A (zh) * 2016-09-20 2017-02-08 清华大学 结合用户和产品信息的神经网络情感分析方法
CN106997375A (zh) * 2017-02-28 2017-08-01 浙江大学 基于深度学习的客服回复推荐方法

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7664644B1 (en) * 2006-06-09 2010-02-16 At&T Intellectual Property Ii, L.P. Multitask learning for spoken language understanding
US8645298B2 (en) * 2010-10-26 2014-02-04 Microsoft Corporation Topic models
US9575952B2 (en) * 2014-10-21 2017-02-21 At&T Intellectual Property I, L.P. Unsupervised topic modeling for short texts
CN105094315B (zh) * 2015-06-25 2018-03-06 百度在线网络技术（北京）有限公司 基于人工智能的人机智能聊天的方法和装置
JP6544131B2 (ja) * 2015-08-14 2019-07-17 富士ゼロックス株式会社 情報処理装置及び情報処理プログラム
US10431205B2 (en) * 2016-04-27 2019-10-01 Conduent Business Services, Llc Dialog device with dialog support generated using a mixture of language models combined using a recurrent neural network
WO2017210613A1 (en) * 2016-06-03 2017-12-07 Maluuba Inc. Natural language generation in a spoken dialogue system
US10546066B2 (en) * 2016-08-31 2020-01-28 Microsoft Technology Licensing, Llc End-to-end learning of dialogue agents for information access
US10540967B2 (en) * 2016-11-14 2020-01-21 Xerox Corporation Machine reading method for dialog state tracking
US10268679B2 (en) * 2016-12-02 2019-04-23 Microsoft Technology Licensing, Llc Joint language understanding and dialogue management using binary classification based on forward and backward recurrent neural network
CN106682734A (zh) * 2016-12-30 2017-05-17 中国科学院深圳先进技术研究院 一种提升卷积神经网络泛化能力的方法及装置
US10394954B2 (en) * 2017-02-27 2019-08-27 Intel Corporation Natural language intent and location determination method and apparatus
CN107368524B (zh) * 2017-06-07 2020-06-02 创新先进技术有限公司 一种对话生成方法、装置以及电子设备
US10503834B2 (en) * 2017-11-17 2019-12-10 Digital Genius Limited Template generation for a conversational agent

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130325483A1 (en) * 2012-05-29 2013-12-05 GM Global Technology Operations LLC Dialogue models for vehicle occupants
CN103544337A (zh) * 2012-05-29 2014-01-29 通用汽车环球科技运作有限责任公司 汽车乘员的对话模型
CN106383815A (zh) * 2016-09-20 2017-02-08 清华大学 结合用户和产品信息的神经网络情感分析方法
CN106997375A (zh) * 2017-02-28 2017-08-01 浙江大学 基于深度学习的客服回复推荐方法

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018223992A1 (zh) * 2017-06-07 2018-12-13 阿里巴巴集团控股有限公司 一种对话生成方法、装置以及电子设备
CN107832310A (zh) * 2017-11-27 2018-03-23 首都师范大学 基于seq2seq模型的结构化论点生成方法及系统
CN108090509A (zh) * 2017-12-13 2018-05-29 四川大学 一种数据长度自适应的心电图分类方法
CN108090509B (zh) * 2017-12-13 2021-10-08 四川大学 一种数据长度自适应的心电图分类方法
CN110309275A (zh) * 2018-03-15 2019-10-08 北京京东尚科信息技术有限公司 一种对话生成的方法和装置
WO2019174450A1 (zh) * 2018-03-15 2019-09-19 北京京东尚科信息技术有限公司 一种对话生成的方法和装置
CN108509539B (zh) * 2018-03-16 2021-08-17 联想(北京)有限公司 信息处理方法电子设备
CN108509539A (zh) * 2018-03-16 2018-09-07 联想(北京)有限公司 信息处理方法电子设备
WO2020063148A1 (zh) * 2018-09-29 2020-04-02 深圳追一科技有限公司 一种基于深度学习的实体抽取方法、计算机设备和存储介质
CN110297894A (zh) * 2019-05-22 2019-10-01 同济大学 一种基于辅助网络的智能对话生成方法
CN110297894B (zh) * 2019-05-22 2021-03-26 同济大学 一种基于辅助网络的智能对话生成方法
CN113761136A (zh) * 2020-06-02 2021-12-07 阿里巴巴集团控股有限公司 对话处理、信息处理、模型训练方法、设备及存储介质
CN111985934A (zh) * 2020-07-30 2020-11-24 浙江百世技术有限公司 智能客服对话模型构建方法及应用
CN111985934B (zh) * 2020-07-30 2024-07-12 浙江百世技术有限公司 智能客服对话模型构建方法及应用
CN115470329A (zh) * 2022-08-22 2022-12-13 北京字跳网络技术有限公司 一种对话生成方法、装置、计算机设备及存储介质

Also Published As

Publication number Publication date
SG11201911535SA (en) 2020-01-30
CN107368524B (zh) 2020-06-02
US10747959B2 (en) 2020-08-18
EP3620940A1 (en) 2020-03-11
EP3620940A4 (en) 2020-04-08
TW201903635A (zh) 2019-01-16
WO2018223992A1 (zh) 2018-12-13
US20200167528A1 (en) 2020-05-28
US11354512B2 (en) 2022-06-07
US20200110916A1 (en) 2020-04-09

Similar Documents

Publication Publication Date Title
CN107368524B (zh) 一种对话生成方法、装置以及电子设备
CN108170667B (zh) 词向量处理方法、装置以及设备
CN109219812B (zh) 口语对话系统中的自然语言生成
CN107358951A (zh) 一种语音唤醒方法、装置以及电子设备
JP7300435B2 (ja) 音声インタラクションするための方法、装置、電子機器、およびコンピュータ読み取り可能な記憶媒体
US10984793B2 (en) Voice interaction method and device
CN110457449B (zh) 在线训练模型的方法、装置、设备及存储介质
CN109543165B (zh) 基于循环卷积注意力模型的文本生成方法及装置
CN111831798A (zh) 信息处理方法、装置、电子设备及计算机可读存储介质
CN113569017B (zh) 一种模型处理方法、装置、电子设备及存储介质
CN110119505A (zh) 词向量生成方法、装置以及设备
CN116415596A (zh) 一种基于情绪策略匹配的情感支持人机对话方法及系统
CN113742541A (zh) 对话方法、装置、电子设备及计算机可读存储介质
CN111353035A (zh) 人机对话方法、装置、可读存储介质及电子设备
CN109241262B (zh) 基于关键词生成回复语句的方法及装置
CN111651988B (zh) 用于训练模型的方法、装置、设备以及存储介质
CN107577658A (zh) 词向量处理方法、装置以及电子设备
CN114154481A (zh) 一种语句复述方法和语句复述装置
CN110909142A (zh) 一种问答模型的问题语句处理方法、装置、电子设备及存储介质
CN115640392B (zh) 一种对话系统优化的方法、装置、存储介质及电子设备
CN107577659A (zh) 词向量处理方法、装置以及电子设备
CN116501852B (zh) 一种可控对话模型训练方法、装置、存储介质及电子设备
Kumari et al. TERRABOT—A Multitasking AI
CN111368537B (zh) 句子相似度确定方法及系统
CN113343716B (zh) 一种多语种翻译方法、装置、存储介质及设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
TA01 Transfer of patent application right

Effective date of registration: 20191204

Address after: P.O. Box 31119, grand exhibition hall, hibiscus street, 802 West Bay Road, Grand Cayman, ky1-1205, Cayman Islands

Applicant after: Innovative advanced technology Co., Ltd

Address before: A four-storey 847 mailbox in Grand Cayman Capital Building, British Cayman Islands

Applicant before: Alibaba Group Holding Co., Ltd.

TA01 Transfer of patent application right
GR01 Patent grant
GR01 Patent grant