CN112580369B - 语句复述方法、训练语句复述模型的方法及其装置 - Google Patents

语句复述方法、训练语句复述模型的方法及其装置 Download PDF

Info

Publication number
CN112580369B
CN112580369B CN201910925762.5A CN201910925762A CN112580369B CN 112580369 B CN112580369 B CN 112580369B CN 201910925762 A CN201910925762 A CN 201910925762A CN 112580369 B CN112580369 B CN 112580369B
Authority
CN
China
Prior art keywords
sentence
repeating
generators
compound
compound sentence
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910925762.5A
Other languages
English (en)
Other versions
CN112580369A (zh
Inventor
钱利华
郭寅鹏
邱霖
张伟楠
蒋欣
俞勇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Huawei Technologies Co Ltd
Original Assignee
Huawei Technologies Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Huawei Technologies Co Ltd filed Critical Huawei Technologies Co Ltd
Priority to CN201910925762.5A priority Critical patent/CN112580369B/zh
Priority to PCT/CN2020/117633 priority patent/WO2021057884A1/zh
Publication of CN112580369A publication Critical patent/CN112580369A/zh
Priority to US17/701,775 priority patent/US20220215159A1/en
Application granted granted Critical
Publication of CN112580369B publication Critical patent/CN112580369B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/10—Text processing
    • G06F40/166—Editing, e.g. inserting or deleting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/30—Semantic analysis
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/20—Natural language analysis
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/20—Natural language analysis
    • G06F40/237—Lexical tools
    • G06F40/247—Thesauruses; Synonyms
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/40—Processing or translation of natural language
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/40—Processing or translation of natural language
    • G06F40/55—Rule-based translation
    • G06F40/56—Natural language generation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/047—Probabilistic or stochastic networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/084—Backpropagation, e.g. using gradient descent
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/044—Recurrent networks, e.g. Hopfield networks

Abstract

本申请涉及人工智能领域中的自然语言处理技术，提供了语句复述方法、训练语句复述模型的方法及其装置。该方法包括：获取输入语句；通过语句复述模型，对所述输入语句进行复述，生成多个候选复述语句；确定所述多个候选复述语句中的每一个候选复述语句与所述输入语句的相似度，得到与所述输入语句的相似度大于或等于预设阈值的输出语句；其中，所述语句复述模型中的多个复述语句生成器中的每一个包括一个神经网络，所述多个复述语句生成器是将来源信息和相似度信息作为第一奖励训练后得到的，所述复述语句是使用所述多个复述语句生成器对所述训练语句进行复述后得到的。本申请实施例中的语句复述方法，能够提高复述语句的多样性和复述语句的质量。

Description

语句复述方法、训练语句复述模型的方法及其装置
技术领域
本申请涉及人工智能领域，并且更具体地，涉及语句复述方法、训练语句复述模型的方法及其装置。
背景技术
人工智能(artificial intelligence,AI)是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。换句话说，人工智能是计算机科学的一个分支，它企图了解智能的实质，并生产出一种新的能以人类智能相似的方式作出反应的智能机器。人工智能也就是研究各种智能机器的设计原理与实现方法，使机器具有感知、推理与决策的功能。
随着人工智能技术的不断发展，让人机之间能够通过自然语言进行交互的自然语言人机交互系统变的越来越重要。人机之间能够通过自然语言进行交互，就需要系统能够识别出人类自然语言的具体含义。通常，系统通过采用对自然语言的句子进行关键信息提取来识别句子的具体含义。
复述(paraphrase)是指对于语句进行相同语义的不同表达，复述在自然语言中非常普遍，在自然语言处理(natural language processing，NLP)领域里，复述也得到了越来越广泛的应用。因此，如何提高复述语句的多样性和复述语句的质量，成为一个亟需解决的技术问题。
发明内容
本申请提供一种语句复述方法、训练语句复述模型的方法及其装置，能够提高复述语句的多样性和复述语句的质量。
第一方面，提供了一种语句复述方法，该方法包括：获取输入语句；通过语句复述模型，对所述输入语句进行复述，生成多个候选复述语句；确定所述多个候选复述语句中的每一个候选复述语句与所述输入语句的相似度，得到与所述输入语句的相似度最高高于大于或等于预设阈值的输出语句；其中，所述语句复述模型包括预设的多个复述语句生成器，所述多个复述语句生成器中的每一个包括一个神经网络，所述多个复述语句生成器中的一个或多个是使用强化学习方法、将来源信息和相似度信息作为第一奖励训练后得到的，所述来源信息用于指示训练语句的复述语句由所述多个复述语句生成器中每一个复述语句生成器生成的概率，所述相似度信息用于指示所述复述语句与所述训练语句的相似度，所述复述语句是使用所述多个复述语句生成器对所述训练语句进行复述后得到的。
在本申请实施例中，所述多个复述语句生成器中的一个或多个是将来源信息和相似度信息作为奖励训练后得到的，所述来源信息用于指示训练语句的复述语句由每一个复述语句生成器生成的概率，所述相似度信息用于指示所述复述语句与所述训练语句的相似度，使用该方法训练后得到的语句复述模型可以同时兼顾复述语句的质量和复述语句的多样性，因此，能够提高复述语句的多样性和复述语句的质量。
进一步地，本申请实施例中的语句复述模型中包括多个复述语句生成器，其中的每个复述语句生成器都可以生成高质量的复述语句，因此，该语句复述模型中的多个复述语句生成器可以灵活地应用在机器翻译、自动问答系统及信息检索等领域。
可选地，所述训练语句(或所述输入语句)可以为词汇、短语或句子，同时，所述训练语句也可以为各种语言，本申请实施例对此并不限定。
可选地，所述复述语句可以为词汇、短语或句子，同时，所述复述语句也可以为各种语言，本申请实施例对此并不限定。
结合第一方面，在第一方面的某些实现方式中，所述多个复述语句生成器中的每个复述语句生成器是基于将所述复述语句由所述每个复述语句生成器生成的概率和所述相似度信息作为第一奖励训练后得到的。
在本申请实施例中，将所述多个复述语句生成器中的每个复述语句生成器生成所述复述语句的概率和相似度信息作为奖励训练该复述语句生成器，可以使该复述语句生成器在保证复述语句的质量的同时，确保复述语句的多样性，因此，能够提高复述语句的多样性和复述语句的质量。
结合第一方面，在第一方面的某些实现方式中，对于第一复述语句生成器，所述第一复述语句生成器的第二奖励大于所述第一复述语句生成器的第一奖励，所述第一复述语句生成器的第二奖励是根据参数调整后的所述第一复述语句生成器进行复述生成的复述语句得到的，所述第一复述语句生成器为所述多个复述语句生成器中生成所述复述语句的概率最大的复述语句生成器，所述第一复述语句生成器的参数是基于所述第一复述语句生成器的第一奖励调整的；对于所述多个复述语句生成器中除所述第一复述语句生成器以外的其他复述语句生成器，所述其他复述语句生成器的第二奖励小于所述其他复述语句生成器的第一奖励，所述其他复述语句生成器的第二奖励是根据参数调整后的所述第一复述语句生成器进行复述生成的复述语句得到的，所述其他复述语句生成器的参数是基于所述其他复述语句生成器的第一奖励调整的。
结合第一方面，在第一方面的某些实现方式中，所述语句复述模型还包括预设的相似度判别器，所述相似度判别器包括第二神经网络，所述相似度信息是通过所述相似度判别器确定的。
在本申请实施例中，使用(包括第二神经网络的)相似度判别器确定相似度信息，可以提高所述相似度信息的准确率。
结合第一方面，在第一方面的某些实现方式中，所述来源信息是通过预设的来源判别器确定的，所述来源判别器包括第三神经网络。
在本申请实施例中，使用(包括第三神经网络的)来源判别器确定来源信息，可以提高所述来源信息的准确率。
可选地，在训练所述复述语句生成器的过程中，可以将生成复述语句的复述语句生成器的编号作为该复述语句的标签，对所述来源判别器进行训练。
可以看出，上述来源判别器的训练过程为有监督的训练。
第二方面，提供了一种训练语句复述模型的方法，所述语句复述模型包括预设的多个复述语句生成器，所述多个复述语句生成器中的每一个包括一个神经网络，所述方法包括：获取训练语句；通过所述多个复述语句生成器，对所述训练语句进行复述，生成复述语句；确定所述复述语句的来源信息，所述来源信息用于指示所述复述语句由所述多个复述语句生成器中每一个复述语句生成器生成的概率；确定所述复述语句与所述训练语句的相似度信息，所述相似度信息用于指示所述复述语句与所述训练语句的相似度；使用强化学习方法，将所述来源信息和所述相似度信息作为第一奖励，调整所述多个复述语句生成器中的一个或多个的参数。
在本申请实施例中，所述多个复述语句生成器中的一个或多个是将来源信息和相似度信息作为奖励训练后得到的，所述来源信息用于指示训练语句的复述语句由每一个复述语句生成器生成的概率，所述相似度信息用于指示所述复述语句与所述训练语句的相似度，使用该方法训练后得到的语句复述模型可以同时兼顾复述语句的质量和复述语句的多样性，因此，能够提高复述语句的多样性和复述语句的质量。
进一步地，本申请实施例中的语句复述模型中包括多个复述语句生成器，其中的每个复述语句生成器都可以生成高质量的复述语句，因此，该语句复述模型中的多个复述语句生成器可以灵活地应用在机器翻译、自动问答系统及信息检索等领域。
可选地，所述训练语句(或所述输入语句)可以为词汇、短语或句子，同时，所述训练语句也可以为各种语言，本申请实施例对此并不限定。
可选地，所述复述语句可以为词汇、短语或句子，同时，所述复述语句也可以为各种语言，本申请实施例对此并不限定。
结合第二方面，在第二方面的某些实现方式中，所述将所述来源信息和所述相似度信息作为第一奖励，调整所述多个复述语句生成器的参数，包括：将所述复述语句由所述多个复述语句生成器中的每个复述语句生成器生成的概率和所述相似度信息作为所述每个复述语句生成器的第一奖励，调整所述每个复述语句生成器的参数。
在本申请实施例中，将每个复述语句生成器生成所述复述语句的概率和相似度信息作为奖励训练该复述语句生成器，可以使该复述语句生成器在保证复述语句的质量的同时，确保复述语句的多样性，因此，能够提高复述语句的多样性和复述语句的质量。
结合第二方面，在第二方面的某些实现方式中，所述将所述复述语句由所述多个复述语句生成器中的每个复述语句生成器生成的概率和所述相似度信息作为所述每个复述语句生成器的第一奖励，调整所述每个复述语句生成器的参数，包括：调整第一复述语句生成器的参数，以使得所述第一复述语句生成器的第二奖励大于所述第一复述语句生成器的第一奖励，所述第一复述语句生成器的第二奖励是根据参数调整后的所述第一复述语句生成器进行复述生成的复述语句得到的，所述第一复述语句生成器为所述多个复述语句生成器中生成所述复述语句的概率最大的复述语句生成器；调整所述多个复述语句生成器中除所述第一复述语句生成器以外的其他复述语句生成器的参数，以使得所述其他复述语句生成器的第二奖励小于所述其他复述语句生成器的第一奖励，所述其他复述语句生成器的第二奖励是根据参数调整后的所述第一复述语句生成器进行复述生成的复述语句得到的。
结合第二方面，在第二方面的某些实现方式中，所述语句复述模型还包括预设的相似度判别器，所述相似度判别器包括第二神经网络；其中，所述确定所述复述语句与所述训练语句的相似度信息，包括：通过所述相似度判别器，确定所述复述语句与所述训练语句的相似度信息。
在本申请实施例中，使用(包括第二神经网络的)相似度判别器确定相似度信息，可以提高所述相似度信息的准确率。
结合第二方面，在第二方面的某些实现方式中，所述确定所述复述语句的来源信息，包括：通过预设的来源判别器，确定所述复述语句的来源信息，所述来源判别器包括第三神经网络。
在本申请实施例中，使用(包括第三神经网络的)来源判别器确定来源信息，可以提高所述来源信息的准确率。
可选地，在训练所述复述语句生成器的过程中，可以将生成复述语句的复述语句生成器的编号作为该复述语句的标签，对所述来源判别器进行训练。
可以看出，上述来源判别器的训练过程为有监督的训练。
第三方面，提供了一种语句复述装置，包括：获取模块，用于获取输入语句；复述模块，用于通过语句复述模型，对所述输入语句进行复述，生成多个候选复述语句；确定模块，用于确定所述多个候选复述语句中的每一个候选复述语句与所述输入语句的相似度，得到与所述输入语句的相似度大于或等于预设阈值的输出语句；其中，所述语句复述模型包括预设的多个复述语句生成器，所述多个复述语句生成器中的每一个包括一个神经网络，所述多个复述语句生成器中的一个或多个是使用强化学习方法、将来源信息和相似度信息作为第一奖励训练后得到的，所述来源信息用于指示训练语句的复述语句由所述多个复述语句生成器中每一个复述语句生成器生成的概率，所述相似度信息用于指示所述复述语句与所述训练语句的相似度，所述复述语句是使用所述多个复述语句生成器对所述训练语句进行复述后得到的。
在本申请实施例中，所述多个复述语句生成器中的一个或多个是将来源信息和相似度信息作为奖励训练后得到的，所述来源信息用于指示训练语句的复述语句由每一个复述语句生成器生成的概率，所述相似度信息用于指示所述复述语句与所述训练语句的相似度，使用该方法训练后得到的语句复述模型可以同时兼顾复述语句的质量和复述语句的多样性，因此，能够提高复述语句的多样性和复述语句的质量。
进一步地，本申请实施例中的语句复述模型中包括多个复述语句生成器，其中的每个复述语句生成器都可以生成高质量的复述语句，因此，该语句复述模型中的多个复述语句生成器可以灵活地应用在机器翻译、自动问答系统及信息检索等领域。
可选地，所述训练语句(或所述输入语句)可以为词汇、短语或句子，同时，所述训练语句也可以为各种语言，本申请实施例对此并不限定。
可选地，所述复述语句可以为词汇、短语或句子，同时，所述复述语句也可以为各种语言，本申请实施例对此并不限定。
结合第三方面，在第三方面的某些实现方式中，所述多个复述语句生成器中的每个复述语句生成器是基于将所述复述语句由所述每个复述语句生成器生成的概率和所述相似度信息作为第一奖励训练后得到的。
在本申请实施例中，将每个复述语句生成器生成所述复述语句的概率和相似度信息作为奖励训练该复述语句生成器，可以使该复述语句生成器在保证复述语句的质量的同时，确保复述语句的多样性，因此，能够提高复述语句的多样性和复述语句的质量。
结合第三方面，在第三方面的某些实现方式中，对于第一复述语句生成器，所述第一复述语句生成器的第二奖励大于所述第一复述语句生成器的第一奖励，所述第一复述语句生成器的第二奖励是根据参数调整后的所述第一复述语句生成器进行复述生成的复述语句得到的，所述第一复述语句生成器为所述多个复述语句生成器中生成所述复述语句的概率最大的复述语句生成器，所述第一复述语句生成器的参数是基于所述第一复述语句生成器的第一奖励调整的；对于所述多个复述语句生成器中除所述第一复述语句生成器以外的其他复述语句生成器，所述其他复述语句生成器的第二奖励小于所述其他复述语句生成器的第一奖励，所述其他复述语句生成器的第二奖励是根据参数调整后的所述第一复述语句生成器进行复述生成的复述语句得到的，所述其他复述语句生成器的参数是基于所述其他复述语句生成器的第一奖励调整的。
结合第三方面，在第三方面的某些实现方式中，所述语句复述装置还包括预设的相似度判别器，所述相似度判别器包括第二神经网络，所述相似度信息是通过所述相似度判别器确定的。
在本申请实施例中，使用(包括第二神经网络的)相似度判别器确定相似度信息，可以提高所述相似度信息的准确率。
结合第三方面，在第三方面的某些实现方式中，所述来源信息是通过预设的来源判别器确定的，所述来源判别器包括第三神经网络。
在本申请实施例中，使用(包括第三神经网络的)来源判别器确定来源信息，可以提高所述来源信息的准确率。
可选地，在训练所述复述语句生成器的过程中，可以将生成复述语句的复述语句生成器的编号作为该复述语句的标签，对所述来源判别器进行训练。
可以看出，上述来源判别器的训练过程为有监督的训练。
第四方面，提供了一种训练语句复述模型的装置，所述语句复述模型包括预设的多个复述语句生成器，所述多个复述语句生成器中的每一个包括一个神经网络，所述装置包括：获取模块，用于获取训练语句；复述模块，用于通过所述多个复述语句生成器，对所述训练语句进行复述，生成复述语句；来源判别模块，用于确定所述复述语句的来源信息，所述来源信息用于指示所述复述语句由所述多个复述语句生成器中每一个复述语句生成器生成的概率；相似度判别模块，用于确定所述复述语句与所述训练语句的相似度信息，所述相似度信息用于指示所述复述语句与所述训练语句的相似度；调整模块，用于使用强化学习方法，将所述来源信息和所述相似度信息作为第一奖励，调整所述多个复述语句生成器中的一个或多个的参数。
在本申请实施例中，所述多个复述语句生成器中的一个或多个是将来源信息和相似度信息作为奖励训练后得到的，所述来源信息用于指示训练语句的复述语句由每一个复述语句生成器生成的概率，所述相似度信息用于指示所述复述语句与所述训练语句的相似度，使用该方法训练后得到的语句复述模型可以同时兼顾复述语句的质量和复述语句的多样性，因此，能够提高复述语句的多样性和复述语句的质量。
进一步地，本申请实施例中的语句复述模型中包括多个复述语句生成器，其中的每个复述语句生成器都可以生成高质量的复述语句，因此，该语句复述模型中的多个复述语句生成器可以灵活地应用在机器翻译、自动问答系统及信息检索等领域。
可选地，所述训练语句(或所述输入语句)可以为词汇、短语或句子，同时，所述训练语句也可以为各种语言，本申请实施例对此并不限定。
可选地，所述复述语句可以为词汇、短语或句子，同时，所述复述语句也可以为各种语言，本申请实施例对此并不限定。
结合第四方面，在第四方面的某些实现方式中，所述调整模块具体用于：对于所述多个复述语句生成器中的每个复述语句生成器，将所述复述语句由所述多个复述语句生成器中的每个复述语句生成器生成的概率和所述相似度信息作为所述每个复述语句生成器的第一奖励，调整所述每个复述语句生成器的参数。
在本申请实施例中，将每个复述语句生成器生成所述复述语句的概率和相似度信息作为奖励训练该复述语句生成器，可以使该复述语句生成器在保证复述语句的质量的同时，确保复述语句的多样性，因此，能够提高复述语句的多样性和复述语句的质量。
结合第四方面，在第四方面的某些实现方式中，所述调整模块具体用于：调整第一复述语句生成器的参数，以使得所述第一复述语句生成器的第二奖励大于所述第一复述语句生成器的第一奖励，所述第一复述语句生成器的第二奖励是根据参数调整后的所述第一复述语句生成器进行复述生成的复述语句得到的，所述第一复述语句生成器为所述多个复述语句生成器中生成所述复述语句的概率最大的复述语句生成器；调整所述多个复述语句生成器中除所述第一复述语句生成器以外的其他复述语句生成器的参数，以使得所述其他复述语句生成器的第二奖励小于所述其他复述语句生成器的第一奖励，所述其他复述语句生成器的第二奖励是根据参数调整后的所述第一复述语句生成器进行复述生成的复述语句得到的。
结合第四方面，在第四方面的某些实现方式中，所述语句复述模型还包括预设的相似度判别器，所述相似度判别器包括第二神经网络；其中，所述确定所述复述语句与所述训练语句的相似度信息，包括：通过所述相似度判别器，确定所述复述语句与所述训练语句的相似度信息。
在本申请实施例中，使用(包括第二神经网络的)相似度判别器确定相似度信息，可以提高所述相似度信息的准确率。
结合第四方面，在第四方面的某些实现方式中，所述来源判别模块还包括预设的来源判别器，所述来源判别器具体用于：通过所述来源判别器，确定所述复述语句的来源信息，所述来源判别器包括第三神经网络。
在本申请实施例中，使用(包括第三神经网络的)来源判别器确定来源信息，可以提高所述来源信息的准确率。
可选地，在训练所述复述语句生成器的过程中，可以将生成复述语句的复述语句生成器的编号作为该复述语句的标签，对所述来源判别器进行训练。
可以看出，上述来源判别器的训练过程为有监督的训练。
第五方面，提供了一种语句复述装置，该装置包括：存储器，用于存储程序；处理器，用于执行所述存储器存储的程序，当所述存储器存储的程序被执行时，所述处理器用于执行上述第一方面中的任意一种实现方式中的方法。
第六方面，提供了一种训练语句复述模型的装置，该装置包括：存储器，用于存储程序；处理器，用于执行所述存储器存储的程序，当所述存储器存储的程序被执行时，所述处理器用于执行上述第二方面中的任意一种实现方式中的方法。
上述第五方面和第六方面中的处理器既可以是中央处理器(central processingunit，CPU)，也可以是CPU与神经网络运算处理器的组合，这里的神经网络运算处理器可以包括图形处理器(graphics processing unit，GPU)、神经网络处理器(neural-networkprocessing unit，NPU)和张量处理器(tensor processing unit，TPU)等等。其中，TPU是谷歌(google)为机器学习全定制的人工智能加速器专用集成电路。
第七方面，提供一种计算机可读介质，该计算机可读介质存储用于设备执行的程序代码，该程序代码包括用于执行第一方面或第二方面中的任意一种实现方式中的方法。
第八方面，提供一种包含指令的计算机程序产品，当该计算机程序产品在计算机上运行时，使得计算机执行上述第一方面或第二方面中的任意一种实现方式中的方法。
第九方面，提供一种芯片，所述芯片包括处理器与数据接口，所述处理器通过所述数据接口读取存储器上存储的指令，执行上述第一方面或第二方面中的任意一种实现方式中的方法。
可选地，作为一种实现方式，所述芯片还可以包括存储器，所述存储器中存储有指令，所述处理器用于执行所述存储器上存储的指令，当所述指令被执行时，所述处理器用于执行第一方面或第二方面中的任意一种实现方式中的方法。
上述芯片具体可以是现场可编程门阵列(field－programmable gate array，FPGA)或者专用集成电路(application-specific integrated circuit，ASIC)。
第十方面，提供了一种电子设备，该电子设备包括上述第三方面中的任意一个方面中的语句复述装置，或者，该电子设备包括上述第四方面中的任意一个方面中的训练语句复述装置的装置。
当上述电子设备包括上述第三方面中的任意一个方面中的语句复述装置时，该电子设备具体可以是终端设备。
当上述电子设备包括上述第四方面中的任意一个方面中的训练语句复述装置的装置时，该电子设备具体可以是服务器。
在本申请实施例中，所述多个复述语句生成器中的一个或多个是将来源信息和相似度信息作为奖励训练后得到的，所述来源信息用于指示训练语句的复述语句由每一个复述语句生成器生成的概率，所述相似度信息用于指示所述复述语句与所述训练语句的相似度，使用该方法训练后得到的语句复述模型可以同时兼顾复述语句的质量和复述语句的多样性，因此，能够提高复述语句的多样性和复述语句的质量。
附图说明
图1是本申请实施例提供的一种自然语言处理的应用场景示意图；
图2是本申请实施例提供的另一种自然语言处理的应用场景示意图；
图3是本申请实施例提供的自然语言处理的相关设备的示意图；
图4是本申请实施例提供的一种系统架构的示意图；
图5是本申请实施例提供的一种RNN模型的示意图；
图6是本申请实施例提供的一种芯片的硬件结构的示意图；
图7是本申请实施例提供的一种应用场景示意图；
图8是本申请实施例提供的训练语句复述模型的方法的示意性流程图；
图9是本申请一个实施例提供的语句复述模型的示意性流程图；
图10是本申请一个实施例提供的来源判别器的示意性流程图；
图11是本申请一个实施例提供的相似度判别器的示意性流程图；
图12是本申请实施例提供的语句复述方法的示意性流程图；
图13是本申请实施例的语句复述装置的硬件结构示意图；
图14是本申请实施例的训练语句复述模型的装置的硬件结构示意图。
具体实施方式
下面将结合附图，对本申请中的技术方案进行描述。
为了更好地理解本申请实施例的方案，下面先结合图1至图3对本申请实施例可能的应用场景进行简单的介绍。
图1示出了一种自然语言处理系统，该自然语言处理系统包括用户设备以及数据处理设备。其中，用户设备包括手机、个人电脑或者信息处理中心等智能终端。用户设备为自然语言数据处理的发起端，作为语言问答或者查询等请求的发起方，通常用户通过用户设备发起请求。
上述数据处理设备可以是云服务器、网络服务器、应用服务器以及管理服务器等具有数据处理功能的设备或服务器。
数据处理设备通过交互接口接收来自智能终端的查询语句/语音/文本等问句，再通过存储数据的存储器以及数据处理的处理器环节进行机器学习，深度学习，搜索，推理，决策等方式的语言数据处理。数据处理设备中的存储器可以是一个统称，包括本地存储以及存储历史数据的数据库，数据库可以再数据处理设备上，也可以在其它网络服务器上。
在图1所示的自然语言处理系统中，用户设备可以接收用户的指令，以请求对输入语句(例如，该输入语句可以是用户输入的一个句子)进行复述得到复述语句(例如，该复述语句可以是复述得到的、与输入语句具有相同语义的不同表达)，然后向数据处理设备发送输入语句，从而使得数据处理设备对输入语句进行复述得到复述语句。
在图1中，数据处理设备可以执行本申请实施例的语句复述方法。
复述(paraphrase)是指对输入语句进行相同语义的不同表达，例如，输入语句为“太阳到地球的距离是多少”，对该输入语句进行复述可以得到“太阳离地球有多远”、“从地球到太阳有多少公里”、“地球距离太阳多少千米”、“地球与太阳相距多大”、“地日距离是多少”等复述语句，这些复述语句都表达了与输入语句相同或相似的语义，即太阳与地球之间的距离是多少，因此，也可以说这些语句互为复述。
在本申请实施例中，复述可以包括词汇级别、短语级别及句子级别等不同层次的复述，即输入语句和复述语句均可以为语汇、短语或句子，本申请实施例对此并不限定。
例如，词汇级别的复述即通常所说的同义词，例如，词汇级别的复述可以包括：“番茄”和“西红柿”、“car”和“vehicle”。
例如，短语级别的复述可以包括：“北京大学”和“北大”、“consider”和“take…into consideration”。
例如，句子级别的复述可以包括：“A的身高是多少？”和“A有多高？”、“B plays forFC Barcelona in the Spanish Primera League.”和“B is a player of Barca in LaLiga.”。
需要说明的是，本申请实施例中并不限定输入语句的语言(或者说语种)，输入语句和复述语句可以为中文、英文、德文、法文等各种语言，本申请实施例对此并不限定。
同时，在本申请实施例中，输入语句的语言和复述语句的语言可以相同，例如，输入语句和复述语句均为中文；或者，输入语句的语言和复述语句的语言也可以不同，例如，输入语句为中文，复述语句为英文，本申请实施例对此并不限定。
图2示出了另一种自然语言处理系统，在图2中，用户设备直接作为数据处理设备，该用户设备能够直接接收来自用户的输入并直接由用户设备本身的硬件进行处理，具体过程与图1相似，可参考上面的描述，在此不再赘述。
在图2所示的自然语言处理系统中，用户设备可以接收用户的指令，由用户设备自身对输入语句进行复述得到复述语句。
在图2中，用户设备自身就可以执行本申请实施例的语句复述方法。
图3是本申请实施例提供的自然语言处理的相关设备的示意图。
上述图1和图2中的用户设备具体可以是图3中的本地设备301或者本地设备302，图1中的数据处理设备具体可以是图3中的执行设备210，其中，数据存储系统250可以存储执行设备210的待处理数据，数据存储系统250可以集成在执行设备210上，也可以设置在云上或其它网络服务器上。
图1和图2中的数据处理设备可以通过神经网络模型或者其它模型(例如，基于支持向量机的模型)进行数据训练/机器学习/深度学习，并利用数据最终训练或者学习得到的模型对输入语句进行复述得到复述语句。
由于本申请实施例涉及大量神经网络的应用，为了便于理解，下面先对本申请实施例可能涉及的神经网络的相关术语和概念进行介绍。
(1)神经网络
神经网络可以是由神经单元组成的，神经单元可以是指以xs和截距1为输入的运算单元，该运算单元的输出可以为：
Figure GDA0003804381600000091
其中，s＝1、2、……n，n为大于1的自然数，Ws为xs的权重，b为神经单元的偏置。f为神经单元的激活函数(activation functions)，用于将非线性特性引入神经网络中，来将神经单元中的输入信号转换为输出信号。该激活函数的输出信号可以作为下一层的输入，激活函数可以是sigmoid函数。神经网络是将多个上述单一的神经单元联结在一起形成的网络，即一个神经单元的输出可以是另一个神经单元的输入。每个神经单元的输入可以与前一层的局部接受域相连，来提取局部接受域的特征，局部接受域可以是由若干个神经单元组成的区域。
(2)深度神经网络
深度神经网络(deep neural network，DNN)，也称多层神经网络，可以理解为具有多层隐含层的神经网络。按照不同层的位置对DNN进行划分，DNN内部的神经网络可以分为三类：输入层，隐含层，输出层。一般来说第一层是输入层，最后一层是输出层，中间的层数都是隐含层。层与层之间是全连接的，也就是说，第i层的任意一个神经元一定与第i+1层的任意一个神经元相连。
虽然DNN看起来很复杂，但是就每一层的工作来说，其实并不复杂，简单来说就是如下线性关系表达式：
Figure GDA0003804381600000092
其中，
Figure GDA0003804381600000093
是输入向量，
Figure GDA0003804381600000094
是输出向量，
Figure GDA0003804381600000095
是偏移向量，W是权重矩阵(也称系数)，α()是激活函数。每一层仅仅是对输入向量
Figure GDA0003804381600000096
经过如此简单的操作得到输出向量
Figure GDA0003804381600000097
由于DNN层数多，系数W和偏移向量
Figure GDA0003804381600000098
的数量也比较多。这些参数在DNN中的定义如下所述：以系数W为例：假设在一个三层的DNN中，第二层的第4个神经元到第三层的第2个神经元的线性系数定义为
Figure GDA0003804381600000099
上标3代表系数W所在的层数，而下标对应的是输出的第三层索引2和输入的第二层索引4。
综上，第L-1层的第k个神经元到第L层的第j个神经元的系数定义为
Figure GDA00038043816000000910
需要注意的是，输入层是没有W参数的。在深度神经网络中，更多的隐含层让网络更能够刻画现实世界中的复杂情形。理论上而言，参数越多的模型复杂度越高，“容量”也就越大，也就意味着它能完成更复杂的学习任务。训练深度神经网络的也就是学习权重矩阵的过程，其最终目的是得到训练好的深度神经网络的所有层的权重矩阵(由很多层的向量W形成的权重矩阵)。
(3)卷积神经网络
卷积神经网络(convolutional neuron network，CNN)是一种带有卷积结构的深度神经网络。卷积神经网络包含了一个由卷积层和子采样层构成的特征抽取器，该特征抽取器可以看作是滤波器。卷积层是指卷积神经网络中对输入信号进行卷积处理的神经元层。在卷积神经网络的卷积层中，一个神经元可以只与部分邻层神经元连接。一个卷积层中，通常包含若干个特征平面，每个特征平面可以由一些矩形排列的神经单元组成。同一特征平面的神经单元共享权重，这里共享的权重就是卷积核。共享权重可以理解为提取图像信息的方式与位置无关。卷积核可以以随机大小的矩阵的形式初始化，在卷积神经网络的训练过程中卷积核可以通过学习得到合理的权重。另外，共享权重带来的直接好处是减少卷积神经网络各层之间的连接，同时又降低了过拟合的风险。
(4)循环神经网络
循环神经网络(recurrent neural networks，RNN)是用来处理序列数据的。在传统的神经网络模型中，是从输入层到隐含层再到输出层，层与层之间是全连接的，而对于每一层层内之间的各个节点是无连接的。这种普通的神经网络虽然解决了很多难题，但是却仍然对很多问题无能无力。例如，你要预测句子的下一个单词是什么，一般需要用到前面的单词，因为一个句子中前后单词并不是独立的。RNN之所以称为循环神经网路，即一个序列当前的输出与前面的输出也有关。具体的表现形式为网络会对前面的信息进行记忆并应用于当前输出的计算中，即隐含层本层之间的节点不再无连接而是有连接的，并且隐含层的输入不仅包括输入层的输出还包括上一时刻隐含层的输出。理论上，RNN能够对任何长度的序列数据进行处理。
对于RNN的训练和对传统的CNN或DNN的训练一样。同样使用误差反向传播(backpropagation，BP)算法，不过有一点区别。例如，如果将RNN进行网络展开，那么参数W,U,V是共享的，而传统神经网络却不是的。并且在使用梯度下降算法中，每一步的输出不仅依赖当前步的网络，并且还以来前面若干步网络的状态。比如，在t＝4时，还需要向后传递三步，已经后面的三步都需要加上各种的梯度。该学习算法称为基于时间的反向传播算法。
既然已经有了卷积神经网络，为什么还要循环神经网络？原因很简单，在卷积神经网络中，有一个前提假设是：元素之间是相互独立的，输入与输出也是独立的，比如猫和狗。但现实世界中，很多元素都是相互连接的，比如股票随时间的变化，再比如一个人说了：我喜欢旅游，其中最喜欢的地方是云南，以后有机会一定要去。这里填空，人类应该都知道是填“云南”。因为人类会根据上下文的内容进行推断，但如何让机器做到这一步？RNN就应运而生了。RNN旨在让机器像人一样拥有记忆的能力。因此，RNN的输出就需要依赖当前的输入信息和历史的记忆信息。
(5)损失函数
在训练深度神经网络的过程中，因为希望深度神经网络的输出尽可能的接近真正想要预测的值，所以可以通过比较当前网络的预测值和真正想要的目标值，再根据两者之间的差异情况来更新每一层神经网络的权重向量(当然，在第一次更新之前通常会有初始化的过程，即为深度神经网络中的各层预先配置参数)，比如，如果网络的预测值高了，就调整权重向量让它预测低一些，不断地调整，直到深度神经网络能够预测出真正想要的目标值或与真正想要的目标值非常接近的值。因此，就需要预先定义“如何比较预测值和目标值之间的差异”，这便是损失函数(loss function)或目标函数(objective function)，它们是用于衡量预测值和目标值的差异的重要方程。其中，以损失函数举例，损失函数的输出值(loss)越高表示差异越大，那么深度神经网络的训练就变成了尽可能缩小这个loss的过程。
(6)反向传播算法
神经网络可以采用误差反向传播(back propagation，BP)算法在训练过程中修正初始的神经网络模型中参数的大小，使得神经网络模型的重建误差损失越来越小。具体地，前向传递输入信号直至输出会产生误差损失，通过反向传播误差损失信息来更新初始的神经网络模型中参数，从而使误差损失收敛。反向传播算法是以误差损失为主导的反向传播运动，旨在得到最优的神经网络模型的参数，例如权重矩阵。
如图4所示，本申请实施例提供了一种系统架构100。在图4中，数据采集设备160用于采集训练数据，本申请实施例中训练数据包括复述语句对，即训练语句及该训练语句的复述语句。
在采集到训练数据之后，数据采集设备160将这些训练数据存入数据库130，训练设备120基于数据库130中维护的训练数据训练得到目标模型/规则101。
下面对训练设备120基于训练数据得到目标模型/规则101进行描述，训练设备120对训练语句进行处理，得到复述语句，并根据该复述语句确定目标模型/规则101的奖励(reward)，直到目标模型/规则101的奖励大于一定的阈值(和/或小于一定的阈值)，从而完成目标模型/规则101的训练。
上述目标模型/规则101能够用于实现本申请实施例的语句复述方法，即将训练语句通过相关预处理(可以采用预处理模块113和/或预处理模块114进行处理)后输入该目标模型/规则101，即可得到复述语句。本申请实施例中的目标模型/规则101具体可以为(多个)神经网络。需要说明的是，在实际的应用中，所述数据库130中维护的训练数据不一定都来自于数据采集设备160的采集，也有可能是从其他设备接收得到的。另外需要说明的是，训练设备120也不一定完全基于数据库130维护的训练数据进行目标模型/规则101的训练，也有可能从云端或其他地方获取训练数据进行模型训练，上述描述不应该作为对本申请实施例的限定。
根据训练设备120训练得到的目标模型/规则101可以应用于不同的系统或设备中，如应用于图4所示的执行设备110，所述执行设备110可以是终端，如手机终端，平板电脑，笔记本电脑，增强现实(augmented reality，AR)/虚拟现实(virtual reality，VR)，车载终端等，还可以是服务器或者云端等。在图4中，执行设备110配置输入/输出(input/output，I/O)接口112，用于与外部设备进行数据交互，用户可以通过客户设备140向I/O接口112输入数据，所述输入数据在本申请实施例中可以包括：客户设备输入的训练语句。
预处理模块113和预处理模块114用于根据I/O接口112接收到的输入数据(如训练语句)进行预处理(具体可以是对训练语句进行处理，得到词向量)，在本申请实施例中，也可以没有预处理模块113和预处理模块114(也可以只有其中的一个预处理模块)，而直接采用计算模块111对输入数据进行处理。
在执行设备110对输入数据进行预处理，或者在执行设备110的计算模块111执行计算等相关的处理过程中，执行设备110可以调用数据存储系统150中的数据、代码等以用于相应的处理，也可以将相应处理得到的数据、指令等存入数据存储系统150中。
最后，I/O接口112将处理结果，例如，复述语句反馈给客户设备140。
值得说明的是，训练设备120可以针对不同的下游系统，生成该下游系统对应的目标模型/规则101，该相应的目标模型/规则101即可以用于实现上述目标或完成上述任务，从而为用户提供所需的结果。
在图4中所示情况下，用户可以手动给定输入数据(例如，输入一段文字)，该手动给定可以通过I/O接口112提供的界面进行操作。另一种情况下，客户设备140可以自动地向I/O接口112发送输入数据(例如，输入一段文字)，如果要求客户设备140自动发送输入数据需要获得用户的授权，则用户可以在客户设备140中设置相应权限。用户可以在客户设备140查看执行设备110输出的结果，具体的呈现形式可以是显示、声音、动作等具体方式(例如，输出结果可以是复述语句)。客户设备140也可以作为数据采集端，采集如图所示输入I/O接口112的输入数据及输出I/O接口112的输出结果作为新的样本数据，并存入数据库130。当然，也可以不经过客户设备140进行采集，而是由I/O接口112直接将如图所示输入I/O接口112的输入数据及输出I/O接口112的输出结果，作为新的样本数据存入数据库130。
值得注意的是，图4仅是本申请实施例提供的一种系统架构的示意图，图中所示设备、器件、模块等之间的位置关系不构成任何限制。例如，在图4中，数据存储系统150相对执行设备110是外部存储器，在其它情况下，也可以将数据存储系统150置于执行设备110中。
如图4所示，根据训练设备120训练得到目标模型/规则101，该目标模型/规则101可以是本申请实施例中的语句复述模型，具体的，本申请实施例中的语句复述模型可以包括多个神经网络，所述多个神经网络可以包括CNN，深度卷积神经网络(deepconvolutional neural network,DCNN)，循环神经网络(recurrent neural network，RNN)等等。
由于RNN是一种常见的神经网络，下面结合图5重点对RNN的结构进行详细的介绍。
图5是本申请实施例提供的一种RNN模型的结构示意图。其中，每个圆圈可以看作是一个单元，而且每个单元做的事情也是一样的，因此可以折叠成左半图的样子。用一句话解释RNN，就是一个单元结构的重复使用。
RNN是一个序列到序列(sequence to sequence，seq2seq)的模型，假设xt-1,xt,xt+1是一个输入：“我是中国”，那么ot-1,ot就应该对应“是”，“中国”这两个，预测下一个词最有可能是什么？就是ot+1应该是“人”的概率比较大。
因此，我们可以做这样的定义：
xt：表示t时刻的输入，ot：表示t时刻的输出，st：表示t时刻的记忆。因为当前时刻的输出是由记忆和当前时刻的输出决定的，就像你现在大四，你的知识是由大四学到的知识(当前输入)和大三以及大三以前学到的东西的(记忆)的结合，RNN在这点上也类似，神经网络最擅长做的就是通过一系列参数把很多内容整合到一起，然后学习这个参数，因此就定义了RNN的基础：
st＝f(U*xt+W*st-1)
f()函数是神经网络中的激活函数，但为什么要加上它呢？举个例子，假如在大学学了非常好的解题方法，那初中那时候的解题方法还要用吗？显然是不用了的。RNN的想法也一样，既然能记忆了，那当然是只记重要的信息，其他不重要的，就肯定会忘记。但是在神经网络中什么最适合过滤信息呀？肯定是激活函数，因此在这里就套用一个激活函数，来做一个非线性映射，来过滤信息，这个激活函数可能为tanh或ReLU，也可为其他。
假设大四快毕业了，要参加考研，请问参加考研是不是先记住你学过的内容然后去考研，还是直接带几本书去参加考研呢？很显然嘛，那RNN的想法就是预测的时候带着当前时刻的记忆st去预测。假如你要预测“我是中国“的下一个词出现的概率，这里已经很显然了，运用softmax来预测每个词出现的概率再合适不过了，但预测不能直接带用一个矩阵来预测，所有预测的时候还要带一个权重矩阵V，用公式表示为：
ot＝softmax(V*st)
其中，ot就表示时刻t的输出。
需要说明的是，如图5所示的RNN仅作为一种循环神经网络的示例，在具体的应用中，循环神经网络还可以以其他网络模型的形式存在。
图6为本申请实施例提供的一种芯片的硬件结构的示意图。该芯片包括神经网络处理器(neural processing unit，NPU)50。该芯片可以被设置在如图4所示的执行设备110中，用以完成计算模块111的计算工作。该芯片也可以被设置在如图4所示的训练设备120中，用以完成训练设备120的训练工作并输出目标模型/规则101。如图5所示的循环神经网络中的算法可在如图6所示的芯片中得以实现，或者，本申请实施例中的语句复述模型可在如图6所示的芯片中得以实现。
本申请实施例的语句复述方法的具体可以在NPU 50中的运算电路503和/或向量计算单元507中执行，从而得到复述语句。
下面对NPU 50中的各个模块和单元进行简单的介绍。
NPU 50作为协处理器可以挂载到主CPU(host CPU)上，由主CPU分配任务。NPU50的核心部分为运算电路503，在NPU 50工作时，NPU 50中的控制器504可以控制运算电路503提取存储器(权重存储器或输入存储器)中的数据并进行运算。
在一些实现中，运算电路503内部包括多个处理单元(process engine,PE)。在一些实现中，运算电路503是二维脉动阵列。运算电路503还可以是一维脉动阵列或者能够执行例如乘法和加法这样的数学运算的其它电子线路。在一些实现中，运算电路503是通用的矩阵处理器。
举例来说，假设有输入矩阵A，权重矩阵B，输出矩阵C。运算电路从权重存储器502中取矩阵B相应的数据，并缓存在运算电路中每一个PE上。运算电路从输入存储器501中取矩阵A数据与矩阵B进行矩阵运算，得到的矩阵的部分结果或最终结果，保存在累加器(accumulator)508中。
向量计算单元507可以对运算电路的输出做进一步处理，如向量乘，向量加，指数运算，对数运算，大小比较等等。例如，向量计算单元507可以用于神经网络中非卷积/非全连接层(fully connected layers，FC)层的网络计算，如池化(pooling)，批归一化(batchnormalization)，局部响应归一化(local response normalization)等。
在一些实现种，向量计算单元507能将经处理的输出的向量存储到统一缓存器506。例如，向量计算单元507可以将非线性函数应用到运算电路503的输出，例如累加值的向量，用以生成激活值。在一些实现中，向量计算单元507生成归一化的值、合并值，或二者均有。在一些实现中，处理过的输出的向量能够用作到运算电路503的激活输入，例如用于在神经网络中的后续层中的使用。
统一存储器506用于存放输入数据以及输出数据。
权重数据直接通过存储单元访问控制器505(direct memory accesscontroller，DMAC)将外部存储器中的输入数据搬运到输入存储器501和/或统一存储器506、将外部存储器中的权重数据存入权重存储器502，以及将统一存储器506中的数据存入外部存储器。
总线接口单元(bus interface unit，BIU)510，用于通过总线实现主CPU、DMAC和取指存储器509之间进行交互。
与控制器504连接的取指存储器(instruction fetch buffer)509，用于存储控制器504使用的指令；
控制器504，用于调用指存储器509中缓存的指令，实现控制该运算加速器的工作过程。
一般地，统一存储器506，输入存储器501，权重存储器502以及取指存储器509均可以为片上(on-chip)存储器。NPU的外部存储器可以为该NPU外部的存储器，该外部存储器可以为双倍数据率同步动态随机存储器(double data rate synchronous dynamic randomaccess memory，DDR SDRAM)、高带宽存储器(high bandwidth memory，HBM)或其他可读可写的存储器。
下面结合附图对本申请实施例的语句复述方法进行详细介绍。本申请实施例的语句复述方法可以由图1中的数据处理设备、图2中的用户设备、图3中的执行设备210以及图4中的执行设备110等设备执行，图4中的执行设备110可以包括图5所示的RNN模型和图6所示的芯片。
本申请实施例提供的语句复述方法可以在服务器上被执行，也可以在云端被执行，还可以在终端设备上被执行。以终端设备为例，如图7所示，本发明实施例的技术方案可以应用于终端设备，本申请实施例中的语句复述方法可以对输入语句进行复述，得到该输入语句的复述语句。该终端设备可以为移动的或固定的，例如该终端设备可以是具有自然语言处理功能的移动电话、平板个人电脑(tablet personal computer，TPC)、媒体播放器、智能电视、笔记本电脑(laptop computer，LC)、个人数字助理(personal digitalassistant，PDA)、个人计算机(personal computer，PC)、照相机、摄像机、智能手表、可穿戴式设备(wearable device，WD)或者自动驾驶的车辆等，本发明实施例对此不作限定。
复述(paraphrase)是指对于语句进行相同语义的不同表达，复述在自然语言中非常普遍，在自然语言处理(natural language processing，NLP)领域里，复述也得到了越来越广泛的应用。例如，复述可以应用于以下多个领域中。
(1)机器翻译
在机器翻译中，可以使用复述技术，对待翻译语句进行同义改写，以生成更容易翻译的语句。例如，将灵活而不规范的口语复述为规范的句子，从而使翻译得到更好的结果；再例如，复述技术也可以缓解机器翻译系统数据稀疏的问题，即通过复述生成增加翻译的训练语料；此外，复述技术也被用于改进机器翻译的评价。
(2)自动问答系统
在问答系统中，可以使用复述技术对问句进行同义扩展，即生成与原问句意义相同的多个问句，从而解决相同问题不同表达的问题，提升问答系统的召回率。例如，可以对用户提交给问答系统的问题进行在线改写，然后都提交给问答系统召回结果；或者，也可以对知识库中的部分文本内容进行复述扩展，并加入知识库。
(3)信息抽取
复述技术能够为抽取系统自动生成大量的抽取模板，从而提高抽取系统的性能。
(4)信息检索
与问答系统中的应用类似，复述技术可以用来对查询词进行改写和扩展，从而优化信息检索的质量。
(5)自动摘要
在自动摘要任务中，复述技术可以用来计算句子的相似度，从而更好的进行句子聚类、选择等；其次，与机器翻译中的应用类似，复述技术可以改进自动摘要的评价。
需要说明的是，本申请实施例中的语句复述方法在上述各领域中均可以应用。
在自然语言处理中，复述主要包括两类任务，复述的质量(quality)和复述的多样性(diversity)。
复述的质量是指：生成的复述语句是否流畅，并与输入语句保持语义一致。例如，输入语句为“太阳到地球的距离是多少”，生成的复述语句为“地球与太阳相距多远”，该复述语句是流畅的、且与输入语句是同义的，则为高质量复述生成。若生成的复述语句为“地球的太阳是多少到距离”，则该复述语句不流畅，若生成的复述语句为“月亮到火星的距离是多少”，则该复述语句与输入语句的语义不相关，这两种复述语句均为低质量复述语句。
复述的多样性是指：生成的复述语句是否多样，并具有信息量(Informative)。例如，输入语句为“太阳到地球的距离是多少”，生成的多个复述语句分别为“地球离太阳有多远”、“日地相距多少公里”及“太阳与地球之间有多少千米”，该多个复述语句与输入语句同义、但均与输入语句为不同的表达，则该多个复述语句的多样性较佳。
但是，实际中往往很难在保证复述语句的质量的同时，确保复述语句的多样性。
基于上述问题，本申请实施例提出了一种语句复述方法、训练语句复述模型的方法，能够提高复述语句的多样性和复述语句的质量。
图8是本申请实施例提供的训练语句复述模型的方法的示意性流程图。图8所示的方法可以由图7中的终端设备执行。
在本申请实施例中，可以使用语句复述模型对输入语句(或训练语句)进行复述。其中，所述语句复述模型可以包括预设的多个复述语句生成器，所述多个复述语句生成器中的每个复述语句生成器用于生成复述语句，所述多个复述语句生成器中的每一个可以包括一个神经网络。
图8所示的方法包括步骤810、步骤820、步骤830、步骤840及步骤850，下面分别对这几个步骤进行详细的介绍。
S810，获取训练语句。
其中，所述训练语句可以为词汇、短语或句子，同时，所述训练语句也可以为各种语言，本申请实施例对此并不限定。
S820，通过所述多个复述语句生成器，对所述训练语句进行复述，生成复述语句。
其中，所述复述语句可以为词汇、短语或句子，同时，所述复述语句也可以为各种语言，本申请实施例对此并不限定。
本申请实施例中的语句复述模型中包括多个复述语句生成器，其中的每个复述语句生成器都可以生成高质量的复述语句，因此，该语句复述模型中的多个复述语句生成器可以灵活地应用在机器翻译、自动问答系统及信息检索等领域。
可选地，在S820中，使用多个复述语句生成器，对训练语句进行复述时，可以由一个复述语句生成器生成复述语句，或者，也可以由多个复述语句生成器生成多个复述语句，本申请实施例对此并不限定。
例如，可以使用多个复述语句生成器，对训练语句进行复述时，也可以由一个复述语句生成器生成一个复述语句。此时，这个复述语句生成器就可以指下述第一复述语句生成器。
或者，可以使用两个复述语句生成器同时对训练语句进行复述，生成两个复述语句。此时，这两个复述语句生成器就可以指下述第一复述语句生成器。
需要说明的是，在图8中的方法对语句复述模型进行训练的过程中，在根据所述多个复述语句生成器对所述训练语句进行复述时，可以预先知道生成复述语句的复述语句生成器的编号。
例如，在S820中，可以由所述多个复述语句生成器中的复述语句生成器G1对所述训练语句进行复述，生成复述语句。此时，可以将生成该复述语句的复述语句生成器G1的编号(如编号“1”)作为该复述语句的标签，在训练语句复述模型的同时对下述S830中的来源判别器进行训练。这样可以不断地提高所述来源信息的准确性。可以看出，所述来源判别器的训练过程为有监督的训练。
可选地，所述多个复述语句生成器可以由多个神经网络构成。
例如，所述多个复述语句生成器可以采用“编码器-解码器”架构。
可选地，所述多个神经网络可以为多个循环神经网络(recurrent neuralnetwork，RNN)，所述多个复述语句生成器可以由多个RNN基于“编码器-解码器”架构构成。可选地，所述复述语句生成器也可以由其他神经网络(如CNN)构成，本申请实施例中对此并不限定。
可选地，所述多个复述语句生成器中每个复述语句生成器均可以包括一个编码器和一个解码器。其中，一个编码器可以由一个RNN实现，一个解码器也可以由一个RNN实现。
可选地，所述多个复述语句生成器可以共享同一个编码器，所述多个复述语句生成器中的每个复述语句生成器可以拥有各自独立的解码器。
例如，如图9所示，所述语句复述模型可以包括k个复述语句生成器(如图9中所示的复述语句生成器G0，复述语句生成器G1，…复述语句生成器Gk-1共k个复述语句生成器)，其中，所述语句复述模型中的所有复述语句生成器可以共享一个编码器，每个复述语句生成器可以拥有各自独立的解码器(即G0，的解码器，…Gk-1的解码器)，k为正整数。
或者，所述多个复述语句生成器中的每个复述语句生成器都可以拥有各自独立的编码器及解码器。本申请实施例中对此并不限定。
本申请实施例中，在使用图8中的方法800训练所述语句复述模型之前，可以先预先使用复述语句对语料，预训练所述语句复述模型中的多个复述语句生成器(即预训练所述多个复述语句生成器中的多个神经网络)。
可选地，可以采用基于深度学习的序列到序列(sequence to sequence，seq2seq)模型对复述语句生成器进行预训练，具体过程如下：
例如，可以先将所述多个复述语句生成器初始化为不同的初始化状态，使用同一个复述语句对语料
Figure GDA0003804381600000171
作为训练集合，采用反向传播(backpropagation)算法，训练所述多个复述语句生成器。
其中，Xi与Yi为复述语句对(即文字序列)，如Xi为“太阳到地球的距离是多少”，Yi为“太阳离地球有多远”，i和n为正整数。
基于该平行复述语句对语料，可以训练多个复述语句生成器。所述多个复述语句生成器中的第j个复述语句生成器可以表示为：
Figure GDA0003804381600000172
其中，θj表示第j个复述语句生成器的待学习的参数，∏()表示乘积，P(Y|X；θj)表示对于给定的输入序列X(X即输入语句)，可以通过该复述语句生成器生成(若干)序列Y(Y即复述语句，可以包括y1,....,yt-1)，t、T和j均为正整数。
在预训练过程中，可以使用一个RNN作为编码器，对输入语句进行处理得到该输入语句的向量表示，然后使用另一个RNN作为解码器，以编码器得到的向量表示作为输入，逐字(或逐词)生成复述语句。
例如，在预训练时，编码器可以接收一个输入的词序列(比如，该词序列可以表示一个自然语言的句子，每次输入的词序列长度可以不同)，编码器依次计算词序列中每个词的状态变量(例如，隐藏状态变量(hidden state))；第i个词的状态变量hi可以通过当前词(即第i个词)和上一个词(即第i-1个词)的状态变量计算得到，即：
hi＝fh(xi,hi-1)
其中，fh表示一个多层神经网络。fh的一种可能的实现方式为：
fh(xi,hi-1)＝φh(Uxi+Whi-1+b)
其中，φh是一个sigmoid函数(例如，
Figure GDA0003804381600000173
U为词嵌入参数矩阵，W为隐藏状态权重矩阵，b为偏置。
在本申请实施例中，也可以使用长短期记忆网络(long short-term memory，LSTM)或门控循环单元(gated recurrent unit，GRU)来对fh进行建模，本申请实施例中对此并不限定。
当每个词的状态变量确定后，解码器可以最终生成一个输出的词序列(比如，该输出的词序列可以表示一个自然语言的句子)。其中，第i个词产生的概率p(yt|y1,....,yt-1)为：
p(yi|y1,...,yi-1)＝gh(hi,yi-1)＝φg(Uoyi-1+Wohi)
其中，φg是归一化函数(例如softmax)，Uo为词嵌入参数矩阵，Wo为隐藏状态权重矩阵。
输出的词序列(即该输出的词序列表示的句子)产生的概率为：
Figure GDA0003804381600000174
其中，
Figure GDA0003804381600000175
为预测序列，z为编码器输出的隐藏状态，i、L及T为正整数。
需要说明的是，上述复述语句生成器的预训练过程只是本申请实施例的一种可能的实现方式，在本申请实施例中，还可以基于其他的深度学习模型对所述复述语句生成器进行预训练，本申请实施例中对此并不限定。
S830，确定所述复述语句的来源信息。
其中，所述来源信息可以用于指示所述复述语句由所述多个复述语句生成器中每一个复述语句生成器生成的概率。
可选地，所述确定所述复述语句的来源信息，可以包括：通过预设的来源判别器，确定所述复述语句的来源信息，所述来源判别器包括第三神经网络。
可选地，可以基于所述多个复述语句生成器，预先训练所述来源判别器，以使得所述来源判别器能够识别所述多个复述语句生成器生成的复述语句，具体是由所述多个复述语句生成器中的哪一个复述语句生成器生成的。
可选地，所述来源判别器可以输出所述复述语句由所述多个复述语句生成器中每一个复述语句生成器生成的概率。例如，可以认为所述复述语句是由概率值最大的复述语句生成器生成的。
在本申请实施例中，可以对所述来源判别器进行预训练。
可选地，可以基于所述多个复述语句生成器在训练时生成的复述语句及其训练语句，构建复述语句对语料，并使用构建的复述语句对语料训练所述来源判别器。
例如，可以使用所述复述语句生成器的复述结果
Figure GDA0003804381600000181
来训练所述来源判别器，其中，yij为输入的词序列中的第i个词，j表示该第i个词是由第j个复述语句生成器生成的。
所述来源判别器可以表示为一个分类模型：
Figure GDA0003804381600000182
其中，λ为所述来源判别器中待学习的参数。
可选地，图10是本申请一个实施例中的来源判别器的示意性框图。
例如，如图10所示，对于所述语句复述模型中的复述语句生成器Gj生成的复述语句“从地球到太阳有多远”，来源判别器可以先将词序列中每个词映射为词向量(wordembedding)，再通过编码器进行编码，将该词序列转化为定长的句向量(sentenceembedding)，然后通过多层感知机(MLP)预测所述多个复述语句生成器中每一个复述语句生成器生成该复述语句(即“从地球到太阳有多远”)的概率，j为正整数。
可选地，在上述预训练的过程中，对于上述复述语句，生成该复述语句的复述语句生成器的编号j就是该复述语句的标签，因此，所述来源判别器的预训练过程为有监督的训练。
在上述预训练完成后，对于输入的词序列中的第i个词yij，所述来源判别器可以该词是由所述多个复述语句生成器中的哪一个复述语句生成器生成的。
需要说明的是，上述来源判别器的预训练过程只是本申请实施例的一种可能的实现方式，在本申请实施例中，还可以基于其他的深度学习模型对所述来源判别器进行预训练，本申请实施例中对此并不限定。
S840，确定所述复述语句与所述训练语句的相似度信息。
其中，所述相似度信息可以用于指示所述复述语句与所述训练语句的相似度。这里的相似度信息可以用于评估复述的质量(quality)。
在本申请实施例中，所述语句复述模型还可以包括预设的相似度判别器，所述相似度判别器可以包括第二神经网络，所述第二神经网络可以用于确定训练语句的复述语句与该训练语句的相似度信息。
可选地，所述确定所述复述语句与所述训练语句的相似度信息，可以包括：通过所述相似度判别器，确定所述复述语句与所述训练语句的相似度信息。
可选地，可以预先使用相似度判别语料，训练所述第二神经网络，以使得所述第二神经网络能够判别一个语句对是否构成复述关系。其中，相似度判别语料可以为同时包括正样本及负样本的复述语句对语料。
可选地，所述第二神经网络可以为RNN。
在本申请实施例中，可以对所述相似度判别器进行预训练。
可选地，可以使用相似度判别语料
Figure GDA0003804381600000191
来训练复述语句的质量判别器，其中Xi,Zi为语句对(即Xi,Zi均为词序列)，±1则用于表示Xi,Zi是否构成复述语句，其中，+1表示Xi,Zi构成复述语句，-1表示Xi,Zi不构成复述语句。
基于上述相似度判别语料，可以训练一个以两个词序列(即输入Xi,Zi)为输入的相似度判别器，所述相似度判别器可以表示为：fD(X,Z；φ)。
其中，φ为所述相似度判别器中待学习的参数，φ包括词向量参数、RNN的参数及MLP的参数。
可选地，图11是本申请一个实施例中的相似度判别器的示意性框图。
例如，如图11所示，对于所述语句复述模型中的复述语句生成器Gj的输入语句(如“太阳到地球的距离是多少”)及该输入语句的复述语句(如“从地球到太阳有多远”)，相似度判别器可以先将输入语句的词序列中每个词映射为词向量(word embedding)，再通过编码器进行编码，将该词序列转化为定长的句向量(sentence embedding)，j为正整数。
类似地，对于复述语句的词序列进行与上述输入语句相同的处理，且这两个输入的词序列共享相同的参数(即所述相似度判别器的参数)。
然后，将两个句子的向量合并(concatenate)，并通过多层感知机(MLP)，得到对于两个词序列(即两个语句)构成复述的程度(或者称为其语义相似度)进行估计。
训练完成后，对于给定的两个序列(即输入语句X和复述语句Z)，可以由相似度判别器fD(X,Z；φ)判断其构成复述的程度，或者也可以说这两个序列(即两句话)的语义相似度。
需要说明的是，上述相似度判别器的预训练过程只是本申请实施例的一种可能的实现方式，在本申请实施例中，还可以基于其他的深度学习模型对所述复述语句生成器进行预训练，例如，深度匹配模型(deep matching model)，本申请实施例中对此并不限定。
S850，使用强化学习方法，将所述来源信息和所述相似度信息作为第一奖励，调整所述多个复述语句生成器中的一个或多个的参数
在本申请实施例中，可以使用强化学习方法训练所述多个复述语句生成器中的一个或多个。
具体地，在强化学习的框架中，所述多个复述语句生成器相当于主体(agent)，而来源判别器和相似度判别器则相当于环境(environment)。
所述多个复述语句生成器生成复述语句的过程相当于一系列的动作(action)，而来源判别器确定的来源信息和相似度判别器确定的相似度信息则相当于这些动作的奖励(reward)，并将所述来源信息和所述相似度信息作为奖励反馈给所述多个复述语句生成器。
在这种强化学习机制下，对复述语句生成器进行训练，可以使得所述多个复述语句生成器能够得到更高的回报(reward)，即所述多个复述语句生成器中每个复述生成器生成的复述语句，与其他复述生成器生成的复述语句之间的差异更大，且质量更高。
可选地，所述将所述来源信息和所述相似度信息作为第一奖励，调整所述多个复述语句生成器的参数，可以包括：
将所述复述语句由所述多个复述语句生成器中的每个复述语句生成器生成的概率和所述相似度信息作为所述每个复述语句生成器的第一奖励，调整所述每个复述语句生成器的参数。
在本申请实施例中，将每个复述语句生成器生成所述复述语句的概率和相似度信息作为奖励训练该复述语句生成器，可以使该复述语句生成器在保证复述语句的质量的同时，确保复述语句的多样性，因此，能够提高复述语句的多样性和复述语句的质量。
可选地，将所述复述语句由所述多个复述语句生成器中的每个复述语句生成器生成的概率和所述相似度信息作为所述每个复述语句生成器的第一奖励，调整所述每个复述语句生成器的参数，可以包括：
调整第一复述语句生成器的参数，以使得所述第一复述语句生成器的第二奖励大于所述第一复述语句生成器的第一奖励，所述第一复述语句生成器的第二奖励是根据参数调整后的所述第一复述语句生成器进行复述生成的复述语句得到的，所述第一复述语句生成器为所述多个复述语句生成器中生成所述复述语句的概率最大的复述语句生成器；
调整所述多个复述语句生成器中除所述第一复述语句生成器以外的其他复述语句生成器的参数，以使得所述其他复述语句生成器的第二奖励小于所述其他复述语句生成器的第一奖励，所述其他复述语句生成器的第二奖励是根据参数调整后的所述第一复述语句生成器进行复述生成的复述语句得到的。
为便于理解和描述，以所述语句复述模型中包括3个复述语句生成器(比如，可以分别将这3个复述语句生成编号为#1、#2及#3)，每次由这3个复述语句生成器中的一个复述语句生成器对训练语句进行复述，生成一个复述语句为例进行说明。
例如，可以由#2复述语句生成器(即第一复述语句生成器)对训练语句进行复述，生成复述语句，此时，可以基于该复述语句确定来源信息(即每个复述语句生成器生成该复述语句的概率)和相似度信息，并根据该来源信息和相似度信息确定这3个复述语句生成器的奖励，然后将#2复述语句生成器(即第一复述语句生成器)的参数向(之后)得到的奖励会变大的方向调整，将其他复述语句生成器(即#1、#3复述语句生成器)的参数向(之后)得到的奖励会变小的方向调整。
再例如，在这3个复述语句生成器经过上述参数调整后，可以继续输入另一个训练语句(对这3个复述语句生成器)进行训练。此时，可以由#3复述语句生成器(即第一复述语句生成器)对训练语句进行复述，生成复述语句，相应地，可以基于该复述语句确定来源信息(即每个复述语句生成器生成该复述语句的概率)和相似度信息，并根据该来源信息和相似度信息确定这3个复述语句生成器的奖励，然后将#3复述语句生成器(即第一复述语句生成器)的参数向(之后)得到的奖励会变大的方向调整，将其他复述语句生成器(即#1、#2复述语句生成器)的参数向(之后)得到的奖励会变小的方向调整。
可以看出，每一次训练时的第一复述语句生成器可以不同(每次均是指对训练语句进行复述，生成复述语句的那个复述语句生成器)，然后调整参数时，都是将第一复述语句生成器的参数向(之后)得到的奖励会变大的方向调整，将其他复述语句生成器(所述语句复述模型中除第一复述生成器以外的其他复述语句生成器)的参数向(之后)得到的奖励会变小的方向调整。
需要说明的是，上述将第一复述语句生成器的参数向(之后)得到的奖励会变大的方向调整，可以理解为：参数调整的目的是使第一复述语句生成器的参数朝着(得到的)奖励变大的趋势变化。
相应地，上述将其他复述语句生成器的参数向(之后)得到的奖励会变小的方向调整，可以理解为：参数调整的目的是使其他复述语句生成器的参数朝着(得到的)奖励变小的趋势变化。
可选地，所述多个复述语句生成器在得到各自的奖励后，可以基于下述损失函数调整每个复述语句生成器的参数。
例如，对于输入语句X，复述语句生成器Gj生成复述语句Y，则复述语句生成器Gj得到的奖励可以由来源判别器、相似度判别器联合给出，如下所示：
rj(Y)＝f(X,Y)
相应地，复述语句生成器Gj的损失函数L(θ)可以如下：
Figure GDA0003804381600000211
其中，θ为复述语句生成器Gj的待学习的参数，rj为复述语句生成器Gj得到的奖励，y1,....,yt-1为复述语句Y中的词，t、T和j均为正整数。
根据策略梯度算法(REINFORCE算法)，上述损失函数的导数
Figure GDA0003804381600000212
可以如下：
Figure GDA0003804381600000213
根据本申请实施例提供的训练语句复述模型的方法，所述多个复述语句生成器中的一个或多个是将来源信息和相似度信息作为奖励训练后得到的，所述来源信息用于指示训练语句的复述语句由每一个复述语句生成器生成的概率，所述相似度信息用于指示所述复述语句与所述训练语句的相似度，使用该方法训练后得到的语句复述模型可以同时兼顾复述语句的质量和复述语句的多样性，因此，能够提高语句复述模型生成的复述语句的多样性和复述语句的质量。
图12示出了本申请实施例提供的语句复述方法1200的示意性流程图，图12所示的方法可以由图7中的终端设备执行。图12所示的方法包括步骤1210、步骤1220及步骤1230，下面分别对这几个步骤进行详细的介绍。
S1210，获取输入语句。
其中，所述输入语句可以为词汇、短语或句子，同时，所述训练语句也可以为各种语言，本申请实施例对此并不限定。
S1220，通过语句复述模型，对所述输入语句进行复述，生成多个候选复述语句。
其中，所述复述语句可以为词汇、短语或句子，同时，所述复述语句也可以为各种语言，本申请实施例对此并不限定。
可选地，所述语句复述模型可以包括预设的多个复述语句生成器，所述多个复述语句生成器中的每一个包括一个神经网络，所述多个复述语句生成器中的一个或多个是使用强化学习方法、将来源信息和相似度信息作为第一奖励训练后得到的，所述来源信息用于指示训练语句的复述语句由所述多个复述语句生成器中每一个复述语句生成器生成的概率，所述相似度信息用于指示所述复述语句与所述训练语句的相似度，所述复述语句是使用所述多个复述语句生成器对所述训练语句进行复述后得到的。
本申请实施例中的语句复述模型中包括多个复述语句生成器，其中的每个复述语句生成器都可以生成高质量的复述语句，因此，该语句复述模型中的多个复述语句生成器可以灵活地应用在机器翻译、自动问答系统及信息检索等领域。
其中，所述多个复述语句生成器还可以先进行预训练，具体的预训练过程图8中的实施例类似，这里不再赘述。
图12中的所述语句复述模型可以是使用图8所示的训练语句复述模型的方法进行训练后得到的。
S1230，确定所述多个候选复述语句中的每一个候选复述语句与所述输入语句的相似度，得到与所述输入语句的相似度大于或等于预设阈值的输出语句。
可选地，所述多个复述语句生成器中的每个复述语句生成器可以是基于将所述复述语句由所述每个复述语句生成器生成的概率和所述相似度信息作为第一奖励训练后得到的。
在本申请实施例中，将每个复述语句生成器生成所述复述语句的概率和相似度信息作为奖励训练该复述语句生成器，可以使该复述语句生成器在保证复述语句的质量的同时，确保复述语句的多样性，因此，能够提高复述语句的多样性和复述语句的质量。
可选地，对于第一复述语句生成器，所述第一复述语句生成器的第二奖励大于所述第一复述语句生成器的第一奖励，所述第一复述语句生成器的第二奖励是根据参数调整后的所述第一复述语句生成器进行复述生成的复述语句得到的，所述第一复述语句生成器为所述多个复述语句生成器中生成所述复述语句的概率最大的复述语句生成器，所述第一复述语句生成器的参数是基于所述第一复述语句生成器的第一奖励调整的；
对于所述多个复述语句生成器中除所述第一复述语句生成器以外的其他复述语句生成器，所述其他复述语句生成器的第二奖励小于所述其他复述语句生成器的第一奖励，所述其他复述语句生成器的第二奖励是根据参数调整后的所述第一复述语句生成器进行复述生成的复述语句得到的，所述其他复述语句生成器的参数是基于所述其他复述语句生成器的第一奖励调整的。
可选地，所述语句复述模型还可以包括预设的相似度判别器，所述相似度判别器包括第二神经网络，所述相似度信息是通过所述相似度判别器确定的。
其中，所述相似度判别器还可以先进行预训练，具体的预训练过程图8中的实施例类似，这里不再赘述。
在本申请实施例中，使用(包括第二神经网络的)相似度判别器确定相似度信息，可以提高所述相似度信息的准确率。
可选地，所述来源信息可以是通过预设的来源判别器确定的，所述来源判别器包括第三神经网络。
其中，所述来源判别器还可以先进行预训练，具体的预训练过程图8中的实施例类似，这里不再赘述。在本申请实施例中，使用(包括第三神经网络的)来源判别器确定来源信息，可以提高所述来源信息的准确率。
可选地，在训练所述复述语句生成器的过程中，可以将生成复述语句的复述语句生成器的编号作为该复述语句的标签，对所述来源判别器进行训练。
可以看出，上述来源判别器的训练过程为有监督的训练。
在本申请实施例中，所述多个复述语句生成器中的一个或多个是将来源信息和相似度信息作为奖励训练后得到的，所述来源信息用于指示训练语句的复述语句由每一个复述语句生成器生成的概率，所述相似度信息用于指示所述复述语句与所述训练语句的相似度，使用该方法训练后得到的语句复述模型可以同时兼顾复述语句的质量和复述语句的多样性，因此，能够提高复述语句的多样性和复述语句的质量。
图13是本申请实施例的语句复述装置的硬件结构示意图。图13所示的语句复述装置4000包括存储器4001、处理器4002、通信接口4003以及总线4004。其中，存储器4001、处理器4002、通信接口4003通过总线4004实现彼此之间的通信连接。
应理解，图13所示的装置仅示例而非限定，所述语句复述装置4000可以包括更多或更少的模块或单元，本申请实施例中对此并不限定。
存储器4001可以是只读存储器(read only memory，ROM)，静态存储设备，动态存储设备或者随机存取存储器(random access memory，RAM)。存储器4001可以存储程序，当存储器4001中存储的程序被处理器4002执行时，处理器4002和通信接口4003用于执行本申请实施例的语句复述方法的各个步骤。
处理器4002可以采用通用的中央处理器(central processing unit，CPU)，微处理器，应用专用集成电路(application specific integrated circuit，ASIC)，图形处理器(graphics processing unit，GPU)或者一个或多个集成电路，用于执行相关程序，以实现本申请实施例的语句复述装置中的单元所需执行的功能，或者执行本申请方法实施例的语句复述方法。
处理器4002还可以是一种集成电路芯片，具有信号的处理能力。在实现过程中，本申请实施例的语句复述方法的各个步骤可以通过处理器4002中的硬件的集成逻辑电路或者软件形式的指令完成。
上述处理器4002还可以是通用处理器、数字信号处理器(digital signalprocessing，DSP)、ASIC、现成可编程门阵列(field programmable gate array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。上述通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本申请实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成，或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器，闪存、只读存储器，可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器4001，处理器4002读取存储器4001中的信息，结合其硬件完成本申请实施例的语句复述装置中包括的单元所需执行的功能，或者执行本申请方法实施例的语句复述方法。
通信接口4003使用例如但不限于收发器一类的收发装置，来实现装置4000与其他设备或通信网络之间的通信。例如，可以通过通信接口4003获取输入语句。
总线4004可包括在装置4000各个部件(例如，存储器4001、处理器4002、通信接口4003)之间传送信息的通路。
图14是本申请实施例的训练语句复述模型的装置5000的硬件结构示意图。与上述装置4000类似，图14所示的训练语句复述模型的装置5000包括存储器5001、处理器5002、通信接口5003以及总线5004。其中，存储器5001、处理器5002、通信接口5003通过总线5004实现彼此之间的通信连接。
应理解，图14所示的装置仅示例而非限定，所述训练语句复述模型的装置5000可以包括更多或更少的模块或单元，本申请实施例中对此并不限定。
存储器5001可以存储程序，当存储器5001中存储的程序被处理器5002执行时，处理器5002用于执行本申请实施例的训练语句复述模型的方法的各个步骤。
处理器5002可以采用通用的CPU，微处理器，ASIC，GPU或者一个或多个集成电路，用于执行相关程序，以实现本申请实施例的训练语句复述模型的方法。
处理器5002还可以是一种集成电路芯片，具有信号的处理能力。在实现过程中，本申请实施例的训练语句复述模型的方法的各个步骤可以通过处理器5002中的硬件的集成逻辑电路或者软件形式的指令完成。
应理解，通过图14所示的训练语句复述模型的装置5000对语句复述模型进行训练，训练得到的语句复述模型就可以用于执行本申请实施例的语句复述方法了。具体地，通过装置5000对语句复述模型进行训练能够得到图12所示的方法中的语句复述模型。
具体地，图14所示的装置可以通过通信接口5003从外界获取训练数据以及待训练的语句复述模型，然后由处理器根据训练数据对待训练的语句复述模型进行训练。
应注意，尽管上述装置4000和装置5000仅仅示出了存储器、处理器、通信接口，但是在具体实现过程中，本领域的技术人员应当理解，装置4000和装置5000还可以包括实现正常运行所必须的其他器件。
同时，根据具体需要，本领域的技术人员应当理解，装置4000和装置5000还可包括实现其他附加功能的硬件器件。此外，本领域的技术人员应当理解，装置4000和装置5000也可仅仅包括实现本申请实施例所必须的器件，而不必包括图13和图14中所示的全部器件。
应理解，本申请实施例中的处理器可以为中央处理单元(central processingunit，CPU)，该处理器还可以是其他通用处理器、数字信号处理器(digital signalprocessor，DSP)、专用集成电路(application specific integrated circuit，ASIC)、现成可编程门阵列(field programmable gate array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
还应理解，本申请实施例中的存储器可以是易失性存储器或非易失性存储器，或可包括易失性和非易失性存储器两者。其中，非易失性存储器可以是只读存储器(read-only memory，ROM)、可编程只读存储器(programmable ROM，PROM)、可擦除可编程只读存储器(erasable PROM，EPROM)、电可擦除可编程只读存储器(electrically EPROM，EEPROM)或闪存。易失性存储器可以是随机存取存储器(random access memory，RAM)，其用作外部高速缓存。通过示例性但不是限制性说明，许多形式的随机存取存储器(random accessmemory，RAM)可用，例如静态随机存取存储器(static RAM，SRAM)、动态随机存取存储器(DRAM)、同步动态随机存取存储器(synchronous DRAM，SDRAM)、双倍数据速率同步动态随机存取存储器(double data rate SDRAM，DDR SDRAM)、增强型同步动态随机存取存储器(enhanced SDRAM，ESDRAM)、同步连接动态随机存取存储器(synchlink DRAM，SLDRAM)和直接内存总线随机存取存储器(direct rambus RAM，DR RAM)。
上述实施例，可以全部或部分地通过软件、硬件、固件或其他任意组合来实现。当使用软件实现时，上述实施例可以全部或部分地以计算机程序产品的形式实现。所述计算机程序产品包括一个或多个计算机指令或计算机程序。在计算机上加载或执行所述计算机指令或计算机程序时，全部或部分地产生按照本申请实施例所述的流程或功能。所述计算机可以为通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中，或者从一个计算机可读存储介质向另一个计算机可读存储介质传输，例如，所述计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集合的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质(例如，软盘、硬盘、磁带)、光介质(例如，DVD)、或者半导体介质。半导体介质可以是固态硬盘。
应理解，本文中术语“和/或”，仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B这三种情况，其中A,B可以是单数或者复数。另外，本文中字符“/”，一般表示前后关联对象是一种“或”的关系，但也可能表示的是一种“和/或”的关系，具体可参考前后文进行理解。
本申请中，“至少一个”是指一个或者多个，“多个”是指两个或两个以上。“以下至少一项(个)”或其类似表达，是指的这些项中的任意组合，包括单项(个)或复数项(个)的任意组合。例如，a,b,或c中的至少一项(个)，可以表示：a,b,c,a-b,a-c,b-c,或a-b-c，其中a,b,c可以是单个，也可以是多个。
应理解，在本申请的各种实施例中，上述各过程的序号的大小并不意味着执行顺序的先后，各过程的执行顺序应以其功能和内在逻辑确定，而不应对本申请实施例的实施过程构成任何限定。
本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本申请的范围。
所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的系统、装置和单元的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。
在本申请所提供的几个实施例中，应该理解到，所揭露的系统、装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，装置或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外，在本申请各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(Read-Only Memory，ROM)、随机存取存储器(Random Access Memory，RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述，仅为本申请的具体实施方式，但本申请的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本申请揭露的技术范围内，可轻易想到变化或替换，都应涵盖在本申请的保护范围之内。因此，本申请的保护范围应以所述权利要求的保护范围为准。

Claims (24)

1.一种语句复述方法，其特征在于，包括：
获取输入语句；
通过语句复述模型，对所述输入语句进行复述，生成多个候选复述语句；
确定所述多个候选复述语句中的每一个候选复述语句与所述输入语句的相似度，得到与所述输入语句的相似度大于或等于预设阈值的输出语句；
其中，所述语句复述模型包括预设的多个复述语句生成器，所述多个复述语句生成器中的每一个包括一个神经网络，所述多个复述语句生成器中的一个或多个是使用强化学习方法、将来源信息和相似度信息作为第一奖励训练后得到的，所述来源信息用于指示训练语句的复述语句由所述多个复述语句生成器中每一个复述语句生成器生成的概率，所述相似度信息用于指示所述复述语句与所述训练语句的相似度，所述复述语句是使用所述多个复述语句生成器对所述训练语句进行复述后得到的。
2.根据权利要求1所述的方法，其特征在于，所述多个复述语句生成器中的每个复述语句生成器是基于将所述复述语句由所述每个复述语句生成器生成的概率和所述相似度信息作为第一奖励训练后得到的。
3.根据权利要求2所述的方法，其特征在于，
对于第一复述语句生成器，所述第一复述语句生成器的第二奖励大于所述第一复述语句生成器的第一奖励，所述第一复述语句生成器的第二奖励是根据参数调整后的所述第一复述语句生成器进行复述生成的复述语句得到的，所述第一复述语句生成器为所述多个复述语句生成器中生成所述复述语句的概率最大的复述语句生成器，所述第一复述语句生成器的参数是基于所述第一复述语句生成器的第一奖励调整的；
对于所述多个复述语句生成器中除所述第一复述语句生成器以外的其他复述语句生成器，所述其他复述语句生成器的第二奖励小于所述其他复述语句生成器的第一奖励，所述其他复述语句生成器的第二奖励是根据参数调整后的所述其他复述语句生成器进行复述生成的复述语句得到的，所述其他复述语句生成器的参数是基于所述其他复述语句生成器的第一奖励调整的。
4.根据权利要求1至3中任一项所述的方法，其特征在于，所述语句复述模型还包括预设的相似度判别器，所述相似度判别器包括第二神经网络，所述相似度信息是通过所述相似度判别器确定的。
5.根据权利要求1至3中任一项所述的方法，其特征在于，所述来源信息是通过预设的来源判别器确定的，所述来源判别器包括第三神经网络。
6.一种训练语句复述模型的方法，其特征在于，所述语句复述模型包括预设的多个复述语句生成器，所述多个复述语句生成器中的每一个包括一个神经网络，所述方法包括：
获取训练语句；
通过所述多个复述语句生成器，对所述训练语句进行复述，生成复述语句；
确定所述复述语句的来源信息，所述来源信息用于指示所述复述语句由所述多个复述语句生成器中每一个复述语句生成器生成的概率；
确定所述复述语句与所述训练语句的相似度信息，所述相似度信息用于指示所述复述语句与所述训练语句的相似度；
使用强化学习方法，将所述来源信息和所述相似度信息作为第一奖励，调整所述多个复述语句生成器中的一个或多个的参数。
7.根据权利要求6所述的方法，其特征在于，所述将所述来源信息和所述相似度信息作为第一奖励，调整所述多个复述语句生成器中的一个或多个的参数，包括：
将所述复述语句由所述多个复述语句生成器中的每个复述语句生成器生成的概率和所述相似度信息作为所述每个复述语句生成器的第一奖励，调整所述每个复述语句生成器的参数。
8.根据权利要求7所述的方法，其特征在于，所述将所述复述语句由所述多个复述语句生成器中的每个复述语句生成器生成的概率和所述相似度信息作为所述每个复述语句生成器的第一奖励，调整所述每个复述语句生成器的参数，包括：
调整第一复述语句生成器的参数，以使得所述第一复述语句生成器的第二奖励大于所述第一复述语句生成器的第一奖励，所述第一复述语句生成器的第二奖励是根据参数调整后的所述第一复述语句生成器进行复述生成的复述语句得到的，所述第一复述语句生成器为所述多个复述语句生成器中生成所述复述语句的概率最大的复述语句生成器；
调整所述多个复述语句生成器中除所述第一复述语句生成器以外的其他复述语句生成器的参数，以使得所述其他复述语句生成器的第二奖励小于所述其他复述语句生成器的第一奖励，所述其他复述语句生成器的第二奖励是根据参数调整后的所述其他复述语句生成器进行复述生成的复述语句得到的。
9.根据权利要求6至8中任一项所述的方法，其特征在于，所述语句复述模型还包括预设的相似度判别器，所述相似度判别器包括第二神经网络；
其中，所述确定所述复述语句与所述训练语句的相似度信息，包括：
通过所述相似度判别器确定所述复述语句与所述训练语句的相似度信息。
10.根据权利要求6至8中任一项所述的方法，其特征在于，所述确定所述复述语句的来源信息，包括：
通过预设的来源判别器确定所述复述语句的来源信息，所述来源判别器包括第三神经网络。
11.一种语句复述装置，其特征在于，包括：
获取模块，用于获取输入语句；
复述模块，用于通过语句复述模型，对所述输入语句进行复述，生成多个候选复述语句；
确定模块，用于确定所述多个候选复述语句中的每一个候选复述语句与所述输入语句的相似度，得到与所述输入语句的相似度大于或等于预设阈值的输出语句；
其中，所述语句复述模型包括预设的多个复述语句生成器，所述多个复述语句生成器中的每一个包括一个神经网络，所述多个复述语句生成器中的一个或多个是使用强化学习方法、将来源信息和相似度信息作为第一奖励训练后得到的，所述来源信息用于指示训练语句的复述语句由所述多个复述语句生成器中每一个复述语句生成器生成的概率，所述相似度信息用于指示所述复述语句与所述训练语句的相似度，所述复述语句是使用所述多个复述语句生成器对所述训练语句进行复述后得到的。
12.根据权利要求11所述的装置，其特征在于，所述多个复述语句生成器中的每个复述语句生成器是基于将所述复述语句由所述每个复述语句生成器生成的概率和所述相似度信息作为第一奖励训练后得到的。
13.根据权利要求12所述的装置，其特征在于，
对于第一复述语句生成器，所述第一复述语句生成器的第二奖励大于所述第一复述语句生成器的第一奖励，所述第一复述语句生成器的第二奖励是根据参数调整后的所述第一复述语句生成器进行复述生成的复述语句得到的，所述第一复述语句生成器为所述多个复述语句生成器中生成所述复述语句的概率最大的复述语句生成器，所述第一复述语句生成器的参数是基于所述第一复述语句生成器的第一奖励调整的；
对于所述多个复述语句生成器中除所述第一复述语句生成器以外的其他复述语句生成器，所述其他复述语句生成器的第二奖励小于所述其他复述语句生成器的第一奖励，所述其他复述语句生成器的第二奖励是根据参数调整后的所述其他复述语句生成器进行复述生成的复述语句得到的，所述其他复述语句生成器的参数是基于所述其他复述语句生成器的第一奖励调整的。
14.根据权利要求11至13中任一项所述的装置，其特征在于，所述语句复述装置还包括预设的相似度判别器，所述相似度判别器包括第二神经网络，所述相似度信息是通过所述相似度判别器确定的。
15.根据权利要求11至13中任一项所述的装置，其特征在于，所述来源信息是通过预设的来源判别器确定的，所述来源判别器包括第三神经网络。
16.一种训练语句复述模型的装置，其特征在于，所述语句复述模型包括预设的多个复述语句生成器，所述多个复述语句生成器中的每一个包括一个神经网络，所述装置包括：
获取模块，用于获取训练语句；
复述模块，用于通过所述多个复述语句生成器，对所述训练语句进行复述，生成复述语句；
来源判别模块，用于确定所述复述语句的来源信息，所述来源信息用于指示所述复述语句由所述多个复述语句生成器中每一个复述语句生成器生成的概率；
相似度判别模块，用于确定所述复述语句与所述训练语句的相似度信息，所述相似度信息用于指示所述复述语句与所述训练语句的相似度；
调整模块，用于使用强化学习方法，将所述来源信息和所述相似度信息作为第一奖励，调整所述多个复述语句生成器中的一个或多个的参数。
17.根据权利要求16所述的装置，其特征在于，所述调整模块具体用于：
将所述复述语句由所述多个复述语句生成器中的每个复述语句生成器生成的概率和所述相似度信息作为所述每个复述语句生成器的第一奖励，调整所述每个复述语句生成器的参数。
18.根据权利要求17所述的装置，其特征在于，所述调整模块具体用于：
调整第一复述语句生成器的参数，以使得所述第一复述语句生成器的第二奖励大于所述第一复述语句生成器的第一奖励，所述第一复述语句生成器的第二奖励是根据参数调整后的所述第一复述语句生成器进行复述生成的复述语句得到的，所述第一复述语句生成器为所述多个复述语句生成器中生成所述复述语句的概率最大的复述语句生成器；
调整所述多个复述语句生成器中除所述第一复述语句生成器以外的其他复述语句生成器的参数，以使得所述其他复述语句生成器的第二奖励小于所述其他复述语句生成器的第一奖励，所述其他复述语句生成器的第二奖励是根据参数调整后的所述其他复述语句生成器进行复述生成的复述语句得到的。
19.根据权利要求16至18中任一项所述的装置，其特征在于，所述语句复述模型还包括预设的相似度判别器，所述相似度判别器包括第二神经网络；
其中，所述确定所述复述语句与所述训练语句的相似度信息，包括：
通过所述相似度判别器，确定所述复述语句与所述训练语句的相似度信息。
20.根据权利要求16至18中任一项所述的装置，其特征在于，所述来源判别模块还包括预设的来源判别器，所述来源判别器具体用于：
通过所述来源判别器，确定所述复述语句的来源信息，所述来源判别器包括第三神经网络。
21.一种语句复述装置，其特征在于，包括处理器和存储器，所述存储器用于存储程序指令，所述处理器用于调用所述程序指令来执行权利要求1至5中任一项所述的方法。
22.一种训练语句复述模型的装置，其特征在于，包括处理器和存储器，所述存储器用于存储程序指令，所述处理器用于调用所述程序指令来执行权利要求6至10中任一项所述的方法。
23.一种计算机可读存储介质，其特征在于，所述计算机可读介质存储用于设备执行的程序代码，该程序代码包括用于执行如权利要求1至5或6至10中任一项所述的方法。
24.一种芯片，其特征在于，所述芯片包括处理器与数据接口，所述处理器通过所述数据接口读取存储器上存储的指令，以执行如权利要求1至5或6至10中任一项所述的方法。
CN201910925762.5A 2019-09-27 2019-09-27 语句复述方法、训练语句复述模型的方法及其装置 Active CN112580369B (zh)

Priority Applications (3)

Application Number Priority Date Filing Date Title
CN201910925762.5A CN112580369B (zh) 2019-09-27 2019-09-27 语句复述方法、训练语句复述模型的方法及其装置
PCT/CN2020/117633 WO2021057884A1 (zh) 2019-09-27 2020-09-25 语句复述方法、训练语句复述模型的方法及其装置
US17/701,775 US20220215159A1 (en) 2019-09-27 2022-03-23 Sentence paraphrase method and apparatus, and method and apparatus for training sentence paraphrase model

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910925762.5A CN112580369B (zh) 2019-09-27 2019-09-27 语句复述方法、训练语句复述模型的方法及其装置

Publications (2)

Publication Number Publication Date
CN112580369A CN112580369A (zh) 2021-03-30
CN112580369B true CN112580369B (zh) 2023-02-03

Family

ID=75110477

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910925762.5A Active CN112580369B (zh) 2019-09-27 2019-09-27 语句复述方法、训练语句复述模型的方法及其装置

Country Status (3)

Country Link
US (1) US20220215159A1 (zh)
CN (1) CN112580369B (zh)
WO (1) WO2021057884A1 (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DK201770429A1 (en) 2017-05-12 2018-12-14 Apple Inc. LOW-LATENCY INTELLIGENT AUTOMATED ASSISTANT
DK179496B1 (en) 2017-05-12 2019-01-15 Apple Inc. USER-SPECIFIC Acoustic Models
US20220093088A1 (en) * 2020-09-24 2022-03-24 Apple Inc. Contextual sentence embeddings for natural language processing applications

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108133705A (zh) * 2017-12-21 2018-06-08 儒安科技有限公司 基于对偶学习的语音识别与语音合成模型训练方法
CN108874972A (zh) * 2018-06-08 2018-11-23 青岛里奥机器人技术有限公司 一种基于深度学习的多轮情感对话方法
CN109710915A (zh) * 2017-10-26 2019-05-03 华为技术有限公司 复述语句生成方法及装置

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080154853A1 (en) * 2006-12-22 2008-06-26 International Business Machines Corporation English-language translation of exact interpretations of keyword queries
US10417566B2 (en) * 2016-05-22 2019-09-17 Microsoft Technology Licensing, Llc Self-learning technique for training a PDA component and a simulated user component
CN106156848B (zh) * 2016-06-22 2018-08-14 中国民航大学 一种基于lstm-rnn的陆空通话语义一致性校验方法
KR102589638B1 (ko) * 2016-10-31 2023-10-16 삼성전자주식회사 문장 생성 장치 및 방법
CN107092664B (zh) * 2017-03-30 2020-04-28 华为技术有限公司 一种内容解释方法及装置
US20190147355A1 (en) * 2017-11-14 2019-05-16 International Business Machines Corporation Self-critical sequence training of multimodal systems
CN108520298A (zh) * 2018-04-09 2018-09-11 中国民航大学 一种基于改进lstm-rnn的陆空通话语义一致性校验方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109710915A (zh) * 2017-10-26 2019-05-03 华为技术有限公司 复述语句生成方法及装置
CN108133705A (zh) * 2017-12-21 2018-06-08 儒安科技有限公司 基于对偶学习的语音识别与语音合成模型训练方法
CN108874972A (zh) * 2018-06-08 2018-11-23 青岛里奥机器人技术有限公司 一种基于深度学习的多轮情感对话方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
A Reinforcement-Learning Approach to Robot Navigation;Mu-Chun Su et al.;《IEEE International Conference On Networking,Sensing and Control,2004》;20040518;第665-669页 *
基于强化学习的服务规划生成方法;张梦洋 等;《华中科技大学学报（自然科学版）》;20180930;第46卷(第9期);第59-63页 *

Also Published As

Publication number Publication date
WO2021057884A1 (zh) 2021-04-01
US20220215159A1 (en) 2022-07-07
CN112580369A (zh) 2021-03-30

Similar Documents

Publication Publication Date Title
CN112487182B (zh) 文本处理模型的训练方法、文本处理方法及装置
WO2022007823A1 (zh) 一种文本数据处理方法及装置
CN111353076A (zh) 训练跨模态检索模型的方法、跨模态检索的方法和相关装置
CN112580369B (zh) 语句复述方法、训练语句复述模型的方法及其装置
CN109214006B (zh) 图像增强的层次化语义表示的自然语言推理方法
CN111882031A (zh) 一种神经网络蒸馏方法及装置
CN113240079A (zh) 一种模型训练方法及装置
CN111340190A (zh) 构建网络结构的方法与装置、及图像生成方法与装置
CN112883149A (zh) 一种自然语言处理方法以及装置
CN111368656A (zh) 一种视频内容描述方法和视频内容描述装置
CN112487217A (zh) 跨模态检索方法、装置、设备及计算机可读存储介质
US20230095606A1 (en) Method for training classifier, and data processing method, system, and device
CN111160049B (zh) 文本翻译方法、装置、机器翻译系统和存储介质
CN115293227A (zh) 一种模型训练方法及相关设备
CN113627163A (zh) 一种注意力模型、特征提取方法及相关装置
CN115238909A (zh) 一种基于联邦学习的数据价值评估方法及其相关设备
CN113407820B (zh) 利用模型进行数据处理的方法及相关系统、存储介质
CN113656563A (zh) 一种神经网络搜索方法及相关设备
CN114861859A (zh) 神经网络模型的训练方法、数据处理方法及装置
CN110083842B (zh) 译文质量检测方法、装置、机器翻译系统和存储介质
CN114298289A (zh) 一种数据处理的方法、数据处理设备及存储介质
CN114004383A (zh) 时间序列预测模型的训练方法、时间序列预测方法及装置
CN113128285A (zh) 一种处理视频的方法及装置
WO2021083312A1 (zh) 训练语句复述模型的方法、语句复述方法及其装置
CN113095072A (zh) 文本处理方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant