CN109558605B - 用于翻译语句的方法和装置 - Google Patents

用于翻译语句的方法和装置 Download PDF

Info

Publication number
CN109558605B
CN109558605B CN201811543684.4A CN201811543684A CN109558605B CN 109558605 B CN109558605 B CN 109558605B CN 201811543684 A CN201811543684 A CN 201811543684A CN 109558605 B CN109558605 B CN 109558605B
Authority
CN
China
Prior art keywords
segmentation word
reverse
training sample
matrix
sentence
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201811543684.4A
Other languages
English (en)
Other versions
CN109558605A (zh
Inventor
毕天驰
张传强
熊皓
何中军
李芝
王海峰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Baidu Netcom Science and Technology Co Ltd
Original Assignee
Beijing Baidu Netcom Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Baidu Netcom Science and Technology Co Ltd filed Critical Beijing Baidu Netcom Science and Technology Co Ltd
Priority to CN201811543684.4A priority Critical patent/CN109558605B/zh
Publication of CN109558605A publication Critical patent/CN109558605A/zh
Application granted granted Critical
Publication of CN109558605B publication Critical patent/CN109558605B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/40—Processing or translation of natural language
    • G06F40/58—Use of machine translation, e.g. for multi-lingual retrieval, for server-side translation for client devices or for real-time translation

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Artificial Intelligence (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Computational Linguistics (AREA)
  • General Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Machine Translation (AREA)

Abstract

本申请实施例公开了用于生成翻译模型的方法和装置。该方法的一具体实施方式包括：基于将训练样本输入正向编码器和正向解码器所得到的正向翻译语句切分词概率序列，和将训练样本输入反向编码器和反向解码器所得到的反向翻译语句切分词概率序列确定总损失值，并在确定模型未训练完成时，调整正向编码器、正向解码器、反向编码器和反向解码器的模型参数直到确定模型训练完成。该实施方式降低了翻译过程中前面翻译错误对后面翻译所造成的影响。

Description

用于翻译语句的方法和装置
技术领域
本申请实施例涉及计算机技术领域，具体涉及用于翻译语句的方法和装置。
背景技术
目前大都采用神经机器翻译来实现机器翻译。神经机器翻译包括一个编码器和一个解码器。将待翻译语句输入编码器进行编码成得到语义向量，再由解码器将语义向量解码就得到翻译结果。现有的编码器和解码器基本是适合处理时序数据的神经网络。然而，现有的神经机器翻译，基本是前面已经翻译出来的词会影响到后续的翻译结果，如果前面翻译错了，那么后面的翻译效果将会收到前面翻译错误的影响。
发明内容
本申请实施例提出了用于生成翻译模型的方法和装置以及用于翻译语句的方法和装置。
第一方面，本申请实施例提供了一种用于生成翻译模型的方法，该方法包括：获取训练样本集，其中，训练样本包括源语言的源语句切分词序列以及具有相同语义的目标语言的目标语句切分词序列；确定初始翻译模型，初始翻译模型包括正向编码器、正向解码器、反向编码器和反向解码器；对于训练样本集中的训练样本，执行以下输入步骤：将该训练样本中的源语句切分词序列分别输入正向编码器和反向编码器，得到第一语义向量和第二语义向量；将所得到的第一语义向量和该训练样本中的目标语句切分词序列输入正向解码器得到正向翻译语句切分词概率序列；将所得的第二语义向量和该训练样本中的目标语句切分词序列的反向序列输入反向解码器得到反向翻译语句切分词概率序列；执行以下损失值确定步骤：基于训练样本集中训练样本对应的正向翻译语句切分词概率序列和反向翻译语句切分词概率序列确定总损失值；利用机器学习方法调整初始翻译模型的模型参数后再次执行输入步骤和损失值确定步骤，直到根据总损失值和损失值阈值的比较结果确定模型训练完成，将初始翻译模型确定为所生成的翻译模型。
在一些实施例中，将所得到的第一语义向量和该训练样本中的目标语句切分词序列输入正向解码器得到正向翻译语句切分词概率序列，包括：将所得到的第一语义向量和该训练样本中的目标语句切分词序列输入正向解码器，得到正向翻译语句切分词概率分布矩阵，正向翻译语句切分词概率分布矩阵用于表征正向翻译语句中每个切分词是预设切分词表中各个切分词的概率值；用所得到的正向翻译语句切分词概率分布矩阵中每个切分词属于预设切分词表中各个切分词的概率值中的最大值所对应的切分词和相应的概率值生成正向翻译语句切分词概率序列。
在一些实施例中，将所得的第二语义向量和该训练样本中的目标语句切分词序列的反向序列输入反向解码器得到反向翻译语句切分词概率序列，包括：将所得的第二语义向量和该训练样本中的目标语句切分词序列的反向序列输入反向解码器，得到反向翻译语句切分词概率分布矩阵，反向翻译语句切分词概率分布矩阵用于表征反向翻译语句中每个切分词是预设切分词表中每个切分词的概率值；用所得到的反向翻译语句切分词概率分布矩阵中每个切分词属于预设切分词表中每个切分词的概率值中的最大值所对应的切分词和相应的概率值生成反向翻译语句切分词概率序列。
在一些实施例中，基于训练样本集中各训练样本对应的正向翻译语句切分词概率序列和对应的反向翻译语句切分词概率序列确定总损失值，包括：分别将训练样本集中各训练样本对应的正向翻译语句切分词概率序列对应的交叉熵损失和反向翻译语句切分词序列对应的交叉熵损失确定为正向交叉熵损失和反向交叉熵损失；将训练样本集中训练样本的正向翻译语句切分词概率分布矩阵和反向翻译语句切分词概率分布矩阵的反向矩阵的加权矩阵，确定为该训练样本对应的正向翻译语句切分词概率分布加权矩阵；将训练样本集中训练样本的反向翻译语句切分词概率分布矩阵和正向翻译语句切分词概率分布矩阵的反向矩阵的加权矩阵，确定为该训练样本对应的反向翻译语句切分词概率分布矩阵加权矩阵；将用训练样本集中训练样本对应的正向翻译语句切分词概率分布矩阵拟合训练样本对应的正向翻译语句切分词概率分布加权矩阵的相对熵确定为正向相对熵损失；将用训练样本集中训练样本对数的反向翻译语句切分词概率分布矩阵拟合训练样本对应的反向翻译语句切分词概率分布加权矩阵的相对熵确定为反向相对熵损失；将正向交叉熵损失、反向交叉熵损失、正向相对熵损失和反向相对熵损失的加权和确定为总损失值。
在一些实施例中，将训练样本集中训练样本的正向翻译语句切分词概率分布矩阵和反向翻译语句切分词概率分布矩阵的反向矩阵的加权矩阵，确定为该训练样本对应的正向翻译语句切分词概率分布加权矩阵，包括：将训练样本集中训练样本的正向翻译语句切分词概率分布矩阵和第一矩阵的加权矩阵，确定为该训练样本对应的正向翻译语句切分词概率分布加权矩阵，其中，训练样本的第一矩阵为将训练样本的反向翻译语句切分词概率分布矩阵的反向矩阵中用于表征反向翻译语句中切分词是预设句子结束标识切分词之前的切分词属于预设切分词表中每个切分词的概率值置零后所得到的矩阵。
在一些实施例中，将训练样本集中训练样本的反向翻译语句切分词概率分布矩阵和正向翻译语句切分词概率分布矩阵的反向矩阵的加权矩阵，确定为该训练样本对应的反向翻译语句切分词概率分布矩阵加权矩阵，包括：将训练样本集中训练样本的反向翻译语句切分词概率分布矩阵和第二矩阵的加权矩阵，确定为该训练样本对应的反向翻译语句切分词概率分布矩阵加权矩阵，其中，训练样本的第二矩阵为将训练样本的正向翻译语句切分词概率分布矩阵的反向矩阵中用于表征正向翻译语句中切分词是预设句子结束标识切分词之后的切分词属于预设切分词表中每个切分词的概率值置零后所得到的矩阵。
第二方面，本申请实施例提供了一种用于生成翻译模型的装置，该装置包括：样本获取单元，被配置成获取训练样本集，其中，训练样本包括源语言的源语句切分词序列以及具有相同语义的目标语言的目标语句切分词序列；模型确定单元，被配置成确定初始翻译模型，初始翻译模型包括正向编码器、正向解码器、反向编码器和反向解码器；样本输入单元，被配置成对于训练样本集中的训练样本，执行以下输入步骤：将该训练样本中的源语句切分词序列分别输入正向编码器和反向编码器，得到第一语义向量和第二语义向量；将所得到的第一语义向量和该训练样本中的目标语句切分词序列输入正向解码器得到正向翻译语句切分词概率序列；将所得的第二语义向量和该训练样本中的目标语句切分词序列的反向序列输入反向解码器得到反向翻译语句切分词概率序列；损失确定单元，被配置成执行以下损失值确定步骤：基于训练样本集中训练样本对应的正向翻译语句切分词概率序列和反向翻译语句切分词概率序列确定总损失值；参数调整单元，被配置成利用机器学习方法调整初始翻译模型的模型参数后再次执行输入步骤和损失值确定步骤，直到根据总损失值和损失值阈值的比较结果确定模型训练完成，将初始翻译模型确定为所生成的翻译模型。
在一些实施例中，将所得到的第一语义向量和该训练样本中的目标语句切分词序列输入正向解码器得到正向翻译语句切分词概率序列，包括：将所得到的第一语义向量和该训练样本中的目标语句切分词序列输入正向解码器，得到正向翻译语句切分词概率分布矩阵，正向翻译语句切分词概率分布矩阵用于表征正向翻译语句中每个切分词是预设切分词表中各个切分词的概率值；用所得到的正向翻译语句切分词概率分布矩阵中每个切分词属于预设切分词表中各个切分词的概率值中的最大值所对应的切分词和相应的概率值生成正向翻译语句切分词概率序列。
在一些实施例中，将所得的第二语义向量和该训练样本中的目标语句切分词序列的反向序列输入反向解码器得到反向翻译语句切分词概率序列，包括：将所得的第二语义向量和该训练样本中的目标语句切分词序列的反向序列输入反向解码器，得到反向翻译语句切分词概率分布矩阵，反向翻译语句切分词概率分布矩阵用于表征反向翻译语句中每个切分词是预设切分词表中每个切分词的概率值；用所得到的反向翻译语句切分词概率分布矩阵中每个切分词属于预设切分词表中每个切分词的概率值中的最大值所对应的切分词和相应的概率值生成反向翻译语句切分词概率序列。
在一些实施例中，损失确定单元，包括：第一确定模块，被配置成分别将训练样本集中各训练样本对应的正向翻译语句切分词概率序列对应的交叉熵损失和反向翻译语句切分词序列对应的交叉熵损失确定为正向交叉熵损失和反向交叉熵损失；第二确定模块，被配置成将训练样本集中训练样本的正向翻译语句切分词概率分布矩阵和反向翻译语句切分词概率分布矩阵的反向矩阵的加权矩阵，确定为该训练样本对应的正向翻译语句切分词概率分布加权矩阵；第三确定模块，被配置成将训练样本集中训练样本的反向翻译语句切分词概率分布矩阵和正向翻译语句切分词概率分布矩阵的反向矩阵的加权矩阵，确定为该训练样本对应的反向翻译语句切分词概率分布矩阵加权矩阵；第四确定模块，被配置成将用训练样本集中训练样本对应的正向翻译语句切分词概率分布矩阵拟合训练样本对应的正向翻译语句切分词概率分布加权矩阵的相对熵确定为正向相对熵损失；第五确定模块，被配置成将用训练样本集中训练样本对数的反向翻译语句切分词概率分布矩阵拟合训练样本对应的反向翻译语句切分词概率分布加权矩阵的相对熵确定为反向相对熵损失；第六确定模块，被配置成将正向交叉熵损失、反向交叉熵损失、正向相对熵损失和反向相对熵损失的加权和确定为总损失值。
在一些实施例中，第二确定模块进一步被配置成：将训练样本集中训练样本的正向翻译语句切分词概率分布矩阵和第一矩阵的加权矩阵，确定为该训练样本对应的正向翻译语句切分词概率分布加权矩阵，其中，训练样本的第一矩阵为将训练样本的反向翻译语句切分词概率分布矩阵的反向矩阵中用于表征反向翻译语句中切分词是预设句子结束标识切分词之前的切分词属于预设切分词表中每个切分词的概率值置零后所得到的矩阵。
在一些实施例中，第三确定模块进一步被配置成：将训练样本集中训练样本的反向翻译语句切分词概率分布矩阵和第二矩阵的加权矩阵，确定为该训练样本对应的反向翻译语句切分词概率分布矩阵加权矩阵，其中，训练样本的第二矩阵为将训练样本的正向翻译语句切分词概率分布矩阵的反向矩阵中用于表征正向翻译语句中切分词是预设句子结束标识切分词之后的切分词属于预设切分词表中每个切分词的概率值置零后所得到的矩阵。
第三方面，本申请实施例提供了一种用于翻译语句的方法，该方法包括：获取源语言的待翻译语句；将待翻译语句输入采用如第一方面中任一实现方式描述的方法生成的翻译模型中，生成与待翻译语句对应的目标语言的翻译结果语句。
第四方面，本申请实施例提供了一种用于翻译语句的装置，该装置包括：语句获取单元，被配置成获取源语言的待翻译语句；翻译单元，被配置成将待翻译语句输入采用如第一方面中任一实现方式描述的方法生成的翻译模型中，生成与待翻译语句对应的目标语言的翻译结果语句。
第五方面，本申请实施例提供了一种电子设备，包括：一个或多个处理器；存储装置，其上存储有一个或多个程序，当上述一个或多个程序被上述一个或多个处理器执行时，使得上述一个或多个处理器实现如第一方面和第三方面中任一实现方式描述的方法。
第六方面，本申请实施例提供了一种计算机可读存储介质，其上存储有计算机程序，其中，该计算机程序被一个或多个处理器执行时实现如第一方面和第三方面中任一实现方式描述的方法。
本申请实施例提供的用于生成翻译模型的方法和装置，通过基于将训练样本输入正向编码器和正向解码器所得到的正向翻译语句切分词概率序列，和将训练样本输入反向编码器和反向解码器所得到的反向翻译语句切分词概率序列确定总损失值，并在确定模型未训练完成时，调整正向编码器、正向解码器、反向编码器和反向解码器的模型参数直到确定模型训练完成。按照上述方法训练得到的翻译模型中结合了从前到后翻译和从后向前翻译，可以减少前面翻译错误对后面翻译结果的不良影响，继而提升利用该翻译模型进行翻译的翻译效果。
附图说明
通过阅读参照以下附图所作的对非限制性实施例所作的详细描述，本申请的其它特征、目的和优点将会变得更明显：
图1是本申请的一个实施例可以应用于其中的示例性系统架构图；
图2A是根据本申请的用于生成翻译模型的方法的一个实施例的流程图；
图2B是根据本申请的输入步骤的分解流程图；
图2C是根据本申请的损失值确定步骤的分解流程图；
图3是根据本申请的用于生成翻译模型的方法的一个应用场景的示意图；
图4是根据本申请的用于生成翻译模型的装置的一个实施例的结构示意图；
图5是根据本申请的用于翻译语句的方法的一个实施例的流程图；
图6是根据本申请的用于翻译语句的装置的一个实施例的结构示意图；
图7是适于用来实现本申请实施例的电子设备的计算机系统的结构示意图。
具体实施方式
下面结合附图和实施例对本申请作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释相关发明，而非对该发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与有关发明相关的部分。
需要说明的是，在不冲突的情况下，本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。
图1示出了可以应用本申请的用于翻译语句的方法或用于翻译语句的装置的实施例的示例性系统架构100。
如图1所示，系统架构100可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等。终端设备101、102、103上可以安装有各种通讯客户端应用，例如翻译类应用、网页浏览器应用、购物类应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等。
终端设备101、102、103可以是硬件，也可以是软件。当终端设备101、102、103为硬件时，可以是具有显示屏的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。当终端设备101、102、103为软件时，可以安装在上述所列举的电子设备中。其可以实现成多个软件或软件模块，也可以实现成单个软件或软件模块。在此不做具体限定。
服务器105可以是提供各种服务的服务器，例如对从终端设备101、102、103接收的待翻译语句进行翻译的后台服务器。后台服务器可以对接收到的待翻译语句等数据进行分析等处理，并将处理结果(例如翻译结果)反馈给终端设备。
需要说明的是，本申请实施例所提供的用于生成翻译模型的方法和装置以及用于翻译语句的方法和装置一般由服务器105执行，相应地，用于生成翻译模型的方法和装置以及用于翻译语句的方法和装置一般设置于服务器105中。
需要说明的是，服务器可以是硬件，也可以是软件。当服务器为硬件时，可以实现成多个服务器组成的分布式服务器集群，也可以实现成单个服务器。当服务器为软件时，可以实现成多个软件或软件模块(例如用来提供翻译服务或者用来提供翻译模型生成服务)，也可以实现成单个软件或软件模块。在此不做具体限定。
应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。
继续参考图2，其示出了根据本申请的用于生成翻译模型的方法的一个实施例的流程200。该用于生成翻译模型的方法，包括以下步骤：
步骤201，获取训练样本集。
在本实施例中，用于生成翻译模型的方法的执行主体(例如图1所示的服务器)可以首先训练样本集。其中，训练样本包括源语言的源语句切分词序列以及对应的具有相同语义的目标语言的目标语句切分词序列。
实践中，源语言通常和目标语言为不同的语言。
步骤202，确定初始翻译模型。
在本实施例中，上述执行主体可以首先确定初始翻译模型的模型结构，然后可以初始化初始翻译模型的模型参数。这里，上述初始翻译模型可以包括正向编码器、正向解码器、反向编码器和反向解码器。由于语句中的词具有先后顺序，即语句属于时序数据。这里，正向编码器、正向解码器、反向编码器和反向解码器可以是适合处理时序数据的各种模型。作为示例，适合处理时序数据的模型可以包括但不限于：Transformer模型、循环神经网络(RNN，Recurrent Neural Network)、门控循环单元(GNN，Gate Neural Network)、时间递归神经网络(LSTM，Long Short Term Memory)以及双向循环神经网络(BiRNN，BidirectionalRecurrent Neural Network)等。
上述执行主体可以首先确定初始翻译模型中所包括的正向编码器、正向解码器、反向编码器和反向解码器的模型结构。例如，当正向编码器、正向解码器、反向编码器和反向解码器为神经网络模型时，需要确定正向编码器、正向解码器、反向编码器和反向解码器包括哪些层，层与层之间的连接顺序关系，以及每层都包括哪些神经元，每个神经元对应的权重(weight)和偏置项(bias)，每层的激活函数等等。可以理解的是，由于神经网络类型的不同，对于不同类型的神经网络所需要确定的网络结构也不相同。
然后，上述执行主体可以初始化初始翻译模型的模型参数，即初始化正向编码器、正向解码器、反向编码器和反向解码器所包括的各项参数的参数值。实践中，可以将初始化正向编码器、正向解码器、反向编码器和反向解码器所包括的各项参数(例如，权值参数和偏置参数)用一些不同的小随机数进行初始化。“小随机数”用来保证模型不会因权值过大而进入饱和状态，从而导致训练失败，“不同”用来保证模型可以正常地学习。
步骤203，对于训练样本集中的训练样本，执行输入步骤。
在本实施例中，用于生成翻译模型的执行主体可以执行以下输入步骤。具体请参考图2B，图2B示出了根据本申请的训练样本输入步骤的分解流程图。如图2B所示，输入步骤可以包括以下子步骤2031到子步骤2033：
子步骤2031，将该训练样本中的源语句切分词序列分别输入正向编码器和反向编码器，得到第一语义向量和第二语义向量。
这里，上述执行主体可以先将源语句切分词序列中的每个词转换成词向量(例如利用词袋模型或者词向量(word-embedding)模型)得到源语句切分词向量序列，再将源语句切分词向量序列输入正向编码器得到第一语义向量，将源语句切分词向量序列输入反向编码器，得到第二语义向量。
例如，将源语句切分词序列“我/爱/北京”输入正向编码器，得到第一语义向量V1，将源语句切分词序列“我/爱/北京”输入反向编码器，得到第二语义向量V2。
子步骤2032，将所得到的第一语义向量和该训练样本中的目标语句切分词序列输入正向解码器得到正向翻译语句切分词概率序列。
这里，上述执行主体可以将子步骤2031中将该训练样本中的源语句切分词序列输入正向编码器所得到的第一语义向量和该训练样本中的目标语句切分词序列输入正向解码器得到正向翻译语句切分词概率序列。其中，正向翻译语句切分词概率序列是由至少一个切分词概率信息按时序组成的序列，这里切分词概率信息可以包括基于目标语言的切分词和对应的概率值。
实践中，将所得到的第一语义向量和该训练样本中的目标语句切分词序列输入正向解码器，可以得到正向翻译语句切分词概率分布矩阵，这里，正向翻译语句切分词概率分布矩阵用于表征正向翻译语句中每个切分词是预设切分词表中各个切分词的概率值。然后，可以用所得到的正向翻译语句切分词概率分布矩阵中每个切分词属于预设切分词表中各个切分词的概率值中的最大值所对应的切分词和相应的概率值生成正向翻译语句切分词概率序列。即，正向翻译语句切分词概率序列是由至少一个切分词概率信息按时序组成的，其中，切分词概率信息包括预设切分词表中的切分词和对应的概率值。
例如，子步骤2031中将源语句切分词序列“我/爱/北京”输入正向编码器得到第一语义向量V1，将第一语义向量V1和与源语句切分词序列“我/爱/北京”对应的目标语句切分词序列“I/love/Beijing”输入正向解码器，可以得到正向翻译语句切分词概率序列：{“I，0.89”，“love，0.95”，“Beijing，0.78”}，当然也可能得到正向翻译语句切分词概率序列：{“I，0.96”，“like，0.85”，“Beijing，0.83”}，即有可能所得到的正向翻译语句切分词概率序列中的切分词与目标语句切分词序列中的切分词相同或者不同。
子步骤2033，将所得的第二语义向量和该训练样本中的目标语句切分词序列的反向序列输入反向解码器得到反向翻译语句切分词概率序列。
这里，上述执行主体可以将子步骤2031中所得到的第二语义向量和该训练样本中的目标语句切分词序列的反向序列输入反向解码器得到反向翻译语句切分词概率序列。
其中，目标语句切分词序列的反向序列是将目标语句切分词序列中的各个切分词倒序之后所得到的序列。例如，目标语句切分词序列“I/love/Beijing”的反向序列可以是“Beijing/love/I”。
这里，反向翻译语句切分词概率序列是由至少一个切分词概率信息按时序组成的序列，这里切分词概率信息可以包括基于目标语言的切分词和对应的概率值。
实践中，将所得到的第二语义向量和该训练样本中的目标语句切分词序列的反向序列输入反向解码器，可以得到反向翻译语句切分词概率分布矩阵，这里，反向翻译语句切分词概率分布矩阵用于表征反向翻译语句中每个切分词是预设切分词表中各个切分词的概率值。然后，可以用所得到的反向翻译语句切分词概率分布矩阵中每个切分词属于预设切分词表中各个切分词的概率值中的最大值所对应的切分词和相应的概率值生成反向翻译语句切分词概率序列。即，反向翻译语句切分词概率序列是由至少一个切分词概率信息按时序组成的，其中，切分词概率信息包括预设切分词表中的切分词和对应的概率值。
例如，子步骤2031中将源语句切分词序列“我/爱/北京”输入反向编码器得到第二语义向量V2，将第二语义向量V2和与源语句切分词序列“我/爱/北京”对应的目标语句切分词序列“I/love/Beijing”的反向序列“Beijing/love/I”输入反向解码器，可以得到反向翻译语句切分词概率序列：{“Beijing，0.83”，“love，0.75”，“I，0.86”}，当然也可能得到正向翻译语句切分词概率序列：{“Beijing，0.91”，“like，0.93”，“I，0.79”}。
步骤204，执行损失值确定步骤。
在本实施例中，上述执行主体可以在计算得到训练样本集中训练样本对应的正向翻译语句切分词概率序列和反向翻译语句切分词概率序列后，执行以下损失值确定步骤：基于训练样本集中训练样本对应的正向翻译语句切分词概率序列和对应的反向翻译语句切分词概率序列确定总损失值。
在本实施例的一些可选的实现方式中，上述执行主体可以将训练样本集中训练样本对应的正向翻译语句切分词概率序列对应的交叉熵损失确定为正向交叉熵损失，将训练样本集中训练样本对应的反向翻译语句切分词概率序列对应的交叉熵损失确定为反向交叉熵损失，然后，将正向交叉熵损失和反向交叉熵损失的加权和作为总损失值。具体，可以用公式表示如下：
Totalxent(wf，wb)＝a1·L2Rxent(wf)+a2·R2Lxent(wb) (1)
Figure BDA0001908824620000121
Figure BDA0001908824620000122
其中：
wf为正向编码器和正向解码器所包括的各个参数的当前取值；
wb为反向编码器和反向解码器所包括的各个参数的当前取值；
a1和a2是预设的常数，可以由技术人员根据实际调整，作为示例当a1和a2均为0.5时，总损失值是正向交叉熵损失和反向交叉熵损失的平均值；
M为训练样本集中训练样本的数目；
i和j均为1到M之间的正整数；
Ti为第i个训练样本对应的正向翻译语句切分词序列中切分词的数目；
T′j为第j个训练样本对应的反向翻译语句切分词序列中切分词的数目；
xi是第i个训练样本中的源语句切分词序列；
xj是第j个训练样本中的源语句切分词序列；
Figure BDA0001908824620000131
是指在正向编码器和正向解码器所包括的各个参数的当前取值为wf的情况下，将第i个训练样本中的源语句切分词序列xi输入正向编码器得到第一语义向量，再将第一语义向量和第i个训练样本中的目标语句切分词序列输入正向解码器所得到的正向翻译语句切分词序列中第1到t-1个切分词分别为
Figure BDA0001908824620000132
而第t个词为
Figure BDA0001908824620000133
的概率值；
Figure BDA0001908824620000134
是指在反向编码器和反向解码器所包括的各个参数的当前取值为wb的情况下，将第j个训练样本中的源语句切分词序列xj输入反向编码器得到第二语义向量，再将第二语义向量和第j个训练样本中的目标语句切分词序列的反向序列输入反向解码器所得到的反向翻译语句切分词序列中第t+1到T个切分词分别为
Figure BDA0001908824620000135
而第t个词为
Figure BDA0001908824620000136
的概率值；
L2Rxent(wf)是指在正向编码器和正向解码器所包括的各个参数的当前取值为wf的情况下，计算所得的正向交叉熵损失；
R2Lxent(wb)是指在反向编码器和反向解码器所包括的各个参数的当前取值为wb的情况下，计算所得的反向交叉熵损失；
Totalxent(wf，wb)是指在正向编码器和正向解码器所包括的各个参数的当前取值为wf，且反向编码器和反向解码器所包括的各个参数的当前取值为wb的情况下，计算所得的总损失值。
这里对数可以以任何大于1的正数为底，例如可以以10为底，或者以无理数e(e＝2.71828...)为底。
在本实施例的一些可选的实现方式中，步骤204也可以包括如图2C所示的子步骤2041到子步骤2046：
子步骤2041，分别将训练样本集中各训练样本对应的正向翻译语句切分词概率序列对应的交叉熵损失和反向翻译语句切分词序列对应的交叉熵损失确定为正向交叉熵损失和反向交叉熵损失。
这里，关于如何计算正向交叉熵损失和反向交叉熵损失，可以参见上述可选实现方式中的具体描述，即计算得到上述可选实现方式中记载的公式中的正向交叉熵损失L2Rxent(wf)和反向交叉熵损失R2Lxent(wb)。
子步骤2042，将训练样本集中训练样本的正向翻译语句切分词概率分布矩阵和反向翻译语句切分词概率分布矩阵的反向矩阵的加权矩阵，确定为该训练样本对应的正向翻译语句切分词概率分布加权矩阵。
这里，可以做如下假设：
预设切分词表包括N个切分词，其中，N为正整数；
M为训练样本集中训练样本的数目；
m为1到M之间的正整数；
Tm为第m个训练样本对应的正向翻译语句切分词序列中切分词的数目；
T′m为第m个训练样本对应的反向翻译语句切分词序列中切分词的数目；
xm是第m个训练样本中的源语句切分词序列；
wf为正向编码器和正向解码器所包括的各个参数的当前取值；
wb为反向编码器和反向解码器所包括的各个参数的当前取值；
则有如下结论：
(1)训练样本集中第m个训练样本的正向翻译语句切分词概率分布矩阵F(xm，wf)的为Tm×N的矩阵，即，矩阵F(xm，wf)有Tm行N列，其中，Tm行中的每行分别对应正向翻译语句切分词序列中的每个切分词，且第一行对应第一个切分词，第二行对应第二个切分词，…，第Tm行对应第Tm个切分词，N列中的每列分别对应预设切分词表中的每个切分词，F(xm，wf)的第t行第n列的元素用于表征正向翻译语句切分词序列中第t个切分词为预设切分词表中第n个切分词的概率值，其中，t为1到Tm之间的正整数，n为1到N之间的正整数。
(2)训练样本集中第m个训练样本的反向翻译语句切分词概率分布矩阵F(xm，wb)为T′m×N的矩阵，即，矩阵F(xm，wb)有T′m行N列，其中，T′m行中的每行分别对应反向翻译语句切分词序列中的每个切分词，且第一行对应第一个切分词，第二行对应第二个切分词，…，第T′m行对应第T′m个切分词，N列中的每列分别对应预设切分词表中的每个切分词。实践中，Tm可以与T′m相同也可以不同。F(xm，wb)的第t行第n列的元素用于表征反向翻译语句切分词序列中第t个切分词为预设切分词表中第n个切分词的概率值。
但是，由于正向翻译语句切分词序列是按照翻译结果语句正序排列的，而反向翻译语句切分词序列中的切分词是按照翻译结果语句倒序排列的。因此，需要首先将反向翻译语句切分词概率分布矩阵中的每一行映射到正向翻译语句切分词概率分布矩阵中的相应行，即，需要首先生成反向翻译语句切分词概率分布矩阵F(xm，wb)的反向矩阵
Figure BDA0001908824620000151
具体而言，可以用反向翻译语句切分词概率分布矩阵F(xm，wb)的第t行作为反向矩阵
Figure BDA0001908824620000152
的第T′m+1-t行，这里，t为1到T′m之间的正整数，这样，就得到了反向翻译语句切分词概率分布矩阵F(xm，wb)的反向矩阵
Figure BDA0001908824620000153
然后，就可以将训练样本集中训练样本的正向翻译语句切分词概率分布矩阵
将训练样本集中训练样本的正向翻译语句切分词概率分布矩阵F(xm，wf)和反向翻译语句切分词概率分布矩阵的反向矩阵
Figure BDA0001908824620000154
的加权矩阵，确定为该训练样本对应的正向翻译语句切分词概率分布加权矩阵
Figure BDA0001908824620000155
作为示例，可以直接按照如下公式确定该训练样本对应的正向翻译语句切分词概率分布加权矩阵：
Figure BDA0001908824620000156
其中：
b1和b2是预设的常数，可以由技术人员根据实际调整。作为示例当b1和b2均为0.5时，正向翻译语句切分词概率分布加权矩阵是正向翻译语句切分词概率分布矩阵F(xm，wf)和反向翻译语句切分词概率分布矩阵的反向矩阵
Figure BDA0001908824620000161
的均值矩阵。
Figure BDA0001908824620000162
是计算所得到的正向翻译语句切分词概率分布加权矩阵。
在本实施例的一些可选的实现方式中，当反向翻译语句切分词概率分布矩阵的反向矩阵
Figure BDA0001908824620000163
中某一行的对应预设切分词表中各个切分词的概率值中最大的概率值对应的切分词为预设句子结束标识切分词(实践中一般以“EOS”(即，end of sentence)作为句子结束标识切分词)，由于已经到了句尾，那么，
Figure BDA0001908824620000164
中该行之后的其他行的矩阵元素就没有意义了。因此，子步骤2042也可以如下进行：将训练样本集中训练样本的正向翻译语句切分词概率分布矩阵F(xm，wf)和第一矩阵的加权矩阵，确定为该训练样本对应的正向翻译语句切分词概率分布加权矩阵
Figure BDA0001908824620000165
其中，训练样本的第一矩阵为将训练样本的反向翻译语句切分词概率分布矩阵的反向矩阵
Figure BDA0001908824620000166
中用于表征反向翻译语句中切分词是预设句子结束标识切分词之前的切分词属于预设切分词表中每个切分词的概率值置零后所得到的矩阵。按照该种可选实现方式，由于去掉了句子结束标识切分词之后的概率分布，可以进一步加快模型训练的收敛速度。
子步骤2043，将训练样本集中训练样本的反向翻译语句切分词概率分布矩阵和正向翻译语句切分词概率分布矩阵的反向矩阵的加权矩阵，确定为该训练样本对应的反向翻译语句切分词概率分布矩阵加权矩阵。
这里，继续延用子步骤2042中的假设。
同样，由于正向翻译语句切分词序列是按照翻译结果语句正序排列的，而反向翻译语句切分词序列中的切分词是按照翻译结果语句倒序排列的。这里，需要首先将正向翻译语句切分词概率分布矩阵中的每一行映射到反向翻译语句切分词概率分布矩阵中的相应行，即，需要首先生成正向翻译语句切分词概率分布矩阵F(xm，wf)的反向矩阵
Figure BDA0001908824620000171
具体而言，可以用正向翻译语句切分词概率分布矩阵F(xm，wf)的第t行作为反向矩阵
Figure BDA0001908824620000172
的第Tm+1-t行，这里，t为1到Tm之间的正整数，这样，就得到了反向矩阵
Figure BDA0001908824620000173
然后，就可以将训练样本集中训练样本的反向翻译语句切分词概率分布矩阵F(xm，wb)和正向翻译语句切分词概率分布矩阵的反向矩阵
Figure BDA0001908824620000174
的加权矩阵，确定为该训练样本对应的反向翻译语句切分词概率分布加权矩阵
Figure BDA0001908824620000175
作为示例，可以直接按照如下公式确定该训练样本对应的反向翻译语句切分词概率分布加权矩阵：
Figure BDA0001908824620000176
其中：
c1和c2是预设的常数，可以由技术人员根据实际调整。作为示例当c1和c2均为0.5时，反向翻译语句切分词概率分布加权矩阵是反向翻译语句切分词概率分布矩阵F(xm，wb)和正向翻译语句切分词概率分布矩阵的反向矩阵
Figure BDA0001908824620000177
的均值矩阵。
Figure BDA0001908824620000178
是计算所得到的反向翻译语句切分词概率分布加权矩阵。
在本实施例的一些可选的实现方式中，当正向翻译语句切分词概率分布矩阵的反向矩阵
Figure BDA0001908824620000179
中某一行的对应预设切分词表中各个切分词的概率值中最大的概率值对应的切分词为句子结束标识切分词(实践中一般以“EOS”(即，end of sentence)作为句子结束标识切分词)，那么，
Figure BDA00019088246200001710
中该行之前的其他行的矩阵元素就没有意义了。因此，子步骤2043也可以如下进行：将训练样本集中训练样本的反向翻译语句切分词概率分布矩阵F(xm，wb)和第二矩阵的加权矩阵，确定为该训练样本对应的反向翻译语句切分词概率分布加权矩阵
Figure BDA00019088246200001711
其中，训练样本的第二矩阵为将训练样本的正向翻译语句切分词概率分布矩阵的反向矩阵
Figure BDA00019088246200001712
中用于表征正向翻译语句中切分词是预设句子结束标识切分词之后的切分词属于预设切分词表中每个切分词的概率值置零后所得到的矩阵。按照该种可选实现方式，由于去掉了句子结束标识切分词之后的概率分布，可以进一步加快模型训练的收敛速度。
子步骤2044，将用训练样本集中训练样本对应的正向翻译语句切分词概率分布矩阵拟合训练样本对应的正向翻译语句切分词概率分布加权矩阵的相对熵确定为正向相对熵损失。
这里，继续延用上述步骤中公式的假设，则步骤2044可以用公式表示如下：
Figure BDA0001908824620000181
其中：
Figure BDA0001908824620000182
是指用F(xm，wf)拟合
Figure BDA0001908824620000183
所得到的KL散度(也叫相对熵)；
KLxent(wf)是计算得到的正向相对熵损失。
子步骤2045，将用训练样本集中训练样本对数的反向翻译语句切分词概率分布矩阵拟合训练样本对应的反向翻译语句切分词概率分布加权矩阵的相对熵确定为反向相对熵损失。
这里，继续延用上述步骤中的公式说明，则步骤2045可以用公式表示如下：
Figure BDA0001908824620000184
其中：
Figure BDA0001908824620000185
是指用F(xm，wb)拟合
Figure BDA0001908824620000186
所得到的KL散度(也叫相对熵)；
KLxent(wb)是计算得到的反向相对熵损失。
子步骤2046，将正向交叉熵损失、反向交叉熵损失、正向相对熵损失和反向相对熵损失的加权和确定为总损失值。
具体，可以用公式表示如下：
KLxent(wf，wb)
＝d1·L2Rxent(wf)+d2·R2Lxent(wb)+d3
·KLxent(wf)+d4·KLxent(wb)
其中，L2Rxent(wf)，R2Lxent(wb)，KLxent(wf)和KLxent(wb)的解释参见前文，d1，d2，d3和d4是常数，可以由技术人员根据实际调整。
经过步骤204可以得到总损失值。
步骤205，利用机器学习方法调整初始翻译模型的模型参数后再次执行输入步骤和损失值确定步骤，直到根据总损失值和损失值阈值的比较结果确定模型训练完成，将初始翻译模型确定为所生成的翻译模型。
在本实施例中，上述执行主体可以首先采用各种实现方式，根据总损失值和损失值阈值的比较结果确定模型是否训练完成。例如，可以在总损失值小于损失值阈值的情况下确定模型训练完成。又例如，还可以在总损失值小于等于损失值阈值的情况下确定模型训练完成。
然后，如果确定模型训练完成，则可以将初始翻译模型确定为翻译模型。如果确定模型训练未完成，则可以利用机器学习方法调整初始翻译模型的模型参数，再次执行输入步骤和损失值确定步骤，直到根据总损失值和损失值阈值的比较结果确定模型训练完成。
例如，可以采用BP(Back Propagation，反向传播)算法或者SGD(StochasticGradient Descent，随机梯度下降)算法来调整初始翻译模型的模型参数。
进一步参见图3，图3是根据本实施例的用于生成翻译模型的方法的一个应用场景的示意图。在图3的应用场景中，用户所使用的终端301上可以安装有用于生成翻译模型的应用。当用户打开该应用，并上传训练样本集或训练样本集的存储路径后，对该应用提供后台支持的服务器302可以运行用于生成翻译模型的方法，包括：
首先，可以获取训练样本集303，训练样本集包括训练样本3031、3032…，和训练样本3038。其中，每个训练样本可以包括源语言的源语句切分词序列以及对应的具有相同语义的目标语言的目标语句切分词序列。
之后，可以确定初始翻译模型304，初始翻译模型304包括正向编码器3041、正向解码器3042、反向编码器3043和反向解码器3044。
再，对于训练样本集303中的训练样本，执行训练样本输入步骤，下面以训练样本3031为例，说明训练样本输入步骤，可以理解的对不同的训练样本，该步骤是相同的：将该训练样本3031中的源语句切分词序列30311分别输入正向编码器3041和反向编码器3043，分别得到第一语义向量305和第二语义向量306，将所得到的第一语义向量305和该训练样本3031中的目标语句切分词序列30312输入正向解码器3042得到正向翻译语句切分词概率序列307，将所得的第二语义向量306和该训练样本中的目标语句切分词序列30312的反向序列30312’输入反向解码器3044得到反向翻译语句切分词概率序列308。
接着，执行损失值确定步骤：基于训练样本集303中训练样本对应的正向翻译语句切分词概率序列307和对应的反向翻译语句切分词概率序列308确定总损失值309。
而后，如果根据总损失值309和损失值阈值310的比较结果确定模型训练完成，则将初始翻译模型304确定为翻译模型311。反之，如果确定模型训练未完成，则利用机器学习方法调整初始翻译模型304的模型参数，以及对于训练样本集中的训练样本，再次执行输入步骤和损失值确定步骤，知道根据总损失值309和损失值阈值310的比较结果确定模型训练完成。
本申请的上述实施例提供的方法通过基于将训练样本输入正向编码器和正向解码器所得到的正向翻译语句切分词概率序列，和将训练样本输入反向编码器和反向解码器所得到的反向翻译语句切分词概率序列确定总损失值，并在确定模型未训练完成时，调整正向编码器、正向解码器、反向编码器和反向解码器的模型参数直到确定模型训练完成。按照上述方法训练得到的翻译模型中结合了从前到后翻译和从后向前翻译，可以减少前面翻译错误对后面翻译结果的不良影响。
继续参见图4，作为对上述各图所示方法的实现，本申请提供了一种用于生成翻译模型的装置的一个实施例。该装置实施例与图2所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。
如图4所示，本实施例的用于生成翻译模型的装置400可以包括：样本获取单元401、模型确定单元402、样本输入单元403、损失确定单元404和参数调整单元405，其中，样本获取单元401，被配置成获取训练样本集，其中，训练样本包括源语言的源语句切分词序列以及具有相同语义的目标语言的目标语句切分词序列；模型确定单元402，被配置成确定初始翻译模型，上述初始翻译模型包括正向编码器、正向解码器、反向编码器和反向解码器；样本输入单元403，被配置成对于上述训练样本集中的训练样本，执行以下输入步骤：将该训练样本中的源语句切分词序列分别输入上述正向编码器和上述反向编码器，得到第一语义向量和第二语义向量；将所得到的第一语义向量和该训练样本中的目标语句切分词序列输入上述正向解码器得到正向翻译语句切分词概率序列；将所得的第二语义向量和该训练样本中的目标语句切分词序列的反向序列输入上述反向解码器得到反向翻译语句切分词概率序列；损失确定单元404，被配置成执行以下损失值确定步骤：基于上述训练样本集中训练样本对应的正向翻译语句切分词概率序列和反向翻译语句切分词概率序列确定总损失值；参数调整单元405，被配置成利用机器学习方法调整上述初始翻译模型的模型参数后再次执行上述输入步骤和上述损失值确定步骤，直到根据上述总损失值和上述损失值阈值的比较结果确定模型训练完成，将上述初始翻译模型确定为所生成的翻译模型。
在本实施例中，用于生成翻译模型的装置400的样本获取单元401、模型确定单元402、样本输入单元403、损失确定单元404和参数调整单元405的具体处理及其所带来的技术效果可分别参考图2对应实施例中步骤201、步骤202、步骤203、步骤204和步骤205的相关说明，在此不再赘述。
在本实施例的一些可选的实现方式中，上述将所得到的第一语义向量和该训练样本中的目标语句切分词序列输入上述正向解码器得到正向翻译语句切分词概率序列，可以包括：将所得到的第一语义向量和该训练样本中的目标语句切分词序列输入上述正向解码器，得到正向翻译语句切分词概率分布矩阵，正向翻译语句切分词概率分布矩阵用于表征正向翻译语句中每个切分词是预设切分词表中各个切分词的概率值；用所得到的正向翻译语句切分词概率分布矩阵中每个切分词属于预设切分词表中各个切分词的概率值中的最大值所对应的切分词和相应的概率值生成正向翻译语句切分词概率序列。
在本实施例的一些可选的实现方式中，上述将所得的第二语义向量和该训练样本中的目标语句切分词序列的反向序列输入上述反向解码器得到反向翻译语句切分词概率序列，可以包括：将所得的第二语义向量和该训练样本中的目标语句切分词序列的反向序列输入上述反向解码器，得到反向翻译语句切分词概率分布矩阵，反向翻译语句切分词概率分布矩阵用于表征反向翻译语句中每个切分词是上述预设切分词表中每个切分词的概率值；用所得到的反向翻译语句切分词概率分布矩阵中每个切分词属于上述预设切分词表中每个切分词的概率值中的最大值所对应的切分词和相应的概率值生成反向翻译语句切分词概率序列。
在本实施例的一些可选的实现方式中，上述损失确定单元可以包括：第一确定模块(图中未示出)，被配置成分别将上述训练样本集中各训练样本对应的正向翻译语句切分词概率序列对应的交叉熵损失和反向翻译语句切分词序列对应的交叉熵损失确定为正向交叉熵损失和反向交叉熵损失；第二确定模块(图中未示出)，被配置成将上述训练样本集中训练样本的正向翻译语句切分词概率分布矩阵和反向翻译语句切分词概率分布矩阵的反向矩阵的加权矩阵，确定为该训练样本对应的正向翻译语句切分词概率分布加权矩阵；第三确定模块(图中未示出)，被配置成将上述训练样本集中训练样本的反向翻译语句切分词概率分布矩阵和正向翻译语句切分词概率分布矩阵的反向矩阵的加权矩阵，确定为该训练样本对应的反向翻译语句切分词概率分布矩阵加权矩阵；第四确定模块(图中未示出)，被配置成将用上述训练样本集中训练样本对应的正向翻译语句切分词概率分布矩阵拟合训练样本对应的正向翻译语句切分词概率分布加权矩阵的相对熵确定为正向相对熵损失；第五确定模块(图中未示出)，被配置成将用上述训练样本集中训练样本对数的反向翻译语句切分词概率分布矩阵拟合训练样本对应的反向翻译语句切分词概率分布加权矩阵的相对熵确定为反向相对熵损失；第六确定模块(图中未示出)，被配置成将上述正向交叉熵损失、上述反向交叉熵损失、上述正向相对熵损失和上述反向相对熵损失的加权和确定为上述总损失值。
在本实施例的一些可选的实现方式中，上述第二确定模块可以进一步被配置成：将上述训练样本集中训练样本的正向翻译语句切分词概率分布矩阵和第一矩阵的加权矩阵，确定为该训练样本对应的正向翻译语句切分词概率分布加权矩阵，其中，训练样本的第一矩阵为将训练样本的反向翻译语句切分词概率分布矩阵的反向矩阵中用于表征反向翻译语句中切分词是预设句子结束标识切分词之前的切分词属于预设切分词表中每个切分词的概率值置零后所得到的矩阵。
在本实施例的一些可选的实现方式中，上述第三确定模块可以进一步被配置成：将上述训练样本集中训练样本的反向翻译语句切分词概率分布矩阵和第二矩阵的加权矩阵，确定为该训练样本对应的反向翻译语句切分词概率分布矩阵加权矩阵，其中，训练样本的第二矩阵为将训练样本的正向翻译语句切分词概率分布矩阵的反向矩阵中用于表征正向翻译语句中切分词是预设句子结束标识切分词之后的切分词属于预设切分词表中每个切分词的概率值置零后所得到的矩阵。
需要说明的是，本申请实施例提供的用于翻译语句的装置中各单元的实现细节和技术效果可以参考本申请中其它实施例的说明，在此不再赘述。
进一步参考图5，其示出了根据本申请的用于翻译语句的方法的一个实施例的流程500。该用于翻译语句的方法，包括以下步骤：
步骤501，获取源语言的待翻译语句。
在本实施例中，用于翻译语句的方法的执行主体(例如图1所示的服务器)可以本地或者远程地从上述执行主体网络连接的电子设备(例如图1所示的终端设备)获取源语言的待翻译语句。
步骤502，将待翻译语句输入翻译模型中，生成与待翻译语句对应的目标语言的翻译结果语句。
在本实施例中，翻译模型可以是采用上述图2实施例所描述的用于生成翻译模型的方法而生成的。具体生成过程可以参见图2实施例的相关描述，在此不再赘述。
可以理解的是，步骤501中所获取的待翻译语句的语言可以是与图2所示的用于生成翻译模型的方法中所获取的训练样本集中源语句切分词序列的语言相同，而步骤502中翻译得到翻译结果语句的语言可以与图2所示的用于生成翻译模型的方法中所获取的训练样本集中目标语句切分词序列的语言相同。
需要说明的是，本实施例用于翻译语句的方法可以用于测试上述各实施例所生成的翻译模型。进而根据测试结果可以不断地优化翻译模型。该方法也可以是上述各实施例所生成的翻译模型的实际应用方法。采用上述各实施例所生成的翻译模型进行翻译语句，可以减少前面翻译错误对后面翻译结果的不良影响，继而可以提高翻译结果语句与待翻译语句在语义上的贴合度。
进一步参考图6，作为对上述各图所示方法的实现，本申请提供了一种用于翻译语句的装置的一个实施例，该装置实施例与图5所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。
如图6所示，本实施例的用于翻译语句的装置600包括：语句获取单元601和翻译单元602。其中，语句获取单元601，被配置成获取源语言的待翻译语句；翻译单元602，被配置成将上述待翻译语句输入如上述图2实施例所描述的方法生成的翻译模型中，生成与上述待翻译语句对应的目标语言的翻译结果语句。
在本实施例中，用于翻译语句的装置600的语句获取单元601和翻译单元602的具体处理及其所带来的技术效果可分别参考图5对应实施例中步骤501和步骤502的相关说明，在此不再赘述。
需要说明的是，本申请实施例提供的用于翻译语句的装置中各单元的实现细节和技术效果可以参考本申请中其它实施例的说明，在此不再赘述。
下面参考图7，其示出了适于用来实现本申请实施例的电子设备的计算机系统700的结构示意图。图7示出的电子设备仅仅是一个示例，不应对本申请实施例的功能和使用范围带来任何限制。
如图7所示，计算机系统700包括中央处理单元(CPU，Central Processing Unit)701，其可以根据存储在只读存储器(ROM，Read Only Memory)702中的程序或者从存储部分708加载到随机访问存储器(RAM，Random Access Memory)703中的程序而执行各种适当的动作和处理。在RAM 703中，还存储有系统700操作所需的各种程序和数据。CPU 701、ROM702以及RAM 703通过总线704彼此相连。输入/输出(I/O，Input/Output)接口705也连接至总线704。
以下部件连接至I/O接口705：包括键盘、鼠标等的输入部分706；包括诸如阴极射线管(CRT，Cathode Ray Tube)、液晶显示器(LCD，Liquid Crystal Display)等以及扬声器等的输出部分707；包括硬盘等的存储部分708；以及包括诸如LAN(局域网，Local AreaNetwork)卡、调制解调器等的网络接口卡的通信部分709。通信部分709经由诸如因特网的网络执行通信处理。驱动器710也根据需要连接至I/O接口705。可拆卸介质711，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器710上，以便于从其上读出的计算机程序根据需要被安装入存储部分708。
特别地，根据本公开的实施例，上文参考流程图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分709从网络上被下载和安装，和/或从可拆卸介质711被安装。在该计算机程序被中央处理单元(CPU)701执行时，执行本申请的方法中限定的上述功能。需要说明的是，本申请所述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本申请中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本申请中，计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、RF等等，或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本申请的操作的计算机程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图，图示了按照本申请各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
描述于本申请实施例中所涉及到的单元可以通过软件的方式实现，也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中，例如，可以描述为：一种处理器包括样本获取单元、模型确定单元、样本输入单元、损失确定单元和参数调整单元。再例如，也可以描述为：一种处理器包括语句获取单元和翻译单元。其中，这些单元的名称在某种情况下并不构成对该单元本身的限定，例如，语句获取单元还可以被描述为“获取源语言的待翻译语句的单元”。
作为另一方面，本申请还提供了一种计算机可读介质，该计算机可读介质可以是上述实施例中描述的装置中所包含的；也可以是单独存在，而未装配入该装置中。上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被该装置执行时，使得该装置：获取训练样本集，其中，训练样本包括源语言的源语句切分词序列以及具有相同语义的目标语言的目标语句切分词序列；确定初始翻译模型，初始翻译模型包括正向编码器、正向解码器、反向编码器和反向解码器；对于训练样本集中的训练样本，执行以下输入步骤：将该训练样本中的源语句切分词序列分别输入正向编码器和反向编码器，得到第一语义向量和第二语义向量；将所得到的第一语义向量和该训练样本中的目标语句切分词序列输入正向解码器得到正向翻译语句切分词概率序列；将所得的第二语义向量和该训练样本中的目标语句切分词序列的反向序列输入反向解码器得到反向翻译语句切分词概率序列；执行以下损失值确定步骤：基于训练样本集中训练样本对应的正向翻译语句切分词概率序列和反向翻译语句切分词概率序列确定总损失值；利用机器学习方法调整初始翻译模型的模型参数后再次执行输入步骤和损失值确定步骤，直到根据总损失值和损失值阈值的比较结果确定模型训练完成，将初始翻译模型确定为所生成的翻译模型。
此外，当上述一个或者多个程序被该电子设备执行时，还可以使得该电子设备：获取源语言的待翻译语句；将待翻译语句输入翻译模型中，生成与待翻译语句对应的目标语言的翻译结果语句。其中，翻译模型是采用如上述各实施例所描述的用于生成翻译模型的方法而生成的。
以上描述仅为本申请的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解，本申请中所涉及的发明范围，并不限于上述技术特征的特定组合而成的技术方案，同时也应涵盖在不脱离上述发明构思的情况下，由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本申请中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。

Claims (16)

1.一种用于生成翻译模型的方法，包括：
获取训练样本集，其中，训练样本包括源语言的源语句切分词序列以及具有相同语义的目标语言的目标语句切分词序列；
确定初始翻译模型，所述初始翻译模型包括正向编码器、正向解码器、反向编码器和反向解码器；
对于所述训练样本集中的训练样本，执行以下输入步骤：将该训练样本中的源语句切分词序列分别输入所述正向编码器和所述反向编码器，得到第一语义向量和第二语义向量；将所得到的第一语义向量和该训练样本中的目标语句切分词序列输入所述正向解码器得到正向翻译语句切分词概率序列；将所得的第二语义向量和该训练样本中的目标语句切分词序列的反向序列输入所述反向解码器得到反向翻译语句切分词概率序列；
执行以下损失值确定步骤：基于所述训练样本集中训练样本对应的正向翻译语句切分词概率序列和反向翻译语句切分词概率序列确定总损失值；
利用机器学习方法调整所述初始翻译模型的模型参数后再次执行所述输入步骤和所述损失值确定步骤，直到根据所述总损失值和所述损失值阈值的比较结果确定模型训练完成，将所述初始翻译模型确定为所生成的翻译模型。
2.根据权利要求1所述的方法，其中，所述将所得到的第一语义向量和该训练样本中的目标语句切分词序列输入所述正向解码器得到正向翻译语句切分词概率序列，包括：
将所得到的第一语义向量和该训练样本中的目标语句切分词序列输入所述正向解码器，得到正向翻译语句切分词概率分布矩阵，正向翻译语句切分词概率分布矩阵用于表征正向翻译语句中每个切分词是预设切分词表中各个切分词的概率值；
用所得到的正向翻译语句切分词概率分布矩阵中每个切分词属于预设切分词表中各个切分词的概率值中的最大值所对应的切分词和相应的概率值生成正向翻译语句切分词概率序列。
3.根据权利要求2所述的方法，其中，所述将所得的第二语义向量和该训练样本中的目标语句切分词序列的反向序列输入所述反向解码器得到反向翻译语句切分词概率序列，包括：
将所得的第二语义向量和该训练样本中的目标语句切分词序列的反向序列输入所述反向解码器，得到反向翻译语句切分词概率分布矩阵，反向翻译语句切分词概率分布矩阵用于表征反向翻译语句中每个切分词是所述预设切分词表中每个切分词的概率值；
用所得到的反向翻译语句切分词概率分布矩阵中每个切分词属于所述预设切分词表中每个切分词的概率值中的最大值所对应的切分词和相应的概率值生成反向翻译语句切分词概率序列。
4.根据权利要求3所述的方法，其中，所述基于所述训练样本集中训练样本对应的正向翻译语句切分词概率序列和对应的反向翻译语句切分词概率序列确定总损失值，包括：
分别将所述训练样本集中各训练样本对应的正向翻译语句切分词概率序列对应的交叉熵损失和反向翻译语句切分词序列对应的交叉熵损失确定为正向交叉熵损失和反向交叉熵损失；
将所述训练样本集中训练样本的正向翻译语句切分词概率分布矩阵和反向翻译语句切分词概率分布矩阵的反向矩阵的加权矩阵，确定为该训练样本对应的正向翻译语句切分词概率分布加权矩阵；
将所述训练样本集中训练样本的反向翻译语句切分词概率分布矩阵和正向翻译语句切分词概率分布矩阵的反向矩阵的加权矩阵，确定为该训练样本对应的反向翻译语句切分词概率分布矩阵加权矩阵；
将用所述训练样本集中训练样本对应的正向翻译语句切分词概率分布矩阵拟合训练样本对应的正向翻译语句切分词概率分布加权矩阵的相对熵确定为正向相对熵损失；
将用所述训练样本集中训练样本对数的反向翻译语句切分词概率分布矩阵拟合训练样本对应的反向翻译语句切分词概率分布加权矩阵的相对熵确定为反向相对熵损失；
将所述正向交叉熵损失、所述反向交叉熵损失、所述正向相对熵损失和所述反向相对熵损失的加权和确定为所述总损失值。
5.根据权利要求4所述的方法，其中，所述将所述训练样本集中训练样本的正向翻译语句切分词概率分布矩阵和反向翻译语句切分词概率分布矩阵的反向矩阵的加权矩阵，确定为该训练样本对应的正向翻译语句切分词概率分布加权矩阵，包括：
将所述训练样本集中训练样本的正向翻译语句切分词概率分布矩阵和第一矩阵的加权矩阵，确定为该训练样本对应的正向翻译语句切分词概率分布加权矩阵，其中，训练样本的第一矩阵为将训练样本的反向翻译语句切分词概率分布矩阵的反向矩阵中用于表征反向翻译语句中切分词是预设句子结束标识切分词之前的切分词属于预设切分词表中每个切分词的概率值置零后所得到的矩阵。
6.根据权利要求5所述的方法，其中，所述将所述训练样本集中训练样本的反向翻译语句切分词概率分布矩阵和正向翻译语句切分词概率分布矩阵的反向矩阵的加权矩阵，确定为该训练样本对应的反向翻译语句切分词概率分布矩阵加权矩阵，包括：
将所述训练样本集中训练样本的反向翻译语句切分词概率分布矩阵和第二矩阵的加权矩阵，确定为该训练样本对应的反向翻译语句切分词概率分布矩阵加权矩阵，其中，训练样本的第二矩阵为将训练样本的正向翻译语句切分词概率分布矩阵的反向矩阵中用于表征正向翻译语句中切分词是预设句子结束标识切分词之后的切分词属于预设切分词表中每个切分词的概率值置零后所得到的矩阵。
7.一种用于生成翻译模型的装置，包括：
样本获取单元，被配置成获取训练样本集，其中，训练样本包括源语言的源语句切分词序列以及具有相同语义的目标语言的目标语句切分词序列；
模型确定单元，被配置成确定初始翻译模型，所述初始翻译模型包括正向编码器、正向解码器、反向编码器和反向解码器；
样本输入单元，被配置成对于所述训练样本集中的训练样本，执行以下输入步骤：将该训练样本中的源语句切分词序列分别输入所述正向编码器和所述反向编码器，得到第一语义向量和第二语义向量；将所得到的第一语义向量和该训练样本中的目标语句切分词序列输入所述正向解码器得到正向翻译语句切分词概率序列；将所得的第二语义向量和该训练样本中的目标语句切分词序列的反向序列输入所述反向解码器得到反向翻译语句切分词概率序列；
损失确定单元，被配置成执行以下损失值确定步骤：基于所述训练样本集中训练样本对应的正向翻译语句切分词概率序列和反向翻译语句切分词概率序列确定总损失值；
参数调整单元，被配置成利用机器学习方法调整所述初始翻译模型的模型参数后再次执行所述输入步骤和所述损失值确定步骤，直到根据所述总损失值和所述损失值阈值的比较结果确定模型训练完成，将所述初始翻译模型确定为所生成的翻译模型。
8.根据权利要求7所述的装置，其中，所述将所得到的第一语义向量和该训练样本中的目标语句切分词序列输入所述正向解码器得到正向翻译语句切分词概率序列，包括：
将所得到的第一语义向量和该训练样本中的目标语句切分词序列输入所述正向解码器，得到正向翻译语句切分词概率分布矩阵，正向翻译语句切分词概率分布矩阵用于表征正向翻译语句中每个切分词是预设切分词表中各个切分词的概率值；
用所得到的正向翻译语句切分词概率分布矩阵中每个切分词属于预设切分词表中各个切分词的概率值中的最大值所对应的切分词和相应的概率值生成正向翻译语句切分词概率序列。
9.根据权利要求8所述的装置，其中，所述将所得的第二语义向量和该训练样本中的目标语句切分词序列的反向序列输入所述反向解码器得到反向翻译语句切分词概率序列，包括：
将所得的第二语义向量和该训练样本中的目标语句切分词序列的反向序列输入所述反向解码器，得到反向翻译语句切分词概率分布矩阵，反向翻译语句切分词概率分布矩阵用于表征反向翻译语句中每个切分词是所述预设切分词表中每个切分词的概率值；
用所得到的反向翻译语句切分词概率分布矩阵中每个切分词属于所述预设切分词表中每个切分词的概率值中的最大值所对应的切分词和相应的概率值生成反向翻译语句切分词概率序列。
10.根据权利要求9所述的装置，其中，所述损失确定单元，包括：
第一确定模块，被配置成分别将所述训练样本集中各训练样本对应的正向翻译语句切分词概率序列对应的交叉熵损失和反向翻译语句切分词序列对应的交叉熵损失确定为正向交叉熵损失和反向交叉熵损失；
第二确定模块，被配置成将所述训练样本集中训练样本的正向翻译语句切分词概率分布矩阵和反向翻译语句切分词概率分布矩阵的反向矩阵的加权矩阵，确定为该训练样本对应的正向翻译语句切分词概率分布加权矩阵；
第三确定模块，被配置成将所述训练样本集中训练样本的反向翻译语句切分词概率分布矩阵和正向翻译语句切分词概率分布矩阵的反向矩阵的加权矩阵，确定为该训练样本对应的反向翻译语句切分词概率分布矩阵加权矩阵；
第四确定模块，被配置成将用所述训练样本集中训练样本对应的正向翻译语句切分词概率分布矩阵拟合训练样本对应的正向翻译语句切分词概率分布加权矩阵的相对熵确定为正向相对熵损失；
第五确定模块，被配置成将用所述训练样本集中训练样本对数的反向翻译语句切分词概率分布矩阵拟合训练样本对应的反向翻译语句切分词概率分布加权矩阵的相对熵确定为反向相对熵损失；
第六确定模块，被配置成将所述正向交叉熵损失、所述反向交叉熵损失、所述正向相对熵损失和所述反向相对熵损失的加权和确定为所述总损失值。
11.根据权利要求10所述的装置，其中，所述第二确定模块进一步被配置成：
将所述训练样本集中训练样本的正向翻译语句切分词概率分布矩阵和第一矩阵的加权矩阵，确定为该训练样本对应的正向翻译语句切分词概率分布加权矩阵，其中，训练样本的第一矩阵为将训练样本的反向翻译语句切分词概率分布矩阵的反向矩阵中用于表征反向翻译语句中切分词是预设句子结束标识切分词之前的切分词属于预设切分词表中每个切分词的概率值置零后所得到的矩阵。
12.根据权利要求11所述的装置，其中，所述第三确定模块进一步被配置成：
将所述训练样本集中训练样本的反向翻译语句切分词概率分布矩阵和第二矩阵的加权矩阵，确定为该训练样本对应的反向翻译语句切分词概率分布矩阵加权矩阵，其中，训练样本的第二矩阵为将训练样本的正向翻译语句切分词概率分布矩阵的反向矩阵中用于表征正向翻译语句中切分词是预设句子结束标识切分词之后的切分词属于预设切分词表中每个切分词的概率值置零后所得到的矩阵。
13.一种用于翻译语句的方法，包括：
获取源语言的待翻译语句；
将所述待翻译语句输入采用如权利要求1-6之一所述的方法生成的翻译模型中，生成与所述待翻译语句对应的目标语言的翻译结果语句。
14.一种用于翻译语句的装置，包括：
语句获取单元，被配置成获取源语言的待翻译语句；
翻译单元，被配置成将所述待翻译语句输入采用如权利要求1-6之一所述的方法生成的翻译模型中，生成与所述待翻译语句对应的目标语言的翻译结果语句。
15.一种电子设备，包括：
一个或多个处理器；
存储装置，其上存储有一个或多个程序，
当所述一个或多个程序被所述一个或多个处理器执行时，使得所述一个或多个处理器实现如权利要求1-6、13中任一所述的方法。
16.一种计算机可读存储介质，其上存储有计算机程序，其中，所述计算机程序被一个或多个处理器执行时实现如权利要求1-6、13中任一所述的方法。
CN201811543684.4A 2018-12-17 2018-12-17 用于翻译语句的方法和装置 Active CN109558605B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201811543684.4A CN109558605B (zh) 2018-12-17 2018-12-17 用于翻译语句的方法和装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201811543684.4A CN109558605B (zh) 2018-12-17 2018-12-17 用于翻译语句的方法和装置

Publications (2)

Publication Number Publication Date
CN109558605A CN109558605A (zh) 2019-04-02
CN109558605B true CN109558605B (zh) 2022-06-10

Family

ID=65870258

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201811543684.4A Active CN109558605B (zh) 2018-12-17 2018-12-17 用于翻译语句的方法和装置

Country Status (1)

Country Link
CN (1) CN109558605B (zh)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109558605B (zh) * 2018-12-17 2022-06-10 北京百度网讯科技有限公司 用于翻译语句的方法和装置
CN110941966A (zh) * 2019-12-10 2020-03-31 北京小米移动软件有限公司 机器翻译模型的训练方法、装置及系统
CN111079945B (zh) 2019-12-18 2021-02-05 北京百度网讯科技有限公司 端到端模型的训练方法及装置
CN111027333B (zh) * 2019-12-20 2023-07-21 北京百度网讯科技有限公司 篇章翻译方法和装置
CN113723117B (zh) * 2021-07-29 2024-04-30 北京搜狗科技发展有限公司 一种翻译模型的训练方法、装置和用于翻译模型训练的装置
CN114580442B (zh) * 2022-02-28 2023-04-18 北京百度网讯科技有限公司 一种模型训练方法、装置、电子设备及存储介质

Citations (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107194422A (zh) * 2017-06-19 2017-09-22 中国人民解放军国防科学技术大学 一种结合正反向实例的卷积神经网络关系分类方法
CN107357789A (zh) * 2017-07-14 2017-11-17 哈尔滨工业大学 融合多语编码信息的神经机器翻译方法
CN107590138A (zh) * 2017-08-18 2018-01-16 浙江大学 一种基于词性注意力机制的神经机器翻译方法
CN107729329A (zh) * 2017-11-08 2018-02-23 苏州大学 一种基于词向量连接技术的神经机器翻译方法及装置
CN107870902A (zh) * 2016-09-26 2018-04-03 谷歌公司 神经机器翻译系统
CN107967262A (zh) * 2017-11-02 2018-04-27 内蒙古工业大学 一种神经网络蒙汉机器翻译方法
CN108153913A (zh) * 2018-01-24 2018-06-12 北京神州泰岳软件股份有限公司 回复信息生成模型的训练方法、回复信息生成方法及装置
CN108647214A (zh) * 2018-03-29 2018-10-12 中国科学院自动化研究所 基于深层神经网络翻译模型的解码方法
CN108829685A (zh) * 2018-05-07 2018-11-16 内蒙古工业大学 一种基于单语语料库训练的蒙汉互译方法
CN108874785A (zh) * 2018-06-01 2018-11-23 清华大学 一种翻译处理方法及系统
CN108932342A (zh) * 2018-07-18 2018-12-04 腾讯科技（深圳）有限公司 一种语义匹配的方法、模型的学习方法及服务器
CN108932232A (zh) * 2018-05-07 2018-12-04 内蒙古工业大学 一种基于lstm神经网络的蒙汉互译方法
CN108984535A (zh) * 2018-06-25 2018-12-11 腾讯科技（深圳）有限公司 语句翻译的方法、翻译模型训练的方法、设备及存储介质
CN109558605A (zh) * 2018-12-17 2019-04-02 北京百度网讯科技有限公司 用于翻译语句的方法和装置
CN110192206A (zh) * 2017-05-23 2019-08-30 谷歌有限责任公司 基于注意力的序列转换神经网络
CN110612536A (zh) * 2017-05-19 2019-12-24 谷歌有限责任公司 神经机器翻译的逐深度可分离卷积
CN112597778A (zh) * 2020-12-14 2021-04-02 华为技术有限公司 一种翻译模型的训练方法、翻译方法以及设备

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20090326916A1 (en) * 2008-06-27 2009-12-31 Microsoft Corporation Unsupervised chinese word segmentation for statistical machine translation
US10025778B2 (en) * 2013-06-09 2018-07-17 Microsoft Technology Licensing, Llc Training markov random field-based translation models using gradient ascent

Patent Citations (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107870902A (zh) * 2016-09-26 2018-04-03 谷歌公司 神经机器翻译系统
CN110612536A (zh) * 2017-05-19 2019-12-24 谷歌有限责任公司 神经机器翻译的逐深度可分离卷积
CN110192206A (zh) * 2017-05-23 2019-08-30 谷歌有限责任公司 基于注意力的序列转换神经网络
CN107194422A (zh) * 2017-06-19 2017-09-22 中国人民解放军国防科学技术大学 一种结合正反向实例的卷积神经网络关系分类方法
CN107357789A (zh) * 2017-07-14 2017-11-17 哈尔滨工业大学 融合多语编码信息的神经机器翻译方法
CN107590138A (zh) * 2017-08-18 2018-01-16 浙江大学 一种基于词性注意力机制的神经机器翻译方法
CN107967262A (zh) * 2017-11-02 2018-04-27 内蒙古工业大学 一种神经网络蒙汉机器翻译方法
CN107729329A (zh) * 2017-11-08 2018-02-23 苏州大学 一种基于词向量连接技术的神经机器翻译方法及装置
CN108153913A (zh) * 2018-01-24 2018-06-12 北京神州泰岳软件股份有限公司 回复信息生成模型的训练方法、回复信息生成方法及装置
CN108647214A (zh) * 2018-03-29 2018-10-12 中国科学院自动化研究所 基于深层神经网络翻译模型的解码方法
CN108829685A (zh) * 2018-05-07 2018-11-16 内蒙古工业大学 一种基于单语语料库训练的蒙汉互译方法
CN108932232A (zh) * 2018-05-07 2018-12-04 内蒙古工业大学 一种基于lstm神经网络的蒙汉互译方法
CN108874785A (zh) * 2018-06-01 2018-11-23 清华大学 一种翻译处理方法及系统
CN108984535A (zh) * 2018-06-25 2018-12-11 腾讯科技（深圳）有限公司 语句翻译的方法、翻译模型训练的方法、设备及存储介质
CN108932342A (zh) * 2018-07-18 2018-12-04 腾讯科技（深圳）有限公司 一种语义匹配的方法、模型的学习方法及服务器
CN109558605A (zh) * 2018-12-17 2019-04-02 北京百度网讯科技有限公司 用于翻译语句的方法和装置
CN112597778A (zh) * 2020-12-14 2021-04-02 华为技术有限公司 一种翻译模型的训练方法、翻译方法以及设备

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
Progress in Neural NLP: Modeling, Learning, and Reasoning;Ming Zhou 等;《Engineering Contents lists available at ScienceDirect》;20201231;全文 *
基于谷歌神经机器翻译的英汉翻译研究;马旭强;《中国优秀硕士学位论文全文数据库 (基础科学辑)》;20200615;全文 *

Also Published As

Publication number Publication date
CN109558605A (zh) 2019-04-02

Similar Documents

Publication Publication Date Title
CN109558605B (zh) 用于翻译语句的方法和装置
US11934454B2 (en) Video processing method and apparatus, video retrieval method and apparatus, storage medium, and server
CN108630190B (zh) 用于生成语音合成模型的方法和装置
CN107526725B (zh) 基于人工智能的用于生成文本的方法和装置
CN108520220B (zh) 模型生成方法和装置
CN110444203B (zh) 语音识别方法、装置及电子设备
CN108197652B (zh) 用于生成信息的方法和装置
CN109740167B (zh) 用于生成信息的方法和装置
US11355097B2 (en) Sample-efficient adaptive text-to-speech
US10878247B2 (en) Method and apparatus for generating information
CN112270200B (zh) 一种文本信息的翻译方法、装置、电子设备和存储介质
CN110705273B (zh) 基于神经网络的信息处理方法及装置、介质和电子设备
US20230188321A1 (en) Method for training model based on homomorphic encryption, device, and storage medium
US20220188636A1 (en) Meta pseudo-labels
CN110046670B (zh) 特征向量降维方法和装置
CN111797220A (zh) 对话生成方法、装置、计算机设备和存储介质
CN115525743B (zh) 基于自学习白化网络的人机交互方法及电子设备
CN115081461A (zh) 基于卷积神经网络和翻译模型的轻量化机器翻译方法
CN114937478A (zh) 用于训练模型的方法、用于生成分子的方法和装置
CN114926322A (zh) 图像生成方法、装置、电子设备和存储介质
CN109800438B (zh) 用于生成信息的方法和装置
CN114372499A (zh) 一种自然语言处理方法、装置、设备和计算机可读存储介质
CN113656573B (zh) 文本信息生成方法、装置、终端设备
US11461399B2 (en) Method and apparatus for responding to question, and storage medium
KR102663654B1 (ko) 적응형 시각적 스피치 인식

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant