CN109977424A - 一种机器翻译模型的训练方法及装置 - Google Patents
一种机器翻译模型的训练方法及装置 Download PDFInfo
- Publication number
- CN109977424A CN109977424A CN201711445673.8A CN201711445673A CN109977424A CN 109977424 A CN109977424 A CN 109977424A CN 201711445673 A CN201711445673 A CN 201711445673A CN 109977424 A CN109977424 A CN 109977424A
- Authority
- CN
- China
- Prior art keywords
- sentence
- bilingual
- punctuation mark
- sentence pair
- pair
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/40—Processing or translation of natural language
- G06F40/42—Data-driven translation
- G06F40/44—Statistical methods, e.g. probability models
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/40—Processing or translation of natural language
- G06F40/58—Use of machine translation, e.g. for multi-lingual retrieval, for server-side translation for client devices or for real-time translation
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Artificial Intelligence (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Probability & Statistics with Applications (AREA)
- Machine Translation (AREA)
Abstract
本发明公开了一种机器翻译模型的训练方法，包括：获取第一双语句对；按照一预设概率，删除所述第一双语句对中的标点符号，获得第二双语句对；利用所述第二双语句对进行机器翻译模型的训练。本发明实现了降低机器翻译模型对标点符号的过学习，提高翻译准确率的技术效果。同时，本发明还公开了一种机器翻译模型的训练装置。
Description
技术领域
本发明涉及电子技术领域，尤其涉及一种机器翻译模型的训练方法及装置。
背景技术
随着双语句对的大量积累，计算机硬件计算能力的提高，以及机器翻译算法的进步，机器翻译的性能有了很大提升。
对于某些语言，双语句对一般会存在句末标点。例如：中文中绝大大多数句末标点是“。”，英文中绝大多数句末标点是“.”。由于这种源端句子句末常见标点大量存在，且都在句尾，会形成一种非常明确的模式，利用这样的双语句对训练机器翻译模型时，往往会造成句末标点的过学习，产生过拟合现象，进而降低了机器翻译模型的翻译准确率。
发明内容
本发明实施例通过提供一种机器翻译模型的训练方法及装置，解决了现有技术中的机器翻译模型存在的翻译准确率低的技术问题，实现了提高机器翻译模型的翻译准确率的技术效果。
第一方面，本发明通过本发明的一实施例提供如下技术方案：
一种机器翻译模型的训练方法，包括：
获取第一双语句对；
按照一预设概率，删除所述第一双语句对中的标点符号，获得第二双语句对；
利用所述第二双语句对进行机器翻译模型的训练。
优选地，所述第一双语句对，包括：
待翻译语句，以及与所述待翻译语句对应的译文语句。
优选地，所述按照一预设概率，删除所述第一双语句对中的标点符号，获得第二双语句对，包括：
按照一预设概率，删除所述待翻译语句中的第一标点符号，获得第二双语句对；或
按照一预设概率，删除所述待翻译语句中的第一标点符号，以及删除所述译文语句中的第二标点符号，获得第二双语句对。
优选地，所述按照一预设概率，删除所述第一双语句对中的标点符号，获得第二双语句对，包括：
按照第一预设概率，随机或按照预设规律删除所述待翻译语句中的第一标点符号，获得第二双语句对；或
按照第一预设概率，随机或按照预设规律删除所述待翻译语句中的第一标点符号，按照第二预设概率，随机或按照预设规律删除所述译文语句中的第二标点符号，获得第二双语句对。
优选地，所述第一标点符号位于所述待翻译语句的末尾，所述第二标点符号位于所述译文语句的末尾。
优选地，所述第一标点符号或所述第二标点符号，包括：
句号、问号、感叹号或省略号。
优选地，所述预设概率的取值范围为35％～95％。
优选地，所述第一预设概率的取值范围为35％～95％，所述第二预设概率的取值范围为35％～95％。
第二方面，本发明通过本发明的一实施例，提供如下技术方案：
一种机器翻译模型的训练装置，包括：
获取单元，用于获取第一双语句对；
删除单元，用于按照一预设概率，删除所述第一双语句对中的标点符号，获得第二双语句对；
训练单元，用于利用所述第二双语句对进行机器翻译模型的训练。
优选地，所述第一双语句对，包括：
待翻译语句，以及与所述待翻译语句对应的译文语句。
优选地，所述删除单元，具体用于：
按照一预设概率，删除所述待翻译语句中的第一标点符号，获得第二双语句对；或
按照一预设概率，删除所述待翻译语句中的第一标点符号，以及删除所述译文语句中的第二标点符号，获得第二双语句对。
优选地，所述删除单元，具体用于：
按照第一预设概率，随机或按照预设规律删除所述待翻译语句中的第一标点符号，获得第二双语句对；或
按照第一预设概率，随机或按照预设规律删除所述待翻译语句中的第一标点符号，按照第二预设概率，随机或按照预设规律删除所述译文语句中的第二标点符号，获得第二双语句对。
优选地，所述第一标点符号位于所述待翻译语句的末尾，所述第二标点符号位于所述译文语句的末尾。
优选地，所述第一标点符号或所述第二标点符号，包括：
句号、问号、感叹号或省略号。
优选地，所述预设概率的取值范围为35％～95％。
优选地，所述第一预设概率的取值范围为35％～95％，所述第二预设概率的取值范围为35％～95％。
第三方面，本发明通过本发明的一实施例，提供如下技术方案：
一种机器翻译模型的训练装置，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现以下步骤：
获取第一双语句对；按照一预设概率，删除所述第一双语句对中的标点符号，获得第二双语句对；利用所述第二双语句对进行机器翻译模型的训练。
优选地，所述第一双语句对，包括：
待翻译语句，以及与所述待翻译语句对应的译文语句。
优选地，所述按照一预设概率，删除所述第一双语句对中的标点符号，获得第二双语句对，包括：
按照第一预设概率，随机或按照预设规律删除所述待翻译语句中的第一标点符号，获得第二双语句对；或
按照第一预设概率，随机或按照预设规律删除所述待翻译语句中的第一标点符号，按照第二预设概率，随机或按照预设规律删除所述译文语句中的第二标点符号，获得第二双语句对。
优选地，所述按照一预设概率，删除所述第一双语句对中的标点符号，获得第二双语句对，包括：
按照一预设概率，删除所述待翻译语句中的第一标点符号，获得第二双语句对；或
按照一预设概率，删除所述待翻译语句中的第一标点符号，以及删除所述译文语句中的第二标点符号，获得第二双语句对。
优选地，所述第一标点符号位于所述待翻译语句的末尾，所述第二标点符号位于所述译文语句的末尾。
优选地，所述第一标点符号或所述第二标点符号，包括：
句号、问号、感叹号或省略号。
优选地，所述第一预设概率的取值范围为35％～95％，所述第二预设概率的取值范围为35％～95％。
优选地，所述预设概率的取值范围为35％～95％。
第四方面，本发明通过本发明的一实施例，提供如下技术方案：
一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现以下步骤：
获取第一双语句对；按照一预设概率，删除所述第一双语句对中的标点符号，获得第二双语句对；利用所述第二双语句对进行机器翻译模型的训练。
优选地，所述第一双语句对，包括：
待翻译语句，以及与所述待翻译语句对应的译文语句。
优选地，所述按照一预设概率，删除所述第一双语句对中的标点符号，获得第二双语句对，包括：
按照第一预设概率，随机或按照预设规律删除所述待翻译语句中的第一标点符号，获得第二双语句对；或
按照第一预设概率，随机或按照预设规律删除所述待翻译语句中的第一标点符号，按照第二预设概率，随机或按照预设规律删除所述译文语句中的第二标点符号，获得第二双语句对。
优选地，所述按照一预设概率，删除所述第一双语句对中的标点符号，获得第二双语句对，包括：
按照一预设概率，删除所述待翻译语句中的第一标点符号，获得第二双语句对；或
按照一预设概率，删除所述待翻译语句中的第一标点符号，以及删除所述译文语句中的第二标点符号，获得第二双语句对。
优选地，所述第一标点符号位于所述待翻译语句的末尾，所述第二标点符号位于所述译文语句的末尾。
优选地，所述第一标点符号或所述第二标点符号，包括：
句号、问号、感叹号或省略号。
优选地，所述第一预设概率的取值范围为35％～95％，所述第二预设概率的取值范围为35％～95％。
优选地，所述预设概率的取值范围为35％～95％。
本发明实施例中提供的一个或多个技术方案，至少具有如下技术效果或优点：
在本发明实施例中，公开了一种机器翻译模型的训练方法，包括：获取第一双语句对；按照一预设概率，删除所述第一双语句对中的标点符号，获得第二双语句对；利用所述第二双语句对进行机器翻译模型的训练。由于按照一预设概率，删除第一双语句对中的标点符号，再进行机器翻译模型的训练，这降低了对训练样本中标点符号的过学习，避免发生过拟合现象，所以解决了现有技术中的机器翻译模型存在的翻译准确率低的技术问题，实现了提高机器翻译模型的翻译准确率的技术效果。
附图说明
为了更清楚地说明本发明实施例中的技术方案，下面将对实施例描述中所需要使用的附图作一简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1为本发明实施例中一种机器翻译模型的训练方法的流程图；
图2为本发明实施例中一种机器翻译模型的训练装置的结构框图；
图3为本发明实施例中一种机器翻译模型的训练装置的结构框图；
图4为本发明实施例中一种机器翻译模型的训练装置作为服务器时的结构框图。
具体实施方式
本发明实施例通过提供一种机器翻译模型的训练方法及装置，解决了现有技术中的机器翻译模型存在的翻译准确率低的技术问题，实现了提高机器翻译模型的翻译准确率的技术效果。
本发明实施例的技术方案为解决上述技术问题，总体思路如下：
一种机器翻译模型的训练方法，包括：获取第一双语句对；按照一预设概率，删除所述第一双语句对中的标点符号，获得第二双语句对；利用所述第二双语句对进行机器翻译模型的训练。
为了更好的理解上述技术方案，下面将结合说明书附图以及具体的实施方式对上述技术方案进行详细的说明。
首先说明，本文中出现的术语“和/或”，仅仅是一种描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B这三种情况。另外，本文中字符“/”，一般表示前后关联对象是一种“或”的关系。
实施例一
本实施例提供了一种机器翻译模型的训练方法，如图1所示，包括：
步骤S101：获取第一双语句对。
具体来讲，第一双语句对包括待翻译语句(也可以叫做“源端语句”)、以及与待翻译语句对应的译文语句(也可以叫做“目标端语句”)。
在具体实施过程中，在训练机器翻译模型时，需要用到大量的双语句对，其中，每个双语句对中包含一待翻译语句、以及与该待翻译语句对应的译文语句。
在具体实施过程中，待翻译语句可以是任意语言的语句，译文语句可以是与待翻译语句不同的其它任意语言的语句。
举例来讲，在进行“中-英”翻译的训练时，待翻译语句则是中文语句，对应的译文语句则是英文语句；在进行“英-中”翻译的训练时，待翻译语句则是英文语句，对应的译文语句则是中文语句。
举例来讲，在进行“中-日”翻译的训练时，待翻译语句则是中文语句，对应的译文语句则是日文语句；在进行“日-中”翻译的训练时，待翻译语句则是日文语句，对应的译文语句则是中文语句。
本方法可以广泛适用于任意两种不同语言之间进行翻译的机器翻译模型的训练中。
以“英-中”翻译为例，待翻译语句可以是：“我们正在开会。”，对应的译文语句是“we are having meeting.”，其中，包含标点符号(即：中文的句号“。”以及英文的句号“.”)。
在现有技术中，会直接将带有标点符号的双语句对(即：第一双语句对)作为训练样本，来对机器翻译模型进行训练。但是，这容易出现“过学习”现象，产生“过拟合”现象，也就是说，机器翻译模型在学习了大量的带有标点符号的双语句对后，会形成非常明显的错误模式，会对其中的标点符号产生一些错误的理解(这就是“过学习”)，这会导致在翻译一些小概率词汇(即：出现概率低于一预设概率的词汇，例如，低于5％)或陌生词汇(即：翻译系统中没有记录的词汇)时，容易将该小概率词汇或陌生词汇错误地翻译成标点符号(这就是“过拟合”，例如：将陌生词汇“Bruse”翻译成中文句号“。”)。
而在本发明实施例中，不会直接采用第一双语句对作为训练样本，而是需要采用步骤S102中的方法进行处理。
步骤S102：按照一预设概率，删除所述第一双语句对中的标点符号，获得第二双语句对。
作为一种可选的实施方式，对于每个第一双语句对，在执行步骤S102时，可以：
按照一预设概率，删除待翻译语句中的第一标点符号，获得第二双语句对；或者
按照一预设概率，删除待翻译语句中的第一标点符号，以及删除译文语句中的第二标点符号，获得第二双语句对。
在具体实施过程中，采用的预设概率应大于0且小于1，比较好的取值范围是35％～95％，例如，可以为35％、或40％、或60％、或80％、或90％、或95％、等等。此处，可以设计一个概率计算模块，对每个第一双语句对进行概率计算，若命中预设概率，则删除待翻译语句中的第一标点符号，获得第二双语句对，或者，删除待翻译语句中的第一标点符号译文语句中的第二标点符号，获得第二双语句对。
第一标点符号可以位于待翻译语句的末尾，第二标点符号可以位于译文语句的末尾。
第一标点符号(或所述第二标点符号)，可以包括但不限于：句号、问号、感叹号、省略号等等。
在现有技术中，在第一双语句对的固定位置处，通常会有标点符号，其中，比较常见的情况是在句末位置(有一些语言可能在句首或句中经常出现标点符号，本发明实施例也包含这种情况)，比较常见的标点符号是句号、或问号、或感叹号、或省略号(本发明实施例也包含其他语言经常出现的其他标点符号，此处不再举例)，其中，句号的出现概率最高，也就是说，机器翻译模型最容易对句末处的句号产生“过学习”现象。
在本发明实施例中，为了避免机器翻译模型对标点符号的过学习，则按照一预设概率，删除待翻译语句中的第一标点符号，获得第二双语句对；或者，在按照一预设概率，同时删除待翻译语句中的第一标点符号，以及译文语句中的第二标点符号，获得第二双语句对。
此处，可以按照一预设概率，仅删除待翻译语句中的第一标点符号，获得第二双语句对，这样可以减少数据处理量，加快训练机器翻译模型的速度。
或者，也可以按照一预设概率，同时删除待翻译语句中的第一标点符号，以及译文语句中的第二标点符号，获得第二双语句对，这样，获得的第二双语句对更加工整，训练机器翻译模型的效果更好。
举例来讲，对于第一双语句对(待翻译语句是“我们正在开会。”，译文语句是“weare having meeting.”)，若命中预设概率，则删除待翻译语句中的中文句号“。”，获得第二双语句对(待翻译语句是“我们正在开会”，译文语句是“we are having meeting.”)。
或者，对于第一双语句对(待翻译语句是“我们正在开会。”，译文语句是“we arehaving meeting.”)，若命中预设概率，则删除待翻译语句中的中文句号“。”以及译文语句中的英文句号“.”，获得第二双语句对(待翻译语句是“我们正在开会”，译文语句是“we arehaving meeting”)。
另外，对于第一双语句对末尾的问号、感叹号或省略号，也可以按照步骤S102中的方法进行删除，从而避免机器翻译模型对双语句对末尾的问号、感叹号、以及省略号的过学习。
举例来讲，对于第一双语句对(待翻译语句是“今晚你想吃什么？”，译文语句是“What would you like to eat tonight？”)，若命中预设概率，则删除待翻译语句中句尾的问号，获得第二双语句对(待翻译语句是“今晚你想吃什么”，译文语句是“What wouldyou like to eat tonight？”)。
或者，对于第一双语句对(待翻译语句是“今晚你想吃什么？”，译文语句是“Whatwould you like to eat tonight？”)，若命中预设概率，则删除待翻译语句和译文语句句尾的问号，获得第二双语句对(待翻译语句是“今晚你想吃什么”，译文语句是“What wouldyou like to eat tonight”)。
举例来讲，对于第一双语句对(待翻译语句是“请不要再说了！”，译文语句是“Please don't say it again！”)，若命中预设概率，则删除待翻译语句末尾的感叹号，获得第二双语句对(待翻译语句是“请不要再说了”，译文语句是“Please don't say itagain！”)。
或者，对于第一双语句对(待翻译语句是“请不要再说了！”，译文语句是“Pleasedon't say it again！”)，若命中预设概率，则删除待翻译语句和译文语句句尾的感叹号，获得第二双语句对(待翻译语句是“请不要再说了”，译文语句是“Please don't say itagain”)。
作为一种可选的实施方式，对于大量第一双语句对，在执行步骤S102时，可以：
可以按照第一预设概率，随机或按照预设规律删除所述待翻译语句中的第一标点符号，获得第二双语句对；或者
可以按照第一预设概率，随机或按照预设规律删除所述待翻译语句中的第一标点符号，按照第二预设概率，随机或按照预设规律删除所述译文语句中的第二标点符号，获得第二双语句对。
在具体实施过程中，采用的第一预设概率应大于0且小于1，比较好的取值范围是35％～95％，例如，可以为35％、或40％、或60％、或80％、或90％、或95％、等等。类似地，，采用的第二预设概率也应大于0且小于1，比较好的取值范围是35％～95％，例如，可以为35％、或40％、或60％、或80％、或90％、或95％、等等。其中，第一预设概率和第二预设概率可以相同也可以不同。
在具体实施过程中，可以同时获取大量(例如：100个)第一双语句对，再按照第一预设概率，随机或按照预设规律删除待翻译语句中某些双语句对的第一标点符号，获得第二双语句对。例如，若第一预设概率为90％，则从这100个第一双语句对中随机选出90个，或按照预设规律选出90个(例如：前90个或后90个)，再删除这90个第一双语句对中的每个第一双语句对中待翻译语句中的第一标点符号(例如：句尾的句号、或问号、或感叹号、或省略号等等)。这样，共获得100个第二双语句对。
或者，可以同时获取大量(例如：100个)第一双语句对，按照第一预设概率(例如：90％)，随机或按照预设规律删除所述待翻译语句中的第一标点符号；按照第二预设概率(例如：80％)，随机或按照预设规律删除所述译文语句中的第二标点符号，获得第二双语句对。例如，若第一预设概率为90％，第二预设概率为80％，则从这100个第一双语句对中随机选出90个，或按照预设规律选出90个(例如：前90个或后90个)，再删除这90个第一双语句对中的每个第一双语句对中待翻译语句中的第一标点符号(例如：句尾的句号、或问号、或感叹号、或省略号等等)；然后，从这100个第一双语句对中随机选出80个，或按照预设规律选出80个(例如：前80个或后80个)，再删除这80个第一双语句对中的每个第一双语句对中译文语句中的第二标点符号(例如：句尾的句号、或问号、或感叹号、或省略号等等)；这样，共获得100个第二双语句对。
基于上述实施方式，在执行完步骤S102之后，就可以获得大量的第二双语句对作为训练样本，这些第二双语句对包含两种情况，一种是未删除任何标点符号的(即：与原来的第一双语句对相同)，另一种是删除了标点符号的。
此处，由于是按照一预设概率对第一双语句对中的标点符号进行删除(即：是仅删除一部分第一双语句对中的标点符号，而不是删除全部第一双语句对中的标点符号)，这样，在训练机器翻译模型时，机器翻译模型会学习到删除了标点符号和未删除标点符号的两种双语句对，学习场景更加丰富，有利于提高机器翻译模型的鲁棒性，从而大大降低了过学习现象的发生，提高了机器翻译模型的翻译准确率。
步骤S103：利用第二双语句对进行机器翻译模型的训练。
在具体实施过程中，可以将第二双语句对作为训练样本输入到DNN(Deep NeuralNetworks，深度神经网络)模型中，进行学习训练，获得一机器翻译模型。
这样，在经过大量的第二双语句对的训练后，机器翻译模型不易对双语句对中固定位置的标点符号产生过学习，提高了机器翻译模型的鲁棒性，降低了过学习现象的发生，从而提高了机器翻译模型的翻译准确率。
上述本发明实施例中的技术方案，至少具有如下的技术效果或优点：
在本发明实施例中，公开了一种机器翻译模型的训练方法，包括：获取第一双语句对；按照一预设概率，删除所述第一双语句对中的标点符号，获得第二双语句对；利用所述第二双语句对进行机器翻译模型的训练。由于按照一预设概率，删除所述第一双语句对中的标点符号，再对机器翻译模型进行训练，这降低了对训练样本中标点符号的过学习，避免发生过拟合现象，所以解决了现有技术中的机器翻译模型存在的翻译准确率低的技术问题，实现了提高机器翻译模型的翻译准确率的技术效果。
实施例二
基于同一发明构思，本实施例提供了一种机器翻译模型的训练装置200，包括：
获取单元201，用于获取第一双语句对；
删除单元202，用于按照一预设概率，删除所述第一双语句对中的标点符号，获得第二双语句对；
训练单元203，用于利用所述第二双语句对进行机器翻译模型的训练。
作为一种可选的实施方式，所述第一双语句对，包括：
待翻译语句、以及与所述待翻译语句对应的译文语句。
作为一种可选的实施方式，所述删除单元，具体用于：
按照一预设概率，删除所述待翻译语句中的第一标点符号，获得第二双语句对；或
按照一预设概率，删除所述待翻译语句中的第一标点符号，以及删除所述译文语句中的第二标点符号，获得第二双语句对。
作为一种可选的实施方式，所述预设概率的取值范围为35％～95％。
作为一种可选的实施方式，所述删除单元，具体用于：
按照第一预设概率，随机或按照预设规律删除所述待翻译语句中的第一标点符号，获得第二双语句对；或
按照第一预设概率，随机或按照预设规律删除所述待翻译语句中的第一标点符号，按照第二预设概率，随机或按照预设规律删除所述译文语句中的第二标点符号，获得第二双语句对。
作为一种可选的实施方式，所述第一预设概率的取值范围为35％～95％，所述第二预设概率的取值范围为35％～95％。
作为一种可选的实施方式，所述第一标点符号位于所述待翻译语句的末尾，所述第二标点符号位于所述译文语句的末尾。
作为一种可选的实施方式，所述第一标点符号，包括：句号、问号、感叹号或省略号。
作为一种可选的实施方式，所述第二标点符号，包括：句号、问号、感叹号或省略号。
由于本实施例所介绍的机器翻译模型的训练装置为实施本发明实施例中机器翻译模型的训练方法所采用的装置，故而基于本发明实施例中所介绍的机器翻译模型的训练方法，本领域所属技术人员能够了解本实施例的机器翻译模型的训练装置的具体实施方式以及其各种变化形式，所以在此对于该机器翻译模型的训练装置如何实现本发明实施例中的方法不再详细介绍。只要本领域所属技术人员实施本发明实施例中机器翻译模型的训练方法所采用的装置，都属于本发明所欲保护的范围。
上述本发明实施例中的技术方案，至少具有如下的技术效果或优点：
在本发明实施例中，公开了一种机器翻译模型的训练装置，包括：获取单元，用于获取第一双语句对；删除单元，用于按照一预设概率，删除所述第一双语句对中的标点符号，获得第二双语句对；训练单元，用于利用所述第二双语句对进行机器翻译模型的训练。由于按照一预设概率，删除所述第一双语句对中的标点符号，再对机器翻译模型进行训练，这降低了对训练样本中标点符号的过学习，避免发生过拟合现象，所以解决了现有技术中的机器翻译模型存在的翻译准确率低的技术问题，实现了提高机器翻译模型的翻译准确率的技术效果。
实施例三
基于同一发明构思，本实施例提供了一种机器翻译模型的训练装置，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，所述处理器执行所述程序时实现以下步骤：
获取第一双语句对；按照一预设概率，删除所述第一双语句对中的标点符号，获得第二双语句对；利用所述第二双语句对进行机器翻译模型的训练。
作为一种可选的实施例，所述第一双语句对，包括：
待翻译语句，以及与所述待翻译语句对应的译文语句。
作为一种可选的实施例，所述按照一预设概率，删除所述第一双语句对中的标点符号，获得第二双语句对，包括：
按照第一预设概率，随机或按照预设规律删除所述待翻译语句中的第一标点符号，获得第二双语句对；或
按照第一预设概率，随机或按照预设规律删除所述待翻译语句中的第一标点符号，按照第二预设概率，随机或按照预设规律删除所述译文语句中的第二标点符号，获得第二双语句对。
作为一种可选的实施例，所述按照一预设概率，删除所述第一双语句对中的标点符号，获得第二双语句对，包括：
按照一预设概率，删除所述待翻译语句中的第一标点符号，获得第二双语句对；或
按照一预设概率，删除所述待翻译语句中的第一标点符号，以及删除所述译文语句中的第二标点符号，获得第二双语句对。
作为一种可选的实施例，所述第一标点符号位于所述待翻译语句的末尾，所述第二标点符号位于所述译文语句的末尾。
作为一种可选的实施例，所述第一标点符号或所述第二标点符号，包括：
句号、问号、感叹号或省略号。
作为一种可选的实施例，所述第一预设概率的取值范围为35％～95％，所述第二预设概率的取值范围为35％～95％。
作为一种可选的实施例，所述预设概率的取值范围为35％～95％。
实施例四
基于同一发明构思，本实施例提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现以下步骤：
获取第一双语句对；按照一预设概率，删除所述第一双语句对中的标点符号，获得第二双语句对；利用所述第二双语句对进行机器翻译模型的训练。
作为一种可选的实施例，所述第一双语句对，包括：
待翻译语句，以及与所述待翻译语句对应的译文语句。
作为一种可选的实施例，所述按照一预设概率，删除所述第一双语句对中的标点符号，获得第二双语句对，包括：
按照第一预设概率，随机或按照预设规律删除所述待翻译语句中的第一标点符号，获得第二双语句对；或
按照第一预设概率，随机或按照预设规律删除所述待翻译语句中的第一标点符号，按照第二预设概率，随机或按照预设规律删除所述译文语句中的第二标点符号，获得第二双语句对。
作为一种可选的实施例，所述按照一预设概率，删除所述第一双语句对中的标点符号，获得第二双语句对，包括：
按照一预设概率，删除所述待翻译语句中的第一标点符号，获得第二双语句对；或
按照一预设概率，删除所述待翻译语句中的第一标点符号，以及删除所述译文语句中的第二标点符号，获得第二双语句对。
作为一种可选的实施例，所述第一标点符号位于所述待翻译语句的末尾，所述第二标点符号位于所述译文语句的末尾。
作为一种可选的实施例，所述第一标点符号或所述第二标点符号，包括：
句号、问号、感叹号或省略号。
作为一种可选的实施例，所述第一预设概率的取值范围为35％～95％，所述第二预设概率的取值范围为35％～95％。
作为一种可选的实施例，所述预设概率的取值范围为35％～95％。
关于上述实施例中的装置，其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述，此处将不做详细阐述说明。
图3是根据一示例性实施例示出的一种机器翻译模型的训练装置800的框图。例如，装置800可以是移动电话，计算机，数字广播终端，消息收发设备，游戏控制台，平板设备，医疗设备，健身设备，个人数字助理等。
参照图3，装置800可以包括以下一个或多个组件：处理组件802，存储器804，电源组件806，多媒体组件808，音频组件810，输入/输出(I/O)的接口812，传感器组件814，以及通信组件816。
处理组件802通常控制装置800的整体操作，诸如与显示，电话呼叫，数据通信，相机操作和记录操作相关联的操作。处理元件802可以包括一个或多个处理器820来执行指令，以完成上述的方法的全部或部分步骤。此外，处理组件802可以包括一个或多个模块，便于处理组件802和其他组件之间的交互。例如，处理部件802可以包括多媒体模块，以方便多媒体组件808和处理组件802之间的交互。
存储器804被配置为存储各种类型的数据以支持在设备800的操作。这些数据的示例包括用于在装置800上操作的任何应用程序或方法的指令，联系人数据，电话簿数据，消息，图片，视频等。存储器804可以由任何类型的易失性或非易失性存储设备或者它们的组合实现，如静态随机存取存储器(SRAM)，电可擦除可编程只读存储器(EEPROM)，可擦除可编程只读存储器(EPROM)，可编程只读存储器(PROM)，只读存储器(ROM)，磁存储器，快闪存储器，磁盘或光盘。
电力组件806为装置800的各种组件提供电力。电力组件806可以包括电源管理系统，一个或多个电源，及其他与为装置800生成、管理和分配电力相关联的组件。
多媒体组件808包括在所述装置800和用户之间的提供一个输出接口的屏幕。在一些实施例中，屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板，屏幕可以被实现为触摸屏，以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界，而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中，多媒体组件808包括一个前置摄像头和/或后置摄像头。当设备800处于操作模式，如拍摄模式或视频模式时，前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜系统或具有焦距和光学变焦能力。
音频组件810被配置为输出和/或输入音频信号。例如，音频组件810包括一个麦克风(MIC)，当装置800处于操作模式，如呼叫模式、记录模式和语音识别模式时，麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器804或经由通信组件816发送。在一些实施例中，音频组件810还包括一个扬声器，用于输出音频信号。
I/O接口812为处理组件802和外围接口模块之间提供接口，上述外围接口模块可以是键盘，点击轮，按钮等。这些按钮可包括但不限于：主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件814包括一个或多个传感器，用于为装置800提供各个方面的状态评估。例如，传感器组件814可以检测到设备800的打开/关闭状态，组件的相对定位，例如所述组件为装置800的显示器和小键盘，传感器组件814还可以检测装置800或装置800一个组件的位置改变，用户与装置800接触的存在或不存在，装置800方位或加速/减速和装置800的温度变化。传感器组件814可以包括接近传感器，被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件814还可以包括光传感器，如CMOS或CCD图像传感器，用于在成像应用中使用。在一些实施例中，该传感器组件814还可以包括加速度传感器，陀螺仪传感器，磁传感器，压力传感器或温度传感器。
通信组件816被配置为便于装置800和其他设备之间有线或无线方式的通信。装置800可以接入基于通信标准的无线网络，如WiFi，2G或3G，或它们的组合。在一个示例性实施例中，通信部件816经由广播信道接收来自外部广播管理系统的广播信号或广播相关信息。在一个示例性实施例中，所述通信部件816还包括近场通信(NFC)模块，以促进短程通信。例如，在NFC模块可基于射频识别(RFID)技术，红外数据协会(IrDA)技术，超宽带(UWB)技术，蓝牙(BT)技术和其他技术来实现。
在示例性实施例中，装置800可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现，用于执行上述方法。
在示例性实施例中，还提供了一种包括指令的非临时性计算机可读存储介质，例如包括指令的存储器804，上述指令可由装置800的处理器820执行以完成上述方法。例如，所述非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。
一种非临时性计算机可读存储介质，当所述存储介质中的指令由移动终端的处理器执行时，使得移动终端能够执行一种路况信息的纠错方法，所述方法包括：获取第一双语句对；按照一预设概率，删除所述第一双语句对中的标点符号，获得第二双语句对；利用所述第二双语句对进行机器翻译模型的训练。
图4是本发明中的一种机器翻译模型的训练装置作为服务器时的结构框图。该服务器1900可因配置或性能不同而产生比较大的差异，可以包括一个或一个以上中央处理器(central processing units，CPU)1922(例如，一个或一个以上处理器)和存储器1932，一个或一个以上存储应用程序1942或数据1944的存储介质1930(例如一个或一个以上海量存储设备)。其中，存储器1932和存储介质1930可以是短暂存储或持久存储。存储在存储介质1930的程序可以包括一个或一个以上模块(图示没标出)，每个模块可以包括对服务器中的一系列指令操作。更进一步地，中央处理器1922可以设置为与存储介质1930通信，在服务器1900上执行存储介质1930中的一系列指令操作。
服务器1900还可以包括一个或一个以上电源1926，一个或一个以上有线或无线网络接口1950，一个或一个以上输入输出接口1958，一个或一个以上键盘1956，和/或，一个或一个以上操作系统1941，例如Windows ServerTM，Mac OS XTM，UnixTM,LinuxTM，FreeBSDTM等等。
本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本发明的其它实施方案。本申请旨在涵盖本发明的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本发明的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本发明的真正范围和精神由下面的权利要求指出。
应当理解的是，本发明并不局限于上面已经描述并在附图中示出的精确结构，并且可以在不脱离其范围进行各种修改和改变。本发明的范围仅由所附的权利要求来限制以上所述仅为本发明的较佳实施例，并不用以限制本发明，凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。
Claims (10)
1.一种机器翻译模型的训练方法，其特征在于，包括：
获取第一双语句对；
按照一预设概率，删除所述第一双语句对中的标点符号，获得第二双语句对；
利用所述第二双语句对进行机器翻译模型的训练。
2.如权利要求1所述的机器翻译模型的训练方法，其特征在于，所述第一双语句对，包括：
待翻译语句，以及与所述待翻译语句对应的译文语句。
3.如权利要求2所述的机器翻译模型的训练方法，其特征在于，所述按照一预设概率，删除所述第一双语句对中的标点符号，获得第二双语句对，包括：
按照第一预设概率，随机或按照预设规律删除所述待翻译语句中的第一标点符号，获得第二双语句对；或
按照第一预设概率，随机或按照预设规律删除所述待翻译语句中的第一标点符号，按照第二预设概率，随机或按照预设规律删除所述译文语句中的第二标点符号，获得第二双语句对。
4.如权利要求2所述的机器翻译模型的训练方法，其特征在于，所述按照一预设概率，删除所述第一双语句对中的标点符号，获得第二双语句对，包括：
按照一预设概率，删除所述待翻译语句中的第一标点符号，获得第二双语句对；或
按照一预设概率，删除所述待翻译语句中的第一标点符号，以及删除所述译文语句中的第二标点符号，获得第二双语句对。
5.如权利要求3或4所述的机器翻译模型的训练方法，其特征在于，所述第一标点符号位于所述待翻译语句的末尾，所述第二标点符号位于所述译文语句的末尾。
6.如权利要求3或4所述的机器翻译模型的训练方法，其特征在于，所述第一标点符号或所述第二标点符号，包括：
句号、问号、感叹号或省略号。
7.如权利要求3所述的机器翻译模型的训练方法，其特征在于，所述第一预设概率的取值范围为35％～95％，所述第二预设概率的取值范围为35％～95％。
8.一种机器翻译模型的训练装置，其特征在于，包括：
获取单元，用于获取第一双语句对；
删除单元，用于按照一预设概率，删除所述第一双语句对中的标点符号，获得第二双语句对；
训练单元，用于利用所述第二双语句对进行机器翻译模型的训练。
9.一种机器翻译模型的训练装置，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现以下步骤：
获取第一双语句对；按照一预设概率，删除所述第一双语句对中的标点符号，获得第二双语句对；利用所述第二双语句对进行机器翻译模型的训练。
10.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现以下步骤：
获取第一双语句对；按照一预设概率，删除所述第一双语句对中的标点符号，获得第二双语句对；利用所述第二双语句对进行机器翻译模型的训练。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201711445673.8A CN109977424B (zh) | 2017-12-27 | 2017-12-27 | 一种机器翻译模型的训练方法及装置 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201711445673.8A CN109977424B (zh) | 2017-12-27 | 2017-12-27 | 一种机器翻译模型的训练方法及装置 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN109977424A true CN109977424A (zh) | 2019-07-05 |
| CN109977424B CN109977424B (zh) | 2023-08-08 |
Family
ID=67072574
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201711445673.8A Active CN109977424B (zh) | 2017-12-27 | 2017-12-27 | 一种机器翻译模型的训练方法及装置 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN109977424B (zh) |
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110377918A (zh) * | 2019-07-15 | 2019-10-25 | 昆明理工大学 | 融合句法解析树的汉-越神经机器翻译方法 |
| CN112052693A (zh) * | 2020-09-15 | 2020-12-08 | 科大讯飞股份有限公司 | 机器翻译效果评测方法、装置、设备及存储介质 |
| CN112687271A (zh) * | 2020-12-16 | 2021-04-20 | 北京百度网讯科技有限公司 | 语音翻译方法、装置、电子设备和存储介质 |
Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2007108749A (ja) * | 2005-10-09 | 2007-04-26 | Toshiba Corp | 韻律統計モデル訓練方法及び装置、韻律解析方法及び装置、テキスト音声合成方法及びシステム |
| CN101308512A (zh) * | 2008-06-25 | 2008-11-19 | 北京金山软件有限公司 | 一种基于网页的互译翻译对抽取方法及装置 |
| CN103116575A (zh) * | 2011-11-16 | 2013-05-22 | 富士通株式会社 | 基于层次短语模型的译文词序概率确定方法及装置 |
| CN103646019A (zh) * | 2013-12-31 | 2014-03-19 | 哈尔滨理工大学 | 一种多个机器翻译系统融合的方法及装置 |
| CN105335446A (zh) * | 2014-08-13 | 2016-02-17 | 中国科学院声学研究所 | 一种基于词矢量的短文本分类模型生成方法与分类方法 |
| CN107247904A (zh) * | 2017-06-16 | 2017-10-13 | 郑州云海信息技术有限公司 | 一种安全基线项目同步方法及装置 |
-
2017
- 2017-12-27 CN CN201711445673.8A patent/CN109977424B/zh active Active
Patent Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2007108749A (ja) * | 2005-10-09 | 2007-04-26 | Toshiba Corp | 韻律統計モデル訓練方法及び装置、韻律解析方法及び装置、テキスト音声合成方法及びシステム |
| CN101308512A (zh) * | 2008-06-25 | 2008-11-19 | 北京金山软件有限公司 | 一种基于网页的互译翻译对抽取方法及装置 |
| CN103116575A (zh) * | 2011-11-16 | 2013-05-22 | 富士通株式会社 | 基于层次短语模型的译文词序概率确定方法及装置 |
| CN103646019A (zh) * | 2013-12-31 | 2014-03-19 | 哈尔滨理工大学 | 一种多个机器翻译系统融合的方法及装置 |
| CN105335446A (zh) * | 2014-08-13 | 2016-02-17 | 中国科学院声学研究所 | 一种基于词矢量的短文本分类模型生成方法与分类方法 |
| CN107247904A (zh) * | 2017-06-16 | 2017-10-13 | 郑州云海信息技术有限公司 | 一种安全基线项目同步方法及装置 |
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110377918A (zh) * | 2019-07-15 | 2019-10-25 | 昆明理工大学 | 融合句法解析树的汉-越神经机器翻译方法 |
| CN112052693A (zh) * | 2020-09-15 | 2020-12-08 | 科大讯飞股份有限公司 | 机器翻译效果评测方法、装置、设备及存储介质 |
| CN112687271A (zh) * | 2020-12-16 | 2021-04-20 | 北京百度网讯科技有限公司 | 语音翻译方法、装置、电子设备和存储介质 |
| CN112687271B (zh) * | 2020-12-16 | 2023-04-11 | 北京百度网讯科技有限公司 | 语音翻译方法、装置、电子设备和存储介质 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN109977424B (zh) | 2023-08-08 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| WO2021155632A1 (zh) | 图像处理方法及装置、电子设备和存储介质 | |
| WO2017114020A1 (zh) | 语音输入方法和终端设备 | |
| WO2021027343A1 (zh) | 一种人脸图像识别方法及装置、电子设备和存储介质 | |
| WO2021128880A1 (zh) | 一种语音识别方法、装置和用于语音识别的装置 | |
| CN111128183B (zh) | 语音识别方法、装置和介质 | |
| CN107564526B (zh) | 处理方法、装置和机器可读介质 | |
| CN109961791A (zh) | 一种语音信息处理方法、装置及电子设备 | |
| EP3734472A1 (en) | Method and device for text processing | |
| CN112001364A (zh) | 图像识别方法及装置、电子设备和存储介质 | |
| CN109977424A (zh) | 一种机器翻译模型的训练方法及装置 | |
| WO2023000891A1 (zh) | 一种数据处理方法、装置、计算机设备和存储介质 | |
| CN111160047A (zh) | 一种数据处理方法、装置和用于数据处理的装置 | |
| WO2022198828A1 (zh) | 一种公式识别方法及装置 | |
| CN113936697B (zh) | 语音处理方法、装置以及用于语音处理的装置 | |
| US11373038B2 (en) | Method and terminal for performing word segmentation on text information, and storage medium | |
| CN110780749B (zh) | 一种字符串纠错方法和装置 | |
| CN109887492B (zh) | 一种数据处理方法、装置和电子设备 | |
| CN110858099B (zh) | 候选词生成方法及装置 | |
| CN109145151B (zh) | 一种视频的情感分类获取方法及装置 | |
| CN110968246A (zh) | 中文智能手写输入识别方法及装置 | |
| WO2023092975A1 (zh) | 图像处理方法及装置、电子设备、存储介质及计算机程序产品 | |
| CN111984765A (zh) | 知识库问答过程关系检测方法及装置 | |
| CN105094891B (zh) | 效果显示方法及装置 | |
| CN110765943A (zh) | 网络训练、识别方法及装置、电子设备和存储介质 | |
| WO2020056948A1 (zh) | 一种数据处理方法、装置和用于数据处理的装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |