CN114757214B - 用于优化翻译模型的样本语料的选取方法、相关装置 - Google Patents

Abstract

本公开提供了用于优化翻译模型的样本语料的选取方法、装置、电子设备、计算机可读存储介质及计算机程序产品，涉及自然语言处理、机器翻译、深度学习等人工智能技术领域。该方法的一具体实施方式包括：获取第一语料后，利用待优化翻译模型翻译该第一语料得到语种类型不同的第二语料，再利用该待优化翻译模型翻译该第二语料得到第三语料，然后，基于第一语料与第三语料的相似度确定第一语料的难度等级，最后，在该难度等级满足等级阈值要求时进行响应，将该第一语料确定为用于对该待优化翻译模型进行优化训练的样本语料。该实施方式提供的用于优化翻译模型的样本语料的选取方法，能够准确筛选出对当前模型效果有实际优化效果的样本语料。

Description

用于优化翻译模型的样本语料的选取方法、相关装置

技术领域

本公开涉及计算机技术领域，具体涉及自然语言处理、机器翻译、深度学习等人工智能技术领域，尤其涉及用于优化翻译模型的样本语料的选取方法、装置、电子设备、计算机可读存储介质及计算机程序产品。

背景技术

在机器翻译模型训练场景中，针对大量训练数据，已有工作提出利用课程表学习方法，即通过优先学习难度较低的样本、后续学习难度较高的样本的循序渐进的方式对模型进行训练，以提升机器翻译模型的训练效果。

尤其在机器翻译模型训练至一定阶段时，机器翻译模型对于简单样本的处理能力已经十分优秀，简单样本对于机器翻译模型的训练过程能起到的作用已十分有限，为进一步提升机器翻译模型的质量，需逐步加大训练样本的难度、采用难度较高的困难样本对机器翻译模型进行训练。

发明内容

本公开实施例提出了一种用于优化翻译模型的样本语料的选取方法、装置、电子设备、计算机可读存储介质及计算机程序产品。

第一方面，本公开实施例提出了一种用于优化翻译模型的样本语料的选取方法，包括：获取第一语料，利用待优化翻译模型翻译该第一语料，生成与该第一语料对应的第二语料，其中，该第一语料与该第二语料的语种类型不同，该待优化翻译模型可用于在第一语料的语种类型和第二语料的语种类型之间进行双向翻译；利用该待优化翻译模型翻译该第二语料，生成与该第二语料对应的第三语料；基于该第一语料与该第三语料的相似度确定该第一语料的难度等级，其中，该难度等级至少包括两个等级；响应于该难度等级满足等级阈值要求，将该第一语料确定为样本语料，其中，该样本语料用于对该待优化翻译模型进行优化训练。

第二方面，本公开实施例提出了一种用于优化翻译模型的样本语料的选取装置，包括：第二语料生成单元，被配置成获取第一语料，利用待优化翻译模型翻译该第一语料，生成与该第一语料对应的第二语料，其中，该第一语料与该第二语料的语种类型不同，该待优化翻译模型可用于在第一语料的语种类型和第二语料的语种类型之间进行双向翻译；第三语料生成单元，被配置成利用该待优化翻译模型翻译该第二语料，生成与该第二语料对应的第三语料；难度等级确定单元，被配置成基于该第一语料与该第三语料的相似度确定该第一语料的难度等级，其中，该难度等级至少包括两个等级；样本语料选取单元，被配置成响应于该难度等级满足等级阈值要求，将该第一语料确定为样本语料，其中，该样本语料用于对该待优化翻译模型进行优化训练。

第三方面，本公开实施例提供了一种电子设备，该电子设备包括：至少一个处理器；以及与至少一个处理器通信连接的存储器；其中，存储器存储有可被至少一个处理器执行的指令，该指令被至少一个处理器执行，以使至少一个处理器执行时能够实现如第一方面中任一实现方式描述的用于优化翻译模型的样本语料的选取方法。

第四方面，本公开实施例提供了一种存储有计算机指令的非瞬时计算机可读存储介质，该计算机指令用于使计算机执行时能够实现如第一方面中任一实现方式描述的用于优化翻译模型的样本语料的选取方法。

第五方面，本公开实施例提供了一种包括计算机程序的计算机程序产品，该计算机程序在被处理器执行时能够实现如第一方面中任一实现方式描述的用于优化翻译模型的样本语料的选取方法。

本公开实施例提供的用于优化翻译模型的样本语料的选取方法、装置、电子设备、计算机可读存储介质及计算机程序产品，获取第一语料后，利用可用于在第一语料的语种类型和第二语料的语种类型之间进行双向翻译的待优化翻译模型翻译该第一语料得到语种类型不同的第二语料，再利用该待优化翻译模型翻译该第二语料得到第三语料，然后，基于第一语料与第三语料的相似度确定第一语料的难度等级，最后，在该难度等级满足等级阈值要求时进行响应，将该第一语料确定为用于对该待优化翻译模型进行优化训练的样本语料。

本公开可通过待优化翻译模型对第一语料的双向处理结果确定待优化翻译模型对于该第一语料的识别、处理能力，以确定第一语料对于待优化翻译模型而言的处理难度后，既筛选出对当前模型效果有实际优化效果的样本语料，又可以解决因第一语料中存在标注瑕疵导致的样本难度误判问题。

应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

通过阅读参照以下附图所作的对非限制性实施例所作的详细描述，本公开的其它特征、目的和优点将会变得更明显：

图1是本公开可以应用于其中的示例性系统架构；

图2为本公开实施例提供的一种用于优化翻译模型的样本语料的选取方法的流程图；

图3为本公开实施例提供的另一种用于优化翻译模型的样本语料的选取方法的流程图；

图4为本公开实施例提供的在一应用场景下的用于优化翻译模型的样本语料的选取方法的流程示意图；

图5为本公开实施例提供的一种用于优化翻译模型的样本语料的选取装置的结构框图；

图6为本公开实施例提供的一种适用于执行用于优化翻译模型的样本语料的选取方法的电子设备的结构示意图。

具体实施方式

以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。需要说明的是，在不冲突的情况下，本公开中的实施例及实施例中的特征可以相互组合。

此外，本公开涉及的技术方案中，所涉及的用户个人信息的获取、存储、使用、加工、运输、提供和公开等处理，均符合相关法律法规的规定，且不违背公序良俗。

图1示出了可以应用本公开的用于优化翻译模型的样本语料的选取方法、装置、电子设备及计算机可读存储介质的实施例的示例性系统架构100。

如图1所示，系统架构100可以包括终端设备101、102、103，网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。

用户可以使用终端设备101、102、103通过网络104与服务器105交互，以接收或发送消息等。终端设备101、102、103和服务器105上可以安装有各种用于实现两者之间进行信息通讯的应用，例如模型优化训练类应用、样本筛选类应用、即时通讯类应用等。

终端设备101、102、103和服务器105可以是硬件，也可以是软件。当终端设备101、102、103为硬件时，可以是具有显示屏的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等；当终端设备101、102、103为软件时，可以安装在上述所列举的电子设备中，其可以实现成多个软件或软件模块，也可以实现成单个软件或软件模块，在此不做具体限定。当服务器105为硬件时，可以实现成多个服务器组成的分布式服务器集群，也可以实现成单个服务器；服务器为软件时，可以实现成多个软件或软件模块，也可以实现成单个软件或软件模块，在此不做具体限定。

服务器105通过内置的各种应用可以提供各种服务，以可以提供远程模型训练的远程训练类应用为例，服务器105在运行模型优化训练类应用时可实现如下效果：首先，通过网络104从终端设备101、102、103中获取第一语料，并在本地利用待优化翻译模型翻译该第一语料，生成与该第一语料对应的第二语料，其中，该第一语料与该第二语料的语种类型不同；然后，服务器105利用该待优化翻译模型翻译该第二语料，生成与该第二语料对应的第三语料；接下来，服务器105基于该第一语料与该第三语料的相似度确定该第一语料的难度等级，其中，该难度等级至少包括两个等级；最后，服务器105在该难度等级满足等级阈值要求时进行响应，将该第一语料确定为样本语料，其中，该样本语料用于对该待优化翻译模型进行优化训练。

需要指出的是，获取第一语料除可以从终端设备101、102、103通过网络104获取到之外，也可以通过各种方式预先存储在服务器105本地。因此，当服务器105检测到本地已经存储有这些数据时(例如开始处理之前留存的对待优化翻译模型进行优化的优化任务)，可选择直接从本地获取这些数据，在此种情况下，示例性系统架构100也可以不包括终端设备101、102、103和网络104。

由于对于待优化翻译模型进行优化需要占用较多的运算资源和较强的运算能力，因此本公开后续各实施例所提供的用于优化翻译模型的样本语料的选取方法一般由拥有较强运算能力、较多运算资源的服务器105来执行，相应地，用于优化翻译模型的样本语料的选取装置一般也设置于服务器105中。但同时也需要指出的是，在终端设备101、102、103也具有满足要求的运算能力和运算资源时，终端设备101、102、103也可以通过其上安装的模型优化训练类应用完成上述本交由服务器105做的各项运算，进而输出与服务器105同样的结果。尤其是在同时存在多种具有不同运算能力的终端设备的情况下，但模型优化训练类应用判断所在的终端设备拥有较强的运算能力和剩余较多的运算资源时，可以让终端设备来执行上述运算，从而适当减轻服务器105的运算压力，相应的，用于优化翻译模型的样本语料的选取装置也可以设置于终端设备101、102、103中。在此种情况下，示例性系统架构100也可以不包括服务器105和网络104。

应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。

请参考图2，图2为本公开实施例提供的一种用于优化翻译模型的样本语料的选取方法的流程图，其中流程200包括以下步骤：

步骤201，获取第一语料，利用待优化翻译模型翻译第一语料，生成与第一语料对应的第二语料。

在本实施例中，由用于优化翻译模型的样本语料的选取方法的执行主体(例如图1所示的服务器105)获取第一语料后，利用待优化翻译模型对该第一语料进行处理、翻译，得到与该第一语料所对应的其他语种类型的第二语料，其中，第一语料和第二语料的语种类型不同，该待优化翻译模型可用于在第一语料的语种类型和第二语料的语种类型之间进行双向翻译，第一语料和第二语料的语种类型通常与待优化翻译模型所支持翻译的语种相对应，例如，待优化翻译模型为用户进行汉-英和英-汉转换的双语翻译模型时，该第一语料的语种类型可以为汉语，第二语料的语种类型则相应的为英语。

其中，该待优化翻译模型为现有技术中可用于不同语种类型之间进行转换、翻译的翻译模型、翻译编辑器和翻译工具等，包括但不限于用于不同语种之间文字翻译的翻译模型，以及将一语种下的语音内容转换为另一语种下的语音内容和/或文字内容的翻译模型。

在实践中，通常还会预先为该第一语料配置对应的标准第二语料，并通常会在获取该第一语料时对该标准第二语料一并获取，该标准第二语料为语种类型与第二语料相同，内容为预先确定的、在第二语料的语种类型下与该第一语料所对应的标准翻译内容，后续可在确定第一语料为样本语料时，利用该第一语料和该标准第二语料分别作为待优化翻译模型的输入和输出，对该待优化翻译模型进行训练。

需要指出的是，获取第一语料可以由上述执行主体直接从本地的存储设备获取，也可以从非本地的存储设备(例如图1所示的终端设备101、102、103)中获取。本地的存储设备可以是设置在上述执行主体内的一个数据存储模块，例如服务器硬盘，在此种情况下，第一语料可以在本地快速读取到；非本地的存储设备还可以为其它任何被设置用于存储数据的电子设备，例如一些用户终端等，在此情况下，上述执行主体可以通过向该电子设备发送获取命令来获取所需的获取第一语料。

步骤202，利用该待优化翻译模型翻译该第二语料，生成与该第二语料对应的第三语料。

在本实施例中，在基于上述步骤201中得到与第一语料内容相对应、语种类型不同的第二语料后，再次利用该待优化翻译模型对该第二语料进行处理，以得到与该第二语料对应的第三语料，其中，该第三语料的语种类型与第一语料的语种类型相同。

在实践中，第一语料可以为多个内容的语料集合，例如第一语料可以为基于“我想吃苹果”、“我爱吃苹果”、“苹果有益健康”的语料集合，在此过程中，可分别确定第一语料中所包括的各内容所对应的第二语料后，通过与上述内容相似的方式获取各语料所对应的难度等级后，利用加权等方式确定该第一语料所对应的难度等级。

步骤203，基于第一语料与第三语料的相似度确定该第一语料的难度等级。

在本实施例中，获取上述步骤202中生成的第三语料，并生成第一语料与第三语料之间的相似度，基于该相似度确定第一语料的难度等级，其中，该难度等级可为预设的至少两个等级，可在预先配置有至少两个等级的难度等级后，对应各难度等级确定相似度的条件，例如确定存在“简单”、“困难”两个难度等级的场景下，确定第一语料与第三语料的相似度＜50％时，确定该第一语料的难度等级为“困难”，第一语料与第三语料的相似度≥50％时，确定该第一语料的难度等级为“简单”。

其中，可优选的通过比较第一语料和第三语料中对应位置所记载的内容的匹配度的方式获取第一语料和第三语料的相似度，以便于提高确定第一语料和第三语料之间相似度的效率，也可以分别基于第一语料和第三语料生成各自所对应的语料特征、语料向量后，利用语料特征、语料向量之间的余弦相似度表征第一语料与第三语料之间的相似度。

在实践中，可根据实际的优化需求配置多个不同的难度等级，例如分别确定难度等级为由低至高的“I级”、“II级”、“III级”和“IV级”以便于更细致的对第一语料对于待优化翻译模型的训练难度进行分级。

步骤204，响应于该难度等级满足等级阈值要求，将该第一语料确定为样本语料。

在本实施例中，在基于上述步骤203中确定得到的第一语料的难度等级满足预先配置的等级阈值要求时进行响应，并将该第一语料确定为用于对该待优化翻译模型进行优化训练的样本语料。

进一步，在确定第一语料为样本语料后，若该第一语料未存在对应的标准第二语料，则可将该第一语料进行反馈，以便于待优化翻译模型的训练方为该样本语料添加对应的标准第二语料后，利用该样本语料-标准第二语料作为输入和输入对该待优化翻译模型进行优化训练。

本公开实施例提供的用于优化翻译模型的样本语料的选取方法，可通过待优化翻译模型对第一语料的双向处理结果确定待优化翻译模型对于该第一语料的识别、处理能力，以确定第一语料对于待优化翻译模型而言的处理难度后，既筛选出对当前模型效果有实际优化效果的样本语料，又可以解决因第一语料中存在标注瑕疵导致的样本难度误判问题。

在本实施例的一些可选的实现方式中，基于该第一语料与该第三语料的相似度确定该第一语料的难度参数，包括：获取该第一语料与该第三语料的相似度；根据该相似度所落入的阈值区间确定该第一语料的难度等级。

具体的，预先配置至少两个难度等级后，分别配置各难度等级所对应的相似度的阈值区间，以便于在获取到第一语料与第三语料的相似度后，基于该相似度所落入的阈值区间确定对应的难度等级，以快速、精准的实现第一语料的难度等级分级。

在本实施例的一些可选的实现方式中，该用于优化翻译模型的样本语料的选取方法，还包括：将各该样本语料按难度等级由低到高进行排序，得到样本语料序列；按该样本语料序列所指示的排序顺序，依次选取各该样本语料对该待优化翻译模型进行优化训练。

具体的，在将多个难度等级满足等级阈值要求的第一语料确定为样本语料时，可进一步的基于各样本语料的难度等级由低到高进行排序，得到样本语料序列，该样本语料序列中指示有难度等级由低到高的各样本语料难度的排列顺序，并按该样本语料序列所指示的排序顺序，依次选取各样本语料对待优化翻译模型进行优化训练，以实现训练难度由低至高的迭代训练，提升对于待优化翻译模型的优化效果。

在本实施例的一些可选的实现方式中，还包括：获取预先配置的标准第二语料与该第二语料的参考相似度，其中，该标准第二语料为该第二语料的语种类型下与该第一语料对应的标准翻译结果；响应于该参考相似度高于参考相似度阈值，为该样本语料添加用于指示优化侧重方向的优化指示信息，其中，该优化指示信息用于指示需优化该待优化翻译模型对于该第二语料的语种类型转换至该第三语料的语种类型的优化方向对该待优化翻译模型的进行优化。

具体的，获取预先配置的标准第二语料与该第二语料的参考相似度，在该参考相似度高于参考相似度阈值进行响应，确定对于待优化翻译模型在基于第二语料的语种进行翻译、处理的处理方向时能力较弱，为该样本语料添加用于指示优化侧重方向为将该第二语料的语种类型转换至该第三语料的语种类型的优化方向的优化指示信息，以便于具有针对性的对该待优化翻译模型进行优化。

请参考图3，图3为本公开实施例提供的另一种用于优化翻译模型的样本语料的选取方法的流程图，其中流程300包括以下步骤：

步骤301，获取第一语料，利用待优化翻译模型翻译第一语料，生成与第一语料对应的第二语料。

步骤302，利用该待优化翻译模型翻译该第二语料，生成与该第二语料对应的第三语料。

步骤303，基于第一语料与第三语料的相似度确定该第一语料的难度等级。

步骤304，响应于该难度等级未满足该等级阈值要求，获取预先配置的标准第二语料与第二语料的参考相似度。

在本实施例中，在该第一语料样本所对应的难度等级未满足等级阈值要求，获取预先配置的与该第一语料所对应的标准第二语料后，获取第二语料与该标准第二语料之间的参考相似度，对于第二语料与标准第二语料之间的参考相似度的获取方式可参考图2所对应实施例中，在第一语料与第三语料属于相同语种时，第一语料与第三语料的相似度的确定方式，此处不再赘述。

还可在未预先配置有标准第二语料的情况下，在确定第一语料的难度等级未满足该等级阈值时，生成相应的标准第二语料获取请求，以请求待优化翻译模型的训练方配置相应的标准第二语料，以达到与预先配置有标准第二语料相近似的处理效果。

步骤305，响应于该参考相似度低于第一相似度阈值，将该第一语料的难度等级调整至满足该等级阈值要求的第一难度等级。

在本实施例中，在基于上述步骤304中获取到的参考相似度低于第一相似度阈值时进行响应，将该第一语料的难度等级调整至与该等级阈值要求所要求的难度等级相当，或高于该等级阈值要求所要求的难度等级。

步骤306，响应于该难度等级满足等级阈值要求，将该第一语料确定为样本语料。

以上步骤301-303以及306与如图2所示的步骤201-204一致，相同部分内容请参见上一实施例的相应部分，此处不再进行赘述，本实施例在图2所示的实施例的基础上，可在预先配置有标准第二语料时，利用该标准第二语料与第二语料的参考相似度对待优化翻译模型的翻译逻辑进行检验，以减少因待优化翻译模型发生捷径学习等情况所造成的难度误判。

在本实施例的一些可选的实现方式中，响应于该参考相似度低于第二相似度阈值，将该第一语料的难度等级调整至高于该第一难度等级的第二难度等级，其中，该第二相似度阈值的数值低于该第一相似度阈值。

具体的，在图3所示实施例的基础上，还可进一步的设置数值第一该第一相似度阈值的第二相似度阈值，以便于在该第一语料的难度等级未满足该等级阈值要求且该参考相似度低于第二相似度阈值，将该第一语料的难度等级调整至高于该第一难度等级的第二难度等级，以便于进一步的抵制因待优化翻译模型发生捷径学习等情况所造成的难度误判，提升确定的样本语料的质量。

为加深理解，本公开还结合一个具体应用场景，给出了一种具体的实现方案，请参见如图4所示的流程400，在该应用场景下，确定第一语料“我昨晚熬夜了”是否可以作为用于对待优化翻译模型A进行优化训练的样本语料，具体如下：

获取该第一语料“我昨晚熬夜了”后，利用待优化翻译模型A处理该第一语料，得到与该第一语料对应的第二语料“I fell asleep last night”。

利用该待优化翻译模型A处理该第二语料“I fell asleep last night”，得到与该第二语料对应的第三语料“我昨天晚上睡着了”。

等级由高至低配置难度等级，及各难度等级所对应的相似度的阈值区间为：困难(相似度＜30％)、普通(30％≤相似度≤70％)和简单(相似度＞70％)，以及等级阈值要求≥普通后，获取该第一语料“我昨晚熬夜了”与该第三语料“我昨天晚上睡着了”的相似度(20％)之后，基于该相似度该的阈值区间确定该第一样本的难度为困难。

确定该第一样本的难度等级为困难后，因难度等级中，困难＞普通，对此进行响应，将该第一语料确定为用于对该待优化翻译模型进行优化训练的样本语料。

此外，为更好的说明本公开所提供的技术方案，基于该流程图400还可以看出，假设第一语料“我昨晚熬夜了”与该第三语料“我昨天晚上睡着了”的相似度为80％，即确定基于该相似度该的阈值区间确定该第一样本的难度为简单时，可相应的获取标准第二语料“Istayed up late last night”后，基于标准第二语料“I stayed up late last night”与第二语料“I fell asleep last night”之间的参考相似度是否低于第一相似度阈值来判断是否需要对第一语料的难度等级进行调整。

进一步参考图5，作为对上述各图所示方法的实现，本公开提供了一种用于优化翻译模型的样本语料的选取装置的一个实施例，该装置实施例与图2所示的方法实施例相对应，该装置具体可以应用于各种电子设备中。

如图5所示，本实施例的用于优化翻译模型的样本语料的选取装置500可以包括：第二语料生成单元501、第三语料生成单元502、难度等级确定单元503和样本语料选取单元504。其中，第二语料生成单元501，被配置成获取第一语料，利用待优化翻译模型翻译该第一语料，生成与该第一语料对应的第二语料，其中，该第一语料与该第二语料的语种类型不同；第三语料生成单元502，被配置成利用该待优化翻译模型翻译该第二语料，生成与该第二语料对应的第三语料；难度等级确定单元503，被配置成基于该第一语料与该第三语料的相似度确定该第一语料的难度等级，其中，该难度等级至少包括两个等级；样本语料选取单元504，被配置成响应于该难度等级满足等级阈值要求，将该第一语料确定为样本语料，其中，该样本语料用于对该待优化翻译模型进行优化训练。

在本实施例中，用于优化翻译模型的样本语料的选取装置500中：第二语料生成单元501、第三语料生成单元502、难度等级确定单元503和样本语料选取单元504的具体处理及其所带来的技术效果可分别参考图2对应实施例中的步骤201-204的相关说明，在此不再赘述。

在本实施例的一些可选的实现方式中，该用于优化翻译模型的样本语料的选取装置500，还包括：参考相似度获取单元，被配置成响应于该难度等级未满足该等级阈值要求，获取预先配置的标准第二语料与该第二语料的参考相似度，其中，该标准第二语料为该第二语料的语种类型下与该第一语料对应的标准翻译结果；第一难度调整单元，被配置成响应于该参考相似度低于第一相似度阈值，将该第一语料的难度等级调整至满足该等级阈值要求的第一难度等级。

在本实施例的一些可选的实现方式中，该用于优化翻译模型的样本语料的选取装置500，还包括：第二难度调整单元，被配置成响应于该参考相似度低于第二相似度阈值，将该第一语料的难度等级调整至高于该第一难度等级的第二难度等级，其中，该第二相似度阈值的数值低于该第一相似度阈值。

在本实施例的一些可选的实现方式中，该用于优化翻译模型的样本语料的选取装置500，还包括：参考相似度获取单元，被配置成响应于该难度等级未满足该等级阈值要求，获取预先配置的标准第二语料与该第二语料的参考相似度，其中，该标准第二语料为该第二语料的语种类型下与该第一语料对应的标准翻译结果；优化指示信息添加单元，被配置成响应于该参考相似度高于参考相似度阈值，为该样本语料添加用于指示优化侧重方向的优化指示信息，其中，该优化指示信息用于指示需优化该待优化翻译模型对于该第二语料的语种类型转换至该第三语料的语种类型的优化方向对该待优化翻译模型的进行优化。

在本实施例的一些可选的实现方式中，难度等级确定单元503，包括：相似度比较子单元，被配置成获取该第一语料与该第三语料的相似度；难度等级确定子单元，被配置成根据该相似度所落入的阈值区间确定该第一语料的难度等级。

在本实施例的一些可选的实现方式中，该用于优化翻译模型的样本语料的选取装置500，还包括：序列生成单元，被配置成将各该样本语料按难度等级由低到高进行排序，得到样本语料序列；模型优化训练单元，被配置成按该样本语料序列所指示的排序顺序，依次选取各该样本语料对该待优化翻译模型进行优化训练。

本实施例作为对应于上述方法实施例的装置实施例存在，本实施例提供的用于优化翻译模型的样本语料的选取装置，可通过待优化翻译模型对第一语料的双向处理结果确定待优化翻译模型对于该第一语料的识别、处理能力，以确定第一语料对于待优化翻译模型而言的处理难度后，既筛选出对当前模型效果有实际优化效果的样本语料，又可以解决因第一语料中存在标注瑕疵导致的样本难度误判问题。

根据本公开的实施例，本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。

图6示出了可以用来实施本公开的实施例的示例电子设备600的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。

如图6所示，设备600包括计算单元601，其可以根据存储在只读存储器(ROM)602中的计算机程序或者从存储单元608加载到随机访问存储器(RAM)603中的计算机程序，来执行各种适当的动作和处理。在RAM 603中，还可存储设备600操作所需的各种程序和数据。计算单元601、ROM 602以及RAM 603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。

设备600中的多个部件连接至I/O接口605，包括：输入单元606，例如键盘、鼠标等；输出单元607，例如各种类型的显示器、扬声器等；存储单元608，例如磁盘、光盘等；以及通信单元609，例如网卡、调制解调器、无线通信收发机等。通信单元609允许设备600通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。

计算单元601可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元601的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元601执行上文所描述的各个方法和处理，例如用于优化翻译模型的样本语料的选取方法。例如，在一些实施例中，用于优化翻译模型的样本语料的选取方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元608。在一些实施例中，计算机程序的部分或者全部可以经由ROM 602和/或通信单元609而被载入和/或安装到设备600上。当计算机程序加载到RAM 603并由计算单元601执行时，可以执行上文描述的用于优化翻译模型的样本语料的选取方法的一个或多个步骤。备选地，在其他实施例中，计算单元601可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行用于优化翻译模型的样本语料的选取方法。

本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。

用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。

在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。

计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，又称为云计算服务器或云主机，是云计算服务体系中的一项主机产品，以解决传统物理主机与虚拟专用服务器(VPS，Virtual Private Server)服务中存在的管理难度大，业务扩展性弱的缺陷。服务器也可以分为分布式系统的服务器，或者是结合了区块链的服务器。

根据本公开实施例的技术方案，可通过待优化翻译模型对第一语料的双向处理结果确定待优化翻译模型对于该第一语料的识别、处理能力，以确定第一语料对于待优化翻译模型而言的处理难度后，既筛选出对当前模型效果有实际优化效果的样本语料，又可以解决因第一语料中存在标注瑕疵导致的样本难度误判问题。

应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开提供的技术方案所期望的结果，本文在此不进行限制。

上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。

Claims (14)

1.一种用于优化翻译模型的样本语料的选取方法，包括：

获取第一语料，利用待优化翻译模型翻译所述第一语料，生成与所述第一语料对应的第二语料，其中，所述第一语料与所述第二语料的语种类型不同，所述待优化翻译模型用于在所述第一语料的语种类型和所述第二语料的语种类型之间进行双向翻译；

利用所述待优化翻译模型翻译所述第二语料，生成与所述第二语料对应的第三语料，其中，所述第三语料与所述第一语料的语种类型相同；

基于所述第一语料与所述第三语料的相似度确定所述第一语料的难度等级，其中，所述难度等级至少包括两个等级；

响应于所述难度等级满足等级阈值要求，将所述第一语料确定为样本语料，其中，所述样本语料用于对所述待优化翻译模型进行优化训练，所述满足等级阈值要求指所述难度等级高于所述等级阈值要求所要求的难度等级。

2.根据权利要求1所述的方法，还包括：

响应于所述难度等级未满足所述等级阈值要求，获取预先配置的标准第二语料与所述第二语料的参考相似度，其中，所述标准第二语料为所述第二语料的语种类型下与所述第一语料对应的标准翻译结果；

响应于所述参考相似度低于第一相似度阈值，将所述第一语料的难度等级调整至满足所述等级阈值要求的第一难度等级。

3.根据权利要求2所述的方法，还包括：

响应于所述参考相似度低于第二相似度阈值，将所述第一语料的难度等级调整至高于所述第一难度等级的第二难度等级，其中，所述第二相似度阈值的数值低于所述第一相似度阈值。

4.根据权利要求1所述的方法，还包括：

获取预先配置的标准第二语料与所述第二语料的参考相似度，其中，所述标准第二语料为所述第二语料的语种类型下与所述第一语料对应的标准翻译结果；

响应于所述参考相似度高于参考相似度阈值，为所述样本语料添加用于指示优化侧重方向的优化指示信息，其中，所述优化指示信息用于指示需优化所述待优化翻译模型对于所述第二语料的语种类型转换至所述第三语料的语种类型的优化方向对所述待优化翻译模型的进行优化。

5.根据权利要求1所述的方法，其中，所述基于所述第一语料与所述第三语料的相似度确定所述第一语料的难度参数，包括：

获取所述第一语料与所述第三语料的相似度；

根据所述相似度所落入的阈值区间确定所述第一语料的难度等级。

6.根据权利要求1所述的方法，还包括：

将各所述样本语料按难度等级由低到高进行排序，得到样本语料序列；

按所述样本语料序列所指示的排序顺序，依次选取各所述样本语料对所述待优化翻译模型进行优化训练。

7.一种用于优化翻译模型的样本语料的选取装置，包括：

第二语料生成单元，被配置成获取第一语料，利用待优化翻译模型翻译所述第一语料，生成与所述第一语料对应的第二语料，其中，所述第一语料与所述第二语料的语种类型不同，所述待优化翻译模型用于在所述第一语料的语种类型和所述第二语料的语种类型之间进行双向翻译；

第三语料生成单元，被配置成利用所述待优化翻译模型翻译所述第二语料，生成与所述第二语料对应的第三语料，其中，所述第三语料与所述第一语料的语种类型相同；

难度等级确定单元，被配置成基于所述第一语料与所述第三语料的相似度确定所述第一语料的难度等级，其中，所述难度等级至少包括两个等级；

样本语料选取单元，被配置成响应于所述难度等级满足等级阈值要求，将所述第一语料确定为样本语料，其中，所述样本语料用于对所述待优化翻译模型进行优化训练，所述满足等级阈值要求指所述难度等级高于所述等级阈值要求所要求的难度等级。

8.根据权利要求7所述的装置，还包括：

参考相似度获取单元，被配置成响应于所述难度等级未满足所述等级阈值要求，获取预先配置的标准第二语料与所述第二语料的参考相似度，其中，所述标准第二语料为所述第二语料的语种类型下与所述第一语料对应的标准翻译结果；

第一难度调整单元，被配置成响应于所述参考相似度低于第一相似度阈值，将所述第一语料的难度等级调整至满足所述等级阈值要求的第一难度等级。

9.根据权利要求8所述的装置，还包括：

第二难度调整单元，被配置成响应于所述参考相似度低于第二相似度阈值，将所述第一语料的难度等级调整至高于所述第一难度等级的第二难度等级，其中，所述第二相似度阈值的数值低于所述第一相似度阈值。

10.根据权利要求7所述的装置，还包括：

参考相似度获取单元，被配置成响应于所述难度等级未满足所述等级阈值要求，获取预先配置的标准第二语料与所述第二语料的参考相似度，其中，所述标准第二语料为所述第二语料的语种类型下与所述第一语料对应的标准翻译结果；

优化指示信息添加单元，被配置成响应于所述参考相似度高于参考相似度阈值，为所述样本语料添加用于指示优化侧重方向的优化指示信息，其中，所述优化指示信息用于指示需优化所述待优化翻译模型对于所述第二语料的语种类型转换至所述第三语料的语种类型的优化方向对所述待优化翻译模型的进行优化。

11.根据权利要求7所述的装置，其中，所述难度等级确定单元，包括：

相似度比较子单元，被配置成获取所述第一语料与所述第三语料的相似度；

难度等级确定子单元，被配置成根据所述相似度所落入的阈值区间确定所述第一语料的难度等级。

12.根据权利要求7所述的装置，还包括：

序列生成单元，被配置成将各所述样本语料按难度等级由低到高进行排序，得到样本语料序列；

模型优化训练单元，被配置成按所述样本语料序列所指示的排序顺序，依次选取各所述样本语料对所述待优化翻译模型进行优化训练。

13.一种电子设备，包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-6中任一项所述的用于优化翻译模型的样本语料的选取方法。

14.一种存储有计算机指令的非瞬时计算机可读存储介质，所述计算机指令用于使所述计算机执行权利要求1-6中任一项所述的用于优化翻译模型的样本语料的选取方法。

Images