CN117291196A - 语音翻译的方法、装置、电子设备和介质 - Google Patents

Abstract

本公开的实施例涉及语音翻译的方法、装置、电子设备和介质。该方法包括获取源语言的音频，所述音频包括特定类型的信息。该方法还包括获取与目标语言有关的提示内容。此外，该方法还包括基于音频和提示内容，生成与音频相对应的目标语言文本，其中所述目标语言文本包括与所述特定类型的信息相对应的标点符号。由此，通过本公开的实施例提供的语音翻译的方案，能够根据源语言音频中包含的特定类型的信息，在翻译结果中为特定类型的信息添加相应的标点符号，提高语音翻译结果的准确性、可读性和流畅性，避免因为缺少标点符号导致的翻译问题，进而提高用户语音翻译时的用户体验。

Description

语音翻译的方法、装置、电子设备和介质

技术领域

本公开的实施例涉及计算机领域，并且更具体地，涉及语音翻译的方法、装置、电子设备和介质。

背景技术

语音翻译是一个从语音到文本的处理过程，旨在将一种语言的语音翻译成另一种语言的文本，具有广泛的应用场景。语音翻译涉及语音识别、机器翻译和自然语言处理等处理，是一个复杂的跨模态任务。

语音翻译可以帮助人们在不同语言之间进行交流，消除语言障碍，促进文化交流。语音翻译的重要性在于它可以帮助人们更好地理解和沟通，随着科技的发展，语音翻译技术也在不断进步，变得更加准确和智能，为人们的生活带来了极大的便利。

发明内容

本公开的实施例提供了一种语音翻译的方法、装置、电子设备以及介质。

根据本公开的第一方面，提供了一种语音翻译的方法。该方法包括获取源语言的音频，所述音频包括特定类型的信息。该方法还包括获取与目标语言有关的提示内容。此外，该方法还包括基于所述音频和所述提示内容，生成与所述音频相对应的目标语言文本，其中所述目标语言文本包括与所述特定类型的信息相对应的标点符号。

根据本公开的第二方面，提供了一种语音翻译的装置。该装置包括源语音频获取模块，被配置为获取源语言的音频，所述音频包括特定类型的信息。该装置还包括提示内容获取模块，被配置为获取与目标语言有关的提示内容。此外，该装置还包括目标文本生成模块，被配置为基于所述音频和所述提示内容，生成与所述音频相对应的目标语言文本，其中所述目标语言文本包括与所述特定类型的信息相对应的标点符号。

根据本公开的第三方面，提供了一种电子设备。该电子设备包括处理器以及与处理器耦合的存储器，存储器具有存储于其中的指令，指令在被处理器执行时使电子设备执行根据第一方面所述的方法。

在本公开的第四方面中，提供了一种计算机可读存储介质。该计算机可读存储介质上存储有一条或多条计算机指令，其中一条或多条计算机指令被处理器执行以实现根据第一方面所述的方法。

发明内容部分是为了以简化的形式来介绍对概念的选择，它们在下文的具体实施方式中将被进一步描述。发明内容部分无意标识要求保护的主题的关键特征或主要特征，也无意限制要求保护的主题的范围。

附图说明

结合附图并参考以下详细说明，本公开各实施例的上述和其它特征、优点及方面将变得更加明显。在附图中，相同或相似的附图标记表示相同或相似的元素，其中：

图1示出了根据本公开的实施例可以在其中实现的示例环境的示意图；

图2示出了根据本公开的实施例的语音翻译方法的流程图；

图3至图6是根据本公开的实施例的用于生成目标语言文本的过程的示意图；

图7是根据本公开的实施例的微调语音翻译模型的过程的示意图；

图8示出了根据本公开的一些实施例的语音翻译装置的框图；以及

图9示出了根据本公开的一些实施例的电子设备的框图。

在所有附图中，相同或相似参考数字表示相同或相似元素。

具体实施方式

可以理解的是，在使用本公开各实施例公开的技术方案之前，均应当依据相关法律法规通过恰当的方式对本公开所涉及个人信息(如语音)的类型、使用范围、使用场景等告知用户并获得用户的授权。

例如，在响应于接收到用户的主动请求时，向用户发送提示信息，以明确地提示用户，其请求执行的操作将需要获取和使用到用户的个人信息。从而，使得用户可以根据提示信息来自主地选择是否向执行本公开技术方案的操作的电子设备、应用程序、服务器或存储介质等软件或硬件提供个人信息(如语音)。可以理解的是，上述通知和获取用户授权过程仅是示意性的，不对本公开的实现方式构成限定，其它满足相关法律法规的方式也可应用于本公开的实现方式中。

可以理解的是，本技术方案所涉及的数据(包括但不限于数据本身、数据的获取或使用)应当遵循相应法律法规及相关规定的要求。

下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例，然而应当理解的是，本公开可以通过各种形式来实现，而且不应该被解释为限于这里阐述的实施例，相反提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是，本公开的附图及实施例仅用于示例性作用，并非用于限制本公开的保护范围。

在本公开的实施例的描述中，术语“包括”及其类似用语应当理解为开放性包括，即“包括但不限于”。术语“基于”应当理解为“至少部分地基于”。术语“一个实施例”或“该实施例”应当理解为“至少一个实施例”。术语“第一”、“第二”等等可以指代不同的或相同的对象，除非明确说明。下文还可能包括其它明确的和隐含的定义。

语音翻译任务旨在将源语言音频转换为目标语言文本，例如，将英文音频转换为相应的中文文本。人们在讲话时，标点符号不会体现在语音或者音频中，而现有的语音翻译应用在进行语音翻译时，往往不能根据音频中的特定词语，在翻译文本中加入相应的标点符号，导致用户在使用翻译文本时，会发现翻译文本生硬，流畅性和可读性较差，导致用户体验较差。

为了解决上面的问题，本公开的实施例提供了一种的语音翻译方案。该方案可以获取包括预定类型的词语的源语言的音频，然后结合提示内容，生成与音频相对应的目标语言文本，目标语言文本包括以预定标点符号呈现的词语。由此，通过本公开的实施例提供的方案，在源语言的音频包括预定类型的词语时，可以在翻译文本中呈现相应的标点符号，提高语音翻译结果的准确性、可读性和流畅性，避免因为缺少标点符号导致的翻译问题，进而提高用户语音翻译时的用户体验。

图1示出了根据本公开的实施例的方法可以在其中实现的示例环境100的示意图。如图1所示，示例环境100可以源语言音频110。源语言音频110可以理解为一段时长的语音，例如用户说话的声音，其包含有意义的内容，通常可以被文字记录下来。可以理解，环境100中还可以包括更多或更少的音频。人们在讲话时，记录的音频中不会包括标点符号，然而在将音频翻译成目标语音的文本时，需要在翻译文中添加合适的标点符号，这样能够提高翻译文本的可读性和流畅性，在一些情况下，没有添加合适的标点符号可能会导致翻译文本出现歧义或者偏差。例如，源语言音频110中包括与书名、篇名、报刊名、文件名等作品名称相关的词语，那么翻译文本中可以包括书名号以呈现这些作品名称。

示例环境100还包括提示内容120，例如需要将源语言音频翻译成中文文本，提示内容120可以是“请将源语言音频翻译为中文”，或者也可以是英文形式的提示内容“Translate the speech into English text”，语音翻译系统140可以根据源语言音频和提示内容，生成相应中文文本。语音翻译系统140包括语音表示模型，在一些实施例中，语音表示模型可以是利用弱监督方法进行预训练的语音模型，可以生成源语言音频110的语音表示。此外，语音表示模型可以是利用无监督方法进行训练的语音模型，本公开对此不做限制。

在一些实施例中，语音表示模型可以是通过弱监督学习进行训练的编码器-解码器转换架构的语音表示模型。许多语音模型依赖于高质量的标记音频/文本数据来进行监督学习，这种方式训练的模型能够在理想的条件下产生良好的语音识别结果，但是由于标记数据的数量有限，往往不能很好地进行泛化，在处理低质量的真实世界音频时可能会遇到困难，并且通常需要额外的语音微调来为特定的用例做好准备。此外，使用大量未标记的音频来开发无监督学习的语音表示模型，以这种方式创建的模型能够实现非常高质量的语音表示，但需要随后进行微调，以便为特定的语音任务做好准备。此外，在一些实施例中，语音表示模型可以是利用聚类实现的无监督模型，来生成源语言音频110的语音表示306，并且语音表示模型可以随语音翻译系统140进行微调训练，来实现更好语音表示效果。

利用语音表示模型，可以生成源语言音频110的语音表示，并且语音翻译系统140可以处理语音表示。在处理语音表示时，需要获取相应的提示内容120。在一些实施例中，提示内容120可以是“请将源语言音频转换为目标语言文本”，语音翻译系统140可以根据提示内容和语音表示，生成相应的目标语言文本。通过将语音表示和提示内容120输入到语音翻译模型140，可以生成与源语言音频110相对应的翻译文本。

提示内容120可以是多种语言类型，本公开的实施例对于提示内容的语言类型不做限制。此外，可以将源语言音频110翻译成任意语言的文本，例如，提示内容120还可以是“请将源语言音频翻译为英文”，那么会将源语言音频110翻译成相应的英文文本；提示内容120还可以是“请将源语言音频翻译为德文”，那么会将源语言音频110翻译成相应的德文文本。在一些实施例中，源语言音频110可以是未成文语言的音频，例如一些没有文字的小语种音频，仍然可以将其翻译成相应语言的文本。

继续参考图1，示例环境100包括计算设备130，其可以是用户终端、移动设备、计算机等，其也可以为计算系统、单个服务器、分布式服务器、或者基于云的服务器。计算设备130可以接收源语言音频110。在计算设备130中，还可以包括语音翻译系统140。例如，在计算设备130中部署语音翻译系统140。语音翻译系统140可以被用以基于源语言音频110来生成源语言音频110的翻译结果，即目标语言文本160，用以在界面150中进行显示。在一些实施例中，语音翻译系统140可以基于生成式预训练模型的架构，通过利用大规模篇章级多语言文档进行预训练，并且通过语音识别任务、机器翻译任务、语音翻译任务等多任务进行微调得到。

应当理解，仅出于示例性的目的来描述示例环境100中的架构和功能，而不暗示对本公开的范围的任何限制。本公开的实施例还可以被应用到具有不同的结构和/或功能的其他环境中。

下文将结合图2至图9详细描述根据本公开实施例的过程。为了便于理解，在下文描述中提及的具体数据均是示例性的，并不用于限定本公开的保护范围。可以理解，以下描述的实施例还可以包括未示出的附加动作和/或可以省略所示出的动作，本公开的范围在此方面不受限制。

图2示出了根据本公开的实施例的语音翻译方法200的流程图。在框202处，获取源语言的音频，该音频包括特定类型的信息。例如，参考图1，语音翻译系统140可以获取源语言音频110，源语言音频110中可以包括与书名、篇名、报刊名、文件名等作品名称类型相关的词语。

在框204，获取与目标语言有关的提示内容，例如，参考图1，语音翻译系统140可以获取提示内容120，提示内容可以是“请将源语言音频转换为中文”或者“转换为英文”等，来指示语音翻译系统执行语音翻译任务，来把源语言音频翻译成目标语言语言文本。

在框206，基于所述音频和所述提示内容，生成与所述音频相对应的目标语言文本，其中所述目标语言文本包括与所述特定类型的信息相对应的标点符号。例如，参考图1，语音翻译系统140可以基于源语言音频110和提示内容120，生成目标语言文本160，其中目标语言文本包括以预定标点符号呈现的词语。例如，当在源语言音频中包括了作品名称类型的词语时，目标语言文本会以书名号的形式呈现该作品名称。应当理解，此处提到的作品名称类型的词语和书名号进作为示例，本公开的实施例不限制词语和标点符号的类型。

由此，通过本公开的实施例提供的方法200，在源语言的音频包括特定类型的信息时，可以在翻译文本中呈现相应的标点符号，提高语音翻译结果的准确性、可读性和流畅性，避免因为缺少标点符号导致的翻译问题，进而提高用户语音翻译时的用户体验。

图3是根据本公开的实施例的用于生成目标语言文本的过程300的示意图。为了便于理解，图3以视频字幕翻译场景作为示例来描述生成目标语言文本的过程300，应当理解，本公开的实施例对于语音翻译的应用场景不做限制，其可以被应用于演讲、教学、旅行或会议等各种场景。

在图3中，视频人物302在讲话，相应的音频为304。语言翻译应用(例如图1中的语音翻译应用140)可以获取音频304。此外，由于是字幕翻译场景，提示内容可以为“请将源语言音频翻译为目标语言”。用户还可以通过按钮308来选择目标语言的类型，例如，目标语言可以是中文、英文或者德文等等。此外，用户还可以通过开关310选择打开或者关闭语言翻译应用。语音翻译应用可以生成的翻译文本306并且在显示框中进行显示。

在一些实施例中，源语言音频304中可能包括与书名、篇名、报刊名、文件名等作品名称类型相关的词语。例如，音频304可以是“Now,down to number one,we have XXXX.”，这里的“XXXX”是图书名称，应当理解，这里列举的音频文本是为了展示音频内容，有逗号、句号等标点符号，实际上音频304本身不体现任何标点符号。响应于音频304中包括作品名称类型的词语，生成的翻译文本306可以是“现在，排在第一的是《XXXX》”，翻译文本306包括以书名号呈现的图书名称。由于在翻译文本306中添加了书名号，用户可以直观的理解这句话与图书相关，提高了翻译文本的可读性和准确性。相反地，如果翻译文本306为“现在，排在第一的是XXXX”，用户在浏览阅读时，并不能直观理解“XXXX”是什么，造成理解上的障碍，甚至出现理解偏差。

此外，音频304可以是“And so while we had signs up that said"Noswimming,"there weren't any signs up that said"No swimming.Alligators."”，应当理解，这里列举的音频文本是为了展示音频内容，有逗号、句号、引号等标点符号，实际上音频304本身不体现任何标点符号。相应的翻译文本306可以是：所以，虽然我们有写着“禁止游泳”的标志，却没有写着“禁止游泳鳄鱼”的标志。由于翻译文本306中包括了以双引号呈现的内容，用户可以直观理解该标志上内容，提高了翻译文本306的可读性。相反地，如果翻译文本为“所以，虽然我们有写着禁止游泳的标志，却没有写着禁止游泳鳄鱼的标志”，用户不能直观理解到标志信息，导致翻译文本306的可读性较差。

图4是根据本公开的实施例的用于生成目标语言文本的过程400的示意图。与图3类似，为了便于理解，图4以视频字幕翻译场景作为示例来描述生成目标语言文本的过程400。在图4中，视频人物402在讲话，相应的音频为404。语言翻译应用(例如图1中的语音翻译应用140)可以获取音频404。此外，如上所述，由于是字幕翻译场景，提示内容可以为“请将源语言音频翻译为目标语言”。类似地，用户还可以通过按钮408来选择目标语言的类型，例如，目标语言可以是中文、英文或者德文等等。此外，用户还可以通过开关410选择打开或者关闭语言翻译应用。语音翻译应用可以生成的翻译文406并且在显示框中进行显示。

在一些实施例中，音频404可以包括一些特定的语气信息，体现讲话者对行为动作的态度，包括但不限于疑问语气、祈使语气、感叹语气等。例如，音频404可以为“You guyslike dumplings？”，应当理解，这里列举的音频文本是为了展示音频内容，实际上音频404本身不不包括问号。响应于音频404中包括疑问语气，生成的翻译文本406可以是“你们喜欢饺子吗？”，翻译文本406包括了语气助词“吗”以及疑问号“？”。由此，用户可以明白讲话者表达的是疑问语气，因此提高了翻译文本的准确性。相反地，如果翻译文本306未能体现疑问语气，而是“你们喜欢饺子。”，用户在看到翻译文本306时，不能知道是疑问语气，会错误地理解为陈述语气，导致出现理解偏差。

图5是根据本公开的实施例的用于生成目标语言文本的过程500的示意图。与图3类似，为了便于理解，图5以视频字幕翻译场景作为示例来描述生成目标语言文本的过程500。在图5中，视频人物502在讲话，相应的音频为504。语言翻译应用(例如图1中的语音翻译应用140)可以获取音频504。此外，如上所述，由于是字幕翻译场景，提示内容可以为“请将源语言音频翻译为目标语言”。类似地，用户还可以通过按钮508来选择目标语言的类型，例如，目标语言可以是中文、英文或者德文等等。此外，用户还可以通过开关510选择打开或者关闭语言翻译应用。语音翻译应用可以生成的翻译文506并且在显示框中进行显示。

在一些实施例中，音频504可以包括一些数字内容，包括但不限于数字、金额、日期和地址等对象，但是在转换为翻译文本时，需要以标准化的格式进行展示，以符合阅读习惯，提高可读性。例如，音频504可以包括“百分之二十”，需要标准化为“20％”进行展示；音频504可以包括“一千六百八十元”，需要标准化为“1680元”进行展示；音频504可以包括“五月十一号”，需要标准化为“5月11号”进行展示等等。此外，在一些实施例中，音频504可以为“and then I'll replace the black 3.0with the singularity v3.Much darker thanblack3.0,this absorbs over 99.9percent of light.”，生成的翻译文本可以为“然后我会把黑色3.0换成奇点V3，比黑色3.0暗得多。它能吸收超过99.9％的光”。此处，“99.9percent”被标准化展示为“99.9％”，提高了翻译文本604的可读性。

图6是根据本公开的实施例的用于生成目标语言文本的过程600的示意图。与图3类似，为了便于理解，图6以视频字幕翻译场景作为示例来描述生成目标语言文本的过程600。在图6中，视频人物602在讲话，相应的音频为604。语言翻译应用(例如图1中的语音翻译应用140)可以获取音频604。此外，如上所述，由于是字幕翻译场景，提示内容可以为“请将源语言音频翻译为目标语言”。类似地，用户还可以通过按钮608来选择目标语言的类型，例如，目标语言可以是中文、英文或者德文等等。此外，用户还可以通过开关610选择打开或者关闭语言翻译应用。语音翻译应用可以生成的翻译文606并且在显示框中进行显示。

在一些实施例中，音频604可以包括一些多义词，但是在转换为翻译文本时，需要根据音频上下文语境，确定多义词的合适释义。例如，音频604可以为“When it's tough,will you give up,or will you be relentless？”，生成的翻译文本606可以为“困难的时候，你会放弃，还是会坚持不懈？”，其中“relentless”为多义词，可以是“毫不留情”、“残酷的”或者“坚持不懈”等释义，翻译文本606根据上下文语境，将其翻译成“坚持不懈”，更符合前文中“放弃”。相反地，如果将“relentless”翻译为其他释义，例如翻译文本606为“艰难的时候，你会放弃还是会毫不留情？”，那么就会导致理解出现偏差，降低语音翻译的质量。

此外，在一些实施例中，音频604可以包括一些专有名词，例如地名、人名或者机构名等，需要在翻译文本中保留这些专有名词。例如，音频604可以为“I learned aboutSanbeiji,basil is always part of the dish.”，相应的翻译文本606可以为“我了解到三杯鸡，罗勒总是这道菜的一部分。”，其中音频604包括专有名词“Sanbeiji”，翻译文本606将其保留并翻译为相应的中文形式。此外，音频604可以为“The next time you go to anauthentic Szechuan restaurant,order any of the following dishes I'm gonna betalking about.”，相应的翻译文本606可以为“下次你去正宗的川菜馆，点我接下来要说的这些菜”，其中“Szechuan restaurant”为专有名词，翻译文本606将其保留并翻译为“川菜馆”。

此外，在一些实施例中，音频604可以包括一下多语言的内容，例如中英夹杂的情况。例如，音频604可以为“Fu Qi Fei Pian literally means slices of husband andwife's lungs.”，翻译文本606可以为“夫妻肺片，字面意思是丈夫和妻子的肺片”，其中“FuQi Fei Pian”是中文形式的，翻译文本606将其保留并转换为中文文本。

此外，在一些实施例中，音频606可以包括重复的副词，这在口语中比较常见，但是在转换为翻译文本时，会造成可读性较差。例如，音频606可以为“There are people outthere who have a very very low level of English and they can communicate veryvery well.”，翻译文本606可以为“有些人的英语水平很低，但他们能很好地交流”，音频604中的“very very”是重复的副词，翻译文本606对重复的副词进行了去重。

图7是根据本公开的实施例的微调语音翻译模型的过程700的示意图。在本公开的实施例中，语音翻译模型可以在如图1所示的语音翻译系统140中，其可以基于生成式预训练模型的架构，通过利用大规模篇章级多语言文档进行预训练，并且通过语音识别任务、机器翻译任务、语音翻译任务等多任务进行微调得到。首先获取源语言音频702。例如，音频702可以是英文音频。应当理解，以英文音频作为源语言音频进作为示例，本公开对于源语言音频的语言类型不做限制。然后，通过语音表示模型704来生成源语言音频704的语音表示706。在一些实施例中，语音表示模型704可以是通过弱监督学习进行训练的编码器-解码器转换架构的语音表示模型。在一些实施例中，源语言音频702可以是英文，需要翻译成中文文本，那么提示内容708可以是“将音频进行转写然后翻译为中文：{转写文本}，{翻译文本}”来微调语音翻译模型。

在一些实施例中，针对源语言音频702包含了预定类型的词语，需要在翻译文本中加预定类型的标点的情况，可以通过大规模篇章级文档对语音翻译模型进行预训练，这些训练预料中包括了预定类型的词语以及标点符号的情况。此外，通过在带标点的任务对语音翻译模型进行微调，来提高语音翻译模型的处理能力。例如，提示内容708可以是“给{文本}加标点：{带标点文本}”，例如，提示内容为，给{我认为当一些人看到禁止游泳的标志时，他们会让一个孩子带着铲子和桶下水}加标点：{我认为，当一些人看到“禁止游泳”的标志时，他们会让一个孩子带着铲子和桶下水}。由此，通过加标点任务对语音翻译任务进行微调，可以提升语音翻译模型在生成翻译文本时正确添加标点符号的能力，提高翻译文本的流畅度和可读性，提升用户在看到译文时使用体验。

在一些实施例中，针对源语言音频702包含了语气信息，需要在翻译文本中加相应的标点符号和语气助词的情况，可以通过大规模篇章级文档对语音翻译模型进行预训练，提升语音翻译模型的语言理解能力以及语言推理能力。此外，可以通过跟预期信息相关的任务对语音翻译模型进行微调。例如，提示内容708可以是“根据音频语气信息进行翻译：{正确理解语气的翻译文本}”，以此来微调语音翻译模型，让模型理解正确的语气从而翻译正确。

图8示出了根据本公开的一些实施例的语音翻译装置800的框图。如图8所示，装置800包括源语音频获取模块802，被配置为获取源语言的音频，所述音频包括特定类型的信息。装置800还包括提示内容获取模块，被配置为获取与目标语言有关的提示内容。此外，装置800还包括目标文本生成模块806，被配置为基于所述音频和所述提示内容，生成与所述音频相对应的目标语言文本，其中所述目标语言文本包括与所述特定类型的信息相对应的标点符号。

图9示出了根据本公开的某些实施例的电子设备900的框图。图9示出了根据本公开的某些实施例的电子设备900的框图，设备900可以是本公开的实施例所描述的设备或装置。如图9所示，设备900包括中央处理单元(CPU)和/或图形处理单元(GPU)901，其可以根据存储在只读存储器(ROM)902中的计算机程序指令或者从存储单元908加载到随机访问存储器(RAM)903中的计算机程序指令，来执行各种适当的动作和处理。在RAM 903中，还可以存储设备900操作所需的各种程序和数据。CPU/GPU 901、ROM 902以及RAM 903通过总线904彼此相连。输入/输出(I/O)接口905也连接至总线904。虽然未在图9中示出，设备900还可以包括协处理器。

设备900中的多个部件连接至I/O接口905，包括：输入单元906，例如键盘、鼠标等；输出单元907，例如各种类型的显示器、扬声器等；存储单元908，例如磁盘、光盘等；以及通信单元909，例如网卡、调制解调器、无线通信收发机等。通信单元909允许设备900通过诸如互联网的计算机网络和/或各种电信网络与其他设备交换信息/数据。

上文所描述的各个方法或过程可以由CPU/GPU 901来执行。例如，在一些实施例中，方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元908。在一些实施例中，计算机程序的部分或者全部可以经由ROM 902和/或通信单元909而被载入和/或安装到设备900上。当计算机程序被加载到RAM 903并由CPU/GPU 901执行时，可以执行上文描述的方法或过程中的一个或多个步骤或动作。

在一些实施例中，以上所描述的方法和过程可以被实现为计算机程序产品。计算机程序产品可以包括计算机可读存储介质，其上载有用于执行本公开的各个方面的计算机可读程序指令。

计算机可读存储介质可以是可以保持和存储由指令执行设备使用的指令的有形设备。计算机可读存储介质例如可以是但不限于电存储设备、磁存储设备、光存储设备、电磁存储设备、半导体存储设备或者上述的任意合适的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括：便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、静态随机存取存储器(SRAM)、便携式压缩盘只读存储器(CD-ROM)、数字多功能盘(DVD)、记忆棒、软盘、机械编码设备、例如其上存储有指令的打孔卡或凹槽内凸起结构、以及上述的任意合适的组合。这里所使用的计算机可读存储介质不被解释为瞬时信号本身，诸如无线电波或者其他自由传播的电磁波、通过波导或其他传输媒介传播的电磁波(例如，通过光纤电缆的光脉冲)、或者通过电线传输的电信号。

本文所描述的计算机可读程序指令可以从计算机可读存储介质下载到各个计算/处理设备，或者通过网络、例如互联网、局域网、广域网和/或无线网下载到外部计算机或外部存储设备。网络可以包括铜传输电缆、光纤传输、无线传输、路由器、防火墙、交换机、网关计算机和/或边缘服务器。每个计算/处理设备中的网络适配卡或者网络接口从网络接收计算机可读程序指令，并转发该计算机可读程序指令，以供存储在各个计算/处理设备中的计算机可读存储介质中。

用于执行本公开操作的计算机程序指令可以是汇编指令、指令集架构(ISA)指令、机器指令、机器相关指令、微代码、固件指令、状态设置数据、或者以一种或多种编程语言的任意组合编写的源代码或目标代码，编程语言包括面向对象的编程语言，以及常规的过程式编程语言。计算机可读程序指令可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络—包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用互联网服务提供商来通过互联网连接)。在一些实施例中，通过利用计算机可读程序指令的状态信息来个性化定制电子电路，例如可编程逻辑电路、现场可编程门阵列(FPGA)或可编程逻辑阵列(PLA)，该电子电路可以执行计算机可读程序指令，从而实现本公开的各个方面。

这些计算机可读程序指令可以提供给通用计算机、专用计算机或其它可编程数据处理装置的处理单元，从而生产出一种机器，使得这些指令在通过计算机或其它可编程数据处理装置的处理单元执行时，产生了实现流程图和/或框图中的一个或多个框中规定的功能/动作的装置。也可以把这些计算机可读程序指令存储在计算机可读存储介质中，这些指令使得计算机、可编程数据处理装置和/或其他设备以特定方式工作，从而，存储有指令的计算机可读介质则包括一个制造品，其包括实现流程图和/或框图中的一个或多个框中规定的功能/动作的各个方面的指令。

也可以把计算机可读程序指令加载到计算机、其它可编程数据处理装置、或其它设备上，使得在计算机、其它可编程数据处理装置或其它设备上执行一系列操作步骤，以产生计算机实现的过程，从而使得在计算机、其它可编程数据处理装置、或其它设备上执行的指令实现流程图和/或框图中的一个或多个框中规定的功能/动作。

附图中的流程图和框图显示了根据本公开的多个实施例的设备、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个框可以代表一个模块、程序段或指令的一部分，所述模块、程序段或指令的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。在有些作为替换的实现中，框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个连续的框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这取决于所涉及的功能。也要注意的是，框图和/或流程图中的每个框、以及框图和/或流程图中的框的组合，可以用执行规定的功能或动作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。

以上已经描述了本公开的各实施例，上述说明是示例性的，并非穷尽性的，并且也不限于所公开的各实施例。在不偏离所说明的各实施例的范围和精神的情况下，对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。本文中所用术语的选择，旨在最好地解释各实施例的原理、实际应用或对市场中技术的技术改进，或者使得本技术领域的其它普通技术人员能理解本文公开的各实施例。

下列出了本公开的一些示例实现。

示例1.一种语音翻译的方法，包括：

获取源语言的音频，所述音频包括特定类型的信息；

获取与目标语言有关的提示内容；以及

基于所述音频和所述提示内容，生成与所述音频相对应的目标语言文本，其中所述目标语言文本包括与所述特定类型的信息相对应的标点符号。

示例2.根据示例1所述的方法，其中所述特定类型的信息为预定类型的词语，并且生成与所述音频相对应的所述目标语言文本包括：

生成包括以预定标点符号呈现所述词语的所述目标文本。

示例3.根据示例1-2所述的方法，还包括：

响应于第二音频包括语气信息，生成与所述第二音频相对应的目标语言文本，其中所述目标语言文本包括与所述语气信息相对应的标点符号和语气助词。

示例4.根据示例1-3中任一项所述的方法，还包括：

响应于第三音频包括数字，生成与所述第三音频相对应的目标语言文本，其中所述目标语言文本包括以标准化的格式展示的数字内容。

示例5.根据示例1-4中任一项所述的方法，还包括：

响应于第四音频包括多义词，生成与所述第四音频相对应的目标语言文本，其中所述目标语言文本包括所述多义词的与所述音频上下文相关的目标词。

示例6.根据示例1-5中任一项所述的方法，还包括：

响应于第五音频包括专有名词，生成与所述第五音频相对应的目标语言文本，其中所述目标语言文本保留所述专有名词。

示例7.根据示例1-6中任一项所述的方法，还包括：

响应于所述第六音频包括多语言内容时，生成与所述第六音频相对应的目标语言文本，其中所述目标语言文本保留所述多语言内容中的目标语言的内容。

示例8.根据示例1-7中任一项所述的方法，还包括：

响应于所述第七音频包括重复副词，生成与所述第七音频相对应的目标语言文本，其中所述目标语言文本中的副词被去重。

示例9.根据示例1-8中任一项所述的方法，其中所述目标语言文本经由语音翻译模型生成，所述语音翻译模型经由篇章级多语言文档进行预训练并且利用多任务进行调整。

示例10.根据示例1-9中任一项所述的方法，其中利用所述多任务对所述语音翻译模型进行调整包括：

获取源语言音频以及相应的带标点的源语言文本；

基于带标点的语音转写任务，获取对应的提示内容；以及

基于所述对应的提示内容、所述源语言音频以及所述相应的带标点的源语言文本，调整所述语音翻译模型。

示例11.根据示例1-10中任一项所述的方法，其中利用所述多任务对所述语音翻译模型进行调整包括：

获取源语言音频以及相应的带语气助词的目标语言文本；

基于语音翻译任务，获取对应的提示内容；

基于所述对应的提示内容、所述源语言音频以及相应的带语气助词的目标语言文本，调整所述语音翻译模型。

示例12.一种语音翻译的装置，包括：

源语音频获取模块，被配置为获取源语言的音频，所述音频包括特定类型的信息；

提示内容获取模块，被配置为获取与目标语言有关的提示内容；以及

目标文本生成模块，被配置为基于所述音频和所述提示内容，生成与所述音频相对应的目标语言文本，其中所述目标语言文本包括与所述特定类型的信息相对应的标点符号。

示例13.根据示例12所述的装置，其中所述特定类型的信息为预定类型的词语，并且所述目标文本生成模块被配置为：

标点目标文本生成模块，被配置为生成包括以预定标点符号呈现所述词语的所述目标文本。

示例14.根据示例12-13所述的装置，所述装置还包括：

第二目标文本生成模块，被配置为响应于第二音频包括语气信息，生成与所述第二音频相对应的目标语言文本，其中所述目标语言文本包括与所述语气信息相对应的标点符号和语气助词。

示例15.根据示例12-14中任一项所述的装置，所述装置还包括：

第三目标文本生成模块，被配置为响应于第三音频包括数字，生成与所述第三音频相对应的目标语言文本，其中所述目标语言文本包括以标准化的格式展示的数字内容。

示例16.根据示例12-15中任一项所述的装置，所述装置还包括：

第四目标文本生成模块，被配置为响应于第四音频包括多义词，生成与所述第四音频相对应的目标语言文本，其中所述目标语言文本包括所述多义词的与所述音频上下文相关的目标词。

示例17.根据示例12-16中任一项所述的装置，所述装置还包括：

第五目标文本生成模块，被配置为响应于第五音频包括专有名词，生成与所述第五音频相对应的目标语言文本，其中所述目标语言文本保留所述专有名词。

示例18.根据示例12-17中任一项所述的装置，所述装置还包括：

第六目标文本生成模块，被配置为响应于第六音频包括多语言内容时，生成与所述第六音频相对应的目标语言文本，其中所述目标语言文本保留所述多语言内容中的目标语言的内容。

示例19.根据示例12-18中任一项所述的装置，所述装置还包括：

第七目标文本生成模块，被配置为响应于第七音频包括重复副词，生成与所述第七音频相对应的目标语言文本，其中所述目标语言文本中的副词被去重。

示例20.根据示例12-19中任一项所述的装置，其中所述目标语言文本经由语音翻译模型生成，所述语音翻译模型经由篇章级多语言文档进行预训练并且利用多任务进行调整。

示例21.根据示例12-120中任一项所述的装置，其中利用所述多任务对所述语音翻译模型进行调整包括：

第一训练数据获取模块，被配置为获取源语言音频以及相应的带标点的源语言文本；

第一训练数据获取模块，被配置为基于带标点的语音转写任务，获取对应的提示内容；以及

第一翻译模型调整模块，被配置为基于所述对应的提示内容、所述源语言音频以及所述相应的带标点的源语言文本，被配置为调整所述语音翻译模型。

示例22.根据示例12-21中任一项所述的装置，其中利用所述多任务对所述语音翻译模型进行调整包括：

第二训练数据获取模块，被配置为获取源语言音频以及相应的带语气助词的目标语言文本；

第二训练数据获取模块，被配置为基于语音翻译任务，获取对应的提示内容；以及

第二翻译模型调整模块，被配置为基于所述对应的提示内容、所述源语言音频以及相应的带语气助词的目标语言文本，调整所述语音翻译模型。

示例23.一种电子设备，包括：

处理器；以及

与所述处理器耦合的存储器，所述存储器具有存储于其中的指令，所述指令在被处理器执行时，使得所述电子设备执行动作，所述动作包括：

获取源语言的音频，所述音频包括特定类型的信息；

获取与目标语言有关的提示内容；以及

基于所述音频和所述提示内容，生成与所述音频相对应的目标语言文本，其中所述目标语言文本包括与所述特定类型的信息相对应的标点符号。

示例24.根据示例23所述的设备，其中所述特定类型的信息为预定类型的词语，并且生成与所述音频相对应的所述目标语言文本包括：

生成包括以预定标点符号呈现所述词语的所述目标文本。

示例25.根据示例23-24所述的设备，还包括：

响应于第二音频包括语气信息，生成与所述第二音频相对应的目标语言文本，其中所述目标语言文本包括与所述语气信息相对应的标点符号和语气助词。

示例26.根据示例23-25中任一项所述的设备，所述动作还包括：

响应于第三音频包括数字，生成与所述第三音频相对应的目标语言文本，其中所述目标语言文本包括以标准化的格式展示的数字内容。

示例27.根据示例23-26中任一项所述的设备，所述动作还包括：

响应于第四音频包括多义词，生成与所述第四音频相对应的目标语言文本，其中所述目标语言文本包括所述多义词的与所述音频上下文相关的目标词。

示例28.根据示例23-27中任一项所述的设备，所述动作还包括：

响应于第五音频包括专有名词，生成与所述第五音频相对应的目标语言文本，其中所述目标语言文本保留所述专有名词。

示例29.根据示例23-28中任一项所述的设备，所述动作还包括：

响应于第六音频包括多语言内容时，生成与所述第六音频相对应的目标语言文本，其中所述目标语言文本保留所述多语言内容中的目标语言的内容。

示例30.根据示例23-29中任一项所述的设备，所述动作还包括：

响应于第七音频包括重复副词，生成与所述第七音频相对应的目标语言文本，其中所述目标语言文本中的副词被去重。

示例31.根据示例23-30中任一项所述的设备，其中所述目标语言文本经由语音翻译模型生成，所述语音翻译模型经由篇章级多语言文档进行预训练并且利用多任务进行调整。

示例32.根据示例23-31中任一项所述的设备，其中利用所述多任务对所述语音翻译模型进行调整包括：

获取源语言音频以及相应的带标点的源语言文本；

基于带标点的语音转写任务，获取对应的提示内容；以及

基于所述对应的提示内容、所述源语言音频以及所述相应的带标点的源语言文本，调整所述语音翻译模型。

示例33.根据示例23-32中任一项所述的设备，其中利用所述多任务对所述语音翻译模型进行调整包括：

获取源语言音频以及相应的带语气助词的目标语言文本；

基于语音翻译任务，获取对应的提示内容；以及

基于所述对应的提示内容、所述源语言音频以及相应的带语气助词的目标语言文本，调整所述语音翻译模型。

示例34.一种语音翻译的方法，包括：

获取源语言的音频，所述音频包括语气信息；

获取与目标语言有关的提示内容；以及

基于所述音频和所述提示内容，生成与所述音频相对应的目标语言文本，其中所述目标语言文本包括与所述语气信息相对应的标点符号和语气助词。

示例34所述的方法可以与上述示例1-11中任一项所述方法进行结合。

示例35.一种语音翻译的方法，包括：

获取源语言的音频，所述音频包括多语言信息；

获取与目标语言有关的提示内容；以及

基于所述音频和所述提示内容，生成与所述音频相对应的目标语言文本，其中所述目标语言文本保留所述多语言信息中的目标语言的内容。

示例35所述的方法可以与上述示例1-11中任一项所述方法进行结合。

示例36.一种计算机可读存储介质，其上存储有一条或多条计算机指令，其中所述一条或多条计算机指令被处理器执行以实现根据示例1至11以及示例34-35中任一项所述的方法。

示例37.一种计算机程序产品，所述计算机程序产品被有形地存储在计算机可读介质上并且包括计算机可执行指令，所述计算机可执行指令在由设备执行时使所述设备执行根据示例1至10以及示例34-35中任一项所述的方法。

尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本公开，但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反，上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。

Claims (14)

1.一种语音翻译的方法，包括：

获取源语言的音频，所述音频包括特定类型的信息；

获取与目标语言有关的提示内容；以及

基于所述音频和所述提示内容，生成与所述音频相对应的目标语言文本，其中所述目标语言文本包括与所述特定类型的信息相对应的标点符号。

2.根据权利要求1所述的方法，其中所述特定类型的信息为预定类型的词语，并且生成与所述音频相对应的所述目标语言文本包括：

生成包括以预定标点符号呈现所述词语的所述目标文本。

3.根据权利要求1所述的方法，还包括：

响应于第二音频包括语气信息，生成与所述第二音频相对应的目标语言文本，其中所述目标语言文本包括与所述语气信息相对应的标点符号和语气助词。

4.根据权利要求1所述的方法，还包括：

响应于第三音频包括数字，生成与所述第三音频相对应的目标语言文本，其中所述目标语言文本包括以标准化的格式展示的数字内容。

5.根据权利要求1所述的方法，还包括：

响应于第四音频包括多义词，生成与所述第四音频相对应的目标语言文本，其中所述目标语言文本包括所述多义词的与所述音频上下文相关的目标词。

6.根据权利要求1所述的方法，还包括：

响应于第五音频包括专有名词，生成与所述第五音频相对应的目标语言文本，其中所述目标语言文本保留所述专有名词。

7.根据权利要求1所述的方法，还包括：

响应于第六音频包括多语言内容时，生成与所述第六音频相对应的目标语言文本，其中所述目标语言文本保留所述多语言内容中的目标语言的内容。

8.根据权利要求1所述的方法，还包括：

响应于第七音频包括重复副词，生成与所述第七音频相对应的目标语言文本，其中所述目标语言文本中的副词被去重。

9.根据权利要求1所述的方法，其中所述目标语言文本经由语音翻译模型生成，所述语音翻译模型经由篇章级多语言文档进行预训练并且利用多任务进行调整。

10.根据权利要求9所述的方法，其中利用所述多任务对所述语音翻译模型进行调整包括：

获取源语言音频以及相应的带标点的源语言文本；

基于带标点的语音转写任务，获取对应的提示内容；以及

基于所述对应的提示内容、所述源语言音频以及所述相应的带标点的源语言文本，调整所述语音翻译模型。

11.根据权利要求9所述的方法，其中利用所述多任务对所述语音翻译模型进行调整包括：

获取源语言音频以及相应的带语气助词的目标语言文本；

基于语音翻译任务，获取对应的提示内容；以及

基于所述对应的提示内容、所述源语言音频以及相应的带语气助词的目标语言文本，调整所述语音翻译模型。

12.一种语音翻译的装置，包括：

源语音频获取模块，被配置为获取源语言的音频，所述音频包括特定类型的信息；

提示内容获取模块，被配置为获取与目标语言有关的提示内容；以及

目标文本生成模块，被配置为基于所述音频和所述提示内容，生成与所述音频相对应的目标语言文本，其中所述目标语言文本包括与所述特定类型的信息相对应的标点符号。

13.一种电子设备，包括：

处理器；以及

与所述处理器耦合的存储器，所述存储器具有存储于其中的指令，所述指令在被处理器执行时，使得所述电子设备执行根据权利要求1至11中任一项所述的方法。

14.一种计算机可读存储介质，其上存储有计算机可执行指令，其中所述计算机可执行指令被处理器执行以实现根据权利要求1至11中任一项所述的方法。