CN115064148A - 语音合成与语音合成模型的训练方法、装置 - Google Patents

语音合成与语音合成模型的训练方法、装置 Download PDF

Info

Publication number
CN115064148A
CN115064148A CN202210502315.0A CN202210502315A CN115064148A CN 115064148 A CN115064148 A CN 115064148A CN 202210502315 A CN202210502315 A CN 202210502315A CN 115064148 A CN115064148 A CN 115064148A
Authority
CN
China
Prior art keywords
frame
feature
features
characteristic
audio data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202210502315.0A
Other languages
English (en)
Inventor
黄一鸣
张辉
原湉
梁芸铭
杨烨华
陈泽裕
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Baidu Netcom Science and Technology Co Ltd
Original Assignee
Beijing Baidu Netcom Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Baidu Netcom Science and Technology Co Ltd filed Critical Beijing Baidu Netcom Science and Technology Co Ltd
Priority to CN202210502315.0A priority Critical patent/CN115064148A/zh
Publication of CN115064148A publication Critical patent/CN115064148A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L13/00—Speech synthesis; Text to speech systems
    • G10L13/02—Methods for producing synthetic speech; Speech synthesisers
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L13/00—Speech synthesis; Text to speech systems
    • G10L13/08—Text analysis or generation of parameters for speech synthesis out of text, e.g. grapheme to phoneme translation, prosody generation or stress or intonation determination
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L19/00—Speech or audio signals analysis-synthesis techniques for redundancy reduction, e.g. in vocoders; Coding or decoding of speech or audio signals, using source filter models or psychoacoustic analysis
    • G10L19/0018—Speech coding using phonetic or linguistical decoding of the source; Reconstruction using text-to-speech synthesis
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/27—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the analysis technique
    • G10L25/30—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the analysis technique using neural networks

Landscapes

  • Engineering & Computer Science (AREA)
  • Computational Linguistics (AREA)
  • Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • Acoustics & Sound (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Abstract

本公开提供了一种语音合成与语音合成模型的训练方法、装置、电子设备和可读存储介质，涉及深度学习、自然语言处理等人工智能技术领域。语音合成方法包括：获取待处理文本，得到待处理文本的音素序列；根据音素序列得到多帧第一特征；根据每帧第一特征与每帧第一特征的相邻特征帧，得到与每帧第一特征对应的第二特征；根据每帧第二特征与每帧第二特征的相邻特征帧，得到与每帧第二特征对应的音频数据。语音合成模型的训练方法包括：获取数据集；构建包含编码器、解码器与声码器的神经网络模型；基于多个训练文本与多个训练文本的训练音频数据训练神经网络模型，直至神经网络模型收敛，得到语音合成模型。

Description

语音合成与语音合成模型的训练方法、装置
技术领域
本公开涉及计算机技术领域，具体为深度学习、自然语言处理等人工智能技术领域。提供了一种语音合成与语音合成模型的训练方法、装置、电子设备和可读存储介质。
背景技术
在语音合成任务中，通常是输入待处理文本之后，输出与待处理文本对应的音频数据。但是，现有的语音合成方式，首个音频数据的返回需要等待整体计算结束之后才能开始，无法满足低延时的应用场景、语音合成的响应时间较长。
发明内容
根据本公开的第一方面，提供了一种语音合成方法，包括：获取待处理文本，得到所述待处理文本的音素序列；根据所述音素序列，得到多帧第一特征；根据每帧第一特征与每帧第一特征的相邻特征帧，得到与每帧第一特征对应的第二特征；根据每帧第二特征与每帧第二特征的相邻特征帧，得到与每帧第二特征对应的音频数据。
根据本公开的第二方面，提供了一种语音合成模型的训练方法，包括：获取数据集，所述数据集中包含多个训练文本与所述多个训练文本的训练音频数据；构建包含编码器、解码器与声码器的神经网络模型，所述编码器用于根据训练文本的音素序列，得到多帧预测第一特征，所述解码器用于根据每帧预测第一特征与每帧预测第一特征的相邻特征帧，得到与每帧预测第一特征对应的预测第二特征，所述声码器用于根据每帧预测第二特征与每帧预测第二特征的相邻特征帧，得到与每帧预测第二特征对应的预测音频数据；基于所述多个训练文本与所述多个训练文本的训练音频数据训练所述神经网络模型，直至所述神经网络模型收敛，得到所述语音合成模型。
根据本公开的第三方面，提供了一种语音合成装置，包括：第一获取单元，用于获取待处理文本，得到所述待处理文本的音素序列；第一处理单元，用于根据所述音素序列，得到多帧第一特征；第二处理单元，用于根据每帧第一特征与每帧第一特征的相邻特征帧，得到与每帧第一特征对应的第二特征；合成单元，用于根据每帧第二特征与每帧第二特征的相邻特征帧，得到与每帧第二特征对应的音频数据。
根据本公开的第四方面，提供了一种语音合成模型的训练装置，包括：第二获取单元，用于获取数据集，所述数据集中包含多个训练文本与所述多个训练文本的训练音频数据；构建单元，用于构建包含编码器、解码器与声码器的神经网络模型，所述编码器用于根据训练文本的音素序列，得到多帧预测第一特征，所述解码器用于根据每帧预测第一特征与每帧预测第一特征的相邻特征帧，得到与每帧预测第一特征对应的预测第二特征，所述声码器用于根据每帧预测第二特征与每帧预测第二特征的相邻特征帧，得到与每帧预测第二特征对应的预测音频数据；训练单元，用于基于所述多个训练文本与所述多个训练文本的训练音频数据训练所述神经网络模型，直至所述神经网络模型收敛，得到所述语音合成模型。
根据本公开的第五方面，提供了一种电子设备，包括：至少一个处理器；以及与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行如上所述的方法。
根据本公开的第六方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行如上所述的方法。
根据本公开的第七方面，提供了一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现如上所述的方法。
由以上技术方案可以看出，本公开通过结合相邻特征帧的方式分别得到第二特征与音频数据，能够充分地对每个特征的边界进行考虑，从而提升所得到的对应不同第二特征的音频数据之间的连贯性，且本实施例通过对每个第二特征进行语音合成的方式，能够实现流式合成语音的目的，降低了语音合成的响应时间，提升了语音合成的速度。
应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案，不构成对本公开的限定。其中：
图1是根据本公开第一实施例的示意图；
图2是根据本公开第二实施例的示意图；
图3是根据本公开第三实施例的示意图；
图4是根据本公开第四实施例的示意图；
图5是根据本公开第五实施例的示意图；
图6是根据本公开第六实施例的示意图；
图7是用来实现本公开实施例的语音合成或者语音合成模型的训练方法的电子设备的框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和机构的描述。
图1是根据本公开第一实施例的示意图。如图1所示，本实施例的语音合成方法，具体包括如下步骤：
S101、获取待处理文本，得到所述待处理文本的音素序列；
S102、根据所述音素序列，得到多帧第一特征；
S103、根据每帧第一特征与每帧第一特征的相邻特征帧，得到与每帧第一特征对应的第二特征；
S104、根据每帧第二特征与每帧第二特征的相邻特征帧，得到与每帧第二特征对应的音频数据。
本实施例的语音合成方法，通过结合相邻特征帧的方式分别得到第二特征与音频数据，能够充分地对每个特征的边界进行考虑，从而提升所得到的对应不同第二特征的音频数据之间的连贯性，且本实施例通过对每个第二特征进行语音合成的方式，能够实现流式合成语音的目的，降低了语音合成的响应时间，提升了语音合成的速度。
本实施例在执行S101获取待处理文本时，可以将输入端输入的文本或者输入端选择的文本，作为待处理文本。
本实施例在执行S101得到待处理文本的音素序列时，可以首先获取待处理文本中与每个字符对应的音素，然后根据对应全部字符的音素，构成待处理文本的音素序列；其中，本实施例在执行S101得到待处理文本的音素序列之前，还可以将待处理文本中的标点符号去除。
本实施例在执行S101得到待处理文本的音素序列之后，执行S102根据音素序列，得到多帧第一特征。
具体地，本实施例在执行S102根据音素序列，得到多帧第一特征时，可以采用的可选实现方式为：获取与音素序列对应的编码器特征；将所获取的编码器特征进行切分，将切分结果作为多帧第一特征。
也就是说，本实施例将与音素序列对应的编码器特征进行切分，将切分得到的每块编码器特征作为一帧第一特征，使得之后得到第二特征与音频数据的过程均是基于每帧第一特征进行，从而实现流式合成语音的目的。
本实施例在执行S102将编码器特征进行切分时，可以根据预设大小将编码器特征切分为多个第一特征，该预设大小可以是人工设置的。
另外，本实施例在执行S102根据音素序列，得到多帧第一特征时，还可以将音素序列输入语音合成模型，由语音合成模型中的编码器对音素序列进行处理，以输出多帧第一特征。
本实施例在执行S102得到多帧第一特征之后，执行S103根据每帧第一特征与每帧第一特征的相邻特征帧，得到与每帧第一特征对应的第二特征；其中，本实施例所得到的第二特征为声学特征，例如梅尔频谱(Melspectrogram)，利用该声学特征能够生成音频数据。
具体地，本实施例在执行S103根据每帧第一特征与每帧第一特征的相邻特征帧，得到与每帧第一特征对应的第二特征时，可以采用的可选实现方式：从多帧第一特征中，确定每帧第一特征的相邻特征帧；从每帧第一特征的相邻特征帧中截取填充特征，将所截取的填充特征填充到每帧第一特征；根据填充之后的每帧第一特征，得到与每帧第一特征对应的第二特征。
也就是说，本实施例使用从每帧第一特征的相邻特征帧中所截取的填充特征，对每帧第一特征进行填充的方式，得到与每帧第一特征对应的第二特征，由于填充处理之后的每帧第一特征中包含相邻特征帧中的部分特征，因此能够对每帧第一特征的边界进行准确计算，提升所得到的对应每帧第一特征的第二特征的准确性。
本实施例在执行S102从每帧第一特征的相邻特征帧中截取填充特征，将所截取的填充特征填充到每帧第一特征时，可以根据每帧第一特征与相邻特征帧之间的位置关系，截取位于相邻特征帧的第一预设位置的特征作为填充特征，并将所截取的填充特征填充到每帧第一特征的第二预设位置。
在本实施例中，第一预设位置与第二预设位置存在对应关系，若第一预设位置为开头，则第二预设位置为结尾，若第一预设位置为结尾，则第二预设位置为开头。
举例来说，若本实施例执行S102得到的多帧第一特征包含EF1、EF2与EF3，本实施例执行S103确定EF1的相邻特征帧为EF2、确定EF2的相邻特征帧为EF1与EF3、确定EF3的相邻特征帧为EF2；针对EF1来说，EF2位于EF1之后，则截取EF2中位于开头部分的特征作为填充特征，填充到EF1的结尾；针对EF2来说，EF3位于EF2之后，则截取EF3中位于开头部分的特征作为填充特征，填充到EF2的结尾，EF1位于EF2之前，则截取EF1中位于结尾部分的特征作为填充特征，填充到EF2的开头；针对EF3来说，EF2位于EF3之前，则截取EF2中位于结尾部分的特征作为填充特征，填充到EF3的开头。
本实施例在执行S103根据填充之后的每帧第一特征，得到与每帧第一特征对应的第二特征时，可以采用的可选实现方式为：获取填充之后的每帧第一特征的解码器特征；将解码器特征中与填充特征对应的解码器特征去除，得到与每帧第一特征对应的第二特征。
也就是说，本实施例在得到与每帧第一特征对应的第二特征时，还可以去除第一特征的解码器特征中与填充特征对应的解码器特征，进一步提升所得到的第二特征的准确性，避免最终生成的不同音频数据存在重复。
另外，本实施例在执行S103根据每帧第一特征与每帧第一特征的相邻特征帧，得到与每帧第一特征对应的第二特征时，还可以将每帧第一特征与每帧第一特征的相邻特征帧输入语音合成模型，由语音合成模型中的解码器对每帧第一特征与每帧第一特征的相邻特征帧进行处理，以输出与每帧第一特征对应的第二特征。
本实施例在执行S103得到与每帧第一特征对应的第二特征之后，执行S104根据每帧第二特征与每帧第二特征的相邻特征帧，得到与每帧第二特征对应的音频数据。
具体地，本实施例在执行S104根据每帧第二特征与每帧第二特征的相邻特征帧，得到与每帧第二特征对应的音频数据时，可以采用的可选实现方式为：从多帧第二特征中，确定每帧第二特征的相邻特征帧；从每帧第二特征的相邻特征帧中截取填充特征，将所截取的填充特征填充到每帧第二特征；根据填充之后的每帧第二特征，得到与每帧第二特征对应的音频数据。
同样地，本实施例在执行S103从每帧第二特征的相邻特征帧中截取填充特征，将所截取的填充特征填充到每帧第二特征时，可以根据每帧第二特征与相邻特征帧之间的位置关系，截取位于相邻特征帧的第一预设位置的特征作为填充特征，并将所截取的填充特征填充到每帧第二特征的第二预设位置；第一预设位置与第二预设位置之间存在对应关系。
也就是说，本实施例使用从每帧第二特征的相邻特征帧中所截取的填充特征，对每帧第二特征进行填充的方式，得到与每帧第二特征对应的音频数据，由于填充处理之后的每帧第二特征中包含相邻特征帧中的部分特征，因此能够对每帧第二特征的边界进行准确计算，提升所得到的对应不同第二特征的音频数据之间的连贯性。
本实施例在执行S104根据填充之后的每帧第二特征，得到与每帧第二特征对应的音频数据时，可以采用的可选实现方式为：获取填充之后的每帧第二特征的音频数据；将音频数据中与填充特征对应的音频数据去除，得到与每帧第二特征对应的音频数据。
也就是说，本实施例在得到与每帧第二特征对应的音频数据时，还可以将音频数据中与填充特征对应的音频数据去除，避免所生成对应不同的第二特征的音频数据之间存在重复。
另外，本实施例在执行S104根据每帧第二特征与每帧第二特征的相邻特征帧，得到与每帧第二特征对应的音频数据时，还可以将每帧第二特征与每帧第二特征的相邻特征帧输入语音合成模型，由语音合成模型中的声码器对每帧第二特征与每帧第二特征的相邻特征帧进行处理，得到与每帧第二特征对应的音频数据。
本实施例在执行S103得到对应每帧第二特征的音频数据之后，可以依次将所得到的音频数据返回输入端，由于实现了流式语音合成的目的，因此本实施例能够降低语音合成的响应时间，提升了语音合成的速度。
图2是根据本公开第二实施例的示意图。如图2所示，本实施例的语音合成模型的训练方法，具体包括如下步骤：
S201、获取数据集，所述数据集中包含多个训练文本与所述多个训练文本的训练音频数据；
S202、构建包含编码器、解码器与声码器的神经网络模型，所述编码器用于根据训练文本的音素序列，得到多帧预测第一特征，所述解码器用于根据每帧预测第一特征与每帧预测第一特征的相邻特征帧，得到与每帧预测第一特征对应的预测第二特征，所述声码器用于根据每帧预测第二特征与每帧预测第二特征的相邻特征帧，得到与每帧预测第二特征对应的预测音频数据；
S203、基于所述多个训练文本与所述多个训练文本的训练音频数据训练所述神经网络模型，直至所述神经网络模型收敛，得到所述语音合成模型。
本实施例的语音合成模型的训练方法，所构建的神经网络模型中的解码器与声码器，通过结合相邻特征帧的方式得到预测第二特征与预测音频数据，能够提升所得到的预测第二特征的准确性与不同预测音频数据之间的连贯性，且根据不同的特征帧来生成相应的音频数据，使得该语音合成模型能够实现流式语音合成的目的，从而增强语音合成模型的合成效果。
本实施例在执行S201获取包含多个训练文本与所述多个训练文本的训练音频数据之后，还可以将该数据集划分为训练集、评估集与测试集；其中，训练集用于对神经网络模型进行训练，评估集用于对训练过程中的神经网络模型进行评估，测试集用于测试训练得到的神经网络模型的效果。
本实施例在执行S201获取数据集之后，还可以从训练音频数据中提取训练声学特征，进而将训练文本的音素序列与所提取的训练声学特征进行对齐；从训练音频数据中提取训练声学特征的目的，是为了计算神经网络模型中编码器与解码器的损失函数，进而根据该损失函数对编码器与解码器中的参数进行更新。
本实施例在执行S201获取数据集之后，执行S202构建包含编码器、解码器与声码器的神经网络模型。
本实施例执行S202构建的神经网络模型中，编码器与解码器构成声学模型，该声学模型用于将所输入的文本转换为声学特征，例如梅尔频谱特征；本实施例中的声学模型的结构基于FastSpeech2结构。
本实施例执行S202构建的神经网络模型中，编码器用于根据训练文本的音素序列，得到多帧预测第一特征。
本实施例执行S202构建的神经网络模型中，解码器用于根据每帧预测第一特征与每帧预测第一特征的相邻特征帧，得到与每帧预测第一特征对应的预测第二特征，该预测第二特征即为例如梅尔频谱的声学特征。
具体地，本实施例执行S202构建的神经网络模型中，解码器在根据每帧预测第一特征与每帧预测第一特征的相邻特征帧，得到与每帧预测第一特征对应的预测第二特征时，可以采用的可选实现方式为：从多帧预测第一特征中，确定每帧预测第一特征的相邻特征帧；从每帧预测第一特征的相邻特征帧中截取填充特征，将所截取的填充特征填充到每帧预测第一特征；根据填充之后的每帧预测第一特征，得到与每帧预测第一特征对应的预测第二特征。
实施例执行S202构建的神经网络模型中，解码器在根据填充之后的每帧预测第一特征，得到与每帧预测第一特征对应的预测第二特征时，可以采用的可选实现方式为：获取填充之后的每帧预测第一特征的解码器特征；将解码器特征中与填充特征对应的解码器特征去除，得到与每帧预测第一特征对应的预测第二特征。
在现有的FastSpeech2结构中，解码器通常是由n层前馈Transformer(FeedForward Transformer，FFT)块构成，但是该FFT块在进行处理时，需要依赖整个序列，其无法实现语音的流式合成。因此，本实施例对神经网络模型中的解码器进行改进，以使得解码器能够实现流式语音合成。
具体地，本实施例执行S202构建的神经网络模型中，解码器由多层一维卷积残差块(Conv1D Residual Block)构成，每层一维卷积残差块依次包含一维卷积层(Conv1D)、激活函数层(Relu)、一维批标准化层(BatchNorm1D)与一维卷积层(Conv1D)。
由于一维卷积残差块的结构并不会依赖整个序列来进行解码，而是依赖局部序列，因此本实施例使用由一维卷积残差块所构成的解码器，能够切分之后的多帧预测第一特征进行解码，从而实现语音的流式合成。
另外，本实施例执行S202构建的神经网络模型中，解码器由多层前馈Transformer块构成，每层前馈Transformer块依次包含基于chunk的注意力层、相加&归一化层(Add&Norm)、因果卷积层(Causal Convolution)与相加&归一化层(Add&Norm)。
也就是说，本实施例还能够对原先的FFT块进行改进，将FFT块中的多头注意力层(Multi-Head Attention)替换为基于chunk的注意力层，将一维卷积层(Conv1D)替换为(Causal Convolution)，使得基于改进后的FFT块构成的解码器，能够实现语音的流式合成。
在本实施例中，基于chunk的注意力层中所使用的chunk的大小与chunk的位置可以有多种选择方式，可以是固定大小的chunk，也可以是动态大小的chunk；每个chunk可以仅关注自身chunk内的数值，也可以仅关注从开头到自身的chunk内的数值，还可以仅关注自身与在自身左侧的chunk内的数值。
本实施例执行S202构建的神经网络模型中，声码器用于根据每帧预测第二特征与每帧预测第二特征的相邻特征帧，得到与每帧预测第二特征对应的预测音频数据。
具体地，本实施例执行S202构建的神经网络模型中，声码器在根据每帧预测第二特征与每帧预测第二特征的相邻特征帧，得到与每帧预测第二特征对应的预测音频数据时，可以采用的可选实现方式为：从多帧预测第二特征中，确定每帧预测第二特征的相邻特征帧；从每帧预测第二特征的相邻特征帧中截取填充特征，将所截取的填充特征填充到每帧预测第二特征；根据填充之后的每帧预测第二特征，得到与每帧预测第二特征对应的预测音频数据。
本实施例执行S202构建的神经网络模型中，声码器在填充之后的每帧预测第二特征，得到与每帧预测第二特征对应的预测音频数据时，可以采用的可选实现方式为：获取填充之后的每帧预测第二特征的预测音频数据；将预测音频数据中与填充特征对应的预测音频数据去除，得到与每帧预测第二特征对应的预测音频数据。
本实施例在执行S202构建包含编码器、解码器与声码器的神经网络模型之后，执行S203基于多个训练文本与多个训练文本的训练音频数据训练神经网络模型，直至神经网络模型收敛，得到语音合成模型。
具体地，本实施例在执行S203基于多个训练文本与多个训练文本的训练音频数据训练神经网络模型时，可以采用的可选实现方式为：将多个训练文本的音素序列分别输入神经网络模型，获取神经网络模型针对每个训练文本输出的预测音频数据；根据多个训练文本的训练音频数据与预测音频数据计算第一损失函数值；根据计算得到的第一损失函数值对神经网络模型中编码器、解码器与声码器的参数进行调整，直至第一损失函数值收敛，得到语音合成模型。
另外，在本实施例执行S201获取的数据集中，若同时获取了与训练文本的音素序列对应的训练声学特征，则本实施例在执行S203基于多个训练文本与多个训练文本的训练音频数据训练神经网络模型时，可以采用的可选实现方式为：将多个训练文本的音素序列分别输入神经网络模型，获取神经网络模型针对每个训练文本输出的预测第二特征与预测音频数据；根据多个训练文本的训练音频数据与预测音频数据计算第一损失函数值，根据多个训练文本的预测第二特征与训练声学特征计算第二损失函数值；根据计算得到的第一损失函数值对神经网络模型中声码器的参数进行调整，根据计算得到的第二损失函数值对神经网络模型中编码器与解码器的参数进行调整，直至第一损失函数值与第二损失函数值收敛，得到语音合成模型。
图3是根据本公开第三实施例的示意图。图3中示出了本实施例在获取多帧第一特征与得到多帧第二特征时的流程图，图3中的EF表示第一特征，DF表示第二特征。
图4是根据本公开第四实施例的示意图。图4中示出了本实施例在得到与多帧第二特征对应的音频数据时的流程图，图4中的M表示第二特征，W表示音频数据。
图5是根据本公开第五实施例的示意图。如图5所示，本实施例的语音合成装置500，包括：
第一获取单元501、用于获取待处理文本，得到所述待处理文本的音素序列；
第一处理单元502、用于根据所述音素序列，得到多帧第一特征；
第二处理单元503、用于根据每帧第一特征与每帧第一特征的相邻特征帧，得到与每帧第一特征对应的第二特征；
合成单元504、用于根据每帧第二特征与每帧第二特征的相邻特征帧，得到与每帧第二特征对应的音频数据。
第一获取单元501获取待处理文本时，可以将输入端输入的文本或者输入端选择的文本，作为待处理文本。
第一获取单元501得到待处理文本的音素序列时，可以首先获取待处理文本中与每个字符对应的音素，然后根据对应全部字符的音素，构成待处理文本的音素序列；其中，第一获取单元501在得到待处理文本的音素序列之前，还可以将待处理文本中的标点符号去除。
本实施例在由第一获取单元501得到待处理文本的音素序列之后，由第一处理单元502根据音素序列，得到多帧第一特征。
具体地，第一处理单元502根据音素序列，得到多帧第一特征时，可以采用的可选实现方式为：获取与音素序列对应的编码器特征；将所获取的编码器特征进行切分，将切分结果作为多帧第一特征。
也就是说，本实施例将与音素序列对应的编码器特征进行切分，将切分得到的每块编码器特征作为一帧第一特征，使得之后得到第二特征与音频数据的过程均是基于每帧第一特征进行，从而实现流式合成语音的目的。
第一处理单元502在将编码器特征进行切分时，可以根据预设大小将编码器特征切分为多个第一特征，该预设大小可以是人工设置的。
另外，第一处理单元502根据音素序列，得到多帧第一特征时，还可以将音素序列输入语音合成模型，由语音合成模型中的编码器对音素序列进行处理，以得到多帧第一特征。
本实施例在由第一处理单元502得到多帧第一特征之后，由第二处理单元503根据每帧第一特征与每帧第一特征的相邻特征帧，得到与每帧第一特征对应的第二特征；其中，第二处理单元503所得到的第二特征为声学特征，利用该声学特征能够生成音频数据。
具体地，第二处理单元503在根据每帧第一特征与每帧第一特征的相邻特征帧，得到与每帧第一特征对应的第二特征时，可以采用的可选实现方式：从多帧第一特征中，确定每帧第一特征的相邻特征帧；从每帧第一特征的相邻特征帧中截取填充特征，将所截取的填充特征填充到每帧第一特征；根据填充之后的每帧第一特征，得到与每帧第一特征对应的第二特征。
也就是说，本实施例使用从每帧第一特征的相邻特征帧中所截取的填充特征，对每帧第一特征进行填充的方式，得到与每帧第一特征对应的第二特征，由于填充处理之后的每帧第一特征中包含相邻特征帧中的部分特征，因此能够对每帧第一特征的边界进行准确计算，提升所得到的对应每帧第一特征的第二特征的准确性。
第二处理单元503在从每帧第一特征的相邻特征帧中截取填充特征，将所截取的填充特征填充到每帧第一特征时，可以根据每帧第一特征与相邻特征帧之间的位置关系，截取位于相邻特征帧的第一预设位置的特征作为填充特征，并将所截取的填充特征填充到每帧第一特征的第二预设位置。
在本实施例中，第一预设位置与第二预设位置存在对应关系，若第一预设位置为开头，则第二预设位置为结尾，若第一预设位置为结尾，则第二预设位置为开头。
第二处理单元503在根据填充之后的每帧第一特征，得到与每帧第一特征对应的第二特征时，可以采用的可选实现方式为：获取填充之后的每帧第一特征的解码器特征；将解码器特征中与填充特征对应的解码器特征去除，得到与每帧第一特征对应的第二特征。
也就是说，本实施例在得到与每帧第一特征对应的第二特征时，还可以去除第一特征的解码器特征中与填充特征对应的解码器特征，进一步提升所得到的第二特征的准确性，避免最终生成的不同音频数据存在重复。
另外，第二处理单元503在根据每帧第一特征与每帧第一特征的相邻特征帧，得到与每帧第一特征对应的第二特征时，还可以将每帧第一特征与每帧第一特征的相邻特征帧输入语音合成模型，由语音合成模型中的解码器对每帧第一特征与每帧第一特征的相邻特征帧进行处理，以得到与每帧第一特征对应的第二特征。
本实施例在由第二处理单元503得到与每帧第一特征对应的第二特征之后，由合成单元504根据每帧第二特征与每帧第二特征的相邻特征帧，得到与每帧第二特征对应的音频数据。
具体地，合成单元504在根据每帧第二特征与每帧第二特征的相邻特征帧，得到与每帧第二特征对应的音频数据时，可以采用的可选实现方式为：从多帧第二特征中，确定每帧第二特征的相邻特征帧；从每帧第二特征的相邻特征帧中截取填充特征，将所截取的填充特征填充到每帧第二特征；根据填充之后的每帧第二特征，得到与每帧第二特征对应的音频数据。
同样地，合成单元504在从每帧第二特征的相邻特征帧中截取填充特征，将所截取的填充特征填充到每帧第二特征时，可以根据每帧第二特征与相邻特征帧之间的位置关系，截取位于相邻特征帧的第一预设位置的特征作为填充特征，并将所截取的填充特征填充到每帧第二特征的第二预设位置；第一预设位置与第二预设位置之间存在对应关系。
也就是说，本实施例使用从每帧第二特征的相邻特征帧中所截取的填充特征，对每帧第二特征进行填充的方式，得到与每帧第二特征对应的音频数据，由于填充处理之后的每帧第二特征中包含相邻特征帧中的部分特征，因此能够对每帧第二特征的边界进行准确计算，提升所得到的对应不同第二特征的音频数据之间的连贯性。
合成单元504在根据填充之后的每帧第二特征，得到与每帧第二特征对应的音频数据时，可以采用的可选实现方式为：获取填充之后的每帧第二特征的音频数据；将音频数据中与填充特征对应的音频数据去除，得到与每帧第二特征对应的音频数据。
也就是说，本实施例在得到与每帧第二特征对应的音频数据时，还可以将音频数据中与填充特征对应的音频数据去除，避免所生成对应不同的第二特征的音频数据之间存在重复。
另外，合成单元504在根据每帧第二特征与每帧第二特征的相邻特征帧，得到与每帧第二特征对应的音频数据时，还可以将每帧第二特征与每帧第二特征的相邻特征帧输入语音合成模型，由语音合成模型中的声码器对每帧第二特征与每帧第二特征的相邻特征帧进行处理，以得到与每帧第二特征对应的音频数据。
合成单元504得到对应每帧第二特征的音频数据之后，可以依次将所得到的音频数据返回输入端，由于实现了流式语音合成的目的，因此本实施例能够降低语音合成的响应时间，提升了语音合成的速度。
图6是根据本公开第六实施例的示意图。如图6所示，本实施例的语音合成模型的训练装置600，包括：
第二获取单元601、用于获取数据集，所述数据集中包含多个训练文本与所述多个训练文本的训练音频数据；
构建单元602、用于构建包含编码器、解码器与声码器的神经网络模型，所述编码器用于根据训练文本的音素序列，得到多帧预测第一特征，所述解码器用于根据每帧预测第一特征与每帧预测第一特征的相邻特征帧，得到与每帧预测第一特征对应的预测第二特征，所述声码器用于根据每帧预测第二特征与每帧预测第二特征的相邻特征帧，得到与每帧预测第二特征对应的预测音频数据；
训练单元603、用于基于所述多个训练文本与所述多个训练文本的训练音频数据训练所述神经网络模型，直至所述神经网络模型收敛，得到所述语音合成模型。
第二获取单元601获取包含多个训练文本与所述多个训练文本的训练音频数据之后，还可以将该数据集划分为训练集、评估集与测试集；其中，训练集用于对神经网络模型进行训练，评估集用于对训练过程中的神经网络模型进行评估，测试集用于测试训练得到的神经网络模型的效果。
第二获取单元601在获取数据集之后，还可以从训练音频数据中提取训练声学特征，进而将训练文本的音素序列与所提取的训练声学特征进行对齐；从训练音频数据中提取训练声学特征的目的，是为了计算神经网络模型中编码器与解码器的损失函数，进而根据该损失函数对编码器与解码器中的参数进行更新。
本实施例在由第二获取单元601获取数据集之后，由构建单元602构建包含编码器、解码器与声码器的神经网络模型。
构建单元602构建的神经网络模型中，编码器与解码器构成声学模型，该声学模型用于将所输入的文本转换为声学特征。
构建单元602构建的神经网络模型中，编码器用于根据训练文本的音素序列，得到多帧预测第一特征。
构建单元602构建的神经网络模型中，解码器用于根据每帧预测第一特征与每帧预测第一特征的相邻特征帧，得到与每帧预测第一特征对应的预测第二特征，该预测第二特征即为例如梅尔频谱的声学特征。
具体地，构建单元602构建的神经网络模型中，解码器在根据每帧预测第一特征与每帧预测第一特征的相邻特征帧，得到与每帧预测第一特征对应的预测第二特征时，可以采用的可选实现方式为：从多帧预测第一特征中，确定每帧预测第一特征的相邻特征帧；从每帧预测第一特征的相邻特征帧中截取填充特征，将所截取的填充特征填充到每帧预测第一特征；根据填充之后的每帧预测第一特征，得到与每帧预测第一特征对应的预测第二特征。
构建单元602构建的神经网络模型中，解码器在根据填充之后的每帧预测第一特征，得到与每帧预测第一特征对应的预测第二特征时，可以采用的可选实现方式为：获取填充之后的每帧预测第一特征的解码器特征；将解码器特征中与填充特征对应的解码器特征去除，得到与每帧预测第一特征对应的预测第二特征。
构建单元602构建的神经网络模型中，声码器用于根据每帧预测第二特征与每帧预测第二特征的相邻特征帧，得到与每帧预测第二特征对应的预测音频数据。
具体地，构建单元602构建的神经网络模型中，声码器在根据每帧预测第二特征与每帧预测第二特征的相邻特征帧，得到与每帧预测第二特征对应的预测音频数据时，可以采用的可选实现方式为：从多帧预测第二特征中，确定每帧预测第二特征的相邻特征帧；从每帧预测第二特征的相邻特征帧中截取填充特征，将所截取的填充特征填充到每帧预测第二特征；根据填充之后的每帧预测第二特征，得到与每帧预测第二特征对应的预测音频数据。
构建单元602构建的神经网络模型中，声码器在填充之后的每帧预测第二特征，得到与每帧预测第二特征对应的预测音频数据时，可以采用的可选实现方式为：获取填充之后的每帧预测第二特征的预测音频数据；将预测音频数据中与填充特征对应的预测音频数据去除，得到与每帧预测第二特征对应的预测音频数据。
本实施例在由构建单元602构建包含编码器、解码器与声码器的神经网络模型之后，由训练单元603基于多个训练文本与多个训练文本的训练音频数据训练神经网络模型，直至神经网络模型收敛，得到语音合成模型。
具体地，训练单元603在基于多个训练文本与多个训练文本的训练音频数据训练神经网络模型时，可以采用的可选实现方式为：将多个训练文本的音素序列分别输入神经网络模型，获取神经网络模型针对每个训练文本输出的预测音频数据；根据多个训练文本的训练音频数据与预测音频数据计算第一损失函数值；根据计算得到的第一损失函数值对神经网络模型中编码器、解码器与声码器的参数进行调整，直至第一损失函数值收敛，得到语音合成模型。
另外，若第二获取单元601同时获取了与训练文本的音素序列对应的训练声学特征，则训练单元603在基于多个训练文本与多个训练文本的训练音频数据训练神经网络模型时，可以采用的可选实现方式为：将多个训练文本的音素序列分别输入神经网络模型，获取神经网络模型针对每个训练文本输出的预测第二特征与预测音频数据；根据多个训练文本的训练音频数据与预测音频数据计算第一损失函数值，根据多个训练文本的预测第二特征与训练声学特征计算第二损失函数值；根据计算得到的第一损失函数值对神经网络模型中声码器的参数进行调整，根据计算得到的第二损失函数值对神经网络模型中编码器与解码器的参数进行调整，直至第一损失函数值与第二损失函数值收敛，得到语音合成模型。
本公开的技术方案中，所涉及的用户个人信息的获取，存储和应用等，均符合相关法律法规的规定，且不违背公序良俗。
根据本公开的实施例，本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
如图7所示，是根据本公开实施例的语音合成或语音合成模型的训练方法的电子设备的框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图7所示，设备700包括计算单元701，其可以根据存储在只读存储器(ROM)702中的计算机程序或者从存储单元708加载到随机访问存储器(RAM)703中的计算机程序，来执行各种适当的动作和处理。在RAM703中，还可存储设备700操作所需的各种程序和数据。计算单元701、ROM702以及RAM703通过总线704彼此相连。输入/输出(I/O)接口705也连接至总线704。
设备700中的多个部件连接至I/O接口705，包括：输入单元706，例如键盘、鼠标等；输出单元707，例如各种类型的展示器、扬声器等；存储单元708，例如磁盘、光盘等；以及通信单元709，例如网卡、调制解调器、无线通信收发机等。通信单元709允许设备700通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元701可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元701的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元701执行上文所描述的各个方法和处理，例如语音合成或语音合成模型的训练方法。例如，在一些实施例中，语音合成或语音合成模型的训练方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元708。
在一些实施例中，计算机程序的部分或者全部可以经由ROM702和/或通信单元709而被载入和/或安装到设备700上。当计算机程序加载到RAM 703并由计算单元701执行时，可以执行上文描述的语音合成或语音合成模型的训练方法的一个或多个步骤。备选地，在其他实施例中，计算单元701可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行语音合成或语音合成模型的训练方法。
此处描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、复杂可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程语音合成或语音合成模型的训练装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户展示信息的展示装置(例如，CRT(阴极射线管)或者LCD(液晶展示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，又称为云计算服务器或云主机，是云计算服务体系中的一项主机产品，以解决了传统物理主机与VPS服务(“Virtual Private Server”，或简称“VPS”)中，存在的管理难度大，业务扩展性弱的缺陷。服务器也可以为分布式系统的服务器，或者是结合了区块链的服务器。
应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。
上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。

Claims (27)

1.一种语音合成方法，包括：
获取待处理文本，得到所述待处理文本的音素序列；
根据所述音素序列，得到多帧第一特征；
根据每帧第一特征与每帧第一特征的相邻特征帧，得到与每帧第一特征对应的第二特征；
根据每帧第二特征与每帧第二特征的相邻特征帧，得到与每帧第二特征对应的音频数据。
2.根据权利要求1所述的方法，其中，所述根据所述音素序列，得到多帧第一特征包括：
获取与所述音素序列对应的编码器特征；
将所述编码器特征进行切分，将切分结果作为所述多帧第一特征。
3.根据权利要求1-2中任一项所述的方法，其中，所述根据每帧第一特征与每帧第一特征的相邻特征帧，得到与每帧第一特征对应的第二特征包括：
从所述多帧第一特征中，确定每帧第一特征的相邻特征帧；
从所述每帧第一特征的相邻特征帧中截取填充特征，将所述填充特征填充到每帧第一特征；
根据填充之后的每帧第一特征，得到所述与每帧第一特征对应的第二特征。
4.根据权利要求3所述的方法，其中，所述根据填充之后的每帧第一特征，得到所述与每帧第一特征对应的第二特征包括：
获取所述填充之后的每帧第一特征的解码器特征；
将所述解码器特征中与所述填充特征对应的解码器特征去除，得到所述与每帧第一特征对应的第二特征。
5.根据权利要求1-4中任一项所述的方法，其中，所述根据每帧第二特征与每帧第二特征的相邻特征帧，得到与每帧第二特征对应的音频数据包括：
从所述多帧第二特征中，确定每帧第二特征的相邻特征帧；
从所述每帧第二特征的相邻特征帧中截取填充特征，将所述填充特征填充到每帧第二特征；
根据填充之后的每帧第二特征，得到所述与每帧第二特征对应的音频数据。
6.根据权利要求5所述的方法，其中，所述根据填充之后的每帧第二特征，得到所述与每帧第二特征对应的音频数据包括：
获取所述填充之后的每帧第二特征的音频数据；
将所述音频数据中与所述填充特征对应的音频数据去除，得到所述与每帧第二特征对应的音频数据。
7.根据权利要求1所述的方法，其中，所述根据所述音素序列，得到多帧第一特征包括：
将所述音素序列输入语音合成模型；
由所述语音合成模型中的编码器对所述音素序列进行处理，得到所述编码器输出的所述多帧第一特征。
8.根据权利要求1所述的方法，其中，所述根据每帧第一特征与每帧第一特征的相邻特征帧，得到与每帧第一特征对应的第二特征包括：
将所述每帧第一特征与所述每帧第一特征的相邻特征帧输入语音合成模型；
由所述语音合成模型中的解码器对所述每帧第一特征与所述每帧第一特征的相邻特征帧进行处理，得到所述解码器输出的所述与每帧第一特征对应的第二特征。
9.根据权利要求1所述的方法，其中，所述根据每帧第二特征与每帧第二特征的相邻特征帧，得到与每帧第二特征对应的音频数据包括：
将所述每帧第二特征与所述每帧第二特征的相邻特征帧输入语音合成模型；
由所述语音合成模型中的声码器对所述每帧第二特征与所述每帧第二特征的相邻特征帧进行处理，得到所述声码器输出的所述与每帧第二特征对应的音频数据。
10.一种语音合成模型的训练方法，包括：
获取数据集，所述数据集中包含多个训练文本与所述多个训练文本的训练音频数据；
构建包含编码器、解码器与声码器的神经网络模型，所述编码器用于根据训练文本的音素序列，得到多帧预测第一特征，所述解码器用于根据每帧预测第一特征与每帧预测第一特征的相邻特征帧，得到与每帧预测第一特征对应的预测第二特征，所述声码器用于根据每帧预测第二特征与每帧预测第二特征的相邻特征帧，得到与每帧预测第二特征对应的预测音频数据；
基于所述多个训练文本与所述多个训练文本的训练音频数据训练所述神经网络模型，直至所述神经网络模型收敛，得到所述语音合成模型。
11.根据权利要求10所述的方法，其中，所述解码器根据每帧预测第一特征与每帧预测第一特征的相邻特征帧，得到与每帧预测第一特征对应的预测第二特征时，包括：
从所述多帧预测第一特征中，确定每帧预测第一特征的相邻特征帧；
从所述每帧预测第一特征的相邻特征帧中截取填充特征，将所述填充特征填充到每帧预测第一特征；
根据填充之后的每帧预测第一特征，得到所述与每帧预测第一特征对应的预测第二特征。
12.根据权利要求10所述的方法，其中，所述解码器根据填充之后的所述每帧预测第一特征，得到所述与每帧预测第一特征对应的预测第二特征包括：
获取所述填充之后的每帧预测第一特征的解码器特征；
将所述解码器特征中与所述填充特征对应的解码器特征去除，得到所述与每帧预测第一特征对应的预测第二特征。
13.根据权利要求10-12中任一项所述的方法，其中，所述声码器根据每帧预测第二特征与每帧预测第二特征的相邻特征帧，得到与每帧预测第二特征对应的预测音频数据包括：
从所述多帧预测第二特征中，确定每帧预测第二特征的相邻特征帧；
从所述每帧预测第二特征的相邻特征帧中截取填充特征，将所述填充特征填充到每帧预测第二特征；
根据填充之后的每帧预测第二特征，得到所述与每帧预测第二特征对应的预测音频数据。
14.根据权利要求13所述的方法，其中，所述声码器根据填充之后的每帧预测第二特征，得到所述与每帧预测第二特征对应的预测音频数据包括：
获取所述填充之后的每帧预测第二特征的预测音频数据；
将所述预测音频数据中与所述填充特征对应的预测音频数据去除，得到所述与每帧预测第二特征对应的预测音频数据。
15.一种语音合成装置，包括：
第一获取单元，用于获取待处理文本，得到所述待处理文本的音素序列；
第一处理单元，用于根据所述音素序列，得到多帧第一特征；
第二处理单元，用于根据每帧第一特征与每帧第一特征的相邻特征帧，得到与每帧第一特征对应的第二特征；
合成单元，用于根据每帧第二特征与每帧第二特征的相邻特征帧，得到与每帧第二特征对应的音频数据。
16.根据权利要求15所述的装置，其中，所述第一处理单元在根据所述音素序列，得到多帧第一特征时，具体执行：
获取与所述音素序列对应的编码器特征；
将所述编码器特征进行切分，将切分结果作为所述多帧第一特征。
17.根据权利要求15-16中任一项所述的装置，其中，所述第二处理单元在根据每帧第一特征与每帧第一特征的相邻特征帧，得到与每帧第一特征对应的第二特征时，具体执行：
从所述多帧第一特征中，确定每帧第一特征的相邻特征帧；
从所述每帧第一特征的相邻特征帧中截取填充特征，将所述填充特征填充到每帧第一特征；
根据填充之后的每帧第一特征，得到所述与每帧第一特征对应的第二特征。
18.根据权利要求17所述的装置，其中，所述第二处理单元在根据填充之后的每帧第一特征，得到所述与每帧第一特征对应的第二特征时，具体执行：
获取所述填充之后的每帧第一特征的解码器特征；
将所述解码器特征中与所述填充特征对应的解码器特征去除，得到所述与每帧第一特征对应的第二特征。
19.根据权利要求15-18中任一项所述的装置，其中，所述合成单元在根据每帧第二特征与每帧第二特征的相邻特征帧，得到与每帧第二特征对应的音频数据时，具体执行：
从所述多帧第二特征中，确定每帧第二特征的相邻特征帧；
从所述每帧第二特征的相邻特征帧中截取填充特征，将所述填充特征填充到每帧第二特征；
根据填充之后的每帧第二特征，得到所述与每帧第二特征对应的音频数据。
20.根据权利要求19所述的装置，其中，所述合成单元在根据填充之后的每帧第二特征，得到所述与每帧第二特征对应的音频数据时，具体执行：
获取所述填充之后的每帧第二特征的音频数据；
将所述音频数据中与所述填充特征对应的音频数据去除，得到所述与每帧第二特征对应的音频数据。
21.根据权利要求15所述的装置，其中，所述第一处理单元在根据所述音素序列，得到多帧第一特征时，具体执行：
将所述音素序列输入语音合成模型；
由所述语音合成模型中的编码器对所述音素序列进行处理，得到所述编码器输出的所述多帧第一特征。
22.根据权利要求15所述的装置，其中，所述第二处理单元在根据每帧第一特征与每帧第一特征的相邻特征帧，得到与每帧第一特征对应的第二特征时，具体执行：
将所述每帧第一特征与所述每帧第一特征的相邻特征帧输入语音合成模型；
由所述语音合成模型中的解码器对所述每帧第一特征与所述每帧第一特征的相邻特征帧进行处理，得到所述解码器输出的所述与每帧第一特征对应的第二特征。
23.根据权利要求15所述的装置，其中，所述合成单元在根据每帧第二特征与每帧第二特征的相邻特征帧，得到与每帧第二特征对应的音频数据时，具体执行：
将所述每帧第二特征与所述每帧第二特征的相邻特征帧输入语音合成模型；
由所述语音合成模型中的声码器对所述每帧第二特征与所述每帧第二特征的相邻特征帧进行处理，得到所述声码器输出的所述与每帧第二特征对应的音频数据。
24.一种语音合成模型的训练装置，包括：
第二获取单元，用于获取数据集，所述数据集中包含多个训练文本与所述多个训练文本的训练音频数据；
构建单元，用于构建包含编码器、解码器与声码器的神经网络模型，所述编码器用于根据训练文本的音素序列，得到多帧预测第一特征，所述解码器用于根据每帧预测第一特征与每帧预测第一特征的相邻特征帧，得到与每帧预测第一特征对应的预测第二特征，所述声码器用于根据每帧预测第二特征与每帧预测第二特征的相邻特征帧，得到与每帧预测第二特征对应的预测音频数据；
训练单元，用于基于所述多个训练文本与所述多个训练文本的训练音频数据训练所述神经网络模型，直至所述神经网络模型收敛，得到所述语音合成模型。
25.一种电子设备，包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-14中任一项所述的方法。
26.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行权利要求1-14中任一项所述的方法。
27.一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现根据权利要求1-14中任一项所述的方法。
CN202210502315.0A 2022-05-09 2022-05-09 语音合成与语音合成模型的训练方法、装置 Pending CN115064148A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210502315.0A CN115064148A (zh) 2022-05-09 2022-05-09 语音合成与语音合成模型的训练方法、装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210502315.0A CN115064148A (zh) 2022-05-09 2022-05-09 语音合成与语音合成模型的训练方法、装置

Publications (1)

Publication Number Publication Date
CN115064148A true CN115064148A (zh) 2022-09-16

Family

ID=83198179

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210502315.0A Pending CN115064148A (zh) 2022-05-09 2022-05-09 语音合成与语音合成模型的训练方法、装置

Country Status (1)

Country Link
CN (1) CN115064148A (zh)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20050114136A1 (en) * 2003-11-26 2005-05-26 Hamalainen Matti S. Manipulating wavetable data for wavetable based sound synthesis
CN112735389A (zh) * 2020-12-29 2021-04-30 平安科技（深圳）有限公司 基于深度学习的语音训练方法、装置、设备以及存储介质
CN112786007A (zh) * 2021-01-20 2021-05-11 北京有竹居网络技术有限公司 语音合成方法、装置、可读介质及电子设备
CN113516964A (zh) * 2021-08-13 2021-10-19 北京房江湖科技有限公司 语音合成方法、可读存储介质及计算机程序产品
CN113870838A (zh) * 2021-09-27 2021-12-31 平安科技（深圳）有限公司 一种语音合成方法、装置、设备及介质
CN114387946A (zh) * 2020-10-20 2022-04-22 北京三星通信技术研究有限公司 语音合成模型的训练方法和语音合成方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20050114136A1 (en) * 2003-11-26 2005-05-26 Hamalainen Matti S. Manipulating wavetable data for wavetable based sound synthesis
CN114387946A (zh) * 2020-10-20 2022-04-22 北京三星通信技术研究有限公司 语音合成模型的训练方法和语音合成方法
CN112735389A (zh) * 2020-12-29 2021-04-30 平安科技（深圳）有限公司 基于深度学习的语音训练方法、装置、设备以及存储介质
CN112786007A (zh) * 2021-01-20 2021-05-11 北京有竹居网络技术有限公司 语音合成方法、装置、可读介质及电子设备
CN113516964A (zh) * 2021-08-13 2021-10-19 北京房江湖科技有限公司 语音合成方法、可读存储介质及计算机程序产品
CN113870838A (zh) * 2021-09-27 2021-12-31 平安科技（深圳）有限公司 一种语音合成方法、装置、设备及介质

Similar Documents

Publication Publication Date Title
CN112466288B (zh) 语音识别方法、装置、电子设备及存储介质
CN112597754A (zh) 文本纠错方法、装置、电子设备和可读存储介质
CN113590858A (zh) 目标对象的生成方法、装置、电子设备以及存储介质
US20230178067A1 (en) Method of training speech synthesis model and method of synthesizing speech
CN112466285B (zh) 离线语音识别方法、装置、电子设备及存储介质
CN113706669B (zh) 动画合成方法、装置、电子设备及存储介质
CN113380239B (zh) 语音识别模型的训练方法、语音识别方法、装置和设备
CN112861548A (zh) 自然语言生成及模型的训练方法、装置、设备和存储介质
CN112307188A (zh) 对话生成方法、系统、电子设备和可读存储介质
CN114495977B (zh) 语音翻译和模型训练方法、装置、电子设备以及存储介质
CN113361574A (zh) 数据处理模型的训练方法、装置、电子设备及存储介质
CN113838450B (zh) 音频合成及相应的模型训练方法、装置、设备及存储介质
CN113408305B (zh) 模型的训练方法、装置、设备和存储介质
CN115064148A (zh) 语音合成与语音合成模型的训练方法、装置
CN113408303B (zh) 翻译模型的训练与翻译方法、装置
CN114023310A (zh) 应用于语音数据处理的方法、装置及计算机程序产品
CN114510927A (zh) 文本纠错方法、装置、电子设备和可读存储介质
CN114898742A (zh) 流式语音识别模型的训练方法、装置、设备和存储介质
CN114841175A (zh) 机器翻译方法、装置、设备及存储介质
CN113689866A (zh) 一种语音转换模型的训练方法、装置、电子设备及介质
CN113744368A (zh) 动画合成方法、装置、电子设备及存储介质
CN112905917A (zh) 内链生成方法、模型训练方法、相关装置及电子设备
CN115101041A (zh) 语音合成与语音合成模型的训练方法、装置
CN113689867B (zh) 一种语音转换模型的训练方法、装置、电子设备及介质
CN115482809B (zh) 关键词检索方法、装置、电子设备以及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination