CN114360559A - 语音合成方法、装置、电子设备和存储介质 - Google Patents

语音合成方法、装置、电子设备和存储介质 Download PDF

Info

Publication number
CN114360559A
CN114360559A CN202111558284.2A CN202111558284A CN114360559A CN 114360559 A CN114360559 A CN 114360559A CN 202111558284 A CN202111558284 A CN 202111558284A CN 114360559 A CN114360559 A CN 114360559A
Authority
CN
China
Prior art keywords
sub
band
amplitude
phase
speech
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202111558284.2A
Other languages
English (en)
Other versions
CN114360559B (zh
Inventor
彭博
康永国
高聪
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Baidu Netcom Science and Technology Co Ltd
Original Assignee
Beijing Baidu Netcom Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Baidu Netcom Science and Technology Co Ltd filed Critical Beijing Baidu Netcom Science and Technology Co Ltd
Priority to CN202111558284.2A priority Critical patent/CN114360559B/zh
Publication of CN114360559A publication Critical patent/CN114360559A/zh
Application granted granted Critical
Publication of CN114360559B publication Critical patent/CN114360559B/zh
Priority to US18/057,363 priority patent/US20230081543A1/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L13/00—Speech synthesis; Text to speech systems
    • G10L13/08—Text analysis or generation of parameters for speech synthesis out of text, e.g. grapheme to phoneme translation, prosody generation or stress or intonation determination
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L13/00—Speech synthesis; Text to speech systems
    • G10L13/02—Methods for producing synthetic speech; Speech synthesisers
    • G10L13/033—Voice editing, e.g. manipulating the voice of the synthesiser
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L13/00—Speech synthesis; Text to speech systems
    • G10L13/02—Methods for producing synthetic speech; Speech synthesisers
    • G10L13/04—Details of speech synthesis systems, e.g. synthesiser structure or memory management
    • G10L13/047—Architecture of speech synthesisers
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/02—Feature extraction for speech recognition; Selection of recognition unit
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L21/00—Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
    • G10L21/02—Speech enhancement, e.g. noise reduction or echo cancellation
    • G10L21/0208—Noise filtering
    • G10L21/0216—Noise filtering characterised by the method used for estimating noise
    • G10L21/0232—Processing in the frequency domain
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/03—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters
    • G10L25/18—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters the extracted parameters being spectral information of each sub-band
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/26—Speech to text systems
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L21/00—Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
    • G10L21/02—Speech enhancement, e.g. noise reduction or echo cancellation
    • G10L21/0208—Noise filtering
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/48—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use
    • G10L25/51—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use for comparison or discrimination
    • G10L25/63—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use for comparison or discrimination for estimating an emotional state

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Acoustics & Sound (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Quality & Reliability (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Abstract

本公开公开了语音合成方法、装置、电子设备和存储介质，涉及人工智能领域，尤其涉及深度学习、语音技术等领域。具体实现方案为：通过获取源语音，实现根据源语音的幅度分量和/或相位分量，对源语音中的噪声进行抑制，以得到降噪语音，在对降噪语音进行语音识别，以得到对应的文本信息之后，将降噪语音的文本信息，以及设定的标签输入训练得到的声学模型，以得到与文本信息匹配的预测声学特征，从而根据预测声学特征，生成目标语音。由此，通过基于源语音的幅度分量和/或相位分量，对源语音进行降噪处理，减少环境噪声的干扰，提高语音合成的效果。

Description

语音合成方法、装置、电子设备和存储介质
技术领域
本公开涉及人工智能技术领域，尤其涉及深度学习、语音技术等领域，具体涉及语音合成方法、装置、电子设备和存储介质。
背景技术
随着互联网技术的发展，越来越多的行业开始使用虚拟数字人与用户进行语音交互，例如媒体、客服行业。而虚拟数字人在工作过程中需要语言自然流畅，能够应答灵活的提出问题，尽量做到语言表达上与真人如出一辙。
因此，如何提高虚拟数字人的语音合成的准确度，是需要解决的技术问题。
发明内容
本公开提供了一种用于语音合成的方法、装置、设备以及存储介质。
根据本公开的一方面，提供了一种语音合成方法，包括：
获取源语音；
根据所述源语音的幅度分量和/或相位分量，对所述源语音中的噪声进行抑制，以得到降噪语音；
对所述降噪语音进行语音识别，以得到对应的文本信息；
将所述降噪语音的文本信息，以及设定的标签输入训练得到的声学模型，以得到与所述文本信息匹配的预测声学特征；
根据所述预测声学特征，生成目标语音。
根据本公开的另一方面，提供了一种语音合成装置，包括：
获取模块，用于获取源语音；
降噪模块，用于根据所述源语音的幅度分量和/或相位分量，对所述源语音中的噪声进行抑制，以得到降噪语音；
识别模块，用于对所述降噪语音进行语音识别，以得到对应的文本信息；
处理模块，用于将所述降噪语音的文本信息，以及设定的标签输入训练得到的声学模型，以得到与所述文本信息匹配的预测声学特征；
生成模块，用于根据所述预测声学特征，生成目标语音。
根据本公开的又一方面，提供了一种电子设备，包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行前述一方面中所述的方法。
根据本公开的再一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行前述一方面中所述的方法。
根据本公开的还一方面，提供了一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现前述一方面中所述的方法。
应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案，不构成对本公开的限定。其中：
图1是根据本公开第一实施例所提供的语音合成方法的流程示意图；
图2是根据本公开第二实施例所提供的语音合成方法的流程示意图；
图3是根据本公开第二实施例所提供的确定至少一个子带的幅度抑制因子的流程示意图；
图4是根据本公开第二实施例所提供的确定至少一个子带的相位修正因子的流程示意图；
图5是一种场景下的降噪处理的原理示意图；
图6是根据本公开第三实施例所提供的语音合成装置的结构示意图；
图7示出了可以用来实施本公开的实施例的示例电子设备700的示意性框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
需要说明的是，本公开的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本公开的实施例能够以除了在这里图示或描述的那些以外的顺序实施。
需要说明的是，本公开的技术方案中，所涉及的用户个人信息的获取，存储和应用等，均符合相关法律法规的规定，且不违背公序良俗。
本公开实施例针对相关技术中，由于环境噪音的影响而导致的虚拟数字人的语音合成的准确度不高，效果不好的问题，提出一种语音合成方法。
下面参考附图描述本公开实施例的语音合成方法、装置、电子设备、非瞬时计算机可读存储介质以及计算机程序产品。
首先结合图1，对本公开提供的语音合成方法进行详细描述。
图1是根据本公开第一实施例所提供的语音合成方法的流程示意图。
本公开实施例提供的语音合成方法，执行主体为语音合成装置。该语音合成装置可以为电子设备，也可以被配置在电子设备中，以实现根据源语音的幅度分量和/或相位分量，对源语音中的噪声进行抑制，以及根据预测声学特征，生成目标语音。本公开实施例以语音合成装置被配置在电子设备中为例进行说明。
其中，电子设备，可以是任意能够进行数据处理的静止或者移动计算设备，例如笔记本电脑、智能手机、可穿戴设备等移动计算设备，或者台式计算机等静止的计算设备，或者服务器，或者其它类型的计算设备等，本公开对此不作限制。
如图1所示，该语音合成方法包括以下步骤：
步骤101，获取源语音。
其中，源语音，可以为任意发音人发出的语音。
需要说明的是，本公开实施例中的语音合成装置可以通过各种公开、合法、合规的方式获取源语音信息，例如语音合成装置可以在经过发音人授权后，在发音人讲话时实时采集发音人的语音信息，或者也可以在经过发音人授权后从其它装置获取发音人的录音信息，或者也可以通过其它公开、合法、合规的方式获取源语音信息，本公开对此不作限制。
以客服场景中通过真人客服的语音驱动虚拟数字人为例，真人客服的语音信息即为源语音，在经过真人客服授权后，语音合成装置可以在真人客服讲话时，实时采集真人客服的语音，从而可以获取到源语音信息。
步骤102，根据源语音的幅度分量和/或相位分量，对源语音中的噪声进行抑制，以得到降噪语音。
在日常的声学环境中，语音通常会受到混响和背景噪声的干扰，因此需要进行降噪处理，在示例性实施例中，可以根据源语音的幅度分量，对源语音进行降噪处理，从而得到降噪语音，或者也可以根据源语音的相位分量，对源语音进行降噪处理，从而得到降噪语音，或者也可以根据源语音的幅度分量和相位分量，对源语音进行降噪处理，从而得到降噪语音，本公开对此不作限制。
其中，降噪语音，为源语音中抑制了噪声之后的语音，能够清楚地表征源语音的语音信息。
在示例性实施例中，可以通过对源语音进行子带分解，从而提取各子带的幅度分量和/或相位分量的特征，对各对应子带进行幅度抑制和/或相位修正，进而得到降噪语音。相类似地，可以通过对源语音进行子带分解，从而提取各子带的幅度分量的特征，对各对应子带进行幅度抑制，进而得到降噪语音，或者也可以通过对源语音进行子带分解，从而提取各子带的相位分量的特征，对各对应子带进行相位修正，进而得到降噪语音，或者也可以通过对源语音进行子带分解，从而提取各子带的幅度分量和相位分量的特征，对各对应子带进行幅度抑制和相位修正，进而得到降噪语音，本公开对此不作限制。
由于可以根据源语音的幅度分量和/或相位分量，对源语音中的噪声进行抑制，得到降噪语音，从而可以有效减少环境噪声的干扰，提高语音合成的效果。
步骤103，对降噪语音进行语音识别，以得到对应的文本信息。
其中，文本信息，为降噪语音中与文本相关的信息，文本信息能够表征降噪语音的语音文本内容。
在示例性实施例中，可以对降噪语音进行语音识别，得到后验概率图特征(Phonetic PosteriorGrams,PPG)，从而将后验概率图特征作为降噪语音的文本信息。其中，后验概率图特征的物理含义为每个声学片段所属的语言学单元的概率分布，用于表征降噪语音中至少一个声学片段属于设定语言学单元的概率，或者，文本信息也可以为音素序列等其它特征，本公开对此不作限制。
在示例性实施例中，可以预先训练得到语音识别模型，其中，语音识别模型的输入为待识别文本信息的降噪语音，输出为输入的降噪语音中的文本信息，从而通过将降噪语音输入经过训练的语音识别模型，可以得到降噪语音对应的文本信息。其中，语音识别模型，可以为任意类型的能够识别文本信息的模型，比如神经网络模型，本公开对此不作限制。
步骤104，将降噪语音的文本信息，以及设定的标签输入训练得到的声学模型，以得到与文本信息匹配的预测声学特征。
在示例性实施例中，可以预先训练声学模型，从而利用训练得到的声学模型，将降噪语音的文本信息，以及设定的标签转换为与文本信息匹配的预测声学特征。
其中，设定的标签指示了目标语音的音色特征，举例来说，以客服场景中通过真人客服的语音驱动虚拟数字人为例，假设虚拟数字人的形象与发音人A一致，在通过真人客服B的语音驱动虚拟数字人时，需要将真人客服B的降噪语音转换为对应音色与发音人A的音色一致的语音，从而设定的标签就指示了目标语音的音色应与发音人A的音色一致。需要说明的是，本公开实施例中的虚拟数字人的形象，并不是针对某一特定用户的形象，并不能反映出某一特定用户的个人信息。
其中，声学特征，为表征语音声学特性的物理量。在示例性实施例中，声学特征，可以为梅尔(mel)刻度的频谱包络特征，或者，也可以为基频特征等其它特征，本公开对此不作限制。
作为一种可能的实现方式，可以将源语音的发音人看作源发音人，将音色与设定的标签指示的音色一致的发音人看作目标发音人，从而与文本信息匹配的预测声学特征，即为降噪语音对应于目标发音人时的声学特征，表征降噪语音对应于目标发音人时的语音声学特性。其中，目标发音人，可以为预先设定的特定发音人。比如，可以为对应的语音与虚拟数字人的形象一致的发音人。由此，可以将源发音人的降噪语音中识别出的文本信息，以及设定的的标签，转换为与文本信息匹配的预测声学特征，其中，预测声学特征表征源发音人的降噪语音对应于目标发音人时的语音声学特性。
步骤105，根据预测声学特征，生成目标语音。
在示例性实施例中，得到与文本信息匹配的预测声学特征后，即可根据预测声学特征，生成目标语音，其中，目标语音对应的音色与设定的标签指示的音色一致，从而实现将降噪语音转换为对应音色与设定的标签指示的音色一致的目标语音。
可以理解的是，本公开实施例中生成的目标语音，可以用于驱动虚拟数字人，由于可以通过设定的标签，确保将目标语音与虚拟数字人形象一致，从而无论源语音来源于哪个发音人，均可以采用本公开实施例提供的语音合成方法，将降噪后的源语音转换为对应音色与虚拟数字人形象一致的目标语音，进而在利用目标语音驱动虚拟数字人时，可以保证虚拟数字人的语音与形象一致。
举例来说，以客服场景中通过真人客服的语音驱动虚拟数字人为例，假设虚拟数字人的形象与发音人A的语音一致，由于通过本公开实施例提供的语音合成方法，可以实现将降噪语音转换为对应音色与设定的标签指示的音色一致的目标语音，则无论源语音来源于发音人B还是C或其它任意发音人，均可以得到与发音人A的音色一致的目标语音，进而在利用目标语音驱动虚拟数字人时，可以保证虚拟数字人的语音与形象一致。
需要说明的是，本公开实施例提供的语音合成方法，由于是直接将从降噪后的源语音中提取的文本信息转换为与文本信息匹配的预测声学特征，进而根据预测声学特征，生成目标语音，目标语音中保留了源语音发音人的情感、语气等特征，从而通过本公开实施例生成的目标语音驱动虚拟数字人时，能够使虚拟数字人的语音富含源语音发音人的情感、语气等真人特征，从而给用户带来有温度的互动体验，提升虚拟数字人的趣味性和新鲜感。
本公开实施例提供的语音合成方法，通过获取源语音，实现根据源语音的幅度分量和/或相位分量，对源语音中的噪声进行抑制，以得到降噪语音，在对降噪语音进行语音识别，以得到对应的文本信息之后，将降噪语音的文本信息，以及设定的标签输入训练得到的声学模型，以得到与文本信息匹配的预测声学特征，从而根据预测声学特征，生成目标语音。由此，通过基于源语音的幅度分量和/或相位分量，对源语音进行降噪处理，减少了环境噪声的干扰。并且，由于可以将对降噪语音进行语音识别得到的后验概率图特征作为降噪语音的文本信息，从而提高了语音合成的效果。
通过上述分析可知，本公开实施例中，可以通过子带分解和特征提取得到降噪语音，下面结合图2，对通过子带分解和特征提取得到降噪语音的过程进一步说明。
图2是根据本公开第二实施例所提供的语音合成方法的流程示意图。如图2所示，该语音合成方法包括以下步骤：
步骤201，获取源语音。
其中，步骤201的具体实现过程及原理，可以参考上述实施例步骤101的描述，此处不再赘述。
步骤202，对源语音进行子带分解，以得到至少一个子带。
在本公开实施例中，可以通过对源语音进行子带分解的方式，得到至少一个子带。其中，至少一个子带中都包括多个分量，例如幅度分量、相位分量等。
步骤203，提取至少一个子带的幅度分量的特征以得到幅度特征，以及提取至少一个子带的相位分量的特征以得到相位特征。
在本公开实施例中，可以通过提取至少一个子带的幅度分量的特征，得到至少一个子带的幅度特性，以及可以通过提取至少一个子带的相位分量的特征，得到至少一个子带的相位特性。
在示例性实施例中，可以预先训练得到特征提取模型，其中，特征提取模型的输入为待提取子带的幅度分量和相位分量，输出为输入的子带的幅度分量和相位分量的幅度特征和相位特征，从而通过将至少一个子带的幅度分量和相位分量输入经过训练的特征提取模型，可以得到对应的幅度特征和相位特征。其中，特征提取模型，可以为任意类型的能够提取幅度特征和/或相位特征的模型，比如神经网络模型，本公开对此不作限制。
步骤204，根据至少一个子带的幅度特征确定至少一个子带的幅度抑制因子，以及根据至少一个子带的相位特征确定至少一个子带的相位修正因子。
在本公开实施例中，可以根据至少一个子带的幅度特征确定至少一个子带的幅度抑制因子，以及可以根据至少一个子带的相位特征确定至少一个子带的相位修正因子。
步骤205，采用至少一个子带的幅度抑制因子对源语音中对应子带进行幅度抑制，以及采用至少一个子带的相位修正因子对源语音中对应子带进行相位修正，以得到降噪语音。
在本公开实施例中，可以采用至少一个子带的幅度抑制因子对源语音中对应子带进行幅度抑制，以及可以采用至少一个子带的相位修正因子对源语音中对应子带进行相位修正，以得到降噪语音。
由此，通过获取源语音对应的至少一个子带对应的幅度特征和相位特征，增加了源语音中可获取到的特征信息量，进而基于幅度特征确定对应的幅度抑制因子，基于相位特征确定对应的相位修正因子，增加了噪音抑制的通道，实现了对源语音中背景噪声和混响噪声的去除，提高了语音的降噪效果。
步骤206，对降噪语音进行语音识别，以得到对应的文本信息。
步骤207，将降噪语音的文本信息，以及设定的标签输入训练得到的声学模型，以得到与文本信息匹配的预测声学特征。
步骤208，根据预测声学特征，生成目标语音。
需要说明的是，步骤206-208的具体实现过程及原理，可以参考上述实施例步骤103-105的描述，此处不再赘述。
本公开实施例提供的语音合成方法，通过对源语音进行子带分解，以得到至少一个子带，实现提取至少一个子带的幅度分量的特征以得到幅度特征，以及提取至少一个子带的相位分量的特征以得到相位特征，在根据至少一个子带的幅度特征确定至少一个子带的幅度抑制因子，以及根据至少一个子带的相位特征确定至少一个子带的相位修正因子之后，采用至少一个子带的幅度抑制因子对源语音中对应子带进行幅度抑制，以及采用至少一个子带的相位修正因子对源语音中对应子带进行相位修正，以得到降噪语音。由此，通过对源语音进行子带分解以及提取子带的幅度特征和相位特征，确定对应的幅度抑制因子和相位修正因子，实现基于子带的幅度抑制因子和相位修正因子对源语音进行幅度抑制和相位修正，从而对源语音中的噪音有抑制作用，减少环境噪声的干扰，提高语音合成的效果。
为了清楚说明图2所示实施例中，步骤204中根据至少一个子带的幅度特征确定至少一个子带的幅度抑制因子的过程，本实施例提供了图3所示的确定至少一个子带的幅度抑制因子的流程示意图，如图3所示，根据至少一个子带的幅度特征确定至少一个子带的幅度抑制因子可以包括以下步骤：
步骤301，将至少一个子带的幅度特征，输入预测模型的编码器，以得到至少一个子带的幅度隐状态。
在本公开实施例中，可以将至少一个子带的幅度特征输入到训练完成的预测模型中的编码器，从而得到对应的至少一个子带的幅度隐状态。这里，可以预先训练得到预测模型，其中，预测模型，可以为神经网络模型等，本公开对此不作限制。
步骤302，将至少一个子带的幅度隐状态输入预测模型的至少一注意力层，以采用注意力层中的残差模块对输入确定残差，并将残差输入频率注意力模块得到同一个子带的幅度隐状态在时间维度的幅度相关性，和/或将残差输入频率变换模块得到不同子带之间的幅度隐状态在频率维度的幅度相关性。
在本公开实施例中，可以将至少一个子带的幅度隐状态输入预测模型的至少一注意力层，以采用注意力层中的残差模块对输入的至少一个子带的幅度隐状态确定对应的残差，并将残差输入频率注意力模块得到同一个子带的幅度隐状态在时间维度的幅度相关性，和/或将残差输入频率变换模块得到不同子带之间的幅度隐状态在频率维度的幅度相关性。也就是说，可以将残差输入频率注意力模块得到同一个子带的幅度隐状态在时间维度的幅度相关性，或者也可以将残差输入频率变换模块得到不同子带之间的幅度隐状态在频率维度的幅度相关性，或者也可以将残差输入频率注意力模块得到同一个子带的幅度隐状态在时间维度的幅度相关性，以及将残差输入频率变换模块得到不同子带之间的幅度隐状态在频率维度的幅度相关性，本公开对此不作限制。
需要说明的是，所述同一个子带的幅度隐状态在时间维度的幅度相关性是指同一个子带的幅度隐状态在连续的不同时间内的幅度相关性，可以理解为同一个子带的幅度隐状态的幅度相关性随时间变化而变化。所述不同子带之间的幅度隐状态在频率维度的幅度相关性是指不同子带之间的幅度隐状态在相同频率幅度下的幅度相关性，可以理解为在相同频率的情况下子带的幅度隐状态的幅度相关性随着子带的不同而有所不同。
步骤303，将时间维度的幅度相关性和/或频率维度的幅度相关性，以及至少一个子带的幅度隐状态，输入预测模型的解码器进行解码，以得到至少一个子带的幅度抑制因子。
在本公开实施例中，可以将步骤302得到的时间维度的幅度相关性和/或频率维度的幅度相关性，以及步骤301得到的至少一个子带的幅度隐状态，输入到预测模型的解码器进行解码，从而得到至少一个子带的幅度抑制因子。
综上，通过将至少一个子带的幅度特征，输入预测模型的编码器，以得到至少一个子带的幅度隐状态，以及将至少一个子带的幅度隐状态输入预测模型的至少一注意力层，以采用注意力层中的残差模块对输入确定残差，并将残差输入频率注意力模块得到同一个子带的幅度隐状态在时间维度的幅度相关性，和/或将残差输入频率变换模块得到不同子带之间的幅度隐状态在频率维度的幅度相关性，从而将时间维度的幅度相关性和/或频率维度的幅度相关性，以及至少一个子带的幅度隐状态，输入预测模型的解码器进行解码，以得到至少一个子带的幅度抑制因子。由此，通过获取源语音对应的至少一个子带对应的幅度特征，增加了源语音中可获取到的特征信息量，进而基于幅度特征确定对应的幅度抑制因子，增加了噪音抑制的通道，实现了对源语音中背景噪声和混响噪声的去除，提高了语音的降噪效果。
为了清楚说明图2所示实施例中，步骤204中根据至少一个子带的相位特征确定至少一个子带的相位修正因子的过程，本实施例提供了图4所示的确定至少一个子带的相位修正因子的流程示意图，如图4所示，根据至少一个子带的相位特征确定至少一个子带的相位修正因子可以包括以下步骤：
步骤401，将至少一个子带的相位特征，输入预测模型的编码器，以得到至少一个子带的相位隐状态。
在本公开实施例中，可以将至少一个子带的相位特征输入到训练完成的预测模型中的编码器，从而得到对应的至少一个子带的相位隐状态。这里，可以预先训练得到预测模型，其中，预测模型，可以为神经网络模型等，本公开对此不作限制。
步骤402，将至少一个子带的相位隐状态输入预测模型的至少一注意力层，以采用注意力层中的残差模块对输入确定残差，并将残差输入频率注意力模块得到同一个子带的相位隐状态在时间维度的相位相关性，和/或将残差输入频率变换模块得到不同子带之间的相位隐状态在频率维度的相位相关性。
在本公开实施例中，可以将至少一个子带的相位隐状态输入预测模型的至少一注意力层，以采用注意力层中的残差模块对输入的至少一个子带的相位隐状态确定对应的残差，并将残差输入频率注意力模块得到同一个子带的相位隐状态在时间维度的相位相关性，和/或将残差输入频率变换模块得到不同子带之间的相位隐状态在频率维度的相位相关性。也就是说，可以将残差输入频率注意力模块得到同一个子带的相位隐状态在时间维度的相位相关性，或者也可以将残差输入频率变换模块得到不同子带之间的相位隐状态在频率维度的相位相关性，或者也可以将残差输入频率注意力模块得到同一个子带的相位隐状态在时间维度的相位相关性，以及将残差输入频率变换模块得到不同子带之间的相位隐状态在频率维度的相位相关性，本公开对此不作限制。
需要说明的是，所述同一个子带的相位隐状态在时间维度的相位相关性是指同一个子带的相位隐状态在连续的不同时间内的相位相关性，可以理解为同一个子带的相位隐状态的相位相关性随时间变化而变化。所述不同子带之间的相位隐状态在频率维度的相位相关性是指不同子带之间的相位隐状态在相同频率幅度下的相位相关性，可以理解为在相同频率的情况下子带的相位隐状态的相位相关性随着子带的不同而有所不同。
步骤403，将时间维度的相位相关性和/或频率维度的相位相关性，以及至少一个子带的相位隐状态，输入预测模型的解码器进行解码，以得到至少一个子带的相位修正因子。
在本公开实施例中，可以将步骤402得到的时间维度的相位相关性和/或频率维度的相位相关性，以及步骤401得到的至少一个子带的相位隐状态，输入到预测模型的解码器进行解码，从而得到至少一个子带的相位修正因子。
综上，通过将至少一个子带的相位特征，输入预测模型的编码器，以得到至少一个子带的相位隐状态，以及将至少一个子带的相位隐状态输入预测模型的至少一注意力层，以采用注意力层中的残差模块对输入确定残差，并将残差输入频率注意力模块得到同一个子带的相位隐状态在时间维度的相位相关性，和/或将残差输入频率变换模块得到不同子带之间的相位隐状态在频率维度的相位相关性，从而将时间维度的相位相关性和/或频率维度的相位相关性，以及至少一个子带的相位隐状态，输入预测模型的解码器进行解码，以得到至少一个子带的相位修正因子。由此，通过获取源语音对应的至少一个子带对应的相位特征，增加了源语音中可获取到的特征信息量，进而基于相位特征确定对应的相位修正因子，增加了噪音抑制的通道，实现了对源语音中背景噪声和混响噪声的去除，提高了语音的降噪效果。
为了更加清楚说明上述降噪处理过程，现结合模型结构图进行举例说明。
参考图5，图5是一种场景下的降噪处理的原理示意图，如图5所示，将带噪语音501进行子带分解502，得到至少一个子带，通过特征提取模型503提取至少一个子带的幅度分量的特征以得到幅度特征，以及提取至少一个子带的相位分量的特征以得到相位特征，并将至少一个子带的幅度特征，输入预测模型的编码器504，以得到至少一个子带的幅度隐状态，以及将至少一个子带的相位特征，输入预测模型的编码器504，以得到至少一个子带的相位隐状态，从而将至少一个子带的幅度隐状态输入预测模型的至少一注意力层，以采用注意力层中的残差模块505对输入的至少一个子带的幅度隐状态确定对应的残差，并将残差输入频率注意力模块506得到同一个子带的幅度隐状态在时间维度的幅度相关性，和/或将残差输入频率变换模块507得到不同子带之间的幅度隐状态在频率维度的幅度相关性，以及将至少一个子带的相位隐状态输入预测模型的至少一注意力层，以采用注意力层中的残差模块505对输入的至少一个子带的相位隐状态确定对应的残差，并将残差输入频率注意力模块506得到同一个子带的相位隐状态在时间维度的相位相关性，和/或将残差输入频率变换模块507得到不同子带之间的相位隐状态在频率维度的相位相关性，进而将时间维度的幅度相关性和/或频率维度的幅度相关性，和至少一个子带的幅度隐状态，输入预测模型的解码器508进行解码，以得到至少一个子带的幅度抑制因子，以及将时间维度的相位相关性和/或频率维度的相位相关性，和至少一个子带的相位隐状态，输入预测模型的解码器508进行解码，以得到至少一个子带的相位修正因子，并采用至少一个子带的幅度抑制因子对带噪语音中对应子带进行幅度抑制，以及采用至少一个子带的相位修正因子对带噪语音中对应子带进行相位修正，以得到降噪语音509。
综上，通过对带噪语音进行子带分解和特征提取，以得到至少一个子带的幅度特征和至少一个子带的相位特征，从而根据至少一个子带的幅度特征确定至少一个子带的幅度抑制因子，以及根据至少一个子带的相位特征确定至少一个子带的相位修正因子，进而采用至少一个子带的幅度抑制因子对带噪语音中对应子带进行幅度抑制，以及采用至少一个子带的相位修正因子对带噪语音中对应子带进行相位修正，以得到降噪语音。由此，基于子带的幅度抑制因子和相位修正因子对带噪语音进行幅度抑制和相位修正，从而抑制带噪语音中的噪音，减少环境噪声的干扰。
下面结合图6，对本公开提供的语音合成装置进行说明。
图6是根据本公开第三实施例所提供的语音合成装置的结构示意图。
如图6所示，该语音合成装置60包括：获取模块61、降噪模块62、识别模块63、处理模块64和生成模块65。
获取模块61，用于获取源语音；
降噪模块62，用于根据所述源语音的幅度分量和/或相位分量，对所述源语音中的噪声进行抑制，以得到降噪语音；
识别模块63，用于对所述降噪语音进行语音识别，以得到对应的文本信息；
处理模块64，用于将所述降噪语音的文本信息，以及设定的标签输入训练得到的声学模型，以得到与所述文本信息匹配的预测声学特征；
生成模块65，用于根据所述预测声学特征，生成目标语音。
在示例性实施例中，降噪模块62，包括：
分解单元621，用于对所述源语音进行子带分解，以得到至少一个子带；
提取单元622，用于提取所述至少一个子带的幅度分量的特征以得到幅度特征，以及提取所述至少一个子带的相位分量的特征以得到相位特征；
确定单元623，用于根据所述至少一个子带的幅度特征确定所述至少一个子带的幅度抑制因子，以及根据所述至少一个子带的相位特征确定所述至少一个子带的相位修正因子；
第一处理单元624，用于采用所述至少一个子带的幅度抑制因子对所述源语音中对应子带进行幅度抑制，以及采用所述至少一个子带的相位修正因子对所述源语音中对应子带进行相位修正，以得到降噪语音。
在示例性实施例中，确定单元623，具体用于：
将所述至少一个子带的幅度特征，输入预测模型的编码器，以得到所述至少一个子带的幅度隐状态；
将所述至少一个子带的幅度隐状态输入所述预测模型的至少一注意力层，以采用所述注意力层中的残差模块对输入确定残差，并将所述残差输入频率注意力模块得到所述同一个子带的幅度隐状态在时间维度的幅度相关性，和/或将所述残差输入频率变换模块得到不同子带之间的幅度隐状态在频率维度的幅度相关性；
将所述时间维度的幅度相关性和/或所述频率维度的幅度相关性，以及所述至少一个子带的幅度隐状态，输入所述预测模型的解码器进行解码，以得到所述至少一个子带的幅度抑制因子。
在示例性实施例中，确定单元623，具体用于：
将所述至少一个子带的相位特征，输入预测模型的编码器，以得到所述至少一个子带的相位隐状态；
将所述至少一个子带的相位隐状态输入所述预测模型的至少一注意力层，以采用所述注意力层中的残差模块对输入确定残差，并将所述残差输入频率注意力模块得到所述同一个子带的相位隐状态在时间维度的相位相关性，和/或将所述残差输入频率变换模块得到不同子带之间的相位隐状态在频率维度的相位相关性；
将所述时间维度的相位相关性和/或所述频率维度的相位相关性，以及所述至少一个子带的相位隐状态，输入所述预测模型的解码器进行解码，以得到所述至少一个子带的相位修正因子。
在示例性实施例中，识别模块63，包括：
识别单元631，用于对所述降噪语音进行语音识别，以得到后验概率图特征；其中，所述后验概率图特征，用于表征所述降噪语音中至少一个声学片段属于设定语言学单元的概率；
第二处理单元632，用于将所述后验概率图特征作为所述降噪语音的文本信息。
本公开实施例提供的语音合成装置，通过获取源语音，实现根据源语音的幅度分量和/或相位分量，对源语音中的噪声进行抑制，以得到降噪语音，在对降噪语音进行语音识别，以得到对应的文本信息之后，将降噪语音的文本信息，以及设定的标签输入训练得到的声学模型，以得到与文本信息匹配的预测声学特征，从而根据预测声学特征，生成目标语音。由此，通过基于源语音的幅度分量和/或相位分量，对源语音进行降噪处理，减少环境噪声的干扰，提高语音合成的效果。
根据本公开的实施例，本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图7示出了可以用来实施本公开的实施例的示例电子设备700的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图7所示，设备700包括计算单元701，其可以根据存储在ROM(Read-OnlyMemory，只读存储器)702中的计算机程序或者从存储单元708加载到RAM(Random AccessMemory，随机访问/存取存储器)703中的计算机程序，来执行各种适当的动作和处理。在RAM703中，还可存储设备700操作所需的各种程序和数据。计算单元701、ROM 702以及RAM 703通过总线704彼此相连。I/O(Input/Output，输入/输出)接口705也连接至总线704。
设备700中的多个部件连接至I/O接口705，包括：输入单元706，例如键盘、鼠标等；输出单元707，例如各种类型的显示器、扬声器等；存储单元708，例如磁盘、光盘等；以及通信单元709，例如网卡、调制解调器、无线通信收发机等。通信单元709允许设备700通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元701可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元701的一些示例包括但不限于CPU(Central Processing Unit，中央处理单元)、GPU(Graphic Processing Units，图形处理单元)、各种专用的AI(Artificial Intelligence，人工智能)计算芯片、各种运行机器学习模型算法的计算单元、DSP(Digital SignalProcessor，数字信号处理器)、以及任何适当的处理器、控制器、微控制器等。计算单元701执行上文所描述的各个方法和处理，例如上述语音合成方法。例如，在一些实施例中，上述语音合成方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元708。在一些实施例中，计算机程序的部分或者全部可以经由ROM 702和/或通信单元709而被载入和/或安装到设备700上。当计算机程序加载到RAM 703并由计算单元701执行时，可以执行上文描述的语音合成方法的一个或多个步骤。备选地，在其他实施例中，计算单元701可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行上述语音合成方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、FPGA(Field Programmable Gate Array，现场可编程门阵列)、ASIC(Application-Specific Integrated Circuit，专用集成电路)、ASSP(Application Specific StandardProduct，专用标准产品)、SOC(System On Chip，芯片上系统的系统)、CPLD(ComplexProgrammable Logic Device，复杂可编程逻辑设备)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、RAM、ROM、EPROM(Electrically Programmable Read-Only-Memory，可擦除可编程只读存储器)或快闪存储器、光纤、CD-ROM(Compact Disc Read-Only Memory，便捷式紧凑盘只读存储器)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(Cathode-Ray Tube，阴极射线管)或者LCD(Liquid Crystal Display，液晶显示器)监视器；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：LAN(LocalArea Network，局域网)、WAN(Wide Area Network，广域网)、互联网和区块链网络。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，又称为云计算服务器或云主机，是云计算服务体系中的一项主机产品，以解决了传统物理主机与VPS服务("Virtual Private Server"，或简称"VPS")中，存在的管理难度大，业务扩展性弱的缺陷。服务器也可以为分布式系统的服务器，或者是结合了区块链的服务器。
其中，需要说明的是，人工智能是研究使计算机来模拟人的某些思维过程和智能行为(如学习、推理、思考、规划等)的学科，既有硬件层面的技术也有软件层面的技术。人工智能硬件技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理等技术；人工智能软件技术主要包括计算机视觉技术、语音识别技术、自然语言处理技术以及机器学习/深度学习、大数据处理技术、知识图谱技术等几大方向。
应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。
上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。

Claims (13)

1.一种语音合成方法，包括：
获取源语音；
根据所述源语音的幅度分量和/或相位分量，对所述源语音中的噪声进行抑制，以得到降噪语音；
对所述降噪语音进行语音识别，以得到对应的文本信息；
将所述降噪语音的文本信息，以及设定的标签输入训练得到的声学模型，以得到与所述文本信息匹配的预测声学特征；
根据所述预测声学特征，生成目标语音。
2.根据权利要求1所述的方法，其中，所述根据所述源语音的幅度分量和/或相位分量，对所述源语音中的噪声进行抑制，以得到降噪语音，包括：
对所述源语音进行子带分解，以得到至少一个子带；
提取所述至少一个子带的幅度分量的特征以得到幅度特征，以及提取所述至少一个子带的相位分量的特征以得到相位特征；
根据所述至少一个子带的幅度特征确定所述至少一个子带的幅度抑制因子，以及根据所述至少一个子带的相位特征确定所述至少一个子带的相位修正因子；
采用所述至少一个子带的幅度抑制因子对所述源语音中对应子带进行幅度抑制，以及采用所述至少一个子带的相位修正因子对所述源语音中对应子带进行相位修正，以得到降噪语音。
3.根据权利要求2所述的方法，其中，所述根据所述至少一个子带的幅度特征确定所述至少一个子带的幅度抑制因子，包括：
将所述至少一个子带的幅度特征，输入预测模型的编码器，以得到所述至少一个子带的幅度隐状态；
将所述至少一个子带的幅度隐状态输入所述预测模型的至少一注意力层，以采用所述注意力层中的残差模块对输入确定残差，并将所述残差输入频率注意力模块得到所述同一个子带的幅度隐状态在时间维度的幅度相关性，和/或将所述残差输入频率变换模块得到不同子带之间的幅度隐状态在频率维度的幅度相关性；
将所述时间维度的幅度相关性和/或所述频率维度的幅度相关性，以及所述至少一个子带的幅度隐状态，输入所述预测模型的解码器进行解码，以得到所述至少一个子带的幅度抑制因子。
4.根据权利要求2所述的方法，其中，所述根据所述至少一个子带的相位特征确定所述至少一个子带的相位修正因子，包括：
将所述至少一个子带的相位特征，输入预测模型的编码器，以得到所述至少一个子带的相位隐状态；
将所述至少一个子带的相位隐状态输入所述预测模型的至少一注意力层，以采用所述注意力层中的残差模块对输入确定残差，并将所述残差输入频率注意力模块得到所述同一个子带的相位隐状态在时间维度的相位相关性，和/或将所述残差输入频率变换模块得到不同子带之间的相位隐状态在频率维度的相位相关性；
将所述时间维度的相位相关性和/或所述频率维度的相位相关性，以及所述至少一个子带的相位隐状态，输入所述预测模型的解码器进行解码，以得到所述至少一个子带的相位修正因子。
5.根据权利要求1-4任一项所述的方法，其中，所述对所述降噪语音进行语音识别，以得到对应的文本信息，包括：
对所述降噪语音进行语音识别，以得到后验概率图特征；其中，所述后验概率图特征，用于表征所述降噪语音中至少一个声学片段属于设定语言学单元的概率；
将所述后验概率图特征作为所述降噪语音的文本信息。
6.一种语音合成装置，包括：
获取模块，用于获取源语音；
降噪模块，用于根据所述源语音的幅度分量和/或相位分量，对所述源语音中的噪声进行抑制，以得到降噪语音；
识别模块，用于对所述降噪语音进行语音识别，以得到对应的文本信息；
处理模块，用于将所述降噪语音的文本信息，以及设定的标签输入训练得到的声学模型，以得到与所述文本信息匹配的预测声学特征；
生成模块，用于根据所述预测声学特征，生成目标语音。
7.根据权利要求6所述的装置，其中，所述降噪模块，包括：
分解单元，用于对所述源语音进行子带分解，以得到至少一个子带；
提取单元，用于提取所述至少一个子带的幅度分量的特征以得到幅度特征，以及提取所述至少一个子带的相位分量的特征以得到相位特征；
确定单元，用于根据所述至少一个子带的幅度特征确定所述至少一个子带的幅度抑制因子，以及根据所述至少一个子带的相位特征确定所述至少一个子带的相位修正因子；
第一处理单元，用于采用所述至少一个子带的幅度抑制因子对所述源语音中对应子带进行幅度抑制，以及采用所述至少一个子带的相位修正因子对所述源语音中对应子带进行相位修正，以得到降噪语音。
8.根据权利要求7所述的装置，其中，所述确定单元，用于：
将所述至少一个子带的幅度特征，输入预测模型的编码器，以得到所述至少一个子带的幅度隐状态；
将所述至少一个子带的幅度隐状态输入所述预测模型的至少一注意力层，以采用所述注意力层中的残差模块对输入确定残差，并将所述残差输入频率注意力模块得到所述同一个子带的幅度隐状态在时间维度的幅度相关性，和/或将所述残差输入频率变换模块得到不同子带之间的幅度隐状态在频率维度的幅度相关性；
将所述时间维度的幅度相关性和/或所述频率维度的幅度相关性，以及所述至少一个子带的幅度隐状态，输入所述预测模型的解码器进行解码，以得到所述至少一个子带的幅度抑制因子。
9.根据权利要求7所述的装置，其中，所述确定单元，用于：
将所述至少一个子带的相位特征，输入预测模型的编码器，以得到所述至少一个子带的相位隐状态；
将所述至少一个子带的相位隐状态输入所述预测模型的至少一注意力层，以采用所述注意力层中的残差模块对输入确定残差，并将所述残差输入频率注意力模块得到所述同一个子带的相位隐状态在时间维度的相位相关性，和/或将所述残差输入频率变换模块得到不同子带之间的相位隐状态在频率维度的相位相关性；
将所述时间维度的相位相关性和/或所述频率维度的相位相关性，以及所述至少一个子带的相位隐状态，输入所述预测模型的解码器进行解码，以得到所述至少一个子带的相位修正因子。
10.根据权利要求6-9任一项所述的装置，其中，所述识别模块，包括：
识别单元，用于对所述降噪语音进行语音识别，以得到后验概率图特征；其中，所述后验概率图特征，用于表征所述降噪语音中至少一个声学片段属于设定语言学单元的概率；
第二处理单元，用于将所述后验概率图特征作为所述降噪语音的文本信息。
11.一种电子设备，包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-5中任一项所述的方法。
12.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行权利要求1-5中任一项所述的方法。
13.一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现权利要求1-5中任一项所述的方法。
CN202111558284.2A 2021-12-17 2021-12-17 语音合成方法、装置、电子设备和存储介质 Active CN114360559B (zh)

Priority Applications (2)

Application Number Priority Date Filing Date Title
CN202111558284.2A CN114360559B (zh) 2021-12-17 2021-12-17 语音合成方法、装置、电子设备和存储介质
US18/057,363 US20230081543A1 (en) 2021-12-17 2022-11-21 Method for synthetizing speech and electronic device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111558284.2A CN114360559B (zh) 2021-12-17 2021-12-17 语音合成方法、装置、电子设备和存储介质

Publications (2)

Publication Number Publication Date
CN114360559A true CN114360559A (zh) 2022-04-15
CN114360559B CN114360559B (zh) 2022-09-27

Family

ID=81099960

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111558284.2A Active CN114360559B (zh) 2021-12-17 2021-12-17 语音合成方法、装置、电子设备和存储介质

Country Status (2)

Country Link
US (1) US20230081543A1 (zh)
CN (1) CN114360559B (zh)

Citations (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080126084A1 (en) * 2006-11-28 2008-05-29 Samsung Electroncis Co., Ltd. Method, apparatus and system for encoding and decoding broadband voice signal
JP2008263571A (ja) * 2007-04-12 2008-10-30 Tokyo Institute Of Technology 局部発振位相雑音抑圧送受信機
CN101300623A (zh) * 2005-09-02 2008-11-05 日本电气株式会社 用于抑制噪声的方法、设备和计算机程序
CN102577384A (zh) * 2009-10-23 2012-07-11 三星电子株式会社 用相位信息和残差信息进行编码/解码的设备和方法
JP2014041241A (ja) * 2012-08-22 2014-03-06 Pioneer Electronic Corp タイムスケーリング方法、ピッチシフト方法、オーディオデータ処理装置およびプログラム
CN110611871A (zh) * 2019-09-09 2019-12-24 惠州市锦好医疗科技股份有限公司 一种数字助听器的啸叫抑制方法、系统及专用dsp
CN111583903A (zh) * 2020-04-28 2020-08-25 北京字节跳动网络技术有限公司 语音合成方法、声码器训练方法、装置、介质及电子设备
CN111968658A (zh) * 2020-06-30 2020-11-20 北京百度网讯科技有限公司 语音信号的增强方法、装置、电子设备和存储介质
CN112567458A (zh) * 2018-08-16 2021-03-26 三菱电机株式会社 音频信号处理系统、音频信号处理方法及计算机可读存储介质
CN112889109A (zh) * 2019-09-30 2021-06-01 深圳市韶音科技有限公司 使用子带降噪技术降噪的系统和方法
CN113053352A (zh) * 2021-03-09 2021-06-29 深圳软银思创科技有限公司 基于大数据平台的语音合成方法、装置、设备及存储介质
CN113223545A (zh) * 2020-02-05 2021-08-06 字节跳动有限公司 一种语音降噪方法、装置、终端及存储介质
CN113450759A (zh) * 2021-06-22 2021-09-28 北京百度网讯科技有限公司 语音生成方法、装置、电子设备以及存储介质
CN113450765A (zh) * 2021-07-29 2021-09-28 平安科技（深圳）有限公司 语音合成方法、装置、设备及存储介质
CN113539232A (zh) * 2021-07-10 2021-10-22 东南大学 一种基于慕课语音数据集的语音合成方法

Patent Citations (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101300623A (zh) * 2005-09-02 2008-11-05 日本电气株式会社 用于抑制噪声的方法、设备和计算机程序
US20080126084A1 (en) * 2006-11-28 2008-05-29 Samsung Electroncis Co., Ltd. Method, apparatus and system for encoding and decoding broadband voice signal
JP2008263571A (ja) * 2007-04-12 2008-10-30 Tokyo Institute Of Technology 局部発振位相雑音抑圧送受信機
CN102577384A (zh) * 2009-10-23 2012-07-11 三星电子株式会社 用相位信息和残差信息进行编码/解码的设备和方法
JP2014041241A (ja) * 2012-08-22 2014-03-06 Pioneer Electronic Corp タイムスケーリング方法、ピッチシフト方法、オーディオデータ処理装置およびプログラム
CN112567458A (zh) * 2018-08-16 2021-03-26 三菱电机株式会社 音频信号处理系统、音频信号处理方法及计算机可读存储介质
CN110611871A (zh) * 2019-09-09 2019-12-24 惠州市锦好医疗科技股份有限公司 一种数字助听器的啸叫抑制方法、系统及专用dsp
CN112889109A (zh) * 2019-09-30 2021-06-01 深圳市韶音科技有限公司 使用子带降噪技术降噪的系统和方法
CN113223545A (zh) * 2020-02-05 2021-08-06 字节跳动有限公司 一种语音降噪方法、装置、终端及存储介质
CN111583903A (zh) * 2020-04-28 2020-08-25 北京字节跳动网络技术有限公司 语音合成方法、声码器训练方法、装置、介质及电子设备
CN111968658A (zh) * 2020-06-30 2020-11-20 北京百度网讯科技有限公司 语音信号的增强方法、装置、电子设备和存储介质
CN113053352A (zh) * 2021-03-09 2021-06-29 深圳软银思创科技有限公司 基于大数据平台的语音合成方法、装置、设备及存储介质
CN113450759A (zh) * 2021-06-22 2021-09-28 北京百度网讯科技有限公司 语音生成方法、装置、电子设备以及存储介质
CN113539232A (zh) * 2021-07-10 2021-10-22 东南大学 一种基于慕课语音数据集的语音合成方法
CN113450765A (zh) * 2021-07-29 2021-09-28 平安科技（深圳）有限公司 语音合成方法、装置、设备及存储介质

Also Published As

Publication number Publication date
US20230081543A1 (en) 2023-03-16
CN114360559B (zh) 2022-09-27

Similar Documents

Publication Publication Date Title
CN110287283B (zh) 意图模型训练方法、意图识别方法、装置、设备及介质
CN107610709B (zh) 一种训练声纹识别模型的方法及系统
CN107481717B (zh) 一种声学模型训练方法及系统
CN108428446A (zh) 语音识别方法和装置
CN114360557B (zh) 语音音色转换方法、模型训练方法、装置、设备和介质
CN112562691A (zh) 一种声纹识别的方法、装置、计算机设备及存储介质
CN114141228B (zh) 语音合成模型的训练方法、语音合成方法和装置
CN113450759A (zh) 语音生成方法、装置、电子设备以及存储介质
CN115309877B (zh) 对话生成方法、对话模型训练方法及装置
CN114974280A (zh) 音频降噪模型的训练方法、音频降噪的方法及装置
CN114495977B (zh) 语音翻译和模型训练方法、装置、电子设备以及存储介质
CN110992940B (zh) 语音交互的方法、装置、设备和计算机可读存储介质
CN114330371A (zh) 基于提示学习的会话意图识别方法、装置和电子设备
CN114171002A (zh) 语音识别方法、装置、电子设备和存储介质
KR102220964B1 (ko) 오디오 인식을 위한 방법 및 디바이스
CN113658586A (zh) 语音识别模型的训练方法、语音交互方法及装置
CN115240696B (zh) 一种语音识别方法及可读存储介质
CN114360559B (zh) 语音合成方法、装置、电子设备和存储介质
CN113782005B (zh) 语音识别方法及装置、存储介质及电子设备
CN114783428A (zh) 语音翻译、模型训练方法、装置、设备及存储介质
CN113920987A (zh) 一种语音识别的方法、装置、设备及存储介质
CN113889073A (zh) 语音处理方法、装置、电子设备和存储介质
CN113436617A (zh) 语音断句方法、装置、计算机设备及存储介质
CN113553413A (zh) 对话状态的生成方法、装置、电子设备和存储介质
CN114360558B (zh) 语音转换方法、语音转换模型的生成方法及其装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant