CN113744368A - 动画合成方法、装置、电子设备及存储介质 - Google Patents

动画合成方法、装置、电子设备及存储介质 Download PDF

Info

Publication number
CN113744368A
CN113744368A CN202110925364.0A CN202110925364A CN113744368A CN 113744368 A CN113744368 A CN 113744368A CN 202110925364 A CN202110925364 A CN 202110925364A CN 113744368 A CN113744368 A CN 113744368A
Authority
CN
China
Prior art keywords
stream
audio
voice
frame
animation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202110925364.0A
Other languages
English (en)
Inventor
杨少雄
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Baidu Netcom Science and Technology Co Ltd
Original Assignee
Beijing Baidu Netcom Science and Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Baidu Netcom Science and Technology Co Ltd filed Critical Beijing Baidu Netcom Science and Technology Co Ltd
Priority to CN202110925364.0A priority Critical patent/CN113744368A/zh
Publication of CN113744368A publication Critical patent/CN113744368A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T13/00—Animation
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L13/00—Speech synthesis; Text to speech systems
    • G10L13/02—Methods for producing synthetic speech; Speech synthesisers
    • G10L13/04—Details of speech synthesis systems, e.g. synthesiser structure or memory management
    • G10L13/047—Architecture of speech synthesisers
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L13/00—Speech synthesis; Text to speech systems
    • G10L13/08—Text analysis or generation of parameters for speech synthesis out of text, e.g. grapheme to phoneme translation, prosody generation or stress or intonation determination
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L21/00—Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
    • G10L21/06—Transformation of speech into a non-audible representation, e.g. speech visualisation or speech processing for tactile aids
    • G10L21/10—Transforming into visible information
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/03—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters
    • G10L25/18—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters the extracted parameters being spectral information of each sub-band
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/044—Recurrent networks, e.g. Hopfield networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L13/00—Speech synthesis; Text to speech systems
    • G10L13/08—Text analysis or generation of parameters for speech synthesis out of text, e.g. grapheme to phoneme translation, prosody generation or stress or intonation determination
    • G10L2013/083—Special characters, e.g. punctuation marks
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L21/00—Speech or voice signal processing techniques to produce another audible or non-audible signal, e.g. visual or tactile, in order to modify its quality or its intelligibility
    • G10L21/06—Transformation of speech into a non-audible representation, e.g. speech visualisation or speech processing for tactile aids
    • G10L21/10—Transforming into visible information
    • G10L2021/105—Synthesis of the lips movements from speech, e.g. for talking heads

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Acoustics & Sound (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Human Computer Interaction (AREA)
  • Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Data Mining & Analysis (AREA)
  • Quality & Reliability (AREA)
  • Processing Or Creating Images (AREA)

Abstract

本公开提供了动画合成方法、装置、电子设备及存储介质，自然语言处理、语音技术、计算机视觉和虚拟/增强现实技术领域。具体实现方案为：获取待处理的音频流以及拼接语音流；拼接语音流为对文本中字符的语音片段拼接得到；确定音频流中音频帧与拼接语音流中语音帧之间的对应关系；根据字符的语音片段中语音帧对应的音频帧，确定音频流中字符对应的发音时间段；根据文本中字符对应的发音时间段，以及字符对应的动画帧序列，生成音频流对应的动画视频。由此，能够实现音频流与拼接语音流的对齐，可使动画视频和音频流具有很强的一致性，不存在帧间抖动问题，进而提高了动画视频的真实性和泛化能力。

Description

动画合成方法、装置、电子设备及存储介质
技术领域
本公开人工智能技术领域，尤其涉及自然语言处理、语音技术、计算机视觉和虚拟/增强现实技术领域，具体涉及动画合成方法、装置、电子设备及存储介质。
背景技术
目前，随着计算机动画技术的不断进步，音频驱动的虚拟形象人脸表情动画得到了发展，其中，虚拟形象人脸表情动画，即输入音频生成与音频流相符的虚拟主播人脸表情动画。
发明内容
本公开提供了一种用于动画合成方法、装置、电子设备及存储介质。
根据本公开的一方面，提供了一种动画合成方法，包括：获取待处理的音频流以及拼接语音流，其中，所述音频流以及所述拼接语音流对应相同的文本；所述拼接语音流为对所述文本中字符的语音片段拼接得到；确定所述音频流中音频帧与所述拼接语音流中语音帧之间的对应关系，其中，在所述对应关系下所述音频流与所述拼接语音流之间的匹配度满足预设匹配度条件；根据所述字符的语音片段中语音帧对应的音频帧，确定所述音频流中所述字符对应的发音时间段；根据所述文本中字符对应的发音时间段，以及所述字符对应的动画帧序列，生成所述音频流对应的动画视频。
根据本公开的另一方面，提供了一种一种动画合成装置，包括：获取模块，用于获取待处理的音频流以及拼接语音流，其中，所述音频流以及所述拼接语音流对应相同的文本；所述拼接语音流为对所述文本中字符的语音片段拼接得到；第一确定模块，用于确定所述音频流中音频帧与所述拼接语音流中语音帧之间的对应关系，其中，在所述对应关系下所述音频流与所述拼接语音流之间的匹配度满足预设匹配度条件；第二确定模块，用于根据所述字符的语音片段中语音帧对应的音频帧，确定所述音频流中所述字符对应的发音时间段；生成模块，用于根据所述文本中字符对应的发音时间段，以及所述字符对应的动画帧序列，生成所述音频流对应的动画视频。
根据本公开的另一方面，提供了一种电子设备，包括：至少一个处理器；以及与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行本公开第一方面实施例所述的方法。
根据本公开的另一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行本公开第一方面实施例所述的方法。
根据本公开的另一方面，提供了一种计算机程序产品，所述计算机程序在被处理器执行时实现本公开第一方面实施例所述的方法。
应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案，不构成对本公开的限定。其中：
图1是根据本公开第一实施例的示意图；
图2是根据本公开第二实施例的示意图；
图3是根据本公开第三实施例的示意图；
图4是根据本公开第四实施例的示意图；
图5是根据本公开第五实施例的示意图；
图6是根据本公开实施例的动画合成的示意图；
图7是根据本公开第六实施例的示意图；
图8是用来实现本公开实施例的动画合成方法的电子设备的框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明，其中包括本公开实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本公开的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
目前，随着计算机动画技术的不断进步，音频驱动的虚拟形象人脸表情动画得到了发展，其中，虚拟形象人脸表情动画，即输入音频生成与音频流相符的虚拟主播人脸表情动画。
相关技术中，对音频序列和人脸表情序列进行序列到序列建模，然后基于循环神经网络的方法学习从音频到人脸表情空间的一个映射关系。但是上述方法存在以下问题，一是生成的人脸表情帧间抖动比较明显，二是生成的人脸表情比较虚假，三是音频和口型不同步，四是由于音频和表情两个空间存在非确定性映射关系，模型比较难收敛，五是在训练集之外的测试集上效果表现很差，泛化能力比较弱。
针对上述问题，本公开提出一种动画合成方法、装置、电子设备及存储介质。
图1是根据本公开第一实施例的示意图，需要说明的是，本公开实施例的动画合成方法可应用于本公开实施例的动画合成装置，该装置可被配置于电子设备中。其中，该电子设备可以是移动终端，例如，手机、平板电脑、个人数字助理等具有各种操作系统的硬件设备。
如图1所示，该动画合成方法可包括如下步骤：
步骤101，获取待处理的音频流以及拼接语音流，其中，音频流以及拼接语音流对应相同的文本；拼接语音流为对文本中字符的语音片段拼接得到。
可选地，对获取的文本进行语音合成处理(如，从文本到语音(TextToSpeech，简称TTS))，获取该文本对应的语音音频流，将该语音音频流作为待处理的音频流；同时，将文本中的字符分别进行语音合成处理，生成对应的语音片段，将字符对应的语音片段进行拼接，可得到拼接语音流，将该拼接语音流作为待处理的拼接语音流。其中，将文本中的字符进行语音合成处理，生成对应的语音片段之前，为了避免漏掉文本中的特殊字符，确保文本与拼接语音流之间的一致性，可以对文本中的特殊字符进行规范化处理，即将文本中的特殊字符转化成汉字字符，得到处理后的文本；然后获取处理后的文本中字符对应的语音片段，将字符对应的语音片段进行拼接，可得到拼接语音流。其中，特殊字符可以包括以下字符中的至少一种：阿拉伯数字、日期、金钱符号、单位符号等。其中，单位符号例如重量单位符号、长度单位符号等。
在本公开实施例中，文本可以为任意文本，例如短语、句子、段落等，可以根据实际需要进行设置。
步骤102，确定音频流中音频帧与拼接语音流中语音帧之间的对应关系，其中，在对应关系下音频流与拼接语音流之间的匹配度满足预设匹配度条件。
在本公开实施例中，可分别对音频流和拼接语音流进行频谱特征提取，获取音频流对应的音频频谱特征流和拼接语音流对应的语音频谱特征流，进而，根据音频频谱特征流和语音频谱特征流，确定音频流中音频帧与拼接语音流中语音帧之间的对应关系。比如，音频流中音频帧与拼接语音流中语音帧之间的对应关系为，音频流中音频帧与拼接语音流中语音帧对齐。其中，需要说明的是，在音频流中音频帧与拼接语音流中语音帧之间的对应关系下，音频流与拼接语音流之间的匹配度满足预设匹配度条件。
步骤103，根据字符的语音片段中语音帧对应的音频帧，确定音频流中字符对应的发音时间段。
也就是说，对于文本中的字符分别进行语音合成处理，生成对应的语音片段时，可获取该字符对应的语音片段的发音时间段，由于音频流中音频帧与拼接语音流中语音帧之间具有对应关系，因此，根据拼接语音流中字符的语音片段中语音帧对应的音频帧，可确定音频流中字符对应的发音时间段。其中，需要说明的是，上述确定发音时间段的步骤，可以针对音频流中的每个字符，分别执行上述确定发音时间段的步骤，得到音频流中的每个字符对应的发音时间段。
步骤104，根据文本中字符对应的发音时间段，以及字符对应的动画帧序列，生成音频流对应的动画视频。
在本公开实施例中，字符对应的动画帧序列，可以保存在口型动画字典中。动画合成装置所属的硬件设备中可以预存储有口型动画字典，以方便动画合成装置在需要时查询。其中，口型动画字典中可以存储有423个字符以及对应的口型动画帧序列。
由于音频流中音频帧与拼接语音流中语音帧之间具有对应关系，因此，根据文本中字符的语音片段的发音时间段，可确定字符对应的发音时间段的时长，进而，根据该时长对字符对应的动画帧序列进行处理，可生成音频流对应的动画视频。
综上，通过确定音频流中音频帧与拼接语音流中语音帧之间的对应关系，进而根据拼接语音流中字符的语音片段中语音帧对应的音频帧，可确定音频流中字符对应的发音时间段，最后，根据字符对应的发音时间段和动画帧序列，可生成音频流对应的动画视频。由此，可使动画视频和音频流具有很强的一致性，不存在帧间抖动问题，进而提高了动画视频的真实性和泛化能力。
为了可以准确地确定音频流中音频帧与拼接语音流中语音帧之间的对应关系，如图2所示，图2是根据本公开第二实施例的示意图，在本公开实施例中，可分别对音频流和拼接语音流进行频谱特征提取，获取音频流对应的音频频谱特征流和拼接语音流对应的语音频谱特征流，进而，根据音频频谱特征流和语音频谱特征流，确定音频流中音频帧与拼接语音流中语音帧之间的对应关系，图2所示实施例可包括如下步骤：
步骤201，获取待处理的音频流以及拼接语音流，其中，音频流以及拼接语音流对应相同的文本；拼接语音流为对文本中字符的语音片段拼接得到。
步骤202，对音频流进行频谱特征提取处理，得到音频流对应的音频频谱特征流。
在本公开实施例中，可对音频流进行傅里叶变换，转换为频谱图片，可对该频谱图片进行频谱特征提取，得到与该音频流对应的音频频谱特征流。
步骤203，对拼接语音流进行频谱特征提取处理，得到拼接语音流对应的语音频谱特征流。
同理，可对拼接语音流进行傅里叶变换，转换为频谱图片，可对该频谱图片进行频谱特征提取，得到与该拼接语音流对应的语音频谱特征流。
步骤204，根据音频频谱特征流以及语音频谱特征流，确定音频流中音频帧与拼接语音流中语音帧之间的对应关系。
进一步地，可计算音频频谱特征流中的音频特征帧与语音频谱特征流中语音特征帧之间的匹配度，并通过动态时间规整计算匹配度和值最大的路径，确定出音频频谱特征流中的音频特征帧与语音频谱特征流中语音特征帧之间的对应关系，进而，可根据音频频谱特征流中的音频特征帧与语音频谱特征流中语音特征帧之间的对应关系，确定出音频流中音频帧与拼接语音流中语音帧之间的对应关系。
步骤205，根据字符的语音片段中语音帧对应的音频帧，确定音频流中字符对应的发音时间段。
步骤206，根据文本中字符对应的发音时间段，以及字符对应的动画帧序列，生成音频流对应的动画视频。
其中，需要说明的是，步骤201、205-206可以分别采用本公开的各实施例中的任一种方式实现，本公开实施例并不对此作出限定，也不再赘述。
综上，通过对音频流进行频谱特征提取处理，得到音频流对应的音频频谱特征流；对拼接语音流进行频谱特征提取处理，得到拼接语音流对应的语音频谱特征流；根据音频频谱特征流以及语音频谱特征流，确定音频流中音频帧与拼接语音流中语音帧之间的对应关系，由此，可准确地确定音频流中音频帧与拼接语音流中语音帧之间的对应关系。
为了可以准确地确定音频流中音频帧与拼接语音流中语音帧之间的对应关系，如图3所示，图3是根据本公开第三实施例的示意图，可计算音频频谱特征流中的音频特征帧与语音频谱特征流中语音特征帧之间的匹配度，并通过动态时间规整计算匹配度和值最大的路径，确定出音频频谱特征流中的音频特征帧与语音频谱特征流中语音特征帧之间的对应关系，进而，可根据音频频谱特征流中的音频特征帧与语音频谱特征流中语音特征帧之间的对应关系，确定出音频流中音频帧与拼接语音流中语音帧之间的对应关系，图3所示实施例可包括如下步骤：
步骤301，获取待处理的音频流以及拼接语音流，其中，音频流以及拼接语音流对应相同的文本；拼接语音流为对文本中字符的语音片段拼接得到。
步骤302，对音频流进行频谱特征提取处理，得到音频流对应的音频频谱特征流。
步骤303，确定音频频谱特征流中音频特征帧与语音频谱特征流中语音特征帧之间的匹配度。
在本公开实施例中，可计算音频频谱特征流中的音频特征帧与语音频谱特征流中语音特征帧之间的相似度，将该相似度作为音频特征帧与语音频谱特征流中语音特征帧之间的匹配度。其中，需要说明的是，音频频谱特征流中的音频特征帧与语音频谱特征流中语音特征帧之间的相似度越高，则音频频谱特征流中的音频特征帧与语音频谱特征流中语音特征帧之间的匹配度越高。在对应关系下音频流与拼接语音流之间的匹配度满足音频流中音频帧与拼接语音流中语音帧之间的至少一种对应关系(如，对齐关系)下音频流与拼接语音流之间的匹配度的最大值。
步骤304，以音频频谱特征流中音频特征帧为横坐标，以语音频谱特征流中语音特征帧为纵坐标，以匹配度为坐标点上的坐标值，构建匹配度矩阵网络。
进一步地，以音频频谱特征流中音频特征帧为横坐标，以语音频谱特征流中语音特征帧为纵坐标，以音频频谱特征流中音频特征帧与语音频谱特征流中语音特征帧之间的匹配度为坐标点上的坐标值，构建匹配度矩阵网络。
步骤305，在匹配度矩阵网络中选择满足动态时间规整约束条件且匹配度和值最大的路径。
在本公开实施例中，可选择匹配度矩阵网络中选择满足动态时间规整约束条件且匹配度和值最大的路径，其中，动态时间规整约束条件可包括：边界条件、连续性和单调性。该满足动态时间规整约束条件且匹配度和值最大的路径，可实现音频频谱特征流中的各个音频特征帧与语音频谱特征流中各语音特征帧之间的最佳匹配。其中，边界条件可表示所选的路径必定是从左下角出发，在右上角结束；连续性可表示路径的连续性，不可跨过某个点去匹配；单调性可表示路径上的点必须是随着时间单调进行的。另外，路径中可以包括多个坐标点，每个坐标点可以用于确定频谱特征流中频谱特征帧与语音特征帧之间的一个对应关系。
步骤306，根据路径中坐标点的横坐标和纵坐标，确定音频频谱特征流中音频特征帧与语音频谱特征流中语音特征帧之间的对应关系。
进一步地，根据匹配度矩阵网络中满足动态时间规整约束条件且匹配度和值最大的路径中各坐标点的横坐标和纵坐标，可确定路径中各坐标点的横坐标对应的音频频谱特征流中音频特征帧，与路径中各坐标点的纵坐标对应的语音频谱特征流中语音特征帧之间具有对齐关系。
步骤307，根据音频频谱特征流中音频特征帧与语音频谱特征流中语音特征帧之间的对应关系，确定音频流中音频帧与拼接语音流中语音帧之间的对应关系。
进而，在确定音频频谱特征流中音频特征帧与语音频谱特征流中语音特征帧之间的对齐关系后，可确定音频流中音频帧与拼接语音流中语音帧之间的对齐关系。
步骤308，根据字符的语音片段中语音帧对应的音频帧，确定音频流中字符对应的发音时间段。
步骤309，根据文本中字符对应的发音时间段，以及字符对应的动画帧序列，生成音频流对应的动画视频。
其中，需要说明的是，步骤301-302、308-309可以分别采用本公开的各实施例中的任一种方式实现，本公开实施例并不对此作出限定，也不再赘述。
综上，通过确定音频频谱特征流中音频特征帧与语音频谱特征流中语音特征帧之间的匹配度；以音频频谱特征流中音频特征帧为横坐标，以语音频谱特征流中语音特征帧为纵坐标，以匹配度为坐标点上的坐标值，构建匹配度矩阵网络；在匹配度矩阵网络中选择满足动态时间规整约束条件且匹配度和值最大的路径；根据路径中坐标点的横坐标和纵坐标，确定音频频谱特征流中音频特征帧与语音频谱特征流中语音特征帧之间的对应关系。由此，可实现音频频谱特征流中的音频特征帧与语音频谱特征流中语音特征帧之间的最佳匹配，准确地确定音频流中音频帧与拼接语音流中语音帧之间的对应关系。
为了准确地确定出音频流中字符对应的发音时间段，如图4所示，图4是根据本公开第四实施例的示意图，在本公开实施例中，可根据音频流中音频片段的时间段，确定音频流中字符在音频流中的发音时间段。图4所示实施例可包括如下步骤：
步骤401，获取待处理的音频流以及拼接语音流，其中，音频流以及拼接语音流对应相同的文本；拼接语音流为对文本中字符的语音片段拼接得到。
步骤402，确定音频流中音频帧与所述拼接语音流中语音帧之间的对应关系，其中，在对应关系下音频流与拼接语音流之间的匹配度满足预设匹配度条件。
步骤403，根据字符的语音片段中语音帧对应的音频帧，确定音频流中与语音片段对应的音频片段。
由于音频流中各音频帧与拼接语音流中语音帧之间具有对应关系，因此，可根据拼接语音流中字符的语音片段中语音帧对应的音频帧，确定出音频流中与语音片段对应的音频片段。
步骤404，将音频流中音频片段的时间段，确定为音频流中字符在音频流中的发音时间段。
进而，可将音频流中音频片段的时间段，确定为音频流中字符在音频流中的发音时间段。
步骤405，根据文本中字符对应的发音时间段，以及字符对应的动画帧序列，生成音频流对应的动画视频。
其中，需要说明的是，步骤401-402、405可以分别采用本公开的各实施例中的任一种方式实现，本公开实施例并不对此作出限定，也不再赘述。
综上，通过根据字符的语音片段中语音帧对应的音频帧，确定音频流中与语音片段对应的音频片段；将音频流中音频片段的时间段，确定为音频流中字符在音频流中的发音时间段。由此，可准确地确定出音频流中字符对应的发音时间段。
为了生成与音频流对应的动画视频，如图5所示，图5是根据本公开第五实施例的示意图，在本公开实施例中，根据文本中字符的语音片段的发音时间段，可确定该字符对应的发音时间段的时长，进而，根据该时长对该字符对应的动画帧序列进行处理，可生成音频流对应的动画视频，图5所示实施例可包括如下步骤：
步骤501，获取待处理的音频流以及拼接语音流，其中，音频流以及拼接语音流对应相同的文本；拼接语音流为对文本中字符的语音片段拼接得到。
步骤502，确定音频流中音频帧与拼接语音流中语音帧之间的对应关系，其中，在对应关系下音频流与拼接语音流之间的匹配度满足预设匹配度条件。
步骤503，根据字符的语音片段中语音帧对应的音频帧，确定音频流中字符对应的发音时间段。
需要了解的是，由于音频流中音频帧与拼接语音流中语音帧之间具有对应关系，因此，根据拼接语音流中字符的语音片段中语音帧的发音时间段，可确定出音频流中字符对应音频中的音频帧的发音时间段的时长。
步骤504，按照字符对应的发音时间段的时长，对字符对应的动画帧序列进行插值处理，得到具有时长的处理后动画帧序列。
也就是说，字符对应的发音时间段的时长，与字符对应的动画帧序列的时间段的时长一般是不一致，因此，需要按照音频流中的该字符对应的发音时间段的时长对该字符对应的动画帧序列进行插值处理，可得到具有与该时长对应的动画帧序列。比如，压缩处理，目的是减少动画帧序列中动画帧的帧数，且保留之前动画帧序列中各个动画帧的内容。其中，上述插值处理的步骤，可以针对文本中的每个字符或者部分字符。以每个字符为例，针对文本中的每个音节，可以分别执行上述插值处理的步骤，得到文本中每个字符对应的处理后动画帧序列。
步骤505，根据文本中字符对应的处理后动画帧序列，生成动画视频。
在本公开实施例中，为了避免帧间抖动问题，确保帧间的自然过渡，可以对相邻动画帧序列中的尾部动画帧和头部动画帧进行调整处理。
作为一种示例，针对文本中字符对应的处理后动画帧序列中的尾部动画帧，获取第一相邻字符对应的处理后动画帧序列中的头部动画帧；根据头部动画帧的动画系数对尾部动画帧的动画系数进行调整，得到字符对应的调整后动画帧序列；其中，第一相邻字符对应的发音时间段位于字符对应的发音时间段之后，针对文本中的每个字符或者部分字符，可以分别执行上述步骤。进而，根据文本中字符对应的调整后动画帧序列，生成动画视频。
其中，根据头部动画帧的动画系数对尾部动画帧的动画系数进行调整的具体实现方式例如可以为，对头部动画帧的动画系数和尾部动画帧的动画系数进行加和处理，得到加和处理后的动画系数；将加和处理后的动画系数，确定为尾部动画帧的调整后动画系数，进而确定调整后的尾部动画帧；进而结合字符对应的处理后动画帧序列中的非尾部动画帧以及调整后的尾部动画帧，生成音节对应的调整后动画帧序列。
作为另一种示例，针对文本中字符对应的处理后动画帧序列中的头部动画帧，获取第二相邻字符对应的处理后动画帧序列中的尾部动画帧；根据尾部动画帧的动画系数对头部动画帧的动画系数进行调整，得到字符对应的调整后动画帧序列；其中，第二相邻字符对应的发音时间段位于字符对应的发音时间段之前，针对文本中的每个字符或者部分字符，可以分别执行上述步骤。进而，根据文本中字符对应的调整后动画帧序列，生成动画视频。
其中，根据尾部动画帧的动画系数对头部动画帧的动画系数进行调整的具体实现方式例如可以为，对尾部动画帧的动画系数和头部动画帧的动画系数进行加和处理，得到加和处理后的动画系数；将加和处理后的动画系数，确定为头部动画帧的调整后动画系数，进而确定调整后的头部动画帧；进而结合字符对应的处理后动画帧序列中的非头部动画帧以及调整后的头部动画帧，生成音节对应的调整后动画帧序列。
作为另一种示例，针对文本中字符对应的处理后动画帧序列中的尾部动画帧，获取第一相邻字符对应的处理后动画帧序列中的头部动画帧；根据头部动画帧的动画系数对尾部动画帧的动画系数进行调整，得到字符对应的调整后动画帧序列；其中，第一相邻音节对应的发音时间段位于所述字符的发音时间段之后。针对文本中每个字符对应的处理后动画帧序列中的头部动画帧，获取第二相邻音节对应的处理后动画帧序列中的尾部动画帧；根据尾部动画帧的动画系数对头部动画帧的动画系数进行调整，得到字符对应的调整后动画帧序列；其中，第二相邻字符对应的发音时间段位于字符的发音时间段之前。针对文本中的每个字符或者部分字符，可以分别执行上述步骤。以部分字符为例，其他部分字符可以执行上述步骤中的一部分，或者不执行上述步骤。之后，根据文本中字符对应的调整后动画帧序列，生成动画视频。
在本公开实施例中，动画帧的动画系数，可以表征动画帧中的人脸表情。其中，在一种示例中，在动画系数表征人脸表情时，动画系数可以为动画帧中各个人脸部位的系数，比如双眼之间的距离、鼻子与双眼中心的距离等等，可以根据实际需要进行设定。
在本公开实施例中，在另一种示例中，在动画系数表征人脸表情时，动画系数可以为动画帧相对于基础动画帧的各个人脸部位的相对系数。也就是说，基础动画帧的动画系数，可以为基础动画帧中各个人脸部位的系数。其他动画帧的动画系数，可以为其他动画帧中各个人脸部位的系数相对于基础动画帧中相应人脸部位的系数的偏移值。其中，基础动画帧及其动画系数可以预先设置。
其中，动画系数的设置，可以方便终端设备基于动画系数进行渲染，得到对应的动画帧，减少动画帧传输时的数据量。
另外，为了使文本中字符对应的处理后动画帧序列切换更加连续自然，把字符对应的处理后动画帧序列的边缘处进行横向拉伸和叠加，以及对字符对应的处理后动画帧序列进行滤波平滑处理，以降低动画视频的帧间抖动。
其中，需要说明的是，步骤501-502可以分别采用本公开的各实施例中的任一种方式实现，本公开实施例并不对此作出限定，也不再赘述。
综上，通过根据字符的语音片段中各语音帧对应的音频帧，确定音频流中字符对应的发音时间段；按照字符对应的发音时间段的时长，对字符对应的动画帧序列进行插值处理，得到具有时长的处理后动画帧序列；根据文本中字符对应的处理后动画帧序列，生成动画视频。由此，可使动画视频和音频流具有一致性，不存在帧间抖动问题，进而提高了动画视频的真实性和泛化能力。
为了更加清楚地说明上述实施例，现举例进行说明。
举例而言，如图6所示，以合成口型动画为例，对输入的文件同时进行语音合成处理和文本进行文本规范化后汉字转音处理，分别获取音频流和拼接语音流，其中，文本规范化处理可包括对文本中的阿拉伯数字、符号、日期以及金钱等转换为汉字。进一步的，为了实现文本和音频的时序对齐，可对音频流和拼接语音流进行动态时间规整匹配。如图6中，可分别对音频流和拼接语音流进行频谱特征提取处理，获取音频流对应的音频频谱特征流mfcc1和拼接语音流对应的语音频谱特征流mfcc2，接着，计算mfcc1特征帧序列和mfcc2特征帧序列之间的相似度，并通过动态规划计算一条最佳路径，实现两序列帧之间的最佳匹配，根据两序列帧之间匹配结果，把带时间戳标签根据映射结果对应到输入音频流，从而得到输入音频流和文本时序对应关系，即文本中每个字在音频流上开始和截止时间，如“shi”＝[0.1ms，0.3ms]，最后，根据文本和音频时序对齐关系，通过查询口型动画字典进行动态视素序列合成，主要步骤如下：
1.从磁盘读取加载BS口型动画字典，字典存储423个拼音以及对应的口型动画帧序列的键值对；
2.根据文本和音频的时序对齐关系，文本对应的拼音作为键(key)，查询BS口型动画字典，得到与该拼音key对应的口型动画序列帧；
3.根据文本和音频的时序对齐关系，可以得到每个汉字(拼音)在音频流上开始时间和截止时间，然后把查询得到口型动画帧序列插值到实际时间长度；
4.为了使得口型动画在字切换之间更加连续自然，把口型动画帧在每个字边缘处进行横向拉伸和叠加；
5.对完整的口型动画帧序列进行时序上的滤波平滑处理，使其更加平滑流畅，进一步降低帧间抖动。
本公开实施例的动画合成方法，通过确定音频流中音频帧与拼接语音流中语音帧之间的对应关系，进而根据拼接语音流中字符的语音片段中各语音帧对应的音频帧，可确定音频流中字符对应的发音时间段，最后，根据各个字符对应的发音时间段和动画帧序列，可生成音频流对应的动画视频。由此，可使动画视频和音频流具有很强的一致性，不存在帧间抖动问题，进而提高了动画视频的真实性和泛化能力。
为了实现上述实施例，本公开还提出一种动画合成装置。
如图7所示，图7是根据本公开第六实施例的示意图。该动画合成装置700包括：获取模块710、第一确定模块720、第二确定模块730和生成模块740。
其中，获取模块710，用于获取待处理的音频流以及拼接语音流，其中，音频流以及拼接语音流对应相同的文本；拼接语音流为对文本中字符的语音片段拼接得到；第一确定模块720，用于确定音频流中音频帧与拼接语音流中语音帧之间的对应关系，其中，在对应关系下音频流与拼接语音流之间的匹配度满足预设匹配度条件；第二确定模块730，用于根据字符的语音片段中语音帧对应的音频帧，确定音频流中字符对应的发音时间段；生成模块740，用于根据文本中字符对应的发音时间段，以及字符对应的动画帧序列，生成音频流对应的动画视频。
作为本公开实施例的一种可能实现方式，第一确定模块720，具体用于：对音频流进行频谱特征提取处理，得到音频流对应的音频频谱特征流；对拼接语音流进行频谱特征提取处理，得到拼接语音流对应的语音频谱特征流；根据音频频谱特征流以及语音频谱特征流，确定音频流中音频帧与拼接语音流中语音帧之间的对应关系。
作为本公开实施例的一种可能实现方式，预设匹配度条件为，音频流中音频帧与拼接语音流中语音帧之间的至少一种对应关系下音频流与拼接语音流之间的匹配度的最大值；第一确定模块720，还用于：确定音频频谱特征流中音频特征帧与语音频谱特征流中各语音特征帧之间的匹配度；以音频频谱特征流中音频特征帧为横坐标，以语音频谱特征流中语音特征帧为纵坐标，以匹配度为坐标点上的坐标值，构建匹配度矩阵网络；在所述匹配度矩阵网络中选择满足动态时间规整约束条件且匹配度和值最大的路径；根据路径中坐标点的横坐标和纵坐标，确定音频频谱特征流中音频特征帧与所述语音频谱特征流中语音特征帧之间的对应关系；根据音频频谱特征流中音频特征帧与语音频谱特征流中语音特征帧之间的对应关系，确定音频流中音频帧与拼接语音流中语音帧之间的对应关系。
作为本公开实施例的一种可能实现方式，第二确定模块730，具体用于：根据字符的语音片段中各语音帧对应的音频帧，确定音频流中与语音片段对应的音频片段；将音频流中音频片段的时间段，确定为音频流中字符在音频流中的发音时间段。
作为本公开实施例的一种可能实现方式，生成模块740，具体用于：按照字符对应的发音时间段的时长，对字符对应的动画帧序列进行插值处理，得到具有时长的处理后动画帧序列；根据文本中字符对应的处理后动画帧序列，生成动画视频。
作为本公开实施例的一种可能实现方式，生成模块740，还用于：针对文本中字符对应的处理后动画帧序列中的尾部动画帧，获取第一相邻字符对应的处理后动画帧序列中的头部动画帧；根据头部动画帧的动画系数对尾部动画帧的动画系数进行调整，得到字符对应的调整后动画帧序列；其中，第一相邻字符对应的发音时间段位于字符对应的发音时间段之后；和/或，针对文本中每个字符对应的处理后动画帧序列中的头部动画帧，获取第二相邻字符对应的处理后动画帧序列中的尾部动画帧；根据尾部动画帧的动画系数对头部动画帧的动画系数进行调整，得到字符对应的调整后动画帧序列；其中，第二相邻字符对应的发音时间段位于字符对应的发音时间段之前；根据文本中各个字符对应的调整后动画帧序列，生成动画视频。
本公开实施例的动画合成装置，通过确定音频流中音频帧与拼接语音流中语音帧之间的对应关系，进而根据拼接语音流中字符的语音片段中语音帧对应的音频帧，可确定音频流中字符对应的发音时间段，最后，根据字符对应的发音时间段和动画帧序列，可生成音频流对应的动画视频。由此，可使动画视频和音频流具有很强的一致性，不存在帧间抖动问题，进而提高了动画视频的真实性和泛化能力。
本公开的技术方案中，所涉及的用户个人信息的获取，存储和应用等，均符合相关法律法规的规定，且不违背公序良俗。
根据本公开的实施例，本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图8示出了可以用来实施本公开的实施例的示例电子设备800的示意性框图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图8所示，设备800包括计算单元801，其可以根据存储在只读存储器(ROM)802中的计算机程序或者从存储单元808加载到随机访问存储器(RAM)803中的计算机程序，来执行各种适当的动作和处理。在RAM 803中，还可存储设备800操作所需的各种程序和数据。计算单元801、ROM 802以及RAM 803通过总线804彼此相连。输入/输出(I/O)接口805也连接至总线804。
设备800中的多个部件连接至I/O接口805，包括：输入单元806，例如键盘、鼠标等；输出单元807，例如各种类型的显示器、扬声器等；存储单元808，例如磁盘、光盘等；以及通信单元809，例如网卡、调制解调器、无线通信收发机等。通信单元809允许设备800通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元801可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元801的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元801执行上文所描述的各个方法和处理，例如动画合成方法。例如，在一些实施例中，动画合成方法可被实现为计算机软件程序，其被有形地包含于机器可读介质，例如存储单元808。在一些实施例中，计算机程序的部分或者全部可以经由ROM 802和/或通信单元809而被载入和/或安装到设备800上。当计算机程序加载到RAM 803并由计算单元801执行时，可以执行上文描述的动画合成方法的一个或多个步骤。备选地，在其他实施例中，计算单元801可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行动画合成方法。
本文中以上描述的系统和技术的各种实施方式可以在数字电子电路系统、集成电路系统、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上系统的系统(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程系统上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储系统、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储系统、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器，使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中，机器可读介质可以是有形的介质，其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备，或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互，可以在计算机上实施此处描述的系统和技术，该计算机具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的系统和技术实施在包括后台部件的计算系统(例如，作为数据服务器)、或者包括中间件部件的计算系统(例如，应用服务器)、或者包括前端部件的计算系统(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的系统和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算系统中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将系统的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)和互联网。
计算机系统可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，也可以为分布式系统的服务器，或者是结合了区块链的服务器。
应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本公开公开的技术方案所期望的结果，本文在此不进行限制。
上述具体实施方式，并不构成对本公开保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等，均应包含在本公开保护范围之内。

Claims (15)

1.一种动画合成方法，包括：
获取待处理的音频流以及拼接语音流，其中，所述音频流以及所述拼接语音流对应相同的文本；所述拼接语音流为对所述文本中字符的语音片段拼接得到；
确定所述音频流中音频帧与所述拼接语音流中语音帧之间的对应关系，其中，在所述对应关系下所述音频流与所述拼接语音流之间的匹配度满足预设匹配度条件；
根据所述字符的语音片段中语音帧对应的音频帧，确定所述音频流中所述字符对应的发音时间段；
根据所述文本中所述字符对应的发音时间段，以及所述字符对应的动画帧序列，生成所述音频流对应的动画视频。
2.根据权利要求1所述的方法，其中，所述确定所述音频流中音频帧与所述拼接语音流中语音帧之间的对应关系，包括：
对所述音频流进行频谱特征提取处理，得到所述音频流对应的音频频谱特征流；
对所述拼接语音流进行频谱特征提取处理，得到所述拼接语音流对应的语音频谱特征流；
根据所述音频频谱特征流以及所述语音频谱特征流，确定所述音频流中音频帧与所述拼接语音流中语音帧之间的对应关系。
3.根据权利要求2所述的方法，其中，所述预设匹配度条件为，所述音频流中音频帧与所述拼接语音流中语音帧之间的至少一种对应关系下所述音频流与所述拼接语音流之间的匹配度的最大值；
所述根据所述音频频谱特征流以及所述语音频谱特征流，确定所述音频流中音频帧与所述拼接语音流中语音帧之间的对应关系，包括：
确定所述音频频谱特征流中音频特征帧与所述语音频谱特征流中语音特征帧之间的匹配度；
以所述音频频谱特征流中音频特征帧为横坐标，以所述语音频谱特征流中语音特征帧为纵坐标，以所述匹配度为坐标点上的坐标值，构建匹配度矩阵网络；
在所述匹配度矩阵网络中选择满足动态时间规整约束条件且匹配度和值最大的路径；
根据所述路径中坐标点的横坐标和纵坐标，确定所述音频频谱特征流中音频特征帧与所述语音频谱特征流中语音特征帧之间的对应关系；
根据所述音频频谱特征流中音频特征帧与所述语音频谱特征流中语音特征帧之间的对应关系，确定所述音频流中音频帧与所述拼接语音流中语音帧之间的对应关系。
4.根据权利要求1所述的方法，其中，所述根据所述字符的语音片段中语音帧对应的音频帧，确定所述音频流中所述字符对应的发音时间段，包括：
根据所述字符的语音片段中语音帧对应的音频帧，确定所述音频流中与所述语音片段对应的音频片段；
将所述音频流中所述音频片段的时间段，确定为所述音频流中所述字符在所述音频流中的发音时间段。
5.根据权利要求1所述的方法，其中，所述根据所述文本中所述字符对应的发音时间段，以及所述字符对应的动画帧序列，生成所述音频流对应的动画视频，包括：
按照所述字符对应的发音时间段的时长，对所述字符对应的动画帧序列进行插值处理，得到具有所述时长的处理后动画帧序列；
根据所述文本中所述字符对应的处理后动画帧序列，生成所述动画视频。
6.根据权利要求5所述的方法，其中，所述根据所述文本中所述字符对应的处理后动画帧序列，生成所述动画视频，包括：
针对所述文本中所述字符对应的处理后动画帧序列中的尾部动画帧，获取第一相邻字符对应的处理后动画帧序列中的头部动画帧；根据所述头部动画帧的动画系数对所述尾部动画帧的动画系数进行调整，得到所述字符对应的调整后动画帧序列；其中，所述第一相邻字符对应的发音时间段位于所述字符对应的发音时间段之后；
和/或，
针对所述文本中所述字符对应的处理后动画帧序列中的头部动画帧，获取第二相邻字符对应的处理后动画帧序列中的尾部动画帧；根据所述尾部动画帧的动画系数对所述头部动画帧的动画系数进行调整，得到所述字符对应的调整后动画帧序列；其中，所述第二相邻字符对应的发音时间段位于所述字符对应的发音时间段之前；
根据所述文本中所述字符对应的调整后动画帧序列，生成所述动画视频。
7.一种动画合成装置，包括：
获取模块，用于获取待处理的音频流以及拼接语音流，其中，所述音频流以及所述拼接语音流对应相同的文本；所述拼接语音流为对所述文本中字符的语音片段拼接得到；
第一确定模块，用于确定所述音频流中音频帧与所述拼接语音流中语音帧之间的对应关系，其中，在所述对应关系下所述音频流与所述拼接语音流之间的匹配度满足预设匹配度条件；
第二确定模块，用于根据所述字符的语音片段中语音帧对应的音频帧，确定所述音频流中所述字符对应的发音时间段；
生成模块，用于根据所述文本中所述字符对应的发音时间段，以及所述字符对应的动画帧序列，生成所述音频流对应的动画视频。
8.根据权利要求7所述的装置，其中，所述第一确定模块，具体用于：
对所述音频流进行频谱特征提取处理，得到所述音频流对应的音频频谱特征流；
对所述拼接语音流进行频谱特征提取处理，得到所述拼接语音流对应的语音频谱特征流；
根据所述音频频谱特征流以及所述语音频谱特征流，确定所述音频流中音频帧与所述拼接语音流中语音帧之间的对应关系。
9.根据权利要求8所述的装置，其中，所述预设匹配度条件为，所述音频流中音频帧与所述拼接语音流中语音帧之间的至少一种对应关系下所述音频流与所述拼接语音流之间的匹配度的最大值；
所述第一确定模块，还用于：
确定所述音频频谱特征流中音频特征帧与所述语音频谱特征流中语音特征帧之间的匹配度；
以所述音频频谱特征流中音频特征帧为横坐标，以所述语音频谱特征流中语音特征帧为纵坐标，以所述匹配度为坐标点上的坐标值，构建匹配度矩阵网络；
在所述匹配度矩阵网络中选择满足动态时间规整约束条件且匹配度和值最大的路径；
根据所述路径中坐标点的横坐标和纵坐标，确定所述音频频谱特征流中音频特征帧与所述语音频谱特征流中语音特征帧之间的对应关系；
根据所述音频频谱特征流中音频特征帧与所述语音频谱特征流中语音特征帧之间的对应关系，确定所述音频流中音频帧与所述拼接语音流中语音帧之间的对应关系。
10.根据权利要求7所述的装置，其中，所述第二确定模块，具体用于：
根据所述字符的语音片段中语音帧对应的音频帧，确定所述音频流中与所述语音片段对应的音频片段；
将所述音频流中所述音频片段的时间段，确定为所述音频流中所述字符在所述音频流中的发音时间段。
11.根据权利要求7所述的装置，其中，所述生成模块，具体用于：
按照所述字符对应的发音时间段的时长，对所述字符对应的动画帧序列进行插值处理，得到具有所述时长的处理后动画帧序列；
根据所述文本中所述字符对应的处理后动画帧序列，生成所述动画视频。
12.根据权利要求11所述的装置，其中，所述生成模块，还用于：
针对所述文本中所述字符对应的处理后动画帧序列中的尾部动画帧，获取第一相邻字符对应的处理后动画帧序列中的头部动画帧；根据所述头部动画帧的动画系数对所述尾部动画帧的动画系数进行调整，得到所述字符对应的调整后动画帧序列；其中，所述第一相邻字符对应的发音时间段位于所述字符对应的发音时间段之后；
和/或，
针对所述文本中所述字符对应的处理后动画帧序列中的头部动画帧，获取第二相邻字符对应的处理后动画帧序列中的尾部动画帧；根据所述尾部动画帧的动画系数对所述头部动画帧的动画系数进行调整，得到所述字符对应的调整后动画帧序列；其中，所述第二相邻字符对应的发音时间段位于所述字符对应的发音时间段之前；
根据所述文本中各个字符对应的调整后动画帧序列，生成所述动画视频。
13.一种电子设备，包括：
至少一个处理器；以及
与所述至少一个处理器通信连接的存储器；其中，
所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-6中任一项所述的方法。
14.一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使计算机执行根据权利要求1-6中任一项所述的方法。
15.一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现根据权利要求1-6中任一项所述的方法。
CN202110925364.0A 2021-08-12 2021-08-12 动画合成方法、装置、电子设备及存储介质 Pending CN113744368A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110925364.0A CN113744368A (zh) 2021-08-12 2021-08-12 动画合成方法、装置、电子设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110925364.0A CN113744368A (zh) 2021-08-12 2021-08-12 动画合成方法、装置、电子设备及存储介质

Publications (1)

Publication Number Publication Date
CN113744368A true CN113744368A (zh) 2021-12-03

Family

ID=78730820

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110925364.0A Pending CN113744368A (zh) 2021-08-12 2021-08-12 动画合成方法、装置、电子设备及存储介质

Country Status (1)

Country Link
CN (1) CN113744368A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114333774A (zh) * 2021-12-15 2022-04-12 腾讯科技（深圳）有限公司 语音识别方法、装置、计算机设备及存储介质

Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102056026A (zh) * 2009-11-06 2011-05-11 中国移动通信集团设计院有限公司 音视频同步检测方法及其系统、语音检测方法及其系统
CN102227767A (zh) * 2008-11-12 2011-10-26 Scti控股公司 自动语音-文本转换系统和方法
CN106935236A (zh) * 2017-02-14 2017-07-07 复旦大学 一种钢琴演奏评估方法及系统
CN108320750A (zh) * 2018-01-23 2018-07-24 东南大学—无锡集成电路技术研究所 一种基于改进型动态时间规整语音识别算法的实现方法
CN110347867A (zh) * 2019-07-16 2019-10-18 北京百度网讯科技有限公司 用于生成嘴唇动作视频的方法和装置
CN110853614A (zh) * 2018-08-03 2020-02-28 Tcl集团股份有限公司 虚拟对象口型驱动方法、装置及终端设备
CN112131988A (zh) * 2020-09-14 2020-12-25 北京百度网讯科技有限公司 确定虚拟人物唇形的方法、装置、设备和计算机存储介质
CN112233210A (zh) * 2020-09-14 2021-01-15 北京百度网讯科技有限公司 生成虚拟人物视频的方法、装置、设备和计算机存储介质
CN112541957A (zh) * 2020-12-09 2021-03-23 北京百度网讯科技有限公司 动画生成方法、装置、电子设备以及计算机可读介质
CN112700520A (zh) * 2020-12-30 2021-04-23 上海幻维数码创意科技股份有限公司 基于共振峰的口型表情动画生成方法、装置及存储介质

Patent Citations (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102227767A (zh) * 2008-11-12 2011-10-26 Scti控股公司 自动语音-文本转换系统和方法
CN102056026A (zh) * 2009-11-06 2011-05-11 中国移动通信集团设计院有限公司 音视频同步检测方法及其系统、语音检测方法及其系统
CN106935236A (zh) * 2017-02-14 2017-07-07 复旦大学 一种钢琴演奏评估方法及系统
CN108320750A (zh) * 2018-01-23 2018-07-24 东南大学—无锡集成电路技术研究所 一种基于改进型动态时间规整语音识别算法的实现方法
CN110853614A (zh) * 2018-08-03 2020-02-28 Tcl集团股份有限公司 虚拟对象口型驱动方法、装置及终端设备
CN110347867A (zh) * 2019-07-16 2019-10-18 北京百度网讯科技有限公司 用于生成嘴唇动作视频的方法和装置
CN112131988A (zh) * 2020-09-14 2020-12-25 北京百度网讯科技有限公司 确定虚拟人物唇形的方法、装置、设备和计算机存储介质
CN112233210A (zh) * 2020-09-14 2021-01-15 北京百度网讯科技有限公司 生成虚拟人物视频的方法、装置、设备和计算机存储介质
CN112541957A (zh) * 2020-12-09 2021-03-23 北京百度网讯科技有限公司 动画生成方法、装置、电子设备以及计算机可读介质
CN112700520A (zh) * 2020-12-30 2021-04-23 上海幻维数码创意科技股份有限公司 基于共振峰的口型表情动画生成方法、装置及存储介质

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
李伟: "《音频音乐与计算机的交融 音频音乐技术》", 31 January 2020, 上海：复旦大学出版社 *
韩冰 等: "《数字音视频处理》", 31 October 2018, 西安：西安电子科技大学出版社 *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114333774A (zh) * 2021-12-15 2022-04-12 腾讯科技（深圳）有限公司 语音识别方法、装置、计算机设备及存储介质
CN114333774B (zh) * 2021-12-15 2024-02-23 腾讯科技（深圳）有限公司 语音识别方法、装置、计算机设备及存储介质

Similar Documents

Publication Publication Date Title
RU2487411C2 (ru) Способ и устройство для изменения формы губ и получения анимации губ в управляемой голосом анимации
JP2022028887A (ja) テキスト誤り訂正処理方法、装置、電子機器及び記憶媒体
US20220375456A1 (en) Method for animation synthesis, electronic device and storage medium
CN112466288A (zh) 语音识别方法、装置、电子设备及存储介质
CN113450759A (zh) 语音生成方法、装置、电子设备以及存储介质
CN114895817B (zh) 交互信息处理方法、网络模型的训练方法及装置
US20230178067A1 (en) Method of training speech synthesis model and method of synthesizing speech
CN113850386A (zh) 模型预训练方法、装置、设备、存储介质以及程序产品
CN114495956A (zh) 语音处理方法、装置、设备及存储介质
CN114495977B (zh) 语音翻译和模型训练方法、装置、电子设备以及存储介质
CN114023342B (zh) 一种语音转换方法、装置、存储介质及电子设备
CN113744368A (zh) 动画合成方法、装置、电子设备及存储介质
CN116778040B (zh) 基于口型的人脸图像生成方法、模型的训练方法以及设备
US20230177756A1 (en) Method of generating 3d video, method of training model, electronic device, and storage medium
CN114255737B (zh) 语音生成方法、装置、电子设备
CN113808572B (zh) 语音合成方法、装置、电子设备和存储介质
CN114882151A (zh) 虚拟形象视频的生成方法及装置、设备、介质和产品
CN114267375B (zh) 音素检测方法及装置、训练方法及装置、设备和介质
CN113744370B (zh) 动画合成方法、装置、电子设备以及存储介质
CN114841175A (zh) 机器翻译方法、装置、设备及存储介质
CN115357710A (zh) 表格描述文本生成模型的训练方法、装置及电子设备
CN113920987A (zh) 一种语音识别的方法、装置、设备及存储介质
CN116229214B (zh) 模型训练方法、装置及电子设备
JP7318161B2 (ja) 音声処理方法、装置、機器、及びコンピュータ記憶媒体
CN115953998A (zh) 一种语音合成方法、装置、设备及存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination