CN113096623B - 语音处理方法、装置、电子设备及介质 - Google Patents
语音处理方法、装置、电子设备及介质 Download PDFInfo
- Publication number
- CN113096623B CN113096623B CN202110328168.5A CN202110328168A CN113096623B CN 113096623 B CN113096623 B CN 113096623B CN 202110328168 A CN202110328168 A CN 202110328168A CN 113096623 B CN113096623 B CN 113096623B
- Authority
- CN
- China
- Prior art keywords
- fundamental frequency
- processed
- frequency curve
- singing
- voice
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10H—ELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
- G10H1/00—Details of electrophonic musical instruments
- G10H1/36—Accompaniment arrangements
- G10H1/361—Recording/reproducing of accompaniment for use with an external source, e.g. karaoke systems
- G10H1/366—Recording/reproducing of accompaniment for use with an external source, e.g. karaoke systems with means for modifying or correcting the external signal, e.g. pitch correction, reverberation, changing a singer's voice
Landscapes
- Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Acoustics & Sound (AREA)
- Multimedia (AREA)
- Electrophonic Musical Instruments (AREA)
Abstract
本发明实施例公开了一种语音处理方法、装置、电子设备及介质。所述方法包括:获取跟随目标伴奏进行演唱所形成的待处理演唱语音;对所述待处理演唱语音进行基频提取,得到对应的待处理基频曲线;依据所述待处理基频曲线和参考基频曲线,同步对齐所述目标伴奏与所述待处理演唱语音,用以进行语音与伴奏的合成;所述参考基频曲线包括跟随伴奏进行标准演唱时演唱音高对应的基频信息。采用本申请技术方案,能够基于待处理基频曲线与参考基频曲线之间的比对自动对齐演唱语音与伴奏,可以解决伴奏与演唱语音自动对齐问题,实现让伴奏与演唱语音同步起来得到时间上无偏差的合成作品。
Description
技术领域
本发明实施例涉及语音处理技术领域,尤其涉及一种语音处理方法、装置、电子设备及介质。
背景技术
卡拉OK等演唱应用通过实时播放伴奏、字母、音高提示等信息,实时采集用户跟随伴奏和字幕演唱的语音,完成演唱后会将用户的演唱语音经过混响等处理与伴奏合成在一起生成用户的演唱作品。但是由于各种原因,采集录制的语音会在听觉上产生非常明显的延迟,实际到达演唱应用端的语音数据已经产生了听觉上可以感知到的几百毫秒甚至更多的延迟,从而使得最终演唱语音与伴奏合成之后完全不在节拍上,导致合成的演唱作品存在较大缺陷。
发明内容
本发明实施例中提供了一种语音处理方法、装置、电子设备及介质,以实现伴奏与演唱语音的自动对齐问题。
第一方面,本发明实施例中提供了一种语音处理方法,包括:
获取跟随目标伴奏进行演唱所形成的待处理演唱语音;
对所述待处理演唱语音进行基频提取,得到对应的待处理基频曲线;
依据所述待处理基频曲线和参考基频曲线,同步对齐所述目标伴奏与所述待处理演唱语音,用以进行语音与伴奏的合成;所述参考基频曲线包括跟随伴奏进行标准演唱时演唱音高对应的基频信息。
第二方面,本发明实施例中还提供了一种语音处理装置,包括:
语音获取模块,用于获取跟随目标伴奏进行演唱所形成的待处理演唱语音;
基频提取模块,用于对所述待处理演唱语音进行基频提取,得到对应的待处理基频曲线;
语音对齐模块,用于依据所述待处理基频曲线和参考基频曲线,同步对齐所述目标伴奏与所述待处理演唱语音,用以进行语音与伴奏的合成;所述参考基频曲线包括跟随伴奏进行标准演唱时演唱音高对应的基频信息。
第三方面,本发明实施例中还提供了一种电子设备,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序;
所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如本发明任意实施例中提供的语音处理方法。
第四方面,本发明实施例中还提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现如本发明任意实施例中提供的语音处理方法。
本发明实施例中提供了一种语音处理方法,在进行语音合成时,获取跟随目标伴奏进行演唱所形成的待处理演唱语音,对待处理演唱语音进行基频提取得到对应的待处理基频曲线;进而依据待处理基频曲线和跟随伴奏进行标准演唱时演唱音高对应的参考基频曲线,同步对齐目标伴奏与待处理演唱语音,用以进行语音与伴奏的合成。采用本申请技术方案,能够基于待处理基频曲线与参考基频曲线之间的比对自动对齐演唱语音与伴奏,可以解决伴奏与演唱语音自动对齐问题,实现让伴奏与演唱语音同步起来得到时间上无偏差的合成作品。
上述发明内容仅是本发明技术方案的概述,为了能够更清楚了解本发明的技术手段,而可依照说明书的内容予以实施,并且为了让本发明的上述和其它目的、特征和优点能够更明显易懂,以下特举本发明的具体实施方式。
附图说明
通过阅读参照以下附图所作的对非限制性实施例所作的详细描述,本发明的其它特征、目的和优点将会变得更明显。附图仅用于示出优选实施方式的目的,而并不认为是对本发明的限制。而且在整个附图中,用相同的参考符号表示相同的部件。在附图中:
图1是本发明实施例中提供的一种语音处理方法的流程图;
图2是本发明实施例中提供的一种歌词部分对应的参考基频曲线的示意图;
图3是本发明实施例中提供的另一种语音处理方法的流程图;
图4是本发明实施例中提供的一种基频曲线匹配的过程示意图;
图5是本发明实施例中提供的一种基频曲线匹配的结果示意图;
图6是本发明实施例中提供的一种语音处理装置的结构图;
图7是本发明实施例中提供的一种电子设备的结构示意图。
具体实施方式
下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释本发明,而非对本发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与本发明相关的部分而非全部结构。
在更加详细地讨论示例性实施例之前应当提到的是,一些示例性实施例被描述成作为流程图描绘的处理或方法。虽然流程图将各项操作(或步骤)描述成顺序的处理,但是其中的许多操作可以被并行地、并发地或者同时实施。此外,各项操作的顺序可以被重新安排。当其操作完成时所述处理可以被终止,但是还可以具有未包括在附图中的附加步骤。所述处理可以对应于方法、函数、规程、子例程、子程序等等。
图1是本发明实施例中提供的一种语音处理方法的流程图,本实施例的技术方案可适用于对跟随演唱的语音与伴奏进行对齐的情况,该方法可由语音处理装置来执行,该装置可由软件和/或硬件实现,并可集成于具有网络通信功能的电子设备中。如图1所示,本实施例中的语音处理方法,可包括以下步骤:
S110、获取跟随目标伴奏进行演唱所形成的待处理演唱语音。
在进行演唱时,能够实时播放目标伴奏、字母以及音高等提示信息,而用户可以基于提示信息跟随目标伴奏以及字幕信息进行演唱,可通过语音采集设备采集用户跟随目标伴奏进行演唱所形成的语音,这里记为待处理演唱语音。
语音采集设备可包括有线耳麦以及无线耳麦。当用户使用有线耳麦时,采集进来的用户语音基本能做到很小延迟,使得录制进来的语音与播放的伴奏的时间线可以严格对齐,在听觉上不会产生太大的延迟。
在本实施例的一种可选方案中,获取跟随目标伴奏进行演唱所形成的待处理演唱语音,可包括以下步骤:在跟随目标伴奏进行演唱时,获取通过无线耳麦采集的进行演唱所形成的待处理演唱语音。
尤其是,当用户使用无线耳麦时,例如蓝牙无线耳麦,相比有线耳麦录制进去的语音会在听觉上产生非常明显的延迟,实际到达演唱应用端的语音数据已经产生了听觉上可以感知到的几百毫秒甚至更多的延迟,从而使得最终演唱语音与伴奏合成之后完全不在节拍上,导致合成的演唱作品存在较大缺陷。
S120、对待处理演唱语音进行基频提取,得到对应的待处理基频曲线。
对于用户跟随伴奏演唱得到的待处理演唱语音对应多个音高,待处理演唱语音对应的各个音高用来给演唱音准打分的重要依据。音高其实是一系列基频信息经过变换后得到的,音频就是衡量音高的准则,参见国际标准音高和基频的对应关系;例如,标准中音C4对应的基频是261.632Hz。因此,通过设置基频提取算法,可从待处理演唱语音中提取由多个基频点在时间上形成连续所得到的曲线,这里记为待处理基频曲线。
S130、依据待处理基频曲线和参考基频曲线,同步对齐目标伴奏与待处理演唱语音,用以进行语音与伴奏的合成;其中参考基频曲线包括跟随伴奏进行标准演唱时演唱音高对应的基频信息。
演唱应用使用的歌曲伴奏有要演唱歌词部分对应的参考音高信息,参考音高其实是一系列基频信息经过变换后得到的,因此可基于伴奏的演唱歌词部分对应的参考音高信息得到对应的参考基频曲线。参见图2,参考基频曲线具体可为用户跟随伴奏按照伴奏的演唱歌词部分进行标准演唱时演唱音高对应的基频信息;例如有了参考基频信息后,这些基频点在时间上形成连续得到了参考基频曲线,该参考基频曲线将作为进行伴奏与语音对齐的依据,一条参考基频曲线的纵轴为基频,单位Hz,横轴为时间点,单位秒。
如果不考虑传输带来的延迟,实际演唱过程中用户的演唱语音与伴奏是同步的,但由于语音需要通过语音采集录制到终端应用设备中,因此录制进来语音会产生听觉上延迟。由于演唱者配合目标伴奏进行跟随演唱,即便实际到达演唱应用端的语音数据已经产生了听觉上可以感知的延迟,导致伴奏与语音有所出入,例如音准(即音高)或者节奏(即每个音符的持续时间和停顿),但是待处理基频曲线的总体曲线趋势仍然是尽量吻合参考基频曲线的趋势。基于此原理,可以通过对比待处理基频曲线和参考基频曲线之间的曲线趋势来控制目标伴奏与待处理演唱语音,进而在同步对齐后进行语音与伴奏的合成操作。
根据本发明实施例中提供的语音处理方法,能够基于待处理基频曲线与参考基频曲线之间的比对自动对齐演唱语音与伴奏,可以解决伴奏与演唱语音自动对齐问题,实现让伴奏与演唱语音同步起来得到时间上无偏差的合成作品。
图3是本发明实施例中提供的另一种语音处理方法的流程图。本申请实施例在上述实施例的基础上进行优化,本申请实施例可以与上述一个或者多个实施例中各个可选方案结合。如图3所示,本实施例中提供的语音处理方法,可包括以下步骤:
S310、获取跟随目标伴奏进行演唱所形成的待处理演唱语音。
S320、对待处理演唱语音进行基频提取,得到对应的待处理基频曲线。
S330、控制待处理基频曲线进行前后移动,并对移动的待处理基频曲线与参考基频曲线进行曲线趋势匹配;参考基频曲线包括跟随伴奏进行标准演唱时演唱音高对应的基频信息。
在本实施例的一种可选方案中,控制待处理基频曲线进行前后移动,并对移动的待处理基频曲线与参考基频曲线进行曲线趋势匹配,可包括步骤A1-A2:
步骤A1、确定待处理基频曲线相对参考基频曲线的预设时间偏移范围。
步骤A2、控制待处理基频曲线按照预设时间偏移范围进行前后移动,并对移动的待处理基频曲线与所述参考基频曲线进行曲线趋势匹配。
参见图4,根据演唱语音的延迟评估经验,可以针对演唱语音设置一个最大时间偏移系数T,例如500ms,即配置假设麦克风最大的延迟时间或者演唱语音提前演唱的时间不会超过500ms。这样,待处理基频曲线相对参考基频曲线的延迟时间通常是在-T<t<T的一个预设时间偏移范围内进行延迟。
参见图4,简单来讲就是,演唱语音录制到演唱应用端时很可能会提前或者延迟,但是提前或者延迟通常是在一个预设时间偏移范围内,而很少偏移超过这个预设时间偏移范围。因此,在对待处理基频曲线进行前后移动不是全覆盖移动,而是选择在预设时间偏移范围进行移动,并对移动的待处理基频曲线与所述参考基频曲线进行曲线趋势匹配,找到两条曲线的匹配点,避免过多的前后移动次数浪费计算资源以及增加同步对齐难度。
在本实施例的一种可选方案中,对移动的待处理基频曲线与参考基频曲线进行曲线趋势匹配,可包括步骤B1-B2:
步骤B1、依据移动的待处理基频曲线与参考基频曲线在同一时间位置的基频值,计算移动的待处理基频曲线与参考基频曲线之间的绝对平均误差。
步骤B2、依据移动的待处理基频曲线与参考基频曲线之间的绝对平均误差大小,确定移动的待处理基频曲线与参考基频曲线是否完成曲线趋势匹配。
参见图4与图5,设ref(t)为参考基频曲线商参考基频时间t对应的基频值,ans(t)为待处理基频曲线上演唱语音的基频时间t对应的基频值,L为参考基频曲线的时间长度。控制待处理基频曲线按照预设时间偏移范围进行前后移动,初始化将演唱基频曲线时移t时候的累积误差,计算各个基频时间下参考基频曲线和待处理演唱语音的待处理基频曲线的基频值绝对差累积,得到待处理基频曲线和参考基频曲线之间的最小绝对平均误差,经过移动匹配计算后得到的待处理基频曲线与参考基频曲线之间的最佳匹配点。
S340、依据匹配结束时待处理基频曲线相对参考基频曲线的移动时间差,同同步对齐待处理演唱语音与所述目标伴奏,用以进行语音与伴奏的合成。
参见图4与图5,在确定待处理基频曲线相对参考基频曲线产生延迟或提前的一个预设时间偏移范围后,可以运用最小绝对平均误差准则在一个正负T的预设时间偏移范围内移动待处理基频曲线,计算待处理基频曲线和参考基频曲线之间的最小绝对平均误差,在这个范围内找到的对应最小平均误差值的移动时间差,就是需要将演唱语音提前或者延迟的时间。经过这样的处理,即便麦克风有较大延迟也可以在后期合成的时候,让伴奏与演唱语音同步起来,从而得到时间上无偏差的合成作品。
图6是本发明实施例中提供的一种语音处理装置的结构框图,本实施例的技术方案可适用于对跟随演唱的语音与伴奏进行对齐的情况,该装置可由软件和/或硬件实现,并可集成于具有网络通信功能的电子设备中。如图6所示,本实施例中的语音处理装置,可包括以下:
语音获取模块610,用于获取跟随目标伴奏进行演唱所形成的待处理演唱语音;
基频提取模块620,用于对所述待处理演唱语音进行基频提取,得到对应的待处理基频曲线;
语音对齐模块630,用于依据所述待处理基频曲线和参考基频曲线,同步对齐所述目标伴奏与所述待处理演唱语音,用以进行语音与伴奏的合成;所述参考基频曲线包括跟随伴奏进行标准演唱时演唱音高对应的基频信息。
在上述实施例的基础上,可选地,语音获取模块610包括:
在跟随目标伴奏进行演唱时,获取通过无线耳麦采集的进行演唱所形成的待处理演唱语音。
在上述实施例的基础上,可选地,语音对齐模块630包括:
控制待处理基频曲线进行前后移动,并对移动的待处理基频曲线与参考基频曲线进行曲线趋势匹配;
依据匹配结束时待处理基频曲线相对所述参考基频曲线的移动时间差,同同步对齐所述待处理演唱语音与所述目标伴奏。
在上述实施例的基础上,可选地,控制待处理基频曲线进行前后移动,并对移动的待处理基频曲线与参考基频曲线进行曲线趋势匹配,包括:
确定所述待处理基频曲线相对参考基频曲线的预设时间偏移范围;
控制待处理基频曲线按照预设时间偏移范围进行前后移动,并对移动的待处理基频曲线与所述参考基频曲线进行曲线趋势匹配。
在上述实施例的基础上,可选地,对移动的待处理基频曲线与参考基频曲线进行曲线趋势匹配,包括:
依据移动的待处理基频曲线与参考基频曲线在同一时间位置的基频值,计算移动的待处理基频曲线与参考基频曲线之间的绝对平均误差;
依据移动的待处理基频曲线与参考基频曲线之间的绝对平均误差大小,确定移动的待处理基频曲线与参考基频曲线是否完成曲线趋势匹配。
本发明实施例中所提供的语音处理装置可执行上述本发明任意实施例中所提供的语音处理方法,具备执行该语音处理方法相应的功能和有益效果,详细过程参见前述实施例中语音处理方法的相关操作。
图7是本发明实施例中提供的一种电子设备的结构示意图。如图7所示结构,本发明实施例中提供的电子设备包括:一个或多个处理器710和存储装置720;该电子设备中的处理器710可以是一个或多个,图7中以一个处理器710为例;存储装置720用于存储一个或多个程序;所述一个或多个程序被所述一个或多个处理器710执行,使得所述一个或多个处理器710实现如本发明实施例中任一项所述的语音处理方法。
该电子设备还可以包括:输入装置730和输出装置740。
该电子设备中的处理器710、存储装置720、输入装置730和输出装置740可以通过总线或其他方式连接,图7中以通过总线连接为例。
该电子设备中的存储装置720作为一种计算机可读存储介质,可用于存储一个或多个程序,所述程序可以是软件程序、计算机可执行程序以及模块,如本发明实施例中所提供的语音处理方法对应的程序指令/模块。处理器710通过运行存储在存储装置720中的软件程序、指令以及模块,从而执行电子设备的各种功能应用以及数据处理,即实现上述方法实施例中语音处理方法。
存储装置720可包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序;存储数据区可存储根据电子设备的使用所创建的数据等。此外,存储装置720可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他非易失性固态存储器件。在一些实例中,存储装置720可进一步包括相对于处理器710远程设置的存储器,这些远程存储器可以通过网络连接至设备。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
输入装置730可用于接收输入的数字或字符信息,以及产生与电子设备的用户设置以及功能控制有关的键信号输入。输出装置740可包括显示屏等显示设备。
并且,当上述电子设备所包括一个或者多个程序被所述一个或者多个处理器710执行时,程序进行如下操作:
获取跟随目标伴奏进行演唱所形成的待处理演唱语音;
对所述待处理演唱语音进行基频提取,得到对应的待处理基频曲线;
依据所述待处理基频曲线和参考基频曲线,同步对齐所述目标伴奏与所述待处理演唱语音,用以进行语音与伴奏的合成;所述参考基频曲线包括跟随伴奏进行标准演唱时演唱音高对应的基频信息。
当然,本领域技术人员可以理解,当上述电子设备所包括一个或者多个程序被所述一个或者多个处理器710执行时,程序还可以进行本发明任意实施例中所提供的语音处理方法中的相关操作。
本发明实施例中提供了一种计算机可读介质,其上存储有计算机程序,该程序被处理器执行时用于执行语音处理方法,该方法包括:
获取跟随目标伴奏进行演唱所形成的待处理演唱语音;
对所述待处理演唱语音进行基频提取,得到对应的待处理基频曲线;
依据所述待处理基频曲线和参考基频曲线,同步对齐所述目标伴奏与所述待处理演唱语音,用以进行语音与伴奏的合成;所述参考基频曲线包括跟随伴奏进行标准演唱时演唱音高对应的基频信息。
可选的,该程序被处理器执行时还可以用于执行本发明任意实施例中所提供的语音处理方法。
本发明实施例的计算机存储介质,可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(Random AccessMemory,RAM)、只读存储器(Read Only Memory,ROM)、可擦式可编程只读存储器(ErasableProgrammable Read Only Memory,EPROM)、闪存、光纤、便携式CD-ROM、光存储器件、磁存储器件、或者上述的任意合适的组合。计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于:电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、无线电频率(RadioFrequency,RF)等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本发明操作的计算机程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)——连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
在本说明书的描述中,参考术语“一个实施例”、“一些实施例”、“示例”、“具体示例”、或“一些示例”等的描述意指结合该实施例或示例描述的具体特征、结构、材料或者特点包含于本发明的至少一个实施例或示例中。在本说明书中,对上述术语的示意性表述不一定指的是相同的实施例或示例。而且,描述的具体特征、结构、材料或者特点可以在任何的一个或多个实施例或示例中以合适的方式结合。
注意,上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解,本发明不限于这里所述的特定实施例,对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此,虽然通过以上实施例对本发明进行了较为详细的说明,但是本发明不仅仅限于以上实施例,在不脱离本发明构思的情况下,还可以包括更多其他等效实施例,而本发明的范围由所附的权利要求范围决定。
Claims (7)
1.一种语音处理方法,其特征在于,包括:
获取跟随目标伴奏进行演唱所形成的待处理演唱语音;
对所述待处理演唱语音进行基频提取,得到对应的待处理基频曲线;
依据所述待处理基频曲线和参考基频曲线,同步对齐所述目标伴奏与所述待处理演唱语音,用以进行语音与伴奏的合成;所述参考基频曲线包括跟随伴奏进行标准演唱时演唱音高对应的基频信息;
依据所述待处理基频曲线和参考基频曲线,同步对齐所述目标伴奏与所述待处理演唱语音,包括:
控制待处理基频曲线进行前后移动,并对移动的待处理基频曲线与参考基频曲线进行曲线趋势匹配;
依据匹配结束时待处理基频曲线相对所述参考基频曲线的移动时间差,同步对齐所述待处理演唱语音与所述目标伴奏;
所述控制待处理基频曲线进行前后移动,并对移动的待处理基频曲线与参考基频曲线进行曲线趋势匹配,包括:
确定所述待处理基频曲线相对参考基频曲线的预设时间偏移范围;
控制待处理基频曲线按照预设时间偏移范围进行前后移动,并对移动的待处理基频曲线与所述参考基频曲线进行曲线趋势匹配;
所述依据匹配结束时待处理基频曲线相对所述参考基频曲线的移动时间差,同步对齐所述待处理演唱语音与所述目标伴奏,包括:
根据最小平均误差准则在一个正负T的预设时间偏移范围内移动待处理基频曲线,计算待处理基频曲线和参考基频曲线之间的最小绝对平均误差,在这个范围内找到对应最小平均误差值的移动时间差。
2.根据权利要求1所述的方法,其特征在于,获取跟随目标伴奏进行演唱所形成的待处理演唱语音,包括:
在跟随目标伴奏进行演唱时,获取通过无线耳麦采集的进行演唱所形成的待处理演唱语音。
3.根据权利要求1所述的方法,其特征在于,对移动的待处理基频曲线与参考基频曲线进行曲线趋势匹配,包括:
依据移动的待处理基频曲线与参考基频曲线在同一时间位置的基频值,计算移动的待处理基频曲线与参考基频曲线之间的绝对平均误差;
依据移动的待处理基频曲线与参考基频曲线之间的绝对平均误差大小,确定移动的待处理基频曲线与参考基频曲线是否完成曲线趋势匹配。
4.一种语音处理装置,其特征在于,包括:
语音获取模块,用于获取跟随目标伴奏进行演唱所形成的待处理演唱语音;
基频提取模块,用于对所述待处理演唱语音进行基频提取,得到对应的待处理基频曲线;
语音对齐模块,用于依据所述待处理基频曲线和参考基频曲线,同步对齐所述目标伴奏与所述待处理演唱语音,用以进行语音与伴奏的合成;所述参考基频曲线包括跟随伴奏进行标准演唱时演唱音高对应的基频信息;
语音对齐模块包括:
控制待处理基频曲线进行前后移动,并对移动的待处理基频曲线与参考基频曲线进行曲线趋势匹配;
依据匹配结束时待处理基频曲线相对所述参考基频曲线的移动时间差,同步对齐所述待处理演唱语音与所述目标伴奏;
所述控制待处理基频曲线进行前后移动,并对移动的待处理基频曲线与参考基频曲线进行曲线趋势匹配,包括:
确定所述待处理基频曲线相对参考基频曲线的预设时间偏移范围;
控制待处理基频曲线按照预设时间偏移范围进行前后移动,并对移动的待处理基频曲线与所述参考基频曲线进行曲线趋势匹配;
所述依据匹配结束时待处理基频曲线相对所述参考基频曲线的移动时间差,同步对齐所述待处理演唱语音与所述目标伴奏,包括:
根据最小平均误差准则在一个正负T的预设时间偏移范围内移动待处理基频曲线,计算待处理基频曲线和参考基频曲线之间的最小绝对平均误差,在这个范围内找到对应最小平均误差值的移动时间差。
5.根据权利要求4所述的装置,其特征在于,语音获取模块包括:
在跟随目标伴奏进行演唱时,获取通过无线耳麦采集的进行演唱所形成的待处理演唱语音。
6.一种电子设备,其特征在于,包括:
一个或多个处理装置;
存储装置,用于存储一个或多个程序;
当所述一个或多个程序被所述一个或多个处理装置执行,使得所述一个或多个处理装置实现权利要求1-3中任一所述的语音处理方法。
7.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理装置执行时实现权利要求1-3中任一所述的语音处理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110328168.5A CN113096623B (zh) | 2021-03-26 | 2021-03-26 | 语音处理方法、装置、电子设备及介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110328168.5A CN113096623B (zh) | 2021-03-26 | 2021-03-26 | 语音处理方法、装置、电子设备及介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113096623A CN113096623A (zh) | 2021-07-09 |
CN113096623B true CN113096623B (zh) | 2023-07-14 |
Family
ID=76670225
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110328168.5A Active CN113096623B (zh) | 2021-03-26 | 2021-03-26 | 语音处理方法、装置、电子设备及介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113096623B (zh) |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CA2059484C (en) * | 1991-01-16 | 1996-01-23 | Mihoji Tsumura | Vocal display device |
WO2004097800A1 (ja) * | 2003-05-02 | 2004-11-11 | Konami Corporation | 音声再生プログラム、音声再生方法及び音声再生装置 |
CN105976803A (zh) * | 2016-04-25 | 2016-09-28 | 南京理工大学 | 一种结合乐谱的音符切分方法 |
CN109979422A (zh) * | 2019-02-21 | 2019-07-05 | 百度在线网络技术(北京)有限公司 | 基频处理方法、装置、设备及计算机可读存储介质 |
CN111326171A (zh) * | 2020-01-19 | 2020-06-23 | 成都嗨翻屋科技有限公司 | 一种基于简谱识别和基频提取的人声旋律提取方法及系统 |
CN112216259A (zh) * | 2020-11-17 | 2021-01-12 | 北京达佳互联信息技术有限公司 | 人声伴奏对齐方法及装置 |
-
2021
- 2021-03-26 CN CN202110328168.5A patent/CN113096623B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CA2059484C (en) * | 1991-01-16 | 1996-01-23 | Mihoji Tsumura | Vocal display device |
WO2004097800A1 (ja) * | 2003-05-02 | 2004-11-11 | Konami Corporation | 音声再生プログラム、音声再生方法及び音声再生装置 |
CN105976803A (zh) * | 2016-04-25 | 2016-09-28 | 南京理工大学 | 一种结合乐谱的音符切分方法 |
CN109979422A (zh) * | 2019-02-21 | 2019-07-05 | 百度在线网络技术(北京)有限公司 | 基频处理方法、装置、设备及计算机可读存储介质 |
CN111326171A (zh) * | 2020-01-19 | 2020-06-23 | 成都嗨翻屋科技有限公司 | 一种基于简谱识别和基频提取的人声旋律提取方法及系统 |
CN112216259A (zh) * | 2020-11-17 | 2021-01-12 | 北京达佳互联信息技术有限公司 | 人声伴奏对齐方法及装置 |
Non-Patent Citations (1)
Title |
---|
基于小波变换的基音同步叠加技术;刘轶等;《中国科学技术大学学报》;19980830(第04期);全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN113096623A (zh) | 2021-07-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9123319B2 (en) | Vocal processing with accompaniment music input | |
JP2019204074A (ja) | 音声対話方法、装置及びシステム | |
CN111383646B (zh) | 一种语音信号变换方法、装置、设备和存储介质 | |
EP3197139B1 (en) | Information processing system, information processing device, and information processing method | |
US20210335332A1 (en) | Video processing device and video processing method | |
CN105718486B (zh) | 在线哼唱检索方法及系统 | |
CN112165647B (zh) | 音频数据的处理方法、装置、设备及存储介质 | |
JP4608650B2 (ja) | 既知音響信号除去方法及び装置 | |
CN105828254A (zh) | 一种音频调节方法及装置 | |
CN111958588A (zh) | 一种多机器人数据同步的控制方法及系统 | |
CN113096623B (zh) | 语音处理方法、装置、电子设备及介质 | |
JP4274419B2 (ja) | 音響信号除去装置、音響信号除去方法及び音響信号除去プログラム | |
JP2015161710A (ja) | カラオケ装置、及びカラオケ用プログラム | |
JP2014035436A (ja) | 音声処理装置 | |
US20230335090A1 (en) | Information processing device, information processing method, and program | |
JP4595948B2 (ja) | データ再生装置、データ再生方法およびプログラム | |
CN112365568A (zh) | 音频处理方法、装置、电子设备和存储介质 | |
JP2009282536A (ja) | 既知音響信号除去方法及び装置 | |
JP5131130B2 (ja) | 追従性評価システム,カラオケシステムおよびプログラム | |
JP6559051B2 (ja) | 発声機能を備えたロボット装置、発声制御方法およびプログラム | |
CN113674723B (zh) | 一种音频处理方法、计算机设备及可读存储介质 | |
JP2010237532A (ja) | カラオケシステム、カラオケ装置、サーバ | |
KR102344618B1 (ko) | 음성인식 품질평가장치 및 그 동작 방법 | |
US20220139363A1 (en) | Conversion of Music Audio to Enhanced MIDI Using Two Inference Tracks and Pattern Recognition | |
JP4274418B2 (ja) | 音響信号除去装置、音響信号除去方法及び音響信号除去プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
TA01 | Transfer of patent application right |
Effective date of registration: 20210903 Address after: 301-112, floor 3, building 2, No. 18, YANGFANGDIAN Road, Haidian District, Beijing 100038 Applicant after: Beijing Rubu Technology Co.,Ltd. Address before: Room 508-598, Xitian Gezhuang Town Government Office Building, No. 8 Xitong Road, Miyun District Economic Development Zone, Beijing 101500 Applicant before: BEIJING ROOBO TECHNOLOGY Co.,Ltd. |
|
TA01 | Transfer of patent application right | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |