CN111798821A - 声音转换方法、装置、可读存储介质及电子设备 - Google Patents

声音转换方法、装置、可读存储介质及电子设备 Download PDF

Info

Publication number
CN111798821A
CN111798821A CN202010611545.1A CN202010611545A CN111798821A CN 111798821 A CN111798821 A CN 111798821A CN 202010611545 A CN202010611545 A CN 202010611545A CN 111798821 A CN111798821 A CN 111798821A
Authority
CN
China
Prior art keywords
song
target
singing
characteristic information
singing audio
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202010611545.1A
Other languages
English (en)
Other versions
CN111798821B (zh
Inventor
顾宇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing ByteDance Network Technology Co Ltd
Original Assignee
Beijing ByteDance Network Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing ByteDance Network Technology Co Ltd filed Critical Beijing ByteDance Network Technology Co Ltd
Priority to CN202010611545.1A priority Critical patent/CN111798821B/zh
Publication of CN111798821A publication Critical patent/CN111798821A/zh
Application granted granted Critical
Publication of CN111798821B publication Critical patent/CN111798821B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H1/00Details of electrophonic musical instruments
    • G10H1/0033Recording/reproducing or transmission of music for electrophonic musical instruments
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H1/00Details of electrophonic musical instruments
    • G10H1/0008Associated control or indicating means
    • G10H1/0025Automatic or semi-automatic music composition, e.g. producing random music, applying rules from music theory or modifying a musical piece
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H2210/00Aspects or methods of musical processing having intrinsic musical character, i.e. involving musical theory or musical parameters or relying on musical knowledge, as applied in electrophonic musical tools or instruments
    • G10H2210/031Musical analysis, i.e. isolation, extraction or identification of musical elements or musical parameters from a raw acoustic signal or from an encoded audio signal
    • G10H2210/056Musical analysis, i.e. isolation, extraction or identification of musical elements or musical parameters from a raw acoustic signal or from an encoded audio signal for extraction or identification of individual instrumental parts, e.g. melody, chords, bass; Identification or separation of instrumental parts by their characteristic voices or timbres
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10HELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H2250/00Aspects of algorithms or signal processing methods without intrinsic musical character, yet specifically adapted for or used in electrophonic musical processing
    • G10H2250/131Mathematical functions for musical analysis, processing, synthesis or composition

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Acoustics & Sound (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本公开涉及一种声音转换方法、装置、可读存储介质及电子设备。所述方法包括:根据对应于目标歌曲的待转换歌唱音频,通过歌曲识别模型确定所述待转换歌唱音频的歌曲特征信息,其中,所述歌曲特征信息从所述歌曲识别模型的隐层获得;根据所述歌曲特征信息,通过与目标用户对应的目标歌唱合成模型获得目标声学特征信息;根据所述目标声学特征信息,获得所述目标用户对应于所述目标歌曲的歌唱音频。其中,待转换歌唱音频的歌曲特征信息从歌曲识别模型的隐层获得,兼具声学和语言学特征,从而,基于该歌曲特征信息得到的歌唱音频不但是由目标用户演唱的版本,还同时具有原歌唱者的歌唱特点,能够提升用户体验。

Description

声音转换方法、装置、可读存储介质及电子设备
技术领域
本公开涉及计算机技术领域,具体地,涉及一种声音转换方法、装置、可读存储介质及电子设备。
背景技术
在歌唱领域,同一首歌曲可以有不同的唱法,不同的人对同一首歌也有不同的歌唱方式,在一些场景中,需要将一个人演唱的歌曲转换为由另一个人演唱的版本,也就是歌曲歌唱者的声音转换。相关技术中,若需要将由一个用户(第一用户)演唱的歌曲转换为由第二用户(除第一用户外的其他任一用户)演唱的版本,一般采用模板匹配的技术,通过这种方式得到的结果,由于采用了类似音乐检索的方式直接进行模板匹配,无法保留第一用户的歌唱特点(例如,唱腔、节奏等),与第一用户原始演唱的歌曲存在较大区别,结果并不理想。
发明内容
提供该发明内容部分以便以简要的形式介绍构思,这些构思将在后面的具体实施方式部分被详细描述。该发明内容部分并不旨在标识要求保护的技术方案的关键特征或必要特征,也不旨在用于限制所要求的保护的技术方案的范围。
第一方面,本公开提供一种声音转换方法,所述方法包括:
根据对应于目标歌曲的待转换歌唱音频,通过歌曲识别模型确定所述待转换歌唱音频的歌曲特征信息,其中,所述歌曲特征信息从所述歌曲识别模型的隐层获得;
根据所述歌曲特征信息,通过与目标用户对应的目标歌唱合成模型获得目标声学特征信息;
根据所述目标声学特征信息,获得所述目标用户对应于所述目标歌曲的歌唱音频。
第二方面,本公开提供一种声音转换装置,所述装置包括:
第一确定模块,用于根据对应于目标歌曲的待转换歌唱音频,通过歌曲识别模型确定所述待转换歌唱音频的歌曲特征信息,其中,所述歌曲特征信息从所述歌曲识别模型的隐层获得;
第二确定模块,用于根据所述歌曲特征信息,通过与目标用户对应的目标歌唱合成模型获得目标声学特征信息;
歌唱合成模块,用于根据所述目标声学特征信息,获得所述目标用户对应于所述目标歌曲的歌唱音频。
第三方面,本公开提供一种非暂态计算机可读存储介质,其上存储有计算机程序,该程序被处理装置执行时实现本公开第一方面所述方法的步骤。
第四方面,本公开提供一种电子设备,包括:
存储装置,其上存储有计算机程序;
处理装置,用于执行所述存储装置中的所述计算机程序,以实现本公开第一方面所述方法的步骤。
通过上述技术方案,根据对应于目标歌曲的待转换歌唱音频,通过歌曲识别模型确定待转换歌唱音频的歌曲特征信息,根据歌曲特征信息,通过与目标用户对应的目标歌唱合成模型获得目标声学特征信息,并根据目标声学特征信息,获得目标用户对应于目标歌曲的歌唱音频。其中,待转换歌唱音频的歌曲特征信息从歌曲识别模型的隐层获得,兼具声学和语言学特征,既能反映待转换歌唱音频的歌唱者的歌唱特点(如发音韵律、节奏、唱腔等),又能反映待转换歌唱音频的歌词内容,从而,基于该歌曲特征信息得到的歌唱音频不但是由目标用户演唱的版本,还同时具有原歌唱者的歌唱特点,能够提升用户体验。
本公开的其他特征和优点将在随后的具体实施方式部分予以详细说明。
附图说明
结合附图并参考以下具体实施方式,本公开各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中,相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的,原件和元素不一定按照比例绘制。在附图中:
图1是根据本公开的一种实施方式提供的声音转换方法的流程图;
图2是根据本公开提供的声音转换方法中,歌曲识别模型的获得方式的一种示例性流程图;
图3是根据本公开提供的声音转换方法中,目标歌唱合成模型的获得方式的一种示例性流程图;
图4是根据本公开的一种实施方式提供的声音转换装置的框图;
图5示出了适于用来实现本公开实施例的电子设备的结构示意图。
具体实施方式
下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例,然而应当理解的是,本公开可以通过各种形式来实现,而且不应该被解释为限于这里阐述的实施例,相反提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是,本公开的附图及实施例仅用于示例性作用,并非用于限制本公开的保护范围。
应当理解,本公开的方法实施方式中记载的各个步骤可以按照不同的顺序执行,和/或并行执行。此外,方法实施方式可以包括附加的步骤和/或省略执行示出的步骤。本公开的范围在此方面不受限制。
本文使用的术语“包括”及其变形是开放性包括,即“包括但不限于”。术语“基于”是“至少部分地基于”。术语“一个实施例”表示“至少一个实施例”;术语“另一实施例”表示“至少一个另外的实施例”;术语“一些实施例”表示“至少一些实施例”。其他术语的相关定义将在下文描述中给出。
需要注意,本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分,并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。
需要注意,本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的,本领域技术人员应当理解,除非在上下文另有明确指出,否则应该理解为“一个或多个”。
本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的,而并不是用于对这些消息或信息的范围进行限制。
在歌唱领域,同一首歌曲可以有不同的唱法,不同的人对同一首歌也有不同的歌唱方式,在一些场景中,需要将一个人演唱的歌曲转换为由另一个人演唱的版本,也就是歌曲歌唱者的声音转换。相关技术中,若需要将由一个用户(第一用户)演唱的歌曲转换为由第二用户(除第一用户外的其他任一用户)演唱的版本,一般采用模板匹配的技术,首先,通过第一用户演唱的歌曲,获得第一用户所演唱歌曲的有关于乐曲的特征,从第二用户历史演唱的歌曲中找到能够与这个特征相匹配的演唱内容,进而获得由第二用户演唱的歌曲。通过这种方式得到的结果,由于采用了类似音乐检索的方式直接匹配,无法保留第一用户的歌唱特点(例如,唱腔、节奏等),与第一用户原始演唱的歌曲存在较大区别,结果并不理想。
为了解决上述问题,本公开提供一种声音转换方法、装置、可读存储介质及电子设备,以准确地将一个用户演唱的歌曲转换为由另一个用户演唱的版本。
图1是根据本公开的一种实施方式提供的声音转换方法的流程图。如图1所示,该方法可以包括以下步骤。
在步骤11中,根据对应于目标歌曲的待转换歌唱音频,通过歌曲识别模型确定待转换歌唱音频的歌曲特征信息。
待转换歌唱音频为用户(示例地,该用户可以为除目标用户之外的其他用户)演唱目标歌曲所形成的音频。以及,待转换歌唱音频可以为不含背景音乐的人声音频。
在本公开的应用场景中,需要将待转换歌唱音频转换为由目标用户演唱的版本。因此,首先,需要根据待转换歌唱音频,通过歌曲识别模型,确定待转换歌唱音频的歌曲特征信息。
歌曲识别模型用于识别歌唱音频所对应的歌词信息和乐谱信息。歌曲识别模型是在前期预先获得的,在本公开的方案中,歌曲识别模型可以用于对待转换歌唱音频的歌曲特征信息进行提取。即,根据对应于目标歌曲的待转换歌唱音频,通过歌曲识别模型确定待转换歌唱音频的歌曲特征信息。示例地,待转换歌唱音频的歌曲特征信息可以表现为特征向量的形式。
待转换歌唱音频的歌曲特征信息可以从歌曲识别模型的隐层获得。歌曲识别模型可以看做是声学(歌唱音频)到语言学(歌词和乐谱)的逐层映射过程,因此,越高层(靠近输出层)越接近语言学信息,越底层(靠近输入层)越接近声学,从歌曲识别模型的隐层获得的歌曲特征信息能够同时兼顾声学和语言学这两者,既能反映待转换歌唱音频的歌唱者的歌唱特点(如发音韵律、节奏等),又能反映待转换歌唱音频的歌词内容。
在步骤12中,根据歌曲特征信息,通过与目标用户对应的目标歌唱合成模型获得目标声学特征信息。
其中,声学特征信息为能够用于合成音频的信息,基于声学特征信息可以直接合成出一段音频(例如,歌唱音频)。示例地,声学特征信息可以包括基频特征、谱包络特征、梅尔频谱特征等。
目标歌唱合成模型为与目标用户对应的歌唱合成模型。实际应用中,可以针对每一用户分别训练一个歌唱合成模型,从而,基于输入的歌曲特征信息,就能获得对应的用户的声学特征信息。
在实施时,可以将歌曲特征信息输入至目标歌唱合唱模型中,就能够得到目标歌唱合成模型的输出结果,即目标声学特征信息。其中,目标声学特征信息就是目标用户演唱目标歌曲所对应的声学特征信息,基于目标声学特征信息能够进一步获得目标用户演唱目标歌曲的歌唱音频。
在步骤13中,根据目标声学特征信息,获得目标用户对应于目标歌曲的歌唱音频。
如上所述,基于声学特征信息可以直接合成出一段音频。因此,基于目标声学特征信息,可直接合成出目标用户演唱目标歌曲的歌唱音频,合成出的目标用户演唱目标歌曲的歌唱音频是由目标用户演唱的、且带有待转换歌唱音频的歌唱者的歌唱特点(例如,发音韵律、节奏、唱腔等)的歌唱音频。
示例地,步骤13可以包括以下步骤:
通过声码器对目标声学特征信息进行合成,获得目标用户对应于目标歌曲的歌唱音频。
在通过上述步骤12获得目标声学特征信息后,可以将其输入到声码器(例如,Wavenet、Griffin-Lim、单层循环神经网络模型WaveRNN等)中,进行歌唱合成,得到目标用户对应于目标歌曲的歌唱音频。示例地,可以采用WaveRNN声码器合成该歌唱音频,能够获取更好的演唱音质。
通过上述技术方案,根据对应于目标歌曲的待转换歌唱音频,通过歌曲识别模型确定待转换歌唱音频的歌曲特征信息,根据歌曲特征信息,通过与目标用户对应的目标歌唱合成模型获得目标声学特征信息,并根据目标声学特征信息,获得目标用户对应于目标歌曲的歌唱音频。其中,待转换歌唱音频的歌曲特征信息从歌曲识别模型的隐层获得,兼具声学和语言学特征,既能反映待转换歌唱音频的歌唱者的歌唱特点(如发音韵律、节奏、唱腔等),又能反映待转换歌唱音频的歌词内容,从而,基于该歌曲特征信息得到的歌唱音频不但是由目标用户演唱的版本,还同时具有原歌唱者的歌唱特点,能够提升用户体验。
为了使本领域技术人员更加理解本发明实施例提供的技术方案,下面对上述步骤进行详细的说明。
首先,详细说明歌曲识别模型的获得方式。
示例地,如图2所示,歌曲识别模型可以通过以下方式获得:
在步骤21中,获取多组第一训练数据;
在步骤22中,根据多组第一训练数据,对神经网络模型进行训练,以获得歌曲识别模型。
其中,每组第一训练数据包括一第一历史歌唱音频以及该第一历史歌唱音频对应的歌词信息和乐谱信息。第一训练数据中所包含的第一历史歌唱音频可以来自各种用户,也可以是针对各种歌曲的歌唱音频。也就是说,在收集第一训练数据阶段,会收集各个用户已演唱的各种歌唱音频(作为第一历史歌唱音频)以及每一第一历史歌唱音频所对应的歌词信息和乐谱信息,用于训练歌曲识别模型。
在准备好多组第一训练数据后,就可以开始进行模型训练。神经网络模型一般包括输入层、隐藏层、输出层,其中,隐藏层可以为多个,具有多个隐藏层的神经网络模型属于深度神经网络模型。对模型训练的过程实际上就是对隐藏层内的各参数进行调整的过程。示例地,在每一次的训练过程中,可以将一第一历史歌唱音频作为输入数据,并将该第一历史歌唱音频对应的歌词信息和乐谱信息作为真实输出(输出的参考标准),对神经网络模型进行训练,并在一次次的训练过程中对模型内部的参数进行调整,直至满足模型训练结束条件,并将得到的模型作为歌曲识别模型。示例地,神经网络模型可以使用卷积神经网络模型。其中,基于已有训练数据对模型进行训练的过程属于本领域的公知技术,此处不进行过多说明。
下面对步骤11的实现方式进行详细说明。
在一种可能的实施方式中,歌曲识别模型可以设置有特征提取层,该特征提取层为靠近歌曲识别模型输出层的隐层之一,也就是说,选取歌曲识别模型中靠近输出层的某一隐层用于提取歌曲特征信息。示例地,特征提取层可以选取为隐层的最后一层或倒数第二层,也就是靠近输出层的倒数第一层或倒数第二层,它更为靠近音频的语言学特征,同时兼具声学特征。在这一实施方式中,步骤11可以包括以下步骤:
将待转换歌唱音频输入至歌曲识别模型,并将特征提取层的输出内容作为待转换歌唱音频的歌曲特征信息。
将待转换歌唱音频输入至歌曲识别模型后,不是获得歌曲识别模型的输出结果(歌词、乐谱),而是从歌曲识别模型的特征提取层中提取出待转换歌唱音频的歌曲特征信息,也就是将特征提取层的输出内容作为待转换歌唱音频的歌曲特征信息。
采用上述方式,能够基于待转换歌唱音频获得高质量的歌曲特征信息,该歌曲特征信息既能反映待转换歌唱音频的歌唱者的歌唱特点(如发音韵律、节奏、唱腔等),又能反映待转换歌唱音频的歌词内容,有利于后续生成高质量的歌唱音频。
下面对目标歌唱合成模型的获得方式进行详细说明。
可选地,如图3所示,目标歌唱合成模型可以通过以下方式获得:
在步骤31中,获取多组第二训练数据;
在步骤32中,根据多组第二训练数据,对神经网络模型进行训练,以获得目标歌唱合成模型。
其中,每组第二训练数据包括目标用户对应于第二历史歌唱音频的历史歌曲特征信息和历史声学特征信息。第二训练数据中所包含的第二历史歌唱音频均来自目标用户,也就是说,在收集第二训练数据阶段,会收集目标用户演唱的各种歌唱音频(即,第二历史歌唱音频)所对应的历史歌曲特征信息和历史声学特征信息,用于训练目标歌唱合成模型。
示例地,对应于第二历史歌唱音频的历史歌曲特征信息可以通过第二历史歌唱音频和歌曲识别模型获得,且历史歌曲特征信息是从歌曲识别模型的隐层获得的。即,将第二历史歌唱音频输入至歌曲识别模型,并将特征提取层的输出内容作为该第二历史歌唱音频的历史歌曲特征信息。而对应于第二历史歌唱音频的历史声学特征信息可以直接基于第二历史歌唱音频获得。例如,将历史歌唱音频的基频特征、谱包络特征、或、梅尔频谱特征作为其历史声学特征信息。
在准备好多组第二训练数据后,就可以开始进行模型训练。示例地,在每一次的训练过程中,可以将一历史歌曲特征信息作为输入数据、并将该历史歌曲特征信息对应的历史声学特征信息作为真实输出,对神经网络模型进行训练,并在一次次的训练过程中对模型内部的参数进行调整,直至满足模型训练结束条件,并将得到的模型作为目标歌唱合成模型。示例地,神经网络模型可以使用卷积神经网络模型。其中,基于已有训练数据对模型进行训练的过程属于本领域的公知技术,此处不进行过多说明。
图4是根据本公开的一种实施方式提供的声音转换装置的框图。如图2所示,该装置40可以包括:
第一确定模块41,用于根据对应于目标歌曲的待转换歌唱音频,通过歌曲识别模型确定所述待转换歌唱音频的歌曲特征信息,其中,所述歌曲特征信息从所述歌曲识别模型的隐层获得;
第二确定模块42,用于根据所述歌曲特征信息,通过与目标用户对应的目标歌唱合成模型获得目标声学特征信息;
歌唱合成模块43,用于根据所述目标声学特征信息,获得所述目标用户对应于所述目标歌曲的歌唱音频。
可选地,所述歌曲识别模型通过以下方式获得:
获取多组第一训练数据,每组所述第一训练数据包括一第一历史歌唱音频以及该第一历史歌唱音频对应的歌词信息和乐谱信息;
根据所述多组第一训练数据,对神经网络模型进行训练,以获得所述歌曲识别模型。
可选地,所述歌曲识别模型设置有特征提取层,所述特征提取层为靠近所述歌曲识别模型输出层的隐层之一;
所述第一确定模块41用于将所述待转换歌唱音频输入至所述歌曲识别模型,并将所述特征提取层的输出内容作为所述待转换歌唱音频的歌曲特征信息。
可选地,所述特征提取层为隐层的最后一层或倒数第二层。
可选地,所述目标歌唱合成模型通过以下方式获得:
获取多组第二训练数据,每组所述第二训练数据包括所述目标用户对应于第二历史歌唱音频的历史歌曲特征信息和历史声学特征信息;
根据所述多组第二训练数据,对神经网络模型进行训练,以获得所述目标歌唱合成模型。
可选地,所述对应于第二历史歌唱音频的历史歌曲特征信息通过所述第二历史歌唱音频和所述歌曲识别模型获得,且所述历史歌曲特征信息是从所述歌曲识别模型的隐层获得的。
可选地,所述歌唱合成模块43用于通过声码器对所述目标声学特征信息进行合成,获得所述目标用户对应于所述目标歌曲的歌唱音频。
关于上述实施例中的装置,其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述,此处将不做详细阐述说明。
下面参考图5,其示出了适于用来实现本公开实施例的电子设备600的结构示意图。本公开实施例中的终端设备可以包括但不限于诸如移动电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、车载终端(例如车载导航终端)等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。图5示出的电子设备仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图5所示,电子设备600可以包括处理装置(例如中央处理器、图形处理器等)601,其可以根据存储在只读存储器(ROM)602中的程序或者从存储装置608加载到随机访问存储器(RAM)603中的程序而执行各种适当的动作和处理。在RAM 603中,还存储有电子设备600操作所需的各种程序和数据。处理装置601、ROM 602以及RAM 603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。
通常,以下装置可以连接至I/O接口605:包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置606;包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置607;包括例如磁带、硬盘等的存储装置608;以及通信装置609。通信装置609可以允许电子设备600与其他设备进行无线或有线通信以交换数据。虽然图5示出了具有各种装置的电子设备600,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在非暂态计算机可读存储介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信装置609从网络上被下载和安装,或者从存储装置608被安装,或者从ROM 602被安装。在该计算机程序被处理装置601执行时,执行本公开实施例的方法中限定的上述功能。
需要说明的是,本公开上述的计算机可读存储介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读存储介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读存储介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
在一些实施方式中,客户端、服务器可以利用诸如HTTP(HyperTextTransferProtocol,超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信,并且可以与任意形式或介质的数字数据通信(例如,通信网络)互连。通信网络的示例包括局域网(“LAN”),广域网(“WAN”),网际网(例如,互联网)以及端对端网络(例如,ad hoc端对端网络),以及任何当前已知或未来研发的网络。
上述计算机可读存储介质可以是上述电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。
上述计算机可读存储介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备:根据对应于目标歌曲的待转换歌唱音频,通过歌曲识别模型确定所述待转换歌唱音频的歌曲特征信息,其中,所述歌曲特征信息从所述歌曲识别模型的隐层获得;根据所述歌曲特征信息,通过与目标用户对应的目标歌唱合成模型获得目标声学特征信息;根据所述目标声学特征信息,获得所述目标用户对应于所述目标歌曲的歌唱音频。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的操作的计算机程序代码,上述程序设计语言包括但不限于面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言——诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)——连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开实施例中所涉及到的模块可以通过软件的方式实现,也可以通过硬件的方式来实现。其中,模块的名称在某种情况下并不构成对该模块本身的限定,例如,第一确定模块还可以被描述为“根据对应于目标歌曲的待转换歌唱音频通过歌曲识别模型确定所述待转换歌唱音频的歌曲特征信息的模块”。
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如,非限制性地,可以使用的示范类型的硬件逻辑部件包括:现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD)等等。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行系统、装置或设备使用或与指令执行系统、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体系统、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
根据本公开的一个或多个实施例,提供了一种声音转换方法,所述方法包括:
根据对应于目标歌曲的待转换歌唱音频,通过歌曲识别模型确定所述待转换歌唱音频的歌曲特征信息,其中,所述歌曲特征信息从所述歌曲识别模型的隐层获得;
根据所述歌曲特征信息,通过与目标用户对应的目标歌唱合成模型获得目标声学特征信息;
根据所述目标声学特征信息,获得所述目标用户对应于所述目标歌曲的歌唱音频。
根据本公开的一个或多个实施例,提供了一种声音转换方法,所述歌曲识别模型通过以下方式获得:
获取多组第一训练数据,每组所述第一训练数据包括一第一历史歌唱音频以及该第一历史歌唱音频对应的歌词信息和乐谱信息;
根据所述多组第一训练数据,对神经网络模型进行训练,以获得所述歌曲识别模型。
根据本公开的一个或多个实施例,提供了一种声音转换方法,所述歌曲识别模型设置有特征提取层,所述特征提取层为靠近所述歌曲识别模型输出层的隐层之一;
所述根据对应于目标歌曲的待转换歌唱音频,通过歌曲识别模型确定所述待转换歌唱音频的歌曲特征信息,包括:
将所述待转换歌唱音频输入至所述歌曲识别模型,并将所述特征提取层的输出内容作为所述待转换歌唱音频的歌曲特征信息。
根据本公开的一个或多个实施例,提供了一种声音转换方法,所述特征提取层为隐层的最后一层或倒数第二层。
根据本公开的一个或多个实施例,提供了一种声音转换方法,所述目标歌唱合成模型通过以下方式获得:
获取多组第二训练数据,每组所述第二训练数据包括所述目标用户对应于第二历史歌唱音频的历史歌曲特征信息和历史声学特征信息;
根据所述多组第二训练数据,对神经网络模型进行训练,以获得所述目标歌唱合成模型。
根据本公开的一个或多个实施例,提供了一种声音转换方法,所述对应于第二历史歌唱音频的历史歌曲特征信息通过所述第二历史歌唱音频和所述歌曲识别模型获得,且所述历史歌曲特征信息是从所述歌曲识别模型的隐层获得的。
根据本公开的一个或多个实施例,提供了一种声音转换方法,所述根据所述目标声学特征信息,获得所述目标用户对应于所述目标歌曲的歌唱音频,包括:
通过声码器对所述目标声学特征信息进行合成,获得所述目标用户对应于所述目标歌曲的歌唱音频。
根据本公开的一个或多个实施例,提供了一种声音转换装置,所述装置包括:
第一确定模块,用于根据对应于目标歌曲的待转换歌唱音频,通过歌曲识别模型确定所述待转换歌唱音频的歌曲特征信息,其中,所述歌曲特征信息从所述歌曲识别模型的隐层获得;
第二确定模块,用于根据所述歌曲特征信息,通过与目标用户对应的目标歌唱合成模型获得目标声学特征信息;
歌唱合成模块,用于根据所述目标声学特征信息,获得所述目标用户对应于所述目标歌曲的歌唱音频。
根据本公开的一个或多个实施例,提供了一种非暂态计算机可读存储介质,其上存储有计算机程序,该程序被处理装置执行时实现本公开任意实施例所述方法的步骤。
根据本公开的一个或多个实施例,提供了一种电子设备,包括:
存储装置,其上存储有计算机程序;
处理装置,用于执行所述存储装置中的所述计算机程序,以实现本公开任意实施例所述方法的步骤。
以上描述仅为本公开的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本公开中所涉及的公开范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述公开构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
此外,虽然采用特定次序描绘了各操作,但是这不应当理解为要求这些操作以所示出的特定次序或以顺序次序执行来执行。在一定环境下,多任务和并行处理可能是有利的。同样地,虽然在上面论述中包含了若干具体实现细节,但是这些不应当被解释为对本公开的范围的限制。在单独的实施例的上下文中描述的某些特征还可以组合地实现在单个实施例中。相反地,在单个实施例的上下文中描述的各种特征也可以单独地或以任何合适的子组合的方式实现在多个实施例中。
尽管已经采用特定于结构特征和/或方法逻辑动作的语言描述了本主题,但是应当理解所附权利要求书中所限定的主题未必局限于上面描述的特定特征或动作。相反,上面所描述的特定特征和动作仅仅是实现权利要求书的示例形式。关于上述实施例中的装置,其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述,此处将不做详细阐述说明。

Claims (10)

1.一种声音转换方法,其特征在于,所述方法包括:
根据对应于目标歌曲的待转换歌唱音频,通过歌曲识别模型确定所述待转换歌唱音频的歌曲特征信息,其中,所述歌曲特征信息从所述歌曲识别模型的隐层获得;
根据所述歌曲特征信息,通过与目标用户对应的目标歌唱合成模型获得目标声学特征信息;
根据所述目标声学特征信息,获得所述目标用户对应于所述目标歌曲的歌唱音频。
2.根据权利要求1所述的方法,其特征在于,所述歌曲识别模型通过以下方式获得:
获取多组第一训练数据,每组所述第一训练数据包括一第一历史歌唱音频以及该第一历史歌唱音频对应的歌词信息和乐谱信息;
根据所述多组第一训练数据,对神经网络模型进行训练,以获得所述歌曲识别模型。
3.根据权利要求1所述的方法,其特征在于,所述歌曲识别模型设置有特征提取层,所述特征提取层为靠近所述歌曲识别模型输出层的隐层之一;
所述根据对应于目标歌曲的待转换歌唱音频,通过歌曲识别模型确定所述待转换歌唱音频的歌曲特征信息,包括:
将所述待转换歌唱音频输入至所述歌曲识别模型,并将所述特征提取层的输出内容作为所述待转换歌唱音频的歌曲特征信息。
4.根据权利要求3所述的方法,其特征在于,所述特征提取层为隐层的最后一层或倒数第二层。
5.根据权利要求1所述的方法,其特征在于,所述目标歌唱合成模型通过以下方式获得:
获取多组第二训练数据,每组所述第二训练数据包括所述目标用户对应于第二历史歌唱音频的历史歌曲特征信息和历史声学特征信息;
根据所述多组第二训练数据,对神经网络模型进行训练,以获得所述目标歌唱合成模型。
6.根据权利要求5所述的方法,其特征在于,所述对应于第二历史歌唱音频的历史歌曲特征信息通过所述第二历史歌唱音频和所述歌曲识别模型获得,且所述历史歌曲特征信息是从所述歌曲识别模型的隐层获得的。
7.根据权利要求1所述的方法,其特征在于,所述根据所述目标声学特征信息,获得所述目标用户对应于所述目标歌曲的歌唱音频,包括:
通过声码器对所述目标声学特征信息进行合成,获得所述目标用户对应于所述目标歌曲的歌唱音频。
8.一种声音转换装置,其特征在于,所述装置包括:
第一确定模块,用于根据对应于目标歌曲的待转换歌唱音频,通过歌曲识别模型确定所述待转换歌唱音频的歌曲特征信息,其中,所述歌曲特征信息从所述歌曲识别模型的隐层获得;
第二确定模块,用于根据所述歌曲特征信息,通过与目标用户对应的目标歌唱合成模型获得目标声学特征信息;
歌唱合成模块,用于根据所述目标声学特征信息,获得所述目标用户对应于所述目标歌曲的歌唱音频。
9.一种非暂态计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理装置执行时实现权利要求1-7中任一项所述方法的步骤。
10.一种电子设备,其特征在于,包括:
存储装置,其上存储有计算机程序;
处理装置,用于执行所述存储装置中的所述计算机程序,以实现权利要求1-7中任一项所述方法的步骤。
CN202010611545.1A 2020-06-29 2020-06-29 声音转换方法、装置、可读存储介质及电子设备 Active CN111798821B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010611545.1A CN111798821B (zh) 2020-06-29 2020-06-29 声音转换方法、装置、可读存储介质及电子设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010611545.1A CN111798821B (zh) 2020-06-29 2020-06-29 声音转换方法、装置、可读存储介质及电子设备

Publications (2)

Publication Number Publication Date
CN111798821A true CN111798821A (zh) 2020-10-20
CN111798821B CN111798821B (zh) 2022-06-14

Family

ID=72811526

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010611545.1A Active CN111798821B (zh) 2020-06-29 2020-06-29 声音转换方法、装置、可读存储介质及电子设备

Country Status (1)

Country Link
CN (1) CN111798821B (zh)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112309410A (zh) * 2020-10-30 2021-02-02 北京有竹居网络技术有限公司 一种歌曲修音方法、装置、电子设备及存储介质
CN112382269A (zh) * 2020-11-13 2021-02-19 北京有竹居网络技术有限公司 音频合成方法、装置、设备以及存储介质
CN112382274A (zh) * 2020-11-13 2021-02-19 北京有竹居网络技术有限公司 音频合成方法、装置、设备以及存储介质
CN112562633A (zh) * 2020-11-30 2021-03-26 北京有竹居网络技术有限公司 一种歌唱合成方法、装置、电子设备及存储介质
CN113674735A (zh) * 2021-09-26 2021-11-19 北京奇艺世纪科技有限公司 声音转换方法、装置、电子设备及可读存储介质
CN113781993A (zh) * 2021-01-20 2021-12-10 北京沃东天骏信息技术有限公司 定制音色歌声的合成方法、装置、电子设备和存储介质

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104272382A (zh) * 2012-03-06 2015-01-07 新加坡科技研究局 基于模板的个性化歌唱合成的方法和系统
US20150310850A1 (en) * 2012-12-04 2015-10-29 National Institute Of Advanced Industrial Science And Technology System and method for singing synthesis
CN108039168A (zh) * 2017-12-12 2018-05-15 科大讯飞股份有限公司 声学模型优化方法及装置
CN108257609A (zh) * 2017-12-05 2018-07-06 北京小唱科技有限公司 音频内容修正的方法及其智能装置
CN108492817A (zh) * 2018-02-11 2018-09-04 北京光年无限科技有限公司 一种基于虚拟偶像的歌曲数据处理方法及演唱交互系统
CN109326280A (zh) * 2017-07-31 2019-02-12 科大讯飞股份有限公司 一种歌唱合成方法及装置、电子设备
CN110782866A (zh) * 2019-09-16 2020-02-11 中北大学 一种演唱声音转换器
CN111292717A (zh) * 2020-02-07 2020-06-16 北京字节跳动网络技术有限公司 语音合成方法、装置、存储介质和电子设备
CN111326170A (zh) * 2020-02-20 2020-06-23 安徽大学 联合时频域扩张卷积的耳语音向正常音转换方法及其装置

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104272382A (zh) * 2012-03-06 2015-01-07 新加坡科技研究局 基于模板的个性化歌唱合成的方法和系统
US20150310850A1 (en) * 2012-12-04 2015-10-29 National Institute Of Advanced Industrial Science And Technology System and method for singing synthesis
CN109326280A (zh) * 2017-07-31 2019-02-12 科大讯飞股份有限公司 一种歌唱合成方法及装置、电子设备
CN108257609A (zh) * 2017-12-05 2018-07-06 北京小唱科技有限公司 音频内容修正的方法及其智能装置
CN108039168A (zh) * 2017-12-12 2018-05-15 科大讯飞股份有限公司 声学模型优化方法及装置
CN108492817A (zh) * 2018-02-11 2018-09-04 北京光年无限科技有限公司 一种基于虚拟偶像的歌曲数据处理方法及演唱交互系统
CN110782866A (zh) * 2019-09-16 2020-02-11 中北大学 一种演唱声音转换器
CN111292717A (zh) * 2020-02-07 2020-06-16 北京字节跳动网络技术有限公司 语音合成方法、装置、存储介质和电子设备
CN111326170A (zh) * 2020-02-20 2020-06-23 安徽大学 联合时频域扩张卷积的耳语音向正常音转换方法及其装置

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112309410A (zh) * 2020-10-30 2021-02-02 北京有竹居网络技术有限公司 一种歌曲修音方法、装置、电子设备及存储介质
CN112382269A (zh) * 2020-11-13 2021-02-19 北京有竹居网络技术有限公司 音频合成方法、装置、设备以及存储介质
CN112382274A (zh) * 2020-11-13 2021-02-19 北京有竹居网络技术有限公司 音频合成方法、装置、设备以及存储介质
CN112562633A (zh) * 2020-11-30 2021-03-26 北京有竹居网络技术有限公司 一种歌唱合成方法、装置、电子设备及存储介质
CN113781993A (zh) * 2021-01-20 2021-12-10 北京沃东天骏信息技术有限公司 定制音色歌声的合成方法、装置、电子设备和存储介质
JP7497523B2 (ja) 2021-01-20 2024-06-10 北京沃東天駿信息技術有限公司 カスタム音色歌声の合成方法、装置、電子機器及び記憶媒体
CN113674735A (zh) * 2021-09-26 2021-11-19 北京奇艺世纪科技有限公司 声音转换方法、装置、电子设备及可读存储介质
CN113674735B (zh) * 2021-09-26 2022-01-18 北京奇艺世纪科技有限公司 声音转换方法、装置、电子设备及可读存储介质

Also Published As

Publication number Publication date
CN111798821B (zh) 2022-06-14

Similar Documents

Publication Publication Date Title
CN111798821B (zh) 声音转换方法、装置、可读存储介质及电子设备
CN111402843B (zh) 说唱音乐生成方法、装置、可读介质及电子设备
CN111445892B (zh) 歌曲生成方法、装置、可读介质及电子设备
CN111583900B (zh) 歌曲合成方法、装置、可读介质及电子设备
CN111933110B (zh) 视频生成方法、生成模型训练方法、装置、介质及设备
CN111369971B (zh) 语音合成方法、装置、存储介质和电子设备
CN111899720A (zh) 用于生成音频的方法、装置、设备和介质
CN112489621B (zh) 语音合成方法、装置、可读介质及电子设备
CN111445897B (zh) 歌曲生成方法、装置、可读介质及电子设备
CN111402842A (zh) 用于生成音频的方法、装置、设备和介质
CN111292717B (zh) 语音合成方法、装置、存储介质和电子设备
CN111782576B (zh) 背景音乐的生成方法、装置、可读介质、电子设备
CN112489606B (zh) 旋律生成方法、装置、可读介质及电子设备
CN113257218B (zh) 语音合成方法、装置、电子设备和存储介质
CN112927674B (zh) 语音风格的迁移方法、装置、可读介质和电子设备
WO2022037388A1 (zh) 语音生成方法、装置、设备和计算机可读介质
CN112153460A (zh) 一种视频的配乐方法、装置、电子设备和存储介质
CN113205793B (zh) 音频生成方法、装置、存储介质及电子设备
CN112786013A (zh) 基于唱本的语音合成方法、装置、可读介质和电子设备
CN111785247A (zh) 语音生成方法、装置、设备和计算机可读介质
CN111369968A (zh) 声音复制方法、装置、可读介质及电子设备
CN114495901A (zh) 语音合成方法、装置、存储介质及电子设备
CN113923390A (zh) 视频录制方法、装置、设备及存储介质
CN111429881B (zh) 语音合成方法、装置、可读介质及电子设备
CN111402856B (zh) 语音处理方法、装置、可读介质及电子设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant