CN101064103B - 基于音节韵律约束关系的汉语语音合成方法及系统 - Google Patents
基于音节韵律约束关系的汉语语音合成方法及系统 Download PDFInfo
- Publication number
- CN101064103B CN101064103B CN2006100760151A CN200610076015A CN101064103B CN 101064103 B CN101064103 B CN 101064103B CN 2006100760151 A CN2006100760151 A CN 2006100760151A CN 200610076015 A CN200610076015 A CN 200610076015A CN 101064103 B CN101064103 B CN 101064103B
- Authority
- CN
- China
- Prior art keywords
- rhythm
- syllable
- fundamental frequency
- information
- curve
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000033764 rhythmic process Effects 0.000 title claims description 128
- 238000010189 synthetic method Methods 0.000 title claims description 21
- 238000000034 method Methods 0.000 claims abstract description 12
- 230000015572 biosynthetic process Effects 0.000 claims description 18
- 238000012545 processing Methods 0.000 claims description 18
- 238000003786 synthesis reaction Methods 0.000 claims description 18
- 238000012549 training Methods 0.000 claims description 18
- 230000007613 environmental effect Effects 0.000 claims description 17
- 238000004458 analytical method Methods 0.000 claims description 11
- 238000004422 calculation algorithm Methods 0.000 claims description 9
- 238000013459 approach Methods 0.000 claims description 6
- 238000013179 statistical model Methods 0.000 claims description 6
- 230000008676 import Effects 0.000 claims description 4
- 238000009499 grossing Methods 0.000 claims description 3
- 238000011088 calibration curve Methods 0.000 claims description 2
- 239000000284 extract Substances 0.000 claims description 2
- 230000008569 process Effects 0.000 abstract description 5
- 241000246358 Thymus Species 0.000 abstract 4
- 235000007303 Thymus vulgaris Nutrition 0.000 abstract 4
- 239000001585 thymus vulgaris Substances 0.000 abstract 4
- 238000006243 chemical reaction Methods 0.000 abstract 1
- 230000006835 compression Effects 0.000 abstract 1
- 238000007906 compression Methods 0.000 abstract 1
- 230000010354 integration Effects 0.000 abstract 1
- 238000010586 diagram Methods 0.000 description 10
- 239000002131 composite material Substances 0.000 description 7
- 230000000694 effects Effects 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 2
- 238000004088 simulation Methods 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 150000001875 compounds Chemical class 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 239000002075 main ingredient Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000036651 mood Effects 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 230000002269 spontaneous effect Effects 0.000 description 1
Images
Landscapes
- Machine Translation (AREA)
Abstract
本发明公开了一种基于音节韵律约束关系的汉语语音合成方法及系统,系统包括:文本输入模块、韵律处理模块、语音输出模块。方法包括:接收或输入任意文字串转换成语音输出;文本分析对输入文本格式和内容分析并转换成音节序列串;韵律预测模块接收附着韵律信息的音节序列串,利用统计模型预测出与其对应的目标韵律值;波形拼接模块接收所述附着目标韵律值的音节序列串,根据所述音节序列携带的韵律信息从所述压缩语音库中选取与目标韵律值最为接近的样本并拼接;语音输出模块播放韵律表现接近于自然的拼接语音。依据本发明将极大提高系统合成语音的自然度和流畅度,从而使得输出的语音非常自然,几乎接近真人所发出的语音。
Description
技术领域
本发明总的来说涉及一种汉语语音合成方法和语音合成系统,具体地涉及基于音节韵律约束关系的汉语语音合成方法及系统。
背景技术
语音合成系统又称文语转换系统(TTS系统),它的主要功能是将计算机接收到的或输入的任意文字串转换成语音输出。一般认为,语音合成系统的功能模块可细分为三个主要的组成部分:文本分析模块、韵律生成模块和声学模块。其中韵律生成模块作为承前启后的一个模块,对最终合成语音的自然度和流畅度起着至关重要的作用。
近年来基于大规模语料库的合成方法,渐渐成为语音合成领域的主流技术:首先分析待合成音节的上下文环境,然后遍历整个语料库,从中挑选一个上下文环境与待合成音节上下文环境最为相似的基元(在汉语合成系统中,一个基元通常是一种音节)作为最终的输出。这样的方法存在着很多的问题,其中,最关键的一个问题是由语音产生的随意性和不稳定性造成的:同一个人在不同的时间读同样的句子,其说话的语调由于环境、心情等其他因素的差异,其韵律表现也不会完全相同,因此,上下文环境最切合的基元未必是最合适的选择。依据这种方法所合成的句子,在音节相交之处,往往容易产生韵律的不自然现象。因此,需要一种新的算法,可以模拟相邻音节之间基频曲线形状的互相影响,这样,才能够构建自然、流畅的语音合成系统。
发明内容
为了解决现有技术问题,本发明的目的是要提出一种算法,模拟相邻音节之间基频曲线形状的互相影响,为此,本发明能够构建自然、流畅的提供一种基于音节韵律约束关系的汉语语音合成方法及系统。
本发明的第一方面,为实现上述目的,本发明提供的一种基于音节韵律约束关系的汉语语音合成系统包括:利用各种电脑终端及数字移动设备,将系统接收的或输入的任意文字串转换成语音输出,还包括文本输入模块、韵律处理模块、语音输出模块,文本输入模块、韵律处理模块、语音输出模块三者依次连接,文本输入模块将接收的或输入的任意文字串转换成音节序列串,韵律处理模块处理当前待合成音节的基频曲线、处理相邻音节的基频曲线对当前音节基频曲线的影响和限制;韵律处理模块的输出端与语音输出模块电连接,语音输出模块用于播放拼接成的数字语音信号,语音输出模块输出的韵律曲线接近于自然语音。
本发明的第二方面,为实现上述目的,本发明的一种基于音节韵律约束关系的汉语语音合成方法,在处理当前待合成音节的基频曲线时,充分考虑相邻音节的基频曲线对当前音节基频曲线的影响和限制,并且利用统计模型的方法为这种影响和限制进行自动建模,模拟真实语音中相邻音节之间基频曲线形状的互相影响,从而产生非常自然流畅的基频曲线,其步骤如下:
文本输入:基于接收或输入的任意文字串转换成音节序列串;
构建文本分析模块:用于对所述输入的文本进行格式和内容上的分析并将其转换为音节序列串;同时为每个音节附着相关韵律信息;
构建韵律预测模块:包括离线训练部分和在线合成部分,用于接收所述附着韵律信息的音节序列串,根据韵律信息利用统计模型预测出与其对应的目标韵律值,包括音长、基频曲线和平均能量,并将其附着在音节上;
构建波形拼接模块:用于接收所述附着目标韵律值的音节序列串,根据所述音节序列携带的韵律信息从所述压缩语音库中选取与目标韵律值最为接近的样本序号,并将其拼接在一起,在拼接处作平滑处理;
构建语音输出模块:用于播放拼接成的数字语音信号,语音输出模块输出的韵律曲线接近于自然的语音。
本发明的有益效果:本发明提供的系统和方法使用统计模型自动构建了相邻音节基频曲线的互相影响作用,并且在系统中充分考虑了这种作用。本发明将系统接收到的或输入的任意文字串转换为语音输出。在此之前的以音节为单位的汉语语音合成系统,多是根据样本的上下文环境进行基元的选择,但是由于语音产生的随机性和不稳定性,导致其合成语音的韵律表现不是非常自然,尤其是在相邻音节的交汇处,更容易出现基频曲线的跳跃,严重影响了合成语音的自然度。而本算法在处理合成语音的韵律曲线时,充分考虑到相邻音节间的互相影响和互相限制,并且利用统计模型(分类与回归树)构建了相邻音节在韵律上的约束关系。这样,在现有技术的合成系统中,容易出现在音节边界处的韵律不连续现象基本上被清除了,所以,依照本发明方法合成的语音其韵律表现非常自然流畅,合成语音的韵律表现非常稳定。本发明大大提高语音合成系统的稳定性和自然度,使得系统合成的语音几乎接近于自然语音。可应用于各种电脑终端及手持数字移动设备。
附图说明
通过以下结合附图的详细描述,本发明的上述和其它方面、特征和优点将变得更加显而易见。附图中:
图1是本发明基于音节韵律约束关系的汉语语音合成系统示意图;
图2是本发明基于音节韵律约束关系的汉语语音合成系统的韵律处理模块的在线合成部分示意图;
图3是本发明基于音节韵律约束关系的汉语语音合成方法的的韵律处理模块的离线训练部分示意图;
图4是本发明基于音节韵律约束关系的汉语语音合成方法的在线合成部分中回归树构建示意图;
图5是本发明基于音节韵律约束关系的汉语语音合成方法的拼接代价和目标代价定义说明图;
图6是本发明基于音节韵律约束关系的汉语语音合成方法的搜索最优路径示意图。
具体实施方式
下面结合附图和实施例对本发明进一步说明,通过结合附图对系统各组成部件的详细说明将会更好地描述实现本发明的步骤和过程。应该指出,所描述的施例仅仅视为说明的目的,而不是对本发明的限制。
图1是本发明基于音节韵律约束关系的汉语语音合成系统示意图,在附图1本发明的优选实施方案中,本发明的语音合成系统包括:依次连接在一起的操作系统文本输入模块1、韵律处理模块2和语音输出模块3;
其中韵律处理模块2由文本分析模块10、韵律预测模块20、波形拼接模块30三部分组成,并且文本分析模块10、韵律预测模块20、波形拼接模块30顺序电连接;
所述的文本输入:文本输入模块接收输入的文本,在本发明的实施例中,系统提供可供手写输入的界面,用户可自行输入待合成的文本;也可选择通过打开文本文件的方式来合成整个文件,用户还可使用手写笔挑选文件中的若干行单独合成。可以利用各种电脑终端手持数字移动设备,可以设置在任一种操作系统中,将系统接收或输入的任意文字串转换成语音输出的文本;本发明在掌上电脑上应用上,所有语音功能均可以随时在手持设备上启用或关闭。在未启用语音功能时,原手持设备的各种功能将不受任何影响。
所述构建文本分析模块10:接收文本形式的输入,用于对所述输入的文本进行格式和内容上的分析并将其输入汉字转换为音节序列串,同时为每个音节附着一系列相关韵律信息。
所述相关韵律信息包括:韵律词、韵律短语的位置信息。
构建韵律预测模块20:包括离线训练部分和在线合成部分,用于接收所述附着韵律信息的声韵母音节序列串,根据韵律信息利用统计模型预测出与其对应的目标韵律值,同时也计算音节的音长、基频曲线和平均能量,并将其附着在音节上。
构建波形拼接模块30:用于接收所述附着目标韵律值的声韵母音节序列串,根据所述音节序列携带的韵律信息从所述压缩语音库中选取与目标韵律值最为接近的样本序号,并将其拼接在一起,在拼接处作平滑处理;
构建语音输出模块3:用于播放拼接成的数字语音信号,语音输出模块输出的韵律曲线接近于自然的语音。
图2是本发明基于音节韵律约束关系的汉语语音合成系统的韵律处理模块的在线合成部分示意图,图中:
本发明韵律曲线产生算法离线训练部分只在该语音合成系统离线工作状态时使用,仅用于生成该合成系统在线合成部分工作时需要韵律库和各种回归树。
所述韵律预测模块20是本系统中最重要的一个模块,由韵律库40和回归树50两部分组成。
所述构建韵律库40中,首先利用语音识别工具包HTK对录制好的原始语音库进行自动切分,以得到每一个语音片断在原始语句中的边界位置信息,同时采用基频检测工具标记出语音波形的峰值点位置信息,并手工对所述自动获得的边界位置及峰值点位置进行校对;这样,就得到了准确的音节边界信息和基频信息。而后,遍历语音库中每一个音节,并将其上下文信息、基频特征参数信息、基频曲线完整形状信息、索引位置信息存在一个单独的文件中,这个文件即称为韵律库。其中,上下文信息包括:当前音节ID,当前调形,前音节韵母类型及ID,后音节声母类型及ID,前音节调形,后音节调形,低层次韵律层次相对高层次韵律层次的相对位置(韵律层次包括韵律词、韵律短语、语句,相对位置包括在层次的首、中、尾),所属音节的韵律词、韵律短语长度(以音节个数为单位)。基频特征参数包括:一个音节内部基频曲线的均值、最大值、最小值、初值、终值、初始斜率和终止斜率。基频曲线完整形状信息通过从语料库中每个音节的基频曲线均匀提取十个点来描述完整基频曲线信息。索引位置信息包括:当前音节所在句子的序号,当前音节在本句中的位置。
如附图4所示,本发明基于音节韵律约束关系的汉语语音合成方法的在线合成部分中回归树构建示意图;
所述构建回归树50中,回归树构建共分为以下几个步骤:
构建边界信息和平均信息100:首先将所有基频特征参数分为两类,边界信息和平均信息100;
所述边界基频特征参数构建回归树110:对所述边界信息分别构建回归树,通过这些树反映在不同上下文环境下相邻音节的韵律特征对当前音节边界基频特征参数的影响;
为边界基频特征参数构建回归树110:边界基频特征参数:包括基频初始值、终止值、初始斜率和终止斜率,这些特征参数受相邻音节基频曲线形状的影响较大。
为平均基频特征参数构建回归树120:平均基频特征参数120:包括基频均值、最大值和最小值,这些特征参数受相邻音节基频曲线形状较小,但受上下文环境影响较大。
对每一个平均基频特征参数构建一棵回归树。树的输入是上下文信息,输出是平均基频特征参数。对于每一个输出参数,均使用同样的上下文信息。为了训练取得较高的精度,这里使用的上下文信息同构建韵律库过程中提取的上下文信息略有不同,共包括:当前音节声调、前音节声调、后音节声调、当前声母ID、当前韵母ID、当前音节在词的位置、在短语中的位置、当前音节之前的停顿类型、之后的停顿类型、当前音节距离短语末尾的距离、当前音节距离句子末尾的距离。建树过程中,遍历整个语料库,对每一个音节提取这些上下文信息和平均基频特征参数信息。每一个音节构成一个输入输出对,遍历整个语料库后会得到n个输入输出对,将这n个输入输出对送入回归树训练工具wagon,即可自动产生回归树。这些回归树反映了上下文环境对当前音节平均基频特征参数的影响。
所述构建基频特征参数回归树:为每一个基频特征参数构建一个回归树,回归树既描述上下文信息对特征参数的影响,又描述相邻音节各特征参数之间的相互影响。
所述平均基频特征参数构建回归树120:通过这些树反映上下文环境对当前音节平均基频特征参数的影响,对每一个平均基频特征参数构建一棵回归树。树的输入除了上下文信息外,还包括一些相邻音节的韵律信息。这些韵律信息正反映了相邻音节基频曲线特征对当前音节基频特征参数的影响。为了提高训练的精度,在对不同的边界基频特征参数进行训练时,使用不同的辅助韵律信息参与训练。当训练基频初始值和初始斜率的回归树时,所包含的韵律信息包括前一音节末尾基频值、末尾基频斜率、当前音节前面的静音段、当前音节声母的长度,这些信息描述了前一音节对当前音节在韵律表现上的影响;当训练基频终止值和终止斜率时,所包含的韵律信息包括后一音节的初始基频值、初始基频斜率、当前音节之后的静音段、下一音节声母的长度,这些信息描述了后一音节对当前音节在韵律表现上的影响。类似于步骤110,每一个音节构成一个输入输出对,遍历整个语料库后会得到n个输入输出对,将这n个输入输出对送入回归树训练工具wagon,即可自动产生回归树。这些回归树反映了在不同上下文环境下相邻音节的韵律特征对当前音节边界基频特征参数的影响。
如图3,本发明基于音节韵律约束关系的汉语语音合成方法的的韵律处理模块的离线训练部分示意图;
在附图3中,韵律曲线生成算法的离线训练部分包括:初次选择60、二次选择70和曲线生成80三部分组成。
所述初次选择60中,根据待合成音节与韵律库中所有候选音节在上下文环境上的差异,并且设置一个合适的初选阈值,从韵律库中选出n个上下文环境最相似的基频模板;初次选择的依据是文本信息的相似度。也即是说,搜索在步骤40中建立的韵律库,比较当前待合成音节的上下文信息与韵律库中所有候选模板的上下文信息的差异,选出n(一般定义n=10)个上下文信息最相似的模板作为本步骤的输出。上下文差异的定义如下:
其中CID表示待合成音节与候选模板间总的上下文信息之间的差异;Di表示待合成音节与候选模板间在第i中上下文信息上的差异,而Wi则表示第i中上下文信息差异在总的差异之中占的权重。
二次选择70中,首先分别定义拼接代价和目标代价,利用维特比(viterbi)算法在上一步产生的候选模板序列中挑选出代价加权和最小的序列,将其音节序号作为输出;二次选择的目的是找出最优的模板序列,在这里拼接代价和目标代价的定义被提出用来知道最优路径的选择。拼接代价的定义是与基频特征参数中的边界信息相关的,每一种边界信息对应一种拼接代价。拼接代价的具体定义如下:首先得到当前待合成音节的上下文信息和其他所需要的韵律信息(包括前一音节的基频终值、终止斜率、当前音节之前的静音长度和当前音节的声母长度),结合步骤50中训练产生的回归树,可以预测出当前音节的基频初值和基频初始斜率,而当前候选音节真正的基频初值和基频初始斜率与该预测值的差即作为一种拼接代价。同样,使用当前待合成音节的上下文信息和与下一音节相关的韵律信息(包括下一音节的基频初值、初始斜率、当前音节之后的静音长度和下一音节的声母长度),再结合步骤50中训练产生的回归树,可以预测出当前音节的基频终值和终止斜率。当前音节真正的基频终值和基频终止斜率与该预测值的差即作为另一种拼接代价。拼接代价总的公式为:
concatenation_cost=w1*DF0s+w2*DF0E+w3*DF0SD+w4*DF0ED
其中,DF0各项表示所预测基频特征值与真实基频特征值的差距,DF0s,DF0E,DF0SD和DF0ED分别表示基频初值、基频终值、基频初始斜率以及基频终止斜率的差距。Wi则表示相应基频特征的权值。
另一方面,目标代价的定义是与基频特征参数中的平均信息相关的,每一种平均信息对应一种目标代价。目标代价的具体定义如下:首先得到当前待合成音节的上下文信息,将其作为输入,输入到步骤50中训练产生的回归树,则可以预测出当前音节的基频均值、最大值、最小值。而当前候选音节真正的基频均值、最大值、最小值与这些预测值的差即作为目标代价的值。目标代价总的公式为:
overall_cost=w5*DF0M+w6*DF0B+w7*DF0T
其中,DF0各项表示所预测基频特征值与真实基频特征值的差距,DF0M,DF0B和DF0T分别表示基频均值、基频最小值以及基频最大值的差距。Wi则表示相应基频特征的权值。
拼接代价和目标代价的加权和即为总的代价值,其公式为
COST=concatenation_cost+overall_cost
=w1*DF0s+w2*DF0E+w3*DF0SD+w4*DF0ED
+w5*DF0M+w6*DF0T+w7*DF0B
图5是本发明基于音节韵律约束关系的汉语语音合成方法的拼接代价和目标代价定义说明图;
通过图5可以直观的了解计算代价的详细步骤,根据分类和回归树(CART)模型,由当前音节上下文信息、当前音节声母长度、当前音节之前的静音长度以及相邻前一音节的基频曲线预测当前音节的基频初值和基频初始斜率;由当前音节上下文信息、当前音节之后的静音长度、后一音节的声母长度、相邻后一音节基频曲线预测当前音节的基频终值和基频终止斜率。这样,我们就预测得到了当前音节的基频初值、终值、初始斜率和终止斜率,与这些预测的值与当前音节的真实值相比计算其差距,这即是拼接代价的值。
所述根据边界信息定义拼接代价:以基频初值为例,拼接代价的定义方式如下:将前一音节的信息和上下文信息作为回归树的输入预测当前音节的基频初值,而当前候选音节的实际基频初值与预测出的基频初值的差异即做为拼接代价。
所述根据平均信息定义目标代价:以基频均值为例,将上下文信息作为回归树的输入预测当前音节的基频均值,而实际候选音节的基频均值与该预测值的差异即作为目标代价。
有了上述总代价值的公式之后,在整个句子上使用维特比(viterbi)算法,可以挑选出令代价和最小的最优的状态序列。
图6是本发明基于音节韵律约束关系的汉语语音合成方法的搜索最优路径示意图。如图6,直观的描述了选取最优路径的过程,在图中:
虚线-----表示所有可能路径;
每一个圆圈代表一个候选模板,每一个待合成音节有数个候选模板可供选择。对于每一个模板而言,可以计算其目标代价;对于两个相邻音节的模板而言,可以计算其拼接代价。最终,维特比算法会搜算一条最优路径,使得该条路径上计算的目标代价和拼接代价和最小。
曲线生成80中,根据步骤70已得到的最优状态序列,在韵律库中搜索得到其对应的基频曲线完整信息,依照输出的音节序号在韵律库中搜索,得到每一个音节的韵律曲线,并将其按顺序拼接起来,为整个句子产生完整的韵律基频曲线。至此韵律模块工作结束。
上述实施例为本发明的较佳实施例,本发明的应用不仅限于电脑终端,还可应用到多种手持式移动设备或其它形式的移动设备。根据本发明的主要构思,本领域普通技术人员均可以产生多种相类似的或等价的应用,为此,本发明的范围不应由该描述来限定。本领域的技术人员应该理解,在不脱离本发明的范围的任何修改或局部替换,均属于本发明权利要求来限定的范围。
Claims (7)
1.一种基于音节韵律约束关系的汉语语音合成系统,利用各种电脑终端及数字移动设备,将系统接收的或输入的任意文字串转换成语音输出,其特征在于:包括文本输入模块、韵律处理模块、语音输出模块,文本输入模块、韵律处理模块、语音输出模块三者依次连接,文本输入模块将接收的或输入的任意文字串转换成音节序列串,韵律处理模块处理当前待合成音节的基频曲线、处理相邻音节的基频曲线对当前音节基频曲线的影响和限制;韵律处理模块的输出端与语音输出模块电连接,语音输出模块用于播放拼接成的数字语音信号,语音输出模块输出的韵律曲线接近于自然语音;
所述韵律处理模块包括:文本分析模块、韵律预测模块、波形拼接模块;文本输入模块、文本分析模块、韵律预测模块与波形拼接模块顺序电连接;所述韵律预测模块包括:
离线训练子模块包括:构建韵律库、构建基频特征参数回归树;所述构建韵律库:遍历语料库中每一个音节,并将其上下文信息、基频特征参数信息、基频曲线完整形状信息和索引位置信息存在一个单独的文件中,称为韵律库;所述构建基频特征参数回归树:为每一个基频特征参数构建一个回归树,基频特征参数回归树既描述上下文信息对基频特征参数的影响,又描述相邻音节基频曲线特征对当前音节基频特征参数的影响;
在线合成子模块包括:韵律初次选择、韵律二次选择、韵律曲线生成。
2.一种基于音节韵律约束关系的汉语语音合成方法,其特征在于:合成方法包括:
文本输入:接收或输入的任意文字串;
构建文本分析模块:用于对所述输入的任意文字串进行格式和内容上的分析并将其转换为音节序列串;同时为每个音节附着相关韵律信息;
构建韵律预测模块:包括构建离线训练子模块和构建在线合成子模块,用于接收所述附着韵律信息的音节序列串,根据韵律信息利用统计模型预测出与其对应的目标韵律值,包括音长、基频曲线和平均能量,并将其附着在音节上;
构建波形拼接模块:用于接收所述附着目标韵律值的音节序列串,根据所述附着目标韵律值的音节序列携带的韵律信息从压缩语音库中选取与目标韵律值最为接近的样本序号,并将其拼接在一起,在拼接处作平滑处理;
构建语音输出模块:用于播放拼接成的数字语音信号,语音输出模块输出的韵律曲线接近于自然的语音;
所述的构建离线训练子模块包括:构建韵律库、构建基频特征参数回归树;所述构建韵律库:遍历语料库中每一个音节,并将其上下文信息、基频特征参数信息、基频曲线完整形状信息和索引位置信息存在一个单独的文件中,称为韵律库;所述构建基频特征参数回归树:为每一个基频特征参数构建一个回归树,基频特征参数回归树既描述上下文信息对基频特征参数的影响,又描述相邻音节基频曲线特征对当前音节基频特征参数的影响;
所述的构建在线合成子模块包括:韵律初次选择、韵律二次选择、韵律曲线生成。
3.根据权利要求2所述的基于音节韵律约束关系的汉语语音合成方法,其特征在于,所述韵律预测模块中附着韵律信息的音节序列串的韵律信息包括:韵律词的位置信息和韵律短语的位置信息。
4.根据权利要求2所述的基于音节韵律约束关系的汉语语音合成方法,其特征在于,所述构建韵律库,其遍历语料库时涉及的特征包括:
上下文信息包括:当前音节ID,当前调形,前音节韵母类型及前音节ID,后音节声母类型及前音节ID,前音节调形,后音节调形,低层次韵律层次相对高层次韵律层次的相对位置,所属音节的韵律词长度和韵律短语长度,所属音节的前后静音段的长度;韵律层次包括韵律词、韵律短语或语句,相对位置包括在层次的首、中或尾;所述韵律词长度和韵律短语长度均以音节个数为单位;
基频特征参数包括:一个音节内部基频曲线的均值、最大值、最小值、初值、终值、初始斜率和终止斜率;
基频曲线完整形状信息包括:从语料库中基频曲线均匀提取十个点来描述完整基频曲线信息;
索引位置信息包括:当前音节所在句子的序号,当前音节在本句中的位置。
5.根据权利要求2所述的基于音节韵律约束关系的汉语语音合成系方法,其特征在于,所述构建基频特征参数回归树,为每一个基频特征参数构建回归树的具体步骤如下:
将所提取的特征参数分为两类,一类是受相邻音节基频形状影响较大的边界信息包括:基频曲线的初始值、基频曲线的终止值、基频曲线的初始斜率和基频曲线的终止斜率;另一类是受前后音节影响较小的平均信息包括:基频曲线的基频均值、基频曲线的最大值和基频曲线的最小值;
对所述边界信息分别构建回归树,通过这些树反映在不同上下文环境下相邻音节的韵律特征对当前音节边界基频特征参数的影响;
对所述平均信息分别构建回归树,通过这些树反映上下文环境对当前音节平均基频特征参数的影响。
6.根据权利要求2所述的基于音节韵律约束关系的汉语语音合成方法,其特征在于,所述构建韵律预测模块的在线合成子模块包括:
韵律初次选择:根据待合成音节与韵律库中所有候选音节在上下文环境上的差异,并且设置一个合适的初选阈值,从韵律库中选出n个上下文环境最相似的基频模板;
韵律二次选择:首先分别定义拼接代价和目标代价,利用维特比算法在上一步产生的n个上下文环境最相似的基频模板中挑选出代价加权和最小的序列,将其音节序号作为输出;
韵律曲线生成:依照输出的音节序号在韵律库中搜索,得到每一个音节的韵律曲线,并将每一个音节的韵律曲线按顺序拼接起来,为整个句子产生完整的基频曲线。
7.根据权利要求6所述的基于音节韵律约束关系的汉语语音合成方法,其特征在于,所述进行韵律二次选择包括:
根据边界信息定义拼接代价;根据平均信息定义目标代价。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN2006100760151A CN101064103B (zh) | 2006-04-24 | 2006-04-24 | 基于音节韵律约束关系的汉语语音合成方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN2006100760151A CN101064103B (zh) | 2006-04-24 | 2006-04-24 | 基于音节韵律约束关系的汉语语音合成方法及系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN101064103A CN101064103A (zh) | 2007-10-31 |
CN101064103B true CN101064103B (zh) | 2011-05-04 |
Family
ID=38965091
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN2006100760151A Active CN101064103B (zh) | 2006-04-24 | 2006-04-24 | 基于音节韵律约束关系的汉语语音合成方法及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN101064103B (zh) |
Families Citing this family (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011197511A (ja) * | 2010-03-23 | 2011-10-06 | Seiko Epson Corp | 音声出力装置、音声出力装置の制御方法、印刷装置および装着ボード |
TWI413104B (zh) * | 2010-12-22 | 2013-10-21 | Ind Tech Res Inst | 可調控式韻律重估測系統與方法及電腦程式產品 |
CN102222501B (zh) * | 2011-06-15 | 2012-11-07 | 中国科学院自动化研究所 | 语音合成中时长参数的生成方法 |
CN102394061B (zh) * | 2011-11-08 | 2013-01-02 | 中国农业大学 | 基于语义检索的文语转换方法及系统 |
CN104112444B (zh) * | 2014-07-28 | 2018-11-06 | 中国科学院自动化研究所 | 一种基于文本信息的波形拼接语音合成方法 |
CN104318920A (zh) * | 2014-10-07 | 2015-01-28 | 北京理工大学 | 具有谱稳定边界的跨音节中文语音合成基元构建方法 |
CN104538026B (zh) * | 2015-01-12 | 2018-10-23 | 北京理工大学 | 一种用于参数化语音合成的基频建模方法 |
JP6728755B2 (ja) * | 2015-03-25 | 2020-07-22 | ヤマハ株式会社 | 歌唱音発音装置 |
CN106128450A (zh) * | 2016-08-31 | 2016-11-16 | 西北师范大学 | 一种汉藏双语跨语言语音转换的方法及其系统 |
CN106920547B (zh) | 2017-02-21 | 2021-11-02 | 腾讯科技(上海)有限公司 | 语音转换方法和装置 |
KR102327614B1 (ko) * | 2018-05-11 | 2021-11-17 | 구글 엘엘씨 | 클록워크 계층적 변이 인코더 |
CN108615524A (zh) * | 2018-05-14 | 2018-10-02 | 平安科技(深圳)有限公司 | 一种语音合成方法、系统及终端设备 |
CN108831437B (zh) * | 2018-06-15 | 2020-09-01 | 百度在线网络技术(北京)有限公司 | 一种歌声生成方法、装置、终端和存储介质 |
CN109344221B (zh) * | 2018-08-01 | 2021-11-23 | 创新先进技术有限公司 | 录音文本生成方法、装置及设备 |
CN111275401B (zh) * | 2020-01-20 | 2023-10-24 | 上海近屿智能科技有限公司 | 一种基于位置关系的智能面试方法及系统 |
CN113345417B (zh) * | 2021-05-31 | 2024-03-01 | 平安科技(深圳)有限公司 | 语音合成方法、装置、设备以及存储介质 |
CN113593521B (zh) * | 2021-07-29 | 2022-09-20 | 北京三快在线科技有限公司 | 语音合成方法、装置、设备及可读存储介质 |
CN114495898B (zh) * | 2022-04-15 | 2022-07-01 | 中国科学院自动化研究所 | 一种统一的语音合成与语音转换的训练方法和系统 |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1731509A (zh) * | 2005-09-02 | 2006-02-08 | 清华大学 | 移动语音合成方法 |
-
2006
- 2006-04-24 CN CN2006100760151A patent/CN101064103B/zh active Active
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1731509A (zh) * | 2005-09-02 | 2006-02-08 | 清华大学 | 移动语音合成方法 |
Non-Patent Citations (5)
Title |
---|
Honghui Dong,Jianhua Tao,Bo Xu.Chinese prosodic phrasing with a constraint-based approach.Interspeech 2005.2005,3241-3244. * |
Jian Yu,Jianhua Tao.The pause duration prediction for mandarin text-to-speech system.Proceeding of NLP-KE"05.2005,204-208. * |
Jianhua Tao.Rhythm correlation of speech synthesis system.ISCSLP 2004.2004,221-224. * |
Michelle Q.Wang,Julia Hirschberg.Automatic classification of intonational phrase boundaries.Computer Speech and Language.1992,175-196. * |
Min Chu,Yao Qian.Locating Boundaries for Prosodic Constituents in Unrestricted Mandarin Texts.Computational Linguistics and Chinese Language Processing.2001,6(1),61-82. * |
Also Published As
Publication number | Publication date |
---|---|
CN101064103A (zh) | 2007-10-31 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN101064103B (zh) | 基于音节韵律约束关系的汉语语音合成方法及系统 | |
CN101000765B (zh) | 基于韵律特征的语音合成方法 | |
CN110364171B (zh) | 一种语音识别方法、语音识别系统及存储介质 | |
CN111739508B (zh) | 一种基于dnn-hmm双模态对齐网络的端到端语音合成方法及系统 | |
US7590540B2 (en) | Method and system for statistic-based distance definition in text-to-speech conversion | |
CN102176310B (zh) | 具有巨大词汇量的语音识别系统 | |
CN101447185B (zh) | 一种基于内容的音频快速分类方法 | |
CN101751922B (zh) | 基于隐马尔可夫模型状态映射的文本无关语音转换系统 | |
CN103531196B (zh) | 一种波形拼接语音合成的选音方法 | |
CN101000764A (zh) | 基于韵律结构的语音合成文本处理方法 | |
CN102184731A (zh) | 一种韵律类和音质类参数相结合的情感语音转换方法 | |
CN106557298A (zh) | 面向智能机器人的背景配音输出方法及装置 | |
CN1924994B (zh) | 一种嵌入式语音合成方法及系统 | |
CN103632663B (zh) | 一种基于hmm的蒙古语语音合成前端处理的方法 | |
CN112489618A (zh) | 利用多级别上下文特征的神经文本到语音合成 | |
CN101515456A (zh) | 语音识别接口装置及其语音识别方法 | |
CN106297765B (zh) | 语音合成方法及系统 | |
CN107221344A (zh) | 一种语音情感迁移方法 | |
CN113539240A (zh) | 动画生成方法、装置、电子设备和存储介质 | |
KR101424193B1 (ko) | 타 언어권 화자음성에 대한 음성인식 시스템의 성능 향상을위한 비직접적 데이터 기반 발음변이 모델링 시스템 및방법 | |
Pouget et al. | HMM training strategy for incremental speech synthesis | |
CN106297766B (zh) | 语音合成方法及系统 | |
CN105895076B (zh) | 一种语音合成方法及系统 | |
Sidorova | Speech emotion recognition with TGI+. 2 classifier | |
Lu et al. | Implementation of embedded unspecific continuous English speech recognition based on HMM |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant |