CN112349300A - 一种语音评测方法及装置 - Google Patents
一种语音评测方法及装置 Download PDFInfo
- Publication number
- CN112349300A CN112349300A CN202011233046.XA CN202011233046A CN112349300A CN 112349300 A CN112349300 A CN 112349300A CN 202011233046 A CN202011233046 A CN 202011233046A CN 112349300 A CN112349300 A CN 112349300A
- Authority
- CN
- China
- Prior art keywords
- audio
- evaluated
- features
- calculating
- similarity
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000011156 evaluation Methods 0.000 title claims abstract description 84
- 238000012545 processing Methods 0.000 claims abstract description 18
- 238000000034 method Methods 0.000 claims description 54
- 238000001514 detection method Methods 0.000 claims description 19
- 238000004590 computer program Methods 0.000 claims description 13
- 238000004364 calculation method Methods 0.000 claims description 9
- 238000010606 normalization Methods 0.000 claims description 6
- 238000013210 evaluation model Methods 0.000 claims description 5
- 238000000605 extraction Methods 0.000 claims description 3
- 230000008569 process Effects 0.000 description 15
- 238000010586 diagram Methods 0.000 description 10
- 230000006870 function Effects 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 238000013528 artificial neural network Methods 0.000 description 3
- 239000013598 vector Substances 0.000 description 3
- 238000013527 convolutional neural network Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000003595 spectral effect Effects 0.000 description 2
- 241000233805 Phoenix Species 0.000 description 1
- 238000005311 autocorrelation function Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000003745 diagnosis Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000012417 linear regression Methods 0.000 description 1
- 238000003062 neural network model Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000013441 quality evaluation Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012549 training Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
- G10L25/48—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use
- G10L25/51—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use for comparison or discrimination
- G10L25/60—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use for comparison or discrimination for measuring the quality of voice signals
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/08—Speech classification or search
- G10L15/16—Speech classification or search using artificial neural networks
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
- G10L25/03—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters
- G10L25/18—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters the extracted parameters being spectral information of each sub-band
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
- G10L25/03—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters
- G10L25/21—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters the extracted parameters being power information
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
- G10L25/03—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters
- G10L25/24—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 characterised by the type of extracted parameters the extracted parameters being the cepstrum
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
- G10L25/90—Pitch determination of speech signals
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Human Computer Interaction (AREA)
- Computational Linguistics (AREA)
- Acoustics & Sound (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Quality & Reliability (AREA)
- Spectroscopy & Molecular Physics (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Computation (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本申请实施例提供一种语音评测方法及装置，涉及音频处理技术领域，该语音评测方法包括：获取待评测音频以及与待评测音频对应的参考文本和参考音频；提取待评测音频的音频特征以及参考音频的参考音频特征；根据音频特征、参考音频特征和参考文本，计算待评测音频与参考音频之间的相似度值；根据相似度值计算待评测音频的评测分数。可见，实施这种实施方式，能够基于文本与音频特征对待评测音频进行多方面评测，从而实现对待评测语音的客观评测，进而提高语音评测的精度。
Description
技术领域
本申请涉及音频处理技术领域，具体而言，涉及一种语音评测方法及装置。
背景技术
随着音频技术的快速发展，越来越多的音频系统出现在了人们的眼前，如音频互译系统、语音识别系统等等，从而为了人们的生活提供了巨大便利。其中，在上述音频系统当中，有一种音频系统叫做语音评测系统，其目的是对用于输入的语音进行评测，并得到评测结果。然而，在实践中发现，目前的语音评测系统通常都是对两段音频进行差异点检测，并根据两段音频的差异点进行评测打分，由此可见，该种方法的评测精度较低，并不能给出客观、高精度的评测分数。
发明内容
本申请实施例的目的在于提供一种语音评测方法及装置，用以实现对语音进行客观、高精度地评测，从而提高语音评测的精度。
本申请实施例第一方面提供了一种语音评测方法，包括：
获取待评测音频以及与所述待评测音频对应的参考文本和参考音频；
提取所述待评测音频的音频特征以及所述参考音频的参考音频特征；
根据所述音频特征、所述参考音频特征和所述参考文本，计算所述待评测音频与所述参考音频之间的相似度值；
根据所述相似度值计算所述待评测音频的评测分数。
在上述实现过程中，该方法可以优先获取待评测音频以及与待评测音频对应的参考文本和参考音频；然后，提取待评测音频的音频特征以及参考音频的参考音频特征；再然后，根据音频特征、参考音频特征和参考文本，计算待评测音频与参考音频之间的相似度值；最后，根据相似度值计算待评测音频的评测分数。可见，实施这种实施方式，能够基于文本与音频特征对待评测音频进行多方面评测，从而实现对待评测语音的客观评测，进而提高语音评测的精度。
进一步地，所述音频特征包括梅尔频率倒谱系数、基频特征和能量特征；
所述参考音频特征包括参考梅尔频率倒谱系数、参考基频特征和参考能量特征。
在上述实现过程中，该方法可以在待评测音频中提取包括梅尔频率倒谱系数、基频特征和能量特征的音频特征；并在参考音频中提取包括参考梅尔频率倒谱系数、参考基频特征和参考能量特征的参考音频特征。可见，实施这种实施方式，能够在待评测音频和参考音频中提取相同类型的参数，以使该方法能够根据相同类型的参数进行对应评测，从而提高评测精度。
进一步地，所述根据所述音频特征、所述参考音频特征和所述参考文本，计算所述待评测音频与所述参考音频之间的相似度值，包括：
根据所述音频特征、所述参考音频特征、所述参考文本以及预设的声学模型，提取所述待评测音频的声学数据和所述参考音频的参考声学数据；
根据所述声学数据和所述参考声学数据计算所述待评测音频与所述参考音频之间的停顿语速相似度和所述待评测音频的发音准确度；
根据所述基频特征和所述参考基频特征计算所述待评测音频与所述参考音频之间的声调相似度；
根据所述能量特征和所述参考能量特征计算所述待评测音频与所述参考音频之间的重音相似度；
汇总所述停顿语速相似度、所述发音准确度、所述声调相似度以及所述重音相似度，得到相似度值。
在上述实现过程中，该方法在根据音频特征、参考音频特征和参考文本，计算待评测音频与参考音频之间的相似度值的过程中，可以优先根据音频特征、参考音频特征、参考文本以及预设的声学模型，提取待评测音频的声学数据和参考音频的参考声学数据；然后，根据声学数据和参考声学数据计算待评测音频与参考音频之间的停顿语速相似度和待评测音频的发音准确度；再根据基频特征和参考基频特征计算待评测音频与参考音频之间的声调相似度；再然后根据能量特征和参考能量特征计算待评测音频与参考音频之间的重音相似度；最后，汇总停顿语速相似度、发音准确度、声调相似度以及重音相似度，得到相似度值。可见，实施这种实施方式，能够通过计算发音准确度、声调相似度、重音相似度计算出更加准确的相似度值，从而能够提高相似度值的计算精度。
进一步地，所述根据所述音频特征、所述参考音频特征、所述参考文本以及预设的声学模型，提取所述待评测音频的声学数据和所述参考音频的参考声学数据，包括：
将所述梅尔频率倒谱系数、所述参考梅尔频率倒谱系数和所述参考音频特征输入至预设的声学模型中进行处理，得到所述待评测音频的声学数据以及所述参考音频的参考声学数据；
其中，所述声学数据至少包括音频边界信息和声学特征，所述参考声学数据至少包括参考音频边界信息。
在上述实现过程中，该方法在根据所述音频特征、所述参考音频特征、所述参考文本以及预设的声学模型，提取所述待评测音频的声学数据和所述参考音频的参考声学数据的过程中可以将所述梅尔频率倒谱系数、所述参考梅尔频率倒谱系数和所述参考音频特征输入至预设的声学模型中进行处理，得到所述待评测音频的声学数据以及所述参考音频的参考声学数据；其中，所述声学数据至少包括音频边界信息和声学特征，所述参考声学数据至少包括参考音频边界信息。可见，实施这种实施方式，能够根据预设的声学模型进行声学数据与参考声学数据的获取，从而提高数据获取的准确程度，进而提高语音评测的准确程度。
进一步地，所述根据所述声学数据和所述参考声学数据计算所述待评测音频与所述参考音频之间的停顿语速相似度和所述待评测音频的发音准确度，包括：
根据所述音频边界信息和所述参考音频边界信息，计算所述待评测音频与所述参考音频之间的停顿语速相似度；
根据所述声学特征和预设的发音评测模型，计算所述待评测音频的发音准确度。
在上述实现过程中，该方法在根据声学数据和参考声学数据计算待评测音频与参考音频之间的停顿语速相似度和待评测音频的发音准确度的过程中，可以优先根据音频边界信息和参考音频边界信息，计算待评测音频与参考音频之间的停顿语速相似度；然后再根据声学特征和预设的发音评测模型，计算待评测音频的发音准确度。可见，实施这种实施方式，能够更加准确地计算出停顿语速相似度和发音准确度，从而提高整体的语音评测的精度。
进一步地，所述根据所述基频特征和所述参考基频特征计算所述待评测音频与所述参考音频之间的声调相似度，包括：
根据所述音频边界信息和所述参考音频边界信息，对所述基频特征和所述参考基频特征进行停顿时间归一化处理，得到归一化基频特征和归一化参考基频特征；
根据所述归一化基频特征和所述归一化参考基频特征，计算所述待评测音频与所述参考音频之间的声调相似度。
在上述实现过程中，该方法在根据基频特征和参考基频特征计算待评测音频与参考音频之间的声调相似度的过程中可以优先根据音频边界信息和参考音频边界信息，对基频特征和参考基频特征进行停顿时间归一化处理，得到归一化基频特征和归一化参考基频特征；然后再根据归一化基频特征和归一化参考基频特征，计算待评测音频与参考音频之间的声调相似度。可见，实施这种实施方式，能够进一步通过归一化处理计算出更加准确的声调相似度，从而提高整体的语音评测精度。
进一步地，所述方法还包括：
对所述参考音频进行解码处理，得到参考解码数据；
根据参考解码数据确定所述参考文本对应的读音数据；
根据所述读音数据对所述待评测音频进行发音错误检测，得到发音检测结果；
输出所述发音检测结果和所述待评测音频的评测分数。
在上述实现过程中，该方法还可以对参考音频进行解码处理，得到参考解码数据；再根据参考解码数据确定参考文本对应的读音数据；再根据读音数据对待评测音频进行发音错误检测，得到发音检测结果；最后输出发音检测结果和待评测音频的评测分数。可见，实施这种实施方式，能够获取到的发音检测结果，以使发音错误的部分可以被检测出来，从而能够提高语音评测的展示效果。
本申请实施例第二方面提供了一种语音评测装置，所述语音评测装置包括：
获取单元，用于获取待评测音频以及与所述待评测音频对应的参考文本和参考音频；
提取单元，用于提取所述待评测音频的音频特征以及所述参考音频的参考音频特征；
第一计算单元，用于根据所述音频特征、所述参考音频特征和所述参考文本，计算所述待评测音频与所述参考音频之间的相似度值；
第二计算单元，用于根据所述相似度值计算所述待评测音频的评测分数。
在上述实现过程中，该语音评测装置可以通过获取单元来获取待评测音频以及与所述待评测音频对应的参考文本和参考音频；通过提取单元来提取所述待评测音频的音频特征以及所述参考音频的参考音频特征；通过第一计算单元来根据所述音频特征、所述参考音频特征和所述参考文本，计算所述待评测音频与所述参考音频之间的相似度值；通过第二计算单元来根据所述相似度值计算所述待评测音频的评测分数。可见，实施这种实施方式，能够基于文本与音频特征对待评测音频进行多方面评测，从而实现对待评测语音的客观评测，进而提高语音评测的精度。
本申请实施例第三方面提供了一种电子设备，包括存储器以及处理器，所述存储器用于存储计算机程序，所述处理器运行所述计算机程序以使所述电子设备执行本申请实施例第一方面中任一项所述的语音评测方法。
本申请实施例第四方面提供了一种计算机可读存储介质，其存储有计算机程序指令，所述计算机程序指令被一处理器读取并运行时，执行本申请实施例第一方面中任一项所述的语音评测方法。
附图说明
为了更清楚地说明本申请实施例的技术方案，下面将对本申请实施例中所需要使用的附图作简单地介绍，应当理解，以下附图仅示出了本申请的某些实施例，因此不应被看作是对范围的限定，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他相关的附图。
图1为本申请实施例提供的一种语音评测方法的流程示意图；
图2为本申请实施例提供的另一种语音评测方法的流程示意图；
图3为本申请实施例提供的一种语音评测装置的结构示意图；
图4为本申请实施例提供的另一种语音评测装置的结构示意图；
图5为本申请实施例提供的一种语音评测方法的举例流程示意图。
具体实施方式
下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行描述。
应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步定义和解释。同时，在本申请的描述中，术语“第一”、“第二”等仅用于区分描述，而不能理解为指示或暗示相对重要性。
请参看图1，图1为本申请实施例提供了一种语音评测方法的流程示意图。该方法能够用于朗读产品使用场景，例如互联网在线教育企业下的课文朗读产品、英文跟读产品、单词跟读场景等，具体可以包括单词读音测评、英文朗读评测、古诗词朗读评测、或者其他需要强调字词的场景、其他需要使用抑扬顿挫的语气进行朗读的场景等等。其中，该语音评测方法包括：
S101、获取待评测音频以及与待评测音频对应的参考文本和参考音频。
本申请实施例中，参考文本与参考音频相对应。
以英文跟读场景为例，假设参考文本为“excellent”，参考音频为外教提前录制好的音频，读法为
重音在前。待测音频是学生读“excellent”并上传的音频。
以古诗词朗读场景为例，假设参考文本为“夜来风雨声”，参考音频可为诗词专家(或者语文老师等)提前录制好的音频，待测音频是学生朗读并上传的音频。
需要说明的是，参考文本除了包括参考音频对应的文本之外，还可包括其他辅助文本，比如拼音(例如参考音频是“您好”的读音，参考文本包括文本形式的“您好”以及拼音[nínhǎo]”)、注解(例如参考音频是“独坐幽篁里”的读音，参考文本是“独坐幽篁里以及篁是指竹”)、解析(例如参考音频是“长安不见使人愁”的读音，参考文本是“出自登金陵凤凰台，作者李白，含义是：看不见长安城，我的内心非常忧愁，表达了作者去国怀乡的忧思”)等。
S102、提取待评测音频的音频特征以及参考音频的参考音频特征。
本申请实施例中，音频特征包括梅尔频率倒谱系数、基频特征和能量特征；参考音频特征包括参考梅尔频率倒谱系数、参考基频特征和参考能量特征。
需要说明的是，音频特征还可包括滤波组件(FilterBank，FBank)特征、过零率、短时能量、短时自相关函数、短时平均幅度差、语谱图、短时功率谱密度、谱熵、基频、共振峰等，对此不做赘述。
再者，本申请实施例中提及的音频特征可为音频特征向量，对此不做赘述。
本申请实施例中，梅尔频率倒谱系数(Mel Frequency Cepstrum Coefficient,MFCC)。图5中描述的MFCC即为该梅尔频率倒谱系数。
本申请实施例中，基频特征作为语音的音调(如抑扬顿挫)。
本申请实施例中，能量特征主要用来检测语音中的重读、弱读等发音。
S103、根据音频特征、参考音频特征和参考文本，计算待评测音频与参考音频之间的相似度值。
本申请实施例中，该方法可以通过音频特征、参考音频特征和参考文本三者计算待评测音频与参考音频之间的相似度值。
S104、根据相似度值计算待评测音频的评测分数。
本申请实施例中，该方法的执行主体可以为计算机、服务器等计算装置，对此本实施例中不作任何限定。
在本申请实施例中，该方法的执行主体还可以为智能手机、平板电脑等智能设备，对此本实施例中不作任何限定。
可见，实施图1所描述的语音评测方法，能够基于文本与音频特征对待评测音频进行多方面评测，从而实现对待评测语音的客观评测，进而提高语音评测的精度。
请参看图2，图2为本申请实施例提供的一种语音评测方法的流程示意图。如图2所示，其中，该语音评测方法包括：
S201、获取待评测音频以及与待评测音频对应的参考文本和参考音频。
S202、提取待评测音频的音频特征以及参考音频的参考音频特征。
本申请实施例中，音频特征包括梅尔频率倒谱系数、基频特征和能量特征；参考音频特征包括参考梅尔频率倒谱系数、参考基频特征和参考能量特征。前述相同内容，此处不再赘述。
S203、根据音频特征、参考音频特征、参考文本以及预设的声学模型，提取待评测音频的声学数据和参考音频的参考声学数据。
作为一种可选的实施方式，根据音频特征、参考音频特征、参考文本以及预设的声学模型，提取待评测音频的声学数据和参考音频的参考声学数据，包括：
将梅尔频率倒谱系数、参考梅尔频率倒谱系数和参考音频特征输入至预设的声学模型中进行处理，得到待评测音频的声学数据以及参考音频的参考声学数据；
其中，声学数据至少包括音频边界信息和声学特征，参考声学数据至少包括参考音频边界信息。
本申请实施例中，声学模型可以为卷积神经网络(CNN)、长短期记忆人工神经网络(LSTM)，时延神经网络(TDNN)等。
本申请实施例中，该方法可以根据上述的声学模型和参考文本，分别对参考音频和待评测音频做强制对齐(forcealignment)，同时获取音频边界信息。
S204、根据声学数据和参考声学数据计算待评测音频与参考音频之间的停顿语速相似度和待评测音频的发音准确度。
作为一种可选的实施方式，根据声学数据和参考声学数据计算待评测音频与参考音频之间的停顿语速相似度和待评测音频的发音准确度的步骤包括：
根据音频边界信息和参考音频边界信息，计算待评测音频与参考音频之间的停顿语速相似度；
根据声学特征和预设的发音评测模型，计算待评测音频的发音准确度。
本申请实施例中，该方法可以根据获取得到的音频边界信息确定音节级别的时间序列，并分别计算音频对应的语速，然后再根据语速计算语速相似度；最后再根据语速对停顿时间进行归一化，并通过计算得到停顿语速相似度。
S205、根据基频特征和参考基频特征计算待评测音频与参考音频之间的声调相似度。
作为一种可选的实施方式，根据基频特征和参考基频特征计算待评测音频与参考音频之间的声调相似度的步骤可以包括：
根据音频边界信息和参考音频边界信息，对基频特征和参考基频特征进行停顿时间归一化处理，得到归一化基频特征和归一化参考基频特征；
根据归一化基频特征和归一化参考基频特征，计算待评测音频与参考音频之间的声调相似度。
本申请实施例中，该方法可以对基频做动态时间规整(DTW)，并计算声调相似度。
S206、根据能量特征和参考能量特征计算待评测音频与参考音频之间的重音相似度。
本申请实施例中，该方法可以对能量做动态时间调整(DTW)并计算重音相似度。
S207、汇总停顿语速相似度、发音准确度、声调相似度以及重音相似度，得到相似度值。
S208、根据相似度值计算待评测音频的评测分数。
本申请实施例中，根据人为设定，或者训练得到的回归器的权重计算总分。相似度计算采用余弦相似度，即：
其中，A、B用于表示两个音频的音频特征向量，i用于表示向量中的第i个元素，n表示元素总数。
另外，相似度计算值还可以通过预先建立的神经网络模型进行计算，或则会采用欧式距离计算得到。
在本申请实施例中，该方法还可以使用以线性回归作为确定计算回归器计算最终总分，或者使用神经网络计算最终总分。
请参阅图5，本申请实施例提供的一种语音评测方法的举例流程示意图。其中，边界信息为音频边界信息，停顿及语速相似度为停顿语速相似度。
S209、对参考音频进行解码处理，得到参考解码数据。
S210、根据参考解码数据确定参考文本对应的读音数据。
S211、根据读音数据对待评测音频进行发音错误检测，得到发音检测结果。
本申请实施例中，该方法可以使用GOP(goodness of pronunciation，发音质量评测方法)或者MDD(Mispronunciation Detection and Diagnosis，发音错误的检测与诊断方法)计算发音得分或发音准确度。
在本申请实施例中，该方法可以根据参考音频的解码结果获取某些多音字的读音，并与待测音频比较，检测某些多音字发音错误。
S212、输出发音检测结果和待评测音频的评测分数。
本申请实施例中，该方法可以使用参考语音作为韵律特征的标注，免去了繁重的人工标注工作，同时也更加灵活，包含的信息也更全面，能够灵活应对某些特殊语调的语音评测。另外，该方法还综合了音段和超音段的特征进行评测，使得打分维度更加全面。
可见，实施图2所描述的语音评测方法，能够基于文本与音频特征对待评测音频进行多方面评测，从而实现对待评测语音的客观评测，进而提高语音评测的精度。
请参看图3，图3为本申请实施例提供的一种语音评测装置的结构示意图。如图3所示，该语音评测装置包括：
获取单元310，用于获取待评测音频以及与待评测音频对应的参考文本和参考音频；
提取单元320，用于提取待评测音频的音频特征以及参考音频的参考音频特征；
第一计算单元330，用于根据音频特征、参考音频特征和参考文本，计算待评测音频与参考音频之间的相似度值；
第二计算单元340，用于根据相似度值计算待评测音频的评测分数。
本申请实施例中，音频特征包括梅尔频率倒谱系数、基频特征和能量特征；参考音频特征包括参考梅尔频率倒谱系数、参考基频特征和参考能量特征。
可见，实施图3所描述的语音评测装置，能够基于文本与音频特征对待评测音频进行多方面评测，从而实现对待评测语音的客观评测，进而提高语音评测的精度。
请一并参阅图4，图4是本申请实施例提供的一种语音评测装置的结构示意图。其中，图4所示的语音评测装置是由图3所示的语音评测装置进行优化得到的。如图4所示，第一计算单元330包括：
第一子单元331，用于根据音频特征、参考音频特征、参考文本以及预设的声学模型，提取待评测音频的声学数据和参考音频的参考声学数据；
第二子单元332，用于根据声学数据和参考声学数据计算待评测音频与参考音频之间的停顿语速相似度和待评测音频的发音准确度；
第三子单元333，用于根据基频特征和参考基频特征计算待评测音频与参考音频之间的声调相似度；
第四子单元334，用于根据能量特征和参考能量特征计算待评测音频与参考音频之间的重音相似度；
第五子单元335，用于汇总停顿语速相似度、发音准确度、声调相似度以及重音相似度，得到相似度值。
作为一种可选的实施方式，第一子单元331具体用于将梅尔频率倒谱系数、参考梅尔频率倒谱系数和参考音频特征输入至预设的声学模型中进行处理，得到待评测音频的声学数据以及参考音频的参考声学数据；其中，声学数据至少包括音频边界信息和声学特征，参考声学数据至少包括参考音频边界信息。
作为一种可选的实施方式，第二子单元332具体用于根据音频边界信息和参考音频边界信息，计算待评测音频与参考音频之间的停顿语速相似度；
根据声学特征和预设的发音评测模型，计算待评测音频的发音准确度。
作为一种可选的实施方式，第三子单元333具体用于根据音频边界信息和参考音频边界信息，对基频特征和参考基频特征进行停顿时间归一化处理，得到归一化基频特征和归一化参考基频特征；
根据归一化基频特征和归一化参考基频特征，计算待评测音频与参考音频之间的声调相似度。
作为一种可选的实施方式，语音评测装置还可以包括：
解码单元350，用于对参考音频进行解码处理，得到参考解码数据；
确定单元360，用于根据参考解码数据确定参考文本对应的读音数据；
检测单元370，用于根据读音数据对待评测音频进行发音错误检测，得到发音检测结果；
输出单元380，用于输出发音检测结果和待评测音频的评测分数。
可见，实施图4所描述的语音评测装置，能够基于文本与音频特征对待评测音频进行多方面评测，从而实现对待评测语音的客观评测，进而提高语音评测的精度。
本申请实施例提供了一种电子设备，包括存储器以及处理器，所述存储器用于存储计算机程序，所述处理器运行所述计算机程序以使所述电子设备执行本申请实施例中的语音评测方法。
本申请实施例提供了一种计算机可读存储介质，其存储有计算机程序指令，所述计算机程序指令被一处理器读取并运行时，执行本申请实施例中的语音评测方法。
在本申请所提供的几个实施例中，应该理解到，所揭露的装置和方法，也可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的，例如，附图中的流程图和框图显示了根据本申请的多个实施例的装置、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分，所述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现方式中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个连续的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或动作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
另外，在本申请各个实施例中的各功能模块可以集成在一起形成一个独立的部分，也可以是各个模块单独存在，也可以两个或两个以上模块集成形成一个独立的部分。
所述功能如果以软件功能模块的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读存储介质中。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述仅为本申请的实施例而已，并不用于限制本申请的保护范围，对于本领域的技术人员来说，本申请可以有各种更改和变化。凡在本申请的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本申请的保护范围之内。应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步定义和解释。
以上所述，仅为本申请的具体实施方式，但本申请的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本申请揭露的技术范围内，可轻易想到变化或替换，都应涵盖在本申请的保护范围之内。因此，本申请的保护范围应所述以权利要求的保护范围为准。
需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
Claims (10)
1.一种语音评测方法，其特征在于，包括：
获取待评测音频以及与所述待评测音频对应的参考文本和参考音频；
提取所述待评测音频的音频特征以及所述参考音频的参考音频特征；
根据所述音频特征、所述参考音频特征和所述参考文本，计算所述待评测音频与所述参考音频之间的相似度值；
根据所述相似度值计算所述待评测音频的评测分数。
2.根据权利要求1所述的语音评测方法，其特征在于，所述音频特征包括梅尔频率倒谱系数、基频特征和能量特征；
所述参考音频特征包括参考梅尔频率倒谱系数、参考基频特征和参考能量特征。
3.根据权利要求2所述的语音评测方法，其特征在于，所述根据所述音频特征、所述参考音频特征和所述参考文本，计算所述待评测音频与所述参考音频之间的相似度值，包括：
根据所述音频特征、所述参考音频特征、所述参考文本以及预设的声学模型，提取所述待评测音频的声学数据和所述参考音频的参考声学数据；
根据所述声学数据和所述参考声学数据计算所述待评测音频与所述参考音频之间的停顿语速相似度和所述待评测音频的发音准确度；
根据所述基频特征和所述参考基频特征计算所述待评测音频与所述参考音频之间的声调相似度；
根据所述能量特征和所述参考能量特征计算所述待评测音频与所述参考音频之间的重音相似度；
汇总所述停顿语速相似度、所述发音准确度、所述声调相似度以及所述重音相似度，得到相似度值。
4.根据权利要求3所述的语音评测方法，其特征在于，所述根据所述音频特征、所述参考音频特征、所述参考文本以及预设的声学模型，提取所述待评测音频的声学数据和所述参考音频的参考声学数据，包括：
将所述梅尔频率倒谱系数、所述参考梅尔频率倒谱系数和所述参考音频特征输入至预设的声学模型中进行处理，得到所述待评测音频的声学数据以及所述参考音频的参考声学数据；
其中，所述声学数据至少包括音频边界信息和声学特征，所述参考声学数据至少包括参考音频边界信息。
5.根据权利要求4所述的语音评测方法，其特征在于，所述根据所述声学数据和所述参考声学数据计算所述待评测音频与所述参考音频之间的停顿语速相似度和所述待评测音频的发音准确度，包括：
根据所述音频边界信息和所述参考音频边界信息，计算所述待评测音频与所述参考音频之间的停顿语速相似度；
根据所述声学特征和预设的发音评测模型，计算所述待评测音频的发音准确度。
6.根据权利要求4所述的语音评测方法，其特征在于，所述根据所述基频特征和所述参考基频特征计算所述待评测音频与所述参考音频之间的声调相似度，包括：
根据所述音频边界信息和所述参考音频边界信息，对所述基频特征和所述参考基频特征进行停顿时间归一化处理，得到归一化基频特征和归一化参考基频特征；
根据所述归一化基频特征和所述归一化参考基频特征，计算所述待评测音频与所述参考音频之间的声调相似度。
7.根据权利要求1所述的语音评测方法，其特征在于，所述方法还包括：
对所述参考音频进行解码处理，得到参考解码数据；
根据参考解码数据确定所述参考文本对应的读音数据；
根据所述读音数据对所述待评测音频进行发音错误检测，得到发音检测结果；
输出所述发音检测结果和所述待评测音频的评测分数。
8.一种语音评测装置，其特征在于，所述语音评测装置包括：
获取单元，用于获取待评测音频以及与所述待评测音频对应的参考文本和参考音频；
提取单元，用于提取所述待评测音频的音频特征以及所述参考音频的参考音频特征；
第一计算单元，用于根据所述音频特征、所述参考音频特征和所述参考文本，计算所述待评测音频与所述参考音频之间的相似度值；
第二计算单元，用于根据所述相似度值计算所述待评测音频的评测分数。
9.一种电子设备，其特征在于，所述电子设备包括存储器以及处理器，所述存储器用于存储计算机程序，所述处理器运行所述计算机程序以使所述电子设备执行权利要求1至7中任一项所述的语音评测方法。
10.一种可读存储介质，其特征在于，所述可读存储介质中存储有计算机程序指令，所述计算机程序指令被一处理器读取并运行时，执行权利要求1至7任一项所述的语音评测方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202011233046.XA CN112349300A (zh) | 2020-11-06 | 2020-11-06 | 一种语音评测方法及装置 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202011233046.XA CN112349300A (zh) | 2020-11-06 | 2020-11-06 | 一种语音评测方法及装置 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN112349300A true CN112349300A (zh) | 2021-02-09 |
Family
ID=74428718
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202011233046.XA Pending CN112349300A (zh) | 2020-11-06 | 2020-11-06 | 一种语音评测方法及装置 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN112349300A (zh) |
Cited By (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112967736A (zh) * | 2021-03-02 | 2021-06-15 | 厦门快商通科技股份有限公司 | 发音质量检测方法、系统、移动终端及存储介质 |
| CN113053337A (zh) * | 2021-03-26 | 2021-06-29 | 北京儒博科技有限公司 | 一种音准评定方法、装置、设备及存储介质 |
| CN113077820A (zh) * | 2021-03-22 | 2021-07-06 | 北京儒博科技有限公司 | 一种语音评测方法、装置、设备及存储介质 |
| CN113314100A (zh) * | 2021-07-29 | 2021-08-27 | 腾讯科技（深圳）有限公司 | 口语测试的评估、结果显示方法、装置、设备及存储介质 |
| CN113689882A (zh) * | 2021-08-24 | 2021-11-23 | 上海喜马拉雅科技有限公司 | 发音评测方法、装置、电子设备及可读存储介质 |
| CN117393002A (zh) * | 2023-12-11 | 2024-01-12 | 深圳市妙语教育科技有限公司 | 基于人工智能的朗读质量测评方法及相关装置 |
Citations (10)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2006023758A (ja) * | 2005-08-08 | 2006-01-26 | Yamaha Corp | 発音評価装置 |
| CN101231848A (zh) * | 2007-11-06 | 2008-07-30 | 安徽科大讯飞信息科技股份有限公司 | 一种基于支持向量机进行发音错误检测的方法 |
| CN101739870A (zh) * | 2009-12-03 | 2010-06-16 | 深圳先进技术研究院 | 交互式语言学习系统及交互式语言学习方法 |
| CN103928023A (zh) * | 2014-04-29 | 2014-07-16 | 广东外语外贸大学 | 一种语音评分方法及系统 |
| CN104050965A (zh) * | 2013-09-02 | 2014-09-17 | 广东外语外贸大学 | 具有情感识别功能的英语语音发音质量评价系统及方法 |
| CN106531185A (zh) * | 2016-11-01 | 2017-03-22 | 上海语知义信息技术有限公司 | 基于语音相似度的语音评测方法及系统 |
| CN109545244A (zh) * | 2019-01-29 | 2019-03-29 | 北京猎户星空科技有限公司 | 语音评测方法、装置、电子设备及存储介质 |
| CN110085257A (zh) * | 2019-03-29 | 2019-08-02 | 语文出版社有限公司 | 一种基于国学经典学习的韵律自动评价系统 |
| US20190385480A1 (en) * | 2018-06-18 | 2019-12-19 | Pearson Education, Inc. | System to evaluate dimensions of pronunciation quality |
| CN110797010A (zh) * | 2019-10-31 | 2020-02-14 | 腾讯科技（深圳）有限公司 | 基于人工智能的问答评分方法、装置、设备及存储介质 |
-
2020
- 2020-11-06 CN CN202011233046.XA patent/CN112349300A/zh active Pending
Patent Citations (10)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2006023758A (ja) * | 2005-08-08 | 2006-01-26 | Yamaha Corp | 発音評価装置 |
| CN101231848A (zh) * | 2007-11-06 | 2008-07-30 | 安徽科大讯飞信息科技股份有限公司 | 一种基于支持向量机进行发音错误检测的方法 |
| CN101739870A (zh) * | 2009-12-03 | 2010-06-16 | 深圳先进技术研究院 | 交互式语言学习系统及交互式语言学习方法 |
| CN104050965A (zh) * | 2013-09-02 | 2014-09-17 | 广东外语外贸大学 | 具有情感识别功能的英语语音发音质量评价系统及方法 |
| CN103928023A (zh) * | 2014-04-29 | 2014-07-16 | 广东外语外贸大学 | 一种语音评分方法及系统 |
| CN106531185A (zh) * | 2016-11-01 | 2017-03-22 | 上海语知义信息技术有限公司 | 基于语音相似度的语音评测方法及系统 |
| US20190385480A1 (en) * | 2018-06-18 | 2019-12-19 | Pearson Education, Inc. | System to evaluate dimensions of pronunciation quality |
| CN109545244A (zh) * | 2019-01-29 | 2019-03-29 | 北京猎户星空科技有限公司 | 语音评测方法、装置、电子设备及存储介质 |
| CN110085257A (zh) * | 2019-03-29 | 2019-08-02 | 语文出版社有限公司 | 一种基于国学经典学习的韵律自动评价系统 |
| CN110797010A (zh) * | 2019-10-31 | 2020-02-14 | 腾讯科技（深圳）有限公司 | 基于人工智能的问答评分方法、装置、设备及存储介质 |
Cited By (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112967736A (zh) * | 2021-03-02 | 2021-06-15 | 厦门快商通科技股份有限公司 | 发音质量检测方法、系统、移动终端及存储介质 |
| CN113077820A (zh) * | 2021-03-22 | 2021-07-06 | 北京儒博科技有限公司 | 一种语音评测方法、装置、设备及存储介质 |
| CN113053337A (zh) * | 2021-03-26 | 2021-06-29 | 北京儒博科技有限公司 | 一种音准评定方法、装置、设备及存储介质 |
| CN113314100A (zh) * | 2021-07-29 | 2021-08-27 | 腾讯科技（深圳）有限公司 | 口语测试的评估、结果显示方法、装置、设备及存储介质 |
| CN113314100B (zh) * | 2021-07-29 | 2021-10-08 | 腾讯科技（深圳）有限公司 | 口语测试的评估、结果显示方法、装置、设备及存储介质 |
| CN113689882A (zh) * | 2021-08-24 | 2021-11-23 | 上海喜马拉雅科技有限公司 | 发音评测方法、装置、电子设备及可读存储介质 |
| CN117393002A (zh) * | 2023-12-11 | 2024-01-12 | 深圳市妙语教育科技有限公司 | 基于人工智能的朗读质量测评方法及相关装置 |
| CN117393002B (zh) * | 2023-12-11 | 2024-03-05 | 深圳市妙语教育科技有限公司 | 基于人工智能的朗读质量测评方法及相关装置 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN112349300A (zh) | 一种语音评测方法及装置 | |
| CN105845134B (zh) | 自由朗读题型的口语评测方法及系统 | |
| US8478591B2 (en) | Phonetic variation model building apparatus and method and phonetic recognition system and method thereof | |
| US7013276B2 (en) | Method of assessing degree of acoustic confusability, and system therefor | |
| CN109686383B (zh) | 一种语音分析方法、装置及存储介质 | |
| Wang et al. | An acoustic measure for word prominence in spontaneous speech | |
| CN111640418B (zh) | 一种韵律短语识别方法、装置及电子设备 | |
| JP6370749B2 (ja) | 発話意図モデル学習装置、発話意図抽出装置、発話意図モデル学習方法、発話意図抽出方法、プログラム | |
| CN108766415B (zh) | 一种语音测评方法 | |
| US9489864B2 (en) | Systems and methods for an automated pronunciation assessment system for similar vowel pairs | |
| Bartelds et al. | A new acoustic-based pronunciation distance measure | |
| Arafa et al. | A dataset for speech recognition to support Arabic phoneme pronunciation | |
| Mary et al. | Searching speech databases: features, techniques and evaluation measures | |
| Alkhatib et al. | Building an assistant mobile application for teaching arabic pronunciation using a new approach for arabic speech recognition | |
| Yousfi et al. | Holy Qur'an speech recognition system Imaalah checking rule for warsh recitation | |
| Zhang et al. | A K-phoneme-class based multi-model method for short utterance speaker recognition | |
| KR101145440B1 (ko) | 음성인식 기술을 이용한 외국어 말하기 평가 방법 및 시스템 | |
| Kato et al. | Referential vowel duration ratio as a feature for automatic assessment of l2 word prosody | |
| US8768697B2 (en) | Method for measuring speech characteristics | |
| Kekre et al. | Speech recognition using vector quantization | |
| CN111199750B (zh) | 一种发音评测方法、装置、电子设备及存储介质 | |
| Barczewska et al. | Detection of disfluencies in speech signal | |
| Kupryjanow et al. | Real-time speech signal segmentation methods | |
| CN115148225A (zh) | 语调评分方法、语调评分系统、计算设备及存储介质 | |
| Laleye et al. | Automatic boundary detection based on entropy measures for text-independent syllable segmentation |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |