CN101546557B - 用于音频内容识别的分类器参数更新方法 - Google Patents

Abstract

一种用于音频内容识别的分类器参数更新方法，包括如下步骤：获取新的训练数据；进行数据选择，得到数据集一及数据集二；利用数据集一更新高斯混合模型参数；而对于数据集二，则先判断其数据量是否大于一门限值，如其数据量是大于一门限值，则利用数据集二的数据更新整体的高斯混合模型参数，如此本发明可针对当前的高斯混合模型，根据实际测试样本来更新分类器参数，从而可以达到最优化分类的目的。

Description

用于音频内容识别的分类器参数更新方法

【技术领域】

本发明涉及一种用于音频内容识别的分类器参数更新方法，特别是指适用于基于高斯混合模型的分类器的参数更新方法。

【背景技术】

音频是多媒体中的一种重要媒体，音频信息检索技术是多媒体信息检索技术中的一个重要部分，相应的现有技术可参考中国专利1391211、1223739及1270361号及美国专利5,613,037、6,292,776及5,440,662号等。在音频检索应用中，需要对音频数据进行分类，它的目的是区分输入的音频信号属于那一类，常见的音频类别有人声、背景噪声、流行音乐、古典音乐等，并且音频内容分类的应用也非常广泛，特别是在音频检索领域，音频内容分类起着决定性的作用，而在一些多媒体摘要的抽取过程中，音频内容分类作为视频内容检索的一种辅助手段也起到了重要作用。广义上来说，在很多语音和音频标准，例如3GPP的AMR-WB和AMR-WB+里，它们都用到了语音/噪声分类器和语音/音乐分类器，提供给编码器输入信号是哪一种音频信号，从而对每一种信号采取不同的编码器，因此设计一种良好的音频内容分类方法是相当关键和重要的。在通常的分类方法中，通常用到两个必不可少的模块，即音频特征提取模块，其功能是从输入的音频采样点中提取反映音频内容种类的信息，而另一个则是分类器，其利用这些信息完成对种类判断的过程。在音频内容分类技术领域内，已有很多种分类器被广泛应用了，其中决策树(Decision Tree)和k-最近邻方法(K Nearest Neighbor)为两种相对较易于实现和理解的分类器，它们并对语音、环境噪声、音乐三类音频内容分类取得了良好的效果。此外，在AMR-WB+标准里，语音和音乐的分类器也是采用的决策树的方法。而支持向量机分类器(Support Vector Machine Classifier)作为一种近几年来被很多机器学习和模式识别领域里采用的分类器，也被证明是一种非常行之有效的方法。其他几种经典分类器，例如反向神经网络(Back-Propagation Neural Network)，人工神经网络(Artificial Neural Network)，聚类(Clustering)方法，也被证明对音频内容分类是有效的。

高斯混合模型(Gaussian Mixture Model，GMM)是一种应用最广泛的概率密度模型，尤其在音频内容分类器里，它认为特征向量的概率密度模型符合高斯混合模型，并用训练数据来估计混合模型的参数，再根据建立的混合模型采用适当的分类器完成分类过程。而实际上，在很多分类器应用里，训练样本都是很有限或者不充分的，无法根据实际测试样本来更新分类器参数，进而无法达到最优化分类的目的。

【发明内容】

本发明的目的在于提供一种用于音频内容识别的分类器参数更新方法，特别是指适用于基于高斯混合模型的分类器的参数更新方法，其能够根据实际测试样本来更新分类器参数，以达到最优化分类的目的。

依据上述发明目的，本发明提供一种用于音频内容识别的分类器参数更新方法，包括如下步骤：

获取新的训练数据；

进行数据选择，得到数据集一及数据集二；

利用数据集一当前高斯混合模型的参数π_j，μ_j，∑_j，j＝1，2，...，g，其中g为当前的高斯分量的个数，π_j为混合百分比参数，∑_j为方差，μ_j为均值；

而对于数据集二，则先判断其数据量是否大于一门限值，如其数据量是大于一门限值，则利用数据集二的数据更新整体的高斯混合模型参数，采取如下的方法：

第一步：根据

计算这些数据所产生的高斯混合模型参数：

π_j，μ_j，∑_j，j＝g+1，g+2，...，g+h

其中h为新增高斯混合模型的个数；

第二步：重新分配混合百分比参数π_j，j＝1，2，...，g+h，而不更新其它两组参数：

${\mathrm{\π}}_j^{\′}=\left\{\begin{array}{c}\mathrm{\α}{\mathrm{\π}}_j,j=\mathrm{1,2},...g\\ \mathrm{\β}{\mathrm{\π}}_j,j=g+1,g+2,...,h\end{array}\right.$

其中，参数须满足α+β＝1。

依据上述主要特征，如果数据集二的数据量小于一门限值，则保持原高斯混合模型参数不变。

依据上述主要特征，其中在进行数据选择的过程中是基于原参数所构成的高斯混合模型并计算新数据在此模型下概率的大小而选择。

依据上述主要特征，其中当的时候，将新数据

放在数据集一，而当

的时候，则将新数据放在数据集二，此时η为一预设值，

是新数据

在高斯混合模型的第j个分量下的概率。

依据上述主要特征，其中在进行数据选择的过程中是基于计算数据和高斯混合模型分布中心的距离而选择。

依据上述主要特征，其中如果新数据和高斯混合模型分布中心的距离大于某一个门限，则归为数据集二，反之为归为数据集一。

依据上述主要特征，对于数据集一的数据，应用如下的推导式子求出新高斯混合模型参数：

${\mathrm{\π}}_j^{\′}={\mathrm{\α}}_1{\mathrm{\π}}_j+{\mathrm{\β}}_1\underset{i=1}{\overset{K}{\mathrm{\Σ}}}\frac{{\mathrm{\π}}_{j}p\left(x_i^{\mathrm{inc}}\right|{\mathrm{\μ}}_j,{\mathrm{\Σ}}_j)}{\underset{k=1}{\overset{g}{\mathrm{\Σ}}}{\mathrm{\π}}_{k}p\left(x_i^{\mathrm{inc}}\right|{\mathrm{\μ}}_k,{\mathrm{\Σ}}_k)}$

${{\mathrm{\μ}}^{\′}}_j={\mathrm{\α}}_2{\mathrm{\π}}_j{\mathrm{\μ}}_j+{\mathrm{\β}}_2\underset{i=1}{\overset{K}{\mathrm{\Σ}}}\frac{{\mathrm{\π}}_j{x}_i^{\mathrm{inc}}p\left(x_i^{\mathrm{inc}}\right|{\mathrm{\μ}}_j,{\mathrm{\Σ}}_j)}{\underset{k=1}{\overset{g}{\mathrm{\Σ}}}{\mathrm{\π}}_{k}p\left(x_i^{\mathrm{inc}}\right|{\mathrm{\μ}}_k,{\mathrm{\Σ}}_k)}$

${\mathrm{\Σ}}_j^{\′}={\mathrm{\α}}_3{\mathrm{\π}}_j({\mathrm{\Σ}}_j+\mathrm{\Δ}{\mathrm{\μ}}_j\mathrm{\Δ}{{\mathrm{\μ}}_j}^T)+{\mathrm{\β}}_3\underset{i=1}{\overset{N}{\mathrm{\Σ}}}\frac{{\mathrm{\π}}_j{x}_i^{\mathrm{inc}}p\left(x_i^{\mathrm{inc}}\right|{\mathrm{\μ}}_j,{\mathrm{\Σ}}_j)}{\underset{k=1}{\overset{g}{\mathrm{\Σ}}}{\mathrm{\π}}_{k}p\left(x_i^{\mathrm{inc}}\right|{\mathrm{\μ}}_k,{\mathrm{\Σ}}_k)}(x_i^{\mathrm{inc}}-{\mathrm{\μ}}_j){(x_i^{\mathrm{inc}}-{\mathrm{\μ}}_j)}^T$

其中参数α_i，β_i，i＝1，2，3决定着更新的强度，其具体值可以任意决定，只需满足α_i+Kβ_i＝1，i＝1，2，3。

依据上述主要特征，上述的

其中N是原数据集大小，K是数据集一的数据个数。

与现有技术相比较，本发明针对当前的高斯混合模型，根据实际测试样本来更新分类器参数，从而可以达到最优化分类的目的，并且经试验证明，针对音频内容分类，实施本发明的方法后得到的分类正确率要比不采用此方法平均增加5.3％，，对于某些特定音频分类问题，其增强效果可以达到8.1％以上。

【附图说明】：

图1为实施本发明的流程图。

【具体实施方式】

音频是多媒体中的一种重要媒体，音频信息检索技术是多媒体信息检索技术中的一个重要部分。在音频检索应用中，需要对音频数据进行分类，它的目的是区分输入的音频信号属于那一类，常见的音频类别有人声、背景噪声、流行音乐、古典音乐等，并且音频内容分类的应用也非常广泛，特别是在音频检索领域，音频内容分类起着决定性的作用，而在一些多媒体摘要的抽取过程中，音频内容分类作为视频内容检索的一种辅助手段也起到了重要作用。广义上来说，在很多语音和音频标准，例如3GPP的AMR-WB和AMR-WB+里，它们都用到了语音/噪声分类器和语音/音乐分类器，提供给编码器输入信号是哪一种音频信号，从而对每一种信号采取不同的编码器，因此设计一种良好的音频内容分类方法是相当关键和重要的。在通常的分类方法中，通常用到两个必不可少的模块，即音频特征提取模块，其功能是从输入的音频采样点中提取反映音频内容种类的信息，而另一个则是分类器，其利用这些信息完成对种类判断的过程。在音频内容分类技术领域内，已有很多种分类器被广泛应用了，其中决策树(Decision Tree)和k-最近邻方法(K Nearest Neighbor)为两种相对较易于实现和理解的分类器，它们并对语音、环境噪声、音乐三类音频内容分类取得了良好的效果。此外，在AMR-WB+标准里，语音和音乐的分类器也是采用的决策树的方法。而支持向量机分类器(Support Vector Machine Classifier)作为一种近几年来被很多机器学习和模式识别领域里采用的分类器，也被证明是一种非常行之有效的方法。其他几种经典分类器，例如反向神经网络(Back-Propagation Neural Network)，人工神经网络(Artificial Neural Network)，聚类(Clustering)方法，也被证明对音频内容分类是有效的。

高斯混合模型(Gaussian Mixture Model，以下简称GMM)是一种应用最广泛的概率密度模型，尤其在音频内容分类器里，它认为特征向量的概率密度模型符合高斯混合模型，并用训练数据来估计混合模型的参数，再根据建立的混合模型采用适当的分类器完成分类过程。而实际上，在很多分类器应用里，训练样本都是很有限或者不充分的，无法根据实际测试样本来更新分类器参数，进而无法达到最优化分类的目的，本发明正是针对现有技术的此缺陷而提出一种解决方案。

在具体实施时，假设当前的GMM参数为π_j，μ_j，∑_j，j＝1，2，...，g(这表示这个GMM总共有g个分量，每一个分量都对应了三个参数)，所以GMM的概率为

$p\left(x\right|\mathrm{\π},\mathrm{\μ},\mathrm{\Σ})=\underset{j=1}{\overset{g}{\mathrm{\Σ}}}{p}_j\left(x\right|{\mathrm{\μ}}_j,{\mathrm{\Σ}}_j)$

本发明是用以解决当新数据

到来的时候，如何更新GMM的参数，具体流程可参图2所示，具体包括如下步骤：

第一步：获取新的训练数据，即接收新数据

第二步：进行数据选择，得到数据集一及数据集二，首先根据当前的高斯混合模型分布，选择出哪些数据构成了新的混合模型，而哪些数据用来更新原高斯混合模型的参数。在具体实施时，一种方式是根据新数据在原模型下的概率大小来选择，即：

●当

的时候，将放在数据集一；

●当

的时候，将

放在数据集二；

此时η为一预设值，g为当前的高斯分量的个数，π_j为混合百分比参数，∑_j为方差，μ_j为均值，

是新数据

在高斯混合模型的第j个分量下的概率。

另外一种实施方式是计算数据和高斯混合模型分布中心的距离，如果距离大于某一个门限，则判为数据集二，反之为数据集一的数据。

如此可以得到两个数据集：数据集一和数据集二，其中数据集二中保存了构造新混合模型的数据，而数据集一保存了剩下的数据，用于更新当前GMM参数π_j，μ_j，∑_j，j＝1，2，...，g。

对于数据集一的数据，应用如下的推导式子求出新GMM参数：

${\mathrm{\π}}_j^{\′}={\mathrm{\α}}_1{\mathrm{\π}}_j+{\mathrm{\β}}_1\underset{i=1}{\overset{K}{\mathrm{\Σ}}}\frac{{\mathrm{\π}}_{j}p\left(x_i^{\mathrm{inc}}\right|{\mathrm{\μ}}_j,{\mathrm{\Σ}}_j)}{\underset{k=1}{\overset{g}{\mathrm{\Σ}}}{\mathrm{\π}}_{k}p\left(x_i^{\mathrm{inc}}\right|{\mathrm{\μ}}_k,{\mathrm{\Σ}}_k)}$

${{\mathrm{\μ}}^{\′}}_j={\mathrm{\α}}_2{\mathrm{\π}}_j{\mathrm{\μ}}_j+{\mathrm{\β}}_2\underset{i=1}{\overset{K}{\mathrm{\Σ}}}\frac{{\mathrm{\π}}_j{x}_i^{\mathrm{inc}}p\left(x_i^{\mathrm{inc}}\right|{\mathrm{\μ}}_j,{\mathrm{\Σ}}_j)}{\underset{k=1}{\overset{g}{\mathrm{\Σ}}}{\mathrm{\π}}_{k}p\left(x_i^{\mathrm{inc}}\right|{\mathrm{\μ}}_k,{\mathrm{\Σ}}_k)}$

${\mathrm{\Σ}}_j^{\′}={\mathrm{\α}}_3{\mathrm{\π}}_j({\mathrm{\Σ}}_j+\mathrm{\Δ}{\mathrm{\μ}}_j\mathrm{\Δ}{{\mathrm{\μ}}_j}^T)+{\mathrm{\β}}_3\underset{i=1}{\overset{N}{\mathrm{\Σ}}}\frac{{\mathrm{\π}}_j{x}_i^{\mathrm{inc}}p\left(x_i^{\mathrm{inc}}\right|{\mathrm{\μ}}_j,{\mathrm{\Σ}}_j)}{\underset{k=1}{\overset{g}{\mathrm{\Σ}}}{\mathrm{\π}}_{k}p\left(x_i^{\mathrm{inc}}\right|{\mathrm{\μ}}_k,{\mathrm{\Σ}}_k)}(x_i^{\mathrm{inc}}-{\mathrm{\μ}}_j){(x_i^{\mathrm{inc}}-{\mathrm{\μ}}_j)}^T$

其中参数α_i，β_i，i＝1，2，3决定着更新的强度，其具体值可以任意决定，只是需满足α_i+Kβ_i＝1，i＝1，2，3。一种实施方式是 其中N是原数据集大小，K是数据集一的数据个数。

对于数据集二的数据，则训练其自身的高斯混合模型参数并更新整体的高斯混合模型参数，采取如下的方法：

第一步：根据

计算这些数据所产生的高斯混合模型参数(新增h个高斯混合)：

π_j，μ_j，∑_j，j＝g+1，g+2，...，g+h

第二步：重新分配混合百分比参数π_j，j＝1，2，...，g+h，而不更新其它两组参数：

${\mathrm{\π}}_j^{\′}=\left\{\begin{array}{c}\mathrm{\α}{\mathrm{\π}}_j,j=\mathrm{1,2},...g\\ \mathrm{\β}{\mathrm{\π}}_j,j=g+1,g+2,...,h\end{array}\right.$

其中，参数须满足α+β＝1，其中一种实施例则是令

其中N是原数据集大小，K是数据集一的数据个数。此时高斯混合模型参数被更新为：π′_j，μ_j，∑_j，j＝1，2，...，g+h

至此，高斯混合模型参数更新完毕。

与现有技术相比较，本发明针对当前的高斯混合模型，根据实际测试样本来更新分类器参数，从而可以达到最优化分类的目的。针对音频内容分类，采用此方法所取得分类正确率要比不采用此方法平均增加5.3％。尤其对于某些特定音频分类问题，其增强效果可以达到8.1％以上。

Claims (9)

1.一种用于音频内容识别的分类器参数更新方法，适用于基于高斯混合模型的分类器，其特征在于该方法包括如下步骤：

获取新的训练数据；

进行数据选择，得到数据集一及数据集二；

利用数据集一更新当前高斯混合模型的参数π_j，μ_j，∑_j，j＝1，2，...，g，其中g为当前的高斯分量的个数，π_j为混合百分比参数，∑_j为方差，μ_j为均值；

而对于数据集二，则先判断其数据量是否大于一门限值，如其数据量是大于一门限值，则利用数据集二的数据更新整体的高斯混合模型参数，采取如下的方法：

第一步：根据

计算这些数据所产生的高斯混合模型参数：

π_j，μ_j，∑_j，j＝g+1，g+2，...，g+h

其中h为高斯混合模型新增的高斯分量的个数；

第二步：重新分配混合百分比参数π_j，j＝1，2，...，g+h，而不更新其它两组参数：

${\mathrm{\π}}_j^{\′}=\left\{\begin{array}{c}\mathrm{\α}{\mathrm{\π}}_j,j=\mathrm{1,2},...g\\ \mathrm{\β}{\mathrm{\π}}_j,j=g+1,g+2,...,h\end{array}\right.$

其中，参数须满足α+β＝1。

2.如权利要求1所述的用于音频内容识别的分类器参数更新方法，其特征在于：如果数据集二的数据量小于一门限值，则保持原高斯混合模型参数不变。

3.如权利要求1所述的用于音频内容识别的分类器参数更新方法，其特征在于：其中在进行数据选择的过程中是基于原参数所构成的高斯混合模型并计算新数据在此模型下概率的大小而选择。

4.如权利要求3所述的用于音频内容识别的分类器参数更新方法，其特征在于：其中当

的时候，将新数据放在数据集一，而当

的时候，则将新数据

放在数据集二，此时η为一预设值，

是新数据

在高斯混合模型的第j个分量下的概率。

5.如权利要求1所述的用于音频内容识别的分类器参数更新方法，其特征在于：其中在进行数据选择的过程中是基于计算数据和高斯混合模型分布中心的距离而选择。

6.如权利要求5所述的用于音频内容识别的分类器参数更新方法，其特征在于：其中如果新数据和高斯混合模型分布中心的距离大于某一个门限，则归为数据集二，反之为归为数据集一。

7.如权利要求4或6所述的用于音频内容识别的分类器参数更新方法，其特征在于：对于数据集一的数据，应用如下的推导式子求出新高斯混合模型参数：

${\mathrm{\π}}_j^{\′}={\mathrm{\α}}_1{\mathrm{\π}}_j+{\mathrm{\β}}_1\underset{i=1}{\overset{K}{\mathrm{\Σ}}}\frac{{\mathrm{\π}}_{j}p\left(x_i^{\mathrm{inc}}\right|{\mathrm{\μ}}_j,{\mathrm{\Σ}}_j)}{\underset{k=1}{\overset{g}{\mathrm{\Σ}}}{\mathrm{\π}}_{k}p\left(x_i^{\mathrm{inc}}\right|{\mathrm{\μ}}_k,{\mathrm{\Σ}}_k)}$

${{\mathrm{\μ}}^{\′}}_j={\mathrm{\α}}_2{\mathrm{\π}}_j{\mathrm{\μ}}_j+{\mathrm{\β}}_2\underset{i=1}{\overset{K}{\mathrm{\Σ}}}\frac{{\mathrm{\π}}_j{x}_i^{\mathrm{inc}}p\left(x_i^{\mathrm{inc}}\right|{\mathrm{\μ}}_j,{\mathrm{\Σ}}_j)}{\underset{k=1}{\overset{g}{\mathrm{\Σ}}}{\mathrm{\π}}_{k}p\left(x_i^{\mathrm{inc}}\right|{\mathrm{\μ}}_k,{\mathrm{\Σ}}_k)}$

${\mathrm{\Σ}}_j^{\′}={\mathrm{\α}}_3{\mathrm{\π}}_j({\mathrm{\Σ}}_j+\mathrm{\Δ}{\mathrm{\μ}}_j\mathrm{\Δ}{{\mathrm{\μ}}_j}^T)+{\mathrm{\β}}_3\underset{i=1}{\overset{N}{\mathrm{\Σ}}}\frac{{\mathrm{\π}}_j{x}_i^{\mathrm{inc}}p\left(x_i^{\mathrm{inc}}\right|{\mathrm{\μ}}_j,{\mathrm{\Σ}}_j)}{\underset{k=1}{\overset{g}{\mathrm{\Σ}}}{\mathrm{\π}}_{k}p\left(x_i^{\mathrm{inc}}\right|{\mathrm{\μ}}_k,{\mathrm{\Σ}}_k)}(x_i^{\mathrm{inc}}-{\mathrm{\μ}}_j){(x_i^{\mathrm{inc}}-{\mathrm{\μ}}_j)}^T$

其中参数α_i，β_i，i＝1，2，3决定着更新的强度，其具体值可以任意决定，只需满足α_i+Kβ_i＝1，i＝1，2，3，N是原数据集大小，K是数据集一的数据个数。

8.如权利要求7所述的用于音频内容识别的分类器参数更新方法，其特征在于：上述的

9.如权利要求4或6所述的用于音频内容识别的分类器参数更新方法，其特征在于：

其中N是原数据集大小，K是数据集一的数据个数。

Images