CN106951474A - 一种基于lda模型的歌曲分类方法 - Google Patents

Abstract

本发明涉及模式识别领域，介绍了一种歌曲分类的方法。该歌曲分类方法主要是将歌曲库中的所有歌曲的相对音高以及分类数目作为LDA主题模型的输入，进而对歌曲库中的所有歌曲进行分类。这里的LDA主题模型分类方法是通过每首歌曲的相对音高之间的相似度将歌曲库中所有的歌曲分成用户指定类别数目。最终可以计算出每首歌主题类别的概率分布，即p(topic_k|song)。新歌曲入库可以基于歌曲库的分类结果对新入库歌曲进行分类。本发明可以用于哼唱检索系统，能够缩小基于相对音高检索时检索的范围，缩短检索的时间提高检索的效率。

Description

一种基于LDA模型的歌曲分类方法

技术领域

本发明涉及音乐与机器学习领域，具体涉及使用LDA模型根据歌曲旋律的相对音高对歌曲进行分类。

背景技术

随着互联网技术的发展和多媒体压缩技术的进步，数字歌曲大量涌现。在这种情况下歌曲检索就变成了海量检索，对歌曲进行分类可以大幅度缩小检索的范围，提高检索的效率。传统的歌曲检索大多是根据人工标致的关键字进行检索，也就是基于文本的歌曲检索，标注的信息有歌曲的名字、歌手、专辑等。传统的分类方式也是基于文本对歌曲进行分类，比较流行的分类方式是歌手、专辑、歌词的风格、使用的乐器、演唱方法等。但是很多人在进行歌曲的搜索时常常记不得关键的文本信息。只记得歌曲内容的只言片语，更或者只记得歌曲的部分节奏等等，这些问题给歌曲检索带来诸多麻烦，并且基于文本检索在生成歌曲库的时候工作量极大。

因为传统的基于文本的歌曲检索技术的诸多不便，于是出现了通过提取音频的特征信息进行检索的基于内容的歌曲检索技术。基于内容的歌曲检索技术只需用户记得部分关键信息便能进行检索，弥补了传统检索的不足。基于内容的歌曲检索所使用的关键信息有音频指纹、歌曲旋律等，这些都可从用户记住的信息中获取。哼唱检索是基于内容的歌曲检索方式的一种。随着多种旋律匹配算法的出现，基于旋律的哼唱检索方式得到了很大的发展。但歌曲量比较大，检索的范围比较广是目前哼唱检索技术所面临的难题。因此，寻找基于旋律的歌曲分类方法是一个急迫的问题。

隐式狄利克雷分配(Latent Dirichlet allocation,LDA)是一种主题模型，该模型原本用于文本，是一种对文档内容高度压缩通过文档相似度对文档进行分类的模型。LDA模型是一种词袋模型，即假设文档没有任何语法和句法，只是一组词的结合，词与词之间没有任何的顺序。它假设一篇文章中有多个主题，而每个主题又有多个词。LDA主题模型根据文档内容的相似度可以计算出每篇文章主题的概率分布。另外LDA主题模型是一种无监督学习算法，在运行时不需要任何手动的输入，只需在运行前设置好分类数目。分类后对于每一类主题都有一些对主题“贡献度”较高的词，这些词能够很好的描述该类。LDA主题模型常用领域有文本识别、文本分类以及文本相似度计算等。

发明内容

为了解决现今哼唱检索范围太大效率太低的问题，本发明的目的在于弥补传统检索方法所面临的不足，提出一种基于歌曲内容对歌曲进行分类的方法。

本发明提出的技术方案是一种基于LDA模型的歌曲分类方法，其特征是所述方法包括下列两个步骤，步骤1.1和步骤1.2。

步骤1.1、提取歌曲库中每首歌曲的相对音高集作为歌曲的标志数据用于分类。

步骤1.2、基于用户输入的分类个数K与歌曲库中所有歌曲的相对音高集使用LDA模型对歌曲进行分类。

步骤1.1包括以下步骤：

步骤11：用户通过旋律提取算法提取出歌曲库中每首歌曲的音高集。这里音高按时间排序，可以通过设置采样频率的大小控制时间片的大小。

步骤12：音高集中小于等于零的值视为无效信息。删除音高集中的无效信息，得到多个音高序列片段。

步骤13：对照音高频率表去掉音高序列片段中每个音高的误差。

步骤14：对每个音高片段做逆序相减运算并去掉每个音高序列片段的首个音高，从而得到了每首歌曲的相对音高集。其中等于零的相对音高对分类几乎没有影响，所以舍去相对音高集中等于零的相对音高。

步骤15：将每首歌曲的相对音高集写入文档，每个相对音高之间以空格分开，一个段落代表一首歌曲。

步骤1.1利用一首歌曲的相对音高作为检索的数据更趋近于歌曲音频的特征，为后期分类提供良好的基础。除此之外，歌曲中的部分音频信息用户容易记得，便于用于模糊检索，且在前期数据录入的过程中更加方便。

步骤1.2包括以下步骤：

步骤21：读取文件并记录每首歌曲对应的相对音高集，扫描歌曲库中每首歌曲对应的相对音高对每个相对音高随机赋予一个小于分类个数K的主题编号，记录下属于每个词分配到每一主题的频次，以及每首歌曲的相对音高分配到每一主题的频次。

步骤22：基于LDA模型生成每首歌曲的原理推导出对相对音高的主题编号进行采样的采样公式，用于对每个相对音高的主题重新采样。LDA模型有多种采样方法，包括吉布斯采样(Gibbs Samping)、MCMC的一种、BP算法等。考虑到时间和空间的消耗这里采用吉布斯采样算法对相对音高的主题编号进行采样。这里吉布斯采样的公式为：

步骤23：根据Gibbs Samping公式可以计算出从当前主题转移到各个主题的概率。根据转移概率对主题编号进行转移，并更新歌曲库相关记录数据。在吉布斯采样公式收敛前重复吉布斯采样过程，基于每一次采样的结果重新对每个相对音高的主题编号进行采样，直到吉布斯采样公式收敛，每个主题转移至另一主题的概率稳定。通过记录的数据计算出，每首歌曲属于每一类的概率。

步骤24：LDA模型通过相对音高对歌曲库中歌曲进行分类之后，可直接对新入库的歌曲进行分类。基于以上分类结果对新入库的歌曲进行分类时，首先对新的歌曲中的每个相对音高随机的赋一个topic编号；重新扫描新歌曲，按照Gibbs Samping公式对每个相对音高p，重新对它的topic进行采样；重复上一个过程直到Gibbs Samping公式收敛；最终可统计出新的歌曲的类别概率分布，根据所属类别概率的高低选择概率较高的类别作为该歌曲的所属类。

该方法充分利用相对音高之间没有意义相近的说法，根据每首歌曲相对音高之间的相似度对歌曲进行分类，合理的弥补了LDA模型的这一不足。

附图说明

图1为三层生成式贝叶斯网络结构

图2为LDA模型的原理图

图3为Gibbs Samping主题变换示意图

图4为新歌曲入库分类流程图

具体实现方式

下面结合附图对本发明做具体说明，所举实例只用于解释本发明，并非用于限定本发明的范围。

一种基于LDA模型的歌曲分类方法，包括步骤1.1和步骤1.2：

步骤1.1、提取歌曲库中每首歌曲的相对音高集作为歌曲的标志数据用于分类。

步骤1.2、基于用户输入的分类个数K与歌曲库中所有歌曲的相对音高集使用LDA模型对歌曲进行分类。

方法1.1包括以下步骤：

步骤11：用户通过旋律提取算法提取出歌曲库中每首歌曲的音高集。这里音高按时间排序，可以通过设置采样频率的大小控制时间片的大小。(现今比较认可的方法是Python vamp库配合mtg:melodia插件提取旋律音高)

步骤12：音高集中小于等于零的值视为无效信息。删除音高集中的无效信息，得到多个音高序列片段。

步骤13：对照音高频率表去掉音高序列片段中每个音高的误差。将每首歌曲的音高序列片段中的音高值与音高频率表中的值对比，用音高频率表中误差最小的值代替每首歌曲中的音高值。

步骤14：对每个音高片段做逆序相减运算并去掉每个音高序列片段的首个音高，从而得到了每首歌曲的相对音高集。其中由于每首歌曲中都有音高相等的情况，因此值等于零的相对音高对分类几乎没有影响，所以舍去相对音高集中等于零的相对音高。

步骤15：:将每首歌曲的相对音高集写入文档，每个相对音高之间以空格分开，一个段落代表一首歌曲。

步骤1.2包括以下步骤：

步骤21：读取文件并记录每首歌曲对应的相对音高集，扫描歌曲库中每首歌曲对应的相对音高对每个相对音高随机赋予一个小于分类个数K的主题编号，记录下属于每个词分配到每一主题的频次，以及每首歌曲的相对音高分配到每一主题的频次。在此过程中，相对应高之间的顺序对此过程没有任何的影响。

步骤22：基于LDA模型生成每首歌曲的原理推导出对相对音高的主题编号进行采样的采样公式，用于对每个相对音高的主题重新采样。LDA模型有多种采样方法，包括吉布斯采样(Gibbs Samping)、MCMC的一种、BP算法等。考虑到时间和空间的消耗这里采用吉布斯采样算法对相对音高的主题编号进行采样。

LDA模型对歌曲分类时假设一首歌曲的相对音高都是无序的，没有任何的先后关系。因此，如附图1所示在LDA模型中每首歌曲可以表示为三层生成式贝叶斯网络结构，一首歌曲由若干个隐含的主题构成而这些主题是由若干个相对音高构成。基于用户输入分类个数K，LDA模型根据每首歌曲相对音高之间的相似度对歌曲进行分类，最终可得出每个相对音高对于类别的概率分布P(topic_k|pitch)，以及每首歌曲对于类别的概率分布P(topic_k|song)。基于以上假设每个相对音高的生成原理如附图2所示，生成过程如下：

这个过程表示生成一个相对音高时先从主题类中为该相对音高生成一个主题，再根据该主题生成一个相对音高。重复上述过程便可生成一首歌曲，以上过程中表示确定“不同概率”的过程对应一个Dirichlet分布，而表示一个根据“不同概率”生成一个主题编号的过程对应一个Multinomial分布，由于是一个基于α的Dirichlet分布，是一个多项分布，所以每个相对音高主题生成过程可以表示为：

Dirichlet先验+多项分布的数据→后验分布视为Dirichlet分布

由此可见整体过程就是一个Dirichlet‐Multinational共轭结构，同理也是一个Dirichlet‐Multinational共轭结构。在生成所有歌曲的时，LDA模型先通过给所有的相对音高生成对应的主题编号z，在此过程中每首歌曲对应中的一个元素。确定所有相对音高的编号后，将同一主题编号的相对音高归为一类，再根据生成所有的相对音高。由此可知在有M首歌K个主题的情况下在生成歌曲库中所有相对音高的时候共有M+K个Dirichlet‐Multinational共轭结构。根据Dirichlet分布的性质计算出生成所有topics的概率为：

其中， 表示第m首歌中第k个topic产生相对音高的个数。根据K主题编号生成所有的相对音高的概率为：

其中， 表示第k个topic产生的相对音高中pitcht的个数。综合上述可得歌曲库中所有相对音高的生成概率为：

已知生成所有相对音高的联合分布是M+K个狄立克雷共轭分布，可以根据狄立克雷共轭来推导吉布斯采样公式。这里是已知数据，是隐含变量，所以需要采样的是分布相对音高库中第i个相对音高对应的topic记为zi，其中i＝(m,n)是一个二维下表，对应第m首歌第n个相对音高，用表示去除下标为i的相对音高。按照Gibbs Samping算法的要求，求得任意坐标轴i对应的条件分布假设已经观测到的相对音高p_i＝t，根据贝叶斯法则可得：

由于z_i＝k，p_i＝t只涉及到和两个共轭结构，而其他的共轭结构和z_i＝k，p_i＝t是独立的所以和的后验分布依然都是Dirichlet：

由此可得LDA主题模型的Gibbs Samping采样公式：

步骤23：根据Gibbs Samping公式可以计算出从当前主题转移到各个主题的概率。根据转移概率对主题编号进行转移，转移原理如附图3所示，每个主题编号之间有各自的转移概率，根据各自的转移概率完成新主题编号的采样，并更新歌曲库相关记录数据。在吉布斯采样公式收敛前重复吉布斯采样过程，基于每一次采样的结果重新对每个相对音高的主题编号进行采样，直到吉布斯采样公式收敛，每个主题转移至另一主题的概率稳定。记录下模型运行至吉布斯采样公式收敛时所有的状态数据，可用于新的歌曲入库。根据所记录的每首歌曲中分配至每一主题类别的相对音高个数计算出每首歌曲属于每一类的概率。计算公式为：

(所属类别相对音高个数+α)/(歌曲相对音高总数+K*α)

步骤24：LDA模型通过相对音高对歌曲库中歌曲进行分类之后，可直接对新入库的歌曲进行分类。其分类过程如附图4所示，基于以上分类结果对新入库的歌曲进行分类时，首先对新的歌曲中的每个相对音高随机的赋一个topic编号；重新扫描新歌曲，按照GibbsSamping公式对每个相对音高p，重新对它的topic进行采样；重复上一个过程直到GibbsSamping公式收敛；最终可统计出新的歌曲的类别概率分布，根据所属类别概率的高低选择概率较高的类别作为该歌曲的所属类。

以上所述仅为本发明较佳的具体实现方式，但是本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可以轻易想到的变化和替换，都应该涵盖在本发明的保护范围内。因此，本发明的保护范围应该以权利要求的范围为准。

Claims (1)

1.一种基于LDA模型的歌曲分类方法，其特征在于包括步骤1.1和步骤1.2：

步骤1.1：提取歌曲库中每首歌曲的相对音高集作为歌曲的标志数据用于分类；

步骤1.2：基于用户输入的分类个数K与歌曲库中所有歌曲的相对音高集使用LDA模型对歌曲进行分类；

步骤1.1包括以下步骤：

步骤11：用户通过旋律提取算法提取出歌曲库中每首歌曲的音高集。这里音高按时间排序，可以通过设置采样频率的大小控制时间片的大小；

步骤12：音高集中小于等于零的值视为无效信息；删除音高集中的无效信息，得到多个音高序列片段；

步骤13：对照音高频率表去掉音高序列片段中每个音高的误差；

步骤14：对每个音高片段做逆序相减运算并去掉每个音高序列片段的首个音高，从而得到了每首歌曲的相对音高集。其中等于零的相对音高对分类几乎没有影响，所以舍去相对音高集中等于零的相对音高；

步骤15：将每首歌曲的相对音高集写入文档，每个相对音高之间以空格分开，一个段落代表一首歌曲；

步骤1.2包括以下步骤：

步骤21：读取文件并记录每首歌曲对应的相对音高集，扫描歌曲库中每首歌曲对应的相对音高对每个相对音高随机赋予一个小于分类个数的主题编号，记录下属于每个词分配到每一主题的频次，以及每首歌曲的相对音高分配到每一主题的频次；

步骤22：基于LDA模型生成每首歌曲的原理推导出对相对音高的主题编号进行采样的采样公式，用于对每个相对音高的主题重新采样；采用吉布斯采样算法对相对音高的主题编号进行采样；这里吉布斯采样的公式为：

步骤23：根据Gibbs Samping公式可以计算出从当前主题转移到各个主题的概率；根据转移概率对主题编号进行转移，并更新歌曲库相关记录数据。在吉布斯采样公式收敛前重复吉布斯采样过程，基于每一次采样的结果重新对每个相对音高的主题编号进行采样，直到吉布斯采样公式收敛，每个主题转移至另一主题的概率稳定；通过记录的数据计算出，每首歌曲属于每一类的概率；

步骤24：LDA模型通过相对音高对歌曲库中歌曲进行分类之后，直接对新入库的歌曲进行分类；基于以上分类结果对新入库的歌曲进行分类时，首先对新的歌曲中的每个相对音高随机的赋一个topic编号；重新扫描新歌曲，按照Gibbs Samping公式对每个相对音高p，重新对它的topic进行采样；重复上一个过程直到Gibbs Samping公式收敛；最终可统计出新的歌曲的类别概率分布，根据所属类别概率的高低选择概率较高的类别作为该歌曲的所属类。