CN103456300A

CN103456300A - 一种基于class-base语言模型的POI语音识别方法

Info

Publication number: CN103456300A
Application number: CN2013103421718A
Authority: CN
Inventors: 唐立亮; 鹿晓亮
Original assignee: iFlytek Co Ltd
Current assignee: Iflytek Medical Technology Co ltd
Priority date: 2013-08-07
Filing date: 2013-08-07
Publication date: 2013-12-18
Anticipated expiration: 2033-08-07
Also published as: CN103456300B

Abstract

本发明涉及一种基于class-base语言模型的POI语音识别方法，步骤为：准备模型训练的文本；通用POI地点语言模型训练；多种说法的整理和设计，通过收集POI搜索用户的说法习惯并按行进行整理，模拟真实用户的说法和使用需求；说法文本的整理和类的利用；语言模型插值合并，合并后语言模型打包并用于语音识别，对合并之后的模型打包形成二进制的格式，方便保密和保存，生成可供语音识别使用的格式。本发明能够在十分有限的计算资源和存储空间的情况下，实现多种说法的支持，明确区分说法和核心词汇，在保证占用较小资源的前提下，提高识别效果。

Description

一种基于class-base语言模型的POI语音识别方法

技术领域

本发明涉及一种连续语音识别中对POI业务的识别方案，尤其是在计算资源和存储空间有限的情况下，本发明能够有效的支持多种不同说法。

背景技术

随着语音识别技术的流行，人们越来越习惯使用POI(point of interest，即导航地图信息)语音识别功能来查找自己想去的地点。由于人们的说话习惯和方式多种多样，为了满足人们的需求，需要支持多种说法的识别。POI识别大都在一些嵌入式设备(如手机，车机)中进行，计算资源和存储空间都是十分有限的。在使用传统的语言模型的语音识别中，支持单一说法效果较好，但是支持多种说法会造成模型过大，效率底下等问题。

传统的POI语音识别具体实现方法如图1所示，首先设计用户说法，将用户说法和核心地名进行文本拓展，即将所有的核心地名填充到说法模型中，然后再用拓展后的文本训练语言模型，最后采用语言模型进行语音识别。

现有进行POI语音识别的方法存在很大的弊端：（1）传统的扩展文本方式会导致文本非常大，给训练的过程带来很大的困难。对于，“我想去A市的B地点”这个说法，如果城市列表A中文本的条目为Count(A)，地点列表B中文本的条目为Count(B)，那么在同时存在城市和地点的语料，需要扩展的条目数是Count(A)*Count(B)，这给训练模型造成了很大的开销；（2）利用传统的语言模型训练办法，说法将被重复很多次，这将对识别核心名称造成干扰，导致将一些核心名称识别成说法；（3）车载，手机识别，往往是本地识别，只能利用很有限的计算空间和存储空间去解决问题，如此大的模型将会给机器的识别带来很大负担，造成效率降低等问题。

发明内容

本发明技术解决问题：克服现有技术的不足，提供一种基于class-base(基于类别)语言模型的POI语音识别方法，能够在十分有限的计算资源和存储空间的情况下，实现多种说法的支持，明确区分说法和核心词汇，在保证占用较小资源的前提下，提高识别效果。

本发明技术解决方案：一种基于class-base语言模型的POI语音识别方法，其实现步骤如下：

（1）准备模型训练的文本

要完成语言模型的训练，需要许多无错误，规范的文本，语言模型训练工作可以看成是用机器向这些文本学习知识的过程。为了保证被学习的知识是正确的，需要除去文本中的脏数据。即，对从网络上获取的识别相关文本进行清洗，除去文本中的错字，乱码等。并将希腊数字，阿拉伯数字等转换为汉字，并将文本的编码格式设置为一致的。

（2）通用POI地点语言模型训练

首先需要介绍一下统计语言模型的概念。统计语言模型（StatisticalLanguage Model）在连续语音识别中的作用，简单来说是用于计算一个句子的概率，即P(W₁,W₂...,W_k)，利用语言模型确定词序列的可能性，或者给定若干个词，可以预测下一个最可能出现的词语，给定句子S（词序列S＝W₁，W₂，...，W_k）的概率利用语言模型可以表示为P(S)＝P(W₁，W₂，...，W_k)＝p(W₁)P(W₂|W₁)...P(W_k|W₁，W_k，...，W_k-1)，由于上式中的参数过多，因此采用了一种常用的近似计算方法，即N-Gram模型方法。语音识别技术是基于统计语言模型的，语音识别需要通过语言模型获取词序列信息。

通用POI地点语言模型，可以看成是从所有地点信息的文本中学习POI知识。

将（1）中整理后的地点信息文本训练成统计语言模型，模型训练的步骤示意图如图2所示，说明如下，首先需要分词操作，有一个分词词典，即包含所有用户可能说的词语和字的列表。将每一行文本即将文本A1，A2，A3……An，其中A1，A2，A3……An为每个汉字或者字母，我们去词典中查找这些汉字或者字母能够形成的词的序列，从而实现分词，将分词之后的结果用空格隔开，即A1A2，A3A4……等。

将分词之后的文本中的词序列信息提取出来，例如，设有词序列B1，B2，B3（其中，B1，B2，B3全部是分词词典中的词），那我们可以将P（B3|B1B2）的信息存储到词典树（Trie树）中即可，这个词典树，也就是N-Gram模型。

将这个统计语言模型称之为地点模型。

（3）多种说法的整理和设计。通过产品经理收集POI搜索用户的说法习惯并按行进行整理。模拟真实用户的说法和使用需求。

（4）说法文本的整理和类的利用。将(3)中整理好的说法文本整理好后，将其中不同的类别的地名（例如，景点，设施类型，普通地名，城市等）用类别标示符ClassA，ClassB，ClassC等表示出来，并形成对应的新的说法文本。将ClassA，ClassB，ClassC对应的各个文本中的各个地点名称按照开头和结尾的词不同进行分类，同时选择开头相同或者结尾相同的每类中选取出一个频率最大的词，作为此类的代表。由于统计语言模型关注的词序列信息，其中相邻两个词的词序列信息是最重要的，所以可以看成选出的频率最大的词就是这类的代表。用这些代表来扩展文本，扩展之后的文本称之为说法文本。

（5）将（4）中的说法文本，按照（2）中训练POI地点语言模型的方法，训练成统计语言模型，称之为说法模型。

（6）语言模型插值合并。

把步骤(2)中地点模型和步骤(5)中的说法插值，即将地点模型和说法模型合并起来。

插值的规则示例如上，若词条为说法模型和地点模型共有，则两者加权求和，若非共有，则乘以各自模型权重即可。

插值可以把各个语言模型的知识按照一定的权重合并起来，在支持说法和地名的同时保证各个模型的权重比例保持合适。

通过实验验证，两者插值合并的最佳比例是：

说法模型：地点模型=3:7

（7）语言模型打包并用于语音识别

对合并之后的模型打包形成二进制的格式，方便保密和保存，生成可供语音识别使用的格式。

本发明与现有技术相比的优点在于：

（1）本发明通过class-base的思想，构建全新的语言模型，针对POI业务的语音识别进行优化。在保证模型占用空间不变的前提下，支持更多的说法。

（2）将辅助信息的词的权重保持在一个合理的范围内，辅助信息和有用信息保持一个合理的比例；能够支持多种说法，满足人们的需求，同时保持语言模型的大小合理。

（3）本发明能够在十分有限的计算资源和存储空间的情况下，实现多种说法的支持，明确区分说法和核心词汇，在保证占用较小资源的前提下，提高识别效果。

附图说明

图1为现有技术的方法流程图；

图2为本发明的语言模型训练方式；

图3为本发明的实现流程图。

具体实施方式

本发明通过class-base的思想，构建全新的语言模型，针对POI业务的语音识别进行优化。在保证模型占用空间不变的前提下，支持更多的说法。

如图2所示，本发明采用的技术方案，包括基于class-base思想的语言构建模型构建，语言模型的插值训练几个部分构成。

POI识别中，把识别的内容分为用户说法和核心名称两部分。例如，“我想去天安门”这句话中，把“我想去”称为说法，而“天安门广场”称为核心地名。而在“我想去北京市的天安门”中，有两个核心地名，即“北京市”和“天安门”都是核心地名。这些核心地名，可以是地点，也可以是设施类型，是用户重点关注的词汇，也是语音识别的重点。

class-base思想，即将事物按类划分，用类的思想去解决问题。在这里，把所有的地点名称，设施类型，行政区等看成几个不同的类。

列举一个简单的例子来说明本发明的实现和优势。

假设说法列表如下：

现有城市列表和地点列表，如果按照传统的方法对语料进行扩展，则仅仅扩展一种说法需要扩展的条目数为：地点列表条目数*城市列表条目数。这将是很大的一笔开销，另外，如果按照传统的方式进行文本扩展，这些说法的权重将会非常的大，影响正常的识别结果。

采用本发明的方法具体过程如图3所示：将地点信息的文本和城市信息的文本合并，并进行文本清洗，除去其中的错字，乱码，日文等信息，并将其中的阿拉伯数字变成汉字。

通过整理的分词词典，对整理后的地点信息文本进行分词操作。例如，文本中有“导航到北京”五个字，而通过分词词典中存在“导航到”，“北京”这两个词，则将这五个字分词成“导航到”和“北京”两个词。

将整理后的文本提取词序列信息，即训练成统计语言模型，称之为地点信息模型。

用类A和类B代替上述说法中的某城市和某地点，将城市列表和地点列表按照开头的结尾的不同分成许多类别，同时选择出各个类别中频率最高的词，作为各个类的代表。

将这些代表进行文本扩展，而且注意，扩展一种说法需要扩展的条目数不再是地点列表条目数*城市列表条目数，而是两者条目数相加。

将这些扩展后的文本训练成统计语言模型，称之为说法模型。

将说法模型和地点信息模型进行插值合并。

插值可以把各个语言模型的知识按照一定的权重合并起来，同时兼顾各个语言模型的知识，在支持说法和地名的同时需要保证各个模型的权重比例保持合适。

通过实验验证，两者插值合并的最佳比例是：

说法模型：地点模型=3:7

对合并之后的模型打包，生成可供语音识别使用的资源。

将该资源用于语音识别，即在语音识别的时候，利用该资源查询词序列信息即可。

本发明未详细阐述部分属于本领域公知技术。

以上所述，仅为本发明部分具体实施方式，但本发明的保护范围并不局限

于此，任何熟悉本领域的人员在本发明揭露的技术范围内，可轻易想到的变化或替换，都应涵盖在本发明的保护范围之内。

Claims

1.一种基于class-base语言模型的POI语音识别方法，其实现步骤如下：

（1）准备模型训练的文本

从网络上获取的识别相关地点信息的文本进行清洗，除去文本中的错字和乱码，再将希腊数字、阿拉伯数字转换为汉字，并将文本的编码格式设置一致；

（2）通用POI地点语言模型训练

（21）将步骤（1）中整理后的地点信息文本训练成统计语言模型，具体为：首先需要分词操作，有一个分词词典，即包含所有用户可能说的词语和字的列表；将每一行文本在词典中查找这些汉字或者字母能够形成的词的序列，实现分词，将分词之后的结果用空格隔开；

（22）将分词之后的文本中的词序列信息提取出来，提取的信息存储到词典树中，所述词典树即是N-Gram模型，所述统计语言模型即N-Gram模型称之为POI地点模型；

（3）多种说法的整理和设计，通过收集POI搜索用户的说法习惯并按行进行整理，模拟真实用户的说法和使用需求；

（4）说法文本的整理和类的利用，将用户的说法文本整理好后，将其中不同的类别的地名用类别标示符表示出来，将类别标示符对应的各个地点信息文本中的各个地点名称按照开头和结尾的词不同进行分类，同时选择开头相同或者结尾相同的每类中选取出一个频率最大的词，作为此类的代表；由于统计语言模型关注的词序列信息，其中相邻两个词的词序列信息是最重要的，所以选出的频率最大的词即是这类的代表，用这些代表来扩展文本，扩展后的文本称之为说法文本，该说法文本是训练说法模型的语料；

（5）将步骤（4）中的说法文本，按照步骤（2）中训练通用POI地点语言模型的方法，训练成统计语言模型，称之为说法模型；

（6）语言模型插值合并，把步骤（2）通用POI地点语言模型和步骤（5）中的说法模型插值，即将地点模型和说法模型合并起来；

（7）将步骤（6）中得到的合并后语言模型打包并用于语音识别，对合并之后的模型打包形成二进制的格式，方便保密和保存，生成可供语音识别使用的格式。