CN1310171C - 建立基于语法模型的语义分析器的方法 - Google Patents

Abstract

一种智能信息处理技术领域的建立基于语法模型的语义分析器的方法，利用电话拨号系统的高层语义信息，建立语法模型，并把这种语法模型应用于语义分析，自动切分拼音流，将拼音汉字转换和语义分析有机结合起来，包括语法模型的建立、语义分析算法两个方面。本发明提出了一种利用语法模型中的高层语义信息来切分拼音流的方法，这是一种可以排除歧义切分语句的语义分析器。该分析器对语法规则内的句子和超出语法规则的句子，都能很好地分析出语义信息。

Description

建立基于语法模型的语义分析器的方法

技术领域

本发明是一种涉及智能信息处理技术领域的建立语义分析器的方法，具体涉及一种建立基于语法模型的语义分析器的方法。

背景技术

典型的对话系统由语音识别、自然语言理解、对话管理、自然语言生成、语音合成等模块组成。自然语言理解模块的研究由来已久，目前研究主流为用基于规则的语言理解方法来实现，即根据已有的文法进行句法语义分析，其基础是形式语言理论。常见的自然语言理解模块主要用上下文无关文法CFG(ContextFree Grammar)描述和分析处理书面语。口语与书面语相比有其特点：句式较简单，句法结构较随意，常伴有多种口语语言现象(重复、修正、指代、省略等)。而汉语口语与英语口语相比，句式更灵活，语序更随意。传统的CFG文法很难有效地表示汉语口语地诸多现象。而涉及到语音的口语对话系统还包括噪音、含混不清、口头语、吃音、音变等等口语语音现，所以口语对话是自然语言理解技术实现的难点，但是也是应用系统适用性的关键点。口语中，人们的语言很随意，可以省略、更正、倒叙等等，这些口语现象是传统的单单基于词法分析的理解系统所难以解决的，而引入基于关键语义的技术却可以很好地解决。

由于以上种种因素，完全基于语法规则的CFG的语音识别器是脆弱的，经文献检索发现，Hacioglu，K等人在《Acoustics，Speech and Signal Processing，2001IEEE》Volume：1，2001 Page(s)：537-540 vol.1上发表的“Dialog-contextdependent language modeling combining n-grams and stochasticcontext-free grammars Acoustics，Speech，and Signal Processing，2001.Proceedings(《IEEE声学、语音与信号处理》，“结合N元文法和上下文无关文法的基于对话系统的语言模型”)，文中提出语音识别器要同时利用二元文法(bigram)语言模型和上下文无关文法(CFG)。由于从N元文法(N-gram)语言模型得不到语义信息，一种解决方法是利用语言模型来选取得分最高的最优路径。但是对于特定领域(如：天气、航班、住宿、交通、旅游、机票、火车票订购等等)的应用系统来说，这样的方法不是最优的，因为没有充分利用这些领域中的高层语义信息。

发明内容

本发明的目的在于针对现有技术的不足，主要针对语音拨号的电话自动转接系统，提出一种建立基于语法模型的语义分析器的方法，使得语音识别后的拼音汉字得以转换，并且保证转换方法达到最优。

本发明通过以下技术方案实现的，本发明引入了特定领域中的高层语义信息。其含义是根据特定领域中人们的表达习惯和表达方式，把特定领域中的词，按照其语义归属到某一概念下，得到特定领域中语义类之间的语义转移特性。例如在“电话拨号系统”中，对该系统中的词进行语义归类，如：【开始】【语气词】【拨】【人名】【地名】【数字串】，其高层语义信息主要指这些语义类之间的语义转移特性。如：【开始】->【语气词】|【拨】->【人名】|【地名】【数字串】等。本发明充分利用了电话拨号系统的高层语义信息，建立语法模型，并把这种语法模型应用于语义分析，自动切分拼音流，将拼音汉字转换和语义分析有机结合起来，包括语法模型的建立、语义分析算法两个方面：

(1)所述的语法模型，是一个带有权重的概念转移网络，表示着概念和概念间的转移，整个语法由一层一层的语法规则组成，表示了电话拨号系统的高层语义信息，构成了bigram的语义概念转移网络BSCTN。概念间的转移由语法模型中的语法规则来规定。语法模型中的每一个概念称为“语法概念”，每一个语法概念对应于各层中语法属性。这样构建起来的语法，表示灵活，概念清晰，实现简单。

(2)所述的语义分析算法，主要是应用于“拨号系统”中的三个排歧规则：

排歧规则一：根据语法模型BSCTN，运用宽松的语法规则(loose grammar)G0，对整句进行分析，排除不符合语法规则的句子。

“宽松”的语法规则定义为：允许每一个语法概念后接超出词典和超出语法规则的词，定义这些词的语法属性为-1，并且可转移到子语法层中的其它所有的语法概念中去。

$S^{*}=\underset{S_i\∈\mathrm{Go}}{U}{S}_i$

S_i为根据宽松的语法规则G0进行切分的第i条可能的路径，S^*为所有切分路径中最优的切分路径。

使用宽松的语法规则是为了灵活地分析超出语法规则的句子。用‘0’、‘1’来表示每条路径的生死状态，‘0’表示‘死’，‘1’表示‘生’。应用排歧规则一后，若所有的切分路径的状态都为‘0’，说明该句子不符合语法规则。则把所有路径的状态由‘0’改为‘1’，继续应用规则二、三来排歧。

例如：请qing【语气词】->拨bo【拨】->拨bo【拨】->五wu【数字】->四si【数字】

由于语法规则中不允许概念‘拨’转移到‘拨’，所以按照语法规则G0，所有切分路径的状态都为‘0’，可见该句不符合语法规则。为了利用排歧规则，提取相关的语义信息，把所有切分路径的状态改为‘1’，再应用下面的规则排歧。

排歧规则二：最长匹配原则。把含有最少语法概念(最少的拼音词)的切分路径的状态令为‘1’，其余路径的状态令为‘0’。通过计算语法分数，选取语法分数最低的路径为最优路径。

$S^{*}=\underset{s}{\arg \min }\mathrm{score}\left(s\right)=\underset{s}{\arg \min }\mathrm{score}(p{h}_1...p{h}_n)=\underset{s}{\arg \min }\underset{i=1}{\overset{n}{\mathrm{\Σ}}}\mathrm{score}\left(p{h}_i\right)$

S为切分得到的路径，score(s)用来求出该路径的语法分数，score(ph_i)求出当前节点的语法分数。若拼音词的语法属性为-1，则语法分数为10，否则语法分数为1。10和1相差了一个数量级，足以把路径的好坏区分出来。

实验证明，应用规则二可快速排除大量的歧义路径。

排歧规则三：符合语法规则的句子经过上述排歧处理后，得到了最优解释，但是若语句中含有超出词典或超出语法规则的词，则可能还存在着多条切分路径，要进行更进一步的分析。

严格的语法规则G1定义为：语法属性为-1的概念被排除在外，不允许其转移到其它概念。

分析每一个状态为‘1’的切分路径，跳过语法属性为-1的词，省去重复的相同语法属性的拼音词(连续的相同的语法属性的词只取一个)。根据严格的语法规则G1计算语法分数。然后选取得分最低的路径为最优路径。

$S^{*}=\underset{G1}{\arg \min }\mathrm{score}\left(s\right)=\underset{G1}{\arg \min }\underset{i=1}{\overset{n}{\mathrm{\Σ}}}\mathrm{score}\left(p{h}_i\right|p{h}_{i-1},...p{h}_1,p{h}_0)$

S为切分得到的路径，score(s)求出该路径的语法分数，score(ph_i|ph_i-1，…，ph₁，ph₀)求出从前一段历史节点转移到当前节点的语法分数。若该转移符合语法规则G1，则语法分数为1，否则语法分数为10。10和1相差了一个数量级，足以把路径的好坏区分出来。

以下对本发明方法作进一步的说明，步骤如下：

1、根据电话拨号系统的句法特点，建立拨号系统的“语法概念”；

2、由“语法概念”，建立包含拨号系统的高层语义信息的语法规则。

3、根据语法规则和“语法概念”，建立分层语法模型。

(1)第一层为总语法层(grammar-all)，控制着系统在大的语义方面的转移。

(2)第二层为主语法层(grammar)，控制着总语法层中的概念间的转移。

(3)第三层为子语法层(sub-grammar)，规定了在主语法层中定义的语法概念的构成。

(4)第四层为词层(phrases)，对应于子语法层中概念的具体词的集合，同一集合中的词具有相同的语义信息。

(5)第五层为字(character)层，表示着字如何组成词。

(6)第六层为音节(syllable)层，每一个带调的音节表示为声、韵母结构(initial-final)，这些声、韵母结构称为音素(phonemes)。

4、建立分类词词典。

5、查找分类词词典，进行全路径匹配，得到拼音流的所有可能的切分路径，路径中的每一个节点包含的信息为拼音词及其对应的语法属性。

6、用一个变量来记录每条路径的“生死”状况，‘1’为‘生’，‘0’为‘死’。

7、判断是否存在多条切分路径，若存在则转到步骤8，否则转到步骤9。

8、依次应用三条排歧规则来排除违反语法规则的切分路径，直到只留下一条最优路径；

9、根据最后的切分结果，查找语法分类词词典就可以顺利地把拼音词转换成中文词。

在第8步骤中，需要说明的是：在应用排歧规则排除违反语法规则的切分路径时，由于语法是分层模型，所以在判断当前结点是否符合语法规则时，要考虑当前节点的前面若干个历史节点，搜索路径，判断当前子语法层是否已经走完，若走完则回到上层主语法层，寻找后继的主语法层概念；否则当前子语法层的节点往后移一个，在得到历史路径的所有后继节点的集合后，判断当前节点是否属于集合中的节点。

本发明提出了一种利用语法模型中的高层语义信息来切分拼音流的方法，这是一种可以排除歧义切分语句的语义分析器。该分析器对语法规则内的句子和超出语法规则的句子，都能很好地分析出语义信息。利用本发明所提出的含有高层语义信息的语法模型可以高效地把拼音汉字转换和语义分析有机的结合起来，并且这种分层的语法结构实现简单，运行效率高，排歧能力强，可用于简单的人机交互系统。

附图说明

下面结合附图和实施例对本发明作进一步详细说明：

图1本发明语法模型中的六层结构图

图中，实线箭头方向(从左往右)代表了语音识别中预测算法在语法路径展开时的路径方向，虚线箭头方向代表了语法路径回溯时的路径方向。

图2本发明语义分析算法的搜索路径示例

图中，从主语法层节点g1往下层搜索，走到子语法层节点s1。从节点s1转移到s2再到s3。节点s3走完后，就要回到上层，可知g1转移到g2，回到子语法层得到节点s4，所以从s3转到s4。

图3本发明语义分析器的作用示意图。

具体实施方式

以下结合“拨号系统”中的“拨号”语句示例的说明，更好地理解本发明的技术方案。

考虑到中文的同音异型字很多，本分析器以词为单位对拼音流切分，词的拼音称为“拼音词”。

据统计，中文的同音异形字很多，单字拼音词平均对应了12个汉字。但是二字拼音词平均对应于1.46个中文词；三字或三字以上的词，拼音和中文词几乎是一一对应的。可见出现同音异形词比出现单个同音异形字可能性小得多，所以利用词为单位把拼音流转换成中文句子是一种行之有效的方法。

实施例

1、根据电话拨号系统的句法特点，建立拨号系统的“语法概念”。例如：根据“拨号系统”的句法特点，建立“拨号系统”的“语法概念”。如【开始】、【语气词】、【拨】、【人名】、【地名】、【电话】、【数字串】等。

2、由“语法概念”，建立包含电话拨号系统的高层语义信息的语法规则。例如：【开始】->【语气词】|【拨】，【拨】->【人名】【地名】|【数字串】……，其包含的高层语义信息为：【开始】->【语气词】|【拨】->【人名】|【地名】|【数字串】，表示了【开始】【语气词】【拨】【人名】【地名】【数字串】等这些语义类之间的语义转移特性。

3、根据语法规则和“语法概念”，建立分层语法模型。例如：我们开发的“拨号系统”的语法模型主要利用了前面介绍的分层语法模型的其中三层。

主语法层：开始->语气词|拨，拨->人名|数字|电话…

子语法层：拨＝拨，人名＝姓+称谓|姓+名|姓+名+名…

词层：拨＝【拨，转，转接，转接到，接通，打…】…

4、建立分类词词典。如【#拨(拨，转，接，转接…)#语气词(请，麻烦，劳驾…)#数字串(0，1，2，3…)#姓(赵，钱，孙，李…)#称谓(先生，女士，小姐，老师…)……】

5、查找分类词词典，进行全路径匹配，得到拼音流的所有可能的切分路径，路径中的每一个节点包含的信息为拼音词及其对应的语法属性。

6、用一个变量来记录每条路径的“生死”状况，‘1’为‘生’，‘0’为‘死’。

7、判断是否存在多条切分路径，若存在则转到步骤8，否则转到步骤9。

8、依次应用排歧规则来排除不合理的切分路径，直到只留下一条最优路径。

9、根据最后的切分结果，查找语法分类词词典就可以顺利地把拼音词转换成中文词。

例如拼音流：jie tong ba ba.

i.接通jie-tong【拨】->八ba【数字】->八ba【数字】。

ii.接jie【拨】->通tong【-1】->爸爸ba-ba【称谓】。

iii.接通jie-tong【拨】->爸爸ba-ba【称谓】。

应用排歧规则一，切分路径iii.由于不符合G0被排除.路径i.和ii.都被保存下来了，根据规则二可以得到最优路径为i.。

根据以上的步骤，对“拨号系统”中的“拨号”语句进行了测试。该模型中有7个主语法层概念，10个子语法层概念，词条200个。测试集1为符合语法规则的拼音测试语句200句，测试集2是不符合语法规则的60句测试语句。

实验1：当切分规则1分别采用宽松的语法规则G0和严格的语法规则G1时，分别对切分路径数进行统计。

            表1：采用不同语法规则后切分路径统计

测试集	排歧规则1中的语法	全路径匹配	应用规则1后	应用规则2后
					测试集1	G0	4656	327	200
G1	4656	228	200
				测试集2		G0	471	246	168
G1	471	426	218

由表1可见，对于符合语法规则的测试集1，采用G1比G0工作的好；但是对于超出语法的测试集2，采用G0要比G1好。综合考虑了上述两种情况，本方法在排歧规则1中采用了语法G0。

实验2：统计了排歧规则1-2-3对于排歧的作用，表2中的数据是路径数。

                     表2：规则的排歧作用

测试集	全路径匹配	应用规则1后	应用规则2后	应用规则3后
					测试集1	4656	327	200	-
测试集2	471	246	168	66

测试集1只应用了排歧规则1-2，测试集2应用了规则1-2-3。可见规则1和规则2的排歧作用很大。规则3对于测试集2的排歧效果很明显。

实验3：统计经过切分和排歧处理后，拼音级和中文级下的词和句子的语义标注正确率。

              表3：词和句子的语义标注正确率

测试集	拼音级		中文级
					拼音词	拼音句	中文词	中文句

测试集1	100	100	97.5	95
					测试集2	95	90	92	85

由表3可见，本语义分析器对符合语法规则的句子工作的很好，对于不符合语法规则的句子，也有较强的分析功能。

Claims (3)

1、一种建立基于语法模型的语义分析器的方法，其特征在于，利用电话拨号系统的高层语义信息，建立语法模型，并把这种语法模型应用于语义分析，自动切分拼音流，将拼音汉字转换和语义分析有机结合起来，包括语法模型的建立、语义分析算法两个方面：

(1)所述的语法模型，是一个带有权重的概念转移网络，表示着概念和概念间的转移，整个语法由一层一层的语法规则组成，表示了电话拨号系统的高层语义信息，构成了二元的语义概念转移网络BSCTN，概念间的转移由语法模型中的语法规则来规定，语法模型中的每一个概念称为“语法概念”，每一个语法概念对应于各层中语法属性；

(2)所述的语义分析算法，主要是应用于“拨号系统”中的三个排歧规则：

排歧规则一：根据语法模型BSCTN，运用宽松的语法规则G0，对整句进行分析，排除违反语法规则的句子；

排歧规则二：最长匹配原则，把含有最少语法概念的切分路径的状态令为‘1’，其余路径的状态令为‘0’，通过计算语法分数，选取语法分数最低的路径为最优路径；

排歧规则三：符合语法规则的句子经过上述排歧处理后，得到了最优解释，但是若语句中含有超出词典或超出语法规则的词，则可能还存在着多条切分路径，要用手工分析进行判断；

所述的宽松的语法规则，定义为：允许每一个语法概念后接超出词典和超出语法规则的词，定义这些词的语法属性为-1，并且能转移到子语法层中的其它所有的语法概念中去；

以下是建立基于语法模型的语义分析器的方法的具体步骤：

a)根据电话拨号系统的句法特点，建立拨号系统的“语法概念”；

b)由“语法概念”建立包含电话拨号系统的高层语义信息的语法规则；

c)根据语法规则和“语法概念”，建立分层语法模型；

d)建立分类词词典；

e)查找分类词词典，进行全路径匹配，得到拼音流的所有可能的切分路径，路径中的每一个节点包含的信息为拼音词及其对应的语法属性；

f)用一个变量来记录每条路径的“生死”状况，‘1’为‘生’，‘0’为‘死’；

g)判断是否存在多条切分路径，若存在则转步骤h)，否则转步骤i)；

h)依次应用三条排歧规则来排除违反语法规则的切分路径，直到只留下一条最优路径；

i)根据最后的切分结果，查找语法分类词词典，把拼音词转换成中文词。

2、根据权利要求1所述的建立基于语法模型的语义分析器的方法，其特征是，步骤c)中，建立分层语法模型，具体如下：

(1)第一层为总语法层，控制着系统在大的语义方面的转移；

(2)第二层为主语法层，控制着总语法层中的概念间的转移；

(3)第三层为子语法层，规定了在主语法层中定义的语法概念的构成；

(4)第四层为词层，对应于子语法层中概念的具体词的集合，同一集合中的词具有相同的语义信息；

(5)第五层为字层，表示着字如何组成词；

(6)第六层为音节层，每一个带调的音节表示为声、韵母结构，这些声、韵母结构称为音素。

3、根据权利要求1所述的建立基于语法模型的语义分析器的方法，其特征是，步骤h)中，在应用排歧规则排除违反语法规则的切分路径时，由于语法是分层模型，所以在判断当前结点是否符合语法规则时，要考虑当前节点的前面若干个历史节点，搜索路径，判断当前子语法层是否已经走完，若走完则回到上层主语法层，寻找后继的主语法层概念；否则当前子语法层的节点往后移一个，在得到历史路径的所有后继节点的集合后，判断当前节点是否属于集合中的节点。

Images