CN1173332C - 在语音识别中产生候选字串的方法 - Google Patents
在语音识别中产生候选字串的方法 Download PDFInfo
- Publication number
- CN1173332C CN1173332C CNB011092831A CN01109283A CN1173332C CN 1173332 C CN1173332 C CN 1173332C CN B011092831 A CNB011092831 A CN B011092831A CN 01109283 A CN01109283 A CN 01109283A CN 1173332 C CN1173332 C CN 1173332C
- Authority
- CN
- China
- Prior art keywords
- node
- character string
- candidate character
- mark
- word string
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Lifetime
Links
- 238000000034 method Methods 0.000 title claims abstract description 45
- 238000012545 processing Methods 0.000 abstract description 3
- 238000004364 calculation method Methods 0.000 abstract description 2
- 230000000694 effects Effects 0.000 description 4
- 101150064138 MAP1 gene Proteins 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 238000002474 experimental method Methods 0.000 description 2
- 241001672694 Citrus reticulata Species 0.000 description 1
- 244000141353 Prunus domestica Species 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 230000008676 import Effects 0.000 description 1
- 238000010606 normalization Methods 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 238000013138 pruning Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 239000011800 void material Substances 0.000 description 1
Images
Landscapes
- Machine Translation (AREA)
- Character Discrimination (AREA)
Abstract
一种在语音辨识中产生候选字串的方法,是以节点为基础,自词格或音节格位的多个节点中搜寻候选字串,主要的作法是对每个节点求出会通过该节点的所有字串中所能够得到的最高字串分数,再使用排序动作将所有节点得到的最高字串分数进行排序,而能够得到候选字串,故不需要一一进行字串展开的动作,能达到既缩短运算时间又节省储存空间的目的,并且,后续模组亦可藉由此方法,控制其后续处理的时间及相对的辨识率。
Description
技术领域
本发明是关于一种在语音识别中产生候选字串的方法,特别是关于一种以节点为基础而无须使用字串展开以得到候选字串的方法。
背景技术
按,目前的语音识别系统(speech recognition system)在为获得高度识别效果的考量下,语音识别模组往往不再只输出单一识别效果,而是提供多个可能的结果,以较丰富的资讯供后续处理模组从中挑选出一个最可能的结果做为最终的输出。
因此,语音识别模组便需提供多个可能的结果供后续模组进行处理。故语音识别模组如何由一语音信号中产生出候选字串供后续模组进行处理,即成为发展语音系统的一个重要课题。
美国专利USP5,241,619揭露一种候选字串的搜寻方法,其在进行语音信号与词汇的比对过程中,随时保留N条候选字串,当语音信号比对完毕,既可得到N条候选字串,此种方法必须在比对过程中,随时将上一个时间点所保留的N条候选字串做展开与修剪的动作。而假设词汇有M个,则如图6所示,一条字串的展开就可能会产生M条新字串,这些字串再配合修剪动作,由所有的展开字串中找出其中最可能的N条做为下个时间点展开的基础。因此,此种方法必须使用大量的储存空间来记录展开的字串资讯,另需随时进行排序动作,以保留最可能的N条字串。但此种方法会产生以下的缺点:假设一个词汇有S个状态,则在同一个时间点就可能存在有S条内容相同但停留状态不同的字串,然而,当搜寻结束时,只有到达最后状态的字串是合法的,因此,最后得到的候选字串数目可能小于N。
另一种候选字串的搜寻方法是使用两个阶段来产生候选字串,其中,第一阶段使用修正式维特比演算法(modified viterbi algorithm)自输入的语音信号中产生词格(word lattice),再于第二阶段配合堆叠结构(stack structure),籍由回溯第一阶段所产生的词格,进行候选字串的搜寻动作(参照美国专利USP5,805,772-”System,methods and architectures ofmanufacture for performing high resolution N-best string hypothesization”以及附件一:F.K.Soong and E.F.Huang,”A tree-trellis based fast search forfinding the N best srntence hypotheses in continuous speech recognition”,ICASSP′91,pp.705-708,1991)。此种方法必须不断使用堆叠运算(stackoperation)的推入(push)及取出(pop)动作,以将可能的字串做展开,才能获得可能的候选字串,因此,将耗掉大量的时间在字串的展开动作上。
第三种候选字串的搜寻方法是类似上述的方法,亦使用两个阶段来产生候选字串,但在第一阶段使用中文的408个基本音节(basesyllable)做为识别单位,产生音节格位(syllable lattice),而在第二阶段的回溯动作不单单只取第一名的音节节点,而是取前几名经过音框正规化后的音节节点资料,配合堆叠结构进行回溯,以产生多种候选字串的输出(参考附件二:E.F.Huang and H.C.Wang,”An efficient algorithm forsyllable hypothesizaton in continuous Mandarin speech recognition”IEEEtransactions on speech and audio processing,pp.446-449,1994)。
第四种候选字串的搜寻方法亦是以两个阶段动作来产生候选字串的方式,其第一阶段使用一个词图演算法来完成(参考附件三:S.Ortmanns,H.Ney,and X.Aubert,“A word graph algorithm for large vocabularycontinuous speech recognition”,Computer Speech and Language,pp.43-72,1997),除了由语音信号产生词格之外,同时也得到一条最可能的字串。第二阶段再根据这条最可能的字串中的各个节点进行其他字串的搜寻。为了储存空间以及重复词汇输出上的考虑,输出的结果是记录在一个树状结构中(参考美国专利USP5,987,409“Method of and apparatus forderiving a plurality of sequences of words from a speech signal”)。
上述四种候选字串的搜寻方法的不同点在于如何进行字串展开的动作上。但基本上,前述方法都是以字串展开的方式进行搜寻,然而,此种展开的动作除了需要相当大的储存空间以记录各种可能的这组合字串之外,也会花费相当长的比对运算时间,此将导致语音系统的效能不明显,故而仍有予以改进的必要。
本创作人本于积极发明的精神,亟思一种可以解决上述问题的“在语音识别产生候选字串的方法”,几经研究实验终至完成此项新颖进步的发明。
发明内容
本发明的目的是在提供一种在语音识别中快速产生候选字串的方法,籍由以节点为基础而无须使用字串的展开,可快速地搜寻而得到候选字串。
为达前述的目的,本发明一种在语音识别中产生候选字串的方法,其中,上述候选字串是由多个节点所连接而成,每一节点包括了所对应语音信号的词汇或音节内容、起始时间点、截止时间点以及分数,一候选字串的字串分数是为构成该候选字串的节点的分数的总和,其特征在于,该方法包括下述步骤:
(A)计算通过每一个节点所有可能的字串中的最高字串分数;
(B)据该最高字串分数对所有节点进行排序,以将具有相同字串分数的节点集合成为一节点集合;以及
(C)自步骤(B)中所产生的所有节点集合中,以在每一节点集合内依照各节点的起始、截止时间进行接续,以便产生上述候选字串。
其中,于步骤(C)中,对于一个无法由各自的节点集合中的节点接续出完整字串的节点集合,则使用比该字串分数高的节点集合中的节点来进行字串的接续,以产生一候选字串。
其中,于步骤(A)中,是在节点前方及后方分别设定两个虚节点,由该两个虚节点做为起点进行巡回搜寻,而将由节点的起始时间点开始搜寻至句尾所能得到的最高字串分数记录在一前向分数阵列的元素中,及将由节点的截止时间点开始搜寻至句首所能得到的最高部分字串分数记录在一后向分数阵列的元素中,以便在求取通过一相关节点的字串分数时,仅需由该两阵列中查出接续该节点的起始时间点及截止时间点的最高部分字串分数既可。
其中,该前向分数阵列的每一元素并记录有用来代表在对应至所记录的部分字串分数以得到一节点索引时所使用的一相关节点。
其中,该后向分数阵列的每一元素并记录有用来代表在对应至所记录的部分字串分数以得到一节点索引时所使用的一相关节点。
其中,对应无法由一个节点集合接续出完整的节点则参考节点索引,依照索引所得到的节点进行字串的接续,以产生一候选字串。
其中,对于无法由一个节点集合接续出完整字串的节点则参考节点索引,依照索引所得的节点进行字串的接续,以产生一候选字串。
其中,前述候选字串是由词格中的多个节点所接续而成。
其中,前述候选字串是由音节格位中的多个节点所接续而成。
由于本发明设计新颖,能提供产业上利用,且确有增进功效,故依法申请专利。
附图说明
为使贵审查委员能进一步了解本发明的结构、特征及其目的,兹附以图式及较佳具体实施例的详细说明如后,其中:
图1是显示一个部分词格的部分节点资料。
图2是显示图1中各节点的最高字串分数。
图3是显示图1中的候选字串的节点集合。
图4是显示以虚节点及阵列求取通过节点的字串的最高分数。
图5是显示依据本发明的方法所产生的候选字串的组合及输出。
图6是为习知技术以展开方式求取候选字串的示意图。
具体实施方式
为展现本发明的在语音识别中产生候选字串的方法,本发明使用一个以词为识别单位的候选字串搜寻的例子来说明本发明的方法的施行过程。请先参照图1所示的一个词格(word lattice)的部分节点资料,其中的每一节点n1-n9的内容包括了所对应语音信号的词汇内容、起始时间、截止时间点、以及分数,而节点n1-n9间的连接则形成了可能的字串,例如:n1→n2→n3→n4、n5→n9→n7→n8或n5→n6→n3→n4等。这些凡是可由语音信号的起始为0的时间点串接至语音信号的终止时间点,即构成一条龙“完整字串”,在这个例子里的终止时间点为300,其中,一条龙字串的字串分数是为构成该字串的所有节点的分数的总和。
而就图1中的每一个节点n1-n9而言,如果在所有字串中具有最高分数的字串经过该节点,则该节点会具有以下的特征:(1)这条字串的分数必定为该节点分数与位于这个节点前面所有部分字串中的最高分数,及位于这个节点后面的所有部分字串中的最高分数的总和;以及,(2)由位于这条具有最高分数的字串中的每一节点所得到的最高字串分数一定都相同。以图1为例。字串n1→n2→n3→n4是为此范例中具有最高分数的字串,而该条字串的分数为-524,由该条字串上的任何节点n1、n2、n3或n4所得到的最高字串分数也都是-524。
而对于其他不是具最高分数的字串所经历的节点,必然有其他字串会通过这些节点,根据前述的特征(1),亦可以得到通过这些节点的字串分数。因此,如图2所示,本发明的方法是首先将通过每个节点对所有可能字串中的最高字串分数计算出来,并且根据该最高字串分数的节点安排在同一节点集合内,所要求取的候选字串既可由前面多个具有不同字串分数的节点集合中得到。所以,最后所要输出的候选字串也就是在这些节点集合内依照各节点的起始时间点、截止时间点进行接续。而对于一个无法接续出“完整字串”的节点集合,则是使用比目前字串分数高的节点集合中的节点资料进行字串的接续,其详细的说明容后陈述。
在求取字串的最高分数时,可由节点的起始时间点、截止时间点做为起点,向节点前、后两个方向搜寻具有最高分数的部分字串。以图1的节点n2为例,要得到节点n2后面具有最高分数的部分字串,即必须决定出时间点64以后具有最高分数的部分字串,而要决定出时间点64以后具有最高分数的部分字串也就必须分别决定出时间点150及160之后具有最高分数的部分字串。依此巡回进行直到音框结束,既可得到节点n2之后部分字串的最高分数。在作法上如图4所示,可在节点前方及后方分别设定两个虚(dummy)节点41及42,由该两个虚节点41及42做为起点进行巡回搜寻,并使用一前向分数(forwardscore)阵列43及一向后分数(backward score)阵列44来分别记录节点n1-n9中的各个时间点的最高部分字串分数;亦即,该前向分数阵列43的阵列元素是记录由节点n1-n9中的各个起始时间点开始搜寻至句尾所能得到的最高部分字串分数以及用来代表该部分字串分数是使用那一个节点所得到的节点索引,而该后向分数阵列44的阵列元素是记录由节点n1-n9中的各个截止时间点开始搜寻至句首所能得到的最高部分字串分数以及用来代表该部分字串分数是使用那一个节点所得到的节点索引。籍此,在求取通过某一节点的字串分数时,仅需由阵列43及44中查出接续该节点的起始时间点及截止时间点的最高部分字串分数既可,因此,可以很容易将通过图1中每一个节点的最高字串分数计算出来,也就可以很快地得到图2的结果。
而籍由该前向及后向阵列43及44中所记录的节点索引,亦能进一步加快候选字串输出的动作。由于该节点索引是用来记录目前的部分字串分数是使用那一个节点所得到的,因此,参考该索引资料,即可很快的将图3中无法由各自的节点集合接续出完整字串的部分进行接续。比如,在集合2得到“静音”及“我想问”等两个节点n5及n6的接续,尚缺乏由时间点65到300的资料。透过前向分数阵列43在时间点65的资料可得到节点索引3的资料,也就是65、150“今天”的节点n3。继续查询前向分数阵列43在时间点151的资料可得到节点索引4的资料,也就是150、300“天气”的节点n4。即得到“静音”、“我想问”、“今天”、“天气”的字串资料。同此方式,在集合4得到“明天”及“气候”等两个节点n7及n8的接续,尚缺乏由时间点0到64的资料。此时查询的是后向分数阵列44在时间点64的资料,也就可以得到节点索引2的资料,也就是11、64“请问”的节点n2。继续查询后向分数阵列44在时间点10的资料可得到节点索引1的资料,也就是0、10“静音”的节点n1。即得到“静音”、“请问”、“明天”、“气候”的字串资料,如图5所示。
由以上的说明可知,本发明乃是对每个节点求出会通过该节点的所有字串中所能够得到的最高字串分数,并使用排序演算法将所有节点得到的最高字串分数进行排序,而能够得到候选字串,由于不需要进行字串展开的动作,故可达到既缩短运算时间又节省储存空间的目的。并且,后续模组亦可由本发明的方法,控制其后续处理的时间及相对的识别率。参照以下的表一:
表一
候选字串个数 | 包含率 | 词汇密度 |
10 | 96.44% | 6.05 |
20 | 97.47% | 10.97 |
30 | 97.93% | 15.72 |
40 | 98.16% | 20.28 |
50 | 98.33% | 24.62 |
∞ | 98.85% | 130.33 |
其是在一实验中使用10男、10女各念25句气象查询领域所使用的句子(包括短词、长句,且都是不相同的句子)时,列出候选字串个数与词汇密度、包含率的关系。其中,候选字串个数为∞表示不进行候选字串的选取动作,其虽然有98.85%的包含率,但是,词汇密度却有130.33之高。经过候选字串的搜寻,在候选字串个数为50时,词汇密度缩减为24.62,约为原来不作处理的1/6。包含率为98.33%,仅下降0.25%。而随着选取的候选字串个数递减,词汇密度亦随之缩减,包含率也跟着下降。至于候选字串个数的最佳值是为一个时间、空间与正确率取舍(trade-off)的问题,可由后级处理做选择性的控制。亦即,本发明所提供的方法,亦可供后级处理籍由候选字串个数的选择,控制识别模组所输出的密度与包含率。
综上所述,本发明无论就目的、手段及功效,均不同于习知技术的特征,为在语音识别中产生候选字串的设计上的一大突破。惟应注意的是,上述诸多实施例仅是为了便于说明而举例而已,本发明所主张的权利范围自应以申请专利范围所述为准,而非仅限于上述实施例。
Claims (9)
1、一种在语音识别中产生候选字串的方法,其中,上述候选字串是由多个节点所连接而成,每一节点包括了所对应语音信号的词汇或音节内容、起始时间点、截止时间点以及分数,一候选字串的字串分数是为构成该候选字串的节点的分数的总和,其特征在于,该方法包括下述步骤:
(A)计算通过每一个节点所有可能的字串中的最高字串分数;
(B)据该最高字串分数对所有节点进行排序,以将具有相同字串分数的节点集合成为一节点集合;以及
(C)自步骤(B)中所产生的所有节点集合中,以在每一节点集合内依照各节点的起始、截止时间进行接续,以便产生上述候选字串。
2、根据权利要求1所述的在语音识别中产生候选字串的方法,其特征在于,其中,于步骤(C)中,对于一个无法由各自的节点集合中的节点接续出完整字串的节点集合,则使用比该字串分数高的节点集合中的节点来进行字串的接续,以产生一候选字串。
3、根据权利要求1所述的在语音识别中产生候选字串的方法,其特征在于,其中,于步骤(A)中,是在节点前方及后方分别设定两个虚节点,由该两个虚节点做为起点进行巡回搜寻,而将由节点的起始时间点开始搜寻至句尾所能得到的最高字串分数记录在一前向分数阵列的元素中,及将由节点的截止时间点开始搜寻至句首所能得到的最高部分字串分数记录在一后向分数阵列的元素中,以便在求取通过一相关节点的字串分数时,仅需由该两阵列中查出接续该节点的起始时间点及截止时间点的最高部分字串分数既可。
4、根据权利要求3所述的在语音识别中产生候选字串的方法,其特征在于,其中,该前向分数阵列的每一元素并记录有用来代表在对应至所记录的部分字串分数以得到一节点索引时所使用的一相关节点。
5、根据权利要求3所述的在语音识别中产生候选字串的方法,其特征在于,其中,该后向分数阵列的每一元素并记录有用来代表在对应至所记录的部分字串分数以得到一节点索引时所使用的一相关节点。
6、根据权利要求4所述的在语音识别中产生候选字串的方法,其特征在于,其中,对应无法由一个节点集合接续出完整的节点则参考节点索引,依照索引所得到的节点进行字串的接续,以产生一候选字串。
7、根据权利要求5所述的在语音识别中产生候选字串的方法,其特征在于,其中,对于无法由一个节点集合接续出完整字串的节点则参考节点索引,依照索引所得的节点进行字串的接续,以产生一候选字串。
8、根据权利要求1所述的在语音识别中产生候选字串的方法,其特征在于,其中,前述候选字串是由词格中的多个节点所接续而成。
9、根据权利要求1所述的在语音识别中产生候选字串的方法,其特征在于,其中,前述候选字串是由音节格位中的多个节点所接续而成。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CNB011092831A CN1173332C (zh) | 2001-03-06 | 2001-03-06 | 在语音识别中产生候选字串的方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CNB011092831A CN1173332C (zh) | 2001-03-06 | 2001-03-06 | 在语音识别中产生候选字串的方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN1373468A CN1373468A (zh) | 2002-10-09 |
CN1173332C true CN1173332C (zh) | 2004-10-27 |
Family
ID=4657840
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CNB011092831A Expired - Lifetime CN1173332C (zh) | 2001-03-06 | 2001-03-06 | 在语音识别中产生候选字串的方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN1173332C (zh) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN100419751C (zh) * | 2004-03-11 | 2008-09-17 | 台达电子工业股份有限公司 | 使用语音输入查询方式及使用语音输入的行动电子装置 |
CN101452702B (zh) * | 2007-12-05 | 2011-08-10 | 财团法人工业技术研究院 | 语音模型的调整方法及其调整模块 |
US8374868B2 (en) * | 2009-08-21 | 2013-02-12 | General Motors Llc | Method of recognizing speech |
US9418679B2 (en) * | 2014-08-12 | 2016-08-16 | Honeywell International Inc. | Methods and apparatus for interpreting received speech data using speech recognition |
-
2001
- 2001-03-06 CN CNB011092831A patent/CN1173332C/zh not_active Expired - Lifetime
Also Published As
Publication number | Publication date |
---|---|
CN1373468A (zh) | 2002-10-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108305634B (zh) | 解码方法、解码器及存储介质 | |
US9734823B2 (en) | Method and system for efficient spoken term detection using confusion networks | |
US8321218B2 (en) | Searching in audio speech | |
Parlak et al. | Spoken term detection for Turkish broadcast news | |
US8805686B2 (en) | Melodis crystal decoder method and device for searching an utterance by accessing a dictionary divided among multiple parallel processors | |
Alleva et al. | An improved search algorithm using incremental knowledge for continuous speech recognition | |
CN1156820C (zh) | 使用词汇树的识别系统 | |
Chen et al. | Lightly supervised and data-driven approaches to mandarin broadcast news transcription | |
Mangu et al. | Efficient spoken term detection using confusion networks | |
Akbacak et al. | Open-vocabulary spoken term detection using graphone-based hybrid recognition systems | |
Nakagawa et al. | A robust/fast spoken term detection method based on a syllable n-gram index with a distance metric | |
Park et al. | Unsupervised word acquisition from speech using pattern discovery | |
Ghannay et al. | Acoustic Word Embeddings for ASR Error Detection. | |
US6760702B2 (en) | Method for generating candidate word strings in speech recognition | |
US20140142925A1 (en) | Self-organizing unit recognition for speech and other data series | |
Lee et al. | Combining multiple subword representations for open-vocabulary spoken document retrieval | |
CN1173332C (zh) | 在语音识别中产生候选字串的方法 | |
Singhal et al. | At&t at TREC-6: SDR track | |
Huang et al. | A fast algorithm for large vocabulary keyword spotting application | |
Wang | Mandarin spoken document retrieval based on syllable lattice matching | |
JPH09134192A (ja) | 統計的言語モデル生成装置及び音声認識装置 | |
JP2938865B1 (ja) | 音声認識装置 | |
Pusateri et al. | N-best list generation using word and phoneme recognition fusion | |
Lei et al. | Development of the 2008 SRI Mandarin speech-to-text system for broadcast news and conversation. | |
CN1061451C (zh) | 隐藏式马可夫模型的中文词音识别方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant | ||
CX01 | Expiry of patent term |
Granted publication date: 20041027 |
|
CX01 | Expiry of patent term |