JP2000075885A - Voice recognition device - Google Patents

Voice recognition device

Info

Publication number
JP2000075885A
JP2000075885A JP10241416A JP24141698A JP2000075885A JP 2000075885 A JP2000075885 A JP 2000075885A JP 10241416 A JP10241416 A JP 10241416A JP 24141698 A JP24141698 A JP 24141698A JP 2000075885 A JP2000075885 A JP 2000075885A
Authority
JP
Japan
Prior art keywords
word
tree
probability
word dictionary
structured
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP10241416A
Other languages
Japanese (ja)
Other versions
JP2938865B1 (en
Inventor
Schuster Mike
マイク・シュスター
Atsushi Nakamura
篤 中村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
ATR ONSEI HONYAKU TSUSHIN KENKYUSHO KK
ATR Interpreting Telecommunications Research Laboratories
Original Assignee
ATR ONSEI HONYAKU TSUSHIN KENKYUSHO KK
ATR Interpreting Telecommunications Research Laboratories
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ATR ONSEI HONYAKU TSUSHIN KENKYUSHO KK, ATR Interpreting Telecommunications Research Laboratories filed Critical ATR ONSEI HONYAKU TSUSHIN KENKYUSHO KK
Priority to JP10241416A priority Critical patent/JP2938865B1/en
Application granted granted Critical
Publication of JP2938865B1 publication Critical patent/JP2938865B1/en
Publication of JP2000075885A publication Critical patent/JP2000075885A/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Abstract

PROBLEM TO BE SOLVED: To provide a voice recognition device in which voice recognition is conducted with a high recognition rate and a high speed employing a highly precisely approximate language likelihood. SOLUTION: A word dictionary initialization processing section 10 generates a tree structure word dictionary based on memory learning text data, computes a look-ahead probability, which is an approximate language likelihood, and adds the probability to each node of the tree structure. A word collating section 6 computes the look-ahead probability, which is the approximate language likelihood given to the non-terminating state of the words in a tree structure word dictionary of a memory 22, for every word hypothesis inputted from a phoneme collating section 4 based on the probability data of the statistical language model N-gram in a memory 23, updates the dictionary in the memory 22 and voice recognizes the inputted voice signals employing the updated tree structure word dictionary.

Description

【発明の詳細な説明】DETAILED DESCRIPTION OF THE INVENTION

【0001】[0001]

【発明の属する技術分野】本発明は、木構造単語辞書を
用いて音声認識を行う音声認識装置に関する。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a speech recognition apparatus for performing speech recognition using a tree-structured word dictionary.

【0002】[0002]

【従来の技術】近年、連続音声認識装置において、その
性能を高めるために統計的言語モデルを用いる方法が研
究されている。これは、統計的言語モデルを用いて、次
単語を予測し探索空間を削減することにより、認識率の
向上および計算時間の削減の効果を狙ったものである。
最近盛んに用いられている統計的言語モデルとしてN−
gram(N−gram;ここで、Nは2以上の自然数
である。)がある。これは、大規模なテキストデータを
学習し、直前のN−1個の単語から次の単語への遷移確
率を統計的に与えるものである。複数L個の単語列w1 L
=w1,w2,…,wLの生成確率P(w1 L)は次式で表
される。
2. Description of the Related Art In recent years, in a continuous speech recognition apparatus, a method using a statistical language model has been studied in order to improve the performance thereof. This aims at improving the recognition rate and reducing the calculation time by predicting the next word and reducing the search space using a statistical language model.
As a statistical language model that has been widely used recently, N-
gram (N-gram; N is a natural number of 2 or more). It learns large-scale text data and statistically gives the transition probability from the previous N-1 words to the next word. Multiple L word strings w 1 L
= W 1 , w 2 ,..., W L The generation probability P (w 1 L ) is represented by the following equation.

【0003】[0003]

【数1】 (Equation 1)

【0004】ここで、wtは単語列w1 Lのうちt番目の
1つの単語を表し、wi jはi番目からj番目の単語列を
表わす。上記数1において、確率P(wt
t+1-N t-1)は、N個の単語からなる単語列wt+1-N t-1
が発声された後に単語wtが発声される確率であり、以
下同様に、確率P(A|B)は単語又は単語列Bが発声
された後に単語Aが発声される確率を意味する。また、
数1における「Π」はt=1からLまでの確率P(wt
|wt+1-N t-1)の積を意味し、以下同様である。
[0004] Here, w t represents a t-th one word of the word string w 1 L, w i j represents the j-th word string from the i-th. In the above equation 1, the probability P (w t |
wt + 1- Nt-1 ) is a word sequence wt + 1- Nt-1 composed of N words.
Is the probability that the word w t will be uttered after is uttered, and similarly, the probability P (A | B) means the probability that the word A will be uttered after the word or word string B has been uttered. Also,
“Π” in Equation 1 represents the probability P (w t from t = 1 to L
| W t + 1−N t−1 ), and so on.

【0005】ところで、近年、上記統計的言語モデルN
−gramを用いて連続音声認識の性能を向上させる手
法が盛んに提案されている(例えば、従来技術文献1
「L.R.Bahl et al.,“A Maxim
um LikelihoodApproach to
Continuous Speech Recogni
tion”,IEEE Transactions o
n PatternAnalysis and Mac
hine Intelligence,pp.179−
190,1983年」及び従来技術文献2「清水ほか,
“単語グラフを用いた自由発話音声認識”,電子情報通
信学会技術報告,SP95−88,pp.49−54,
平成7年」参照。)。
In recent years, the statistical language model N
Techniques for improving the performance of continuous speech recognition using -gram have been actively proposed.
"LR Bahl et al.," A Maxim
um LikelihoodApproach to
Continuous Speech Recogni
Tion ", IEEE Transactions o
n PatternAnalysis and Mac
hine Intelligence, pp. 179-
190, 1983 "and prior art document 2" Shimizu et al.,
"Free speech recognition using word graphs", IEICE Technical Report, SP95-88, pp. 146-64. 49-54,
1995 ". ).

【0006】しかしながら、N−gramはパラメータ
数が多く、それぞれの値を正確に求めるためには、莫大
な量のテキストデータが必要とされる。この問題を解決
する方法として、学習用テキストデータに出現しない単
語遷移に対しても遷移確率を与える平滑化の手法(例え
ば、従来技術文献3「F.Jelinek et a
l.,“Interpolated estimati
on of Markov Source Param
eters from Sparse Data”,P
roceedings of Workshop Pa
ttern Recognition in Prac
tice,pp.381−387,1980年」、従来
技術文献4「S.M.Katz et al.,“Es
timation of Probabilities
from Sparse Data for the
Language model Component
of a Speech Recognizer”,
IEEE Transactions on Acou
stics,Speech,and SignalPr
ocessing,pp.400−401,1987
年」及び従来技術文献5「川端ほか,“二項事後分布に
基づくN−gram統計的言語モデルのBack−of
f平滑化”,電子情報通信学会技術報告、SP95−9
3,pp1−6,平成7年」参照。)や、クラス分類、
可変長N−gram等パラメータの数を減少させる手法
(例えば、従来技術文献6「P.F.Brown et
al.,“Class−Based n−gram
models of natural languag
e”,Computational Linguist
ics,Vol.18,No.4,pp.467−47
9,1992年」、従来技術文献7「T.R.Nies
ler et al.,“A Variable−Le
ngth Category−Based N−gra
m Language Model”,Proceed
ings of ICASSP ’96,Vol.1,
pp.164−167,1996年」及び従来技術文献
8「政瀧ほか,“連続音声認識のための可変長連鎖統計
統計的言語モデル”,電子情報通信学会技術報告,SP
95−73,pp.1−6,平成7年」参照。)等が数
多く提案されている。しかしながら、これらの手法を用
いても、精度の良い統計的言語モデルを構築するために
は、相当量のデータを用いる必要があると考えられる。
[0006] However, N-gram has a large number of parameters, and an enormous amount of text data is required to accurately obtain each value. As a method for solving this problem, a smoothing method for giving a transition probability even to a word transition that does not appear in the learning text data (for example, see the related art document 3 “F. Jelinek et a
l. , “Interpolated estimati
on of Markov Source Param
eters from Sparse Data ”, P
rosedings of Workshop Pa
ttern Recognition in Prac
tice, pp. 381-387, 1980 "and prior art document 4" SM Katz et al., "Es
timing of Probabilities
from Sparse Data for the
Language model Component
of a Speech Recognizer ",
IEEE Transactions on Acou
stics, Speech, and SignalPr
ossing, pp. 400-401, 1987
Year "and Prior Art Document 5" Kawabata et al., "Back-of N-gram Statistical Language Model Based on Binomial Posterior Distribution"
f Smoothing ", IEICE Technical Report, SP95-9
3, pp1-6, 1995. " ), Classification,
Techniques for reducing the number of parameters such as variable-length N-grams (for example, see Prior Art Document 6 “PF Brownet
al. , “Class-Based n-gram
models of natural language
e ", Computational Linguist
ics, Vol. 18, No. 4, pp. 467-47
9, 1992 "and prior art document 7" TR Nies "
ler et al. , "A Variable-Le
Nth Category-Based N-gra
m Language Model ”, Proceed
ins of ICASSP '96, Vol. 1,
pp. 164-167, 1996 "and prior art document 8" Masataki et al., "Variable-length chain statistical statistical language model for continuous speech recognition", IEICE technical report, SP
95-73, p. 1-6, 1995 ". ) Have been proposed. However, even with these methods, it is considered necessary to use a considerable amount of data in order to construct an accurate statistical language model.

【0007】以上の問題点を解決するために、従来技術
文献9「Volker Steinbiss et a
l.,“Improvements in beam
search”, ICLSP 94, Yokoha
ma, Japan, pp.2143−2146」及
び従来技術文献10「Stefan Ortmanns
et al.,“A word graph alg
orithm forlarge vocabular
y continuous speechrecogn
ition”, Computer Speech &
Language, 1997, 11, pp.4
3−72」において、木構造単語辞書を用いた音声認識
方法(以下、従来例という。)が開示されている。この
従来例では、木構造辞書の非終端状態(非終端ノード)
に対する近似言語尤度として、当該ノードが属するすべ
ての単語のunigram確率のうち最大のものを用い
ている。ここで、単語のunigram確率とは、1つ
の単語の出現確率をいう。
[0007] In order to solve the above-mentioned problems, the related art 9 [Volker Steinbiss et al.
l. , “Improvements in beam
search ”, ICLSP 94, Yokoha
ma, Japan, pp. 2143-2146 "and prior art document 10" Stephan Ortmanns "
et al. , "A word graph arg
orient for large vocabulary
y continuous speechrecogn
ition ”, Computer Speech &
Langage, 1997, 11, pp. 4
3-72 "discloses a speech recognition method using a tree-structured word dictionary (hereinafter, referred to as a conventional example). In this conventional example, the non-terminal state (non-terminal node) of the tree structure dictionary
As the approximate language likelihood for, the largest of the unigram probabilities of all the words to which the node belongs is used. Here, the unigram probability of a word refers to the appearance probability of one word.

【0008】この従来例において用いている統計的言語
モデルによるunigram先読み方法の処理について
説明する。木構造単語辞書内の各ノードのplookahead
を設定する手順は以下の通りである。 (1)木構造単語辞書内の各リーフノードに関して、次
式に示すように、このリーフノードで終了する単語のす
べてのunigram(Wleafnodeと表示される単語セ
ット)確率P(w)の最大値を計算して各リーフノード
における先読み確率plookahead(leafnode)に設定す
る。同音異義語及び複数の発音のため、1つのリーフノ
ードにおいて終了する単語が数個である可能性もある。
The processing of the unigram prefetching method based on the statistical language model used in this conventional example will be described. P lookahead of each node in the tree structure word dictionary
Is set as follows. (1) For each leaf node in the tree-structured word dictionary, as shown in the following equation, the maximum value of all unigram (word set displayed as W leafnode ) probabilities P (w) of words ending at this leaf node Is calculated and set to the look-ahead probability p lookahead (leafnode) at each leaf node. Due to homonyms and multiple pronunciations, a leaf node may end with several words.

【0009】[0009]

【数2】plookahead(leafnode)=MAX{P(w)} ここで、w∈Wleafnode ## EQU2 ## p lookahead (leafnode) = MAX {P (w)} where wwW leafnode

【0010】(2)すべての非リーフノードにおける先
読み確率plookaheadに対して、そこからリーフノード
に枝分かれするすべての子ノードの先読み確率p
lookahead(child-node)の最大値を設定する。
(2) For the look-ahead probabilities p lookahead in all non-leaf nodes, the look-ahead probabilities p for all child nodes branching from the look-ahead to leaf nodes
Set the maximum value of lookahead (child-node).

【0011】[0011]

【数3】plookahead(non-leafnode)=MAX{p
lookahead(child-node)}
## EQU3 ## p lookahead (non-leafnode) = MAX {p
lookahead (child-node)}

【0012】従来例のunigramの先読み方法は現
時点で展開された単語仮説に依存せず、従って、統計的
手順であって、通常は事前に1度だけ計算されるべきも
のであることに注意する。ここで、従来例の方法による
実施例を以下に示す。この実施例で用いられたunig
ramの統計的言語モデルの一例を次の表に示す。ま
た、上述の処理で得られた木構造単語辞書を図4に示
す。
Note that the prior art unigram look-ahead method does not depend on the currently expanded word hypothesis, and is therefore a statistical procedure, which should normally be calculated only once in advance. . Here, an embodiment according to a conventional method will be described below. The unig used in this example
An example of a statistical language model of ram is shown in the following table. FIG. 4 shows a tree-structured word dictionary obtained by the above processing.

【0013】[0013]

【表1】 [Table 1]

【0014】[0014]

【発明が解決しようとする課題】しかしながら、従来例
で用いる近似言語尤度は単語のunigram確率に基
づいているために、近似の精度が低く、認識に要する計
算時間の短縮効果が十分でない。従って、計算コストが
高く、また、木構造単語辞書を記憶するメモリの容量が
比較的大きいという問題点があった。
However, since the approximate language likelihood used in the conventional example is based on the unigram probability of a word, the approximation accuracy is low, and the effect of reducing the calculation time required for recognition is not sufficient. Therefore, there is a problem that the calculation cost is high and the capacity of the memory for storing the tree structure word dictionary is relatively large.

【0015】本発明の目的は以上の問題点を解決し、従
来例に比較して高精度で近似した言語尤度を用いてより
高い認識率でかつ高速で音声認識することができる音声
認識装置を提供することにある。
SUMMARY OF THE INVENTION An object of the present invention is to solve the above-mentioned problems, and to realize a speech recognition apparatus capable of recognizing speech at a higher recognition rate and at a higher speed by using a language likelihood approximated with higher precision as compared with the conventional example. Is to provide.

【0016】[0016]

【課題を解決するための手段】本発明に係る請求項1記
載の音声認識装置は、学習用テキストデータに基づいて
木構造単語辞書を生成して、木構造の各ノードに対して
近似言語尤度である先読み確率を計算して付与し、上記
木構造単語辞書を用いて入力される音声信号を音声認識
する音声認識手段を備えた音声認識装置において、Nが
2以上の自然数である単語のN−gramの確率データ
を含む統計的言語モデルを記憶する記憶手段を備え、上
記音声認識手段は、生成される単語仮説毎に、上記木構
造単語辞書における単語の非終端状態に与える近似言語
尤度である先読み確率を、上記記憶手段に記憶された統
計的言語モデルのN−gramの確率データに基づいて
計算することにより上記木構造単語辞書を更新して、上
記更新された木構造単語辞書を用いて、入力される音声
信号を音声認識することを特徴とする。
According to a first aspect of the present invention, there is provided a speech recognition apparatus which generates a tree-structured word dictionary based on learning text data and generates an approximate language likelihood for each node of the tree structure. A speech recognition device provided with speech recognition means for calculating and adding a look-ahead probability as a degree and recognizing a speech signal input using the tree-structured word dictionary, wherein N is a natural number of 2 or more. Storage means for storing a statistical language model including N-gram probability data, wherein the speech recognition means provides, for each generated word hypothesis, an approximate language likelihood given to a non-terminal state of a word in the tree-structured word dictionary Is updated based on the N-gram probability data of the statistical language model stored in the storage means, thereby updating the tree-structured word dictionary. Using a word dictionary, and recognizes speech inputted audio signal.

【0017】また、請求項2記載の音声認識装置は、請
求項1記載の音声認識装置において、上記音声認識手段
は、学習用テキストデータに基づいて木構造単語辞書を
生成する生成手段と、上記木構造単語辞書において各リ
ーフノードに対して、リーフノードで終了する単語のす
べてのunigramの最大確率を先読み確率として計
算して付与する第1の付与手段と、上記木構造単語辞書
においてすべてのリーフノードでないノードに対してそ
の先読み確率にリーフノードに対して分岐するすべての
子ノードの最大確率を設定して付与することにより上記
木構造単語辞書を別の記憶手段に記憶する第2の付与手
段と、生成される単語仮説毎に、単語仮説の各組に対し
て単語のunigramを除く上記記憶手段に記憶され
た統計的言語モデルにおいて存在するすべてのN−gr
amの入力データの最大のN−gram確率に拡張して
各リーフノードの先読み確率を計算して上記別の記憶手
段に記憶された木構造単語辞書に付与する第3の付与手
段と、上記木構造単語辞書においてリーフノードでない
すべてのノードに対してその先読み確率に、リーフノー
ドに対して分岐するすべての子ノードの最大確率を設定
して付与することにより、上記別の記憶手段に記憶され
た木構造単語辞書を更新する第4の付与手段と、上記更
新された木構造単語辞書と、上記記憶手段に記憶された
統計的言語モデルを用いて、入力された音声信号に対し
て最尤の単語仮説を探索決定して認識結果として出力す
る探索認識手段とを備えたことを特徴とする。
According to a second aspect of the present invention, in the voice recognition apparatus of the first aspect, the voice recognition unit generates a tree structure word dictionary based on learning text data; First assigning means for calculating and assigning, as a look-ahead probability, the maximum probability of all unigrams of words ending at a leaf node to each leaf node in the tree-structured word dictionary; A second assigning means for storing the tree-structured word dictionary in another storage means by setting and giving the prefetch probability to a node which is not a node and the maximum probability of all child nodes branching to a leaf node; And for each generated word hypothesis, a statistical language model stored in the storage means except for a word unigram for each set of word hypotheses. All of the N-gr present in
a third adding means for calculating the look-ahead probabilities of each leaf node by expanding to the maximum N-gram probability of the input data of am and adding the calculated prefetch probability to the tree-structured word dictionary stored in the another storage means; By setting and giving the prefetch probability to all the nodes that are not leaf nodes in the structured word dictionary and the maximum probabilities of all child nodes branching to the leaf node, Using a fourth assigning means for updating the tree structure word dictionary, the updated tree structure word dictionary, and the statistical language model stored in the storage means, the maximum likelihood of the input speech signal is obtained. Search recognition means for searching for and determining a word hypothesis and outputting the result as a recognition result.

【0018】[0018]

【発明の実施の形態】以下、図面を参照して本発明に係
る実施形態について説明する。
Embodiments of the present invention will be described below with reference to the drawings.

【0019】図1は、本発明に係る一実施形態である連
続音声認識装置のブロック図である。この実施形態の連
続音声認識装置においては、単語辞書初期化処理部10
は、メモリ学習用テキストデータに基づいて二分木形式
の木構造単語辞書を生成して、木構造の各ノードに対し
て近似言語尤度である先読み確率を計算して付与して木
構造単語辞書メモリ21,22に格納し、Nが2以上の
自然数である単語のN−gramの確率データを含む統
計的言語モデルを記憶する統計的言語モデルメモリ23
が備えられる。ここで、単語照合部6は、音素照合部4
から入力される単語仮説毎に、メモリ22内の木構造単
語辞書における単語の非終端状態に与える近似言語尤度
である先読み確率を、メモリ23内の統計的言語モデル
のN−gramの確率データに基づいて計算することに
より上記メモリ22内の木構造単語辞書を更新して、上
記更新された木構造単語辞書を用いて、入力される音声
信号を音声認識することを特徴としている。
FIG. 1 is a block diagram of a continuous speech recognition apparatus according to one embodiment of the present invention. In the continuous speech recognition device of this embodiment, the word dictionary initialization processing unit 10
Generates a tree-structured word dictionary of a binary tree format based on the text data for memory learning, and calculates and adds a look-ahead probability, which is an approximate linguistic likelihood, to each node of the tree-structured word. A statistical language model memory 23 that is stored in the memories 21 and 22 and stores a statistical language model including N-gram probability data of a word in which N is a natural number of 2 or more.
Is provided. Here, the word collating unit 6 includes the phoneme collating unit 4
For each word hypothesis input from, the look-ahead probability, which is the approximate language likelihood given to the non-terminal state of the word in the tree-structured word dictionary in the memory 22, is stored in the N-gram probability data of the statistical language model in the memory 23. Based on the calculation, the tree-structured word dictionary in the memory 22 is updated, and the input speech signal is speech-recognized using the updated tree-structured word dictionary.

【0020】ところで、音声認識装置における最も可能
性の高い仮説を探索(サーチ)する処理は、認識可能な
すべての単語を包含する単語辞書に基づいて行ってい
る。従来例の音声認識装置においては、通常、木構造単
語辞書(メモリ内に、認識可能な単語が単なる直線的リ
ストではなく木構造として表示されている。)が使用さ
れる。木構造単語辞書が使用される場合は、木構造単語
辞書を用いた探索時に統計的言語モデル確率をできるだ
け早く組み込むために、統計的言語モデルの先読み方法
と呼ばれる手順が使用される。使用頻度の高い手順の1
つはunigramの先読み方法であり、従来例で説明
したものである。一方、本実施形態では、この従来例の
方法を拡張して探索速度を約20%向上させることがで
きるオンデマンドのN−gram先読み方法を用いる。
The process of searching for the most likely hypothesis in the speech recognition apparatus is performed based on a word dictionary that includes all recognizable words. In a conventional speech recognition apparatus, a tree structure word dictionary (recognizable words are displayed in a memory as a tree structure instead of a simple linear list) is usually used. When a tree-structured word dictionary is used, a procedure called a pre-reading method of a statistical language model is used in order to incorporate the statistical language model probability as soon as possible in a search using the tree-structured word dictionary. One of the frequently used procedures
One is a unigram prefetching method, which has been described in the conventional example. On the other hand, in the present embodiment, an on-demand N-gram look-ahead method that can extend the conventional method and improve the search speed by about 20% is used.

【0021】まず、統計的言語モデルの先読み方法につ
いて説明する。統計的言語モデルによる先読み方法は、
木構造単語辞書を使用する多くの音声認識装置で使用さ
れている。探索中に木構造単語辞書に入った時点では、
単語の同一性はリーフノード(単語が終了するノードで
あり、単語の終端状態をいう。)に達するまで判らず、
従って木構造単語辞書内での正確な言語モデル確率も不
明である。良好な高速探索性能を得るためには、木構造
単語辞書を通過する間にできるだけ早く言語モデル確率
を組み込む必要がある。木構造辞書を使用する多くの音
声認識システムにおいては、木構造辞書内に言語モデル
確率の推定値を組み込むために、統計的言語モデルの先
読み方法と呼ばれる手順が使用される。統計的言語モデ
ルの先読み確率(plookahead)は、木構造辞書のあら
ゆるノードに帰属している。それらが既に設定済みであ
るものとすれば、それは探索中に以下のように使用され
る。
First, a method of prefetching a statistical language model will be described. The look-ahead method based on the statistical language model is
It is used in many speech recognition devices that use a tree-structured word dictionary. When you enter the tree-structured word dictionary during the search,
The identity of a word is unknown until it reaches a leaf node (the node where the word ends, which means the end state of the word).
Therefore, the exact language model probability in the tree structure word dictionary is also unknown. In order to obtain good high-speed search performance, it is necessary to incorporate the language model probability as soon as possible while passing through the tree-structured word dictionary. In many speech recognition systems that use a tree-structured dictionary, a procedure called a statistical language model look-ahead method is used to incorporate language model probability estimates into the tree-structured dictionary. The look-ahead probability (p lookahead ) of the statistical language model belongs to every node of the tree-structured dictionary. Assuming they have already been set, it is used during the search as follows.

【0022】(a)ノードに入ると、現在の全体のスコ
アにplookahead(ノード)を加算する。 (b)ノードを離れると、現在の全体のスコアからp
lookahead(ノード)を減算する。
(A) When entering a node, add p lookahead (node) to the current overall score. (B) After leaving the node, p
Subtract lookahead (node).

【0023】この方法は、統計的言語モデルの先読み方
法を何も使用しない場合よりも早く弱い言語モデル確率
を有するノードの枝刈り(プルーニング)を促進し、探
索の速度向上をもたらす。辞書における各ノードのp
lookaheadを設定するための方法について説明する。
This method promotes pruning of nodes with weak language model probabilities faster than if no statistical language model look-ahead method is used, resulting in an increase in search speed. P of each node in the dictionary
A method for setting lookahead will be described.

【0024】本実施形態に係る単語辞書初期化処理部1
0は、学習用テキストメモリ2に記憶された複数の発声
音声文のテキストデータ(コーパス)と、統計的言語モ
デルメモリ23内の単語のunigram確率データと
に基づいて、二分木形式の木構造単語辞書を生成し、従
来例の方法を用いて各ノードに対して先読み確率plo
okaheadを計算して付与することにより、初期値の木構
造単語辞書を生成してメモリ21に記憶した後、メモリ
22にコピーする。そして、次の処理により、音素照合
部4からバッファメモリ5を介して単語照合部6に単語
仮説が入力される毎に(オンデマンド)、メモリ22内
の木構造単語辞書を更新して、メモリ22内の木構造単
語辞書とメモリ23内の統計的言語モデルとを用いて最
尤の単語仮説を探索決定して認識結果として出力する。
The word dictionary initialization processing unit 1 according to this embodiment
0 is a binary tree-type tree-structured word based on text data (corpus) of a plurality of uttered speech sentences stored in the learning text memory 2 and unigram probability data of the word in the statistical language model memory 23. A dictionary is generated, and a look-ahead probability p lo is calculated for each node using a conventional method.
By calculating and adding okahead , an initial value tree structure word dictionary is generated and stored in the memory 21, and then copied to the memory 22. By the following processing, each time a word hypothesis is input from the phoneme matching unit 4 to the word matching unit 6 via the buffer memory 5 (on-demand), the tree-structured word dictionary in the memory 22 is updated. The maximum likelihood word hypothesis is searched and determined using the tree-structured word dictionary in the memory 22 and the statistical language model in the memory 23, and is output as a recognition result.

【0025】本実施形態に係るオンデマンドのN−gr
am先読み方法は新規の統計的言語モデルの先読み手順
であり、その処理点で展開された仮説の制約を組み込ん
でいる。これにより、従来例のunigramの先読み
方法の手順と比較して実際の言語モデル確率の推定値が
向上し、曳いては枝刈り精度の向上、それ故の高速探索
が導かれる。速度の増加分は約20%である。
On-demand N-gr according to this embodiment
The am look-ahead method is a look-ahead procedure for a new statistical language model, which incorporates the hypothesis constraints developed at that processing point. As a result, the estimated value of the actual language model probability is improved as compared with the procedure of the conventional unigram look-ahead method, which leads to an improvement in the pruning accuracy and hence a high-speed search. The speed increase is about 20%.

【0026】次いで、オンデマンドのN−gram先読
み方法の処理は以下の通りである。 (1)探索開始前に上記のunigramの先読み方法
の手順によってすべてのノードの先読み確率p
lookaheadを初期化する。 (2)各単語セットに関して仮説Hiを計算し、統計的
言語モデルにおいて、unigramの初期化中に既に
設定されたunigramを除く、統計的言語モデルに
おいて存在するすべてのN−gramのデータ(Hi
w)のうちの最大N−gram確率P(w│Hi)に拡
張する。単語wに帰属する関連リーフノード(同音異義
語及び複数の発音のため数個になる可能性がある。)を
識別し、先読み確率plookaheadとして、次式に示すよ
うに、計算された確率及び設定済みのunigramの
先読み確率plookaheadのうちの最大値を設定する。
Next, the processing of the on-demand N-gram prefetching method is as follows. (1) Prior to the search, the prefetch probability p of all nodes is determined by the procedure of the above-mentioned unigram prefetch method.
Initialize lookahead . (2) The hypothesis H i is calculated for each word set, and in the statistical language model, all N-gram data (H) existing in the statistical language model except for the unigram already set during the initialization of the unigram. i ,
w) to the maximum N-gram probability P (w | H i ). Identify related leaf nodes belonging to word w (there may be several due to homonyms and multiple pronunciations), and as the look-ahead probability p lookahead , the calculated probabilities and The maximum value of the pre-reading probabilities p lookahead of the set unigram is set.

【0027】[0027]

【数4】 plookahead(leafnode)=MAX{P(w|Hi)} ∀Hi及び∀w∈{N−gramに存在する(Hi,w)}Equation 4] p lookahead (leafnode) = MAX { P (w | H i)} ∀H i and ∀W∈ {present in N-gram (H i, w )}

【0028】(3)すべての非リーフノード(すなわ
ち、リーフノードでないノードであって、単語の非終端
状態をいう。)に関して、その先読み確率plookahead
を、次式のように、リーフノードに枝分かれするすべて
の子ノードの先読み確率plookah ead(child-node)の
最大値に設定する。
(3) For all non-leaf nodes (that is, nodes that are not leaf nodes and refer to non-terminal states of words), their look-ahead probabilities p lookahead
Is set to the maximum value of the look-ahead probabilities p lookah ead (child-node) of all the child nodes branching to the leaf node as in the following equation.

【0029】[0029]

【数5】plookahead(non-leafnode)=MAX{p
lookahead(child-node)}
## EQU5 ## p lookahead (non-leafnode) = MAX {p
lookahead (child-node)}

【0030】この手順は、通常のunigramの先読
み方法の場合のように事前に実行することのできない新
規単語仮説セットが展開される毎に実行しなければなら
ない。この追加的な手順に関わらず、言語モデル確率が
正確であればあるほど枝刈りがより正確となり、全探索
の高速化が導かれる。
This procedure must be executed every time a new word hypothesis set that cannot be executed in advance is developed as in the case of the normal unigram look-ahead method. Regardless of this additional procedure, the more accurate the language model probability, the more accurate the pruning, which leads to a faster full search.

【0031】次いで、オンデマンドのN−gram先読
み方法の一例について説明する。ここで、展開すべき仮
説リストに依存して、すべてのN−gram確率が使用
されることに注意する。統計的言語モデルの一例を次の
表に示し、メモリ7内に記憶される展開すべき仮説リス
トの一例を次の表に示す。これらを用いて作成された木
構造単語辞書を図5に示す。なお、次の表における単語
1,w2,w3,w4,…は、例えば音素列で表現された
単語である。
Next, an example of an on-demand N-gram prefetching method will be described. Note that all N-gram probabilities are used, depending on the hypothesis list to be expanded. An example of a statistical language model is shown in the following table, and an example of a hypothesis list to be expanded stored in the memory 7 is shown in the following table. FIG. 5 shows a tree structure word dictionary created by using these. The words w 1 , w 2 , w 3 , w 4 ,... In the following table are words expressed by phoneme strings, for example.

【0032】[0032]

【表2】 [Table 2]

【0033】[0033]

【表3】 [Table 3]

【0034】展開すべき仮説リストメモリ7では、単語
照合部6の処理により出てきた単語仮説の履歴を一時的
に記憶する。図5に示すように、木構造単語辞書におい
ては、ルートノードRNからリーフノードLNに向かっ
て二分木形式で木が成長してゆき、各ノードで先読み確
率plookaheadが付与され、単語照合部6による処理に
より単語仮説が入力される毎に上記付与された各ノード
の先読み確率plookah eadが更新されて単語照合され
る。ここで、ルートノードRNからリーフノードLNに
向かう方向が子ノードに向かう方向である。
The hypothesis list memory 7 to be developed temporarily stores the history of the word hypotheses generated by the processing of the word collating unit 6. As shown in FIG. 5, in the tree-structured word dictionary, a tree grows in a binary tree form from the root node RN to the leaf node LN, a look-ahead probability p lookahead is given to each node, and the word matching unit 6 Each time a word hypothesis is input by the processing according to the above, the look-ahead probabilities p lookah ead of the assigned nodes are updated and word matching is performed. Here, the direction from the root node RN toward the leaf node LN is the direction toward the child node.

【0035】図2は、図1の単語辞書初期化処理部10
によって実行される単語辞書初期化処理を示すフローチ
ャートである。なお、統計的言語モデルメモリ23に
は、複数の発声音声文を含むコーパスである学習用テキ
ストデータに基づいて、trigram以上の単語のN
−gramの連接確率データが予め記憶される。
FIG. 2 shows the word dictionary initialization processing unit 10 shown in FIG.
6 is a flowchart showing a word dictionary initialization process executed by the CPU. The statistical language model memory 23 stores N or more words of “trigram” or more based on learning text data which is a corpus including a plurality of uttered voice sentences.
-Gram connection probability data is stored in advance.

【0036】図2において、ステップS1において、メ
モリ20内の学習用テキストデータと、メモリ23内の
統計的言語モデルのうちのunigramの確率データ
とに基づいて二分木形式の木構造単語辞書を生成する。
次いで、ステップS2において木構造において各リーフ
ノードLNに対して、リーフノードLNで終了する単語
のすべてのunigramの最大確率を先読み確率p
lookahead(leafnode)として計算して付与する。さら
に、ステップS3においてすべてのリーフノードLFで
ないノードに対してその先読み確率plookahead(non-l
eafnode)にリーフノードに対して分岐するすべての子
ノードの最大確率を設定して付与する。最後に、ステッ
プS4において生成された確率付き木構造単語辞書をメ
モリ21に記憶するとともに、メモリ22にコピーして
記憶して、当該単語辞書初期化処理を終了する。
In FIG. 2, in step S1, a tree-structured word dictionary in a binary tree format is generated based on the learning text data in the memory 20 and the probability data of the unigram of the statistical language model in the memory 23. I do.
Next, in step S2, for each leaf node LN in the tree structure, the maximum probabilities of all unigrams of words ending at the leaf node LN are determined by a look-ahead probability p.
Calculated and given as lookahead (leafnode). Further, in step S3, the look-ahead probabilities p lookahead (non-l
eafnode) with the maximum probability of all child nodes branching to the leaf node. Finally, the tree-structured word dictionary with probability generated in step S4 is stored in the memory 21 and copied and stored in the memory 22, and the word dictionary initialization process ends.

【0037】図3は、図1の単語照合部6によって実行
される単語照合処理を示すフローチャートである。図3
において、まず、ステップS11において単語仮説が入
力されたかが判断され、入力されるまで待機し、入力さ
れる毎に、次のステップS12乃至S14の処理が実行
される。次いで、ステップS12において単語仮説Hi
の各組に対して単語のunigramを含まない統計的
言語モデルにおいて存在するすべてのN−gramの入
力データ(Hi,w)の最大のN−gram確率p(w
│Hi)に拡張して各リーフノードの先読み確率p
lookahead(leafnode)を計算して付与する。さらに、
ステップS13においてリーフノードでないすべてのノ
ードに対してその先読み確率plookahead(non-leafnod
e)に、リーフノードに対して分岐するすべての子ノー
ドの最大確率を設定して付与して、メモリ22内の木構
造単語辞書を更新する。最後に、ステップS14で、更
新されたメモリ22内の木構造単語辞書と、メモリ23
内の統計的言語モデルを用いて最尤の単語仮説を探索決
定して認識結果として出力する。
FIG. 3 is a flowchart showing a word matching process executed by the word matching unit 6 of FIG. FIG.
First, in step S11, it is determined whether or not a word hypothesis has been input, and the process waits until the word hypothesis is input. Each time the word hypothesis is input, the processes of the following steps S12 to S14 are executed. Next, in step S12, the word hypothesis H i
, The maximum N-gram probability p (w) of all N-gram input data (H i , w) present in the statistical language model that does not include the word unigram
│H i ) to expand the look-ahead probability p of each leaf node
Calculate and add lookahead (leafnode). further,
In step S13, the look-ahead probability p lookahead (non-leafnod
The maximum probability of all the child nodes branching to the leaf node is set and assigned to e), and the tree structure word dictionary in the memory 22 is updated. Finally, in step S14, the updated tree-structured word dictionary in the memory 22 and the memory 23
The maximum likelihood word hypothesis is searched for and determined using the statistical language model in, and is output as a recognition result.

【0038】次いで、図1に示す連続音声認識装置の構
成及び動作について説明する。図1において、音素照合
部4に接続された音素隠れマルコフモデル(以下、隠れ
マルコフモデルをHMMという。)メモリ11内の音素
HMMは、各状態を含んで表され、各状態はそれぞれ以
下の情報を有する。 (a)状態番号、(b)受理可能なコンテキストクラ
ス、(c)先行状態、及び後続状態のリスト、(d)出
力確率密度分布のパラメータ、及び(e)自己遷移確率
及び後続状態への遷移確率。なお、本実施形態において
用いる音素HMMは、各分布がどの話者に由来するかを
特定する必要があるため、所定の話者混合HMMを変換
して生成する。ここで、出力確率密度関数は34次元の
対角共分散行列をもつ混合ガウス分布である。
Next, the configuration and operation of the continuous speech recognition apparatus shown in FIG. 1 will be described. In FIG. 1, a phoneme HMM in a phoneme hidden Markov model (hereinafter referred to as HMM) memory 11 connected to the phoneme matching unit 4 is represented by including each state, and each state includes the following information. Having. (A) state number, (b) acceptable context class, (c) list of preceding and succeeding states, (d) parameters of output probability density distribution, and (e) self-transition probability and transition to succeeding state probability. Note that the phoneme HMM used in the present embodiment is generated by converting a predetermined speaker-mixed HMM because it is necessary to specify which speaker each distribution originates from. Here, the output probability density function is a Gaussian mixture distribution having a 34-dimensional diagonal covariance matrix.

【0039】図1において、話者の発声音声はマイクロ
ホン1に入力されて音声信号に変換された後、特徴抽出
部2に入力される。特徴抽出部2は、入力された音声信
号をA/D変換した後、例えばLPC分析を実行し、対
数パワー、16次ケプストラム係数、Δ対数パワー及び
16次Δケプストラム係数を含む34次元の特徴パラメ
ータを抽出する。抽出された特徴パラメータの時系列は
バッファメモリ3を介して音素照合部4に入力される。
音素照合部4は、ワン−パス・ビタビ復号化法を用い
て、バッファメモリ3を介して入力される特徴パラメー
タのデータに基づいて、音素HMM11を用いて音素列
の単語仮説を検出し尤度を計算してバッファメモリ5を
介して単語照合部6に出力する。単語照合部6は、図3
の単語照合処理を実行して、メモリ22内の木構造単語
辞書を更新しかつメモリ23内の統計的言語モデルとメ
モリ7内の展開すべき仮説リストを参照して最尤の単語
仮説を探索決定して認識結果として出力する。
In FIG. 1, a speaker's uttered voice is input to a microphone 1 and converted into a voice signal, and then input to a feature extracting unit 2. After performing A / D conversion on the input audio signal, the feature extraction unit 2 performs, for example, LPC analysis, and performs 34-dimensional feature parameters including logarithmic power, 16th-order cepstrum coefficient, Δlogarithmic power, and 16th-order Δcepstrum coefficient. Is extracted. The time series of the extracted feature parameters is input to the phoneme matching unit 4 via the buffer memory 3.
The phoneme matching unit 4 detects the word hypothesis of the phoneme string using the phoneme HMM 11 based on the feature parameter data input via the buffer memory 3 using the one-pass Viterbi decoding method, and detects the likelihood. Is calculated and output to the word collating unit 6 via the buffer memory 5. The word matching unit 6 is configured as shown in FIG.
Is executed, the tree structure word dictionary in the memory 22 is updated, and the maximum likelihood word hypothesis is searched for by referring to the statistical language model in the memory 23 and the hypothesis list to be expanded in the memory 7. Determined and output as recognition result.

【0040】以上の実施形態において、特徴抽出部2
と、音素照合部4と、単語照合部6と、単語辞書初期化
処理部10とは、例えば、デジタル電子計算機などのコ
ンピュータで構成され、バッファメモリ3,5と、展開
すべき仮説リストメモリ7と、音素HMMメモリ11
と、学習用テキストデータメモリ20、木構造単語辞書
メモリ21,22と、統計的言語モデルメモリ23と
は、例えばハードデイスクメモリなどの記憶装置で構成
される。なお、メモリ23内の統計的言語モデルは、好
ましくは、Nが2以上の自然数であるN−gramの統
計的言語モデルであり、より好ましくは、trigra
mの統計的言語モデルである。
In the above embodiment, the feature extracting unit 2
The phoneme matching unit 4, the word matching unit 6, and the word dictionary initialization processing unit 10 are composed of, for example, a computer such as a digital computer, and include buffer memories 3 and 5, and a hypothesis list memory 7 to be developed. And the phoneme HMM memory 11
The learning text data memory 20, the tree structure word dictionary memories 21 and 22, and the statistical language model memory 23 are configured by a storage device such as a hard disk memory. The statistical language model in the memory 23 is preferably an N-gram statistical language model in which N is a natural number of 2 or more, and more preferably trigram.
m is a statistical language model.

【0041】本発明に係る本実施形態によれば、上述の
オンデマンドのN−gram先読み方法を用いることに
より、従来例に比較してより小さな記憶領域で精度の高
い言語尤度の近似値計算ができ、従来例に比べて、高い
認識率で音声認識することができ、しかも、認識に要す
る計算時間を大幅に短縮させることができる。
According to the embodiment of the present invention, by using the above-described on-demand N-gram look-ahead method, it is possible to calculate the approximate value of the language likelihood with a smaller storage area and higher accuracy than in the conventional example. As a result, speech recognition can be performed with a higher recognition rate than the conventional example, and the calculation time required for recognition can be significantly reduced.

【0042】以上の実施形態において、図2の単語辞書
初期化処理を、単語照合部6でも実行し、音素照合部4
からバッファメモリ5を介して単語照合部6に入力され
る毎に、オンデマンドで実行するように構成してもよ
い。
In the above embodiment, the word dictionary initialization processing of FIG.
May be configured to be executed on demand each time the data is input to the word collating unit 6 via the buffer memory 5.

【0043】以上の実施形態においては、二分木形式の
木構造単語辞書を生成しているが,本発明はこれに限ら
ず、複数N分木形式の木構造単語辞書であってもよい。
In the above embodiment, the tree-structured word dictionary of the binary tree format is generated. However, the present invention is not limited to this, and the tree-structured word dictionary of the plural N-tree format may be used.

【0044】[0044]

【発明の効果】以上詳述したように本発明に係る請求項
1記載の音声認識装置によれば、学習用テキストデータ
に基づいて木構造単語辞書を生成して、木構造の各ノー
ドに対して近似言語尤度である先読み確率を計算して付
与し、上記木構造単語辞書を用いて入力される音声信号
を音声認識する音声認識手段を備えた音声認識装置にお
いて、Nが2以上の自然数である単語のN−gramの
確率データを含む統計的言語モデルを記憶する記憶手段
を備え、上記音声認識手段は、生成される単語仮説毎
に、上記木構造単語辞書における単語の非終端状態に与
える近似言語尤度である先読み確率を、上記記憶手段に
記憶された統計的言語モデルのN−gramの確率デー
タに基づいて計算することにより上記木構造単語辞書を
更新して、上記更新された木構造単語辞書を用いて、入
力される音声信号を音声認識する。従って、従来例に比
較してより小さな記憶領域で精度の高い言語尤度の近似
値計算ができ、従来例に比べて、高い認識率で音声認識
することができ、しかも、認識に要する計算時間を大幅
に短縮させることができる。
As described in detail above, according to the speech recognition apparatus of the first aspect of the present invention, a tree-structured word dictionary is generated based on the learning text data, and the tree-structured word dictionary is generated for each node of the tree structure. A speech recognition device provided with speech recognition means for recognizing a speech signal input using the tree-structured word dictionary by calculating and adding a look-ahead probability which is an approximate language likelihood. Storage means for storing a statistical language model including N-gram probability data of a word, wherein the speech recognition means gives, for each generated word hypothesis, a non-terminal state of the word in the tree-structured word dictionary The tree-structured word dictionary is updated by calculating a look-ahead probability, which is an approximate language likelihood, based on N-gram probability data of a statistical language model stored in the storage means. Using a tree word dictionary, the speech recognizing an input speech signal. Therefore, it is possible to calculate the approximate value of the linguistic likelihood with high accuracy in a smaller storage area than in the conventional example, to perform speech recognition with a higher recognition rate than in the conventional example, and to further reduce the calculation time required for recognition. Can be greatly reduced.

【0045】また、請求項2記載の音声認識装置によれ
ば、請求項1記載の音声認識装置において、上記音声認
識手段は、学習用テキストデータに基づいて木構造単語
辞書を生成する生成手段と、上記木構造単語辞書におい
て各リーフノードに対して、リーフノードで終了する単
語のすべてのunigramの最大確率を先読み確率と
して計算して付与する第1の付与手段と、上記木構造単
語辞書においてすべてのリーフノードでないノードに対
してその先読み確率にリーフノードに対して分岐するす
べての子ノードの最大確率を設定して付与することによ
り上記木構造単語辞書を別の記憶手段に記憶する第2の
付与手段と、生成される単語仮説毎に、単語仮説の各組
に対して単語のunigramを除く上記記憶手段に記
憶された統計的言語モデルにおいて存在するすべてのN
−gramの入力データの最大のN−gram確率に拡
張して各リーフノードの先読み確率を計算して上記別の
記憶手段に記憶された木構造単語辞書に付与する第3の
付与手段と、上記木構造単語辞書においてリーフノード
でないすべてのノードに対してその先読み確率に、リー
フノードに対して分岐するすべての子ノードの最大確率
を設定して付与することにより、上記別の記憶手段に記
憶された木構造単語辞書を更新する第4の付与手段と、
上記更新された木構造単語辞書と、上記記憶手段に記憶
された統計的言語モデルを用いて、入力された音声信号
に対して最尤の単語仮説を探索決定して認識結果として
出力する探索認識手段とを備える。従って、従来例に比
較してより小さな記憶領域で精度の高い言語尤度の近似
値計算ができ、従来例に比べて、高い認識率で音声認識
することができ、しかも、認識に要する計算時間を大幅
に短縮させることができる。
According to a second aspect of the present invention, in the first aspect, the speech recognition unit may include a generation unit that generates a tree-structured word dictionary based on the learning text data. A first assigning means for calculating and assigning, as a look-ahead probability, a maximum probability of all unigrams of words ending at a leaf node to each leaf node in the tree-structured word dictionary; Storing the tree-structured word dictionary in another storage means by setting and giving the prefetch probability to the node that is not a leaf node the maximum probability of all child nodes branching to the leaf node. Adding means and, for each word hypothesis to be generated, a statistical word stored in the storage means except for a word unigram for each set of word hypotheses All of the N present in the model
A third adding means for calculating the look-ahead probability of each leaf node by expanding to the maximum N-gram probability of the input data of -gram and adding it to the tree-structured word dictionary stored in the another storage means; By setting and giving the look-ahead probabilities to all nodes that are not leaf nodes in the tree-structured word dictionary and the maximum probabilities of all child nodes branching to the leaf nodes, the data are stored in the other storage means. A fourth assigning means for updating the tree-structured word dictionary,
Search recognition for searching and determining the maximum likelihood word hypothesis for the input speech signal using the updated tree-structured word dictionary and the statistical language model stored in the storage means, and outputting the result as a recognition result Means. Therefore, it is possible to calculate the approximate value of the linguistic likelihood with high accuracy in a smaller storage area than in the conventional example, to perform speech recognition with a higher recognition rate than in the conventional example, and to further reduce the calculation time required for recognition. Can be greatly reduced.

【図面の簡単な説明】[Brief description of the drawings]

【図1】 本発明に係る一実施形態である連続音声認識
装置のブロック図である。
FIG. 1 is a block diagram of a continuous speech recognition apparatus according to an embodiment of the present invention.

【図2】 図1の単語辞書初期化処理部10によって実
行される単語辞書初期化処理を示すフローチャートであ
る。
FIG. 2 is a flowchart showing a word dictionary initialization process executed by a word dictionary initialization processing unit 10 of FIG.

【図3】 図1の単語照合部6によって実行される単語
照合処理を示すフローチャートである。
FIG. 3 is a flowchart showing a word matching process performed by the word matching unit 6 of FIG. 1;

【図4】 従来例の木構造単語辞書の木構造構成の一例
を示す構造図である。
FIG. 4 is a structural diagram showing an example of a tree structure configuration of a conventional tree structure word dictionary.

【図5】 本実施形態の木構造単語辞書の木構造構成の
一例を示す構造図である。
FIG. 5 is a structural diagram illustrating an example of a tree structure configuration of a tree structure word dictionary according to the embodiment;

【符号の説明】[Explanation of symbols]

1…マイクロホン、 2…特徴抽出部、 3,5…バッファメモリ、 4…単語照合部、 6…単語照合部、 7…展開すべき仮説リストメモリ、 10…単語辞書初期化処理部、 11…音素HMMメモリ、 21,22…木構造単語辞書メモリ、 23…統計的言語モデルメモリ。 DESCRIPTION OF SYMBOLS 1 ... Microphone, 2 ... Feature extraction part, 3, 5 ... Buffer memory, 4 ... Word collation part, 6 ... Word collation part, 7 ... Hypothesis list memory to be expanded, 10 ... Word dictionary initialization processing part, 11 ... Phoneme HMM memory, 21, 22 ... tree structure word dictionary memory, 23 ... statistical language model memory.

フロントページの続き (72)発明者 中村 篤 京都府相楽郡精華町大字乾谷小字三平谷5 番地 株式会社エイ・ティ・アール音声翻 訳通信研究所内 Fターム(参考) 5D015 BB01 GG01 GG05 HH11 Continuation of the front page (72) Inventor Atsushi Nakamura 5 Sanraya, Seiya-cho, Soraku-cho, Kyoto, Japan F-term (reference) 5D015 BB01 GG01 GG05 HH11

Claims (2)

【特許請求の範囲】[Claims] 【請求項1】 学習用テキストデータに基づいて木構造
単語辞書を生成して、木構造の各ノードに対して近似言
語尤度である先読み確率を計算して付与し、上記木構造
単語辞書を用いて入力される音声信号を音声認識する音
声認識手段を備えた音声認識装置において、 Nが2以上の自然数である単語のN−gramの確率デ
ータを含む統計的言語モデルを記憶する記憶手段を備
え、 上記音声認識手段は、生成される単語仮説毎に、上記木
構造単語辞書における単語の非終端状態に与える近似言
語尤度である先読み確率を、上記記憶手段に記憶された
統計的言語モデルのN−gramの確率データに基づい
て計算することにより上記木構造単語辞書を更新して、
上記更新された木構造単語辞書を用いて、入力される音
声信号を音声認識することを特徴とする音声認識装置。
1. A tree structure word dictionary is generated based on learning text data, and a look-ahead probability, which is an approximate language likelihood, is calculated and assigned to each node of the tree structure. A speech recognition apparatus comprising speech recognition means for recognizing a speech signal input using a storage means for storing a statistical language model including N-gram probability data of a word in which N is a natural number of 2 or more. The speech recognition unit includes, for each word hypothesis to be generated, a look-ahead probability, which is an approximate language likelihood given to a non-terminal state of a word in the tree structure word dictionary, of a statistical language model stored in the storage unit. By updating the tree-structured word dictionary by calculating based on N-gram probability data,
A speech recognition apparatus, characterized in that an inputted speech signal is speech-recognized using the updated tree structure word dictionary.
【請求項2】 請求項1記載の音声認識装置において、
上記音声認識手段は、 学習用テキストデータに基づいて木構造単語辞書を生成
する生成手段と、 上記木構造単語辞書において各リーフノードに対して、
リーフノードで終了する単語のすべてのunigram
の最大確率を先読み確率として計算して付与する第1の
付与手段と、 上記木構造単語辞書においてすべてのリーフノードでな
いノードに対してその先読み確率にリーフノードに対し
て分岐するすべての子ノードの最大確率を設定して付与
することにより上記木構造単語辞書を別の記憶手段に記
憶する第2の付与手段と、 生成される単語仮説毎に、単語仮説の各組に対して単語
のunigramを除く上記記憶手段に記憶された統計
的言語モデルにおいて存在するすべてのN−gramの
入力データの最大のN−gram確率に拡張して各リー
フノードの先読み確率を計算して上記別の記憶手段に記
憶された木構造単語辞書に付与する第3の付与手段と、 上記木構造単語辞書においてリーフノードでないすべて
のノードに対してその先読み確率に、リーフノードに対
して分岐するすべての子ノードの最大確率を設定して付
与することにより、上記別の記憶手段に記憶された木構
造単語辞書を更新する第4の付与手段と、 上記更新された木構造単語辞書と、上記記憶手段に記憶
された統計的言語モデルを用いて、入力された音声信号
に対して最尤の単語仮説を探索決定して認識結果として
出力する探索認識手段とを備えたことを特徴とする音声
認識装置。
2. The speech recognition device according to claim 1, wherein
The speech recognition unit includes: a generation unit configured to generate a tree-structured word dictionary based on the text data for learning;
All unigrams of words ending with leaf nodes
First assigning means for calculating and assigning the maximum probability of the child node as the look-ahead probability; and for all the non-leaf nodes in the tree-structured word dictionary, A second assigning means for storing the tree-structured word dictionary in another storage means by setting and assigning a maximum probability; and for each generated word hypothesis, a word unigram for each set of word hypotheses. Excluding the maximum N-gram probabilities of all the N-gram input data present in the statistical language model stored in the storage means except for the above, the prefetch probability of each leaf node is calculated and stored in the another storage means. Third assigning means for assigning to the stored tree-structured word dictionary, and a look-ahead checker for all nodes that are not leaf nodes in the tree-structured word dictionary. A fourth assigning means for updating the tree-structured word dictionary stored in the another storage means by setting and assigning the maximum probability of all the child nodes branching to the leaf node; And a search / recognition unit that searches for and determines the maximum likelihood word hypothesis for the input speech signal using the statistical tree model stored in the storage unit and outputs the result as a recognition result. A speech recognition device comprising:
JP10241416A 1998-08-27 1998-08-27 Voice recognition device Expired - Fee Related JP2938865B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP10241416A JP2938865B1 (en) 1998-08-27 1998-08-27 Voice recognition device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP10241416A JP2938865B1 (en) 1998-08-27 1998-08-27 Voice recognition device

Publications (2)

Publication Number Publication Date
JP2938865B1 JP2938865B1 (en) 1999-08-25
JP2000075885A true JP2000075885A (en) 2000-03-14

Family

ID=17073977

Family Applications (1)

Application Number Title Priority Date Filing Date
JP10241416A Expired - Fee Related JP2938865B1 (en) 1998-08-27 1998-08-27 Voice recognition device

Country Status (1)

Country Link
JP (1) JP2938865B1 (en)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001242883A (en) * 2000-02-28 2001-09-07 Sony Corp Device and method for speech recognition, and recording medium
JP2005265967A (en) * 2004-03-16 2005-09-29 Advanced Telecommunication Research Institute International Recording medium where tree structure dictionary is recorded and language score table generating program for tree structure dictionary
JP2010540976A (en) * 2007-10-04 2010-12-24 株式会社東芝 Method and apparatus for automatic speech recognition
US8682668B2 (en) 2008-05-16 2014-03-25 Nec Corporation Language model score look-ahead value imparting device, language model score look-ahead value imparting method, and program storage medium
CN110809796A (en) * 2017-10-24 2020-02-18 北京嘀嘀无限科技发展有限公司 Speech recognition system and method with decoupled wake phrases

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001242883A (en) * 2000-02-28 2001-09-07 Sony Corp Device and method for speech recognition, and recording medium
JP4600705B2 (en) * 2000-02-28 2010-12-15 ソニー株式会社 Voice recognition apparatus, voice recognition method, and recording medium
JP2005265967A (en) * 2004-03-16 2005-09-29 Advanced Telecommunication Research Institute International Recording medium where tree structure dictionary is recorded and language score table generating program for tree structure dictionary
JP4521631B2 (en) * 2004-03-16 2010-08-11 株式会社国際電気通信基礎技術研究所 Storage medium recording tree structure dictionary and language score table creation program for tree structure dictionary
JP2010540976A (en) * 2007-10-04 2010-12-24 株式会社東芝 Method and apparatus for automatic speech recognition
US8682668B2 (en) 2008-05-16 2014-03-25 Nec Corporation Language model score look-ahead value imparting device, language model score look-ahead value imparting method, and program storage medium
CN110809796A (en) * 2017-10-24 2020-02-18 北京嘀嘀无限科技发展有限公司 Speech recognition system and method with decoupled wake phrases
US10789946B2 (en) 2017-10-24 2020-09-29 Beijing Didi Infinity Technology And Development Co., Ltd. System and method for speech recognition with decoupling awakening phrase

Also Published As

Publication number Publication date
JP2938865B1 (en) 1999-08-25

Similar Documents

Publication Publication Date Title
CN108305634B (en) Decoding method, decoder and storage medium
CN109410914B (en) Method for identifying Jiangxi dialect speech and dialect point
EP4018437B1 (en) Optimizing a keyword spotting system
JP2004362584A (en) Discrimination training of language model for classifying text and sound
JP2001249684A (en) Device and method for recognizing speech, and recording medium
US20140142925A1 (en) Self-organizing unit recognition for speech and other data series
US5764851A (en) Fast speech recognition method for mandarin words
JP2005148342A (en) Method for speech recognition, device, and program and recording medium for implementing the same method
JP3444108B2 (en) Voice recognition device
JP2938865B1 (en) Voice recognition device
JP2938866B1 (en) Statistical language model generation device and speech recognition device
JP3364631B2 (en) Statistical language model generation apparatus and speech recognition apparatus
JP2886121B2 (en) Statistical language model generation device and speech recognition device
KR100480790B1 (en) Method and apparatus for continous speech recognition using bi-directional n-gram language model
JP4595415B2 (en) Voice search system, method and program
JP4528540B2 (en) Voice recognition method and apparatus, voice recognition program, and storage medium storing voice recognition program
KR20230156125A (en) Lookup table recursive language model
JP4987530B2 (en) Speech recognition dictionary creation device and speech recognition device
JP2002091484A (en) Language model generator and voice recognition device using the generator, language model generating method and voice recognition method using the method, computer readable recording medium which records language model generating program and computer readable recording medium which records voice recognition program
JP2002082690A (en) Language model generating method, voice recognition method and its program recording medium
JP2968792B1 (en) Statistical language model generation device and speech recognition device
JP4741452B2 (en) Language model creation device, language model creation program, speech recognition device, and speech recognition program
Smaïli et al. An hybrid language model for a continuous dictation prototype
JP4689497B2 (en) Voice recognition device
JP3894419B2 (en) Speech recognition apparatus, method thereof, and computer-readable recording medium recording these programs

Legal Events

Date Code Title Description
R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090611

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100611

Year of fee payment: 11

LAPS Cancellation because of no payment of annual fees