JP3536471B2 - 識別装置および識別方法、並びに音声認識装置および音声認識方法 - Google Patents

識別装置および識別方法、並びに音声認識装置および音声認識方法

Info

Publication number
JP3536471B2
JP3536471B2 JP24789095A JP24789095A JP3536471B2 JP 3536471 B2 JP3536471 B2 JP 3536471B2 JP 24789095 A JP24789095 A JP 24789095A JP 24789095 A JP24789095 A JP 24789095A JP 3536471 B2 JP3536471 B2 JP 3536471B2
Authority
JP
Japan
Prior art keywords
function
discriminant function
adaptive
parameters
universal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP24789095A
Other languages
English (en)
Other versions
JPH0990976A (ja
Inventor
直人 岩橋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP24789095A priority Critical patent/JP3536471B2/ja
Priority to US08/710,941 priority patent/US5828998A/en
Publication of JPH0990976A publication Critical patent/JPH0990976A/ja
Priority to US09/176,138 priority patent/US6134525A/en
Application granted granted Critical
Publication of JP3536471B2 publication Critical patent/JP3536471B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/06—Creation of reference templates; Training of speech recognition systems, e.g. adaptation to the characteristics of the speaker's voice
    • G10L15/065—Adaptation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10—Character recognition
    • G06V30/14—Image acquisition
    • G06V30/146—Aligning or centring of the image pick-up or image-field
    • G06V30/1475—Inclination or skew detection or correction of characters or of image to be recognised
    • G06V30/1478—Inclination or skew detection or correction of characters or of image to be recognised of characters or characters lines
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/06—Creation of reference templates; Training of speech recognition systems, e.g. adaptation to the characteristics of the speaker's voice
    • G10L15/065—Adaptation
    • G10L15/07—Adaptation to the speaker
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10—Character recognition

Description

【発明の詳細な説明】
【０００１】
【発明の属する技術分野】本発明は、識別装置および識
別方法、並びに音声認識装置および音声認識方法に関す
る。特に、例えば音声認識や画像認識などのパターン認
識を行う場合に用いて好適な識別装置および識別方法、
並びに音声認識装置および音声認識方法に関する。
【０００２】
【従来の技術】例えば、音声認識や画像認識などのパタ
ーン認識では、入力されたパターンから特徴ベクトルを
抽出し、その特徴ベクトルを入力値にして、識別関数の
関数値を計算するようになされている。識別関数は、入
力された特徴ベクトルを、所定の数のクラスのうちのい
ずれかに分類するためのもので、少なくともクラスの数
だけ用意されており、入力された特徴ベクトルに対し、
その関数値を最も大きくする識別関数に対応するクラス
が、認識結果（識別結果）として出力される。
【０００３】ところで、パターン認識を行う際には、変
動要因の状態が変化しても、高い認識性能が得られるこ
とが望ましい。そこで、従来より、パターン認識を行う
ための識別関数の学習は、多くの変動状態において観測
された学習サンプルを用いて行われるようになされてい
る。
【０００４】即ち、例えば、音声認識を行う場合であれ
ば、発話環境、話者、入力機器系の特性（例えば、マイ
クや、そのマイクの出力をＡ／Ｄ変換するＡ／Ｄ変換器
の特性など）などの、音声の変動要因の状態が変化して
も、これらの変動に対して耐性の高い識別関数（例え
ば、音韻認識を行う場合であれば、音韻識別関数）を得
ることができるように、多くの変動状態において観測さ
れた音声データを、学習サンプルとして、学習が行われ
る。
【０００５】ここで、上述のような学習方法について
は、例えば「確率モデルによる音声認識」、中川聖一、
電子情報通信学会や、KAI-FU LEE, Context-Dependent
Phonetic Hidden Markov Models for Speaker-Independ
ent Continuous Speech Recognition, IEEE Transactio
n on ASSP VOL. 38, NO. 4, APRIL 1990などに、その詳
細が開示されている。
【０００６】図７は、従来の識別関数算出装置の一例の
構成を示している。多くの学習サンプルが、識別関数算
出器５１に入力され、そこでは、その学習サンプルに基
づいて、識別関数、即ち、識別関数を表すパラメータ
（識別関数を構成するパラメータ）が求められる。
【０００７】しかしながら、上述のような学習によって
得られた識別関数を、そのまま用いた場合、必ずしも満
足する認識性能を得ることができないことがあった。そ
こで、より高い認識性能を得るために、認識時におい
て、例えば、識別関数を、音声の変動要因の状態に適応
させる方法がある。例えば、音韻識別関数を、話者に適
用させる方法としては、Chin-Hui Lee et al., A Study
on Speaker Adaptationof the Parameters of Continu
ous Density Hidden Markov Models, IEEE, Transsacti
on on signal processing, VOL. 39, NO. 4, 1991や、
F. Class, et al., Fast Speaker Adaptation for Spee
ch Recognition Systems, Proceeding ofIEEE ICASSP,
pp. 133-136, 1990などに開示されているものなどがあ
る。
【０００８】
【発明が解決しようとする課題】ところで、従来、学習
時においては、上述のように、認識時に用いられる適応
方法とは無関係に識別関数が求められる（決定される）
ようになされていた。即ち、識別関数は、適応が行われ
ないときに最高の性能を発揮するような基準を用いて決
定されていた。このため、認識時に、そのような識別関
数を用いて適応を行ったとしても、必ずしも最適な適応
を行うことができず、その結果、適応処理を行っても、
識別率（認識率）を、大きく向上させるのは困難であっ
た。
【０００９】本発明は、このような状況に鑑みてなされ
たものであり、パターン認識を行うにあたって最適な適
応を行うことができるようにし、これにより識別率（認
識率）を大きく向上させることができるようにするもの
である。
【００１０】
【００１１】
【００１２】
【課題を解決するための手段】 請求項１に記載の識別装
置は、変動状態に依存しないユニバーサル識別関数を構
成するパラメータを記憶するユニバーサルパラメータ記
億手段と、特徴ベクトルに基づいて、ユニバーサル識別
関数を所定の変動状態に適応させるための適応用パラメ
ータを算出する適応手段と、ユニバーサル識別関数を構
成するパラメータを読み出し、ユニバーサル識別関数を
適応用パラメータにより適応させて、適応識別関数を構
成するパラメータを算出する適応パラメータ算出手段
と、適応識別関数を構成するパラメータおよび特徴ベク
トルから適応識別関数の関数値を演算する識別関数演算
手段と、適応識別関数の関数値からクラスを決定するク
ラス決定手段とを備えることを特徴とする。
【００１３】請求項２に記載の識別方法は、変動状態に
依存しないユニバーサル識別関数を構成するパラメータ
を記憶するユニバーサルパラメータ記億ステップと、特
徴ベクトルに基づいて、ユニバーサル識別関数を所定の
変動状態に適応させるための適応用パラメータを算出す
る適応ステップと、ユニバーサル識別関数を構成するパ
ラメータを読み出し、ユニバーサル識別関数を適応用パ
ラメータにより適応させて、適応識別関数を構成するパ
ラメータを算出する適応パラメータ算出ステップと、適
応識別関数を構成するパラメータおよび特徴ベクトルか
ら適応識別関数の関数値を演算する識別関数演算ステッ
プと、適応識別関数の関数値からクラスを決定するクラ
ス決定ステップとを含むことを特徴とする。
【００１４】請求項３に記載の音声認識装置は、変動状
態に依存しないユニバーサル識別関数を構成するパラメ
ータを記憶するユニバーサルパラメータ記億手段と、特
徴ベクトルに基づいて、ユニバーサル識別関数を所定の
話者に適応させるための適応用パラメータを算出する話
者適応手段と、ユニバーサル識別関数を構成するパラメ
ータを読み出し、ユニバーサル識別関数を適応用パラメ
ータにより適応させて適応識別関数を構成するパラメー
タを算出する適応パラメータ算出手段と、適応識別関数
を構成するパラメータおよび特徴ベクトルから適応識別
関数の関数値を演算する識別関数演算手段と、適応識別
関数の関数値からクラスを決定するクラス決定手段とを
備えることを特徴とする。
【００１５】
【００１６】
【００１７】請求項４に記載の識別装置は、変動状態に
依存しないユニバーサル識別関数を構成するパラメータ
を記憶するユニバーサルパラメータ記億手段と、特徴ベ
クトルをユニバーサル識別関数に適応させるための適応
用パラメータを算出する適応手段と、適応用パラメータ
により特徴ベクトルを、ユニバーサル識別関数に適応さ
せて適応特徴パラメータを算出する適応ベクトル算出手
段と、ユニバーサル識別関数を構成するパラメータおよ
び適応特徴パラメータから適応識別関数の関数値を演算
する識別関数演算手段と、適応識別関数の関数値からク
ラスを決定するクラス決定手段とを備えることを特徴と
する。
【００１８】請求項５に記載の識別方法は、変動状態に
依存しないユニバーサル識別関数を構成するパラメータ
を記憶するユニバーサルパラメータ記億ステップと、特
徴ベクトルをユニバーサル識別関数に適応させるための
適応用パラメータを算出する適応ステップと、適応用パ
ラメータにより特徴ベクトルを、ユニバーサル識別関数
に適応させて適応特徴パラメータを算出する適応ベクト
ル算出ステップと、ユニバーサル識別関数を構成するパ
ラメータおよび適応特徴パラメータから適応識別関数の
関数値を演算する識別関数演算ステップと、適応識別関
数の関数値からクラスを決定するクラス決定ステップと
を含むことを特徴とする。
【００１９】請求項６に記載の音声認識方法は、変動状
態に依存しないユニバーサル識別関数を構成するパラメ
ータを記憶するユニバーサルパラメータ記億ステップ
と、所定の話者により入力された音声の特徴ベクトル
を、ユニバーサル識別関数に適応させるための適応用パ
ラメータを算出する話者適応ステップと、適応用パラメ
ータにより特徴ベクトルを、ユニバーサル識別関数に適
応させて適応特徴パラメータを算出する適応ベクトル算
出ステップと、ユニバーサル識別関数を構成するパラメ
ータおよび適応特徴パラメータから適応識別関数の関数
値を演算する識別関数演算ステップと、適応識別関数の
関数値からクラスを決定するクラス決定ステップとを含
むことを特徴とする。請求項７に記載の識別装置は、変
動状態に依存しない識別関数を構成するパラメータを記
憶するパラメータ記億手段と、特徴ベクトルに基づい
て、識別関数を所定の変動状態に適応させるための適応
用パラメータを算出する適応手段と、識別関数を構成す
るパラメータを読み出し、識別関数を適応用パラメータ
により適応させて、適応識別関数を構成するパラメータ
を算出する適応パラメータ算出手段と、適応識別関数を
構成するパラメータおよび特徴ベクトルから適応識別関
数の関数値を演算する識別関数演算手段と、適応識別関
数の関数値からクラスを決定するクラス決定手段とを備
えることを特徴とする。 請求項８に記載の識別方法は、
変動状態に依存しない識別関数を構成するパラメータを
記憶するパラメータ記億ステップと、特徴ベクトルに基
づいて、識別関数を所定の変動状態に適応させるための
適応用パラメータを算出する適応ステップと、識別関数
を構成するパラメータを読み出し、識別関数を適応用パ
ラメータにより適応させて、適応識別関数を構成するパ
ラメータを算出する適応パラメータ算出ステップと、適
応識別関数を構成するパラメータおよび特徴ベクトルか
ら適応識別関数の関数値を演算する識別関数演算ステッ
プと、適応識別関数の関数値からクラスを決定するクラ
ス決定ステップとを含むことを特徴とする。 請求項９に
記載の音声認識装置は、変動状態に依存しない識別関数
を構成するパラメータを記憶するパラメータ記億手段
と、特徴ベクトルに基づいて、識別関数を所定の話者に
適応させるための適応用パラメータを算出する話者適応
手段と 、識別関数を構成するパラメータを読み出し、識
別関数を適応用パラメータにより適応させて適応識別関
数を構成するパラメータを算出する適応パラメータ算出
手段と、適応識別関数を構成するパラメータおよび特徴
ベクトルから適応識別関数の関数値を演算する識別関数
演算手段と、適応識別関数の関数値からクラスを決定す
るクラス決定手段とを備えることを特徴とする。
【００２０】
【００２１】
【００２２】請求項１に記載の識別装置および請求項２
に記載の識別方法においては、変動状態に依存しないユ
ニバーサル識別関数を構成するパラメータが記憶され、
特徴ベクトルに基づいて、ユニバーサル識別関数を所定
の変動状態に適応させるための適応用パラメータが算出
されるとともに、ユニバーサル識別関数を構成するパラ
メータが読み出され、ユニバーサル識別関数を適応用パ
ラメータにより適応させて、適応識別関数を構成するパ
ラメータが算出される。そして、適応識別関数を構成す
るパラメータおよび特徴ベクトルから適応識別関数の関
数値が演算され、適応識別関数の関数値からクラスが決
定される。
【００２３】
【００２４】請求項３に記載の音声認識装置において
は、変動状態に依存しないユニバーサル識別関数を構成
するパラメータが記憶され、特徴ベクトルに基づいて、
ユニバーサル識別関数を所定の話者に適応させるための
適応用パラメータが算出されるとともに、ユニバーサル
識別関数を構成するパラメータが読み出され、ユニバー
サル識別関数を適応用パラメータにより適応させて適応
識別関数を構成するパラメータが算出される。そして、
適応識別関数を構成するパラメータおよび特徴ベクトル
から適応識別関数の関数値が演算され、適応識別関数の
関数値からクラスが決定される。
【００２５】
【００２６】
【００２７】請求項４に記載の識別装置および請求項５
に記載の識別方法においては、変動状態に依存しないユ
ニバーサル識別関数を構成するパラメータが記憶され、
特徴ベクトルをユニバーサル識別関数に適応させるため
の適応用パラメータが算出されるとともに、適応用パラ
メータにより特徴ベクトルを、ユニバーサル識別関数に
適応させて適応特徴パラメータが算出される。そして、
ユニバーサル識別関数を構成するパラメータおよび適応
特徴パラメータから適応識別関数の関数値が演算され、
適応識別関数の関数値からクラスが決定される。
【００２８】
【００２９】請求項６に記載の音声認識方法において
は、変動状態に依存しないユニバーサル識別関数を構成
するパラメータが記憶され、所定の話者により入力され
た音声の特徴ベクトルを、ユニバーサル識別関数に適応
させるための適応用パラメータが算出されるとともに、
適応用パラメータにより特徴ベクトルを、ユニバーサル
識別関数に適応させて適応特徴パラメータが算出され
る。そして、ユニバーサル識別関数を構成するパラメー
タおよび適応特徴パラメータから適応識別関数の関数値
が演算され、適応識別関数の関数値からクラスが決定さ
れる。 請求項７に記載の識別装置および請求項８に記載
の識別方法においては、変動状態に依存しない識別関数
を構成するパラメータが記憶され、特徴ベクトルに基づ
いて、識別関数を所定の変動状態に適応させるための適
応用パラメータが算出されるとともに、識別関数を構成
するパラメータが読み出され、識別関数を適応用パラメ
ータにより適応させて、適応識別関数を構成するパラメ
ータが算出される。そして、適応識別関数を構成するパ
ラメータおよび特徴ベクトルから適応識別関数の関数値
が演算され、適応識別関数の関数値からクラスが決定さ
れる。 請求項９に記載の音声認識装置においては、変動
状態に依存しない識別関数を構成するパラメータが記憶
され、特徴ベクトルに基づいて、識別関数を所定の話者
に適応させるための適応用パラメータが算出され、識別
関数を構成するパラメータが読み出され、識別関数を適
応用パラメータにより適応させて適応識別関数を構成す
るパラメータが算出される。そして、適応識別関数を構
成するパラメータおよび特徴ベクトルから適応識別関数
の関数値が演算され、適応識別関数の関数値からクラス
が決定される。
【００３０】
【発明の実施の形態】以下に、本発明の実施例を説明す
るが、その前に、特許請求の範囲に記載の発明の各手段
と以下の実施例との対応関係を明らかにするために、各
手段の後の括弧内に、対応する実施例（但し、一例）を
付加して、本発明の特徴を記述すると、次のようにな
る。
【００３１】
【００３２】
【００３３】
【００３４】
【００３５】請求項１に記載の識別装置は、入力された
特徴ベクトル（例えば、特徴ベクトルＯ）を所定クラス
に分類することにより識別を行う識別装置（例えば、図
１の識別器５）において、変動状態に依存しないユニバ
ーサル識別関数（例えば、ユニバーサル識別関数Ｇ
k （Ｏ））を構成するパラメータ（例えば、ユニバーサ
ルパラメータλ k ）を記憶するユニバーサルパラメータ
記億手段（例えば、ユニバーサルパラメータ記憶部１
１）と、前記特徴ベクトルに基づいて、前記ユニバーサ
ル識別関数を所定の変動状態（例えば、変動状態Ｖ t ）
に適応させるための適応用パラメータ（例えば、適応用
パラメータΓ (ML)t ）を算出する適応手段（例えば、図
１の話者適応器４）と、前記ユニバーサル識別関数を構
成するパラメータを読み出し、前記ユニバーサル識別関
数を前記適応用パラメータにより適応させて、適応識別
関数を構成するパラメータ（例えば、パラメータ
ψ t,k ）を算出する適応パラメータ算出手段（例えば、
図１の適応パラメータ算出器１２）と、前記適応識別関
数を構成するパラメータおよび前記特徴ベクトルから適
応識別関数の関数値を演算する識別関数演算手段（例え
ば、図１の識別関数演算器１３−ｋ）と、前記適応識別
関数の関数値からクラスを決定するクラス決定手段（例
えば、図１のクラス決定回路１４）とを備えることを特
徴とする。
【００３６】請求項２に記載の識別方法は、入力された
特徴ベクトル（例えば、特徴ベクトルＯ）を所定クラス
に分類することにより識別を行う識別方法において、変
動状態に依存しないユニバーサル識別関数（例えば、ユ
ニバーサル識別関数Ｇ k （Ｏ））を構成するパラメータ
（例えば、ユニバーサルパラメータλ k ）を記憶するユ
ニバーサルパラメータ記億ステップと、前記特徴ベクト
ルに基づいて、前記ユニバーサル識別関数を所定の変動
状態（例えば、変動状態Ｖ t ）に適応させるための適応
用パラメータ（例えば、適応用パラメータΓ (ML)t ）を
算出する適応ステップと、前記ユニバーサル識別関数を
構成するパラメータを読み出し、前記ユニバーサル識別
関数を前記適応用パラメータにより適応させて、適応識
別関数を構成するパラメータ（例えば、パラメータψ
t,k ）を算出する適応パラメータ算出ステップと、前記
適応識別関数を構成するパラメータおよび前記特徴ベク
トルから適応識別関数の関数値を演算する識別関数演算
ステップと、前記適応識別関数の関数値からクラスを決
定するクラス決定ステップとを含むことを特徴とする。
【００３７】請求項３に記載の音声認識装置は、入力さ
れた音声の特徴ベクトル（例えば、特徴ベクトルＯ）を
所定クラスに分類することにより音声を認識する音声認
識装置において、変動状態に依存しないユニバーサル識
別関数（例えば、ユニバーサル識別関数Ｇ k （Ｏ））を
構成するパラメータ（例えば、ユニバーサルパラメータ
λ k ）を記憶するユニバーサルパラメータ記億手段（例
えば、ユニバーサルパラメータ記憶部１１）と、前記特
徴ベクトルに基づいて、前記ユニバーサル識別関数を所
定の話者に適応させるための適応用パラメータ（例え
ば、適応用パラメータΓ (ML)t ）を算出する話者適応手
段（例えば、図１の話者適応器４）と、前記ユニバーサ
ル識別関数を構成するパラメータを読み出し、前記ユニ
バーサル識別関数を前記適応用パラメータにより適応さ
せて適応識別関数を構成するパラメータ（例えば、パラ
メータψ t,k ）を算出する適応パラメータ算出手段（例
えば、図１の適応パラメータ算出器１２）と、前記適応
識別関数を構成するパラメータおよび前記特徴ベクトル
から適応識別関数の関数値を演算する識別関数演算手段
（例えば、図１の識別関数演算器１３−ｋ）と、前記適
応識別関数の関数値からクラスを決定するクラス決定手
段（例えば、図１のクラス決定回路１４）とを備えるこ
とを特徴とする。
【００３８】
【００３９】
【００４０】
【００４１】
【００４２】請求項４に記載の識別装置は、入力された
特徴ベクトル（例えば、特徴ベクトルＯ）を所定クラス
に分類することにより識別を行う識別装置（例えば、図
５の識別器３５）において、変動状態に依存しないユニ
バーサル識別関数（例えば、ユニバーサル識別関数Ｇ k
（Ｏ））を構成するパラメータを記憶するユニバーサル
パラメータ記億手段（例えば、図５のユニバーサルパラ
メータ記憶部１１）と、前記特徴ベクトルを前記ユニバ
ーサル識別関数に適応させるための適応用パラメータ
（例えば、適応用パラメータΓ (ML)t ）を算出する適応
手段（例えば、図５の話者適応器３４）と、前記適応用
パラメータにより前記特徴ベクトルを、前記ユニバーサ
ル識別関数に適応させて適応特徴パラメータ（例えば、
Ｆ（Ｏ｜γ t,k ））を算出する適応ベクトル算出手段
（例えば、図５の適応ベクトル算出器３６）と、前記ユ
ニバーサル識別関数を構成するパラメータおよび前記適
応特徴パラメータから適応識別関数の関数値を演算する
識別関数演算手段（例えば、図５の識別関数演算器１３
−ｋ）と、前記適応識別関数の関数値からクラスを決定
するクラス決定手段（例えば、図５のクラス決定回路１
４）とを備えることを特徴とする。
【００４３】請求項５に記載の識別方法は、入力された
特徴ベクトル（例えば、特徴ベクトルＯ）を所定クラス
に分類することにより識別を行う識別方法において、変
動状態に依存しないユニバーサル識別関数（例えば、ユ
ニバーサル識別関数Ｇ k （Ｏ））を構成するパラメータ
を記憶するユニバーサルパラメータ記億ステップと、前
記特徴ベクトルを前記ユニバーサル識別関数に適応させ
るための適応用パラメータ（例えば、適応用パラメータ
Γ (ML)t ）を算出する適応ステップと、前記適応用パラ
メータにより前記特徴ベクトルを、前記ユニバーサル識
別関数に適応させて適応特徴パラメータ（例えば、Ｆ
（Ｏ｜γ t,k ））を算出する適応ベクトル算出ステップ
と、前記ユニバーサル識別関数を構成するパラメータお
よび前記適応特徴パラメータから適応識別関数の関数値
を演算する識別関数演算ステップと、前記適応識別関数
の関数値からクラスを決定するクラス決定ステップとを
含むことを特徴とする。
【００４４】請求項６に記載の音声認識方法は、入力さ
れた音声の特徴ベクトル（例えば、特徴ベクトルＯ）を
所定クラスに分類することにより音声を認識する音声認
識方法において、変動状態に依存しないユニバーサル識
別関数（例えば、ユニバーサル識別関数Ｇ k （Ｏ））を
構成するパラメータを記憶するユニバーサルパラメータ
記億ステップと、所定の話者により入力された音声の前
記特徴ベクトルを、前記ユニバーサル識別関数に適応さ
せるための適応用パラメータ（例えば、適応用パラメー
タΓ (ML)t ）を算出する話者適応ステップと、前記適応
用パラメータにより前記特徴ベクトルを、前記ユニバー
サル識別関数に適応させて適応特徴パラメータ（例え
ば、Ｆ（Ｏ｜γ t,k ））を算出する適応ベクトル算出ス
テップと、前記ユニバーサル識別関数を構成するパラメ
ータおよび前記適応特徴パラメータから適応識別関数の
関数値を演算する識別関数演算ステップと、前記適応識
別関数の関数値からクラスを決定するクラス決定ステッ
プとを含むことを特徴とする。請求項７に記載の識別装
置は、入力された特徴ベクトル（例えば、特徴ベクトル
Ｏ）を所定クラスに分類することにより識別を行う識別
装置（例えば、図１の識別器５）において、変動状態に
依存しない識別関数（例えば、識別関数Ｇ k （Ｏ））を
構成するパラメータ（例えば、パラメータλ k ）を記憶
するパラメータ記億手段（例えば、パラメータ記憶部１
１）と、前記特徴ベクトルに基づいて、前記識別関数を
所定の変動状態（例えば、変動状態Ｖ t ）に適応させる
ための適応用パラメータ（例えば、適応用パラメータΓ
(ML)t ）を算出する適応手段（例えば、図１の話者適応
器４）と、前記識別関数を構成するパラメータを読み出
し、前記識別関数を前記適応用パラメータにより適応さ
せて、適応識別関数を構成するパラメータ（例えば、パ
ラメータψ t,k ）を算出する適応パラメータ算出手段
（例えば、図１の適応パラメータ算出器１２）と、前記
適応識別関数を構成するパラメータおよび前記特徴ベク
トルから適応識別関数の関数値を演算する識別関数演算
手段（例えば、図１の識別関数演算器１３−ｋ）と、前
記適応識別関数の関数値からクラスを決定するクラス決
定手段（例えば、図１のクラス決定回路１４）とを備え
ることを特徴とする。 請求項８に記載の識別方法は、入
力された特徴ベクトル（例えば、特徴ベクトルＯ）を所
定クラスに分類することにより識別を行う識別方法にお
いて、変動状態に依存しない識別関数（例えば、識別関
数Ｇ k （Ｏ））を構成するパラメータ（例えば、パラメ
ータλ k ）を記憶するパラメータ記億ステップと、前記
特徴ベクトルに基づいて、前記識別関数を所定の変動状
態（例えば、変動状態Ｖ t ）に適応させるための適応用
パラメータ（例えば、適応用パラメータΓ (ML)t ）を算
出する適応ステップと、前記識別関数を構成するパラメ
ータを読み出し、前記識別関数を前記適応用パラメータ
により適応させて、適応識別関数を構成するパラメータ
（例えば、パラメータψ t,k ）を算出する適応パラメー
タ算出ステップと、前記適応識別関数を構成するパラメ
ータおよび前記特徴ベクトルから適応識別関数の関数値
を演算する識別関数演算ステップと、前記適応識別関数
の関数値からクラスを決定するクラス決定ステップとを
含むことを特徴とする。 請求項９に記載の音声認識装置
は、入力された音声の特徴ベクトル（例えば、特徴ベク
トルＯ）を所定クラスに分類することにより音声を認識
する音声認識装置において、変動状態に依存しない識別
関数（例えば、識別関数Ｇ k （Ｏ））を構成するパラメ
ータ（例えば、パラメータλ k ）を記憶するパラメータ
記億手段（例えば、パラメータ記憶部１１）と、前記特
徴ベクトルに基づいて、前記識別関数を所定の話者に適
応させるための適応用パラメータ（例えば、適応用パラ
メータΓ (ML)t ）を算出する話者適応手段（例えば、図
１の話者適応器４）と、前記識別関数を構成するパラメ
ータを読み出し、前記識別関数を前記適応用パラメータ
により適応させて適応識別関数を構成するパラメータ
（例えば、パラメータψ t,k ）を算出する適応パラメー
タ算出手段（例えば、図１の適応パラメータ算出器１
２）と、前記適応識別関数を構成するパラメータおよび
前記特徴ベクトルから適応識別関数の関数値を演算する
識別関数演算手段（例えば、図１の識別関数演算器１３
−ｋ）と、前記適応識別関数の関数値からクラスを決定
するクラス決定手段（例えば、図１のクラス決定回路１
４）とを備えることを特徴とする。
【００４５】なお、勿論この記載は、各手段を上記した
ものに限定することを意味するものではない。
【００４６】図１は、本発明を適用した音声認識装置の
一実施例の構成を示している。なお、この音声認識装置
においては、話者に適応した音声の認識が行われるよう
になされている。
【００４７】即ち、マイク１に入力された音声は、電気
信号としての音声信号に変換され、音響分析部２に出力
される。音響分析部２では、マイク１からの音声信号が
Ａ／Ｄ変換されることによりディジタルの音声信号とさ
れ、さらに、その音声信号に対し、所定の音響分析処理
が施されることで、音声の特徴ベクトル（例えば、ＬＰ
Ｃ（線形予測係数）や、ＬＰＣケプストラム、所定の帯
域幅ごとのパワーなど）が抽出される。この特徴ベクト
ルＯは、スイッチ３に供給される。
【００４８】スイッチ３は、例えば、ある話者によって
発話が開始された場合などの、話者Ｖtに対する適応を
行う必要がある場合、端子ａを選択する。従って、この
ような場合、音響分析部２から出力された特徴ベクトル
Ｏは、話者Ｖtに対する適応を行うための適応用のサン
プルＡtとして、スイッチ３および端子ａを介して、話
者適応器４に出力される。
【００４９】話者適応器４では、適応用のサンプルＡt
に基づいて、後述する識別器５が記憶しているユニバー
サル識別関数を話者Ｖtに適応させるための適応用パラ
メータΓ(ML)tが算出され、識別器５を構成する適応パ
ラメータ算出器１２に供給される。
【００５０】話者適応器４から識別器５に対し、適応用
パラメータΓ(ML)tが出力されると、スイッチ３は、端
子ｂを選択し、これにより、音響分析部２から出力され
た特徴ベクトルＯは、スイッチ３および端子ｂを介し
て、識別器５の識別関数演算器１３（識別関数演算器１
３−１乃至１３−Ｋ）に供給されるようになる。
【００５１】識別器５では、入力された特徴ベクトルＯ
が、識別関数（ユニバーサル識別関数）を用いて、所定
の数ＫのクラスＣkのうちのいずれかに分類されるこ
で、マイク１に入力された音声の識別（認識）が行われ
る。即ち、ユニバーサルパラメータ記憶部１１には、ク
ラスＣkに対応するユニバーサル識別関数を構成するパ
ラメータ（例えば、関数ｆ（ｘ）＝ａｘ2＋ｂｘ＋ｃに
ついては、ａ，ｂ，ｃ）（本実施例中において、適宜、
ユニバーサルパラメータという）λk（ベクトル）が記
憶されており、適応パラメータ算出器１２は、話者適応
器４から適応用パラメータΓ(ML)tを受信すると、ユニ
バーサルパラメータ記憶部１１からユニバーサル識別関
数（ユニバーサルパラメータ）を読み出し、適応用パラ
メータΓ(M L)tに基づいて適応させる（変換する）。こ
れにより、適応用のサンプルＡt、即ち、この場合は話
者Ｖtに適応した識別関数（本実施例において、適宜、
適応識別関数という）を構成するパラメータψt,k（＝
Ｆ（（λk，Γ(ML)t））が算出される。
【００５２】パラメータψt,kは、クラスＣkに対応する
適応識別関数の関数値を演算する識別関数演算器１３−
ｋに供給される。識別関数演算器１３−ｋでは、パラメ
ータψt,kで表現される適応識別関数の関数値が、特徴
ベクトルＯを入力値として計算され、クラス決定回路１
４に出力される。クラス決定回路１４では、識別関数演
算器１３−１乃至１３−Ｋが出力する関数値のうち、例
えば最も値の大きいものが検出され、その関数値が得ら
れた適応識別関数に対応するクラスＣkのサフィックス
ｋが、音声認識結果として決定されて出力される。
【００５３】次に、図１の音声認識装置の認識（識別）
原理について説明する。いま、ある変動要因の状態（変
動状態）Ｖtに適応された、あるクラスＣkに対応する適
応識別関数をｇt,k（・）と表す。例えば、音韻を音声
認識結果として出力する音声認識を考えた場合、Ｖtは
話者に、クラスＣkは認識結果としての音韻に、それぞ
れ対応する。
【００５４】さらに、変動状態Ｖtが既知で、その変動
状態Ｖtにおいてサンプル（特徴ベクトル）Ｏが観測さ
れた場合に、そのサンプルＯが、どのクラスに識別され
るかを決定するクラス決定規則を次式で定義する。
【００５５】
【数１】
【００５６】この場合、サンプルＯは、式（１）によっ
て与えられるｋをサフィックスとするクラスＣkに識別
される。
【００５７】いま、クラスＣkとして、クラスＣ1乃至Ｃ
KのＫ個のクラスがあり、変動状態Ｖtにおいて、クラス
Ｃ1乃至ＣKそれぞれに属するサンプルＯが観測される事
前確率ｐ（Ｃ1，Ｖt）乃至ｐ（ＣK，Ｖt）が等しいとす
ると、即ち、音声認識についていえば、例えば、ある話
者Ｖtが、認識対象となっている音韻Ｃ1乃至ＣKそれぞ
れを発話する事前確率ｐ（Ｃ1，Ｖt）乃至ｐ（ＣK，
Ｖt）が等しいとすると、変動状態Ｖtにおいて、サンプ
ルＯが観測された場合に、最小誤り率を実現する適応識
別関数ｇt,k（Ｏ）は、例えば次式で与えられる。
【００５８】 ｇt,k（Ｏ）＝ｐ（Ｏ｜Ｃk，Ｖt）・・・（２）
【００５９】即ち、この場合、適応識別関数ｇ
t,k（Ｏ）は、変動状態ＶtおよびクラスＣkによって条
件づけられる確率密度関数（以下、適宜、条件付き確率
密度関数という）ｐ（Ｏ｜Ｃk，Ｖt）で表される。い
ま、この条件付き確率密度関数ｐ（Ｏ｜Ｃk，Ｖt）が、
パラメータ（ベクトル）ψt,kによって一意に決定され
るもの、即ち、パラメトリック形式で表わされるものと
する。ここで、条件付き確率密度関数ｐ（Ｏ｜Ｃk，
Ｖt）がパラメータψt,kに依存していることを表すため
に、以下、ｐ（Ｏ｜Ｃk，Ｖt）を、ｐ（Ｏ｜ψt,k）と
表すこととする。
【００６０】この条件付き確率密度ｐ（Ｏ｜ψt,k）
は、クラスＣkによって条件づけられ、かつパラメトリ
ック形式で表される確率密度関数（これも、以下、適
宜、条件付き確率密度関数という）ｐ（Ｏ｜λk）をあ
らかじめ決めておけば、この条件付き確率密度関数ｐ
（Ｏ｜λk）を、変動状態Ｖtに適応させることによって
得ることができる。
【００６１】条件付き確率密度関数ｐ（Ｏ｜λk）は、
変動状態Ｖtに依存せず、従って、すべての変動状態Ｖt
について用いることができることから、「ユニバーサ
ル」な、条件付き確率密度関数ということができる。こ
こで、Ｇk（Ｏ）＝ｐ（Ｏ｜λk）とし、以下、適宜、Ｇ
k（Ｏ）を、ユニバーサル識別関数という。また、λ
kは、ユニバーサル識別関数Ｇk（・）を構成（表現）す
るパラメータであるから、本実施例中においては、λk
を、適宜、ユニバーサルパラメータという。
【００６２】以上から、適応識別関数ｇt,k（Ｏ）は、
ユニバーサル識別関数Ｇk（Ｏ）を、変動状態Ｖtに適応
させることによって得ることができるが、この適応に対
応する変換を行う関数（以下、適宜、適応用関数とい
う）をＦ（・）と表し、その適応用関数Ｆ（・）が、適
応用パラメータ（ベクトル）γt,kで制御されるものと
すると、適応識別関数ｇt,k（Ｏ）を表すパラメータ
（本実施例中において、適宜、適応パラメータという）
ψt,kは、次式で示される。
【００６３】ψt,k＝Ｆ（λk，γt,k）・・・（３）
【００６４】なお、以下、適宜、適応パラメータ
ψt,1，ψt,2，・・・，ψt,Kの集合でなるベクトル
［ψt,1，ψt,2，・・・，ψt,K］をΨtと、ユニバーサ
ルパラメータλ1，λ2，・・・，λKの集合でなるベク
トル［λ1，λ2，・・・，λK］をΛと、適応用パラメ
ータγt,1，γt,2，・・・，γt,Kの集合でなるベクト
ル［γt,1，γt,2，・・・，γt,K］をΓtと、それぞれ
表す。この場合、例えば、式（３）は次式のようにな
る。
【００６５】Ψt＝Ｆ（Λ，Γt）・・・（４）
【００６６】認識時（識別時）においては、ユニバーサ
ル識別関数Ｇk（Ｏ）を、変動状態Ｖtに適応させ、適応
識別関数ｇt,k（Ｏ）を得る必要があるが、このために
は、適応用関数Ｆ（Λ，Γt）を制御（構成）する適応
用パラメータΓtであって、変動状態Ｖtに対応するもの
を求める必要がある。この適応用パラメータΓtは、変
動状態Ｖtにおいて観測されるサンプル（このサンプル
は、ユニバーサル識別関数Ｇk（Ｏ）を変動状態Ｖtに適
応させるために用いられるので、本実施例中において、
適宜、適応用のサンプルという）Ａtに基づいて決定す
ることができる。
【００６７】ここで、適応用のサンプルＡtは、次式で
与えられるものとする。
【００６８】
【数２】
【００６９】但し、上式において、Ｏt,k,i (A)は、変動
状態Ｖtにおいて観測された、クラスＣkに属する特徴ベ
クトルＯであって、第ｉ番目のものを表しており、ｍ
t,kは、変動状態Ｖtにおいて観測された、クラスＣkに
属する特徴ベクトルＯの総数を表す。また、特徴ベクト
ルＯt,k,i (A)における（Ａ）は、特徴ベクトルＯ t,k,i
が、ユニバーサル識別関数Ｇk（Ｏ）を変動状態Ｖtに適
応させるために用いられるものであることを表す。な
お、ｍt,kは、小さな値で良く、例えば１であっ ても良
い。
【００７０】この場合、適応用パラメータΓtの最尤推
定値（Maximum Likelihood）Γ(ML)tは、次式によって
得ることができる。
【００７１】
【数３】
【数４】
【００７２】なお、ユニバーサルパラメータΛは固定値
とする。
【００７３】式（６）により適応用パラメータΓt（適
応用パラメータの最尤推定値Γ(ML)t)を得た後は、式
（４）にしたがって、適応パラメータΨtを求め、入力
された特徴ベクトルＯに対する条件付き確率密度関数ｐ
（Ｏ｜ψ t,k ）、即ち、適応識別 関数ｇt,k（Ｏ）を計
算し、式（１）で示される条件を満たすｋを求めること
で 、入力された特徴ベクトルＯの識別結果であるクラ
スＣkを得ることができる。
【００７４】図１の音声認識装置では、以上の原理に基
づき、クラスＣkのサフィックスｋが、音声認識結果と
して出力されるようになされている。即ち、話者適応器
４では、適応用のサンプルＡtを用い、式（６）にした
がって、適応用パラメータΓt（最尤推定値Γ(ML)t）が
求められる。ユニバーサルパラメータ記憶部１１には、
ユニバーサルパラメータΛ（λ1，λ2，・・・，λK）
が記憶されており、適応パラメータ算出器１２では、そ
のユニバーサルパラメータΛが、話者適応器４で求めら
れた適応用パラメータΓtを用い、式（３）または
（４）にしたがって変換され、これにより、ユニバーサ
ル識別関数Ｇk（・）を、適応用のサンプルＡtに適応さ
せた適応識別関数ｇt,k（・）を構成する適応パラメー
タΨｔ（ψt, 1，ψt,2，・・・，ψt,K）が算出され
る。そして、識別関数演算器１３−１乃至１３−Ｋで
は、適応パラメータψt,1，ψt,2，・・・，ψt,Kで表
される適応識別関数ｇt,k（・）の、特徴ベクトルＯに
ついての関数値ｇt,1（Ｏ），ｇt,2（Ｏ），・・・，ｇ
t, K（Ｏ）が計算される。その後、クラス決定回路１４
では、関数値ｇt,1（Ｏ），ｇt,2（Ｏ），・・・，ｇ
t,K（Ｏ）を用いて、式（１）を満たすｋが求められ
る。
【００７５】次に、図１のユニバーサルパラメータ記憶
部１１に記憶させるユニバーサル識別関数Ｇk（・）、
即ち、ユニバーサルパラメータΛの算出方法（学習方
法）について説明する。いま、Ｔ個の変動状態Ｖ1，
Ｖ2，・・・，ＶTにおいてそれぞれ観測（抽出）され
た、Ｋ個のクラスＣ1，Ｃ2，・・・，ＣKそれぞれに属
する特徴ベクトルの集合でなる学習サンプルＸを考え、
これを、以下のように表す。
【００７６】
【数５】
【数６】
【数７】
【００７７】なお、式（８）において、Ｘtは、変動状
態Ｖtにおいて観測された学習サンプルの集合を表し、
式（９）において、Ｏt,kは、変動状態Ｖtにおいて観測
された学習サンプルのうち、クラスＣkに属するものの
集合を表す。また、式（９）において、ｍt,kは、学習
サンプル（学習サンプルの集合）Ｏt,kを構成する特徴
ベクトル、即ち、変動状態Ｖtにおいて観測された、ク
ラスＣkに属する学習サンプルの総数を表し、Ｏ
t,k,iは、学習サンプルＯt,kの中の第ｉ番目の特徴ベク
トルを表す。
【００７８】ここで、以下、適宜、適応用パラメータΓ
1，Γ2，・・・，ΓKの集合でなるベクトルまたは適応
パラメータΨ1，Ψ2，・・・，ΨKの集合でなるベクト
ルを、それぞれ式（１１）または（１２）に示すよう
に、ΓまたはΨで表す。 Γ＝［Γ1，Γ2，・・・，ΓT］ ・・・（１１） Ψ＝［Ψ1，Ψ2，・・・，ΨT］ ・・・（１２）
【００７９】この場合、例えば、式（３）または（４）
は次式のように表される。 Ψ＝Ｆ（Λ，Γ） ・・・（１３）
【００８０】次に、本実施例では、ユニバーサルパラメ
ータΛの学習を、例えば、ユニバーサル識別関数Ｇ
k（・）を、学習サンプルＸに適応させる変換（適応用
関数Ｆによる変換）Ｆ（・）を行って得られる適応識別
関数ｇt,k（・）（これは、上述したように、Ψ、即
ち、Ｆ（Λ，Γ）をパラメータとする）の、学習サンプ
ルＸに対する尤度を評価基準として行うものとし、以
下、この尤度を、ｐ（Ｘ｜Ｆ（Λ，Γ））と表す。
【００８１】適応用パラメータΓtは、ユニバーサルパ
ラメータΛを、変動状態Ｖt、即ち、適応用のサンプル
Ａtに適応させるものであるから、この適応用パラメー
タΓtは、ユニバーサルパラメータΛおよび適応用のサ
ンプルＡ tの関係から得ることができ、さらに、適応用
のサンプルＡtは、変動状態Ｖtにおいて任意に観測され
るものであるから、適応用パラメータΓtは確率変数と
みなすことができる。この場合 、学習サンプルＸに対
するユニバーサルパラメータΛの対数尤度Ｕ1（Ｘ，
Λ） は、次式で定義することができる。
【００８２】
【数８】
【００８３】ユニバーサルパラメータΛの最尤推定値Λ
(ML)は、次式に示すように、対数尤度Ｕ1（Ｘ，Λ）を
最大化することで求めることができる。
【００８４】
【数９】
【００８５】しかしながら、上式におけるｐ（Γt｜
Λ）を求めるには、一般に無限のサンプルが必要とな
る。そこで、次のようにして、ｐ（Γt｜Λ）を帰納的
に学習しながら、尤度の最大化を図ることとする。
【００８６】即ち、例えば学習サンプルＸt（但し、こ
れは、学習サンプルＸtである必要は必ずしもなく、変
動状態Ｖtにおいて観測されたものであれば良い）の中
から、適応用パラメータΓを求めるためのサンプル（以
下、適宜、このサンプルも適応用のサンプルという）Ｂ
t,hを選択する。但し、ｈ＝１，２，・・・，Ｈtで、Ｈ
tは、適応用のサンプルの総数である。なお、Ｈtは１以
上であれば良い。
【００８７】この場合、学習サンプルＸに対するユニバ
ーサルパラメータΛの対数尤度Ｕ2（Ｘ，Λ）は、次式
で与えられる。
【００８８】
【数１０】
【００８９】ここで、Γ(ML)t,hは、サンプルＢt,hに基
づいて得られる適応用パラメータΓの最尤推定値で、次
式で与えられるものである。
【００９０】
【数１１】
【００９１】この場合、ユニバーサルパラメータΛの最
尤推定値Λ(ML)は、次式にしたがって、式（１６）を最
大化することで求めることができる。
【００９２】
【数１２】
【００９３】図２は、以上のような原理に基づいて、ユ
ニバーサル識別関数Ｇk（・）、即ち、ユニバーサルパ
ラメータΛを算出する識別関数算出装置の一実施例の構
成を示している。学習サンプルＸは、適応用関数パラメ
ータ算出用学習サンプル抽出器２１およびユニバーサル
パラメータ算出器２３に供給される。ここで、図１の識
別器５に適用される（ユニバーサルパラメータ記憶部１
１に記憶させる）ユニバーサルパラメータΛを算出する
場合においては、学習サンプルＸとしては、音響分析部
２から出力される特徴ベクトルが用いられる。
【００９４】適応用関数パラメータ算出用学習サンプル
抽出器２１では、学習サンプルＸから、上述したような
サンプルＢt,hが抽出される。ここで、サンプルＢt,hの
抽出は、例えば、適応用関数パラメータ算出用学習サン
プル抽出器２１で乱数が発生され、その乱数に基づい
て、学習サンプルＸからサンプルを選択することで行わ
れる。
【００９５】適応用関数パラメータ算出用学習サンプル
抽出器２１で抽出されたサンプルＢt,hは、適応用パラ
メータ算出器２２に供給される。さらに、適応用パラメ
ータ算出器２２には、ユニバーサルパラメータ算出器２
３から、所定のユニバーサルパラメータも供給される。
適応用パラメータ算出器２２では、ユニバーサルパラメ
ータ算出器２３からのユニバーサルパラメータΛを、サ
ンプルＢt,hに適応させるための適応用パラメータΓが
算出される。即ち、適応用パラメータ算出器２２は、式
（１７）にしたがって、適応用パラメータΓの最尤推定
値Γ(ML)t,hを算出する。この適応用パラメータΓ
(ML)t,hは、ユニバーサルパラメータ算出器２３に出力
される。
【００９６】ユニバーサルパラメータ算出器２３では、
式（１８）にしたがって、ユニバーサルパラメータΛの
最尤推定値Λ(ML)が求められる。即ち、ユニバーサルパ
ラメータ算出器２３では、適応用パラメータ算出器２２
からの適応用パラメータΓ(M L)t,hに基づいて、ユニバ
ーサルパラメータΛが変換され、これにより、式（１
６）におけるＦ（Λ，Γ(ML)t,h）（これは、ユニバー
サル識別関数Ｇk（・）をサンプルＢt,hに適応させる変
換を行って得られる適応識別関数ｇt,k（・）のパラメ
ータΨtである）が求められる。そして、サンプルＸに
対するＦ（Λ，Γ(ML )t,h）の尤度（本実施例において
は、上述したように、式（１６）で表される対数尤度Ｕ
2）を最も高くするユニバーサルパラメータΛ(ML)が算
出される。
【００９７】さらに、ユニバーサルパラメータ算出器２
３は、ユニバーサルパラメータΛ(M L)を与える対数尤度
Ｕ2が、例えば所定の閾値以上であるかどうかを判定す
る。そして、対数尤度Ｕ2が、所定の閾値以上でない場
合、その対数尤度Ｕ2が向上するようなユニバーサルパ
ラメータΛを、適応用パラメータ算出器２２に供給す
る。適応用パラメータ算出器２２は、新たなユニバーサ
ルパラメータを受信すると、再び、式（１７）にしたが
って、適応用パラメータΓの最尤推定値Γ(ML)t,hを算
出し、ユニバーサルパラメータ算出器２３に出力する。
【００９８】以下、適応用パラメータ算出器２２および
ユニバーサルパラメータ算出器２３では、ユニバーサル
パラメータΛ(ML)を与える対数尤度Ｕ2が所定の閾値以
上となるまで、同様の処理が繰り返される。
【００９９】そして、ユニバーサルパラメータΛ(ML)を
与える対数尤度Ｕ2が所定の閾値以上となると、ユニバ
ーサルパラメータ算出器２３は、そのユニバーサルパラ
メータΛ(ML)を、メモリ２４に出力して記憶させる。メ
モリ２４に記憶されたユニバーサルパラメータΛ
(ML)は、その後、必要に応じて、例えばユニバーサルパ
ラメータ記憶部１１（図１）などに転送される。
【０１００】以上のように、変動状態Ｖtとユニバーサ
ル識別関数Ｇk（・）との関係に応じて、ユニバーサル
識別関数Ｇk（・）を、学習サンプルＸtに適応させなが
ら学習を行うようにしたので、適応処理を行ったときに
最高の性能を発揮するようなユニバーサル識別関数Ｇk
（・）を得ることができ、その結果、認識時において、
このユニバーサル識別関数Ｇk（・）を用いることで、
認識率を向上させることができる。
【０１０１】なお、式（１４）におけるｐ（Γt｜Λ）
が、比較的少ない数のパラメータで表され、サンプルＢ
t,hとして、比較的多くのサンプルが与えられた場合、
適応用パラメータΓtの分散は非常に小さくなる。そこ
で、いま、適応用パラメータΓtの分散を０と仮定する
と、学習サンプルＸに対するユニバーサルパラメータΛ
の対数尤度Ｕ3（Ｘ，Λ）は、次式で与えられる。
【０１０２】
【数１３】
【０１０３】但し、Γ(ML)tは、次式にしたがって得ら
れる適応用パラメータΓtの最尤推定値である。
【０１０４】
【数１４】
【０１０５】この場合、式（１９）および（２０）か
ら、最大化すべき目的関数Ｕ4（Ｘ，Λ，Γ）は、次式
のようになる。
【０１０６】
【数１５】
【０１０７】上式より、ユニバーサルパラメータΛの最
尤推定値Λ(ML)は、Ｕ4（Ｘ，Λ，Γ）を、ΛおよびΓ
の両方に関して最大化することにより求めることができ
る。このＵ4（Ｘ，Λ，Γ）を最大化するΛおよびΓ
は、例えばシミュレーテッドアーニング法や、最急降下
法、ＥＭ（Expectation Maximization）アルゴリズムな
どにしたがって求めることができる。なお、シミュレー
テッドアーニング法によれば、演算量は多いが、比較的
良好な解を求めることができる。また、最急降下法やＥ
Ｍアルゴリズムによれば、解として、局所的な最大値が
得られることが多いが、演算量は少なくて済む。
【０１０８】次に、上述した学習方法において、ユニバ
ーサル識別関数Ｇk（・）として、例えば対角成分以外
の共分散成分を０とした、パラメトリックに表現可能な
正規分布（混合正規分布）関数を、適応用パラメータΓ
として、例えば加算ベクトルを、それぞれ用いた場合に
ついて説明する。この場合、ユニバーサル識別関数Ｇk
（Ｏ）は、次式のように表すことができる。
【０１０９】
【数１６】
【０１１０】但し、Ｊは、特徴ベクトルＯの成分（コン
ポーネント）の数（次元数）を表し、ｏjは、特徴ベク
トルＯのｊ番目の成分（第ｊ成分）を表す。また、μ
k,jまたはσk,j 2は、第ｊ成分ｏjの平均値または分散を
それぞれ表す。
【０１１１】この場合、ユニバーサルパラメータλ
kは、λk＝［μk,1，μk,2，・・・，μk,J，σk,1 2，
σk,2 2，・・・，σk,J 2］と表すことができる。
【０１１２】そして、適応用関数Ｆ（・）の適応用パラ
メータ、即ち、この場合、加算ベクトルΓtを、Γt＝
［γt,k,1，γt,k,2，・・・，γt,k,J］と表すととも
に、学習サンプルＸtに適応させたμk,jまたはσ
k,j 2を、それぞれμt,k,jまたはσt,k ,j 2と表すとする
と、適応パラメータψt,kは、次のように表すことがで
きる。
【０１１３】 ψt,k＝Ｆ（λk，Γt） ＝［μt,k,1，μt,k,2，・・・，μt,k,J， σt,k,1 2，σt,k,2 2，・・・，σt,k,J 2］ ＝［μk,1＋γt,k,1，μk,2＋γt,k,2，・・・，μk,J＋γt,k,J， σk,1 2，σk,2 2，・・・，σk,J 2］ ・・・（２３）
【０１１４】従って、この場合、適応識別関数ｇ
t,k（Ｏ）は、次式で与えられる。
【０１１５】
【数１７】
【０１１６】ユニバーサル識別関数Ｇk（・）、即ち、
ユニバーサルパラメータΛは、式（１６）乃至（１８）
から、次式に示す対数尤度Ｌ（Ｘ，Λ）を、Λについて
最大化することで求めることができる。
【０１１７】
【数１８】
【０１１８】但し、Γ(ML)t,hは、学習サンプルＢt,h∈
Ｘtを用いて得られる加算ベクトルΓtの最尤推定値で、
次式で与えられる。
【０１１９】
【数１９】
【０１２０】但し、この場合Ｆ（Λ，Γt,h）は、次式
で表される。 Ｆ（Λ，Γt,h） ＝［μk,1＋γt,k,1,h，μk,2＋γt,k,2,h，・・・， μk,J＋γt,k,J,h，σk,1 2，σk,2 2，・・・，σk,J 2］ ・・・（２７）
【０１２１】なお、γt,k,j,hは、サンプルＢt,hについ
てのγt,k,jを表す。
【０１２２】ところで、上述した学習方法の原理は、直
感的には、次にように考えることができる。即ち、例え
ば画像認識（文字認識）において、ユニバーサル識別関
数Ｇk（・）に相当する文字「Ａ」の標準パターンの学
習を行う場合、認識時に、例えば、ほぼ同一形状の、傾
きのない文字「Ａ」のみが認識対象として入力されるな
らば、そのような文字「Ａ」を、学習サンプルとして、
従来と同様の学習を行えば、例えば図３（Ａ）に示すよ
うな、入力された文字「Ａ」の特徴を反映した標準パタ
ーンが得られる。
【０１２３】しかしながら、認識時において、上述のよ
うな形の揃った、傾きのない文字「Ａ」が、常時入力さ
れることは皆無であり、通常は、例えば図３（Ｂ）に示
すように、傾きのない「Ａ」の他、右や左に傾いた
「Ａ」が入力される。このような場合、従来において
は、傾きのない「Ａ」、並びに右および左に傾いた
「Ａ」がそのままの状態で、標準パターンに、いわば包
含されるように学習が行われていたため、その結果得ら
れる文字「Ａ」の標準パターンは、極端には、図３
（Ｄ）に示すように、文字「Ａ」の特徴が損なわれたも
のとなっていた。
【０１２４】そこで、本願においては、文字「Ａ」の標
準パターンを、図３（Ｃ）に示すように、学習サンプル
としての文字「Ａ」の傾きに対応して回転し、即ち、ユ
ニバーサルパラメータΛに相当する標準パターンを、適
応用関数Ｆ（・）によって変換することにより学習サン
プルに適応させて学習を行うことで、文字「Ａ」の特徴
が充分に反映された標準パターンを得ることができるよ
うになされている。
【０１２５】そして、認識時においては、文字「Ａ」の
特徴が充分に反映された標準パターンを、認識対象とし
て入力された文字に適応させることで、認識性能を向上
させることができるようになされている。
【０１２６】ところで、学習時において行われる標準パ
ターンと学習サンプルとの適応は、図３（Ｃ）に示した
ように、文字「Ａ」の標準パターンを、学習サンプルと
しての文字「Ａ」の傾きに対応して回転することによ
り、標準パターンを学習サンプルに適応させることで行
うことができる他、例えば図４に示すように、学習サン
プルとしての文字「Ａ」を、その傾きに対応して回転す
ることにより、学習サンプルを標準パターンに適応させ
ることでも行うことができる。これは、認識時について
も同様のことがいえる。
【０１２７】そこで、図５は、そのような適応処理を行
うことにより音声の認識を行う音声認識装置の一実施例
の構成を示している。なお、図中、図１における場合と
対応する部分については同一の符号を付してあり、以下
では、その説明は、適宜、省略する。また、この音声認
識装置においては、図１における場合と同様に、話者に
適応した音声の認識が行われるようになされている。
【０１２８】上述したように、スイッチ３は、話者Ｖt
に対する適応を行う必要がある場合、端子ａを選択し、
これにより、音響分析部２から出力された特徴ベクトル
Ｏは、話者Ｖtに対する適応を行うための適応用のサン
プルＡtとして、スイッチ３および端子ａを介して、話
者適応器３４に出力される。
【０１２９】話者適応器３４では、適応用のサンプルＡ
tに基づいて、特徴ベクトルＯを、後述する識別器３５
が記憶しているユニバーサル識別関数に適応させるため
の適応用パラメータΓ(ML)tが算出され、適応ベクトル
算出器３６に供給される。
【０１３０】話者適応器３４から適応ベクトル算出器３
６に対し、適応用パラメータΓ(ML) tが出力されると、
スイッチ３は、端子ｂを選択し、これにより、音響分析
部２から出力された特徴ベクトルＯは、スイッチ３およ
び端子ｂを介して、適応ベクトル算出器３６に供給され
るようになる。
【０１３１】適応ベクトル算出器３６は、話者適応器３
４から適応用パラメータΓ(ML)tを受信すると、音響分
析部２からスイッチ３および端子ｂを介して供給される
特徴ベクトルＯを、適応用パラメータΓ(ML)tに基づい
て適応させる（変換する）。これにより、ユニバーサル
パラメータ記憶部１１に記憶されているユニバーサル識
別関数に適応した特徴パラメータ（本実施例において、
適宜、適応特徴パラメータという）Ｆ（Ｏ，γ t,k ）が
算出される。この適応特徴パラメータＦ（Ｏ，γ t,1 ）
乃至Ｆ（Ｏ，γ t,k ）は、識別器３５の識別関数演算器
１３−１乃至１３−Ｋにそれぞれ供給される。
【０１３２】識別器３５では、入力された適応特徴ベク
トルが、ユニバーサル識別関数を用いて、所定の数Ｋの
クラスＣkのうちのいずれかに分類されるこで、マイク
１に入力された音声の識別（認識）が行われる。即ち、
ユニバーサルパラメータ記憶部１１からは、ユニバーサ
ルパラメータλkが読み出され、識別関数演算器１３−
ｋに供給される。識別関数演算器１３−ｋでは、ユニバ
ーサルパラメータλkで表現されるユニバーサル識別関
数の関数値が、適応特徴ベクトルＦ（Ｏ，γ t,k ）を入
力値として計算され、クラス決定回路１４に出力され
る。クラス決定回路１４では、図１における場合と同様
にして、音声認識結果が決定されて出力される。
【０１３３】次に、図５の音声認識装置の認識（識別）
原理について説明するが、この音声認識装置では、基本
的には、上述したように、ユニバーサル識別関数Ｇ
k（・）を適応させずに、入力された特徴ベクトルＯ
を、ユニバーサル識別関数Ｇk（・）に適応させて認識
を行うのであるから、適応用関数Ｆ（・）による変換の
対象が、ユニバーサル識別関数Ｇk（・）（ユニバーサ
ルパラメータΛ）ではなく、特徴ベクトルＯとなること
と、識別に際して用いる識別関数が、適応識別関数ｇ
t,k（・）ではなく、ユニバーサル識別関数Ｇk（・）と
なることが、図１における場合と異なるだけである。
【０１３４】従って、クラス決定規則は、式（１）にお
ける適応識別関数ｇt,k（・）を、ユニバーサル識別関
数Ｇk（・）に置換するとともに、特徴ベクトルＯを、
それをユニバーサル識別関数Ｇk（・）に適応させた適
応特徴ベクトルＦ（Ｏ，γ t,k ）に置換したものとな
る。即ち、この場合、クラス決定規則は、次式で定義さ
れる。
【０１３５】
【数２０】
【０１３６】また、適応用パラメータΓtの最尤推定値
Γ(ML)tは、式（６）におけるＡtをＦ（Ａt，Γt）に、
Ｆ（Λ，Γt）をΛに、それぞれ置換した式（２９）、
および式（７）におけるＡtをＦ（Ａt，Γt）に、Ｆ
（Λ，Γt）をΛに、Ｏt,k,i (A)をＦ（Ｏt,k,i (A)，γ
t,k）に、Ｆ（λk，γt,k）をλkに、それぞれ置換した
式（３０）にしたがって得ることができる。
【０１３７】
【数２１】
【数２２】
【０１３８】よって、式（２９）により適応用パラメー
タΓt（適応用パラメータの最尤推定値Γ(ML)t）を得た
後は、式（２８）における左辺におけるＦ（Ｏ，
γt,k）、即ち、適応特徴ベクトルを計算し、式（２
８）で示される条件を満たすｋを求めることで、入力さ
れた特徴ベクトルＯの識別結果であるクラスＣkを得る
ことができる。
【０１３９】図５の音声認識装置では、以上の原理に基
づき、クラスＣkのサフィックスｋが、音声認識結果と
して出力される。即ち、話者適応器３４では、適応用の
サンプルＡtを用い、式（２９）にしたがって、適応用
パラメータΓt（最尤推定値Γ(ML) t）が求められる。適
応ベクトル算出器３６では、特徴ベクトルＯが、話者適
応器３４で求められた適応用パラメータΓtを用い、式
Ｆ（Ｏ，Γt）にしたがって変換され、これにより、特
徴ベクトルＯを、ユニバーサル識別関数Ｇk（・）に適
応に適応させた適応特徴ベクトルＦ（Ｏ，γt,1），Ｆ
（Ｏ，γt,2），・・・，Ｆ（Ｏ，γt,K）が算出され
る。そして、識別関数演算器１３−１乃至１３−Ｋで
は、ユニバーサルパラメータλ1，λ2，・・・，λKで
表される適応識別関数Ｇk（・）の、適応特徴ベクトル
Ｆ（Ｏ，γt,1），Ｆ（Ｏ，γt,2），・・・，Ｆ（Ｏ，
γt,K）についての関数値Ｇ1（Ｆ（Ｏ，γt,1）），Ｇ2
（Ｆ（Ｏ，γt,2）），・・・，ＧK（Ｆ（Ｏ，
γt,K））が計算される。その後、クラス決定回路１４
では、関数値Ｇ1（Ｆ（Ｏ，γt,1）），Ｇ2（Ｆ（Ｏ，
γt,2）），・・・，ＧK（Ｆ（Ｏ，γt,K））を用い
て、式（２８）を満たすｋが求められる。
【０１４０】次に、図５に示した音声認識装置において
用いられるユニバーサル識別関数Ｇk（・）、即ち、ユ
ニバーサルパラメータΛの算出方法（学習方法）につい
て説明するが、基本的には、上述したように、ユニバー
サル識別関数Ｇk（・）を適応させずに、学習サンプル
Ｘを、ユニバーサル識別関数Ｇk（・）に適応させて学
習をを行うのであるから、適応用関数Ｆ（・）による変
換の対象が、ユニバーサル識別関数Ｇk（・）（ユニバ
ーサルパラメータΛ）ではなく、学習サンプルＸとなる
ことが、ユニバーサル識別関数Ｇk（・）を学習サンプ
ルＸに適応させながら学習を行う場合と異なるだけであ
る（本実施例中では、適宜、学習サンプルＸをユニバー
サル識別関数Ｇk（・）に適応させたもの、即ち、学習
サンプルＸを適応用関数Ｆ（・）にしたがって変換した
ものを、適応学習サンプルという）。
【０１４１】従って、上述した式（１４）乃至（１８）
における適応用関数Ｆ（・）による変換の対象を、ユニ
バーサルパラメータΛではなく、学習サンプルＸ（ある
いは、適応用のサンプルＢt,h）に替えた場合には、式
（３１）乃至（３５）がそれぞれ得られるから、ユニバ
ーサルパラメータΛの最尤推定値Λ(ML)は、式（３５）
にしたがって、式（３３）を最大化することで、求める
ことができる。
【０１４２】
【数２３】
【数２４】
【数２５】
【数２６】
【数２７】
【０１４３】図６は、以上のような原理に基づいて、ユ
ニバーサル識別関数Ｇk（・）、即ち、ユニバーサルパ
ラメータΛを算出する識別関数算出装置の一実施例の構
成を示している。なお、図中、図２における場合と対応
する部分については同一の符号を付してあり、以下で
は、その説明は、適宜省略する。
【０１４４】適応用パラメータ算出器４２には、適応用
関数パラメータ算出用学習サンプル抽出器２１で抽出さ
れたサンプルＢt,hと、ユニバーサルパラメータ算出器
４３からユニバーサルパラメータΛとが供給される。適
応用パラメータ算出器４２では、適応用関数パラメータ
算出用学習サンプル抽出器２１からのサンプルＢ
t,hを、ユニバーサルパラメータ算出器４３からのユニ
バーサルパラメータΛに適応させるための適応用パラメ
ータΓが算出される。即ち、適応用パラメータ算出器４
２は、式（３４）にしたがって、適応用パラメータΓの
最尤推定値Γ(ML)t,hを算出する。この適応用パラメー
タΓ(ML)t,hは、ユニバーサルパラメータ算出器４３に
出力される。
【０１４５】ユニバーサルパラメータ算出器４３では、
式（３５）にしたがって、ユニバーサルパラメータΛの
最尤推定値Λ(ML)が求められる。即ち、ユニバーサルパ
ラメータ算出器４３では、適応用パラメータ算出器４２
からの適応用パラメータΓ(M L)t,hに基づいて、学習サ
ンプルＸが変換され、これにより、式（３３）における
Ｆ（Ｘt，Γ(ML)t,h）、即ち、適応学習サンプルが求め
られる。そして、その適応学習サンプルＦ（Ｘ，Γ
(ML)t,h）に対する尤度（対数尤度）Ｕ2を最も高くする
ユニバーサルパラメータΛ(ML)が算出される。
【０１４６】さらに、ユニバーサルパラメータ算出器４
３は、ユニバーサルパラメータΛ(M L)を与える対数尤度
Ｕ2が、例えば所定の閾値以上であるかどうかを判定す
る。そして、対数尤度Ｕ2が、所定の閾値以上でない場
合、その対数尤度Ｕ2が向上するようなユニバーサルパ
ラメータΛを、適応用パラメータ算出器４２に供給す
る。適応用パラメータ算出器４２は、新たなユニバーサ
ルパラメータを受信すると、再び、式（３４）にしたが
って、適応用パラメータΓの最尤推定値Γ(ML)t,hを算
出し、ユニバーサルパラメータ算出器４３に出力する。
【０１４７】以下、適応用パラメータ算出器４２および
ユニバーサルパラメータ算出器４３では、ユニバーサル
パラメータΛ(ML)を与える対数尤度Ｕ2が所定の閾値以
上となるまで、同様の処理が繰り返される。
【０１４８】そして、ユニバーサルパラメータΛ(ML)を
与える対数尤度Ｕ2が所定の閾値以上となると、ユニバ
ーサルパラメータ算出器４３は、そのユニバーサルパラ
メータΛ(ML)を、メモリ２４に出力して記憶させる。
【０１４９】以上のように、変動状態Ｖtとユニバーサ
ル識別関数Ｇk（・）との関係に応じて、学習サンプル
Ｘtを、ユニバーサル識別関数Ｇk（・）に適応させなが
ら学習を行うようにしたので、適応処理を行ったときに
最高の性能を発揮するようなユニバーサル識別関数Ｇk
（・）を得ることができ、その結果、認識時において、
このユニバーサル識別関数Ｇk（・）を用いることで、
認識率を向上させることができる。
【０１５０】なお、式（３１）におけるｐ（Γt｜Λ）
が、比較的少ない数のパラメータで表され、サンプルＢ
t,hとして、比較的多くのサンプルが与えられた場合、
適応用パラメータΓtの分散は非常に小さくなる。そこ
で、適応用パラメータΓtの分散を０と仮定すると、上
述した式（１９）乃至（２１）にそれぞれ相当する式
（３６）乃至（３８）を得ることができる。
【０１５１】
【数２８】
【数２９】
【数３０】
【０１５２】従って、この場合、ユニバーサルパラメー
タΛの最尤推定値Λ(ML)は、式（３８）におけるＵ
4（Ｘ，Λ，Γ）を、ΛおよびΓの両方に関して最大化
することにより求めることができる。
【０１５３】以上、本発明を、音声の認識を行う場合に
適用した場合について説明したが、本発明は、音声の認
識を行う場合の他、例えば画像の認識を行う場合などの
あらゆるパターン認識を行う場合に適用可能である。
【０１５４】なお、本実施例においては、ユニバーサル
識別関数の具体例として、正規分布識別関数を用いた場
合を説明したが、ユニバーサル識別関数としては、正規
分布識別関数の他、例えばマハラノビス識別関数や、Ｈ
ＭＭ（Hidden Markov Model）による識別関数、多項式
識別関数、ニューラルネットワークにより表現される識
別関数などを用いることが可能である。
【０１５５】また、本実施例では、適応用パラメータと
して、加算ベクトルを算出し、この加算ベクトルを用い
て、ユニバーサル識別関数を適応させる変換を行う場合
について説明したが、適応用パラメータとしては、加算
ベクトルの他、例えば、線形変換を行うパラメータなど
を算出するようにし、これを用いて、ユニバーサル識別
関数を線形変換することで適応させるようにすることが
可能である。さらに、ユニバーサル識別関数を適応させ
る変換としては、例えば１次変換や、２次以上の項を含
んだ多項式変換、ニューラルネットワークによる変換な
どを用いることが可能である。また、学習サンプルを適
応させる変換についても、同様の変換手法を用いること
が可能である。
【０１５６】さらに、本実施例では、ユニバーサル識別
関数を学習サンプルに適応させる場合において、ユニバ
ーサルパラメータの最尤推定値を求めるようにしたが、
即ち、適応識別関数の、学習サンプルに対する尤度（対
数尤度）を評価基準とし、その尤度を最大化するユニバ
ーサルパラメータを求めるようにしたが、その他、例え
ば相互情報量や誤認識率などを評価基準とし、相互情報
量を最大化するユニバーサルパラメータや、誤認識率を
最小化するユニバーサルパラメータなどを求めるように
することが可能である。同様に、学習サンプルをユニバ
ーサル識別関数に適応させる場合においても、尤度以外
に、例えば相互情報量や誤認識率などを評価基準として
用いることが可能である。
【０１５７】また、本実施例では、ユニバーサル識別関
数を学習サンプルに適応させるために、適応用パラメー
タの最尤推定値を求めるようにしたが、即ち、適応識別
関数の、学習サンプルに対する尤度（対数尤度）を評価
基準とし、その尤度を最大化する適応用パラメータを求
めるようにしたが、この適応用パラメータについても、
尤度の他、相互情報量や誤認識率などを評価基準として
用いることが可能である。さらに、学習サンプルをユニ
バーサル識別関数に適応させる場合においても同様に、
評価基準として、尤度の他、例えば相互情報量や誤認識
率などを用いることができる。
【０１５８】また、本実施例では、１クラスに対し、１
つのユニバーサル識別関数を用意するようにしたが、こ
の他、例えば、１つのクラスに対しては、複数のユニバ
ーサル識別関数を割り当てることも可能である。
【０１５９】
【０１６０】
【発明の効果】 請求項１に記載の識別装置および請求項
２に記載の識別方法によれば、特徴ベクトルに対し、識
別関数を適応させ、その結果得られる適応識別関数を用
いて、特徴ベクトルが識別される。この場合において、
識別関数は、それを、学習サンプルに適応させながら学
習を行うことにより得られたものとされている。従っ
て、識別関数は、それを適応処理したときに高い性能を
発揮するものであるから、特徴ベクトルの識別率を向上
させることができる（誤認識率を低減することができ
る）。
【０１６１】請求項３に記載の音声認識装置によれば、
特徴ベクトルに対し、識別関数を適応させ、その結果得
られる適応識別関数を用いて、特徴ベクトルが、所定の
数のクラスのうちのいずれかに分類される。この場合に
おいて、識別関数は、それを、学習サンプルに適応させ
ながら学習を行うことにより得られたものとされてい
る。従って、識別関数は、それを適応処理したときに高
い性能を発揮するものであるから、音声の認識率を向上
させることができる。
【０１６２】
【０１６３】請求項４に記載の識別装置および請求項５
に記載の識別方法によれば、識別関数に対し、特徴ベク
トルを適応させ、その結果得られる適応特徴ベクトル
が、識別関数を用いて識別される。この場合において、
識別関数は、それに、学習サンプルを適応させながら学
習を行うことにより得られたものとされている。従っ
て、識別関数は、特徴ベクトルを適応処理したときに高
い性能を発揮するものであるから、特徴ベクトルの識別
率を向上させることができる。
【０１６４】請求項６に記載の音声認識装置によれば、
識別関数に対し、特徴ベクトルを適応させ、その結果得
られる適応特徴ベクトルが、識別関数を用いて、所定の
数のクラスのうちのいずれかに分類される。この場合に
おいて、識別関数は、それに、学習サンプルを適応させ
ながら学習を行うことにより得られたものとされてい
る。従って、識別関数は、特徴ベクトルを適応処理した
ときに高い性能を発揮するものであるから、音声の認識
率を向上させることができる。
【図面の簡単な説明】
【図１】本発明を適用した音声認識装置の第１実施例の
構成を示すブロック図である。
【図２】本発明を適用した識別関数算出装置の第１実施
例の構成を示すブロック図である。
【図３】本発明の原理を説明するための図である。
【図４】本発明の原理を説明するための図である。
【図５】本発明を適用した音声認識装置の第２実施例の
構成を示すブロック図である。
【図６】本発明を適用した識別関数算出装置の第２実施
例の構成を示すブロック図である。
【図７】従来の識別関数算出装置の一例の構成を示すブ
ロック図である。
【符号の説明】
１ マイク ２ 音響分析部 ３ スイッチ ４ 話者適応器 ５ 識別器 １１ ユニバーサルパラメータ記憶部 １２ 適応パラメータ算出器 １３（１３−１乃至１３−Ｋ） 識別関数演算器 １４ クラス決定回路 ２１ 適応用関数パラメータ算出用学習サンプル抽出器 ２２ 適応用パラメータ算出器 ２３ ユニバーサルパラメータ算出器 ２４ メモリ ３４ 話者適応器 ３５ 識別器 ３６ 適応ベクトル算出器 ４２ 適応用パラメータ算出器 ４３ ユニバーサルパラメータ算出器
フロントページの続き (56)参考文献 特開 昭58−29226（ＪＰ，Ａ) Ａ． Ｂｉｅｍ， Ｓ． Ｋａｔａｇ ｉｒｉ，Ｆｅａｔｕｒｅ ｅｘｔｒａｃ ｔｉｏｎ ｂａｓｅｄ ｏｎ ｍｉｎｉ ｍｕｍ ｃｌａｓｓｉｆｉｃａｔｉｏｎ ｅｒｒｏｒ ／ ｇｅｎｅｒａｌｉｚ ｅｄ ｐｒｏｂａｂｉｌｉｓｔｉｃ ｄ ｅｃｅｎｔ ｍｅｔｈｏｄ，Ｐｒｏｃｅ ｅｄｉｎｇｓ ｏｆ ｔｈｅ 1993 Ｉ ＥＥＥ Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ａｃｏｕ ｓｔｉｃｓ， Ｓｐｅｅｃｈ， ａｎｄ Ｓｉｇｎａｌ Ｐｒｏｃｅｓｓｉｎｇ （Ｉ，米国，1993年 ４月27日，Ｖｏ ｌ．２，Ｐａｇｅｓ 275−278) Ｂ． Ｈ． Ｊｕａｎｇ， Ｓ． Ｋ ａｔａｇｉｒｉ，Ｄｉｓｃｒｉｍｉｎａ ｔｉｖｅ ｌｅａｒｎｉｎｇ ｆｏｒ ｍｉｎｉｍｕｍ ｅｒｒｏｒ ｃｌａｓ ｓｉｆｉｃａｔｉｏｎ，ＩＥＥＥ Ｔｒ ａｎｓａｃｔｉｏｎｓ ｏｎ Ｓｉｇｎ ａｌ Ｐｒｏｃｅｓｓｉｎｇ，米国, 1992年12月，Ｖｏｌ．40， Ｎｏ．12, Ｐａｇｅｓ 3043−3054 (58)調査した分野(Int.Cl.7，ＤＢ名) G10L 15/10 - 15/28 G06K 9/68 ＪＩＣＳＴファイル（ＪＯＩＳ) ＩＥＥＥ Ｘｐｌｏｒｅ

Claims (9)

    (57)【特許請求の範囲】
  1. 【請求項１】 入力された特徴ベクトルを所定クラスに
    分類することにより識別を行う識別装置において、変動状態に依存しないユニバーサル識別関数を構成する
    パラメータを記憶するユニバーサルパラメータ記億手段
    と、 前記特徴ベクトルに基づいて、前記ユニバーサル識別関
    数を所定の変動状態に適応させるための適応用パラメー
    タを算出する適応手段と、 前記ユニバーサル識別関数を構成するパラメータを読み
    出し、前記ユニバーサル識別関数を前記適応用パラメー
    タにより適応させて、適応識別関数を構成するパラメー
    タを算出する適応パラメータ算出手段と、 前記適応識別関数を構成するパラメータおよび前記特徴
    ベクトルから適応識別関数の関数値を演算する識別関数
    演算手段と、 前記適応識別関数の関数値からクラスを決定するクラス
    決定手段と を備える ことを特徴とする識別装置。
  2. 【請求項２】 入力された特徴ベクトルを所定クラスに
    分類することにより識別を行う識別方法において、変動状態に依存しないユニバーサル識別関数を構成する
    パラメータを記憶するユニバーサルパラメータ記億ステ
    ップと、 前記特徴ベクトルに基づいて、前記ユニバーサル識別関
    数を所定の変動状態に適応させるための適応用パラメー
    タを算出する適応ステップと、 前記ユニバーサル識別関数を構成するパラメータを読み
    出し、前記ユニバーサル識別関数を前記適応用パラメー
    タにより適応させて、適応識別関数を構成するパラメー
    タを算出する適応パラメータ算出ステップと、 前記適応識別関数を構成するパラメータおよび前記特徴
    ベクトルから適応識別関数の関数値を演算する識別関数
    演算ステップと、 前記適応識別関数の関数値からクラスを決定するクラス
    決定ステップと を含む ことを特徴とする識別方法。
  3. 【請求項３】 入力された音声の特徴ベクトルを所定ク
    ラスに分類することにより音声を認識する音声認識装置
    において、 変動状態に依存しないユニバーサル識別関数を構成する
    パラメータを記憶するユニバーサルパラメータ記億手段
    と、 前記特徴ベクトルに基づいて、前記ユニバーサル識別関
    数を所定の話者に適応させるための適応用パラメータを
    算出する話者適応手段と、 前記ユニバーサル識別関数を構成するパラメータを読み
    出し、前記ユニバーサル識別関数を前記適応用パラメー
    タにより適応させて適応識別関数を構成するパラメータ
    を算出する適応パラメータ算出手段と、 前記適応識別関数を構成するパラメータおよび前記特徴
    ベクトルから適応識別関数の関数値を演算する識別関数
    演算手段と、 前記適応識別関数の関数値からクラスを決定するクラス
    決定手段と を備える ことを特徴とする音声認識装置。
  4. 【請求項４】 入力された特徴ベクトルを所定クラスに
    分類することにより識別を行う識別装置において、変動状態に依存しないユニバーサル識別関数を構成する
    パラメータを記憶するユニバーサルパラメータ記億手段
    と、 前記特徴ベクトルを前記ユニバーサル識別関数に適応さ
    せるための適応用パラメータを算出する適応手段と、 前記適応用パラメータにより前記特徴ベクトルを、前記
    ユニバーサル識別関数に適応させて適応特徴パラメータ
    を算出する適応ベクトル算出手段と、 前記ユニバーサル識別関数を構成するパラメータおよび
    前記適応特徴パラメータから適応識別関数の関数値を演
    算する識別関数演算手段と、 前記適応識別関数の関数値からクラスを決定するクラス
    決定手段と を備える ことを特徴とする識別装置。
  5. 【請求項５】 入力された特徴ベクトルを所定クラスに
    分類することにより識別を行う識別方法において、変動状態に依存しないユニバーサル識別関数を構成する
    パラメータを記憶するユニバーサルパラメータ記億ステ
    ップと、 前記特徴ベクトルを前記ユニバーサル識別関数に適応さ
    せるための適応用パラメータを算出する適応ステップ
    と、 前記適応用パラメータにより前記特徴ベクトルを、前記
    ユニバーサル識別関数に適応させて適応特徴パラメータ
    を算出する適応ベクトル算出ステップと、 前記ユニバーサル識別関数を構成するパラメータおよび
    前記適応特徴パラメータから適応識別関数の関数値を演
    算する識別関数演算ステップと、 前記適応識別関数の関数値からクラスを決定するクラス
    決定ステップと を含む ことを特徴とする識別方法。
  6. 【請求項６】 入力された音声の特徴ベクトルを所定ク
    ラスに分類することにより音声を認識する音声認識方法
    において、 変動状態に依存しないユニバーサル識別関数を構成する
    パラメータを記憶するユニバーサルパラメータ記億ステ
    ップと、 所定の話者により入力された音声の前記特徴ベクトル
    を、前記ユニバーサル識別関数に適応させるための適応
    用パラメータを算出する話者適応ステップと、 前記適応用パラメータにより前記特徴ベクトルを、前記
    ユニバーサル識別関数に適応させて適応特徴パラメータ
    を算出する適応ベクトル算出ステップと、 前記ユニバーサル識別関数を構成するパラメータおよび
    前記適応特徴パラメータから適応識別関数の関数値を演
    算する識別関数演算ステップと、 前記適応識別関数の関数値からクラスを決定するクラス
    決定ステップと を含む ことを特徴とする音声認識方法。
  7. 【請求項７】 入力された特徴ベクトルを所定クラスに
    分類することにより識別を行う識別装置において、 変動状態に依存しない識別関数を構成するパラメータを
    記憶するパラメータ記億手段と、 前記特徴ベクトルに基づいて、前記識別関数を所定の変
    動状態に適応させるための適応用パラメータを算出する
    適応手段と、 前記識別関数を構成するパラメータを読み出し、前記識
    別関数を前記適応用パラメータにより適応させて、適応
    識別関数を構成するパラメータを算出する適応パラメー
    タ算出手段と、 前記適応識別関数を構成するパラメータおよび前記特徴
    ベクトルから適応識別関数の関数値を演算する識別関数
    演算手段と、 前記適応識別関数の関数値からクラスを決定するクラス
    決定手段と を備えることを特徴とする識別装置。
  8. 【請求項８】 入力された特徴ベクトルを所定クラスに
    分類することにより識別を行う識別方法において、 変動状態に依存しない識別関数を構成するパラメータを
    記憶するパラメータ記億ステップと、 前記特徴ベクトルに基づいて、前記識別関数を所定の変
    動状態に適応させるための適応用パラメータを算出する
    適応ステップと、 前記識別関数を構成するパラメータを読み出し、前記識
    別関数を前記適応用パラメータにより適応させて、適応
    識別関数を構成するパラメータを算出する適応パラメー
    タ算出ステップと、 前記適応識別関数を構成するパラメータおよび前記特徴
    ベクトルから適応識別関数の関数値を演算する識別関数
    演算ステップと、 前記適応識別関数の関数値からクラスを決定するクラス
    決定ステップと を含むことを特徴とする識別方法。
  9. 【請求項９】 入力された音声の特徴ベクトルを所定ク
    ラスに分類することにより音声を認識する音声認識装置
    において、 変動状態に依存しない識別関数を構成するパラメータを
    記憶するパラメータ記億手段と、 前記特徴ベクトルに基づいて、前記識別関数を所定の話
    者に適応させるための適応用パラメータを算出する話者
    適応手段と、 前記識別関数を構成するパラメータを読み出し、前記識
    別関数を前記適応用パラメータにより適応させて適応識
    別関数を構成するパラメータを算出する適応パラメータ
    算出手段と、 前記適応識別関数を構成するパラメータおよび前記特徴
    ベクトルから適応識別関数の関数値を演算する識別関数
    演算手段と、 前記適応識別関数の関数値からクラスを決定するクラス
    決定手段と を備えることを特徴とする音声認識装置。
JP24789095A 1995-09-26 1995-09-26 識別装置および識別方法、並びに音声認識装置および音声認識方法 Expired - Lifetime JP3536471B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP24789095A JP3536471B2 (ja) 1995-09-26 1995-09-26 識別装置および識別方法、並びに音声認識装置および音声認識方法
US08/710,941 US5828998A (en) 1995-09-26 1996-09-24 Identification-function calculator, identification-function calculating method, identification unit, identification method, and speech recognition system
US09/176,138 US6134525A (en) 1995-09-26 1998-10-21 Identification-function calculator, identification-function calculating method, identification unit, identification method, and speech recognition system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP24789095A JP3536471B2 (ja) 1995-09-26 1995-09-26 識別装置および識別方法、並びに音声認識装置および音声認識方法

Publications (2)

Publication Number Publication Date
JPH0990976A JPH0990976A (ja) 1997-04-04
JP3536471B2 true JP3536471B2 (ja) 2004-06-07

Family

ID=17170115

Family Applications (1)

Application Number Title Priority Date Filing Date
JP24789095A Expired - Lifetime JP3536471B2 (ja) 1995-09-26 1995-09-26 識別装置および識別方法、並びに音声認識装置および音声認識方法

Country Status (2)

Country Link
US (2) US5828998A (ja)
JP (1) JP3536471B2 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3584458B2 (ja) * 1997-10-31 2004-11-04 ソニー株式会社 パターン認識装置およびパターン認識方法
US7123166B1 (en) 2000-11-17 2006-10-17 Haynes Michael N Method for managing a parking lot
US6816085B1 (en) 2000-01-14 2004-11-09 Michael N. Haynes Method for managing a parking lot
JP4716605B2 (ja) * 2001-03-29 2011-07-06 株式会社リコー 音声認識装置及び音声認識方法
JP4194433B2 (ja) * 2003-07-07 2008-12-10 キヤノン株式会社 尤度算出装置および方法
GB2424970A (en) * 2005-04-05 2006-10-11 Giga Byte Tech Co Ltd Method and Apparatus for dynamic physical network layer monitoring
JP4298672B2 (ja) * 2005-04-11 2009-07-22 キヤノン株式会社 混合分布ｈｍｍの状態の出力確率計算方法および装置
CN106407976B (zh) * 2016-08-30 2019-11-05 百度在线网络技术（北京）有限公司 图像字符识别模型生成和竖列字符图像识别方法和装置

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4741036A (en) * 1985-01-31 1988-04-26 International Business Machines Corporation Determination of phone weights for markov models in a speech recognition system
JPH06332492A (ja) * 1993-05-19 1994-12-02 Matsushita Electric Ind Co Ltd 音声検出方法および検出装置
US5749072A (en) * 1994-06-03 1998-05-05 Motorola Inc. Communications device responsive to spoken commands and methods of using same
JP2690027B2 (ja) * 1994-10-05 1997-12-10 株式会社エイ・ティ・アール音声翻訳通信研究所 パターン認識方法及び装置
US5638486A (en) * 1994-10-26 1997-06-10 Motorola, Inc. Method and system for continuous speech recognition using voting techniques
US5737489A (en) * 1995-09-15 1998-04-07 Lucent Technologies Inc. Discriminative utterance verification for connected digits recognition

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
Ａ． Ｂｉｅｍ， Ｓ． Ｋａｔａｇｉｒｉ，Ｆｅａｔｕｒｅ ｅｘｔｒａｃｔｉｏｎ ｂａｓｅｄ ｏｎ ｍｉｎｉｍｕｍ ｃｌａｓｓｉｆｉｃａｔｉｏｎ ｅｒｒｏｒ ／ ｇｅｎｅｒａｌｉｚｅｄ ｐｒｏｂａｂｉｌｉｓｔｉｃ ｄｅｃｅｎｔ ｍｅｔｈｏｄ，Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅ １９９３ ＩＥＥＥ Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ａｃｏｕｓｔｉｃｓ， Ｓｐｅｅｃｈ， ａｎｄ Ｓｉｇｎａｌ Ｐｒｏｃｅｓｓｉｎｇ （Ｉ，米国，１９９３年 ４月２７日，Ｖｏｌ．２，Ｐａｇｅｓ ２７５−２７８）
Ｂ． Ｈ． Ｊｕａｎｇ， Ｓ． Ｋａｔａｇｉｒｉ，Ｄｉｓｃｒｉｍｉｎａｔｉｖｅ ｌｅａｒｎｉｎｇ ｆｏｒ ｍｉｎｉｍｕｍ ｅｒｒｏｒ ｃｌａｓｓｉｆｉｃａｔｉｏｎ，ＩＥＥＥ Ｔｒａｎｓａｃｔｉｏｎｓ ｏｎ Ｓｉｇｎａｌ Ｐｒｏｃｅｓｓｉｎｇ，米国，１９９２年１２月，Ｖｏｌ．４０， Ｎｏ．１２，Ｐａｇｅｓ ３０４３−３０５４

Also Published As

Publication number Publication date
JPH0990976A (ja) 1997-04-04
US5828998A (en) 1998-10-27
US6134525A (en) 2000-10-17

Similar Documents

Publication Publication Date Title
EP0966736B1 (en) Method for discriminative training of speech recognition models
US5440662A (en) Keyword/non-keyword classification in isolated word speech recognition
US5675706A (en) Vocabulary independent discriminative utterance verification for non-keyword rejection in subword based speech recognition
JP4531166B2 (ja) 信頼性尺度の評価を用いる音声認識方法
US5812975A (en) State transition model design method and voice recognition method and apparatus using same
US4783804A (en) Hidden Markov model speech recognition arrangement
JP5418223B2 (ja) 音声分類装置、音声分類方法、および音声分類用プログラム
US6076053A (en) Methods and apparatus for discriminative training and adaptation of pronunciation networks
EP0921519A2 (en) Technique for adaptation of hidden Markov Models for speech recognition
EP1465154B1 (en) Method of speech recognition using variational inference with switching state space models
US5594834A (en) Method and system for recognizing a boundary between sounds in continuous speech
WO1998040876A9 (en) Speech recognition system employing discriminatively trained models
AU684214B2 (en) System for recognizing spoken sounds from continuous speech and method of using same
EP0788649A2 (en) Method and system for pattern recognition based on tree organised probability densities
Katagiri et al. A new hybrid algorithm for speech recognition based on HMM segmentation and learning vector quantization
McDermott et al. Prototype-based minimum classification error/generalized probabilistic descent training for various speech units
JP3536471B2 (ja) 識別装置および識別方法、並びに音声認識装置および音声認識方法
KR100574769B1 (ko) 최우법을 포함한 고유음성에 기초한 화자 및 환경 적응 방법
JP2852298B2 (ja) 標準パターン適応化方式
KR101229108B1 (ko) 단어별 신뢰도 문턱값에 기반한 발화 검증 장치 및 그 방법
JP2996925B2 (ja) 音素境界検出装置及び音声認識装置
Yu et al. Speaker recognition models.
JP3448371B2 (ja) Ｈｍｍの学習装置
JP3166708B2 (ja) 音声認識装置及び方法
Rigoll Information theory-based supervised learning methods for self-organizing maps in combination with hidden Markov modeling

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20040224

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20040308

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080326

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090326

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100326

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100326

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110326

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130326

Year of fee payment: 9