JP3163185B2 - パターン認識装置およびパターン認識方法 - Google Patents

Description

【発明の詳細な説明】

【０００１】

【産業上の利用分野】本発明は、音声、文字、画像デー
タ等を認識することを目的とするパターン認識装置に関
するものである。

【０００２】

【従来の技術】音声、文字、画像データ等を認識するこ
とを目的とするパターン認識の分野で、これまでに提案
されている典型的なパターンマッチング法は、入力パタ
ーンから特徴ベクトルを生成し、この特徴ベクトルを含
むベクトル空間内において、それら特徴ベクトルの分布
をガウス分布であると仮定することによって何らかの識
別を試みるものであった。

【０００３】しかしながら、実際にはこれら特徴ベクト
ルの分布は一般に、必ずしもガウス分布とは限らないの
であり、むしろガウス分布に限定されない場合のほうが
多く存在している。このようなガウス分布に寄らない場
合には認識率が上がらず、認識率の向上はこれからの課
題となっている。

【０００４】これに対して、ニューラルネットワーク方
式や、様々な非線形識別手段が提案されている。それら
は実際の分布に対する正しいモデルを導入したものでは
無いことから、前記問題の本質的解決にはならなかっ
た。たとえば、ニューラルネットについては、自動的に
分布に適応した認識系が構成されると主張されている
が、実際には現実の分布に対してどの様なモデルがどの
位の近似度で適用されているのかを知ることができず、
また設計段階でその様なことを考慮することもできなか
った。

【０００５】例えば、図１０に示すような入り組んだ２
個のカテゴリの分布Ｅ7 と分布Ｅ8 は、それぞれの重心
の位置がほぼ一致しており、また線形分離、すなわち直
線で分離することが不可能で、またガウス分布に基づく
様な方式でも、分布がガウス型ではないことからうまく
識別することはできないものである。また、これをニュ
ーラルネットワーク方式を用いて識別しようとしても、
何がどのように区別されるのかは確定されず、そのため
ニューラルネットワークでそれが正しく認識が行なわれ
る保証はなにもなかった。なお、実際は図１０に例示し
た様な単純な形状の場合についてはニューラルネットに
よる識別が可能であると推定されるが、もっと複雑なケ
ースでは何も保証されない。

【０００６】また、これまでの方式については辞書設計
や改良段階で実際のパターン分布を参照することが不十
分であり、任意にある種のガウス型分布を仮定して識別
を行うようにしていたので、効果的な辞書生成を行うこ
ともできなかった。

【０００７】

【発明が解決しようとする課題】本発明は上記事情に鑑
みなされたもので、入力パターンから生成される特徴ベ
クトルの空間内の分布が、ガウス分布とはかけ離れたも
のであっても、この分布をガウス型であると想定するマ
ッチング手段を適用することにより、それらを分離し、
認識することができるパターン認識装置およびパターン
認識方法を提供することを目的とする。

【０００８】また、当該パターン認識装置における辞書
作成を容易にする辞書提示機能を提供することを目的と
する。

【０００９】

【課題を解決するための手段】上記目的を達成するため
本願第１の発明は、パターンデータを入力するパターン
入力手段と、このパターン入力手段に入力されたパター
ンデータから特徴ベクトルを抽出する特徴抽出手段と、
この特徴抽出手段で抽出された特徴ベクトルのベクトル
空間内における分布を近似する部分集合について、その
集合内の各点が所定の線形空間に写像される非線形変換
を行なう非線形変換手段と、予め標準のデータが登録さ
れる辞書手段と、この辞書手段に登録された標準のデー
タと前記非線形変換手段による非線形変換後のデータと
を比較しこの比較結果をパターン認識の結果として出力
する比較手段とを有することを要旨とする。

【００１０】また、本願第２の発明は、第１の発明のパ
ターン認識装置において、認識対象から得られるベクト
ルが含まれるベクトル空間と、このベクトル空間内にお
ける当該ベクトルの分布とを提示する辞書提示手段を有
することを要旨とする。

【００１１】

【作用】上述の如く構成することにより、本願第１の発
明のパターン認識装置は、入力パターンから生成される
特徴ベクトルの空間内の分布は一般に必ずしもガウス分
布とは限らないが、これらは非線形変換によりガウス型
に近い形に変換されることに基づいて、このガウス型に
分布する様に変換されたデータに対してガウス型分布を
前提としたマッチング手段を適用することにより最適な
認識を実現するものである。

【００１２】例えば、図１０（ａ）に示すような入り組
んだ２個のカテゴリの分布Ｅ7 と分布Ｅ8 は直線では分
離できない、線形分離不可能である。またガウス分布に
基づく様な方式でも、これらは分離不可能である。これ
に対して、非線形変換を導入して曲った軸Ｌ7 と直線軸
を図１０（ｂ）に示す様な直交する軸Ｌ7aに変換すれ
ば、これらはガウス分布に基づくパターンマッチング法
で分離可能となる。あるいはもっと単純に線形分離可能
となる。

【００１３】本願第２の発明の辞書提示機能は、辞書作
成時にパターン分布が表示されるので、専門家はもとよ
り一般ユーザによる辞書改良も容易に行なえる。

【００１４】

【実施例】以下、本発明に係る一実施例を図面を参照し
て説明する。図１は本発明に係るパターン入力装置の構
成を示したブロック図である。

【００１５】図１に示すように、本実施例のパターン入
力装置は、画像データ等が入力されるパターン入力部１
と、このパターン入力部１と接続される特徴抽出部３
と、この特徴抽出部３と接続される非線形変換部５と、
この非線形変換部５と接続されるマッチング部７と、こ
のマッチング部７と接続される辞書部９及び結果出力部
１１によって構成される。

【００１６】以下、各構成について説明する。パターン
入力部１は、音声データや文字の画像データなどが本装
置に入力されて電気信号に変換され、それらが未加工の
状態で特徴抽出部３へ出力する部分である。特徴抽出部
３は、これら入力されたデータに対して何らかの加工を
施して特徴ベクトルに変換する部分である。この特徴ベ
クトルは一般にｎ次元空間の１点に対応している。この
特徴ベクトルは次に非線形変換部５に入力される。

【００１７】この非線形変換部５は次の様な特徴を有す
る。ここでは、システムの認識系を構成する為に使用さ
れる学習用の複数個の特徴ベクトルのｎ次元空間内にお
ける分布を、たとえば自乗誤差最少の意味で最適に近似
する多様体について、その多様体内の各点が何らかの線
形空間に写像するような変換が行なわれる。この多様体
は例えば１、または２次元からなる２次曲線または曲面
を構成するものである。ここで変換されたデータを線形
特徴データと呼ぶ。この線形特徴データはガウス分布に
近い分布をしていることが特徴である。この変換は認識
カテゴリ毎にあらかじめ設定された変換関数や変換手段
によって実現される、つまりカテゴリ毎にこの変換が行
なわれる。しかしながら、それが幾つかのカテゴリをま
とめたグループ単位や、あるいは全体を通して同一の変
換が行なわれるように構成しても良い。

【００１８】非線形変換部５からの出力はマッチング部
７に入力される。このマッチング部７では入力された線
形特徴データが、例えば、辞書部９に登録された標準の
線形特徴データと比較され、その結果、もっとも近いと
された標準線形特徴データの属する認識カテゴリが認識
結果として出力される。この比較には例えばマッチング
法が使われる。マッチング法にはユークリッド距離、シ
ティブロック距離、マハライビス距離、複合類似度、部
分空間法などが知られている。この出力は例えば、編集
されて結果出力部１１を通して外部に出力される。この
結果出力には、答え無し、即ちリジェクトや１個の答え
を出力するケースや複数の答えを出力するケースがあ
る。各々の答えに類似度や信頼度が付属されていても良
い。

【００１９】また、特徴抽出部３と非線形変換部５とを
合成して、一度に両方の処理を行なうようにも構成する
ことができる。

【００２０】図２に示すフローチャートを参照して本実
施例における処理の流れを説明する。

【００２１】まず、ステップＳ１において、音声データ
や文字の画像データなどがパターン入力部１を介して入
力され電気信号に変換される。続いてステップＳ３に進
み、特徴抽出部３で、これら入力されたデータに対して
後述する「ぼかし変換」等の加工を施して、特徴ベクト
ルを抽出する。この抽出された特徴ベクトルは非線形変
換部５に入力される。

【００２２】この非線形変換部５では、特徴ベクトルに
関して所定の線形空間に写像する変換が行なわれる。こ
の変換は認識カテゴリ毎に行なわれる。したがって、初
期設定としてｉ＝０として（ステップＳ５）、ステップ
Ｓ７を介してステップＳ９に進み、第１番目のカテゴリ
に関する非線形変換を施す。

【００２３】次に非線形変換部５からの出力はマッチン
グ部７に入力され、ステップＳ１１では、この第１番目
のカテゴリの辞書部９に登録された標準の線形特徴デー
タと当該入力された線形特徴データが比較され類似度が
得られる。

【００２４】ステップＳ１３で類似度のソートが行われ
た後、ステップＳ７に戻る。このステップＳ７乃至ステ
ップＳ１３の処理を全てのカテゴリに対して行い、終了
した後にステップＳ１５に進む。その結果、上位Ｍカテ
ゴリのパターンに対応する文字コードと類似度のリスト
を作成して出力する。

【００２５】次に文字認識の実施例について説明する。
図３に入力された文字パターン２１の例を示す。マッチ
ングのための前処理として特徴抽出部３において、ここ
では「ぼかし変換」を行う。これは例えば入力パターン
にｋ×ｋのガウス関数型のフィルタを、適当な間隔たと
えばｋ／２の間隔でかけることによって得ることができ
る。図３にこのぼかし変換によって得られたパターン２
３を示す。ここでは１０×１０の画素からなる１００次
元の特徴ベクトルを示し、また、この１００次元ベクト
ル空間の部分空間である適当な２次元空間の例を図示し
た例が図４である。

【００２６】この図４において、Ｄはある１つのカテゴ
リの学習データの分布を表しており、１点１点が１個の
学習用入力パターンから得られた特徴ベクトルに対応し
ている。この例では分布はバナナの様な形状をしている
ことから、ここでは仮にバナナ分布と称する。また、ｖ
a とｖb はこの分布の主成分ベクトルを表している。

【００２７】ここでバナナ分布をこれらの主成分方向Ｌ
a とＬb に射影したそれぞれの１次元分布はＥA ，ＥB
であり、これらはあたかもガウス分布の様な形状をして
いる。すなわち、従来の認識方式ではこの様なガウス分
布を仮定していたので、認識精度を上げることができな
かった。

【００２８】例えば、他のカテゴリのパターンが図４に
示す主成分ベクトリＶA とＶB の原点付近のＰ0 に存在
していたとして、主成分の軸Ｌa ，Ｌb を見ていただけ
では、その点Ｐ0 のパターンと分布Ｄに存在しているパ
ターンを見分けることはできない。何故なら、軸ＬA ，
ＬB 上では点Ｐ0 はＰA やＰB の位置に見えるからであ
る。

【００２９】本実施例ではこれに軸Ｌ0 に示す様なバナ
ナ分布に対する近似曲線を導入する。この曲線Ｌ0 に沿
って点Ｄを図５に示す様な分布Ｄ1 に変換する。図５で
は曲線Ｌ0 はＬ1 に示す様な直線に変換されている。こ
れは点Ｄの曲線Ｌ0 への垂線の長さを保存するように直
線Ｌ1 の周囲に移し変えることによって実現される。こ
の変換により、例えば点Ｐ0 は点Ｐ1 に移り、これによ
り通常のガウス分布に基づく認識手法でも、点Ｐ1 と分
布Ｄ1 の区別がつくようになる。

【００３０】次に、その近似曲線の求め方について説明
する。ここでは、この近似曲線を図６に示す様な放物線
であると仮定し、各点を（ｘi ，ｙi ）とし、点の個数
をＫとする。このときに、

【数１】Ｙi ＝ｙi −（ａｘi ² ＋ｂｘi ＋ｃ） とおいて、

【数２】 を最小化するようにａ，ｂ，ｃを決めれば近似放物線を
求めることができる。また、ａ，ｂ，ｃは次の方程式に
おいて、逆行列を計算することによって求めることがで
きる。

【００３１】

【数３】 ここでの近似曲線計算は曲線への垂線長さではなく、点
から曲線へのｙ軸方向の距離の和を最小化する様に構成
したものである。

【００３２】ここでは放物線での例を用いて説明した
が、上記以外の放物線の求め方でも良く、また例えば円
や円弧近似でも同様のアプローチが可能である。一般的
には２次曲線まで同様の手法を拡張できる。もちろん、
それ以外の評価基準や計算手法で近似曲線を求めても何
らさしつかえない。

【００３３】次に、複合類似度法によってこれらと辞書
とのマッチング計算が行なわれる。線形特徴データのベ
クトル表現を｛Ｘi ｝とし（但し、i をベクトルの次元
とする）、辞書をＬ個のベクトルと固有値｛Ｆ(n) ij｜
ｊ＝０，……，（Ｌ−１）｝とλ(n) ｊする時、類似度
Ｓ(n) は

【数４】 で与えられる。また、別の尺度として部分空間法を採用
すれば、それは

【数５】 となる。これらの類似度の内、最大の値を取るものがＳ
(k) である場合、認識結果はｋあるいはｋに対応する文
字コードが答えと言うことになる。

【００３４】図７は第２の実施例を説明するための、ね
じれ曲面を表している。入力パターンはこの曲面の周囲
に分布しているとすれば、これもガウス分布以外の例と
なる。この分布を図中のＺ軸３１上での断面で見ると図
８に示すような分布をしている。この場合にはねじれ曲
面を図７に示すようなメッシュ状の小領域３３で分割
し、これら小領域単位に曲面上の点を線形空間に移すこ
とにより非線形変換を実現する。

【００３５】例えば、空間内の任意の点について、まず
どの前記小領域に近いかを調べ、それに基づいてその小
領域から対応する線形空間への変換行列により、その点
を変換することによって、前記目的を達することができ
る。ある点がどの小領域に近いかは、すべての小領域に
ついて点とその小領域の距離を計れば良いが、それは小
領域を階層的にグルーピングしておいて除々にどのグル
ープにそれが属するかを段階的に決定して行くように構
成して処理時間を節約する方法も考えられる。

【００３６】尚、小領域と点との距離は例えば小領域の
中心点と点の距離で計算すれば簡単である。また、小領
域はある平面の一部なので、そこから変換後の平面への
写像は線形変換となる。これは区分的な変換方式で、前
記の実施例のバナナ分布やそれ以外のケースにも適用で
きる。

【００３７】図９は、第３の実施例を説明する為のパタ
ーンの分布例を図示したものである。ここでは２次元平
面上にＥ3 とＥ4 の塊の分布が存在している場合を示し
ている。この場合にはＬ2 に示す様な曲線で２個の分布
を分解し、それぞれについて代表的な主成分、またはそ
の分布を表現する曲線や超曲面を求め、それらに基づい
た変換をそれぞれ行なった後、原点の位置合わせを行な
って、重ね合わせることにより、非線形変換を実現す
る。Ｅ3a，Ｅ4aにこの重ね合わされた例を示す。この場
合にはこれらの分布を重ね合わせる手法ではなく、これ
らからそれぞれ別々の辞書、すなわちカテゴリは同一だ
が辞書として別々のものを生成する様にしても良い。ま
た、変換を行なわずに重ね合わせても良い。

【００３８】また、２個の非線形変換があった時に、こ
れを組み合わせる方法が可能となる。まず、第１の組合
せ方法は直列方式で、以下に示す。辞書作成時には、学
習データの分布に対して第１の非線形変換を施し、変換
後のデータについて、さらに非線形部分を発見して、そ
れに即して第２の非線形変換を決定し、それを施すと言
うものである。これを繰り返すことにより複数個の非線
形変換を導入する。辞書は最終的に変換された空間上で
作成する。

【００３９】第２の組合せ方法は複数の変換を同時に施
す方法である。非線形変換を施すそれぞれの空間に重な
りが無い場合には、この組み合わせは直列に行なう場合
と同様になる。

【００４０】次に、辞書を作成する際に有効となる機能
について説明する。まず分布を主成分分析して、得られ
た軸の２個の組からなる平面への分布の射影やその平面
での断面図を複数個並べて表示し、分布がガウス分布に
近いかどうかを目視で判断できるような機能がある。ま
た、図８に示す様なある軸や直線に沿って分布の断面図
を並べて表示する機能がある。これらについて、表示の
軸や直線を計算機が主成分分析などにより自動的に求め
る方法もあるが、それだけではなく、オペレータが実際
の表示画面をポインティングデバイス等を用いて指示で
きるようにしても良い。

【００４１】また、学習しようとしているパターンや誤
読したパターン等を分布表示画面上に、それ以外のパタ
ーン分布中に輝度や色を変えて表示する様にしても良
い。また複数のカテゴリの分布をそれぞれのカテゴリに
応じて輝度や色を変えて表示することも可能である。ま
た例えばパターン分布内の複数個の点について、そのパ
ターン画像や特徴ベクトル画像やそれらに関するデータ
そのそれぞれのパターン分布表示内での位置関係に対応
づけた位置に並べて表示する方法を使っても良い。例え
ば、２次元分布上のＡ×Ｂの格子点に対応するパターン
画像をＡ×Ｂ個、２次元的に並べて表示することができ
る。

【００４２】また、分布表示上のある点を指示すること
により対応するパターン画像や特徴ベクトル画像やそれ
らに関するデータ、音声の場合にはそれから合成される
音声を表示または出力するようにも出来る。オペレータ
はこれらの画像をチェックして、学習するかどうか、学
習すべきパターンはどれか、学習方式をどうするか、辞
書生成に使用すべき直線や曲線や超曲面等を指示または
選択できる様にしても良い。

【００４３】これらの分布は、各パターンを１点として
表示する方法や、濃淡やカラーで頻度を表す様にした
り、ワイヤ・フレーム状の３次元表示手段やその他のＮ
次元表示手段を採用して良い。

【００４４】この様な機能を有していることも本発明の
重要な特徴の一つであるが、この部分の発明は、非線形
変換部を持たない認識システムにも有効である。

【００４５】上述してきたように、上記各実施例によれ
ば、非ガウス的分布をした認識対象でも効果的に認識シ
ステムを構築でき、その認識精度は格段に向上する。一
般のパターンが非ガウス的分布を持っていることが多い
ことを考えると、これは画期的な性能向上をもたらすこ
とになる。また、パターン分布状況を表示する機能を兼
ね備えることにより、辞書作成や改良作業が効果的に行
なえ、やはり結果的に高い認識率を確保することができ
るようになる。

【００４６】なお、本発明は上記各実施例に限定される
ものでは無く、本発明はその要旨を逸脱しない範囲で種
々変形して用いることができる。

【００４７】

【発明の効果】以上説明したように本発明は、線形空間
に写像されるような非線形変換を行なうので、入力パタ
ーンから生成される特徴ベクトルの空間内での分布がガ
ウス分布に限定されること無く、かつ高性能な認識が可
能となる。

【図面の簡単な説明】

【図１】本発明の一実施例を示すブロック図である。

【図２】図１に示した実施例における処理手順を示すフ
ローチャートである。

【図３】特徴抽出部におけるボカシ変換を説明するため
の図である。

【図４】２次元空間におけるパターン分布の例を示す図
である。

【図５】図４に示すパターン分布の非線形変換後におけ
るパターン分布の例を示す図である。

【図６】パターン分布上での放物線近似の例を示す図で
ある。

【図７】第２の実施例としての「ねじれ曲面」の例を示
す図である。

【図８】図７に示す「ねじれ曲面」のパターン分布の断
面表示の例を示す図である。

【図９】第３の実施例としての２個に分離したパターン
分布を１個にまとめる例を示す図である。

【図１０】２個のカテゴリのパターン分布を示す図であ
る。

【符号の説明】

１ パターン入力部 ３ 特徴抽出部 ５ 非線形変換部 ７ マッチング部 ９ 辞書部 １１ 結果出力部

───────────────────────────────────────────────────── フロントページの続き (58)調査した分野(Int.Cl.⁷，ＤＢ名) G06T 7/00 - 7/60 G06K 9/62 G10L 15/08 ＪＩＣＳＴファイル（ＪＯＩＳ)

Claims (3)

(57)【特許請求の範囲】
1. 【請求項１】 パターンデータを入力するパターン入力
   手段と、 このパターン入力手段に入力されたパターンデータから
   特徴ベクトルを抽出する特徴抽出手段と、 この特徴抽出手段で抽出された特徴ベクトルのベクトル
   空間内における分布を近似する部分集合について、その
   集合内の各点が所定の線形空間に写像される非線形変換
   を行なう非線形変換手段と、 予め標準のデータが登録される辞書手段と、 この辞書手段に登録された標準のデータと前記非線形変
   換手段による非線形変換後のデータとを比較しこの比較
   結果をパターン認識の結果として出力する比較手段とを
   有することを特徴とするパターン認識装置。
2. 【請求項２】 認識対象から得られるベクトルが含まれ
   るベクトル空間と、このベクトル空間内における当該ベ
   クトルの分布とを提示する辞書提示手段を有することを
   特徴とする請求項１記載のパターン認識装置。
3. 【請求項３】 パターン入力手段から入力され電気信号
   に変換されたパターンデータから、特徴抽出手段が特徴
   ベクトルを抽出し、 抽出された前記特徴ベクトルのベクトル空間内における
   分布を近似する部分集合について、非線形変換手段が、
   その集合内の各点を所定の線形空間に写像して線形特徴
   データに変換する非線形変換を行ない、 予め辞書手段に登録された標準の線形特徴データと前記
   非線形変換後の線形特徴データとを比較手段が比較し、 この比較結果をパターン認識の結果として結果出力手段
   が出力することを特徴とするパターン認識装置によるパ
   ターン認識方法。