JPS60160489A - パタン認識における標準パタン作成方式 - Google Patents

Abstract

(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。

Description

【発明の詳細な説明】 本発明はバタン認識における標準バタン作成方式、特に
文字認識、音声認識等のバタン認識において、特徴ベク
トルの系列として記述されたバタンを用いて認識処理を
行なうときの標準パタンを作成する方式に関する。

従来バタン認識において、最も重要な処理は特徴抽出処
理と、種々のバタンマツチング法を含んだ判定処理であ
った。その重要性は現在も変わらないが、種々のバタン
認識での認識率が向上し、実用化が意識されるにつれて
、標準バタンの良し悪しの占める比重が大きくなシつつ
ある。認識過程で扱われるバタンか多次元空間の１点を
示す特徴ベクトルとして表わされる場合は、用意された
複数個の学習パタンからよシ良い標準パタンを作成する
方法が研究され、提案されているが、特徴ベクトルの系
列として記述されたバタンか非線形処理によって認識処
理が行なわれるような場合には、複数個の学習データか
ら標準パタンを自動的に作成することは一般に行なわれ
ていない。

本発明は前記非線形処理によって認識処理が行なわれる
ような場合において、複数個の学習パタンからよシ良い
標準バタン全自動的に作成する標準バタン作成方式を提
供するものであシ、これによって認識処理による認識率
を向上させ、且つ標準バタン作成のための工数を大幅に
軽減できる。

本発明によると特徴ベクトルの系列として表わされるバ
タンを用いたバタン認識に必要な標準パタンを複数個の
学習バタンを用いて作成する標準バタン作成方式におい
て、第１の仮の標準パｐ７を格納する仮の標準バタン記
憶手段と、順次入力される前記複数個の学習パタンの各
々と前記第１の仮の標準パタンとを入力し両者の伸縮整
合全行ない最適な整合となるときの前記学習パタンの各
々と前記第１の仮の標準パタンとの対応を示す第１の写
像関数を出力する第１の写像関数生成手段と、前記複数
個の学習パタンの各々について得られる第１の写像関数
の平均となる平均写像関数をめる平均写像関数生成手段
と、前記平均写像関数を伸縮正規化用写像関数として前
記第１の仮の標準パタンに第１の伸縮正規化処理を行っ
て第２の仮の標準パタンを作成するＭｌの伸縮正規化手
段と、前記複数個の学習パタンを順次入力し前記第２の
仮の標準パタンとの伸縮整合を行ない最適な整合となる
ときの第２の写像関数を出力する第２の写像関数生成手
段と、前記学習パタンと前記学習パタンに対応する前記
第２の写像関数とを用いて第２の伸縮正規化処理を行な
う第２の伸縮正規化手段と、前記第２の伸縮正規化処理
を行なって得られる前記学習パタンの伸縮正規化バタン
を順次入力し平均バタンを生成する平均バタン生成手段
とを含み、前記平均バタンを標準パタンとして出力する
ことを特徴とするバタン認識における標準バタン作成方
式が得られる。

以下図面を用いて本発明の原理について詳細に説明する
。第１図は特徴ベクトルの系列として表わされる２個の
バタン１０．１１の伸縮整合を行ない、最適な整合とな
るときの写像関数１２を示す図である。第２図は標準パ
タンの違いが認識処理に及はす影響の一例を示すための
図である。第２図（ａＪにおいて１３は標準パタン、１
３０は各写像関数の始点と終点を結ぶ直線、　１３１，
１３２゜１３３．１３４，１３５は前記標準パタン１３
と同じカテゴリＡのサンプルバタンとの間の写像関数、
１３ｊ、１３７は前記標準パタン１３と異なるカテゴＩ
Ｊ　Ｂのサンプルバタンとの間の写像関数とする。

従来のパタン認識方式では伸縮整合を行なって得られる
類似度のみで判定処理を行なっていたので、前記１３１
．・・・、１３７の写像関数をめたときに得られる類似
度がほぼ同じ値になるとき、カテゴリＡとカテゴリＢと
の識別が困難であったＯ第２図（ｂｌにおいて、１４は
前記標準パタン１３を伸縮正規化して得られるカテゴ１
７　Ａの標準パタンであシ、１４０は各写像関数の始点
と終点を結ぶ直線、１４１，１４２，１４３，１４４，
１４５は前記カテゴリＡのサンプルバタンと前記標準パ
タン１４との写像関数、１４６，１４７は前記カテゴリ
Ｂのサンプルバタンと前記標準パタン１４との写像関数
とする。

若し、前記１４１．・・・、１４７　の写像関数をめた
ときに得られる類似度がほぼ同じ値になるとしても、前
記直１ｓ１４０と各写像関数の離れ具合で前記カテゴリ
Ａと前記カテゴリＢとを識別する仁とができる。また類
似度をめるときに、写像関数が直ｆｆＭ１４ｏから離れ
る程ペナルティを加えるように類似度を定めると、類似
度の判定能力が更に増すことになる。

従って、第２図（ａバｂ）の例でパタン１３よシはパタ
ン１４の方が標準パタンとして好ましいことがわかる。

前記パタン１３がら前記パタン１４ｔｌ−生成する手段
を以下に述べるが、同時にこれが本発明の原理である。

写像関数１３１．・・・、１３７をそれぞれｊ＝ψｘ（
ｊ）、　ｊ　＝ψ意（ｉ）、・・・＋Ｊ＝ψ７（ｉ）と
する。ここでカテゴ＋７　Ａの写像関数の荷重平均とし
て得られる関数を Ｊ−ψ（ｉ） とすると、ψ（ｉ）は次式のようにしてまる。

ここでＷＫ（Ｋ＝１．−・、ｓ）は荷ｉでｓｂ、ｗＫ＝
１（ｃ＝ｘ、・・・、５）のときψ（ｆＪは単純平均と
なる〇このようにして得られる前記関数ｊ＝ψ（ｉ）を
用いて、第３図に示すような操作で、前記パタン１３か
ら写像関数ｊ＝ψ（ｉ）を示す１５を経て、前記パタン
１４が生成できる。式で表現すると、パタン１３をＪ　
”　Ｊ　ｓｓ　（１）　ｒ前記バタン１４をｊ　＝　ｊ
ｓ＜　（ｉ）とすると、 ｊｔｄｊ）二ｊｔｓ　（ψ（ｉ）） で表わされる非線形正規化処理で前記パタン１３から前
記パタン１４が得られる。前記パタン１４が第２の仮の
標準バタンである。

そこで前記各学習パタンと前記パタン１４との第２の写
像関数を 、　△　、　△ 」＝ψ＋（１）＋Ｊ＝ψ２（＋）、・・・＋Ｊ＝９５（
ｉ）とすると、これは第２図（ｂ）の写像関数１４１，
１４２゜１４３．１４４，１４５である・ 前記各学習バタンを Ｊ　”　ｆｘ　（’）　ｒ　Ｊ　＝　ｆｓ　ＩＬ・・・
、ｊ＝ｆｓ（ｉ）とし第２の非線形正規化処理で得られ
る各パタンとすると、 △ ｆＫｕ）　＝　ｆＫ（ｆＫ（ｊ）） である＠（Ｋ＝１＋２＋３＋’ｌ＋５）従って標準バタ
ン△ ｊ　＝　ｆｓ（ｉ）は前記非線形正規化パタンｊ　＝　
、ｆＫ（ｉ）の荷重和で次式のようにして定める １（Ｋ＝１１・・・、５）のときｆｓ（ｉ）は単純平均
となる。

認識対象のパタンｊ　＝　ｊ　（ｉ）が／２飴バタンと
して扱ってよい場合には、前記非線形正規化バタンの荷
重和をとったパタンと前記仮の標準バタンを前記写像関
数ｊ＝ψｔｉ）で非線形正規化して得られるパタンとは
ｌ類似したパタンとな以類似度の値に影響を与えないが
、前記認識対象のパタンｊ＝ｊ（ｌｌが多値パタンとし
て扱われる場合には、前記パ△ タンｊ　＝　ｆＫ（ｉ）の荷重平均で標準パタンをめる
ことが平均的な類似度のｎ度を高めるために必要となる
。尚こζではに＝５として説明を行なったが％にの値は
特に５と定めるものではなく任意である。

第４図（ａ）　ｌ　（ｂ）　、　（Ｃ）　ｌ　（ｄ）は
伸縮整合処理の一つであるＤＰマツチング法の一例を説
明するための図である。

標準バタンＡ、がＭ次元ベクトル禍、Ａｇ、山。

Ａｏの系列から成シ、入力バタンＡがＭ次元ベクトルＡ
　、Ａ　、・・・、Ａ　の系列から成っているとする。

また標準パタンの任意のベクトルＡｊと、入力バタンの
任意のベクトルＡとの距離をｄ（ｓ＋ｊ）とする。単純
な整合をとると、入力バタンＡと標準パタンＡｏとの相
違度Ｄ　（Ａ　、　Ａｏ）　ｉｆ、例えば下式でめるこ
とになる。

〜 盈 Ａｏとを対応させて、両バタンの相違度をめているが、
同図の写像関数Ｊ＝ψ（り上で、ＡＩとＡＡとを対応さ
せることができれば、両パタンの相違度をめるのに、入
カバタフＡを部分的に伸縮して標準バタンＡｎと整合を
とることができる。

ＤＰマツチング法は、入力バタンを部分的に伸縮して整
合をとるための手法であシ、例えは第４図（ｂ）では下
記の初期値及び漸化式から、ｌＮ＊Ｎ）をめることによ
シ、写像関数ｊ＝ψ（ｉＪ上でＡＩとＡ４と全対応させ
て整合をとることができる。

、！ｉ’（１，１）：ｄ（１，１） 、１７（ｉ、ｊ）＝ｄ（ｉ、ｊ）＋ｍｊｎ（Ｊ９（ｉ−
Ｌｊ）＋ｇ（ｉ　Ｌｊ−１）＋ｇ（ｉ−１，ｊ−２）） たたし、ｄ（ｔ＋ｊ）＝〜（ｊ≦Ｏまたはｊ≦０）であ
る。

第４図ｔｅｌは上記漸化式をめるＤＰマツチング法の一
例を示すための図であシ、入力バタンは５個の一次元ベ
クトル、すなわちスカラー量の系列（１，２＋４＋５＋
５）　であシ、標準バタンは同じく５個の系列（ｚ　１
２１　ａ　、４ｒ　５）であシ、（１＋ｊ）が（１，１
）、（２，２）、（３，４）、（４，５）。

（５ｔ５）となる写像関数上の伸縮整合を行なっている
。

第４図（ｄｌは上記漸化式計算の計算量を減少させるた
めに ｉ−Δ≦ｊ≦ｉ＋Δ の範囲内で、漸化式計算を行なうことを示しておシ、一
般にＤＰマツチング法では、この範囲を整合窓と呼び、
実際に計算量の効率化を図っている。

前記漸化式は単に相違度をめるためだけのものであるが
、 ｍ１ｎ（、！ｉ’（ｔ　ＬＪＬｇ（ｆ　ＬＪ　１）＋Ｉ
Ｉ（Ｉ　Ｌｊ−２））−４（ｉ−１，Ｊ（１−１＞）（
ただしｊ（五−１）はＪ＋３　１＋Ｊ　２のいずれがで
ある）のとき、 ｈ（ｆ、ｊ）：＝ｊロー１） として、関数ｈ（ｘ＋ｊ）をめておくことにより、相違
度がめられた後にｈ（ｉ、ｊ）の値をｈ（Ｎ、Ｎ）から
順次ｈ（１，１）までめることによシ写像関数をめるこ
とができる。例えば第４図（Ｃ１の例では　ｈ（ｓ、ｓ
）はｈ　（５，５）＝５．ｈ（４，５）＝４．ｈ（３，
４）＝２．ｈ（２，２）＝１ であるから、写像間ａ（ｉ　、　ｊ　）が（１，ＩＬ（
２，２）ｌ（３，４）、（４，５）＋（５，５） とまる。

第５図は伸縮正規化処理の一例を示すだめの図であ）、
Ｘ１ｉ）（１≦ｉ≦１６）は入力バタン、Ｙ（ｊ）（１
≦ｊ≦１６）は伸縮正規化バタンで、ｊ二ψ（ｆＪは伸
縮正規化のだめの写像関数でおる。この例ではＹｔｊ）
は次の規則によって定まる。

（１１ｊ＝ψ（旬〉ψ（ｉ−ｔ）且つψ（ｉ）〈ψ（ｔ
＋ｉ）のときＹ（ｊｌ＝Ｘ（ｉＪ （２）　ｊ＝ψ（ｉ沖ψ（ｉ−１）＋２のとき　Ｙ　（
ｊ−１）　＝Ｘ（ｉｌ（３１ｊ＝ψ（ｉ）＝ψ（ｉ−１
）＜ψ（ｉＪｔ）のとき　Ｙ（ｊ　）＝Ｘ（ｆ　１次に
本発明の尖施例を図面について説明する。

第６図線本発明の実施例の構成図であり、２は仮の標準
バタン記憶手段で、２０は第１の仮の標準バタンとなる
複数個の学習パタンの中の１個を示す信号であ少、前記
信号２０として入力した第１の仮の標準バタンを格納し
、信号２２として、後述する第１の写像関数生成手段３
と第１の伸縮正規化手段５に第１の仮の標準バタンを供
給する。

第１の写像関数生成手段３は前記複数個の学習バタンを
１個ずつ信号２１として順次入力し、第１の写像関数を
め、信号２３として順次出力する。

４は平均写像関数生成手段で、前記信号２３として順次
入力されるすべての第１の写像関数の荷重平均をめるこ
とによシ平均写像関数を定め、信号２４として前記平均
写像関数を出力する。伸縮正規化手段５は前記第１の仮
の標準バタンを信号２２として、前記平均写像関数を信
号２４として入力し、非線形正規化処理を行なって得ら
れる第２の仮の標準バタンを信号２５として出力する。

６は第２の写像関数生成手段でるシ、前記第２の仮の標
準バタンを信号２５、ηり記字習パタンを信号２１とし
て順次入力し、信号２６として第２の写像関数を出力す
る。７は第２の伸縮正規化手段であ）、前記学習パタン
を信号２１、前記学習パタンに対応する第２の写像関数
を信号２６として順次入力し、前記学習パタンに対応す
る伸縮正規化バタンを信号２７としてｊ＠次出出力、８
は平均バタン生成手段で、信号２７として順次入力され
るすべての前記伸縮正規化バタンの荷重平均をめ、平均
バタンを信号２８として出力し標準バタンとする。

上記説明において前記仮の標準バタン記憶手段２は１通
常用いられているものでよい。

第７図は前記写像関数生成手段３の構成の一例を示すた
めのブロック図である。ここでの処理は前記ＤＰマツチ
ング法の説明の中の、漸化式Ｃｒｔｊ）の計算と、漸化
式計算の結果得られる軌跡ｈ（ｉｌ　Ｊ）をめ、ｈ（’
Ｉｊ）から写像関数全求めるものである。

２１は順次入力される前記学習バタンを示す信号で特徴
ベクトルの系列Ａ’　、　Ａ”　、・・・、Ａ　に対応
し、２２は前記仮の標準バタンを示す信号で特徴ベクト
ルの系列ＡＡ　ＨＡ：　Ｈ・・・、Ａｏに対応し、３１
は距離演算部で上記２信号を入力とし、ｄ（ｉ、ｊ）を
計算し、信号３１１として出力する。３２は前出の漸化
式 ％式％（ ）） を計算する漸化式演算部で、ｄ（１＋ｊ）を信号３１１
ｙ　ｍｌｎ（ｇ（Ｉ　ＬＪ）＋Ｎ（Ｉ　ＬＪ　１）＋Ｊ
ｉ’（ｉ−ｘ　ｔ　ｊ−２））を信号３４１として入力
し、演算結果の１１　（ｓ　ｌ　Ｊ　）を信号３２１と
して、累積値記憶部３３に出力する。

３４は最小値選択部で、累積値記憶部３３からｇ（ｔ−
ｔｒｊ）＋Ｆ（１−１ｒｊ−ｔ）そしてｇ（ｉ−１゜ｊ
−２）を信号３３１、信号３３２そして信号３３３とし
て読込み、ｍｌｎ　（９（ｉ−ＬｊＬ、！ｉ’（ｉ−１
゜Ｊ　１）＋ｇ（＋　ＩＩＪ　２））を信号３４１、そ
してｈ（ｔｒｊ）を信号３４２として写像軌跡記憶部３
５に出力す３゜漸化式演算が終了すると前記写像軌跡記
憶部３５から写像関数音信号２３として出力する。

上記説明において、距離演算部３１、漸化式演算部３２
、累積値記憶部３３、最小値選択部３４、写像軌跡記憶
部３５はいずれも通常の記憶手段、加算等の演算手段、
比較手段を用いて容易に実現できる。

前記平均写像関数生成手段４は、前記信号２３として入
力される写像関数を逐次加算し、荷重平均をとるもので
あるが、これは通常の記憶手段、加算９乗算等の演算手
段を用いて容易に実現できる。尚、荷重平均処理の荷重
は認識対象のバタンの性質によって変わるが、前記性質
が未知のときには単純平均でもよい。

前記第２の写像関数生成手段６は前記写像関数生成手段
３と全く同一の構成のものでよい。同様に前記第２の伸
縮正規化手段７は前記伸縮正規化手段５と全く同一の構
成のものでよい。　：前記平均バタン生成手段８は、前
記信号２７として入力される伸縮正規化パタンを逐次加
算し、荷重平均をとるものであるが、これは通常の記憶
手段、加算９乗算等の演算手段を用いて容易に実現でき
る。尚荷１平均処理の荷重は認識対象のバタンの性質に
よって変わるが、前記性質が未知のときには単純平均で
もよい。

このようにすれは複数個の字素バタンと仮の標準バタン
どから得られる複数個の写像関数の平均写像関数をめ、
前記仮の標準バタンと前記平均写像関数とから、第２の
仮の標準バタンをめ、前記第２の仮の標準バタンと各学
習バタンとから各々の第２の写像関数をめ、次に各々の
伸縮正規化パタンの平均パタンをめ、前記平均パタンを
標準バタンと定めることによシ、偏シの少ない標準バタ
ン全自動的に得ることができる。この偏シの少ない標準
バタンを用いることによシ、認識率の向上を計ることが
でき、更に認識のための伸縮整合処理としてＤＰマツチ
ング法を用いる場合には、偏シの大きい標準バタンに比
べて整合窓幅を狭くできるので、計算量を減らす効果も
得られる。また自動的に処理できることから、標準バタ
ン作成のための工数を大幅に減らすという効果も得られ
る。

尚以上の説明では標準バタンと入力バタンの系列が同じ
長さとしてきたが、若し長さが異なる場合には長さの正
規化等の前処理を行なえはよく、また前処理によってバ
タンの形状が大きく変わる場合は、別のサブカテゴリー
として取シ扱えばよい。従って本発明は必すしも１つの
カテゴリーのすべての学習バタンに対して適用するもの
ではなく、サブカテゴリ一単位で適用すれば、よシ以上
の効果が得られる。また伸縮整合処理はＤＰマツチング
に限ることはなく、またＤＰマツチングを用いる場合で
も、使用する漸化式は本発明の漸化式に限るものではな
い。また仮の標準バタンは、あらかじめ用意されたもの
ではなく、複数個の学習バタンの中から１個を選択した
ものでもよい。

本発明は複数の学習バタンからよシ良い標準パタンを自
動的に作成することができ、認識処理による認識率を向
上させ、且つ標準バタン作成のだめの工数を大幅に軽減
できる効果がおる。

【図面の簡単な説明】

第１図は特徴ベクトルの系列として表わされる２つのバ
タンの伸縮整合を行なったときの写像関数を示す図、第
２図は標準パタンの違いによる写像関数の違いを示す図
で、（ａＪは複数個の学習バタンに対して偏シの大きな
標準パタンの場合、（ｂ）は偏シの少ない標準パタンの
場合である。第３図は写像関数を用いて伸縮正規化処理
を行なうことを示す図、第４図（ａｌ〜（ｄｌはＤＰマ
ツチング法の一例を説明するための図、第５図は伸縮正
規化処理の像関数生成手段、５は伸縮正規化手段、６は
第２の写像関数生成手段、７は第２の伸縮正規化手段、
８は平均バタン生成手段、３１は距離演算部、３２は漸
化式演算部、３３は累積値記憶部、３４は最小値選択部
、３５は写像軌跡記憶部。 馬　！　圓 応　２（２） Ｊ （Ｌ）　（ｂ　） 箔３閉 カ４（２） ＜ｂ） ６４図 ｚ４５５ （ｄ）

Claims (2)

【特許請求の範囲】
1. （１）　特徴ベクトルの系列として表わされるバタンを
   用いたバタン認識に必要な標準バタンを複数個の学習パ
   タンを用いて作成する標準バタン作成方式において、第
   １の仮の標準バタンを格納する仮の標準バタン記憶手段
   と、順次入力される前記複数個の学習バタンの各々と前
   記第１の仮の標準バタンとを入力し両者の伸縮整合を行
   ない最適な整合となるときの前記学資バタンの各々と前
   記第１の仮の標準バタンとの対応を示す第１の写像関数
   を出力する第１の写像関数生成手段と、前記複数個の学
   習パタンの各々について得られる第１の写像関数の平均
   となる平均写像関数をめる平均写像関数生成手段と、前
   記平均写像関数を伸縮正規化用写像関数とじて前記第１
   の仮の標準バタンに第１の伸縮正規化処理を行って第２
   の仮の標準バタンを作成する第１の伸縮正規化手段と、
   前記複数個の学習パタンを順次入力し前記第２の仮の標
   準バタンとの伸縮整合を行ない最適な整合となるときの
   第２の写像関数を出力する第２の写像関数生成手段と、
   前記学習パタンと前記学習パタンに対応する前記第２の
   写像関数とを用いて第２の伸縮正規化処理を行なう第２
   の伸縮正規化手段と、前記第２の伸縮正規化処理を行ガ
   って得られる前記学習パタンの伸縮正規化バタンを順次
   入力し平均バタンを生成する平均バタン生成手段とを含
   み、前記平均パタンを標準バタンとして出力することを
   特徴とするバタン認識における標準バタン作成方式。
2. （２）　特許請求の範囲第（１）項記載のバタン認識に
   おける標準バタン作成方式において、前記平均バタン生
   成手段に前記第２の仮の標準バタンも入力して平均パタ
   ／を生成するバタン認識における標準バタン作成方式。