JP2957097B2 - パタン認識用辞書作成方法およびパタン認識方法 - Google Patents
パタン認識用辞書作成方法およびパタン認識方法Info
- Publication number
- JP2957097B2 JP2957097B2 JP6268459A JP26845994A JP2957097B2 JP 2957097 B2 JP2957097 B2 JP 2957097B2 JP 6268459 A JP6268459 A JP 6268459A JP 26845994 A JP26845994 A JP 26845994A JP 2957097 B2 JP2957097 B2 JP 2957097B2
- Authority
- JP
- Japan
- Prior art keywords
- dictionary
- pattern
- class
- learning
- discriminant
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Lifetime
Links
Landscapes
- Character Discrimination (AREA)
Description
【０００１】
【産業上の利用分野】本発明は，文字読み取り装置を始
めとするパタン認識装置において用いるパタン認識用辞
書作成方法およびパタン認識方法，特に認識精度を向上
させる辞書の作成とパタン認識方法に関するものであ
る。
めとするパタン認識装置において用いるパタン認識用辞
書作成方法およびパタン認識方法，特に認識精度を向上
させる辞書の作成とパタン認識方法に関するものであ
る。
【０００２】
【従来の技術】文字認識を例に説明する。文字認識の高
精度化を図る場合，それぞれのカテゴリに属するパタン
分布と，それ以外のカテゴリに属するパタン分布の違い
を強調することが有効である。これを実現するための方
法として，あるカテゴリに着目したときに，その着目カ
テゴリに属するパタン集合，すなわち着目パタン集合
と，その着目カテゴリに誤って認識された，あるいは誤
って認識されそうになったパタン集合，すなわちライバ
ルパタン集合との間で判別分析を行って得られる判別関
数を識別関数に重み付けして加えることにより識別関数
に修正を加える方法がある。これは識別関数と判別関数
の加重和によって識別関数を修正しているため，修正後
も識別関数の形式が変化しないという特徴を持ってい
る。これについては，川谷：距離関数の学習による手書
き数字認識，信学論，Ｄ−II，Ｊ−７６−Ｄ−II，No．
９，pp. １８５１−１８５９，１９９３年または特開平
６−１９５５１７号公報に詳しく述べられている。
精度化を図る場合，それぞれのカテゴリに属するパタン
分布と，それ以外のカテゴリに属するパタン分布の違い
を強調することが有効である。これを実現するための方
法として，あるカテゴリに着目したときに，その着目カ
テゴリに属するパタン集合，すなわち着目パタン集合
と，その着目カテゴリに誤って認識された，あるいは誤
って認識されそうになったパタン集合，すなわちライバ
ルパタン集合との間で判別分析を行って得られる判別関
数を識別関数に重み付けして加えることにより識別関数
に修正を加える方法がある。これは識別関数と判別関数
の加重和によって識別関数を修正しているため，修正後
も識別関数の形式が変化しないという特徴を持ってい
る。これについては，川谷：距離関数の学習による手書
き数字認識，信学論，Ｄ−II，Ｊ−７６−Ｄ−II，No．
９，pp. １８５１−１８５９，１９９３年または特開平
６−１９５５１７号公報に詳しく述べられている。
【０００３】
【発明が解決しようとする課題】しかしながら，この手
法は判別分析によってライバルパタン集合を求める際
に，識別関数に関する情報を蓄積した識別辞書と，判別
関数に関する情報を蓄積した判別辞書の両辞書によって
規定される識別関数と判別関数の結合パラメータを訓練
パタンに対する認識率が最大になるところに設定するた
め，辞書の学習を反復して行う場合には十分な統計量を
得るためのライバルパタンの数が得られず，学習の効率
が上がらない，すなわち学習後の認識率があまり向上し
ないという欠点があった。
法は判別分析によってライバルパタン集合を求める際
に，識別関数に関する情報を蓄積した識別辞書と，判別
関数に関する情報を蓄積した判別辞書の両辞書によって
規定される識別関数と判別関数の結合パラメータを訓練
パタンに対する認識率が最大になるところに設定するた
め，辞書の学習を反復して行う場合には十分な統計量を
得るためのライバルパタンの数が得られず，学習の効率
が上がらない，すなわち学習後の認識率があまり向上し
ないという欠点があった。
【０００４】一方で，識別関数と判別関数の結合パラメ
ータが極めて大きな数になるため，学習後の辞書に格納
される情報が実数表現となり，整数化による演算の高速
化が図れないという欠点があった。
ータが極めて大きな数になるため，学習後の辞書に格納
される情報が実数表現となり，整数化による演算の高速
化が図れないという欠点があった。
【０００５】
【課題を解決するための手段】本発明は上記問題点に対
し，識別辞書と判別辞書によって各々規定される識別関
数と判別関数を結合する際の結合パラメータの値を決定
する時に，最大の認識率を与える結合パラメータより所
定値だけ大きい値を設定して学習辞書を作成し，その学
習辞書を用いて次段の学習を行うためのライバルパタン
を抽出する。
し，識別辞書と判別辞書によって各々規定される識別関
数と判別関数を結合する際の結合パラメータの値を決定
する時に，最大の認識率を与える結合パラメータより所
定値だけ大きい値を設定して学習辞書を作成し，その学
習辞書を用いて次段の学習を行うためのライバルパタン
を抽出する。
【０００６】また，そこで抽出されたライバルパタンに
太め処理あるいは細め処理を施すことによりライバルパ
タンに形状的に類似する疑似的なライバルパタンを作成
し，その疑似ライバルパタンを認識してみて誤認識とな
ったものをライバルパタンに追加する。
太め処理あるいは細め処理を施すことによりライバルパ
タンに形状的に類似する疑似的なライバルパタンを作成
し，その疑似ライバルパタンを認識してみて誤認識とな
ったものをライバルパタンに追加する。
【０００７】また，識別関数と判別関数を結合パラメー
タで結合せずに，まず識別関数を用いて未知パタンに対
する認識を行って複数個の候補クラスを選択する大分類
を行った後に，判別関数を用いて候補クラスの中から最
終的なクラスを決定する。
タで結合せずに，まず識別関数を用いて未知パタンに対
する認識を行って複数個の候補クラスを選択する大分類
を行った後に，判別関数を用いて候補クラスの中から最
終的なクラスを決定する。
【０００８】
【作用】以上の手段によって，辞書を学習する際のライ
バルパタンの数を増やすことにより判別分析をより高精
度に行うことができ，学習を反復して得られる辞書を用
いて未知パタンを認識した時の認識精度を向上させるこ
とができる。また，識別辞書と判別辞書を各々大分類と
詳細識別に用いることによって，結合パラメータを取り
除くことができるので演算の整数化による処理の高速化
を図ることができる。
バルパタンの数を増やすことにより判別分析をより高精
度に行うことができ，学習を反復して得られる辞書を用
いて未知パタンを認識した時の認識精度を向上させるこ
とができる。また，識別辞書と判別辞書を各々大分類と
詳細識別に用いることによって，結合パラメータを取り
除くことができるので演算の整数化による処理の高速化
を図ることができる。
【０００９】
【実施例】以下の実施例の説明では，認識対象の単位で
あるクラスをカテゴリとして説明する。
あるクラスをカテゴリとして説明する。
【００１０】図１は，本発明の実施例による辞書作成の
処理過程を示す図である。 (a) まず，識別辞書作成過程では，予め用意された訓練
パタンからカテゴリ毎に特徴ベクトルを抽出して識別辞
書３を作成する。
処理過程を示す図である。 (a) まず，識別辞書作成過程では，予め用意された訓練
パタンからカテゴリ毎に特徴ベクトルを抽出して識別辞
書３を作成する。
【００１１】(b) 次の認識過程では，識別辞書３と前記
訓練パタンとの距離を求め，その求めた距離に基づい
て，前記訓練パタンが属するカテゴリを求める。 (c) ライバルパタン抽出過程では，判別辞書８の作成に
利用するために，(b)の認識過程において，あるカテゴ
リに着目した時に，その着目カテゴリ以外のカテゴリに
属する訓練パタンのうち，その着目カテゴリに誤って認
識されたパタンと，その着目カテゴリに誤って認識され
そうになったパタンを合わせたライバルパタン集合を，
着目カテゴリ毎に求める。
訓練パタンとの距離を求め，その求めた距離に基づい
て，前記訓練パタンが属するカテゴリを求める。 (c) ライバルパタン抽出過程では，判別辞書８の作成に
利用するために，(b)の認識過程において，あるカテゴ
リに着目した時に，その着目カテゴリ以外のカテゴリに
属する訓練パタンのうち，その着目カテゴリに誤って認
識されたパタンと，その着目カテゴリに誤って認識され
そうになったパタンを合わせたライバルパタン集合を，
着目カテゴリ毎に求める。
【００１２】(d) 判別辞書作成過程では，ライバルパタ
ンの特徴ベクトルと，着目カテゴリに属する訓練パタ
ン，すなわち着目パタンとの判別を行う判別関数を規定
し，ライバルパタン集合と着目パタンの集合に属する各
々のパタンについて，判別関数による２つの集合間の判
別を与えるように判別関数のパラメータを判別分析によ
りカテゴリ毎に決定し，そのパラメータを判別辞書８に
書き込む。
ンの特徴ベクトルと，着目カテゴリに属する訓練パタ
ン，すなわち着目パタンとの判別を行う判別関数を規定
し，ライバルパタン集合と着目パタンの集合に属する各
々のパタンについて，判別関数による２つの集合間の判
別を与えるように判別関数のパラメータを判別分析によ
りカテゴリ毎に決定し，そのパラメータを判別辞書８に
書き込む。
【００１３】(e) 学習辞書作成過程では，識別辞書３に
蓄積されたパラメータによって規定される識別関数Ｄ
と，判別辞書８に蓄積されたパラメータによって規定さ
れる判別関数Ｆとを結合して得られる学習距離関数（Ｄ
＋γ’Ｆ）のパラメータを蓄積する学習辞書１０を作成
する。特に，ここでは，辞書の学習を反復して行う際に
ライバルパタンを適切な数だけ得られるようにするため
に，識別辞書３によって規定される識別関数Ｄと，判別
辞書８によって規定される判別関数Ｆとを結合する結合
パラメータを，最大の認識率を与える結合パラメータγ
より所定幅だけ大きい値γ’（γ＜γ’）を用いて学習
辞書１０を作成する。
蓄積されたパラメータによって規定される識別関数Ｄ
と，判別辞書８に蓄積されたパラメータによって規定さ
れる判別関数Ｆとを結合して得られる学習距離関数（Ｄ
＋γ’Ｆ）のパラメータを蓄積する学習辞書１０を作成
する。特に，ここでは，辞書の学習を反復して行う際に
ライバルパタンを適切な数だけ得られるようにするため
に，識別辞書３によって規定される識別関数Ｄと，判別
辞書８によって規定される判別関数Ｆとを結合する結合
パラメータを，最大の認識率を与える結合パラメータγ
より所定幅だけ大きい値γ’（γ＜γ’）を用いて学習
辞書１０を作成する。
【００１４】以下，新辞書作成過程Ｓでは，上記処理
(b) 〜(e) と同様に，(b')認識，(c')ライバルパタン抽
出，(d')判別辞書作成，(e')学習辞書作成を繰り返すこ
とにより，識別辞書３と判別辞書８，または学習辞書１
０を用いて訓練パタンを再度識別し，そこで新たに得ら
れたライバルパタンを追加することにより新たな判別辞
書８’を作成し，これを用いて新たな学習辞書１０’を
作成する。
(b) 〜(e) と同様に，(b')認識，(c')ライバルパタン抽
出，(d')判別辞書作成，(e')学習辞書作成を繰り返すこ
とにより，識別辞書３と判別辞書８，または学習辞書１
０を用いて訓練パタンを再度識別し，そこで新たに得ら
れたライバルパタンを追加することにより新たな判別辞
書８’を作成し，これを用いて新たな学習辞書１０’を
作成する。
【００１５】この新辞書作成過程Ｓを訓練パタンに対す
る認識率が向上しなくなるまで，一回以上反復する。こ
うして最終的に得られた学習辞書１０’を用いて，目的
とする入力パタンの認識を行う。もちろん，学習辞書１
０’等を未知入力パタンの認識に用いる際には，ライバ
ルパタンの抽出のために所定幅だけ大きくしていた結合
パラメータを，それまでに得られている学習距離関数の
うち最大の認識率を与える結合パラメータγに戻した辞
書を使用する。なお，新辞書作成過程Ｓを繰り返しても
初期の学習辞書１０と比較して認識率の向上がみられな
いことを確認した場合には，初期の学習辞書１０を未知
入力パタンの認識に用いてもよい。
る認識率が向上しなくなるまで，一回以上反復する。こ
うして最終的に得られた学習辞書１０’を用いて，目的
とする入力パタンの認識を行う。もちろん，学習辞書１
０’等を未知入力パタンの認識に用いる際には，ライバ
ルパタンの抽出のために所定幅だけ大きくしていた結合
パラメータを，それまでに得られている学習距離関数の
うち最大の認識率を与える結合パラメータγに戻した辞
書を使用する。なお，新辞書作成過程Ｓを繰り返しても
初期の学習辞書１０と比較して認識率の向上がみられな
いことを確認した場合には，初期の学習辞書１０を未知
入力パタンの認識に用いてもよい。
【００１６】また，上記処理(e) ，(e')の学習辞書作成
過程において，識別辞書３によって規定される識別関数
Ｄと，判別辞書８によって規定される判別関数Ｆとを結
合する結合パラメータγを操作してライバルパタンを得
られるようにする代わりに，上記(b) ，(c) および
(b')，(c')の認識過程およびライバルパタン抽出過程に
おいてライバルパタン集合を求める際に，訓練パタンを
認識して得られるライバルパタンを変形し，それから得
られる疑似ライバルパタンを訓練パタンに加えて，訓練
パタンの識別を行い，その際に着目カテゴリに誤って認
識された，あるいは誤って認識されそうになったパタン
をライバルパタン集合とすることによって，辞書を学習
する際のライバルパタン数を増やすこともできる。
過程において，識別辞書３によって規定される識別関数
Ｄと，判別辞書８によって規定される判別関数Ｆとを結
合する結合パラメータγを操作してライバルパタンを得
られるようにする代わりに，上記(b) ，(c) および
(b')，(c')の認識過程およびライバルパタン抽出過程に
おいてライバルパタン集合を求める際に，訓練パタンを
認識して得られるライバルパタンを変形し，それから得
られる疑似ライバルパタンを訓練パタンに加えて，訓練
パタンの識別を行い，その際に着目カテゴリに誤って認
識された，あるいは誤って認識されそうになったパタン
をライバルパタン集合とすることによって，辞書を学習
する際のライバルパタン数を増やすこともできる。
【００１７】また，以上の辞書の学習が終了し，未知入
力パタンの認識を行う場合には，識別関数Ｄと判別関数
Ｆとを結合パラメータで結合しないで，識別辞書３と判
別辞書８’とにより２段階識別を行うことにより，認識
処理の高速化を実現することもできる。
力パタンの認識を行う場合には，識別関数Ｄと判別関数
Ｆとを結合パラメータで結合しないで，識別辞書３と判
別辞書８’とにより２段階識別を行うことにより，認識
処理の高速化を実現することもできる。
【００１８】図２は本発明の実施例に係る辞書作成の処
理ブロック図である。訓練パタン保持部１では，辞書を
作成するために予め用意した訓練パタンを保持する。特
徴抽出部２では，訓練パタンから抽出した特徴ベクトル
を保持する。識別辞書３では，特徴抽出部２で得られた
特徴ベクトルに基づいて，カテゴリ毎に平均ベクトル，
重みベクトルを計算し保持する。認識部４では，距離計
算部４１により特徴抽出部２から得られた特徴ベクトル
と識別辞書３との間で距離計算を行い，認識結果を出力
する。ライバルパタン保持部５では，文字認識の結果，
訓練パタンの中で現在着目している着目カテゴリに誤認
識されたパタン，あるいは誤認識されそうになったライ
バルパタンの特徴ベクトルを保持する。
理ブロック図である。訓練パタン保持部１では，辞書を
作成するために予め用意した訓練パタンを保持する。特
徴抽出部２では，訓練パタンから抽出した特徴ベクトル
を保持する。識別辞書３では，特徴抽出部２で得られた
特徴ベクトルに基づいて，カテゴリ毎に平均ベクトル，
重みベクトルを計算し保持する。認識部４では，距離計
算部４１により特徴抽出部２から得られた特徴ベクトル
と識別辞書３との間で距離計算を行い，認識結果を出力
する。ライバルパタン保持部５では，文字認識の結果，
訓練パタンの中で現在着目している着目カテゴリに誤認
識されたパタン，あるいは誤認識されそうになったライ
バルパタンの特徴ベクトルを保持する。
【００１９】判別分析部６は，現在着目している着目パ
タンについて，その着目パタンに対するライバルパタン
の特徴ベクトルと，着目パタン保持部７に保持されてい
る着目パタンの特徴ベクトルを用いて判別分析を行う。
判別分析の結果得られたライバルパタンと着目パタンを
判別するためのパラメータは，判別辞書８に格納され
る。結合パラメータ決定部９では，識別辞書３と判別辞
書８とによって各々規定される識別関数と判別関数を結
合するための最適な結合パラメータを決定する。学習辞
書１０には，結合パラメータ決定部９で決定された結合
パラメータに基づいて識別関数と判別関数を結合したと
きの学習距離関数に関するパラメータが書き込まれる。
タンについて，その着目パタンに対するライバルパタン
の特徴ベクトルと，着目パタン保持部７に保持されてい
る着目パタンの特徴ベクトルを用いて判別分析を行う。
判別分析の結果得られたライバルパタンと着目パタンを
判別するためのパラメータは，判別辞書８に格納され
る。結合パラメータ決定部９では，識別辞書３と判別辞
書８とによって各々規定される識別関数と判別関数を結
合するための最適な結合パラメータを決定する。学習辞
書１０には，結合パラメータ決定部９で決定された結合
パラメータに基づいて識別関数と判別関数を結合したと
きの学習距離関数に関するパラメータが書き込まれる。
【００２０】学習辞書１０が作成された後は，特徴抽出
部２から得られた訓練パタンの特徴ベクトルは学習辞書
１０を用いて認識が行われ，新たなライバルパタンが抽
出される。抽出されたライバルパタンの特徴ベクトル
は，ライバルパタン保持部５に加えられる。以上の処理
を，訓練パタンに対する認識率が向上しなくなるまで反
復する。
部２から得られた訓練パタンの特徴ベクトルは学習辞書
１０を用いて認識が行われ，新たなライバルパタンが抽
出される。抽出されたライバルパタンの特徴ベクトル
は，ライバルパタン保持部５に加えられる。以上の処理
を，訓練パタンに対する認識率が向上しなくなるまで反
復する。
【００２１】図３は識別関数と判別関数を結合する結合
パラメータを変化させたときの認識率の変化の例を示す
図である。認識を行う時の距離関数は， Ｄ＋γＦ を用いる。ここで，Ｄは識別辞書に格納されたパラメー
タによって規定される識別関数，Ｆは判別辞書に格納さ
れたパラメータによって規定される判別関数を示す。γ
は結合パラメータである。図３は識別関数と判別関数の
結合パラメータの値γを次第に大きくした時に，認識率
はある場所で最大となり，その後はγの値を大きくする
につれて認識率が低下する様子を示している。
パラメータを変化させたときの認識率の変化の例を示す
図である。認識を行う時の距離関数は， Ｄ＋γＦ を用いる。ここで，Ｄは識別辞書に格納されたパラメー
タによって規定される識別関数，Ｆは判別辞書に格納さ
れたパラメータによって規定される判別関数を示す。γ
は結合パラメータである。図３は識別関数と判別関数の
結合パラメータの値γを次第に大きくした時に，認識率
はある場所で最大となり，その後はγの値を大きくする
につれて認識率が低下する様子を示している。
【００２２】本発明では，このγの値を認識率最大とな
るＡとするのではなく，所定幅だけ大きいＢとすること
により，辞書の学習効果を増大させる。γの値をＢに設
定すると，γの値をＡに設定した場合に比較して誤認識
パタンが増えるため，ライバルパタン数が増加し判別分
析を行う際の統計量を安定して得ることができる。な
お，学習を反復せずに終了する場合，すなわち学習によ
る認識率の向上が見られなくなった場合には，γの値を
認識率最高の値に設定し，それによって作成された学習
辞書を最終辞書とすればよい。
るＡとするのではなく，所定幅だけ大きいＢとすること
により，辞書の学習効果を増大させる。γの値をＢに設
定すると，γの値をＡに設定した場合に比較して誤認識
パタンが増えるため，ライバルパタン数が増加し判別分
析を行う際の統計量を安定して得ることができる。な
お，学習を反復せずに終了する場合，すなわち学習によ
る認識率の向上が見られなくなった場合には，γの値を
認識率最高の値に設定し，それによって作成された学習
辞書を最終辞書とすればよい。
【００２３】Ｂを決める方法としては，例えばカテゴリ
毎にライバルパタンの数を計数し，いずれかのカテゴリ
のライバルパタンが一定数，例えば４００を越えた時の
γの値とする。
毎にライバルパタンの数を計数し，いずれかのカテゴリ
のライバルパタンが一定数，例えば４００を越えた時の
γの値とする。
【００２４】図４はＢの値を決定する時の処理の例を示
している。まず，認識率が最大になるγの値Ａをステッ
プ２０で決定する。この場合，γの値は最初に０をセッ
トし，一定値きざみにγを増大させながら認識率を求
め，認識率が最大になる場所のγの値をＡとすればよ
い。次に，ステップ２１でＡの値をＢにセットし，訓練
パタンに対する認識処理をステップ２２で行い，ライバ
ルパタン集合を求める。ここでカテゴリ毎にライバルパ
タンの数を計数し，その最大値が一定値，例えば４００
を越えるカテゴリが存在するかどうかをステップ２３で
調べる。もしあれば，その時のＢの値をパラメータと
し，なければ，ステップ２４でＢにΔを加え，ステップ
２２へ戻って再び訓練パタンを認識してライバルパタン
集合を求める処理を繰り返す。
している。まず，認識率が最大になるγの値Ａをステッ
プ２０で決定する。この場合，γの値は最初に０をセッ
トし，一定値きざみにγを増大させながら認識率を求
め，認識率が最大になる場所のγの値をＡとすればよ
い。次に，ステップ２１でＡの値をＢにセットし，訓練
パタンに対する認識処理をステップ２２で行い，ライバ
ルパタン集合を求める。ここでカテゴリ毎にライバルパ
タンの数を計数し，その最大値が一定値，例えば４００
を越えるカテゴリが存在するかどうかをステップ２３で
調べる。もしあれば，その時のＢの値をパラメータと
し，なければ，ステップ２４でＢにΔを加え，ステップ
２２へ戻って再び訓練パタンを認識してライバルパタン
集合を求める処理を繰り返す。
【００２５】このようにして決定したγを用いて辞書の
学習を反復する。このようにγの値を認識率最大，すな
わち誤認識率最小を与えるよりも所定値だけ大きい値に
設定すると，誤認識となるパタンすなわちライバルパタ
ンが増加する。
学習を反復する。このようにγの値を認識率最大，すな
わち誤認識率最小を与えるよりも所定値だけ大きい値に
設定すると，誤認識となるパタンすなわちライバルパタ
ンが増加する。
【００２６】また，判別分析を安定に行えるようにする
ため，ライバルパタンの数を増やす方法として，距離計
算部４１で距離計算を行った結果得られたライバルパタ
ンを用い，例えば太め，細めの処理を行うことにより疑
似ライバルパタンを作成し，その中から誤認識となるパ
タンをライバルパタンとして追加する。太め処理，細め
処理は，例えば文字パタンを上下，ないしは左右にｎ画
素分シフトしたものを作成し，そのパタンと原パタンの
論理演算をすることにより作成できる。ＡＮＤ演算をす
れば細め処理となり，ＯＲ演算をすれば太め処理とな
る。このようにして作成したパタン全てがライバルパタ
ンになるとは限らないので，これらの疑似ライバルパタ
ンを認識部４を用いて認識し，その結果，誤認識となっ
たもののみを新たなライバルパタンとして登録すればよ
い。
ため，ライバルパタンの数を増やす方法として，距離計
算部４１で距離計算を行った結果得られたライバルパタ
ンを用い，例えば太め，細めの処理を行うことにより疑
似ライバルパタンを作成し，その中から誤認識となるパ
タンをライバルパタンとして追加する。太め処理，細め
処理は，例えば文字パタンを上下，ないしは左右にｎ画
素分シフトしたものを作成し，そのパタンと原パタンの
論理演算をすることにより作成できる。ＡＮＤ演算をす
れば細め処理となり，ＯＲ演算をすれば太め処理とな
る。このようにして作成したパタン全てがライバルパタ
ンになるとは限らないので，これらの疑似ライバルパタ
ンを認識部４を用いて認識し，その結果，誤認識となっ
たもののみを新たなライバルパタンとして登録すればよ
い。
【００２７】以上述べた方法で作成した辞書を用いて，
入力された未知の文字パタンを認識する場合には，距離
計算部４１において学習辞書を用いた距離計算を行い文
字の認識を行う。
入力された未知の文字パタンを認識する場合には，距離
計算部４１において学習辞書を用いた距離計算を行い文
字の認識を行う。
【００２８】この学習辞書を用いた認識では，既に述べ
たように距離関数 Ｄ＋γＦ によって計算を行うため，求めた距離，あるいは途中の
演算結果が極めて大きくなってしまうという欠点を伴
う。これは主に結合パラメータγの値が大きな値を持つ
ことによる。ところで，このような学習辞書を用いる手
法は，特開平６−１９５５１７号公報にも示されている
ように，識別関数Ｄによって認識することができなかっ
たパタン，あるいは正しく認識はできたが誤りそうにな
ったパタンすなわちライバルパタンを抽出し，これを正
確に識別するための判別関数Ｆを判別分析により求め，
両者の関数を結合することによってカテゴリ間の境界面
近くに分布するライバルパタンに対する認識精度の向上
を図るものである。
たように距離関数 Ｄ＋γＦ によって計算を行うため，求めた距離，あるいは途中の
演算結果が極めて大きくなってしまうという欠点を伴
う。これは主に結合パラメータγの値が大きな値を持つ
ことによる。ところで，このような学習辞書を用いる手
法は，特開平６−１９５５１７号公報にも示されている
ように，識別関数Ｄによって認識することができなかっ
たパタン，あるいは正しく認識はできたが誤りそうにな
ったパタンすなわちライバルパタンを抽出し，これを正
確に識別するための判別関数Ｆを判別分析により求め，
両者の関数を結合することによってカテゴリ間の境界面
近くに分布するライバルパタンに対する認識精度の向上
を図るものである。
【００２９】そこで，以下に説明するように処理するこ
とによって，上記の距離関数によって求めた距離あるい
は途中の演算結果が大きくなるという問題を解決するこ
とができる。
とによって，上記の距離関数によって求めた距離あるい
は途中の演算結果が大きくなるという問題を解決するこ
とができる。
【００３０】まず，識別関数Ｄを用いて安定に識別でき
なかったパタン，すなわちライバルパタンとなりうるパ
タンとして候補カテゴリを複数個選択する大分類を行
い，次に判別関数Ｆを用いて候補カテゴリを１つのカテ
ゴリに絞り込む詳細識別を行うという２段階の認識処理
を行う。これによって，学習識別関数を用いて認識を行
ったのと同様の効果を得ることが可能になる。
なかったパタン，すなわちライバルパタンとなりうるパ
タンとして候補カテゴリを複数個選択する大分類を行
い，次に判別関数Ｆを用いて候補カテゴリを１つのカテ
ゴリに絞り込む詳細識別を行うという２段階の認識処理
を行う。これによって，学習識別関数を用いて認識を行
ったのと同様の効果を得ることが可能になる。
【００３１】もともと，識別辞書，判別辞書に格納され
ている識別関数，判別関数に関するパラメータは，これ
らとγを合成して得られる学習辞書に格納されている学
習距離関数に関するパラメータの値と比較すると遙かに
小さく，整数演算が可能である。従って，処理の高速化
が可能になり，これを実現するための演算装置として浮
動小数点演算の機構が不要となる。
ている識別関数，判別関数に関するパラメータは，これ
らとγを合成して得られる学習辞書に格納されている学
習距離関数に関するパラメータの値と比較すると遙かに
小さく，整数演算が可能である。従って，処理の高速化
が可能になり，これを実現するための演算装置として浮
動小数点演算の機構が不要となる。
【００３２】図５はこの２段階識別を行う場合の処理ブ
ロック図を示している。入力された未知パタンについ
て，特徴抽出部３１で特徴抽出を行う。特徴抽出は辞書
作成の際に用いたものと同じ方法であれば既知のもので
よい。次に，識別辞書３２を用いて大分類３３を行う。
具体的には識別辞書３２中の特徴ベクトルとの距離の近
いものから複数のカテゴリを選択すればよい。次に，大
分類３３によって選択されたカテゴリに対して判別辞書
３４を用いた詳細識別を行って，最終的な認識結果を求
め，それを出力する。この過程によって，識別関数と判
別関数を結合するパラメータγに影響されることなく認
識を行うことができる。
ロック図を示している。入力された未知パタンについ
て，特徴抽出部３１で特徴抽出を行う。特徴抽出は辞書
作成の際に用いたものと同じ方法であれば既知のもので
よい。次に，識別辞書３２を用いて大分類３３を行う。
具体的には識別辞書３２中の特徴ベクトルとの距離の近
いものから複数のカテゴリを選択すればよい。次に，大
分類３３によって選択されたカテゴリに対して判別辞書
３４を用いた詳細識別を行って，最終的な認識結果を求
め，それを出力する。この過程によって，識別関数と判
別関数を結合するパラメータγに影響されることなく認
識を行うことができる。
【００３３】
【発明の効果】以上説明したように，本発明によれば，
辞書を学習する際のライバルパタンの数を増やすことに
より判別分析をより高精度に行うことができ，学習を反
復して得られる辞書を用いて未知パタンを認識した時の
認識精度を向上させることができる。また，識別辞書と
判別辞書を各々大分類と詳細識別に用いることによっ
て，結合パラメータを取り除くことができるので演算の
整数化による処理の高速化を図ることができる。
辞書を学習する際のライバルパタンの数を増やすことに
より判別分析をより高精度に行うことができ，学習を反
復して得られる辞書を用いて未知パタンを認識した時の
認識精度を向上させることができる。また，識別辞書と
判別辞書を各々大分類と詳細識別に用いることによっ
て，結合パラメータを取り除くことができるので演算の
整数化による処理の高速化を図ることができる。
【図１】本発明の実施例による辞書作成の処理過程を示
す図である。
す図である。
【図２】本発明の実施例に係る辞書作成の処理ブロック
図である。
図である。
【図３】γの値と認識率の関係を示す図である。
【図４】学習反復時のγの値Ｂを決定する方法を示す図
である。
である。
【図５】本発明の実施例による２段階識別の処理ブロッ
ク図である。
ク図である。
１ 訓練パタン保持部 ２ 特徴抽出部 ３ 識別辞書 ４ 認識部 ５ ライバルパタン保持部 ６ 判別分析部 ７ 着目パタン保持部 ８ 判別辞書 ９ 結合パラメータ決定部 １０ 学習辞書 ３１ 特徴抽出部 ３２ 識別辞書 ３３ 大分類 ３４ 判別辞書 ３５ 詳細識別 ４１ 距離計算部
フロントページの続き (58)調査した分野(Int.Cl.6，ＤＢ名) G06K 9/00 - 9/82 G10L 3/00 521 G10L 5/06
Claims (4)
- 【請求項１】 予め用意された訓練パタンからクラス毎
に特徴ベクトルを抽出して識別辞書を作成する識別辞書
作成過程と，前記識別辞書と前記訓練パタンとの距離を
求め，その求めた距離に基づいて，前記訓練パタンが属
するクラスを求める認識過程と，前記認識過程におい
て，あるクラスに着目した時に，該着目クラス以外のク
ラスに属する訓練パタンのうち，該着目クラスに誤って
認識されたパタンと，該着目クラスに誤って認識されそ
うになったパタンを合わせたライバルパタン集合を前記
着目クラス毎に求めるライバルパタン抽出過程と，前記
ライバルパタンの特徴ベクトルと，該着目クラスに属す
る訓練パタンである着目パタンとの判別を行う判別関数
を規定し，前記ライバルパタン集合と前記着目パタンの
集合に属する各々のパタンについて，前記判別関数によ
る２つの前記集合間の判別を与えるように判別関数のパ
ラメータを判別分析によりクラス毎に決定し，該パラメ
ータを判別辞書に書き込む判別辞書作成過程と，前記識
別辞書に蓄積されたパラメータによって規定される識別
関数と，前記判別辞書に蓄積されたパラメータによって
規定される判別関数とを結合して得られる学習距離関数
のパラメータを蓄積する学習辞書を作成する学習辞書作
成過程と，前記識別辞書と前記判別辞書，または学習辞
書を用いて前記訓練パタンを再度識別し，そこで新たに
得られたライバルパタンを追加することにより新たな判
別辞書ないしは新たな学習辞書を作成する新辞書作成過
程と，前記新辞書作成過程を一回以上反復する反復過程
を有し，初期の学習辞書または反復過程によって最終的
に得られる学習辞書と，入力された未知のパタンから抽
出した特徴ベクトルとを照合して，入力されたパタンの
クラスを決定するパタン認識に用いる辞書作成方法にお
いて，前記学習辞書作成過程では，前記識別辞書によっ
て規定される識別関数と，前記判別辞書によって規定さ
れる判別関数とを結合する結合パラメータを，最大の認
識率を与える前記結合パラメータより所定幅だけ大きい
値を用いて前記学習辞書を作成し，前記新辞書作成過程
では，前記学習辞書作成過程または前回の前記新辞書作
成過程で作成した前記学習辞書を利用して訓練パタンを
認識し，それにより得られる前記ライバルパタン集合を
用いることによって新たな判別辞書を作成し，かつ前記
識別辞書によって規定される識別関数と，前記新たな判
別辞書によって規定される判別関数とを結合する結合パ
ラメータを，最大の認識率を与える前記結合パラメータ
より所定幅だけ大きい値を用いて新たな学習辞書を作成
することを特徴とするパタン認識用辞書作成方法。 - 【請求項２】 予め用意された訓練パタンからクラス毎
に特徴ベクトルを抽出して識別辞書を作成する識別辞書
作成過程と，前記識別辞書と前記訓練パタンとの距離を
求め，その求めた距離に基づいて，前記訓練パタンが属
するクラスを求める認識過程と，前記認識過程におい
て，あるクラスに着目した時に，該着目クラス以外のク
ラスに属する訓練パタンのうち，該着目クラスに誤って
認識されたパタンと，該着目クラスに誤って認識されそ
うになったパタンを合わせたライバルパタン集合を前記
着目クラス毎に求めるライバルパタン抽出過程と，前記
ライバルパタンの特徴ベクトルと，該着目クラスに属す
る訓練パタンである着目パタンとの判別を行う判別関数
を規定し，前記ライバルパタン集合と前記着目パタンの
集合に属する各々のパタンについて，前記判別関数によ
る２つの前記集合間の判別を与えるように判別関数のパ
ラメータを判別分析によりクラス毎に決定し，該パラメ
ータを判別辞書に書き込む判別辞書作成過程と，前記識
別辞書に蓄積されたパラメータによって規定される識別
関数と，前記判別辞書に蓄積されたパラメータによって
規定される判別関数とを結合して得られる学習距離関数
のパラメータを蓄積する学習辞書を作成する学習辞書作
成過程と，前記識別辞書と前記判別辞書，または学習辞
書を用いて前記訓練パタンを再度識別し，そこで新たに
得られたライバルパタンを追加することにより新たな判
別辞書ないしは新たな学習辞書を作成する新辞書作成過
程と，前記新辞書作成過程を一回以上反復する反復過程
を有し，初期の学習辞書または反復過程によって最終的
に得られる学習辞書と，入力された未知のパタンから抽
出した特徴ベクトルとを照合して，入力されたパタンの
クラスを決定するパタン認識に用いる辞書作成方法にお
いて，前記ライバルパタン集合を求める際に，訓練パタ
ンを認識して得られるライバルパタンを変形して得られ
る疑似ライバルパタンを訓練パタンに加えて，該訓練パ
タンの識別を行い，その際に着目クラスに誤って認識さ
れた，あるいは誤って認識されそうになったパタンをラ
イバルパタン集合とすることを特徴とするパタン認識用
辞書作成方法。 - 【請求項３】 請求項１または請求項２記載のパタン認
識用辞書作成方法を用いて作成した辞書を用いて入力さ
れたパタンを認識することを特徴とするパタン認識方
法。 - 【請求項４】 予め用意された訓練パタンからクラス毎
に特徴ベクトルを抽出して識別辞書を作成する識別辞書
作成過程と，前記識別辞書と前記訓練パタンとの距離を
求め，その求めた距離に基づいて，前記訓練パタンが属
するクラスを求める認識過程と，前記認識過程におい
て，あるクラスに着目した時に，該着目クラス以外のク
ラスに属する訓練パタンのうち，該着目クラスに誤って
認識されたパタンと，該着目クラスに誤って認識されそ
うになったパタンを合わせたライバルパタン集合を前記
着目クラス毎に求めるライバルパタン抽出過程と，前記
ライバルパタンの特徴ベクトルと，該着目クラスに属す
る訓練パタンである着目パタンとの判別を行う判別関数
を規定し，前記ライバルパタン集合と前記着目パタンの
集合に属する各々のパタンについて，前記判別関数によ
る２つの前記集合間の判別を与えるように判別関数のパ
ラメータを判別分析によりクラス毎に決定し，該パラメ
ータを判別辞書に書き込む判別辞書作成過程と，前記識
別辞書に蓄積されたパラメータによって規定される識別
関数と，前記判別辞書に蓄積されたパラメータによって
規定される判別関数とを結合して得られる学習距離関数
のパラメータを蓄積する学習辞書を作成する学習辞書作
成過程と，前記識別辞書と前記判別辞書，または学習辞
書を用いて前記訓練パタンを再度識別し，そこで新たに
得られたライバルパタンを追加することにより新たな判
別辞書ないしは新たな学習辞書を作成する新辞書作成過
程と，前記新辞書作成過程を一回以上反復する反復過程
を有し，前記過程によって作成した辞書を用いて入力さ
れた未知のパタンを認識するパタン認識方法において，
入力された未知のパタンを認識する際に，前記識別辞書
を用いて候補クラスの大分類を行い，前記判別辞書を用
いて候補クラスについての詳細識別を行うことを特徴と
するパタン認識方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP6268459A JP2957097B2 (ja) | 1994-11-01 | 1994-11-01 | パタン認識用辞書作成方法およびパタン認識方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP6268459A JP2957097B2 (ja) | 1994-11-01 | 1994-11-01 | パタン認識用辞書作成方法およびパタン認識方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JPH08129615A JPH08129615A (ja) | 1996-05-21 |
| JP2957097B2 true JP2957097B2 (ja) | 1999-10-04 |
Family
ID=17458804
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP6268459A Expired - Lifetime JP2957097B2 (ja) | 1994-11-01 | 1994-11-01 | パタン認識用辞書作成方法およびパタン認識方法 |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP2957097B2 (ja) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2015018186A (ja) * | 2013-07-12 | 2015-01-29 | 日本放送協会 | 適応化装置およびプログラム |
-
1994
- 1994-11-01 JP JP6268459A patent/JP2957097B2/ja not_active Expired - Lifetime
Also Published As
| Publication number | Publication date |
|---|---|
| JPH08129615A (ja) | 1996-05-21 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Baró et al. | Traffic sign recognition using evolutionary adaboost detection and forest-ECOC classification | |
| EP0355748B1 (en) | A pattern recognition apparatus and method for doing the same | |
| Sung et al. | Scene text detection with robust character candidate extraction method | |
| CN106372624B (zh) | 人脸识别方法及系统 | |
| JP4136316B2 (ja) | 文字列認識装置 | |
| Yamauchi et al. | Relational HOG feature with wild-card for object detection | |
| Pham et al. | Offline handwritten signature verification using local and global features | |
| JP4039708B2 (ja) | パターン認識方法およびパターン認識装置 | |
| EP1930852B1 (en) | Image search method and device | |
| CN109447173A (zh) | 一种基于图像全局特征和局部特征的图像匹配方法 | |
| CN111723852A (zh) | 针对目标检测网络的鲁棒训练方法 | |
| EP2073146A1 (en) | Pattern recognizing device for recognizing input pattern by using dictionary pattern | |
| Xu et al. | Screen-rendered text images recognition using a deep residual network based segmentation-free method | |
| JP4802176B2 (ja) | パターン認識装置、パターン認識プログラム及びパターン認識方法 | |
| JP2957097B2 (ja) | パタン認識用辞書作成方法およびパタン認識方法 | |
| US6466926B1 (en) | Method for optimizing a recognition dictionary to distinguish between patterns that are difficult to distinguish | |
| Matsuda et al. | Effective random-impostor training for combined segmentation signature verification | |
| JP4116688B2 (ja) | 辞書学習方法および文字認識装置 | |
| Xu et al. | Coin recognition method based on SIFT algorithm | |
| EP0885427B1 (en) | Method for optimizing a recognition dictionary to distinguish between patterns that are difficult to distinguish | |
| JP4350228B2 (ja) | パターン認識方法および装置 | |
| Das et al. | A GA Based approach for selection of local features for recognition of handwritten Bangla numerals | |
| JP3374762B2 (ja) | 文字認識方法及びその装置 | |
| JP3419251B2 (ja) | 文字認識装置及び文字認識方法 | |
| JP3421200B2 (ja) | 文字認識方法および装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20070723 Year of fee payment: 8 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20080723 Year of fee payment: 9 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20080723 Year of fee payment: 9 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090723 Year of fee payment: 10 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090723 Year of fee payment: 10 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100723 Year of fee payment: 11 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100723 Year of fee payment: 11 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110723 Year of fee payment: 12 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120723 Year of fee payment: 13 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130723 Year of fee payment: 14 |
|
| S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
| R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
| EXPY | Cancellation because of completion of term |