JPH0850636A - パタン認識方法 - Google Patents

パタン認識方法

Info

Publication number
JPH0850636A
JPH0850636A JP6183281A JP18328194A JPH0850636A JP H0850636 A JPH0850636 A JP H0850636A JP 6183281 A JP6183281 A JP 6183281A JP 18328194 A JP18328194 A JP 18328194A JP H0850636 A JPH0850636 A JP H0850636A
Authority
JP
Japan
Prior art keywords
pattern
feature vector
class
dictionary
distance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP6183281A
Other languages
English (en)
Other versions
JP3019911B2 (ja
Inventor
Minako Sawaki
美奈子 澤木
Teruo Akiyama
照雄 秋山
Takahiko Kawatani
隆彦 川谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP6183281A priority Critical patent/JP3019911B2/ja
Publication of JPH0850636A publication Critical patent/JPH0850636A/ja
Application granted granted Critical
Publication of JP3019911B2 publication Critical patent/JP3019911B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Landscapes

  • Character Discrimination (AREA)

Abstract

(57)【要約】 【目的】パタン認識方法において,距離関数が分布を記
述する精度を高め,認識精度を向上させること,空間変
換後の特徴ベクトルの分布が大きく識別の精度に対する
寄与が少ない特徴次元を圧縮することにより,認識精度
を低下させずに演算量を削減することを目的とする。 【構成】入力パタンの特徴ベクトルの主成分分析により
空間変換を行うことにより,特徴ベクトルの分布を対称
分布に近付けた上で,距離値を求めるようにする。ま
た,主成分分析を行い,空間変換後の特徴ベクトルの分
布が小さく判別の精度に対する寄与が大きい特徴次元の
みを認識に用いることにより,演算量を削減する。

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は,文字読取り装置を始め
とするパタン認識装置におけるパタン認識方法であっ
て,特に認識精度を向上させるパタン認識方法に関する
ものである。
【0002】
【従来の技術】文字認識を例に説明する。文字認識では
識別関数として距離関数が多くの場合用いられる。距離
関数としては,ユークリッド距離関数,重み付きユーク
リッド距離関数,2次識別距離関数などがある。また,
修正関数としても距離関数が多く用いられ,判別分析を
行うことにより得られる判別関数などがある。
【0003】距離関数および修正関数の多くは対称な関
数であるため,入力されたパタンから抽出された特徴ベ
クトルが対称分布である時に最大の効果が得られる。し
かしながら,入力パタンから抽出された特徴ベクトルは
必ずしも対称分布ではない。そのため,特徴ベクトルの
分布を正確に記述することができず,認識精度が限られ
ていた。
【0004】
【発明が解決しようとする課題】本発明は上記問題点の
解決を図り,特徴ベクトルを空間変換し,特徴ベクトル
の分布を対称分布に近付けることにより,距離関数が分
布を記述する精度を高め,認識精度を向上させることを
目的とする。
【0005】さらに,空間変換後の特徴ベクトルの分布
が大きく識別の精度に対する寄与が少ない特徴次元を圧
縮することにより,認識精度を低下させずに演算量を削
減することを目的とする。
【0006】
【課題を解決するための手段】本発明では,入力パタン
の特徴ベクトルの主成分分析により空間変換を行うこと
により,特徴ベクトルの分布を対称分布に近付けた上
で,距離値を求めるようにする。
【0007】また,主成分分析を行い,空間変換後の特
徴ベクトルの分布が小さく判別の精度に対する寄与が大
きい特徴次元のみを認識に用いることにより,演算量を
削減する。
【0008】
【作用】距離関数を用いて距離値を求めるときに,距離
関数が特徴ベクトルの分布を正確に記述できるようにな
るため,認識精度の著しい向上を期待することができ
る。また,認識精度に対する寄与の大きい特徴次元のみ
を認識に用い,寄与の小さい特徴次元は認識に用いない
ことにより,識別辞書および判別辞書および識別判別辞
書と特徴ベクトルの照合を行う特徴次元を削減できるた
め,演算量を削減することができる。
【0009】
【実施例】図1は本発明の実施例を示す図である。図
中,1は前処理,2は特徴抽出処理,3は空間変換処
理,4は空間変換パラメータ格納部,5は距離算出処
理,6は識別辞書,7は判別値算出処理,8は判別辞
書,9はクラス決定処理を表す。
【0010】入力されたパタンについて,まず前処理1
で,パタンの重心が予め決められたパタンサイズの中心
に来るように移動し,次にパタンのモーメントにより大
きさの正規化を行う。さらに,雑音フィルタをかけてパ
タン上の雑音を除去する。
【0011】次いで,特徴抽出処理2で識別に用いる特
徴ベクトルを抽出する。特徴ベクトルの例としては,文
献(信学論 Vol.J 76-D-II No.9 PP.1851-1859,川谷;
“距離関数の学習による手書き数字認識”)に挙げられ
ているものがある。
【0012】空間変換処理3では,以下の式に基づいて
特徴抽出処理2で抽出された特徴ベクトルの値の空間変
換を行う。 xm " =φm (x’−MX)/{sqrt(λm )} ここで,固有値および固有ベクトルは訓練パタンの特徴
ベクトルの,共分散行列の固有値と固有ベクトルであ
り,これらは空間変換パラメータ格納部4に格納されて
いる。訓練パタンの特徴ベクトルの共分散行列のij成
分は,以下のように求められる。
【0013】 σij=Σ(xi −MXi )(xj −MXj )/(N−1) ただし, x’ ; 入力パタンの特徴ベクトル x ; 訓練パタンの特徴ベクトル MX ; xの平均ベクトル xm " ; 空間変換後の特徴ベクトルのm成分 N ; 訓練パタンの数 σij ; xの共分散行列のij成分 λm ; xの共分散行列のm番目の固有値 φm ; xの共分散行列のm番目の固有ベクトル 距離算出処理5では,距離関数D(x”)を用い,読取
り対象の各クラス毎に入力パタンの特徴ベクトルと参照
パタンの特徴ベクトルとの距離値dが求められる。
【0014】判別値算出処理7では,判別関数F
(x”)を用い各クラス毎に判別値fが求められる。各
クラスの判別関数F(x”)は,入力パタンがそのクラ
スに属していれば負の値,属していなければ正の値を持
つように設計されている。すなわち,F(x”)は各ク
ラスで他のクラスとの違いを反映する関数である。
【0015】クラス決定処理9では各クラス毎に, g=d+γ・f を求め,gが最も小さい値を与えるクラスを選択し,入
力パタンの属するクラスを決定する。なお,γは予め決
められた定数である。ここで,距離関数D(x”)とし
てどのような関数を用いるか,判別関数F(x”)をど
のように決定するかが課題となる。
【0016】本発明では,D(x”)を用いて識別を行
ったときに求められるライバルパタン集合と各クラスの
パタン集合との間で線形判別分析が行われて,F
(x”)が決定される。以下,D(x”)として重み付
きユークリッド距離を用いた場合の例を示す。
【0017】重み付きユークリッド距離は,以下のよう
に書くことができる。 D(x”)=Σωm (x”m −μm 2 ただし,x”=(x”1 ,…,x”M t は入力特徴ベ
クトル,μ=(μ1 ,…,μM t は参照パタンベクト
ル,ω=(ω1 ,…,ωM t は重みベクトル,Mは特
徴の次元数である。また,tは転置を表す。Σはm=1
からMまでの総和を表す。ここで,ω1 〜ωM が1であ
ればD(x”)はユークリッド距離となる。識別辞書6
には,各クラスの参照パタンベクトル,重みベクトルが
格納される。判別関数F(x”)は,変数ym ,yM+m
を以下のように定義して求める。
【0018】ym =(x”m −μm 2M+m =(x”m −μm ) すなわち,変数として訓練パタンの特徴ベクトルの各要
素から参照パタンベクトルの各要素を引いたもの,およ
びそれを自乗したものの両方を変数として用いる。
【0019】F(x”)は次のように定義される。 F(x”)=Σam m +Σbm M+m +c =Σam (x”m −μm 2 +Σbm (x”m −μm
+c (Σはm=1からMまでの総和)ただし,x”が着目ク
ラスに属するときは負,ライバルパタン集合に属する時
は正となるように{am },{bm },cの符号が決め
られる。判別辞書8には,{am },{bm },cがク
ラス毎に格納される。{am },{bm },cの具体的
な求め方は後述する。
【0020】以上,重み付きユークリッド距離について
説明したが,同様な考え方で他の距離関数,例えばシテ
ィブロック距離等にも適用できる。図2は,{am },
{bm },cの求め方の詳細を示したものである。
【0021】まず,ステップ11で訓練パタンを用意
し,ステップ12で図1の前処理1で述べた前処理を行
う。次にステップ13で図1の特徴抽出処理2で述べた
特徴抽出を行う。ステップ14で図1の空間変換処理3
で述べた値域補正および空間変換を行う。ステップ15
で全訓練パタンに対し,原距離関数D(x”)により認
識を行う。ステップ16では,その認識結果からライバ
ルパタンの編集を行う。ライバルパタンは,各クラス毎
に着目クラス以外のクラスに属するパタンから着目クラ
スに誤認識したパタン,および誤認識しそうになったパ
タンを選択することにより求める。誤認識しそうになっ
たパタンは,着目クラス以外のクラスに属するパタンを
着目パタンからの距離の近い順に並べ,そのうちの一定
個を選ぶことにより求めることができる。
【0022】ついで,ステップ17で線形判別分析を行
うが,この手順は以下の通りである。まず,ベクトルy
=(y1 ,…,yM ,yM+1 ,…,y2M)に関する着目
クラスの共分散行列をSS ,およびライバルパタンの共
分散行列をSR とすると,行列Sを S=qS S +qR R により求める。qS ,qR に関しては共に0.5とする
方法,およびパタン数の比とする方法[qS =着目クラ
スのパタン数/(着目クラスのパタン数+ライバルパタ
ン数),qR =1−qS ]が知られており,どちらを用
いても算出可能である。
【0023】次に,a=(a1 ,…,aM ,b1 ,…,
M t とし,着目クラス,およびライバルパタンの平
均ベクトルyS ,yR を用いて,aおよびcを, a=S-1(yR −yS ) c=(1/2)at (yR +yS ) により求める。
【0024】次に,ステップ18,19で最適なγを決
定する。これは全ての訓練パタンを用い,各クラス毎に
距離関数D(x”)の値dと判別関数F(x”)の値f
から, g=d+γ・f を求め,gが最も小さい値を与えるクラスを選択して入
力パタンのクラスを決定したときに,訓練パタンに対し
て最も認識率が高くなるγを選択することにより求める
ことができる。上述のような処理を繰り返し行ったとき
に前回の認識率との差をステップ20で比較し,差が小
さければ終了する。差が大きければステップ20’で前
回までは正読で今回初めて誤読となったパタンをライバ
ルパタン集合に新しく加え,線形判別分析からの処理を
繰り返す。
【0025】図3は,本発明の第2の実施例を示す図で
ある。21は前処理,22は特徴抽出処理,23は空間
変換処理,24は空間変換パラメータ格納部,25は距
離算出処理,26は識別判別辞書,27はクラス決定処
理を表す。
【0026】この実施例では,図1に示す識別辞書6の
内容と判別辞書8の内容とを重畳した情報を持つ識別判
別辞書26を用いる。空間変換処理23までの処理は図
1の例と同じである。距離算出処理25では,各クラス
毎に距離関数D(x”)の値と判別関数F(x”)の値
を加えた値G(x”)を求めるようにしている。クラス
決定処理27では,G(x”)の値をもとに入力パタン
のクラスを決定する。この場合の識別判別辞書26の内
容の作成方法の例としては,特願平4−343686号
に述べられている方法がある。
【0027】例えば,重み付きユークリッド距離の場
合, G(x”)=D(x”)+γ・F(x”) =Σωm ′(x”m −μm ′)2 +d ただし, ωm ′=ωm +γam μm ′=μm −(1/2)γbm /ωm ′ d=γc−(1/4)Σ(γbm 2 /ωm ′ であり,識別判別辞書26には各クラス毎にμ′=(μ
1 ′,…,μM ′)t ,ω′=(ω1 ′,…,ωM ′)
t ,dが格納される。なお,Σはm=1からMまでの総
和である。
【0028】図4は,本発明の第3の実施例を示す図で
ある。31は前処理,32は特徴抽出処理,33は空間
変換処理,34は空間変換パラメータ格納部,35は次
元圧縮パラメータ格納部,36は距離算出処理,37は
識別判別辞書,38はクラス決定処理を表す。
【0029】この実施例では,図1に示す識別辞書6の
内容と判別辞書8の内容とを重畳した情報を持つ識別判
別辞書37を用いる。特徴抽出処理32までは図1の例
と同じである。特徴抽出処理の後,次元圧縮パラメータ
格納部35に格納されている次元に対してのみ特徴ベク
トルの空間変換を行う。
【0030】次元圧縮パラメータ格納部35には予め,
訓練パタンの値域補正後の特徴ベクトルの共分散行列の
固有値がある一定値以下の値となる次元番号が格納され
ている。この一定値は,訓練パタンの認識精度が保てる
範囲で定める。
【0031】距離算出処理36以降は図3の例と同じで
ある。
【0032】
【発明の効果】以上説明したように,本発明によれば,
各特徴ベクトルの分布を正確に推定できるため,認識精
度の著しい向上が可能である。
【0033】また,特徴ベクトルの次元圧縮を行うこと
により,認識精度を損なうことなく,演算量を削減する
ことが可能である。
【図面の簡単な説明】
【図1】本発明の実施例を示す図である。
【図2】判別関数を求める場合の手順を示す図である。
【図3】本発明の第2の実施例を示す図である。
【図4】本発明の第3の実施例を示す図である。
【符号の説明】
1 前処理 2 特徴抽出処理 3 空間変換処理 4 空間変換パラメータ格納部 5 距離算出処理 6 識別辞書 7 判別値算出処理 8 判別辞書 9 クラス決定処理 21 前処理 22 特徴抽出処理 23 空間変換処理 24 空間変換パラメータ格納部 25 距離算出処理 26 識別判別辞書 27 クラス決定処理 31 前処理 32 特徴抽出処理 33 空間変換処理 34 空間変換パラメータ格納部 35 次元圧縮パラメータ格納部 36 距離算出処理 37 識別判別辞書 38 クラス決定処理

Claims (4)

    【特許請求の範囲】
  1. 【請求項1】 入力パタンから抽出された特徴ベクトル
    と,各クラス毎に1つ以上の参照パタンの特徴ベクトル
    に関する情報からなる識別辞書とを,識別関数に基づい
    て照合することにより得られる識別距離を求める過程
    と,予め訓練パタンに対して前記識別辞書を用いて認識
    を行い,誤った,または誤りそうになったエラーパタン
    集合を求め,前記エラーパタン集合,または着目クラス
    に属するパタン集合,または正読パタン集合のうちの1
    つ以上の集合に関する情報を持つ修正辞書と,前記入力
    パタンから抽出された特徴ベクトルとを修正関数に基づ
    いて照合することにより得られる修正距離を求める過程
    と,前記識別距離および前記修正距離の一方もしくは両
    方を用いて得られる値に基づいて,前記入力パタンのク
    ラスを決定する過程とを有するパタン認識方法におい
    て,前記識別関数と前記修正関数の一方もしくは両方が
    対称な関数である場合において,前記入力パタンから抽
    出された特徴ベクトルの分布が対称になるように変換を
    行う空間変換過程を有し,前記空間変換過程により生成
    された変換特徴ベクトルを前記入力パタンから抽出され
    た特徴ベクトルの代わりに用い,前記空間変換過程を経
    た識別辞書と前記変換特徴ベクトルとを照合して前記入
    力パタンの属するクラスを決定することを特徴とするパ
    タン認識方法。
  2. 【請求項2】 入力パタンから抽出された特徴ベクトル
    と,各クラス毎に1つ以上の参照パタンの特徴ベクトル
    に関する情報からなる識別辞書とを照合することにより
    得られる識別距離,および前記入力パタンの特徴ベクト
    ルと,予め訓練パタンに対して前記識別辞書を用いて認
    識を行い,誤った,または誤りそうになったエラーパタ
    ン集合を求め,前記エラーパタン集合,または着目クラ
    スに属するパタン集合,または正読パタン集合のうちの
    1つ以上の集合に関する情報を持つ修正辞書とを照合し
    て得られる修正距離の一方もしくは両方を用いて得られ
    る値に相当する修正識別距離を,前記入力パタンの特徴
    ベクトルと,前記識別辞書および前記修正辞書を重畳し
    て得られる修正識別辞書とを,修正識別距離関数に基づ
    いて照合することによって求め,前記入力パタンのクラ
    スを前記修正識別距離に基づいて決定する過程を有する
    パタン認識方法において,前記修正識別距離関数が対称
    な関数である場合において,入力されたパタンから抽出
    された特徴ベクトルの分布が対称になるように変換を行
    う空間変換過程を有し,前記空間変換過程により生成さ
    れた変換特徴ベクトルを前記入力パタンから抽出された
    特徴ベクトルの代わりに用い,前記空間変換過程を経た
    修正識別辞書と前記変換特徴ベクトルとを照合して前記
    入力パタンの属するクラスを決定することを特徴とする
    パタン認識方法。
  3. 【請求項3】 請求項1または請求項2記載のパタン認
    識方法において,各クラス毎に新規にそのクラスに誤っ
    た,または誤りそうになったそのクラスに属さないパタ
    ンを該エラーパタン集合に加えつつ繰り返し修正辞書ま
    たは修正識別辞書を作成あるいは更新することを特徴と
    するパタン認識方法。
  4. 【請求項4】 請求項1,請求項2または請求項3記載
    のパタン認識方法において,主成分分析による特徴次元
    圧縮を行うことを特徴とするパタン認識方法。
JP6183281A 1994-08-04 1994-08-04 パタン認識方法 Expired - Lifetime JP3019911B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP6183281A JP3019911B2 (ja) 1994-08-04 1994-08-04 パタン認識方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP6183281A JP3019911B2 (ja) 1994-08-04 1994-08-04 パタン認識方法

Publications (2)

Publication Number Publication Date
JPH0850636A true JPH0850636A (ja) 1996-02-20
JP3019911B2 JP3019911B2 (ja) 2000-03-15

Family

ID=16132914

Family Applications (1)

Application Number Title Priority Date Filing Date
JP6183281A Expired - Lifetime JP3019911B2 (ja) 1994-08-04 1994-08-04 パタン認識方法

Country Status (1)

Country Link
JP (1) JP3019911B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2002025591A1 (fr) * 2000-09-25 2002-03-28 Olympus Optical Co., Ltd. Procede et dispositif de categorisation de motifs, et support de stockage lisible par ordinateur
JP2014153846A (ja) * 2013-02-07 2014-08-25 Mitsubishi Electric Corp パターン認識装置

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2002025591A1 (fr) * 2000-09-25 2002-03-28 Olympus Optical Co., Ltd. Procede et dispositif de categorisation de motifs, et support de stockage lisible par ordinateur
US6931386B2 (en) 2000-09-25 2005-08-16 Olympus Optical Co., Ltd. Pattern classification method and apparatus thereof, and computer readable storage medium
JP2014153846A (ja) * 2013-02-07 2014-08-25 Mitsubishi Electric Corp パターン認識装置

Also Published As

Publication number Publication date
JP3019911B2 (ja) 2000-03-15

Similar Documents

Publication Publication Date Title
US5901244A (en) Feature extraction system and face image recognition system
CN110532920B (zh) 基于FaceNet方法的小数量数据集人脸识别方法
US20210117733A1 (en) Pattern recognition apparatus, pattern recognition method, and computer-readable recording medium
KR101117837B1 (ko) 멀티 스케일 지향 패치를 이용한 멀티 이미지 특징 매칭
US8184914B2 (en) Method and system of person identification by facial image
CN107578007A (zh) 一种基于多特征融合的深度学习人脸识别方法
EP2050043A2 (en) Face recognition with combined pca-based datasets
CN111666588B (zh) 一种基于生成对抗网络的情绪差分隐私保护方法
CN110674685B (zh) 一种基于边缘信息增强的人体解析分割模型及方法
US7593566B2 (en) Data recognition device
JP4039708B2 (ja) パターン認識方法およびパターン認識装置
CN117009873A (zh) 支付风险识别模型的生成方法、支付风险识别方法及装置
CN112001231A (zh) 加权多任务稀疏表示的三维人脸识别方法、系统及介质
JP3537949B2 (ja) パターン認識装置及び同装置における辞書修正方法
JP3019911B2 (ja) パタン認識方法
CN114913404A (zh) 模型训练、人脸图像活体检测方法、电子设备及存储介质
US6466926B1 (en) Method for optimizing a recognition dictionary to distinguish between patterns that are difficult to distinguish
JP3264242B2 (ja) 認識辞書学習方法及びその装置並びにプログラムを記録した機械読み取り可能な記録媒体
CN114333840A (zh) 语音鉴别方法及相关装置、电子设备和存储介质
JP3810469B2 (ja) パターン認識方法
CN111914718A (zh) 基于平均影响值数据变换的特征加权pca人脸识别方法
CN113688944B (zh) 一种基于元学习的图像识别方法
Hahmann et al. Model interpolation for eye localization using the Discriminative Generalized Hough Transform
JP2951496B2 (ja) パタン認識方法
KR20020074330A (ko) 계층적 주요 성분 분석에 기반한 얼굴 인식 방법 및 장치

Legal Events

Date Code Title Description
FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090107

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100107

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110107

Year of fee payment: 11

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110107

Year of fee payment: 11

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120107

Year of fee payment: 12

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130107

Year of fee payment: 13

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

EXPY Cancellation because of completion of term