JP3372631B2 - パターン認識方法及び装置 - Google Patents
パターン認識方法及び装置Info
- Publication number
- JP3372631B2 JP3372631B2 JP01637794A JP1637794A JP3372631B2 JP 3372631 B2 JP3372631 B2 JP 3372631B2 JP 01637794 A JP01637794 A JP 01637794A JP 1637794 A JP1637794 A JP 1637794A JP 3372631 B2 JP3372631 B2 JP 3372631B2
- Authority
- JP
- Japan
- Prior art keywords
- category
- feature vector
- vector
- input pattern
- covariance matrix
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Landscapes
- Character Discrimination (AREA)
Description
【０００１】
【産業上の利用分野】本発明はパターン認識装置に関
し、特に未知の入力ベクトルに対してその属するカテゴ
リ群を出力することにより、入力ベクトルの属する候補
カテゴリ数を減らす機能を有するパターン認識方法及び
装置に関する。
し、特に未知の入力ベクトルに対してその属するカテゴ
リ群を出力することにより、入力ベクトルの属する候補
カテゴリ数を減らす機能を有するパターン認識方法及び
装置に関する。
【０００２】
【従来の技術】従来のパターン認識装置においては、認
識対象となるカテゴリ数が非常に多い場合に、入力ベク
トルに対してすべての候補となる標準パターンと比較を
行うのではなく、最初に計算量の少ない所定の演算を行
い、その演算結果の値に応じてテーブルを参照して入力
ベクトルの属すると判定できるカテゴリ群を選び出し、
そのカテゴリ群に含まれるカテゴリを候補として出力す
る処理が行われている。この処理を一般に候補の絞り込
みあるいは大分類と呼ぶ。この大分類処理により候補カ
テゴリの数が減るので、全体の処理時間を短縮すること
ができる。この大分類に関して、例を挙げて詳しく説明
する。図８は、文字認識を行う従来例の装置構成を示
す。ここで、７１は認識対象となる文書画像を電気信号
に変換する入力部、７２は入力部７１からの入力信号か
ら１文字ごとに文字固有の特徴を抽出し、特徴ベクトル
を生成する特徴抽出部である。７５・７８の部分が大分
類の処理を司る。７６は大分類演算のためのパラメータ
が記憶されているパラメータ記憶部、７５は大分類演算
部、７８はカテゴリテーブル、７７は大分類演算の結果
からカテゴリテーブル７８を参照するカテゴリテーブル
参照部、８０は認識対象となるすべての候補カテゴリの
標準パターンが平均ベクトルとして記憶されている認識
辞書、７９は認識辞書８０の標準ベクトルと入力ベクト
ルとの距離計算を行い、最も小さい距離を与えるカテゴ
リを認識結果として選択する照合部、８１は照合部７９
で最終的に選択された候補カテゴリを出力する出力部で
ある。
識対象となるカテゴリ数が非常に多い場合に、入力ベク
トルに対してすべての候補となる標準パターンと比較を
行うのではなく、最初に計算量の少ない所定の演算を行
い、その演算結果の値に応じてテーブルを参照して入力
ベクトルの属すると判定できるカテゴリ群を選び出し、
そのカテゴリ群に含まれるカテゴリを候補として出力す
る処理が行われている。この処理を一般に候補の絞り込
みあるいは大分類と呼ぶ。この大分類処理により候補カ
テゴリの数が減るので、全体の処理時間を短縮すること
ができる。この大分類に関して、例を挙げて詳しく説明
する。図８は、文字認識を行う従来例の装置構成を示
す。ここで、７１は認識対象となる文書画像を電気信号
に変換する入力部、７２は入力部７１からの入力信号か
ら１文字ごとに文字固有の特徴を抽出し、特徴ベクトル
を生成する特徴抽出部である。７５・７８の部分が大分
類の処理を司る。７６は大分類演算のためのパラメータ
が記憶されているパラメータ記憶部、７５は大分類演算
部、７８はカテゴリテーブル、７７は大分類演算の結果
からカテゴリテーブル７８を参照するカテゴリテーブル
参照部、８０は認識対象となるすべての候補カテゴリの
標準パターンが平均ベクトルとして記憶されている認識
辞書、７９は認識辞書８０の標準ベクトルと入力ベクト
ルとの距離計算を行い、最も小さい距離を与えるカテゴ
リを認識結果として選択する照合部、８１は照合部７９
で最終的に選択された候補カテゴリを出力する出力部で
ある。
【０００３】大分類の目的は、なるべく少ない計算量
で、候補となりうるカテゴリの数を減らすことである。
ただし、同じカテゴリに属するサンプルであっても一般
にはある程度のちらばりをもって分布するのが一般的で
ある。図９は、特徴ベクトルの次元数を２としたときの
各カテゴリ分布の様子を模式的に表した図である。サン
プルデータは、Ｃ1 ， Ｃ2 ， …のようにちらばり
をもちながら、カテゴリ平均ベクトルのまわりに分布す
る。
で、候補となりうるカテゴリの数を減らすことである。
ただし、同じカテゴリに属するサンプルであっても一般
にはある程度のちらばりをもって分布するのが一般的で
ある。図９は、特徴ベクトルの次元数を２としたときの
各カテゴリ分布の様子を模式的に表した図である。サン
プルデータは、Ｃ1 ， Ｃ2 ， …のようにちらばり
をもちながら、カテゴリ平均ベクトルのまわりに分布す
る。
【０００４】カテゴリ数を絞るために、図９の空間にお
いて直交する平面（一般には、特徴べクトルの次元数を
ＮとするとＮ−１次元の超平面となる）でカテゴリを分
割することを考える。超平面で分離することを考えた場
合、なるべくちらばりの大きい方向に垂直に平面を設定
するのが効率的なので、まずカテゴリごとの平均ベクト
ルに対して主成分分析を行い、その結果得られる固有ベ
クトルの上位Ｌ個を超平面の基底ベクトルｅi（ｉ＝
１，２，・・・，Ｌ）とする。なお上記固有ベクトルは
カテゴリ間共分散行列ＳBの固有ベクトルと同値であ
る。カテゴリ間共分散行列ＳBの定義は次式で与えられ
る。
いて直交する平面（一般には、特徴べクトルの次元数を
ＮとするとＮ−１次元の超平面となる）でカテゴリを分
割することを考える。超平面で分離することを考えた場
合、なるべくちらばりの大きい方向に垂直に平面を設定
するのが効率的なので、まずカテゴリごとの平均ベクト
ルに対して主成分分析を行い、その結果得られる固有ベ
クトルの上位Ｌ個を超平面の基底ベクトルｅi（ｉ＝
１，２，・・・，Ｌ）とする。なお上記固有ベクトルは
カテゴリ間共分散行列ＳBの固有ベクトルと同値であ
る。カテゴリ間共分散行列ＳBの定義は次式で与えられ
る。
【０００５】
【外１】
【０００６】図９の例では、上位２個の基底ベクトルｅ
1、ｅ2によって４つの空間Ｅ1、Ｅ2、Ｅ3、Ｅ4が得られ
る（図１０）。すべての学習サンプルに対してそれぞれ
どの空間に属するかを予め調べておく。各空間において
少しでも学習サンプルが含まれる場合は、その空間に学
習サンプルの属するカテゴリが合まれるとして、各空間
と属するカテゴリをテーブルに登録しておく。
1、ｅ2によって４つの空間Ｅ1、Ｅ2、Ｅ3、Ｅ4が得られ
る（図１０）。すべての学習サンプルに対してそれぞれ
どの空間に属するかを予め調べておく。各空間において
少しでも学習サンプルが含まれる場合は、その空間に学
習サンプルの属するカテゴリが合まれるとして、各空間
と属するカテゴリをテーブルに登録しておく。
【０００７】未知の特徴べクトルｘの入力に対して、大
分類演算部７５での大分類演算で基底ベクトルｅiとの
内積演算を行い、ｘの属する空間を調べ前記テーブルを
参照することによりカテゴリを絞り込むことができる。
絞り込まれたカテゴリに対してのみ７９の照合部で８０
の認識辞書との照合を行い、最も最適なカテゴリを８１
の出力部で出力する。
分類演算部７５での大分類演算で基底ベクトルｅiとの
内積演算を行い、ｘの属する空間を調べ前記テーブルを
参照することによりカテゴリを絞り込むことができる。
絞り込まれたカテゴリに対してのみ７９の照合部で８０
の認識辞書との照合を行い、最も最適なカテゴリを８１
の出力部で出力する。
【０００８】
【発明が解決しようとする課題】しかしながら、上記の
ような従来例において、カテゴリ間共分散行列に比ベて
カテゴリ内共分散行列が大きく、かつカテゴリ内共分散
の異方性が強い場合には、分割された空間に含まれるカ
テゴリの数が多くなり、そのため効率的なカテゴリ数の
校り込みが達成できないという欠点があった。図１１
は、そのような場合の一例を表す模式図で、カテゴリ間
の重なり合いが大きいため、これらを超平面で効率よく
分離することは困難であった。
ような従来例において、カテゴリ間共分散行列に比ベて
カテゴリ内共分散行列が大きく、かつカテゴリ内共分散
の異方性が強い場合には、分割された空間に含まれるカ
テゴリの数が多くなり、そのため効率的なカテゴリ数の
校り込みが達成できないという欠点があった。図１１
は、そのような場合の一例を表す模式図で、カテゴリ間
の重なり合いが大きいため、これらを超平面で効率よく
分離することは困難であった。
【０００９】本発明の目的は、上述の点に鑑み、どのよ
うな場合でも効率良くカテゴリ数の絞り込みができるパ
ターン認識方法及び装置を提供することにある。
うな場合でも効率良くカテゴリ数の絞り込みができるパ
ターン認識方法及び装置を提供することにある。
【００１０】
【課題を解決するための手段】上記目的を達成するため
に、本発明のパターン認識装置は、カテゴリごとの共分
散行列の平均共分散行列が単位行列になる変換行列を用
いて学習サンプルの特徴ベクトルを変換したのち、カテ
ゴリごとの当該変換された学習サンプルの平均特徴ベク
トルの集まりに対して主成分分析を行い、その結果得ら
れる固有ベクトルの上位Ｌ個（Ｌは前記特徴ベクトルの
次元数の数分の１〜１０数分の１程度の値のいずれかと
する）のベクトルを基底ベクトルとして、前記Ｌ個の基
底ベクトルと垂直な超平面によって分割される部分空間
とそれぞれの部分空間に含まれるカテゴリとの対応関係
が定められたカテゴリテーブルを用いて、入力パターン
を認識するパターン認識装置であって、入力パターンの
特徴ベクトルを抽出する特徴ベクトル抽出手段と、カテ
ゴリごとの共分散行列の平均共分散行列が単位行列にな
る変換行列を用いて、前記特徴ベクトル抽出手段にて抽
出された前記特徴ベクトルをカテゴリ間の分離に有効な
特徴ベクトルに変換する変換手段と、該変換手段で変換
された特徴ベクトルと前記Ｌ個の基底ベクトルそれぞれ
との内積を計算する大分類演算手段と、該大分類演算手
段での前記計算の結果に基づいて前記入力パターンが属
する部分空間を判別し、前記カテゴリテーブルを参照す
ることにより、前記入力パターンの属するカテゴリ群を
選択するカテゴリ選択手段と、前記カテゴリ選択手段で
選択されたカテゴリ群を対象として、認識辞書に記憶さ
れた標準パターンと前記入力パターンの特徴ベクトルを
比較することにより、前記入力パターンの最終的な候補
カテゴリを選択出力する最終カテゴリ選択手段とを具備
する。
に、本発明のパターン認識装置は、カテゴリごとの共分
散行列の平均共分散行列が単位行列になる変換行列を用
いて学習サンプルの特徴ベクトルを変換したのち、カテ
ゴリごとの当該変換された学習サンプルの平均特徴ベク
トルの集まりに対して主成分分析を行い、その結果得ら
れる固有ベクトルの上位Ｌ個（Ｌは前記特徴ベクトルの
次元数の数分の１〜１０数分の１程度の値のいずれかと
する）のベクトルを基底ベクトルとして、前記Ｌ個の基
底ベクトルと垂直な超平面によって分割される部分空間
とそれぞれの部分空間に含まれるカテゴリとの対応関係
が定められたカテゴリテーブルを用いて、入力パターン
を認識するパターン認識装置であって、入力パターンの
特徴ベクトルを抽出する特徴ベクトル抽出手段と、カテ
ゴリごとの共分散行列の平均共分散行列が単位行列にな
る変換行列を用いて、前記特徴ベクトル抽出手段にて抽
出された前記特徴ベクトルをカテゴリ間の分離に有効な
特徴ベクトルに変換する変換手段と、該変換手段で変換
された特徴ベクトルと前記Ｌ個の基底ベクトルそれぞれ
との内積を計算する大分類演算手段と、該大分類演算手
段での前記計算の結果に基づいて前記入力パターンが属
する部分空間を判別し、前記カテゴリテーブルを参照す
ることにより、前記入力パターンの属するカテゴリ群を
選択するカテゴリ選択手段と、前記カテゴリ選択手段で
選択されたカテゴリ群を対象として、認識辞書に記憶さ
れた標準パターンと前記入力パターンの特徴ベクトルを
比較することにより、前記入力パターンの最終的な候補
カテゴリを選択出力する最終カテゴリ選択手段とを具備
する。
【００１１】上記目的を達成するために、本発明のパタ
ーン認識方法は、カテゴリごとの共分散行列の平均共分
散行列が単位行列になる変換行列を用いて学習サンプル
の特徴ベクトルを変換したのち、カテゴリごとの当該変
換された学習サンプルの平均特徴ベクトルの集まりに対
して主成分分析を行い、その結果得られる固有ベクトル
の上位Ｌ個（Ｌは前記特徴ベクトルの次元数の数分の１
〜１０数分の１程度の値のいずれかとする）のベクトル
を基底ベクトルとして、前記Ｌ個の基底ベクトルと垂直
な超平面によって分割される部分空間とそれぞれの部分
空間に含まれるカテゴリとの対応関係が定められたカテ
ゴリテーブルを用いて、入力パターンを認識するパター
ン認識方法であって、入力パターンの特徴ベクトルを抽
出する特徴ベクトル抽出ステップと、カテゴリごとの共
分散行列の平均共分散行列が単位行列になる変換行列を
用いて、前記特徴ベクトル抽出ステップで抽出した前記
特徴ベクトルをカテゴリ間の分離に有効な特徴ベクトル
に変換する変換ステップと、該変換ステップで変換され
たべクトルと前記Ｌ個の基底ベクトルそれぞれとの内積
を計算する大分類演算ステップと、該大分類演算ステッ
プでの前記計算の結果に基づいて前記入力パターンが属
する部分空間を判別し、前記カテゴリテーブルを参照す
ることにより、前記入力パターンの属するカテゴリ群を
選択するカテゴリ選択ステップと、前記カテゴリ選択ス
テップで選択されたカテゴリ群を対象として、認識辞書
に記憶された標準パターンと前記入力パターンの特徴ベ
クトルを比較することにより、前記入力パターンの最終
的な候補カテゴリを選択出力する最終カテゴリ選択ステ
ップとを具備する。
ーン認識方法は、カテゴリごとの共分散行列の平均共分
散行列が単位行列になる変換行列を用いて学習サンプル
の特徴ベクトルを変換したのち、カテゴリごとの当該変
換された学習サンプルの平均特徴ベクトルの集まりに対
して主成分分析を行い、その結果得られる固有ベクトル
の上位Ｌ個（Ｌは前記特徴ベクトルの次元数の数分の１
〜１０数分の１程度の値のいずれかとする）のベクトル
を基底ベクトルとして、前記Ｌ個の基底ベクトルと垂直
な超平面によって分割される部分空間とそれぞれの部分
空間に含まれるカテゴリとの対応関係が定められたカテ
ゴリテーブルを用いて、入力パターンを認識するパター
ン認識方法であって、入力パターンの特徴ベクトルを抽
出する特徴ベクトル抽出ステップと、カテゴリごとの共
分散行列の平均共分散行列が単位行列になる変換行列を
用いて、前記特徴ベクトル抽出ステップで抽出した前記
特徴ベクトルをカテゴリ間の分離に有効な特徴ベクトル
に変換する変換ステップと、該変換ステップで変換され
たべクトルと前記Ｌ個の基底ベクトルそれぞれとの内積
を計算する大分類演算ステップと、該大分類演算ステッ
プでの前記計算の結果に基づいて前記入力パターンが属
する部分空間を判別し、前記カテゴリテーブルを参照す
ることにより、前記入力パターンの属するカテゴリ群を
選択するカテゴリ選択ステップと、前記カテゴリ選択ス
テップで選択されたカテゴリ群を対象として、認識辞書
に記憶された標準パターンと前記入力パターンの特徴ベ
クトルを比較することにより、前記入力パターンの最終
的な候補カテゴリを選択出力する最終カテゴリ選択ステ
ップとを具備する。
【００１２】
【作用】本発明では、カテゴリ間の分離に有効な特徴と
なるような変換を特徴ベクトルに施した後、所定の基底
ベクトルとの内積演算を行い、カテゴリテーブルを参照
するようにしている。これにより、前述した従来の問題
点が解消され、図５に示すような場合にも効率良くカテ
ゴリ数の絞り込みが達成できる。
なるような変換を特徴ベクトルに施した後、所定の基底
ベクトルとの内積演算を行い、カテゴリテーブルを参照
するようにしている。これにより、前述した従来の問題
点が解消され、図５に示すような場合にも効率良くカテ
ゴリ数の絞り込みが達成できる。
【００１３】
【実施例】以下、図面を参照して本発明の実施例を詳細
に説明する。
に説明する。
【００１４】図１は本発明の一実施例のパターン認識装
置の構成を示す。同図において、１１は認識対象となる
文書画像を電気信号に変換する入力部、１２は入力部１
１からの入力信号から１文字ごとに文字固有の特徴を抽
出し、特徴ベクトルを生成する特徴抽出部である。１３
は予め定めた変換行列を入力ベクトルに作用させて変換
する変換部、および１４は上記変換行列を記憶しておく
変換行列記憶部である。１５・１８の部分が大分類の処
理を司る。１６は大分類演算のためのパラメータが記憶
されているパラメータ記憶部、１５は大分類演算部、１
８はカテゴリテーブル、１７は大分類演算の結果からカ
テゴリテーブル１８を参照するカテゴリテーブル参照
部、２０は認識対象となるすべての候補カテゴリの標準
パターンが平均ベクトルとして記憶されている認識辞
書、１９は認識辞書２０の標準ベクトルと入力ベクトル
との距離計算を行い、最も小さい距離を与えるカテゴリ
を認識結果として選択する照合部、１１は照合部１９で
最終的に選択された候補カテゴリを出力する出力部であ
る。
置の構成を示す。同図において、１１は認識対象となる
文書画像を電気信号に変換する入力部、１２は入力部１
１からの入力信号から１文字ごとに文字固有の特徴を抽
出し、特徴ベクトルを生成する特徴抽出部である。１３
は予め定めた変換行列を入力ベクトルに作用させて変換
する変換部、および１４は上記変換行列を記憶しておく
変換行列記憶部である。１５・１８の部分が大分類の処
理を司る。１６は大分類演算のためのパラメータが記憶
されているパラメータ記憶部、１５は大分類演算部、１
８はカテゴリテーブル、１７は大分類演算の結果からカ
テゴリテーブル１８を参照するカテゴリテーブル参照
部、２０は認識対象となるすべての候補カテゴリの標準
パターンが平均ベクトルとして記憶されている認識辞
書、１９は認識辞書２０の標準ベクトルと入力ベクトル
との距離計算を行い、最も小さい距離を与えるカテゴリ
を認識結果として選択する照合部、１１は照合部１９で
最終的に選択された候補カテゴリを出力する出力部であ
る。
【００１５】最初に、本発明の中心となる変換行列およ
び大分類演算のためのパラメータの求め方について説明
しておく。図１０のような場合では、カテゴリ間共分散
行列に比ベてカテゴリ内共分散行列が大きいこと、およ
びカテゴリ内共分散の異方性が強いため、従来技術では
各カテゴリを超平面で分離することが困難であった。そ
こで、本実施例では各カテゴリ内共分散行列の平均共分
散行列ＳWが単位行列になるような変換を施した後に、
超平面分離を行う。
び大分類演算のためのパラメータの求め方について説明
しておく。図１０のような場合では、カテゴリ間共分散
行列に比ベてカテゴリ内共分散行列が大きいこと、およ
びカテゴリ内共分散の異方性が強いため、従来技術では
各カテゴリを超平面で分離することが困難であった。そ
こで、本実施例では各カテゴリ内共分散行列の平均共分
散行列ＳWが単位行列になるような変換を施した後に、
超平面分離を行う。
【００１６】カテゴリｋの分布は次式の共分散行列で近
似的に表される。
似的に表される。
【００１７】
【外２】
【００１８】また、カテゴリｋの共分散行列Ｓk（ ｋ
＝１ ， ・・・ ， Ｃ；Ｃはカテゴリ数）に対し
て、平均カテゴリ内共分散行列ＳWを次式で定義する。
＝１ ， ・・・ ， Ｃ；Ｃはカテゴリ数）に対し
て、平均カテゴリ内共分散行列ＳWを次式で定義する。
【００１９】
【外３】
ｘの次元数をＮとしたとき、次のような変換を行う。
【００２０】ｘ
＝Ａｘ（ｘ∈ＲN、Ａ：Ｎ×Ｎ） ・・・ （１）
Ａ＝ＵＭ-1/2Ｕ’（このときＡ′＝Ａである）
下線（＿）は変換後の値
プライム（′）は転値を表す
【００２１】Ｍ、Ｕは、それぞれＳWの固有値行列 、
固有ベクトル行列である。すなわち、平均カテゴリ内共
分散行列ＳWの固有値をμ1 ， ・・・ ， μN、そ
の固有ベクトルをφ1・・・φNとすると、
固有ベクトル行列である。すなわち、平均カテゴリ内共
分散行列ＳWの固有値をμ1 ， ・・・ ， μN、そ
の固有ベクトルをφ1・・・φNとすると、
【００２２】
【外４】
である。このとき、
【００２３】
【外５】
で定義しておく。固有値行列、固有ベクトル行列の定義
から明らかに、 ＳW＝ＵＭＵ’ である。このとき、Ｓ W ＝Ａ’ＳWＡ ＝ＵＭ-1/2Ｕ’ＳWＵＭ-1/2Ｕ’ ＝ＵＭ-1/2Ｕ’ＭＵＭ-1/2Ｕ’ ＝ＵＭ-1/2ＭＭ-1/2Ｕ’ ＝ＵＵ’ ＝Ｉ となり、（１）の変換後、平均カテゴリ内共分散行列が
図５に示すような単位行列になることがわかる。
から明らかに、 ＳW＝ＵＭＵ’ である。このとき、Ｓ W ＝Ａ’ＳWＡ ＝ＵＭ-1/2Ｕ’ＳWＵＭ-1/2Ｕ’ ＝ＵＭ-1/2Ｕ’ＭＵＭ-1/2Ｕ’ ＝ＵＭ-1/2ＭＭ-1/2Ｕ’ ＝ＵＵ’ ＝Ｉ となり、（１）の変換後、平均カテゴリ内共分散行列が
図５に示すような単位行列になることがわかる。
【００２４】図６は、Ａによる変換後を表す模式図であ
り、本発明によればカテゴリごとのまとまりがよくなる
ため、超平面による分離がより効率的に行えることがわ
かる。なお、共分散行列の単位行列ヘの正規化自体は白
色化と呼ばれる公知の技術である（参考文献：大津展之
「パターン認識における特徴抽出に関する数理的研究」
１９８１．７電総研研究報告）。
り、本発明によればカテゴリごとのまとまりがよくなる
ため、超平面による分離がより効率的に行えることがわ
かる。なお、共分散行列の単位行列ヘの正規化自体は白
色化と呼ばれる公知の技術である（参考文献：大津展之
「パターン認識における特徴抽出に関する数理的研究」
１９８１．７電総研研究報告）。
【００２５】変換行列Ａは１６のパラメータ記憶部に記
憶される。また、すべての学習サンプルを変換行列Ａで
変換したのち、全平均ベクトルｘ Tおよび空間を分割す
るための超平面を表す基底ベクトルｅiを求めておく。
ｅiの定め方は従来例と同じである。すなわち、カテゴ
リごとの平均ベクトルの集まりに対して主成分分析を行
い、その結果えられる固有ベクトルの上位Ｌ個を超平面
の基底ベクトルｅi（ｉ＝１，２，・・・，Ｌ）とす
る。各基底ベクトルに垂直な超平面によって分割される
ので、空間は、２L個の空間に分割される。この分割さ
れた空間を部分空間と呼ぶ。候補カテゴリを減らすため
には、Ｌを大きくとった方が効率がよいが、Ｌを大きく
するほど後に説明するカテゴリテーブルが大きくなるの
で、Ｌは適当な値を実験的に定める。そのＬの値の目安
としては、特徴ベクトルの次元数に比ベて数分の１〜１
０数分の１程度が妥当である。こうして求めたｅiとｘ T
はパラメータ記憶部１６に記憶される。
憶される。また、すべての学習サンプルを変換行列Ａで
変換したのち、全平均ベクトルｘ Tおよび空間を分割す
るための超平面を表す基底ベクトルｅiを求めておく。
ｅiの定め方は従来例と同じである。すなわち、カテゴ
リごとの平均ベクトルの集まりに対して主成分分析を行
い、その結果えられる固有ベクトルの上位Ｌ個を超平面
の基底ベクトルｅi（ｉ＝１，２，・・・，Ｌ）とす
る。各基底ベクトルに垂直な超平面によって分割される
ので、空間は、２L個の空間に分割される。この分割さ
れた空間を部分空間と呼ぶ。候補カテゴリを減らすため
には、Ｌを大きくとった方が効率がよいが、Ｌを大きく
するほど後に説明するカテゴリテーブルが大きくなるの
で、Ｌは適当な値を実験的に定める。そのＬの値の目安
としては、特徴ベクトルの次元数に比ベて数分の１〜１
０数分の１程度が妥当である。こうして求めたｅiとｘ T
はパラメータ記憶部１６に記憶される。
【００２６】また、変換後のすべての学習サンプルが分
割されたどの部分空間に属するかも予め調べておく。各
部分空間において少しでも学習サンプルが含まれる場合
は、その部分空間に学習サンプルの属するカテゴリが含
まれるとする。この部分空間とカテゴリの対応関係はカ
テゴリテーブル１８に登録される。
割されたどの部分空間に属するかも予め調べておく。各
部分空間において少しでも学習サンプルが含まれる場合
は、その部分空間に学習サンプルの属するカテゴリが含
まれるとする。この部分空間とカテゴリの対応関係はカ
テゴリテーブル１８に登録される。
【００２７】図７は本発明を実施する一例であるパター
ン認識装置の構成ブロック図である。
ン認識装置の構成ブロック図である。
【００２８】１０１は装置全体の処理を制御するＣＰＵ
であり、ＲＯＭ１０２に格納されている制御プログラム
に基づいて処理を行う。１０２はＲＯＭであり、図２の
フローチャートの制御プログラムや、認識辞書等を格納
する。１０３はＲＡＭであり、各処理途中のデータを格
納するワーキングメモリとして用いる。１０４はインタ
フェースであり、他のパターン認識装置やコンピュータ
の端末等との通信の制御をし、他装置からの画像入力
や、認識結果の出力などを行う。１０５はスキャナであ
り、認識対象の原稿を光学的に読み取る。１０６はキー
ボードやポインティングデバイス等の入力部であり、各
種処理の開始、中断、指示等の入力を可能とする。１０
７はＣＲＴや液晶等の表示器であり、スキャナ等からの
入力画像や、認識結果、或いは認識途中のメッセージ表
示等を行う。
であり、ＲＯＭ１０２に格納されている制御プログラム
に基づいて処理を行う。１０２はＲＯＭであり、図２の
フローチャートの制御プログラムや、認識辞書等を格納
する。１０３はＲＡＭであり、各処理途中のデータを格
納するワーキングメモリとして用いる。１０４はインタ
フェースであり、他のパターン認識装置やコンピュータ
の端末等との通信の制御をし、他装置からの画像入力
や、認識結果の出力などを行う。１０５はスキャナであ
り、認識対象の原稿を光学的に読み取る。１０６はキー
ボードやポインティングデバイス等の入力部であり、各
種処理の開始、中断、指示等の入力を可能とする。１０
７はＣＲＴや液晶等の表示器であり、スキャナ等からの
入力画像や、認識結果、或いは認識途中のメッセージ表
示等を行う。
【００２９】本実施例の処理の流れを図２のフローチャ
ートにしたがって説明する。Ｓ２０１でスキャナ１０５
により文書画像の読み取りを行い画像情報を２値のデジ
タル画像データに変換する。読み取った画像データに対
して、Ｓ２０２で１文字ごとの領域を取り出していく文
字切り出し処理を行う。次に、Ｓ２０３で１文字分の画
像データを所定の大きさに正規化する。そのためには、
一定の長さ６４を一辺とする正規化画像データ格納用の
バッファメモリを用意しておき、一文字分の画像データ
を正規化して格納する。図３を用いて具体的に説明す
る。原画像の一文字分のデータをａ（ｉ， ｊ）（０≦
ｉ＜ｗ， ０≦ｊ＜ｈ）で表すことにする。ただし文字
の高さをｈ、幅をｗとする。ａ（ｉ， ｊ）は黒画素に
対して１、白画素に対して０の値をとる。正規化後のデ
ータをｂ（ｉ， ｊ）（０≦ｉ，ｊ＜６４）とすると、 ｂ（ｉ， ｊ） ＝ ａ（６４×ｉ／ｈ， ６４×ｊ／
ｗ） （０≦ｉ， ｊ＜６４ なるすべてのｉ， ｊに対し
て） で計算する。こうして文字画像を一辺の長さ６４の正方
形に正規化したのち、Ｓ２０４で所定のアルゴリズムに
したがって特徴抽出を行う。本実施例では、正規化文字
画像を８×８の小領域に分割し、各小領域ごとに黒画素
の数を集計しヒストグラムを求める。６４個の小領域ご
とに黒画素の数が計算されるので全体として６４次元の
特徴ベクトルｘが生成されることになる。
ートにしたがって説明する。Ｓ２０１でスキャナ１０５
により文書画像の読み取りを行い画像情報を２値のデジ
タル画像データに変換する。読み取った画像データに対
して、Ｓ２０２で１文字ごとの領域を取り出していく文
字切り出し処理を行う。次に、Ｓ２０３で１文字分の画
像データを所定の大きさに正規化する。そのためには、
一定の長さ６４を一辺とする正規化画像データ格納用の
バッファメモリを用意しておき、一文字分の画像データ
を正規化して格納する。図３を用いて具体的に説明す
る。原画像の一文字分のデータをａ（ｉ， ｊ）（０≦
ｉ＜ｗ， ０≦ｊ＜ｈ）で表すことにする。ただし文字
の高さをｈ、幅をｗとする。ａ（ｉ， ｊ）は黒画素に
対して１、白画素に対して０の値をとる。正規化後のデ
ータをｂ（ｉ， ｊ）（０≦ｉ，ｊ＜６４）とすると、 ｂ（ｉ， ｊ） ＝ ａ（６４×ｉ／ｈ， ６４×ｊ／
ｗ） （０≦ｉ， ｊ＜６４ なるすべてのｉ， ｊに対し
て） で計算する。こうして文字画像を一辺の長さ６４の正方
形に正規化したのち、Ｓ２０４で所定のアルゴリズムに
したがって特徴抽出を行う。本実施例では、正規化文字
画像を８×８の小領域に分割し、各小領域ごとに黒画素
の数を集計しヒストグラムを求める。６４個の小領域ご
とに黒画素の数が計算されるので全体として６４次元の
特徴ベクトルｘが生成されることになる。
【００３０】得られた特徴ベクトルｘにＳ２０５で前記
変換行列Ａを作用させ、変換された特徴ベクトルｘを得
る。ｘ ＝Ａｘ である。
変換行列Ａを作用させ、変換された特徴ベクトルｘを得
る。ｘ ＝Ａｘ である。
【００３１】変換後の特徴ベクトルｘに対して、Ｓ２０
６で次のような内積演算を行うことによってカテゴリテ
ーブルを検索するための値ｐ1 ， ｐ2 ， ・・・
，ｐLを得る。
６で次のような内積演算を行うことによってカテゴリテ
ーブルを検索するための値ｐ1 ， ｐ2 ， ・・・
，ｐLを得る。
【００３２】
ｅi・（ｘ-ｘ T）≧０ ならば ｐi＝１
ｅi・（ｘ-ｘ T）＜０ ならば ｐi＝０
（ ｉ ＝１ ， ２ ， ・・・ ， Ｌ）
ここで、ｘ T＝ＡｘTであり、ｘTは、全ての学習サンプ
ルの特徴ベクトルの平均のベクトルである。そして、上
記内積演算結果のｐiを用いてカテゴリテーブルを参照
するための値γを次式の通り計算する。
ルの特徴ベクトルの平均のベクトルである。そして、上
記内積演算結果のｐiを用いてカテゴリテーブルを参照
するための値γを次式の通り計算する。
【００３３】
【外６】
【００３４】γは、ｘの属する部分空間を表す番号で、
０〜２L-1の値をとることになる。このγを用いてＳ２
０７でカテゴリテーブルを検索する。図４は図１のカテ
ゴリテーブル１８を税明するためのメモリ構成を示す。
このγの値からまずアドレステーブルＡＴ〔γ〕を参照
する。そして、アドレステーブルＡＴ〔γ〕の値からカ
テゴリテーブルＣＴ
０〜２L-1の値をとることになる。このγを用いてＳ２
０７でカテゴリテーブルを検索する。図４は図１のカテ
ゴリテーブル１８を税明するためのメモリ構成を示す。
このγの値からまずアドレステーブルＡＴ〔γ〕を参照
する。そして、アドレステーブルＡＴ〔γ〕の値からカ
テゴリテーブルＣＴ
〔０〕の位置４１を参照し、その位
置から後に記憶されているカテゴリを候補カテゴリとす
る。ただし、最初の位置４１には個数ｍが記憶されてお
り、続いて位置４２以下に候補カテゴリを表すコードが
順にｍ個記憶されている。個数ｍは一定ではなく各グル
ープによって異なってもよい。図１の構成においては上
記アドレステーブルＡＴとカテゴリテーブルＣＴは、カ
テゴリテーブル１８の所定領域に記憶されている。な
お、カテゴリテーブルＣＴに含まれるカテゴリは学習サ
ンプルに対して参照値γを計算し、そのγが属する部分
空間を調ベることにより予め求めておいたものである。
置から後に記憶されているカテゴリを候補カテゴリとす
る。ただし、最初の位置４１には個数ｍが記憶されてお
り、続いて位置４２以下に候補カテゴリを表すコードが
順にｍ個記憶されている。個数ｍは一定ではなく各グル
ープによって異なってもよい。図１の構成においては上
記アドレステーブルＡＴとカテゴリテーブルＣＴは、カ
テゴリテーブル１８の所定領域に記憶されている。な
お、カテゴリテーブルＣＴに含まれるカテゴリは学習サ
ンプルに対して参照値γを計算し、そのγが属する部分
空間を調ベることにより予め求めておいたものである。
【００３５】ｍ個に絞られた候補カテゴリに対しての
み、Ｓ２０８で特徴ベクトルと認識辞書に記憶された標
準パターンとを比較し、最も小さい距離を与えるカテゴ
リを最終的な候補カテゴリとして選び出し、Ｓ２０９で
出力する。
み、Ｓ２０８で特徴ベクトルと認識辞書に記憶された標
準パターンとを比較し、最も小さい距離を与えるカテゴ
リを最終的な候補カテゴリとして選び出し、Ｓ２０９で
出力する。
【００３６】（他の実施例）第２の実施例として変換行
列として元の特徴ベクトルの要素のうち大分類としての
効率のよいものだけを用いる方法がある。第１の実施例
と同じような６４次元の特徴ベクトルに対して、特徴軸
ｊの単独の分類効率の高さＲ(j)を次式で定義する。
列として元の特徴ベクトルの要素のうち大分類としての
効率のよいものだけを用いる方法がある。第１の実施例
と同じような６４次元の特徴ベクトルに対して、特徴軸
ｊの単独の分類効率の高さＲ(j)を次式で定義する。
【００３７】
【外７】
ここで、σ(j) B、σ(j) Wはそれぞれ特徴軸ｊの成分だけ
によるカテゴリ間分散および平均カテゴリ内分散であ
る。
によるカテゴリ間分散および平均カテゴリ内分散であ
る。
【００３８】
【外８】
Ｒ(j)の大きい方から上位Ｌ個の特徴量だけによって新
たな特徴ベクトルｘとする。このｘを用いて内積を計算
するところ以下は第１の実施例に同じである。
たな特徴ベクトルｘとする。このｘを用いて内積を計算
するところ以下は第１の実施例に同じである。
【００３９】また、本発明は、入力された特徴ベクトル
に対してその属するカテゴリを絞り込む働きをするもの
であり、入力ベクトルやカテゴリの種類によらない。し
たがって、文字・音声・画像等さまざまな認識に適用可
能である。
に対してその属するカテゴリを絞り込む働きをするもの
であり、入力ベクトルやカテゴリの種類によらない。し
たがって、文字・音声・画像等さまざまな認識に適用可
能である。
【００４０】
【発明の効果】以上説明したように、本発明によれば、
入力パターンの特徴ベクトルを抽出し、抽出した特徴ベ
クトルをカテゴリ間の分離に有効な特徴ベクトルに変換
し、変換された特徴ベクトルと予め定めた基底ベクトル
との内積を計算し、該計算結果に基づいて、予め定めら
れたカテゴリテーブルを参照して、前記入力パターンの
属するカテゴリ群を選択出力するようにしたので、多数
の候補カテゴリの中から入力ベクトルの属すると推定さ
れるカテゴリを効率よく絞り込むことができ、より少な
い計算量でパターン認識が可能となるという効果が得ら
れる。
入力パターンの特徴ベクトルを抽出し、抽出した特徴ベ
クトルをカテゴリ間の分離に有効な特徴ベクトルに変換
し、変換された特徴ベクトルと予め定めた基底ベクトル
との内積を計算し、該計算結果に基づいて、予め定めら
れたカテゴリテーブルを参照して、前記入力パターンの
属するカテゴリ群を選択出力するようにしたので、多数
の候補カテゴリの中から入力ベクトルの属すると推定さ
れるカテゴリを効率よく絞り込むことができ、より少な
い計算量でパターン認識が可能となるという効果が得ら
れる。
【図１】本発明の第１の実施例のパターン認識装置の構
成を示すブロック図
成を示すブロック図
【図２】本発明の第１の実施例のフローチャート
【図３】文字画像の正規化を説明するための図
【図４】図１のカテゴリテーブルの構造を示すメモリマ
ップを示す図
ップを示す図
【図５】第１の実施例における変換の様子を説明するた
めの概念図
めの概念図
【図６】第１の実施例によるカテゴリの分離を説明する
ための模式図
ための模式図
【図７】実施例のパターン認識装置の構成ブロック図
【図８】従来例のパターン認識装置の構成を示すブロッ
ク図
ク図
【図９】従来例のカテゴリの分離を説明するための模式
図
図
【図１０】従来例のカテゴリの分離を説明するための模
式図
式図
【図１１】カテゴリの分離が困難な例を示す模式図
フロントページの続き
(56)参考文献 特開 平１−267789（ＪＰ，Ａ)
特開 平１−267787（ＪＰ，Ａ)
特開 平５−197911（ＪＰ，Ａ)
特開 平６−251156（ＪＰ，Ａ)
特開 昭64−17182（ＪＰ，Ａ)
特開 昭62−73391（ＪＰ，Ａ)
距離関数の学習による手書き数字認
識，電子情報通信学会論文誌 Ｊ76−Ｄ
−ＩＩ，日本，1993年９月25日，第Ｊ76
−Ｄ−ＩＩ巻 第９号，ｐｐ．1851−
1859
(58)調査した分野(Int.Cl.7，ＤＢ名)
G06K 9/00 - 9/82
Claims (6)
- 【請求項１】 カテゴリごとの共分散行列の平均共分散
行列が単位行列になる変換行列を用いて学習サンプルの
特徴ベクトルを変換したのち、カテゴリごとの当該変換
された学習サンプルの平均特徴ベクトルの集まりに対し
て主成分分析を行い、その結果得られる固有ベクトルの
上位Ｌ個（Ｌは前記特徴ベクトルの次元数の数分の１〜
１０数分の１程度の値のいずれかとする）のベクトルを
基底ベクトルとして、前記Ｌ個の基底ベクトルと垂直な
超平面によって分割される部分空間とそれぞれの部分空
間に含まれるカテゴリとの対応関係が定められたカテゴ
リテーブルを用いて、入力パターンを認識するパターン
認識装置であって、 入力パターンの特徴ベクトルを抽出する特徴ベクトル抽
出手段と、 カテゴリごとの共分散行列の平均共分散行列が単位行列
になる変換行列を用いて、前記特徴ベクトル抽出手段に
て抽出された前記特徴ベクトルをカテゴリ間の分離に有
効な特徴ベクトルに変換する変換手段と、 該変換手段で変換された特徴ベクトルと前記Ｌ個の基底
ベクトルそれぞれとの内積を計算する大分類演算手段
と、 該大分類演算手段での前記計算の結果に基づいて前記入
力パターンが属する部分空間を判別し、前記カテゴリテ
ーブルを参照することにより、前記入力パターンの属す
るカテゴリ群を選択するカテゴリ選択手段と、 前記カテゴリ選択手段で選択されたカテゴリ群を対象と
して、認識辞書に記憶された標準パターンと前記入力パ
ターンの特徴ベクトルを比較することにより、前記入力
パターンの最終的な候補カテゴリを選択出力する最終カ
テゴリ選択手段とを具備することを特徴とするパターン
認識装置。 - 【請求項２】 前記カテゴリ選択手段は、前記変換後の
ベクトルとｉ番目の基底ベクトルとの内積値が０以上な
らばｉビット目を１とし、該内積値が０より小さければ
ｉビット目を０としてできるＬビットの数値を前記部分
空間を表す番号として前記カテゴリテーブルの参照に用
いて、前記部分空間に対応するカテゴリ群を選択出力す
ることを特徴とする請求項１記載のパターン認識装置。 - 【請求項３】 前記変換手段では、カテゴリ間分散を平
均カテゴリ内分散で割った値の大きい方から所定の個数
の特徴量を要素とする特徴ベクトルに変換することを特
徴とする請求項１記載のパターン認識装置。 - 【請求項４】 カテゴリごとの共分散行列の平均共分散
行列が単位行列になる変換行列を用いて学習サンプルの
特徴ベクトルを変換したのち、カテゴリごとの当該変換
された学習サンプルの平均特徴ベクトルの集まりに対し
て主成分分析を行い、その結果得られる固有ベクトルの
上位Ｌ個（Ｌは前記特徴ベクトルの次元数の数分の１〜
１０数分の１程度の値のいずれかとする）のベクトルを
基底ベクトルとして、前記Ｌ個の基底ベクトルと垂直な
超平面によって分割される部分空間とそれぞれの部分空
間に含まれるカテゴリとの対応関係が定められたカテゴ
リテーブルを用いて、入力パターンを認識するパターン
認識方法であって、 入力パターンの特徴ベクトルを抽出する特徴ベクトル抽
出ステップと、 カテゴリごとの共分散行列の平均共分散行列が単位行列
になる変換行列を用いて、前記特徴ベクトル抽出ステッ
プで抽出した前記特徴ベクトルをカテゴリ間の分離に有
効な特徴ベクトルに変換する変換ステップと、 該変換ステップで変換されたべクトルと前記Ｌ個の基底
ベクトルそれぞれとの内積を計算する大分類演算ステッ
プと、 該大分類演算ステップでの前記計算の結果に基づいて前
記入力パターンが属する部分空間を判別し、前記カテゴ
リテーブルを参照することにより、前記入力パターンの
属するカテゴリ群を選択するカテゴリ選択ステップと、 前記カテゴリ選択ステップで選択されたカテゴリ群を対
象として、認識辞書に記憶された標準パターンと前記入
力パターンの特徴ベクトルを比較することにより、前記
入力パターンの最終的な候補カテゴリを選択出力する最
終カテゴリ選択ステップとを具備することを特徴とする
パターン認識方法。 - 【請求項５】 前記カテゴリ選択ステップでは、前記変
換後のベクトルとｉ番目の基底ベクトルとの内積値が０
以上ならばｉビット目を１とし、該内積値が０より小さ
ければｉビット目を０としてできるＬビットの数値を前
記部分空間を表す番号として前記カテゴリテーブルの参
照に用いて、前記部分空間に対応するカテゴリ群を選択
出力することを特徴とする請求項４記載のパターン認識
方法。 - 【請求項６】 前記変換ステップでは、カテゴリ間分散
を平均カテゴリ内分散で割った値の大きい方から所定の
個数の特徴量を要素とする特徴ベクトルに変換すること
を特徴とする請求項４記載のパターン認識方法。
Priority Applications (4)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP01637794A JP3372631B2 (ja) | 1994-02-10 | 1994-02-10 | パターン認識方法及び装置 |
| EP94301378A EP0613101B1 (en) | 1993-02-26 | 1994-02-25 | Pattern recognizing method and apparatus |
| DE69425166T DE69425166T2 (de) | 1993-02-26 | 1994-02-25 | Verfahren und Gerät zur Mustererkennung |
| US08/700,828 US5671293A (en) | 1993-02-26 | 1996-08-21 | Pattern recognizing method and apparatus |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP01637794A JP3372631B2 (ja) | 1994-02-10 | 1994-02-10 | パターン認識方法及び装置 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JPH07225814A JPH07225814A (ja) | 1995-08-22 |
| JP3372631B2 true JP3372631B2 (ja) | 2003-02-04 |
Family
ID=11914605
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP01637794A Expired - Fee Related JP3372631B2 (ja) | 1993-02-26 | 1994-02-10 | パターン認識方法及び装置 |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP3372631B2 (ja) |
-
1994
- 1994-02-10 JP JP01637794A patent/JP3372631B2/ja not_active Expired - Fee Related
Non-Patent Citations (1)
| Title |
|---|
| 距離関数の学習による手書き数字認識，電子情報通信学会論文誌 Ｊ７６−Ｄ−ＩＩ，日本，１９９３年９月２５日，第Ｊ７６−Ｄ−ＩＩ巻 第９号，ｐｐ．１８５１−１８５９ |
Also Published As
| Publication number | Publication date |
|---|---|
| JPH07225814A (ja) | 1995-08-22 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US5539840A (en) | Multifont optical character recognition using a box connectivity approach | |
| JP2001167131A (ja) | 文書シグネチュアを使用する文書の自動分類方法 | |
| JPH08180139A (ja) | 拘束のない手書き英数字のオンライン認識の方法及び装置 | |
| WO1993020533A1 (en) | Character-recognition systems and methods with means to measure endpoint features in character bit-maps | |
| CN113723252A (zh) | 一种表格型文本图片的识别方法和系统 | |
| JP4393720B2 (ja) | パターン認識装置および方法 | |
| CN112926601A (zh) | 基于深度学习的图像识别方法、装置、设备及存储介质 | |
| EP0613101B1 (en) | Pattern recognizing method and apparatus | |
| Georgy et al. | Data dimensionality reduction for face recognition | |
| Hjelmas | Feature-based face recognition | |
| JP2997403B2 (ja) | 手書き文字の認識方法および装置 | |
| Angadi et al. | Euclidean distance based offline signature recognition system using global and local wavelet features | |
| CN112001231A (zh) | 加权多任务稀疏表示的三维人脸识别方法、系统及介质 | |
| CN111832329A (zh) | 基于qr二维码的单向跨网文件传输方法 | |
| JP3372631B2 (ja) | パターン認識方法及び装置 | |
| Bouibed et al. | Multiple writer retrieval systems based on language independent dissimilarity learning | |
| KR0186025B1 (ko) | 후보 문자 분류 방법 | |
| JPH06251156A (ja) | パターン認識装置 | |
| CN109241886B (zh) | 基于olbp与pca的人脸识别方法和系统 | |
| CN108334884B (zh) | 一种基于机器学习的手写文档检索方法 | |
| Pornpanomchai et al. | Printed Thai character recognition by genetic algorithm | |
| Ameen et al. | Face recognition using hybrid methods of transformation and statistical measures | |
| Thi et al. | Combining Feature Extraction Methods and Principal Component Analysis for Recognition of Vietnamese Off-Line Handwritten Uppercase Accented Characters | |
| JP2728117B2 (ja) | 文字認識装置 | |
| JP2866920B2 (ja) | 標準パターン作成方法及び装置並びに文字認識装置及び方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20021029 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20071122 Year of fee payment: 5 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20081122 Year of fee payment: 6 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20081122 Year of fee payment: 6 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20091122 Year of fee payment: 7 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20101122 Year of fee payment: 8 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20101122 Year of fee payment: 8 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111122 Year of fee payment: 9 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121122 Year of fee payment: 10 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131122 Year of fee payment: 11 |
|
| LAPS | Cancellation because of no payment of annual fees |