JPH05189572A - Pattern classifying device - Google Patents

Pattern classifying device

Info

Publication number
JPH05189572A
JPH05189572A JP4006257A JP625792A JPH05189572A JP H05189572 A JPH05189572 A JP H05189572A JP 4006257 A JP4006257 A JP 4006257A JP 625792 A JP625792 A JP 625792A JP H05189572 A JPH05189572 A JP H05189572A
Authority
JP
Japan
Prior art keywords
circuit
reference vector
signal
distance
input
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP4006257A
Other languages
Japanese (ja)
Other versions
JP3052520B2 (en
Inventor
Toshiki Kanemichi
敏樹 金道
Takehiko Shida
武彦 志田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Holdings Corp
Original Assignee
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Matsushita Electric Industrial Co Ltd filed Critical Matsushita Electric Industrial Co Ltd
Priority to JP4006257A priority Critical patent/JP3052520B2/en
Publication of JPH05189572A publication Critical patent/JPH05189572A/en
Application granted granted Critical
Publication of JP3052520B2 publication Critical patent/JP3052520B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Image Analysis (AREA)

Abstract

PURPOSE:To realize a small-scale pattern classifying device having high precision by resolving a problem that the required storage capacity is large in a pattern classifying device applying a neural circuit network. CONSTITUTION:The pattern classifying device which internally has reference vectors to be compared with the input and calculates the distance from each reference vector and corrects reference vectors in accordance with coincidence/ non-coincidence between a category corresponding to the reference vector, which gives the shortest distance, and a teacher signal to perform pattern classification is provided with input frequency correcting circuits 7-1 to 7-4 which correct the distances from internally held reference vectors by the frequency in input, and distances from reference vectors are corrected by the frequency in input. Thus, reference vectors are so distributed that many of them are collected on the boundary faces of categories important on pattern classification, and pattern classification having high precision is attained even if it is a small scale.

Description

【発明の詳細な説明】Detailed Description of the Invention

【0001】[0001]

【産業上の利用分野】本発明は、音声認識などのパター
ン分類に用いられる神経回路網を応用したパターン分類
装置に関するものである。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a pattern classification device to which a neural network used for pattern classification such as voice recognition is applied.

【0002】[0002]

【従来の技術】近年、神経回路網を応用したパターン分
類装置は、音声認識などに広く応用されるようになって
きた。神経回路網を応用したパターン分類装置は、大き
く分けて2つのタイプがある。一つは、文献(PDPモ
デル、D.E.ラメルハート他2名、甘利俊一監訳、198
9年)に詳しく記載されている多層パーセプトロンと呼
ばれるものであり、もう一つは、文献(セルフ・オーガ
ニゼイション・アンド・アソシエイティブ・メモリ、Se
lf-Organization and Associative Memory、T.Kohonen
著、Springer-Verlag、1987年)に記載された学習
ベクトル量子化と呼ばれるものである。本発明は、神経
回路網を応用したパターン分類装置にあって、学習ベク
トル量子化を改良するものである。
2. Description of the Related Art In recent years, pattern classifiers using neural networks have come to be widely used for voice recognition and the like. There are roughly two types of pattern classifiers that apply neural networks. One is the literature (PDP model, DE Ramelhart and two others, translated by Shunichi Amari, 198.
It is called a multi-layer perceptron described in detail in "9 years", and the other is a document (Self-organization and associative memory, Se
lf-Organization and Associative Memory, T. Kohonen
This is called learning vector quantization described in "Springer-Verlag, 1987". The present invention is a pattern classification device to which a neural network is applied, and improves learning vector quantization.

【0003】以下に従来のパターン分類装置について説
明する。図3は、従来の学習ベクトル量子化に基づいて
構成されたパターン分類装置のブロック図である。
A conventional pattern classifying device will be described below. FIG. 3 is a block diagram of a pattern classification device configured based on conventional learning vector quantization.

【0004】図3において、1−1〜1−4は内部に記
憶された参照ベクトルと入力端子100からの入力信号
との距離を計算する参照ベクトル回路であり、2は各参
照ベクトル回路1−1〜1−4からの距離信号を受けて
距離最小値を与える参照ベクトル回路1−1〜1−4の
最小距離番号信号を出力する比較回路であり、4は各参
照ベクトル回路に対応したカテゴリを記憶するカテゴリ
記憶回路であり、3は比較回路2からの最小距離番号信
号を受けてカテゴリ記憶回路4から最小距離番号信号に
よって指定されるカテゴリを読み出してカテゴリ出力と
して出力する読み出し回路であり、5は読み出し回路3
からのカテゴリ出力と教師信号入力端子102からの教
師信号とを比較し一致/不一致を判定出力として出力す
る判定回路であり、6は比較回路2からの最小距離番号
信号と判定回路5からの判定回路信号を受けて参照ベク
トル回路1−1〜1−4の内部に記憶された参照ベクト
ルを与えられたアルゴリズムで修正する学習信号を発生
する学習信号発生回路である。
In FIG. 3, reference numerals 1-1 to 1-4 are reference vector circuits for calculating the distance between a reference vector stored therein and an input signal from the input terminal 100, and 2 is each reference vector circuit 1-. 1 to 1-4 is a comparison circuit which outputs the minimum distance number signal of the reference vector circuits 1-1 to 1-4 which gives the minimum distance value, and 4 is a category corresponding to each reference vector circuit. Is a category storage circuit for storing the following: 3 is a read circuit that receives the minimum distance number signal from the comparison circuit 2 and reads the category specified by the minimum distance number signal from the category storage circuit 4 and outputs it as a category output. 5 is a readout circuit 3
Is a judgment circuit for comparing the category output from the teacher signal from the teacher signal input terminal 102 and outputting a match / mismatch as a judgment output, and 6 is the minimum distance number signal from the comparison circuit 2 and the judgment circuit 5 A learning signal generation circuit that receives a circuit signal and generates a learning signal that corrects the reference vector stored in the reference vector circuits 1-1 to 1-4 by a given algorithm.

【0005】以上のように構成されたパターン分類装置
について、図3を参照しながら、以下、その動作につい
て説明する。まず、このタイプのパターン分類装置の初
期学習について説明し、次に通常の学習について説明を
行う。
The operation of the pattern classification device configured as described above will be described below with reference to FIG. First, initial learning of this type of pattern classification device will be described, and then normal learning will be described.

【0006】初期学習は、パターン分類装置の初期設定
と等価と考えて良い。すなわちパターン分類装置の有す
る参照ベクトル回路の数をN個としたとき、最初のN個
の入力をもって、パターン分類装置の初期状態にするよ
うにするものである。具体的には、最初からn番目(n
≦N)の入力をn番目の参照ベクトル回路1−nの内部
に記憶される参照ベクトルとし、そのカテゴリを与える
教師信号をカテゴリ記憶回路4のn番目の参照ベクトル
回路に対応する所に記憶されるカテゴリとするものであ
る。これを最初のN個のデータに対して行うのが、初期
学習である。なお、この手続きを行う書き込み回路につ
いては、図を煩雑にするだけであるので、図3には記載
していない。
The initial learning can be considered to be equivalent to the initial setting of the pattern classifying device. That is, when the number of reference vector circuits included in the pattern classifying apparatus is N, the initial N inputs are set to the initial state of the pattern classifying apparatus. Specifically, the nth from the beginning (n
≦ N) is used as a reference vector stored in the n-th reference vector circuit 1-n, and a teacher signal giving the category is stored in the category storage circuit 4 at a location corresponding to the n-th reference vector circuit. It is to be a category. Initial learning is performed on the first N pieces of data. The write circuit for performing this procedure is not shown in FIG. 3 because it only complicates the drawing.

【0007】通常学習では、まず入力端子100から入
力信号Xが入力され、全ての参照ベクトル回路1−1〜
1−4に入力信号Xが送られる。参照ベクトル回路1−
nは、入力信号Xと内部に記憶された参照ベクトル
In the normal learning, first, the input signal X is input from the input terminal 100, and all the reference vector circuits 1-1 to 1-1.
The input signal X is sent to 1-4. Reference vector circuit 1-
n is the input signal X and the reference vector stored internally

【0008】[0008]

【外1】 [Outer 1]

【0009】との距離Distance from

【0010】[0010]

【数1】 [Equation 1]

【0011】を計算し出力する。比較回路2は、各参照
ベクトル回路1−nから距離信号D(n)を受け、その
最小値を与える参照ベクトルの番号を与える最小距離番
号信号nminを出力する。読み出し回路3は、比較回路
2から最小距離番号信号nminを受けて、カテゴリ記憶
回路4から最小距離番号信号nminに対応する参照ベク
トル回路1−nminのカテゴリ信号C(min)を読み
出し出力する。カテゴリ信号C(min)は、出力端子
101とから出力されると同時に判定回路5に送られ
る。判定回路5は、読み出し回路3からカテゴリ信号C
(min)を、教師信号入力端子102から教師信号T
を、それぞれ受けとり、 T=C(min)の場合、判定信号J=(一致) T≠C(min)の場合、判定信号J=(不一致) という判定信号Jを出力する。学習信号発生回路6は、
比較回路2から最小距離番号信号nminを、判定回路5
から判定信号Jを、それぞれ受けとり、最小距離番号信
号nminに対応する参照ベクトル回路1−nmin内に記憶
された参照ベクトル
Calculate and output The comparison circuit 2 receives the distance signal D (n) from each reference vector circuit 1-n and outputs the minimum distance number signal n min that gives the number of the reference vector giving the minimum value. The readout circuit 3 receives the minimum distance number signal nmin from the comparison circuit 2, and reads out and outputs the category signal C (min) of the reference vector circuit 1- nmin corresponding to the minimum distance number signal nmin from the category storage circuit 4. To do. The category signal C (min) is output from the output terminal 101 and simultaneously sent to the determination circuit 5. The determination circuit 5 receives the category signal C from the read circuit 3.
(Min) from the teacher signal input terminal 102 to the teacher signal T
Respectively, and when T = C (min), the determination signal J = (match), and when T ≠ C (min), the determination signal J = (mismatch) is output. The learning signal generation circuit 6 is
The determination circuit 5 receives the minimum distance number signal n min from the comparison circuit 2.
Reference vector stored in the reference vector circuit 1-n min corresponding to the minimum distance number signal n min .

【0012】[0012]

【外2】 [Outside 2]

【0013】を、[0013]

【0014】[0014]

【外3】 [Outside 3]

【0015】と変更するような学習信号Lを出力する。
この手続きを繰り返すことにより、参照ベクトル回路1
−1〜1−4内の参照ベクトル
A learning signal L which is changed to is output.
By repeating this procedure, the reference vector circuit 1
Reference vectors in -1 to 1-4

【0016】[0016]

【外4】 [Outside 4]

【0017】は、入力分布を反映するようになり、パタ
ーン分類装置の出力C(min)は、適切なカテゴリ分
類を与えるようになる。
Will reflect the input distribution, and the output C (min) of the pattern classifier will give an appropriate category classification.

【0018】[0018]

【発明が解決しようとする課題】しかしながら上記従来
の構成では、参照ベクトルの分布が入力頻度に比例する
ようになるために、通常良く現れる正規分布をするデー
タに対して参照ベクトル回路の内部に記憶された参照ベ
クトルの分布も正規分布をする。一般にパターン分類に
おいて重要な意味をもつのは、異なるカテゴリの境界面
でありカテゴリの中心は必ずしも重要ではない。したが
って、同じ数の参照ベクトル回路でもってパターン分類
装置を構成しようとする場合、分布の中心よりは境界面
に多くの参照ベクトルが分布するようにすることが望ま
しい。これに対し、従来のパターン分類装置ではそれぞ
れのカテゴリの分布の中心に数多くの参照ベクトルが集
まってしまうため、効率の悪い内部表現をもったパター
ン分類装置となり、必要な精度を得るためには大きな記
憶容量を必要とするという課題を有していた。
However, in the above-mentioned conventional configuration, since the distribution of the reference vector becomes proportional to the input frequency, the data having the normal distribution, which often appears, is stored inside the reference vector circuit. The distribution of the generated reference vector also has a normal distribution. In general, what is important in pattern classification is the boundary surface between different categories, and the center of the category is not always important. Therefore, when configuring the pattern classifier with the same number of reference vector circuits, it is desirable that more reference vectors are distributed on the boundary surface than on the center of the distribution. On the other hand, in the conventional pattern classifier, a large number of reference vectors are gathered at the center of the distribution of each category, resulting in a pattern classifier with inefficient internal representation, which is large to obtain the required accuracy. There was a problem of requiring storage capacity.

【0019】本発明は上記従来の課題を解決するもの
で、参照ベクトルの分布密度がパターン分類上価値の低
い入力頻度の高いところでは小さくなるようにすること
で、小規模な記憶容量で精度の高いパターン分類が可能
なパターン分類装置を提供することを目的とする。
The present invention solves the above-mentioned conventional problem. By reducing the distribution density of the reference vector at a place where the input frequency is low in the pattern classification and high in the input frequency, the accuracy can be improved with a small storage capacity. An object of the present invention is to provide a pattern classification device capable of high pattern classification.

【0020】[0020]

【課題を解決するための手段】上記目的を達成するため
に本発明のパターン分類装置では、入力頻度によって内
部に保持された参照ベクトルからの距離を補正する手段
を設け、補正された距離が最小となる参照ベクトルに対
応するカテゴリと教師信号との一致/不一致により、参
照ベクトルを修正することによってパターン分類を行
う。
In order to achieve the above object, the pattern classifying apparatus of the present invention is provided with means for correcting the distance from the reference vector held internally by the input frequency, and the corrected distance is minimized. The pattern classification is performed by correcting the reference vector according to the match / mismatch between the category corresponding to the reference vector and the teacher signal.

【0021】そのため、内部に記憶された参照ベクトル
と入力信号との距離を計算する参照ベクトル回路と、内
部に保持する入力頻度情報に応じて参照ベクトル回路か
らの距離信号を補正する入力頻度補正回路と、各入力頻
度補正回路からの補正距離信号を受けて補正距離最小値
を与える参照ベクトル回路の最小補正距離番号信号を出
力する比較回路と、各参照ベクトル回路に対応したカテ
ゴリを記憶するカテゴリ記憶回路と、比較回路からの最
小補正距離番号信号を受けてカテゴリ記憶回路から最小
補正距離番号信号によって指定されるカテゴリを読み出
してカテゴリ出力として出力する読み出し回路と、読み
出し回路からのカテゴリ出力と教師信号とを比較し一致
/不一致を判定出力として出力する判定回路と、比較回
路からの最小補正距離番号信号と判定回路からの判定回
路信号を受けて参照ベクトル回路の内部に記憶された参
照ベクトルと入力頻度補正回路の入力頻度情報を与えら
れたアルゴリズムで修正する学習信号を発生する学習信
号発生回路とからなる構成を有している。
Therefore, a reference vector circuit for calculating the distance between the reference vector stored inside and the input signal, and an input frequency correction circuit for correcting the distance signal from the reference vector circuit according to the input frequency information held inside. And a comparison circuit that receives the correction distance signal from each input frequency correction circuit and outputs the minimum correction distance number signal of the reference vector circuit that gives the correction distance minimum value, and a category storage that stores the category corresponding to each reference vector circuit. Circuit, a read circuit that receives the minimum correction distance number signal from the comparison circuit, reads the category specified by the minimum correction distance number signal from the category storage circuit, and outputs it as a category output, a category output from the read circuit, and a teacher signal And the minimum correction from the comparison circuit, which compares the Generating a learning signal that receives the separation number signal and the judgment circuit signal from the judgment circuit and corrects the reference vector stored in the reference vector circuit and the input frequency information of the input frequency correction circuit with a given algorithm And a circuit.

【0022】[0022]

【作用】この構成によって、参照ベクトル回路からの距
離信号は、入力頻度補正回路によって入力頻度を反映し
た補正距離信号に変換され、その大小によってカテゴリ
分類がされるために、入力頻度の高い領域に多数の参照
ベクトルが分布しないように効率よく参照ベクトルを分
布させたパターン分類装置を実現することができる。
With this configuration, the distance signal from the reference vector circuit is converted into a corrected distance signal that reflects the input frequency by the input frequency correction circuit, and is categorized according to its magnitude. It is possible to realize a pattern classification device in which reference vectors are efficiently distributed so that a large number of reference vectors are not distributed.

【0023】[0023]

【実施例】まず、本発明の原理について図面を参照しな
がら説明を行う。図2は、本発明の原理を、入力が2次
元の場合について説明するための概念図である。
DESCRIPTION OF THE PREFERRED EMBODIMENTS First, the principle of the present invention will be described with reference to the drawings. FIG. 2 is a conceptual diagram for explaining the principle of the present invention when the input is two-dimensional.

【0024】図2において、In FIG.

【0025】[0025]

【外5】 [Outside 5]

【0026】は2次元参照ベクトルであり、Is a two-dimensional reference vector,

【0027】[0027]

【外6】 [Outside 6]

【0028】は3次元参照ベクトルであり、R1、R2
はそれぞれ入力Xと2次元参照ベクトル
Is a three-dimensional reference vector, R1, R2
Are the input X and the two-dimensional reference vector, respectively

【0029】[0029]

【外7】 [Outside 7]

【0030】の間の距離であり、S1、S2は、それぞ
れ入力Xと3次元参照ベクトル
Is a distance between the input X and the three-dimensional reference vector, respectively.

【0031】[0031]

【外8】 [Outside 8]

【0032】との間の距離である。従来のパターン分類
装置では、参照ベクトルの次元は入力の次元と一致する
ように構成されていた。したがって、図2では
Is the distance between and. In the conventional pattern classifier, the dimension of the reference vector is configured to match the dimension of the input. Therefore, in FIG.

【0033】[0033]

【数2】 [Equation 2]

【0034】であるから、Therefore,

【0035】[0035]

【外9】 [Outside 9]

【0036】が入力と最も近い参照ベクトルとされる。
これに対し、3次元参照ベクトル
Is the reference vector closest to the input.
On the other hand, three-dimensional reference vector

【0037】[0037]

【外10】 [Outside 10]

【0038】について考えると、Considering

【0039】[0039]

【数3】 [Equation 3]

【0040】であるから、Therefore,

【0041】[0041]

【外11】 [Outside 11]

【0042】が入力に最も近いベクトルとなる。このよ
うに、参照ベクトルの空間を入力ベクトルの次元より大
きくとることで、距離の遠近を変更することが可能であ
る。今、3次元参照ベクトル
Is the vector closest to the input. As described above, by taking the space of the reference vector larger than the dimension of the input vector, it is possible to change the distance perspective. 3D reference vector

【0043】[0043]

【外12】 [Outside 12]

【0044】のz成分P1z、P2zを入力頻度K1、
K2によってそれぞれ(数4)、(数5)で与えること
にする。
The z components P1z and P2z of are input frequencies K1,
K2 is given by (Equation 4) and (Equation 5), respectively.

【0045】[0045]

【数4】 [Equation 4]

【0046】[0046]

【数5】 [Equation 5]

【0047】ただし、P1z>0、P2z>0、K0
入力頻度0を表わす初期値である。したがって、ベクト
However, P1z> 0, P2z> 0, and K 0 are initial values representing an input frequency of 0. Therefore, the vector

【0048】[0048]

【外13】 [Outside 13]

【0049】の入力頻度がベクトルThe input frequency of is a vector

【0050】[0050]

【外14】 [Outside 14]

【0051】の入力頻度よりも高い場合は、If the input frequency is higher than

【0052】[0052]

【数6】 [Equation 6]

【0053】であるからBecause

【0054】[0054]

【数7】 [Equation 7]

【0055】となる。このとき、距離S1の平方は、It becomes At this time, the square of the distance S1 is

【0056】[0056]

【数8】 [Equation 8]

【0057】となる。同様にして、距離S2の平方も与
えられる。さて、入力空間をこの2つのベクトルのいず
れに近いかによって分割するとした場合の境界線は、
It becomes Similarly, the square of the distance S2 is also given. Now, if we divide the input space according to which of these two vectors is closer, the boundary line is

【0058】[0058]

【数9】 [Equation 9]

【0059】すなわち、That is,

【0060】[0060]

【数10】 [Equation 10]

【0061】[0061]

【数11】 [Equation 11]

【0062】で与えられる。参照ベクトル空間が2次元
の場合と異なるのは(P2z2−P1z2)が付加された
点である。(数7)から入力がベクトル
Is given by The difference from the case where the reference vector space is two-dimensional is that (P2z 2 −P1z 2 ) is added. Input from (Equation 7) is a vector

【0063】[0063]

【外15】 [Outside 15]

【0064】の周りと比較してベクトルVector compared to around

【0065】[0065]

【外16】 [Outside 16]

【0066】の周りに多い場合には、付加された項は負
の値になって、ベクトル
If there are many around, the added term becomes a negative value and the vector

【0067】[0067]

【外17】 [Outside 17]

【0068】の勢力範囲が広がることが解る。また、重
要な性質として、この手法による境界は1次方程式で与
えられることがある。
It can be seen that the range of influence of is widened. Also, as an important property, the boundary obtained by this method may be given by a linear equation.

【0069】以上から、参照ベクトルの次元を入力次元
より大きくとり、その次元に入力分布を反映させること
によって、参照ベクトルの勢力範囲を制御できることが
明きらかとなった。特に、拡張された次元に対応する成
分を(数4)、(数5)のように与えることにより、入
力頻度の高い所にある参照ベクトルの勢力範囲を大きく
とるようにすることが可能となる。
From the above, it is clear that the influence range of the reference vector can be controlled by making the dimension of the reference vector larger than the input dimension and reflecting the input distribution in the dimension. In particular, by giving the components corresponding to the expanded dimension as in (Equation 4) and (Equation 5), it is possible to increase the influence range of the reference vector at a place where the input frequency is high. ..

【0070】以下、本発明の一実施例について図面を参
照しながら説明をする。図1は、本発明の実施例の構成
を示すブロック図である。
An embodiment of the present invention will be described below with reference to the drawings. FIG. 1 is a block diagram showing the configuration of an embodiment of the present invention.

【0071】図1において、100は入力端子、101
は出力端子、102は教師信号入力端子、1−1〜1−
4は内部に記憶された参照ベクトルと入力信号との距離
を計算する参照ベクトル回路、7−1〜7−4は内部に
保持する入力頻度情報に応じて参照ベクトル回路からの
距離信号を補正する入力頻度補正回路、2は各入力頻度
補正回路からの補正距離信号を受けて補正距離最小値を
与える参照ベクトル回路の最小補正距離番号信号を出力
する比較回路、4は各参照ベクトル回路に対応したカテ
ゴリを記憶するカテゴリ記憶回路、3は比較回路からの
最小補正距離番号信号を受けてカテゴリ記憶回路から最
小補正距離番号信号によって指定されるカテゴリを読み
出してカテゴリ出力として出力する読み出し回路、5は
読み出し回路からのカテゴリ出力と教師信号とを比較し
一致/不一致を判定出力として出力する判定回路、6は
比較回路からの最小補正距離番号信号と判定回路からの
判定回路信号を受けて参照ベクトル回路の内部に記憶さ
れた参照ベクトルと入力頻度補正回路の入力頻度情報を
与えられたアルゴリズムで修正する学習信号を発生する
学習信号発生回路である。
In FIG. 1, 100 is an input terminal and 101
Is an output terminal, 102 is a teacher signal input terminal, 1-1 to 1-
Reference numeral 4 denotes a reference vector circuit for calculating the distance between the reference vector stored inside and the input signal, and 7-1 to 7-4 corrects the distance signal from the reference vector circuit according to the input frequency information held inside. An input frequency correction circuit, 2 is a comparator circuit which receives a correction distance signal from each input frequency correction circuit and outputs a minimum correction distance number signal of a reference vector circuit which gives a minimum correction distance value, and 4 corresponds to each reference vector circuit. A category storage circuit for storing the category, a read circuit 5 for receiving the minimum correction distance number signal from the comparison circuit, reading a category specified by the minimum correction distance number signal from the category storage circuit, and outputting it as a category output. A determination circuit that compares the category output from the circuit with the teacher signal and outputs a match / mismatch as a determination output, 6 is the maximum output from the comparison circuit. A learning signal that receives the correction distance number signal and the judgment circuit signal from the judgment circuit, and generates a learning signal that corrects the reference frequency stored in the reference vector circuit and the input frequency information of the input frequency correction circuit with a given algorithm. It is a generation circuit.

【0072】以上のように構成されたパターン分類装置
について図1を参照しながら、以下、その動作について
説明する。まず、このタイプのパターン分類装置の初期
学習について説明し、次に通常の学習について説明を行
う。
The operation of the pattern classifying apparatus configured as described above will be described below with reference to FIG. First, initial learning of this type of pattern classification device will be described, and then normal learning will be described.

【0073】初期学習は、パターン分類装置の初期設定
と等価と考えて良い。すなわちパターン分類装置の有す
る参照ベクトル回路の数をN個としたとき、最初のN個
の入力をもって、パターン分類装置の初期状態にするよ
うにするものである。具体的には、最初からn番目(n
≦N)の入力とそのカテゴリを与える教師信号とをそれ
ぞれn番目の参照ベクトル回路1−nの内部に記憶され
る参照ベクトル、教師信号をカテゴリ記憶回路4のn番
目の参照ベクトル回路に対応する所に記憶されるカテゴ
リとし、入力頻度補正回路7−nの入力頻度情報を適切
な正の値である初期設定値に設定するものである。これ
を最初のN個のデータに対して行うのが、初期学習であ
る。なお、この手続きを行う書き込み回路については図
を煩雑にするだけであるので、図1には記載していな
い。
The initial learning can be considered equivalent to the initial setting of the pattern classifying device. That is, when the number of reference vector circuits included in the pattern classifying apparatus is N, the initial N inputs are set to the initial state of the pattern classifying apparatus. Specifically, the nth from the beginning (n
≦ N) input and a teacher signal giving the category thereof are respectively stored as reference vectors in the n-th reference vector circuit 1-n, and the teacher signal corresponds to the n-th reference vector circuit of the category storage circuit 4. The category is stored in a place, and the input frequency information of the input frequency correction circuit 7-n is set to an appropriate initial setting value which is a positive value. Initial learning is performed on the first N pieces of data. The write circuit for performing this procedure is not shown in FIG. 1 because it only complicates the drawing.

【0074】通常学習では、まず入力端子100から入
力信号Xが入力され、全ての参照ベクトル回路1−1〜
1−4に入力信号Xが送られる。参照ベクトル回路1−
nは、入力信号Xと内部に記憶された参照ベクトル
In the normal learning, first, the input signal X is input from the input terminal 100, and all the reference vector circuits 1-1 to 1-1.
The input signal X is sent to 1-4. Reference vector circuit 1-
n is the input signal X and the reference vector stored internally

【0075】[0075]

【外18】 [Outside 18]

【0076】との距離Distance from

【0077】[0077]

【数12】 [Equation 12]

【0078】を計算し、距離信号D(n)として出力す
る。入力頻度補正回路7−nは、内部に保持した負でな
い入力頻度情報H(n)を参照ベクトル回路1−nから
の距離信号D(n)に付加して、補正距離信号
Is calculated and output as a distance signal D (n). The input frequency correction circuit 7-n adds the non-negative input frequency information H (n) held therein to the distance signal D (n) from the reference vector circuit 1-n to obtain the corrected distance signal.

【0079】[0079]

【数13】 [Equation 13]

【0080】として出力する。比較回路2は、各入力頻
度補正回路7−nから補正距離信号HD(n)を受け、
その最小値を与える参照ベクトルの番号を与える最小補
正距離番号信号nminを出力する。読み出し回路3は、
比較回路2から最小補正距離番号信号nminを受けて、
カテゴリ記憶回路4から最小補正距離番号信号nmin
対応する参照ベクトル回路1−nminのカテゴリ信号C
(min)を読み出し出力する。カテゴリ信号C(mi
n)は、出力端子101から出力されると同時に判定回
路5に送られる。判定回路5は、読み出し回路3からカ
テゴリ信号C(min)を、教師信号入力端子102か
ら教師信号Tを、それぞれ受けとり、 T=C(min)の場合、判定信号J=(一致) T≠C(min)の場合、判定信号J=(不一致) という判定信号Jを出力する。学習信号発生回路6は、
比較回路2から最小補正距離番号信号nminを、判定回
路5から判定信号Jをそれぞれ受けとり、最小補正距離
番号信号nminに対応する参照ベクトル回路1−nmin
に記憶された参照ベクトル
Is output as. The comparison circuit 2 receives the correction distance signal HD (n) from each input frequency correction circuit 7-n,
The minimum correction distance number signal nmin giving the number of the reference vector giving the minimum value is outputted. The read circuit 3 is
Upon receiving the minimum correction distance number signal n min from the comparison circuit 2,
The category signal C of the reference vector circuit 1-n min corresponding to the minimum correction distance number signal n min from the category storage circuit 4.
(Min) is read and output. Category signal C (mi
n) is output from the output terminal 101 and simultaneously sent to the determination circuit 5. The determination circuit 5 receives the category signal C (min) from the read circuit 3 and the teacher signal T from the teacher signal input terminal 102. When T = C (min), the determination signal J = (match) T ≠ C In the case of (min), the determination signal J = (mismatch) is output. The learning signal generation circuit 6 is
The minimum correction distance number signal n min from the comparator 2 receives respectively a determination signal J from the judgment circuit 5, reference vector minimum correction distance number signal n min stored in the reference vector circuit 1-n min, corresponding to

【0081】[0081]

【外19】 [Outside 19]

【0082】を、Is

【0083】[0083]

【外20】 [Outside 20]

【0084】と変更し、入力頻度補正回路7−nmin
の入力頻度補正情報H(nmin)を
The input frequency correction information H (n min ) in the input frequency correction circuit 7-n min is changed to

【0085】[0085]

【外21】 [Outside 21]

【0086】とするような学習信号Lを出力する。入力
頻度補正回路7−n内の入力頻度補正情報H(n)がす
でに0になっているような場合には、学習信号Lを参照
ベクトル回路1−nのみに出力することもできる。
The learning signal L as follows is output. When the input frequency correction information H (n) in the input frequency correction circuit 7-n has already become 0, the learning signal L can be output only to the reference vector circuit 1-n.

【0087】この手続きを繰り返すことにより、参照ベ
クトル回路1−1〜1−4内の参照ベクトル
By repeating this procedure, the reference vectors in the reference vector circuits 1-1 to 1-4 are

【0088】[0088]

【外22】 [Outside 22]

【0089】と入力頻度補正回路7−1〜7−4内の入
力頻度情報Hは、パターン分類を行う上で適切に分布す
るようになり、パターン分類装置の出力C(min)
は、適切なカテゴリ分類を与えるようになる。
The input frequency information H in the input frequency correction circuits 7-1 to 7-4 comes to be appropriately distributed in performing the pattern classification, and the output C (min) of the pattern classification device.
Will give the appropriate categorization.

【0090】なお、比較回路2からの出力を直接入力頻
度補正回路7−1〜7−4に入力するようにしても、入
力頻度補正回路7−nの内部に添字nを保持しておき、
n=nminの場合だけ
Even if the output from the comparison circuit 2 is directly input to the input frequency correction circuits 7-1 to 7-4, the subscript n is held inside the input frequency correction circuit 7-n.
Only when n = n min

【0091】[0091]

【外23】 [Outside 23]

【0092】とするように入力頻度補正回路7を構成す
ることにより、同様の効果を得ることができる。また、
入力頻度補正回路7−nmin内の入力頻度補正情報H
(nmin)を
By configuring the input frequency correction circuit 7 as described above, the same effect can be obtained. Also,
Input frequency correction information H of the input frequency correction circuit 7-n min
(N min )

【0093】[0093]

【外24】 [Outside 24]

【0094】としてもよい。さらに、参照ベクトルを動
かすアルゴリズムについても、上記以外のものであって
も構わない。
It is also possible to Further, the algorithm for moving the reference vector may be other than the above.

【0095】[0095]

【発明の効果】以上のように本発明は、内部に保持する
入力頻度情報に応じて、参照ベクトル回路で計算された
入力信号と参照ベクトルとの距離を補正し、補正距離信
号を出力する入力頻度補正回路を設けて、この各補正距
離信号から補正距離最小値を与える参照ベクトル回路に
対応したカテゴリを読み出し、このカテゴリと教師信号
とを比較しその一致/不一致により、参照ベクトル回路
内の参照ベクトルと入力頻度補正回路内の入力頻度情報
とを修正することによってパターン分類を行なう。した
がって、参照ベクトル回路からの距離信号は、入力頻度
補正回路によって入力頻度を反映した補正距離信号に変
換され、その大小によってカテゴリ分類がされるため
に、入力頻度の高い領域に多数の参照ベクトルが分布し
ないように効率よく参照ベクトルを分布させたパターン
分類装置を構成することができる。これにより、小規模
であってもカテゴリ境界面を精度良く形作るパターン分
類装置を実現することができる。
As described above, the present invention corrects the distance between the input signal calculated by the reference vector circuit and the reference vector according to the input frequency information held inside, and outputs the corrected distance signal. A frequency correction circuit is provided, the category corresponding to the reference vector circuit that gives the minimum correction distance value is read from each of the correction distance signals, the category is compared with the teacher signal, and the reference / reference circuit in the reference vector circuit is determined based on the match / mismatch. Pattern classification is performed by correcting the vector and the input frequency information in the input frequency correction circuit. Therefore, the distance signal from the reference vector circuit is converted into a corrected distance signal that reflects the input frequency by the input frequency correction circuit, and is categorized according to the magnitude of the input distance signal. It is possible to configure a pattern classification device in which reference vectors are efficiently distributed so as not to be distributed. As a result, it is possible to realize a pattern classifying apparatus that accurately shapes the category boundary surface even in a small scale.

【図面の簡単な説明】[Brief description of drawings]

【図1】本発明の一実施例におけるパターン分類装置の
ブロック図
FIG. 1 is a block diagram of a pattern classification device according to an embodiment of the present invention.

【図2】本発明の原理を、入力が2次元の場合について
説明するための概念図
FIG. 2 is a conceptual diagram for explaining the principle of the present invention when the input is two-dimensional.

【図3】従来のパターン分類装置のブロック図FIG. 3 is a block diagram of a conventional pattern classification device.

【符号の説明】[Explanation of symbols]

1−1〜1−4 参照ベクトル回路 2 比較回路 3 読み出し回路 4 カテゴリ記憶回路 5 判定回路 6 学習信号発生回路 7−1〜7−4 入力頻度補正回路 100 入力端子 101 出力端子 102 教師信号入力端子 1-1 to 1-4 Reference Vector Circuit 2 Comparison Circuit 3 Readout Circuit 4 Category Storage Circuit 5 Judgment Circuit 6 Learning Signal Generation Circuit 7-1 to 7-4 Input Frequency Correction Circuit 100 Input Terminal 101 Output Terminal 102 Teacher Signal Input Terminal

Claims (2)

【特許請求の範囲】[Claims] 【請求項1】 入力信号に対する各参照ベクトルからの
距離を計算し、最小距離を与える参照ベクトルに対応す
るカテゴリと教師信号との一致/不一致により、参照ベ
クトルを修正することによってパターン分類を行うパタ
ーン分類装置であって、少なくとも、入力頻度によって
内部に保持された参照ベクトルからの距離を補正する手
段を有するパターン分類装置。
1. A pattern for performing pattern classification by calculating a distance from each reference vector to an input signal, and correcting the reference vector by matching / mismatching the category corresponding to the reference vector giving the minimum distance and the teacher signal. A pattern classifying device having at least a means for correcting a distance from a reference vector held therein by an input frequency.
【請求項2】 内部に記憶された参照ベクトルと入力信
号との距離を計算する参照ベクトル回路と、内部に保持
する入力頻度情報に応じて参照ベクトル回路からの距離
信号を補正する入力頻度補正回路と、各入力頻度補正回
路からの補正距離信号を受けて補正距離最小値を与える
参照ベクトル回路の最小補正距離番号信号を出力する比
較回路と、比較回路からの最小補正距離番号信号によっ
て指定される参照ベクトル回路に対応したカテゴリを読
み出してカテゴリ出力として出力する読み出し回路と、
読み出し回路からのカテゴリ出力と教師信号とを比較し
一致/不一致を判定出力として出力する判定回路と、比
較回路からの最小補正距離番号信号と判定回路からの判
定回路信号を受けて参照ベクトル回路の内部に記憶され
た参照ベクトルと入力頻度補正回路の入力頻度情報を修
正する学習信号を発生する学習信号発生回路とを具備す
るパターン分類装置。
2. A reference vector circuit for calculating a distance between a reference vector stored inside and an input signal, and an input frequency correction circuit for correcting a distance signal from the reference vector circuit according to input frequency information held inside. And a comparison circuit that receives a correction distance signal from each input frequency correction circuit and outputs a minimum correction distance number signal of a reference vector circuit that gives a correction distance minimum value, and a minimum correction distance number signal from the comparison circuit. A readout circuit that reads out a category corresponding to the reference vector circuit and outputs it as a category output,
A decision circuit that compares the category output from the read circuit with the teacher signal and outputs a match / mismatch as a decision output, and a reference vector circuit that receives the minimum correction distance number signal from the comparison circuit and the decision circuit signal from the decision circuit A pattern classification device comprising: a reference vector stored therein; and a learning signal generating circuit for generating a learning signal for correcting input frequency information of an input frequency correction circuit.
JP4006257A 1992-01-17 1992-01-17 Pattern classification device Expired - Fee Related JP3052520B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP4006257A JP3052520B2 (en) 1992-01-17 1992-01-17 Pattern classification device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP4006257A JP3052520B2 (en) 1992-01-17 1992-01-17 Pattern classification device

Publications (2)

Publication Number Publication Date
JPH05189572A true JPH05189572A (en) 1993-07-30
JP3052520B2 JP3052520B2 (en) 2000-06-12

Family

ID=11633428

Family Applications (1)

Application Number Title Priority Date Filing Date
JP4006257A Expired - Fee Related JP3052520B2 (en) 1992-01-17 1992-01-17 Pattern classification device

Country Status (1)

Country Link
JP (1) JP3052520B2 (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08305679A (en) * 1995-03-07 1996-11-22 Matsushita Electric Ind Co Ltd Pattern classifier
JP2011001916A (en) * 2009-06-19 2011-01-06 Denso Corp Learning device

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08305679A (en) * 1995-03-07 1996-11-22 Matsushita Electric Ind Co Ltd Pattern classifier
JP2011001916A (en) * 2009-06-19 2011-01-06 Denso Corp Learning device
US8423486B2 (en) 2009-06-19 2013-04-16 Denso Corporation Learning device

Also Published As

Publication number Publication date
JP3052520B2 (en) 2000-06-12

Similar Documents

Publication Publication Date Title
US4400828A (en) Word recognizer
EP0043006A2 (en) Pattern recognition apparatus using prototype probability matching
Weymaere et al. On the initialization and optimization of multilayer perceptrons
KR20040037180A (en) System and method of face recognition using portions of learned model
US5181256A (en) Pattern recognition device using a neural network
US5794198A (en) Pattern recognition method
JP2020148909A (en) Signal processor, signal processing method and program
JP2925434B2 (en) Input classification method, training method, and device
JPH08227408A (en) Neural network
US5864807A (en) Method and apparatus for training a speaker recognition system
JP3043539B2 (en) neural network
JPH05189572A (en) Pattern classifying device
EP1290543A2 (en) Method and apparatus for iterative training of a classification system
EP0567983B1 (en) Learning type waveform recognizer
JP2993862B2 (en) Signal recognition method, signal recognition device, learning method for signal recognition device, and learning device for signal recognition device
JPH0535710A (en) Learning method/device for neural network
JP2680419B2 (en) Character recognition device
JPS59161782A (en) Pattern matching method
US20210004681A1 (en) Data processing apparatus, training apparatus, method of detecting an object, method of training, and medium
JPH08297495A (en) Method and device for learning signal pattern recognization device
CN115661923A (en) Domain generalization pedestrian re-identification method of self-adaptive modeling domain features
JP3102989B2 (en) Pattern expression model learning device and pattern recognition device
JP3126081B2 (en) Vector quantization method and vector quantization apparatus
JP3249996B2 (en) Pattern identification device
CN118052999A (en) Training method and device for multitasking large model

Legal Events

Date Code Title Description
FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080407

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090407

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100407

Year of fee payment: 10

LAPS Cancellation because of no payment of annual fees