JPH04503878A - パターン認識 - Google Patents

Abstract

(57)【要約】本公報は電子出願前の出願データであるため要約のデータは記録されません。

Description

【発明の詳細な説明】 パターン認識 本発明は、パターン認識装置に関する。

そのような装置は一般にスカラ値またはベクトルと呼ばれるそのような多くの値 を生成するために処理される入カバターンのビットをデジタル形態で受信する。

これらは装置に供給された知られていないパターンの特性を示す出力を供給する ためにしきい値動作を行われることができる。そのような多くの装置は特定のパ ターンを認識するように構成されていない学習装置であり、使用前、学習パター ンを供給され、装置の出力はパターンの特性として情報と比較されるか、或いは その種類に属するものであるとして確認し、その比較結果　。

は装置内に記憶されたパラメータを変化するためにフィードバックとして使用さ れる。

′　入力スペースおよび出力スペースに関してそのようなシステムを検視するこ とは普通である。例えば、５個のスカラ値の組を受信し２個のスカシを生成する ことは５次元入カバターンスペースにおける点から２次元比カバターンスペース における点へのマツピングを実行するとして検討されることができる。

提案された認識装置の１形態は１組の入力値の１つ以上の加重された合計を形成 するパーセブトロン（ｐｅｒｃｅｐｌｒｏｎ）であり、加重係数は学習過程中に 適応して変化される。これらの主な欠点は入力スペースから出力スペースへの非 線形マツピングを実行することができないことである。それ故、排他的オア関数 のような一見簡単な関数を学習することができない。この問題に対する解決法は 多重レベルパーセ゛ブトロンであり、その場合パーセブトロンの第１の層の出力 は入力を第２の層に供給する：しかしながら、多くの学習はかなり簡単な非線形 マツピング（すなわち収斂が遅くなる）を学習するために必要であり、これは音 声認識のような現実問題に対する多層認識の応用を非常に難しくさせる。

認識装置の別の形態は欧州特許出願０１８３３８９Ｂ号明細書および米国特許４ ２８２４５９号明細書に記載されている。これは第１図に示されているようにそ れぞれ８ビツトの１６要素を有する入力ベクトルがそれぞれ記憶される入力記憶 装置１を有する。

ビットのグループ（“１組”）は多数のランダムアクセスメモリ２の各々に対す るｎビットのアドレスを形成するために採用されるので、アドレスされたメモリ 位置の内容はスカシ出力を形成するために加算器３において加算される。学習中 、この出力は減算器４においてそれに入力される所望の出力および入力と比較さ れ、その差はメモリ内容の更新を制御するために使用される。図示の装置の１応 用は電気通信用のエコー消去器である。その場合記憶装置１は送信された信号の 連続してデジタル的にコード化された時間的サンプルを受信するシフトレジスタ の形態をとる。この装置の目的は、伝送路のエコー特性をモデルとするマツピン グを学習することである。

以下詳細に説明されるように、学習中に与えられた例から概括するそのような認 識装置の能力は記憶装置１中の入力データがコード化される形態に幾分依存する 。信号のデジタル値を表すために２進コードを用いることはもちろん一般的であ るが［論文（１９７９年２月、”Ｇｕｉｄ！ｊｏ　ｐａＮｅｒｎ　ａｎｄ　ｒｔ ｃ−ｏｇｎｉｊｉｏｎ　ｕｓｉｎｇ　ｒａｎｄｏｍ−＋＋ｃｃｅｓｓ　ｍｅｍｏ ｒｉｅｓ”−Ａｌｅｋｓａｎｄｅｒａｎｄ　Ｓｊｏｎｈａｍ　Ｓｃｏｍｐｌｅｒ ｓ　ａｎｄ　ｄｉｇｉｔａｌ　ｔｅｃｈｎｉｑｕｅｓ、ｖ０１２Ｎｏｌ　、　３ ６頁の６．３　ｃｏｄｉｎｇ　ｏｆ　ｐｈｙｓｉｃａｌ　ｄａｔａ”）に記載さ れているように］、これはパターン認識装置のこの種類に特に適していない。そ れは信号スペースにかなり近い信号値はハミング距離に比例せずにずっと離れて いる。前記文献の著者はこの問題を克服するためにグレーコード（２進コードと 同数のビットを使用する）を提案しているが、これは大幅に異なる入力信号レベ ルがハミング距離に接近できるようなスプリアスな結果を導くことができること に注意すべきである。

それは最も適切なコードは信号レベルにあるビットと同数のビットが用いられる Ｎ中の１コード（以後バーコードと呼ばれる）であることを指摘する。このコー ドは上記欠点のいずれも有しない。しかしながら、それはあまり効率的でなく、 大きい入力スペースを必要する：例えば、２５６レベルを有する入力データ（す なわち８ビツトのデジタル−アナログ変換器の典型的な出力）に対して、２５６ ビツト幅の広い入力バッファが必要であり、それは明らかに実用的ではない。（ もちろん２進およびグレーコード変化はわずか８ビツトを特徴とする特許 したがって、本発明は第１の概念において：認識されるべきパターンを示す１組 のデジタル値を受信する入力と、 位置をアドレスし、その値の組のデジタル表示からビットを受信するために接続 される少なくとも１つのアドレスラインをそれぞれ有する複数のメモリと、 メモリのアドレスされた位置から読取られたデータに依存する複合出力を生成す る手段とを具備し、最大信号距離の少なくとも１０％の予め定められたレベルに 及ぶ信号距離に対して１よりも大きい平均勾配を有する信号距離関係を正規化す るために正規化ハミング距離を有する冗長コードを使用する前記デジタル表示を 形成するために入力値をコード化する手段を含むパターン認識装置を提供する。

本発明の別の概念は： 認識されるべきパターンを示す１組のデジタル値を受信する入力と、 位置をアドレスし、その値の組のデジタル表示からビットを受信するために接続 される少なくとも１つのアドレスラインをそれぞれ有する複数のメモリと、 メモリのアドレスされた位置からの読取られたデータに依存する複合出力を生成 する手段とを具備し、Ｄ２進コードが等しい数の信号レベルを示すのに必要であ るよりも大きく、 ｉｉ）その信号レベルの数よりも少ない数であり、前記値の大きさに関係なく２ 進コードよりも高い単調性（ここで限定されるような）を有するように選択され る複数のビットを用いるコードを使用する前記デジタル表示を形成するために入 力値をコード化する手段を含む。

以下記載されるように、本発明の第１の概念はバーコード認識装置に類似する特 性を有するパターン認識装置を提供するが、構成するために物理的に実用的であ る。本発明の第２の概念（上述のように現実的に少数のビットを使用するコード を用いることが好ましい）は、バーコード型式の認識装置の良好な正規化特性を さらに維持する複雑なマツピング機能（以下記載される）を学習することが可能 な認識装置を提供する。

さらに、本発明によると、上記型式の冗長コードを使用してｎ組認識装置を学習 する方法が提供される。他の好ましい特許請求の範囲に記載される。

本発明の幾つかの実施例は単なる例示であり添付図面を参照して説明される。

第１図は、パターン認識装置の既知の形態を示す。

第２図は、本発明によるパターン認識装置を示す。

第３図は、補間核の概念を示す。

第４ａ図および第４ｂ図は、Ｎの中の１つまたはバーコードを示す。

第５ａ図は、第２図の装置の第４図のコードの核関数を示す。

第５ｂ図および第５ｃ図は、簡単な２進コードおよびグレーコードをそれぞれ用 いて対応して得られた核関数をそれぞれ示す。

第５ｄ図は、本発明によりコードを用いて得られた核の１例を示す。

第６図は、第１の測定を使用する「悪い状態」の概念を示す。

第７図は、悪い状態の異なる測定を示す。

第８ａ図および第８ｂ図は、２進コードおよびグレーコードのハミング距離対信 号距離プロットをそれぞれ示す。

第８ｃ図および第８ｄ図は、本発明の実施例に対応するプロットを示す。

ｍＢｅ図は、バーコードに対応するプロットを示す。

第２図を参照すると、デジタルサンプル形態の時間変化信号を受信する入力を有 するパターン認識装置を示す。このデジタルサンプルは（例えば）１６個のサン プルｘ１０．ｘ１５（またはベクトル記号Ｘ）のフレームに分割され、記憶装置 ｌＯに記憶される。混乱を避けるために、フレームは概念的な１６次元入力スペ ースにおける点を示す１６要素ベクトル（すなわち１次元アレイまたはサンプル パターン）と呼ばれることができる。

例として、１次元アレイの場合では、多次元アレイ（すなわち画像認識用の）は 同様に可能であることに注意すべきである。

例えば、入力は１次元アレイであるが、各サンプルに対して多数のビットを形成 しなければならないので、一般に記憶装置ＩＯを２次元として考えられるのが便 利である。ｎ組の接続ライン１１は第１図のようにメモリの複数のバンク１２に 対するアドレスラインを形成するために記憶装置に接続される。

接続は記憶装置のビットにわたって分布される、すなわちそれらの割当てはデー タのｘ−ｙ構成と非相関にある。割当てはランダムにされることが好ましい。第 １のバンクのメモリ装置はベクトルＸをその入力に供給することによって学習さ れる。これは各メモリ中の対応する内容をアクセスする特定のｎ組のアドレスを 発生させる。メモリの各バンクの出力の合計は出力ベクトルＹの要素を生成する 。このベクトルは制御装置１３によって所望の出力または目標ベクトルＴと比較 され、その結果はｎ組のラインによってアドレスされたメモ異なる学習ベクトル の反復供給は装置が必要な入力から出力へのマツピングＹ−ｆ（Ｘ）を学習する ことを許容する。

１つのバンク当りのメモリのｎ組の順番および数の適切な選択により、装置は幾 分稀薄な学習セットを結合して優秀な関数ｆ　ＣＸ）を推定することが可能であ る。すなわち、全ての可能な入力・出力ベクトル対に機械を露出することは不必 要である。なぜなら、学習点の間の必要な関数を補間することができるためであ る。この特性は詳細に後述される。

装置は一度学習されると所望の出力ベクトルＹを生成することにより知られてい ない入力ベクトルＸの受信に応答すべきである。

第２図の装置と第１図の装置の相違点の１つは多要素出力ベクトルの発生を可能 にするために多重バンクを設けることであることがわかる。しかしながら、さら に、装置は記憶装置に入力されるべき入力サンプルを表わすビットを決定するエ ンコーダ１４を含む。この形態を詳しく述べる前に、補間の問題が紹介される。

管理学習機械装置はマツピング関数Ｙ−ｆ（Ｘ）を学習するのに必要である。し かしながら、実用的なシステムにおいて、全て可能な入力ベクトルＸに露出する ことは一般に不可能であるため、システムが与えた学習倒閣を補間できるときの み、満足な結果が得られる。すなわち学習に使用されたものの１つではない入力 ベクトルへの所望の応答を生成することができる。必要な連続関数のサンプルさ れた変形であるときの学習の結果はサンプル関数および補間核の混乱と見なす。

これは１次元関数の場合について第３図に示されている。

第２図の装置によって生成された補間核の形態は入力ベクトルＸがコード化され る方法に強く依存する。入力ベクトルＸが２つの要素だけを有する装置を考える 。これは入カバターンスペースが２次元であるときに視覚化することが容易であ る。Ｘの各要素がパーチャート形式でコード化されると仮定する（説明のために ）。すなわち、エンコーダ１４はＸの全次元の全インクレメントに対する出力ビ ットを生成する。８レベル信号の場合では記憶装置ＩＩ）の典型的な内容はＸｌ −５、Ｘ２−３として第４ａ図に示され、対応するパターンスペースは第４ｂｌ Ｎに示されている。もし３つのメモリのアドレスラインが図示のビットに接続さ れるならば、任意のビットの値の変化はアドレスの変化を生じさせる。故に、装 置の出力に対する関連するメモリの影響の変化を生じさせる。これは第４ｂ図に おいて破線で示されたように入力スペースを有効に分割し、しきい値ラインの交 差は出力Ｙの変化を生じさせることが可能である。別のアドレスラインの接続は パターンスペースのより小さい領域を描く。

この簡単な２次元の場合では、補間核は単−人力ベクトルＸで繰返して学習され るとき、装置の応答として描かれることが可能である。第５ａ図は中心にある単 一の点で学習されるときパターンスペース中の全点に対する装置の出力ｙ１を示 す。各次元に対してＷ−２４の量子化レベルを使用した装置は、４組（ｎ−４） のアドレス接続あ入力記憶装置にわたってランダムに配列される。核の幅はｎの 実用的な値およびパターンスペースの次元の数に対して大きい。したがって、学 習可能なマツピング関数の複雑さはかなり低い。パーチャートコードは多数のコ ード化されたビットを生成するので、入力記憶装置の寸法およびメモリの数は入 力次元の数と共に急速に増加する。故に、入力次元の数が低いか、或いは所望の マツピング関数が非常に簡単でなけらば、それは満足でない。

第５ｂ図および第５ｃ図はＸが５ビツトの簡単な２進コードおよびグレーコード でそれぞれコード化されている場合における補間核を示す。核の中心はパーチャ ートの場合よりもずっと狭いので核の不規則性は明らかである。

パターンスペース内で移動するときの装置からの出力は学習パターンによって生 成された元のアドレスをなお受信するメモリの数によって影響される。要するに 、ｎ組のアドレス変化値の確率は電流入力ベクトルと元の学習ベクトルの間のハ ミング距離に比例する。パーチャートコードは規則的な補間核を与えると信じら れている。なぜなら、信号距離（すなわち表示された実際値の差）と対応するエ ンコードされた値開のハミング距離との関係は単調であるが、一方これは簡単な ２進コード（第５ｂ図参照）またはグレーコードに対してそのようではなく、後 者はハミング距離が入力値の単位変化に対して１だけ変化する前者よりも良好で ある。

ハミング距離と信号距離との関係の完全な単調性は示された各信号レベルに対し て１ビツトを有する高度に冗長なコード（パーチャートコードのような）の使用 によってのみ得られる。エンコーダ１４はバーコードよりも短い冗長コードを使 用して入力値をコード化することによって改良された補間核を提供することを目 的とする。

典型的に、エンコーダは入力信号ビットを供給されるアドレスラインを有するＲ ＯＭ装置であり、そのデータラインから入力ビットの組合わせに対応するアドレ スに記憶されるコードワードが読取られる。

これを実行する１つの簡単な方法はグレーコードの複数のシフト変化の連続によ って各入力値を示すコードを使用することである。したがって、不規則の平均が 生じる。１つの可能な複合コードは次の表１に示されている。

表１ ＳＩＧ　Ｃ０ＤＥ ２要素ベクトルの場合においてこのコードを使用して得られた核関数が前述のよ うに同じフォーマットで第５ｄ図に示されている。

パーチャートコードの使用が大きい核幅を生じる理由は、ハミング距離と信号距 離との線形関係を有するコードでは（信号レベル間の線形ステップと仮定すると ）、その関係の勾配が比較的低いことであると信じられている。他方では、２進 コードにおいて、勾配は比較的急峻であり、核幅は小さい。

ドに対する最大ハミング距離である場合において、正規化ノ＼ミング距離をｄ− −ｄ　／ｄ、□工と定義し、ｄ、が信号組ｈ 離であり、ｄ　がそのコードに対する最大信号距離であるｍａｘ 場合において、正規化信号距離をｄ−−ｃｌ　／ｄｓｍ、工と定＄　Ｓ 義する。１６レベル（線形）システムに関して、最大信号距離はＩ５であるが、 しかしながら、比較のために、最大値は１６である（すなわちレベル数）と仮定 することが好ましい。

したがって、任意の点における平均勾配（瞬間勾配に対向するものとして）はｄ ″ｈ／ｄ−、である。それにより小さい信号レベル（例えば最大信号距離の１０ ％以下、好ましくは１５％、さらに好ましくは２０％乃至２５％以下）では勾配 は１より大きいことは明白である。したがって、パーチャートの場合において改 良を示すことができる。

一般に、ハミング距離（すなわち勾配）はスタートする信号レベルに依存するた め信号距離の唯一の関数ではない。上記基準は全ての可能なスタート点（信号距 離の両方向における）の平均勾配の平均を採用することによって得られた勾配は １より大きいが、各スタート点に対する平均勾配は１よりも大きいことが好まし い。

第６図乃至第９図に示された核プロットの中心から離れる「雑音」はハミング距 離と信号距離の関係の非単調性の結果であることがまた仮定される。したがって 、高い単調性を有するコードを使用することが好ましい。

この点を検討する前に、単調性からのずれを測定できる方法を検討する。第６図 は任意の信号レベルからスタートするハミング距離対信号距離の仮定的なグラフ を示す。前の最大値よりも少ない正規化ハミング距離を存するプロットの任意の 点は単調性からのずれを示し、悪い状態の１つの可能な尺度は第６図において破 線で示されたこれらのずれの合計である。またグラフの左半分゛によって示され たスタートレベルよりも低い信号レベルを考慮に入れる。全スタート点にわたっ て得たこれらの合計の平均はここでは「悪い状態２」と呼ばれる。これは第６図 のハツチングで示された区域を検討することと類似している（有効な別の方法で ある）。

その代りに、負の方向に進むときの前の最小値からのずれ（第１０図のクロスハ ツチングで示された区域内の鎖線を参照）、またはこの平均と悪い状態２を加算 することができる。

別の類似する方法は、直ぐ前を先行する点が高いならばそこからの差、すなわち 第７図において点線で示された距離の加算（悪い状態１）を採用する。高い測定 および低い測定は索に同値を与えるので、この場合それらの可能性は有り得ない 。

別の選択は（所定の絶対寸法の「ねじれ」は高い距離よりも低い距離において重 要であることに基づいて）加算前に信号距離によって各距離を分割することによ ってこれらのずれの重要性を加重することである。したがって、「加重された悪 い状態」を形成することができる。

上記を集約するために、悪い状態の測定は以下のように数学的に定義されること ができる： 悪い状態１− 加重された悪い状態１− 悪い状態２＝ 加重された′悪い状態２＝ 、：：で、ｄ−ｈ　ｃｉ、ｊ）は信号レベルｉとｊを示す各コード間の正規化ハ ミング距離であり、ｄ″ｈ　（１，Ｊ）はコードｊとそのコードｊより前の（加 算の方向において）任意のコードの間の最大正規化ハミング距離であり、ｄｓｍ ａｘは（信号レベルの数マイナス１と等しい）最大信号距離であり、かぎ括弧は 負の値はゼロになることを示す（すなわちＸ≦０では＜Ｘ＞−Ｏ＞。

要するに、単調性はここではその通常の意味を有する。ここで、以下示される正 確な値を引用し、単調性を悪い状態の逆数であると定義する。

次の表では多くの１６レベルのコードに対する悪い状態１および悪い状態２の形 態を示す。これらの形態は正規化されていないが、４ビツトよりも多いビット数 を有する形態は４ビツトに調整される。

４ビツト２進　３．１２５　５．６８７５４ビツトグレー　２．７５　５．１８ ７５８ビツト連結グレー（奇数シフト）０．８７５　２．４６９７ビツトロイド （Ｌｌｏｙｄ　）　ｎ　ｏ、１　１．１０７　１．７５０１２ビツト連結グレー （１，３）　１．２０８５　２．５８３５１２ビツト連結グレー（＋１．　＋７ ）　１．１６６６　２．４７９連結グレーコードの結果は使用されたシフトに依 存することに注意すべきである。８ビツトコードに関して、奇数シフトによって 得られたこの結果は偶数シフトによって得られたものよりもかなり良好である。

これらの形態は４ビツトグレーコードは２進コードよりも良好な単調性を有する ことを示す。１２ビツト連結グレーコードは［そのコードに対する最も高い単調 性形態を与えるために発見された（＋１．＋７）のシフトを有する］、８ビ・ン ト連結グレーコードはど良好ではないが、かなり良好である。

７ビツトロイドコードは本発明の目的には必要ではないグレ−コードの周期的な 特性を省くことにより、良好な単調性を達成するために（手動で）設計された。

８ビツト連結グレーコードより少し良いか悪くてもほとんど変わらない。このコ ードは（任意のスタート値からの）３以下の信号距離（すなわち１５の最大信号 距離の２０％）に対して（線形）＼ミング距離と信号距離の関係と共に）完全に 単調であることに注意すべきである。小さい変更（信号レベル１２では１１１１ ０１１　）によって、この制限は４まで増加される。

コードは次の表３に示される。

表３ ２進４ビツト（第８ａ図）　グレー（第８ｂ図）ＳＩＧ　Ｃ０ＤＥ　ＳＩＧ　Ｃ ０ＤＥ ＳＩＧ　Ｃ０ＤＥ　ＳＩＧ　Ｃ０ＤＥ 第８ａ図および第８ｂ図は（ゼロからの）信号距離に対する（正規化）ハミング 距離をプロットとしてこれらのコードを示す。バー　コードはまた比較のために 図示されている（第８ｅ図参照）。

−一般に、使用されたコードの単調性は等しい数の信号レベルを示す２進コード の単調性よりも大きく、それは少なくとも１．５倍または２倍大きいことが好ま しい。

シフトされた２進コードの連結は貧弱な単調性を有し、・使用されたコードは好 ましくはそのようなコードの所望の量を超過することが予想される。

学習位相中にメモリの内容を適応して調節するために制御装置によって利用され た手段が説明される。

必要なマツピング関数を発展するためにＲＡＭメモリ内容の変更は勾配降下手順 を使用して行われることができる。勾配は非常に容易に計算され、システム用の エラー表面は２次式であるが示されるので、収斂はいつも可能であることを示す ことができる。

システム中の各メモリはｎ組のアドレスによってアドレスされ、その値は入力ベ クトルＸに依存する。したがって、システム中の各メモリの出力はＸに関して複 雑な方法によって依存し、一般にｉ番目のバンク中のｊ番目のメモリの出力はＣ ，、（Ｘ）として示されることができる。

＋１ １番目の出力は以下の通りである： ここで、Ｑは１バンク当りのメモリの数である。

Ｘが入力であるときの目標出力ベクトルは’ｒ−［ｔｌ、、。

ｔＮ］である。システムの平均２乗出力エラーは以下のように示されることがで きる： １＝１ 式（２）への式（１）の置換はメモリの内容に関する平均２乗エラーの式を与え る： 式（３）は平均２乗エラーの式中のＣ，、（Ｘ）を含む最高ｊ 累乗項は２であることを示す。これは単一最小２次表面を示し、それ故全体的な 最良点に対する収斂は勾配演算法を使用して保証される。

勾配降下演算法は以下のように現在アドレスされたメモリの内容に基づいて動作 する： ここで、ｋ　（Ｋ≦１）は収斂の速度を決定する定数である。

式（４）に必要である勾配項は次のように式（３）から簡単に計算される： ここで、ｅ、はｉ番目のバンクの出力とその目標の値との差である。故に、内容 を変更する演算法は次のようになる：かなり多くの学習パターンが利用できるな らば、各パターンに対する単一露出で十分である。しかしながら、実際、システ ムを学習セットに繰返して露出することはエラーの所望のレベルに対する収斂が 得られるまで普通必要である。学習パターンが与えられる順番を連続して変化す ることが有効であることが認められた。

補正書の翻訳文提出書（特許法第１８４条の８）平成３年９月２４日

Claims (13)

【特許請求の範囲】
1. １．認識されるべきパターンを示す１組のデジタル値を受信する入力と、 メモリの位置をアドレスし、その値の組のデジタル表示からビットを受信するた めに接続される少なくとも１つのアドレスラインをそれぞれ有する複数のメモリ と、メモリのアドレスされた位置から読取られたデータに依存する複合出力を生 成する手段と、 最大信号距離の１０％以上の予め定められたレベルまでの信号距離に対して１よ りも大きい平均勾配を有する正規化信号距離に対する正規化ハミング距離の関係 を有する冗長コードを使用して前記デジタル表示を形成するために入力値をコー ド化する手段とを具備しているパターン認識装置。
2. ２．勾配は１．５以上である請求項２記載の装置。
3. ３．勾配は２以上である請求項３記載の装置。
4. ４．予め定められたレベルは１５％である請求項２乃至４のいずれか１項記載の 装置。
5. ５．予め定められたレベルは２０％である請求項２乃至４のいずれか１項記載の 装置。
6. ６．予め定められたレベルは２５％である請求項２乃至４のいずれか１項記載の 装置。
7. ７．多くのビットを用いるコードは、 ｉ）等しい数の信号レベルを示すのに必要な２進コードのビット数よりも大きく 、 ｉｉ）その信号レベル数よりも少なく、そのような２進コードよりも高い単調性 （ここで定義されたような）を有する請求項１乃至６のいずれか１項記載の装置 。
8. ８．認識されるパターンを示す１組のデジタル値を受信する入力と、 メモリの位置をアドレスし、その値の組のデジタル表示からビットを受信するた めに接続される少なくとも１つのアドレスラインをそれぞれ有する複数のメモリ と、メモリのアドレスされた位置から読取られたデータに依存する複合出力を生 成する手段と、 多数のビットを用いるコードを使用して前記デジタル表示を形成するために入力 値をコード化する手段とを具備し、コードは、 ｉ）等しい数の信号レベルを示すのに必要な２進コードよりも大きく、 ｉｉ）その信号レベルの数よりも少ないビット数を有し、そのような２進コード よりも高い単調性（ここで定義されたような）を有するように選択されているパ ターン認識装置。
9. ９．前記単調性は２進コードの単調性の１．５倍以上である請求項７または８記 載の装置。
10. １０．前記単調性は２進コードの単調性の２倍以上である請求項９記載の装置。
11. １１．スカラ出力を含むベクトルである複合出力を生成する手段は、前記メモリ の異なる複数のメモリにそれぞれ接続され、接続されるそれらメモリのアドレス された位置から読取られたデータに依存して前記スカラ出力を生成するようにそ れぞれ配置される複数の結合回路を具備している請求項１乃至１０のいずれか１ 項記載の装置。
12. １２．最大信号距離の１０％以上の予め定められたレベルまでの信号距離に対し て１より大きい平均勾配を有する信号距離関係に対する正規化ハミング距離を有 する冗長コードを使用して前記値をコード化するステップを含む、認識されるべ きパターンを示す１組のデジタル値を受信するように配置されるパターン認識装 置を学習する方法。
13. １３．ｉ）等しい数の信号レベルを示すのに必要な２進コードよりも大きく、 ｉｉ）その信号レベル数よりも少ないビット数を有し、そのような２進コードよ りも高い単調性（ここで定義された）を有するように選択される複数のビットを 用いるコードを使用して１組のデジタル値をコード化するステップを含む、認識 されるべきパターンを示す前記デジタル値を受信するように配置されるパターン 認識装置を学習する方法。