JP2003288598A - 入力情報のパターン構造生成方法及び入力情報の分析装置 - Google Patents

Abstract

(57)【要約】 【課題】 人間の脳神経系の仕組みと同様な仕組みで情
報を蓄積、分析できる入力情報の分析方法及び入力情報
のパターン構築方法並びにその装置を得ることを目的と
する。 【解決手段】 この入力情報のパターン構造生成方法
は、被処理パターンを必要に応じて時間方向の奥行きを
付与して集合化した新たな入力パターンを生成し、不応
期を有する複数の素子を立体的に所定間隔に配置して構
成した素子ネットワークに入力パターンを入力し、阻止
ネットワークの各素子が応答したルートから入力パター
ンに対する応答ルールを生成する。

Description

【発明の詳細な説明】

【０００１】

【発明の属する技術分野】本発明は、被処理パターンが
入力したとき、そのパターンを蓄積し、蓄積されている
パターンから人間の感性、思考、直間等と同様な処理で
分析したパターン結果を新たに得る入力情報の分析方法
及びその装置に関する。

【０００２】

【従来の技術】近年は、人間の脳神経系の仕組みを工学
的に実現し、情報処理を行うコンピュータがある。

【０００３】このようなコンピュータは、例えば手書き
文字認識を例にすると、活字「２」を代表する鋳型、若
しくは「２」の特徴が頭の中にあって、入力される刺激
（手書きの「２」）と、頭の中にある「２」の特徴の類
似度から「２」が認識されるという考えに基づいている
のが一般的である。

【０００４】例えば、人間と同様の処理をコンピュータ
で実現する場合は、複数種の入力情報を符号化（シンボ
ル）して蓄え、これらの複数種の蓄積情報から被入力情
報に最も類似する蓄積情報を取り出すことで、被入力情
報を認識する処理方法が一般的であった。

【０００５】

【発明が解決しようとする課題】しかしながら、上記の
ような処理方法は、入力情報を符号化して蓄積、取り出
しを行う処理方法であるので、入力情報が符号化可能な
情報でなければならない。

【０００６】一方、人間は、被情報が符号化できない情
報であっても、その情報を認識できる。

【０００７】すなわち、従来の処理方法は、符号化でき
る情報のみを蓄積して取り扱うものであるから真に人間
の脳神経系の仕組みを工学的に実現したものとは言えな
いという課題があった。

【０００８】このため、従来の処理方法では認識する情
報がある程度限定されるという課題があった。

【０００９】本発明は以上の課題を解決するためになさ
れたもので、人間の脳神経系の仕組みと同様な仕組みで
情報を蓄積、分析できる入力情報のパターン構造生成方
法及び入力情報の分析装置を得ることを目的とする。

【００１０】

【課題を解決するための手段】本発明の入力情報のパタ
ーン構造生成方法は、被処理パターンが入力したとき、
この被処理パターンを蓄積して奥行きを持たせて集合化
し、必要に応じて、この集合化パターンをブロック単位
に区切った後に、これらのブロックを所定方向にずらし
て再び合成した入力パターンを生成する工程と、入力す
る刺激に対して、その刺激に対して次に反応する方向の
素子を決めると共に、一度刺激を受けた後は所定条件が
満たされるまで、前回と同じ方向の素子への決定を停止
する素子を、立体的に所定間隔で複数繋げた素子ネット
ワークを備えて、前記入力パターンを入力する工程と、
前記素子ネットワークの各素子が反応したルートから前
記入力パターンに対するパターンを生成する工程とを備
えたことを要旨とする。

【００１１】つまり、この入力情報のパターン構造生成
方法は、被処理パターンを必要に応じて時間方向の奥行
きを付与して集合化した新たな入力パターンを生成し、
不応期を有する複数の素子を立体的に所定間隔に配置し
て構成した素子ネットワークに入力パターンを入力し、
阻止ネットワークの各素子が応答したルートから入力パ
ターンに対する応答ルートを生成する。

【００１２】さらに、入力情報の分析装置は、被処理パ
ターンが入力したとき、この被処理パターンを蓄積して
奥行きを持たせて集合化し、必要に応じて、この集合化
パターンをブロック単位に区切った後に、これらのブロ
ックを所定方向にずらして再び合成した入力パターンを
生成する手段と、入力する刺激に対して、その刺激に対
して次に反応する方向の素子を決めると共に、一度刺激
を受けた後は所定条件が満たされるまで、前回と同じ方
向の素子への決定を停止する素子を、立体的に所定間隔
で複数繋げた素子ネットワークを備えて、前記入力パタ
ーンを入力する手段と、前記素子ネットワークの各素子
が反応したルートから前記入力パターンに対するパター
ンを生成する手段とを備えたことを要旨とする。

【００１３】

【発明の実施の形態】本実施の形態の入力情報の分析方
法は、人間の頭の中には鋳型といえるものは存在しな
い。さらに、分析結果は、既存の情報ではなく、蓄えら
れている情報と入力刺激から新たに合成して生成したも
のである。

【００１４】つまり、入力刺激の分析プロセスは必要な
く、それに代わり相互抑制処理を含む情報の合成プロセ
スによってパターン認識がなされるという考えに基づく
ものである。

【００１５】本実施の形態は、複数のセルからなる被処
理パターンが入力する毎に、所定の変換処理を施した複
数のセルの組合せを前記入力パターンとして送出すると
共に、これを蓄積するパターン前処理部と、予め蓄積さ
れている全ての蓄積パターンを順次読み出して、その蓄
積パターンに対しての前記入力パターンの活性度を順次
求める活性度計算部と、前記読み出された蓄積パターン
の活性度が求められる毎に、その活性度と、所定の負の
抑制係数と、他の蓄積パターンの活性度とを用いて、前
記蓄積パターンの活性度を所定回数、抑制する相互抑制
処理部と、前記抑制後の蓄積パターンの活性度と、活性
度が求められる前のその蓄積パターンのセル値から新た
なセル値をそれぞれ求め、該新たなセル値にされた蓄積
パターン同士のセル同士の値の総和を求め、これらのセ
ルの組合せを前記入力パターンに対するパターンとして
送出するパターン合成部とを有することを特徴とする入
力情報の分析装置である。

【００１６】そして前記相互抑制処理部は、前記活性度
Ａ（ｉ）と抑制係数Ｗ（ｉ）とから数１に従って、

【数１】 前記活性度Ａ（ｉ）を変化させる。

【００１７】すなわち、認識する必要がある入力パター
ンが入力すると、予め記憶している蓄積パターンとの類
似度を求めて、入力パターンに対する各蓄積パターンの
関与率（活性度）を求める。

【００１８】そして、これらの活性度Ａ（ｉ）と、負の
所定の抑制係数と、他の蓄積パターンの活性度から低下
（抑制した）した新たな活性度Ａ（ｉ）を数１に従って
所定回数求める。

【００１９】この所定回数毎のセルの活性度の総和を入
力パターンの新たなセル値として送出する。

【００２０】すなわち、認識する必要がある入力パター
ンが入力すると、予め記憶している蓄積パターンとの類
似度を求めて、入力パターンに対する各蓄積パターンの
関与率（活性度）を求め、これらの活性度Ａ（ｉ）と、
負の所定の抑制係数と、他の蓄積パターンの活性度から
新たな活性度Ａ（ｉ）を所定回数求める。この所定回数
毎のセルの活性度の総和を入力パターンの新たなセル値
として送出する。

【００２１】このため、人間と同様に蓄積パターンに関
与した新しいパターンを生成できることになる。

【００２２】＜実施の形態１＞「全体抑制法による実施
例」 実施の形態１においては、入力情報はマウスを用いた手
書きの文字として説明する。

【００２３】図１は本実施の形態１の入力情報の分析装
置の概略構成図である。本実施の形態１の入力情報の分
析装置１は、画像化された被処理パターンＰｉを読み込
む被処理パターン入力部２と、被処理パターン入力部２
からのパターン又は後述するパターン合成部からのパタ
ーンに前処理を施すパターン前処理部３と、このパター
ン前処理部３からの入力情報Ｐ（ｊ）をパターンの痕跡
情報ｔ（ｊ）として記憶するパターン蓄積部４と、パタ
ーン前処理部３からの入力情報Ｐ（ｊ）とパターン蓄積
部４に蓄積されている複数の痕跡情報Ｔ（ｉｊ）との類
似度Ｓ（ｉ）を各痕跡情報T(ｉｊ)ごとに求め、この類
似度Ｓ（ｉ）から各痕跡情報の活性度Ａ（ｉ）を求める
活性度計算部５とを備えている。

【００２４】また、活性度計算部５で求められた痕跡情
報Ｔ（ｉｊ）の活性度Ａ（ｉ）のレベルに応じて全ての
痕跡情報の間で相互抑制をかける相互抑制処理部６とを
備えている。この相互抑制処理については詳細に後述す
る。

【００２５】また、相互抑制処理されたパターン情報Ｒ
（ｉ）とパターン蓄積部４から取り出された痕跡情報Ｔ
（ｉｊ）とを合成したパターンＣ（ｊ）をパターン出力
部８を介して送出するパターン合成部７とを備えてい
る。

【００２６】このパターン合成部７は、合成パターンＣ
（ｊ）をパターン前処理部３又は活性度計算部５にもフ
ィードバックする。

【００２７】すなわち、図１に示す入力情報の分析装置
１は、図２に示すように手書きの入力情報と、既に記憶
している全ての手書き文字の痕跡情報との活性度を求め
て相互抑制処理を行った後に、順次全ての痕跡情報と相
互抑制処理後のパターンとを合成して表示し、最終的に
記録された情報には存在しない活字的なイメージ「２」
を得る。

【００２８】（各部の説明）被処理パターン入力部２
は、マウスの移動に追従して表示用メモリに描かれた文
字データ（ドット）を、被処理パターンとして内部に取
り込む。例えば、マウス（図示せず）の移動軌跡を６４
×３２のセルからなる入力画面に、被処理パターンＰ
（ｉ）として描く（パターンの部分に「１」を与え、そ
れ以外には「０」を与える）。

【００２９】パターン前処理部３は、被処理パターンＰ
（ｉ）に二次元ガウシアンフィルタをかけて、全てのセ
ルの数値の合計が「０」になるように、全体の入力パタ
ーンの値をシフトさせる。

【００３０】そして、セルの最大値が「１」、最小値が
「ー１」になるように（１．０からー１．０の範囲に納
まるように）、各セルの値を全体的に拡大縮小（正規
化）する変換を行う。

【００３１】この変換を受けた入力刺激を入力情報パタ
ーンＰ（ｊ）とし、パターン蓄積部４に被処理パターン
Ｐ（ｉ）の痕跡情報ｔ（ｊ）として蓄積する。本説明で
は既に痕跡情報ｔ（ｊ）がＭ個予め記憶されているとす
る。

【００３２】活性度計算部５は、パターン前処理部３で
得られた入力情報パターンＰ（ｊ）が入力する毎に、そ
の入力情報パターンＰ（ｊ）と、パターン蓄積部４で蓄
積されている複数の痕跡情報ｔ（ｊ）からｉ番目の痕跡
情報（以下痕跡情報Ｔ（ｉｊ）という）を読み込み、類
似度Ｓ（ｉ）を計算する（他の方法もあり）。

【００３３】この類似度Ｓ（ｉ）は、

【数２】 で求める。

【００３４】また、この数２のＮは、入力情報パターン
Ｐ（ｊ）と各痕跡情報Ｔ（ｉｊ）のセルの中で、絶対値
が一定の数値（しきい値）を越えるセルの合計数であ
る。

【００３５】若しくは、各痕跡情報Ｔ（ｉｊ）のみのセ
ルの中で、絶対値が一定の数値（しきい値）を越えるセ
ルの合計数である。

【００３６】そして、活性度計算部５は、類似度Ｓ
（ｉ）から各痕跡情報の活性化の程度を表す数値Ａ
（ｉ）（活性化レベル）を数３の式によって計算する
（他の方法もあり）。

【００３７】

【数３】 また、活性度計算部５は、パターン合成部７で求められ
た合成パターンＣ（ｊ）を直接入力し、この合成パター
ンＣ（ｊ）と入力情報パターンＰ（ｊ）との間でＡＮ
Ｄ、ＯＲ等の処理を行い、この結果を新たな入力刺激の
入力情報パターンＰ（ｊ）として、パターン蓄積部４の
痕跡情報との活性度を求める場合もある（その他の処理
もある）。

【００３８】相互抑制処理部６は、活性度計算部５で入
力情報パターンＰ（ｊ）の活性度Ａ（ｉ）が求められる
毎に、この活性度Ａ（ｉ）のレベルに応じて痕跡情報Ｔ
（ｉｊ）の間で相互抑制処理を行う。

【００３９】例えば、数５に示すように、活性化レベル
Ａ（ｉ）を変化させ（但し、Ａ（ｉ）が安定するまでは
計算しない）、数５に示すように各痕跡情報Ｔ（ｉｊ）
に活性化レベルＡ（ｉ）を乗じた値を合計したものを生
成する（他の方法あり）。

【００４０】

【数４】 この数４を用いる場合は抑制値Ｗｉ＝ー０．１として変
化量を計算する。

【００４１】また、必ずしもＡ（ｉ）を使う必要がなく
Ｓ（ｉ）をＡｉに変えて以後の計算をおこなってもよ
い。また、ψも必ずしも入れる必要がない。

【００４２】つまり、相互抑制処理部６は、活性化の範
囲と同様、焦点範囲から一定の距離にあるセルを抑制の
範囲として、その範囲にあるセルに限って相互抑制の値
をかける（抑制の値にも焦点範囲からの距離が小さいほ
ど抑制が強くなるようにする）。ここで、焦点範囲とは
最終的に処理の結果を反映させるセルの集合をいい、入
力情報及び痕跡上方のそれぞれに対応する焦点範囲から
一定の距離に含まれる近似するセルの集合を類似の範囲
という。

【００４３】パターン合成部７は、相互抑制処理された
パターンＲ（ｉ）と、パターン合成部４の痕跡情報Ｔ
（ｉｊ）とを数５に示すように合成する。

【００４４】

【数５】 また、この合成には、

【数６】 で求める場合もある。

【００４５】（具体的な動作説明）次に、数値を用いて
本実施の形態のパターン分析方法を以下に説明する。本
説明では、説明を分かりやすくするための３つのセルで
説明する。

【００４６】例えば、パターン前処理部３で変換処理を
行って、図３の（ａ）に示す入力情報パターンＰ（ｊ）
を得たとする。図３の（ａ）においては、「０」、
「１」、「０」の被処理パターンＰ（ｉ）に対して変換
処理を行って「０．２」、「０．８」、「０．２」…と
した入力情報パターンＰ（ｊ）を得たことを示してい
る。

【００４７】活性度計算部５は、パターン蓄積部５に記
憶されている各痕跡情報Ｔ１、Ｔ２、Ｔ３、…との類似
度Ｓ（ｉ）を数２を用いて求める。

【００４８】図３の（ｂ）においては、パターン蓄積部
４には、「０．１」、「０．５」、「０．５」…の痕跡
情報Ｔ１、「０．１」、「０．８」、「０．２」…の痕
跡情報Ｔ２、「０．１」、「０．５」、「０．１」…の
痕跡情報Ｔ３、…が記憶されていることを示す。

【００４９】そして、図３の（ｃ）に示すように、入力
情報パターンＰ（ｊ）の各セルの値と痕跡情報Ｔ１、Ｔ
２、…の各セルの値とを乗算して、合計し、この合計を
Ｎ（一定の値より絶対値が大きなセルの数）で割って類
似度Ｓ（ｉ）を求める。

【００５０】次に、図３の（ｄ）に示すように、痕跡情
報Ｔ１、Ｔ２、…の類似度Ｓ（ｉ）を３乗した結果を、
１回目の入力情報パターンＰ（ｊ）と痕跡情報Ｔ１、Ｔ
２、…との活性度Ａ（ｉ）とする。図３の（ｄ）におい
ては、痕跡情報Ｔ１、Ｔ２、…に対して「０．４」、
「０．７」、「０．３」、…の活性度が求められたこと
を示している。

【００５１】次に、相互抑制処理部６は、１回目の活性
度Ａ（ｉ）が求められたとき、この活性度Ａ（ｉ）に予
め記憶されている抑制度Ｗｉ（「ー０．１」）をかけ
る。

【００５２】この抑制度Ｗｉのかけ方は、図４の（ａ）
に示すように、読み込まれた痕跡情報にはかけないで、
周囲の痕跡情報にかける。

【００５３】図４の（ａ）においては、痕跡情報Ｔ１を
例にすると、Ｔ１の活性度「０．４」はＷｉをかけない
で、Ｔ２、Ｔ３に、活性度「０．７」、「０．３」をか
けている。

【００５４】そして、図４の（ｂ）に示すように、この
１回目のＷｉをかけたものを２回目の活性度「０．３
０」、「０．６３」、「０．１９」として、読み込まれ
た痕跡情報にはかけないで、周囲の痕跡情報にかけて図
４の（ｃ）に示すように３回目の活性度「０．２２」、
「０．５８」、「０．１０」を求める。

【００５５】すなわち、図５に示すように、入力情報パ
ターンＰ（ｊ）が入力する毎に、類似度算出処理５ａが
パターン蓄積部４に記憶されている痕跡情報Ｔ（ｉｊ）
を読み込み、この類似度Ｓ（ｉ）を数１に基づいて求め
て、類似度テーブルに痕跡情報と対応させて記憶する。
つまり、図６に示すように痕跡情報毎に類似度が割り付
けられることになる。

【００５６】そして、活性度処理５ｂが各痕跡情報に対
する類似度に対して１回目の活性度を数２に従って求
め、これを活性度テーブルに記憶する。

【００５７】抑制処理６ａは、各痕跡情報と入力情報パ
ターンＰ（ｊ）との１回目のは活性度が求められと、抑
制度ｗｉを数２に従ってかけてた結果Ａ（ｉ）’を活性
度処理５ｂに送出して新たな活性度Ａ（ｉ）として活性
度テーブルに記憶する。

【００５８】この活性度Ａ（ｉ）が数回目となったとき
に、抑制結果出力処理６ｂがその痕跡情報毎の結果Ｒ
（ｉ）をパターン合成部７に送出する。

【００５９】パターン合成部７は、活性度計算部５が読
み込んだ痕跡情報Ｔ（ｉｊ）を入力し、この痕跡情報Ｔ
（ｉｊ）と相互抑制処理部６で求められた痕跡情報毎の
Ｒ（ｉ）とをかけて、最終的に合成する。

【００６０】例えば、図７に示すように、最終の痕跡情
報Ｔ１の活性度が「０．２２」、痕跡情報Ｔ２の活性度
が「０．５８」、痕跡情報Ｔ３が「０．１０」であると
すると、痕跡情報Ｔ１（「０．１」、「０．５」、
「０」）に「０．２２」をかけて、Ｔ１における合成パ
ターン（「０．０２２」、「０．１１」、「０．０」）
を得る。

【００６１】また、痕跡情報Ｔ２（「０．１」、「０．
８」、「０．２」）に「０．５８」をかけて、Ｔ２にお
ける合成パターン（「０．０５８」、「０．４６」、
「０．１２」）を得る。

【００６２】さらに、痕跡情報Ｔ３（「０．１」、
「０．５」、「０．２」）に「０．１０」をかけて、Ｔ
３における合成パターン（「０．０１」、「０．０
５」、「０．０１」）を得る。

【００６３】そして、これらのセル値の総和を求め、こ
れを最終の分析結果として表示又は活性度計算部５、パ
ターン前処理部３にフィードバックして活性度、相互抑
制を行って再度合成する。この合成を何回行うかは予め
設定されている。本説明では３回として説明する。

【００６４】すなわち、本実施の形態では、図８の
（Ａ）に示すように予め「０」から「９」までの数字を
マウスで多数生成して、これを蓄えておく。このパター
ンは各パターンがどの数字を意味するかの情報は全く備
えていない。

【００６５】そして、図８の（Ｂ）に示すようにマウス
で数字を入力し、この数字に対して図８の（Ｃ）に示す
前処理を施して、蓄えられている各痕跡情報と前処理さ
れた入力情報パターンＰ（ｊ）との相互抑制を行い、こ
れらの結果を合成した図８の（Ｄ）に示す１回目の合成
パターンＣ（ｊ）を作成する。

【００６６】次に、この合成された合成パターンＣ
（ｊ）と、前処理が行われている図８の（Ｃ）の入力情
報パターンＰ（ｊ）とから再度、活性度計算部５に入力
するパターンＰ（ｊ）を作り、このパターンＰ（ｊ）と
パターン蓄積部４の痕跡情報Ｔ（ｉｊ）との活性度計
算、相互抑制を行い、この結果と痕跡情報Ｔ（ｉｊ）と
の合成を行って２回目の図８の（Ｅ）の合成パターンＣ
（ｊ）を得る。

【００６７】そして、２回目の合成パターンＣ（ｊ）
と、１回目の合成パターンＣ（ｊ）とから再度、活性度
計算部５に入力するパターンＰ（ｊ）を作り、このパタ
ーンＰ（ｊ）とパターン蓄積部４の痕跡情報Ｔ（ｉｊ）
との活性度計算、相互抑制を行い、この結果と痕跡情報
Ｔ（ｉｊ）との合成を行って３回目の図８の（Ｆ）の合
成パターンＣ（ｊ）を生成し、これを最終の出力パター
ンとする。

【００６８】つまり、パターン蓄積部４に蓄積されてい
ないものを最終の出力パターンとして得ている。

【００６９】また、パターン蓄積部４に蓄積されていな
いものを得ているとしても、入力情報パターンＰ（ｊ）
はパターン蓄積部４の各痕跡情報との類似度、活性度を
行って、相互抑制を行っているものであるから、記憶さ
れている全ての痕跡情報に関与していることになる。

【００７０】例えば、数字「２」が入力情報の場合で、
パターン蓄積部４に２以外の数字が記憶されているとす
ると、その２以外の数字に対しても関与して分析した結
果を送出している。

【００７１】さらに、前述の最終の痕跡情報Ｔ１の活性
度「０．２２」と、最終の痕跡情報Ｔ２の活性度「０．
５８」と、最終の痕跡情報Ｔ３の活性度「０．１０」と
を合計する場合もある。

【００７２】これらの痕跡情報の最終の活性度を合計し
た値は、好みや熟知度等に相当するものと考えられる。

【００７３】例えば、ある単語の学習回数と、その熟知
度（見たという感覚の強さ）を図９に示すようにシュミ
レートすると、このシュミレート結果に示すように、学
習が行われるにつれて当初は、次第にその単語を見たい
という感覚は強くなるが、次第にその感覚が低下してい
き、更に学習が進むと、急激に熟知度が高くなることが
分かる。

【００７４】この熟知度は、見たという感覚の強さであ
り、また 単語の好み等に通じる全体的な値（コアとな
るような値）である。

【００７５】本発明ではパターン情報を単位として処理
するためシンボルの処理が困難な場合でも最も一般的な
パターンを生成できる。したがって、上記実施の形態１
においては、入力情報を数字を用いて説明したが数字に
限らないで図１０のような道路の映像であってもよい。

【００７６】図１０のような道路のどの当たりを通るか
を自動分析する場合は、上記のように、マウス等を用い
て、図１０の（ａ）のように、複数種の道路のパターン
をパターン蓄積部４に予め記憶する。

【００７７】この道路のパターンは、左右の濃い部分が
障害物を示し、白い部分（道路）のまん中にある線は、
人間がその障害物の間をだいたいどのあたりを通るのか
を示したものである。この蓄積されているパターンに
は、パターン以外の情報は記憶されていないことが重要
である。例えば、障害物の間の中間点を計算して、そこ
に線を描くというようなルールは記憶されていない。

【００７８】つまり、このパターンの蓄積データが学習
により人間が獲得している記憶に対応した道路の痕跡情
報ということになる。

【００７９】そして、例えば、マウス等で図１０の
（ｂ）に示す道路のパターン（人間が遭遇した新規な障
害物に相当する）が描かれて被処理パターン入力部２、
パターン前処理部３を介して活性化計算部５に入力す
る。この図１０の（ｂ）の道路のパターンは新たな道路
の痕跡情報として記憶される。

【００８０】次に、活性化計算部５は、図１０の（ｂ）
の道路のパターンを入力情報パターンＰ（ｊ）として入
力し、パターン蓄積部４に蓄積されている複数種の道路
の痕跡情報ｔ（ｉ）との類似度、活性度、相互抑制処理
を行って、図１０の（ｃ）に示すように、読み込んだ痕
跡情報Ｔ（ｉｊ）との合成パターンＣ（ｊ）を生成す
る。

【００８１】この合成パターンは、パターン前処理部
３、活性度計算部５にフィードバックされて何回かの類
似度、活性度、相互抑制処理、合成処理を行って得てい
る。

【００８２】つまり、道路のパターンが入力すると、複
数種の道路の痕跡情報から新たな進む線を作り出してい
るので非常に人間に近い処理と言える。

【００８３】＜実施の形態２＞「部分抑制法（セル抑制
法）による実施例」 上記の実施の形態２では、入力情報パターンＰ（ｊ）の
セル全体に対して相互抑制をかけたが実施の形態２にお
いては、図１１の（ａ）に示すように、入力刺激（信号
１）のあるセル毎に、そのセルに関与しているセル範囲
Ｈｉを決定し、この範囲Ｈｉ（以下焦点範囲Ｈｉとい
う）における各セルの類似度、活性度を求めて抑制し、
図１１の（ｂ）に示すように、最終的に抑制された活性
度をその焦点範囲の代表値とする。さらにその代表値を
反映させる範囲（抑制の範囲）を仮想的に想定し、その
範囲の全てのセル値の全てのセル値にその代表値を反映
させる。この処理を全ての焦点範囲について実行する
と、各焦点範囲ごとに想定される仮想的な抑制の範囲内
のセル値が想定される。最終的には、各焦点範囲ごとに
複数想定される抑制範囲内のセル値を、セルに関して総
和をとってきとめる方法も可能である。

【００８４】また、本実施例では、１つの焦点範囲を１
つのセルに対応するように設定しているが、任意のセル
がいずれかのかの焦点範囲に含まれるようないかなる設
定方法も可能である。

【００８５】この部分抑制法では、前回以前の所定回の
刺激に対応する焦点範囲Ｈｉに入る今回のセルの発火／
応答を規制するが、それ以後は実施の形態と同様な処理
を行う。

【００８６】これは、ｎ次元のベクトルで表される情報
が痕跡情報（ｎ次元の中には、入力情報では時間次元、
痕跡情報では層（奥行き）が存在する）である。

【００８７】このようなことから、最終的に処理の結果
を反映させるセルの集合である焦点範囲を決定すると共
に、入力情報及び痕跡情報のそれぞれに対応する焦点範
囲から所定の距離に含まれる近接したセルの集合である
類似度の範囲、並びに活性化の範囲及び抑制の範囲を決
定している。

【００８８】すなわち、入力情報及び痕跡情報のそれぞ
れに対応する焦点範囲（最終的に処理の結果を反映させ
るセルの集合）から一定の距離に含まれるセルの集合を
類似度の範囲としている。

【００８９】また、活性化処理は、焦点範囲から一定距
離離れているセルを含む領域を類似度の範囲とし、類似
度をこの範囲のセルに限定して計算する（その際、距離
が遠くなるほど類似度を小さくなるような関係を入れ
る）。

【００９０】この場合、焦点範囲からの距離が遠くなる
ほど類似度を小さくなるような関係を付与しても良い
し、距離が遠くなるほど類似度を大きく付与することも
可能である。なお、最小の類似度の範囲は１つのセル
（この場合焦点領域も１つのセル）であり、最大の類似
度の範囲は入力情報、各痕跡情報の全体である。

【００９１】そして、一定の類似度の範囲の類似度が計
算された後、その値を元に活性化の程度を計算し、続い
て、その活性化の程度を各痕跡情報の全てのセルの内容
（数値）に掛け合わせないで、焦点領域から一定の距離
に含まれるセル（活性化の範囲）に限定して、活性化の
程度とセルの内容を掛け合わせる。活性化の範囲は任意
に設定できるが類似度の範囲と同一に設定してもよい。

【００９２】次に、活性化の範囲、焦点範囲から所定の
距離にあるセルを抑制の範囲として、その範囲にあるセ
ルに限って相互抑制をかける。

【００９３】このとき、抑制の範囲内の各セルに対する
抑制の効果が、焦点範囲と各セル間の距離に依存して変
化するようにする場合もある（例えば、抑制の値に最も
焦点範囲からの距離が小さいほど強くかかるようにする
場合もある）。

【００９４】そして、相互抑制が行われた後、各焦点範
囲毎に重複される部分の値を全てまとめて新たなセルの
値とする。

【００９５】＜実施の形態３＞「ＭＡＮ素子ネットによ
る実施例」 本実施の形態３は、発火（応答出力）した後に一定時間
又は一定の数のインパルスが入る間（総称して所定の条
件（「不応期」）という）、続いて入力される情報を受
け付けないような素子を立体的につなぎ合わせたＭＡＮ
素子のネットワークを構築する。

【００９６】このMAN素子をネットワークとすることの
意味と、MANと実施の形態１の処理（以下Uzumeという）
の処理の関係を以下で説明する。

【００９７】まず、入力刺激の変換とMANの特徴が必要
となる理由を以下で説明する。その中で、MANの特徴
（不応期）が必要であると考えだした道筋の発端は、大
きく分けると次の２つになる。

【００９８】この２つの流れはもともと違うところから
出発したものであるが最終的にはひとつに結びつく。そ
れぞれ別の論理的から解決の方法を考えていたが、最終
的には、不応期というひとつの特徴を仮定するだけでよ
いことに集約される。つまり、以下の（１）、（２）の
方法が必要である。

【００９９】(1)非常に多様な情報を長期に蓄える方法
を考える必要性 (2)Uzume的な活性化−相互抑制的な処理を瞬間的に実現
する方法を考える必要性：処理と構造を分けて考えてい
てはだめ。構造それ自体に処理を担わさせる方法（１）
については、多様な情報を０−１的な情報のみを伝える
ことのできる有限のニューロンで表現する方法が有効で
ある。

【０１００】これは、入力刺激の変換と不応期が必要で
あると考えた理由を説明するためには、まず０−１的な
パターン情報を表現する方法を考える必要がある（実は
この考え方がMANの考えを導き出す上でのポイントにな
ったように思う）。

【０１０１】まず、人間が非常に些細な情報の変化を長
期にわたって保持している事実を説明するために、人間
のニューロンの特長を参考にして、多様な情報を表現す
る方法を考えた。

【０１０２】複数のニューロンでできるだけ多くの情報
を表現するためには、ニューロンの組み合わせとして情
報を蓄える必要があると思われる。

【０１０３】これは、Hebbという学者が主張しているセ
ルアッセンブリ（もしくはポピュレーションセオリー）
の考え方である。

【０１０４】問題は、この組み合わせを如何にして実現
するかである。これを人間のニューロンの結合を参考に
して考える。

【０１０５】ニューロンの組み合わせといっても、人間
の場合にはひとつの制約がでてくるのが普通である。

【０１０６】それは、結合していないニューロンを組み
合わせにすることはできないということである。

【０１０７】なぜなら、人間が何らかの処理を行う場
合、情報は網膜などの受容器から入力され効果器（声帯
など）へと出力されるという方向性を持ちます。例えば
声帯のニューロンにインパルスが伝わる場合を考える
と、そのニューロンと受容器の網膜は直接つながってい
ない。

【０１０８】声帯につながっているニューロンが発火す
るためには、その前にあるニューロン、さらにはその前
にあるニューロンが発火していることが不可欠になる。

【０１０９】つまり、直接結合していないニューロンの
組み合わせ（極端な例では視細胞と声帯につながってい
るニューロンの組み合わせ）で情報は表現できないわけ
である。

【０１１０】そこで、情報を最大限表現させるとすれ
ば、ニューロンの組み合わせは、入力口から出力口へと
つながるニューロンの”帯”もしくは”流れ（ストリー
ム）”を構成するニューロンに組み合わせは制限されて
しまう。

【０１１１】以後このニューロンの組み合わせを、ニュ
ーロンの帯と呼ぶ。ちなみに、現在のニューラルネット
のモデルでは、何らかの情報はネットワーク全体で表現
されるとされている。

【０１１２】なお、ここで補足しておくが、このニュー
ロンの帯を構成するニューロンの集合がそのパターンを
表していることになる。

【０１１３】入力パターンが変われば、その経路も変わ
ることを考えれば、入力パターンをニューロンの集合に
置き換え、対応させることができることは容易に理解で
きると思われる。

【０１１４】これが情報をネットワーク的に表現するこ
との意味です。パターンの表現方法はこのように複数の
経路を構成する素子の集合として表すことです。

【０１１５】（Ａ）最大限ニューロンの組み合わせを作
る上での問題：分かれ道の問題 それでは、次に考えなければならないことは、如何にし
てニューロンの帯に最大限のバリエーションを持たせる
かという点である。

【０１１６】まず、一番極端な例を用いて考えてみる。
表１のように、ニューロンの帯の入り口から出口に向か
って、A,B,C,Dのニューロンが並んでいて、最後の出口
のところで二股に分かれて出力されるようにニューロン
がつながっているとする。

【０１１７】

【表１】 ここで、A,B,C,D,X,Yのニューロンを最大限使って情報
を表現する方法を考えてみる。

【０１１８】その組み合わせはA-B-C-D-XとA-B-C-D-Y、
A-B-C-D-XXYの３通りのニューロンの帯である。ここで
問題になるのが、Ｄまで届いたインパルスがＸに流れる
かＹに流れるか、もしくはどちらにも流れるということ
が、Ｄによって決定されなければならないということで
ある。

【０１１９】例えば、ｘというインパルスがＤに入力し
たらＸの方向へ、ｙというインパルスが入力したらＹの
方向へ、ｘｙというインパルスが入力したらＸＹ両方の
ニューロンへインパルスを伝えるといった弁別的な機能
をもたせれば分けることは可能である。

【０１２０】ところが、インパルスはそもそも０−１的
な情報であり、インパルスが伝わってくれば、１という
情報を伝えるしかニューロンにはできないわけです。そ
うなると、Ｄのニューロンもやはりインパルスが入って
きたらＸＹ両方のニューロンにインパルスを伝えるか、
伝えないかのどちらかしかできないはずです。それで
は、０−１情報しか流さないニューロンＤから、インパ
ルスの流れを分かれさせる方法はないか？とりあえず、
この問題を「分かれ道の問題」と呼んでおく。

【０１２１】（Ｂ）受容器の細胞の組み合わせしか情報
を表現できなくていいのか？分かれ道の問題を解決する
方法を考える前にひとつの意見について考えてみる。そ
れは、そんなにニューロンの組み合わせを考えなくても
脳細胞は膨大な数に上るわけだから、組み合わせも膨大
な数になはずだから、べつにそこまで考えなくてもいい
んでは、という意見である。

【０１２２】どのくらいのニューロンの組み合わせが必
要なのかはわからないが、今想定されている０−１的な
情報を伝えるというニューロンの機能だけでは、表現で
きる情報は受容器（網膜など）のニューロンの数の組み
合わせ以上の情報しか表現できないはずである。

【０１２３】なぜなら、ある情報が瞬間的に受容器に入
ったとすろと、その場合、ニューロンに０−１的な情報
を伝えるだけの機能を仮定した場合には、受容器のニュ
ーロンに結合しているニューロンは全て、情報を伝える
か伝えないかという働きしかしないから、ニューロンの
帯は、受容器のニューロンにつながっているニューロン
の集合で表される。

【０１２４】かつ、その帯の数は受容器のニューロン
（入力口）の組み合わせ以上の情報は表現できないはず
であり、つまり、一つ一つのニューロンが０−１的な情
報しか伝播させられないとすれば、入力口になる細胞か
ら入ったインパルスの通る経路は、入力口で決まってし
まうわけである。なぜなら、まったく同じパターンが入
力した場合には、まったく同じ経路を通るはずだからで
す。このあたりはもう少し説明が必要かもしれないが、
とにかく、脳に存在するニューロンを最大限活用する方
法を考えたほうが建設的であることは間違いないと思わ
れる。

【０１２５】次に、分かれ道の問題を人間のニューロン
が実際に解決していると信じて、その解決方法を考え
る。単純な解決方法のひとつは、Ｄニューロンの入力口
と出力口の距離が短いほうだけへ、同じ距離だったら両
方へインパルスが流れるという考え方があり、この考え
方は２つの出力口を持ったニューロンには当てはまりま
すが、３つ以上の出力口を持ったニューロンでは、一番
遠い距離にある出力口にはインパルスは伝わらないとい
うことになり、それでは最大限のニューロンの組み合わ
せを想定できない。

【０１２６】このような細かな方法はいくつかあると思
うが、もう少し本質から考えてみると、とりあえずニュ
ーロン自体にはその後の出力口を規定する機能を持たせ
ないで別の方法を考えてみる。

【０１２７】もし実際に０−１情報しか伝えないニュー
ロンＤがその後の道筋を決定しているとすれば、ごく自
然に考えれば、その道筋の決定はＤに入ってくる情報が
握っているとしか考えようがない。

【０１２８】同様にＤにその情報を伝えているＣのニュ
ーロンも道筋を決めることはできないから、Ｃに入る前
の情報が道筋を決定するキーを握っているはずである。

【０１２９】同様に考えていくと、どうも、一番最初の
入力口にあたるＡのニューロンに入る情報にそのキーが
隠されているようです。つまり、ニューロンに弁別的な
機能を想定せずに分かれ道の問題を解決するためには、
入力情報それ自体を考え直す必要があるという結論に至
る。

【０１３０】（Ｃ）時間軸の想定 それでは、入力情報をどのように考えるかです。ここで
入力情報に時間軸を想定するという考えが出てくる。今
まで０−１的な入力情報は瞬間的に、つまり、ある単位
時間を想定しその時間の状態が０−１のいずれかである
かによって、入力情報（パターン）を考えていたが、そ
れでは、どう考えてもニューロンの帯の数を増やすこと
はできないわけである。それでは、入力情報それ自体に
Ｄニューロンのところで一方の道を決める情報を持たせ
る方向でこの問題を解決できないかと考えた。そのため
には、入力情報を増やしたり複雑化させることが方法と
して考えられる。

【０１３１】その最も重要な方法が、時間軸を入力情報
に仮定すること、それと入力情報を複雑化させる方法で
ある。まずは、時間軸を想定することについて説明した
が入力情報を、一定時間の間に入力される０−１的な情
報の集合と考える（時間軸を想定する）ことにより、分
かれ道の問題を解決することが可能になる。

【０１３２】次に、具体的にどのようにして分かれ道の
問題が解決されるかを説明しますが、そこで不応期の考
え方が必要になる。

【０１３３】入力情報の複雑化（変換）については後ほ
ど取り上げる。

【０１３４】（Ｄ）不応期のひとつの意味 時間軸を想定することで、入力刺激は複雑になります
が、問題はそれだけでは解決できない。不応期のような
機能をニューロンに想定しなければ結局は時間軸を想定
してもしなくても同じなのであり、それを説明するため
に、まず、入ってきた情報をただ通して伝える素子（ニ
ューロン）がネットワーク的な構造をなしていた場合を
考える。つまり、不応期や入力情報の変換を仮定しない
場合である。

【０１３５】たとえ入力情報に時間軸を想定しても、入
ってくる情報は金太郎飴のような情報であり、時間軸で
まとめられたパターンの集合（金太郎飴のようなもの）
は、何の関連ももたずに、特定のニューロンの帯を伝っ
て出力される。

【０１３６】つまり、ニューロンの帯のように、経路を
構成するニューロンのネットワークで情報を表現する場
合、金太郎飴のように一定のタイミングで同じパターン
が入力され続け、さらにそれらがそのまま関連なくネッ
トワークを伝わっていくなら、インパルスが通る経路は
やはり単一の経路になってしまいます。入力口にあるパ
ターンが入ったとき、同じパターンが入りつづけていた
ら同じ経路しか通りません。入力されたインパルスをそ
のままスッと次のニューロンに流してしまうようでは、
時間軸を想定する意味はないのである。

【０１３７】また、入力口の素子の数の組み合わせ以上
のパターンは作れないわけですから、たとえ素子がたく
さんあったとしても、素子が表現できるパターンは入力
口の数の組み合わせ以上は表現できないことになりま
す。これでは時間軸を入れた意味が出てきこない。時間
軸を情報に仮定する意味を生かすには、時間軸の方向で
の情報に関連性をもたせる機構をネットワーク側に仮定
する必要があり、それが不応期です。つまり、異なる時
間軸上のパターンの間に関係を持たせることができれ
ば、ある瞬間瞬間に入力されていくパターンの間にさら
に関連性をもたせることが可能になり、結局情報を複雑
にすることができる。

【０１３８】もう少し説明すると、不応期を想定するこ
とは、固定される有限のニューロンに時間次元を入れる
ことにより表現できる情報のバリエーションを増やすこ
とにつながる。

【０１３９】例えとしてまた表１の例を持ってきます。
表２は表１のニューロンの隣に、あ、い、う、えのニュ
ーロンが存在し、その”え”のニューロンがＹにつなが
っていることを表している。

【０１４０】

【表２】 表２において、Ａ−Ｂ−Ｃを伝ってきたインパルスがＤ
に入った場合は、そのままＸ、Ｙ両ニューロンにインパ
ルスが通るとします。これでは、分かれ道の問題は解決
できない。ここで、Ａ−Ｂ−Ｃ−Ｄの順に流れるインパ
ルスの前に、あ−い−う−えを通ってＹから出力される
インパルスが通ったとする。ここで、例えば、インパル
スが通ったあと一定時間続いて入力されるインパルスを
無視する特徴（不応期）をニューロンＹに仮定して見
る。

【０１４１】そうすると、”あいうえ”のルートを通っ
てインパルスがＹに伝わることにより、一定時間ニュー
ロンＹは入力を受け付けないような状態になります。そ
の間に今度はＡ−Ｂ−Ｃのルートを伝ってインパルスが
ニューロンＤに到達したとする。ここで、Ａ−Ｂ−Ｃを
伝ってきたインパルスがＤに入った場合は、そのまま
Ｘ、Ｙ両ニューロンにインパルスが通るとしているが、
Ｙニューロンはその情報を無視することになる。

【０１４２】そして、結局Ｘの方向のみにインパルスが
流れることになる。つまり、時間軸を想定し、不応期の
ような性質をニューロンに想定することで、分かれ道の
問題を解決できることになる。

【０１４３】もう少しイメージしやすくするために、Ｙ
の不応期が１時間だったと考えてみると、”あいうえ”
のルートからＹに入ったインパルスにより、１時間Ｙは
反応しないわけです。１時間前にＹにインパルスが通っ
ていたことなどつゆも知らない研究者は、ＡＢＣＤの経
路を伝って流れてきたインパルスがＸの方向のみに流れ
る事実を観察することになる。

【０１４４】これからすると、ＤとＹのニューロンをつ
なぐシナプスは、どうもインパルスを通さない特徴を持
つんだ解釈してしまってもおかしくはない（もしかする
と抑制性ニューロン、興奮性のニューロンという区別も
見かけ上の区別である可能性があるわけで、実際は同一
のニューロンの機能を持っているだけかもしれない、も
ちろん不応期の長さは違うかもしれない）。

【０１４５】なおここで誤解しやすいことがあるので少
し補足しておきます。ＡＢＣＤ−ＸＹの分かれ道の問題
を解決したといっても、”あいうえＹ”というニューロ
ンの帯を加えたことにより可能になっているわけだか
ら、単に増えたニューロンの（ＡＢＣＤＸＹあいうえ）
の組み合わせで情報が表現されたことになるんではない
かと考える方がいるかもしれませんが、入力情報に時間
軸を想定しなければ、そもそもＡと”あ”のニューロン
から同時にインパルスが入ると考えなければなりませ
ん。その入力を表現するニューロンは”ＡＢＣＤＸＹあ
いう”ですが、そこからの出力は、ＸＹどちらのニュー
ロンも発火している状態の情報しか出力されない。

【０１４６】入力情報に時間軸を想定し、その時間軸の
方向で情報を関連付ける不応期という特徴をもたせるこ
とにより初めて、複数のニューロンの組み合わせと、複
数のニューロンの組み合わせの組み合わせを考えること
が可能になるわけです。この考え方は、ひとつ情報を表
現する次元を増やすことにより、有限のニューロンが表
現できるニューロンの帯を増やすことに明らかにつなが
る。

【０１４７】なお、不応期を仮定することで、入力され
る情報にまとまりをつけることもできるわけであり、従
来の方法では、入力情報が入るかはいらないかという状
態しか入力情報を扱えませんでしたが（表現できません
でしたが）、例えば、何もない状態からあるパターン
が”現れる”という、動き（モーション）や変化の情報
を同様に表現できるというメリットもある。

【０１４８】この考え方を進めていけば、線や形や、
色、におい、なども全て、一定時間の間に受容器に入力
されるパターンの集合と捉えることになる。

【０１４９】それはすなわち、私たち人間が認識してい
る情報全てがモーションのような情報として捉えること
になる。さらに、不応期のほかに、入力情報を複雑化さ
せる方法として、金太郎飴のような情報を単位時間に分
け、一定周期で一定の方向に入力刺激を振動させるなど
の変換を行えば、さらに多様な情報をネットワーク上に
弁別性を持たせて表現できるはずですが、この考え方
は、人間の眼球運動に対応する入力情報の変換であると
思う。

【０１５０】人間の眼球は１秒間に４、５回細かく振動
しており（サッケードという）、つまり、人間も視覚刺
激に関しては入力刺激を複雑化させているわけである。

【０１５１】（Ｅ）情報を蓄える方法 いずれにせよ、入力情報に時間軸を仮定し、さらにニュ
ーロンに不応期のような時間に対して変化する特徴を想
定することが、ニューロンの組み合わせで情報を最大限
表現する方法のひとつになるはずです。なお、これまで
説明した方法で表現された情報を、今度は蓄えるために
は、ネットワーク自体の構造が情報を表す。つまり特定
のニューロンの帯が特定されるようにニューロンのネッ
トワークの構造がなっていればよいわけです。その際、
ネットワークの構造を規定するのは、各ニューロンが次
のニューロンへインパルスを伝えやすい程度、不応期の
長さをインパルスがそのニューロンに入ってくるのに応
じて変化させていくことです。今のところ、インパルス
が通れば通るほど次のニューロンへインパルスを通しや
すくする特徴を持たせることや、そのニューロンが不応
期の状態になっているとき入ってくるインパルスの数、
もしくは単純に入力されるインパルスの数などに応じて
そのニューロンの不応期が変化するような機構が想定で
きます。それがネットワークの構造に情報を貯蔵するこ
とに対応するはずである。

【０１５２】（Ｆ）不応期のもうひとつの意味：Uzume
の処理を瞬時に実現するための方法 Uzumeの処理を実現するためには、膨大な情報を蓄える
方法とそれを全て利用する形で類似度や相互抑制の計算
を瞬間的に行う方法を考えなければならない。

【０１５３】そのためには、情報が蓄えられていなけれ
ばならない。

【０１５４】そのためには、情報が蓄えられている構造
自体に処理の機能を持たせるなどの方策が必要である。

【０１５５】ここで説明する内容は、上でこれまでに説
明してきた不応期の必要性とは別の論理から導かれてい
ます。つまり、活性化−相互抑制という処理機構がある
はずという前提から導かれたUzumeの処理の原理をより
一般化させる方向で出てきた考えである。

【０１５６】まず、Uzumeの処理は類似度の計算、相互
抑制、合成も全て、個々独立した情報源を仮定して全て
行っている。

【０１５７】つまり、個々の情報源は全て個別に蓄えら
れていることを前提としているわけである。しかし、そ
れだけの情報を蓄える方法はともかく、それら全てを瞬
間的に処理することは、蓄える情報が多くなるほど困難
になるといわざるを得ない。

【０１５８】そこで、もうひとつ、類似度、相互抑制、
合成等の処理の対象となる情報について考えてみる。

【０１５９】Ｕｚｕｍｅではどの情報源も同じセルの構
造を仮定しており、つまり全ての情報の接点として存在
するセルに活性化、相互抑制、合成などUzumeと同様の
処理をさせることができれば、膨大な情報をいちいち取
り出し、相互作用させる必要はないと考えた。そこで、
Uzumeのように全体を情報の単位として考える（全体抑
制法と呼んでおきます）のではなく、セルを中心に、セ
ルを最小単位にする形でUzumeの全体抑制と同様な処理
を考えた。

【０１６０】例えば、Uzumeの全体抑制法の例では、32x
32のセルのパターンとして処理の対象を想定している
が、今度は、１つのセルを中心に処理を考える。

【０１６１】その方法として、1つのセルの周辺に隣接
する一定の範囲のセルの集合を仮定しその範囲に限っ
て、類似度、相互抑制、合成の計算を行い、一つ一つの
セルを中心に処理を行い最終的にまとめてひとつのパタ
ーンを作り出すという方法です。具体的には、以下のよ
うに処理の範囲をそれぞれ想定して、その範囲ごとにUz
umeと同様の処理（以下に少し説明する）をし、最終的
に一つのパターンとしてまとめるわけである。

【０１６２】・焦点範囲：最終的に処理の結果を反映さ
せるセルの集合 ・類似度の範囲：入力情報及び痕跡情報のそれぞれに対
応する焦点範囲から一定の距離に含まれる近接したセル
の集合 ・活性化の範囲：同上 ・抑制の範囲：同上 （Ｇ）セル抑制法の処理の概要 (1)類似度と活性化の計算 焦点範囲から一定距離離れているセルを含む領域を類似
度の範囲とし、類似度をこの範囲のセルに限定して計算
する（その際、距離が遠くなるほど類似度は小さくなる
ような関係を入れる）。

【０１６３】なお、最小の類似度の範囲は１つのセル
（この場合焦点領域も１つのセル）。

【０１６４】最大の類似度の範囲は入力情報、各痕跡情
報の全体である。

【０１６５】一定の類似度の範囲の類似度が計算された
後、その値をもとに活性化の程度が計算される。

【０１６６】続いて、その活性化の程度を、各痕跡情報
の全てのセルの内容（数値）に掛け合わせるのではな
く、ここに焦点領域から一定の距離に含まれるセル（活
性化の範囲）に限定して、活性化の程度とセルの内容を
掛け合わせる。

【０１６７】(2)相互抑制の計算 活性化の範囲と同様、焦点範囲から一定の距離にあるセ
ルを抑制の範囲として、その範囲にあるセルに限って相
互抑制の値を掛ける（抑制の値にも焦点範囲からの距離
が小さいほど抑制が強くかかるようにする）。

【０１６８】(3)合成の計算 一定の相互抑制が行われた後、各焦点範囲ごとに、重複
される部分の値を全てまとめる。

【０１６９】（Ｈ）類似度の計算「ＭＡＮ素子ネットワ
ークによる情報処理の計算」 一番最初に示したネットワークによる情報の表現の考え
方（ニューロンの帯の考え方）を、活性化、抑制、合成
の範囲の考え方に当てはめるてみる。

【０１７０】入力情報と全ての痕跡情報の類似度をそれ
ぞれ計算するという計算に対応するのは、入力情報の集
合が入力されことによって、その情報が表現される”ニ
ューロンの帯”を、それに似たニューロンの帯の中から
特定することに対応する。ここでMAN素子の特徴とし
て、入力されたインパルスを出力側の次の素子へ送ると
いうものがあります。この特徴は、言うなればその素子
の後に続くニューロンの帯の中でその素子を構成要素と
するニューロンの帯と似た帯を活性化することに対応す
る。

【０１７１】その後のニューロンの帯は、その素子から
でるインパルスによって規定されるわけですから、類似
したニューロンの帯を活性化させ、類似しない帯を活性
化させないことに対応する。

【０１７２】さらに、その素子にその後入力されるパタ
ーンに対しては、不応期が作用してます。その際、その
素子を発火させたパターンと非常に類似したパターンが
入力されていたとすると、その素子が発火する前に、別
の近くの素子からインパルスが入り、その素子の発火が
阻害される確率が高まります。つまり、その素子の発火
が抑えられるということは、その素子から作られるニュ
ーロンの帯の特定を阻害するわけです。結局、蓄えられ
ているパターン（ａ）と似たパターン情報（a'）が入っ
た場合、そのパターンａ'に対応するニューロンの帯が
特定されるということは、そこで不応期を仮定すると、
その帯との類似度によって、それ以外の帯が抑制される
ことになる。インパレスが入力されることに対応させ
て、不応期を変化させることにより、多数で膨大な情報
を蓄積することができる。

【０１７３】MAN素子の特徴と上のセル抑制法の対応を
説明すると、セル抑制法の活性化の範囲は、MAN素子の
出力側に主に設定されることに対応し、抑制の範囲はMA
N素子の入力側に設定されることとほぼ同等になる。

【０１７４】以上のことから、MAN素子の特徴がセル抑
制法と同様の処理を行うことにつながるはずである。

【０１７５】この結果、不応期のような機能を過程する
ことにより、Ｕｚｕｍｅで行っているような活性化、相
互抑制、合成といった処理を実現できることになる。

【０１７６】次に、MAN素子ネットワークの具体的構築
例を説明する。

【０１７７】図１２は実施の形態３の概略構成図であ
る。図１２に示す分析方法は、発火した後に一定時間又
は一定の数のインパルスが入る間（総称して所定の条件
という）、続いて入力される情報を受け付けないような
素子を立体的につなぎ合わせたＭＡＮ素子のネットワー
ク１０を備えたものである。

【０１７８】このＭＡＮ素子のネットワーク１０は、
「０」、「１」的なインパルス情報を伝える素子であ
り、図１３に示すように、インパルスが入力されると、
そのインパルスを入力口から出力口に伝えると同時に、
その後一定時間、続いて入力されるインパルスを受け付
けない。

【０１７９】つまり、インパルスが入力するとそれを入
力端から出力端に伝達するとともに、インパルスの入力
に応答して不応期が変化するという特徴を有するもので
ある。

【０１８０】このような処理を実現するためにパターン
前処理部１１は、ガウシアンフィルタ、シフト等の処理
を行わないで以下に説明する処理を行う。

【０１８１】図１４は本実施の形態３に用いるパターン
前処理部１１の処理を説明する説明図である。

【０１８２】例えば、図１４の（Ａ）に示す平面的な被
処理パターンＰ（ｉ）が一定時間の間、連続して被処理
パターン入力部２から入力すると、パターン前処理部１
１はこれを蓄積する。つまり、図１４の（Ｂ）に示すよ
うに時間軸上に蓄積されるので、奥行き（Ｚ方向）を持
った集合パターンＰ（ｉｚ）となる。つまり、奥行きが
存在する。

【０１８３】そして、この集合パターンＰ（ｉｚ）の各
ブロックｐｈｉを図１４の（Ｃ）に示すように区切った
後に、それぞれのブロックｐｈｉを図１４の（Ｄ）に示
すように例えば±Ｙ方向（１セル分）にずらして（振
動）、図１４の（Ｅ）に示すように合成する。

【０１８４】この図１４の（Ｅ）に示す変化したパター
ンが入力情報パターンＰ（ｉｊ）となってＭＡＮ素子ネ
ットワーク１０に入力する。

【０１８５】図１５はＭＡＮ素子のネットワーク１０の
処理を説明する説明図である。ＭＡＮ素子のネットワー
ク１０は図１５に示すように複数のＭＡＮ素子１０ａ、
１０ｂ、…が連結されている。

【０１８６】これらのＭＡＮ素子は、図１３で説明した
ように、０、１的なインパルス情報を伝える素子で、入
力部、中心部、出力部からなり、２つの入力部からイン
パルスが入ると、中心部を介して２つの出力部から出
る。

【０１８７】また、入力したインパルスを通す次の素子
へのルートを決定して、その素子に通した後に、次のイ
ンパルスが入力したときは上記の所定条件を満たした後
に、そのインパルスを次の素子に通す。

【０１８８】つまり、不応期等によるネットワーク自体
のルートにおいて、情報が蓄えられていることになる。

【０１８９】例えば、図１５に示すように変化を与えた
入力情報パターンＰ（ｉｊ）が入力すると、１列目のＭ
ＡＮ素子が各セルを入力情報として入力し、これらの入
力情報がネットワーク自体に表現（蓄積）されている情
報を所定範囲で活性化し、それと同時に、ネットワーク
上の１列目のセルに近い範囲に限り、次の入力を抑制
し、新しい出力を合成する。

【０１９０】次に、２列目のＭＡＮ素子が１列目のＭＡ
Ｎ素子の出力を入力情報としてその素子の近い範囲で活
性化し、同時に近い範囲で次の入力情報を抑制し、新し
い出力を合成する。

【０１９１】このような、処理が最終列まで繰り返され
る。また、その結果は、それ以前のＭＡＮ素子にフィー
ドバックすることもある。

【０１９２】つまり、ＭＡＮ素子のネットワーク１０と
いうのは、図１６に示すように、複数のＭＡＮ素子が立
体的に繋がりをもって配置され、インパルスが入力する
と、このインパルスに刺激を受けたＭＡＮ素子が、その
インパルスに関与する次の素子への方向を決めて、その
インパルスに渡す。このような処理を最終列のＭＡＮ素
子まで行う。これらのＭＡＮ素子のルートが入力情報に
対して作り出したパターン（蓄積情報でもある）であ
る。

【０１９３】そして、次のインパルスが入力して１列
目、２列目のまん中の素子が反応して３列目のまん中の
ＭＡＮ素子への方向を決めたとすると、３列目のまん中
のＭＡＮ素子は、前回のインパルスを４列目のまん中の
ＭＡＮ素子に渡しているので、この４列目のＭＡＮ素子
は、前回と同じＭＡＮ素子への方向を決定しないで、例
えば４列目の下のＭＡＮ素子の方向に決定する。

【０１９４】すなわち、次に入力するインパルスはこの
ＭＡＮ素子によって抑制を受けたことになる。

【０１９５】従って、膨大で多様な入力情報を瞬時に分
析できると共にその結果を一定時間、ＭＡＮ素子に蓄え
て行くことが可能となる。

【０１９６】なお、上記各実施の形態ではマウスを用い
て入力情報を作成したが、マウスではなくデジタルカメ
ラ、ＣＣＤカメラ等を用いて入力情報を生成してもよ
い。

【０１９７】＜実施の形態４＞以下にＣＣＤカメラを用
いた例を実施の形態４として説明する図１７は実施の形
態４の入力情報の分析装置の概略構成図である。図１７
に示すように、本実施の形態４の入力情報の分析装置
は、少なくとも、ＣＣＤカメラ２０と、３次元メモリ２
１と、複写部２２と、入力情報振動部２３と、振動入力
情報抽出部２４と、入力情報出力部２４と、ＭＡＮ素子
ネットワーク部２５と、ＭＡＮ素子ネットワーク部２５
と、認識部２６とを備えている。

【０１９８】ＣＣＤカメラ２０は、垂直ｎ画素、水平ｉ
画素のいわゆるｎ×ｉ画素で構成され、蓄積された信号
電荷を順次出力（０、１パターン）する。

【０１９９】三次元メモリ２１は、ＣＣＤカメラ２０か
らの二次元パターン（ｘ、ｙ）をｚ軸方向に積み重ねた
三次元構造の入力情報Ｐ（ｉｊ）を得る。つまり、時間
軸で纏められたパターンの集合を得ているので、異なる
時間軸上のパターンの間に関係を持たせることができ、
ある瞬間瞬間に入力されていくパターンの間にさらに関
連性をもたせることが可能になり、結局情報を複雑にす
ることができる。

【０２００】複写部２２は、三次元メモリ２１に一定数
ｅの二次元パターンが蓄積される毎に、それぞれの二次
元パターンを蓄積順ｈに従って後述するＸ−Ｙシフトレ
ジスタに複写する。

【０２０１】入力情報振動部２３は、垂直ｎ個、水平ｉ
個の格子からなるＸ−Ｙシフトレジスタ３０（３０ａ、
３０ｂ、３０ｃ、……）をｅ個備え、複写部２２からの
二次元パターンを対応する順位のＸ−Ｙシフトレジスタ
３０に複写する。

【０２０２】例えば、ＣＣＤカメラ２０の二次元パター
ンが３×３列で構成されている場合は、７×３列のＸ−
Ｙシフトレジスタ３０をｅ個備える。

【０２０３】そして、３次元メモリ２１の多数の二次元
パターンが図１７に示すように、複写部２２によって、
Ｘ−Ｙシフトレジスタ３０（３０ａ、３０ｂ、…）の２
番目３番目に４番目に複写されると、０発生処理３１が
以下に説明する処理を行う。

【０２０４】本説明ではＸ−Ｙシフトレジスタ３０ａ、
３０ｂを例にして説明する。

【０２０５】０発生処理３１ａは、初めのＸ−Ｙシフト
レジスタ３０ａに対しては、最上位（７列目）の各格子
に「０」を加える。これによって、Ｘ−Ｙシフトレジス
タ３０ａは最上位から下位に向かって１個ずつシフトし
て行き、結果として２番目に「１；斜線」、３番目に
「０：空白」、４番目に「１」が割り付けられることに
なる（図１４のＰｈ１を参照）。

【０２０６】また、０発生処理３１ｂは、次のＸ−Ｙシ
フトレジスタ３０ｂに対しては、最下位（１列目）の各
格子に「０」を加える。これによって、Ｘ−Ｙシフトレ
ジスタ３０ｂは最下位から最上位方向に向かって１個ず
つシフトして行き、結果として３番目に「１；斜線」、
４番目に「０：空白」、５番目に「１」が割り付けられ
ることになる（図１４のＰｈ２を参照）。

【０２０７】そして、下位側に設けられたクリア処理３
２ａがＸ−Ｙシフトレジスタ３０ａを最上位から下位に
向かって１個ずつシフトしていったときに１番目から出
る「０」をクリアする。

【０２０８】また、上位側に設けられたクリア処理３２
ｂがＸ−Ｙシフトレジスタ３０ｂを下位から上位方向に
向かって１個ずつシフトしていったときに７番目から出
る「０」をクリアする。

【０２０９】すなわち、３次元メモリ２１に蓄積された
二次元パターンの集合を垂直方向（水平、垂直でもかま
わない）に振動させたことになる。

【０２１０】入力情報出力部２４は、抽出処理３４と、
３×３のＸ−Ｙレジスタ３５を備えて、入力情報振動部
２３のＸ−Ｙシフトレジスタ３０（３０ａ、３０ｂ、
…）の３列目から５列目の範囲の格子の値（０、１）
を、そのまま対応する格子番号（アドレス）のＸ−Ｙレ
ジスタ３５に順次抽出する。

【０２１１】すなわち、振動させた入力パターンをＸ−
Ｙレジスタ３５に順次得ることになるから結果として、
図１４の（Ｅ）に示す新たな入力情報を得ることにな
る。

【０２１２】ＭＡＮ素子ネットワーク部２５は、図１２
で説明したように、発火した後に一定の数のインパルス
が入る間（総称して所定の条件という）、続いて入力さ
れる情報を次の素子へ伝えないようなＭＡＮ素子を立体
的につなぎ合わせたネットワークであり、入力情報出力
部２４のＸ−Ｙレジスタ３５の各格子と第１列のＭＡＮ
素子とつながっている。このＭＡＮ素子は、例えば入力
がしきい値より大きい場合は１（一定時間経過後）’、
小さい場合は一定時間経過後に０を出力する。

【０２１３】そして、このしきい値を個々の素子で変
え、インパルスを出力しやすい素子やしにくい素子を同
一入力面内に配置することで、出力情報をさらに複雑に
することもできる。これは、人間の網膜には、錐体細胞
やかん体細胞、その他光エネルギーに対して、反応の速
い細胞や遅い細胞が複数種あることに対応する。

【０２１４】なお、MAN素子の不応期を決定する具体的
なしくみとしては、化学反応を利用する例が考えられ
る。つまり、MAN素子の入力口に化学物質の層を設定
し、入力する電気刺激により、化学反応が起こり、その
化学反応によって電気刺激が次の素子へと伝わるような
構造を想定する。化学反応が起こるためには、電気的な
刺激以外に、反応に必要な物質が補給されたり、合成さ
れる必要がある。その合成にかかる時間を不応期に対応
させられるわけである。

【０２１５】さらに、合成に必要な物質の濃度を、入力
する電気的刺激に対応させ変化させれば、電気刺激の通
過頻度に対応して不応期を変化させることができる。こ
れは人間のニューロンにおけるシナプス（シナプスどう
しは実際物理的にはつながっていない）で起きている現
象をMAN素子で実現する方法に対応する。

【０２１６】なお、ＭＡＮ素子を立体的につなげたＭＡ
Ｎ素子ネットワーク部２５については、詳細に後述す
る。

【０２１７】認識部２６は、ＭＡＮ素子ネットワーク部
２５の出力結果を書き込む３次元メモリ３８を備え、Ｍ
ＡＮ素子ネットワーク部２５からの出力パターン（２値
化データ）を、出力順に基づいて蓄積する。

【０２１８】そして、合成処理３９がｅ個の出力パター
ンが蓄積される毎に、合成してパターンの合成結果を認
識結果用のＸ−Ｙレジスタ４０に書き込む。前述の合成
には、ＡＮＤ、平均加算等を用いる。尚、合成せずＭＡ
Ｎ素子ネットワーク２５からの出力結果をそのまま出力
することもある。このような時間軸を伴ったその出力
は、ブロック単位（フレームメモリ単位）に順次送出す
ると、人間の手足の動きなど、モーションを形成するこ
とに用いることができることになる。

【０２１９】すなわち、ＭＡＮ素子ネットワークを通過
したパターンが順次３次元メモリに蓄積されるので、時
間軸で示すと図１５に示すように出力情報は立体的な構
造を持つ。

【０２２０】また、タイミングコントローラ４１は、Ｘ
−Ｙシフトレジスタ３０を監視し、入力パターンがＸ−
Ｙシフトレジスタ３０に複写される毎に０発生処理３
１、クリア処理３２を起動させる。

【０２２１】前述のＭＡＮ素子ネットワーク２５につい
て説明を補充する。例えば、ＭＡＮ素子が図１８の
（ａ）に示すようにつながっている状態で不応期が未設
定（状態０）とする。

【０２２２】図１８の（ａ）においては、全く結合して
いないＭＡＮ素子（○）も書いているが、単に説明を省
略しているだけであり、他のＭＡＮ素子からの入力があ
る可能性もある。

【０２２３】（学習１の成立）例えば、パターンＲ
（Ｏ，Ｐ，Ｑ，Ｒ＝０，０，０，１）が入力情報出力部
２４の３×３のＸ−Ｙレジスタ３５に入力し、図１８の
（ａ）の実線の経路を通り、Ｓｃに不応期が設定された
とする。

【０２２４】この情報は、認識部２６の３次元メモリ３
８に順次蓄積される。つまり、初めに図１８の（ａ）の
実線で示すルートは３次元メモリ３８のフレームメモリ
３７ａに記憶されるから図１８の（ｂ）に示すように、
０１００の出力パターンとなる。

【０２２５】すなわち、パターンＲが１度入力したこと
の影響はＳcに蓄えられ（これを学習１が成立とい
う）、三次元メモリ３８の１番目のフレームメモリに
は、パターンＲが通ったという結果だけが蓄えられたこ
とになる。この場合は、パターンＲが初めての入力情報
（初めての学習）のようなものになる。

【０２２６】（学習２の成立）例えば、図１８の（ｃ）
に示すように、入力情報出力部２４のＸ−Ｙレジスタ３
５に図１８の（ｃ）に示すようにパターンＱ（Ｏ，Ｐ，
Ｑ，Ｒ＝０，０，１，０）が入力し、図の実線経路を通
り、Ｓｂに不応期が設定されたとする。

【０２２７】すなわち、パターンＱが１度入力したこと
の影響はＳbに蓄えられ（これを学習２が成立とい
う）、三次元メモリ３８の１番目のフレームメモリに
は、パターンＱが通ったという結果だけが蓄えられたこ
とになる。この場合は、パターンＱが初めての入力情報
（初めての学習）のようなものになる。このパターンＱ
の場合、Ｓcの不応期の長さは変化させないわけである
から、パターンＲ（学習１）の影響はＳcに独立して残
っている。

【０２２８】つまり、ＲとＱの２つのパターンを学習の
効果が独立した形でＳｃ、Ｓｂに保存されることにな
る。これは、Ｕｚｕｍｅ処理で平面的なパターンＲとＱ
を独立した痕跡として保存することと同じ効果を蓄積し
たことになる。

【０２２９】（パターン認識１：不応期を仮定しない場
合）学習１、学習２が成立した後（学習１、学習２を経
験した後）にパターンＯ（Ｏ，Ｐ，Ｑ，Ｒ＝１，０，
０，０）が入力情報出力部２４のＸ−Ｙレジスタ３５に
ｔ１，ｔ２と連続して入力したときは、Ｓｂ，Ｓｃに不
応期がない場合は、ｔ１に対応するパターンＯ（Ｏ１の
ように呼ぶ）が入力すると、ＭＡＮ素子ネットワークに
おいては、図中太線のようなニューロンの帯をインパル
スが通り、出力パターンが出力される。さらにＯ２が続
けて入力しても、不応期がなければ同じニューロンの帯
を通り同じパターンが出力され、合成処理３９で３次元
メモリ３８に蓄積された後に合成される。つまり、認識
結果用のＸ−Ｙレジスタ４０に得られる合成パターンは
（２，２，２，０）である。これは、学習１、学習２の
影響を全く受けないこと、すなわち、パターンＲとパタ
ーンＱとの相互作用が全くないことを意味する。

【０２３０】（パターン認識２−１；不応期を仮定した
場合）パターン認識１と全く同じパターンがｔ１，ｔ２
にわたって入力する様子を、パターン認識２−１，２−
２に分けて説明する。図１９の（ｂ）に示すように、Ｓ
ｂ，Ｓｃに不応期が設定されているとする。ｔ１に対応
するパターンＯ１が入力してインパルスが通過するニュ
ーロンの帯の経路は、図１９の（ｂ）に示す図中太線の
ように、パターン認識１の場合と全く同じであり、出力
パターンも同様である。

【０２３１】（パターン認識２−２；不応期を仮定した
場合）パターンＯ１が入力した後、パターンＯ２が入力
した場合にインパルスが通るニューロンの帯を図１９の
（ｃ）の太線に示した。ここではＳｂ，Ｓｃに不応期が
設定されており、どちらもＯ１の通過により不応期に入
っているため、Ｏ２は、Ｏ１とは異なる経路を通る。こ
の経路は、学習１と学習２によって独立して蓄えられた
パターンの影響を反映しており、新たに形成された経路
（すなわちパターン）である。つまり、学習１、学習２
という過去の経験と入力パターンの相互作用で、新たな
パターン（ニューロンの帯）がＭＡＮ素子ネットワーク
（脳内）に表現され、新たな出力パターンが出力（００
１０）されることを意味している。これがすなわち人間
でいうところの認識と考えることができる。

【０２３２】（パターン認識２；不応期を仮定した場合
のパターン認識２−１、２−２を纏めた場合）Ｓｂ，Ｓ
ｃに不応期を設定した状態で、パターン認識１と全く同
じ入力パターンＯ１，Ｏ２が入力した場合のインパルス
が通るニューロンの帯を示す（時間軸でまとめてみた場
合を意味する）。パターン認識１とパターン認識２の出
力パターンや合成出力パターンを比較すれば、異なるパ
ターンが出力されることが分かる。

【０２３３】パターン認識１とパターン認識２は、入力
パターンは同じで、なおかつ発火するニューロンの組み
合わせも同じである。ところが、不応期を設定すること
により、異なる出力パターンおよび合成出力パターンは
全く異なってきている。すなわちこれにより、発火する
ニューロンの組み合わせ以上の情報を表現することがで
き、かつその情報をパターン認識に利用できるわけであ
る。ここで、学習２がなされず、Ｓｃに不応期が設定さ
れなかった場合は、当然出力は変わってくる。つまり、
学習２でパターンＱを学習するかしないかという違い
が、きちんと反映されるわけである。

【０２３４】つまり、ＭＡＮ素子ネットワークを設け、
各ＭＡＮ素子の不応期を想定し、インパルスの入力に対
応して不応期を変化させることにより、非常に多様で膨
大な学習の影響をネットワークに表現できることにな
る。蓄える情報の多様性にもう少し説明を加えれば、例
えば、学習１、学習２の後、再度パターンＲが入力した
ことにより、Ｓcの不応期が長くなった場合を考えてみ
る。その状態で、パターン認識するための入力パターン
Ｏがt1、t2、t3、t4と連続して入力した場合、出力され
るパターンtn、tn+1、tn+2、tn+3で作られる全体のパタ
ーンは、Ｓcの不応期が長くなる（短くなる）ことで変
化する。

【０２３５】これはパターンＲの入力回数に対して、出
力パターンが変わることを意味し、単にパターンＲが入
力した（学習した）という情報だけでなく、何度入力し
た（学習した）情報かという情報も表現できることを意
味する。上記のような不応期を想定することにより、よ
り多くの経路を得ると共に、新たな入力パターンが入力
すると過去のパターンの学習の影響を反映した結果を出
力パターン（３次元メモリのフレームメモリ３７ａ、３
７ｂ、…）に得ることになる。つまり、非常に詳細な情
報を表現し、蓄えることが可能になっているので認識の
精度が向上する。

【０２３６】ところで、詳細な情報を長期に蓄え表現さ
せることのメリットは、Uzumeで問題になっていた痕跡
情報の蓄積が、数が多くなるほど難しくなることを解決
してくれる。つまり、非常に詳細な情報を限られた素子
の集合で表現し、その影響を蓄えることが容易になるわ
けである。なお、Uzumeは蓄えられる痕跡情報と入力す
るパターンから、最も典型的なパターンを作り出す方法
であるが、痕跡情報のバリエーションが限られれば出力
されるパターンのバリエーションも限られてしまう。微
細なパターンの違いを反映する典型的なパターンを出力
するためには、わずかなパターンの違いを表現できなけ
ればならない。上記ＭＡＮ素子のネットワークの特徴
は、多様で膨大な情報を蓄えその影響を反映させること
ができるわけである。言い換えれば、ＭＡＮ素子のネッ
トワークにより、蓄積される過去の多様な学習経験の影
響を蓄え、その効果を反映させたパターンを出力できる
ようになる。

【０２３７】さらに、Uzumeでは蓄えられた痕跡情報を
利用し、活性化−相互抑制処理を行っているが、その処
理自体も、以下に述べるように、ＭＡＮ素子のネットワ
ークは担うことができる。

【０２３８】（ＭＡＮとＵｚｕｍｅの関係）入力刺激と
痕跡との相互作用の一つの意味 まずはっきりさせておかなければならない点は、Ｕｚｕ
ｍｅで例示した平面的なパターンは、ＭＡＮではニュー
ロンの帯に置き換えられることである。

【０２３９】図２１は、上述のパターン刺激Ｒ，Ｑに対
応するパターンを、Ｕｚｕｍｅの手書き文字の画素の一
つ一つに対応させた図である。手書き文字の最初のパタ
ーンを痕跡Ｒとすると、そのパターン情報の一部（パタ
ーンＲ）はそれに対応するニューロンの帯の不応期とし
て蓄えられる。同様に、手書きのパターンの痕跡Ｑの一
部のパターンＱに対応するニューロンの帯の不応期とし
て同様に蓄えられる。

【０２４０】この状態（痕跡が２つ蓄えられている状
態）で、分析する刺激パターンＯが入力する様子を図２
２に描いた。図中点線は過去のパターンの情報Ｒ，Ｑを
表す。分析刺激が入ると、Ｒ，Ｑの不応期の素子Ｓａ，
Ｓｂと刺激が相互作用し、分析刺激の経路が特定され
る。

【０２４１】なお、この場合、ＳａとＳｂを不応期にす
る刺激は、もとの刺激Ｒ，Ｑである必要はない。それに
類似した刺激が少し前に入力することにより（図には描
かれていない経路で）不応期の状態になっていてもよ
い。

【０２４２】次に、Ｕｚｕｍｅでは痕跡間の相互抑制が
仮定されている。その一つの意味を図２３で説明する。
図２３は、パターンＸ，Ｙが予め学習され、素子Ｃｘに
不応期が設定され、更にＣｘが不応期に成っている状態
で分析刺激Ｓが入力された場合を表す。

【０２４３】まず、図２３のＸとＹの経路をみて、後の
方の素子Ｃｚで同じ経路を共有していることを確認した
もらいたい。

【０２４４】まず、不応期がない場合にＳが入力すると
どうなるかであるが、Ｃｘに入ったＳはＸの痕跡と同じ
経路（Ｘの学習がなければ；不応期にならなければ）を
通ってＣｚに入り、ＣｚからＹのパターンと一部同じ経
路を通ることになる。これは、Ｘの学習と、Ｓ入力によ
りＹのパターン情報が一部活性化されたことに対応す
る。もちろんＳによってＹが直接活性化されることもあ
る。

【０２４５】ところが、Ｘの学習により不応期が設定さ
れ、それが機能している場合にＳが入力すると、Ｃｘで
Ｓの経路の一部は阻止されて、結果的にＣｚ以降のＹと
類似した経路の活性化を妨げることになる。これがＭＡ
Ｎ素子ネットワークにおける痕跡間の相互抑制を意味す
ることになる。

【０２４６】（セル抑制法とUzume、ＭＡＮの関係）Ｍ
ＡＮ素子のネットワークにおける情報は、複数のＭＡＮ
素子で構成されるニューロンの帯をインパルスが通るこ
とによって表現される。単純に考えるため、２つの素子
Ｙ、Ｘがあったとすれば、ＹからＸにインパルスが通る
ことによってパターンが表現されるわけである。言い換
えれば、ＸがＹによって発火するか否かで情報は表現さ
れ、逆に、Ｘが発火しているということは、Ｘを含む素
子のパターン（Ｙ−Ｘというルート）が表現されたとい
うことを意味することになる。

【０２４７】Ｘが発火すればパターンが生成できたこと
を意味することをおさえ、ＭＡＮ素子のネットワークを
Uzumeの処理との関係でとらえなおす。Uzumeの処理で
は、最終的には、過去に蓄えられているパターンと入力
パターンの間の相互作用の結果、ひとつのパターンが生
成されれば良い。「ひとつのパターンが生成された＝Ｘ
の発火」であるから、Ｘの発火が規定される条件に、過
去の痕跡パターンと入力パターンの間での活性化−相互
抑制の処理が反映されればよいことになる。

【０２４８】不応期を特徴とするＭＡＮ素子は以下のよ
うにその処理を実際に行っている。ひとつのポイント
は、素子Ｘが発火する確率は、その前の素子Ｙが発火し
ているか、抑制されているかによって決まる点である。

【０２４９】以下、素子Ｘの発火がＭＡＮ素子のネット
ワークでは何に規定されているのかを説明する。

【０２５０】●ニューロンの発火が何によって規定され
るか 図２４の（ａ）にあるような、刺激のパターンに対応す
る素子（受容器）ｃ，ａ，ｂ，ｄ，ｅが図のように配置
され（痕跡層１）、その奥の出力側に、素子ｘがあり、
それにニューロンが結合されていたとする（痕跡層２、
もしくは出力層）。

【０２５１】(1)過去の学習 図２４の（ｄ）に素子の結合の様子の例を示した。ここ
ではａｂｄｅの素子とｘの素子の距離は等しく、素子ｃ
はそれらの距離の２倍の距離であったとする。

【０２５２】学習 この状態で空間的な距離に配置された素子に、図２４の
（ｂ）に示す学習の入力（Ｐ）のようなパターンが入
力したとする（ＰＬ１）と、素子ｂが発火し、ｘにイン
パルスを伝える。それと同時に、素子ｂに不応期が設定
されたとする。

【０２５３】すなわち学習が成立したことになる。

【０２５４】学習 さらに、学習の入力（Ｐ）のようなパターンが入力し
たとする（ＰＬ２）。

【０２５５】素子ｃが発火し、ｘにインパルスを伝え
る。それと同時に、素子ｃに不応期が設定されたとす
る。すなわち学習が成立したことになる。

【０２５６】パターン認識 学習、学習の成立後、図２５にあるような、単位時
間ごとに入力される入力刺激Ｐｔ１，Ｐｔ２がこの素子
の２つの層に入力した場合に、痕跡層２の素子ｘが発火
する可能性は何によって決まるのかを図２６を参照して
説明する。なお、この説明では、同一のパターンが入力
刺激として連続して入力したと考えている。また、図中
ｔ１，ｔ２，ｔ３は、入力刺激が入力する単位時間に対
応している。

【０２５７】認識 ｔ１の時点で入力刺激Ｐｔ１が入力すると、痕跡層１の
対応する素子ａ，ｂ，ｃが発火し、そのインパルスのう
ち、素子ａ，ｂから伝わったインパルスのみｔ２の時点
で痕跡層２の素子ｘを発火させる。また、ｔ１の直後、
発火した素子のうち、学習で不応期が設定されてい
る素子ｃと素子ｂは不応期に入る。

【０２５８】認識 続いてｔ２の時点まで入力刺激Ｐｔ２が入力すると、痕
跡層１の対応する素子ａ，ｂ，ｃのうち、不応期になっ
ていない素子ａのみが発火し、ｔ３の時点で痕跡層２の
素子ｘを発火させる。この時、ｔ３の時点で、素子ｘを
発火させる確率は、過去の学習がない時点で同じパター
ンが入力した場合よりも、素子ｂが発火しない分低くな
る。それはすなわち、Ｐｔ１のパターンによって素子ｂ
が不応期になる確率に対応し、その確率はＰｔ１と過去
の学習時に入力したパターンの類似度（Ｓ［Ｐｔ１−Ｐ
Ｌ１］とする）に対応する。つまり、過去に学習がない
状態で（何の制限もなく）Ｐｔ２の発火によって素子ｘ
が発火する確率から、学習により素子ｂが発火しない
確率（Ｓ［Ｐｔ１−ＰＬ１］）を引いたものに対応す
る。つまり、素子ｘの発火は、学習によりＳ［Ｐｔ１
−ＰＬ１］だけ抑制されることになる。

【０２５９】このように、素子ｘの発火は、学習によっ
て蓄積されたパターンと入力刺激の類似度の大きさに応
じて抑制されることになるが、同様の計算は蓄積されて
いる個々のパターンと入力刺激との間でそれぞれ同様に
計算されることになり、その合計が素子ｘの発火を抑制
する程度に対応する。……（イ）これはすなわち、Uzum
eやセル抑制法の計算式に基づくと、Ｒ（ｉ）＝Ａ
（ｉ）＋δＡ（ｉ）で示され、（イ）はこの式のδＡ
（ｉ）に対応する。なお、このδＡはマイナスの値であ
り、Ａ（ｉ）は前回の活性度である。

【０２６０】一方、素子ｂに不応期を想定しない条件で
素子ｘが発火する確率は、入力刺激と素子（素子の前に
ある経路）の類似度に対応する。例えば、素子ｂの発火
する確率はＳ[Ｐt2−ＰL1]になる。ここで素子ｂが不応
期になっている場合となっていない場合の素子ｘの発火
の可能性Ｐxbは、以下のようになる。

【０２６１】Ｐxb＝Ｓ[Ｐt1−ＰL1]−Ｓ[Ｐt2−ＰL1] 以下、省略のため、Ｐxb＝Ｓ1[1]−Ｓ2[1]のように表
す。

【０２６２】同様に、痕跡層１にあるＮ個の素子のう
ち、任意の素子ｉが次の層の素子ｘを発火させる確率を
Ｐxiとすれば、素子ｘが発火する確率Ｐxは次の式で表
される。

【０２６３】Ｐx＝Σ（Ｓ1[i]−fi(Ｓ2[i]）） ただし、関数ｆi（ｘ）は素子ｉが不応期になっていな
ければ０を返す関数ここで、入力刺激Ｐt1とＰt2が同じ
パターンであれば（Uzumeのように）、Ｓ1()とＳ2()は
等しくなり、それをＳ()とすれば、Ｐxは次のようにな
る。

【０２６４】Ｐx＝Σ（Ｓ[i]-fi(Ｓ[i]）） 不応期になっているか否かの関数は、各素子の不応期の
長さ、時間軸における入力パターンの変化、ＭＡＮネッ
トワーク素子の構造などによって規定されるが、ここで
は、どの素子も不応期になる確率が等しいとして、その
確率をＷとすれば、Ｐxは次のように表現される。

【０２６５】Ｐx＝Σ（Ｓ[i]−Ｗ*Ｓ[i]） ＝ΣＳ[i]-Ｗ*ΣＳ[i] これは、Uzumeにおける式５と同様の処理を意味する。

【０２６６】素子ｘは、さらに、近隣の素子と共に、そ
の後の痕跡層のあるひとつの素子の発火を同様にして規
定することになる。この操作を繰り返すことにより、発
火する素子が特定されていくことになり、発火した素子
の集合がニューロンの帯に対応し、それがすなわち最終
的に作り出されたパターンに対応する。

【０２６７】素子ｘが発火すれば、その素子をニューロ
ンの帯の一部とする過去の痕跡パターンが発火する（最
終的に特定される）可能性が高まる。言い換えれば、素
子Ｘをニューロンの帯の一部とするパターンと類似した
パターンで形成される可能性が高くなるため、その発火
の確率を既に存在する痕跡パターンの一つ一つに反映さ
せ、それらを最終的にまとめてみれば最も特定される確
率の高い典型的なパターンが特定できる。すなわち、最
終的に形成されるパターンは、過去の痕跡パターンに素
子ｊの発火の確率Ｐｊを掛け合わせたものの総体になる
可能性が高まる。それは例えば次のように表される。

【０２６８】Ｃ(j)＝Σｊ Ｐｊ＊Ｔ(i,j) これは、Uzumeにおける式６と同様の処理を意味する
（式６で類似度ではなく活性度を使っているのは、それ
ほど大きな意味はなく、類似度が重要なポイントにな
る）。

【０２６９】さらに、入力パターンが入力し、ＭＡＮ素
子のネットワークを通り、最終的に形成される経路（す
なわち合成されるパターン）は、発火した全ての素子に
ついて、上記の合成を行った結果をまとめたものである
可能性が高い。つまり、Ｃ(j)を、全ての痕跡（素子）
についてまとめたものになる。

【０２７０】(2)類似度、活性化、抑制の範囲、および
距離 入力刺激と痕跡層１の類似度によって痕跡層２の素子の
発火の確率は決まるが、それ以外に、痕跡層１と痕跡層
２の構造によってもその確率は変わってくる。つまり、
痕跡層１の素子ａ，ｂ，ｃ，ｄ，ｅがすべて素子ｘと等
距離にある場合は問題ないが、距離に違いがある場合は
素子ｘ（＝焦点範囲）からの距離によって類似度の計算
や抑制の計算を変える必要がある。

【０２７１】一方、ｔ３の時点で素子ｘの発火は、素子
ａ以外に、素子ｃから（１単位時間遅れて）入力してく
る発火によっても引き起こされる。もし、素子ｃと素子
ｘの距離が素子ａ，ｂ，ｄ，ｅと素子ｘとの距離と同じ
場合は、タイムラグなく、素子ｃは素子ｂと同様素子ｘ
の発火を抑制する（学習によって不応期が設定されて
いるため）。ところが、素子ｃが２倍の距離離れている
場合は、認識の痕跡層２のように、ｔ３の時点では素
子ｃの影響は、素子ｘを発火させる方向で作用するから
である。

【０２７２】この意味から、痕跡層１と痕跡層２の関係
（類似した構造をもっているとすれば、痕跡層１内での
相対的な距離関係）によって痕跡層２の素子ｘの発火は
変化する。それを反映させるため、セル抑制法では類似
度、活性化、抑制の範囲を個々に設け、そこに焦点範囲
からの距離という概念を導入した。また、ここでいう距
離は空間的な距離に限らず、パターン情報として表現で
きる全ての情報（意味など）について、存在するパター
ンの間の類似度をここでいう距離とみなしても良い。

【０２７３】また、本実施の形態の分析方法を用いると
認識装置、デザイン、パターン認知、典型的なパターン
生成、感覚（熟知度、好み度）等の分野で応用できる。

【０２７４】

【発明の効果】本発明の入力情報のパターン構造生成方
法は、素子を立体的に所定間隔で複数繋げた素子ネット
ワークに、、ｉ×ｎ個からなる被処理パターンを時間軸
で集合化してブロック単位に区切った後に、これらのブ
ロックをそれぞれ異なる所定方向（垂直方向）にずらし
た後に、各ブロックからｉ×ｎの範囲を順次抽出して蓄
積し、この蓄積情報を新たな入力情報として前記素子ネ
ットワークに送出する。

【０２７５】この素子ネットワークの素子は入力する刺
激（信号）に対して、その刺激に対して次に反応する方
向の素子を決めると共に、一度刺激を受けた後は所定条
件が満たされるまで、前回と同じ方向の素子への決定を
停止する素子するものであり、これらを立体的に所定間
隔で複数繋げている。

【０２７６】このため、素子ネットワークに入力する入
力情報は、被処理パターンに対して多種のパターンを得
たことになる。これが前述の素子ネットワークに入力す
ることにより、より多くの経路を得ると共に、新たな入
力パターンが入力すると過去のパターンを学習した結果
を出力パターンに得ることになる。そして、これらの出
力パターン同士が合成されるので、認識の精度が非常に
向上するという効果が得られている。

【０２７７】このため、被処理パターンが多様で膨大で
あっても、人間と同様な感覚で処理できるという効果が
得られている。

【図面の簡単な説明】

【図１】本実施の形態１の入力情報の分析装置の概略構
成図である。

【図２】本実施の形態１の概念を説明する説明図であ
る。

【図３】本実施の形態１の具体例を説明する説明図であ
る。

【図４】本実施の形態１の具体例を説明する説明図であ
る。

【図５】本実施の形態１の活性度計算部、相互抑制処理
部の詳細構成図である。

【図６】類似度テーブルの説明図である。

【図７】本実施の形態１のパターン合成部の具体例を説
明する説明図である。

【図８】本実施の形態１の処理の概要を説明する説明図
である。

【図９】実施の形態１の最終の痕跡情報同士の合計によ
る効果を説明する説明図である。

【図１０】実施の形態１における他の被処理パターンが
入力したときの処理を説明する説明図である。

【図１１】実施の形態２の説明図である。

【図１２】実施の形態３の入力情報のパターン構築装置
の概略構成図である。

【図１３】実施の形態３のＭＡＮ素子の概念図である。

【図１４】実施の形態３のパターン前処理部の動作を説
明する説明図である。

【図１５】実施の形態３のＭＡＮ素子のネットワークの
構成を説明する説明図である

【図１６】実施の形態３のＭＡＮ素子のネットワークに
よるルートの生成を説明する説明図である。

【図１７】実施の形態４の入力情報の分析装置の概略構
成図である。

【図１８】ＭＡＮ素子ネットワークを詳細に説明する説
明図である。

【図１９】ＭＡＮ素子ネットワークを詳細に説明する説
明図である。

【図２０】ＭＡＮ素子ネットワークを詳細に説明する説
明図である。

【図２１】ＭＡＮ素子ネットワークを詳細に説明する説
明図である。

【図２２】ＭＡＮ素子ネットワークを詳細に説明する説
明図である。

【図２３】ＭＡＮ素子ネットワークを詳細に説明する説
明図である。

【図２４】 ＭＡＮ素子ネットワークを詳細に説明する
説明図である。

【図２５】ＭＡＮ素子ネットワークを詳細に説明する説
明図である。

【図２６】ＭＡＮ素子ネットワークを詳細に説明する説
明図である。

【符号の説明】

２ 被処理パターン入力部 ３ パターン前処理部 ５ 活性度計算部 ６ 相互抑制部 ７ パターン合成部 １０ ＭＡＮ素子のネットワーク

Claims (5)

【特許請求の範囲】
1. 【請求項１】 被処理パターンが入力したとき、この被
   処理パターンを蓄積して奥行きを持たせて集合化し、必
   要に応じて、この集合化パターンをブロック単位に区切
   った後に、これらのブロックを所定方向にずらして再び
   合成した入力パターンを生成する工程と、 入力する刺激に対して、その刺激に対して次に反応する
   方向の素子を決めると共に、一度刺激を受けた後は所定
   条件が満たされるまで、前回と同じ方向の素子への決定
   を停止する素子を、立体的に所定間隔で複数繋げた素子
   ネットワークを備えて、前記入力パターンを入力する工
   程と、 前記素子ネットワークの各素子が反応したルートから前
   記入力パターンに対するパターンを生成する工程とを有
   することを特徴とする入力情報のパターン構造生成方
   法。
2. 【請求項２】 請求項１における素子が、所定の条件に
   より、一度刺激が入力された後、次に刺激に対して反応
   するようになるまでの時間を変化させることにより、入
   力される刺激パターンの情報もしくはその影響を蓄積す
   る工程を持つ、請求項１に記載の入力情報のパターン構
   造生成方法。
3. 【請求項３】 前記所定条件が満たされた後は、前記ブ
   ロックを所定周期で、所定方向にずらすことを特徴とす
   る請求項１又は２に記載の入力情報のパターン構造生成
   方法。
4. 【請求項４】 被処理パターンが入力したとき、この被
   処理パターンを蓄積して奥行きを持たせて集合化し、必
   要に応じて、この集合化パターンをブロック単位に区切
   った後に、これらのブロックを所定方向にずらして再び
   合成した入力パターンを生成する手段と、 入力する刺激に対して、その刺激に対して次に反応する
   方向の素子を決めると共に、一度刺激を受けた後は所定
   条件が満たされるまで、前回と同じ方向の素子への決定
   を停止する素子を、立体的に所定間隔で複数繋げた素子
   ネットワークを備えて、前記入力パターンを入力する手
   段と、 前記素子ネットワークの各素子が反応したルートから前
   記入力パターンに対するパターンを生成する手段とを有
   することを特徴とする入力情報の分析装置。
5. 【請求項５】 請求項４における素子が、所定の条件に
   より、一度刺激が入力された後、次に刺激に対して反応
   するようになるまでの時間を変化させることにより、入
   力される刺激パターンの情報もしくはその影響を蓄積す
   る工程を持つ、請求項４に記載の入力情報の分析装置。