JPH0567224A - ニユーラルネツトワーク - Google Patents

Abstract

(57)【要約】 【目的】 第３のニューロンユニットが他の２つのニュ
ーロンユニット間の信号伝達を直接制御できる機構を作
り、より機能の高いニューラルネットワークを実現す
る。 【構成】 第１のニューロンユニット１と第２のニュー
ロンユニット２との間の信号伝達経路４,５上に、その
経路上を伝わる信号の量を制御する信号伝達制御手段７
を設け、この信号伝達制御手段７が第３のニューロンユ
ニット３の状態に連動して動作して、第１のニューロン
１から第２のニューロン２へ伝達される信号の量を制御
する。

Description

【発明の詳細な説明】

【０００１】

【技術分野】本発明は、ニューラルネットワーク、より
詳細には、神経回路網の情報処理機能を人工的に実現す
ることを目指した並列分散型情報処理装置（ニューロコ
ンピュータ）に関し、例えば、文字認識，画像認識，音
声認識，ロボット制御，画像処理，自然言語処理，連想
記憶，最適化問題処理等に応用可能なものである。

【０００２】

【従来技術】ニューラルネットワークは、生物の神経回
路網を模倣して考案された情報処理装置である。ニュー
ラルネットワークは、ニューロンユニットと呼ばれる構
成単位を、それらニューロンユニット同士の間に信号を
伝達する手段を設けることにより、ニューロンユニット
同士が互いに信号を授受できるように結合したものであ
る。ニューロンユニットは、生物の神経回路網における
神経細胞に相当する。ニューラルネットワーク内の幾つ
かのニューロンユニットは、ニューラルネットワークの
外部から信号を受け取る。ニューラルネットワーク内の
幾つかのニューロンユニットは、ニューラルネットワー
クの外部へ信号を出力する。ニューラルネットワーク
は、外部から信号を受け取り、その信号をネットワーク
の内部で多数のニューロンユニットで同時平行的に処理
し変換して外部に出力する並列情報処理装置である。あ
る種のニューラルネットワークでは、ニューラルネット
ワークに信号を入力してニューラルネットワークから信
号を出力させる都度、出力信号のあるべき値をニューラ
ルネットワークに与えてやることにより、何回かこの操
作を繰り返していくうちに、出力信号の値をそのあるべ
き値に近づけさせることが出来る。これをニューラルネ
ットワークの学習と呼んでいる。ニューラルネットワー
クに出力信号のあるべき値を与える信号を教師信号と呼
ぶ。このような学習能力があるため、既存のコンピュー
ターで必要なプログラムが不要となり、プログラムの開
発費がかからない上に、使用環境に応じてプログラムに
調整を加える必要も無くなる。

【０００３】ニューラルネットワーク内の各ニューロン
ユニットは、ニューラルネットワーク内の他の幾つかの
ニューロンユニットまたはニューラルネットワークの外
部から信号を受け取り、ニューラルネットワーク内の他
の幾つかのニューロンユニットまたはニューラルネット
ワークの外部へ信号を出力する。ニューロンユニットは
そのニューロンユニットに結合しているニューロンユニ
ットから信号を受け取るとき、結合ごとに異なる受容効
率を持って信号を受け取る。例えば、ニューロンユニッ
ト１から結合１を通して信号を受け取り、ニューロンユ
ニット２から結合２を通して信号を受け取るニューロン
ユニットにおいて、結合１の受容効率が０.８で結合２
の受容効率が０.５である場合、結合１と結合２にそれ
ぞれ１.０の強さの入力信号が入ってきたとき、ニュー
ロンユニットが結合１を通してニューロンユニット１か
ら受け取る入力信号の値は０.８であり、結合２を通し
てニューロンユニット２から受け取る入力信号の値は
０.５である。こうして受け取った入力信号に基づい
て、ニューロンユニットは信号を出力する。以後、この
結合の受容効率を結合係数と呼ぶことにする。ニューロ
ンユニットが入力信号に基づいて信号を出力するやり方
は、色々な方式があるが、そのうちで広く採用されてい
るものの１つをつぎに紹介する。

【０００４】図７は、ニューロンユニットの動作説明を
するための図で、図示のように、ｋ個のニューロンユニ
ットから信号を受け取るニューロンユニットｊを考え
る。ｋ個のうちのｉ番目のニューロンユニットから入っ
てくる入力信号をｙ_iと書く。また、ｉ番目のニューロ
ンユニットとニューロンユニットｊとの間の結合係数を
Ｔ_jiと書く。最初に、ニューロンユニットｊに結合係数
Ｔ_jiで重み付けられて入ってくる入力信号ｙ_i（ｉ=１，
２，…，ｋ）の総和をとる。その総和をnet_jという記号
で表すと、

【０００５】

【数１】

【０００６】である。つぎに、このnet_jを単調増加飽和
関数（ｆと書く）により変換してニューロンユニットｊ
の出力ｙ_jとすると、

【０００７】

【数２】

【０００８】である。関数ｆとしては、ロジスティック
関数あるいはシグモイド関数と呼ばれる次の関数がよく
用いられる。

【０００９】

【数３】

【００１０】この関数を図８に示す。

【００１１】ニューラルネットワークを作るには、いろ
いろな方法がある。最も簡単には、通常のコンピュータ
ーで動くソフトウェアとして作ることができる。この場
合、いろいろな構成のニューラルネットワークを、条件
をいろいろ変えて動かすことが比較的容易に出来る。し
かし、動作速度が遅く、また、小さく出来ないため他の
機器に組み込んで使うことが難しいという欠点がある。
そのため、ニューラルネットワークの研究に使うのには
適しているが、実用に使うのには適さない場合が多い。
このようなコンピューター上のソフトウェアとしてのニ
ューラルネットワークの欠点を克服するものとして、ニ
ューラルネットワークをハードフェアで作る方法が多数
提案されている。

【００１２】それらの中で、本出願人によるディジタル
回路を使って作ったニューラルネットワーク「パルス密
度論理演算型ニューラルネットワーク」（特願平１−１
７９６２９）について次に説明する。ただし、本発明に
関係している部分、すなわち、ニューロンユニットの入
出力処理機能についてのみ説明する。図９は、パルス密
度論理演算型ニューラルネットワーク内の各ニューロン
ユニットにおける入力信号の処理方法を示したもので、
パルス密度論理演算型ニューラルネットワークにおいて
は、入力信号（図９の２１）および出力信号（図９の２
２）はすべて同期化されたビット列より成る。ビット列
中の各ビットは０または１のいずれかの値をとるが、信
号の値は、ビット列のパルス密度で表現し、例えば、あ
る一定特間内にある１の数で表す。ｉ番目の入力信号を
ｙ_iとすると、

【００１３】

【数４】

【００１４】となる。これは値が４／６である信号を示
し、同期パルス６個中、入力信号ｙ_iは、１が４個、０
が２個である。このとき１と０の並び方は、ランダムで
あることが望ましい。一方、ニューロンユニットとニュ
ーロンユニットの間の結合の度合いを示す結合係数Ｔ_ji
（図９の２３）も、０と１のビット列として、あらかじ
めメモリ上に用意しておく。また、結合係数の値も、入
出力信号の値と同様にパルス密度で下記のごとく表現す
る。

【００１５】

【数５】

【００１６】これは、「１０１０１０」＝３／６を表
し、このときも１と０の並び方は、ランダムであること
が望ましい。各ニューロンユニットは、まず、この結合
係数のビット列を同期クロックに応じてメモリ上より順
次読み出し、ＡＮＤ回路（図９の２４）により入力信号
のビット列とのＡＮＤをとる。いままでの例を用いて説
明すると、入力信号が「１０１１０１」と入力したと
き、これと同期してメモリ上よりビット列を呼び出し、
順次ＡＮＤをとることによって、

【００１７】

【数６】

【００１８】に示すような「１０１０００」が得られ、
これは入力ｙ_iがＴ_jiにより重み付けられてパルス密度
が２／６になったことを示している。ＡＮＤ回路２４の
出力のパルス密度は、近似的には入力信号２１のパルス
密度と結合係数２３のパルス密度との積になり、アナロ
グ方式の結合係数と同様の機能を有する。これは、信号
の列が長いほど、また、１と０の並び方がランダムであ
るほど、積に近い機能になる。なお、入力ビット列に較
べて、結合係数のビット列が短く、読みだすべきデータ
が無くなってしまったら、再びデータの先頭に戻って、
読み出しを繰り返せばよい。１つのニューロンユニット
は多入力であるので、前述の入力信号と結合係数のＡＮ
Ｄをとった結果も多数ある。次にそれらの多数の結果の
ＯＲをとる（図９の２５）。入力は同期化されているの
で、たとえば、１番目のデータが「１０１０００」、２
番目のデータが「０１００００」の場合、両者のＯＲは
「１１１０００」となる。Ｌ個の入力についてこの操作
を行うと、

【００１９】

【数７】

【００２０】となる。パルス密度が低いとき、このＯＲ
をとったもののパルス密度は、それぞれのパルス密度の
和に近似的に一致する。また、ＯＲをとったもののパル
ス密度は、パルス密度の和の単調増加関数である。パル
ス密度は、１より大きくなることがないので、パルス密
度が高くなるにつれて、ＯＲの出力はパルス密度の和と
は一致せず、だんだん飽和してくる。したがって、この
ＯＲをとる操作は、前述した入力信号の総和を単調増加
飽和関数ｆで変換する操作に対応している。

【００２１】ところで、ここまでは結合係数が正の場合
について説明してきたが、ニューラルネットワークの機
能を実用的なものにするためには、結合係数を、正値の
みでなく負値もとれるようにして、負の入力により出力
を抑制できるようにすることが望ましい。結合係数が正
である結合を興奮性結合、負である結合を抑制性結合と
呼ぶ。アナログ回路では、抑制性結合の場合、増幅器を
用いて出力を反転させ、結合係数に相当する抵抗値で他
のニューロンユニットへ結合させている。一方、パルス
密度は常に正であるが、次の（１）〜（３）の３種類の
いずれかの方法によりニューロンユニットの出力信号を
生成するようにすれば、結合係数の値をパルス密度で表
している場合でも結合の興奮性と抑制性への対応が可能
である。

【００２２】（１）：図１０参照 各結合に対して、興奮性か抑制性かをあらかじめ設定し
ておき、興奮性の結合のグループ（図１０の３０）と抑
制性の結合のグループ（図１０の３１）とで別々に、上
述の入力信号と結合係数のＡＮＤをとって得られるパル
ス列のＯＲをとる（このＯＲは、図１０において、グル
ープ３０のＯＲを２５にて、グループ３１のＯＲを２６
にて示してある）。あるいは、各入力に対して、あらか
じめ興奮性か抑制性かを設定しておき、興奮性の入力の
グループ３０と抑制性の入力のグループ３１とで別々に
上述のＯＲをとる。次に、抑制性グループ３１のＯＲ２
６の結果のＮＯＴ（否定）をＮＯＴ回路２７でとり、そ
の結果と興奮性グループ３０のＯＲ２５の結果とのＡＮ
ＤをＡＮＤ回路２８でとり、その結果をニューロンから
の出力信号２２とする。

【００２３】（２）: 図１１参照 この例は、結合毎にその結合が興奮性であるか抑制性で
あるかを表すメモリ（図１１の３２）を持ち、その内容
によって、結合の興奮性、抑制性を任意に設定できるよ
うにする（図１１の３３）。このメモリの内容によって
決まる興奮性の結合のグループと抑制性の結合グループ
とで別々に上述のＯＲをとる（図１１の２５，２６）。
次に、抑制性グループのＯＲ２６の結果のＮＯＴ（否
定）２７をとり（図１１の２７）、その結果と興奮性グ
ループのＯＲ２５の結果とのＡＮＤをとり（図１１の２
８）、その結果をニューロンからの出力信号（図１１の
２２）とする。

【００２４】（３）: 図１２参照 結合毎に興奮性の結合係数と、抑制性の結合係数との両
方を持たせ、両者をメモリ上に置く（図１２の２３ａ，
２３ｂ）。これは、結合係数を正の量と負の量との和の
形に分解して表したことに相当する。そして、入力信号
２１と興奮性の結合係数２３ａとのＡＮＤ２４ａをとっ
た結果同士のＯＲ２５をとる。また、入力信号２１と抑
制性の結合係数２３ｂとのＡＮＤ２４ｂをとった結果同
士のＯＲ２６をとる。次に、抑制性グループのＯＲ２６
の結果のＮＯＴ（否定）２７をとり、その結果と興奮性
グループのＯＲ２５の結果とのＡＮＤ２８をとり、その
結果をニューロンからの出力信号２２とする。

【００２５】これらの方式は、入力信号の値が０のとき
出力信号の値が０になってしまうこと、興奮性グループ
からの入力信号よりも抑制性グループからの入力信号の
方が出力信号に強い影響をもつこと等の特徴がある。こ
れらの方式に対して、出力レベルを調節できるようにす
ることによってニューロンユニットの能力を高めるとい
う出願が、本出願人によりなされている。その方式で
は、上記結合の興奮性と抑制性への対応（１）,（２）,
（３）は、それぞれ次の（４）,（５）,（６）になる。

【００２６】（４）: 図１３参照 各結合に対して、興奮性か抑制性かをあらかじめ設定し
ておき、興奮性の結合のグループと抑制性の結合のグル
ープとで別々に上述のＯＲをとる（図１３の２５と２
６）。あるいは、各入力に対して、あらかじめ興奮性か
抑制性かを設定しておき、興奮性の入力グループ（図１
３の３０）と抑制性の入力のグループ（図１３の３１）
とで別々に上述のＯＲをとる。次に、このようにして得
た興奮性グループのＯＲ２５の結果と抑制性グループの
ＯＲ２６の結果を以下のように組合せる（図１３の３
４）ことにより、ニューロンユニットからの出力値２２
を算出する。まず、両者のＯＲの結果が不一致であれ
ば、興奮性グループのＯＲ２５の結果をニューロンから
の出力ビットの値（図１３の２２）とする。すなわち、
興奮性グループのＯＲ２５の結果が０で、抑制性グルー
プのＯＲ２６の結果が１であれば、０を出力２２し、興
奮性グループのＯＲ２５の結果が１で、抑制性グループ
のＯＲ２６の結果が０であれば、１を出力２２する。ま
た、興奮性グループのＯＲ２５の結果と抑制性グループ
のＯＲ２６の結果が一致したときは、別に用意した入力
信号（以後、この信号を出力シフト用入力信号と呼ぶ）
（図１３の３５）をそのまま出力する。

【００２７】（５）: 図１４参照 結合毎にその結合が興奮性であるか抑制性であるかを表
すメモリ（図１４の３２）を持ち、その内容によって、
結合の興奮性、抑制性を任意に設定できるようにする
（図１４の３３）。このメモリの内容によって決まる興
奮性の結合のグループと抑制性の結合のグループとで別
々に上述のＯＲをとる（図１４の２５，２６）。次に、
このようにして得た興奮性グループのＯＲ２５の結果と
抑制性グループのＯＲ２６の結果を上記（４）の場合と
同様に組合せる（図１４の３４）ことにより、ニューロ
ンユニットからの出力値２２を算出する。

【００２８】（６）: 図１５参照 結合毎に興奮性の結合係数と、抑制性の結合係数とを持
たせ、両者をメモリ上に置く（図１５の２３ａ，２３
ｂ）。これは、結合係数を正の量と負の量と和の形に分
解して表したことに相当する。そして、入力信号２１と
興奮性の結合係数２３ａとのＡＮＤ２４ａをとった結果
同士のＯＲ２５をとる。また、入力信号２１と抑制性の
結合係数２３ｂとのＡＮＤ２４ｂをとった結果同士のＯ
Ｒ２６をとる。次に、このようにして得た興奮性グルー
プのＯＲ２５の結果と抑制性グループのＯＲ２６の結果
を上記（４）の場合と同様に組合せる（図１５の３４）
ことにより、ニューロンユニットからの出力値２２を算
出する。

【００２９】上記（４）,（５）,（６）において、興奮
性グループのＯＲ２５の結果と抑制性グループのＯＲ２
６の結果が一致したとき出力する出力シフト用入力信号
（図１３，１４，１５の３５）の値が常に０である場
合、すなわち、出力シフト用入力信号のパルス密度が０
である場合は、（４）における出力は（１）における出
力に、（５）における出力は（２）における出力に、
（６）における出力は（３）における出力に等しくな
る。上記（４）,（５）,（６）において、出力シフト用
入力信号３５が値１をとる確率が０.５（従って、０を
とる確率も０.５）である場合、すなわち、出力シフト
用入力信号３５のパルス密度が０.５である場合は、興
奮性グループからの入力信号と、抑制性グループからの
入力信号の、出力信号に対する影響度が等しくなり、ニ
ューロンユニットの出力関数が興奮性と抑制性とでバラ
ンスのとれたものになり、しかも、出力関数の形が、通
常の階層型ニューラルネットワークで広く使われている
出力関数であるシグモイド関数（数３）式の形に近くな
るため、好ましい。

【００３０】上述のように、ニューロンユニットからの
出力信号は、他のニューロンユニットに送られ、そこで
結合係数により重み付けられてそのニューロンユニット
に取り込まれ、そのニューロンユニットからの信号出力
量を決めるのに使われる。このように、ニューロンユニ
ットは、他のニューロンユニットに信号を送ることによ
って、他のニューロンユニットからの信号出力に影響を
及ぼすことができる。しかし、ニューロンユニットは、
他のニューロンユニット間で伝達されている信号の伝達
効率を直接制御することによって、他のニューロンユニ
ット間の信号伝達に影響を及ぼすということはできな
い。従来技術には、そのような機能はなかった。そこ
で、信号の伝達効率を制御する働きを持つ信号伝達制御
子をニューロンユニット間の信号伝達経路上に介在さ
せ、その信号伝達制御子を別のニューロンユニットの状
態に連動して働かすようにすれば、ニューロンユニット
が他のニューロンユニット間の信号伝達を直接制御する
ことが可能となり、そのような機構がない場合に比べ
て、より複雑な信号伝播パターンをニューラルネットワ
ークに持たせることができ、ニューラルネットワークの
応用範囲を広げることができる。

【００３１】

【目的】本発明は、上述のごとき実情に鑑みてなされた
もので、特に、より機能の高いニューラルネットワーク
を実現するために、ニューロンユニットが他のニューロ
ンユニット間の信号伝達を直接制御できる機構を作るこ
とを目的としてなされたものである。

【００３２】

【構成】本発明は、上記目的を達成するために、複数の
ニューロンユニットと、それらのニューロンユニット間
の信号伝達手段とから成るニューラルネットワークであ
って、第１のニューロンユニットと第２のニューロンユ
ニットとの間の信号伝達経路上に、その経路上を伝わる
信号の量を制御する信号伝達制御手段を有し、該信号伝
達制御手段が第３のニューロンユニットの状態に連動し
て動作することを特徴としたものである。以下、本発明
の実施例に基いて説明する。

【００３３】以下に、前述のパルス密度論理演算型ニュ
ーラルネットワークのように、ニューロンユニット間の
信号が０または１のいずれかの値を取るビットの列から
なるニューラルネットワークに本発明を適用した場合の
例を説明する。値１のビットをパルスとみなし、信号の
強さはパルスの密度、すなわち、一定時間内の値１のビ
ットの個数で表現するものとする。

【００３４】図１は、信号を伝達している２つのニュー
ロンユニット１,２、それらのニューロンユニット間の
信号の通り路である信号線４,５、その信号線上に介在
している信号伝達制御手段７、その信号伝達制御手段を
制御するニューロンユニット３、および、そのニューロ
ンユニット３から信号伝達制御手段７へ信号を送るため
の信号線６を示したものである。信号伝達制御手段７
は、ＮＯＴ回路９とＡＮＤ回路８から成り、信号線６か
ら入ってくるビットの論理否定を取った結果と信号線４
から入ってくるビットとの論理積を取って信号線５上に
送り出す。もし、ニューロンユニット３が休止状態にあ
る場合、すなわち、ニューロンユニット３から値０のビ
ットしか出ていない場合には、ＮＯＴ回路９の出力ビッ
トは常に値１であるから、信号線４を通って信号伝達制
御手段７へ入ってきた信号は、そのまま信号伝達制御手
段７を通過して信号線５へ入る。一方、ニューロンユニ
ット３が出力信号を出している場合は、以下に示すよう
に、その信号の強さに応じて信号線４から信号伝達制御
手段７へ入るパルスが間引かれて信号線５へ送られる。
いま、信号線４上を送られるビット列のうちの６クロッ
ク分を見ることにする。ニューロンユニット１から信号
線４に送り出されたビット列が、次のように４／６のパ
ルス密度であったとする。

【００３５】

【数８】

【００３６】また、ニューロンユニット３から信号線６
に送り出されたビット列が、次のように３／６のパルス
密度であったとする。

【００３７】

【数９】

【００３８】この信号の論理否定を取って、上記信号線
４上の信号との論理積を取ると、容易に分かるように、
その結果は次のようなパルス密度２／６のビット列にな
る。

【００３９】

【数10】

【００４０】ニューロンユニット１から出力される信号
のパルス密度をａ、ニューロンユニット３から出力され
る信号のパルス密度をｂとすると、両者の信号のパルス
位置が統計的に独立であれば、信号伝達制御手段７から
出力される信号のパルス密度は、平均としてａ×（１−
ｂ）となる。すなわち、信号伝達制御手段によって、ニ
ューロンユニット２へ伝わる信号の強さが（１−ｂ）倍
される。したがって、ニューロンユニット３から出力さ
れる信号が強ければ強いほど、信号伝達制御手段７によ
ってニューロンユニット１からニューロンユニット２へ
伝わる信号の伝達が抑制され、図４に示すように（ただ
し、ｃはニューロンユニット１からニューロンユニット
２へ伝わる信号の強さを示す）、ｂ＝０のときのもとも
との信号の強さａが、ｂ＝１のときには強さ０にまで変
化する。

【００４１】図２は、信号伝達制御手段７の別の例を示
したものである。この例は、図１に示した信号伝達制御
手段７と異なって、１個のＯＲ回路１０のみで構成され
ている。この場合は、信号伝達制御手段７は、信号線４
を通って信号伝達制御手段７へ入ってきたビット列と、
信号線６を通って信号伝達制御手段７へ入ってきたビッ
ト列との論理和をとり、その結果を信号線５へ送り出
す。この場合、ニューロンユニット１から出力される信
号のパルス密度をａ、ニューロンユニット３から出力さ
れる信号のパルス密度をｂとすると、両者の信号のパル
ス位置が統計的に独立であれば、信号伝達制御手段７か
ら出力される信号のパルス密度は、平均としてａ＋ｂ×
（１−ａ）となる。したがって、ニューロンユニット３
から出力される信号が強ければ強いほど、信号伝達制御
手段によって、ニューロンユニット１からニューロンユ
ニット２へ伝わる信号の強さが増し、図５に示すよう
に、ｂ＝０のときのもともとの信号の強さａが、ｂ＝１
のときには強さ１にまで変化する。

【００４２】図３は、信号伝達制御手段７のさらに別の
例を示したものである。この場合は、信号伝達制御手段
７は、シフトレジスタ１１、ＡＮＤ回路１２、ＯＲ回路
１３から構成されている。シフトレジスタ１１は、信号
線４から入ってきたビットを保管し、１クロック後にＡ
ＮＤ回路１２に送り出す。ＡＮＤ回路１２は、シフトレ
ジスタ１１から取り出したビットとニューロンユニット
３が信号線６に送り出したビットとの論理積をとって、
その結果をＯＲ回路１３へ送る。したがって、ニューロ
ンユニット３が出力したビットとそれより１クロック前
にニューロンユニット１が出力したビットがともに値１
のビットであれば、ＡＮＤ回路１２からは値１のビット
が出力される。ＯＲ回路１３は、ニューロンユニット１
が出力したビットとＡＮＤ回路１２が出力したビットと
の論理和をとって信号線５へ送り出す。この場合、ニュ
ーロンユニット１から出力される信号のパルス密度を
ａ、ニューロンユニット３から出力される信号のパルス
密度をｂとすると、両者の信号のパルス位置が統計的に
独立であれば、ＡＮＤ回路１２から出力される信号のパ
ルス密度は、平均としてａ×ｂになる。したがって、Ｏ
Ｒ回路１３から出力される信号のパルス密度は、平均と
して１−（１−ａ）×（１−ａ×ｂ）＝ａ×｛１＋（１
−ａ）×ｂ｝となる。したがって、ニューロンユニット
３から出力される信号が強ければ強いほど、信号伝達制
御手段によってニューロンユニット１からニューロンユ
ニット２ヘ伝わる信号が強化され、図６に示すように、
ｂ＝０のときのもともとの強さａが、ｂ＝１のときには
強さａ×（２−ａ）にまで変化する。この場合、図２の
回路の場合と異なって、信号の増加量は、図２の回路の
場合の信号の増加量（１−ａ）×ｂにさらにａが掛った
形、すなわち、ａ×（１−ａ）×ｂになっている。すな
わち、この場合、図２の回路の場合の信号の増加量がさ
らにもともとの信号の強さａに比例した形で増加するよ
うに、信号を増加させることを特徴としている。

【００４３】なお、以上に第１のニューロンユニットか
ら第２のニューロンユニットに至る信号伝達経路上に、
単一の、つまり、第３のニューロンユニットの状態に連
動して動作する信号伝達制御手段を介在させた場合の例
について説明したが、本発明は、上記実施例に限定され
るものではなく、更に、第４のニューロンユニットの状
態に連動して動作する第２の信号伝達制御手段を前記信
号伝達経路に直列又は並列に介在させる等、必要に応じ
て各々のニューロンユニットの状態に連動して動作する
複数個の信号の伝達制御手段を介在させ、第１のニュー
ロンユニットから第２のニューロンユニットへ伝送され
る信号を所望の関数で変換して伝達させるようにしても
よいことは容易に考えられよう。

【００４４】

【効果】以上の説明から明らかなように、本発明による
と、ニューラルネットワーク中で、ニューロンユニット
が、他のニューロンユニット間の信号伝達経路上の信号
伝達を、直接制御することが可能となる。特に、信号伝
達経路を個別に制御することが可能となる。（従来技術
では、ニューロンユニットの出力を制御することを通じ
て、１つのニューロンユニットから出ている全部の信号
伝達経路をひとまとめにしてしか制御できなかった。）
このため、そのような機構がない場合に比べて、より複
雑な信号伝播パターンをニューラルネットワークに持た
せることができ、ニューラルネットワークの適用範囲を
広げることができる。

【図面の簡単な説明】

【図１】 本発明の一実施例を説明するための構成図で
ある。

【図２】 本発明の他の実施例を説明するための構成図
である。

【図３】 本発明の他の実施例を説明するための構成図
である。

【図４】 図１の回路の伝達特性を示す図である。

【図５】 図２の回路の伝達特性を示す図である。

【図６】 図３の回路の伝達特性を示す図である。

【図７】 ニューロンユニットの概略を説明するための
図である。

【図８】 シグモイド関数を示す図である。

【図９】 パルス密度論理演算型ニューラルネットワー
クの一例を説明するための図である。

【図１０】 従来のニューラルネットワークの一例を説
明するための図である。

【図１１】 従来のニューラルネットワークの他の例を
説明するための図である。

【図１２】 従来のニューラルネットワークの他の例を
説明するための図である。

【図１３】 従来のニューラルネットワークの他の例を
説明するための図である。

【図１４】 従来のニューラルネットワークの他の例を
説明するための図である。

【図１５】 従来のニューラルネットワークの他の例を
説明するための図である。

【符号の説明】

１…第１のニューロンユニット、２…第２のニューロン
ユニット、３…第３のニューロンユニット、４,５…信
号伝達経路、６…信号線、７…信号伝達制御手段。

Claims (1)

【特許請求の範囲】
1. 【請求項１】 複数のニューロンユニットと、それらの
   ニューロンユニット間の信号伝達手段とから成るニュー
   ラルネットワークであって、第１のニューロンユニット
   と第２のニューロンユニットとの間の信号伝達経路上
   に、その経路上を伝わる信号の量を制御する信号伝達制
   御手段を有し、該信号伝達制御手段が第３のニューロン
   ユニットの状態に連動して動作することを特徴とするニ
   ューラルネットワーク。