JP3142287B2 - neural network - Google Patents
neural networkInfo
- Publication number
- JP3142287B2 JP3142287B2 JP02306998A JP30699890A JP3142287B2 JP 3142287 B2 JP3142287 B2 JP 3142287B2 JP 02306998 A JP02306998 A JP 02306998A JP 30699890 A JP30699890 A JP 30699890A JP 3142287 B2 JP3142287 B2 JP 3142287B2
- Authority
- JP
- Japan
- Prior art keywords
- neuron
- light
- neural network
- input
- amplifiers
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Landscapes
- Image Analysis (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
Description
【発明の詳細な説明】 「産業上の利用分野」 この発明は人造神経網（ニューラルネットワーク）お
よび情報処理を行うニューロコンピューティングシステ
ムに係り、特に、自ら学習する機能を有すると共に連想
メモリおよびプログラミング能力を備え、光刺激によっ
て表象するニューラルネットワークに関する。自己学
習、連想記憶およびプログラム生成は、高性能なロボッ
トあるいは制御システムが直面する認識問題あるいは同
定問題を解くために具備すべき本質的な機能である。Description: BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to an artificial neural network (neural network) and a neurocomputing system for performing information processing, and in particular, has a function of learning by itself, associative memory and programming ability. And a neural network represented by light stimulation. Self-learning, associative memory and program generation are essential functions that must be provided to solve the recognition or identification problems faced by sophisticated robots or control systems.
「従来の技術」 従来の標準的なコンピュータあるいは情報処理システ
ムは、ノイマン型アーキテクチャを基本とした多様な装
置構成が採られている。この種の情報処理システムは、
個別の問題を解くための具体的手段を実現する多くのス
テップからなるアルゴリズムに頼って、処理を行ってい
る。個別の問題を情報処理システムによって解くため、
個人、すなわち、コンピュータプログラマは、個々の問
題を完全に理解していなければならず、かつ、個別の問
題を論理的に解くことができる１つのあるいは一連のア
ルゴリズムを作成することができねばならない。基本的
にコンピュータシステムは“物言わぬシステム”であ
り、自身で思惟するものではなく、むしろ、解を得るた
めの所与のアルゴリズムを構成する各命令を１ステップ
ずつ逐次論理的に実行するものである。しかし逆に、コ
ンピュータは“物言わぬもの”であるか故に、１マイク
ロ秒という短時間に多くの演算を機械的に実行すること
が可能であり、そのため、多くの分野にとって極めて有
用である。この種のコンピューティングシステムの本質
的問題は、第１に「仮に特定問題を解くことが可能であ
るとするならば、コンピュータの計算能力を使い尽くす
前に、プログラマが特定問題を論理的に解くこと、ある
いは特定問題を解くための手段を定式化することが必要
である」というところにある。また、第２の本質的問題
は、「個々の問題に対し、果たしてそれに解を与える一
連の論理的なステップあるいは算術的なステップが存在
するか否か、そして、個々の問題あるいはタスクを解く
ことができるか否かが分らない」というところにある。
所与の問題に係るすべての機能あるいはタスクが明らか
である場合でさえ、場合によってその機能を実現するア
ルゴリズムを遂行することが不可能であることがあり、
また、そのようなケースは枚挙にいとまがない。そのよ
うなケースとして、例えば、自動車の自動操縦、会話／
筆書変換、敵機等の同定システム等がある。[Prior Art] A conventional standard computer or information processing system employs various device configurations based on a Neumann architecture. This type of information processing system
The process relies on an algorithm consisting of many steps that implements specific means for solving individual problems. To solve individual problems with an information processing system,
The individual, or computer programmer, must have a thorough understanding of each problem and be able to create one or a series of algorithms that can solve each problem logically. Basically, a computer system is a "silent system", which does not think on its own, but rather executes the instructions constituting a given algorithm for obtaining a solution one by one sequentially and logically. is there. However, conversely, a computer is "silent" and therefore can perform many operations mechanically in a short time of 1 microsecond, and is therefore extremely useful in many fields. The essential problem of this type of computing system is that first, if it is possible to solve a specific problem, the programmer logically solves the specific problem before using up the computing power of the computer. It is necessary to formulate means for solving specific problems. " The second essential question is, "For each problem, whether there is a series of logical or arithmetic steps that really solves it, and how to solve each problem or task. I don't know if I can do it. "
Even if all functions or tasks related to a given problem are obvious, it may not be possible in some cases to carry out an algorithm to realize that function,
Such cases are numerous. Such cases include, for example, car autopilot, conversation /
There are writing conversion, identification system for enemy aircraft, etc.
一方、コンピュータとその計算能力は、広範囲の問題
を解くように発展し、法外なスピード、正確さ、利便を
もたらした。従って、コンピュータは、一般的なクラス
の認識問題あるいは同定問題を解くのにいまだ有用であ
る。また、一般的なコンピュータは、新たに変化する状
況を受入れる能力あるいは処理を進めながら学習する能
力を有していない。これらの問題は、ロボットおよび制
御システムの発達を制限するものである。しかしなが
ら、高次の生体論理系においては、認識および同定の機
能は比較的容易な仕事である。On the other hand, computers and their computing power have evolved to solve a wide range of problems, resulting in tremendous speed, accuracy and convenience. Thus, computers are still useful for solving general classes of recognition or identification problems. Further, general computers do not have the ability to accept a newly changing situation or the ability to learn while proceeding with processing. These problems limit the development of robots and control systems. However, in higher-order biologic systems, the function of recognition and identification is a relatively easy task.
ニューロコンピューティングは、ノイマン型マーキテ
クチャに代わるものとして現れた、１つの新しい情報処
理方式である。ニューロコンピュータは、あるアルゴリ
ズムによって規定される処理を１ステップずつ逐次実行
するのと異なり、各被処理対象を取巻く環境に応じ、各
対象間の観念連合を発展させることができる、基本的に
プログラム不用な情報処理システムである。ニューロコ
ンピュータは、前記観念連合を統治する各ルールを生成
し、各例証に基づいてこれらの各ルールを加工し、さら
にこのような試行錯誤プロセスを通じ、その失敗から学
習する。基本的にニューロコンピュータは、人間の最も
重要な要素たる脳が行う処理と張合おうとするものであ
る。人間の脳は法外な計算および情報処理を行うシステ
ムであり、特に認識問題に適している。一般的なコンピ
ュータが計算問題を解くのに適しているのに対し、ニュ
ーロコンピュータは、目的物決定問題固有の複雑なパタ
ーン認識問題、連続的な会話認識、および手書き文字の
認識等を解くのに適している。Neurocomputing is a new information processing method that has emerged as an alternative to the Neumann-type architecture. A neurocomputer, unlike executing a process defined by an algorithm one step at a time, can develop an idea association between objects according to the environment surrounding each object to be processed. Information processing system. The neurocomputer generates each rule governing the idea association, processes each rule based on each example, and learns from the failure through such a trial and error process. Basically, neurocomputers try to compete with the processing performed by the brain, which is the most important element of humans. The human brain is a system that performs outrageous calculations and information processing, and is particularly suitable for recognition problems. While ordinary computers are suitable for solving computational problems, neurocomputers are useful for solving complex pattern recognition problems, continuous speech recognition, and handwritten character recognition inherent in the object determination problem. Are suitable.
一般的なコンピュータが行う処理についてはよく知ら
れているが、人間の脳の処理は、大雑把な観測結果およ
び作用のみによって特徴付けられている。ニューロコン
ピューティングにおける各ステートは、小規模な連想記
憶機能を実現する基本回路を用いたポイントへと導かれ
る。簡単に言うと、連想記憶機能は、多くの記憶領域か
ら所望のデータを検索すること、および、多くの記憶領
域の中の所望の記憶領域にデータを書き込むことを、当
該記憶領域を指定するアドレスを用いることなく行うこ
とを可能にしたものである。すなわち、ニューロコンピ
ュータは、他のイベントから連想することにより目的と
するイベントをメモリから読み出すものである。この種
の記憶機能は、対象物あるいはパターンが何であるかを
知ることなしに、より簡単に対象物あるいはパターンを
認識することを可能にする。Although the processing performed by common computers is well known, the processing of the human brain is characterized by only rough observations and actions. Each state in neurocomputing is led to a point using a basic circuit that implements a small-scale associative memory function. Briefly, the associative memory function is to search for desired data from many storage areas and to write data to a desired storage area among many storage areas by using an address specifying the storage area. This makes it possible to perform the processing without using. That is, the neurocomputer reads out a target event from a memory by associating it with another event. This type of storage function allows the object or pattern to be more easily recognized without knowing what the object or pattern is.
この種の技術については、ニューロコンピューティン
グの分野の多くの刊行物において取り扱われている。IE
EE Circuits and Devices Magazine 8755−3996/88/090
0−003にJohn J.Hopfieldによって投稿された記事“Art
ificial Neural Networks"は、認識問題に対する一般的
なデジタルコンピュータの限界および認識問題を解くに
あたってのニューロシステムの利点について言及してい
る。さらに同記事には、Ｓ字型の入出力特性を有する一
連の増幅器、入力容量、出力抵抗および多くの抵抗性結
合を本質的特徴とする基本的なHopfieldのネットワーク
が開示されている。この生体情報処理ネットワークの電
気的モデルは、ニューロコンピューティングネットワー
クを構築する基本的なビルディングブロックの１つであ
る。また、Science Volume 233,8 August 1986にJohn
J.Hopfield他によって投稿された記事“Computing with
Heural circuits"は、動的モデルシステムにシナプス
結合された適当なパターンをなすニューロン増幅器を用
いることにより、いかように個別の処理が遂行されるか
という最近の課題について言及している。同記事の背後
の基本的前提は、対称的な結合によりネットワークに組
み込まれた非線形のニューロン増幅器のモデルは最適化
問題を解くための然るべき能力を有しているということ
である。Hopfieldのネットワークの処理のキーは、電気
的要素間の高い内部結合にある。この基本的ネットワー
クは、前述したHopfieldの記事に示されたのと同じ要素
を本質的に含んでいる。また、Proceedings National A
cademy of Science,Vol.79,pp.2554−2558,April 1982
にJohn J.Hopfieldによって投稿された記事“Neural Ne
twork and Physical Systems with Emergent Collectiv
e Computatinal Abilities"において、Hopfieldは、ニ
ューラルネットワークに関する第３の見地から、ニュー
ラルネットワークを構成するメモリは、ニューロン増幅
器が終局的に落着く安定状態に維持されることを述べて
いる。Hopfieldは、単純な電気回路と高次の神経系が有
する複雑な計算を行う能力とを結び付けることが、ニュ
ーロンあるいはニューロン増幅器といった多数の処理要
素の全体的な振舞から新たな演算能力を導出することと
成り得ることを示唆している。以上述べた３つの記事の
中で、Hopfieldは、標準的な電気的要素を用いた基本的
なニューラルネットワークの単純な処理モデルについて
言及している。This type of technology has been addressed in many publications in the field of neurocomputing. IE
EE Circuits and Devices Magazine 8755-3996 / 88/090
Article “Art” posted by John J. Hopfield on 0-003
ificial Neural Networks "discusses the limitations of general digital computers to recognition problems and the benefits of neurosystems in solving recognition problems. In addition, the article describes a series of S-shaped input / output characteristics. A basic Hopfield network is disclosed that essentially features an amplifier, input capacitance, output resistance, and many resistive couplings, and an electrical model of the biological information processing network is used to construct the basics of building a neurocomputing network. It is one of the classic building blocks, and was published in Science Volume 233, 8 August 1986 by John.
Article “Computing with” posted by J. Hopfield et al.
"Heural circuits" addresses the recent challenge of how individual processing can be accomplished by using a suitably modeled neuron amplifier that is synapse-coupled to a dynamic model system. The basic assumption behind is that the model of the nonlinear neuron amplifier built into the network by symmetric coupling has the proper ability to solve the optimization problem. Lies in the high internal coupling between the electrical elements.This basic network contains essentially the same elements as shown in the aforementioned Hopfield article.
cademy of Science, Vol. 79, pp. 2554-2558, April 1982
Posted by John J. Hopfield on “Neural Ne
twork and Physical Systems with Emergent Collectiv
In e Computatinal Abilities, Hopfield states from a third perspective on neural networks that the memories that make up the neural network are maintained in a stable state where the neuron amplifier eventually settles. Linking complex electrical circuits with the complex computational capabilities of higher-order nervous systems could derive new computing power from the overall behavior of many processing elements, such as neurons or neuron amplifiers. In the three articles mentioned above, Hopfield mentions a simple processing model of a basic neural network using standard electrical elements.
人造ニューラルネットワークの進展により、斬新かつ
有用な概念が提供され、上述の３つの記事において、各
々がＳ字の入出力伝達特性（すなわち、カットオフ領域
と飽和領域を有する特性）を有する増幅器によって構成
されるアレイにおいて、正帰還（活性化）および負帰還
（抑制）を伴った高インピーダンス結合（疎結合）を行
うことにより、生体神経系を模擬することが可能である
ことが示された。一組の入力条件が与えられることによ
り、アナログレベルの変化が生じ、この変化は増幅器内
に取り込まれると共に他の増幅器へと伝播し、各増幅器
において動的なレベル変化が発生する。このレベルは最
終的にＳ字応答に従って飽和領域あるいはカットオフ領
域のいずれかの準安定状態に落着く。これらの状態は与
えられた入力データの組に対してユニークなものであ
り、特定入力に対する学習情報と見なすことができる。
新たな入力データの組に備え、人造ネットワークは初期
化され、同様に新たな知識の組が提示されるに至る。With the development of artificial neural networks, novel and useful concepts have been provided. In the three articles mentioned above, each amplifier is constituted by an amplifier having an S-shaped input / output transfer characteristic (that is, a characteristic having a cutoff region and a saturation region). It has been shown that a living nervous system can be simulated by performing high impedance coupling (loose coupling) with positive feedback (activation) and negative feedback (suppression) in an array. Given a set of input conditions, a change in analog level occurs, which change is captured in the amplifier and propagated to other amplifiers, causing a dynamic level change in each amplifier. This level eventually settles into a metastable state in either the saturation region or the cutoff region according to the S-shaped response. These states are unique to a given set of input data and can be regarded as learning information for a specific input.
In preparation for a new set of input data, the artificial network is initialized, again leading to the presentation of a new set of knowledge.
上述した各ニューラルネットワークにとっての主な難
点および欠点は、それらが各増幅器（ニューロンに対
応）に対応した多数の各々別個の電気信号入力端子（樹
枝状突起に対応）を必要とすることにある。このため、
人造ニューラルネットワークの構築上、各部を接続する
ための信号線、信号の処理および符号化を行う手段が必
要になる。加えて、結合抵抗（シナプスに対応）によっ
て制御される活性化機能および抑制機能は、新たなバル
ブにセットされる抵抗を必要とする入力データの組に対
応して変化すべきである。さらにイメージデータは人造
ニューラルネットワークに入力する前に処理しなければ
ならない。A major difficulty and disadvantage for each of the neural networks described above is that they require a number of separate electrical signal input terminals (corresponding to dendrites) corresponding to each amplifier (corresponding to a neuron). For this reason,
In constructing the artificial neural network, a signal line for connecting each unit and a means for processing and encoding the signal are required. In addition, the activation and suppression functions controlled by the coupling resistance (corresponding to the synapse) should change in response to the input data set requiring the resistance to be set on the new valve. Furthermore, the image data must be processed before entering the artificial neural network.
1988年６月18日にカリフォルニア州サンディエゴにお
いて開催されたIEEE SPIEにおいて、C.D.Kornfeld他に
よって発表された論文“An Optically Programmed Neur
al Network"には、その名が示す通り、光によってプロ
グラムされるニューラルネットワークが開示されてい
る。このニューラルネットワークは、外部のコンピュー
タと結合して閉ループシステムを形成し、収束する反復
処理によって結合されたネットワークを演算する。基本
的に、同論文はニューラルネットワークに使用される光
電気混在型コンピュータの設計、構造および処理に関す
るものである。システムはフォトセンサアレイ廻りに設
計される。アレイは加算増幅器に結合し、ネットワーク
に要求される乗算を行う要素を構成する。システムは、
入力および出力の間のループへと結合されるコンピュー
タを有し、このコンピュータはアレイの編成および制御
を行う。コンピュータはHopfieldスタイルの反復型メモ
リを構成する最適なプログラムを備えている。A paper “An Optically Programmed Neuro” published by CD Kornfeld et al. At IEEE SPIE, June 18, 1988, in San Diego, California.
al Network "discloses, as the name implies, a neural network programmed by light. This neural network is combined with an external computer to form a closed-loop system and is connected by convergent iterative processing. Basically, the paper is concerned with the design, construction and processing of a hybrid opto-electric computer used in a neural network, the system is designed around a photosensor array, and the array is a summing amplifier. To form the element that performs the multiplication required by the network.
It has a computer coupled to a loop between input and output, which organizes and controls the array. The computer is equipped with an optimal program that constitutes a Hopfield-style repetitive memory.
「発明が解決しようとする課題」 本発明は従来技術による人造ニューラルネットワーク
が有する難点および欠点をなくしたものであり、センサ
によって得られたデータを物理的に転送して直接的表象
を行うものであり、その処理において、上記従来技術の
ようにバルブを制御することを必要とすることなく、イ
メージデータに応答して変化するシナプス結合を実現す
るものである。また、本発明は上述した従来技術と異な
るものであり、光によって表象し、新たなイメージを学
習すべくネットワークとの結合が制御されて機能するも
のである。本発明は、光によるイメージを光受容アレイ
に与え、アレイ内における信号の重み付け、結合関係、
結合強度を制御し、光受容アレイにおいて学習情報とし
てのニューロン増幅器の状態を生成し、このようにして
イメージに対して直接的に動作するという新規なニュー
ラルネットを実現しようとするものである。[Problems to be Solved by the Invention] The present invention eliminates the difficulties and disadvantages of the artificial neural network according to the prior art, and directly transfers data obtained by a sensor to directly represent the data. In the processing, a synapse connection that changes in response to image data is realized without the need to control a valve as in the above-described related art. Further, the present invention is different from the above-described conventional technology, and is represented by light, and functions by controlling connection with a network to learn a new image. The present invention provides an image of light to a photoreceptor array, weighting of signals within the array, coupling relationships,
The purpose of the present invention is to control the coupling strength, generate the state of the neuron amplifier as learning information in the photoreceptor array, and thus realize a novel neural network that operates directly on an image.
「課題を解決するための手段」 請求項１の発明は、その上に入力として直接投影され
るイメージを処理する、光刺激によって表象するニュー
ラルネットワークにおいて、 光景又はその光景のイメージからの光を利用し、前記
ニューラルネットワークへの入力として、前記光景又は
前記イメージからの光による入力イメージを前記ニュー
ラルネットワーク上に直接与える直接の表象手段と、 前記表象手段からの前記入力イメージを光制御された
電気的な結合のパターンに変換して複数の電気的な樹状
突起入力信号を生成する光受容アレイ手段と、 多数の電気的なニューロン増幅器を有し、前記光受容
アレイ手段からの前記複数の樹状突起入力信号を受ける
こととそれらによる刺激とに応じ、複数の電気的な軸索
出力信号を、特定の論理演算を実行するようにプログラ
ムすることによって構造が定められる電気的なゲートの
アレイを有するプログラマブルなゲートアレイ手段に、
出力するニューロン増幅アレイ手段と を具備することを特徴とする。Means for Solving the Problems The invention of claim 1 uses a scene or a light from an image of the scene in a neural network represented by light stimuli, which processes an image directly projected as an input thereon. Direct representation means for directly inputting the input image by the light from the scene or the image onto the neural network as an input to the neural network; and electrically controlling the input image from the representation means by light-controlled electrical. A plurality of electrical neuron amplifiers, the plurality of electrical dendritic input signals being converted into a plurality of electrical dendritic input signals, and the plurality of dendrites from the photoreceptive array means. A plurality of electrical axon output signals are subjected to a specific logical operation in response to receiving the projection input signals and stimulating them. Programmable gate array means having an array of electrical gates whose structure is defined by being programmed to execute;
And a neuron amplification array means for outputting.
請求項２の発明は、前記請求項１の発明において、前
記表象手段が、陰極線菅、イメージ強調器あるいはレー
ザであることを特徴とする。According to a second aspect of the present invention, in the first aspect of the present invention, the representing means is a cathode ray tube, an image enhancer, or a laser.
請求項３の発明は、前記請求項１の発明において、前
記光受容アレイ手段は、 各々が前記ニューロン増幅器間のシナプス結合を実現
する複数の光制御シナプス抵抗を有し、これらの光制御
シナプス抵抗は前記表象手段から供給される刺激データ
に応じた生体シナプス結合を模擬するものであって入射
波の波長および強度に応じて抵抗値が制御され、該抵抗
値は当該ニューロン増幅器間の結合および帰還の態様を
決定付け、さらに各光制御シナプス抵抗は同じ光強度に
対して同じ抵抗値となるものであり、 加えて、 前記個々のニューロン増幅器に対する処理電圧を発生
する電圧源手段と、 前記電圧源手段と前記複数の光制御シナプス抵抗とを
結合する複数の光制御電流制限抵抗とを具備し、 前記光制御抵抗および光制御電流制限抵抗は光電界効
果トランジスタ、光バイポーラトランジスタあるいは光
ダイオードによって実現されることを特徴とする。According to a third aspect of the present invention, in the first aspect of the present invention, the photoreceptive array means includes a plurality of light-controlled synaptic resistors each of which realizes a synaptic connection between the neuron amplifiers, Simulates a biological synapse connection according to the stimulation data supplied from the representation means, wherein a resistance value is controlled according to the wavelength and intensity of the incident wave, and the resistance value is a coupling and feedback between the neuron amplifiers. Wherein each light control synapse resistance has the same resistance value with respect to the same light intensity, and in addition, voltage source means for generating a processing voltage for each of the neuron amplifiers; Means and a plurality of light control current limiting resistors for coupling the plurality of light control synapse resistors, wherein the light control resistor and the light control current limit resistors are Effect transistor, characterized in that it is implemented by an optical bipolar transistor or photodiode.
請求項４の発明は、前記請求項３の発明において、前
記複数の光制御シナプス抵抗が、前記ニューロン増幅器
の中のあるものから他のすべてのニューロン増幅器への
入力への帰還結合を実現することを特徴とする。According to a fourth aspect of the present invention, in the third aspect of the present invention, the plurality of light-controlled synaptic resistors realize feedback coupling from one of the neuron amplifiers to an input to all other neuron amplifiers. It is characterized by.
請求項５の発明は、前記請求項４の発明において、前
記ニューロン増幅器は、抑制負帰還軸索出力および活性
化正帰還軸索出力を有し、該活性化正帰還軸索出力が前
記ゲートアレイ手段に結合されることを特徴とする。According to a fifth aspect of the present invention, in the fourth aspect, the neuron amplifier has a suppressed negative feedback axon output and an activated positive feedback axon output, and the activated positive feedback axon output is the gate array. It is characterized by being coupled to the means.
請求項６の発明は、前記請求項５の発明において、前
記各ニューロン増幅器における抑制負帰還軸索出力お呼
び活性化正帰還軸索出力は前記光制御シナプス抵抗によ
って他の残ったすべてのニューロン増幅器に結合され、
前記ニューロン増幅器の数よりも１少ない数の結合を実
現したことを特徴とする。The invention according to claim 6 is the invention according to claim 5, wherein the suppressed negative feedback axon output and the call activation positive feedback axon output in each of the neuron amplifiers are transmitted to all the remaining neuron amplifiers by the light control synaptic resistance. Combined
The number of connections is one less than the number of neuron amplifiers.
請求項７の発明は、前記請求項６の発明において、前
記複数のニューロン増幅器の各々は、前記表象手段から
供給される刺激データに対応した唯一の帰還結合に基づ
いてある１つの静的状態に落着き、該複数のニューロン
増幅器の静的状態はある特定の学習情報を構成し、該学
習情報は位置あるいはレベルが前記知識を表現する２値
情報からなり、該学習情報は制御手段によって制御され
るゲートアレイ手段によって記憶されると共に使用さ
れ、前記ゲートアレイ手段は複数のゲート信号を加算手
段に出力し、これらゲート信号は前記加算手段によって
加算され、しきい値との比較を行うしきい値演算素子を
通過することを特徴とする。According to a seventh aspect of the present invention, in the sixth aspect, each of the plurality of neuron amplifiers is set in one static state based on a unique feedback connection corresponding to the stimulus data supplied from the representation means. Calm down, the static state of the plurality of neuron amplifiers constitutes certain learning information, and the learning information comprises binary information whose position or level represents the knowledge, and the learning information is controlled by the control means. A threshold value operation which is stored and used by the gate array means, and outputs a plurality of gate signals to the addition means, and the gate signals are added by the addition means and compared with a threshold value It is characterized by passing through the element.
請求項８の発明は、前記請求項７の発明において、前
記複数のニューロン増幅器の各々は、カットオフ領域お
よび飽和領域のあるＳ字型の入出力伝達特性を有し、該
Ｓ字型入出力伝達特性および所定の発火時定数による非
線形の特性に従って前記静的状態に落着くことを特徴と
する。In a preferred embodiment of the present invention, each of the plurality of neuron amplifiers has an S-shaped input / output transfer characteristic having a cutoff region and a saturation region. The static state is settled according to non-linear characteristics due to transfer characteristics and a predetermined firing time constant.
請求項９の発明は、前記請求項８の発明において、前
記Ｓ字型入出力伝達特性は、当該ニューロン増幅器の入
力端と出力端との間に入力端から出力端に向う方向に介
挿されたダイオードあるいはツェナーダイオードによる
第１のブランチと、それとは逆方向に介挿されたダイオ
ードあるいはツェナーダイオードによる第２のブランチ
とによって構成される局所的並列帰還ネットワークによ
って実現されることを特徴とする。According to a ninth aspect, in the eighth aspect, the S-shaped input / output transfer characteristic is interposed between the input terminal and the output terminal of the neuron amplifier in a direction from the input terminal to the output terminal. This is realized by a local parallel feedback network constituted by a first branch formed by a diode or a Zener diode and a second branch formed by a diode or a Zener diode inserted in the opposite direction.
請求項10の発明は、前記請求項８の発明において、前
記所定の発火時定数は、当該ニューロン増幅器内に並列
接続された抵抗および容量のネットワークによって実現
されるものであり、前記ニューロン増幅器が励起されて
から静的状態に落着くまでの時間を決定することを特徴
とする。According to a tenth aspect of the present invention, in the invention of the eighth aspect, the predetermined firing time constant is realized by a network of a resistor and a capacitor connected in parallel within the neuron amplifier. It is characterized in that a time period from when the information is set to when the static state is set is determined.
請求項11の発明は、前記請求項10の発明において、前
記並列接続された抵抗および容量によるネットワークは
光によって制御されるものであり、該光制御による容量
は光によって制御されるPN接合のデプレッション層によ
って実現されることを特徴とする。According to an eleventh aspect of the present invention, in the tenth aspect of the present invention, the network of the resistor and the capacitor connected in parallel is controlled by light, and the capacity by the light control is depletion of a PN junction controlled by light. It is characterized by being realized by layers.
請求項12の発明は、前記請求項10の発明において、複
数の外部刺激信号に応じてネットワークにおける各ニュ
ーロン増幅器の間の結合を行う光結合応答アレイと、 前記光結合応答アレイに入力される前記外部刺激信号
を構成する光パターンを発生し、処理網を形成せしめる
光刺激手段とをさらに具備することを特徴とする。According to a twelfth aspect of the present invention, in the tenth aspect of the present invention, an optical coupling response array for coupling between the neuron amplifiers in the network according to a plurality of external stimulus signals; and Light stimulating means for generating a light pattern constituting the external stimulus signal and forming a processing network.
請求項13の発明は、前記請求項12の発明において、前
記光結合応答アレイが複数の要素からなり、各要素は、 個々のニューロン増幅器の入力接続および出力接続を
制御し、一部あるいはすべてのニューロン増幅器を切断
することが可能であり、前記学習情報に寄与する前記ニ
ューロン増幅器の数を決定せしめる少なくとも１個のニ
ューロン増幅器切断手段と、 前記各ニューロン増幅器内に設けられる抵抗および容
量による並列ネットワークとを具備することを特徴とす
る。According to a thirteenth aspect of the present invention, in the twelfth aspect of the present invention, the optical coupling response array includes a plurality of elements, and each element controls an input connection and an output connection of an individual neuron amplifier, and a part or all of the elements. At least one neuron amplifier disconnecting means capable of disconnecting the neuron amplifier and determining the number of the neuron amplifiers contributing to the learning information; a parallel network of resistors and capacitors provided in each of the neuron amplifiers; It is characterized by having.
請求項14の発明は、前記請求項13の発明において、前
記ニューロン増幅器切断手段は、少なくとも２個の光制
御抵抗を有し、第１の光制御抵抗は当該ニューロン増幅
器の入力に接続され、第２の光制御抵抗は当該ニューロ
ン増幅器の出力に接続され、前記発火時定数は前記光結
合応答アレイにおける抵抗および容量による並列ネット
ワークによって実現されることを特徴とする。According to a fourteenth aspect, in the thirteenth aspect, the neuron amplifier disconnecting means has at least two light control resistors, and the first light control resistor is connected to an input of the neuron amplifier. 2 is connected to the output of the neuron amplifier, and the firing time constant is realized by a parallel network of resistors and capacitors in the optical coupling response array.
請求項15の発明は、請求項14の発明において、前記抵
抗および容量が光によって制御されることを特徴とす
る。According to a fifteenth aspect, in the fourteenth aspect, the resistance and the capacitance are controlled by light.
請求項16の発明は、その上に入力として直接投影され
るイメージを処理する、光刺激によって表象するニュー
ラルネットワークにおいて、 光景又はその光景のイメージからの光を利用し、前記
ニューラルネットワークへの入力として、前記光景又は
前記イメージからの光による入力イメージを前記ニュー
ラルネットワーク上に直接与える直接の表象手段と、 前記表象手段からの前記入力イメージを光制御された
電気的な結合のパターンに変換して複数の電気的な樹状
突起入力信号を生成し、かつ、光刺激手段によって供給
される複数の光刺激信号に応じ、ネットワークにおける
各ニューロン増幅器の間の結合を行う、光受容、光結合
及び応答の手段が統合された光受容光結合応答アレイ手
段と、 多数の電気的なニューロン増幅器を有し、前記光受容
光結合応答アレイ手段からの前記複数の樹状突起入力信
号を受けることとそれらによる刺激とに応じ、複数の電
気的な軸索出力信号を、特定の論理演算を実行するよう
にプログラムすることによって構造が定められる電気的
なゲートのアレイを有するプログラマブルなゲートアレ
イ手段に、出力するニューロン増幅アレイ手段と、 前記光受容光結合応答アレイ手段に入力される前記複
数の光刺激信号を構成する光パターンを生成し、処理網
を形成せしめる光刺激手段と を具備することを特徴とする。The invention of claim 16 is a neural network, represented by light stimuli, for processing an image directly projected as an input thereon, utilizing a scene or light from the image of the scene as an input to the neural network. A direct representation means for directly providing an input image by light from the scene or the image on the neural network; and converting the input image from the representation means into a light-controlled electrical coupling pattern, A photoreceptor, a photocoupler, and a responder that generate an electrical dendritic input signal and perform a coupling between each neuron amplifier in the network in response to a plurality of photostimulation signals provided by the photostimulation means. A photoreceptor light coupling response array means having integrated means, and a plurality of electrical neuron amplifiers, In response to receiving and stimulating the plurality of dendritic input signals from the photoreceptive light coupling response array means, the plurality of electrical axon output signals are programmed to perform a particular logical operation. A neuron amplifying array means for outputting to the programmable gate array means having an array of electrical gates whose structure is determined, and the plurality of light stimulus signals inputted to the photoreceptive light coupling response array means. Light stimulating means for generating a light pattern and forming a processing network.
請求項17の発明は、請求項16の発明において、前記光
受容光結合応答アレイ手段は、 各々が前記ニューロン増幅器間のシナプス結合を実現
する複数の光制御シナプス抵抗を有し、これらの光制御
シナプス抵抗は前記表象手段から供給される刺激データ
に応じた生体シナプス結合を模擬するものであり、各光
制御シナプス抵抗は入射波の波長および強度に応じて抵
抗値が制御され、かつ、同じ光強度に対して同じ抵抗値
となるものであり、各光制御シナプス抵抗はある１つの
ニューロン増幅器の出力から他のすべてのニューロン増
幅器の入力への帰還結合を実現するものであり、該抵抗
値によて当該ニューロン増幅器間の結合および帰還の態
様が決定付けられ、 加えて、 前記個々のニューロン増幅器に対する処理電圧を発生
する電圧源手段と、 前記電圧源手段と前記複数の光制御シナプス抵抗とを
結合する複数の光制御電流制限抵抗とを具備し、 前記光制御シナプス抵抗および光制御電流制限抵抗は
光電界効果トランジスタ、光バイポーラトランジスタあ
るいは光ダイオードによって実現されるものであり、さ
らに、 前記個々のニューロン増幅器における入力接続および
出力接続を制御するニューロン増幅器切断手段と、 前記個々のニューロン増幅器に設けられる抵抗および容
量による並列ネットワークとを具備することを特徴とす
る。According to a seventeenth aspect of the present invention, in the sixteenth aspect, the photoreceptive light coupling response array means includes a plurality of light control synaptic resistors each for realizing a synaptic connection between the neuron amplifiers. The synapse resistance simulates a biological synapse connection according to the stimulus data supplied from the representation means, and each light control synapse resistance has a resistance value controlled according to the wavelength and intensity of the incident wave, and has the same light intensity. Each light control synapse resistor realizes a feedback coupling from the output of one neuron amplifier to the input of all other neuron amplifiers. Thus, the mode of coupling and feedback between the neuron amplifiers is determined, and in addition, voltage source means for generating a processing voltage for the individual neuron amplifiers; A plurality of light control current limiting resistors for coupling the voltage source means and the plurality of light control synapse resistors, wherein the light control synapse resistor and the light control current limit resistor are an optical field effect transistor, an optical bipolar transistor, or an optical control transistor. A neuron amplifier disconnecting means for controlling an input connection and an output connection in each of the individual neuron amplifiers, and a parallel network of resistors and capacitors provided in the individual neuron amplifiers. It is characterized by.
請求項18の発明は、前記請求項17の発明において、前
記ニューロン増幅器切断手段は、少なくとも２つの光制
御抵抗を有し、第１の光制御抵抗は当該ニューロン増幅
器の入力部に接続され、第２の光制御抵抗は当該ニュー
ロン増幅器の出力部に接続されることを特徴とする。In the invention according to claim 18, in the invention according to claim 17, the neuron amplifier disconnecting means has at least two light control resistors, the first light control resistor is connected to an input section of the neuron amplifier, The two light control resistors are connected to the output of the neuron amplifier.
請求項19の発明は、前記請求項18の発明において、前
記複数のニューロン増幅器の各々は、抑制負帰還軸索出
力および活性化正帰還軸索出力を有し、前記活性化正帰
還軸索出力は前記ゲートアレイ手段に結合され、当該ニ
ューロン増幅器における前記抑制負帰還軸索出力および
活性化正帰還軸索出力は前記光制御シナプス抵抗によっ
て他の残ったすべてのニューロン増幅器に結合され、前
記ニューロン増幅器の数よりも１少ない数の結合を実現
したことを特徴とする。The invention of claim 19 is the invention according to claim 18, wherein each of the plurality of neuron amplifiers has a suppressed negative feedback axon output and an activated positive feedback axon output, and the activated positive feedback axon output. Is coupled to the gate array means, and the suppressed negative feedback axon output and the activated positive feedback axon output in the neuron amplifier are coupled to all other remaining neuron amplifiers by the light-controlled synaptic resistor, It is characterized in that the combination of one less than the number of is realized.
請求項20の発明は、前記請求項19の発明において、前
記複数のニューロン増幅器の各々は、前記表象手段から
供給される刺激データに対応した唯一の帰還結合に基づ
いてある１つの静的状態に落着き、該複数のニューロン
増幅器の静的状態はある特定の学習情報を構成し、該学
習情報は位置あるいはレベルが前記知識を表現する２値
情報からなり、該学習情報は制御手段によって制御され
るゲートアレイ手段によって記憶されると共に使用さ
れ、前記ゲートアレイ手段は複数のゲート信号を加算手
段に出力し、これらゲート信号は前記加算手段によって
加算され、しきい値との比較を行うしきい値演算素子を
通過するものであり、 前記複数のニューロン増幅器は、所定の発火時定数お
よびＳ字型入出力伝達特性による非線形の特性に従って
前記静的状態に落着くものであり、該Ｓ字型入出力伝達
特性は当該ニューロン増幅器にカットオフ領域および飽
和領域を実現するものであり、該発火時定数は当該ニュ
ーロン増幅器が励起されてから該静的状態に落着くまで
の時間を決定するものであることを特徴とする請求項19
記載のニューラルネットワーク。According to a twentieth aspect of the present invention, in the nineteenth aspect, each of the plurality of neuron amplifiers enters one static state based on a unique feedback connection corresponding to the stimulus data supplied from the representation means. Calm down, the static state of the plurality of neuron amplifiers constitutes certain learning information, and the learning information comprises binary information whose position or level represents the knowledge, and the learning information is controlled by the control means. A threshold value operation which is stored and used by the gate array means, and outputs a plurality of gate signals to the addition means, and the gate signals are added by the addition means and compared with a threshold value A plurality of neuron amplifiers, each of which has a predetermined firing time constant and a non-linear characteristic due to an S-shaped input / output transfer characteristic. The S-shaped input / output transfer characteristic realizes a cut-off region and a saturation region in the neuron amplifier, and the firing time constant changes after the neuron amplifier is excited. 20.The method according to claim 19, wherein the time to settle in a static state is determined.
Neural network as described.
請求項21の発明は、請求項17の発明において、前記発
火時定数は、前記光受容光結合応答アレイ手段における
抵抗および容量による並列ネットワークによって実現さ
れることを特徴とする。The invention of claim 21 is characterized in that, in the invention of claim 17, the firing time constant is realized by a parallel network of resistors and capacitors in the photoreceptive light coupling response array means.
請求項22の発明は、ニューラルネットワークの上に入
力として直接投影されるイメージを処理する方法であっ
て、 光景又はその光景のイメージからの光を利用してイメ
ージを形成し、前記ニューラルネットワークへの入力と
して、前記光景又は前記イメージからの光による入力イ
メージを前記ニューラルネットワーク上に直接与えるス
テップと、 前記入力イメージを光制御された電気的な結合のパタ
ーンに変換して複数の電気的な樹状突起入力信号を生成
するステップと、 前記複数の樹状突起入力信号を受けることとそれらに
よる刺激とに応じ、複数の電気的な軸索出力信号を、特
定の理論演算を実行するようにプログラムすることによ
って構造が定められる電気的なゲートのアレイを有する
プログラマブルなゲートアレイ手段に、出力するステッ
プと を具備することを特徴とする。The invention of claim 22 is a method of processing an image that is directly projected as input onto a neural network, comprising: forming an image using light from a scene or an image of the scene; Providing, as input, an input image of the scene or light from the image directly on the neural network; and converting the input image into a light-controlled electrical coupling pattern to form a plurality of electrical dendrites. Generating a projection input signal; and programming the plurality of electrical axon output signals to perform a particular theoretical operation in response to receiving the plurality of dendritic input signals and stimulating them. Output to a programmable gate array means having an array of electrical gates defined by Characterized by comprising the steps.
請求項23の発明は、前記請求項22の発明において、前
記光受容アレイを包含する複数の光制御抵抗であって、
複数のニューロン増幅器間のシナプス結合を実現するも
のであり、各々前記刺激データに応じて生体におけるシ
ナプス結合を模擬するように制御される複数の光制御抵
抗を前記刺激データが通過するステップと、 前記複数のニューロン増幅器間のフィードバックを行
うステップと、 初期化電圧を前記複数のニューロン増幅器に与えるス
テップとをさらに加えたことを特徴とする。The invention of claim 23 is the plurality of light control resistors including the light receiving array according to the invention of claim 22,
Providing a synaptic connection between a plurality of neuron amplifiers, wherein the stimulus data passes through a plurality of light control resistors each controlled to simulate a synaptic connection in a living body according to the stimulus data; The method further includes the steps of: providing feedback between a plurality of neuron amplifiers; and providing an initialization voltage to the plurality of neuron amplifiers.
請求項24の発明は、前記請求項23の発明において、前
記複数の軸索出力信号を生成するステップが、 前記複数の電気的な樹状突起入力信号を複数のニュー
ロン増幅器を通過させることによって前記複数の軸索出
力信号に変換するステップを有し、前記帰還および結合
を通じて前記複数のニューロン増幅器が静的状態に落着
き、 さらに前記静的状態をゲートアレイに取り込むステッ
プを有し、取り込まれた静的状態はさらなる学習および
比較のために電気的に加算されることを特徴とする。The invention of claim 24 is the invention of claim 23, wherein the step of generating the plurality of axon output signals comprises: passing the plurality of electrical dendritic input signals through a plurality of neuron amplifiers. Converting the plurality of axon output signals to a plurality of axon output signals, wherein the plurality of neuron amplifiers settle into a static state through the feedback and coupling, and further comprising the step of capturing the static state into a gate array. The objective states are characterized in that they are added electrically for further learning and comparison.
請求項25の発明は、前記請求項24の発明において、前
記複数のニューロン増幅器における各々の入力接続およ
び出力接続を制御するステップを有すると共に、該ステ
ップは前記個々のニューロン増幅器と光刺激によって表
象するニューラルネットワークとの間の入出力をスイッ
チングするステップを有し、 さらに前記光刺激によって表象するニューラルネット
ワークにおける時間応答を制御するステップを有するこ
とを特徴とする。According to a twenty-fifth aspect of the present invention, there is provided the invention of the twenty-fourth aspect, further comprising the step of controlling each input connection and output connection in the plurality of neuron amplifiers, and the step is represented by the individual neuron amplifiers and light stimuli. The method further comprises a step of switching input and output between the neural network and the apparatus, and a step of controlling a time response in the neural network represented by the light stimulus.
請求項26の発明は、前記請求項25の発明において、前
記時間応答を制御するステップが、前記光刺激によって
表象するニューラルネットワークに発火時定数を設定す
るステップを含むことを特徴とする。The invention according to claim 26 is characterized in that, in the invention according to claim 25, the step of controlling the time response includes a step of setting a firing time constant in a neural network represented by the light stimulus.
「実施例」 以下、図面を参照し、本発明の実施例を説明する。Hereinafter, an embodiment of the present invention will be described with reference to the drawings.
本発明によるニューラルネットワークは光によって刺
激されると共に制御され、表象するものであり、生体神
経系と同様、すべてのニューロン増幅器（ニューロン）
は刺激を直接受け、シナプス結合（シナプス）を介し光
受容器によって提供される活性化あるいは抑制機能を伴
う。第１図は光によって刺激され制御されるニューラル
ネットワーク10の構成を示すブロック図である。認識あ
るいは検出すべき対象20は、表象手段（イメージプレー
ン）40に伝達され、表象手段40の内容が光受容アレイ手
段100への入力情報を形成する。表象手段40はレンズ、
陰極線菅、イメージ強調器、レーザスキャナ、あるいは
その他の手段によって実現することができ、表象すると
共に物理的あるいは感覚的に得られるデータを光受容ア
レイ手段100に伝達し、それにによりネットワーク10へ
の並列入力データが生成される。表象手段40からのデー
タは放射的に光受容アレイ手段100に投影され、該デー
タは複数の電気的な樹状突起入力信号に変換される。光
受容アレイ手段100は、多くの光制御抵抗によって構成
される。光制御抵抗としては、硫化カドミウムによる抵
抗、光電界効果トランジスタ、光バイポーラトランジス
タあるいは光ダイオード等によって実現可能である。表
象手段40からの光は光受容アレイ手段100に入射し、光
受容アレイ手段100は、ニューロン増幅アレイ手段200を
構成する個々のニューロン増幅器間の結合およびシナプ
ス結合の重み付けを制御する。基本的に、光受容アレイ
手段100は、個々のニューロン増幅器における帰還およ
び結合を行う手段を提供するものであり、表象手段40か
らの光パターンによって発生する唯一の抵抗パターンを
介し、光制御シナプス抵抗は個々のニューロン増幅器に
対して青写真を提供する。電圧源手段は、光受容アレイ
手段の第１のポートに接続され、個々のニューロン増幅
器に対し、光制御シナプス抵抗によって発生する唯一の
結合パターンを介して処理電圧を供給する。様々な電圧
値の電気的な樹状突起入力信号がニューロン増幅アレイ
手段200に伝達される。このニューロン増幅アレイ手段2
00は光受容アレイ手段の第２のポートに接続される。The neural network according to the present invention is stimulated, controlled and represented by light and, like the living nervous system, all neuron amplifiers (neurons)
Are directly stimulated with the activating or inhibitory functions provided by photoreceptors via synaptic connections (synapses). FIG. 1 is a block diagram showing the configuration of a neural network 10 stimulated and controlled by light. The object 20 to be recognized or detected is transmitted to the representation means (image plane) 40, and the contents of the representation means 40 form the input information to the light receiving array means 100. Representation means 40 is a lens,
It can be realized by a cathode ray tube, an image intensifier, a laser scanner, or other means, and transmits the representative and physically or sensory data to the photoreceptive array means 100, thereby parallelizing the network 10 Input data is generated. The data from the representation means 40 is radially projected onto the light receiving array means 100 and the data is converted into a plurality of electrical dendrite input signals. The light receiving array means 100 is constituted by a number of light control resistors. The light control resistor can be realized by a resistor made of cadmium sulfide, an optical field effect transistor, an optical bipolar transistor, a photodiode, or the like. Light from the representation means 40 is incident on the light receiving array means 100, and the light receiving array means 100 controls the weighting of the connections between the individual neuron amplifiers constituting the neuron amplification array means 200 and the synaptic connection. Basically, the photoreceptive array means 100 provides a means for providing feedback and coupling in individual neuron amplifiers, and through a single resistance pattern generated by the light pattern from the representation means 40, the light-controlled synaptic resistance. Provides a blueprint for individual neuron amplifiers. The voltage source means is connected to the first port of the photoreceptor array means and supplies the processing voltage to the individual neuron amplifiers via a unique coupling pattern generated by the light-controlled synaptic resistors. Electrical dendritic input signals of various voltage values are transmitted to the neuron amplification array means 200. This neuron amplification array means 2
00 is connected to the second port of the light receiving array means.
ニューロン増幅アレイ手段200は、前述したように、
複数のニューロン増幅器によって構成され、光受容アレ
イ手段100からの樹状突起入力信号に応じ、複数の軸索
出力信号をゲートアレイ手段300に供給する。複数のニ
ューロン増幅器の各々は、抑制負帰還軸索出力および活
性化正帰還軸索出力を有する。個々のニューロン増幅器
の各々について説明すると、抑制負帰還軸索出力および
活性化正帰還軸索出力が残った他のすべてのニューロン
増幅器に接続されるが、しかし、源を発する所のニュー
ロン増幅器には接続されない。すなわち、ニューロン増
幅器の数よりも１だけ少ない数の結合がなされる。対象
20の入力イメージが変化し得るように結合された光受容
アレイ手段により、強度の帰還が得られ、この帰還によ
り、個々のニューロン増幅器はパターン変化に応じ、あ
る組をなす静的状態に落着く。さらに詳述すると、個々
のニューロン増幅器は、当該ニューロン増幅器が有する
発火時定数およびＳ字型応答特性によって決定される非
線形特性に従って静的状態へと落着く。発火時定数は、
個々のニューロン増幅器の応答時間を決定するものであ
り、共に光によって制御される抵抗および容量による並
列ネットワークによって実現される。並列ネットワーク
は、光受容アレイ手段100の回路内あるいは光結合応答
アレイ手段400の回路内に配置可能である。Ｓ字型応答
は、個々のニューロン増幅器の各々の局所的帰還経路に
介挿された局所的並列帰還経路によって提供される。個
々のニューロン増幅器の静的状態の組は特定の学習情報
を構成し、個々のニューロン増幅器の活性化正帰還軸索
出力を介しゲートアレイ手段300に供給される。The neuron amplification array means 200, as described above,
It is constituted by a plurality of neuron amplifiers, and supplies a plurality of axon output signals to the gate array means 300 according to dendritic input signals from the photoreceptor array means 100. Each of the plurality of neuron amplifiers has a suppressed negative feedback axon output and an activated positive feedback axon output. To describe each of the individual neuron amplifiers, the suppressed negative feedback axon output and the activated positive feedback axon output are connected to all other remaining neuron amplifiers, but the source neuron amplifier has Not connected. That is, one less connection is made than the number of neuron amplifiers. Target
Intensity feedback is provided by the photoreceptor array means that the twenty input images are changeably coupled, whereby the individual neuron amplifiers settle into a set of static states in response to pattern changes. . More specifically, each neuron amplifier settles to a static state according to the non-linear characteristics determined by the firing time constant and the S-shaped response characteristic of the neuron amplifier. The firing time constant is
It determines the response time of individual neuron amplifiers and is realized by a parallel network of resistors and capacitors, both controlled by light. The parallel network can be arranged in the circuit of the light receiving array means 100 or in the circuit of the light coupling response array means 400. The sigmoidal response is provided by a local parallel return path interposed in each local return path of the individual neuron amplifier. The set of static states of the individual neuron amplifiers constitutes specific learning information and is supplied to the gate array means 300 via the activated positive feedback axon output of the individual neuron amplifier.
各軸索出力はON/OFFの２値状態をなし、その位置ある
いはレベルがネットワーク10の結果に等価的に寄与す
る。これら学習情報を構成する重み付けられた情報は、
ゲートアレイ手段300における記憶部に記憶される。こ
れら学習情報は、記憶部に記憶され、後になって同じイ
メージが現れた時には、内容的に一致する学習情報に対
して１が発生され、内容的に異なる学習情報に対して０
が発生される。制御手段500は、ゲートアレイ手段300の
制御を行い、ゲートアレイ手段300における学習情報の
多様な運用および編成を実現する。基本的に、表象手段
40から光受容アレイ手段100に与えられる１組の入力条
件は、アナログレベルの変化を生じせしめ、この変化は
光受容アレイ手段100における光制御シナプス抵抗を介
し各ニューロン増幅器間を伝播する。この結果、各々の
ニューロン増幅器は、各々のＳ字特性に従ってカットオ
フ領域あるいは飽和領域のいずれかの静的状態に遷移す
る。このようにして、各ニューロン増幅器の状態の組の
動的変化が行われる。これらの状態は入力データの組に
対してユニークであり、特定入力に対してある学習情報
が生成されたと見なすことができる。Each axon output has a binary state of ON / OFF, and its position or level contributes equivalently to the result of the network 10. The weighted information that constitutes these learning information is
It is stored in the storage unit in the gate array means 300. These pieces of learning information are stored in the storage unit, and when the same image appears later, 1 is generated for learning information that matches in content, and 0 is generated for learning information that differs in content.
Is generated. The control means 500 controls the gate array means 300 and realizes various operations and organization of learning information in the gate array means 300. Basically, means of representation
A set of input conditions applied to photoreceptor array means 100 from 40 causes an analog level change that propagates between each neuron amplifier via a light controlled synaptic resistor in photoreceptor array means 100. As a result, each neuron amplifier transitions to a static state in either the cutoff region or the saturation region according to each S-characteristic. In this way, a dynamic change of the set of states of each neuron amplifier occurs. These states are unique to a set of input data, and it can be considered that certain learning information has been generated for a specific input.
光結合応答アレイ手段400は、個々のニューロン増幅
器間の接続を実現するものであり、それにより、ネット
ワーク10全体に亙る構成を決定するものである。また、
前述したように、光結合応答アレイ手段400は、所定の
発火時定数を実現する抵抗／容量並列ネットワークを組
み入れることにより、ネットワーク10の時間的制御を実
現することが可能である。光結合応答アレイ手段400
は、ニューロン増幅を行う回路内にニューロン増幅器切
断手段を組み入れることにより、個々のニューロン増幅
器間の接続を制御する。ニューロン増幅器切断手段は、
個々のニューロン増幅器の入力経路および出力経路に制
御光の照射される光制御抵抗を有してなり、これらの光
制御抵抗は実効的に当該ニューロン増幅器をネットワー
ク10から分離せしめることが可能である。個々のニュー
ロン増幅器の接続を制御することにより、特定の学習情
報を構成するニューロン増幅器の状態の数が決定され
る。あるいはまた、ニューロン増幅器切断手段は、幾つ
かのタイプの標準的なスイッチング回路またはコマンド
によって個々のニューロン増幅器を開放せしめるデバイ
スによって実現することが可能である。光結合応答アレ
イ手段400に使用される光は、コンピュータ制御の可能
な光刺激手段600によって生成される。光結合応答アレ
イ手段400は、すべての内部接続およびニューロン増幅
器の時定数が設定されることにより、ある固定された構
造に初期化される。その他時間的あるいは／および空間
的な制御は、光源あるいは光バルブまたはCRTのような
発光手段を用いた刺激から与えられる。光結合応答アレ
イ手段400は、固定されたネットワーク10には必要でな
い。The optical coupling response array means 400 implements the connection between the individual neuron amplifiers and thereby determines the configuration over the entire network 10. Also,
As described above, the optical coupling response array means 400 can realize temporal control of the network 10 by incorporating a parallel resistor / capacitance network that realizes a predetermined firing time constant. Optical coupling response array means 400
Controls the connections between individual neuron amplifiers by incorporating neuron amplifier disconnection means in the circuit that performs neuron amplification. The neuron amplifier disconnecting means comprises:
The input path and the output path of each neuron amplifier are provided with light control resistors to be irradiated with control light, and these light control resistors can effectively separate the neuron amplifier from the network 10. By controlling the connections of the individual neuron amplifiers, the number of states of the neuron amplifier that make up the particular learning information is determined. Alternatively, the neuron amplifier disconnecting means may be realized by some type of standard switching circuit or device that causes the individual neuron amplifier to be opened by a command. The light used for the light coupling response array means 400 is generated by a computer controllable light stimulus means 600. The optical coupling response array means 400 is initialized to a fixed structure by setting the time constants of all internal connections and neuron amplifiers. Other temporal or / and spatial control is provided by stimulation using a light source or light emitting means such as a light valve or CRT. Optical coupling response array means 400 is not required for fixed network 10.
光刺激手段600は、光刺激を光結合応答アレイ手段400
に供給するようにプログラムされる。それは、同じ波長
の光刺激と同様、入力イメージから得られる光の波長と
は異なるものである。この光刺激を変調する機能は、ネ
ットワーク10の広範囲の制御を可能にする一方、異なっ
た２つの光刺激の混合あるいは相互干渉の除去を可能に
する。The light stimulus means 600 includes a light stimulus
Programmed to supply It is different from the wavelength of light obtained from the input image, as well as the light stimulation of the same wavelength. This ability to modulate light stimuli allows for extensive control of the network 10 while allowing the mixing of two different light stimuli or the elimination of mutual interference.
本発明の第２実施例を第1a図に示す。この図におい
て、光受容アレイ手段100および光結合応答アレイ手段4
00は、１個のアレイに結合することが可能である。第1a
図は光によって刺激され制御され表象するネットワーク
10の構成を示すブロック図であり、上述のように１つに
結合され、結合前に各アレイが有していたすべての機能
を備えた光受容／光結合応答アレイ手段700が示されて
いる。２つのアレイを１つに統合することにより、コン
パクトなシステムが実現されている。FIG. 1a shows a second embodiment of the present invention. In this figure, the light receiving array means 100 and the light coupling response array means 4
00 can be combined into one array. 1a
The figure is a network that is stimulated by light and controlled and represented
FIG. 10 is a block diagram illustrating ten configurations, showing photoreception / photocoupling responsive array means 700 combined together as described above and having all the functions that each array had prior to coupling. . By integrating the two arrays into one, a compact system has been realized.
第２図はニューロン増幅アレイ手段100と電圧源手段6
0との間に介挿された光受容アレイ手段100を示す回路図
である。光受容アレイ手段100は光制御シナプス抵抗101
〜140および電流制限抵抗141〜145によって構成され
る。光受容アレイ手段100は生体シナプス結合を模擬す
るものであり、樹状突起信号ライン146〜150を介してニ
ューロン増幅アレイ手段200に接続される。樹状突起ラ
イン146〜150に発生する樹状突起信号は各々ニューロン
増幅アレイ手段200におけるニューロン増幅器201〜205
に供給される。前述したように、また、第２図に示すよ
うに、個々の光制御シナプス抵抗101〜140は、個々のニ
ューロン増幅器201〜205間の結合を行うものであり、か
つ、個々のニューロン増幅器201〜205各々の帰還を行う
ものである。光制御シナプス抵抗101〜140の接続パター
ンから明らかなように、活性化正帰還軸索出力206〜210
および抑制負帰還軸索出力211〜215は、光制御シナプス
抵抗101〜140を介し他のすべてのニューロン増幅器201
〜205に接続される。ニューロン増幅器201〜205は自身
を除く他のニューロン増幅器からの帰還を受けるような
接続がなされており、仮にニューロン増幅器の数がｎで
あるとすると、ｎ−１組の結合が実現される。また、ニ
ューロン増幅器１個当り２個の軸索出力があるので、軸
索出力の接続の数は２（ｎ−１）となり、光受容アレイ
手段100とニューロン増幅アレイ手段200との間に介在す
る結合の数Ctは、 Ct＝2n（ｎ−１） ……（１） となる。FIG. 2 shows the neuron amplification array means 100 and the voltage source means 6
FIG. 9 is a circuit diagram showing the light receiving array means 100 interposed between 0 and 0. The light receiving array means 100 is a light controlling synaptic resistor 101
To 140 and current limiting resistors 141 to 145. The light receiving array means 100 simulates a biological synaptic connection, and is connected to the neuron amplifying array means 200 via dendritic signal lines 146 to 150. The dendrite signals generated on the dendrite lines 146 to 150 are respectively applied to the neuron amplifiers 201 to 205 in the neuron amplification array means 200.
Supplied to As described above, and as shown in FIG. 2, the individual light-controlled synaptic resistors 101 to 140 provide coupling between the individual neuron amplifiers 201 to 205, and 205 each return. As is apparent from the connection pattern of the light control synapse resistors 101 to 140, the activated positive feedback axon outputs 206 to 210
And suppressed negative feedback axon outputs 211-215 are coupled to all other neuron amplifiers 201 through light-controlled synaptic resistors 101-140.
To 205. The neuron amplifiers 201 to 205 are connected so as to receive feedback from other neuron amplifiers other than themselves, and if the number of neuron amplifiers is n, n-1 sets of connections are realized. Further, since there are two axon outputs per neuron amplifier, the number of connections of the axon outputs is 2 (n-1), which is interposed between the photoreceptor array means 100 and the neuron amplifier array means 200. The number Ct of bonds is as follows: Ct = 2n (n-1) (1)
本実施例においては、光制御シナプス抵抗101〜140と
して、硫化カドミウム抵抗が使用される。光制御シナプ
ス抵抗101〜140の各々は、第１図における表象手段40に
よって発生される入射光の波長および強度に反応して特
定の抵抗値になり、個々のニューロン増幅器201〜205間
の帰還および結合が制御される。光受容アレイ手段100
と表象手段40との関係は、光制御シナプス抵抗101〜140
と表象手段40からの入射光パターンとの数学的関係、す
なわち、下記式（２）により、最も良く説明される。In the present embodiment, cadmium sulfide resistors are used as the light control synapse resistors 101 to 140. Each of the light-controlled synaptic resistors 101-140 has a particular resistance value in response to the wavelength and intensity of the incident light generated by the representation means 40 in FIG. 1 and provides feedback and feedback between the individual neuron amplifiers 201-205. Coupling is controlled. Photoreceptive array means 100
The relationship between the light control synapse resistors 101 and 140
And the mathematical relationship between the incident light pattern from the representation means 40, that is, the following equation (2).
［Rp］＝［Ｃ］［Ir］ ……（２） ここで、［Rp］は抵抗マトリックスであり、光受容ア
レイ手段100を構成する各光制御シナプス抵抗の抵抗値
を要素とする。［Ir］は、イメージマトリックスであ
り、表象手段40からの入射光パターンを表す。また、
［Ｃ］は変換マトリックスであって抵抗マトリックス
［Rp］における抵抗要素を決定するための物理的因子を
要素とするものであり、変換マトリックス［Ｃ］の各要
素は入射光の強度および波長の抵抗要素への寄与度を表
す。硫化カドミウムを用いた場合、入射光の強度と抵抗
値との関係は逆比例の関係であり、強い入射光に対して
低抵抗となり、弱い入射光に対して高抵抗となる。[Rp] = [C] [Ir] (2) Here, [Rp] is a resistance matrix, and the resistance value of each light control synapse resistance constituting the light receiving array means 100 is used as an element. [Ir] is an image matrix and represents an incident light pattern from the representation means 40. Also,
[C] is a conversion matrix having physical factors for determining resistance elements in the resistance matrix [Rp] as elements, and each element of the conversion matrix [C] is a resistance of incident light intensity and wavelength. Represents the contribution to the element. When cadmium sulfide is used, the relationship between the intensity of the incident light and the resistance value is inversely proportional, and the resistance is low for strong incident light and high for weak incident light.
電圧源手段60は、電流制限光制御抵抗141〜145を介し
個々のニューロン増幅器201〜205に処理電圧を供給す
る。抵抗141〜145はシステムに入力される電圧を制御す
べく光によって制御される。逆に固定抵抗とした場合に
は、このようなネットワーク10の外的制御を行うことが
できない。抵抗141〜145の抵抗値を決定する入射光は表
象手段40から供給される。電圧源手段60から供給される
電圧は、光制御シナプス抵抗101〜140によって決定され
る各々異なった経路を介して最終的に個々のニューロン
増幅器201〜205に入力される。これらの入力電圧信号が
前述した樹状突起信号である。The voltage source means 60 supplies processing voltages to the individual neuron amplifiers 201 to 205 via the current limiting light control resistors 141 to 145. Resistors 141-145 are controlled by light to control the voltage input to the system. Conversely, if a fixed resistor is used, such external control of the network 10 cannot be performed. Incident light for determining the resistance values of the resistors 141 to 145 is supplied from the representing means 40. The voltage supplied by the voltage source means 60 is finally input to the individual neuron amplifiers 201-205 via different paths determined by the light-controlled synaptic resistors 101-140. These input voltage signals are the dendrite signals described above.
多様な入力イメージが結像される光受容アレイ手段10
0の光制御シナプス抵抗101〜140により、強度な帰還が
実現され、この帰還がニューロン増幅器201〜205をパタ
ーンの変化および新たな静的状態への移行を引起こす。
新たな静的状態への移行は、前述した発火時定数および
Ｓ字応答による非線形特性に従った仕方で行われる。第
２図に示すように、ニューロン増幅器201〜205は、各々
１個の入力を２個の出力を有する特別な増幅器である。
これらの特別な増幅器は、２個の出力を有することを理
由に、特にこの発明のために選んだものであり、第１の
出力として正の値を出力し、第２の出力として負の値を
出力する。ニューロン増幅器201〜205は、一般的なオペ
アンプによって実現することも可能であり、その場合、
１本の出力信号線を２本の信号線に分配し、分配された
一方の信号線に反転増幅器を接続する。上記正の値の出
力および負の値の出力が前述した活性化正帰還軸索出力
および抑制負帰還軸索出力であり、これらは生体神経系
における活性化および抑制の機能をシミュレートしたも
のである。Photoreceptive array means 10 on which various input images are formed
The zero light-controlled synaptic resistors 101-140 provide a strong feedback that causes the neuron amplifiers 201-205 to change patterns and transition to a new static state.
The transition to the new static state is performed in a manner according to the above-described non-linear characteristics due to the firing time constant and the S-shaped response. As shown in FIG. 2, neuron amplifiers 201-205 are special amplifiers each having one input and two outputs.
These particular amplifiers have been chosen specifically for the present invention because they have two outputs, they output a positive value as a first output and a negative value as a second output. Is output. The neuron amplifiers 201 to 205 can be realized by a general operational amplifier, in which case,
One output signal line is divided into two signal lines, and one of the divided signal lines is connected to an inverting amplifier. The output of the positive value and the output of the negative value are the activation positive feedback axon output and the suppression negative feedback axon output described above, and these are simulations of the activation and suppression functions in the living nervous system. is there.
第3a図には、ニューロン増幅器201の伝達特性におけ
るＳ字応答カーブ216が示されている。この種の応答を
得るため、局所的並列帰還ネットワークがニューロン増
幅器201に接続される。ニューロン増幅器201のＳ字応答
カーブ216はカットオフ領域および飽和領域を有してお
り、これは生体神経における発火と応答の傾向をシミュ
レートしたものである。ニューロン増幅器201の局所的
帰還経路に設けられるネットワーク217は、第3b図に示
すように、導通方向が互に逆になるように並列接続され
た２個のダイオードあるいはツェナーダイオードによっ
て構成される。基本的に、ネットワーク217は、ニュー
ロン増幅器201の局所的帰還を制限するツェナーダイオ
ードを有する。ツェナーダイオード218および219は、互
に逆極性となるように並列接続されている。また、ダイ
オード220および221は、ツェナーダイオード218および2
19と共に分離された２つの閉ループを形成する。これら
により、第3a図に示すようなカットオフ領域および飽和
領域を有する非線形特性が実現される。ネットワーク21
7が接続されたニューロン増幅器201は、低いレベルの入
力に対してはリニアな応答を示すが、しかし、高いレベ
ルの入力があった場合には非線形領域で動作し、カット
オフあるいは飽和状態となる。ネットワーク217は、第
２図には図示されていないが、ニューロン増幅アレイ手
段200を構成するニューロン増幅器201〜201の各々に接
続されている。FIG. 3a shows an S-shaped response curve 216 in the transfer characteristic of the neuron amplifier 201. To obtain this kind of response, a local parallel feedback network is connected to the neuron amplifier 201. The S-shaped response curve 216 of the neuron amplifier 201 has a cut-off region and a saturation region, which simulate the tendency of firing and response in living nerves. As shown in FIG. 3b, the network 217 provided in the local return path of the neuron amplifier 201 is constituted by two diodes or zener diodes connected in parallel so that the conduction directions are opposite to each other. Basically, the network 217 has a Zener diode that limits the local feedback of the neuron amplifier 201. Zener diodes 218 and 219 are connected in parallel so that they have opposite polarities. Also, diodes 220 and 221 are Zener diodes 218 and 2
Together with 19 form two separate closed loops. As a result, nonlinear characteristics having a cut-off region and a saturation region as shown in FIG. 3a are realized. Network 21
The neuron amplifier 201 connected to 7 has a linear response to a low-level input, but operates in a nonlinear region when a high-level input is present, and is cut off or saturated. . Although not shown in FIG. 2, the network 217 is connected to each of the neuron amplifiers 201 to 201 constituting the neuron amplification array means 200.
第４図はニューロン増幅器201と光受容アレイ手段100
との接続状態を示すものである。同図に示すように、該
接続点には入力抵抗223および入力容量224からなる並列
ネットワーク222が接続されている。入力抵抗223の抵抗
値および入力容量224の容量値は、ニューロン増幅器201
における発火時定数（RC時定数）を決定する。抵抗223
および容量224は共に光によって制御される素子である
ため、発火時定数は光によって制御される。このこと
は、入力抵抗223として、第２図に示した光制御シナプ
ス抵抗101〜140と同じ種類を抵抗を用い、入力容量224
として、光制御されるPN接合のデプレッション層を用い
ることにより、成し遂げることができる。光制御シナプ
ス抵抗107および108は、第２図に示すニューロン増幅器
202との帰還および結合を担うものである。電流制限光
制御抵抗141は、電源60によって供給される電圧に基づ
く電流を制限する機能を担うものである。これらの光制
御素子を制御する光は、第１図における表象手段40から
供給される。FIG. 4 shows the neuron amplifier 201 and the photoreceptor array means 100.
It shows the connection state with the と. As shown in the figure, a parallel network 222 including an input resistor 223 and an input capacitor 224 is connected to the connection point. The resistance value of the input resistor 223 and the capacitance value of the input capacitor 224 are
Determine the firing time constant (RC time constant) at. Resistance 223
Since the and the capacitor 224 are both elements controlled by light, the firing time constant is controlled by light. This means that the same type of light control synapse resistors 101 to 140 shown in FIG.
This can be achieved by using a depletion layer of a light-controlled PN junction. The light-controlled synaptic resistors 107 and 108 are connected to the neuron amplifier shown in FIG.
It is responsible for the return and connection with 202. The current limiting light control resistor 141 has a function of limiting the current based on the voltage supplied by the power supply 60. Light for controlling these light control elements is supplied from the representation means 40 in FIG.
前述したように、並列ネットワーク222は光受容アレ
イ手段100あるいは光結合応答アレイ手段400内に設ける
ことができる。第5a図は光結合応答アレイ手段400の構
成を示すものである。同図に示すように、光結合応答ア
レイ手段400は、複数の要素401〜418を有する。第5b図
は光結合応答アレイ手段400における要素418の構成を示
す。ここで、第４図における並列ネットワーク222に相
当するものはディスクリートデバイスによって実現され
ている。入力抵抗419は第４図における入力抵抗223と同
等の光制御抵抗であり、入力容量420は第４図における
入力容量224と同等な光制御抵抗である。光結合応答ア
レイを構成する要素418は、第5b図に示すように、ニュ
ーラルネットワーク10におけるニューロン増幅器切断手
段を担う２個の接続抵抗421および422を有する。基本的
に、接続抵抗421および422は、光によって抵抗値が制御
されるものであり、この抵抗値制御により、個々のニュ
ーロン増幅器201〜205の間の接続が制御される。第１図
における光刺激手段600が供給する入射光を適度に操作
することにより、接続抵抗421および／または422のいず
れか一方あるいは両方が、ニューロン増幅器201〜205を
他の残ったニューロン増幅器201〜205から切断乃至絶縁
するのに充分に高い抵抗値とされ、あるいは、すべての
ニューロン増幅器201〜205を回路内に接続し得る充分に
低い抵抗値とされる。これに代る仕方としては、光によ
って切り換えられるスイッチを上記光制御抵抗の代りに
用いることが考えられる。入射光の操作は、システムオ
ペレータによってコンピュータ制御されたレーザスキャ
ナあるいはシステムオペレータによって点滅可能な簡単
な光源およびレンズを用いて行うことができる。As described above, the parallel network 222 can be provided in the light receiving array means 100 or the light coupling response array means 400. FIG. 5a shows the configuration of the optical coupling response array means 400. As shown in the figure, the optical coupling response array means 400 has a plurality of elements 401 to 418. FIG. 5b shows the configuration of the element 418 in the optical coupling response array means 400. Here, what corresponds to the parallel network 222 in FIG. 4 is realized by a discrete device. The input resistance 419 is a light control resistance equivalent to the input resistance 223 in FIG. 4, and the input capacitance 420 is a light control resistance equivalent to the input capacitance 224 in FIG. As shown in FIG. 5b, the element 418 constituting the optical coupling response array has two connection resistances 421 and 422 which serve as a neuron amplifier disconnecting means in the neural network 10. Basically, connection resistances of the connection resistors 421 and 422 are controlled by light, and the connection between the individual neuron amplifiers 201 to 205 is controlled by the resistance control. By appropriately manipulating the incident light provided by the light stimulating means 600 in FIG. 1, one or both of the connection resistors 421 and / or 422 cause the neuron amplifiers 201-205 to replace the remaining neuron amplifiers 201-201. The resistance may be high enough to disconnect or insulate from 205, or low enough to connect all neuron amplifiers 201-205 into the circuit. As an alternative, a switch switched by light may be used instead of the light control resistor. Manipulation of the incident light can be accomplished using a laser scanner computer controlled by the system operator or a simple light source and lens that can be flashed by the system operator.
第６図に示すように、ニューロン増幅器201は、第5b
図において説明した時間的に応答する要素421、422、42
0および419が接続されている。光制御抵抗421および422
は、ニューロン増幅器201における入力部および出力部
の結合を制御する。これらにより、第１図における光刺
激手段600が供給するイメージ制御パターンによってニ
ューロン増幅器201〜205の各々のネットワーク10に接続
される時の接続の制御がなされる。ニューロン増幅器に
おける時間的応答の制御は、その入力抵抗419および入
力容量420によって支配される。容量420および抵抗419
は、ニューロン増幅器201の入力に対して分路をなすよ
うに設けられると共に容量420は帰還経路をなす。容量4
20に関しては、どちらの配置に対しても、入力部から見
た固定された容量の変化が違うのみである。Ａをニュー
ロン増幅器のオープンループゲインとした場合、容量42
0を帰還要素に用いると、容量420の（１−Ａ）倍が入力
端に接続されたと見なすことができる。容量420を用い
ることは、第5b図における小さな容量424に直列接続さ
れた大きな容量423を用いることによって成し遂げられ
る。第６図に示すように、帰還経路に配置することによ
って、ニューロン増幅器の入力容量は（１−Ａ）Ｃ（た
だし、Ｃは容量420の容量値）となる。容量420を入力容
量として接続した場合には狭い範囲でしか応答時間を制
御することができないが、このようにミラー効果を利用
することにより、応答時間を広範囲に亙って制御するこ
とができる。As shown in FIG. 6, the neuron amplifier 201
The temporally responsive elements 421, 422, 42 described in the figure.
0 and 419 are connected. Light control resistors 421 and 422
Controls the coupling between the input and output of the neuron amplifier 201. Thus, the connection when each of the neuron amplifiers 201 to 205 is connected to the network 10 is controlled by the image control pattern supplied by the light stimulating means 600 in FIG. Control of the temporal response in the neuron amplifier is governed by its input resistance 419 and input capacitance 420. Capacity 420 and resistance 419
Are provided so as to shunt the input of the neuron amplifier 201, and the capacitor 420 forms a feedback path. Capacity 4
Regarding 20, the only difference in the fixed capacitance seen from the input section is different for both arrangements. When A is the open-loop gain of the neuron amplifier, the capacitance 42
If 0 is used for the feedback element, it can be considered that (1-A) times the capacitance 420 is connected to the input terminal. Using the capacitance 420 is achieved by using a large capacitance 423 connected in series with the small capacitance 424 in FIG. 5b. As shown in FIG. 6, the input capacitance of the neuron amplifier becomes (1-A) C (where C is the capacitance value of the capacitance 420) by arranging it in the feedback path. When the capacitor 420 is connected as an input capacitor, the response time can be controlled only in a narrow range. However, by utilizing the Miller effect, the response time can be controlled over a wide range.
第７図はネットワーク10のフローチャートであり、各
信号要素が異なった信号処理によって分割される様子が
示されている。光受容アレイ手段100によって形成され
るイメージあるいは対象20は、ニューロン増幅アレイ手
段200における各ニューロン増幅器間の多様なシナプス
結合を生じせしめる（ネットワークの接続および応答は
ある固定の構造に設定されているものとする）。ニュー
ロン増幅アレイ手段200における軸束出力207〜210は、O
NあるいはOFFからなる２値状態のいずれかとなる。さら
にこれらの出力の各々の０あるいは１の値がネットワー
ク10の結果に寄与する。従って、各出力のレベルおよび
位置は同じ重みであり、１個の出力の損失は処理結果に
対して僅かに影響しか与えない。このことは、ビット数
の多い２進ワードの場合にMSBに近い上位ビット程その
損失あるいは誤りの全体に与える影響が大きいのと対照
的である。これらの同等な重みの情報は学習情報を構成
し、メモリに記憶される。学習情報はゲートアレイ手段
300が記憶されたテンプレートを選択するのに用いられ
る。ゲートアレイ手段300は多様なテンプレートを記憶
したプログラマブルなゲートアレイであり、類似するイ
メージが現れた場合に、一致するテンプレートを記憶し
たメモリに対して１を出力し、異なったテンプレートを
記憶するメモリに対して０を出力する。同一のイメージ
に対しては、出力端301〜305からオール１が出力され
る。ゲートアレイ手段300は制御手段500によって制御さ
れ、この制御手段500はゲートアレイ手段300の初期化入
力に応答する学習情報制御装置である。ゲートアレイ手
段300の出力端301〜305の出力は加算手段306に入力され
る。加算手段306の最大出力は、不変であり、オール１
が入力イメージとの一致を意味する。また、加算手段30
6は各入力の重みが同じD/A（デジタル／アナログ）変換
器のように機能する。入力イメージが同一であるか否か
の決定は、加算手段306から出力される所定のレベルの
信号を通過させるように調整されたしきいデバイス307
によってなされる。このしきい処理は、連続的に変化
し、学習情報のテンプレートを形成するのに必要とされ
る多くの複合ゲート構造を置き換える。しきいデバイス
307の出力は一部の方法で用いられる部分的な決定であ
る。しきいデバイス307はコンパレータ等によって実現
可能である。FIG. 7 is a flowchart of the network 10, showing how each signal element is divided by different signal processing. The image or object 20 formed by the photoreceptor array means 100 causes various synaptic connections between the neuron amplifiers in the neuron amplification array means 200 (the network connections and responses are set to a fixed structure). And). The axial bundle outputs 207 to 210 in the neuron amplification array means 200 are O
It is either a binary state consisting of N or OFF. Furthermore, the value of 0 or 1 in each of these outputs contributes to the result of the network 10. Thus, the level and position of each output is of the same weight, and the loss of one output has only a small effect on the processing result. This is in contrast to the case of a binary word having a large number of bits, in which the higher bits closer to the MSB have a greater effect on the overall loss or error. Information of these equal weights constitutes learning information and is stored in the memory. Learning information is gate array means
300 is used to select a stored template. The gate array means 300 is a programmable gate array storing various templates. When a similar image appears, the gate array means 300 outputs 1 to a memory storing a matching template, and outputs a 1 to a memory storing a different template. In response, 0 is output. For the same image, all 1s are output from the output terminals 301 to 305. The gate array means 300 is controlled by the control means 500, and the control means 500 is a learning information control device which responds to the initialization input of the gate array means 300. The outputs of the output terminals 301 to 305 of the gate array means 300 are input to the adding means 306. The maximum output of the adding means 306 is unchanged,
Means a match with the input image. Also, the addition means 30
6 functions like a D / A (digital / analog) converter with the same weight for each input. The determination as to whether the input images are the same is made by a threshold device 307 adjusted to pass a signal of a predetermined level output from the adding means 306.
Done by This threshold process changes continuously and replaces many of the complex gate structures needed to form a template for learning information. Threshold device
The output of 307 is a partial decision used in some ways. The threshold device 307 can be realized by a comparator or the like.
制御手段500は、前述したように、ゲートアレイ手段3
00の初期値を生成し、また、多くのタイプの学習情報の
ビット間の成立ちの統計的な票決を生成する。例えば、
２つの同じ対象の学習情報において１ビットの相違が生
じた場合、制御手段500は１ビットの相違に応答し得る
チャネルを選択するソフトウエアルーチンに進む。この
ように変化する判定方式は、特定のアプリケーションに
依存して構成される。制御手段500がゲートアレイ手段3
00を初期化すると、その時点から逐次学習情報がゲート
アレイ手段300を再編成する。The control means 500 is, as described above, the gate array means 3
It generates an initial value of 00 and also generates a statistical vote of the success between bits of many types of learning information. For example,
If a difference of one bit occurs in the learning information of two same objects, the control means 500 proceeds to a software routine for selecting a channel that can respond to the difference of one bit. The determination method that changes in this way is configured depending on a specific application. Control means 500 is gate array means 3
When 00 is initialized, the learning information sequentially rearranges the gate array means 300 from that point.
一般的なニューラルネットワークの構成を第８図に示
す。対象20は表象手段40（この図ではレンズによって示
されている）によって光受容アレイ手段100に投影され
る。前述したように、レンズはCRT、強調因子あるいは
レーザスキャナに置き換え可能である。スキャニング処
理のため異なったイメージ20を時間的に取り替えること
が要求される時は、グラマン空間光変調器のような光バ
ルブを用い、ちらつきを生じない周期（テレビの場合は
30フレーム／秒）で順次走査イメージを転送する。この
代りに、ニューロン増幅器201〜204の発火時定数は、一
部の入力イメージに合せて調整しても良いし、あるいは
動的に制御されたオーバレイパターンを挿入し、信号帯
域を走査システムの周期以下のバンドに設定してもよ
い。FIG. 8 shows the configuration of a general neural network. Object 20 is projected onto photoreceptive array means 100 by representation means 40 (indicated by a lens in this figure). As mentioned above, the lens can be replaced by a CRT, enhancement factor or laser scanner. When it is necessary to replace different images 20 in time for the scanning process, use a light valve such as a Grumman spatial light modulator and use a flicker-free period (for a TV,
(30 frames / sec) to sequentially transfer scanned images. Alternatively, the firing time constants of the neuron amplifiers 201-204 may be adjusted according to some input images, or a dynamically controlled overlay pattern may be inserted to reduce the signal bandwidth to the scanning system period. The following bands may be set.
光受容アレイ手段100は、複数の光制御抵抗あるいは
それと同等のものを含んでおり、これらは所要実装面積
の小さなディスクリート部品あるいは広い平面に形成さ
れた薄膜フィルム等によって実現される。光受容アレイ
手段100における要素数はニューラルネットワーク10の
精度を決定し、複雑な幾何学的形状の認識の場合には多
くの要素数が必要であるのに対し、単純な幾何学的形状
を認識する場合は少ない数の要素で済む。The light receiving array means 100 includes a plurality of light control resistors or the like, which are realized by discrete components having a small mounting area or thin film films formed on a wide flat surface. The number of elements in the photoreceptive array means 100 determines the accuracy of the neural network 10 and recognizes simple geometric shapes while complex geometric shapes require a large number of elements. A small number of elements.
光受容アレイ手段100の各々の要素は、第２図に示す
ニューロン増幅器201〜204における指定されたものに接
続される。個々のニューロン増幅器の軸索出力は、それ
までの学習情報によってプログラムされたゲートアレイ
手段300に入力される。また、大容量メモリを備えたゲ
ートアレイ手段300は、学習情報の記憶に用いられると
共に、ニューロン増幅器の状態をポーリングしながら逐
次これらの学習情報をアクセスし、入力刺激の本質を決
定する。Each element of the light receiving array means 100 is connected to a designated one of the neuron amplifiers 201-204 shown in FIG. The axon output of each neuron amplifier is input to the gate array means 300 programmed according to the learning information up to that time. The gate array means 300 having a large-capacity memory is used for storing learning information and sequentially accesses the learning information while polling the state of the neuron amplifier to determine the nature of the input stimulus.
ゲートアレイ手段300は、CMOS、NMOSおよびガリウム
砒素等、一般的なデジタル回路部品によって実現するこ
とができる。素子の選択は、スピード等、システムに要
求される性能に応じて任意に行えばよい。加算手段306
およびしきい手段307もまた一般的な電気部品によって
実現可能である。The gate array means 300 can be realized by general digital circuit components such as CMOS, NMOS and gallium arsenide. The element may be selected arbitrarily according to the performance required for the system, such as speed. Addition means 306
And the threshold means 307 can also be realized by common electrical components.
以上、最も好ましく、効果的と思われる実施例につい
て説明したが、その他、この分野の当業者がなし得る技
術に適用し得ることは言うまでもない。この発明は、上
記実施例に限定されるものではなく、上記特許請求の範
囲に記載された技術範囲のすべてを含むものである。Although the embodiment which is considered to be the most preferable and effective has been described above, it is needless to say that the present invention can be applied to other techniques that can be performed by those skilled in the art. The present invention is not limited to the above embodiments, but includes all of the technical scope described in the claims.
「発明の効果」 以上説明したように、この発明によれば、光によって
刺激され、直接的に入力イメージを表象し、自己学習
し、連想記憶し、かつ、プログラム生成するニューラル
ネットワークを実現することができるという効果が得ら
れる。[Effects of the Invention] As described above, according to the present invention, it is possible to realize a neural network which is stimulated by light, directly represents an input image, self-learns, associatively stores, and generates a program. Is obtained.
第１図はこの発明の第１実施例によるニューラルネット
ワークの構成を示すブロック図、第1a図はこの発明の第
２実施例によるニューラルネットワークの構成を示すブ
ロック図、第２図は本発明における光受容アレイ手段の
構成例を示す図、第3a図は本発明におけるニューロン増
幅器およびツェナーダイオードを示す回路図、第3b図は
同ニューロン増幅器のＳ字応答特性を説明する図、第４
図は本発明におけるニューロン増幅器の構成例を示す回
路図、第5a図は本発明における光結合応答アレイ手段の
構成を示す図、第5b図は同光結合応答アレイ手段を構成
する回路を説明する図、第６図は本発明における結合抵
抗を備えたニューロン増幅器を説明する図、第７図は本
発明におけるニューラルネットにおける信号の流れを説
明するフローチャート、第８図は本発明による光刺激ニ
ューラルネットワークの構成を示す図である。 40……表象手段、100……光受容アレイ手段、200……ニ
ューロン増幅アレイ手段、400……光結合応答アレイ手
段、300……ゲートアレイ手段。FIG. 1 is a block diagram showing a configuration of a neural network according to a first embodiment of the present invention, FIG. 1a is a block diagram showing a configuration of a neural network according to a second embodiment of the present invention, and FIG. FIG. 3a is a circuit diagram showing a neuron amplifier and a zener diode according to the present invention, FIG. 3b is a diagram for explaining the S-shaped response characteristic of the neuron amplifier, FIG.
FIG. 5 is a circuit diagram showing a configuration example of a neuron amplifier according to the present invention, FIG. 5a is a diagram showing a configuration of an optical coupling response array unit according to the present invention, and FIG. 5b is a circuit explaining the optical coupling response array unit. FIG. 6, FIG. 6 is a diagram illustrating a neuron amplifier having a coupling resistor according to the present invention, FIG. 7 is a flowchart illustrating a signal flow in a neural network according to the present invention, and FIG. 8 is a photostimulated neural network according to the present invention. FIG. 3 is a diagram showing the configuration of FIG. 40 ... representation means, 100 ... photoreceptor array means, 200 ... neuron amplification array means, 400 ... light coupling response array means, 300 ... gate array means.
───────────────────────────────────────────────────── フロントページの続き (56)参考文献 特開 平２−183238（ＪＰ，Ａ) 特開 平２−96723（ＪＰ，Ａ) 特開 平２−173732（ＪＰ，Ａ) (58)調査した分野(Int.Cl.7，ＤＢ名) G06G 7/60 G06F 3/00 G06F 15/18 G06N 3/00 ────────────────────────────────────────────────── ─── Continuation of the front page (56) References JP-A-2-183238 (JP, A) JP-A-2-96723 (JP, A) JP-A-2-173732 (JP, A) (58) Field (Int.Cl. 7 , DB name) G06G 7/60 G06F 3/00 G06F 15/18 G06N 3/00
Claims (26)
ジを処理する、光刺激によって表象するニューラルネッ
トワークにおいて、 光景又はその光景のイメージからの光を利用し、前記ニ
ューラルネットワークへの入力として、前記光景又は前
記イメージからの光による入力イメージを前記ニューラ
ルネットワーク上に直接与える直接の表象手段と、 前記表象手段からの前記入力イメージを光制御された電
気的な結合のパターンに変換して複数の電気的な樹状突
起入力信号を生成する光受容アレイ手段と、 多数の電気的なニューロン増幅器を有し、前記光受容ア
レイ手段からの前記複数の樹状突起入力信号を受けるこ
ととそれらによる刺激とに応じ、複数の電気的な軸索出
力信号を、特定の論理演算を実行するようにプログラム
することによって構造が定められる電気的なゲートのア
レイを有するプログラマブルなゲートアレイ手段に、出
力するニューロン増幅アレイ手段と を具備することを特徴とするニューラルネットワーク。1. A neural network, represented by a light stimulus, for processing an image directly projected as an input thereon, wherein the neural network utilizes light from a scene or an image of the scene as the input to the neural network. Direct representation means for directly providing an input image of a scene or light from the image onto the neural network; and converting the input image from the representation means into a light-controlled electrical coupling pattern to generate a plurality of electric signals. A photoreceptor array means for generating a specific dendrite input signal; a plurality of electrical neuron amplifiers; receiving the plurality of dendritic input signals from the photoreceptor array means; To program a plurality of electrical axon output signals to perform specific logical operations. Neural network, characterized in that I the programmable gate array means having an array of electrical gates structure is defined, comprising a neuron amplifier array means for outputting.
器あるいはレーザであることを特徴とする請求項１記載
のニューラルネットワーク。2. The neural network according to claim 1, wherein said representation means is a cathode ray tube, an image enhancer or a laser.
る複数の光制御シナプス抵抗を有し、これらの光制御シ
ナプス抵抗は前記表象手段から供給される刺激データに
応じた生体シナプス結合を模擬するものであって入射波
の波長および強度に応じて抵抗値が制御され、該抵抗値
は当該ニューロン増幅器間の結合および帰還の態様を決
定付け、さらに各光制御シナプス抵抗は同じ光強度に対
して同じ抵抗値となるものであり、 加えて、 前記個々のニューロン増幅器に対する処理電圧を発生す
る電圧源手段と、 前記電圧源手段と前記複数の光制御シナプス抵抗とを結
合する複数の光制御電流制限抵抗とを具備し、 前記光制御抵抗および光制御電流制限抵抗は光電界効果
トランジスタ、光バイポーラトランジスタあるいは光ダ
イオードによって実現されることを特徴とする請求項１
記載のニューラルネットワーク。3. The photoreceptor array means includes a plurality of light-controlled synaptic resistances each of which realizes a synaptic connection between the neuron amplifiers, wherein the light-controlled synapse resistances are stimulus data supplied from the representation means. Simulates a biological synapse connection according to the above, and the resistance value is controlled according to the wavelength and intensity of the incident wave. The resistance value determines the mode of connection and feedback between the neuron amplifiers, and furthermore, each light control The synapse resistance has the same resistance value for the same light intensity. In addition, voltage source means for generating a processing voltage for each of the neuron amplifiers; the voltage source means and the plurality of light control synapse resistances; And a plurality of light control current limiting resistors for coupling the light control current limiting resistor and the light control current limiting resistor to each other. Claim, characterized in that it is implemented by Njisuta or light diode 1
Neural network as described.
ューロン増幅器の中にあるものから他のすべてのニュー
ロン増幅器への入力への帰還結合を実現することを特徴
とする請求項３記載のニューラルネットワーク。4. The neural network according to claim 3, wherein said plurality of optically controlled synaptic resistors provide feedback coupling from what is in said neuron amplifier to the inputs to all other neuron amplifiers. network.
出力および活性化正帰還軸索出力を有し、該活性化正帰
還軸索出力が前記ゲートアレイ手段に結合されることを
特徴とする請求項４記載のニューラルネットワーク。5. The neuron amplifier has a suppressed negative feedback axon output and an activated positive feedback axon output, wherein the activated positive feedback axon output is coupled to the gate array means. The neural network according to claim 4.
還軸索出力お呼び活性化正帰還軸索出力は前記光制御シ
ナプス抵抗によって他の残ったすべてのニューロン増幅
器に結合され、前記ニューロン増幅器の数よりも１少な
い数の結合を実現したことを特徴とする請求項５記載の
ニューラルネットワーク。6. The suppressed negative feedback axon output and the call activation positive feedback axon output in each of said neuron amplifiers are coupled to all other remaining neuron amplifiers by said light-controlled synaptic resistor and are less than the number of said neuron amplifiers. 6. The neural network according to claim 5, wherein one less connection is realized.
記表象手段から供給される刺激データに対応した唯一の
帰還結合に基づいてある１つの静的状態に落着き、該複
数のニューロン増幅器の静的状態はある特定の学習情報
を構成し、該学習情報は位置あるいはレベルが前記知識
を表現する２値情報からなり、該学習情報は制御手段に
よって制御されるゲートアレイ手段によって記憶される
と共に使用され、前記ゲートアレイ手段は複数のゲート
信号を加算手段に出力し、これらゲート信号は前記加算
手段によって加算され、しきい値との比較を行うしきい
値演算素子を通過することを特徴とする請求項６記載の
ニューラルネットワーク。7. Each of said plurality of neuron amplifiers settles in one static state based on a unique feedback connection corresponding to stimulus data supplied from said representation means, The state constitutes certain learning information, which comprises binary information whose position or level represents the knowledge, which learning information is stored and used by the gate array means controlled by the control means. The gate array means outputs a plurality of gate signals to an addition means, and the gate signals are added by the addition means and pass through a threshold value calculating element for comparing with a threshold value. Item 7. The neural network according to Item 6.
ットオフ領域および飽和領域のあるＳ字型の入出力伝達
特性を有し、該Ｓ字型入出力伝達特性および所定の発火
時定数による非線形の特性に従って前記静的状態に落着
くことを特徴とする請求項７記載のニューラルネットワ
ーク。8. Each of the plurality of neuron amplifiers has an S-shaped input / output transfer characteristic having a cut-off region and a saturation region, and has a non-linearity due to the S-shaped input / output transfer characteristic and a predetermined firing time constant. 8. The neural network according to claim 7, wherein the static state is settled according to the characteristic of the neural network.
ロン増幅器の入力端と出力端との間に入力端から出力端
に向う方向に介挿されたダイオードあるいはツェナーダ
イオードによる第１のブランチと、それとは逆方向に介
挿されたダイオードあるいはツェナーダイオードによる
第２のブランチとによって構成される局所的並列帰還ネ
ットワークによって実現されることを特徴とする請求項
８記載のニューラルネットワーク。9. The S-shaped input / output transfer characteristic includes a first branch formed by a diode or a Zener diode inserted between the input terminal and the output terminal of the neuron amplifier in a direction from the input terminal to the output terminal. 9. A neural network according to claim 8, wherein the local network is realized by a local parallel feedback network comprising a second branch of a diode or a zener diode interposed in the opposite direction.
ン増幅器内に並列接続された抵抗および容量のネットワ
ークによって実現されるものであり、前記ニューロン増
幅器が励起されてから静的状態に落着くまでの時間を決
定することを特徴とする請求項８記載のニューラルネッ
トワーク。10. The predetermined firing time constant is realized by a network of resistors and capacitors connected in parallel within the neuron amplifier, from the excitation of the neuron amplifier to the static state. 9. The neural network according to claim 8, wherein the time is determined.
るネットワークは光によって制御されるものであり、該
光制御による容量は光によって制御されるPN接合のデプ
レッション層によって実現されることを特徴とする請求
項10記載のニューラルネットワーク。11. The network according to claim 11, wherein said network of resistors and capacitors connected in parallel is controlled by light, and said light controlled capacitance is realized by a depletion layer of a PN junction controlled by light. The neural network according to claim 10.
クにおける各ニューロン増幅器の間の結合を行う光結合
応答アレイと、 前記光結合応答アレイに入力される前記外部刺激信号を
構成する光パターンを発生し、処理網を形成せしめる光
刺激手段とをさらに具備することを特徴とする請求項10
記載のニューラルネットワーク。12. An optical coupling response array for coupling between respective neuron amplifiers in a network in response to a plurality of external stimulus signals, and generating an optical pattern constituting the external stimulus signal input to the optical coupling response array. And a light stimulating means for forming a processing network.
Neural network as described.
なり、各要素は、 個々のニューロン増幅器の入力接続および出力接続を制
御し、一部あるいはすべてのニューロン増幅器を切断す
ることが可能であり、前記学習情報に寄与する前記ニュ
ーロン増幅器の数を決定せしめる少なくとも１個のニュ
ーロン増幅器切断手段と、 前記各ニューロン増幅器内に設けられる抵抗および容量
による並列ネットワークとを具備することを特徴とする
請求項12記載のニューラルネットワーク。13. The optically coupled response array comprises a plurality of elements, each of which controls input and output connections of an individual neuron amplifier and is capable of disconnecting some or all of the neuron amplifiers. At least one neuron amplifier disconnecting means for determining the number of the neuron amplifiers contributing to the learning information; and a parallel network of resistors and capacitors provided in each of the neuron amplifiers. Neural network according to 12.
くとも２個の光制御抵抗を有し、第１の光制御抵抗は当
該ニューロン増幅器の入力に接続され、第２の光制御抵
抗は当該ニューロン増幅器の出力に接続され、前記発火
時定数は前記光結合応答アレイにおける抵抗および容量
による並列ネットワークによって実現されることを特徴
とする請求項13記載のニューラルネットワーク。14. The neuron amplifier disconnecting means has at least two light control resistors, a first light control resistor is connected to an input of the neuron amplifier, and a second light control resistor is connected to the neuron amplifier. 14. The neural network according to claim 13, connected to an output, wherein the firing time constant is realized by a parallel network of resistors and capacitors in the optical coupling response array.
れることを特徴とする請求項14記載のニューラルネット
ワーク。15. The neural network according to claim 14, wherein said resistance and capacitance are controlled by light.
ージを処理する、光刺激によって表象するニューラルネ
ットワークにおいて、 光景又はその光景のイメージからの光を利用し、前記ニ
ューラルネットワークへの入力として、前記光景又は前
記イメージからの光による入力イメージを前記ニューラ
ルネットワーク上に直接与える直接の表象手段と、 前記表象手段からの前記入力イメージを光制御された電
気的な結合のパターンに変換して複数の電気的な樹状突
起入力信号を生成し、かつ、光刺激手段によって供給さ
れる複数の光刺激信号に応じ、ネットワークにおける各
ニューロン増幅器の間の結合を行う、光受容、光結合及
び応答の手段が統合された光受容光結合応答アレイ手段
と、 多数の電気的なニューロン増幅器を有し、前記光受容光
結合応答アレイ手段からの前記複数の樹状突起入力信号
を受けることとそれらによる刺激とに応じ、複数の電気
的な軸索出力信号を、特定の論理演算を実行するように
プログラムすることによって構造が定められる電気的な
ゲートのアレイを有するプログラマブルなゲートアレイ
手段に、出力するニューロン増幅アレイ手段と、 前記光受容光結合応答アレイ手段に入力される前記複数
の光刺激信号を構成する光パターンを生成し、処理網を
形成せしめる光刺激手段と を具備することを特徴とするニューラルネットワーク。16. A neural network represented by a light stimulus for processing an image directly projected thereon as an input, wherein the neural network utilizes light from a scene or an image of the scene as the input to the neural network. Direct representation means for directly providing an input image of a scene or light from the image onto the neural network; and converting the input image from the representation means into a light-controlled electrical coupling pattern to generate a plurality of electric signals. Means for photoreception, light coupling and response for generating a typical dendrite input signal and for coupling between each neuron amplifier in the network in response to a plurality of light stimulation signals provided by the light stimulation means. An integrated photoreceptor light coupling response array means, and a plurality of electrical neuron amplifiers, In response to receiving the plurality of dendritic input signals from the light coupling response array means and stimulating the same, programming the plurality of electrical axon output signals to perform a specific logical operation. Neuron amplification array means for outputting to programmable gate array means having an array of electrical gates whose structure is defined; and light patterns constituting the plurality of photostimulation signals to be inputted to the photoreceptive light coupling response array means. And a light stimulating means for generating a processing network.
る複数の光制御シナプス抵抗を有し、これらの光制御シ
ナプス抵抗は前記表象手段から供給される刺激データに
応じた生体シナプス結合を模擬するものであり、各光制
御シナプス抵抗は入射波の波長および強度に応じて抵抗
値が制御され、かつ、同じ光強度に対して同じ抵抗値と
なるものであり、各光制御シナプス抵抗はある１つのニ
ューロン増幅器の出力から他のすべてのニューロン増幅
器の入力への帰還結合を実現するものであり、該抵抗値
によて当該ニューロン増幅器間の結合および帰還の態様
が決定付けられ、 加えて、 前記個々のニューロン増幅器に対する処理電圧を発生す
る電圧源手段と、 前記電圧源手段と前記複数の光制御シナプス抵抗とを結
合する複数の光制御電流制限抵抗とを具備し、 前記光制御シナプス抵抗および光制御電流制限抵抗は光
電界効果トランジスタ、光バイポーラトランジスタある
いは光ダイオードによって実現されるものであり、さら
に、 前記個々のニューロン増幅器における入力接続および出
力接続を制御するニューロン増幅器切断手段と、 前記個々のニューロン増幅器に設けられる抵抗および容
量による並列ネットワークとを具備することを特徴とす
る請求項16記載のニューラルネットワーク。17. The photoreceptive optical coupling response array means includes a plurality of optically controlled synaptic resistors, each of which realizes a synaptic connection between the neuron amplifiers, and these optically controlled synaptic resistances are supplied from the representing means. Simulates biological synaptic connections according to stimulus data.The resistance of each light-controlled synaptic resistor is controlled according to the wavelength and intensity of the incident wave, and has the same resistance for the same light intensity. Wherein each optically controlled synaptic resistor implements a feedback coupling from the output of one neuron amplifier to the inputs of all other neuron amplifiers, and the resistance between the neuron amplifiers and A feedback mode is determined, and in addition, voltage source means for generating a processing voltage for the individual neuron amplifier; A plurality of light control current limiting resistors for coupling with a light control synapse resistor, wherein the light control synapse resistor and the light control current limiting resistor are realized by a light field effect transistor, a light bipolar transistor or a light diode. 17. The method according to claim 16, further comprising: a neuron amplifier disconnecting unit that controls an input connection and an output connection in each of the neuron amplifiers; and a parallel network formed by resistors and capacitors provided in the individual neuron amplifiers. Neural network.
くとも２つの光制御抵抗を有し、第１の光制御抵抗は当
該ニューロン増幅器の入力部に接続され、第２の光制御
抵抗は当該ニューロン増幅器の出力部に接続されること
を特徴とする請求項17記載のニューラルネットワーク。18. The neuron amplifier disconnecting means has at least two light control resistors, a first light control resistor is connected to an input of the neuron amplifier, and a second light control resistor is connected to the neuron amplifier. 18. The neural network according to claim 17, wherein the neural network is connected to an output unit.
抑制負帰還軸索出力および活性化正帰還軸索出力を有
し、前記活性化正帰還軸索出力は前記ゲートアレイ手段
に結合され、当該ニューロン増幅器における前記抑制負
帰還軸索出力および活性化正帰還軸索出力は前記光制御
シナプス抵抗によって他の残ったすべてのニューロン増
幅器に結合され、前記ニューロン増幅器の数よりも１少
ない数の結合を実現したことを特徴とする請求項18記載
のニューラルネットワーク。19. Each of the plurality of neuron amplifiers includes:
A suppressed negative feedback axon output and an activated positive feedback axon output, wherein the activated positive feedback axon output is coupled to the gate array means, and wherein the suppressed negative feedback axon output and the activated positive axon output in the neuron amplifier. 19. The neural network according to claim 18, wherein the feedback axon output is coupled to all other remaining neuron amplifiers by the light-controlled synaptic resistor, achieving one less connection than the number of neuron amplifiers. .
前記表象手段から供給される刺激データに対応した唯一
の帰還結合に基づいてある１つの静的状態に落着き、該
複数のニューロン増幅器の静的状態はある特定の学習情
報を構成し、該学習情報は位置あるいはレベルが前記知
識を表現する２値情報からなり、該学習情報は制御手段
によって制御されるゲートアレイ手段によって記憶され
ると共に使用され、前記ゲートアレイ手段は複数のゲー
ト信号を加算手段に出力し、これらゲート信号は前記加
算手段によって加算され、しきい値との比較を行うしき
い値演算素子を通過するものであり、 前記複数のニューロン増幅器は、所定の発火時定数およ
びＳ字型入出力伝達特性による非線形の特性に従って前
記静的状態に落着くものであり、該Ｓ字型入出力伝達特
性は当該ニューロン増幅器にカットオフ領域および飽和
領域を実現するものであり、該発火時定数は当該ニュー
ロン増幅器が励起されてから該静的状態に落着くまでの
時間を決定するものであることを特徴とする請求項19記
載のニューラルネットワーク。20. Each of the plurality of neuron amplifiers:
The static state of the plurality of neuron amplifiers constitutes specific learning information based on a unique feedback connection corresponding to the stimulus data supplied from the representation means, and the learning information comprises Is binary information whose position or level represents the knowledge, and the learning information is stored and used by gate array means controlled by the control means, and the gate array means adds a plurality of gate signals to the addition means. These gate signals are added by the adding means and pass through a threshold value calculating element for comparing with a threshold value. The plurality of neuron amplifiers have a predetermined firing time constant and an S-shaped The static state is settled according to the non-linear characteristic due to the input / output transfer characteristic, and the S-shaped input / output transfer characteristic is cut by the neuron amplifier. 20. An off-region and a saturation region, wherein the firing time constant determines a time from when the neuron amplifier is excited to when the neuron amplifier settles in the static state. Neural network.
答アレイ手段における抵抗および容量による並列ネット
ワークによって実現されることを特徴とする請求項17記
載のニューラルネットワーク。21. The neural network according to claim 17, wherein said firing time constant is realized by a parallel network of resistors and capacitors in said photoreceptive light coupling response array means.
て直接投影されるイメージを処理する方法であって、 光景又はその光景のイメージからの光を利用してイメー
ジを形成し、前記ニューラルネットワークへの入力とし
て、前記光景又は前記イメージからの光による入力イメ
ージを前記ニューラルネットワーク上に直接与えるステ
ップと、 前記入力イメージを光制御された電気的な結合のパター
ンに変換して複数の電気的な樹状突起入力信号を生成す
るステップと、 前記複数の樹状突起入力信号を受けることとそれらによ
る刺激とに応じ、複数の電気的な軸索出力信号を、特定
の理論演算を実行するようにプログラムすることによっ
て構造が定められる電気的なゲートのアレイを有するプ
ログラマブルなゲートアレイ手段に、出力するステップ
と を具備することを特徴とする方法。22. A method for processing an image that is projected directly as an input onto a neural network, the method comprising forming an image using light from a scene or an image of the scene, and providing the image as an input to the neural network. Providing an input image directly from the scene or light from the image onto the neural network; and converting the input image into a light-controlled electrical coupling pattern to provide a plurality of electrical dendrite inputs. Generating a signal; and, in response to receiving and stimulating the plurality of dendritic input signals, programming the plurality of electrical axon output signals to perform a particular theoretical operation. Output to a programmable gate array means having an array of electrical gates having a defined structure; Method characterized in that comprises a-up.
御抵抗であって、複数のニューロン増幅器間のシナプス
結合を実現するものであり、各々前記刺激データに応じ
て生体におけるシナプス結合を模擬するように制御され
る複数の光制御抵抗を前記刺激データが通過するステッ
プと、 前記複数のニューロン増幅器間のフィードバックを行う
ステップと、 初期化電圧を前記複数のニューロン増幅器に与えるステ
ップとをさらに加えたことを特徴とする請求項22記載の
方法。23. A plurality of light control resistors including the photoreceptor array for realizing synaptic connections between a plurality of neuron amplifiers, each simulating a synaptic connection in a living body according to the stimulus data. The stimulus data passes through a plurality of light control resistors controlled as described above, providing feedback between the plurality of neuron amplifiers, and providing an initialization voltage to the plurality of neuron amplifiers. 23. The method of claim 22, wherein:
ップが、 前記複数の電気的な樹状突起入力信号を複数のニューロ
ン増幅器を通過させることによって前記複数の軸索出力
信号に変換するステップを有し、前記帰還および結合を
通じて前記複数のニューロン増幅器が静的状態に落着
き、 さらに前記静的状態をゲートアレイに取り込むステップ
を有し、取り込まれた静的状態はさらなる学習および比
較のために電気的に加算されることを特徴とする請求項
23記載の方法。24. The method of claim 23, wherein generating the plurality of axon output signals comprises: converting the plurality of electrical dendritic input signals into the plurality of axon output signals by passing the plurality of axon output signals through a plurality of neuron amplifiers. And wherein the plurality of neuron amplifiers settle into a static state through the feedback and coupling, and further comprising capturing the static state in a gate array, wherein the captured static state is used for further learning and comparison. Claims characterized by being electrically added
23. The method of claim 23.
々の入力接続および出力接続を制御するステップを有す
ると共に、該ステップは前記個々のニューロン増幅器と
光刺激によって表象するニューラルネットワークとの間
の入出力をスイッチングするステップを有し、 さらに前記光刺激によって表象するニューラルネットワ
ークにおける時間応答を制御するステップを有すること
を特徴とする請求項24記載の方法。25. Controlling input and output connections of each of said plurality of neuron amplifiers, said steps switching input and output between said individual neuron amplifiers and a neural network represented by light stimuli. 25. The method of claim 24, further comprising the step of: controlling the temporal response in the neural network represented by the light stimulus.
記光刺激によって表象するニューラルネットワークに発
火時定数を設定するステップを含むことを特徴とする請
求項25記載の方法。26. The method of claim 25, wherein controlling the time response comprises setting a firing time constant in a neural network represented by the light stimulus.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP02306998A JP3142287B2 (en) | 1990-11-13 | 1990-11-13 | neural network |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP02306998A JP3142287B2 (en) | 1990-11-13 | 1990-11-13 | neural network |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JPH04177481A JPH04177481A (en) | 1992-06-24 |
| JP3142287B2 true JP3142287B2 (en) | 2001-03-07 |
Family
ID=17963786
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP02306998A Expired - Fee Related JP3142287B2 (en) | 1990-11-13 | 1990-11-13 | neural network |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP3142287B2 (en) |
-
1990
- 1990-11-13 JP JP02306998A patent/JP3142287B2/en not_active Expired - Fee Related
Also Published As
| Publication number | Publication date |
|---|---|
| JPH04177481A (en) | 1992-06-24 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Choi et al. | A high-precision VLSI winner-take-all circuit for self-organizing neural networks | |
| US10708522B2 (en) | Image sensor with analog sample and hold circuit control for analog neural networks | |
| KR102221763B1 (en) | Batch normalization apparatus based on resistive memory for binary neural network | |
| US5255362A (en) | Photo stimulated and controlled imaging neural network | |
| Zhao et al. | Synchronization of coupled memristive competitive BAM neural networks with different time scales | |
| Coue et al. | A four-quadrant subthreshold mode multiplier for analog neural-network applications | |
| Foo et al. | Analog components for the VLSI of neural networks | |
| Farhat | Optoelectronic neural networks and learning machines | |
| US5923779A (en) | Computing circuit having an instantaneous recognition function and instantaneous recognition method | |
| Zhang et al. | The framework and memristive circuit design for multisensory mutual associative memory networks | |
| US4896053A (en) | Solitary wave circuit for neural network emulation | |
| Kumara et al. | Use of associative memory and self-organization in conceptual design | |
| JP2716796B2 (en) | Optical computer | |
| Hirai | Hardware implementation of neural networks in Japan | |
| JP3142287B2 (en) | neural network | |
| EP0357212A2 (en) | Artificial neural device | |
| Mahowald | Evolving analog VLSI neurons | |
| Pelayo et al. | VLSI implementation of a neural model using spikes | |
| Ntinas et al. | Neuromorphic circuits on segmented crossbar architectures with enhanced properties | |
| Lara | Artificial neural networks: An introduction | |
| Sudharsanan et al. | Supervised training of dynamical neural networks for associative memory design and identification of nonlinear maps | |
| US5033020A (en) | Optically controlled information processing system | |
| Tawel | Learning in analog neural network hardware | |
| Wang | Analog CMOS implementation of backward error propagation | |
| Tang et al. | A model of neurons with unidirectional linear response |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| LAPS | Cancellation because of no payment of annual fees |