WO2021124379A1 - リザボア素子 - Google Patents

リザボア素子 Download PDF

Info

Publication number
WO2021124379A1
WO2021124379A1 PCT/JP2019/049105 JP2019049105W WO2021124379A1 WO 2021124379 A1 WO2021124379 A1 WO 2021124379A1 JP 2019049105 W JP2019049105 W JP 2019049105W WO 2021124379 A1 WO2021124379 A1 WO 2021124379A1
Authority
WO
WIPO (PCT)
Prior art keywords
elements
reservoir
reservoir element
element according
common wiring
Prior art date
Application number
PCT/JP2019/049105
Other languages
English (en)
French (fr)
Inventor
一紀 中田
智生 佐々木
Original Assignee
Tdk株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tdk株式会社 filed Critical Tdk株式会社
Priority to JP2021565152A priority Critical patent/JP7060175B2/ja
Priority to PCT/JP2019/049105 priority patent/WO2021124379A1/ja
Publication of WO2021124379A1 publication Critical patent/WO2021124379A1/ja

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/06—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
    • G06N3/063—Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means

Definitions

  • the present invention relates to a reservoir element.
  • a neuromorphic device is an element that imitates the human brain by means of a neural network. Neuromorphic devices artificially mimic the relationship between neurons and synapses in the human brain.
  • the neuromorphic device has, for example, hierarchically arranged chips (neurons in the brain) and transmission means (synapses in the brain) connecting them.
  • Neuromorphic devices increase the percentage of correct answers to questions by learning by means of communication (synapses). Learning is to find knowledge that can be used in the future from information, and neuromorphic devices weight the input data.
  • a recurrent neural network is known as one of the neural networks.
  • Recurrent neural networks can handle non-linear time series data.
  • Non-linear time series data is data whose value changes with the passage of time, and stock prices and the like are examples.
  • the recurrent neural network can process time-series data by returning the processing results of the neurons in the latter layer to the neurons of the previous layer.
  • Reservoir computing is one means of realizing a recurrent neural network. Reservoir computing performs recursive processing by interacting signals. Reservoir computing, for example, mimics the behavior of the cerebellum, performing recursive data processing, data conversion (eg, coordinate conversion), and the like.
  • Non-Patent Document 1 describes a reservoir of a one-dimensional ring topology.
  • the present invention has been made in view of the above circumstances, and provides a reservation element capable of outputting a signal corresponding to the reservation calculation while suppressing the complexity of wiring.
  • the reservoir element according to the first aspect includes a common wiring that transmits a common signal and a plurality of elements that are connected to the common wiring and modulate the signal input from the common wiring. ..
  • the reservoir element may further have a first power source connected to the common wiring, and each of the plurality of elements may be grounded.
  • the reservoir element according to the above aspect may further have a second power source connected to each of the plurality of elements, and the common wiring may be grounded.
  • the reservoir element according to the above aspect may further include a first power source connected to the common wiring and a second power source connected to each of the plurality of elements.
  • the first power supply may have a current compensation function.
  • the second power supply may have a current compensation function.
  • each of the plurality of elements may have a non-linear circuit in which the output responds non-linearly to the input signal to each element.
  • each of the plurality of elements may have a hysteresis circuit in which the output state changes with hysteresis with respect to a change in the potential of the input signal to each element.
  • each of the plurality of elements may have a delay circuit for delaying an input signal to each element.
  • each of the plurality of elements may be a Schmitt trigger circuit.
  • each of the plurality of elements has a resistance in the power supply line connected to the common wiring, and the resistance value of each resistance is not constant, and the resistance of the plurality of elements is not constant.
  • the value distribution may vary.
  • the reservoir element according to the above aspect may further include read wiring connected to each of the plurality of elements and synthesizing a modulated signal modulated by each of the plurality of elements.
  • the reservoir element according to the above aspect can output a signal corresponding to the reservoir calculation even with a small number of wires.
  • the Reservoir element according to the present embodiment is a device of processing in Reservoir computing.
  • Reservoir computing is an example of a recurrent neural network.
  • FIG. 1 is a conceptual diagram of a neural network simulated by the reservoir element according to the first embodiment.
  • the neural network NN shown in FIG. 1 is a conceptual schematic diagram of reservoir computing.
  • Neural networks NN shown in Figure 1 has an input layer L in the Rizaboa R and an output layer L out. The input layer L in and the output layer L out are connected to the reservoir R.
  • Input layer L in conveys a signal inputted from the outside to Rizaboa R.
  • Input layer L in, for example, comprises a plurality of neurons n 1.
  • Input signal input to each neuron n 1 of the input layer L in from the outside is transmitted to Rizaboa R.
  • Rizaboa R is storing the input signal input from the input layer L in, is converted into another signal.
  • the signals only interact and do not learn.
  • the input signals change non-linearly. That is, the input signal replaces another signal while retaining the original information.
  • the input signals change over time by interacting with each other within the Reservoir R.
  • a plurality of neurons n 2 are randomly connected. For example, the signal output from the neuron n 2 at a certain time t may return to the original neuron n 2 at a certain time t + 1.
  • neurons n 2 it can process in consideration of the time t and time t + 1 of the signal, can be recursively process the information.
  • the output layer L out outputs a signal from the reservoir R.
  • the output signal output from the output layer L out has the information of the input signal and is replaced with another signal.
  • An example of such conversion is the replacement of the Cartesian coordinate system (x, y, z) with the spherical coordinate system (r, ⁇ , ⁇ ).
  • Output layer L out for example, comprises a plurality of neurons n 3. Learning is performed from the reservoir R to the output layer L out. Learning is performed in transmission path connecting the neuron n 3 each neuron n 2 and the output layer L out of Rizaboa R (synapses in the brain). The output layer L out outputs the learning result to the outside.
  • FIG. 2 is a circuit diagram of the reservoir element 100 according to the first embodiment.
  • the reservoir element 100 has, for example, a plurality of elements 10, a common wiring 11, a first power supply 12, and a read wiring 13.
  • the reservoir element 100 is a device of the above reservoir R.
  • the number of the plurality of elements 10 included in the reservoir element 100 does not matter. Further, the arrangement of each element 10 is also free.
  • the common wiring 11 is connected to each of the plurality of elements 10.
  • the common wiring 11 shown in FIG. 1 connects, for example, the first power supply 12 and each of the plurality of elements 10.
  • the common wiring 11 transmits a common signal to each of the plurality of elements 10.
  • the reservoir element 100 shown in FIG. 1 since the plurality of elements 10 are each grounded, the current output from the first power supply 12 becomes a common signal.
  • FIG. 3 is an enlarged view of a main part of the reservoir element 100 according to the first embodiment.
  • FIG. 3 is a diagram showing an example of the element 10 of the reservoir element 100 shown in FIG.
  • Each element 10 modulates a signal input from the common wiring 11.
  • Each of the plurality of elements 10 has, for example, a power supply line PL, an inverter I1, a loop line Rp, resistors R 1, n , R 2, n (n is an integer), and capacitors C 1, n (n is an integer). ..
  • the element 10 shown in FIG. 3 is a Schmitt trigger circuit.
  • Each element 10 has, for example, a power supply line PL.
  • the power supply line PL connects the common wiring 11 and each of the plurality of elements 10 respectively.
  • a signal is input to each element 10 from the common wiring 11 via the power supply line PL.
  • the signal input from the power supply line PL to each of the elements 10 is referred to as an input signal.
  • the input signal is generated according to, for example, the potential difference between the reference potential of each element 10 and the first power supply 12.
  • Each element 10 shown in FIG. 3 is grounded, the input signal is represented by the potential V in.
  • Each power line PL has resistors R 1, n (n is an integer).
  • the resistance values of the resistors R1 and n of each element 10 are not constant, but are different, for example.
  • the distribution (resistance value distribution) of the resistance values of the resistors R1 and n of each element 10 with respect to the number of elements varies, for example.
  • the resistance value distribution is not particularly limited, but is, for example, a normal distribution.
  • Each element 10 has, for example, a non-linear circuit in which the output responds non-linearly to an input signal.
  • Each element 10 may have, for example, a hysteresis circuit in which the output state changes with hysteresis with respect to a change in the potential of the input signal.
  • the inverter I1 in the Schmitt trigger circuit shown in FIG. 3 has a non-linear response and the output has hysteresis.
  • the input signal is modulated by the non-linear response of the inverter I1.
  • Inverter I1 modulates the amplitude of the input signal, for example.
  • the signals input to the inverter I1 of each element 10 have a correlation with each other, but are different.
  • a common signal is input to each element 10 from the common wiring 11, but this is because the resistance values of the resistors R 1 and n are different for each element 10.
  • Each element 10 has, for example, a loop line Rp.
  • the loop line Rp loops the signal output from the inverter I1 and causes the inverter I1 to input the signal again.
  • the loop line Rp is a delay circuit that delays the input signal. By delaying the signal input to the inverter I1 by the loop line Rp, data having different time series is modulated by the inverter I1.
  • the delay circuit has a history function of holding an input signal.
  • Each loop line Rp has resistors R 2, n (n is an integer).
  • the resistance values of the resistors R 2 and n of each element 10 may be constant or different.
  • the time constant of each element 10 may be changed by changing the resistance values of the resistors R2 and n of each element 10. If the time constant of each element 10 is different, different modulation is performed in each element 10.
  • Capacitors C 1, n (n is an integer) prevent the signal transmitted through the loop line Rp from reaching the ground side and play a role of holding the signal.
  • the values of the capacitors C 1 and n of each element 10 may be constant or different.
  • the time constant of each element 10 may be changed by changing the values of the capacitors C 1 and n of each element 10. If the time constant of each element 10 is different, different modulation is performed in each element 10.
  • the first power supply 12 is connected to the common wiring 11.
  • a known power source can be used as the first power source 12.
  • a signal corresponding to the potential difference between the first power supply 12 and the reference potential of each element 10 is input to each element 10.
  • the first power supply 12 may have, for example, a current compensation function.
  • the current compensation function is a function of compensating so that the current value supplied from the first power supply 12 does not fluctuate significantly.
  • the current value supplied from the first power supply 12 fluctuates greatly, for example, a potential difference occurs between adjacent elements 10, and noise increases in the input signal of each element 10. By suppressing noise, the correlation of the signals input to each element 10 is maintained.
  • the read wiring 13 is connected to each element 10.
  • Read line 13 may be connected to the output terminal of the inverter I1 (position of the potential V A), different positions of the loop line Rp (e.g., the position of the potential V B) may be connected to.
  • the readout wiring 13 synthesizes the modulated signals modulated by each of the plurality of elements 10.
  • the synthesized signal is modulated into a different signal while having the information of the common signal input from the common wiring 11. For example, when a signal of the Cartesian coordinate system (x, y, z) is input from the common wiring 11, a signal of the spherical coordinate system (r, ⁇ , ⁇ ) is output from the read wiring 13.
  • the reservoir element 100 As described above, according to the reservoir element 100 according to the first embodiment, signals having a correlation with each other can be modulated and reconstructed into different signals. That is, the reservoir element 100 functions as the reservoir R. Further, by combining each element 10 with one common wiring instead of connecting each element 10 to the power supply separately, it is possible to suppress the wiring of the reservoir element 100 from becoming complicated.
  • the reservoir element 100 according to the first embodiment has been described in detail, but the reservoir element according to the first embodiment can be variously modified and changed within the scope of the gist of the present invention.
  • FIG. 4 is an enlarged view of a main part of the reservoir element according to the first modification.
  • FIG. 4 is a diagram showing another example of the element 10 of the reservoir element 100 shown in FIG. Up to this point, the case where the element 10 is a Schmitt trigger circuit has been described as an example, but a ring oscillator may be used instead of the Schmitt trigger circuit. Further, the element 10 is not limited to these as long as it can modulate the signal input from the common wiring 11.
  • FIG. 5 is a circuit diagram of the reservoir element 101 according to the second embodiment.
  • the reservoir element 101 shown in FIG. 5 is different from the reservoir element 100 shown in FIG. 2 in that it does not have the first power supply 12 and has the second power supply 15.
  • the same configurations as those of the reservoir element 100 shown in FIG. 2 are designated by the same reference numerals and the description thereof will be omitted.
  • the second power supply 15 is connected to each element 10 by a second common wiring 16.
  • the second common wiring 16 connects each element 10 and the second power supply 15. Further, the common wiring 11 shown in FIG. 5 connects each of the plurality of elements 10 to the ground.
  • each element 10 is connected to the second power supply 15, and the common wiring 11 is grounded.
  • the input signal to each element 10 is generated according to the potential difference between the second power supply 15 and the ground. Therefore, even in the reservoir element 101 shown in FIG. 5, an input signal is input from the power supply line PL to each of the elements 10.
  • the second power supply 15 may have, for example, a current compensation function.
  • the Reservoir element 101 according to the second embodiment operates in the same manner as the Reservoir element 100 according to the first embodiment, except that the position that serves as a reference for the potential is different from that of the Reservoir element 100 according to the first embodiment. Therefore, according to the reservoir element 101 according to the second embodiment, signals having a correlation with each other can be modulated and reconstructed into different signals. Further, the wiring of the reservoir element 101 is organized, and the complicated wiring is suppressed.
  • FIG. 6 is a circuit diagram of the reservoir element 102 according to the third embodiment.
  • the reservoir element 102 shown in FIG. 6 is different from the reservoir element 100 shown in FIG. 2 in that it further has a second power supply 15.
  • the same configurations as those of the reservoir element 100 shown in FIG. 2 are designated by the same reference numerals and the description thereof will be omitted.
  • the second power supply 15 is connected to each element 10 by a second common wiring 16.
  • the second common wiring 16 connects each element 10 and the second power supply 15.
  • each element 10 is connected to the second power supply 15, and the common wiring 11 is connected to the first power supply 12.
  • the input signal to each element 10 is generated according to the potential difference between the first power supply 12 and the second power supply 15. Therefore, also in the reservoir element 102 shown in FIG. 6, an input signal is input from the power supply line PL to each of the elements 10.
  • the second power supply 15 may have, for example, a current compensation function.
  • the reservoir element 102 according to the third embodiment is different from the reservoir element 100 according to the first embodiment in that a signal corresponding to the potential difference between the first power supply 12 and the second power supply 15 is input to each element 10. However, it operates in the same manner as the reservoir element 100 according to the first embodiment. Therefore, according to the reservoir element 102 according to the third embodiment, signals having a correlation with each other can be modulated and reconstructed into different signals. Further, the wiring of the reservoir element 102 is organized, and the complicated wiring is suppressed.
  • the element 10 is not limited to the Schmitt trigger circuit as long as it can modulate the signal input from the common wiring 11.

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Theoretical Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Artificial Intelligence (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Neurology (AREA)
  • Design And Manufacture Of Integrated Circuits (AREA)

Abstract

本実施形態にかかるリザボア素子は、共通の信号を伝える共通配線と、前記共通配線にそれぞれ接続され、前記共通配線から入力される前記信号をそれぞれ変調する複数の素子と、を有する。

Description

リザボア素子
　本発明は、リザボア素子に関する。
　ニューロモルフィックデバイスは、ニューラルネットワークにより人間の脳を模倣した素子である。ニューロモルフィックデバイスは、人間の脳におけるニューロンとシナプスとの関係を人工的に模倣している。
　ニューロモルフィックデバイスは、例えば、階層状に配置されたチップ（脳におけるニューロン）と、これらの間を繋ぐ伝達手段（脳におけるシナプス）と、を有する。ニューロモルフィックデバイスは、伝達手段（シナプス）が学習することで、問題の正答率を高める。学習は将来使えそうな知識を情報から見つけることであり、ニューロモルフィックデバイスでは入力されたデータに重み付けをする。
　ニューラルネットワークの一つとして、リカレントニューラルネットワークが知られている。リカレントニューラルネットワークは、非線形な時系列のデータを扱うことができる。非線形な時系列のデータは、時間の経過とともに値が変化するデータであり、株価等はその一例である。リカレントニューラルネットワークは、後段の階層のニューロンでの処理結果を前段の階層のニューロンに戻すことで、時系列のデータを処理することができる。
　リザボアコンピューティングは、リカレントニューラルネットワークを実現する一つの手段である。リザボアコンピューティングは、信号を相互作用させることで、再帰的な処理を行う。リザボアコンピューティングは、例えば、小脳の動作を模倣しており、再帰的なデータの処理やデータの変換（例えば、座標の変換）等を行う。非特許文献１には、１次元リングトポロジーのリザボアが記載されている。
Herbert Jaeger and Harald Haas, Science, vol.304 pp.77-80, 2004.
　リザボアコンピューティングの概念を実際の素子で実現しようとすると、配線が複雑化し、集積化しにくいという問題がある。
　本発明は上記事情に鑑みてなされたものであり、配線の複雑化が抑制され、リザボア計算に対応した信号を出力できるリザボア素子を提供する。
（１）第１の態様にかかるリザボア素子は、共通の信号を伝える共通配線と、前記共通配線にそれぞれ接続され、前記共通配線から入力される前記信号をそれぞれ変調する複数の素子と、を有する。
（２）上記態様にかかるリザボア素子において、共通配線に接続された第１電源をさらに有し、前記複数の素子のそれぞれは接地されていてもよい。
（３）上記態様にかかるリザボア素子において、前記複数の素子のそれぞれに接続された第２電源をさらに有し、前記共通配線は接地されていてもよい。
（４）上記態様にかかるリザボア素子において、共通配線に接続された第１電源と、前記複数の素子のそれぞれに接続された第２電源と、をさらに有してもよい。
（５）上記態様にかかるリザボア素子において、前記第１電源は、電流補償機能を有してもよい。
（６）上記態様にかかるリザボア素子において、前記第２電源は、電流補償機能を有してもよい。
（７）上記態様にかかるリザボア素子において、前記複数の素子はそれぞれ、それぞれの素子への入力信号に対して出力が非線形に応答する非線形回路を有してもよい。
（８）上記態様にかかるリザボア素子において、前記複数の素子はそれぞれ、それぞれの素子への入力信号の電位の変化に対して出力状態がヒステリシスを持って変化するヒステリシス回路を有してもよい。
（９）上記態様にかかるリザボア素子において、前記複数の素子はそれぞれ、それぞれの素子への入力信号を遅延させる遅延回路を有してもよい。
（１０）上記態様にかかるリザボア素子において、前記複数の素子はそれぞれ、シュミットトリガー回路でもよい。
（１１）上記態様にかかるリザボア素子において、前記複数の素子のそれぞれは、前記共通配線と繋がる電源線に抵抗をそれぞれ有し、それぞれの抵抗の抵抗値は一定ではなく、前記複数の素子の抵抗値分布はばらつきを有してもよい。
（１２）上記態様にかかるリザボア素子において、前記複数の素子のそれぞれに接続され、前記複数の素子のそれぞれで変調された変調信号が合成される読み出し配線をさらに備えてもよい。
　上記態様にかかるリザボア素子は、少ない配線数でもリザボア計算に対応した信号を出力できる。
第１実施形態に係るリザボア素子が模擬するニューラルネットワークの概念図である。 第１実施形態に係るリザボア素子の回路図である。 第１実施形態に係るリザボア素子の要部の拡大図である。 第１変形例に係るリザボア素子の要部の拡大図である。 第２実施形態に係るリザボア素子の回路図である。 第３実施形態に係るリザボア素子の回路図である。
　以下、本実施形態について、図を適宜参照しながら詳細に説明する。以下の説明で用いる図面は、本発明の特徴をわかりやすくするために便宜上特徴となる部分を拡大して示している場合があり、各構成要素の寸法比率などは実際とは異なっていることがある。以下の説明において例示される材料、寸法等は一例であって、本発明はそれらに限定されるものではなく、本発明の効果を奏する範囲で適宜変更して実施することが可能である。
　本実施形態に係るリザボア素子は、リザボアコンピューティングにおける処理をデバイス化したものである。リザボアコンピューティングは、リカレントニューラルネットワークの一例である。
「第１実施形態」
　図１は、第１実施形態にかかるリザボア素子が模擬するニューラルネットワークの概念図である。図１に示すニューラルネットワークＮＮは、リザボアコンピューティングの概念模式図である。図１に示すニューラルネットワークＮＮは、入力層ＬｉｎとリザボアＲと出力層Ｌｏｕｔとを有する。入力層Ｌｉｎ及び出力層Ｌｏｕｔは、リザボアＲに接続されている。
　入力層Ｌｉｎは、外部から入力された信号をリザボアＲに伝える。入力層Ｌｉｎは、例えば、複数のニューロンｎ１を含む。外部から入力層Ｌｉｎのそれぞれのニューロンｎ１に入力された入力信号は、リザボアＲに伝わる。
　リザボアＲは、入力層Ｌｉｎから入力された入力信号を貯留し、別の信号に変換する。リザボアＲ内では、信号は相互作用するだけであり、学習しない。入力信号が互いに相互作用すると、入力信号が非線形に変化する。すなわち、入力信号は、元の情報を保有しつつ別の信号に置き換わる。入力信号は、リザボアＲ内で互いに相互作用することで、時間の経過とともに変化する。リザボアＲは、複数のニューロンｎ２がランダムに接続されている。例えば、ある時刻ｔにあるニューロンｎ２から出力された信号は、ある時刻ｔ＋１において元のニューロンｎ２に戻る場合がある。ニューロンｎ２では、時刻ｔ及び時刻ｔ＋１の信号を踏まえた処理ができ、情報を再帰的に処理できる。
　出力層Ｌｏｕｔは、リザボアＲからの信号を出力する。出力層Ｌｏｕｔから出力される出力信号は、入力信号の情報を持ちつつ、別の信号に置き換わっている。当該変換の一例として、直交座標系（ｘ，ｙ，ｚ）から球面座標系（ｒ，θ，φ）への置き換えが挙げられる。出力層Ｌｏｕｔは、例えば、複数のニューロンｎ３を含む。リザボアＲから出力層Ｌｏｕｔに至る際に、学習が行われる。学習は、リザボアＲのそれぞれのニューロンｎ２と出力層Ｌｏｕｔのニューロンｎ３とを繋ぐ伝達経路（脳におけるシナプス）で行われる。出力層Ｌｏｕｔは、学習の結果を外部に出力する。
　図２は、第１実施形態にかかるリザボア素子１００の回路図である。リザボア素子１００は、例えば、複数の素子１０と共通配線１１と第１電源１２と読み出し配線１３とを有する。リザボア素子１００は、上記のリザボアＲをデバイス化したものである。リザボア素子１００に含まれる複数の素子１０の数は問わない。またそれぞれの素子１０の配置も自由である。
　共通配線１１は、複数の素子１０のそれぞれに接続されている。図１に示す共通配線１１は、例えば、第１電源１２と複数の素子１０のそれぞれとを接続する。共通配線１１は、共通の信号を複数の素子１０のそれぞれに伝える。図１に示すリザボア素子１００は、複数の素子１０がそれぞれ接地されているため、第１電源１２から出力される電流が共通の信号となる。
　図３は、第１実施形態に係るリザボア素子１００の要部を拡大した図である。図３は、図１に示すリザボア素子１００の素子１０の一例を示す図である。それぞれの素子１０は、共通配線１１から入力される信号をそれぞれ変調する。
　複数の素子１０のそれぞれは、例えば、電源線ＰＬとインバータＩ１とループ線Ｒｐと抵抗Ｒ１，ｎ、Ｒ２，ｎ（ｎは整数）とコンデンサＣ１，ｎ（ｎは整数）とを有する。図３に示す素子１０は、シュミットトリガー回路である。
　それぞれの素子１０は、例えば、電源線ＰＬを有する。電源線ＰＬはそれぞれ、共通配線１１と複数の素子１０のそれぞれとを繋ぐ。それぞれの素子１０には、電源線ＰＬを介して共通配線１１から信号が入力される。
　以下、素子１０のそれぞれに、電源線ＰＬから入力される信号を入力信号と称する。入力信号は、例えば、それぞれの素子１０の基準電位と第１電源１２との電位差に応じて生じる。図３に示すそれぞれの素子１０は接地しており、入力信号は電位Ｖｉｎで表される。
　それぞれの電源線ＰＬは、抵抗Ｒ１，ｎ（ｎは整数）を有する。それぞれの素子１０の抵抗Ｒ１，ｎの抵抗値は、例えば、一定ではなく、異なっている。それぞれの素子１０の抵抗Ｒ１，ｎの抵抗値の素子数に対する分布（抵抗値分布）は、例えば、ばらついている。抵抗値分布は特に問わないが、例えば、正規分布である。それぞれの素子１０の抵抗Ｒ１，ｎの抵抗値が異なると、それぞれの素子１０の時定数が異なる。その結果、入力信号は、それぞれの素子１０で異なる変調がされる。
　それぞれの素子１０は、例えば、入力信号に対して出力が非線形に応答する非線形回路を有する。それぞれの素子１０は、例えば、入力信号の電位の変化に対して出力状態がヒステリシスを持って変化するヒステリシス回路を有してもよい。図３に示すシュミットトリガー回路におけるインバータＩ１は、非線形応答し、出力がヒステリシスを有する。インバータＩ１が非線形に応答することで、入力信号が変調される。インバータＩ１は、例えば、入力信号の振幅を変調する。出力がヒステリシスを有すると、入力信号のノイズに起因するチャタリングを防止できる。
　それぞれの素子１０のインバータＩ１に入力される信号は、互いに相関を有するが、異なっている。それぞれの素子１０には、共通配線１１から共通の信号が入力されるが、それぞれの素子１０毎で抵抗Ｒ１，ｎの抵抗値が異なるためである。
　それぞれの素子１０は、例えば、ループ線Ｒｐを有する。ループ線Ｒｐは、インバータＩ１から出力された信号をループし、再度、インバータＩ１に入力させる。ループ線Ｒｐは、入力信号を遅延させる遅延回路である。ループ線ＲｐがインバータＩ１に入力する信号を遅延させることで、時系列の異なるデータがインバータＩ１で変調される。遅延回路は、入力信号を保持する履歴機能を有する。
　それぞれのループ線Ｒｐは、抵抗Ｒ２，ｎ（ｎは整数）を有する。それぞれの素子１０の抵抗Ｒ２，ｎの抵抗値は一定でも、異なってもよい。それぞれの素子１０の抵抗Ｒ２，ｎの抵抗値を変えることで、それぞれの素子１０の時定数を変えてもよい。それぞれの素子１０の時定数が異なると、それぞれの素子１０で異なる変調がされる。
　コンデンサＣ１，ｎ（ｎは整数）は、ループ線Ｒｐを伝わる信号がグラウンド側に至ることを防ぎ、信号を保持する役割を担う。それぞれの素子１０のコンデンサＣ１，ｎの値は一定でも、異なってもよい。それぞれの素子１０のコンデンサＣ１，ｎの値を変えることで、それぞれの素子１０の時定数を変えてもよい。それぞれの素子１０の時定数が異なると、それぞれの素子１０で異なる変調がされる。
　図２に示すように、第１電源１２は、共通配線１１に接続されている。第１電源１２には、公知の電源を用いることができる。第１電源１２とそれぞれの素子１０の基準電位との電位差に応じた信号が、それぞれの素子１０に入力される。第１電源１２は、例えば、電流補償機能を有してもよい。電流補償機能とは、第１電源１２から供給される電流値が大きく変動しないように補償する機能である。第１電源１２から供給される電流値が大きく変動すると、例えば隣接する素子１０間に電位差が生じ、それぞれの素子１０の入力信号にノイズが増える。ノイズを抑制することで、それぞれの素子１０に入力される信号の相関が保たれる。
　図２に示すように、読み出し配線１３は、それぞれの素子１０に接続されている。読み出し配線１３は、インバータＩ１の出力端子（電位ＶＡの位置）に接続してもよいし、ループ線Ｒｐの異なる位置（例えば、電位ＶＢの位置）に接続してもよい。読み出し配線１３で、複数の素子１０のそれぞれで変調された変調信号は合成される。合成された信号は、共通配線１１から入力される共通の信号の情報を有しつつ、異なる信号に変調されている。例えば、共通配線１１から直交座標系（ｘ，ｙ，ｚ）の信号が入力されると、読み出し配線１３から球面座標系（ｒ，θ，φ）の信号が出力される。
　上述のように、第１実施形態に係るリザボア素子１００によれば、互いに相関を有する信号をそれぞれ変調でき、異なる信号に再構築することができる。すなわち、リザボア素子１００は、リザボアＲとして機能している。またそれぞれの素子１０を一つずつ別々に電源と接続するのではなく、一つの共通配線でまとめることで、リザボア素子１００の配線が複雑化することを抑制できる。
　ここまで第１実施形態に係るリザボア素子１００の一例について詳述したが、第１実施形態に係るリザボア素子は、本発明の要旨の範囲内において、種々の変形・変更が可能である。
　図４は、第１変形例に係るリザボア素子の要部を拡大した図である。図４は、図１に示すリザボア素子１００の素子１０の別の例を示す図である。ここまで素子１０がシュミットトリガー回路の場合を例に説明したが、シュミットトリガー回路に変えてリングオシレータとしてもよい。また素子１０は、共通配線１１から入力される信号を変調できるものであれば、これらに限られない。
「第２実施形態」
　図５は、第２実施形態に係るリザボア素子１０１の回路図である。図５に示すリザボア素子１０１は、第１電源１２を有さず、第２電源１５を有する点が、図２に示すリザボア素子１００と異なる。図２に示すリザボア素子１００と同様の構成については、同様の符号を付し、説明を省く。
　第２電源１５は、それぞれの素子１０と、第２共通配線１６で接続されている。第２共通配線１６は、それぞれの素子１０と第２電源１５とを繋ぐ。また図５に示す共通配線１１は、複数の素子１０のそれぞれとグラウンドとを繋ぐ。
　図５に示すリザボア素子１０１において、それぞれの素子１０は第２電源１５に接続され、共通配線１１は接地されている。それぞれの素子１０への入力信号は、第２電源１５とグラウンドとの電位差に応じて生じる。そのため、図５に示すリザボア素子１０１においても、素子１０のそれぞれには、電源線ＰＬから入力信号が入力される。第２電源１５は、例えば、電流補償機能を有してもよい。
　第２実施形態にかかるリザボア素子１０１は、電位の基準となる位置が第１実施形態に係るリザボア素子１００と異なるだけであり、第１実施形態に係るリザボア素子１００と同様に動作する。したがって、第２実施形態に係るリザボア素子１０１によれば、互いに相関を有する信号をそれぞれ変調でき、異なる信号に再構築することができる。またリザボア素子１０１は配線がまとめられており、配線が複雑化することが抑制されている。
「第３実施形態」
　図６は、第３実施形態に係るリザボア素子１０２の回路図である。図６に示すリザボア素子１０２は、第２電源１５をさらに有する点が、図２に示すリザボア素子１００と異なる。図２に示すリザボア素子１００と同様の構成については、同様の符号を付し、説明を省く。
　第２電源１５は、それぞれの素子１０と、第２共通配線１６で接続されている。第２共通配線１６は、それぞれの素子１０と第２電源１５とを繋ぐ。
　図６に示すリザボア素子１０２において、それぞれの素子１０は第２電源１５に接続され、共通配線１１は第１電源１２に接続されている。それぞれの素子１０への入力信号は、第１電源１２と第２電源１５との電位差に応じて生じる。そのため、図６に示すリザボア素子１０２においても、素子１０のそれぞれには、電源線ＰＬから入力信号が入力される。第２電源１５は、例えば、電流補償機能を有してもよい。
　第３実施形態にかかるリザボア素子１０２は、第１電源１２と第２電源１５との電位差に応じた信号がそれぞれの素子１０に入力される点が、第１実施形態に係るリザボア素子１００と異なるだけであり、第１実施形態に係るリザボア素子１００と同様に動作する。したがって、第３実施形態に係るリザボア素子１０２によれば、互いに相関を有する信号をそれぞれ変調でき、異なる信号に再構築することができる。またリザボア素子１０２は配線がまとめられており、配線が複雑化することが抑制されている。
　また第２実施形態及び第３実施形態に係るリザボア素子１０１、１０２においても、素子１０は、共通配線１１から入力される信号を変調できるものであれば、シュミットトリガー回路に限られない。
１０　素子、１１　共通配線、１２　第１電源、１３　読み出し配線、１５　第２電源、１６　第２共通配線、１００，１０１，１０２　リザボア素子、Ｃ１，ｎ　コンデンサ、Ｉ１　インバータ、ｎ１，ｎ２，ｎ３　ニューロン、ＮＮ　ニューラルネットワーク、ＰＬ　電源線、Ｒ　リザボア、Ｒ１，ｎ，Ｒ２，ｎ　抵抗、Ｒｐ　ループ線

Claims (12)

  1. 　共通の信号を伝える共通配線と、
    　前記共通配線にそれぞれ接続され、前記共通配線から入力される前記信号をそれぞれ変調する複数の素子と、を有する、リザボア素子。
  2. 　共通配線に接続された第１電源をさらに有し、
    　前記複数の素子のそれぞれは接地されている、請求項１に記載のリザボア素子。
  3. 　前記複数の素子のそれぞれに接続された第２電源をさらに有し、
    　前記共通配線は接地されている、請求項１に記載のリザボア素子。
  4. 　共通配線に接続された第１電源と、前記複数の素子のそれぞれに接続された第２電源と、をさらに有する、請求項１に記載のリザボア素子。
  5. 　前記第１電源は、電流補償機能を有する、請求項２又は４に記載のリザボア素子。
  6. 　前記第２電源は、電流補償機能を有する、請求項３又は４に記載のリザボア素子。
  7. 　前記複数の素子はそれぞれ、それぞれの素子への入力信号に対して出力が非線形に応答する非線形回路を有する、請求項１～６のいずれか一項に記載のリザボア素子。
  8. 　前記複数の素子はそれぞれ、それぞれの素子への入力信号の電位の変化に対して出力がヒステリシスを持って変化するヒステリシス回路を有する、請求項１～７のいずれか一項に記載のリザボア素子。
  9. 　前記複数の素子はそれぞれ、それぞれの素子への入力信号を遅延させる遅延回路を有する、請求項１～８のいずれか一項に記載のリザボア素子。
  10. 　前記複数の素子はそれぞれ、シュミットトリガー回路である、請求項１～９のいずれか一項に記載のリザボア素子。
  11. 　前記複数の素子のそれぞれは、前記共通配線と繋がる電源線に抵抗をそれぞれ有し、
    　それぞれの抵抗の抵抗値は一定ではなく、前記複数の素子の抵抗値分布はばらつきを有する、請求項１～１０のいずれか一項に記載のリザボア素子。
  12. 　前記複数の素子のそれぞれに接続され、前記複数の素子のそれぞれで変調された変調信号が合成される読み出し配線をさらに備える、請求項１～１１のいずれか一項に記載のリザボア素子。
PCT/JP2019/049105 2019-12-16 2019-12-16 リザボア素子 WO2021124379A1 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2021565152A JP7060175B2 (ja) 2019-12-16 2019-12-16 リザボア素子
PCT/JP2019/049105 WO2021124379A1 (ja) 2019-12-16 2019-12-16 リザボア素子

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2019/049105 WO2021124379A1 (ja) 2019-12-16 2019-12-16 リザボア素子

Publications (1)

Publication Number Publication Date
WO2021124379A1 true WO2021124379A1 (ja) 2021-06-24

Family

ID=76476818

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2019/049105 WO2021124379A1 (ja) 2019-12-16 2019-12-16 リザボア素子

Country Status (2)

Country Link
JP (1) JP7060175B2 (ja)
WO (1) WO2021124379A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4020143B2 (ja) * 2006-02-20 2007-12-12 トヨタ自動車株式会社 測位システム、測位方法及びカーナビゲーションシステム

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140214738A1 (en) * 2013-01-29 2014-07-31 Hewlett-Packard Development Company, L.P. Neuristor-based reservoir computing devices
WO2018213399A1 (en) * 2017-05-16 2018-11-22 University Of Maryland, College Park Integrated circuit designs for reservoir computing and machine learning
JP6610839B1 (ja) * 2019-01-31 2019-11-27 Tdk株式会社 スピン軌道トルク型磁化回転素子、スピン軌道トルク型磁気抵抗効果素子、磁気メモリ及びリザボア素子

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140214738A1 (en) * 2013-01-29 2014-07-31 Hewlett-Packard Development Company, L.P. Neuristor-based reservoir computing devices
WO2018213399A1 (en) * 2017-05-16 2018-11-22 University Of Maryland, College Park Integrated circuit designs for reservoir computing and machine learning
JP6610839B1 (ja) * 2019-01-31 2019-11-27 Tdk株式会社 スピン軌道トルク型磁化回転素子、スピン軌道トルク型磁気抵抗効果素子、磁気メモリ及びリザボア素子

Also Published As

Publication number Publication date
JP7060175B2 (ja) 2022-04-26
JPWO2021124379A1 (ja) 2021-06-24

Similar Documents

Publication Publication Date Title
US5175798A (en) Digital artificial neuron based on a probabilistic ram
US5142666A (en) Learning system in a neuron computer
EP3136304A1 (en) Methods and systems for performing reinforcement learning in hierarchical and temporally extended environments
US11275995B2 (en) Information processing apparatus, ising device, and control method for information processing apparatus
Wang et al. Global stability and stabilization for inertial memristive neural networks with unbounded distributed delays
WO1990002381A1 (en) Neurocomputer
JP7132196B2 (ja) 処理装置および推論システム
US11562249B2 (en) DNN training with asymmetric RPU devices
KR20190106185A (ko) 전치 가능한 메모리와 가상 순람표를 이용한 뉴로모픽 시스템
JP7079483B2 (ja) 情報処理方法、システム及びプログラム
WO2021124379A1 (ja) リザボア素子
Zou et al. Leader-following consensus of second-order nonlinear multi-agent systems with unmodeled dynamics
Solovyeva Types of recurrent neural networks for non-linear dynamic system modelling
US5216746A (en) Error absorbing system in a neuron computer
US11423299B2 (en) Device and computer realizing calculation of reservoir layer of reservoir computing
JPH0264787A (ja) 階層構造ニューラルネット
US11574176B2 (en) Artificial neural networks
KR20180070187A (ko) 신경망 장치의 정규화 장치 및 방법
US20220327375A1 (en) Training dnn by updating an array using a chopper
Hirose et al. Relationship between phase and amplitude generalization errors in complex-and real-valued feedforward neural networks
US5566102A (en) Arithmetic element coupling network
Simpkins Design, modeling, and simulation of a compact optoelectronic neural coprocessor
WO2021192137A1 (ja) リザーバ計算ユニット、リザーバデバイス、リザーバ計算ユニットの設計方法およびリザーバデバイスの制御方法
Lee et al. On the identification and generation of discrete-time chaotic systems with recurrent neural networks
US11727252B2 (en) Adaptive neuromorphic neuron apparatus for artificial neural networks

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 19956185

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2021565152

Country of ref document: JP

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 19956185

Country of ref document: EP

Kind code of ref document: A1