JP6974955B2 - クロスバー構造および最適化問題解探索システム - Google Patents
クロスバー構造および最適化問題解探索システム Download PDFInfo
- Publication number
- JP6974955B2 JP6974955B2 JP2017063895A JP2017063895A JP6974955B2 JP 6974955 B2 JP6974955 B2 JP 6974955B2 JP 2017063895 A JP2017063895 A JP 2017063895A JP 2017063895 A JP2017063895 A JP 2017063895A JP 6974955 B2 JP6974955 B2 JP 6974955B2
- Authority
- JP
- Japan
- Prior art keywords
- metal
- electrode
- layer
- filament
- solid electrolyte
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000005457 optimization Methods 0.000 title claims description 56
- 229910052751 metal Inorganic materials 0.000 claims description 361
- 239000002184 metal Substances 0.000 claims description 361
- 239000007784 solid electrolyte Substances 0.000 claims description 92
- 210000002569 neuron Anatomy 0.000 claims description 55
- 238000000034 method Methods 0.000 claims description 40
- 230000008569 process Effects 0.000 claims description 35
- 230000006870 function Effects 0.000 claims description 20
- 239000011159 matrix material Substances 0.000 claims description 14
- 230000006399 behavior Effects 0.000 claims description 13
- 238000013528 artificial neural network Methods 0.000 claims description 11
- 239000000463 material Substances 0.000 claims description 8
- 230000008859 change Effects 0.000 claims description 7
- UCKMPCXJQFINFW-UHFFFAOYSA-N Sulphide Chemical compound [S-2] UCKMPCXJQFINFW-UHFFFAOYSA-N 0.000 claims description 3
- 229910052802 copper Inorganic materials 0.000 claims description 3
- 229910052737 gold Inorganic materials 0.000 claims description 3
- 229910052697 platinum Inorganic materials 0.000 claims description 3
- 229910052709 silver Inorganic materials 0.000 claims description 3
- 229910052719 titanium Inorganic materials 0.000 claims description 3
- 229920000642 polymer Polymers 0.000 claims description 2
- 230000008602 contraction Effects 0.000 description 5
- 230000008878 coupling Effects 0.000 description 4
- 238000010168 coupling process Methods 0.000 description 4
- 238000005859 coupling reaction Methods 0.000 description 4
- 239000010949 copper Substances 0.000 description 3
- 229910021645 metal ion Inorganic materials 0.000 description 3
- MCMNRKCIXSYSNV-UHFFFAOYSA-N Zirconium dioxide Chemical compound O=[Zr]=O MCMNRKCIXSYSNV-UHFFFAOYSA-N 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 238000000605 extraction Methods 0.000 description 2
- 238000003909 pattern recognition Methods 0.000 description 2
- JPVYNHNXODAKFH-UHFFFAOYSA-N Cu2+ Chemical compound [Cu+2] JPVYNHNXODAKFH-UHFFFAOYSA-N 0.000 description 1
- HBBGRARXTFLTSG-UHFFFAOYSA-N Lithium ion Chemical compound [Li+] HBBGRARXTFLTSG-UHFFFAOYSA-N 0.000 description 1
- JLVVSXFLKOJNIY-UHFFFAOYSA-N Magnesium ion Chemical compound [Mg+2] JLVVSXFLKOJNIY-UHFFFAOYSA-N 0.000 description 1
- VEQPNABPJHWNSG-UHFFFAOYSA-N Nickel(2+) Chemical compound [Ni+2] VEQPNABPJHWNSG-UHFFFAOYSA-N 0.000 description 1
- 229920003171 Poly (ethylene oxide) Polymers 0.000 description 1
- FOIXSVOLVBLSDH-UHFFFAOYSA-N Silver ion Chemical compound [Ag+] FOIXSVOLVBLSDH-UHFFFAOYSA-N 0.000 description 1
- 238000013529 biological neural network Methods 0.000 description 1
- 230000033228 biological regulation Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 229910001431 copper ion Inorganic materials 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 230000005684 electric field Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- XEEYBQQBJWHFJM-UHFFFAOYSA-N iron Substances [Fe] XEEYBQQBJWHFJM-UHFFFAOYSA-N 0.000 description 1
- 229910052742 iron Inorganic materials 0.000 description 1
- -1 iron ions Chemical class 0.000 description 1
- 229910001416 lithium ion Inorganic materials 0.000 description 1
- 229910001425 magnesium ion Inorganic materials 0.000 description 1
- 230000001537 neural effect Effects 0.000 description 1
- 229910001453 nickel ion Inorganic materials 0.000 description 1
- BPUBBGLMJRNUCC-UHFFFAOYSA-N oxygen(2-);tantalum(5+) Chemical compound [O-2].[O-2].[O-2].[O-2].[O-2].[Ta+5].[Ta+5] BPUBBGLMJRNUCC-UHFFFAOYSA-N 0.000 description 1
- 238000005192 partition Methods 0.000 description 1
- 239000002861 polymer material Substances 0.000 description 1
- 238000001556 precipitation Methods 0.000 description 1
- 229910001415 sodium ion Inorganic materials 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000000946 synaptic effect Effects 0.000 description 1
- 229910001936 tantalum oxide Inorganic materials 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
Images
Landscapes
- Semiconductor Memories (AREA)
Description
本発明は、原子スイッチを有するクロスバー構造、ならびに学習、組合せ最適化問題および意思決定問題等の最適化問題の解探索システムに関する。
ニューラルネットワークは生物の神経ネットワークの構造と機能を模倣するという観点から生まれた学習アルゴリズムである。ニューラルネットワークにおける学習は、ニューロンと呼ばれる積和演算素子を結合するシナプスの結合強度の係数ベクトルを、入力データと出力データの望ましい対応関係を表現する状態へと収束させる処理である。これを回路として実装する際は、結合強度は設置される抵抗変化素子のコンダクタンスにより表現される。従来、学習処理は外部システムやそこで実行されるソフトウェアを介して行われ、求まった各々の結合強度を事後的に各抵抗変化素子に書き込むことが多い。すなわち、学習処理は回路の外部で行われ、回路は分類処理のためにだけ使用される。このため、回路を組み込まれた機器が外部との通信を介さずにその場でリアルタイムに学習を行うことが要求される応用場面への展開が難しいという問題があった。一方、学習処理を回路の内部で行う技術も少数存在するが、その場合の学習モデルは、「バックプロパゲーション」のように高度な数値計算を要求するものであったために、学習のための回路が複雑化、大規模化してしまうという問題があり、種々の検討がなされている（特許文献１、２および非特許文献１）。
Nanoscale,2016,8,14031-14036
本発明は、このような問題を解決し、ニューラルネットが持つパターン認識や特徴抽出などの分類機能と、それを実現するために必要となる学習機能とを、従来よりも簡便で小型かつ低消費電力の回路を用いて実現するハードウェアの構成を提供し、この回路が組み込まれた機器の環境からの入力データを手掛かりに、回路自体がその場でリアルタイムに効率良く学習を行えるようにすることを課題とするものである。さらに詳しくは、本発明は、綱引き型と呼ばれる原子スイッチを有するクロスバー構造、ならびにそれを用いる学習、組合せ最適化問題および意思決定問題等の最適化問題の解探索システムを提供することを課題とする。
本発明は上記の課題を解決するために、以下の発明を提供するものである。
（１）固体電解質電極と二つの金属電極AおよびBとの間のナノメートルオーダーの間隙において、金属電極に電圧を印加すると固体電解質電極表面から金属原子が析出し金属フィラメントが成長することを利用する原子スイッチであり；
該原子スイッチでは、固体電解質電極内に含まれる金属原子数を一定の値に制限し、電極A側に成長したフィラメントを構成する原子数と電極B側に成長したフィラメントを構成する原子数の総和を一定にすることで、固体電解質電極に対して、金属電極A側または金属電極B側への電圧の印加により、一方の金属電極側に新たな金属フィラメントが成長する場合、他方の金属フィラメントは収縮するという綱引き型の動作をする原子スイッチであり；
該綱引き型原子スイッチは複数の金属電極Aが並行に並べられた層と複数の金属電極Bが並行に並べられた層の間に複数の固体電解質電極が並行に並べられた層が挟まれてなるクロスバー構造の結節点において構成されることを特徴とするクロスバー構造。
（１）固体電解質電極と二つの金属電極AおよびBとの間のナノメートルオーダーの間隙において、金属電極に電圧を印加すると固体電解質電極表面から金属原子が析出し金属フィラメントが成長することを利用する原子スイッチであり；
該原子スイッチでは、固体電解質電極内に含まれる金属原子数を一定の値に制限し、電極A側に成長したフィラメントを構成する原子数と電極B側に成長したフィラメントを構成する原子数の総和を一定にすることで、固体電解質電極に対して、金属電極A側または金属電極B側への電圧の印加により、一方の金属電極側に新たな金属フィラメントが成長する場合、他方の金属フィラメントは収縮するという綱引き型の動作をする原子スイッチであり；
該綱引き型原子スイッチは複数の金属電極Aが並行に並べられた層と複数の金属電極Bが並行に並べられた層の間に複数の固体電解質電極が並行に並べられた層が挟まれてなるクロスバー構造の結節点において構成されることを特徴とするクロスバー構造。
（２）対向する金属電極ＣおよびＤの間のナノメートルオーダーの間隙が固体電解質で充填され、さらに固体電解質中に金属電極Ｅが設けられ、これらの金属電極に電圧を印加すると固体電解質から金属原子が析出して金属フィラメントが成長することを利用する原子スイッチであり；
該原子スイッチは、金属電極Ｅの金属電極Ｃ側またはＤ側表面で金属フィラメントが形成された状態にあり、他方の金属電極Ｄ側またはＣ側表面で金属フィラメントが形成されていない状態のときに、金属フィラメントを構成する原子がその総数をおおむね保存するように制限することにより、金属電極Ｄ側またはＣ側への電圧の印加による新たな金属フィラメントの成長が、金属電極Ｃ側またはＤ側に成長した金属フィラメントの収縮を引き起こす綱引き型原子スイッチであり；
該綱引き型原子スイッチは複数の金属電極Ｃが並行に並べられた層と複数の金属電極Ｄが並行に並べられた層の間に複数の固体電解質および金属電極Ｅが並行に並べられた層が挟まれてなるクロスバー構造の結節点において構成されることを特徴とするクロスバー構造。
該原子スイッチは、金属電極Ｅの金属電極Ｃ側またはＤ側表面で金属フィラメントが形成された状態にあり、他方の金属電極Ｄ側またはＣ側表面で金属フィラメントが形成されていない状態のときに、金属フィラメントを構成する原子がその総数をおおむね保存するように制限することにより、金属電極Ｄ側またはＣ側への電圧の印加による新たな金属フィラメントの成長が、金属電極Ｃ側またはＤ側に成長した金属フィラメントの収縮を引き起こす綱引き型原子スイッチであり；
該綱引き型原子スイッチは複数の金属電極Ｃが並行に並べられた層と複数の金属電極Ｄが並行に並べられた層の間に複数の固体電解質および金属電極Ｅが並行に並べられた層が挟まれてなるクロスバー構造の結節点において構成されることを特徴とするクロスバー構造。
（３）金属電極Ｆとこれに対向する２つの金属電極Ｇ１およびＧ２との間のナノメートルオーダーの間隙が固体電解質で充填され、金属電極に電圧を印加すると固体電解質電極表面から金属原子が析出し金属フィラメントが成長することを利用する原子スイッチであり；
該原子スイッチでは、固体電解質内に含まれる金属原子数を一定の値に制限し、電極Ｇ１に成長したフィラメントを構成する原子数と電極Ｇ２に成長したフィラメントを構成する原子数の総和を一定にすることで、電極Eに対して、金属電極Ｇ１側またはＧ２側への電圧の印加により、一方の金属電極側に新たな金属フィラメントが成長する場合、他方の金属フィラメントではフィラメントが収縮するという綱引き型の動作をする原子スイッチであり；
該綱引き型原子スイッチは複数の金属電極Ｇ１が並行に並べられた層と複数の金属電極Ｇ１およびＧ２が並行に並べられた層の間に複数の固体電解質が並行に並べられた層が挟まれてなるクロスバー構造の結節点において構成されることを特徴とするクロスバー構造。
該原子スイッチでは、固体電解質内に含まれる金属原子数を一定の値に制限し、電極Ｇ１に成長したフィラメントを構成する原子数と電極Ｇ２に成長したフィラメントを構成する原子数の総和を一定にすることで、電極Eに対して、金属電極Ｇ１側またはＧ２側への電圧の印加により、一方の金属電極側に新たな金属フィラメントが成長する場合、他方の金属フィラメントではフィラメントが収縮するという綱引き型の動作をする原子スイッチであり；
該綱引き型原子スイッチは複数の金属電極Ｇ１が並行に並べられた層と複数の金属電極Ｇ１およびＧ２が並行に並べられた層の間に複数の固体電解質が並行に並べられた層が挟まれてなるクロスバー構造の結節点において構成されることを特徴とするクロスバー構造。
（４）固体電解質電極または固体電解質が硫化物系材料、酸化物系材料または高分子系材料である上記（１）〜（３）のいずれかに記載のクロスバー構造。
（５）金属電極Ａ〜Ｇ２がＰｔ、Ｃｕ，Ａｕ，ＴｉまたはＡｇである上記（１）〜（４）のいずれかに記載のクロスバー構造。
（６）上記（１）〜（５）のいずれかに記載のクロスバー構造を用いて最適化問題の解を探索するシステムであり；
金属電極に電圧を印加した際には、固体電解質電極表面、あるいは金属表面で金属フィラメントが成長するが、原子スケールの揺らぎにより金属フィラメントの成長の仕方は確率的なばらつきを持ち、その確率を適切な値に調節可能にすることを前提として；
すべてのクロスバー結節点の綱引き型原子スイッチの金属フィラメント成長状態に応じて、所定の規則に従い、個々の金属フィラメントの成長と収縮を誘導する電圧の印加状態を決定する処理を行い、この処理を反復して適用することにより、確率的な挙動により状態空間の探索が行われ；
最終的に金属フィラメント成長状態が変化しないような平衡状態に達したときに最適化問題の解が得られることを特徴とする最適化問題の解探索システム。
金属電極に電圧を印加した際には、固体電解質電極表面、あるいは金属表面で金属フィラメントが成長するが、原子スケールの揺らぎにより金属フィラメントの成長の仕方は確率的なばらつきを持ち、その確率を適切な値に調節可能にすることを前提として；
すべてのクロスバー結節点の綱引き型原子スイッチの金属フィラメント成長状態に応じて、所定の規則に従い、個々の金属フィラメントの成長と収縮を誘導する電圧の印加状態を決定する処理を行い、この処理を反復して適用することにより、確率的な挙動により状態空間の探索が行われ；
最終的に金属フィラメント成長状態が変化しないような平衡状態に達したときに最適化問題の解が得られることを特徴とする最適化問題の解探索システム。
（７）上記（１）〜（５）のいずれかに記載のクロスバー構造を用いて、複数の論理変数(x1〜xN)からなる論理式で記述された複数の論理的制約条件をすべて充足できるような論理変数に対する真偽値の割り当てを解とする組合せ最適化問題を最適化問題として解く際に；
各論理変数の真の値（xi=1）と偽の値（xi=0）を、クロスバー結節点の各綱引き型原子スイッチにおいて、それぞれ固体電解質電極の金属電極A側もしくはB側表面、金属電極Ｅの金属電極Ｃ側もしくはＤ側表面、または金属電極Ｇ１もしくはＧ２表面で金属フィラメントが成長した状態に対応させ；
金属電極に電圧を印加した際には、固体電解質電極表面、あるいは金属表面で金属フィラメントが成長するが、原子スケールの揺らぎにより金属フィラメントの成長の仕方は確率的なばらつきを持ち、その確率を適切な値に調節可能にすることを前提として；
各論理的制約条件に対し、それに関与する論理変数の現時点での真偽値の割り当てによってはその論理的制約条件を充足できないときは、対応する各綱引き型原子スイッチにおいて固体電解質電極の金属電極A側もしくはB側表面、金属電極Ｅの金属電極Ｃ側もしくはＤ側表面、または金属電極Ｇ１もしくはＧ２表面に形成された金属フィラメントが収縮するように金属電極Ｂ側もしくはＡ側、金属電極Ｄ側もしくはＣ側、または金属電極Ｇ２もしくはＧ１に電圧を印加する処理を行い、この処理を反復して適用することにより、確率的な挙動により状態空間の探索が行われ；
最終的に金属フィラメント成長状態が変化しないような平衡状態に達したときに最適化問題の解が得られることを特徴とする最適化問題の解探索システム。
各論理変数の真の値（xi=1）と偽の値（xi=0）を、クロスバー結節点の各綱引き型原子スイッチにおいて、それぞれ固体電解質電極の金属電極A側もしくはB側表面、金属電極Ｅの金属電極Ｃ側もしくはＤ側表面、または金属電極Ｇ１もしくはＧ２表面で金属フィラメントが成長した状態に対応させ；
金属電極に電圧を印加した際には、固体電解質電極表面、あるいは金属表面で金属フィラメントが成長するが、原子スケールの揺らぎにより金属フィラメントの成長の仕方は確率的なばらつきを持ち、その確率を適切な値に調節可能にすることを前提として；
各論理的制約条件に対し、それに関与する論理変数の現時点での真偽値の割り当てによってはその論理的制約条件を充足できないときは、対応する各綱引き型原子スイッチにおいて固体電解質電極の金属電極A側もしくはB側表面、金属電極Ｅの金属電極Ｃ側もしくはＤ側表面、または金属電極Ｇ１もしくはＧ２表面に形成された金属フィラメントが収縮するように金属電極Ｂ側もしくはＡ側、金属電極Ｄ側もしくはＣ側、または金属電極Ｇ２もしくはＧ１に電圧を印加する処理を行い、この処理を反復して適用することにより、確率的な挙動により状態空間の探索が行われ；
最終的に金属フィラメント成長状態が変化しないような平衡状態に達したときに最適化問題の解が得られることを特徴とする最適化問題の解探索システム。
（８）上記（１）〜（５）のいずれかに記載のクロスバー構造を用いて、多層のニューラルネットによる学習を行う際に；
第ｋ層にニューロンがN個あり、第ｋ±１層にニューロンがM個ある二層のオートエンコーダーにおいて、第ｋ層のニューロンは第ｋ±１層のすべてのニューロンに結合されており、このとき結合部の数はN×Mになり、各結合部の正の重み係数Xi,j,+と負の重み係数Xi,j,-を、クロスバー結節点の各綱引き型原子スイッチにおいてそれぞれ金属電極A側またはB側で成長した金属フィラメントの成長高さによって決まるコンダクタンスに対応させ、ここで綱引き型原子スイッチの排他的性質から、各結合部が正の重み係数と負の重み係数を同時にとることはない；
第ｋ層に２値の教師データ(U’1,U’2, …U’N)が与えられており、第ｋ±１層に２値の教師データ(U’N+1,U’N+2,..U’ Ｎ+M)が与えられている場合に、オートエンコーダーは、第ｋ層のあるデータが与えられたときに、それらの重み付け線形和に閾値関数fを適用して得られる第ｋ±１層のデータが、第ｋ±１層の教師データと一致するような重み係数行列(X1,N+1,+, X1,N+1,-,…XN,M,+, XN,M,-)を解として求める処理を行い；
金属電極に電圧を印加した際には、固体電解質電極表面、あるいは金属表面で金属フィラメントが成長するが、原子スケールの揺らぎにより金属フィラメントの成長の仕方は確率的なばらつきを持ち、その確率を適切な値に調節可能にすることを前提として；第ｋ±１層のニューロンjに対し、それと結合されている第ｋ層のすべてのニューロンiに対する状態値(U1,…Ｕｉ,…ＵＮ)の重み付け線形和に閾値関数f(x)を適用して得られる値(0または1)
Ｕｊ＝ｆ（ΣｉＸｉ,ｊ,＋Ｕｉ＋Ｘｉ,ｊ,−Ｕｉ）
ここで、f(x)=1 (x>θ（閾値）のとき)；0（それ以外のとき）
が、教師データU’jと一致しないときは、クロスバー結節点の対応する各綱引き型原子スイッチにおいて固体電解質電極の金属電極A側もしくはB側表面、金属電極Ｅの金属電極Ｃ側もしくはＤ側表面、または金属電極Ｇ１もしくはＧ２表面で成長した金属フィラメントが収縮するように金属電極Ｂ側もしくはＡ側、金属電極Ｄ側もしくはＣ側、または金属電極Ｇ２もしくはＧ１に電圧を印加することを第ｋ±１層のすべてのニューロンについて反復して適用することにより、確率的な挙動により状態空間の探索が行われ；
最終的に、第ｋ±１層のニューロンのベクトル(UN+1,UN+2,..UＮ+M)と教師データ(U’N+1,U’N+2,…U’ Ｎ+M)がすべて一致するような、重み係数行列(X1,N+1,+, X1,N+1,-,… XN,M,+, XN,M,-)が解として得られることを特徴とする最適化問題の解探索システム。
第ｋ層にニューロンがN個あり、第ｋ±１層にニューロンがM個ある二層のオートエンコーダーにおいて、第ｋ層のニューロンは第ｋ±１層のすべてのニューロンに結合されており、このとき結合部の数はN×Mになり、各結合部の正の重み係数Xi,j,+と負の重み係数Xi,j,-を、クロスバー結節点の各綱引き型原子スイッチにおいてそれぞれ金属電極A側またはB側で成長した金属フィラメントの成長高さによって決まるコンダクタンスに対応させ、ここで綱引き型原子スイッチの排他的性質から、各結合部が正の重み係数と負の重み係数を同時にとることはない；
第ｋ層に２値の教師データ(U’1,U’2, …U’N)が与えられており、第ｋ±１層に２値の教師データ(U’N+1,U’N+2,..U’ Ｎ+M)が与えられている場合に、オートエンコーダーは、第ｋ層のあるデータが与えられたときに、それらの重み付け線形和に閾値関数fを適用して得られる第ｋ±１層のデータが、第ｋ±１層の教師データと一致するような重み係数行列(X1,N+1,+, X1,N+1,-,…XN,M,+, XN,M,-)を解として求める処理を行い；
金属電極に電圧を印加した際には、固体電解質電極表面、あるいは金属表面で金属フィラメントが成長するが、原子スケールの揺らぎにより金属フィラメントの成長の仕方は確率的なばらつきを持ち、その確率を適切な値に調節可能にすることを前提として；第ｋ±１層のニューロンjに対し、それと結合されている第ｋ層のすべてのニューロンiに対する状態値(U1,…Ｕｉ,…ＵＮ)の重み付け線形和に閾値関数f(x)を適用して得られる値(0または1)
Ｕｊ＝ｆ（ΣｉＸｉ,ｊ,＋Ｕｉ＋Ｘｉ,ｊ,−Ｕｉ）
ここで、f(x)=1 (x>θ（閾値）のとき)；0（それ以外のとき）
が、教師データU’jと一致しないときは、クロスバー結節点の対応する各綱引き型原子スイッチにおいて固体電解質電極の金属電極A側もしくはB側表面、金属電極Ｅの金属電極Ｃ側もしくはＤ側表面、または金属電極Ｇ１もしくはＧ２表面で成長した金属フィラメントが収縮するように金属電極Ｂ側もしくはＡ側、金属電極Ｄ側もしくはＣ側、または金属電極Ｇ２もしくはＧ１に電圧を印加することを第ｋ±１層のすべてのニューロンについて反復して適用することにより、確率的な挙動により状態空間の探索が行われ；
最終的に、第ｋ±１層のニューロンのベクトル(UN+1,UN+2,..UＮ+M)と教師データ(U’N+1,U’N+2,…U’ Ｎ+M)がすべて一致するような、重み係数行列(X1,N+1,+, X1,N+1,-,… XN,M,+, XN,M,-)が解として得られることを特徴とする最適化問題の解探索システム。
本発明によれば、学習、組合せ最適化問題および意思決定問題等の最適化問題の解探索をリアルタイムで実行できるハードウェアシステムを従来よりも簡便で小型かつ低消費電力で実現できる。
（クロスバー構造１）
本発明のクロスバー構造は、１つの実施態様において、固体電解質電極と二つの金属電極AおよびBとの間のナノメートルオーダー、たとえば５０ｎｍ程度以下、好ましくは１０ｎｍ以下、の間隙において、金属電極に電圧を印加すると固体電解質電極表面から金属原子が析出し金属フィラメントが成長することを利用する原子スイッチからなる。
本発明のクロスバー構造は、１つの実施態様において、固体電解質電極と二つの金属電極AおよびBとの間のナノメートルオーダー、たとえば５０ｎｍ程度以下、好ましくは１０ｎｍ以下、の間隙において、金属電極に電圧を印加すると固体電解質電極表面から金属原子が析出し金属フィラメントが成長することを利用する原子スイッチからなる。
固体電解質電極の固体電解質は、外部から加えられた電場により金属イオンが移動し、金属原子として析出および再イオン化し得る固体であり、金属イオンとしては１価の銀イオン、銅イオン、リチウムイオン、ナトリウムイオン、マグネシウムイオンおよび２価の鉄イオン、ニッケルイオン等が挙げられ、たとえばＡｇ２Ｓ，Ｃｕ２Ｓ等の硫化物系材料、酸化タンタル、ジルコニア等の酸化物系材料、上記金属イオンを含むポリエチレンオキシド等の高分子系材料が挙げられる。
金属電極は、Ｐｔ、Ｃｕ，Ａｕ，Ｔｉ、Ａｇ等が好適に使用される。
印加電圧は、通常１ｍＶ〜１Ｖ程度、好ましくは１０〜５００ｍＶと小さいので、消費電力を小さくし得る。
その原子スイッチでは、固体電解質電極内に含まれる金属原子数を一定の値に制限し、電極A側に成長したフィラメントを構成する原子数と電極B側に成長したフィラメントを構成する原子数の総和を一定にすることで、固体電解質電極に対して、金属電極A側または金属電極B側への電圧の印加により、一方の金属電極側に新たな金属フィラメントが成長する場合、他方の金属フィラメントは収縮するという綱引き型の動作をする原子スイッチである。
上記の「原子数の総和を一定に」することは、１箇所の金属フィラメントを構成するが、外部から新たに供給されないようにすることにより、金属原子数を実質的に一定に保つことを意味する。そのためには、たとえば、後述する図１に示されるような複数の金属フィラメントの間で金属原子のやり取りがないように、隔壁を設ける等の方式を採用し得るが、これに限定さるものではなく、金属原子数の若干の増減も本発明の目的に適うかぎり許容される。
このように、電圧の印加により金属フィラメントの成長と収縮が制御され、固体電解質電極表面から金属原子が析出し、２つの電極間に金属フィラメントが形成されて架橋し原子スイッチがオンとなる。一方、析出した金属原子が固体電解質電極内に再イオン化して溶け込み、金属フィラメントが消滅してスイッチがオフとなる。
本発明の綱引き型原子スイッチは、複数の金属電極Aが並行に並べられた層と複数の金属電極Bが並行に並べられた層の間に複数の固体電解質電極が並行に並べられた層が挟まれてなるクロスバー構造の結節点（すなわち、交点）において構成される。
図１は、本発明のクロスバー構造の一例を示す模式図である。１Ａは金属電極A（Ｐｔ）、１Ｂは金属電極Ｂ（Ｐｔ）、そして２は固体電解質電極（Ａｇ２Ｓ）、３は析出した金属（Ａｇ）フィラメントを示す。重み係数行列X1,7,+, X1,7,-等は、後述する重み係数行列を示す。
本発明のクロスバー構造は、既存の微細加工技術を組み合わせて用いて作製し得る。
本発明のクロスバー構造は、既存の微細加工技術を組み合わせて用いて作製し得る。
（クロスバー構造２）
本発明のクロスバー構造は、もう１つの実施態様において、対向する金属電極Ｃ（たとえばＰｔ）およびＤ（たとえばＰｔ）の間のナノメートルオーダーの間隙が固体電解質で充填され、さらに固体電解質中に金属電極Ｅ（たとえばＡｇ）が設けられ、これらの金属電極に電圧を印加すると固体電解質から金属原子が析出して金属フィラメントが成長することを利用する原子スイッチを含む。ここで、固体電解質、金属電極は、前記と同様である。
その原子スイッチでは、電極Eを取り囲む固体電解質内に含まれる金属原子数を一定の値に制限し、電極Cに成長したフィラメントを構成する原子数と電極Dに成長したフィラメントを構成する原子数の総和を一定にすることで、電極Eに対して、金属電極Cまたは金属電極Dへの電圧の印加により、一方の金属電極側に新たな金属フィラメントが成長する場合、他方の金属フィラメントは収縮するという綱引き型の動作をする原子スイッチである。
ここで、「フィラメントを構成する原子数の総和を一定に」することは、前記のとおりである。
本発明の綱引き型原子スイッチは複数の金属電極Ｃが並行に並べられた層と複数の金属電極Ｄが並行に並べられた層の間に複数の固体電解質および金属電極Ｅが並行に並べられた層が挟まれてなるクロスバー構造の結節点において構成される。
（クロスバー構造３）
本発明のクロスバー構造は、さらなる１つの実施態様において、金属電極Ｆ（たとえばＰｔ）とこれに対向する２つの金属電極Ｇ１（たとえばＰｔ）およびＧ２（たとえばＰｔ）との間のナノメートルオーダーの間隙が固体電解質で充填され、金属電極に電圧を印加すると固体電解質電極表面から金属原子が析出し金属フィラメントが成長することを利用する原子スイッチを含む。金属電極Ｇ１およびＧ２は、好適には間隔をおいて並置される。ここで、固体電解質、金属電極は、前記と同様である。
本発明のクロスバー構造は、さらなる１つの実施態様において、金属電極Ｆ（たとえばＰｔ）とこれに対向する２つの金属電極Ｇ１（たとえばＰｔ）およびＧ２（たとえばＰｔ）との間のナノメートルオーダーの間隙が固体電解質で充填され、金属電極に電圧を印加すると固体電解質電極表面から金属原子が析出し金属フィラメントが成長することを利用する原子スイッチを含む。金属電極Ｇ１およびＧ２は、好適には間隔をおいて並置される。ここで、固体電解質、金属電極は、前記と同様である。
その該原子スイッチでは、固体電解質内に含まれる金属原子数を一定の値に制限し、電極Ｇ１に成長したフィラメントを構成する原子数と電極Ｇ２に成長したフィラメントを構成する原子数の総和を一定にすることで、電極Eに対して、金属電極Ｇ１側またはＧ２側への電圧の印加により、一方の金属電極側に新たな金属フィラメントが成長する場合、他方の金属フィラメントではフィラメントが収縮するという綱引き型の動作をする原子スイッチである。
ここで、「フィラメントを構成する原子数の総和を一定に」することは、前記のとおりである。
そして本発明の綱引き型原子スイッチは複数の金属電極Ｇ１が並行に並べられた層と複数の金属電極Ｇ１およびＧ２が並行に並べられた層の間に複数の固体電解質が並行に並べられた層が挟まれてなるクロスバー構造の結節点において構成される。
（最適化問題の解探索するシステム）
本発明の一つの実施態様において、本発明のクロスバー構造を用いて、最適化問題の解を探索するシステムが提供される。最適化問題としては、学習（誤差最小化問題）、充足可能性問題（SAT: Satisfiability Problem）(充足制約最大化問題；組合せ最適化問題)および意思決定問題（報酬獲得最大化問題）が知られている。
本発明の一つの実施態様において、本発明のクロスバー構造を用いて、最適化問題の解を探索するシステムが提供される。最適化問題としては、学習（誤差最小化問題）、充足可能性問題（SAT: Satisfiability Problem）(充足制約最大化問題；組合せ最適化問題)および意思決定問題（報酬獲得最大化問題）が知られている。
本発明の最適化問題の解を探索するシステムにおいて、金属電極に電圧を印加した際には、固体電解質電極表面、あるいは金属表面で金属フィラメントが成長するが、原子スケールの揺らぎにより金属フィラメントの成長の仕方は確率的なばらつきを持ち、その確率を適切な値に調節可能にすることを前提とする。
すべてのクロスバー結節点の綱引き型原子スイッチの金属フィラメント成長状態に応じて、所定の規則に従い、個々の金属フィラメントの成長と収縮を誘導する電圧の印加状態を決定する処理を行い、この処理を反復して適用することにより、確率的な挙動により状態空間の探索が行われ；最終的に金属フィラメント成長状態が変化しないような平衡状態に達したときに最適化問題の解が得られる。
上記の「確率を適切な値に調節」する一例を挙げると、印加電圧を、金属フィラメントの成長が確実に生じる値よりも少し低い値にシフトして設定することで、フィラメントの成長は確率的に生じることになるが、このシフトの程度を調節することにより、揺らぎ動作確率を適切な値（すなわち、所望の値）に調節し得る。
ここで、「反復して適用する」についてさらに詳述する。
（a）所定の規則に従い、個々の金属フィラメントの成長と収縮を誘導する電圧の印加状態を決定する処理を行い、クロスバー結節点の対応する各綱引き型原子スイッチにおいて、固体電解質電極の金属電極A側もしくはB側表面、金属電極Ｅの金属電極Ｃ側もしくはＤ側表面、または金属電極Ｇ１もしくはＧ２表面で成長した金属フィラメントが収縮するように金属電極Ｂ側もしくはＡ側、金属電極Ｄ側もしくはＣ側、または金属電極Ｇ２もしくはＧ１に電圧を印加する処理を行う。
（b）（a）の処理をすべての（M個の）ニューロンについて実行する（同時並行的に実行されることが望ましい）。
（c）（b）の処理を平衡状態に達するまでT回反復する。
（a）所定の規則に従い、個々の金属フィラメントの成長と収縮を誘導する電圧の印加状態を決定する処理を行い、クロスバー結節点の対応する各綱引き型原子スイッチにおいて、固体電解質電極の金属電極A側もしくはB側表面、金属電極Ｅの金属電極Ｃ側もしくはＤ側表面、または金属電極Ｇ１もしくはＧ２表面で成長した金属フィラメントが収縮するように金属電極Ｂ側もしくはＡ側、金属電極Ｄ側もしくはＣ側、または金属電極Ｇ２もしくはＧ１に電圧を印加する処理を行う。
（b）（a）の処理をすべての（M個の）ニューロンについて実行する（同時並行的に実行されることが望ましい）。
（c）（b）の処理を平衡状態に達するまでT回反復する。
上記の所定の規則としては、バウンスバックルールが好適である。バウンスバックルールは、指数関数的に成長する状態空間において、たとえば制約を充足する状態を探索するために、複数の状態変数が、制約を充足できない状態への遷移を抑制する「バウンスバックルール」ルールを呼ばれる制約規制によるフィードバック制御を受けながら、確率的な「揺らぎ」を伴って時間発展する。このように、試行錯誤しながら状態空間を探索する過程で、制約規則による抑制を受けないような平衡状態に到達するときに安定化し、制約充足解が得られることになる。
本発明の一つの実施態様において、本発明のクロスバー構造を用いて、複数の論理変数(x1〜xN)からなる論理式で記述された複数の論理的制約条件（例えば(xi∨xj∨¬xk)）をすべて充足できるような論理変数に対する真偽値の割り当てを解とする組合せ最適化問題を最適化問題として解く際システムが提供される。
各論理変数の真の値（xi=1）と偽の値（xi=0）を、クロスバー結節点の各綱引き型原子スイッチにおいて、それぞれ固体電解質電極の金属電極A側もしくはB側表面、金属電極Ｅの金属電極Ｃ側もしくはＤ側表面、または金属電極Ｇ１もしくはＧ２表面で金属フィラメントが成長した状態に対応させる。
金属電極に電圧を印加した際には、固体電解質電極表面、あるいは金属表面で金属フィラメントが成長するが、原子スケールの揺らぎにより金属フィラメントの成長の仕方は確率的なばらつきを持ち、その確率を適切な値に調節可能にすることを前提とする。
各論理的制約条件（例えば(xi∨xj∨¬xk)）に対し、それに関与する論理変数の現時点での真偽値の割り当てによってはその論理的制約条件を充足できないとき（例えばxi=0, xj=0, xk＝1）は、対応する各綱引き型原子スイッチにおいて固体電解質電極の金属電極A側もしくはB側表面、金属電極Ｅの金属電極Ｃ側もしくはＤ側表面、または金属電極Ｇ１もしくはＧ２表面に形成された金属フィラメントが収縮するように金属電極Ｂ側もしくはＡ側、金属電極Ｄ側もしくはＣ側、または金属電極Ｇ２もしくはＧ１に電圧を印加する（xi=0→1, xj=0→1, xk＝1→0）処理を行い、この処理を反復して適用することにより、確率的な挙動により状態空間の探索が行われ、最終的に金属フィラメント成長状態が変化しないような平衡状態に達したときに最適化問題の解が得られる。
上記の「確率を適切な値に調節」は、前記のとおりである。
ここで、「処理を反復して適用する」についてさらに詳述する。論理的制約条件が、たとえば 制約条件1, 制約条件2, ...，制約条件SまでS個あるとする。
（ａ）各制約条件sについて、それに関与する論理変数の現時点での真偽値の割り当てによってはその論理的制約条件sを充足できないときは、対応する各綱引き型原子スイッチにおいて固体電解質電極の金属電極A側もしくはB側表面、金属電極Ｅの金属電極Ｃ側もしくはＤ側表面、または金属電極Ｇ１もしくはＧ２表面に形成された金属フィラメントが収縮するように金属電極Ｂ側もしくはＡ側、金属電極Ｄ側もしくはＣ側、または金属電極Ｇ２もしくはＧ１に電圧を印加する処理を行う。
（ｂ）（a）の処理を、S個のすべての制約条件について実行する（同時並行的に実行されることが望ましい）。
（ｃ）（b）の処理を、平衡状態に達するまでT回反復する。
（ａ）各制約条件sについて、それに関与する論理変数の現時点での真偽値の割り当てによってはその論理的制約条件sを充足できないときは、対応する各綱引き型原子スイッチにおいて固体電解質電極の金属電極A側もしくはB側表面、金属電極Ｅの金属電極Ｃ側もしくはＤ側表面、または金属電極Ｇ１もしくはＧ２表面に形成された金属フィラメントが収縮するように金属電極Ｂ側もしくはＡ側、金属電極Ｄ側もしくはＣ側、または金属電極Ｇ２もしくはＧ１に電圧を印加する処理を行う。
（ｂ）（a）の処理を、S個のすべての制約条件について実行する（同時並行的に実行されることが望ましい）。
（ｃ）（b）の処理を、平衡状態に達するまでT回反復する。
さらに、組合せ最適化問題におけるバウンスバックルールの別の一例を挙げる。
φ＝(x1∨¬x2) ∧(¬x2∨x3∨¬x4) ∧(x1∨x3) ∧(x2∨¬x3) ∧(x3∨¬x4) ∧(¬x1∨x4)という６個の節の論理積によって構成される論理式は、φ＝１を実現できる唯一の解(x1，x2，x3，x4)＝（1,1,1,1）を有する。ここで、システムがx1＝０という割り当てを試みたとすると、φの第１の節(x1∨¬x2)を１とするには「x2が１であってはいけない」。なぜなら、x2＝１のとき、第１の節は偽（0）となり、論理式全体を充足できない（φ＝0）からである。同様に、第３の節(x1∨x3)を１とするには、「x３が０であってはいけない」。このように、論理式から各変数に応じたバウンスバックルールに基づく制御を繰り返し適用して解探索する。
φ＝(x1∨¬x2) ∧(¬x2∨x3∨¬x4) ∧(x1∨x3) ∧(x2∨¬x3) ∧(x3∨¬x4) ∧(¬x1∨x4)という６個の節の論理積によって構成される論理式は、φ＝１を実現できる唯一の解(x1，x2，x3，x4)＝（1,1,1,1）を有する。ここで、システムがx1＝０という割り当てを試みたとすると、φの第１の節(x1∨¬x2)を１とするには「x2が１であってはいけない」。なぜなら、x2＝１のとき、第１の節は偽（0）となり、論理式全体を充足できない（φ＝0）からである。同様に、第３の節(x1∨x3)を１とするには、「x３が０であってはいけない」。このように、論理式から各変数に応じたバウンスバックルールに基づく制御を繰り返し適用して解探索する。
本発明の一つの実施態様において、本発明のクロスバー構造を用いて、ニューラルネットによる学習を行う際に、以下のように最適化問題の解探索システムを提供し得る。
第ｋ層にニューロンがＮ個あり、第ｋ±１層にニューロンがＭ個ある二層のオートエンコーダーにおいて、第ｋ層のニューロンは第ｋ±１層のすべてのニューロンに結合されており、このとき結合部の数はＮ×Ｍになり、各結合部の正の重み係数Xi,j,+と負の重み係数Xi,j,-を、クロスバー結節点の各綱引き型原子スイッチにおいてそれぞれ金属電極A側またはB側で成長した金属フィラメントの成長高さによって決まるコンダクタンスに対応させる。ここで綱引き型原子スイッチの排他的性質（綱引き動作）から、各結合部が正の重み係数と負の重み係数を同時にとることはない。
ここで、第ｋ±１層において、第ｋ＋１層は、第k層の状態から第k+1層の状態を計算する順方向の処理を意味するが、オートエンコーダーの処理は、第k+1層の状態から第k層の状態を計算する逆方向の処理も繰り返し得るので、この場合も含めて第k±1層と表し、深層学習で多層化されたシステムを考えることができる。
第ｋ層に２値の教師データ(U’1,U’2, …U’Ｎ)が与えられており、第ｋ±１層に２値の教師データ(U’N+1,U’N+2, …U’ Ｎ+M)が与えられている場合に、オートエンコーダーは、第ｋ層のあるデータが与えられたときに、それらの重み付け線形和に閾値関数fを適用して得られる第ｋ±１層のデータが、第ｋ±１層の教師データと一致するような重み係数行列(X1,N+1,+, X1,N+1,-,…. XN,M,+, XN,M,-)を解として求める処理を行う。
金属電極に電圧を印加した際には、固体電解質電極表面、あるいは金属表面で金属フィラメントが成長するが、原子スケールの揺らぎにより金属フィラメントの成長の仕方は確率的なばらつきを持ち、その確率を適切な値に調節可能にすることを前提とする。
第ｋ±１層のニューロンjに対し、それと結合されている第ｋ層のすべてのニューロンiに対する状態値(U1, …Ui, …UN)の重み付け線形和に閾値関数f(x)を適用して得られる値(0または1)
Ｕｊ＝ｆ（ΣｉＸｉ,ｊ,＋Ｕｉ＋Ｘｉ,ｊ,−Ｕｉ）
ここで、f(x)=1 (x>θ（閾値）のとき)；0（それ以外のとき）
が、教師データU’jと一致しないときは、クロスバー結節点の対応する各綱引き型原子スイッチにおいて固体電解質電極の金属電極A側もしくはB側表面、金属電極Ｅの金属電極Ｃ側もしくはＤ側表面、または金属電極Ｇ１もしくはＧ２表面で成長した金属フィラメントが収縮するように金属電極Ｂ側もしくはＡ側、金属電極Ｄ側もしくはＣ側、または金属電極Ｇ２もしくはＧ１に電圧を印加することを第ｋ±１層のすべてのニューロンについて反復して適用することにより、確率的な挙動により状態空間の探索を行う。
Ｕｊ＝ｆ（ΣｉＸｉ,ｊ,＋Ｕｉ＋Ｘｉ,ｊ,−Ｕｉ）
ここで、f(x)=1 (x>θ（閾値）のとき)；0（それ以外のとき）
が、教師データU’jと一致しないときは、クロスバー結節点の対応する各綱引き型原子スイッチにおいて固体電解質電極の金属電極A側もしくはB側表面、金属電極Ｅの金属電極Ｃ側もしくはＤ側表面、または金属電極Ｇ１もしくはＧ２表面で成長した金属フィラメントが収縮するように金属電極Ｂ側もしくはＡ側、金属電極Ｄ側もしくはＣ側、または金属電極Ｇ２もしくはＧ１に電圧を印加することを第ｋ±１層のすべてのニューロンについて反復して適用することにより、確率的な挙動により状態空間の探索を行う。
ここで、「反復して適用する」についてさらに詳述する。
（a）第ｋ±１層のニューロンjに対し、それと結合されている第ｋ層のすべてのニューロンiに対する状態値(U1, …Ui, …UN)の重み付け線形和に閾値関数f(x)を適用して得られる値(0または1)が、教師データU’jと一致しないときは、クロスバー結節点の対応する各綱引き型原子スイッチにおいて、固体電解質電極の金属電極A側もしくはB側表面、金属電極Ｅの金属電極Ｃ側もしくはＤ側表面、または金属電極Ｇ１もしくはＧ２表面で成長した金属フィラメントが収縮するように金属電極Ｂ側もしくはＡ側、金属電極Ｄ側もしくはＣ側、または金属電極Ｇ２もしくはＧ１に電圧を印加する処理を行う。
（b）（a）の処理を第ｋ±１層のすべての（M個の）ニューロンについて実行する（同時並行的に実行されることが望ましい）。
（c）（b）の処理を平衡状態に達するまでT回反復する。
（a）第ｋ±１層のニューロンjに対し、それと結合されている第ｋ層のすべてのニューロンiに対する状態値(U1, …Ui, …UN)の重み付け線形和に閾値関数f(x)を適用して得られる値(0または1)が、教師データU’jと一致しないときは、クロスバー結節点の対応する各綱引き型原子スイッチにおいて、固体電解質電極の金属電極A側もしくはB側表面、金属電極Ｅの金属電極Ｃ側もしくはＤ側表面、または金属電極Ｇ１もしくはＧ２表面で成長した金属フィラメントが収縮するように金属電極Ｂ側もしくはＡ側、金属電極Ｄ側もしくはＣ側、または金属電極Ｇ２もしくはＧ１に電圧を印加する処理を行う。
（b）（a）の処理を第ｋ±１層のすべての（M個の）ニューロンについて実行する（同時並行的に実行されることが望ましい）。
（c）（b）の処理を平衡状態に達するまでT回反復する。
このようにして、最終的に、第ｋ±１層のニューロンのベクトル(UN+1,UN+2, …UＮ+M)と教師データ(U’N+1,U’N+2, …U’ Ｎ+M)がすべて一致するような、重み係数行列(X1,N+1,+, X1,N+1,-,…. XN,M,+, XN,M,-)が解として得られる。
以下、実施例により本発明をさらに詳細に説明する。
実施例１
クロスバー構造を用いて、ニューラルネットによる学習を綱引き型原子スイッチによるオートエンコーダーで下記のように実装した例を図２に示す。ただし、簡略化のために、ｋ層にニューロンがＮ＝４個あり、ｋ＋１層にニューロンがＭ＝３個あるような二層のオートエンコーダーを示す。
実施例１
クロスバー構造を用いて、ニューラルネットによる学習を綱引き型原子スイッチによるオートエンコーダーで下記のように実装した例を図２に示す。ただし、簡略化のために、ｋ層にニューロンがＮ＝４個あり、ｋ＋１層にニューロンがＭ＝３個あるような二層のオートエンコーダーを示す。
図３は、本発明のクロスバー構造とオートエンコーダーでの実装を示す平面模式図である。抵抗の記号において、太線と細線はそれぞれ金属フィラメントが成長と収縮した状態を表す。
第ｋ層にニューロンがN個あり、第ｋ±１層にニューロンがM個ある二層のオートエンコーダーにおいて、第ｋ層のニューロンは第ｋ±１層のすべてのニューロンに結合されており、このとき結合部の数はN×Mになり、各結合部の正の重み係数Xi,j,+と負の重み係数Xi,j,-を、クロスバー結節点の各綱引き型原子スイッチにおいてそれぞれ金属電極A側またはB側で成長した金属フィラメントの成長高さによって決まるコンダクタンスに対応させた。ここで綱引き型原子スイッチの排他的性質から、各結合部が正の重み係数と負の重み係数を同時８とることはない。
第ｋ層に２値の教師データ(U’1,U’2, …U’N)が与えられており、第ｋ±１層に２値の教師データ(U’N+1,U’N+2, …U’ Ｎ+M)が与えられている場合に、オートエンコーダーは、第ｋ層のあるデータが与えられたときに、それらの重み付け線形和に閾値関数f（ｘ）を適用して得られる第ｋ±１層のデータが、第ｋ±１層の教師データと一致するような重み係数行列(X1,N+1,+, X1,N+1,-,…. XN,M,+, XN,M,-)を解として求める処理を行った。
ここで、金属電極に電圧を印加した際に通常は固体電解質電極表面または金属表面から金属原子が析出し金属フィラメントが成長するが、電圧を印加した場合でも原子スケールの揺らぎにより金属フィラメントの成長の仕方に確率的なばらつきが生じ、その確率を適切な値に調節できることを前提とする。
第ｋ±１層のニューロンjに対し、それと結合されている第ｋ層のすべてのニューロンiに対する状態値(U1, …Ui, …UN)の重み付け線形和に閾値関数f(x)を適用して得られる値(0または1)
Ｕｊ＝ｆ（ΣｉＸｉ,ｊ,＋Ｕｉ＋Ｘｉ,ｊ,−Ｕｉ）
ここで、f(x)=1 (x>θ（閾値）のとき)；0（それ以外のとき）
が、教師データU’jと一致しないときは、クロスバー結節点の対応する各綱引き型原子スイッチにおいて固体電解質電極の金属電極A側もしくはB側表面で成長した金属フィラメントが収縮するように金属電極Ｂ側もしくはＡ側に電圧を印加することを第ｋ±１層のすべてのニューロンについて行った。この処理を平衡状態に達するまでT回反復した。このように反復して適用することにより、確率的な挙動により状態空間の探索を行った。
Ｕｊ＝ｆ（ΣｉＸｉ,ｊ,＋Ｕｉ＋Ｘｉ,ｊ,−Ｕｉ）
ここで、f(x)=1 (x>θ（閾値）のとき)；0（それ以外のとき）
が、教師データU’jと一致しないときは、クロスバー結節点の対応する各綱引き型原子スイッチにおいて固体電解質電極の金属電極A側もしくはB側表面で成長した金属フィラメントが収縮するように金属電極Ｂ側もしくはＡ側に電圧を印加することを第ｋ±１層のすべてのニューロンについて行った。この処理を平衡状態に達するまでT回反復した。このように反復して適用することにより、確率的な挙動により状態空間の探索を行った。
最終的に、第ｋ±１層のニューロンのベクトル(U４+1,U４+2,U４+３)と教師データ(U’４+1,U’４+2,U’ ４+３)がすべて一致するような、重み係数行列(X1,N+1,+, X1,N+1,-,…. XN,M,+, XN,M,-)が解として得られた。
本発明によれば、ニューラルネットが持つパターン認識や特徴抽出などの分類機能と、それを実現するために必要となる学習機能とを、従来よりも簡便で小型かつ低消費電力の回路を用いて実現するハードウェアの構成を提供し得、ニューラルネット機能を有するコンピュータへの応用等が期待される。
Claims (8)
- 所定のクロスバー構造を用いて、複数の論理変数(x1〜xN)からなる論理式で記述された複数の論理的制約条件をすべて充足できるような論理変数に対する真偽値の割り当てを解とする組合せ最適化問題を最適化問題として解く最適化問題の解探索システムであって、
前記所定のクロスバー構造が、
固体電解質電極と二つの金属電極ＡおよびＢとの間のナノメートルオーダーの間隙において、金属電極に電圧を印加すると固体電解質電極表面から金属原子が析出し金属フィラメントが成長することを利用する原子スイッチを備え；
該原子スイッチでは、固体電解質電極内に含まれる金属原子数を一定の値に制限し、電極Ａ側に成長したフィラメントを構成する原子数と電極Ｂ側に成長したフィラメントを構成する原子数の総和を一定にすることで、固体電解質電極に対して、金属電極Ａ側または金属電極Ｂ側への電圧の印加により、一方の金属電極側に新たな金属フィラメントが成長する場合、他方の金属フィラメントは収縮するという綱引き型の動作をする原子スイッチであり；
該綱引き型原子スイッチは、複数の金属電極Ａが並行に並べられた層と複数の金属電極Ｂが並行に並べられた層の間に複数の固体電解質電極が並行に並べられた層が挟まれてなるクロスバー構造の結節点において構成されたクロスバー構造であり、
前記組合せ最適化問題を最適化問題として解く際に；
各論理変数の真の値（xi=1）と偽の値（xi=0）を、クロスバー結節点の各綱引き型原子スイッチにおいて、それぞれ固体電解質電極の金属電極Ａ側もしくはＢ側表面で金属フィラメントが成長した状態に対応させ；
金属電極に電圧を印加した際には、固体電解質電極表面、あるいは金属表面で金属フィラメントが成長するが、原子スケールの揺らぎにより金属フィラメントの成長の仕方は確率的なばらつきを持ち、その確率を適切な値に調節可能にすることを前提として；
各論理的制約条件に対し、それに関与する論理変数の現時点での真偽値の割り当てによってはその論理的制約条件を充足できないときは、対応する各綱引き型原子スイッチにおいて固体電解質電極の金属電極Ａ側もしくはＢ側表面に形成された金属フィラメントが収縮するように金属電極Ｂ側もしくはＡ側に電圧を印加する処理を行い、この処理を反復して適用することにより、確率的な挙動により状態空間の探索が行われ；
最終的に金属フィラメント成長状態が変化しないような平衡状態に達したときに最適化問題の解が得られることを特徴とする最適化問題の解探索システム。 - 所定のクロスバー構造を用いて、多層のニューラルネットによる学習を行う最適化問題の解探索システムであって、
前記所定のクロスバー構造が、
固体電解質電極と二つの金属電極ＡおよびＢとの間のナノメートルオーダーの間隙において、金属電極に電圧を印加すると固体電解質電極表面から金属原子が析出し金属フィラメントが成長することを利用する原子スイッチを備え；
該原子スイッチでは、固体電解質電極内に含まれる金属原子数を一定の値に制限し、電極Ａ側に成長したフィラメントを構成する原子数と電極Ｂ側に成長したフィラメントを構成する原子数の総和を一定にすることで、固体電解質電極に対して、金属電極Ａ側または金属電極Ｂ側への電圧の印加により、一方の金属電極側に新たな金属フィラメントが成長する場合、他方の金属フィラメントは収縮するという綱引き型の動作をする原子スイッチであり；
該綱引き型原子スイッチは、複数の金属電極Ａが並行に並べられた層と複数の金属電極Ｂが並行に並べられた層の間に複数の固体電解質電極が並行に並べられた層が挟まれてなるクロスバー構造の結節点において構成されたクロスバー構造であり、
前記学習を行う際に；
第ｋ層にニューロンがN個あり、第ｋ±１層にニューロンがM個ある二層のオートエンコーダーにおいて、第ｋ層のニューロンは第ｋ±１層のすべてのニューロンに結合されており、このとき結合部の数はN×Mになり、各結合部の正の重み係数Xi,j,+と負の重み係数Xi,j,-を、クロスバー結節点の各綱引き型原子スイッチにおいてそれぞれ金属電極Ａ側またはＢ側で成長した金属フィラメントの成長高さによって決まるコンダクタンスに対応させ、ここで綱引き型原子スイッチの排他的性質から、各結合部が正の重み係数と負の重み係数を同時にとることはない；
第ｋ層に２値の教師データ(U’1,U’2, …U’N)が与えられており、第ｋ±１層に２値の教師データ(U’N+1,U’N+2,…U’ Ｎ+M)が与えられている場合に、オートエンコーダーは、第ｋ層のあるデータが与えられたときに、それらの重み付け線形和に閾値関数fを適用して得られる第ｋ±１層のデータが、第ｋ±１層の教師データと一致するような重み係数行列(X1,N+1,+, X1,N+1,-,…. XN,M,+, XN,M,-)を解として求める処理を行い；
金属電極に電圧を印加した際には、固体電解質電極表面、あるいは金属表面で金属フィラメントが成長するが、原子スケールの揺らぎにより金属フィラメントの成長の仕方は確率的なばらつきを持ち、その確率を適切な値に調節可能にすることを前提として；
第ｋ±１層のニューロンjに対し、それと結合されている第ｋ層のすべてのニューロンiに対する状態値(U1, …Ui, …UN)の重み付け線形和に閾値関数f(x)を適用して得られる値(0または1)
Ｕｊ＝ｆ（ΣｉＸｉ,ｊ,＋Ｕｉ＋Ｘｉ,ｊ,−Ｕｉ）
ここで、f(x)=1 (x>θ（閾値）のとき)；0（それ以外のとき）
が、教師データU’jと一致しないときは、クロスバー結節点の対応する各綱引き型原子スイッチにおいて固体電解質電極の金属電極Ａ側もしくはＢ側表面で成長した金属フィラメントが収縮するように金属電極Ｂ側もしくはＡ側に電圧を印加することを第ｋ±１層のすべてのニューロンについて反復して適用することにより、確率的な挙動により状態空間の探索が行われ；
最終的に、第ｋ±１層のニューロンのベクトル(UN+1,UN+2, …UＮ+M)と教師データ(U’N+1,U’N+2, …U’ Ｎ+M)がすべて一致するような、重み係数行列(X1,N+1,+, X1,N+1,-,…. XN,M,+, XN,M,-)が解として得られることを特徴とする最適化問題の解探索システム。 - 所定のクロスバー構造を用いて、複数の論理変数(x1〜xN)からなる論理式で記述された複数の論理的制約条件をすべて充足できるような論理変数に対する真偽値の割り当てを解とする組合せ最適化問題を最適化問題として解く最適化問題の解探索システムであって、
前記所定のクロスバー構造が、
対向する金属電極ＣおよびＤの間のナノメートルオーダーの間隙が固体電解質で充填され、さらに固体電解質中に金属電極Ｅが設けられ、これらの金属電極に電圧を印加すると固体電解質から金属原子が析出して金属フィラメントが成長することを利用する原子スイッチを備え；
該原子スイッチでは、電極Ｅを取り囲む固体電解質内に含まれる金属原子数を一定の値に制限し、電極Ｃに成長したフィラメントを構成する原子数と電極Ｄに成長したフィラメントを構成する原子数の総和を一定にすることで、電極Ｅに対して、金属電極Ｃまたは金属電極Ｄへの電圧の印加により、前記金属電極Ｃ及び金属電極Ｄの一方の金属電極側に新たな金属フィラメントが成長する場合、他方の金属フィラメントは収縮するという綱引き型の動作をする原子スイッチであり；
該綱引き型原子スイッチは複数の金属電極Ｃが並行に並べられた層と複数の金属電極Ｄが並行に並べられた層の間に複数の固体電解質および金属電極Ｅが並行に並べられた層が挟まれてなるクロスバー構造の結節点において構成されるクロスバー構造であり、
前記組合せ最適化問題を最適化問題として解く際に；
各論理変数の真の値（xi=1）と偽の値（xi=0）を、クロスバー結節点の各綱引き型原子スイッチにおいて、それぞれ金属電極Ｅの金属電極Ｃ側もしくはＤ側表面で金属フィラメントが成長した状態に対応させ；
金属電極に電圧を印加した際には、固体電解質電極表面、あるいは金属表面で金属フィラメントが成長するが、原子スケールの揺らぎにより金属フィラメントの成長の仕方は確率的なばらつきを持ち、その確率を適切な値に調節可能にすることを前提として；
各論理的制約条件に対し、それに関与する論理変数の現時点での真偽値の割り当てによってはその論理的制約条件を充足できないときは、対応する各綱引き型原子スイッチにおいて金属電極Ｅの金属電極Ｃ側もしくはＤ側表面に形成された金属フィラメントが収縮するように金属電極Ｄ側もしくはＣ側に電圧を印加する処理を行い、この処理を反復して適用することにより、確率的な挙動により状態空間の探索が行われ；
最終的に金属フィラメント成長状態が変化しないような平衡状態に達したときに最適化問題の解が得られることを特徴とする最適化問題の解探索システム。 - 所定のクロスバー構造を用いて、多層のニューラルネットによる学習を行う最適化問題の解探索システムであって、
前記所定のクロスバー構造が、
対向する金属電極ＣおよびＤの間のナノメートルオーダーの間隙が固体電解質で充填され、さらに固体電解質中に金属電極Ｅが設けられ、これらの金属電極に電圧を印加すると固体電解質から金属原子が析出して金属フィラメントが成長することを利用する原子スイッチを備え；
該原子スイッチでは、電極Ｅを取り囲む固体電解質内に含まれる金属原子数を一定の値に制限し、電極Ｃに成長したフィラメントを構成する原子数と電極Ｄに成長したフィラメントを構成する原子数の総和を一定にすることで、電極Ｅに対して、金属電極Ｃまたは金属電極Ｄへの電圧の印加により、前記金属電極Ｃ及び金属電極Ｄの一方の金属電極側に新たな金属フィラメントが成長する場合、他方の金属フィラメントは収縮するという綱引き型の動作をする原子スイッチであり；
該綱引き型原子スイッチは複数の金属電極Ｃが並行に並べられた層と複数の金属電極Ｄが並行に並べられた層の間に複数の固体電解質および金属電極Ｅが並行に並べられた層が挟まれてなるクロスバー構造の結節点において構成されるクロスバー構造であり、
前記学習を行う際に；
第ｋ層にニューロンがN個あり、第ｋ±１層にニューロンがM個ある二層のオートエンコーダーにおいて、第ｋ層のニューロンは第ｋ±１層のすべてのニューロンに結合されており、このとき結合部の数はN×Mになり、各結合部の正の重み係数Xi,j,+と負の重み係数Xi,j,-を、クロスバー結節点の各綱引き型原子スイッチにおいてそれぞれ金属電極Ｃ側またはＤ側で成長した金属フィラメントの成長高さによって決まるコンダクタンスに対応させ、ここで綱引き型原子スイッチの排他的性質から、各結合部が正の重み係数と負の重み係数を同時にとることはない；
第ｋ層に２値の教師データ(U’1,U’2, …U’N)が与えられており、第ｋ±１層に２値の教師データ(U’N+1,U’N+2,…U’ Ｎ+M)が与えられている場合に、オートエンコーダーは、第ｋ層のあるデータが与えられたときに、それらの重み付け線形和に閾値関数fを適用して得られる第ｋ±１層のデータが、第ｋ±１層の教師データと一致するような重み係数行列(X1,N+1,+, X1,N+1,-,…. XN,M,+, XN,M,-)を解として求める処理を行い；
金属電極に電圧を印加した際には、固体電解質電極表面、あるいは金属表面で金属フィラメントが成長するが、原子スケールの揺らぎにより金属フィラメントの成長の仕方は確率的なばらつきを持ち、その確率を適切な値に調節可能にすることを前提として；
第ｋ±１層のニューロンjに対し、それと結合されている第ｋ層のすべてのニューロンiに対する状態値(U1, …Ui, …UN)の重み付け線形和に閾値関数f(x)を適用して得られる値(0または1)
Ｕｊ＝ｆ（ΣｉＸｉ,ｊ,＋Ｕｉ＋Ｘｉ,ｊ,−Ｕｉ）
ここで、f(x)=1 (x>θ（閾値）のとき)；0（それ以外のとき）
が、教師データU’jと一致しないときは、クロスバー結節点の対応する各綱引き型原子スイッチにおいて金属電極Ｅの金属電極Ｃ側もしくはＤ側表面で成長した金属フィラメントが収縮するように金属電極Ｄ側もしくはＣ側に電圧を印加することを第ｋ±１層のすべてのニューロンについて反復して適用することにより、確率的な挙動により状態空間の探索が行われ；
最終的に、第ｋ±１層のニューロンのベクトル(UN+1,UN+2, …UＮ+M)と教師データ(U’N+1,U’N+2, …U’ Ｎ+M)がすべて一致するような、重み係数行列(X1,N+1,+, X1,N+1,-,…. XN,M,+, XN,M,-)が解として得られることを特徴とする最適化問題の解探索システム。 - 所定のクロスバー構造を用いて、複数の論理変数(x1〜xN)からなる論理式で記述された複数の論理的制約条件をすべて充足できるような論理変数に対する真偽値の割り当てを解とする組合せ最適化問題を最適化問題として解く最適化問題の解探索システムであって、
前記所定のクロスバー構造が、
金属電極Ｆとこれに対向する２つの金属電極Ｇ１およびＧ２との間のナノメートルオーダーの間隙が固体電解質で充填され、金属電極に電圧を印加すると固体電解質電極表面から金属原子が析出し金属フィラメントが成長することを利用する原子スイッチを備え；
該原子スイッチでは、固体電解質内に含まれる金属原子数を一定の値に制限し、金属電極Ｇ１に成長したフィラメントを構成する原子数と金属電極Ｇ２に成長したフィラメントを構成する原子数の総和を一定にすることで、前記金属電極Ｆに対して、前記金属電極Ｇ１側またはＧ２側への電圧の印加により、前記金属電極Ｇ１または金属電極Ｇ２の一方の金属電極側に新たな金属フィラメントが成長する場合、他方の金属フィラメントではフィラメントが収縮するという綱引き型の動作をする原子スイッチであり；
該綱引き型原子スイッチは複数の金属電極Ｇ１が並行に並べられた層と複数の金属電極Ｇ１およびＧ２が並行に並べられた層の間に複数の固体電解質が並行に並べられた層が挟まれてなるクロスバー構造の結節点において構成されるクロスバー構造であり、
前記組合せ最適化問題を最適化問題として解く際に；
各論理変数の真の値（xi=1）と偽の値（xi=0）を、クロスバー結節点の各綱引き型原子スイッチにおいて、それぞれ金属電極Ｇ１もしくはＧ２表面で金属フィラメントが成長した状態に対応させ；
金属電極に電圧を印加した際には、固体電解質電極表面、あるいは金属表面で金属フィラメントが成長するが、原子スケールの揺らぎにより金属フィラメントの成長の仕方は確率的なばらつきを持ち、その確率を適切な値に調節可能にすることを前提として；
各論理的制約条件に対し、それに関与する論理変数の現時点での真偽値の割り当てによってはその論理的制約条件を充足できないときは、対応する各綱引き型原子スイッチにおいて金属電極Ｇ１もしくはＧ２表面に形成された金属フィラメントが収縮するように金属電極Ｇ２もしくはＧ１に電圧を印加する処理を行い、この処理を反復して適用することにより、確率的な挙動により状態空間の探索が行われ；
最終的に金属フィラメント成長状態が変化しないような平衡状態に達したときに最適化問題の解が得られることを特徴とする最適化問題の解探索システム。 - 所定のクロスバー構造を用いて、多層のニューラルネットによる学習を行う最適化問題の解探索システムであって、
前記所定のクロスバー構造が、
金属電極Ｆとこれに対向する２つの金属電極Ｇ１およびＧ２との間のナノメートルオーダーの間隙が固体電解質で充填され、金属電極に電圧を印加すると固体電解質電極表面から金属原子が析出し金属フィラメントが成長することを利用する原子スイッチを備え；
該原子スイッチでは、固体電解質内に含まれる金属原子数を一定の値に制限し、金属電極Ｇ１に成長したフィラメントを構成する原子数と金属電極Ｇ２に成長したフィラメントを構成する原子数の総和を一定にすることで、前記金属電極Ｆに対して、前記金属電極Ｇ１側またはＧ２側への電圧の印加により、前記金属電極Ｇ１または金属電極Ｇ２の一方の金属電極側に新たな金属フィラメントが成長する場合、他方の金属フィラメントではフィラメントが収縮するという綱引き型の動作をする原子スイッチであり；
該綱引き型原子スイッチは複数の金属電極Ｇ１が並行に並べられた層と複数の金属電極Ｇ１およびＧ２が並行に並べられた層の間に複数の固体電解質が並行に並べられた層が挟まれてなるクロスバー構造の結節点において構成されるクロスバー構造であり、
前記学習を行う際に；
第ｋ層にニューロンがN個あり、第ｋ±１層にニューロンがM個ある二層のオートエンコーダーにおいて、第ｋ層のニューロンは第ｋ±１層のすべてのニューロンに結合されており、このとき結合部の数はN×Mになり、各結合部の正の重み係数Xi,j,+と負の重み係数Xi,j,-を、クロスバー結節点の各綱引き型原子スイッチにおいてそれぞれ金属電極Ｇ１またはＧ２で成長した金属フィラメントの成長高さによって決まるコンダクタンスに対応させ、ここで綱引き型原子スイッチの排他的性質から、各結合部が正の重み係数と負の重み係数を同時にとることはない；
第ｋ層に２値の教師データ(U’1,U’2, …U’N)が与えられており、第ｋ±１層に２値の教師データ(U’N+1,U’N+2,…U’ Ｎ+M)が与えられている場合に、オートエンコーダーは、第ｋ層のあるデータが与えられたときに、それらの重み付け線形和に閾値関数fを適用して得られる第ｋ±１層のデータが、第ｋ±１層の教師データと一致するような重み係数行列(X1,N+1,+, X1,N+1,-,…. XN,M,+, XN,M,-)を解として求める処理を行い；
金属電極に電圧を印加した際には、固体電解質電極表面、あるいは金属表面で金属フィラメントが成長するが、原子スケールの揺らぎにより金属フィラメントの成長の仕方は確率的なばらつきを持ち、その確率を適切な値に調節可能にすることを前提として；
第ｋ±１層のニューロンjに対し、それと結合されている第ｋ層のすべてのニューロンiに対する状態値(U1, …Ui, …UN)の重み付け線形和に閾値関数f(x)を適用して得られる値(0または1)
Ｕｊ＝ｆ（ΣｉＸｉ,ｊ,＋Ｕｉ＋Ｘｉ,ｊ,−Ｕｉ）
ここで、f(x)=1 (x>θ（閾値）のとき)；0（それ以外のとき）
が、教師データU’jと一致しないときは、クロスバー結節点の対応する各綱引き型原子スイッチにおいて金属電極Ｇ１もしくはＧ２表面で成長した金属フィラメントが収縮するように金属電極Ｇ２もしくはＧ１に電圧を印加することを第ｋ±１層のすべてのニューロンについて反復して適用することにより、確率的な挙動により状態空間の探索が行われ；
最終的に、第ｋ±１層のニューロンのベクトル(UN+1,UN+2, …UＮ+M)と教師データ(U’N+1,U’N+2, …U’ Ｎ+M)がすべて一致するような、重み係数行列(X1,N+1,+, X1,N+1,-,…. XN,M,+, XN,M,-)が解として得られることを特徴とする最適化問題の解探索システム。 - 請求項１から６のいずれか１項に記載の最適化問題の解探索システムであって、
前記固体電解質電極または固体電解質が硫化物系材料、酸化物系材料または高分子系材料である最適化問題の解探索システム。 - 請求項１から７のいずれか１項に記載の最適化問題の解探索システムであって、
前記金属電極がＰｔ、Ｃｕ，Ａｕ，ＴｉまたはＡｇである最適化問題の解探索システム。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2017063895A JP6974955B2 (ja) | 2017-03-28 | 2017-03-28 | クロスバー構造および最適化問題解探索システム |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2017063895A JP6974955B2 (ja) | 2017-03-28 | 2017-03-28 | クロスバー構造および最適化問題解探索システム |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2018166194A JP2018166194A (ja) | 2018-10-25 |
| JP6974955B2 true JP6974955B2 (ja) | 2021-12-01 |
Family
ID=63922954
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2017063895A Active JP6974955B2 (ja) | 2017-03-28 | 2017-03-28 | クロスバー構造および最適化問題解探索システム |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP6974955B2 (ja) |
Families Citing this family (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP6870476B2 (ja) * | 2017-05-26 | 2021-05-12 | 富士通株式会社 | 半導体装置及び半導体装置の製造方法 |
| JP7526484B2 (ja) | 2019-01-04 | 2024-08-01 | 慶應義塾 | 機械学習デバイス、及びその制御方法 |
| JP2020205405A (ja) | 2019-06-17 | 2020-12-24 | 三星電子株式会社Ｓａｍｓｕｎｇ Ｅｌｅｃｔｒｏｎｉｃｓ Ｃｏ．，Ｌｔｄ． | メモリスタ、及びそれを含むニューロモーフィック装置 |
Family Cites Families (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP5696988B2 (ja) * | 2011-06-08 | 2015-04-08 | 独立行政法人物質・材料研究機構 | シナプス動作素子 |
| US9792985B2 (en) * | 2011-07-22 | 2017-10-17 | Virginia Tech Intellectual Properties, Inc. | Resistive volatile/non-volatile floating electrode logic/memory cell |
| JP6011928B2 (ja) * | 2012-10-19 | 2016-10-25 | 国立研究開発法人理化学研究所 | 解探索システム及び方法、解探索プログラム |
-
2017
- 2017-03-28 JP JP2017063895A patent/JP6974955B2/ja active Active
Also Published As
| Publication number | Publication date |
|---|---|
| JP2018166194A (ja) | 2018-10-25 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Kukreja et al. | An introduction to artificial neural network | |
| Rajasekaran et al. | Neural networks, fuzzy logic and genetic algorithm: synthesis and applications (with cd) | |
| CN110428042B (zh) | 往复地缩放神经元的连接权重和输入值来挫败硬件限制 | |
| Zhang et al. | Convergence of gradient method with momentum for two-layer feedforward neural networks | |
| JP6974955B2 (ja) | クロスバー構造および最適化問題解探索システム | |
| Klidbary et al. | An adaptive efficient memristive ink drop spread (IDS) computing system | |
| Kumar et al. | Deep Learning as a Frontier of Machine Learning: A | |
| US11868893B2 (en) | Efficient tile mapping for row-by-row convolutional neural network mapping for analog artificial intelligence network inference | |
| Dale | Neuroevolution of hierarchical reservoir computers | |
| Kamarthi et al. | Neural networks and their applications in component design data retrieval | |
| Kalinli et al. | Training recurrent neural networks by using parallel tabu search algorithm based on crossover operation | |
| Singh | Proposing a New ANN model for solving XNOR problem | |
| Palnitkar et al. | A review of adaptive neural networks | |
| Nayak et al. | An artificial neural network model for weather forecasting in Bhopal | |
| Yen | Multi-objective evolutionary algorithm for radial basis function neural network design | |
| Yilmaz | Accuracy improvement in Ag: a-Si memristive synaptic device-based neural network through Adadelta learning method on handwritten-digit recognition | |
| US11133063B1 (en) | Suppressing undesired programming at half-selected devices in a crosspoint array of 3-terminal resistive memory | |
| Schaefer et al. | The Recurrent Control Neural Network. | |
| Klimo et al. | Implementation of a Deep ReLU Neuron Network with a Memristive Circuit. | |
| Garimella et al. | Novel Ceiling Neuron Model and its Applications | |
| Katukam et al. | Engineering optimization using artificial neural network | |
| Yen et al. | Hierarchical rank density genetic algorithm for radial-basis function neural network design | |
| Braspenning | Neural cognodynamics | |
| Cherupally | Hierarchical Random Boolean Network Reservoirs | |
| Anandan et al. | Architectures and uses of Artificial Neural Networks in Water Resources Engineering: Infrastructure and Applications |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20180312 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20180312 |
|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200326 |
|
| RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20200326 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20200326 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20210210 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210302 |
|
| A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20210430 |
|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210617 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20211019 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20211105 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 6974955 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |