JP2020013172A - 電子回路およびそれを用いたニューラルネットワークの学習方法 - Google Patents

Abstract

【課題】人工ニューラルネットワークの学習において，結合強度を効率的に特定することができる技術を提供することにある。【解決手段】量子ドット，静電容量部，電気抵抗部を備える電子回路である。この電子回路では，量子ドットは第１の電極，第２の電極，および第３の電極を備え，第１の電極は第１の電位に接続され，第２の電極は第１の電流源に接続され，第３の電極は第２の電流源に接続されている。そして，電気抵抗部に流れる電子あるいはホールの電流量を測定可能な構成となっている。【選択図】図１

Description

本発明は，人工知能あるいはその機械学習技術に関する。

従来，量子ドット（Ｑｕａｎｔｕｍ Ｄｏｔ，略してＱＤ）という技術が知られている。例えば半導体において，結晶成長や微細加工により原子のド・ブロイ波長に相当する大きさの粒状の構造を作ると，電子はその領域に閉じこめられる。一般に，３次元全ての方向から電子またはホールを閉じ込めたものを量子ドットという（例えば非特許文献１）。

また，近年，人工知能の人工ニューロン，ニューラルネットワーク，機械学習といった技術が盛んに研究されている（例えば非特許文献２）。

非特許文献３は，後述の実施例で参照される電流ミラー素子に関する文献である。

M. Sugawara, "Self-Assembled InGaAs/GaAs Quantum Dots", Semiconductors and Semmimetals, Vol. 60 (1999). P. Smolensky, M. C. Mozer , D. E. Rumelhart, "Mathematical Perspectives on Neural Network," Lawrence Erlbaum Associates (1996). D. Nandi, A. D. K. Finck, J. P. Eisenstein, L. N. Pfeiffer and K. W. West," Exciton condensation and perfect Coulomb drag", Vol. 488, pp.481-.484 (2012).

人工知能は，脳の神経構造を参考にして人工ニューロンをネットワーク状に結合させたニューラルネットワークによって人間の知的能力のような機能をコンピュータ上で実現する技術である。人工知能によって，例えば，写真の被写体が猫か犬かを判別したり，音声から文字を書き起こしたりできる。こうした機能を発揮させるためには，予めニューラルネットワーク中の人工ニューロン間の結合強度を調整し，最適値に設定する必要がある。現在，人工ニューロン数は１００万程度，人工ニューロン同士の結合の数は１０億にも及ぶニューラルネットワークも実装されるようになってきているが，ニューラルネットワークの規模の増大に伴って，前述した結合強度の最適値探索（機械学習と呼ばれる）に要する時間が問題になっている。

この問題に対する解決アプローチとして，最適値探索のアルゴリズムの改良とハードウェアによる処理の並列化がある。前者には，遺伝的アルゴリズムを採用したものや最急降下法を用いた例が知られている。後者には，グラフィックスプロセッシングユニット（ＧＰＵ）の様に並列処理を得意とするプロセッサを利用した並列計算が知られている。どちらも計算時間の短縮に関して一定の効果はあるが，ニューラルネットワークの規模に対する指数関数的な計算時間の増大する問題の解決には至っていない。

一般的に，ニューラルネットワークは，入力および結合強度から出力を求めることは容易である一方で，その一種の逆問題である入力と出力から結合強度を解析的に求めることは困難である。そのため，既存の機械学習では，所望の出力が得られるように結合強度の最適値を試行錯誤しながら探索せざるを得ない。このことがニューラルネットワークの規模に対する機械学習の所要時間の指数関数的増加の要因となっている。なお，バックプロパゲーションなどのアルゴリズムの改良によって，一定程度の高速化はなされているが，依然として指数関数的な問題の範疇にとどまっている（例えば非特許文献２）。

機械学習を，数学的手法のみで効率化を図るのはのは困難であると考えられるので，まったく別のアプローチでニューラルネットワークの結合強度の最適値を求める方法が期待される。

本発明が解決しようとする課題は，人工ニューラルネットワークの学習において，結合強度を効率的に特定することができる技術を提供することにある。

本発明の好ましい一側面は，量子ドット，静電容量部，電気抵抗部を備える電子回路である。この電子回路では，量子ドットは第１の電極，第２の電極，および第３の電極を備え，第１の電極は第１の電位に接続され，第２の電極は第１の電流源に接続され，第３の電極は第２の電流源に接続されている。そして，電気抵抗部に流れる電子あるいはホールの電流量を測定可能な構成となっている。

本発明の好ましい他の一側面は，量子ドット，静電容量部，電気抵抗部を備える電子回路を用いたニューラルネットワークの学習方法である。この電子回路では，量子ドットは第１の電極，第２の電極，および第３の電極を備え，第１の電極は第１の電位に接続され，電気抵抗部に流れる電子あるいはホールの電流量を測定可能な構成となっている。ニューラルネットワークの学習においては，第２の電極に接続した第1の電流源に教師データの問題に対応する電流値を設定する第１のステップ，第３の電極に接続した第２の電流源に教師データの解答に対応する電流値を設定する第２のステップ，電気抵抗部に流れる電子あるいはホールの電流量を測定する第３のステップ，電子回路に対応したニューラルネットワークを構成する第４のステップ，ニューラルネットワークの結合強度として，電流量に対応した値を設定する第５のステップ，を含む。

上記両側面において、より具体的かつ好ましい態様では、第１の電位から量子ドットを介して第１の電極と第２の電極に電子あるいはホールを安定して流し，量子ドットと第２の電極の間に流れる電子あるいはホールの電流量と，量子ドットと第３の電極の間に流れる電子あるいはホールの電流量とを，非線形の関係にする。

人工ニューラルネットワークの学習において，結合強度を効率的に特定することができる。

実施例１にかかるＱＤ人工ニューロンの一例の回路図。 実施例１にかかるＱＤ人工ニューロンの他の例の回路図。 実施例１にかかる解決原理を説明する模式図。 実施例１にかかる解決原理を説明するグラフ図。 実施例１にかかる効果を説明するグラフ図。 実施例１にかかる効果を説明するグラフ図。 実施例２にかかるＱＤ人工ニューロンの一例の回路図。 実施例２にかかるＱＤ人工ニューロンの他の例の回路図。 実施例２にかかる解決原理を説明するグラフ図。 実施例３にかかるＱＤ人工ニューロンの一例の回路図。 実施例３にかかる人工ニューロンの模式図。 実施例３にかかるＱＤ人工ニューロンの一例の回路図。 実施例３にかかるＱＤ人工ニューロンの一例の回路図。 実施例３にかかるＱＤ人工ニューロンの一例の回路図。 実施例３にかかる人工ニューロンの学習処理の流れを説明するフロー図。 実施例４にかかる入力と出力の関係を示すグラフ図。 実施例４にかかる効果を示すグラフ図。 実施例５にかかるＱＤ人工ニューロンの一例の回路図。

上記した以外の課題、構成、および効果は、以下の実施形態の説明により明らかにされる。以下では実施の形態について、図面を用いて詳細に説明する。ただし、本発明は以下に示す実施の形態の記載内容に限定して解釈されるものではない。本発明の思想ないし趣旨から逸脱しない範囲で、その具体的構成を変更し得ることは当業者であれば容易に理解される。

以下に説明する発明の構成において、同一部分又は同様な機能を有する部分には同一の符号を異なる図面間で共通して用い、重複する説明は省略することがある。

同一あるいは同様な機能を有する要素が複数ある場合には、同一の符号に異なる添字を付して説明する場合がある。ただし、複数の要素を区別する必要がない場合には、添字を省略して説明する場合がある。

本明細書等における「第１」、「第２」、「第３」などの表記は、構成要素を識別するために付するものであり、必ずしも、数、順序、もしくはその内容を限定するものではない。また、構成要素の識別のための番号は文脈毎に用いられ、一つの文脈で用いた番号が、他の文脈で必ずしも同一の構成を示すとは限らない。また、ある番号で識別された構成要素が、他の番号で識別された構成要素の機能を兼ねることを妨げるものではない。

図面等において示す各構成の位置、大きさ、形状、範囲などは、発明の理解を容易にするため、実際の位置、大きさ、形状、範囲などを表していない場合がある。このため、本発明は、必ずしも、図面等に開示された位置、大きさ、形状、範囲などに限定されない。

本願の発明者は，入力と出力を与えると自発的に結合強度を与えるような特別な人工ニューロン素子を作り，これによってニューラルネットワークを構成すれば，試行錯誤による探索なしで結合強度を求められるのではないかと構想した。この構想のためにエネルギー的に安定な状態になろうとする自然の力に従って与えた入力と出力の下で結合強度が自発的に適切な大きさになるような特別な人工ニューロンを考案した。なお，従来の一般的な人工ニューロン素子は，入力と結合強度に依存して出力を決定する方式であり，発明者の考案した人工ニューロン素子とは機能も使い方も異なる。

以下の実施例では，入力と出力を与えた時に自発的に結合強度が最適値となるような人工ニューロン素子を作ることと，これのネットワーク化手法について説明する。実施例においては，量子ドット（ＱＤ）の非線形電気伝導を利用する。量子ドットは典型的なサイズが数十ナノメートルの半導体あるいは金属の微小構造である。通常の導体が電圧と電流が比例するオーム抵抗性を持つのに対して量子ドットは，電圧に対して電流が比例しない非オーム抵抗性をもつ。

量子ドット，静電容量，電気抵抗，電源を組み合わせた構造あるいは構成（以下，ＱＤ人工ニューロンと呼ぶ）を利用すると，入力電流に対する出力電流の関係が非線形関数となるように入出力関係を設計できる。入出力関係がこの非線形関数から外れた条件では，静電容量の帯電エネルギーが不安定であるため，エネルギーの安定化作用によって，入出力関係が設計された非線形関数上に乗るように変化する。このとき，抵抗を介して外部へと電流を排出したり，逆に，外部から電流を供給したりする流れが自発的に発生する。この電流は，人工ニューロンの結合強度に対応づけることができるので，電流を測ることで入出力に応じた最適な結合強度を知ることができる。

ＱＤ人工ニューロンを構成要素とするニューラルネットワークには，電流源，電流計，および電流ミラー効果を有する構造あるいは素子（例えば非特許文献３）を設けた回路を構成する。電流源に電流を流した時に回路に流れる電流を測定し，そこからネットワークの結合強度を得ることができる。

実施例１では，量子ドットを利用した最小規模の人工ニューロンの構成，原理そして結果を記述する。まず，実施例１の構成を記述する。

図１は，ＱＤ人工ニューロンの基本的な回路構成例を示した図である。ＱＤ人工ニューロンの構成要素は，量子ドット００１，電気抵抗００２，静電容量００３，電位００４，電流計００８，００９，電流源０１０，０１１である。量子ドット００１は，例えば非特許文献１などの公知の方法で実現する。量子ドット００１を含め，図１に示すような回路構成は，半導体プロセスを適用して作成することができる。

量子ドットの特徴は，ナノスケールの空間領域を持つこと，トンネル効果によって空間領域を出入りできること，量子ドットと外部との間の電子の出入りを制御できることである。この特徴を利用して多様な電気特性を設計することができる。量子ドットは，例えば，化合物半導体を用いることで作られる。

例えば，AlGaAsとGaAsの２種類の化合物半導体層の積層構造において，AlGaAsにSiをドープするとAlGaAsとGaAsの境界に２次元電子ガスと呼ばれる伝導電子が蓄積した層が形成される。この電子は，x,y面内は伝導することができるが，z方向には伝導できない。すなわち，電子はz方向に閉じ込められている。またAlGaAs/GaAs積層構造の表面に設けたゲート電極に負電圧を印可すると，２次元電子ガス層面内でゲート電極直下付近に静電ポテンシャルの壁を作ることができる。これによってx,y方向の閉じ込めが可能となる。電子が閉じ込められた静電ポテンシャルのくぼ地が量子ドットに対応する。量子ドットの外側に広がる電子の存在領域は，量子ドットの電気的な端子として働く。

静電容量００３は，設計事項であり，寄生容量を含んでも良い。同様に抵抗００２も設計事項である。電気抵抗は，チップ抵抗などの集積部品だけでなく，公知の半導体プロセスによる，量子細線や量子ポイントコンタクトといった構造や形状に由来する抵抗性も想定している。また，電極００５，００６，００７は，それぞれ，電流源０１０，電流源０１１，電位００４に接続されている。電極００５，００６，００７は，たとえば上述の量子ドットの外側に広がる２次元電子ガスであってもよく，物理的な電極構造の有無を問わない。

図２は，ＱＤ人工ニューロンの他の回路構成例を示した図である。図１の電流計００８，００９に代えて，電気抵抗と電圧計を並列接続した組み合わせによる電流計０１２，０１３で間接的に電流を測定する。

電位００４は，電極００７の電位を時間に対して一定に保っていることを示しているに過ぎず，必ずしも電圧源と量子ドットの近接関係を示しているわけではない。電流源０１０，０１１や電流計００８，００９や電圧計は，単に接続関係を図示したに過ぎず，量子ドット００１の近傍に存在するとは限らない。

電流源０１０，電流源０１１，電気抵抗００２や静電容量００３が接続されているグラウンド０１９−１〜０１９−３，１９００は基準の電位を意味し，必ずしも大地の電位ではなくとも本実施例の想定内である。また，それぞれが異なった電位でもよい。電流源０１０，０１１は，時間的に対して一定な使い方だけでなく，変動する使い方をすることも本実施例の想定内である。また，本実施例はミニマムの構成要件のみを記載しているので，図１あるいは図２の回路に対して電気抵抗，静電容量，インダクタンス，電流計，電圧計等の回路要素を付け加えた場合や電位の測定により電流を推定する手段をとる場合も本実施例の想定内である。

図１や図２等の構成において，図示された構成全てを半導体装置として例えば１つの半導体チップで構成してもよい。あるいは，量子ドット００１，電極００５〜００７，抵抗や容量の一部または全部を半導体装置で構成し，電流源０１０，０１１や電流計００８，００９，０１２，０１３等は半導体装置外の別装置とし、半導体装置に設けた端子を介して測定してもよい。

次に，ＱＤ人工ニューロンの動作と結合強度が特定される原理を記述する。図１や図２に示したように，量子ドット００１は，３つの電極００５，００６，００７を持つ。発明者は，量子ドットのトンネル障壁の厚みや電源の電圧を適切に調整すると，静電容量００３の帯電エネルギーＵが，図１および図２の電流ｉ_ｉｎと出力電流Ｉ_ｏｕｔ（＝ｉ_ｏｕｔ）が特定の条件で最小となるような，エネルギーの谷構造を設計できることを見出した。

調整手法の一例を挙げると，図１において量子ドット００１と電極００７とのトンネル障壁の厚みを，量子ドット００１と電極００５，電極００６とのトンネル障壁の厚みに比べて十分薄くする。また，電位００４に関しては電極００５や００６の電圧に比べて十分に負あるいは正（量子ドットに閉じ込めるのが電子かホールかによって符号が反転する）とする。

調整を行なうことにより，図１の回路構成で，電位００４から量子ドット００１を介して電極００５と００６に電子あるいはホールを安定して流し，電流ｉ_ｉｎと電流ｉ_ｏｕｔの関係を非線形関数にすることができる。非線形関数の例としては，後に示す図４のような関係である。量子ドットにより実現される非線形関数は，人工ニューロンのノードにおける活性化関数に対応づけることができる。

図３は，当該エネルギーの谷構造を示す概念図である。発明者の研究によると，図３においてエネルギー最小（谷底３０１）となる条件は，図１あるいは図２の電流ｉ_ｉｎと出力電流Ｉ_ｏｕｔ（＝ｉ_ｏｕｔ）が式１を満たすときである。

ここでｅ＝＋−１.６０２×１０^−１９クーロン（正負は電子，ホールの別による）は電気素量，Γは量子ドット００１と電極００５，００６の間の障壁に着目したときに，その障壁を電子あるいはホールが1秒間にトンネルできる平均の回数である。なお，調整方法の一例として挙げたように，量子ドット００１と電極００７とのトンネル障壁の厚みを，量子ドット００１と電極００５，電極００６とのトンネル障壁の厚みに比べて十分薄くした場合，量子ドット００１と電極００７との間で電荷が1秒間にトンネルできる平均の回数は上記Γの約１００倍以上になる。

ところで，電流の保存則からＩ_ｉｎ＝ｉ_ｉｎ＋ｄｉ_ｆだから，式１は式２の様にも書くこともできる。

図４は，ＱＤ人工ニューロンの入力電流Ｉ_ｉｎ（ｉ_ｉｎ）と出力電流Ｉ_ｏｕｔを定めた時の，エネルギー的に安定な状態に至る過程を説明するための図であり，図中の曲線４０１は図３のエネルギーの谷構造を上方から見た時の谷底３０１に相当する。黒い丸印は，ｔ＝０の状態，白い丸印はｔ＞＞０の状態を表している。時刻ｔ＝０でｄｉ_ｆ＝０とすると，ｉ_ｉｎ＝Ｉ_ｉｎである。一般に，ｉ_ｉｎ＝Ｉ_ｉｎは式１で示す安定の条件は満たさないので，エネルギー的に不安定な状態となる。そこで，ｄｉ_ｆの電流が流れることで，式１を満たすようにＱＤ人工ニューロンが自発的にｉ_ｉｎを調整する作用が働く。

ところで，人工ニューロンの入出力関係は，一般に式３のように記述される。

ここで、ｘは入力，ｙは出力，ｗは結合強度，ｈは非線形関数を表す。式３は，ｄｘ＝（ｗ−１）ｘによって，ｙ＝ｈ（ｘ＋ｄｘ）とも書き直すことができる。従って式２は式３をｘ→Ｉ_ｉｎ，ｄｘ→−ｄｉ_ｆと読み替えたものである。以上の通り，ＱＤ人工ニューロンは，人工ニューロンとして働き，その結合強度ｗは，電流ｄｉ_ｆによって知ることができる。

図５を参照して，上記の原理をシミュレーションで確認した結果を記す。図５は，ＱＤ人工ニューロンに様々な入力電流Ｉ_ｉｎとＩ_ｏｕｔを与えたときに，一定時間経過後に測定した（ｉ_ｉｎ，Ｉ_ｏｕｔ）をｉ_ｉｎ−Ｉ_ｏｕｔグラフ上にプロットしたものである。全ての点が原理で予想した式１で示す理論線上に乗っていることを確認できる。この結果は逆に，（ｉ_ｉｎ，Ｉ_ｏｕｔ）が式１の条件上に乗るようにｄｉ_ｆが自発的に調整する働きをしていることも意味している。

図５のシミュレーションでは，説明を簡単にするために，図１や図２の抵抗００２の値Ｒ_ｆが十分に小さな場合としていた。

図６には，Ｒ_ｆを十分に大きくした場合のシミュレーション結果を示す。図６では，Γ＝１０^８Ｈｚ，Ｒ_ｆ＝１０^６Ωの条件でシミュレーションをしている。図５のシミュレーションとの違いは，安定になる条件（ｉ_ｉｎ，Ｉ_ｏｕｔ）が入力電流Ｉ_ｉｎに依存することである。シミュレーションによれば，全体的にＩ_ｉｎに依存してｉ_ｉｎ軸方向にシフトする結果となっている。シミュレーションの結果をもとにすると，式１は式４の様に修正される。

ｋやδ_ｓｆｔは，Ｒ_ｆに依存するパラメータである。なお，本実施例で用いる量子ドットは，従来公知の手法で実現するものとする。実現方法は例えば，先に述べた半導体積層構造を用いるもの，非特許文献１に記されている自己形成によるものなど種々のものが知られている。本実施例において量子ドットの実現方法は特に限定する必要はない。また，上記においてキャリアは電子だけでなくホールも想定している。図３〜図６は，電子の動く方向を電流の正の流れと定義して表示している。

実施例２では，ＱＤ人工ニューロンの別の構成を記述する。図７と図８はそれぞれ図１と図２の一部の配置を変更したものである。

図７は図１の構成と比較して，電流計００８を出力側に配置して，電流ｄ_ｉｂを測定するものである。

図８は図２の構成と比較して，電気抵抗と電圧計を並列接続した組み合わせ０１２を出力側に配置して，電流ｄ_ｉｂを測定するものである。

図９は，図７と図８の場合においてＱＤ人工ニューロンの入力電流ｉ_ｉｎと出力電流Ｉ_ｏｕｔ（ｉ_ｏｕｔ）を定めた時の，エネルギー的に安定な状態に至る過程を説明するための図であり，図中の曲線９０１はエネルギーの谷底に相当する。黒い丸印は，ｔ＝０の状態，白い丸印はｔ＞＞０の状態を表している。図７や図８の構成でも，図９に示すように，自発的に電流ｄｉ_ｂの調節がなされて，安定状態に至る。このとき，安定する電流状態は，式５の通り記述できる。

自発的に電流ｄｉ_ｂの調節がなされて，安定状態に至るという点では，実施例１と同様であり，人工ニューロンとして用いることができる。

実施例３では，実施例１や実施例２で説明したＱＤ人工ニューロンを利用した，ニューラルネットワークの例を記す。

図１０は，ＱＤ人工ニューロンを構成要素とするニューラルネットワークの一例を示している。電流源１０１〜１０４は，時間に対して一定あるいは変動する電流源を表している。抵抗００２，１０５〜１０８，１１３〜１１６は，チップ抵抗などの集積部品だけでなく，固体中で電子の動きを１次元方向に拘束するいわゆる量子細線や導体の間に挟まれた狭いくびれで，幅が電子波長と同程度であるいわゆる量子ポイントコンタクトといった構造や形状に由来する抵抗性も想定している。電流計１０９〜１１２，１１７〜１２０は，図２のように抵抗と電圧計の組み合わせで構成したものも含む。電流計の配置は一例であって，この構成に限るものではないが，抵抗００２に流れる電流値を求められることが望ましい。

点線で囲まれる部分は電流ミラー素子（それと等価な働きをする電流ミラー構造の概念を含む。以下同様）１２１−１，１２１−２をあらわしている。これは，一方に電流が流れるとそれと同じだけの電流がもう一方にも電流が流れることを特徴とする素子（あるいは構造）である。すなわち，対称に構成された回路に電子またはホール１０００が対称的に流れる。実験による例として，非特許文献３などがある。

斜線を施したブロックは，ＱＤ人工ニューロン１２３〜１２６を示しており，図１での電流源０１０，０１１，電流計００８，００９，電気抵抗００２を除いた部分をブラックボックスとして表示している。ＱＤ人工ニューロン１２３〜１２６は，図１などに示したように，電気抵抗００２を介して基準電位１９００に接続される。複数の基準電位１９００は必ずしも同一電位である必要はない。

図１０で，ＱＤ人工ニューロン１２３，１２５および１２４，１２６の間に電流ミラー素子１２１−１，１２１−２を配置した理由は次のようなものである。図１に示したＱＤ人工ニューロンでは，電位００４に接続された電極００７から量子ドット００１へ流れ込んだ電子あるいはホールが，電極００５，００６へと抜けていく構成になっている。そのため，量子ドット００１の入力側と出力側で電流の向きが逆になる。このため，ＱＤ人工ニューロンを多段にしてネットワーク化をする際に，構成が複雑になるのを避けるため，電流ミラー素子１２１で電流の向きを反転させ，電流源０１０から電流源０１１へ一方向に電流が流れるようにしている。

図１１には一般的に知られている，２層のニューラルネットワークの模式図を示す。周知のようにニューラルネットワークでは，人工ニューロン１１００の入力が複数あるとき，各入力と結合強度の積の総和が人工ニューロンの入力ｘとなり，非線形関数σ（ｘ）が出力となる。

図１０の構成は，図１１のニューラルネットワークと対応させることができる。ニューラルネットワークにおいて人工ニューロン１１００の数および接続関係は，千差万別であり，図１０，図１１はその一例に過ぎない。図１０，図１１に示した構成において，並列数を増やすことにより入力数を増やすことができる。また、直列数を増やすことにより階層数を増やすことができる。並列，直列の接続関係が図１０と同様であるニューラルネットワークはすべて実施例３の想定内である。最後に，ＱＤ人工ニューロンを構成要素とするニューラルネットワークで機械学習が可能であることを示すために，一例を挙げる。

図１２は，８つのＱＤ人工ニューロン２０３−１〜２０３−８を構成要素とする２入力６層のニューラルネットワークである。電流源２０１と電流源２０２の間に，ＱＤ人工ニューロン２０３−１〜２０３−８が配置される。ＱＤ人工ニューロン２０３は，図１において電流源０１０，０１１，電流計００９，抵抗００２を除いた部分に相当するものである。各ＱＤ人工ニューロン２０３は，図１や図１０と同様，電気抵抗００２を介して基準電位１９００に接続される。各層のＱＤ人工ニューロン２０３の間には，電流ミラー素子１２１が配置される。

機械学習のフローは，まず，このニューラルネットワークの入力電流ｉ_ｉｎおよび出力電流Ｉ_ｏｕｔに電流を流すことから始める。ｉ_ｉｎとＩ_ｏｕｔは，時間的に変動する場合も想定しているが，ここでは説明を簡単にするためにＩ_ｉｎ＝−１５ｐＡ，Ｉ_ｏｕｔ＝５ｐＡとした。このように電流を流し始めるとネットワーク内の各経路にも電流が流れ始める。そうした電流量は，最終的には，図４や図９で説明した通り，各ＱＤ人工ニューロンの帯電エネルギーが最小になる条件で安定化する。

図１３は，図１２に示した回路において，充分時間が経過した後の各経路の電流量を示している。どの程度の時間で安定状態に至るかは電気抵抗や静電容量の設計次第であるが，１マイクロ秒でも安定状態に至らせることは可能であるし，設計次第ではそれより短い時間で安定状態に至らせることも可能である。安定状態に至ったときの各経路の電流を，図１３中の矢印に対応付けて示した。図１３中の矢印に添えられた数字は電流量を，矢印は電流の正の方向を表している。

最後に，各電流量を記録する。特に重要な電流量は，図１２のｄｉ_ｆ１〜ｄｉ_ｆ８の電流量である。ｄｉ_ｆ１〜ｄｉ_ｆ８の電流は，ＱＤ人工ニューロンと基準電位１９００の間に流れる電流である。各基準電位１９００は必ずしも同電位でなくてもよい。機械学習としては以上である。ニューラルネットワークの動作時には，記録したｄｉ_ｆ１〜ｄｉ_ｆ８の電流を設定すると，所望の入力に対して所望の出力が得られる。

最後に，機械学習ができていることを確かめるために，図１２のニューラルネットワークのモデルに電流値を設定して，Ｉ_ｉｎ＝−１５ｐＡを入力したときに，所望のＩ_ｏｕｔ＝５ｐＡが得られるかを確かめる。図１２のニューラルネットワークのモデルとは，具体的には式６〜式１３で表現される数式モデルである。式６〜式１３から分かるように，各ＱＤ人工ニューロンはニューラルネットワークのノードに相当し，入力に対するノードの出力は電流値ｄｉ_ｆ１〜ｄｉ_ｆ８で決まる。よって，ノード間の結合強度（重み）は電流値ｄｉ_ｆ１〜ｄｉ_ｆ８に対応しているといえる。

ここで，

であり，δ_ｉは補正係数である。このケースでは，ｋ＝３，η＝０.６８，δ_ｉ＝０.０8ｐＡである。式６〜式１３を連鎖的に計算すると，Ｉ_ｉｎからＩ_ｏｕｔが求められる。このとき，変数であるｄｉ_ｆ１〜ｄｉ_ｆ８には，図１３で示したＱＤ人工ニューロンのニューラルネットワークで測定した電流量を設定する。

実際に計算してみると，Ｉ_ｉｎ＝−１５ｐＡのときに，所望のＩ_ｏｕｔ＝５ｐＡに対して，Ｉ_ｏｕｔ＝４．９１ｐＡが得られ，ＱＤ人工ニューロンのニューラルネットワークで機械学習ができていたことが確かめられる。

図１４には，式６〜式１３に基づいて計算した各経路の電流量を示している。その他の電流値は図１３と同じである。図１４を図１３と比較すると最終的な出力だけでなく，中間の電流まで，良く再現できている。

上記の機械学習において最も強調すべき点は，バックプロパゲーションなどの既存の機械学習では，結合強度の最適値を試行錯誤しながら探索しなければならないが，本実施例の機械学習は試行錯誤による最適地探索ではなく，単にエネルギー的に安定になる状態になるまで待つだけという点である。機械学習がニューラルネットワークの規模に対して指数関数的に増大する問題は試行錯誤による探索に起因しているので，本実施例の機械学習を用いればこれを回避することができ，機械学習の質的な高速化が見込める。

図１５に，以上の機械学習の流れをまとめた。本実施例による人工ニューラルネットワークの学習は，２つの段階を経て行なわれる。第１段階１５０１は，図１０や図１２に示したＱＤ人工ニューロンを用いたデバイスによる処理である。第１段階１５０１の処理においては，先ず，ＱＤ人工ニューロンにおいて，所望の入力データおよび出力データを，ＱＤ人工ニューロンに与える電流値Ｉ_ｉｎ，Ｉ_ｏｕｔとして設定する（Ｓ１５０２）。一般には入力データは教師データの問題に，出力データは教師データの解答に対応する。

次に，ＱＤ人工ニューロンの各部を流れる電流値が安定した後，電流値ｄ_ｉｆあるいはｄ_ｉｂを読み取る（Ｓ１５０３）。電流値ｄ_ｉｆあるいはｄ_ｉｂは，人工ニューラルネットワークに設定されるパラメータとして別途記録される。なお，第１段階は後述のように、計算機を用いたシミュレーターで代用することもできる。

第２段階１５０４は，問題を処理させるべくプログラムされた人工ニューラルネットワークに対する処理である。人工ニューラルネットワークは，図１０や図１２に示した回路を模してソフトウェア的に構成することができる。また，図１１に示した人工ニューラルネットワークは，たとえばＦＰＧＡ（Field-Programmable Gate Array）のようなハードウェアに実装できることが知られている。人工ニューラルネットワークの具体的な構成は，公知技術を踏襲してよい。

第２段階１５０４においては，ソフトウェアあるいはハードウェアで構成した人工ニューラルネットワークのパラメータとして，第１段階１５０１で記録した電流値ｄ_ｉｆあるいはｄ_ｉｂを設定することにより，結合強度の学習が行なわれる。

実施例１の学習の説明では，原理説明のため電流値Ｉ_ｉｎ，Ｉ_ｏｕｔを一定に設定したときの処理を例に説明した。しかし，ニューラルネットワークに学習させる教師データは複数あるのが一般的である。教師データが多数ある場合は，Ｉ_ｉｎ，Ｉ_ｏｕｔの電流量を時間的に変化させることで対応が可能である。具体的には，例えば図１０の電流源１０１〜１０４を，時間に対して変動する電流源として用い，教師データの問題と回答に対応する複数のＩ_ｉｎ，Ｉ_ｏｕｔの電流量を一定時間ごとに切り替える。

このように動作させると，ＱＤ人工ニューロンの帯電エネルギーは時間に対して変化する。このようにエネルギー（ポテンシャル）を時間に対して変調する例としてはイオントラップが挙げられる。イオントラップにおいては，時間的に変調するポテンシャルに対してイオンはその平均であるポテンシャルに従って動き，ポテンシャルにくぼみがあればそこにトラップされることが知られている。同様に，ＱＤ人工ニューロンの場合も，入出力を繰り返し変調したならば，帯電エネルギーはその平均が最小になるように振る舞うはずである。

したがって，教師データが多数ある場合は，多数組のＩ_ｉｎ，Ｉ_ｏｕｔの電流量を一定時間ごとに切り替え，所定時間の後ｄｉ_ｆ１〜ｄｉ_ｆ８の値が安定することをもって、学習終了とすればよい。

図１６は，複数の教師データを扱うために，Ｉ_ｉｎとＩ_ｏｕｔに時間的変化を与えた例を示す概念図である。この例では，解答であるＩ_ｏｕｔを一定とし，問題であるＩ_ｉｎを０からＨまで変調させ，それを複数回繰り返す単純なモデルを扱っている。Ｉ_ｉｎの変調のため，例えば図１２中の電流源２０１を変調させる。

図１７は，図１６の入出力を与えたときに，初期の状態と充分に時間が経過した時点の状態をシミュレーションした結果を示す概念図である。横軸がｉ_ｉｎ，縦軸がＩ_ｏｕｔ
であり，安定条件を線１７００で示している。曲線の向きが異なるが，これは図４〜図６のグラフと同様のものである。グラフ中の複数の丸印は回路中のＱＤ人工ニューロンの電流値（図１２であればｄｉ_ｆ１〜ｄｉ_ｆ８）を示す。

初期の状態である（ａ）では，ＱＤ人工ニューロンの電流値は安定状態である線１７００には収束していない。しかし，時間経過とともに「学習」が進み，充分な待機時間の後に測定した電流値は，安定条件である線１７００に収束することがわかる。

従って，複数の教師データがある場合には，それに応じて入力Ｉ_ｉｎおよび出力Ｉ_ｏｕｔの少なくとも一つを変調させることを複数回繰り返し，所定時間の経過を待って電流値を測定すればよい。

図１０に示したように，実施例３ではＱＤ人工ニューロン同士を，電流ミラー素子１２１を配置して組み合わせており，キャリアは例えば電流ミラー素子１２１の接地電位に流れている。それに対して，実施例５では電流ミラー素子を配置しない例を説明する。

図１８は，実施例５の基本的な構造を示す図である。図１８の通りニューラルネットワークをホール（または電子）１００１をキャリアとする回路部１６０１と，電子（またはホール）１００２をキャリアとする回路部１６０２を組み合わせて構成する。図１８に示すように電子１００２とホール１００１は互いに逆の方向に伝搬あるいは伝導するので，図１０中に示す電流ミラー素子１２１と同様のキャリアの動きを作り出すことができる。なお，ホール１００１と電子１００２は，回路部１６０１と回路部１６０２の境界で再結合により消滅する。

なお，図１８はホールをキャリアとする回路部１６０１と電子をキャリアとする回路部１６０２を組み合わせて構成するニューラルネットワークの一例を描いたものに過ぎない。ホールをキャリアとする回路部１６０１と電子をキャリアとする回路部１６０２をどのように構成するかは設計事項に過ぎない。

実施例１〜４のデバイスあるいは回路のビヘイビア（ふるまい）をシミュレーションすることもできる。すなわち、図１２等の電子回路に代えて，電子回路の動作を計算機上でシミュレーションするシミュレーターを用い，電流量の計算をシミュレーター上で行うことができる。そのような場合も，前述の実施例のアイディアに基づき，同様の効果が期待できるので，実施例の１つとして含まれる。

従来のコンピュータ上での機械学習は，互いに非独立な結合強度を１つずつ調整しながら，所望の出力が得られるまでトライ＆エラーを繰り返しながら探索する必要があり，そのことによって非効率かつ結合強度の数に対して計算時間が指数関数的に増大する問題があった。それに対して，以上詳細に説明した実施例によれば，ＱＤニューラルネットワークを利用することにより，より短時間での学習が可能となる。すなわち，ＱＤニューラルネットワークでは，結合強度の最適化に相当するＱＤ人工ニューロン同士の接続点における電流の過不足の調整は自発的かつすべてのＱＤ人工ニューロンで同時並行に行われるため，結合強度を試行錯誤無しに効率的に特定することができる。

００１・・・量子ドット
００２・・・電気抵抗
００３・・・静電容量
００４・・・電位
００５，００６，００７・・・電極
００８，００９・・・電流計
０１０，０１１・・・電流源
０１２，０１３・・・電流計
１０１，１０２，１０３，１０４・・・電流源
１２１・・・電流ミラー構造または素子

Claims (15)

1. 量子ドット，静電容量部，電気抵抗部を備え，
   前記量子ドットは第１の電極，第２の電極，および第３の電極を備え，
   前記第１の電極は第１の電位に接続され，
   前記第２の電極は第１の電流源に接続され，
   前記第３の電極は第２の電流源に接続され，
   前記電気抵抗部に流れる電子あるいはホールの電流量を測定可能な，
   電子回路。
2. 前記第１の電位から前記量子ドットを介して前記第１の電極と前記第２の電極に電子あるいはホールを安定して流し，
   前記量子ドットと前記第２の電極の間に流れる電子あるいはホールの電流量と，前記量子ドットと前記第３の電極の間に流れる電子あるいはホールの電流量とが，非線形の関係にある，
   請求項１記載の電子回路。
3. 前記量子ドットと前記第１の電極の間のトンネルレートは，前記量子ドットと前記第２の電極の間のトンネルレートおよび前記量子ドットと前記第３の電極の間のトンネルレートより大きい，
   請求項１記載の電子回路。
4. 前記第２の電極と前記第１の電流源の間の経路に並列に，前記静電容量部および前記電気抵抗部が配置される，
   請求項１記載の電子回路。
5. 前記第２の電極と前記第１の電流源の間の経路に並列に，前記静電容量部が配置され，前記第３の電極と前記第２の電流源の間の経路に並列に，前記電気抵抗部が配置される，
   請求項１記載の電子回路。
6. 第２の量子ドット，第２の静電容量部，第２の電気抵抗部をさらに備え，
   前記第２の量子ドットは第３の電極，第４の電極，および第５の電極を備え，
   前記第３の電極は第２の電位に接続され，
   前記第４の電極は前記第３の電極に接続され，
   前記第５の電極は前記第２の電流源に接続され，
   前記第４の電極と前記第３の電極の間に電流ミラー素子を配置して，ネットワーク構成とした，
   請求項１記載の電子回路。
7. 第２の量子ドット，第２の静電容量部，第２の電気抵抗部をさらに備え，
   前記第２の量子ドットは第３の電極，第４の電極，および第５の電極を備え，
   前記第３の電極は第２の電位に接続され，
   前記第４の電極は前記第３の電極に接続され，
   前記第５の電極は前記第２の電流源に接続され，
   前記量子ドット，静電容量部，電気抵抗部に流れるキャリアを電子（またはホール）とし，前記第２の量子ドット，第２の静電容量部，第２の電気抵抗部に流れるキャリアをホール（または電子）として，ネットワーク構成とした，
   請求項１記載の電子回路。
8. 前記第１の電流源および前記第２の電流源の少なくとも一つを時間的に変調させる，
   請求項１記載の電子回路。
9. 量子ドット，静電容量部，電気抵抗部を備え，
   前記量子ドットは第１の電極，第２の電極，および第３の電極を備え，
   前記第１の電極は第１の電位に接続され，
   前記電気抵抗部に流れる電子あるいはホールの電流量を測定可能な，
   電子回路，
   を用いたニューラルネットワークの学習方法であって，
   前記第２の電極に接続した第1の電流源に教師データの問題に対応する電流値を設定する第１のステップ，
   前記第３の電極に接続した第２の電流源に教師データの解答に対応する電流値を設定する第２のステップ，
   前記電気抵抗部に流れる電子あるいはホールの電流量を測定する第３のステップ，
   前記電子回路に対応したニューラルネットワークを構成する第４のステップ，
   前記ニューラルネットワークの結合強度として，前記電流量に対応した値を設定する第５のステップ，
   を含むニューラルネットワークの学習方法。
10. 前記電子回路を複数準備し，
    前記第２の電極および前記第３の電極を接続することにより多段構成とし，
    初段の電子回路の前記第２の電極に前記第１の電流源を接続し，
    終段の電子回路の前記第３の電極に前記第２の電流源を接続し，
    前記第２の電極および前記第３の電極の間には電流ミラー素子を配置し，
    前記第３のステップでは，各段を構成する前記電子回路の前記電気抵抗部に流れる電流量を測定し，
    前記第４のステップでは，前記ニューラルネットワークとして，多層ニューラルネットワークを構成し，
    前記第５のステップでは，前記多層ニューラルネットワークの各層の結合強度として，前記各段を構成する前記電子回路の前記電気抵抗部に流れる電流量に対応した値を設定する，
    請求項９記載のニューラルネットワークの学習方法。
11. 前記電子回路を複数準備し，
    前記第２の電極および前記第３の電極を接続することにより多段構成とし，
    初段の電子回路の前記第２の電極に前記第1の電流源を接続し，
    終段の電子回路の前記第３の電極に前記第２の電流源を接続し，
    前記多段構成の前記電子回路のキャリアは，電子とホールを交互に用いる構成とし，
    前記第３のステップでは，各段を構成する前記電子回路の前記電気抵抗部に流れる電流量を測定し，
    前記第４のステップでは，前記ニューラルネットワークとして，多層ニューラルネットワークを構成し，
    前記第５のステップでは，前記多層ニューラルネットワークの各層の結合強度として，前記各段を構成する前記電子回路の前記電気抵抗部に流れる電流量に対応した値を設定する，
    請求項９記載のニューラルネットワークの学習方法。
12. 前記電気抵抗部は，前記第２の電極と前記第１の電流源の間の経路と所定電位の間，および，前記第３の電極と前記第２の電流源の間の経路と所定電位の間の少なくとも一つに配置される，
    請求項９記載のニューラルネットワークの学習方法。
13. 前記電子回路に代えて，前記電子回路の動作を計算機上でシミュレーションするシミュレーターを用い，前記第１ないし第３のステップを前記シミュレーター上で行う，
    請求項９記載のニューラルネットワークの学習方法。
14. 前記量子ドットと前記第１の電極の間のトンネルレートは，前記量子ドットと前記第２の電極の間のトンネルレートおよび前記量子ドットと前記第３の電極の間のトンネルレートより大きい，
    請求項９記載のニューラルネットワークの学習方法。
15. 前記教師データとして，複数の問題と解答の組を用いる際に，
    前記第1の電流源に設定する電流値を変調させ，前記変調を複数回繰り返し，所定の時間の後に，前記第３のステップを行なう，
    請求項９記載のニューラルネットワークの学習方法。

Images