JP2007004514A - 人工神経回路 - Google Patents

人工神経回路 Download PDF

Info

Publication number
JP2007004514A
JP2007004514A JP2005184353A JP2005184353A JP2007004514A JP 2007004514 A JP2007004514 A JP 2007004514A JP 2005184353 A JP2005184353 A JP 2005184353A JP 2005184353 A JP2005184353 A JP 2005184353A JP 2007004514 A JP2007004514 A JP 2007004514A
Authority
JP
Japan
Prior art keywords
artificial neural
circuit unit
learning
internal node
variable resistance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2005184353A
Other languages
English (en)
Other versions
JP4728055B2 (ja
Inventor
Yukio Fuji
幸雄 藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Micron Memory Japan Ltd
Original Assignee
Elpida Memory Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Elpida Memory Inc filed Critical Elpida Memory Inc
Priority to JP2005184353A priority Critical patent/JP4728055B2/ja
Priority to US11/473,127 priority patent/US7548894B2/en
Publication of JP2007004514A publication Critical patent/JP2007004514A/ja
Application granted granted Critical
Publication of JP4728055B2 publication Critical patent/JP4728055B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/06Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons
    • G06N3/063Physical realisation, i.e. hardware implementation of neural networks, neurons or parts of neurons using electronic means

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Theoretical Computer Science (AREA)
  • Evolutionary Computation (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Artificial Intelligence (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Neurology (AREA)
  • Semiconductor Memories (AREA)

Abstract

【課題】 信号の入力履歴に応じた動作を行うことが可能な人工神経回路を提供する。
【解決手段】 入力信号Inの入力履歴を記憶する学習回路部10と、学習回路部10に接続された出力回路部20と、学習回路部10の入力履歴をリセットするリセット回路部30とを備える。学習回路部10は、入力履歴に応じて出力回路部20に含まれる内部ノードAの電位変動特性を変化させ、出力回路部20は、内部ノードAの電位がしきい値を超えた場合に出力動作を開始する。学習回路部10は、内部ノードAに接続された可変抵抗素子を含んでいることが好ましく、可変抵抗素子は、カルコゲナイド材料を含む相変化材料によって構成されていることが好ましい。本発明によれば、入力信号の入力履歴に応じた出力動作、例えば発振動作などが行われることから、実際の神経回路により近い動作を行うことが可能となる。
【選択図】 図2

Description

本発明は人工神経回路に関し、特に、学習機能を有する人工神経回路に関する。
近年、生物の神経回路を模した人工神経回路を用いて、ノイマン型コンピュータとは異なるタイプのコンピュータや人工知能などを実現する試みが数多くなされている。生物の神経回路は、神経細胞・軸索突起・樹状突起などを含むニューロンと、ニューロン同士を接続するシナプスが網目状に構成されており、ニューロンの興奮状態はシナプスを経て次のニューロンや、筋肉などの実行器へと伝達される。
このような神経回路を模した人工神経回路としては、特許文献1に記載されているように、興奮状態においてパルスを発生する細胞体回路(ニューロン回路)と、この細胞体回路に接続された複数のシナプス回路とを備えた人工神経回路が提案されている。特許文献1に記載された人工神経回路は、シナプス回路に設けられたレジスタの設定値を変化させることによって、当該シナプス回路の電流駆動能力を変化させることができ、このようなシナプス回路が細胞体回路に複数個接続された構造を有している。そして、細胞体回路に供給される電流が所定値を超えると細胞体回路が活性化し、興奮状態を示すパルスを発生する。
その他、人工神経回路に関する技術としては、特許文献2〜6に記載されたものが知られている。
特開平5−89268号公報 特開平6−266867号公報 特開平6−290286号公報 特開平7−168901号公報 特開2003−108914号公報 特開2003−223790号公報 特開2004−193312号公報 特開2005−50424号公報
しかしながら、特許文献1に記載された人工神経回路は、単に、複数のシナプス回路からの入力が所定値を超えた場合に活性化する(興奮する)だけであり、実際の神経回路の働きとは大きく相違している。つまり、実際の神経回路では、シナプスからの入力履歴によって、興奮しやすい状態や興奮しにくい状態など様々な状態が形成されるが、特許文献1に記載された人工神経回路では、このような入力履歴に応じた動作を行うことができないという問題があった。
本発明は、このような問題を解決すべくなされたものであって、実際の神経回路により近い動作を行うことが可能な人工神経回路を提供することを目的とする。
本発明による人工神経回路は、入力信号の入力履歴を記憶する学習回路部と、前記学習回路部に接続された出力回路部とを備え、前記学習回路部は、前記入力履歴に応じて前記出力回路部に含まれる内部ノードの電位変動特性を変化させ、前記出力回路部は、前記内部ノードの電位がしきい値を超えた場合に出力動作を開始することを特徴とする。本発明によれば、入力信号の入力履歴に応じた出力動作、例えば発振動作などが行われることから、実際の神経回路により近い動作を行うことが可能となる。
本発明において、学習回路部は、内部ノードと所定の電源電位との間に接続された可変抵抗素子を含んでいることが好ましく、この場合、可変抵抗素子は、カルコゲナイド材料を含む相変化材料によって構成されていることが好ましい。カルコゲナイド材料を含む可変抵抗素子は、書き込みに必要な電流量が小さく、且つ、書き込み速度も非常に高速であることから、このような材料を用いて可変抵抗素子を構成し、これによって入力信号の入力履歴を記憶させれば、高速且つ低消費電力な人工神経回路を構成することが可能となる。
本発明による人工神経回路は、学習回路部の入力履歴をリセットするリセット回路部をさらに備えることが好ましく、この場合、リセット回路部は、可変抵抗素子にリセット電流を供給するためのリセット用スイッチと、学習回路部と出力回路部を切断するための切断用スイッチとを含んでいることが好ましい。これによれば、簡単に初期状態に復帰させることが可能となる。
このように、本発明によれば、実際の神経回路により近い動作を行うことが可能な人工神経回路を提供することが可能となる。
本発明の好ましい実施形態による人工神経回路について具体的に説明する前に、本発明による人工神経回路の基本構成について説明する。
図1は、本発明による人工神経回路の基本構成を示すブロック図である。
図1に示すように、本発明による人工神経回路は、入力信号Inを受ける学習回路部10と、学習回路部10に接続された出力回路部20によって構成されている。学習回路部10は、入力信号Inの入力履歴を記憶する回路であり、入力信号Inの入力履歴に応じて出力回路部20の入力端である内部ノードAの電位変動特性を変化させる。一方、出力回路部20は、内部ノードAの電位がしきい値を超えた場合に活性化、すなわち興奮し、本例では発振動作を開始する。したがって、出力回路部20が活性状態(興奮状態)である場合には、出力信号Outはパルス状となり、非活性状態(興奮していない状態)である場合には、出力信号Outは所定のレベルに保持される。
学習回路部10は、入力信号Inが活性化すると内部ノードAの電位を変化させるとともに、その入力履歴を記憶する。そして、この入力履歴に応じて、入力信号Inの活性化に応答した内部ノードAの電位変化速度を変化させる。つまり、内部ノードAの電位変化速度は、入力信号Inの積分量に応じて変化する。したがって、例えば、入力信号Inの積分量に応じて内部ノードAの電位変化速度を高めれば、出力回路部20はより短期間で活性状態となる。このようにして、学習回路部10は、入力履歴に応じた学習を行う。
図2は、リセット機能付きの人工神経回路の基本構成を示すブロック図である。
図2に示すように、リセット機能付きの人工神経回路は、図1に示した基本構成にリセット回路部30を追加した構成を有している。リセット回路部30は、リセット信号Resetを受ける回路であり、これが活性化すると、学習回路部10が記憶している入力履歴をリセットする。実際の神経回路にはこのような働きはないが、人工的に神経回路を構成する場合には、このようなリセット機能を持たせることが非常に好ましい。
以上が、本発明による人工神経回路の基本構成である。次に、本発明の好ましい実施形態による人工神経回路について具体的に説明する。
図3は、本発明の好ましい実施形態による人工神経回路の構成を示す回路図である。
図3に示すように、本実施形態による人工神経回路は、学習回路部10、出力回路部20及びリセット回路部30によって構成されており、図2に示した基本構成を具体化した回路である。
学習回路部10は、出力回路部20に含まれる内部ノードAとグランド電位GNDとの間に直列接続された可変抵抗素子11及び入力スイッチ12によって構成されている。可変抵抗素子11は、カルコゲナイド材料を含む相変化材料によって構成されている。カルコゲナイド材料とは、元素の周期律表で酸素の下の元素、すなわち硫黄(S)、セレン(Se)、テルル(Te)の化合物を指し、一例として、テルル(Te)とゲルマニウム(Ge)及び/又はアンチモン(Sb)との化合物などを好ましく挙げることができる。カルコゲナイド材料を含む相変化材料は、アモルファス相(非晶質相)及び結晶相のいずれかの相状態をとることができ、アモルファス相では相対的に高抵抗状態、結晶相では相対的に低抵抗状態となる。このような相変化を利用した半導体デバイスとしては、特許文献7,8に記載された相変化デバイスが知られている。
図4は、カルコゲナイド材料を含む相変化材料の相状態を制御する方法を説明するためのグラフである。
まず、カルコゲナイド材料を含む相変化材料をアモルファス状態とするためには、図4の曲線aに示すように、融点Tm以上の温度に一旦加熱した後、冷却すればよい。一方、カルコゲナイド材料を含む相変化材料を結晶状態とするためには、図4の曲線b1〜b3に示すように、融点Tm未満、結晶化温度Tx以上の温度に一旦加熱した後、冷却すればよい。通常、カルコゲナイド材料を用いた相変化デバイスは、アモルファス相と結晶相との抵抗値の違いを利用して、1ビットのデータを記憶するのであるが、融点Tm未満、結晶化温度Tx以上の温度に保持する時間を調節することによって、結晶化される割合を多段階又はリニアに制御することが可能である。つまり、図4に示す曲線b3のように、融点Tm未満、結晶化温度Tx以上の温度に保持する時間を十分に長くとれば、素子全体を結晶状態とすることができるが、図4に示す曲線b1やb2のように、融点Tm未満、結晶化温度Tx以上の温度に保持する時間をより短くすれば、素子の一部分のみを結晶状態とし、残りの部分をアモルファス状態のままとすることができる。このようにしてアモルファス相と結晶相との混合割合を多段階又はリニアに制御すれば、素子の抵抗値をアナログ的に変化させることが可能となる。
このような可変抵抗素子11の抵抗値を変化させるためには、可変抵抗素子11に直列接続された入力スイッチ12に流れる電流量を制御すればよい。電流量の制御は、オン時間の制御やオン抵抗の制御によって行うことができる。図3に示すように、本実施形態では入力スイッチ12がNチャンネル型のMOSトランジスタによって構成されており、そのゲート電極には入力信号Inが供給されている。したがって、入力信号Inが入力スイッチ12のしきい値を超えれば、可変抵抗素子11に電流が流れることになる。また、オン状態における入力信号Inのレベルを調整することにより、単位時間当たり可変抵抗素子11に流れる電流量を調整することもできる。
一方、出力回路部20は、内部ノードAと出力ノードCとの間に直列接続されたインバータ21〜23と、電源電位Vddと内部ノードAとの間に並列接続されたPチャンネル型MOSトランジスタ24及びコンデンサ25と、内部ノードAとインバータ21の入力端との間に接続された抵抗26と、インバータ21の入力端とインバータ22の出力端(内部ノードB)との間に接続された抵抗27と、出力ノードCとグランド電位GNDとの間に接続されたコンデンサ28とを備えて構成されている。
図3に示すように、内部ノードBは、Pチャンネル型MOSトランジスタ24のゲート電極に接続されている。このため、コンデンサ25の放電により内部ノードAの電位が低下し、これがインバータ21のしきい値を超えると、内部ノードBはローレベルとなり、Pチャンネル型MOSトランジスタ24がオンする。本例では、Pチャンネル型MOSトランジスタ24の電流駆動能力が、学習回路部10に含まれる入力スイッチ12の電流駆動能力よりも大きく設定されており、このため、Pチャンネル型MOSトランジスタ24がオンすると内部ノードAの電位は上昇し、コンデンサ25は再び充電される。その後、内部ノードBがハイレベルとなることにより、Pチャンネル型MOSトランジスタ24はオフする。したがって、学習回路部10に含まれる入力スイッチ12がオンしている場合、コンデンサ25は放電と充電を繰り返すことになり、したがって、出力ノードCからの出力信号Outはパルス状となる。一方、学習回路部10に含まれる入力スイッチ12がオフしている場合には、コンデンサ25を放電するルートが存在しないことから、出力信号Outはローレベルに維持される。
また、リセット回路部30は、電源電位Vppと可変抵抗素子11との間に接続されたリセット用スイッチ31と、内部ノードAと可変抵抗素子11との間に接続された切断用スイッチ32とを備えている。リセット用スイッチ31はPチャンネル型MOSトランジスタによって構成され、切断用スイッチ32はNチャンネル型MOSトランジスタによって構成されており、これらのゲート電極にはリセット信号Resetが共通に供給されている。したがって、リセット信号Resetがハイレベルである場合には、リセット用スイッチ31はオフ、切断用スイッチ32はオンとなることから、学習回路部10は出力回路部20に接続された状態となる。逆に、リセット信号Resetがローレベルである場合には、リセット用スイッチ31はオン、切断用スイッチ32はオフとなることから、学習回路部10は出力回路部20から切り離されるとともに、可変抵抗素子11には、電源電位Vppからのリセット電流を供給可能な状態となる。電源電位Vppは、出力回路部20に供給される電源電位Vddよりも高電位であり、電源電位Vppからのリセット電流が可変抵抗素子11を流れると、可変抵抗素子11を構成するカルコゲナイド材料の温度が融点Tmを超え、その結果、カルコゲナイド材料をアモルファス化することが可能となる。
以上が、本実施形態による人工神経回路の回路構成である。次に、本実施形態による人工神経回路の動作について説明する。
図5〜図7は、本実施形態による人工神経回路の動作を説明するためのタイミング図である。
まず、図5に示すように、時刻t10〜時刻t11の間においてリセット信号Resetをローレベルとし、入力信号Inをハイレベルとすると、図3に示したリセット用スイッチ31及び入力スイッチ12がいずれもオン状態となることから、電源電位Vppとグランド電位GNDとの間に電流パスが形成されることになる。これにより、可変抵抗素子11にはリセット電流が流れる。リセット電流は相対的に大電流であり、このため、リセット電流が流れると、可変抵抗素子11を構成するカルコゲナイド材料の温度は融点Tmを超える。その後、リセット信号Resetがハイレベルとなり、リセット電流の供給が停止すると、可変抵抗素子11を構成するカルコゲナイド材料は冷却され、その結果、全体がアモルファス化する。上述の通り、アモルファス状態におけるカルコゲナイド材料は高抵抗の状態である。以上により、可変抵抗素子11のリセットが完了する。
尚、上記リセット動作を行っている間は、切断用スイッチ32はオフ状態に保たれることから、リセット電流は出力回路部20に何らの影響も及ぼさない。この間、内部ノードA,Bは、ハイレベルの状態で安定している。したがって、出力信号Outはローレベルに維持される。
このようなリセット動作が完了した後、時刻t12〜時刻t13の間において再び入力信号Inをハイレベルとすると、コンデンサ25に充電されている電荷が、切断用スイッチ32、可変抵抗素子11及び入力スイッチ12を介してグランド電位GNDへと放電されるため、内部ノードAの電位は低下する。しかしながら、リセット直後の状態においては、可変抵抗素子11はアモルファス状態であり、高抵抗となっていることから、コンデンサ25及び可変抵抗素子11からなる時定数回路の時定数が大きく、その結果、内部ノードAの電位低下速度はゆっくりしたものとなる。このため、内部ノードAの電位は、入力信号Inがローレベルに戻る時刻t13までにインバータ21のしきい値Xを超えることができず、したがって出力信号Outはローレベルのまま変化しない。
このことは、リセット直後の状態では、時刻t12〜時刻t13までのパルス幅をもった入力信号Inが入力されても出力回路部20は活性化しない、つまり、興奮しないことを意味する。そして、時刻t13になると、入力スイッチ12がオフになることから、インバータ22によってハイレベルに駆動されている内部ノードBから抵抗27,26を介してコンデンサ25が充電され、内部ノードAの電位は再び上昇する。
一方、時刻t12〜時刻t13までの期間において可変抵抗素子11に所定の電流が流れたため、これによる発熱によって、可変抵抗素子11を構成するカルコゲナイド材料の温度が融点Tm未満、結晶化温度Tx以上の温度に加熱される。したがって、可変抵抗素子11を構成するカルコゲナイド材料はその一部分が結晶化し、その結果、抵抗値はリセット直後の状態よりもやや低抵抗化する。
このように、リセット直後の状態のように入力履歴ない状態、すなわち未学習状態では、入力信号Inに対して出力回路部20の感度は低く、したがって、図5に示すように、入力信号Inの活性化(ハイレベル状態)に対して出力信号Outが全く変化しないことがある。
次に、図6に示すように、時刻t20〜時刻t22の間において再び入力信号Inをハイレベルとすると、可変抵抗素子11を流れる電流によって再び内部ノードAの電位は低下する。このとき、図5に示す時刻t12〜時刻t13までの入力パルスによって、多少の入力履歴がある状態、つまり、低学習状態であり、未学習状態よりも可変抵抗素子11の抵抗値が若干低下していることから、コンデンサ25及び可変抵抗素子11からなる時定数回路の時定数は若干低下している。その結果、内部ノードAの電位変動特性が変化し、電位低下速度が未学習状態よりも速くなる。
このため、内部ノードAの電位は、時刻t21においてインバータ21のしきい値Xを超え、これにより出力信号Outはハイレベルに変化する。このとき、内部ノードBはローレベルであり、これによってPチャンネル型MOSトランジスタ24がオンすることから、内部ノードAの電位はすぐに上昇する。このため、出力信号Outがハイレベルを維持する時間は非常に短く、パルス状となる。このように、低学習状態では、入力信号Inに対する出力回路部20の感度がやや高くなっていることから、時刻t20〜時刻t22までのパルス幅をもった入力信号Inが入力された場合、出力回路部20は少数のパルスを発生することになる。つまり、短期間だけ活性化し、発振動作を行うことになる。
この場合も、時刻t20〜時刻t22までの期間において可変抵抗素子11に所定の電流が流れたため、可変抵抗素子11を構成するカルコゲナイド材料の結晶化部分が拡大し、その結果、抵抗値はさらに低くなる。このため、時刻t23〜時刻t25の間において再び入力信号Inをハイレベルとすると、内部ノードAの電位はさらに速く低下し、出力回路部20はより多くのパルスを発生することになる。図6に示す例では、時刻t24においてインバータ21のしきい値Xを超えており、時刻t20〜時刻t21の期間T1よりも、時刻t23〜時刻t24の期間T2の方が短くなっている。このように、入力信号Inの入力履歴が多くなると学習が進行し、入力信号Inに対する出力回路部20の感度は徐々に上昇する。
さらに、図7に示すように、時刻t30〜時刻t32の間において再び入力信号Inをハイレベルとすると、上述したいくつかの入力パルスによって高学習状態となっていることから、コンデンサ25及び可変抵抗素子11からなる時定数回路の時定数はさらに小さくなっている。その結果、内部ノードAの電位低下速度は、低学習状態よりもさらに速くなる。
このため、内部ノードAの電位は、時刻t30から期間T3(<期間T2)が経過した時刻t31においてインバータ21のしきい値Xを超え、これにより出力信号Outはパルス状となる。このように、高学習状態では、入力信号Inに対する出力回路部20の感度が高くなっていることから、時刻t30〜時刻t32までのパルス幅をもった入力信号Inが入力された場合、出力回路部20は多数のパルスを発生することになる。つまり、長時間発振動作を行うことになる。
この場合も、時刻t30〜時刻t32までの期間において可変抵抗素子11に所定の電流が流れたため、可変抵抗素子11を構成するカルコゲナイド材料の結晶化部分がさらに拡大し、その結果、抵抗値はよりいっそう低くなる。このため、時刻t33〜時刻t35の間において再び入力信号Inをハイレベルとすると、内部ノードAの電位はさらに速く低下し、出力回路部20はより多くのパルスを発生することになる。図7に示す例では、時刻t34においてインバータ21のしきい値Xを超えており、時刻t30〜時刻t31の期間T3よりも、時刻t33〜時刻t34の期間T4の方がさらに短くなっている。
このように、本実施形態による人工神経回路は、入力履歴に応じて学習が進行し、学習が進むほど、入力信号Inに対する出力回路部20の感度が高くなる。このような機能は、実際の神経回路の働きと良く類似しており、実際の神経回路により近い動作を行うことが可能となる。したがって、このような人工神経回路を多数形成し、これらを網目状に接続すれば、実際の神経回路を模したコンピュータや人工知能などを実現することが可能となる。
そして、入力履歴を消去する場合には、図5に示すように、リセット信号Resetをローレベルに活性化し、可変抵抗素子11にリセット電流を流すことによって、可変抵抗素子11を構成するカルコゲナイド材料を再びアモルファス化すればよい。
尚、活性化時における入力信号Inのレベルは一定であっても構わないし、変化させても構わない。図8(a)に示すように、活性化時における入力信号Inのレベルを一定とすれば、入力信号Inの活性化時間がそのまま入力信号Inの積分量となり、したがって、入力信号Inの活性化時間に比例して学習が進行することになる。一方、図8(b)に示すように、活性化時における入力信号Inのレベルを可変とすれば、入力信号Inのレベルと活性化時間の積が入力信号Inの積分量となる。したがって、この場合は、入力信号Inのレベルと活性化時間の積に比例して学習が進行することになる。
また、上記の例では、出力回路部20が活性化した場合に発振動作を開始させているが、出力回路部20が活性化した場合の出力動作としてはこれに限らず、例えば、出力信号Outの論理レベルを反転させても構わない。このような動作は、Pチャンネル型MOSトランジスタ24の電流駆動能力を、学習回路部10に含まれる入力スイッチ12の電流駆動能力よりも小さく設定することにより実現することができる。
つまり、Pチャンネル型MOSトランジスタ24の電流駆動能力が入力スイッチ12の電流駆動能力よりも小さい場合、図9に示すように、低学習状態にある学習回路部10に対して入力信号Inをハイレベルとすると、内部ノードAの電位は、時刻t41においてインバータ21のしきい値Xを超え、これにより出力信号Outはハイレベルに変化する。このとき、内部ノードBはローレベルであり、これによってPチャンネル型MOSトランジスタ24がオンするが、Pチャンネル型MOSトランジスタ24の電流駆動能力が相対的に弱いため、内部ノードAの電位は上昇せず、しきい値Xを超えたレベルを保持するにとどまる。したがって、時刻t42において入力信号Inがローレベルに戻るまで、出力信号Outはハイレベルを保持し続ける。しかしながら、低学習状態においては、活性化するまでの期間が長いことから、出力信号Outがハイレベルを維持する期間T5はその分短くなっている。
この場合、時刻t40〜時刻t42までの期間において可変抵抗素子11に所定の電流が流れたため、可変抵抗素子11を構成するカルコゲナイド材料の結晶化部分が拡大し、その結果、抵抗値はさらに低くなる。このため、時刻t43〜時刻t45の間において再び入力信号Inをハイレベルとすると、内部ノードAの電位はさらに速く低下し、出力回路部20はより長期間に亘って出力信号Outをハイレベルに保持することになる。図9に示す例では、時刻t44において内部ノードAの電位がインバータ21のしきい値Xを超えた結果、時刻t44〜時刻t45までの期間T6(>T5)に亘って、出力信号Outがハイレベルに保持されている。
高学習状態になると、さらに内部ノードAの電位低下速度が速くなるため、図10に示すように、時刻t50〜時刻t52の間において再び入力信号Inをハイレベルとすると、時刻t51において内部ノードAの電位がインバータ21のしきい値Xを超え、その結果、時刻t51〜時刻t52までの期間T7(>T6)に亘って、出力信号Outがハイレベルに保持される。さらに、学習が進んだ時刻t53〜時刻t55の間において再び入力信号Inをハイレベルとすると、時刻t54において内部ノードAの電位がインバータ21のしきい値Xを超え、その結果、時刻t54〜時刻t55までの期間T8(>T7)に亘って、出力信号Outがハイレベルに保持されることになる。
このように、出力回路部20が活性化した場合の出力動作としては、発振動作だけでなく、出力信号Outの論理レベルを反転させる動作とすることも可能である。このような動作を行えば、学習が進行するに連れて、入力信号Inに対する出力信号Outの遅延が少なくなり、より入力信号Inに近い波形を得ることが可能となる。また、発振動作を行う場合には、発振による自己プログラムがなされるのに対し、上記の例では、入力パルスの印可時間に応じたプログラムがなされるという違いも存在する。
以上、本発明の好ましい実施形態について説明したが、本発明は、上記の実施形態に限定されることなく、本発明の主旨を逸脱しない範囲で種々の変更が可能であり、それらも本発明の範囲内に包含されるものであることはいうまでもない。
例えば、上記実施形態では、カルコゲナイド材料を含む相変化材料によって可変抵抗素子を構成しているが、可変抵抗素子がこれに限定されるものではなく、アナログ量を記憶可能な他の素子、例えばEEPROMを用いても構わない。この場合、EEPROMのフローティングゲートに注入する電荷量を多段階又はリニアに制御することによって、アナログ量を記憶させることができる。但し、カルコゲナイド材料を含む可変抵抗素子は、書き込み(結晶化の進行)に必要な電流量が例えば1mA以下と小さく、しかも、書き込み速度も50ns以下と非常に高速であることから、上記実施形態のように、カルコゲナイド材料を含む相変化材料によって可変抵抗素子を構成することが非常に好ましい。
また、上記実施形態では、内部ノードAとグランド電位GNDとの間に、学習回路部10を構成する可変抵抗素子11及び入力スイッチ12をこの順に接続しているが、これらの接続順序は逆であっても構わない。さらに、学習回路部10をグランド電位GNDではなく電源電位Vddに接続し、出力回路部20に含まれるコンデンサ25を電源電位Vddではなくグランド電位GNDに接続しても構わない。この場合、入力履歴に応じて、コンデンサ25の充電速度が変化することになる。尚、出力回路部20の構成については、内部ノードの電位がしきい値を超えた場合に発振動作を開始する限り、上記実施形態とは異なる回路構成を有していても構わない。
本発明による人工神経回路の基本構成を示すブロック図である。 リセット機能付きの人工神経回路の基本構成を示すブロック図である。 本発明の好ましい実施形態による人工神経回路の構成を示す回路図である。 カルコゲナイド材料を含む相変化材料の相状態を制御する方法を説明するためのグラフである。 本発明の好ましい実施形態による人工神経回路の動作を説明するためのタイミング図であり、未学習状態における動作を示している。 本発明の好ましい実施形態による人工神経回路の動作を説明するためのタイミング図であり、低学習状態における動作を示している。 本発明の好ましい実施形態による人工神経回路の動作を説明するためのタイミング図であり、高学習状態における動作を示している。 入力信号Inの模式的な波形図であり、(a)は活性化時における入力信号Inのレベルを一定とした場合、(b)は活性化時における入力信号Inのレベルを可変とした場合を示している。 本発明の好ましい実施形態による人工神経回路の動作を説明するための別のタイミング図であり、低学習状態における動作を示している。 本発明の好ましい実施形態による人工神経回路の動作を説明するための別のタイミング図であり、高学習状態における動作を示している。
符号の説明
10 学習回路部
11 可変抵抗素子
12 入力スイッチ
20 出力回路部
21〜23 インバータ
24 トランジスタ
25,28 コンデンサ
27,26 抵抗
30 リセット回路部
31 リセット用スイッチ
32 切断用スイッチ
A,B 内部ノード
C 出力ノード

Claims (18)

  1. 入力信号の入力履歴を記憶する学習回路部と、前記学習回路部に接続された出力回路部とを備え、前記学習回路部は、前記入力履歴に応じて前記出力回路部に含まれる内部ノードの電位変動特性を変化させ、前記出力回路部は、前記内部ノードの電位がしきい値を超えた場合に出力動作を開始することを特徴とする人工神経回路。
  2. 前記学習回路部は、前記入力信号が活性化したことに応答して前記内部ノードの電位を変化させることを特徴とする請求項1に記載の人工神経回路。
  3. 前記学習回路部は、前記入力履歴に応じて、前記入力信号の活性化に応答した前記内部ノードの電位変化速度を変化させることを特徴とする請求項2に記載の人工神経回路。
  4. 前記学習回路部は、前記内部ノードと所定の電源電位との間に接続された可変抵抗素子を含んでいることを特徴とする請求項1乃至3のいずれか1項に記載の人工神経回路。
  5. 前記可変抵抗素子は、カルコゲナイド材料を含む相変化材料によって構成されていることを特徴とする請求項4に記載の人工神経回路。
  6. 前記学習回路部は、前記可変抵抗素子に対して直列接続された入力スイッチをさらに含み、前記入力スイッチの制御端子には前記入力信号が供給されることを特徴とする請求項5に記載の人工神経回路。
  7. 前記学習回路部の前記入力履歴をリセットするリセット回路部をさらに備えることを特徴とする請求項4乃至6のいずれか1項に記載の人工神経回路。
  8. 前記リセット回路部は、前記可変抵抗素子にリセット電流を供給するためのリセット用スイッチと、前記学習回路部と前記出力回路部を切断するための切断用スイッチとを含んでいることを特徴とする請求項7に記載の人工神経回路。
  9. 前記出力回路部は、前記内部ノードの電位がしきい値を超えた場合に、発振動作を開始することを特徴とする請求項1乃至8のいずれか1項に記載の人工神経回路。
  10. 前記出力回路部は、前記内部ノードの電位がしきい値を超えた場合に、出力信号の論理レベルを反転させることを特徴とする請求項1乃至8のいずれか1項に記載の人工神経回路。
  11. 内部ノードの電位がしきい値を超えた場合に出力動作を開始する人工神経回路であって、前記内部ノードと第1の電源電位との間に直列に接続された可変抵抗素子及び入力スイッチと、前記内部ノードと第2の電源電位との間に接続された容量素子とを備えることを特徴とする人工神経回路。
  12. 前記可変抵抗素子は、カルコゲナイド材料を含む相変化材料によって構成されていることを特徴とする請求項11に記載の人工神経回路。
  13. 第3の電源電位と前記可変抵抗素子との間に接続されたリセット用スイッチと、前記内部ノードと前記可変抵抗素子との間に接続された切断用スイッチとをさらに備えることを特徴とする請求項11又は12のいずれか1項に記載の人工神経回路。
  14. 前記リセット用スイッチと前記切断用スイッチは、相補的に導通状態となることを特徴とする請求項13に記載の人工神経回路。
  15. コンデンサと、入力信号の積分量に応じて前記コンデンサからの放電速度又は前記コンデンサへの充電速度が変化する学習回路部と、前記コンデンサの電圧がしきい値を超えた場合に活性化される手段とを備えることを特徴とする人工神経回路。
  16. 前記学習回路部は、抵抗値が前記入力信号の積分量に応じた値をとる可変抵抗素子を含むことを特徴とする請求項15に記載の人工神経回路。
  17. 前記手段が活性化されると、前記入力信号が非活性化されるまで発振動作をおこなうことを特徴とする請求項15又は16に記載の人工神経回路。
  18. 前記手段が活性化されると、前記入力信号が非活性化されるまで出力信号を反転させることを特徴とする請求項15又は16に記載の人工神経回路。
JP2005184353A 2005-06-24 2005-06-24 人工神経回路 Expired - Fee Related JP4728055B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2005184353A JP4728055B2 (ja) 2005-06-24 2005-06-24 人工神経回路
US11/473,127 US7548894B2 (en) 2005-06-24 2006-06-23 Artificial neural network

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005184353A JP4728055B2 (ja) 2005-06-24 2005-06-24 人工神経回路

Publications (2)

Publication Number Publication Date
JP2007004514A true JP2007004514A (ja) 2007-01-11
JP4728055B2 JP4728055B2 (ja) 2011-07-20

Family

ID=37568776

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005184353A Expired - Fee Related JP4728055B2 (ja) 2005-06-24 2005-06-24 人工神経回路

Country Status (2)

Country Link
US (1) US7548894B2 (ja)
JP (1) JP4728055B2 (ja)

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2008152908A1 (ja) * 2007-06-14 2008-12-18 Sony Corporation 抵抗素子、ニューロン素子、及びニューラルネットワーク情報処理装置
JP2009282782A (ja) * 2008-05-22 2009-12-03 Sharp Corp 抵抗変化型可変抵抗素子を備えた積演算装置、及び積和演算装置、これらの装置を各ニューロン素子に備えるニューラルネットワーク、並びに積演算方法
JP2010146514A (ja) * 2008-12-22 2010-07-01 Sharp Corp 情報処理装置及びこれを用いたニューラルネットワーク回路
JP2012527668A (ja) * 2009-05-21 2012-11-08 インターナショナル・ビジネス・マシーンズ・コーポレーション 相変化メモリを用いたスパイク・タイミング依存可塑性を有する電子学習シナプス
JP2012527669A (ja) * 2009-05-21 2012-11-08 インターナショナル・ビジネス・マシーンズ・コーポレーション メモリ・スイッチング素子を用いたスパイク・タイミング依存可塑性を有する電子学習シナプス
JP2013122760A (ja) * 2011-12-09 2013-06-20 Samsung Electronics Co Ltd スパイクニューロン基盤のワーキングメモリ装置
WO2013108299A1 (ja) * 2012-01-20 2013-07-25 パナソニック株式会社 ニューラルネットワーク回路の学習方法
WO2013111200A1 (ja) * 2012-01-23 2013-08-01 パナソニック株式会社 ニューラルネットワーク回路の学習方法
US9361577B2 (en) 2013-09-09 2016-06-07 Kabushiki Kaisha Toshiba Processing device and computation device
KR101806833B1 (ko) 2015-12-31 2017-12-11 인천대학교 산학협력단 인공 신경망의 희소 활동을 활용하는 동기 직접 회로의 소비 전력 절감 장치 및 방법
US11580374B2 (en) 2016-04-11 2023-02-14 Universite De Lille Artificial neuron

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8031517B2 (en) * 2008-07-30 2011-10-04 Samsung Electronics Co., Ltd. Memory device, memory system having the same, and programming method of a memory cell
US8990132B2 (en) 2010-01-19 2015-03-24 James Ting-Ho Lo Artificial neural networks based on a low-order model of biological neural networks
FR2977077B1 (fr) * 2011-06-27 2013-08-02 Commissariat Energie Atomique Generateur de retards utilisant une resistance programmable a base de materiau a changement de phase
US8903746B2 (en) * 2012-03-22 2014-12-02 Audrey Kudritskiy System and method for viewing, modifying, storing, and running artificial neural network components
JP5659361B1 (ja) 2013-07-04 2015-01-28 パナソニックIpマネジメント株式会社 ニューラルネットワーク回路、およびその学習方法
US10318861B2 (en) 2015-06-17 2019-06-11 International Business Machines Corporation Artificial neuron apparatus
US10949737B2 (en) 2016-07-13 2021-03-16 Samsung Electronics Co., Ltd. Method for neural network and apparatus performing same method
US9852790B1 (en) 2016-10-26 2017-12-26 International Business Machines Corporation Circuit methodology for highly linear and symmetric resistive processing unit

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0589268A (ja) * 1991-09-26 1993-04-09 Hitachi Ltd 神経回路素子
JPH0621531A (ja) * 1992-07-01 1994-01-28 Rohm Co Ltd ニューロ素子
JPH0721139A (ja) * 1993-06-30 1995-01-24 Takayama:Kk 信号統合回路
JP2003163332A (ja) * 2001-06-22 2003-06-06 Matsushita Electric Ind Co Ltd 半導体装置
JP2004133798A (ja) * 2002-10-11 2004-04-30 Honda Motor Co Ltd 神経回路素子および神経回路学習装置

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2595051B2 (ja) * 1988-07-01 1997-03-26 株式会社日立製作所 半導体集積回路
EP0384689B1 (en) * 1989-02-20 1997-12-29 Fujitsu Limited A learning system and learning method for a data processing apparatus
US5247206A (en) * 1992-03-12 1993-09-21 Intel Corporation Neural network accommodating parallel synaptic weight adjustments in a single cycle
JPH06266867A (ja) 1993-03-16 1994-09-22 Hitachi Ltd シナプス回路およびそれを用いたニューロコンピュータ
JPH06290286A (ja) 1993-04-06 1994-10-18 Ricoh Co Ltd シナプス回路
KR970007006B1 (ko) 1993-08-31 1997-05-01 한국전자통신연구원 인공 신경 회로와 패턴 분리 및 인식용 발진 신경 망의 구조
US7277758B2 (en) * 1998-08-05 2007-10-02 Neurovista Corporation Methods and systems for predicting future symptomatology in a patient suffering from a neurological or psychiatric disorder
JP2003108914A (ja) 2001-10-02 2003-04-11 Matsushita Electric Ind Co Ltd シナプス回路及びこれを用いたニューロ回路
JP2003223790A (ja) 2001-11-26 2003-08-08 Eng Kk シナプス素子およびそれを含む集積回路装置
US6889216B2 (en) * 2002-03-12 2005-05-03 Knowm Tech, Llc Physical neural network design incorporating nanotechnology
JP2004193312A (ja) 2002-12-11 2004-07-08 Matsushita Electric Ind Co Ltd 抵抗変化素子を用いたメモリセルとその制御方法
JP2005050424A (ja) 2003-07-28 2005-02-24 Renesas Technology Corp 抵抗値変化型記憶装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0589268A (ja) * 1991-09-26 1993-04-09 Hitachi Ltd 神経回路素子
JPH0621531A (ja) * 1992-07-01 1994-01-28 Rohm Co Ltd ニューロ素子
JPH0721139A (ja) * 1993-06-30 1995-01-24 Takayama:Kk 信号統合回路
JP2003163332A (ja) * 2001-06-22 2003-06-06 Matsushita Electric Ind Co Ltd 半導体装置
JP2004133798A (ja) * 2002-10-11 2004-04-30 Honda Motor Co Ltd 神経回路素子および神経回路学習装置

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008311381A (ja) * 2007-06-14 2008-12-25 Sony Corp 抵抗素子、ニューロン素子、及びニューラルネットワーク情報処理装置
WO2008152908A1 (ja) * 2007-06-14 2008-12-18 Sony Corporation 抵抗素子、ニューロン素子、及びニューラルネットワーク情報処理装置
JP2009282782A (ja) * 2008-05-22 2009-12-03 Sharp Corp 抵抗変化型可変抵抗素子を備えた積演算装置、及び積和演算装置、これらの装置を各ニューロン素子に備えるニューラルネットワーク、並びに積演算方法
JP2010146514A (ja) * 2008-12-22 2010-07-01 Sharp Corp 情報処理装置及びこれを用いたニューラルネットワーク回路
US8682822B2 (en) 2009-05-21 2014-03-25 International Business Machines Corporation Electronic learning synapse with spike-timing dependent plasticity using memory-switching elements
JP2012527668A (ja) * 2009-05-21 2012-11-08 インターナショナル・ビジネス・マシーンズ・コーポレーション 相変化メモリを用いたスパイク・タイミング依存可塑性を有する電子学習シナプス
JP2012527669A (ja) * 2009-05-21 2012-11-08 インターナショナル・ビジネス・マシーンズ・コーポレーション メモリ・スイッチング素子を用いたスパイク・タイミング依存可塑性を有する電子学習シナプス
JP2013122760A (ja) * 2011-12-09 2013-06-20 Samsung Electronics Co Ltd スパイクニューロン基盤のワーキングメモリ装置
JP5289646B1 (ja) * 2012-01-20 2013-09-11 パナソニック株式会社 ニューラルネットワーク回路の学習方法
WO2013108299A1 (ja) * 2012-01-20 2013-07-25 パナソニック株式会社 ニューラルネットワーク回路の学習方法
WO2013111200A1 (ja) * 2012-01-23 2013-08-01 パナソニック株式会社 ニューラルネットワーク回路の学習方法
JP5289647B1 (ja) * 2012-01-23 2013-09-11 パナソニック株式会社 ニューラルネットワーク回路の学習方法
US9361577B2 (en) 2013-09-09 2016-06-07 Kabushiki Kaisha Toshiba Processing device and computation device
KR101806833B1 (ko) 2015-12-31 2017-12-11 인천대학교 산학협력단 인공 신경망의 희소 활동을 활용하는 동기 직접 회로의 소비 전력 절감 장치 및 방법
US11580374B2 (en) 2016-04-11 2023-02-14 Universite De Lille Artificial neuron

Also Published As

Publication number Publication date
JP4728055B2 (ja) 2011-07-20
US20060294034A1 (en) 2006-12-28
US7548894B2 (en) 2009-06-16

Similar Documents

Publication Publication Date Title
JP4728055B2 (ja) 人工神経回路
Kim et al. NVM neuromorphic core with 64k-cell (256-by-256) phase change memory synaptic array with on-chip neuron circuits for continuous in-situ learning
JP6829260B2 (ja) 人工ニューロン装置およびニューロモーフィック・システム
Ambrogio et al. Unsupervised learning by spike timing dependent plasticity in phase change memory (PCM) synapses
US11017292B2 (en) Artificial neuron apparatus
JP7336819B2 (ja) 抵抗処理ユニット・アレイのクロスポイント・デバイスに重みを記憶するための方法、そのクロスポイント・デバイス、ニューラル・ネットワークを実施するためのクロスポイント・アレイ、そのシステム、およびニューラル・ネットワークを実施するための方法
KR100773095B1 (ko) 상 변화 메모리 장치 및 그것의 프로그램 방법
US7082051B2 (en) Method and driver for programming phase change memory cell
US20080016271A1 (en) Semiconductor memory device
US20100149859A1 (en) Phase-change memory device
US11861483B2 (en) Spike neural network circuit including comparator operated by conditional bias current
US8243505B2 (en) Phase change memory device having write driving control signal corresponding to set/reset write time
KR101218605B1 (ko) 반도체 메모리 장치
JP2010123209A (ja) メモリ装置及びその書き込み方法
KR101201840B1 (ko) 반도체 메모리 장치
KR101153813B1 (ko) 반도체 메모리 장치
JP2003281885A (ja) 強誘電体記憶装置
JP2011233220A (ja) 半導体メモリ装置及びプログラミング電流パルス生成方法
US8134858B2 (en) Semiconductor device for supplying stable voltage to control electrode of transistor
KR101001146B1 (ko) 상변화 메모리 장치
US8027189B2 (en) Nonvolatile memory device
US20230385616A1 (en) Spike neural network circuit and method of operation thereof
WO2023084916A1 (ja) 半導体回路、駆動方法、および電子機器
US20220101141A1 (en) Neural network devices based on phase change material
JP2020047349A (ja) 記憶装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070305

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100622

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100813

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110412

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110414

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140422

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees